[자막뉴스] "AI로 썼네" 보고서 꼼수 다 걸린다?…'클로드 개발사' 신기술에 "구독 취소!"

앤트로픽이 자사 인공지능 모델 클로드가 처리한 텍스트 콘텐츠에 사람 눈에 보이지 않는 워터마크를 심겠다고 밝히자 일부 이용자들이 구독 취소를 예고하며 강하게 반발하고 나섰습니다.

현지시간 지난 11일 앤트로픽은 앞서 발효된 유럽연합의 인공지능법을 지키기 위해 클로드로 생성하거나 편집한 일부 텍스트 콘텐츠에 워터마크를 삽입하겠다고 밝혔습니다.

문장 자체에 기계로만 식별할 수 있는 워터마크를 녹여냄으로써 다른 곳에 복사해서 붙여 넣거나 내용을 수정하더라도 사라지지 않게 했다고 앤트로픽은 설명했습니다.

워터마크를 식별할 수 있는 프로그램은 엔트로픽측이 추후 별도로 제공할 계획인데, 앞으론 학교 과제나 기업 보고서 등에 클로드가 쓴 문장이 섞여 있는지 기술적으로 확인할 수 있게 되는 겁니다.

앤트로픽은 "워터마크가 발견됐다는 사실이 반드시 클로드가 쓴 글이라는 걸 뜻하진 않는다"며 기술이 완전하지 않다고 덧붙였습니다.

사람이 직접 쓴 글이라도 클로드에게 교정이나 번역, 요약을 맡기면 워터마크가 남을 수 있다는 뜻입니다.

이를 두고 자신이 직접 글을 썼더라도 클로드의 도움을 받았다는 이유로 글 자체가 인공지능 생성물로 분류돼 불이익을 받는 게 아니냐는 우려가 제기됐습니다.

소프트웨어 엔지니어 교육자 존 크리켓은 "저작권을 주장하는 과정에서 인간이 얼마나 더 기여했는지를 입증하는 문제가 복잡해질 수 있다"고 지적했고, 일부 이용자들은 엑스나 레딧 같은 소셜미디어에 "순수한 이용자를 상대로 한 음모"라며 클로드 유료 구독을 취소하겠단 글을 올렸습니다.

프랑스의 한 개발자는 클로드의 워터마크를 제거할 수 있다는 도구를 '깃허브'에 공개하기도 했습니다.

반면 "워터마크에 반발하는 건 인공지능으로 다른 사람을 속이려 했기 때문"이란 반박과 함께 "인공지능이 인공지능으로 만든 콘텐츠를 학습하는 문제를 줄일 수 있을 것"이란 주장도 나왔습니다.

앤트로픽측은 "이용자가 직접 쓴 글을 클로드로 일부분만 수정한 경우나, 인공지능으로 쓴 글을 이용자가 대대적으로 고친 경우엔 워터마크가 감지되지 않을 수 있다"고 해명했습니다.

그러면서 유럽연합의 인공지능법 때문에 다른 기업의 인공지능 모델에도 워터마크가 도입될 것이라고 설명했습니다.

앞서 구글도 디지털 워터마크 '신스ID'를 개발해 인공지능 콘텐츠에 적용했습니다.

 (취재: 김진우 / 영상편집: 나홍희 / 디자인: 이정주 / 제작: 디지털뉴스부)