앤트로픽, 'AI모욕' 이용자 차단…"지속 학대시 대화 종료"

앞으로 인공지능(AI) 업체 앤트로픽의 생성형 AI 클로드를 상대로 지속적으로 욕설을 하거나 불필요하게 모욕할 경우 사용이 차단될 수 있습니다.

현지시간 9일 BBC에 따르면 앤트로픽은 전날 이용 정책을 개정해 사용자가 AI에 '모욕적이거나 잔인한 행동'을 할 경우 대화를 종료할 수 있도록 했습니다.

앤트로픽은 반복적이고 극단적인 사례에만 새로운 정책을 적용하겠다고 설명했습니다.

사용자의 일반적인 불만이나 반발, 모델 테스트와 연구 등에는 적용하지 않겠다는 설명입니다.

다만 앤트로픽은 어떤 행동을 AI에 대한 모욕적이거나 잔인한 행동으로 판단할지는 구체적으로 밝히지 않았습니다.

현재 앤트로픽의 금지행위 목록에는 타인 괴롭힘, 자해 조장, 비동의 성적 이미지 제작 등이 규정돼 있습니다.

앤트로픽의 이용 정책 개정을 두고 소셜미디어에서는 AI를 어느 정도까지 인간처럼 대해야 하는지를 놓고 논란이 일었습니다.

일부 이용자는 올바른 매너를 장려하기 위한 행위라고 평가했지만, 일각에선 AI의 과도한 의인화에 대한 비판도 제기됐습니다.

아일랜드 로펌 윌리엄 프라이의 배리 스캐널 박사는 "이 정도의 AI 의인화는 해롭다"며 "AI를 실제와 다른 존재로 오인하게 만들 수 있다"고 말했습니다.

인간이나 동물을 대상으로 한 실제 학대의 의미가 희석될 수 있다는 비판도 제기됐습니다.

이와 함께 생성형 AI와 대화할 때 '부탁합니다'나 '감사합니다' 등의 예의 바른 표현이 필요한지를 놓고도 논쟁이 이어지고 있습니다.

일부 전문가들은 이런 표현이 AI의 응답 처리에 사용되는 토큰을 불필요하게 소모한다고 지적합니다.

반면 예의 바른 표현이 더 나은 답변을 끌어낼 수 있다는 반론도 있습니다.

지난해 샘 올트먼 오픈AI 최고경영자(CEO)는 한 이용자가 챗GPT가 이용자들의 '부탁합니다'와 '감사합니다'에 답하는 데 드는 전력 비용을 묻자 "수천만 달러가 들지만 잘 쓴 돈"이라고 답하기도 했습니다.

앤트로픽은 이와 함께 이용 정책 개정 과정에서 유권자를 속이고 선거를 방해하는 데 클로드를 사용하는 것도 금지한다고 명문화했습니다.

(사진=AP, 연합뉴스)