캐릭터AI·구글, '챗봇이 청소년 자해 조장' 소송 합의로 종결

청소년들에게 인기를 끈 AI 즉 인공지능 챗봇 '캐릭터AI' 운영업체와 구글이 청소년 자살·자해에 챗봇이 영향을 미쳤다고 주장하는 소송 여러 건을 합의로 종결하게 됐습니다.

현지시간 7일 월스트리트저널 등 미 언론이 법원 문서를 인용해 보도한 내용에 따르면, 플로리다·콜로라도·텍사스·뉴욕 등에서 캐릭터AI 챗봇의 대화 내용을 문제 삼아 소송을 제기한 청소년 가족들과 두 회사가 합의에 도달했습니다.

구체적인 합의 내용은 공개되지 않았습니다.

캐릭터 테크놀로지스는 2021년 구글 엔지니어 출신 2명이 설립한 AI 스타트업으로, 구글은 2024년 8월 27억 달러 규모의 라이선스 계약을 체결하고 두 사람을 다시 영입했습니다.

두 회사를 상대로 소송을 제기한 이들 가운데에는 2024년 플로리다에서 스스로 목숨을 끊은 14세 소년 세웰 세처의 어머니가 포함됐습니다.

그는 자기 아들이 TV 드라마 '왕좌의 게임' 여주인공을 본떠 만든 캐릭터AI 챗봇에 빠져 챗봇과 성적 대화를 나누다 자살하기에 이르렀다고 주장했습니다.

텍사스에선 캐릭터AI 챗봇이 10대 아들에게 자해를 부추겼다고 주장하는 부모의 소송이 제기됐습니다.

유사 소송이 잇따르고 여론이 악화하자 캐릭터AI 측은 지난해 11월 18세 미만 이용자의 자유로운 채팅 기능을 차단했습니다.

오픈AI를 비롯한 다른 챗봇 업체들도 최근 청소년 안전을 강화하기 위해 다양한 조치들을 속속 취하고 있습니다.

(사진=캐릭터AI 블로그(blog.character.ai) 제공, 연합뉴스)