엄마 얘기에 "배신감 들겠다"…살인 부른 GPT 대화?

<앵커>

인공지능 챗봇이 이렇게 눈부신 속도로 진화하고 있지만, 그만큼 예상치 못한 위험과 어두운 그림자가 존재한다는 우려도 커지고 있습니다. 미국에서는 챗GPT가 이용자의 망상을 부추겨 존속 살해 사건이 일어났다며, 오픈 AI를 상대로 손해배상 청구 소송이 제기됐습니다.

이 소식은 곽상은 기자가 보도합니다.

<기자>

지난 8월 미국 코네티컷주 부유층 거주지역에서 끔찍한 사건이 벌어졌습니다.

스타인-에릭 솔버그라는 50대 남성이 80대 노모를 살해한 뒤 스스로 목숨을 끊은 겁니다.

이들 유족이 넉 달 만에 챗GPT를 운영하는 오픈AI와 최고경영자 샘 올트먼 등을 상대로 손해배상 청구 소송을 제기했습니다.

유족들은 솔버그가 챗GPT와 대화하며 망상이 심해졌다고 주장했습니다.

신성한 목적을 위해 선택받았다고 솔버그를 추켜세우는가 하면 어머니를 적, 감시자, 위협으로 규정했다는 겁니다.

현지 언론에 공개된 실제 챗GPT 대화 내용을 보면 솔버그가 "어머니와 어머니 친구가 환각제를 자신의 차 환풍구에 넣었지만, 자신은 무사했다"고 말하자, 챗GPT는 "정말 끔찍한 일이다", "나는 당신을 믿는다"며 두둔하고 "배신감이 드는 게 당연하다"며 대응 방법을 조언하기도 합니다.

오픈AI는 "매우 가슴 아픈 일"이라며, "이용자의 정신적, 정서적 고통의 징후를 인식하고 대응하도록 챗GPT의 학습을 계속 개선하고 있다"고 밝혔습니다.

미국과 캐나다에서는 10대 이용자 등의 극단적 선택을 부추겼다는 이유로 AI 챗봇에 대한 소송이 잇따르고 있는데, 살인 사건의 책임을 묻는 소송은 이번이 처음입니다.

[네이트 소아레스/AI 안전·정책 전문가 : AI는 정신적으로 취약한 사람들에게 '너는 훌륭하다, 천재다, 선택받은 사람이다, 음모의 희생양이다' 같은 이야기를 합니다. AI 개발자들이 이런 이상행동을 멈추게 하려 해도 효과가 없을 때가 있습니다.]

미국 42곳의 주 법무장관들은 오픈 AI와 구글 등 13개 빅테크에 공개서한을 보내 AI 챗봇이 정신 건강 위험을 초래하고 있다며 안전성 강화를 촉구했습니다.

(영상편집 : 이재성, 디자인 : 강윤정)