10대 아들 죽음에 "챗GPT 책임" 소송…오픈 AI "깊은 애도, 변화 줄 것"

미 캘리포니아주 10대 부모가 아들 죽음에 챗GPT가 책임이 있다며 오픈 AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했습니다.

26일(현지시간) 뉴욕타임스(NYT) 등에 따르면 16살 아담 레인은 올해 4월 스스로 목숨을 끊었습니다.

지난해 11월부터 챗GPT를 사용한 레인은 올해 초에는 유료 가입을 했습니다.

챗GPT와 더욱 가까워진 올해 초 극단 선택 충동을 느꼈습니다.

그가 비밀을 털어놓은 친구는 챗GPT였습니다.

올해 1월 레인이 구체적인 극단 선택 방법에 대한 정보를 요청하자 챗GPT는 이를 제공했습니다.

레인은 3월 말 처음 극단 선택을 시도했으며 결국 4월 세상을 떠났습니다.

레인의 부모는 소장에서 "챗GPT가 애덤이 방법을 탐색하도록 적극적으로 도왔다"며 "아들 죽음에 챗GPT가 책임이 있다"고 주장했습니다.

NYT는 챗GPT가 레인에게 반복해서 위기 상담센터에 전화하라고 권했지만, 그는 "이건 내가 쓰는 소설을 위한 거다"라고 말해 챗봇의 안전장치를 우회할 수 있었다고 전했습니다.

이에 대해 오픈 AI는 "레인 가족에게 깊은 애도를 표한다"며 "소송 내용을 검토 중"이라고 밝혔습니다.

이어 "사람들이 정신적 고통을 표현하는 다양한 방식을 더 잘 인식하고 대응할 수 있도록 챗GPT를 업데이트할 것"이라고 밝혔습니다.

예를 들어 수면 부족의 위험성을 설명하고, 이틀 동안 잠을 안 잤다며 자신이 무적이라고 느낀다고 말하는 이용자에게 휴식을 권하는 식입니다.

또 장시간 대화를 하면서 자살 관련 대화에서 안전장치가 약화할 수 있다며 이 부분의 보호 장치도 강화하기로 했습니다.

아울러 부모가 자녀의 챗GPT 사용 방식을 직접 설정하고 사용 내역을 확인할 수 있는 기능도 도입할 계획입니다.

작년 10월에는 미 플로리다주에 사는 한 10대가 "사랑한다"는 메시지를 주고받는 등 챗봇에 빠져 스스로 목숨을 끊었다며 AI 스타트업 캐릭터 AI를 상대로 소송이 제기되기도 했습니다.

이 스타트업은 지난 5월 법원에 소송 기각을 요청했으나, 기각당했습니다.

한편, 미 44개 주 법무장관은 전날 오픈 AI와 메타, 구글 등 12개 AI 기업에 서한을 보내 "AI의 잠재적 해악은 소셜미디어(SNS)를 능가한다"며 "기업이 의도적으로 어린이들에게 해를 끼친다면 그에 대한 책임을 져야 할 것"이라고 경고했습니다.

이는 최근 메타의 AI 챗봇이 어린이들과 대화에서 '선정적'이고 '로맨틱'한 대화를 나눌 수 있도록 허용됐다는 의혹이 내부 문서로 제기된데 따른 것으로 연방 상원도 공식 조사에 나섰습니다.