오픈AI, 미국서 챗봇 약물 복용 조언 피소

지난해 약물 복용으로 사망한 한 젊은 미국 남성의 부모가 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다고 로이터 통신이 현지시간 12일 보도했습니다.

부모는 챗GPT가 위험한 약물들을 복용하도록 잘못된 조언을 줬다고 주장했다고 로이터는 캘리포니아 법원에 제출된 소장을 인용해 보도했습니다.

소장에 따르면 샘 넬슨(19세)은 마약성 진통제 오피오이드와 유사한 효과를 지닌 허브 제품으로 생긴 메스꺼움을 치료하기 위해 처방약인 'A'를 복용하도록 권하는 조언을 챗봇으로부터 받았습니다.

넬슨이 이 약물과 알코올의 조합으로 인해 지난해 5월 사망에 이르렀다고 부모는 주장했습니다.

넬슨이 처음에 약물 사용에 관한 조언을 구했을 때 챗봇은 도움을 줄 수 없다고 답하고 위험성을 경고했습니다.

하지만 2년 전 회사가 챗GPT-4o를 출시했고, 이 챗봇은 넬슨에게 의사처럼 권위 있는 어조로 약물의 상호작용과 복용량에 대한 정보를 주기 시작했습니다.

넬슨에게 불법 약물을 구하는 방법을 알려주고, 다음에 복용할 약물을 추천했으며, 넬슨이 원하는 경험에 맞춘 제안도 했습니다.

또한 넬슨의 약물 사용 내역을 저장해 더욱 개인화된 추천을 제공했습니다.

오픈AI가 필요한 안전성 테스트를 생략한 채 챗GPT-4o를 서둘러 출시했다고 부모는 주장했습니다.

부모는 금전적 손해배상 요구와 함께 오픈AI가 지난 1월 내놓은 '챗GPT 헬스' 출시 중단을 법원에 요청했습니다.

챗GPT 헬스는 사용자가 자신의 건강 데이터를 업로드하고 조언을 받을 수 있는 서비습니다.

오픈AI 대변인 드류 푸사테리는 이번 사건으로 매우 가슴이 아프다며 해당 사건은 지금은 더는 사용할 수 없는 이전 챗GPT 버전에서 발생했다고 해명했습니다.

그는 "챗GPT는 의료 또는 정신 건강 치료를 대체하는 것이 아니며, 정신 건강 전문가들의 의견을 반영해 민감하고 위급한 상황에 대한 대응 방식을 계속 강화해 왔다"고 덧붙였습니다.

이번 소송은 AI 기업을 상대로 제기된 가장 최근의 잘못된 사망 사건과 관련된 것으로, 플로리다주립대 총격 사건으로 사망한 남성의 가족이 "챗GPT가 범인의 공격계획을 도왔다"고 주장하며 오픈AI를 상대로 소송을 제기한 지 하루 만에 나왔다고 로이터는 보도했습니다.

(사진=AP, 연합뉴스)