▲ 클로드 로고
호주 시드니에서 20대 남성이 보육시설 총기난사 계획에 대해 인공지능(AI) 챗봇 클로드와 대화했다 경찰에 붙잡혔습니다.
현지 매체 시드니모닝헤럴드 등에 따르면 시드니 경찰은 현지시간 18일 오전 데이비드 랜 새크레이라는 이름의 29살 남성을 체포했습니다.
그는 클로드에 자신이 사는 시드니 남부 허스트빌 인근의 보육시설에서 아이들을 총으로 쏘겠다는 계획을 밝힌 혐의를 받고 있습니다.
법원에 제출된 경찰 기록에 따르면 그는 "지금 당장 동네 웨스트필드(쇼핑센터)로 가서 그곳에 있는 보육시설에서 총기를 난사하겠다"고 클로드에 말했습니다.
새크레이는 또 클로드와 대화하면서 지난해 12월 15명의 희생자를 초래한 시드니 유대인 축제 총기난사 사건의 범인 중 한 명인 나비드 아크람도 언급한 것으로 알려졌습니다.
그는 국제형사경찰기구(ICPO·인터폴)가 이런 대화 내용을 포착, 호주 경찰에 알리는 바람에 붙잡혔고, 검찰은 통신 서비스를 이용해 타인을 위협하거나 괴롭히고 불쾌감을 준 혐의로 그를 기소했습니다.
검찰은 "우리는 그가 챗봇과 나눈 대화를 통해 그의 머릿속에 무엇이 들어있는지 파악하고 있다"라며 그가 "시드니에서 사람들을 살해하려 한다"고 강조했습니다.
그가 만약 보석으로 석방됐다가 석방 조건을 위반하면 "재앙적인" 결과가 초래될 수 있다면서 그를 계속 구금해야 한다고 덧붙였습니다.
이에 대해 새크레이의 변호인 측은 새크레이가 귀 감염 질환 치료를 위해 클로드와 대화하다가 스트레스와 좌절감으로 격앙된 상태에서 거친 말을 했을 뿐이며, 그의 말에 실질적인 의도나 무게는 없었다고 주장했습니다.
또 국제관계학 학생인 새크레이에게 범죄 이력이 없고 17년 이상 호주에 살아왔다고 덧붙였습니다.
전날 현지 법원은 정신 건강 평가를 위해 그를 구금했으며, 평가 결과가 나오면 다시 그를 법정에 불러 심리할 예정입니다.
클로드 개발사 앤트로픽에 따르면 클로드의 AI 모델은 폭력을 계획하거나 선동하는 요청을 거부하도록 훈련됐으며, 위험한 대화 내용을 감지·차단하는 자동화된 안전 시스템을 갖추고 있습니다.
특히 사람의 생명이 위험하거나 심각한 신체적 부상을 초래할 수 있는 긴급 상황을 예방하기 위해 필요하다고 판단되는 경우 사용자 데이터를 법 집행 기관과 공유할 수 있습니다.