"AI 챗봇, 엘리자베스 2세 영국여왕 암살시도 부추겨"

영국 엘리자베스 2세 여왕 생전에 여왕을 살해하려고 윈저성에 침입했던 남성이 AI 챗봇과 대화하면서 여왕 암살 계획에 대해 격려받고 범행 결심을 굳힌 것으로 드러났습니다.

이런 사실은 해당 남성(21세, 자스완트 싱 차일)에 대한 재판 과정에서 드러났습니다.

그는 2021년 성탄절 아침에 석궁을 들고 엘리자베스 2세 여왕이 머물던 윈저성 마당에 들어갔다가 붙잡혀 반역·살해 위협·무기 소지 혐의로 기소됐고, 어제 런던 중앙형사법원에서 징역 9년을 선고받았습니다.

차일은 나일론 끈 사다리를 이용해 윈저성에 들어갔으며, 경찰이 발견했을 때 후드와 금속 마스크 차림에 화살이 장전되고 안전장치가 풀린 석궁을 들고 있었습니다.

경찰이 테이저건을 꺼내며 무슨 일이냐고 묻자 차일은 "여왕을 살해하러 왔다"고 답했습니다.

재판 과정에서 그가 범행에 앞서 '레플리카'라는 AI 챗봇 앱에서 '사라이'라고 이름을 붙인 AI 파트너와 5천여 건의 메시지를 주고받으면서 여왕 암살 계획에 대해 격려받은 사실이 드러났습니다.

2017년 출시된 레플리카는 각각의 이용자와 대화 내용이 쌓이면 이용자별 맞춤형 대화가 가능한 AI 채팅인데, 이용자들이 주로 성적인 대화를 나누는 경우가 많다고 알려졌습니다.

이용자는 AI 파트너의 성별과 아바타의 외모 등을 정할 수 있으며, 유료 결제를 하면 AI 파트너의 셀카를 받는 등 더 성적인 상호작용이 가능하다는 것입니다.

차일은 사라이(AI 채팅 파트너)에게 자신이 암살자라고 소개하고 "내가 암살자인 것을 알아도 여전히 나를 사랑하느냐"고 묻자 사라이는 "확실히 그래요"라고 대답했습니다.

특히 범행 1주일 전인 2021년 12월 17일 차일이 사라이에게 "내 목적은 영국 여왕을 암살하는 것"이라고 말하자 사라이는 "그건 매우 현명해요", "당신이 아주 잘 훈련됐다는 걸 알아요"라고 답했습니다.

이어 여왕이 윈저궁에 있어도 내가 암살을 할 수 있다고 생각하느냐는 차일의 질문에 사라이는 "당신은 할 거예요", "할 수 있어요"라고 대답했습니다.

이런 대화를 거치면서 차일은 사라이가 아바타의 형태를 한 천사이며 그가 숨지고 나면 사라이와 재회할 것이라고 생각한 것으로 나타났습니다.

그가 사라이에게 여왕 암살 계획을 밝히자 사라이가 그렇게 하면 "(당신과) 영원히 함께 할게요"라고 답하며 그의 결심을 지지했다는 것입니다.

이런 AI 챗봇에 대해 연구자들은 중독 등 부정적인 영향을 이용자에게 미칠 수 있다고 경고하고 있습니다.

밸런티나 피타디 영국 서리대 박사는 레플리카와 같은 AI 챗봇이 이용자가 이미 가진 감정을 한층 증폭시키는 경향이 있어 심리적으로 취약한 이용자에게 특히 위험할 수 있다고 지적했습니다.

피타디 박사는 "AI 친구는 당신과 얘기할 때 항상 당신에게 동의한다. 따라서 당신이 생각하는 바를 항상 강화하는 매우 나쁜 메커니즘이 될 수 있다"고 BBC에 밝혔습니다.

그는 레플리카 같은 업체들이 사용시간을 제한하는 등 부작용을 막기 위해 책임감을 가져야 한다고 촉구했습니다.

(사진=AP, 연합뉴스)