장애인 · 성 소수자 묻자, 혐오 발언 쏟아낸 '이루다'

<앵커>

지난달 한 국내업체가 '이루다'라고 하는 인공지능 채팅 로봇을 출시했습니다. 이루다는 아이돌을 좋아하는 스무 살 여성 대학생 캐릭터로 설정돼 있는데, 서비스에 가입하면 진짜 사람과 이야기하는 것처럼 인공지능 이루다와 대화를 나눌 수 있습니다. 나오자마자 특히 10대와 20대에게 큰 인기를 끌면서 하루 이용자가 20만 명이 넘기도 했습니다. 그런데 이루다에게 성 소수자나 장애인에 대한 생각을 물어보면 차별과 혐오가 담긴 말을 하고, 또 일부 사용자들이 인공지능 이루다에게 도를 넘는 성희롱성 발언을 하고 있다는 논란이 일고 있습니다.

먼저 그 실태를 김민정 기자가 취재했습니다.

<기자>

스무 살 여대생으로 설정된 인공지능 채팅 로봇 '이루다'의 소셜미디어 계정입니다.

실제 사람이 아닌데도 팔로워 숫자가 16만 명을 훌쩍 넘겼습니다.

친구 신청을 하고 직접 말을 걸어 봤더니 마치 사람과 대화하듯 자연스럽게 대화가 이어집니다.

논란이 됐던 장애인과 성 소수자에 대한 생각을 물어보니, "사람은 누구나 차별받지 않아야 한다"라는 답변이 돌아왔습니다.

주말에는 같은 내용을 묻는 이용자들에게 "제일 싫다, 진짜 혐오스럽다" 등의 답을 했는데 논란이 커지자 업체 측이 조치를 취한 겁니다.

업체가 채팅 로봇에게 학습시킨 내용을 수집한 방법도 도마에 올랐습니다.

업체의 다른 애플리케이션에서 이용자들이 연인과 나눈 대화 내용을 이루다에게 입력했는데 채팅 로봇에 활용된다는 충분한 사전 고지가 없었다는 겁니다.

업체 측은 "명확한 고지가 없었다"고 시인하며 "원치 않으면 삭제할 수 있도록 하겠다"고 해명 글을 올렸지만, 일부 이용자들은 집단 소송까지 준비하고 있습니다.

[대화 수집된 애플리케이션 이용자 : 연인이랑 같이 대화한 부분이 다른 사람들한테 그냥 무작위 하게 보여질 수 있다는 점에서 많이 불안한 것 같아요.]

채팅 로봇을 향한 일부 사용자들의 도를 넘는 성희롱성 발언도 속출해 인공지능과 관련한 우리 사회의 윤리기준이 시험대에 올랐습니다.

(영상취재 : 공진구·양두원, 영상편집 : 이홍명)  

▶ 카톡 대화로 배웠다…불붙은 'AI 윤리' 논쟁