사람에게 욕 배운 인공지능…설계자도 '당혹'

<앵커>

마이크로소프트가 야심차게 선보인 인공지능 채팅로봇, 테이가 출시 16시간 만에 바로 운영이 중단됐습니다. 유대인 학살은 조작됐다는 등의 인종차별적 망언과 욕설을 배웠기 때문인데요, 인공지능의 위헙성을 보여주는 단적인 사례라는 지적이 나오고 있습니다.  

윤창현 기자가 보도합니다.

<기자>

지난 23일 마이크로소프트가 선보인 인공지능 채팅 로봇 '테이'의 트위터 계정입니다.

10대와 20대에게 대화서비스를 제공하는 데 하루 만에 팔로워가 5만명을 넘을 정도로 주목받았습니다.

하지만 몇 시간 안돼 뜻밖의 대답을 내놓기 시작했습니다.

대량학살을 지지하느냐? 는 질문에는 "진정으로 그렇다"는 대답까지 늘어놨습니다.

"도널드 트럼프가 유일한 희망"이라는 정치성 발언도 쏟아냈습니다.

여성비하와 이민자 차별 같은 부적절한 발언까지 잇따르자 항의가 빗발쳤습니다.

인공지능 바둑 프로그램 '알파고'처럼 신경망 기술을 이용해 인간들과 대화를 통해 스스로 학습하고 진화하는 방식인데, 이게 오히려 독이 됐습니다.

인터넷 게시판을 통해 모인 극우 백인 우월주의자들이 '테이'에게 인종차별 발언과 욕설을 반복해 주입했고, '테이'는 이렇게 학습된 망언들을 내뱉은 것입니다.

마이크로소프트는 결국 16시간 만에 운영을 중단하고 사과했습니다.

악동이 된 인공지능 테이의 사례는 어떤 정보를 주입하느냐에 따라 인공지능이 역효과를 낼 수 있음을 여실히 보여주는 것으로 AI 설계자들을 당혹케 하고 있습니다.

(영상취재 : 양두원, 영상편집 : 오노영)   

▶ [카드뉴스] "페미니스트 불태워야" 막말 퍼레이드…정체 '반전'