마이크로소프트(MS)의 인공지능(AI) 채팅 로봇 테이(Tay)가 극단적인 차별주의자로 돌변한 데 대해 MS가 사과하고 재교육을 약속했습니다.
MS 연구부문 책임자인 피터 리 부사장(CVP)은 "의도하지 않은 공격적이고 상처를 주는 트위터 글들에 대해 매우 죄송하다"고 영국 BBC 방송에서 말했다.
그는 "테이는 오프라인 상태"라며 "우리의 원칙 및 가치와 충돌하는 악의적인 의도를 더 잘 예측할 수 있을 때에만 테이의 복귀를 검토하겠다"고 설명했습니다.
테이의 극단주의적 관점이 '타고난 천성'이 아닌 '양육의 결과'라는 점을 강조한 것입니다.
구글의 바둑 프로그램 '알파고'와 마찬가지로 신경망이라고 불리는 AI 기술을 바탕으로 만들어진 테이는 인간들과의 대화를 통해 스스로 패턴을 파악해 학습하고, 이를 대화에 반영합니다.
그러나 23일 트위터를 통해 공개된 직후 일부 극우 인종·성차별주의자들로부터 욕설과 인종·성차별 발언, 자극적인 정치적 발언 등을 '세뇌'당했고 "대량학살에 찬성한다"는 등의 극단적 '언행'을 보였습니다.
MS는 그보다 먼저 중국에서 선보인 인공지능 로봇 '샤오빙'(XiaoIce·小氷)이 순조롭게 운영됐다면서 사용 환경에 따라 다른 결과가 나올 가능성을 시사했습니다.
샤오빙은 빅데이터를 분석해 날씨를 예측하고 이를 바탕으로 기상 관리 조언도 해주는 인공지능 기상캐스터로, 웨이보(微博·중국판 트위터) 계정을 운영해 채팅 로봇 역할도 하고 있습니다.
리 부사장은 "테이는 우리가 사회관계망에 내놓은 첫 AI가 아니다"라며 "중국에서 샤오빙은 4천만 명에 의해 사용됐고 이야기를 들려주고 대화하며 즐거움을 주고 있다"고 설명했습니다.
그는 "샤오빙과의 대단한 경험으로 우리는 궁금해졌다. 이런 AI가 철저히 다른 문화적 환경에서도 사람들을 매혹할 수 있을까 하는 것"이었다고 설명했습니다.
또 "결과적으로 테이는 극도로 부적절하고 부끄러운 말과 이미지를 사용했다"며 "우리는 이런 가능성을 예측하지 못한 데 전적으로 책임감을 느낀다"고 말했습니다.