일론 머스크의 AI 기업 xAI가 개발한 챗봇 '그록'이 세계적으로 성 착취 딥페이크 콘텐츠 논란에 휩싸였습니다.
미국과 유럽 정치권에서 거센 비판이 나오는 가운데 인도네시아, 말레이시아에서는 정부 차원에서 그록 접속을 차단했습니다.
그록은 소셜미디어 x에서 제공되는 AI 서비스인데, 지난달 말 '이미지 편집' 기능이 추가된 이후 성 착취물 딥페이크를 손쉽게 만들 수 있어 논란이 커지고 있습니다.
이 기능을 사용하면 온라인에 있는 실존 인물의 사진을 속옷이나 수영복 차림으로 바꿔 유포할 수 있습니다.
실제 이용자들이 "사진 속 인물의 옷을 벗겨라" "수영복을 입혀라" 등의 명령어를 입력하면서 성 착취 이미지를 만들어 x에 무분별하게 게시된 겁니다.
챗GPT와 제미나이같은 다른 AI 챗봇이 성적 이미지 생성을 엄격히 금지하는 것과 달리 그록은 '표현의 자유'를 내세워 이를 허용했습니다.
미국 민주당 의원들은 애플과 구글 CEO에게 서한을 보내 그록 앱과 x앱을 앱스토어에서 퇴출하라고 요구했습니다.
유럽 비영리 단체 'AI 포렌식스'는 그록이 생성한 이미지 20만 개 중 53%는 속옷, 비키니를 입고 있었고, 여성이 81%, 미성년자도 2%로 분석됐다고 밝혔습니다.
앞서 인도네시아 정부가 전 세계 최초로 그록 서비스를 접속 차단한 데 이어 말레이시아 정부도 정부 차원의 차단에 나섰습니다.
그록 차단을 검토하고 있는 영국의 키어 스타머 총리는 그록의 아동 성 착취 이미지 제작·유포에 대해 "역겹고 불법적인 행위"라고 비판했습니다.
논란이 커지자 엑스와 xAI 측은 그록의 이미지 생성·편집 기능을 x 유료 구독자만 할 수 있게 제한하는 방침을 적용했습니다.
하지만 머스크는 지난 10일 자신을 비판한 스타머 총리를 겨냥해 "검열을 위한 온갖 핑계를 찾고 있다"고 반발하며 비키니 차림의 스타머 영국 총리의 합성 이미지를 리트윗하기도 했습니다.
(취재 : 김민정, 영상편집 : 최강산, 제작 : 디지털뉴스부)