인니, 성착취 딥페이크 논란 '그록' 접속 차단…세계서 처음

인도네시아 정부가 최근 인공지능(AI)을 이용한 '딥페이크'(이미지 합성 기술)로 성착취물을 생성해 유포했다가 논란을 일으킨 챗봇 '그록' 서비스를 세계에서 처음으로 차단했습니다.

11일(현지시간) AFP·블룸버그 통신 등에 따르면 무티아 하피드 인도네시아 통신디지털부 장관은 전날 테슬라 최고경영자(CEO)의 AI 회사인 xAI의 그록 서비스를 일시 중단했다고 밝혔습니다.

그는 성명에서 "AI 기술로 생성한 가짜 음란물 콘텐츠의 위험으로부터 여성과 아동 등을 보호하기 위해 정부는 그록 애플리케이션 접근을 일시적으로 차단했다"고 설명했습니다.

그러면서 "(인도네시아) 정부는 디지털 공간에서 동의 없이 벌어지는 딥페이크는 인권과 존엄성을 침해하는 중대 행위로 간주한다"고 강조했습니다.

최근 그록이 성착취물 생성으로 논란이 일으킨 이후 서비스 접근을 차단한 국가는 인도네시아가 처음입니다.

세계에서 무슬림 인구가 가장 많은 인도네시아는 음란물로 간주하는 콘텐츠의 온라인 공유를 금지하는 엄격한 규정을 시행하고 있습니다.

앞서 인도네시아 통신디지털부는 xAI 관계자들을 불러 최근 논란과 관련한 사실관계를 확인했습니다.

그록은 인도네시아 정부의 애플리케이션 차단 조치와 관련해 소셜미디어(SNS) 플랫폼 엑스(X·옛 트위터)에 "불편을 드려 죄송하다"며 "이번 문제를 해결하기 위해 노력하고 있다"고 입장을 밝혔습니다.

그록은 최근 비키니 수영복 등을 입은 아동 사진을 생성한 뒤 엑스를 통해 유포해 논란을 일으켰습니다.

이 사진들은 "여성들 사진을 비키니 차림으로 편집해 달라"는 일부 이용자들의 요청에 따라 생성됐으며 1∼2살 영유아로 보이는 아동 사진도 포함됐습니다.

수천 장의 사진을 딥페이크 기술로 만든 성 착취물들은 대부분 피사체인 당사자 동의 없이 생성됐습니다.

그록은 한 이용자가 문제를 제기하자 "안전장치의 허점을 확인했다"며 해당 사진들을 뒤늦게 삭제했습니다.

유럽 주요 국가와 말레이시아는 이 문제를 조사하겠다고 나섰고, 호주와 인도도 관련 콘텐츠를 단속하겠다고 밝혔습니다.

미국에서도 민주당 소속 론 와이든 상원의원(오리건) 등이 애플과 구글 최고경영자(CEO)에게 서한을 보내 앱스토어에서 그록과 엑스를 퇴출하라고 요구했습니다.

논란이 커지자 엑스와 xAI 측은 전날부터 엑스에서 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자만 할 수 있게 제한하는 방침을 적용했습니다.