방미통위, '딥페이크 양산 논란' AI 그록에 청소년 보호 요청

방송미디어통신위원회가 인공지능(AI) 챗봇 서비스 '그록'이 딥페이크 성 착취물을 양산하고 있다는 논란에 대해 엑스(X) 측에 청소년 보호 장치를 마련할 것을 요청했다고 밝혔습니다.

방미통위는 그록 서비스를 제공하는 엑스(X) 측에 유해 정보로부터 청소년을 보호하기 위한 청소년 접근제한 및 관리 조치 등 보호 계획을 수립해 그 결과를 이달 말까지 회신해 줄 것을 통보했습니다.

엑스는 정보통신망법에 따라 청소년보호책임자를 지정해 방미통위에 통보할 의무가 있고 매년 청소년보호책임자 운영 실태를 일명 '체크 리스트' 형식으로 관련 자료를 제출해 오고 있는데, 방미통위는 엑스 측이 챗봇 내 안전장치를 마련하는 등 적극적인 조치를 취할 필요가 있다는 의견을 전달했습니다.

방미통위는 엑스 측에 당사자 의사에 반해 딥페이크 성 착취물을 제작, 유통, 소지 및 시청하는 행위가 국내 형사처벌 대상이라는 점을 전달했습니다.

다만, 아직까지 민원 또는 진정이 접수되거나 유해물이 유통되는 등의 정황은 포착되지 않은 것으로 알려졌습니다.

일론 머스크가 운영하는 AI 기업 xAI는 최근 엑스에서 그록을 사용해 딥페이크 이미지를 생성하는 서비스를 내놨습니다.

엑스에 올려진 특정인의 이미지를 이미지를 다른 사용자가 동의 없이 딥페이크 이미지로 만들어 올리는 사례가 속출하면서 각국에서 비난 여론이 높아지고 있습니다.

미국에서는 민주당 소속 론 와이든 상원의원(오리건)과 에드 마키 상원의원(매사추세츠), 벤 레이 루한 상원의원(뉴멕시코) 등 3명이 지난 9일 애플과 구글 최고경영자(CEO)에게 서한을 보내 그록과 엑스 앱을 앱스토어에서 퇴출하라고 요구했습니다.

김종철 방미통위원장은 "새롭게 도입되는 신기술의 부작용과 역기능에 대해 합리적 규제를 해 나갈 계획"이라며 "AI 서비스 제공자를 대상으로 성범죄물 등 불법 정보 유통 방지 및 청소년 보호 의무 부과 등을 추진해 나갈 계획"이라고 밝혔습니다.

(사진=연합뉴스)