▲ 국민의힘 김장겸 의원
최근 이미지 합성 기술 '딥페이크'에 의한 불법 합성물이 유포되는 등 범죄 피해가 잇따르자, 국민의힘이 포털·플랫폼에 딥페이크 표시 의무를 부여하는 법안을 발의하기로 했습니다.
국회 과학기술정보방송통신위원회 소속 국민의힘 김장겸 의원은 내일(29일) 이러한 내용을 담아 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안'을 대표발의합니다.
국민의힘이 내일 한동훈 대표 주재로 긴급 현안 간담회를 개최하며 대책 마련에 나서는 가운데, 여당 차원에서 구체적인 법안 발의가 추진된 건 이번이 처음입니다.
이번 개정안은 딥페이크 제작물의 생성·유통·확산 등 각 단계별로 AI 개발사와 이용자, 플랫폼 사업자의 의무를 구체화하는 내용을 골자로 합니다.
우선, 일정 규모 이상의 포털·플랫폼에는 영상 게시 전, 이용자에게 AI를 활용해 생성된 영상인지 등 딥페이크 여부를 표시하는 의무를 부여하기로 했습니다.
플랫폼 사업의 종류와 규모가 대통령령으로 정하는 기준에 해당하면 유통 전 딥페이크 기술로 제작된 생성물인지, 가상 정보인지 등 정보를 제공해 이용자가 이를 인식할 수 있도록 한다는 겁니다.
딥페이크 표시 방법을 제공하지 않은 사업자에게는 1천만 원 이하의 과태료가 부과됩니다.
또, 표시 의무를 이행하지 않거나 이를 임의로 제거·변경한 이용자에게는 경고 또는 이용 정지, 수익 제한 등 재발방지 조치를 실시해야 한다고 명시했습니다.
다만, 인공지능 기술의 사용 범위와 목적 등을 고려해 '대통령령으로 정하는 인공지능 생성물'에는 예외를 두기로 했습니다.
김 의원은 "개정안이 통과되면 가상정보와 실제 사실을 구분할 수 있게 돼 AI 기술을 악용한 범죄와 불필요한 사회적 혼란을 방지하고, 가짜뉴스 피해를 예방할 수 있을 것"이라고 밝혔습니다.
(사진=연합뉴스)