총선 파고드는 딥페이크…"빅테크 패스트트랙 필요"

<앵커>

이번 총선에서 특히 우려되는 게 딥페이크라고 하죠, 인공지능이 만드는 가짜 영상이 확산하는 것입니다. 네이버와 카카오도 부랴부랴 대책을 내놓고 있습니다.

조을선 기자입니다.

<기자>

지난달 미국 대선후보 예비경선을 앞두고 민주당원들에게 바이든 대통령 특유의 어투로 투표 거부를 독려하는 전화가 걸려왔습니다.

[바이든 미 대통령 사칭 딥페이크 음성 전화 : 말도 안 되는 소리입니다. (11월 대선을 위해) 당신의 표를 아끼는 게 중요합니다.]

바이든 대통령의 가짜 목소리, 딥페이크였습니다.

지난해 5월에는 튀르키예 대선에서 딥페이크 영상이 야당 공격에 활용되는 등 실제 선거에 영향을 미치기도 했습니다.

선관위가 지난달 29일부터 이달 16일까지 적발한 딥페이크 선거운동 게시물은 129건에 달했습니다.

올해 약 40여 개국에서 대선이나 총선이 진행돼 딥페이크에 의해 민의가 왜곡될 수 있다는 우려가 커지자, 오픈AI와 구글, 메타 등 글로벌 테크 기업들은 딥페이크 콘텐츠를 탐지하고 해결하겠다는 합의문을 발표하기도 했습니다.

국내 기업들도 대책 마련에 분주합니다.

네이버는 이용자가 딥페이크 제작 관련 검색어를 입력하면 경고 문구를 표시하기로 했습니다.

카카오브레인은 AI 콘텐츠에 워터마크를 새겨 넣는 방안을 준비하고 있습니다.

[카카오 관계자 : (이미지 생성 모델 '칼로'에) 유저들에게는 워터마크가 보이지 않으나 기술적으로는 AI 생성 여부를 알 수 있는….]

문제는 AI가 순식간에 만들어낸 딥페이크 콘텐츠가 SNS를 통해 빠르게 확산하기 때문에 대응에 한계가 있다는 점입니다.

특히 구글이나 틱톡 등 해외 플랫폼을 이용할 경우 적발해도 조치에 시간이 걸릴 수밖에 없습니다.

[임종인/고려대 정보보호대학원 석좌교수 : 선거기간 중에는 우리 정부가 미국 정부와 협력 통해 글로벌 빅테크에게 패스트트랙을 만들어서 신속하게 차단이라든지….]

특히 선거일 임박한 시점에 가짜 정보가 기승을 부릴 수 있기 때문에 이용자들의 각별한 주의가 필요합니다.

(영상취재 : 김남성, 영상편집 : 원형희)