막말하는 바이든?…미국 대선, 경계령 내려진 '딥페이크'

<앵커>

인공지능을 활용해 사람의 이미지를 합성하는 기술을 딥페이크라고 합니다. 내년 대선을 앞둔 미국에서는 벌써 이런 딥페이크를 악용한 조작 영상들이 나돌고 있는데, 인공지능 업체들도 안전 조치에 나서고 있습니다.

워싱턴 남승모 특파원입니다.

<기자>

바이든 대통령이 성소수자를 향해 거침없이 폭언을 내뱉습니다.

[조 바이든/미국 대통령 (가짜 영상) : (성전환한) 당신은 결코 진정한 여자가 될 수 없습니다. 당신은 여성으로서 아이를 갖는 데 필요한 신체를 갖고 있지 않습니다. 당신은 성소수자입니다.]

민주당 출신 힐러리 클린턴 전 국무장관이 공화당 대선 후보인 디센티스 플로리다주지사를 공개 지지하기도 합니다.

[힐러리 클린턴/전 미국 국무장관 (가짜 영상) : 제가 이런 말을 하면 사람들이 아마도 놀라겠지만, 저는 론 디샌티스 주지사를 좋아합니다. 많이요. 네, 알아요. 디샌티스는 이 나라에 필요한 사람이라고 말하고 싶어요.]

얼굴이며 목소리까지 똑같아 보이지만 딥페이크, 즉 가짜 영상입니다.

SNS에 넘쳐나는 정치인 영상을 AI에게 학습시켜 가짜 영상을 만든 뒤 이를 다시 SNS에 올려 퍼뜨리는 것인데, AI 기술 발달로 누구나 손쉽게 조작할 수 있게 되면서 내년 미국 대통령 선거까지 위협하고 있습니다.

[스튜어트 러셀/캘리포니아대학 컴퓨터과학 교수 : (SNS 등에 있는 자료로) 특정 정치인에 대한 허위 선거 정보를 만들어 내도록 AI 시스템을 훈련시킬 수 있습니다. 그리고 한나절이면 수많은 사람들이 그걸 보게 만들 수 있습니다.]

최근에는 바이든 대통령이 치매 관련 책을 읽는 것처럼 조작된 영상을 한 러시아 매체가 SNS에 올려 논란이 일기도 했습니다.

[조 바이든/미국 대통령 : AI 업체들은 조작되거나 AI가 만든 영상에 표식을 붙여 대중의 신뢰를 얻고 사용자들이 정보에 입각한 결정을 내릴 수 있도록 할 의무가 있습니다.]

주요 인공지능 기업들이 AI가 만든 영상에 식별 표시를 넣는 등 안전 조치를 취하기로 했지만, AI의 발달과 함께 여론 조작 위험도 커지고 있습니다.

(영상취재 : 오정식, 영상편집 : 박진훈)