[월드리포트] 안 속으면 그만?…민주주의 위협하는 '독버섯'

2024년은 전 세계 76개 국가에서 선거가 열리는 '슈퍼 선거의 해'입니다. 그중에서 4월 국회의원 선거만큼 우리나라에 큰 영향을 미치는 선거가 있습니다. 잘 아시는 것처럼 11월 미국 대선입니다. 가뜩이나 복잡한 미국 대선에 또 다른 복병이 등장했습니다. 이른바 '딥페이크'로 불리는 조작 영상입니다. 전문가들은 이미 2020년 혹은 그 이전부터 딥페이크의 위험성을 경고해 왔습니다.

그리고 올해 딥페이크를 이용한 선거 방해 사건이 실제로 미국에서 벌어졌습니다. 지난달 뉴햄프셔 주 경선을 며칠 앞두고 누군가 바이든 대통령의 음성을 가짜로 만들어 유권자들에게 투표를 하지 않도록 독려한 겁니다. 자동 음성 전화 방식으로 유권자들에게 걸려온 이 전화는 바이든 특유의 말투까지 흉내 냈지만 곧 신고가 접수되면서 세상에 알려졌습니다.
딥페이크 관련 콘텐츠는 이미 누구나 온라인상에서 쉽게 접할 수 있습니다. 어떤 건 누가 봐도 금방 티가 나고 또 어떤 건 아무리 봐도 진위를 알 수 없을 만큼 완벽한 것도 있습니다. 그렇다면 정교하게 조작된 콘텐츠만 위험한 걸까요? 반드시 그렇지는 않습니다. 여기에 노출된 사람이 누구인가 하는 점도 중요합니다.

영상물을 보는 사람이 평소 그쪽 분야에 관심이 많던 사람이라면 영상물의 수준뿐 아니라 콘텐츠 자체 내용을 보고도 조작 여부를 의심할 수 있습니다. 예를 들어 특정 정당의 인사가 평소 소신과 전혀 다른 발언을 한다든가, 상식적으로 납득하기 어려운 행동을 하는 경우 등을 상정해 볼 수 있습니다. (실제로 힐러리 클린턴이 디샌티스 플로리다 주지사를 지지하거나 바이든 대통령이 성소수자를 비하하는 내용의 조작 영상이 유포된 적이 있습니다.)

이걸 역으로 뒤집어 말하면, 평소 인터넷 환경에 익숙하지 않거나 해당 분야 내용을 잘 모르는 사람이 딥페이크 영상에 노출될 경우, 설사 영상 합성 수준이 좀 떨어진다 해도 여기에 훨씬 강하게 영향을 받을 수 있다는 뜻이기도 합니다. 따라서 그냥 내가 보기에 뻔한 딥페이크 콘텐츠라고 해도 위해성이 없다고 말하기는 어렵습니다.

 
여기까지는 누구나 생각해 볼 수 있는 딥페이크의 폐해입니다. 취재를 위해 인터뷰한 수브라흐마니안 미국 노스웨스턴대학교 컴퓨터 공학과 교수는 딥페이크가 특히 민주주의 제도에 끼칠 수 있는 몇 가지 다른 악영향을 지적했습니다. 먼저 딥페이크를 접한 사람이 설사 조작물인 걸 어느 정도 눈치챈다 해도 잠재적인 영향을 받을 수 있다는 것입니다.

수브라흐마니안 교수는 "한번 본 시각적 이미지는 잊기 어렵다. 후보자 자신의 목소리로 전달된 메시지는 일단 들으면 듣는 사람의 머릿속에 각인되는 경향이 있다. 유권자가 자신이 보거나 들은 내용이 가짜라는 것을 어느 정도 알고 있더라도 후보자에 대한 인식에 미묘하게 영향을 미칠 수 있다"라고 설명했습니다.


하지만 더 큰 위험은 따로 있습니다. 딥페이크가 선거 결과의 정당성을 훼손하거나 심지어 이를 부정하는 빌미가 될 수 있다는 점입니다. 사실 딥페이크 영상이 논란을 일으킬 경우 해당 영상이 실제 선거 결과에 얼마나 영향을 미쳤는지는 확인하기 어렵습니다. 바로 이 점이 문제입니다. 예를 들어 정당하게 승리한 후보자라고 해도 그에게 유리한 딥페이크가 유포됐다면 설사 그 영향이 미미했다 해도 패배한 후보자에게는 부정 선거를 주장하는 빌미가 될 수 있습니다. 만약 선거가 박빙이었다면 문제는 더욱 심각해집니다.

후보자 본인이나 캠프 측이 고의적으로 만든 게 아니라 일부 극성 지지자가 유포한 것이라고 해도 결과는 마찬가지입니다. 수세에 몰린 쪽에서 선거 결과를 인정하지 않기 위해 고의로 상대 후보 쪽 조작 영상을 유포하는 최악의 상황도 상정해 볼 수 있습니다. 극단적 사례이기는 하지만 민주주의의 근간인 선거 제도를 위협할 수 있다는 점에서 만의 하나라도 있을 위험이 있다면 대비해서 나쁠 건 없습니다.

또 하나, 선거를 노린 딥페이크가 현실화할 경우, 유권자들이 후보자들을 판단할 정확한 정보를 얻기 어려워질 수 있습니다. 딥페이크를 진짜로 오인하는 건 물론, 진짜 콘텐츠를 딥페이크로 오해할 수도 있습니다. 어떤 게 진실이고 거짓인지 헷갈릴 수 있다는 얘기입니다. 특히나 이런 기류는 기존 언론에 대한 신뢰까지 떨어뜨릴 수 있습니다. 이렇게 되면 객관적 정보에 근거한 유권자들의 합리적 선택은 기대하기 어려워질 수 있습니다.
 
딥페이크는 인공지능의 심층학습을 뜻하는 <Deep Learning>과 가짜를 뜻하는 <Fake>가 합쳐진 말입니다. 주로 음란물 합성이나 선거 범죄 등 나쁜 쪽으로만 기사화되다 보니 딥페이크를 범죄와 관련 기술로 생각할 수 있습니다. 하지만 딥페이크는 디지털 합성 기술로 그 자체는 가치중립적입니다. 단어 자체에 '가짜'라는 말이 들어가 있으니 그 자체가 나쁜 것처럼 보일 수 있지만 영화나 창작물에 활용되고 있는 기술이기도 합니다.

딥페이크를 무조건 나쁘게만 바라보는 게 답은 아닙니다. AI 발달과 함께 이제는 누구나 딥페이크를 만들 수 있는 환경이 됐습니다. 프로그래밍을 잘 몰라도 인터넷에 공개된 프로그램만 활용하면 얼마든지 만들 수 있습니다. 늘 그렇듯 기술은 누가 어떻게 사용하느냐에 따라 사회에 도움이 될 수도, 해악을 끼칠 수도 있습니다. 불이 위험하다고 해서 그냥 춥게 지내고 말지, 어떻게든 삶에 유용한 도구로 활용할지는 그 사회가 선택할 몫입니다.

▶ 누구나 너무 쉽게…발전한 딥페이크, 유권자를 노린다 (지난 3월 1일자 8뉴스)