[취재파일] 가짜 뉴스보다 더 무서운 가짜 동영상 '딥페이크'

지난 4월, 미국 유명 온라인 매체 버즈피드에 한 영상이 올라왔다. 오바마 전 대통령이 성조기 앞에서 차분하게 연설을 한다. 그런데 표현이 심상치 않다. "President Trump is a total and complete dipshit" 아무리 그래도 후임자인데, '쓸모없는 사람'이라니. 당시 화제가 된 이 영상은 사실 가짜였다. 버즈피드와 조든필 감독(영화 '겟아웃')이 공동작업한 딥페이크(deepfake)다.
  딥페이크에는 딥러닝과 같은 인공지능 기술이 쓰였다. 그래서 딥러닝의 'Deep'과 가짜라는 'Fake'의 합성어라고 생각하는 분들도 있지만, 사실 어원은 누군가의 '아이디'였다. 지난해 11월 소셜 뉴스 웹사이트 '레딧'에 'Deepfakes'라는 아이디를 쓰는 이용자가 유명 연예인과 포르노를 합성해 관심을 끌었다.

레딧에는 'deepfakes'라는 서브 레딧이 만들어졌고 올해 1월엔 'deepfakeapp'이라는 아이디를 쓰는 이용자가 'FakeApp'이라는 무료 앱을 만들어 배포했다. 그렇게 딥페이크라는 말이 생겼다. 물론 처음 아이디를 만든 사람이 앞서 말한 의미로 만들었을 가능성도 크다. ('DeepFakes' 인터뷰 기사:  AI-Assisted Fake Porn Is Here and We’re All Fucked)
앞서 말한 것처럼 딥페이크 영상을 손쉽게 만들 수 있게 된 배경에는 딥러닝과 같은 인공지능(AI) 기술이 자리 잡고 있다. 지난 2016년 알파고와 이세돌의 대국 이후 우리에게 친숙해진 '딥러닝'은 컴퓨터가 마치 사람처럼 스스로 학습할 수 있게 인공 신경망을 기반으로 구축한 기계 학습 기술이다.

인공지능 기술이 발전하기 전, 수천개의 사칙연산을 단숨에 해내던 컴퓨터는 의외로 '개와 고양이 구분하기' 같은 단순한 문제를 풀지 못했다. 명령어를 통해 개와 고양이의 특징을 자세히 설명하더라도 색깔이 조금만 다르거나 모양이 살짝만 바뀌어도 인식할 수 없었기 때문인데, 이걸 가능하게 해준 게 딥러닝 기술이다.

수백, 수천 개의 고양이 사진을 컴퓨터 스스로 돌려 보면서 특징을 익혔고 이 딥러닝 기술로 사람의 얼굴도 스스로 인식하게 됐다. 합성도 같은 방식으로 할 수 있게 됐다. 

딥러닝 기술을 통해 컴퓨터가 원본 얼굴과 대체 얼굴의 특징을 학습한 뒤에 이 둘을 서로 바꾸는 건데, 이미지의 전반적인 형태가 '정상적인 사람의 얼굴'보다 어색하다고 느끼면 다시 인공지능이 이를 감지해서 더 자연스러운 방식으로 계속 고쳐나가는 방식이다. 기존엔 얼굴을 3D로 그리고 전문가가 얼굴의 굴곡을 하나하나 이어붙여야만 가능했던 합성 기술이 훨씬 간단해지고 정교해진 것이다.
인터넷에 'deepfake'라고 쳐 보면 이 기술, 혹은 영상을 이해하기 더 쉬울 것 같다. 딥페이크에 가장 많이 출연하는 배우는 니콜라스 케이지. 인질을 두고 협상하는 모습, 물병을 던지며 화를 내는 모습, 심지어 여장을 한 모습까지, 실제로 출연하지 않은 영화에 얼굴만 합성한 것들이다( 유튜브 영상).

이 정도만 되면 웃고 넘길 수 있지만, 앞서 말한 오바마부터 트럼프까지( 유튜브 영상) 정치인을 합성한 영상들이 넘쳐나고 연예인은 물론 일반인 얼굴까지 합성한 포르노까지 등장하고 있다. 어색한 영상들이 많지만, 정말 감쪽같이 합성한 영상들도 있다. 그리고 그런 영상이 맥락 없이 유포되고 있다.

자연히 딥페이크가 1~2년 안에 미국을 중심으로 국제사회에 큰 문제를 일으킬 거라는 우려가 나온다. 똑같이 합성한 얼굴에 말투나 버릇, 주변 행동까지 덧입히면 더 사실적으로 꾸밀 수 있기 때문인데, 텍스트로만 전달되는 가짜 뉴스보다 더 무서울 수밖에 없다. 얼마 전 AP통신은 딥페이크 기술의 위험성을 깊이 있게 다뤘다.

이 기사에서 미국 다트머스 대학의 디지털 포렌식 전문가 하니 파리드는 "미국은 오는 11월로 예정된 중간선거와 2년 후 대선에서 딥페이크로 인한 문제를 겪기 시작할 것"이라는 관측도 내놨다. 앞서 혼란을 예상한 미국 국방부 소속 방위고등연구계획국은 2년 전부터 가짜 사진들과 영상을 분간할 수 있는 프로그램을 개발 중이다.
지난 5일, 과학기술정보통신부 주최로 열린 '2018 인공지능 R&D 챌린지 대회'에선 예선 대회를 거쳐 진출한 40개 팀, 128명이 합성사진을 찾아내는 경연이 진행됐다. 참가팀에겐 인공지능이 만든 가짜 사진과 진짜 사진 등 5천 장이 제공됐다. 주어진 시간 동안 얼마나 정확하게 진짜와 가짜를 구분하는가를 겨루는 건데, 참가팀들이 사진 선별을 위해 사용하는 기술 역시 인공지능이다. 인공지능이 합성한 사진을 인공지능이 구분해야 하는 시대인 셈이다.

앞서 말한 미국 방위고등연구계획국도 올해 말 사진 및 영상 조작 탐지를 위한 기술 콘테스트를 열 계획이다. 이런 기술 대회와 프로그램 개발은 계속되겠지만, 딥페이크 기술 역시 날이 갈수록 정교해질 것은 자명하다. 보는 것을 믿지 못하는 세상이 오면 우리는 어떻게 해야 할까. 가짜 뉴스보다 무서운 가짜 동영상 '딥페이크' 시대가 오고있다.