[D리포트] 딥페이크 잡는 'AI 모델'…국과수 공식 감정 시작

반소매 티셔츠를 입고 헬스장에 서 있는 한 남성.

딥페이크로 만들어진 가짜 사진입니다.

육안만으로는 구분하기 어렵지만, AI 탐지 모델에 사진을 올리자 바로 진위를 파악합니다.

행정안전부와 국립과학수사연구원이 지난 4월 개발을 마친 이 AI 모델은, 231만 건의 데이터를 학습시켜 신체 부위별로 가짜 흔적을 탐지하고, 일부 데이터 손실되는 등 파일이 손상돼도 분석 가능합니다.

위변조 분석을 위해선 같은 기종 카메라로 찍은 대조 파일이 필요했던 기존과 달리, 영상물에 남은 딥페이크 생성 흔적을 바로 찾아냅니다.

기존 분석 시스템과 연계해 인위적으로 만들어낸 가짜 음성도 탐지할 수 있습니다.

[AI 가짜 음성 : 엄마, 난데. 나 지금 조금 급한 일이 생겨서 혹시 천만 원 바로 보내줄 수 있어요? 어디다 잠깐 옮겨놓는 거라.]

미세한 합성 특징을 잡아내 바로 구분해 내는 겁니다.

지난 두 달간 범죄 수사에 AI 모델을 투입해 디지털 성범죄 사건 등 15건의 감정을 진행했습니다.

[변준석/국립과학수사연구원 디지털과장 : 현재 기술로는 거의 100%에 가깝게 탐지하고 있거든요. 감정서는 법적 효력을 갖고 있습니다. 탐지한 모델에 대한 결과를 감정서로 변환해서 저희 의견을 첨부해서 나가게 돼 있고요.]

앞서 대통령 선거 기간 중에는 온라인에 업로드된 불법 딥페이크 선거 영상물 등 1만여 건을 탐지해 삭제하는 데 사용되기도 했습니다.

정부는 여성가족부와 방송통신위원회 등 관계 기관에서도 AI 분석 모델을 활용할 수 있도록 사용 범위를 단계적으로 넓힐 계획입니다.

(취재 : 김덕현, 영상취재 : 최호준, 영상편집 : 김종태, 제작 : 디지털뉴스편집부)