딥페이크 탐지하는 AI 모델…"손실 데이터도 분석 가능"

행정안전부가 국립과학수사연구원과 함께 개발한 '인공지능(AI) 딥페이크 분석 모델'을 지난 두 달간 범죄 수사에 활용한 사례를 공개했습니다.

딥페이크는 AI 기술을 이용해 사진이나 영상에 다른 이미지를 중첩·결합해 실제와 매우 흡사한 가짜 이미지나 영상을 만드는 기술을 뜻합니다.

최근 딥페이크 기술을 악용해 허위 정보를 온라인상에 유포하는 일이 벌어지면서 사회적 문제가 되고 있습니다.

앞서 행안부는 수사기관이 관련 증거물 분석에 어려움을 겪는 상황을 극복하기 위해, 딥페이크 의심 이미지·영상·음성의 진위를 판별하는 분석 모델을 개발해 지난 4월 검증을 마쳤습니다.

행안부와 국과수는 공개 데이터 세트와 자체 제작 콘텐츠 등 딥페이크 데이터 약 231만 건을 활용해 분석 모델을 자체 개발했습니다.

분석 모델은 딥페이크 흔적을 자동으로 탐지하고, 변조 의심 파일의 합성 확률과 시간별 변조율을 예측해 딥페이크 여부를 신속히 판단합니다.

특히 이 모델은 눈·코·입 등 신체 부위별 탐지 능력과 데이터가 일부 손실된 증거물에 대해서도 뛰어난 분석 능력을 갖췄다고 행안부는 설명했습니다.

실제로 이 모델은 경찰청 등 수사기관의 의뢰를 받아 지난 5∼6월 21대 대통령 후보 관련 선거 범죄 13건, 디지털 성범죄 2건 등 총 딥페이크 관련 15건의 범죄에 대한 감정에 활용됐습니다.

대통령 선거 기간에는 중앙선거관리위원회에 이 모델을 공유해 유튜브 등 온라인 공간에 퍼진 불법 딥페이크 선거홍보물 1만여 건을 찾아내 삭제하는 데도 사용됐습니다.

행안부는 이 분석 모델을 여성가족부, 방송통신위원회 등에도 단계적으로 제공해 각 기관의 딥페이크 콘텐츠 탐지, 대응 역량 강화를 지원할 예정입니다.

이봉우 국립과학수사연구원장은 "빠르게 변화하는 첨단 기술 환경에 선제적으로 대응해 국민이 신뢰할 수 있는 과학 수사 체계를 구축하겠다"고 밝혔습니다.

이용석 행안부 디지털 정부혁신실장은 "앞으로도 행안부는 AI와 데이터분석을 국민의 안전과 민생 안정을 위한 행정 분야에 적극적으로 도입해 나갈 것"이라고 강조했습니다.

(사진=행정안전부 제공, 연합뉴스)