딥페이크 잡고 제작 과정도 추적한다…경찰 AI 활용 수사로 419명 검거

경찰이 인공지능(AI)으로 허위 영상물(딥페이크)을 찾아내고 제작 과정까지 추적하는 수사 기술을 고도화해 올해 7월까지 딥페이크 범죄 피의자 419명을 검거했습니다.

경찰청 국가수사본부는 오늘(13일) 딥페이크 범죄에 대응해 '딥페이크 탐지 소프트웨어'와 과학수사 영상 분석, AI 포렌식 분석으로 이어지는 3중 대응체계를 구축해 운영하고 있다고 밝혔습니다.

우선 자체 개발한 딥페이크 탐지 소프트웨어로 영상물의 합성 여부를 판별하고, 조작 여부가 불분명해 추가 분석이 필요할 땐 과학수사 영상분석관이 영상 분석 프로그램을 활용해 위변조 여부를 검증하게 됩니다.

여기에 AI 포렌식 기법까지 활용해 피의자가 어떤 프로그램으로 영상을 조작했는지, 영상의 어느 부분을 변경했는지 등을 분석하고 제작부터 유포까지 범행 과정을 재구성합니다.

실제로 경찰은 지난 3월 딥페이크 탐지 소프트웨어로 해외 성인사이트에 유포된 성적 딥페이크 영상물의 동일성을 찾아내 영상을 제작한 20대 남성을 검거하고 구속 송치했습니다.

경찰의 딥페이크 탐지 소프트웨어는 얼굴 생성 및 교체 여부와 눈 깜빡임, 혈류 변화 등 생물학적 특징, 파일 메타데이터 구조 등을 종합적으로 분석해 합성 여부를 판단하게 됩니다.

여기에 국내 허위 영상물 탐지에 특화된 AI 모델을 탑재하는 등 성능을 점차 고도화하고 있으며, 개발 이후 현재까지 총 1천636건의 수사에 활용했습니다.

특히 선거범죄 등 성범죄 외 수사 분야에서도 72건 활용하는 등 적용 범위를 확대하고 있습니다.

경찰은 이 기술을 디지털 성범죄에만 한정하지 않고 허위 정보 유포와 전기통신금융사기 등 AI를 악용한 다양한 범죄 수사로 확대할 계획입니다.

(사진=경찰청 제공, 연합뉴스)