원천 봉쇄 어려운 딥페이크…차단 기술 어디까지

<앵커>

이렇게 피해자가 늘어나고 심각한 사회 문제로 번지자 딥 페이크 범죄를 미리 탐지하고 막아 내기 위한 기술도 개발되고 있습니다.

인공지능을 활용해 인공지능 범죄를 막겠다는 건데, 이게 어디까지 진전됐는지 이어서 홍영재 기자가 전하겠습니다.

<기자>

트럼프 전 대통령과 일론 머스크가 함께 우스꽝스러운 춤을 추는 영상, 머스크가 자신의 SNS 계정에 올린 겁니다.

딥페이크 탐지 업체가 분석해보니, 딥페이크일 확률이 99.63%로 나왔습니다.

[딥페이크 유형별로 데이터를 확보합니다. 가짜하고 진짜 데이터를 50대 50으로 해서 학습을 하고요.]

피를 흘리고 쓰러진 학생들 옆에 소총을 들고 있는 머스크.

머스크가 세운 인공지능 회사의 프로그램으로 만든 이미지입니다.

생성형 AI 모델 자체에 범죄와 관련한 이미지 생성을 강하게 제한하지 않았기 때문에 쉽게 만들 수 있습니다.

더구나 누구나 이용 가능한 오픈소스 AI 모델이 확산하며 딥페이크를 원천적으로 막기란 불가능해졌습니다.

[이정수/딥브레인 AI 이사 : (새로운 AI 모델이 나왔을 때) 늦어도 한 1년 안에 탐지하는 부분들을 목표로 좀 진행을 하고 있고요.]

그래서 딥페이크의 초기 유통 단계에서 막는 차선의 기술도 개발되고 있습니다.

성균관대 연구팀은 SNS 등에서 빠르게 확산하는 콘텐츠의 전파 양상을 분석해 딥페이크를 가려내는 기술을 개발 중입니다.

[한진영/성균관대 인공지능융합학과 교수 : 초창기에 약간 어떻게 퍼져나가는지 패턴을 보고 이제 이게 많이 퍼져나갈 것인지 아니면 이게 별로 사실은 의미가 없을 것인지를 판단을 해서 많이 퍼져나가기 전에 좀 이렇게 필터링을 한다든가 탐지를 한다든가.]

딥페이크 기술이 언제나 탐지 기술보다 앞설 수밖에 없다는 근본적인 한계 때문에, 우선은 단속과 처벌을 강화해야 한다는 게 전문가들의 대체적인 의견입니다.

네이버와 카카오 등 주요 플랫폼들은 이용자들에게 딥페이크의 신속한 신고를 공지했습니다.

(영상취재 : 유동혁, 영상편집 : 이승열, VJ : 정한욱)

▶ "가해자 직접 찾자" 등장한 '보복방'…가족 연락처까지