지워도 끝없던 성범죄 영상…단 '6분' 만에

<앵커>

온라인에 퍼지는 디지털 성범죄 영상은 그걸 찾는 것도 일이지만, 증거를 확보해서 하나하나 신고하고 삭제하는 데도 많은 시간과 노력이 필요합니다. 그런데 이런 과정을 획기적으로 줄여주는 AI 시스템이 생겼습니다.

장훈경 기자가 전하겠습니다.

<기자>

피해자만 261명으로 역대 최대 규모의 텔레그램 성 착취방인 '목사방' 사건.

[원은지/'추적단 불꽃' 활동가 (지난해 5월, SBS 8뉴스) : 2년 동안 그런 능욕을 했으니까 (만남을) 서울대입구역 어떠냐고 제안을….]

서울대 동문 등 60여 명의 사진을 합성해 음란물을 만든 '서울대 딥페이크' 사건.

피해 영상과 사진들은 지워도 또 어딘가에 게시되곤 해, 서울시 디지털 성범죄 안심지원센터 직원들이 지속적으로 온라인에서 찾아 신고하고 있습니다.

공무원 1명이 불법 영상물 1개를 찾아 신고하기까지 평균 3시간인데, 새로 도입된 AI 시스템으로는 단 6분이면 됩니다.

키워드나 사진, 영상을 올리면 연관 파일을 모니터링해 찾아내고, 영상 속 인물의 나이를 추정해 아동 청소년 불법 촬영물 가능성까지 판단합니다.

증거 사진이 담긴 채증 보고서와 함께 영어, 중국어 등 7개 언어로 된 삭제 요청 이메일을 순식간에 작성합니다.

[김준철/서울연구원 AI빅데이터랩 연구위원 : 수작업 부분을 최대한 자동화하기 위한 업무 개선 방안을 도출하게 됐고…. 기존 대비 30배 정도 성능 개선이 이뤄졌고요.]

2년 전 1단계로 AI 검색 시스템만 도입했는데, 디지털 성범죄 영상 삭제 지원 건수가 6배 정도 늘었습니다.

특히 2년 새 13배 가까이 증가한 아동, 청소년 피해자들을 지원하는 데 큰 도움이 될 걸로 보입니다.

다만 해외에 서버를 둔 사이트의 경우, 삭제 요구를 받아들이지 않아도 제재가 불가능해, 관련 업무협약 확대 등 보완책 마련이 꼭 필요합니다.

(영상취재 : 김흥기, 영상편집 : 정성훈)