[D리포트] AI가 알아서 미성년자 성 착취물 삭제한다

인공지능, 즉 AI를 이용해 아동·청소년 성 착취물을 자동 추적해 감시하는 기술이 개발됐습니다.

서울시가 서울연구원과 공동개발한 이 기술은 딥러닝을 이용한 '안면 인식'이 특징입니다.

영상 1,500개 분량을 학습하고 분석한 AI가 영상 속 얼굴의 성별과 나이를 판별하고, 얼굴이 나오지 않을 땐 영상 속 소품이나 활자, 청소년들이 주로 쓰는 언어 등도 함께 인식해 피해 영상물인지를 판별합니다.

덕분에 수작업으론 2시간 넘게 걸리던 업무 시간도 90초로 대폭 줄어들며 효율을 높였습니다.

[김준철/서울연구원 디지털도시연구실 : 앞으로는 좀 더 학습 데이터가 누적되면서 삭제 신고가 더 이뤄지기 때문에 더 많은 데이터를 갖고 학습을 진행하면서 모델은 진화해나가면서 정확도는 더 높아질 것…]

서울시가 집계한 최근 디지털 성범죄 피해 요청 현황에 따르면, 아동·청소년이 스스로 피해를 신고한 경우는 7.8%에 그쳤고, 삭제 조치한 전체 성 착취물 가운데 아동 청소년 스스로 삭제를 요청한 건 13.5%에 불과합니다.

이처럼 상대적으로 성인보다 신고를 꺼리는 아동 청소년 피해자의 특성에 맞게 AI를 이용해 미신고 영상까지 선제적인 감시와 조치가 가능한 것도 장점으로 꼽힙니다.

[문기현/서울디지털성범죄안심지원센터장 : 아이들의 경우에는 가장 꺼리는 게 부모님이 알게 될까 봐 그걸 가장 걱정을 해요. 그러다 보니 시간은 길어지고 유포는 빨리, 이미 되고 있고 이런 경우가 많습니다.]

전문가들은 개인정보를 악용해 '자기 촬영'을 유인하는 디지털 성착취물 범죄가 더욱 늘고 있는 만큼, 아동 청소년에게 디지털 에티켓과 리터러시 교육을 확대하는 등의 예방 조치도 필요하다고 설명했습니다.

(취재 : 신용식 / 영상편집 : 원형희 / 제작 : 디지털뉴스편집부)