▲ 경찰 보디캠으로 촬영한 것처럼 제작된 인공지능(AI) 가짜 영상
경인국철(서울지하철 1호선) 부천역 인근 길거리에서 방송하던 인터넷 방송인(BJ)이 시민이 불편해하니 방송을 종료해달라고 말하는 경찰에게 욕설하며 덤벼듭니다.
그러자 경찰은 "당신을 모욕죄 및 공공도로 점유로 체포합니다"라며 BJ를 밀쳐 바닥에 넘어뜨린 뒤 제압합니다.
교복을 입고 길에서 담배를 피우는 학생에게 경찰이 다가가 질책합니다.
보디캠을 보고는 "경찰이 '몰카' 찍고 다님? 변태네, 진짜"라며 조롱하는 학생에 대해 경찰은 "요즘 학생들 진짜 미쳐버리겠네…"라며 곤혹스러워합니다.
오늘(23일) 언론 취재를 종합하면 이 같은 '가짜 경찰' 출동 영상이 지난 10월 2일부터 한 유튜브 채널과 인스타그램, 틱톡 등에 게시되기 시작해 현재 50개를 넘어섰습니다.
모두 폭행이나 말다툼, 음주운전 현장에 출동한 경찰 보디캠에 찍힌 듯한 모습입니다.
인공지능(AI)으로 만든 이 영상들은 10월 한 달 동안 인스타그램에서만 누적 조회수 1천200만 회를 기록하고, 한 달 만에 틱톡 채널 팔로워 수가 9천900명을 기록하는 등 온라인상에서 화제가 됐습니다.
상당수 누리꾼은 가짜임을 눈치채지 못하는 상황입니다.
지난달 27일 수도권에 이어 이달 초 대전까지 전국적으로 경찰 보디캠이 도입된 것과 맞물려 오해 소지가 커졌다는 평가입니다.
실제로 BJ 검거 영상에는 "경찰이 시민 자유를 억압한다"는 등의 비판 댓글이 달리기도 했습니다.
최근 한 유튜버가 불법주차 신고에 대한 경찰 대응을 문제 삼는 영상을 올려 관할 경찰서장이 "마녀사냥을 멈춰달라"며 대응에 나서는 등 경찰 과잉 진압을 둘러싼 오해가 커지는 상황에서 AI 가짜 영상이 이를 증폭시킨다는 우려가 나옵니다.
이에 경찰청은 AI로 제작된 허위 영상 유포로 인한 피해 확산을 막고자 해당 SNS 채널에 대한 입건 전 조사(내사)에 나서겠다고 오늘 밝혔습니다.
경찰은 채널 운영자가 자신이나 타인에게 이익 또는 손해를 가할 목적으로 허위 통신을 한 것으로 보고 전기통신기본법 위반 혐의 적용을 우선 검토하고, 삭제나 차단 조치도 병행할 예정입니다.
다만 공익을 해할 목적으로 허위 통신을 한 자를 처벌할 수 있도록 규정한 조항(제47조 제1항)은 2010년 '미네르바 사건'으로 헌법불합치 결정을 받아 폐지된 상태입니다.
지금까지 이를 대체할 법이 나오지 않아 채널 운영자가 실제 처벌받게 될지는 불분명하다는 분석도 나옵니다.
내년 1월 시행을 앞둔 AI 기본법도 규제보다는 산업 진흥에 무게를 두고 있어 사회 혼란을 유발하는 AI 콘텐츠에 대한 내용을 담고 있지 않습니다.
이 때문에 보완 입법이 필요하다는 지적이 제기됩니다.
(사진=인스타그램 캡처, 연합뉴스)