'가짜' 이이경·이정재에게 당했다…연예계 확산된 'AI 범죄' 공포 [스프]

연예인을 사칭해 투자를 유도하거나 범죄에 악용하는 사례는 그동안 심심치 않게 발생해 왔다. 연예인의 이름으로 가짜 SNS를 개설한다거나, 무단 도용한 사진을 내걸고 광고에 이용하는 등의 방식으로 피해자에게 접근해 금품을 갈취하고 연예인 본인의 이미지를 훼손했다.

그래도 연예인의 이름이나 사진만 활용한 사칭은, 눈으로 확인할 수 있는 실체가 없어 어느 정도 한계가 따랐다. 하지만 AI와 딥페이크 기술의 발달로, 연예인을 사칭하는 방식이 갈수록 교묘하고 정교해지고 있다. 이젠 뭐가 진짜이고 가짜인지 쉽게 구분이 가지 않을 정도다.

연예계에선 일찌감치 AI 범죄에 대한 경계령이 내려졌다. 특히 수많은 여성 연예인들을 성적대상화해 이들의 얼굴을 딥페이크로 합성한 음란물 제작 범죄가 늘었다. 블랙핑크, 아이유, 트와이스, 뉴진스, 권은비 등이 딥페이크 음란 합성물 피해를 호소하며 법적 대응에 나섰다.

실제 금전적인 피해로도 이어졌다. 유명인의 얼굴과 목소리를 딥러닝 시켜 만든 AI 영상으로 투자를 유도한 사기 범죄가 발생했다. 배우 송혜교, 조인성 등의 얼굴과 목소리를 똑같이 따라 해 축전 영상을 만들어, 이를 활용해 수천만 원의 투자를 유도한 사기 사건이 있었다.

이제 보이는 대로 다 믿을 수 없는 세상이다. 문제는 이런 AI 기술이 대중화되며 누구든 쉽게 가짜를 만들어낼 수 있다는 점이다. 컴퓨터 전문가나 IT 기술자가 아니더라도, 누구든 휴대폰만 있으면 손가락 터치 몇 번에 진짜 같은 가짜를 만들 수 있다. 그리고 그렇게 손쉽게 만들어낸 가짜는, 사회에 엄청난 혼란을 불러올 수 있다.

최근 발생한 배우 이이경의 사생활 거짓 폭로전은 AI 기술의 대중화와 그로 인한 가짜 콘텐츠 제작이 얼마나 무서울 수 있는지를 보여준다.

지난 20일 한 누리꾼은 이이경의 실체를 폭로하겠다며 카카오톡 대화 내용을 공개했다. 이 대화 속에서 이이경으로 추정되는 인물은 음담패설과 욕설을 일삼았다. 친근하고 건실한 이미지로 대중의 사랑을 받고 있는 이이경의 이미지와는 너무나도 상반된 대화 내용은 그야말로 충격이었다. 이 대화 속 인물은 자신의 사진이라며 일상 사진도 공유했는데, 그동안 대중에 공개된 적 없는 이이경의 사적인 모습을 담은 사진들이라 폭로를 믿게 했다.

하지만 이 폭로글은 거짓이었다. 이이경의 소속사가 허위사실 유포 및 악성 루머 등으로 인한 피해에 법적 조치를 취하겠다고 경고하자 해당 누리꾼은 "AI를 이용한 장난"이었다며 뒤늦게 진실을 실토하고 사과했다.

AI를 이용한 자작극임이 드러나며 사건은 일단락됐지만, 논란이 지속된 사흘 동안 이이경 본인은 지옥 같은 시간을 보냈을 것이다. 가만히 있다가 논란의 중심에 서고, 폭로 내용을 사실이라 믿은 사람들이 쏟아낸 온갖 비난을 온몸으로 받아내야 했던 그는 무슨 죄인가. AI가 얼마나 쉽게 악용될 수 있는지, 얼마나 큰 사회적 혼란을 야기시킬 수 있는지 보여준 사례다.

배우 이정재도 최근 사칭 피해로 곤욕을 치렀다. 이정재를 사칭한 로맨스스캠 일당이 SNS를 통해 접근한 50대 여성에게 약 5억 원을 편취한 범죄 사건이 일어났다. 이 일당은 AI로 만든 이정재의 가짜 사진, 위조 신분증으로 여성을 속이고 돈을 뜯어낸 것으로 알려졌다.

사건이 알려지자 이정재의 소속사 아티스트컴퍼니는 "당사는 물론 아티스트 개인도 어떠한 경우를 불문하고 금품, 계좌이체, 후원 등 경제적 요구를 하지 않는다"라고 주의를 당부했다.

AI로 만든 연예인의 사진을 악용한 실질적인 피해가 연이어 발생하자, 연예계가 잔뜩 긴장하고 있다. AI 기술이 대중의 실생활에 깊이 스며들었고 거짓이라도 정보의 유포 속도가 빠른 지금의 상황에선 추가 피해가 얼마든지 나올 수 있으니, 대안 마련이 시급하다는 목소리가 높아지고 있다.

AI 피해를 줄이기 위해서는 AI 제작 여부를 판가름할 수 있는 기술의 향상, AI 제작 콘텐츠의 워터마크 표시 의무화 등 기술적, 제도적 대안 마련과 함께 AI 범죄에 대한 법적 처벌 강화가 필요하다. AI를 이용한 범죄는 해마다 계속 늘어나고 있는데, 이에 대한 처벌은 제대로 이루어지지 않고 있다.

'AI 기본법'이 통과돼 내년 시행을 앞두고 있다. 하지만 AI 산업 진흥에 방해되지 않는 선에서 규제를 하려다 보니 불완전하다는 지적이 많다. 특히 AI와 관련한 윤리적 조항들이 부족하다는 지적이다.

(남은 이야기는 스프에서)