▲ 인공지능(AI) 콘텐츠로 추정되는 중계 영상 속 한 여성 캡처
야구장 관중석에서 한 미모의 여성이 카메라에 잡힙니다.
흰색 탱크톱과 청바지를 입은 긴 생머리 여성은 다리를 꼰 채 한 곳을 응시하다 경기가 마음에 안 든다는 듯 입술을 깨물며 시선을 옮깁니다.
화면 위로 "와, 게임에 집중할 수가 없네요!"(Wow, I can't concentrate on the game!)라고 영어로 외치는 어떤 남성의 목소리가 흐릅니다.
지난 1일 사회관계망서비스(SNS) 인스타그램에 올라온 5초짜리 영상입니다.
'티비에 내가 나왔으면 좋겠다'는 설명이 붙은 이 영상은 사흘 만인 4일 현재 누적 조회수 811만여 회, 하트 2만 5천여 개를 받으며 화제를 모으고 있습니다.
그런데 이 영상이 인공지능(AI)으로 생성한 것인지를 두고 논란이 이는 가운데, 가짜가 맞는다면 소름이 돋는다는 반응이 나옵니다.
동시에 SNS에 올라오는 AI 콘텐츠에 대한 가이드라인이 필요하다는 지적이 제기됩니다.
해당 영상을 AI 딥페이크라고 지적하는 쪽은 야구 점수표와 응원 슬로건 문구 등 화면 속 요소들에서 오류를 잡아냅니다.
영상의 왼쪽 상단에 떠 있는 점수표에는 현재 뛰고 있는 투수가 김서현, 타자가 조인성이라고 적혀 있습니다.
김서현은 2023년 한화 이글스에 입단해 현역으로 뛰고 있지만, 조인성은 1998년 LG 트윈스에 입단해 2017년 은퇴한 후 현재 코치로 활동하고 있습니다.
SNS에 퍼진 가짜 영상이 논란이 된 것은 처음이 아닙니다.
지난달에는 대전 동물원에서 늑대 '늑구'가 탈출했을 당시 SNS에 올라온 가짜 목격 사진이 당국의 재난 문자 송출과 수색에까지 영향을 미쳤습니다.
대전경찰청 사이버수사대는 AI를 활용해 조작한 늑구 목격 사진을 생성·유포해 경찰·소방 당국의 수색을 방해한 혐의(위계에 의한 공무집행 방해)로 40대 A 씨를 검거했다고 지난달 24일 밝혔습니다.
러브버그가 기승을 부리던 지난해 7월에는 참새가 러브버그를 쪼아 먹는 AI 영상을 실제 장면으로 오인한 일부 방송사가 '천적이 등장했다'는 오보를 내기도 했습니다.
우리나라는 지난 1월부터 생성형 AI 결과물에 워터마크를 표시해야 하는 'AI 기본법'을 시행하고 있습니다.
사회적 부작용이 우려되거나 실제와 구분하기 힘든 딥페이크 콘텐츠일 경우 AI로 제작했다는 사실을 이용자가 인식할 수 있게 고지하거나 표시해야 한다는 내용입니다.
하지만 이 법은 AI 모델을 개발하고 이를 활용한 서비스를 직접 제공하는 기업과 사업자가 대상입니다.
AI 서비스를 단순히 업무나 창작 도구로 쓸 경우에는 규제 대상이 아닙니다.
이광석 서울과기대 IT정책전문대학원 교수(미래이후연구소장)는 "SNS에 올라오는 AI 콘텐츠에 대한 가이드라인도 필요하고, 공익을 크게 훼손한다면 법적 제재도 해야 한다"고 밝혔습니다.
그는 "플랫폼사업자가 AI 생성 데이터의 맥락이나 확산을 결정하는 매개 권력을 쥐고 있다는 점에서 공익 훼손이나 오정보 사안들에 실질적 책임을 지우고 플랫폼 업체에 대한 처벌 범위를 확대해야 한다"고 강조했습니다.
이어 "이는 플랫폼 기업의 기술적 조치로 도입되어야 하는 것인데, SNS 업로드 시점에 AI 생성물임을 나타내는 '디지털 표식'을 강제하는 의무적 워터마킹제가 도입돼야 한다"며 "100% 효과적인 장치는 아니더라도 많은 숫자의 AI 생성물 오남용을 막을 수 있는 안전장치 정도로는 기능할 것"이라고 제안했습니다.
(사진=인스타그램 캡처, 연합뉴스)