"있을 법한데?" 유튜브 보다 솔깃…택배 열자 황당 정체

<앵커>

구글이나 오픈 AI 같은 글로벌 빅테크들이 경쟁적으로 AI 영상 생성 도구를 출시하고, 또 성능을 강화하고 있습니다. 이렇게 만들어진 진짜인지 구별하기도 어려울 정도의 AI 영상들이 쏟아져 나오고 있는데요.

여기에 따르는 위험은 뭐고, 또 어떻게 막을 수 있을지 홍영재 기자가 전해드립니다.

<기자>

네, SBS 보도국 영상편집팀 사무실에 나와 있습니다.

영상편집기자가 구글의 AI 영상제작 도구인 VEO3를 사용하고 있는데요.

AI 도구로 어떻게 영상을 만들고 있는지 설명해 주세요.

[김종태/SBS 영상편집기자 : 원하는 장소나 사물, 인물이 있는 사진을 첨부하거나 특정 키워드를 육하원칙에 따라 프롬프트를 입력하면 8초 길이의 영상이 생성됩니다.]

얼굴 표정이나 목소리가 좀 어색하다고 느낀 분들도 계실 텐데, 지금까지 보신 영상, 사실 AI 도구에 사진 한 장씩 주고 만들어낸 겁니다.

원본 사진과 AI 영상을 비교해 보면, AI 영상 도구는 시간적, 공간적 한계를 극복하게 해 주는데요.

보시는 것처럼, 1년 내내 촬영이 필요한 서울 남산의 사계절 변화를 클릭 한 번으로 만들어낼 수 있고요.

촬영이 불가능했던 과거 청와대 압수수색 상황도 그럴듯하게 영상화할 수 있습니다.


우리 주변에서는 이런 AI 영상을 활용한 사기 사건이 이미 벌어지고 있습니다.

유튜브에 올라온 홍보 영상입니다.

[이 강아지 진짜, 아니에요. 부르면 대답까지 하는 진짜 같은 AI 로봇 강아집니다.]

진짜 강아지와 거의 비슷하게 만든 정교한 로봇 강아지라는 말에 속아 이걸 구매한 사람이 여럿입니다.

[김현태/AI영상 사기 피해자 : 기술이 워낙에 빠르게 발전하니까 이제는 저런 물건이 나올 법도 하다고 순간 생각이 들었어요.]

하지만 홍보 영상 자체가 살아 있는 강아지 모습을 AI 도구로 가공한 가짜였고, 실제 구매자에게 배송된 건 고속도로 휴게소에서 볼 법한 조잡한 강아지 인형이었습니다.

지난해 미국 FBI에 이어 최근 샘 올트먼 오픈 AI 최고경영자까지, AI 기술이 음성과 모습을 정교하게 모방하는 수준에 이르러 '사기 위기'가 현실이 됐다고 경고했습니다.

이렇게 거짓 정보를 담거나 의미 없이 재생산되는 AI 영상 유통을 막기 위해 최근 유튜브와 페이스북은 이런 영상에 대한 수익 배분을 중단하는 조치를 시작했습니다.

우리나라에서는 내년부터 AI 생성물임을 알리는 '워터마크'가 의무화되는데, 이것 만으로는 유해한 AI 영상 확산을 막는 데 한계가 있기 때문에 정부와 플랫폼 기업들의 보다 적극적인 대처가 필요해 보입니다.

※이 기사에 나온 AI 생성 영상은 구글 'VEO3'를 활용해 제작됐습니다.

(영상취재 : 최대웅, 영상편집 : 김종태, VJ : 정한욱)