[취재파일] AI가 인플루언서로 만들어드립니다

유명한 인플루언서가 되고 싶으신가요? 가령 내 SNS 스트리밍 방송에 수만 명이 동시 접속해서 내 일거수일투족을 지켜보고 있는 삶을 말이죠. 이제 AI가 하루아침에 그 꿈을 해결해 줄 수 있습니다. 앱 하나만 깔면 됩니다. 이 앱을 실행하면 SNS 스트리밍 화면 속에 내 모습이 등장하고, 전 세계 수만 명의 시청자 팬들이 열광합니다.

스트리밍 화면 속에 폭풍처럼 쏟아지는 채팅들. 내용이 너무 많고 휙휙 지나가다 보니 다 읽을 수도 없습니다. 비록 스마트폰 작은 화면 속의 글자들에 불과하지만, 거대한 채팅 물결을 바라보고 있으면 고막을 찢는 함성이 들리는 듯합니다.

마치 유명 연예인들이 라이브 스트리밍을 했을 때의 딱 그 느낌! 그런데 이 수만 명의 시청자 팬들과 그들이 만들어낸 열광적인 채팅 물결이 모두 AI가 만들어낸 '가짜'라고 한다면 어떨까요?


최근 미국의 토론 커뮤니티 레딧에 "인공지능 채팅을 활용한 가짜 라이브스트림을 만들어 사람들을 끌어들이기(Building an fake livestream with an A.I. chat to attract people)"란 논쟁적인 제목의 글이 올라왔습니다. 이 글과 함께 첨부된 영상은 다음과 같습니다.

한 남성이 카페 같은 데에서 스마트폰 카메라를 고정해 놓고 SNS 스트리밍 방송을 시작한 뒤 어떤 아름다운 여성에게 접근합니다. 이 여성은 남성이 손가락으로 가리킨 카메라를 살펴보더니, 어마어마한 시청자 수와 거대한 채팅 물결을 보고는 남자가 대단한 '인플루언서'라고 여겼는지 깜짝 놀랍니다. 쏟아지는 채팅 내용들을 보면, "둘이 정말 잘 어울린다", "영화 같은 순간이다"라며 실제 상황과 맥락에 꼭 들어맞는 찬사들 일색입니다. 이 여성은 모든 게 AI로 연출된 상황인 걸 모른 채 '가짜' 인플루언서 남성과 점점 깊은 관계로 빠져든다는 게 골자입니다.


영상 한구석에 이 앱 광고도 조그맣게 띄워 놨습니다. 사실 가짜 인플루언서로 둔갑해주는 AI 앱을 홍보하는 거죠. 이 앱을 이용해서 인플루언서인 것처럼 행세하면서 원하는 이성의 관심을 사로잡으라고 유혹합니다.

레딧에서 이 영상을 본 사람들 반응은 어땠을까요? 불쾌하다는 비난 일색의 반응이 대다수였습니다. 형편없는 앱 광고다, 사기 범죄에 다름없다는 식으로 분통을 터뜨립니다. 혹시라도 이 앱을 사용할 이들에 대해서는 '한심한 패배자'라고 지칭하며 욕설까지 서슴지 않습니다. 이 앱을 비난하는 정서를 대표할 만한 댓글을 하나 옮겨봤습니다.

"이건 정말 많은 사람들을 속일 거야, 웃긴 일도 아니야. 사람들은 이미 잘 속는 바보들인데, 이건 그들을 더 멍청하게 만들 거야. 이건 질 나쁜 앱을 위한 광고일지도 모르지만, 사람들은 망설임 없이 이걸 구매하고 사용할 거야. 패배자들은 멍청이들을 속이기 위해 이걸 사용할 거야. 이건 모두 쓰레기의 순환일 뿐이야."


사회적으로 성공하기 위해, 때론 이성 호감을 얻기 위해 건실하게 노력하는 이들이 많은데, 고작 AI 앱 하나로 연예인 뺨치는 유명세를 조작해 성공을 누릴 수 있다면 누가 노력을 할까요? 수많은 '무임승차자'를 만들어내고 공정한 사회 룰을 무너뜨릴 수 있다는 점에서 실로 많은 이들이 불쾌감을 토로하고 있습니다.

AI가 딥페이크처럼 특정 인물을 가짜로 만들어내는 게 조작 수준이라면, 신뢰할 만한 정통 언론이나 당사자 확인 등의 교차 검증을 통해 노력이 들지언정 사실 여부를 아주 확인할 방법이 없는 건 아닙니다. 그러나 이 AI 앱처럼 다수의 채팅이나 댓글을 생성하는 조작은 사실인지를 검증할 수단이 딱히 없습니다.


미디어 내에서 형성된 여론 역할이 갈수록 중요해진 사회에서 AI로 실시간 대규모 여론 조작이 얼마나 쉬운지를 이 앱이 잘 보여주고 있습니다. 특정한 정치 세력이 이 앱으로 여론을 왜곡할 수 있고, 민주주의 가치가 훼손될 수도 있습니다. AI 윤리 규범이 아직 제대로 갖춰지지 않은 상황에서 AI 부작용이 횡행해 우리 사회의 신뢰성에 큰 타격을 입힌다면, 우리가 치러야 할 사회적 비용은 더욱 커질 수밖에 없습니다. AI 기술이 발달하면서 우리 사회가 직면할 문제도 갈수록 까다롭고 복잡해지고 있습니다.

* 이 기사에 사용된 이미지 일부는 독자 이해를 돕기 위해 AI로 생성됐습니다.