전부 여론 조작용이었다…'팔로워 8만 명' 계정 정체 '충격'

현지시간 18일 미 일간 뉴욕타임스는 이란과 중국의 국가 세력과 이스라엘의 기업들이 인공지능을 활용한 자율형 여론 조작을 소셜미디어에서 펼쳤다고 보도했습니다.

뉴욕타임스가 인용한 미 당국자들과 보안 전문가들에 따르면 해당 국가와 단체들은 인공지능을 활용해 인간을 넘어선 속도와 규모로, 인간이 최소한으로 개입한 온라인 여론 조작 활동을 급격히 확대했습니다.

이들은 자유롭게 다운로드하고 수정할 수 있는 중국의 오픈소스 인공지능 모델을 활용해 스스로 특정 과업을 수행할 수 있는 봇인 에이전트를 만들었습니다.

수백 개의 인공지능 에이전트들은 인스타그램, 페이스북, X, 틱톡 같은 플랫폼에서 가짜 계정들을 자율적으로 생성했습니다.

이어 여론을 흔들기 위해 정치와 시사 이슈 관련 허위 게시물을 가짜 계정을 통해 빠르게 유포했습니다.

중국과 이란의 캠페인은 국가 주도였고, 이스라엘의 캠페인은 민간 기업이 주도한 것으로 추적됐습니다.

이란 캠페인의 경우 미국 대중을 겨냥했으며, 에이전트가 생성한 가짜 계정들은 주요 도시에 거주하는 평범한 미국인으로 위장했습니다.

이 계정들은 기자와 정치인들을 태그해 인기 밈과 반공화당 성향 의견 등을 유포했습니다.

올해 상반기 활동으로 모은 팔로워만 약 8만 명에 이릅니다.

앞서 페이스북과 인스타그램을 운영하는 메타도 인공지능을 동원한 이란의 선전 공작을 차단했다고 지난달 말 발표한 바 있습니다.

인공지능 에이전트가 계정 생성부터 온라인 메시지 조율에 이르는 여론 조작 활동의 모든 단계를 전담한 것은 사실상 최초 사례에 속한다고 당국자들은 전했습니다.

이러한 인공지능 에이전트 기반 활동은 조잡한 수준이었으나 미국 정보기관과 기술 기업, 보안 전문가들의 주목을 받았습니다.

공개적으로 이용 가능한 인공지능 모델이 사실상 스스로 온라인 여론 조작을 수행하는 데 악용될 수 있다는 공포를 불러일으켰기 때문입니다.

일부 미 당국자는 오는 11월 중간선거를 앞두고 미국 투표자들을 겨냥해 유사한 시도가 이뤄질 수 있다고 우려했습니다.

조지타운대 안보·신기술센터의 카일 크라이튼 연구원은 기술이 계속 발전하면서 인공지능 에이전트 주도형 여론 조작 시도가 더 흔해질 것이라고 내다봤습니다.

크라이튼 연구원은 에이전트는 상당히 정교해질 수 있어 단순한 스케일 확장을 넘어 실제 인간 사용자처럼 자연스럽게 섞이는 능력을 갖추게 된다고 설명했습니다.

(사진=AP, 연합뉴스)