선동하려다 딱 걸렸다?…'중국어 간체자' 포착

오픈AI가 중국과 연계된 것으로 추정되는 세력이 챗GPT를 이용해 미국 내 여론 조작을 시도한 정황이 포착됐다고 주장했습니다.

오픈AI는 최근 발간한 '위협 보고서'를 통해 중국 연계 추정 챗GPT 계정 군집 두 곳을 적발해 차단했다고 밝혔습니다.

이들은 지난해 말부터 올해 초에 걸쳐 활동하며 미국 내 인공지능(AI) 정책과 관련한 에너지 문제와 관세를 비롯한 무역정책 등 현안을 파고들어 분열을 조장하려 한 것으로 드러났습니다.

한 그룹은 AI 데이터센터가 평범한 가정의 전기요금을 인상하고 있다는 선동을 주도했습니다.

이들은 우회 프로그램 VPN을 사용해 중국 외 지역에서 접속한 것처럼 위장했지만 챗GPT에 입력한 프롬프트는 중국 본토에서 쓰는 간체자 중국어였습니다.

보고서는 이들이 중국 지방 정부를 고객으로 둔 중국의 민간 기업일 것으로 분석했습니다.

또 다른 그룹은 미국의 관세 정책이 기술 패권을 장악하려는 시도라고 비판하는 캠페인을 벌였습니다.

이들은 미국과 중국의 기술 경쟁을 주제로 하는 정치 풍자 만화를 챗GPT를 통해 대량 생성했는데 이때 "만화에는 도널드 트럼프 대통령만 나와야 하고 시진핑 중국 국가주석이 나와서는 안 된다"는 명령어를 꼬박꼬박 넣은 것으로 나타났습니다.

이렇게 생성한 만화는 엑스(X·옛 트위터)와 같은 SNS를 통해 유포했습니다.

보고서는 이들이 자신들을 '수군'(水軍)이라고 지칭했는데, 이는 조직적 비판 활동을 벌이는 온라인 계정을 뜻하는 중국 은어라고 덧붙였습니다.

다만 이들이 벌인 여론 조작 시도는 대부분 실제 영향력을 발휘하지 못했다고 오픈 AI는 평가했습니다.

이에 대해 주미중국대사관은 "중국을 향한 근거 없는 공격이나 비방에 단호히 반대한다"며 "중국 정부는 AI가 모두를 위한 선한 힘이 되도록 노력하고 있다"고 반박했습니다.

(취재: 김태원, 영상편집: 이다인, 디자인: 육도현, 제작: 디지털뉴스부)