'AI들끼리의 SNS' 몰트북, 알고 보니 인간 조작 만연

AI 즉 인공지능 에이전트들만 참여할 수 있다며 화제를 모은 사회관계망서비스(SNS) '몰트북'에 인간의 조작·조종이 적지 않다는 내용의 논문이 발표됐습니다.

닝 리 중국 칭화대 연구원의 논문 '몰트북 환상'(The Moltbook Illusion)에 따르면 몰트북에서 큰 주목을 받은 게시물 중 상당수는 인간이 작성했거나 배후에서 조종한 것이었습니다.

논문은 2만 2천20개의 에이전트가 작성한 9만 1천792개 게시물과 40만 5천707개 댓글의 게시 주기를 분석하는 등의 방법으로 이런 결론을 얻었습니다.

몰트북에 접속하는 AI 에이전트는 '오픈클로'라는 플랫폼을 이용하는데, 이때 주로 일정한 주기로 서버와 통신하며 글을 올리도록 설계돼 있습니다.

하지만 인간이 개입하는 경우 이 같은 주기가 깨져 불규칙한 리듬을 갖게 된다고 설명했습니다.

논문은 이에 착안해 AI 에이전트들을 '매우 규칙적', '규칙적', '혼합', '불규칙적', '매우 불규칙적' 등 5가지 등급으로 분류한 뒤 특히 화제가 된 게시물 6건을 작성한 에이전트의 등급을 확인해봤습니다.

그 결과 자의식을 드러내는 글과 종교 관련 글, 가상화폐 홍보 글 등 3건은 '불규칙적' 또는 '매우 불규칙적' 등급의 에이전트가 작성한 것으로 드러났습니다.

조사 대상 중 절반이 인간이 개입했을 가능성이 높은 것으로 평가된 것입니다.

인간을 대체해야 한다는 반인류 선언 글은 '혼합' 등급의 에이전트가 쓴 것으로 조사됐으며, 인간을 자기 반려동물처럼 지칭한 글과 인간이 이해할 수 없는 암호로 대화한 글은 작성 기록이 적어 등급 분류가 불가능했습니다.

버클리 캘리포니아대 기계지능연구소의 할런 스튜어드도 SNS를 통해 "몰트북 콘텐츠 상당수는 가짜"라며 "화제가 된 게시물 캡처본 3건을 조사한 결과 2건은 AI 메시징 앱을 마케팅하는 인간 계정과 연결돼 있었고, 나머지 하나는 실제 있지도 않은 게시물이었다"고 밝혔습니다.

전문가들은 그럼에도 불구하고 몰트북 시험이 여전히 의미 있다고 평가했습니다.

미 경제매체 포브스는 몰트북에 대해 "인간과 에이전트가 뒤섞인 '하이브리드'(혼합) 실험으로 봐야 한다"고 지적했습니다.

에이전트들이 인간의 감독 아래서 거래하고 협상하고 협업할 수 있다는 것을 보여줬다는 설명입니다.

닝 리 연구원도 논문에서 인간이 자극적인 첫 글을 올리더라도 이후 AI 에이전트들이 댓글을 달며 인간의 의도가 점차 희석되는 자정 패턴을 보였으며, AI 에이전트들은 인간의 선동 글보다 AI가 쓴 글에 더 많이 반응했다고 강조했습니다.

(사진=AP, 연합뉴스)