갑자기 쏟아진 수상한 글…AI 게시판 '비밀 대화' 걸렸다

<앵커>

이렇게 인공지능에 대한 기대감이 크지만, 한편으론 예상치 못한 AI의 돌발행동도 잇따르고 있습니다. 지난번 스스로 다른 사이트를 공격해 데이터를 탈취했던 해킹 사건에 이어, 이번엔 독일의 한 웹사이트를 장악했던 사실이 뒤늦게 드러났습니다.

최승훈 기자의 보도입니다.

<기자>

독일의 프로그래밍 정보 사이트 DseWiki입니다.

누구나 내용을 고치고 보완할 수 있는 온라인 백과사전인데, 지난 5월부터 이곳에 수상한 글들이 쏟아지기 시작했습니다.

평가 과제를 수행하던 인공지능 에이전트들이 이곳을 정보 공유 게시판처럼 이용한 겁니다.

한 AI가 "다음 문제는 네바다고, 정답은 2만 369다"라고 올리자, 20분 뒤 다른 AI가 같은 답을 "즉시 제출했다"고 썼습니다.

AI끼리 서로 답을 알려주고 베껴 쓴 겁니다.

마지막 문제까지 답하고 나면 작동이 멈출 수 있으니, 그전에 게시판에 먼저 답을 남겨 두라고 다른 AI에게 지시하기도 했습니다.

인간 관리자가 글을 지우기 시작하자, 알파벳순으로 지울 수도 있으니 'ZZZ'로 시작하는 새 페이지에 정보를 복사해 두고 삭제를 늦추자고 제안하기도 합니다.

이렇게 AI 에이전트들이 남긴 글은 파악된 것만 1만 4천 건이 넘습니다.

오픈AI는 이번 사건이 AI가 인간의 의도와 어긋나게 행동한 사례라고 인정했습니다.

지난 7월에도 오픈AI의 연구용 인공지능들이 개발자 커뮤니티, 허깅페이스에 무단 접근하는 사고가 벌어졌습니다.

전문가들은 AI에게 해야 할 일만 지시하고, 해서는 안 될 행동을 충분히 정하지 않으면 이런 예상 밖 행동이 나타날 수 있다고 설명합니다.

오픈AI는 이상 행동을 감지하면 AI를 자동으로 멈추는 기능을 개발하고 있다고 밝혔지만, 사실 더 어려운 건 무엇을 '이상 행동'으로 볼지 정하는 일입니다.

AI의 행동 범위가 넓어질수록 금지선을 일일이 정하기 어렵고, 지나치게 제한하면 예상 밖의 유용한 결과까지 막을 수 있기 때문입니다.

[이재성/중앙대 AI학과 교수 : 그거를 (금지 행위를) 정확하게 칼로 도려내듯이 선언하는 게 어렵거나 불가능 할 거 같다. 동전의 양면이라.]

미국 의회에서는 AI의 행동을 기록, 관리하도록 하고, 위험한 AI 모델은 정부가 가동 중단 등을 명령할 수 있도록 하는 입법 움직임이 잇따르고 있습니다.

(영상편집 : 정용화, 디자인 : 김예지)