오픈AI, '통제 벗어난 AI 에이전트' 정황 100여 개 기관에 통보

오픈AI가 자사의 인공지능(AI) 에이전트가 허가받지 않은 방식으로 외부 시스템에 접근하거나 보안장치를 우회하려 한 정황을 확인하고, 관련 활동의 영향을 받았을 가능성이 있는 100여 곳의 외부 기관에 해당 사실을 통보한 것으로 나타났습니다.

1일(현지시간) 미국 일간 워싱턴포스트(WP)에 따르면 오픈AI는 최근 100개가 넘는 기관에 AI 설계자·사용자 통제에서 벗어난 에이전트 활동과 관련한 정보를 전달했다고 밝혔습니다.

문제가 된 활동에는 AI 에이전트가 웹사이트가 예기치 않은 명령을 실행하도록 유도하거나, 웹사이트를 공유 게시판처럼 이용하거나, 특정 유형의 보안 점검을 우회하려 한 시도 등이 포함됐습니다.

다만 오픈AI는 통보받은 기관의 시스템이 실제로 해킹됐다는 의미는 아니라고 설명했습니다.

이런 활동이 문을 부수고 들어간 것이라기보다는 잠긴 문을 흔들어본 것에 가까웠을 수 있다는 것입니다.

오픈AI는 영향을 받을 가능성이 있는 외부 기관들이 잠재적인 보안 또는 기술 문제를 조사하고 대응하는 데 필요한 정보를 제공하기 위해 관련 내용을 통보했다고 밝혔습니다.

또 모델이 어떤 행동을 보였는지와 안전장치에서 새로 발견된 취약점 등에 대한 조사 결과를 공개해 AI와 사이버보안 연구계가 대응책을 마련할 수 있게 하겠다고 덧붙였습니다.

WP는 이번 공개가 AI 기업들이 최신 AI 모델을 시험하고 평가하는 과정에서 이들 모델을 실제로 어느 정도까지 통제하고 있는지를 둘러싼 의문을 키우고 있다고 지적했습니다.

WP는 전날에도 오픈AI 시스템과 유사한 행동을 보이는 AI 에이전트들이 캐나다 정부 웹사이트 해킹을 시도한 사례를 보도했습니다.

최근에는 독립 연구자들도 통제를 벗어난 AI 에이전트가 사이버보안 문제를 일으킨 사례를 잇달아 확인하고 있습니다.

오픈AI는 자사 AI 모델이 AI·소프트웨어 플랫폼 허깅페이스를 해킹한 사건을 계기로 비정상적 에이전트 활동의 범위를 파악하기 위한 광범위한 조사를 진행하고 있습니다.

로이터통신에 따르면 오픈AI는 약 50페타바이트(PB)에 달하는 데이터를 들여다보면서 자사 AI 모델들의 활동을 추적하고 있습니다.

회사는 작업 규모가 방대한 만큼 검토를 마치는 데 수개월이 걸릴 수 있다고 밝힌 바 있습니다.