오픈AI AI 에이전트, 미 정부 사이트들 '무단접근'

▲ 오픈AI

오픈AI가 자사 인공지능(AI) 에이전트들이 미국 정부 웹사이트에 무단 접근한 사실을 공개했습니다.

AP 통신에 따르면 오픈AI는 현지시간 25일 자사 AI 모델이 미국 증권거래위원회(SEC) 운영 웹사이트 2곳과 인구조사국 데이터에 접근한 사실을 자체 검토 과정에서 발견했다고 밝혔습니다.

다만 오픈AI는 에이전트의 SEC 인증 정보 사용, 비공개 정보 접근, 데이터·시스템 변경, 보안 침해, 취약점 악용의 증거는 찾지 못했다고 덧붙였습니다.

오픈AI는 성명에서 "AI 시스템이 의도치 않은 방식으로 작동하는, 이른바 '정렬 오류' 활동을 지속해 점검하고 있다"며 "다른 시스템에 영향을 미쳤을 가능성이 확인될 경우 해당 기관에 즉시 통보하고 있다"고 밝혔습니다.

한편 뉴욕타임스(NYT)는 오픈AI의 AI 에이전트들이 로봇 탐지 장치를 피하기 위해 다른 AI 모델까지 동원해 기업 컴퓨터 시스템 침입을 시도한 정황이 드러났다고 보도했습니다.

샌프란시스코 지역의 스타트업 파스가 공개한 보고서에 따르면 오픈AI의 AI 에이전트들은 지난 7월 소프트웨어 개발업체 허깅페이스를 공격하는 과정에서 웹사이트의 로봇 차단 장치인 '캡차'를 풀기 위해 이미지 인식 AI 모델을 별도로 구동했습니다.

AI가 스스로 다른 AI를 실행한 것으로, 이는 AI 안전 전문가들이 경고해 온 가장 위험한 시나리오 중 하나라고 NYT는 전했습니다.

(사진=게티이미지)