자사의 AI 모델들이 통제를 벗어나 외부 사이트를 며칠 동안 해킹했지만 오픈AI가 이를 알아차리지 못했다는 외신 보도가 나왔습니다.
로이터 통신은 오픈AI는 위협이 차단되고 피해 회사가 미국 연방수사국에 신고한 후에야 이를 알아차렸다고 밝혔습니다.
지난 21일 오픈AI는 자사 AI 모델들이 사이버 공격 능력을 시험하던 중 격리된 샌드박스 환경을 벗어나 인터넷에 접속하고, 오픈소스 AI 플랫폼 허깅페이스의 서버를 해킹하는 사고를 일으켰다고 공개했습니다.
하지만 로이터 통신에 따르면 이들 모델은 지난 9일쯤 격리된 테스트 환경에서 탈출을 시도했습니다.
허깅페이스에 대한 해킹은 이틀 뒤인 11일 시작돼 13일까지 이어졌다고 허깅페이스 공동 창업자 토마스 울프는 밝혔습니다.
오픈AI가 해킹의 범인이 자사 모델들이라는 것을 알아차리는 데는 며칠이 더 걸렸습니다.
오픈AI와 허깅페이스가 이 사건을 두고 처음 연락한 건 사건이 터진 지 한참 뒤인 20일쯤이었던 것으로 전해졌습니다.
허깅페이스는 이번 해킹 사건의 타임라인을 정리해서 공개할 준비를 하고 있다고 밝혔습니다.
오픈AI는 당시 성명에서 "이번 해킹은 전례가 없는 일"이라며 "AI 안전 분야에서 중요한 이정표가 될 사건"이라고 밝혔습니다.
사이버 보안 전문가들은 오픈AI가 AI 에이전트에 대한 통제력을 잃은 것에 대해 회사의 안전 관리 절차에 심각한 의문이 제기된다고 꼬집었습니다.
세계윤리데이터재단의 수석 정보 전문가 말리 스미스는 "AI가 무엇을 하는지 전혀 몰랐다는 뜻인가, 아니면 알면서도 어떻게 막아야 할지 몰랐던 거냐"고 지적했습니다.
(취재 : 정다은, 영상편집 : 안준혁, 디자인 : 양혜민, 제작 : 디지털뉴스부)