오픈AI 경영진이 AI 모델의 안전성을 점검해야 한다는 직원들의 수많은 경고를 묵살해왔다는 보도가 나왔습니다.
뉴욕타임스는 오픈AI 사내 이메일을 입수해 "AI 모델이 통제를 벗어나기 수개월 전 직원 두 명이 최고 경영진에게 보안 문제를 경고했으나 묵살됐다"고 보도했습니다.
NYT에 따르면 이들 직원은 최신 AI 모델을 테스트하는 과정에서 기술의 정교함을 측정하고 안전을 확보하기 위한 적절한 모니터링이 이뤄지지 않았다고 우려했습니다.
그러나 경영진은 "AI 모델을 기간 내에 출시하려면 가능한 한 빨리 테스트를 진행해야 한다"며 추가적인 보안 프로토콜을 진행하지 않은 것으로 전해졌습니다.
그 이후 출시된 AI 모델들은 테스트 환경을 벗어나 오픈소스 AI 모델 공유 플랫폼 허깅페이스와 다른 기관들을 공격하는 등 전 세계적인 AI 안전성 논란을 불러일으켰습니다.
외부 보안 연구원들이 최근 몇 달간 오픈AI 임직원의 대화를 보거나 사내 컴퓨터 코드, 챗GPT 사용자의 대화 기록까지 외부에서 볼 수 있는 버그를 찾아냈지만, 오픈AI 측은 이 또한 무시했다는 폭로도 나왔습니다.
AI보안업체 어번던트 시큐리티의 조슈아 색스 최고기술책임자는 "오픈AI의 보안 수준은 인프라 방어보다 경쟁사를 앞서는 것에만 몰두하며 4년간 과속으로 규모를 키운 연구소의 전형적인 모습"이라고 비판했습니다.
NYT는 구글과 메타, 앤트로픽 등과 비교해도 오픈 AI의 안전성 문제가 가장 심각하다고 비판했는데, 이에 대해 드루 푸사테리 오픈AI 대변인은 "일부 AI 개발 속도를 늦추고 연구와 테스트 과정에서의 보안을 강화하고 있다"고 해명했습니다.
실제 오픈AI는 지난 28일 안전성 평가 미달을 이유로 최신 AI 모델 'GPT-6.1 아스트라'의 출시를 전격 취소하는 곤욕을 치르기도 했습니다.
이에 샘 올트먼 최고경영자는 현지시간 29일 CNBC와의 인터뷰에서 "상장기업이 될 경우 받을 주주들의 단기 실적 압박이 AI 안전성 확보를 가로막는다"며, 기술 진보와 안전의 균형을 위해 내년으로 예상됐던 기업공개를 무기한 연기한다고 밝혔습니다.
(취재 : 이현영, 영상편집 : 이의선, 디자인 : 이정주, 제작 : 디지털뉴스부)