[오그랲] AI가 스스로 탈출하고, 공격하는 '통제 불능' 시대 왔다

오픈AI의 내부 AI 에이전트가 인터넷이 차단된 샌드박스를 스스로 탈출한 뒤 허깅페이스 시스템을 공격하는 사건이 발생했습니다.

이 AI 에이전트는 7월 9일부터 격리 환경을 벗어나기 위한 시도를 시작했고, 이후 허깅페이스를 공격 대상으로 추론해 5일 동안 총 17,613건의 공격을 이어갔습니다.

문제는 오픈AI조차 허깅페이스가 사건을 공개한 뒤에야 내부 로그를 확인하고 자신들의 모델이 벌인 일이라는 사실을 파악했다는 점이죠.

이번 오그랲 영상에서는 허깅페이스 해킹 사건의 전말과 AI가 왜 이런 행동을 했는지 살펴봤습니다.

AI가 실제 목표보다 점수와 보상만을 좇는 '보상 해킹', 인간의 감시를 인식한 뒤 자신의 잘못된 행동을 숨기는 'AI 스키밍'이 왜 발생하는지 다양한 데이터와 그래프를 통해 분석해봤습니다.

(취재 : 안혜민, 촬영 : 황세회·차승환, 편집 : 이기은, 디자인 : 안준석, 인턴 : 신연성, 제작 : 지식콘텐츠IP팀)