[에디터픽] 더 강력한 AI에게 목표 줬더니.."극도로 몰두" 벌어진 일

지난 16일, 미국의 AI 개발자 온라인 커뮤니티 '허깅페이스'는 해킹 사고가 발생했다는 공지를 올렸습니다.

사용된 모델은 알 수 없지만, AI가 만든 걸로 추정되는 프로그램들이 공격을 가했다는 겁니다.

닷새 뒤 챗GPT 개발사인 오픈AI는 자사의 모델이 스스로 허깅페이스를 해킹한 거라고 밝혔습니다.

오픈AI가 밝힌 경위는 이렇습니다.

먼저 챗GPT 5.6 모델과 더 강력한 미공개 모델들에게 특정 보안 문제를 해결하라는 지시를 내렸습니다.

소프트웨어 설치에 필요한 일부 통로만 제한적으로 열어 두고 외부 인터넷은 차단한 상태였습니다.

그런데 이 모델들이 통로의 취약점을 찾아 여러 단계를 거쳐 외부 인터넷에 접속했습니다.

이후에는 허깅페이스에 단서가 있을 것으로 추정해 인증 정보를 탈취하고 서버까지 침투했다는 게 오픈AI 설명입니다.

문제를 풀라고 지시하니, 정답지를 훔쳐 온 셈입니다.

[이재성/중앙대 AI학과 교수 : (인터넷 연결) 패키지가 안 깔려 있으면 그걸 깔아서 인터넷 연결을 하게 하는, 사람들이 쓰는 공격 방법이 있어요. 그게 어디 기록에 남아 있었던 걸로 (추정됩니다.)]

오픈AI는 "해당 모델들이 문제의 정답을 찾는데 극도로 몰두했으며, 목표를 달성하기 위해 극단적인 수준의 행동까지 한 것으로 보인다"고 설명했습니다.

앞서 앤트로픽의 최신 AI 모델 미토스가 스스로 인터넷이 통제된 환경을 벗어나 외부에 이메일을 보낸 적은 있는데, 이번 사건은 AI가 사람의 통제를 벗어나 처음으로 해킹을 한 사례로 기록될 전망입니다.

AI가 발달할수록 인간의 지시를 벗어날 수 있단 우려가 현실화하면서 AI 사이버 안전과 규제를 둘러싼 논란은 커질 것으로 보입니다.

"챗GPT가 제멋대로 외부 해킹"..'AI 우려' 현실로 (2026.07.22 8뉴스)

(취재 : 박재현, 구성 : 이세영, 영상취재 : 김한결, 영상편집 : 윤태호, 디자인 : 임찬혁, 제작 : 디지털뉴스부)