"챗GPT가 제멋대로 외부 해킹"…'AI 우려' 현실로

<앵커>

오픈AI의 최신 인공지능 모델들이 통제된 실험 환경을 스스로 벗어나 외부 인터넷에 접속하고 사이트를 해킹하는 초유의 사건이 발생했습니다. 사이버 안전과 인공지능 규제 등에 대한 논란이 더욱 커질 것으로 보입니다.

박재현 기자의 보도입니다.

<기자>

지난 16일, 미국의 AI 개발자 온라인 커뮤니티 '허깅페이스'는 해킹 사고가 발생했다는 공지를 올렸습니다.

사용된 모델은 알 수 없지만, AI가 만든 걸로 추정되는 프로그램들이 공격을 가했다는 겁니다.

닷새 뒤 챗GPT 개발사인 오픈AI는 자사의 모델이 스스로 허깅페이스를 해킹한 거라고 밝혔습니다.

오픈AI가 밝힌 경위는 이렇습니다.

먼저 챗GPT 5.6 모델과 더 강력한 미공개 모델들에게 특정 보안 문제를 해결하라는 지시를 내렸습니다.

소프트웨어 설치에 필요한 일부 통로만 제한적으로 열어 두고 외부 인터넷은 차단한 상태였습니다.

그런데 이 모델들이 통로의 취약점을 찾아 여러 단계를 거쳐 외부 인터넷에 접속했습니다.

이후에는 허깅페이스에 단서가 있을 것으로 추정해 인증 정보를 탈취하고 서버까지 침투했다는 게 오픈AI 설명입니다.

문제를 풀라고 지시하니, 정답지를 훔쳐 온 셈입니다.

[이재성/중앙대 AI학과 교수 : (인터넷 연결) 패키지가 안 깔려 있으면 그걸 깔아서 인터넷 연결을 하게 하는, 사람들이 쓰는 공격 방법이 있어요. 그게 어디 기록에 남아 있었던 걸로 (추정됩니다.)]

오픈AI는 "해당 모델들이 문제의 정답을 찾는데 극도로 몰두했으며, 목표를 달성하기 위해 극단적인 수준의 행동까지 한 것으로 보인다"고 설명했습니다.

앞서 앤트로픽의 최신 AI 모델 미토스가 스스로 인터넷이 통제된 환경을 벗어나 외부에 이메일을 보낸 적은 있는데, 이번 사건은 AI가 사람의 통제를 벗어나 처음으로 해킹을 한 사례로 기록될 전망입니다.

AI가 발달할수록 인간의 지시를 벗어날 수 있단 우려가 현실화하면서 AI 사이버 안전과 규제를 둘러싼 논란은 커질 것으로 보입니다.

(영상취재 : 김한결, 영상편집 : 윤태호, 디자인 : 임찬혁)