오픈AI의 인공지능(AI) 모델 GPT에 이어 앤트로픽의 클로드도 외부 기관 시스템을 무단 해킹한 사실이 드러났습니다.

앤트로픽은 현지시간 30일 자사 사이버 보안 평가기록 14만여 건을 전수 조사해 클로드가 외부 기관 3곳의 시스템에 무단 접근한 사실을 확인했다고 밝혔습니다.

이 같은 사실은 GPT 모델들이 외부 AI 플랫폼 '허깅페이스'를 해킹했다는 사실이 알려진 이후 앤트로픽이 유사 사례가 있는지 자체 점검을 시행하면서 드러났습니다.

사고는 외주 평가 협력사인 '이레귤러'가 구축한 시뮬레이션 환경에서 '클로드 미토스5'와 '클로드 오퍼스4.7', 그리고 내부 연구용 시험모델 등 3종을 대상으로 모의 해킹 과제인 '깃발 빼앗기'(CTF) 평가를 진행하는 과정에서 발생했습니다.

앤트로픽은 해당 평가 환경이 인터넷 연결이 차단된 가상 모의 공간이라고 클로드에 명령어로 안내했으나, 협력사와의 의사소통 오류 등으로 인해 실제로는 인터넷망이 열려 있었습니다.

이에 따라 클로드는 자신이 발견한 외부 시스템을 모의 훈련 공간의 일부로 오인하고 공격을 수행한 것으로 보인다고 앤트로픽은 설명했습니다.

실제로 오퍼스4.7은 평가 과제로 주어진 가상의 목표와 우연히 이름이 같은 실제 기업의 웹사이트를 해킹하는 등 무단 침해 사례가 발생했습니다.

심지어 미토스5 모델은 해킹 과정에서 "실제 인터넷 환경이라면 해서는 안될 일"이라고 판단했지만 시뮬레이션 환경이라고 판단해 공격을 이어간 것으로 드러났습니다.

앤트로픽은 이 같은 사실을 지난 23일 파악하고 평가 작업을 중단했고, 이후 피해를 본 외부 기관들에 관련 사실을 통보하고 복구 작업을 돕고 있다고 밝혔습니다.

클로드의 보안 사고는 인터넷 연결 설정 오류에서 비롯된 것으로 격리 환경을 뚫고 나간 GPT 모델의 해킹 사건과는 다소 양상이 다르지만, GPT에 이어 클로드까지 보안 사고를 일으킨 사실이 드러나면서 AI 관련 보안 위험 우려는 더 커질 것으로 전망됩니다.

(구성: 김태원, 영상편집: 나홍희, 디자인: 육도현, 제작: 디지털뉴스부)