메타 AI도 외부기관 해킹…세 번째 '불량 에이전트' 보안 사고

메타의 인공지능(AI) 모델도 내부 사이버 보안 시험 도중 외부 기관을 해킹한 것으로 드러났습니다.

오픈AI의 GPT 모델과 앤트로픽의 클로드 모델에 이어 세 번째로 확인된 이른바 '불량 에이전트' 사고입니다.

메타는 자사 AI 모델 '뮤즈 스파크'가 독립 검증업체 '이레귤러'가 진행하는 시험 도중 인터넷에 무단 접속했고, 이후 다른 기관의 시스템을 해킹한 사실을 확인했다고 블룸버그 통신과 미국 CNN 방송이 현지시간 5일 보도했습니다.

뮤즈 스파크는 이레귤러의 설정 오류로 인터넷에 연결됐으며, 취약점을 악용해 외부 기관에 무단 접속한 것으로 나타났습니다.

해킹 피해를 본 기관은 한 곳이지만, 구체적으로 어느 기관인지는 공개되지 않았습니다.

다만 뮤즈 스파크가 '샌드박스'로 불리는 격리 환경에서 탈출한 것이 아니라 설정 오류로 인터넷에 접속했다는 점으로 비춰보면, 앞서 샌드박스에서 탈출해 보안 공격을 감행한 GPT 모델의 허깅페이스 해킹 사고보다는 덜 우려할 만한 상황으로 보입니다.

사고 원인을 제공한 이레귤러 측은 "이번 사건은 '샌드박스' 격리 환경의 탈출이나 정교한 사이버 해킹 공작과는 다르다"며 "현재 해결되지 않은 보안 문제는 없다"고 해명했습니다.

GPT와 달리 앤트로픽 사례처럼 인간의 실수로 인터넷에 연결돼 해킹을 자행한 사건과 비슷한 문제라는 것입니다.

그럼에도 불구하고 불과 몇 주 사이에 세계 AI 업계를 주도하는 기업 세 곳의 최첨단 모델이 연이어 내부 시험 도중 외부 업체를 해킹하는 사태가 발생하면서 AI발 사이버 보안 경계감은 더 커질 것으로 전망됩니다.

영국 AI보안연구소(AISI)는 앤트로픽과 오픈AI의 AI 모델이 가짜 신원으로 인간과 접촉해 악성코드를 심으려 하는 등 위험 사례가 다수 발견됐다고 최근 발표한 바 있습니다.

미국 정부는 첨단 AI 모델 출시 30일 전에 모델을 사전 제출해 보안 검증을 받도록 하는 규제를 마련 중이고, 미 의회에서도 AI가 통제를 잃으면 정부가 개입할 수 있는 'AI 킬스위치법'이 발의되는 등 규제 압박이 거세지고 있습니다.

메타와 이레귤러는 이번 보안 사고의 구체적인 사실관계를 추가 조사해 사후 보고서와 백서 등을 발표할 계획입니다.