앤트로픽, 'AI 외부 해킹' 네 번째 사례 공개

앤트로픽이 AI 모델이 테스트 도중 외부 시스템을 해킹한 4번째 사례를 공개했다고 로이터 통신이 현지시간 9일 보도했습니다.

앤트로픽은 지난 1월 발생한 사건이 지난달까지 발견되지 않았다며 이는 AI 개발자들이 고급 모델의 예상치 못한 행동을 식별하고 통제하는 데 직면한 어려움을 보여준다고 강조했습니다.

이번 사례는 클로드 오퍼스 4.6 초기 버전과 관련된 것이라며 영향을 받은 모두에게 통보했다고 앤트로픽은 덧붙였습니다.

앞서 앤트로픽은 클로드 모델 일부가 사이버 보안 테스트 과정에서 3개 회사의 시스템을 해킹했다고 지난 7월 발표한 바 있습니다.

앤트로픽은 클로드 오프스 4.7, 클로드 미토스 5, 내부 연구 중인 다른 모델과 관련된 사례라며 의도치 않게 AI 모델들이 인터넷에 접속할 수 있게 된 "실수에서" 비롯됐다고 규정했습니다.

오픈AI의 AI 에이전트가 오픈소스 AI 공유 플랫폼 허깅페이스를 해킹한 사실이 알려진 뒤 앤트로픽은 14만 1천여 건의 테스트를 점검했고 이 과정에서 이들 세 사례를 확인했습니다.

이번 4번째 사례는 14만 1천여 건 가운데 점검할 필요가 없다고 판단해 점검에서 누락된 일부 테스트들에서 지난달 확인된 사례라고 설명했습니다.
 
(사진=AP, 연합뉴스)