"미 AI 무단 복제" vs "백도어 심었다"… 알리바바 · 앤트로픽 '충돌'

중국 전자상거래 기업 알리바바가 미국 인공지능(AI) 기업 앤트로픽의 AI 개발 도구 '클로드 코드'에 보안 위험이 있다며 전면 사용 금지하기로 했다고 중국 매체가 전했습니다.

중국 정보기술(IT) 전문 매체 즈둥시(智東西)는 오늘(3일) 알리바바 내부 관계자를 인용해 "최근 클로드 코드에 '백도어' (정상적인 보안 메커니즘을 우회해 시스템 비인가 접근을 허용하는 비밀 통로)가 심겨 있다는 보안 위험이 드러났다"며 "알리바바는 종합 평가를 거쳐 이를 고위험 소프트웨어 목록에 추가했다"고 보도했습니다.

이어 매체는 알리바바가 오는 7월 10일부터 내부 직원을 대상으로 업무 환경에서 클로드 코드 사용을 전면 금지하고, 대체 설루션으로 알리바바의 '큐오더'(Qoder)를 추천하기로 했다고 전했습니다.

알리바바는 소넷·오푸스·페이블 등 앤트로픽의 AI 모델 시리즈도 모두 삭제하라고 직원들에게 요구했습니다.

이 매체에 따르면 알리바바는 직원들의 AI 기술 활용을 장려하기 위해 앤트로픽의 클로드와 오픈AI의 GPT, 구글의 제미나이 등 외부 모델 사용료를 지원해왔고, 회사의 보조 덕에 알리바바 개발자 상당수는 매주 수백 달러어치의 토큰을 썼습니다.

알리바바가 클로드 코드의 사용을 금지한 발단은 지난달로 거슬러 올라간다고 이 매체는 설명했습니다.

앤트로픽은 지난 6월 10일 미국 상원 은행위원회에 보낸 서한에서 알리바바가 4월 22일∼6월 5일 약 2만 5천 개의 허위 계정을 이용해 클로드와 2천800만 회 이상의 대화를 주고받았으며, 이런 행위는 앤트로픽 AI 모델을 무단으로 훔치는 '증류' 공격이라고 주장했습니다.

증류란 개발자가 다른 AI 모델의 결과물을 활용해 자사 시스템을 훈련함으로써 훨씬 적은 비용으로 유사한 성능을 구현하는 기술입니다.

앤트로픽은 알리바바 등 중국 기업들이 '적대적 증류' 공격을 통해 매우 적은 비용으로 미국의 주요 AI 모델을 훔쳐 자사의 AI 모델을 개발하고 있고, 이 같은 행위가 "불법적이고 체계적이며 산업적인 규모로 수행되고 있다"고 강조했습니다.

이후 앤트로픽은 지난달 말부터 이달 초 사이에 대규모로 클로드 계정 제한 조치를 실시했고, 수많은 중국 사용자가 사전 예고 없이 차단됐습니다.

한편, 즈둥시는 한 개발자가 역설계(reverse engineering)를 통해 분석한 결과 클로드 코드가 올해 4월 배포한 2.1.91 버전 안에 '트로이목마' 시스템을 심어둔 것을 발견했으며 앤트로픽은 이 시스템을 통해 중국 사용자를 식별해냈다고 설명했습니다.
 

(사진=AP, 연합뉴스)