공개 72시간 만에 차단된 페이블 5…미국이 스스로 문 닫는 이유 [스프]

안녕하세요 데이터를 만지고 다루는 안혜민 기자입니다. 앤트로픽의 신규 모델을 두고 상황이 급박하게 돌아가고 있습니다. 사이버 안보에 위협이 될 수 있다고 알려졌던 그 모델, 페이블 5와 미토스 5가 드디어 공개되었습니다. 그런데 공개된 지 단 3일 만에 미국 정부가 차단에 나섰습니다. 도대체 무슨 일이 있었던 걸까요? 오늘 오그랲에서는 모델 공개부터 차단까지 72시간 동안 무슨 일이 있었는지, 그리고 이 사태가 AI 패권 전쟁에 어떤 파장을 남길지 다양한 데이터와 그래프를 통해 살펴보겠습니다.


앤트로픽 '페이블 5' 모델 차단한 미국... 공개부터 차단까지 72시간 막전막후
예전 오그랲에서 다루었던 미토스 프리뷰 모델 기억하시나요? 앤트로픽의 기존 최상위 모델이었던 오퍼스 라인을 뛰어넘는 성능으로 큰 화제를 모았죠. 특히 사이버 안보 영역에서 엄청난 능력을 갖고 있어서 일반 대중들에게는 공개하지 않고, 특정 기업들에게만 공개하면서 관심을 모으기도 했습니다.

이미지 확대하기

지난 6월 9일, 앤트로픽은 미토스 프리뷰 모델에서 발전한 페이블 5, 미토스 5를 드디어 시중에 공개했습니다. 미토스 5 모델은 여전히 제한된 기업들에게만 제공하고, 여기서 안전장치를 더 추가한 페이블 5를 일반 소비자용으로 공개했어요. 앤트로픽이 공개한 자료를 살펴보면 성능 측면에서 이 두 모델들은 기존 모델들과 차원이 다릅니다.

이미지 확대하기

AI 에이전트의 코딩 성능을 확인할 수 있는 SWE-bench Pro 점수로 그래프를 그려봤습니다. 페이블 5와 미토스 5는 기존 최강이었던 오퍼스 4.8 대비 무려 10점 넘게 증가한 80.3점을 기록했어요. 다른 기업의 최상위 모델인 GPT-5.5와 제미나이 3.1 Pro와는 20점 넘게 차이가 나고요.

이용자들도 모델을 직접 사용해 보고 그 격차를 체감할 정도였습니다. 글로벌 핀테크 기업인 스트라이프에서 페이블5를 활용해 프로젝트를 돌려봤습니다. 5천만 개 가까이 되는 소스 코드를 처리해야 하는 프로젝트였는데, 기존엔 수개월이 걸릴 일이 페이블 5로는 단 하루 만에 완료되었어요. 가격은 이전 모델 대비 2배나 뛰어올라 비싸지긴 했지만 이렇게 압도적인 성능을 보여준 덕에 많은 이용자들은 열광했어요.

이미지 확대하기

그런데 웬걸요? 모델 공개 3일 만에 앤트로픽은 모델을 차단하였어요. 미국 정부가 국가안보상의 이유로 모든 외국인들의 페이블 5와 미토스 5 모델에 대한 접근을 금지하라 명령했거든요. 실시간으로 앤트로픽 이용자 가운데 누가 외국인인지 식별할 수 있는 아키텍처가 있을 리도 없고, 또 단순히 이용자만이 아니라 앤트로픽에서 일하는 외국인 임직원들도 차단해야 했기 때문에, 앤트로픽은 두 모델을 전면 차단하는 선택을 합니다.

그런데 왜 미국 정부는 두 모델에 대한 제한 조치를 내린 걸까요? 이 이야기를 살펴보려면 시곗바늘을 돌려 6월 11일로 가봐야 합니다. 월스트리트저널의 보도에 따르면 백악관이 앤트로픽의 모델을 차단하게 된 이유는 아마존의 영향으로 알려졌습니다.

이미지 확대하기

AWS 연구진이 페이블 5 모델의 탈옥 가능성을 발견했고, 이 소식을 들은 아마존의 앤디 재시 CEO는 바로 미국 정부에게 전달했다는 건데요. 이미 미토스 프리뷰로 해당 모델의 위험성을 인지하고 있던 미국 정부로선 신경이 쓰일 수밖에 없었던 겁니다. 아마존의 제보를 받은 백악관은 아모데이에게 전화를 걸었습니다. 지금 이런 탈옥 문제가 있으니, 취약점을 수정하거나 모델 회수 조치를 밟으라고 전달했어요.

전화를 받은 아모데이는 내부적으로 검토해 보고 과도한 조치라고 반발했습니다. 정부가 전달해 준 탈옥 예시는 이미 알려져 있는 취약점을 찾아내는 수준이었거든요. 게다가 미토스 5 모델뿐 아니라 다른 모델에도 충분히 적용 가능했고, AI 모델의 보안을 담당하는 팀에서 내부적으로 매일 사용하는 수준이었던 거죠.

사실 AI 기업 입장에서 완벽하게 탈옥을 막는 건 불가능합니다. 그래서 기업들은 탈옥을 더 어렵게 만들고, 또 더 비용이 많이 들게 만들고, 바로바로 모니터링해 탐지하고 차단하는 식으로 대응해 오고 있는 거죠. 결국 타협점을 찾지 못했고, 미국 상무부는 행정명령 서한을 앤트로픽에 송부하면서 모델 차단 사태가 발생하게 된 겁니다.

이미지 확대하기

이번 사태에서 주목할만한 건 이 모든 게 아마존의 제보로부터 굴러간 스노우 볼이라는 겁니다. 사실 아마존은 앤트로픽과 아주 긴밀한 관계이거든요. 아마존이 앤트로픽에 투자한 금액만 누적 130억 달러이고, 성과에 따라 최대 330억 달러까지 늘어날 수 있어요. 앤트로픽의 모델 학습에는 아마존이 만든 Trainium 칩이 사용되고, 데이터센터 역시 AWS 클라우드를 활용하고 있죠. 최근엔 10년 동안 1,000억 달러에 달하는 계약을 맺을 정도로 사실상 동맹 수준의 관계로 보고 있었는데 이런 상황이 발생한 겁니다.

이런 관계라면 일반적으로 아마존이 앤트로픽 측에 알려서 문제가 있는 부분을 사전 패치할 수 있도록 조율하는 게 상식적일 겁니다. 하지만 아마존 CEO는 바로 트럼프 행정부의 핵심 인사들에게 직접 해당 내용을 공유하는 선택을 했죠. 겉으로는 기술 동맹 관계처럼 보이지만 실상은 다를 수도 있다는 겁니다. 사실 엄밀히 따지면 아마존도 Nova라는 AI 모델을 만들기 때문에 앤트로픽의 경쟁사라고 할 수 있어요. 앤트로픽과 계약을 맺으면서 인프라도 팔고 친구처럼 지냈지만, 결국 크게 보면 기업 간의 이해충돌은 언제든지 생길 수 있다는 거죠.


'선제적 차단' 필요하다던 아모데이... 제 덫에 걸렸다?
앤트로픽의 창립자 다리오 아모데이는 페이블 5와 미토스 5 공개 이후 자신의 블로그에 긴 글을 올렸습니다. 이 글에서 아모데이가 하고자 하는 얘기는 명확합니다. AI 기술은 기하급수적으로 발전하는데, 법과 제도는 따라가지 못한다는 거죠.

이미지 확대하기

<반지의 제왕>에서 호빗들은 빠르게 빠르게 움직이고 있는데, 앤트족은 서로 모여서 인사하는 데만 하루 종일 걸렸던 것처럼 말이죠. 아모데이는 AI 기술 발전이 너무나도 빠르기 때문에 지금보다 훨씬 더 강력한 규제가 필요하다고 강조합니다. 기존엔 모델의 투명성만 확보해도 충분하다는 입장이었어요. 개발자들이 모델에 어떤 안전 조치를 취했는지, 또 해당 모델의 테스트 결과는 어떠한지를 투명하게 공개하면 된다는 거였죠.

하지만 지금 같은 시기엔 이 정도로는 안된다는 겁니다. 가령 제3자가 관리하고 체크하는 안전성 테스트를 의무화하자는 제안도 해요. 만약 이 테스트에서 AI 모델이 위험하다는 결과가 나오면 정부가 모델 배포를 차단하고, 나아가 셧다운도 해야 한다고 주장하죠. 모델을 만들어 돈을 버는 기업이 먼저 규제를 원하는 아이러니한 상황인 겁니다.

이렇게 아모데이가 규제의 필요성을 외치는 이유는, 발전 속도가 빨라도 너무 빠르기 때문입니다. 최근엔 인간 개입 없이 AI가 알아서 한 단계 더 높은 수준으로 업그레이드하는 모습도 관찰되고 있어요. 이른바 AI의 '재귀적 자기 개선' 시대가 다가온다는 건데요. 그래프를 통해 조금 더 자세히 살펴보겠습니다.

이미지 확대하기

AI 모델을 개발하는 방식을 정리해 보면 크게 5단계로 구분할 수 있습니다. 가장 초창기에는 인간이 직접 코드를 짜고 AI 모델을 개발했었죠. AI가 개발된 이후엔 이 AI를 챗봇으로 활용해 코드 작성에 도움을 받아 모델을 개발했습니다. 나아가 챗봇뿐 아니라 코딩 특화 AI 에이전트를 활용해 코드를 작성하고, 모델을 개발했고요. 지금은 AI 에이전트가 자기 밑에 여러 하위 에이전트들을 부리면서 모델을 개발하는 수준까지 왔습니다.

미래에는 어떻게 될까요? 이제 인간이 들어갈 필요도 없습니다. AI 모델이 알아서 하위 에이전트들로 팀을 꾸려서 모델 훈련, 실험 설계 등 모든 과정을 맡아서 할 테니까요. 그렇게 새로운 모델이 만들어지면, 다시 또 그 모델이 다음 세대의 AI 모델 개발에 투입되면서 끊임없이 루프가 반복될 겁니다.

앤트로픽은 곧 있으면 이렇게 닫힌 루프가 도래할 수 있다고 말하고 있어요. 물론 아직 최종 단계를 달성한 건 아니라고 말하고 있지만, 앤트로픽을 포함해 여러 기업에서 관련된 연구 자료들이 등장하는 걸 보면 멀지 않았구나 싶죠. 이를테면 구글 딥마인드에선 이미 작년에 '알파 이볼브'라는 진화형 코딩 에이전트를 발표했거든요. 이 알고리즘은 스스로 생성하고, 검증하고, 진화시키는 능력을 갖고 있습니다.

그러다 보니 인간이 수행할 수 있는 모든 작업을 이해하는 범용 인공지능, 이른바 AGI 시대가 머지않았다는 얘기도 속속 들리고 있죠. 일각에선 이미 2025년부터 특이점의 초입에 진입했다고 주장하는 사람들도 있죠.

이미지 확대하기

올해 5월 말 기준으로 주요 빅테크 리더들이 생각하는 AGI의 등장 시점입니다. 이미 2025년에 시작되었다는 사람들도 이렇게 있죠? 평균적으로 이르면 2027년에, 늦어도 2031년에는 AGI가 등장할 거라는 게 이들의 전망입니다. 이렇다 보니 아모데이가 강력한 규제의 필요성을 얘기한 거죠. 근데 공교롭게도 이 말이 나오자마자 트럼프 행정부의 규제 대상이 되어버렸고요.

물론 앤트로픽은 과도한 우려와 오해로 인한 조치라며 반발하고 있지만 일각에서는 앤트로픽이 마케팅으로 내세웠던 공포 마케팅이 씨가 되어서 발목을 잡은 것 아니냐는 얘기도 나오고 있어요. 게다가 앤트로픽은 앞서 미군의 AI 활용 건으로 트럼프 행정부에게 미운털이 박혀 있기도 했죠. 여전히 앤트로픽은 국방부에 의해 국가안보에 대한 공급망 위험 기업으로 지정되어 있습니다. 다만 G7 정상회의 이후 변화의 조짐이 보이고 있습니다. G7 회의에서 아모데이를 만나고 난 뒤, 트럼프 대통령이 규제 완화 가능성을 내비쳤거든요.


폐쇄 전략 쓰는 미국 vs 오픈소스 공개하는 중국
이번 사태에서 또 하나 주목할만한 포인트는 중국입니다. 페이블 5와 미토스 5 통제 배경에 중국과 연계된 단체가 해당 모델에 접근했다는 의혹이 일부 작용했다는 보도가 나오고 있거든요. 그리고 워싱턴포스트에선 그 의혹의 대상이 한국 통신사라는 단독 보도가 나왔죠.

이미지 확대하기

앤트로픽은 미토스 모델에 접근할 수 있는 기업과 기관의 규모를 111개까지 확대했어요. 확대된 명단을 미국 정부에 제출했고, 정부는 명단을 검토한 뒤 접근을 승인했고요. 문제가 된 건 이 다음입니다. 앤트로픽이 50개 기관에 추가로 접근 권한을 부여했는데, 백악관이 이 추가 명단 리스트를 검토해 보니 중국과 연관된 것으로 의심되는 한국 통신사가 포함됐다는 걸 확인한 거죠. 이걸 두고 백악관이 앤트로픽에 대한 불신이 커졌다는 게 워싱턴포스트의 보도 내용입니다.

앤트로픽은 해당 기업의 접근 권한을 신속하게 취소했다고 밝혔어요. 아직까지 이 기업이 어느 기업인지는 밝혀지지 않았고요. 일단 통신 3사 모두 관련성을 부인하고 있습니다. LG U+는 미토스 접근 권한을 신청한 이력 자체가 없다고 하고 있고, KT도 특이사항 없다고 해명했죠. 프로젝트 글래스윙에 합류해 미토스 권한을 얻었던 SKT 역시 당사가 중국과 연계된 부분은 없다고 밝힌 상태입니다.

미국 입장에서 중국이 신경이 안 쓰일 수 없습니다. 그중에서도 미국의 첨단 기술을 쏙쏙 빼가는 증류 문제에 가장 신경이 곤두서 있죠. 지난 4월 23일에 백악관의 과학기술정책실장이 이런 글을 SNS에 올렸어요.

이미지 확대하기

AI 증류는 대형 모델의 출력을 바탕으로 새로운 모델을 훈련시키는 방법입니다. 미국 빅테크 기업들은 후발주자인 중국 기업들이 자신들의 기술과 모델을 훔쳐가고 있다고 주장해 왔어요. 오픈AI, 앤트로픽, 구글이 손잡고 중국 경쟁사들의 이런 행동을 막기 위해 정보 공유에 나설 정도로 이 상황을 심각하게 보고 있어요. 이런 상황이 겹치고 겹치다 보니 미국 정부가 내린 답이 폐쇄였던 겁니다.

경쟁상대를 견제하기 위한 조치이긴 하지만, 일각에서는 미국이 중국을 닮아가는 것 아니냐는 지적도 나옵니다.

이를테면 6월 2일에 발표된 AI 행정 명령이 대표적이죠. 앞으로는 미국의 AI 기업들이 새로운 모델을 대중에게 공개하기 전에 30일 동안 정부의 사전 검토를 받아야 합니다. 보안 취약성을 점검하는 차원이라지만 AI 허가제의 전조 아니냐는 지적도 나오죠.

이 정책의 원조는 바로 중국입니다. 중국은 보호대상 모델을 지정해 정부 차원에서 코드를 분석하고, 안전성을 평가하고 정치적 기준을 충족하는지를 따져 심사하고 있어요. 다만 모델 승인을 마치면 정부가 적극적으로 산업 생태계 전반에 해당 모델을 빠르게 보급하면서 관리하고 있죠.

이번 사태가 터지고 나서도 중국 AI 모델들은 문을 활짝 열고 미국의 조치를 비판했습니다. 즈푸 AI는 페이블 5 수출 통제 발표 직후 자신들의 최신 모델 GLM-5.2를 전면 개방하겠다고 선언했어요. 프론티어 AI 모델은 우리 모두의 것이라는 말과 함께 말이죠. 이번 GLM-5.2는 앤트로픽과 오픈AI의 최상위 모델급 성능을 선보이며 개발자들의 이목을 집중시킨 모델이기도 합니다. 즈푸 AI 뿐 아니라 문샷 AI에서도 신규 모델을 오픈소스 플랫폼인 허깅페이스에 공개하였고요.

중국은 이렇게 오픈소스 모델을 무기 삼아 전 세계 AI 개발 생태계를 정복해 나가고 있습니다.

이미지 확대하기

모델별 주간 토큰 사용량을 살펴보면 1위부터 4위까지는 모두 중국 모델입니다. 10위권으로 넓혀봐도 미국 기업들의 모델은 4개뿐, 나머지는 다 중국 겁니다.

전문가들은 이번 미국 정부의 조치가 장기적으로 보면 중국 AI 오픈소스 진영에 더 강한 동력을 주는 계기가 될 거라는 평가를 하고 있어요. 게다가 이런 사용량 흐름이라면 올해 안에 미토스 급의 성능을 가진 중국 모델이 나올 수 있을 거란 전망도 나오고 있죠. 모델을 차단했다고 하지만, 공개된 시점에 이미 증류는 이뤄졌을 테고, 엄청난 사용량을 바탕으로 모델 개선에 나설 수 있을 테니까요.

뛰어난 미국 모델 못 쓴다고 연구진들과 개발자들은 기다려주지 않습니다. 쓸 수 있는 모델을 찾고, 그중에서도 더 싸고, 더 빠른 모델로 이동하면 되니까요. AI는 반도체처럼 막을 수 있는 게 아니니까요. 심지어 반도체 역시 중국은 미국 규제를 발판 삼아 역으로 자국 반도체 생태계 자립의 기회로 활용하기도 했고요.

이 사건으로 미국과 중국을 제외한 제3지대에서는 다시금 소버린 AI 이야기가 터져 나오고 있습니다. 이번 모델 차단은 미국의 핵심 정보 동맹인 파이브 아이즈 국가들도 영향을 받았거든요. 파이브 아이즈 국가인 캐나다의 카니 총리는 이 상황에서 교훈을 얻지 못하고, 노력하지 않는다면 잘못하고 있는 거라고 지적하기도 했어요.

유럽에서 소버린AI에 가장 진심인 프랑스에서도 각성의 목소리가 터져 나왔습니다. 에두아르 필립 프랑스 전 총리는 "AI가 이미 전기와 인터넷처럼 핵심 인프라가 되었지만, 우리가 통제하지 못하는 인프라는 다른 사람이 플러그를 뽑을 수 있는 인프라"라며 자체 기술의 중요성을 강조했어요. EU 차원에서도 이번 사태가 유럽의 기술 주권을 강화해야 하는 이유를 분명히 보여주는 사례라 말했고요.

이미지 확대하기

당장 우리나라는 이 사태로 프로젝트 글래스윙 협력체 가동도 못해보게 되었습니다. 프로젝트 합류 열흘 만에 수출 통제 조치를 받게 되었으니까요. 이 사태를 계기로 우리나라도 소버린 AI에 대한 제대로 된 목표 설정이 필요하다는 얘기가 나옵니다.

단지 국가주의적 담론으로만 소버린 AI를 다룰 게 아니라, 다양한 영역에서 우리 주권을 확보하기 위한 노력이 필요하다는 거죠. 가령 인프라 영역, 데이터 영역, 모델 등 각 분야별로 현실적인 목표 설정을 해 나가는 식으로 말이죠. 우리나라가 자체 모델 확보를 위한 독파모 프로젝트는 진행하고 있지만 여전히 다른 영역은 갈 길이 멀거든요.

이미지 확대하기

인프라 영역에서 가장 기술 주권을 잘 챙기고 있는 국가는 바로 중국입니다. 중국을 제외한 동아시아를 보면 확실히 성장세가 더디죠. 우리나라가 힘주고 있는 모델 영역을 살펴봐도 미국과 중국이 크게 앞서나가고 우리나라가 포함된 동아시아 영역은 여전히 갈 길이 먼 상황입니다.

이번 사태가 보여주는 건 딱 하나입니다. 내가 통제하지 못하는 기술은 언제든 플러그가 뽑힐 수 있다는 거죠. 유럽도, 그리고 우리나라도 이 교훈 앞에서 자유롭지 않을 겁니다. 소버린 AI가 계속 구호에만 그친다면 더 큰 상황이 닥쳤을 때 우리나라는 제대로 대응할 수 없을 겁니다. 하루빨리 진짜 소버린 AI를 구축하기 위한 실질적인 행동에 나서야 하지 않을까요? 오늘 준비한 오그랲은 여기까지입니다. 긴 글 끝까지 읽어 주셔서 진심으로 감사드립니다.