블룸버그 "'키미3'는 훨씬 많은 메모리 요구"

중국의 인공지능(AI) 스타트업 '문샷 AI'가 내놓은 초대형 오픈웨이트(가중치 공개형) 모델 '키미(Kimi) K3'가 업계의 주목을 받는 가운데, 향후 소비자들이 이 모델을 이용할 경우 상당한 양의 메모리 반도체가 필요할 거란 전망이 나왔습니다.

블룸버그 통신은 현지시간 20일 '키미 K3'가 공개되자 2025년 초 딥시크의 'R1'이 공개됐을 때처럼 반도체 관련 기업들의 주가가 급락하고 있지만 이는 중요한 차이점을 간과했기 때문일 수 있다고 보도했습니다.

'키미 K3'가 컴퓨팅(연산 처리)보다는 메모리에 중점을 둔 모델이기 때문이란 설명입니다.

딥시크는 AI 모델의 훈련 및 운영 비용을 절감하는 데 획기적 성과를 거뒀다는 평가를 받았습니다.

AI에 필요한 반도체 자원이 당초 예상보다 적을 것이라는 우려가 번지면서 AI 대장주로 불리던 엔비디아 시가총액은 하루 만에 6천억 달러 가까이 사라지기도 했습니다.

키미 K3는 매개변수가 2조 8천억 개로 중국에서 나온 모델 가운데 가장 큽니다.

컴퓨팅(연산 처리) 효율성을 나타내는 지표인 '희소 비율'(Sparsity Ratio)도 사상 최고 수준으로 높습니다.

이 비율이 높을수록 모델의 전체 규모에 비해 각 작업에 활성화되는 매개변수의 수가 적습니다.

하지만 이 모델이 구동되려면 2조 8천억 개의 매개변수가 모두 메모리에 저장돼야 합니다.

저정밀도 데이터 형식으로 모델을 압축하더라도 1.4테라바이트의 메모리가 필요하다는 의미입니다.

따라서 이 모델을 직접 구동해서 쓰려면 엔비디아의 '블랙웰 GB300' 시스템 규모의 AI 랙 시스템이 필요하다고 블룸버그는 설명했습니다.

블룸버그는 "2조8천억 개의 매개변수와 100만 토큰의 '컨텍스트 창'(Context Window)을 갖춘 K3는 이전 세대보다 훨씬 더 많은 메모리 용량을 요구한다"며 "이는 SK하이닉스와 삼성전자 등 소수가 시장을 지배하는 분야에서 지속적인 수요를 시사한다"고 평가했습니다.

스미토모 미쓰이 DS 자산운용의 수석 포트폴리오 매니저 스탠리 탕은 공급업체 수가 제한적인 점을 고려할 때 메모리 업체들이 반도체 업계에서 여전히 가장 유리한 위치에 있을 것이라며 키미와 같은 모델이 인기를 얻게 되면 AI 에이전트의 보급을 가속할 수 있는 만큼 전반적인 수요는 줄어들지 않을 것 같다고 예상했습니다.

문샷은 오는 27일 키미 K3의 모델 가중치를 공개할 계획입니다.

(사진=AP, 연합뉴스)