▲ 삼성전자와 SK하이닉스의 HBM4
인공지능(AI) 서비스의 핵심 기술이자 병목으로 자리 잡은 고대역폭 메모리(HBM)의 독주가 앞으로도 계속 이어질 것으로 전망됩니다.
16일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 기술 콘퍼런스 'AI 인프라 서밋'의 패널 토의에 참석한 인텔과 오픈AI의 기술진은 HBM을 대신할 기술로 주목받아온 '컴퓨트익스프레스링크'(CXL)에 부정적인 견해를 내보였습니다.
CXL은 연산을 담당하는 AI 가속기와 메모리를 더욱 효율적으로 연결해 주는 차세대 연결 규격입니다.
그간 반도체 업계 일각에서는 CXL이 본격적으로 도입되면 가격이 천정부지로 오른 HBM을 상당 부분 대신해 AI 서버 구축 비용을 크게 낮춰줄 것이라는 기대가 있었습니다.
그러나 오픈AI에서 AI 가속기 설계를 담당하는 대니얼 모리스 연구원은 이날 패널 토의에서 "AI 모델을 실제 구동하는 입장에서 CXL의 쓰임새를 찾지 못하겠다"고 단언했습니다.
그는 "굳이 역할을 찾자면 거대 모델에서 자주 쓰지 않는 비활성 데이터를 따로 모아두는 용도 정도"라며 "기대하는 것과 달리 실제 모델 구동에 특화한 활용사례는 보지 못했다"고 털어놨습니다.
비디아 티아가라잔 인텔 시스템온칩(SoC) 아키텍처 총괄도 "CXL로 메모리를 묶는 것도 좋지만 이는 HBM을 대체하는 것이 아니라 보조기억장치를 보완하는 수준"이라고 평가했습니다.
그는 "CXL을 거쳐 그래픽처리장치(GPU)로 오가는 데이터 속도가 결코 HBM만큼 빠르지 않다"고 지적했습니다.
연결 방식을 아무리 개선해도 대역폭의 차이 때문에 CXL이 HBM의 자리를 빼앗기는 어렵다는 것입니다.
이에 따라 전 세계 HBM 시장을 사실상 좌우하고 있는 삼성전자와 SK하이닉스의 독점적 입지는 앞으로도 한동안 이어질 것으로 예상됩니다.
(사진=삼성전자·SK하이닉스 제공, 연합뉴스)