삼성전자, '연산도 하는 메모리' 첫 공개…온디바이스 겨냥

삼성전자가 모바일 등 온디바이스 인공지능(기기내장형 AI) 기기를 겨냥해 메모리 내부에서 연산까지 수행하는 차세대 설루션을 세계 최초로 내놨습니다.

황가람 삼성전자 책임은 현지시간 25일 미국 스탠퍼드대에서 열린 반도체 학술대회 '핫칩스 2026'에서 저전력 메모리인 LPDDR 기반 '메모리 내 연산'(PIM) 상용화 제품인 'LPDDR5X-PIM'의 아키텍처와 사양, 검증 결과 등을 발표했습니다.

이 제품은 이달 초 열린 메모리 콘퍼런스 'FMS 2026'에서 '차세대 메모리상'을 수상하면서 업계에 존재감을 알렸지만, 세부 사양이 공개된 것은 이번이 처음입니다.

PIM은 데이터를 메모리에서 중앙처리장치(CPU)나 그래픽처리장치(GPU) 등 프로세서로 옮겨서 계산한 뒤 다시 메모리에 전송하던 기존 구조와 달리, 간단한 연산은 메모리 내부의 연산장치가 직접 처리합니다.

이에 따라 프로세서는 복잡한 연산만 처리하면 돼 그만큼 효율이 높아지고, AI 연산에서 주로 병목 지점이었던 메모리와 프로세서 간 데이터 전송을 최소화함으로써 시간과 전력 소모를 아낄 수 있습니다.

삼성전자가 파라미터 80억 개 규모인 메타의 경량 개방형(오픈소스) 모델 '라마 3.1'을 대상으로 시험한 결과 LPDDR5X-PIM을 적용한 처리 시간은 5.4초로, 기존 일반 LPDDR5X의 12.3초와 견줘 약 2.3배 빠른 속도를 보였습니다.

초당 토큰 처리량(TPS)도 81.3TPS로, 기존의 27TPS의 3배에 달했습니다.

삼성전자는 이와 같은 PIM 기술을 HBM에 적용한 'HBM-PIM'을 2021년 소개하고 실제 개발 검증까지 거쳤으나, 상용화 제품은 HBM 대신 LPDDR에 적용해 구현했습니다.

황 책임은 "AI를 지원하는 표준 메모리 설루션은 고대역폭 메모리(HBM)이지만, 최근 대형언어모델(LLM)이 소형화·효율화하면서 HBM이 항상 최선의 해결책은 아닐 수 있다"며 "이에 따라 높은 대역폭과 낮은 전력 소모를 동시에 갖춘 LP-PIM을 개발하게 됐다"고 개발 배경을 소개했습니다.

기존 범용 표준 규격 LPDDR과 배열을 동일하게 한 만큼 호환성도 높아, 기존 시스템을 변경하지 않고도 이 제품을 장착할 수 있다는 설명입니다.

기기 내장형 AI의 성능이 모바일 기기를 선택하는 데 중요한 요소로 떠오르고 있는 만큼 연산 기능을 탑재한 LPDDR 메모리도 시장에서 탄탄한 수요를 견인할 수 있을 것으로 황 책임은 예상했습니다.

황 책임은 현재 소프트웨어개발키트(SDK)와 시뮬레이터를 제공하는 등 생태계를 구축하고 있으며, 차세대 LPDDR6-PIM의 표준화 작업도 시작했다고 덧붙였습니다.

(사진=연합뉴스)