삼성전자, 3D 메모리·CXL로 데이터 이동 최소화
SK하이닉스, PIM·HBF로 메모리 계층 확대
AI 학습서 추론으로…용량·전력효율이 승부처
[서울=뉴시스]박나리 기자 = 삼성전자와 SK하이닉스가 고대역폭메모리(HBM)를 넘어 인공지능(AI) 추론에 최적화한 메모리 구조 경쟁에 나선다.
AI 산업의 무게중심이 모델 학습에서 실제 서비스를 구동하는 추론으로 이동하면서 메모리 용량과 전력 효율, 데이터 이동 속도가 새로운 경쟁 요소로 부상하고 있다.
17일 업계에 따르면 삼성전자와 SK하이닉스는 미국 캘리포니아주 산타클라라에서 현지시간 15일부터 17일까지 열리는 'AI 인프라 서밋 2026'에서 차세대 AI 메모리 기술을 발표한다.
삼성전자는 김인동 D램 상품기획 담당 부사장이 'AI 혁명을 이끄는 메모리·스토리지의 3차원 혁신'을 주제로 발표자로 나선다.
삼성전자는 앞서 플래시 메모리 행사인 'FMS 2026'에서 AI 가속기 위에 HBM을 수직으로 쌓는 'zHBM' 구상을 공개한 바 있다.
zHBM은 가속기 옆에 HBM을 배치하는 기존 방식보다 데이터 이동 거리를 줄여 대역폭과 전력 효율을 높이는 기술이다.
고성능 낸드를 여러 층으로 쌓는 'zNAND-O'와 400단 이상으로 적층한 10세대 V낸드 등도 삼성전자의 3차원 메모리 전략에 포함된다.
HBM과 낸드를 각각 판매하는 데 그치지 않고 AI 연산 구조에 맞춰 메모리 배치 자체를 바꾸겠다는 것이다.
삼성전자는 이번 행사에서 오픈AI·인텔과 함께 HBM, 저전력 D램, 그래픽 D램 등을 결합한 메모리 계층 구조와 전력·신뢰성 문제도 논의한다.
컴퓨트익스프레스링크(CXL)를 활용해 여러 가속기가 메모리를 나눠 쓰는 방안도 주요 의제다.
SK하이닉스는 임의철 펠로우가 '획일적 구조를 넘어: AI 서비스 시대의 PIM·HBF'를 주제로 발표한다.
프로세싱인메모리(PIM)는 메모리 내부나 가까운 곳에서 일부 연산을 처리해 데이터 이동량을 줄이는 기술이다.
고대역폭플래시(HBF)는 HBM과 솔리드스테이트드라이브(SSD) 사이를 메우는 대용량 메모리다.
HBF는 낸드플래시를 기반으로 HBM보다 큰 용량을 제공하면서도 SSD보다 빠른 데이터 처리를 목표로 한다.
AI가 긴 문맥을 기억하거나 여러 작업을 연속으로 처리할 때 급증하는 임시 데이터 저장 수요에 대응할 수 있다.
SK하이닉스는 지난달 샌디스크와 HBF 표준 규격을 공개한 데 이어 CXL 기반 공유 메모리와 PIM을 결합한 AI 메모리 체계를 확대하고 있다.
양사의 접근법은 다르지만 목표는 같다.
AI 가속기와 메모리 사이의 데이터 이동을 줄이고, 한정된 전력으로 더 많은 데이터를 처리하는 것이다.
이에 따라 AI 메모리 경쟁은 HBM의 속도와 공급량을 넘어 메모리를 어디에 배치하고 어떻게 연결할지를 둘러싼 시스템 설계 경쟁으로 확대될 전망이다.
업계 관계자는 "AI 가속기의 연산 성능이 높아져도 메모리가 데이터를 제때 공급하지 못하면 병목이 발생한다"며 "메모리를 수직으로 쌓으면 용량을 늘리는 동시에 데이터 이동 거리를 줄여 처리 속도와 전력 효율을 높일 수 있다"고 설명했다.
◎공감언론 뉴시스 parknr@newsis.com