구글 딥마인드 "AI 추론 칩 시장 10년간 10배 성장…HBF가 대안"
SK하이닉스·샌디스크 첫 표준 공개…HBM·HBF 함께 쓰는 새 메모리 계층
[서울=뉴시스]박나리 기자 = SK하이닉스가 고대역폭메모리(HBM)에 이어 차세대 인공지능(AI) 메모리로 주목받는 고대역폭플래시(HBF) 시장 선점에 나선다.
샌디스크와 HBF 첫 표준 규격을 마련한 데 이어 구글 딥마인드도 AI 추론 시대의 메모리 병목을 해결할 대안으로 HBF를 주목했다.
7일 업계에 따르면 SK하이닉스와 구글 딥마인드, 샌디스크는 6일(현지시간) 미국 캘리포니아주 샌타클래라에서 열린 'FMS 2026'에서 'HBF로 메모리 월을 넘다'를 주제로 패널 토의를 진행했다.
이날 토론에서는 AI 추론 시장 확대에 따라 기존 메모리 시스템이 직면한 한계와 HBF의 역할, 실제 시스템 적용을 위한 기술적 과제가 논의됐다.
HBF는 낸드플래시를 기반으로 높은 대역폭을 구현하는 차세대 메모리 기술이다.
HBM과 솔리드스테이트드라이브(SSD) 사이에 새로운 메모리 계층을 만들어 HBM의 빠른 데이터 처리와 낸드의 대용량이라는 장점을 함께 활용하는 것이 핵심이다.
HBM을 대체하기보다 함께 배치해 초고속 처리는 HBM이, 상대적으로 큰 용량이 필요한 데이터는 HBF가 맡는 구조다.
샤오위 마 구글 딥마인드 연구원은 2024년부터 2034년까지 거대언어모델(LLM) 추론에 필요한 AI 칩 시장이 10배 이상 성장할 것으로 내다봤다.
AI 모델의 매개변수가 급증하고 멀티모달 AI 확산, KV 캐시 증가로 메모리 용량과 대역폭에 대한 요구가 동시에 커지고 있다는 설명이다.
마 연구원은 통상 메모리 용량을 늘리면 대역폭이 낮아지는 상충 관계가 있지만 HBF는 기존 스토리지보다 높은 대역폭과 에너지 효율을 동시에 확보할 수 있는 대안이라고 평가했다.
라지브 나가비라바 샌디스크 부사장도 HBF가 데이터 읽기 중심인 AI 추론용 메모리 계층으로 활용되면서 반복적인 쓰기와 삭제에 따른 낸드의 내구성 한계를 완화할 수 있다고 설명했다.
◆SK하이닉스, 첫 표준 이어 상용화 해법 제시
SK하이닉스는 HBF 기술 개발과 함께 표준·생태계 구축에도 나서고 있다.
지난 2월 샌디스크와 HBF 표준화 컨소시엄을 출범한 데 이어 6개월 만인 지난 4일 첫 표준 규격을 공개했다.
첫 규격은 낸드 다이를 8단과 16단으로 쌓는 두 가지 구성을 기준으로 최대 512기가바이트(GB) 용량과 초당 약 0.4~3.0테라바이트(TB/s)의 대역폭을 정의했다.
현재 컨소시엄에는 SK하이닉스와 샌디스크를 비롯해 구글과 AI 반도체 기업 텐스토렌트도 참여하고 있다.
SK하이닉스는 이날 토론에서 HBF 상용화를 위한 기술적 해법도 제시했다.
임의철 SK하이닉스 부사장은 낸드가 D램보다 지연시간이 길고 쓰기 속도가 느리다는 점을 과제로 꼽고 프리페칭과 무빙 윈도우 메모리, 하이브리드 메모리 아키텍처 등을 제안했다.
프리페칭은 연산에 필요한 데이터를 프로세서가 요청하기 전에 미리 불러오는 기술이다.
무빙 윈도우 메모리는 제한된 고속 메모리 공간에서 당장 필요한 데이터 영역을 옮겨가며 처리하는 방식이다.
하이브리드 메모리 아키텍처는 속도가 빠른 HBM과 용량이 큰 HBF 등 특성이 다른 메모리를 함께 활용하는 구조다. 하드웨어와 소프트웨어를 함께 설계해 AI 추론 시스템의 효율을 높이는 것이 목표다.
SK하이닉스는 HBM에서 확보한 AI 메모리 경쟁력을 HBF까지 넓혀간다는 구상이다.
임 부사장은 HBF를 실제 시스템에서 활용하기 위해서는 xPU 설계와 LLM, 소프트웨어 등 다양한 분야가 함께 완성도 높은 규격을 만들어가야 한다고 밝혔다.
◎공감언론 뉴시스 parknr@newsis.com