SK하이닉스, AI 추론 병목 푼다…차세대 메모리 솔루션 공개

[서울=뉴시스]박나리 기자 = SK하이닉스가 인공지능(AI) 추론 시대를 겨냥한 HBF와 PIM, SALT-KV 등 차세대 메모리 솔루션을 공개했다.

SK하이닉스는 지난 15일부터 17일까지 미국 캘리포니아주 산타클라라에서 열린 'AI 인프라 서밋 2026'에 참가했다고 21일 밝혔다.

이번 행사는 데이터·모델과 컴퓨팅, 데이터 이동, AI 데이터센터, 피지컬 AI 등 5개 분야의 최신 기술과 발전 방향을 논의하는 자리다.

올해 참가자는 지난해보다 두 배 늘어난 약 6000명으로 집계됐다.

SK하이닉스도 전시 부스 규모를 지난해보다 두 배 확대하고 '뉴 스펙트럼(New Spectrum)'을 슬로건으로 차세대 AI 메모리 기술을 소개했다.

전시에서 가장 관심을 받은 기술은 고대역폭플래시(HBF)다.

AI 시장의 중심이 학습에서 추론으로 옮겨가면서 고대역폭메모리(HBM)와 대용량 솔리드스테이트드라이브(SSD) 사이를 잇는 새로운 메모리 계층의 필요성이 커지고 있다.

HBF는 낸드플래시에 HBM과 같은 실리콘관통전극(TSV) 기술을 적용해 대용량과 높은 대역폭을 함께 구현하는 기술이다.

메모리 내부에 연산 기능을 넣은 PIM(Processing-In-Memory) 기술도 선보였다.

PIM은 프로세서와 메모리 사이의 데이터 이동을 줄여 병목 현상을 완화하고 연산 성능과 전력 효율을 높이는 기술이다.

SK하이닉스는 연산 기능을 탑재한 메모리 칩 'AiM'과 이를 기반으로 만든 가속기 카드 'AiMX', AiMX 카드가 장착된 서버를 전시하고 대규모언어모델(LLM) 서비스 개선 효과를 체험하는 시연을 진행했다.

SALT-KV는 AI 에이전트가 이전 연산 결과를 임시로 저장하는 'KV 캐시'를 효율적으로 관리하는 솔루션이다.

KV 캐시를 문맥 단위로 나눈 뒤 재사용 가치와 저장 비용을 판단해 데이터를 HBM과 D램, SSD 가운데 적합한 저장 계층에 배치한다.

SK하이닉스는 SALT-KV를 적용해 LLM으로 게임을 생성하고 실행하는 시연도 선보였다.

임의철 SK하이닉스 솔루션AT 담당은 행사 세션에서 "초저지연 에이전트 서비스부터 비용 효율성이 중요한 장문 콘텍스트 서비스까지 AI 워크로드가 다양해지면서 기존 GPU-HBM 구조만으로는 새로운 요구사항을 충족하기 어려워지고 있다"고 말했다.

이어 "SK하이닉스는 변화한 워크로드에 맞춰 하드웨어와 소프트웨어를 아우르는 새로운 솔루션으로 PIM과 HBF, SALT-KV를 준비하고 있다"고 설명했다.


◎공감언론 뉴시스 [email protected]