[칩 스토리]차세대 메모리 'HBM', 초거대 AI 시대 각광

미·중 갈등의 한 축은 '반도체 전쟁'이라고 할 정도로 반도체 주도권 다툼이 뜨겁습니다. 글로벌 경제 패권의 중심은 더이상 석유가 아니라 반도체라고 해도 과언이 아닙니다. 하지만 4차 산업 혁명을 이끌 반도체에 대해 쉽게 풀어 쓴 콘텐츠는 찾기 힘듭니다. 반도체 담당 기자들이 반도체 핵심 용어들을 쪼개고 이어 붙여, 독자 여러분께 '반도체'를 알기 쉽게 배달해 드리겠습니다. <편집자주>

[서울=뉴시스] 이인준 기자 = 최근 대화형 AI '챗GPT' 열풍으로 주목 받는 차세대 D램 '고대역폭메모리'(HBM·High Bandwidth Memory)가 침체된 메모리 시장에 활기를 불어넣고 있다.

HBM은 여러 개의 D램을 수직으로 연결한, 3D(3차원) 형태의 차세대 D램을 말한다. 국제 반도체 표준화 기구인 JEDEC에서 2013년 산업 표준으로 채택한 고부가가치·고성능 제품이다.

HBM이 기존 메모리 반도체와 결정적 차이는 데이터 처리 속도다. HBM은 기존 D램보다 더 많은 데이터 전송 통로(I/O)를 확보해 한꺼번에 많은 양의 데이터를 전송할 수 있다. 예컨대 평면 구조를 수직 구조로 전환하고, 여러 개의 엘리베이터를 단 셈이다. 이는 데이터 병목 현상을 줄여 이동에 필요한 시간을 크게 줄인다.

HBM은 세대가 바뀔 때마다 처리 속도가 계속 빨라지고 있다. SK하이닉스와 글로벌 시스템 반도체 설계 회사 AMD가 협력해 만든 HBM 1세대 제품은 핀(Pin)당 1Gbps에서 지난해 출시된 4세대 HBM3에 이르러서는 6.4Gbps로 향상됐다. 이는 초당 819GB(기가바이트)의 데이터를 처리할 수 있는 것으로, 풀HD 영화 163편을 단 1초에 전송할 수 있다.

HBM 시장은 한국 메모리 업체들이 주도하고 있다. 지난해 SK하이닉스는 현존 세계 최고 성능 D램인 'HBM3'의 양산을 시작해 미국 반도체 기업 엔비디아에 공급을 시작했다. 삼성전자도 HBM 관련 기술을 개발하기 위해 AMD와 협업 중이다.

다만 업계에서는 HBM가 아직 초기 단계라고 설명한다. 기존 D램 가격보다 3~5배 이상 비싸 수요가 적기 때문이다.

여전히 기술 장벽도 높다. AI나 데이터센터 등에 적용되고 있으나 아직은 보조적인 수단에 머무는 단계다.

특히 확장성에 제약이 있다. HBM은 일종의 반제품으로 중앙처리장치(CPU), 그래픽처리장치(GPU) 같은 로직 칩과 유기적으로 연결돼 동작한다. 이론상 칩 하나에 메모리를 더 많이 넣을수록 용량·성능은 더 좋아지지만, 그만큼 기술의 난도가 높아진다. HBM 메모리 용량을 늘리려면 아직 물리적 한계가 있다는 뜻이다. 칩을 어떻게 배치하는지도 성능을 좌우하는 요소다.

그래서 성능과 전력 효율을 극대화할 패키지 기술이 필요한 상황이다. 패키지는 반도체를 전자기기에 맞는 형태로 제작하는 공정으로, 전기 신호가 흐르는 통로를 만들고 외형을 가공해 제품화하는 필수 단계다.

최근 칩 크기가 작아지고 전자기기 기능이 고도화하면서 패키징 기술의 중요성은 더 높아지고 있다. 최근 이재용 삼성전자 회장도 최근 천안캠퍼스를 방문, HBM 등 첨단 패키지 기술이 적용된 생산설비를 직접 살피며 사업 경쟁력을 점검하는 등 첨단 패키징에 대한 지대한 관심을 나타냈다.

HBM의 한계를 돌파하기 위한 메모리 업계의 시도는 꾸준하다.

삼성전자는 업계 최초로 HBM에 PIM(Processing In Memory)을 통합했다. PIM은 메모리를 데이터 연산 기능에 활용해 CPU와 메모리 간 데이터 이동을 줄여주는 기술이다. 메모리를 데이터 연산 기능에 활용해 CPU와 메모리 간 데이터 이동을 줄여주는 기술이다.

메모리 시스템의 확장성을 높이기 위한 'CXL(Compute Express Link)' 논의도 주목받고 있다. CXL은 신개념 인터페이스로, 프로세서와 함께 사용되는 가속기와 메모리를 보다 효율적으로 사용하고 메모리 용량의 확장을 쉽게 해준다. 초거대 AI 운영을 위한 맞춤형 솔루션이다.

여기에 메모리가 빅데이터 분석 응용 프로그램이 자주 수행하는 머신러닝, 데이터 필터링 연산 기능까지 함께 제공하는 CXL 인터페이스 기반 PNM(Processing Near Memory) 등 기술 확보에도 힘을 모으고 있다.


◎공감언론 뉴시스 [email protected]