AI 핵심 요약
beta- 그로쓰리서치는 10일 AI 병목이 메모리 용량으로 옮겨가며 HBF 필요성이 커졌다고 했다
- HBF는 HBM 유사 적층구조로 HBM·SSD 사이 용량과 성능 격차를 보완한다
- 상용화 초기엔 한미반도체와 엘티씨 등 HBM 후공정 기업이 수혜를 받을 전망이다
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
[서울=뉴스핌] 이나영 기자= 그로쓰리서치는 10일 인공지능(AI) 연산의 병목이 연산 성능에서 메모리 용량으로 이동하면서 차세대 메모리 기술인 고대역폭플래시(HBF·High Bandwidth Flash)의 필요성이 커지고 있다고 분석했다. HBF가 고대역폭메모리(HBM)와 유사한 적층 구조를 채택하는 만큼 기존 HBM 후공정 관련 기업이 수혜를 받을 가능성이 높다고 전망했다.
HBF는 낸드플래시(NAND Flash)를 여러 층으로 쌓아 대용량을 확보하면서 그래픽처리장치(GPU)와 텐서처리장치(TPU) 등 AI 연산장치 가까이에서 데이터를 공급하는 차세대 메모리 기술이다. HBM의 빠른 데이터 처리 속도와 솔리드스테이트드라이브(SSD)의 대용량 사이를 보완하는 새로운 메모리 계층으로 개발되고 있다.
한용희·김주형 그로쓰리서치 연구원은 "AI 추론 과정에서 대규모언어모델(LLM)의 파라미터와 컨텍스트 길이가 확대되고 동시에 처리해야 하는 사용자까지 늘어나면서 KV 캐시에 필요한 메모리 용량이 빠르게 증가하고 있다"며 "HBM만으로 대규모 데이터를 처리하기에는 용량 측면에서 한계가 있어 HBF의 필요성이 커지고 있다"고 분석했다.
최근에는 HBF 상용화를 위한 움직임도 구체화되고 있다. SK하이닉스와 샌디스크는 지난 3일 HBF 표준 규격을 공개했다. 공개된 규격에는 UCIe 속도 등급과 AXI 프로토콜 구조, 주소 매핑 방식 등이 포함됐다. 이에 따라 AI 칩 설계사는 HBF 실물 칩이 나오기 전부터 프로세서 내부 통신 구조를 설계할 수 있게 됐다.
HBF는 물리계층과 프로토콜 측면에서 HBM과 유사한 구조를 갖는다. SSD에 사용되는 PCIe 대신 패키지 내부 칩렛 간 데이터 통신을 위한 UCIe를 연결 규격으로 사용하고, 저장장치용 NVMe 대신 시스템온칩(SoC) 내부에서 사용하는 AXI 프로토콜을 적용한다.
용량 측면에서는 NAND의 장점을 활용한다. HBF는 NAND 다이를 8단 또는 16단으로 적층해 큐브당 최대 512GB 이상의 용량을 지원한다. HBM3E의 큐브당 용량이 약 24~36GB인 점을 고려하면 동일 공간에서 약 15~20배 이상의 용량을 확보할 수 있다는 설명이다.
한 연구원은 "기존에는 KV 캐시를 데이터 공급 속도가 빠른 HBM에 주로 저장했지만 HBM은 D램(DRAM)을 기반으로 해 NAND보다 동일 면적에서 확보할 수 있는 용량이 제한적"이라며 "SSD로 데이터를 이동시키는 오프로딩 방식도 GPU와 물리적으로 떨어져 있어 접근 지연이 발생하는 만큼 HBF가 HBM과 SSD 사이의 용량·성능 격차를 보완할 수 있다"고 설명했다.
특히 AI가 텍스트 중심에서 이미지와 영상 등을 함께 처리하는 멀티모달 방식으로 발전하면서 메모리 수요는 더욱 늘어날 것으로 전망했다. 보고서에 따르면 시각·언어모델(VLM) 'Molmo2'에 12초 분량의 비디오를 입력할 경우 약 1만1000개의 시각 토큰이 생성된다. 에이전틱 AI와 피지컬 AI 확산도 처리해야 할 데이터와 메모리 용량을 늘리는 요인으로 꼽혔다.
상용화 시점도 예상보다 빨라질 수 있다고 봤다. 샌디스크의 로드맵에 따르면 올해 하반기 첫 HBF 메모리 샘플을 제공하고 내년 초에는 HBF를 탑재한 AI 추론장치 샘플을 선보일 계획이다. 그로쓰리서치는 2027년 말~2028년 특정 AI 가속기와 서버에서 HBF가 제한적으로 채택된 뒤 2029~2030년에는 복수 고객과 플랫폼으로 적용 범위가 확대될 것으로 전망했다.
김 연구원은 "HBF가 단기간에 HBM이나 SSD를 대체하기보다는 AI 추론 과정에서 발생하는 대용량 데이터를 처리하는 새로운 메모리 계층으로 자리 잡을 가능성이 있다"며 "멀티모달과 에이전틱 AI, 피지컬 AI로 AI 활용 범위가 넓어질수록 HBF의 필요성도 커질 것"이라고 말했다.
HBF 시장이 형성되면 기존 HBM 관련 기업들이 초기 수혜를 받을 가능성이 높다고 분석했다. HBF는 D램 대신 NAND를 사용하지만 여러 개의 메모리 다이를 수직으로 적층하고 고밀도로 연결한다는 점에서 HBM과 제조 구조가 유사하기 때문이다. 적층·본딩과 실리콘관통전극(TSV), 패키징, 세정 등 HBM에 적용되는 핵심 공정 기술이 HBF에도 활용될 가능성이 있다는 설명이다.
관련 기업으로는 SK하이닉스를 비롯해 한미반도체, 피에스케이홀딩스, 엘티씨, 큐알티, 테크윙, 펨트론 등을 제시했다. 이 가운데 한미반도체와 엘티씨를 주요 수혜 기업으로 꼽았다.
한미반도체는 HBM용 열압착(TC) 본더 분야에서 축적한 양산 경험을 HBF로 확대할 가능성이 있다는 평가다. HBF가 베이스 다이 위에 16단의 NAND 코어 다이를 적층하는 구조를 채택할 경우 칩의 위치를 정밀하게 맞추고 열과 압력을 제어하는 TC 본더가 핵심 장비로 활용될 수 있다.
한 연구원은 "HBF 적층 공정은 HBM의 적층 공정과 본질적으로 같아 한미반도체 장비가 그대로 쓰일 가능성이 높다"며 "HBF에 주도적으로 참여하고 있는 SK하이닉스로부터 HBM 수율 검증을 마쳤다는 점도 관전 포인트"라고 설명했다.
엘티씨는 TSV 웨이퍼 세정장비와 NAND용 세정액·식각액을 동시에 보유하고 있다는 점이 강점으로 꼽혔다. HBF 역시 HBM과 마찬가지로 TSV를 이용해 다이를 연결할 경우 식각 과정에서 발생하는 잔여물을 제거하는 세정 공정이 필요하다.
김 연구원은 "기존 HBM에서 사용하던 세정장비가 HBF에도 활용될 가능성이 높다"며 "엘티씨는 SK하이닉스의 주요 세정장비 업체로 TSV 세정장비를 납품하고 있어 향후 HBF 라인 구축 시 참여할 가능성이 높다"고 분석했다.
nylee54@newspim.com
