[서울=뉴스핌] 김정인 기자 = 송재혁 삼성전자 디바이스솔루션(DS)부문 최고기술책임자(CTO) 사장이 인공지능(AI) 확산으로 커지는 메모리 병목에 대응하기 위해 커스텀 고대역폭메모리(HBM)를 중심으로 한 차세대 메모리 아키텍처 구상을 공개했다. HBM4를 기반으로 데이터 이동 경로를 줄이고, 메모리에 연산 기능을 일부 결합하는 맞춤형 HBM과 3차원 적층, 차세대 패키징·광통신 기술을 통해 전력 효율과 데이터 처리 성능을 동시에 끌어올리겠다는 전략이다.

◆ AI 확산, 메모리 병목이 구조적 한계로

11일 송 사장은 서울 강남구 코엑스에서 열린 '세미콘 코리아 2026' 기조연설에서 AI 확산에 따라 메모리 수요와 데이터 처리 부담이 구조적으로 커지고 있다고 진단했다. 송 사장은 "AI 시대에는 메모리 수요가 더 커지고 있다"며 "삼성은 메모리와 파운드리, 설계 역량을 결합해 커스텀 HBM 시대를 준비하고 있다"고 말했다.

송 사장은 AI 인프라 투자 흐름이 데이터센터를 중심으로 빠르게 확대되고 있다고 설명했다. 그는 "하이퍼스케일러를 중심으로 AI 인프라 투자가 빠르게 늘고 있다"며 "메모리 데이터 처리 속도가 AI 시스템 발전의 핵심이 되고 있다"고 밝혔다. 생성형 AI를 넘어 에이전틱 AI, 피지컬 AI로 진화할수록 연산량과 메모리 트래픽이 기하급수적으로 증가할 수밖에 없다는 인식이다.

◆ 범용 넘어 커스텀 HBM…아키텍처로 풀다

송 사장은 이러한 변화에 대응해 차세대 HBM인 HBM4에서 데이터가 오가는 경로를 줄이고 처리 속도를 높이는 구조를 준비하고 있다고 설명했다. 메모리 성능 향상뿐 아니라 시스템 전력 효율과 안정성을 함께 고려한 설계가 필요하다는 점도 강조했다.

특히 HBM 경쟁이 범용 제품에서 고객 맞춤형으로 이동하고 있다는 점을 분명히 했다. 송 사장은 "고객이 원하는 방식으로 최적화한 커스텀 HBM을 준비하고 있다"며 "전력 소모를 줄이고 효율을 높이는 방향으로 발전하고 있다"고 말했다.

메모리에 연산 기능을 일부 결합하는 '삼성 커스텀 HBM(cHBM)' 구상도 제시했다. 메모리 내부에서 일부 작업을 처리해 데이터 이동을 줄이고 전력 부담을 낮추는 방식이다. 송 사장은 "열을 줄이고 더 높게 쌓을 수 있는 기술을 준비 중"이라며 "차세대 HBM 경쟁의 중요한 기반이 될 것"이라고 말했다.

이와 함께 메모리와 반도체 칩을 더욱 촘촘히 쌓는 3차원(3D) 적층 구조, AI 데이터센터에서 칩 간 연결 속도를 높이기 위해 광통신을 패키지에 직접 적용하는 기술도 차세대 방향으로 제시했다.

송 사장은 삼성전자가 메모리, 파운드리, 시스템 반도체를 모두 운영하는 종합 반도체 기업이라는 점이 이러한 전략의 기반이라고 설명했다. 그는 "디바이스, 공정, 패키지, 설계를 함께 묶어 고객 가치를 높이겠다"며 "AI 시대 폭발적 수요를 지원할 준비를 하겠다"고 말했다.

◆ "HBM4 피드백 아주 만족"

송 사장은 기조연설에 앞서 기자들과 만난 자리에서 HBM4 경쟁력과 사업 진행 상황을 보다 구체적으로 설명했다. 그는 삼성전자의 HBM4에 대해 "고객사의 피드백이 아주 만족스럽다"고 말했다. 이어 "세계에서 가장 좋은 기술력으로 대응했던 삼성의 모습을 잠시 못 보여드렸지만, 그 모습을 다시 보여드리는 것"이라며 "HBM4는 사실상 기술에 있어서는 최고"라고 강조했다.

수율과 관련해서도 "숫자로 말씀드리기는 어렵지만 좋다"고 언급했다. 그러면서 "삼성은 메모리와 파운드리, 패키지를 모두 갖고 있다는 점에서 지금 고객들이 요구하는 제품을 만드는 데 아주 좋은 환경"이라며 "그것이 적합하게 시너지를 내고 있다"고 덧붙였다.

또 다음 세대 HBM 경쟁력에 대한 자신감도 내비쳤다. 송 사장은 "차세대 HBM4E와 HBM5에서도 업계 1위가 될 수 있도록 기술을 준비하고 있다"고 말했다.

삼성전자는 설 연휴 이후 업계 최초로 엔비디아에 공급할 HBM4를 양산 출하할 계획이다. 이번 HBM4 개발 단계부터 최고 성능 구현을 목표로 10나노 6세대(1c) D램을 적용하고, 베이스 다이에는 4나노 파운드리 공정을 도입했다.

그 결과 삼성전자 HBM4의 데이터 처리 속도는 JEDEC 표준인 8Gbps를 웃도는 최대 11.7Gbps로, JEDEC 표준 대비 37%, 이전 세대 HBM3E 대비 22% 높은 수준이다. 단일 스택 기준 메모리 대역폭도 전작 대비 2.4배 향상된 최대 3TB/s에 달하며, 12단 적층 기술을 적용해 최대 36GB 용량을 구현했다.

kji01@newspim.com