[서울=뉴스핌] 이승우 기자 = SK하이닉스가 인공지능(AI) 에이전트 시대의 메모리 한계를 풀 방안으로 '메모리랙' 구조를 제시했다. 데이터센터에 그래픽처리장치(GPU)·중앙처리장치(CPU) 서버와 별도로 수백 테라바이트(TB)급 메모리만 모은 랙을 두고, 여러 서버가 이를 공유해 쓰는 방식이다.

SK하이닉스는 이 구조를 인텔과 함께 준비하고 있다. 주영표 SK하이닉스 부사장은 12일 서울 강남구 삼성동 코엑스에서 열린 '인텔 AI 서밋 서울 2026'에서 "AI 에이전트 시대에는 CPU의 역할이 커지면서 인텔이 더 주목받고 있다"며 "인텔과 긴밀히 협력하고 있다"고 밝혔다.

◆ 코딩·멀티 에이전트 확산…"시간 줄이려면 메모리 더 필요"

주 부사장은 'AI 시대의 효율적 확장을 위한 메모리 기술과 시스템 아키텍처'를 주제로 발표했다. "에이전트 AI 시대로 넘어가면 메모리 용량과 성능에 대한 압박이 완화될 것이라는 주장도 있지만 SK하이닉스는 강화된다는 쪽의 생각을 갖고 있다"고 말했다.

근거로는 코딩 에이전트와 멀티 에이전트를 들었다. 그는 "AI가 코드를 생성하고 컴파일하고 디버깅하는 동안 사용자는 기다려야 하고, 기다리는 시간이 길어질수록 생산성이 떨어진다"며 "챗봇과 달리 빠르면 빠를수록 좋다"고 설명했다.

여러 에이전트가 서로 통신하며 일을 처리하는 환경에 대해 "사람의 개입이 최소화되는 만큼 기계 간 통신은 더 빨라야 한다"며 "메모리 성능과 용량에 대한 요구가 급격하게 올라가고 있는 게 현실"이라고 말했다.

◆ '메모리 월'에 막힌 AI 칩…해법은 '메모리랙'

현재의 방식으로는 이러한 수요를 따라가기 어렵다는 점이 문제로 꼽힌다. 주 부사장은 "가속기 칩은 가운데 연산 코어, 양옆 인터페이스, 위아래 메모리로 구성되는데 2차원 공간에서는 물리적으로 메모리를 더 둘 공간이 없다"고 말했다.

이른바 '메모리 월'에 대해 주 부사장은 "3D 적층 기술도 보고 있지만 고객들은 기다릴 수 없을 만큼 급해 시스템 차원에서 문제를 풀려 하고 있다"고 했다.

SK하이닉스가 제시한 해법은 데이터센터에 GPU 서버랙, CPU 서버랙과 별도로 수십~수백 테라바이트(TB)의 메모리를 담은 '메모리랙'을 두는 구조다. 각 서버는 기존처럼 자체 메모리를 갖되 서로 데이터를 주고받을 때는 가운데 메모리 풀에 넣고 꺼내 쓰는 방식이다.

주 부사장은 "집집마다 차를 서너 대씩 두기보다 한 대씩만 두고 필요할 때 공유 차량을 쓰는 게 자원 관리 측면에서 효율적인 것과 같다"고 비유했다. 랙 사이는 기존 네트워크로 연결하고, 다음 단계로 랙 안에서는 컴퓨트익스프레스링크(CXL)로 메모리를 공유한다는 구상이다.

AI가 답변과 피드백을 반복하는 멀티턴 에이전트 환경에서는 대화 맥락을 담은 'KV 캐시'가 급격히 늘어나 저장 공간이 부족해진다. 이미 계산한 데이터를 버리고 다시 계산해야 한다. 주 부사장은 "메모리랙에 KV 캐시를 저장해 두고 꺼내 쓰면 다시 연산하는 것보다 평균 응답 시간과 가장 느린 응답 시간이 모두 크게 개선됐다"고 말했다.

◆ 'CPU 강자' 인텔과 아키텍처 단계부터 협력

SK하이닉스는 아키텍처 단계부터 CPU 강자로 꼽히는 인텔과 협력하고 있다고 밝혔다. 주 부사장은 "SK하이닉스는 풀스택 AI 메모리 크리에이터로서 아키텍처 단계부터 고객·파트너와 함께 설계를 논의하고 있다"며 "그 일환으로 인텔과도 이러한 일들을 긴밀하게 수행하고 있다"고 밝혔다.

인텔을 협력 상대로 꼽은 이유로는 CPU를 들었다. 주 부사장은 "인텔은 컴퓨팅에서 강력한 리더십을 갖고 있고, 그 리더십이 CPU가 중요해지는 에이전트 AI 시대에 더 주목받고 있다"며 "인텔과 함께 혁신을 만들어 나가기 위해 노력하고 있다"고 말했다.

같은 날 인텔도 에이전트 시대 CPU의 역할을 강조했다. 아닐 난두리 인텔 AI 제품 및 GTM 총괄은 키노트에서 "에이전트 작업을 분류하고 적합한 모델과 컴퓨팅으로 배분하는 일은 점점 더 CPU의 몫이 되고 있다"고 말했다. 

raul1649@newspim.com