[서울=뉴스핌] 이나영 기자= 인공지능(AI) 추론 효율화 기업 노타가 AI 반도체 스타트업 하이퍼엑셀과 대규모 언어모델(LLM) 최적화 기술 공급을 위한 후속 계약을 체결했다. 지난해 9월 첫 계약에 이은 두 번째 수주로, 다양한 AI 반도체 환경에 적용할 수 있는 최적화 소프트웨어 사업을 확대하고 있다.

노타는 12일 하이퍼엑셀의 LLM 추론 전용 반도체인 '베르다(Bertha) LPU(LLM Processing Unit)'에 적용할 모델 및 연산 최적화 기술 공급 계약을 체결했다고 밝혔다.

이번 계약은 하이퍼엑셀의 반도체 개발 환경에 노타의 최적화 기술을 적용해 베르다에서 구동할 수 있는 LLM의 종류를 확대하기 위해 추진됐다. 양사는 최신 LLM을 베르다의 하드웨어 특성에 맞춰 최적화하고, 고객사가 다양한 서비스 환경에서 AI 모델을 효율적으로 활용할 수 있도록 지원할 계획이다.

하이퍼엑셀은 LLM 추론에 특화된 AI 반도체를 개발하는 기업이다. 노타는 하이퍼엑셀의 소프트웨어 개발 도구인 'HyperAccel SDK'와 자체 개발 언어인 '레가토(Legato)'를 기반으로 AI 최적화 플랫폼 '넷츠프레소'를 활용해 모델 최적화를 수행한다.

특히 LLM의 주요 연산을 처리하는 커널을 LPU 아키텍처에 맞게 최적화하고, 모델별 특성에 따라 양자화 기술을 적용해 메모리 사용 효율을 높일 예정이다. 이를 통해 베르다에서 지원하는 AI 모델의 범위를 확대하고 실행 효율을 개선한다는 계획이다.

노타는 그동안 국내외 AI 반도체 기업들과 모델 경량화 및 최적화 기술 공급 계약을 체결하며 다양한 하드웨어 환경에서 기술 적용 경험을 쌓아왔다. 그래픽처리장치(GPU)와 중앙처리장치(CPU), 신경망처리장치(NPU)에 이어 이번 계약을 통해 LPU까지 최적화 기술 적용 범위를 넓히고 있다.

회사는 기존 AI 모델 경량화뿐 아니라 반도체별 실행 환경과 연산 커널 최적화까지 기술 공급 영역을 확대하고 있다. 이번 후속 계약을 계기로 기존 고객사와의 협력을 강화하고 글로벌 AI 반도체 기업을 대상으로 소프트웨어 공급 사업을 확대할 방침이다.

김주영 하이퍼엑셀 대표는 "LLM 추론 시장이 확대되면서 다양한 모델을 지원하고 실제 서비스 환경에 적용할 수 있는 AI 반도체의 활용성이 중요해지고 있다"며 "노타와의 지속적인 기술 협력을 통해 베르다 LPU의 모델 지원 범위를 확대하고, 고객의 다양한 AI 추론 수요에 대응할 수 있는 제품 경쟁력을 강화해 나가겠다"고 밝혔다.

채명수 노타 대표는 "AI 반도체 기업의 경쟁력은 우수한 하드웨어뿐 아니라 고객이 원하는 AI 모델을 빠르고 효율적으로 실행할 수 있도록 지원하는 소프트웨어 생태계에서도 결정된다"며 "노타는 다양한 반도체 아키텍처에 대한 최적화 기술과 경험을 바탕으로 AI 반도체 기업들의 제품 경쟁력 강화를 지원하고 있다"고 말했다.

이어 "이번 하이퍼엑셀과의 후속 계약은 기존 고객과의 기술 협력이 추가 수주로 이어졌다는 점에서 의미가 크다"며 "앞으로도 글로벌 AI 반도체 기업들과의 협력을 확대하고, 모델 최적화부터 연산 커널까지 아우르는 소프트웨어 기술 공급 사업을 성장시키겠다"고 밝혔다.

nylee54@newspim.com