이 기사는 4월 21일 오전 11시59분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.

[서울=뉴스핌] 황숙혜 기자 = 인공지능(AI) 반도체 패권을 장악한 엔비디아(NVDA)가 양자 컴퓨팅 인프라 시장에 도전장을 냈다.

지난 4월14일(현지시각) '세계 양자의 날(World Quantum Day)'에 맞춰 세계 최초의 오픈소스 양자 컴퓨팅 전용 AI 모델 패밀리인 '엔비디아 아이징(NVIDIA Ising)'을 공식 발표한 것.

업체의 공식 명칭은 엔비디아 아이징 모델 패밀리(NVIDIA Ising model family)다. 아이징이 단일 모델 하나가 아니라 두 개 이상의 개별 AI 모델들의 묶음이기 때문. 구체적으로, 아이징 캘리브레이션과 아이징 디코딩이 하나의 브랜드에 포함된 구조다.

업계 전문가들은 아이징이 단순한 기술 업데이트가 아니라 AI와 양자 컴퓨팅의 수렴이라는 차세대 컴퓨팅 패러다임 전환이라는 데 한 목소리를 낸다. 엔비디아가 아이징의 공개 시점으로 세계 양자의 날을 선택한 것도 단순한 우연이 아니라는 의견에 힘이 실린다.

4월14일은 양자역학의 기초를 놓은 막스 플랑크(Max Planck)의 생일을 기념해 제정된 날로, 전세계 양자 연구 커뮤니티가 주목하는 상징적인 날짜다. 엔비디아는 이날 과학계와 산업계가 동시에 귀를 기울이는 시점을 공략해 AI가 양자 컴퓨팅 실용화를 위해 필수적이라는 메시지를 내놓았다.

젠슨 황 엔비디아 최고경영자(CEO)는 공식 발표 성명에서 "아이징을 통해 AI는 양자 기계의 제어 계층, 즉 운영체제가 된다"며 "이를 통해 취약한 큐비트를 확장 가능하고 신뢰할 수 있는 양자-GPU 시스템으로 전환할 수 있다"고 밝혔다.

아이징이라는 이름은 독일 물리학자 에른스트 이징(Ernst Ising)과 그의 지도교수 빌헬름 렌츠(Wilhelm Lenz)가 정립한 '렌츠-이징 모델'에서 따왔다. 이 모델은 복잡한 물리 시스템을 단순화된 수학적 구조로 설명하는 통계역학의 핵심 프레임워크로, 복잡하고 예측 불가능한 양자 시스템을 AI로 제어하겠다는 엔비디아의 철학을 모델명 자체에 담은 셈이다.

더불어 젠슨 황의 이번 발표는 그가 불과 수년 전 "매우 유용한 양자 컴퓨터를 만드는 데는 20년이 걸릴 것"이라고 말하며 관련 종목을 폭락시킨 장본인이라는 점에서, 업계와 월가의 시선을 집중시켰다.

젠슨 황은 불과 몇 년 전까지 양자 컴퓨팅에 공개적으로 회의적인 시각을 유지했다. 하지만 구글이 초전도 양자 칩 '윌로우(Willow)'를 통해 의미 있는 기술적 진전을 발표하고, IBM이 양자 로드맵을 추진하고, 마이크로소프트(MSFT)가 독자적인 위상학적 큐비트 접근법을 공개하는 등 산업 전반에서 기술적 가속이 이뤄지자 엔비디아의 행보가 눈에 띄게 달라지기 시작했다.

전환의 첫 번째 신호탄은 2025년 10월이었다. 엔비디아는 'NVQ링크(NVQLink)'를 공개하며 양자 프로세서(QPU)와 GPU 슈퍼컴퓨팅을 직접 연결하는 고속 인터커넥트 아키텍처를 선보였다. 당시 젠슨 황은 "NVQ링크는 양자 컴퓨터와 클래식 슈퍼컴퓨터를 하나의 일관된 시스템으로 연결하는 로제타 스톤이며, 머지않아 모든 엔비디아 GPU 사이언티픽 슈퍼컴퓨터는 양자 프로세서와 긴밀하게 결합된 하이브리드 시스템이 될 것"이라고 선언했다.

또한 같은 기간 엔비디아의 벤처 투자 부문 '엔벤처스(NVentures)'는 하니웰의 양자 컴퓨팅 자회사인 퀀티넘(Quantinuum)이 진행한 6억달러 규모 자금 조달 라운드에 전략적 투자자로 참여하며 하드웨어 생태계와의 결속을 강화했다. 아이징의 출시는 이런 일련의 포석 위에 놓인 소프트웨어 전략의 완결판으로 해석된다.

아이징 모델 패밀리의 구조를 이해하려면 양자 컴퓨팅이 현재 직면한 두 가지 핵심 기술 병목을 먼저 파악해야 한다. 다름아닌 '캘리브레이션(calibration, 보정)'과 '오류 수정(quantum error correction)'이다.

양자 컴퓨터의 기본 연산 단위인 큐비트는 외부 진동이나 전자기 간섭, 온도 변화 등 미세한 환경 변화에도 즉각적으로 오류가 발생할 만큼 극도로 민감한 시스템이다. 큐비트가 '0'과 '1'의 확률적 중첩 상태를 안정적으로 유지하도록 하드웨어를 지속적으로 미세 조정하는 것이 캘리브레이션이고, 연산 도중 발생하는 오류를 실시간으로 탐지하고 수정하는 것이 오류 수정이다.

기존 방식에서는 캘리브레이션만으로도 수일이 소요되는 경우가 발생했고, 이 과정은 고도로 훈련된 물리학자들이 수작업으로 수행해야 했다.

엔비디아는 두 가지 과제를 각각 전담하는 두 개의 특화 모델로 아이징을 설계했다. 첫 번째는 '아이징 캘리브레이션(Ising Calibration)'으로, 시각-언어 모델(Vision Language Model, VLM) 기술을 기반으로 설계된 350억 파라미터(35B) 규모의 대형 모델이다. 모델은 양자 프로세서에서 발생하는 복잡한 측정 데이터와 그래프를 AI 에이전트가 시각적으로 읽고 해석하며, 지속적인 보정 작업을 자동화한다.

엔비디아의 공식 개발자 블로그에 따르면 아이징 캘리브레이션은 구글의 제미나이 3.1 프로(Gemini 3.1 Pro) 대비 평균 3.27%, 앤스로픽의 클로드 오퍼스(Claude Opus) 대비 9.68%, GPT 5.4 대비 14.5% 높은 성능을 기록하는 등 벤치마크 6개 항목 전체에서 모든 비교 모델을 앞섰다.

두 번째는 '아이징 디코딩(Ising Decoding)'이다. 3D 합성곱 신경망(3D CNN) 기반의 실시간 오류 수정 디코더로, 처리 속도에 최적화된 '패스트(Fast)' 변형과 정확도에 최적화된 '어큐레이트(Accurate)' 변형 등 두 가지 버전으로 제공된다.

패스트 모델은 약 91만2000천개의 파라미터로 구성된 경량화 모델로, GPU 상에서 효율적으로 구동되도록 설계됐다. 두 모델 모두 전 세계 양자 연구 커뮤니티의 업계 표준 오픈소스 디코더인 파이매칭(pyMatching)과의 비교를 기준으로 성능이 측정된다.

아이징의 기술적 완성도를 가늠하는 가장 직접적인 벤치마크는 파이매칭과의 정량적 비교다. 엔비디아의 공식 발표에 따르면 아이징 디코딩 모델은 파이매칭 대비 최대 2.5배 빠른 처리 속도와 3배 높은 정확도를 구현한다. 아이징 패스트 모델과 파이매칭 조합은 순수 파이매칭 대비 2.5배 속도 향상과 1.11배의 정확도 향상을 기록했다.

시장 전문가들은 이에 대해 단순한 벤치마크 수치 이상의 의미를 지닌다고 강조한다. 오류 수정의 속도와 정확도는 양자 컴퓨터가 실제로 유용한 애플리케이션을 실행할 수 있는지를 결정하는 가장 직접적인 제약 조건이기 때문이다.

TD 코웬의 애널리스트 크리시 상카르(Krish Sankar)는 마켓워치에 기고한 리서치 노트에서 양자 오류 수정을 퀀텀 컴퓨팅 업계가 상업화로 나아가기 위해 반드시 넘어야 할 다음 장벽이자 근본적인 문제라고 규정하면서, 아이징 캘리브레이션과 아이징 디코더가 그 두 가지 핵심 장벽을 동시에 공략한다는 점에 주목했다.

shhwang@newspim.com