[GAM]엔비디아 독주 흔드는 구글 TPU ① AI 병목은 칩 아니라 전력

기사입력 : 2025년11월27일 08:01

최종수정 : 2025년11월27일 08:01

추론으로 옮겨갈수록 TPU 경쟁력
알파벳 수직 통합 구조 강점
엔비디아 독주 체제 '흔들'

이 기사는 11월 26일 오후 2시48분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.

[서울=뉴스핌] 황숙혜 기자 = 앞으로 펼쳐질 인공지능(AI) 세상의 최대 병목은 칩이 아니라 전력 부족이라는 주장이 나왔다.

월가는 여전히 최고의 칩 업체에 베팅하는 데 혈안이고, 엔비디아(NVDA)의 GPU(그래픽처리장치)가 시장을 지배하고 있지만 이는 승부의 절반일 뿐이라는 주장이다.

GPU는 데이터를 빠르게 처리하는 데 최적이지만 엄청난 에너지를 소모한다는 사실이 치명적인 단점이다. AI 데이터센터가 전력 먹는 하마라는 얘기는 과장이 아니다.

젠슨 황 엔비디아 최고경영자(CEO)는 최근 전력 공급 문제로 인해 중국이 AI 경쟁에서 미국을 앞지를 것이라고 경고한 바 있다.

AI의 최대 병목이 칩 부족이 아니라 전력 부족이라면 승부는 컴퓨팅 효율성에서 결정 나게 된다고 업계 전문가들은 말한다.

AI 모델의 학습 단계에서 추론(inference) 단계로 무게중심이 이동할수록, 즉 거대언어모델(LLM)을 실제 운영하는 단계에서는 컴퓨팅 효율성의 중요성이 크게 높아진다는 설명이다.

미국 빅테크들은 GPU를 대체할 수 있는 제품 개발에 공격적인 행보를 보이고 있다. 업계에 따르면 엔비디아의 GPU가 AI 칩 시장에서 80~90%의 점유율로 압도적인 1위를 차지하고 있고, 데이터센터의 AI 모델 부문에서 업체의 CUDA 생태계와 하드웨어가 표준으로 자리잡은 상황.

구글의 최신 아이언우드 TPU [사진=업체 제공]

엔비디아 GPU의 독주에 도전하는 대체 칩으로 알파벳(GOOGL) 자회사 구글의 TPU(Tensor Processing Unit)와 아마존(AMZN)의 트레이니엄(Trainium), 브로드컴(AVGO)의 ASIC, 퀄컴(QCOM)과 애플(AAPL)의 NPU(Neural Processing Unit) 등이 꼽힌다.

NPU는 주로 스마트폰과 이른바 엣지 기기에 특화된 AI 가속 칩으로, 실시간 추론과 저전력 환경에 적합하고, ASIC과 트레이니엄이 데이터센터와 대규모 추론 환경에서 사용이 확대되는 모양새다.

엔비디아의 GB200 그레이스 블랙웰 [사진=블룸버그]

월가는 구글의 TPU에 조명을 집중한다. 구글이 자체 설계한 AI 전용 칩이 LLM 훈련과 대형 데이터센터 환경에 최적화됐다는 평가다. 실제로 TPU v4/v5의 경우 엔비디아의 일부 GPU 대비 가격과 에너지 효율 측면에서 우위를 보인다는 의견이 나오는 가운데 메타 플랫폼스(META)와 오픈AI가 구글 TPU 채택을 저울질한다는 소식이다.

알파벳은 10년 이상 자체적인 AI 칩 TPU 개발에 매달렸다. 판매보다 내부적인 텐서플로(TensorFlow)를 위한 맞춤형 AI 칩을 개발하는 데 무게를 뒀다. 미국 온라인 투자 매체 모틀리 풀은 브로드컴이 고객들을 통해 비즈니스 성과를 내고 있지만 알파벳의 내부 개발 성과가 그 이상의 의미를 갖는다고 주장한다. 기업들이 브로드컴의 ASIC을 도입한다 해도 알파벳의 7세대에 달하는 TPU의 성능을 따라잡기 어렵다는 얘기다.

TPU의 최대 장점은 알파벳의 클라우드 컴퓨팅 인프라와 워크로드에 최적화 돼 있다는 점이다. 이는 성능을 높일 뿐 아니라 에너지 소모를 줄이기 때문에 컴퓨팅 비용 측면에서 커다란 이점이 된다. 이 같은 비용 우위는 앞으로 AI 추론의 수요가 늘어날수록 더욱 크게 부각될 전망이다.

시장 전문가들은 알파벳이 수직 통합 구조의 승자가 될 가능성을 열어 두고 있다. 수직 통합 구조란 구글이 직접 칩 설계부터 제조, 데이터센터 인프라, 소프트웨어 플랫폼까지 모두 자체적으로 통합 운영한다는 의미다.

구글은 GPU를 포함한 타사 칩을 구매하지 않고 TPU를 자체 설계, 생산해 구글 클라우드와 자체 데이터센터에 대규모로 투입한다. 칩 제작부터 공급과 운영까지 외부 의존도가 거의 없기 때문에 성능과 비용 측면의 효율성이 탁월하다는 설명이다.

업체는 TPU를 위한 전용 네트워킹과 전용 서버 및 수냉 인프라 등을 직접 개발, 구축해 수천에서 수 만 개 칩을 묶어 이른바 TPU 팟(TPU Pod) 혹은 AI 하이퍼컴퓨터(AI Hypercomputer) 식의 슈퍼컴퓨터 기반의 운영이 가능하다고 밝혔다.

제미나이(Gemini)와 PaLM(Pathways Language Model) 등 업체의 AI 모델도 TPU에 특화돼 있어 하드웨어부터 소프트웨어, 서비스까지 일원적으로 연동된다고 구글은 설명한다.

미국 경제 매체 CNBC를 포함한 외신들은 수직 통합의 장점으로 대규모, 고효율 클러스터 조성과 유연성을 꼽는다. 필요한 순간에 AI 연산 자원을 확장했다가 작업이 끝나면 곧바로 줄일 수 있다는 얘기다.

아울러 칩별 전력 효율성과 비용 우위, 성능 개선 효과가 뛰어나고 기획부터 출시까지 혁신 속도가 빠르다고 설명한다. 외부 공급망 리스크에 따른 제약이 거의 없다는 점도 수직 통합의 강점으로 꼽힌다.

강세론자들은 AI 훈련에 무게를 두는 단계에서 시장의 다음 단계가 전개되면 알파벳의 수직 통합 전략이 최대 승자로 부상할 수 있다고 주장한다.

DA 데이비드슨은 보고서를 내고 "알파벳만큼 완벽한 AI 기술 스택을 갖춘 기업을 찾기 힘들다"며 "특히 최근 공개된 제미나이 3 모델은 특정 영역에서 동급 모델을 압도하는 능력을 보여주고 있다"고 평가했다.

알파벳의 특이점은 TPU를 단독 제품으로 판매하지 않는다는 사실이다. 고객들은 구글 클라우드(Google Cloud)에서 자신들의 워크로드를 돌려야만 TPU를 사용할 수 있다. AI 관련 매출 기회를 한꺼번에 확보할 수 있는 성장 모델을 구축했다는 얘기다.

알파벳이 TPU를 자체 AI 워크로드에 접목, 제미나이 AI 모델을 개발, 학습, 추론, 운영한다는 점에서 오픈AI와 퍼플렉시티 AI 등 GPU 중심의 경쟁자에 대해 구조적인 비용 우위라고 강세론자들은 주장한다.

알파벳은 버텍스(Vertex) AI 등 최상급 소프트웨어 플랫폼을 제공해 고객들이 제미나이 기반의 AI 모델과 앱을 자체적으로 개발할 수 있도록 한다. 아울러 대규모 광섬유 네트워크도 보유하고 있어 지연(latency)도 줄일 수 있다.

클라우드 보안 부문의 선두로 꼽히는 위즈(Wiz) 인수 추진까지 AI 기술 스택을 대폭 강화하는 움직임이다.

최근 미국 IT 전문 매체 더 인포메이션의 보도에 따르면 메타 플랫폼스가 구글 TPU 사용을 놓고 협상을 벌이고 있다. 오픈AI에 이어 빅테크가 GPU 의존도를 축소하고 공급망을 다변화하는 움직임이다.

일부에서는 엔비디아가 최근 고객 업체 투자에 적극 나서는 것도 오픈AI가 TPU 테스트를 시작했다는 소식에 따른 대응이라는 해석을 내놓았다.

월스트리트저널(WSJ)에 따르면 엔비디아는 오픈AI의 TPU 테스트 소식이 전해진 뒤 곧장 업체와 추가 투자 및 협상에 나섰다. 신문은 AI 칩 대장주로 꼽히는 엔비디아 역시 알파벳의 TPU를 높이 평가한다는 의미로 풀이했다.

shhwang@newspim.com

사진

내란특검, 한덕수에 징역 15년 구형 [서울=뉴스핌] 백승은 기자 = "그날 밤, 대통령이 비상계엄을 하겠다는 순간 (중략) 기억도 맥락도 없고 분명하지 않습니다. (중략) 다만 비록 비상계엄을 막지 못했지만, 비상계엄을 찬성하거나 도우려 한 일은 결단코 없었습니다. 그것이 오늘 역사적인 법정에서 제가 드릴 가장 정직한 말입니다." 내란우두머리·내란 방조 혐의를 받는 한덕수 전 국무총리가 26일 서울중앙지법 형사합의33부(재판장 이진관) 심리로 열린 결심 공판에서 이같이 최후 변론했다. 1심 선고는 오는 1월 21일 오후 2시에 나온다. 내란 특별검사(특검)는 한 전 총리에게 징역 15년의 중형을 구형했다. 한 전 총리의 혐의는 내란중요임무종사·내란우두머리방조·허위공문서작성및허위작성공문서행사·대통령기록물관리에관한법률위반·위증이다. [서울=뉴스핌] 류기찬 기자 = 한덕수 전 국무총리가 26일 오후 서울 서초구 서울중앙지법에서 열린 내란 방조 및 내란 중요임무 종사 혐의 관련 결심공판을 마친 뒤 법원을 나서고 있다. 2025.11.26 ryuchan0925@newspim.com 이 재판은 내란우두머리방조로 기소됐지만, 지난 3차 공판에서 재판부가 특검에 내란중요임무종사 혐의를 '선택적 병합' 형태로 공소장 변경하라고 요청해 공소 사실이 추가됐다. 선택적 병합은 필수적 병합의 반대 개념으로, 두 개 혐의를 공소장에 추가하면 재판부가 한 가지를 선택해 판단할 수 있는 형태다. 특검 측은 한 전 총리가 내란 범행에 가담하기 위해 절차적 정당성을 확보하려는 목적으로 국무위원 정족수를 채우려고 시도하거나 허위 공문서를 작성했다고 본다. 또 진술을 수차례 번복해 비협조적인 태도로 일관하고 있고 개선의 여지가 없는 점도 양형으로 고려돼야 한다고 봤다. 위증과 관련해선 명백하게 밝혀진 바가 있고, 한 전 총리도 일부 혐의를 인정했다. 한 전 총리는 윤석열 전 대통령의 탄핵 심판에서 '계엄 선포문을 받은 적이 없다', '이상민 전 행정안전부 장관과 대화한 기억이 없다'라고 했지만, 이후 공개된 12·3 대통령실 대접견실 폐쇄회로(CC)TV에는 한 전 총리는 선포문을 받고 이 전 장관과 약 16분간 대화를 나누는 모습이 포착됐다. 이 CCTV에는 윤 전 대통령이 국무위원에게 비상계엄 사실을 알리자 한 전 총리가 고개를 끄덕이기도 했다. 또 한 전 총리는 당일 '국무위원에게 직접 전화하지 않았다'고 했지만, 송미령 농림축산식품부 장관에게 '빨리 오라'고 통화를 한 사실도 뒤늦게 드러났다. 이날 특검 측은 한 전 총리에 징역 15년을 구형하며, 12·3 비상계엄은 '민주주의에 대한 테러'라고 강하게 비판했다. 특검 측은 과거 내란 범죄가 권위주의에서 민주주의로 가는 기회를 박탈한 것이었다면, 12·3 비상계엄은 수십 년간 한국이 쌓은 민주화의 결실을 한 순간에 무너뜨려 더 막대하게 국격을 손상하고 국민에게 상실감을 줬다고 했다. 아울러 한 전 총리는 국가의 2인자로서 내란 사태를 막을 수 있는 사실상 유일한 사람이었음에도 내란 범행에 가담해 막대한 피해를 줬다고 지적했다. 특검 측은 "그간 대한민국 사법시스템 죄에 상응하는 책임 엄히 물었다. 강화된 양화기준 발전된 시대적 경제적 사회적 변화 고려할 필요가 있고, 나아가 피고인을 엄히 처벌해 다시는 대한민국에서 불행 역사 되풀이되지 않도록 해야 한다"라고 강조했다. 반면 한 전 총리 측은 비상계엄의 절차적 정당성을 위해 국무위원을 모은 게 아니라 대통령을 저지하기 위해 모은 것이라고 주장했다. 위증 역시 큰 충격을 받아 기억이 선명하지 않은 것뿐이라고 밝혔다. 한 전 총리는 최후진술에서 직접 준비한 종이 한 장을 들고 '존경하는 재판장님'이라며 말 문을 열었다. 그는 "작년 12월, 비상계엄 선포로 국민이 겪은 고통과 혼란을 가슴 깊이 죄송스럽게 생각한다"라고 했다. 이어 "1970년 경제 관료로 입문해 한평생 공직을 걸어 왔다. 경제 정책 최일선에서 일했다. 대한민국은 제게 많은 기회를 줬고, 전력을 다하는 게 그에 보답하는 길이라고 생각하며 살았다. 그 길의 끝에 비상계엄 선포 사태를 만나리라고는 꿈에도 예상치 못했다"라고 밝혔다. 한 전 총리는 "여기 계신 어떤 분보다 제가 스스로를 더 혹독하게 추궁했다. 그날 밤 혼란한 기억을 복기할수록 제가 부족한 사람이었다는 절망만 사무친다"라며 "저는 그 괴로움을 죽는 날까지 지고 가야 하는 사람"이라고 힘주어 말했다. 이날 한 총리는 재판을 마치고 '국민들 앞에서 한마디 하실 말씀 없냐', '헌법재판소 재판관을 임명하지 않은 것에 대해 후회하지 않느냐' 등 취재진의 질문에는 어떤 대답도 하지 않고 법정을 빠져나갔다. 100wins@newspim.com 2025-11-26 18:58

사진

"'자사주 1년내 소각 의무화' 연내 마무리" [서울=뉴스핌] 배정원 기자 = 더불어민주당은 자사주를 취득일로부터 1년 내 소각하도록 하는 내용의 3차 상법 개정안을 연내 마무리하겠다고 25일 밝혔다. 한정애 민주당 정책위의장은 이날 오전 국회에서 열린 원내대책회의에서 "더 건강한 자본 시장을 위해 3차 상법 개정안이 조속히 논의되고 시행될 수 있도록 최선을 다하겠다"며 이같이 밝혔다. 한정애 더불어민주당 정책위의장. [사진=뉴스핌DB] 한 정책위의장은 "주주 충실 의무 명문화, 집중투표제 의무화에 이은 자사주 소각 의무를 담은 3차 상법 개정안을 연내에 마무리하도록 하겠다"고 말했다. 그는 "그간 자사주가 특정 주주의 이익을 위해서 이용되는 나쁜 사례가 많았다"며 "상법 개정을 통해 자사주의 성격을 명확히 규정하고 자사주 마법을 우리 자본시장에서 퇴출하도록 하겠다"고 말했다. 3차 상법 개정안은 회사가 자기 주식을 취득하는 경우 취득일로부터 1년 내 소각하는 것을 원칙으로 하되, 임직원 보상 목적 등 일정 요건에 해당할 때는 '자기주식 보유·처분 계획'을 작성해 주주총회 승인을 통해 보유 또는 처분할 수 있도록 한다. 기존 자사주에 대해선 신규 취득 자사주와 동일한 의무를 부여하되 법 시행 후 6개월의 추가 유예 기간을 두기로 했다. 전날 민주당 코스피 5000 특위 위원장인 오기형 의원은 이 같은 내용을 골자로 하는 상법 개정안을 대표 발의했다. 한 정책위의장도 공동 발의자에 이름을 올렸다. jeongwon1026@newspim.com 2025-11-25 10:12