[서울=뉴스핌] 고인원 기자= 초대형 인공지능(AI) 데이터센터 확보 경쟁을 벌여온 오픈AI(OpenAI)와 앤스로픽(Anthropic)이 이번에는 20~30MW(메가와트) 규모의 소형 데이터센터를 찾아 나섰다. AI 산업의 중심이 대규모 컴퓨팅 자원이 필요한 모델 '훈련(training)'에서 이미 개발된 AI를 실제 이용자에게 서비스하는 '추론(inference)'으로 옮겨가면서, 빠르게 확보해 사용할 수 있는 소규모 데이터센터의 중요성이 커지고 있기 때문이다.

CNBC는 18일(현지시간) 소식통들을 인용해 오픈AI와 앤스로픽이 최근 20~30MW 규모의 컴퓨팅 용량을 확보하기 위한 계약을 물색하고 있다고 보도했다.

두 회사는 지난 1년 동안 수백MW에서 GW(기가와트)급에 이르는 초대형 AI 데이터센터 계약을 잇달아 체결했다. 하지만 최근에는 이보다 훨씬 작은 규모의 컴퓨팅 용량도 함께 확보하려는 움직임을 보이고 있다.

비공개 사업 논의를 이유로 익명을 요청한 관계자 4명에 따르면 앤스로픽은 영국과 북유럽 지역에서 20~30MW 규모의 계약 가능성을 타진했다. 소식통 2명은 오픈AI 역시 북유럽에서 비슷한 규모의 컴퓨팅 용량을 확보하는 방안을 검토해왔다고 밝혔다.

또 다른 소식통은 미국에서도 오픈AI와 앤스로픽이 이와 비슷한 규모의 컴퓨팅 용량을 확보하기 위한 논의를 진행했다고 전했다.

◆ 수백MW·GW급 짓던 AI 기업들, 왜 20~30MW 찾나

두 회사는 AI 모델을 훈련하고 이용자에게 서비스를 제공하기 위해 지난 1년간 대규모 AI 인프라 계약을 잇달아 체결해왔다.

앤스로픽은 엔스케일(Nscale)과 약 450억달러 규모의 클라우드 계약을 맺었다. 지난 8월 CNBC가 소식통을 인용해 보도한 데 따르면 앤스로픽은 이 계약을 통해 웨스트버지니아에 건설되는 데이터센터에서 약 460MW의 컴퓨팅 용량을 임차한다.

오픈AI의 규모는 더 크다. 회사는 지난 4월 스타게이트(Stargate) AI 인프라 프로젝트가 당초 약속했던 10GW를 넘어섰다고 밝혔다. 이후 조지아주에서 3GW, 오하이오주에서 8GW 규모의 데이터센터를 추가로 개발하기로 했다.

하지만 초대형 데이터센터는 건설에 오랜 시간이 걸린다. 미국을 비롯한 세계 각지에서는 대규모 데이터센터 건설에 대한 지역사회의 반발도 커지고 있다. 유럽에서는 데이터센터를 지을 수 있는 부지와 전력 부족이 문제가 되고 있다.

반면 이미 전력이 공급되고 있는 기존 데이터센터에서 소규모 컴퓨팅 용량을 확보하면 훨씬 빠르게 AI 작업을 배치할 수 있다.

스트럭처 리서치(Structure Research)의 자베즈 탄 리서치 책임자는 소규모 데이터센터 계약의 장점으로 '실제로 사용할 수 있는 용량을 얼마나 빨리 확보할 수 있느냐(speed to usable capacity)'를 꼽았다.

그는 "한 장소에서 훨씬 큰 규모의 용량이 확보될 때까지 기다리는 것보다 이미 전력이 공급되고 있는 데이터센터에서 몇 MW씩 확보하는 것이 더 현실적일 수 있다"고 말했다.

이어 "서로 떨어진 여러 장소에서도 처리할 수 있는 작업이라면 소규모 데이터센터 여러 곳을 합쳐 상당한 규모의 컴퓨팅 용량을 확보할 수도 있다"고 했다.

오픈AI 대변인은 "전 세계적으로 증가하는 AI 수요에 대응하기 위해 다양한 컴퓨팅 자원 포트폴리오를 구축하고 있다"고 밝혔다.

이어 "서로 다른 작업에는 서로 다른 인프라가 필요하기 때문에 다양한 파트너들과 논의하고 있으며 요구사항과 성능, 신뢰성, 시기, 비용을 기준으로 기회를 평가한다"고 했다. 다만 구체적인 사업 협상에 대해서는 언급하지 않았다.

앤스로픽은 CNBC의 논평 요청에 답하지 않았다.

◆ AI 중심축 '훈련'에서 '추론'으로

소형 데이터센터 수요가 커지는 또 다른 이유는 AI 산업의 무게중심이 모델을 만드는 '훈련'에서 완성된 모델을 실제 서비스에 사용하는 '추론'으로 이동하고 있기 때문이다.

대규모 AI 모델을 훈련하려면 방대한 데이터를 처리하기 위해 수많은 반도체를 한곳에 모아 긴밀하게 연결해야 한다. 반면 이용자가 챗봇에 질문을 던졌을 때 답변을 생성하는 것과 같은 추론 작업은 상대적으로 작은 반도체 클러스터를 여러 곳에 분산해 처리할 수 있다.

탄은 "대규모 모델을 훈련할 때는 일반적으로 많은 칩이 서로 긴밀하게 연결돼 동시에 작동해야 한다"며 "반면 많은 추론 작업은 여러 소규모 클러스터가 각각 별도의 이용자 요청을 처리할 수 있어 활용할 수 있는 데이터센터의 위치가 더 다양해진다"고 설명했다.

AI가 개발 단계를 넘어 실제 서비스로 빠르게 확산하면서 추론용 컴퓨팅 수요도 급증할 전망이다.

부동산 서비스 업체 JLL은 전 세계 데이터센터 용량 가운데 AI 추론에 사용되는 비중이 2027년 훈련용을 넘어설 것으로 예상했다.

JLL에 따르면 2025년 전 세계 데이터센터 작업량 가운데 추론은 9%, 훈련은 14%를 차지했다. 하지만 2030년에는 추론 비중이 37%까지 높아지는 반면 훈련은 13%에 그칠 전망이다.

◆ 엔비디아·크루소도 '소형 데이터센터'로

데이터센터 업계에서도 같은 움직임이 나타나고 있다.

엔비디아(NVDA)는 지난 2월 여러 데이터센터 관련 업체와 함께 분산형 추론(distributed inference)을 위한 소규모 데이터센터를 연구하겠다고 밝혔다.

오픈AI가 사용하는 미국 텍사스의 대규모 데이터센터 단지를 건설한 크루소(Crusoe)도 소규모 데이터센터에 투자하고 있다고 월스트리트저널(WSJ)이 보도했다.

WSJ에 따르면 이들 소규모 시설은 미국 곳곳에서 건설 지연을 겪고 있는 초대형 데이터센터보다 더 빠르고 저렴하게 구축할 수 있다. 크루소는 관련 논평 요청에는 답하지 않았다.

크루소는 AI 인프라 투자 붐으로 급성장한 네오클라우드 업체 가운데 하나다. 회사는 목요일 39억달러 규모의 신규 투자 유치를 완료했다고 발표했다. 이번 투자에서 평가받은 투자 후 기업가치는 309억달러에 달했다.

오픈AI와 앤스로픽의 움직임은 초대형 데이터센터 확보 경쟁이 끝났다는 의미는 아니다. 두 회사는 대규모 장기 계약을 계속 추진하면서 동시에 빠르게 사용할 수 있는 소규모 컴퓨팅 용량까지 확보해 AI 인프라를 다변화하려는 움직임을 보이고 있다.

koinwon@newspim.com