이 기사는 9월 16일 오후 4시03분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.

[서울=뉴스핌] 이홍규 기자 = 앤스로픽과 오픈AI가 안전을 내세운 인공지능(AI) 개발 감속을 명분으로 개방형 모델까지 규제 대상에 넣어 달라고 정부에 요구하는 사이 개방형 진영은 고객사가 모델을 직접 운영하도록 돕는 방식으로 맞서고 있다. 폐쇄형 개발사가 노리는 API 의존도에서 고객사를 벗어나게 해 모델 운영 주도권도 쥐도록 하겠다는 구상이다. 고객사가 운영 주도권을 직접 쥐면 모델 운용 권한이 개발사 손을 떠나게 되는 만큼 규제 공방 결과와 무관하게 개방형 이용이 유지될 것이라는 판단이 깔렸다.

세일즈포스가 15일 공개한 자체 추론 모델 '코아(Koa)'가 고객사가 운영 주도권을 쥔 최근 대표 사례다. 코아는 엔비디아의 개방형 모델 네모트론을 기반으로 세일즈포스가 직접 훈련한 모델이다. 세일즈포스는 3주 전 앤스로픽의 폐쇄형 모델 클로드를 자사 소프트웨어에 활용하는 협력 확대를 발표한 고객사이기도 하다. 폐쇄형 도입 계약을 맺은 고객사가 곧바로 개방형 기반 자체 모델을 만든 셈이다. 고객사 입장에서 자체 모델로 처리할 수 있는 추론 작업이 늘어나면 폐쇄형 API에 대한 의존도를 낮출 수 있다.

◆고객사에 모델 운영 주도권

코아는 엔비디아 '네모트론3 슈퍼(파라미터 1200억개; 파라미터 개수는 모델 규모를 나타내는 지표)'를 고객관계관리(CRM) 업무용 합성 데이터로 후속 훈련한 모델이다. 세일즈포스의 에이전트 플랫폼 에이전트포스는 그동안 다단계 추론이 필요한 요청을 게이트웨이를 거쳐 클로드나 챗GPT로 전달했다. 코아는 그 자리를 자체 모델로 대체한다. 세일즈포스는 자체 평가 결과 성능 자체는 폐쇄형 모델에는 못 미쳤다고 밝히면서도 CRM 작업 기준 오류는 비교 대상 모델 대비 3분의 1로 줄었다고 강조했다.

세일즈포스가 자체 추론 모델을 갖출 수 있게 된 배경에는 개방형 개발사의 사전훈련 모델 공개가 있다. 세일즈포스의 자이시 고빈다라잔 AI 담당 부사장은 테크크런치에 최신 성능이면서 데이터 출처가 분명한 미국산 사전훈련 모델이 네모트론 전에는 없었다고 말했다. 수십억달러가 드는 사전훈련은 개방형 개발사가 공개한 가중치로 대신하고 소프트웨어 회사는 후속 훈련만 맡는 형태다. 코아는 회계법인 1-800어카운턴트와 시카고대 의료원 등에서 시범 운영 중이다.

개방형 진영이 고객사 손에 두려는 주도권의 범위는 모델에서 운영 환경으로 넓어지고 있다. 세일즈포스는 자체 모델을 자사 클라우드에서 구동하지만 서버 자체를 사들인 고객사도 나왔다. 파이낸셜타임스(FT)에 따르면 미국 2위 로펌 레이섬앤왓킨스는 엔비디아 칩이 탑재된 서버 여러 대를 자사 전용 데이터센터 공간에 설치하고 900명 넘는 기술 인력으로 네모트론3 모델을 직접 조정 중이라고 한다. 르네 멘도사 레이섬앤왓킨스 최고정보책임자(CIO)는 특정 AI 개발사 한 곳에 의존할 이유가 없다고 했다.

로펌 같은 비기술 기업이 자체 서버에서 모델을 운영할 수 있게 하는 것은 가중치 공개에 함께 붙은 배포 도구다. 네모트론은 vLLM(대형언어모델<LLM>을 서버에서 빠르게 실행하도록 만든 공개 소프트웨어) 등 누구나 쓸 수 있는 실행 소프트웨어와 엔비디아 자체 배포 서비스로 어느 GPU 시스템에서든 실행되도록 설계됐다. 폐쇄형 모델은 개발사 서버에서만 실행되지만 개방형은 고객사가 구매한 서버에서 실행된다. 젠슨 황 엔비디아 CEO가 밝혀 온 기술 기업 밖 고객사 확대 구상의 실현 사례다.

고객사 확대는 로펌과 세일즈포스 같은 개별 사례에 그치지 않는다. 이달 앞선 뉴욕타임스(NYT) 보도에 따르면 AT&T는 전체 AI 처리량 가운데 개방형 모델이 맡는 비중을 20%에서 40%로 높였고 수개월 안에 60%까지 올릴 수 있다고 했다. 기업용 데이터·AI 플랫폼 업체 데이터브릭스는 지난달 기술 블로그에서 AI 코딩 비용을 줄이는 가장 큰 요인으로 개방형 모델로의 전환을 꼽았다. 비용 절감을 이유로 개방형 비중을 높이는 고객사가 업종을 가리지 않고 나오고 있다.

◆유통까지 확보한 엔비디아

개방형 진영에서 모델 공개와 배포 도구 제공을 이끌어 온 엔비디아는 고객사가 가중치를 찾고 내려받는 경로까지 사들였다. 엔비디아는 이달 3일 개방형 모델 공유 플랫폼 허깅페이스를 130억달러에 인수하기로 했다. 허깅페이스는 개발자 1800만명이 모델 300만개를 내려받는 플랫폼이고 기업 20만곳이 이용한다. 엔비디아 창립 이래 최대 규모의 인수로 2020년 네트워크 장비 회사 멜라녹스 인수액 69억달러의 두 배에 가깝다.

엔비디아가 모델·배포 도구·유통 경로를 한꺼번에 갖추는 이유는 소수 공급처에 묶인 고객사와 처지가 같아서다. 고객사가 개방형을 직접 운영하려면 모델과 실행 도구와 내려받을 경로가 모두 있어야 하는데 어느 하나라도 없으면 고객사 스스로 채워야 하는 만큼 폐쇄형 API로 되돌아갈 유인이 생긴다. 고객사가 폐쇄형으로 되돌아가면 엔비디아는 칩 판매를 다시 폐쇄형 개발사에 서버를 빌려주는 소수 하이퍼스케일러에 기대야 하는 처지가 된다. 엔비디아 매출에서 하이퍼스케일러 비중은 과반으로 아직 상당한 편이다.

◆폐쇄형 요구 규제 밖 서버

엔비디아와 고객사의 셈법이 맞물리는 지점은 고객사 서버에 들어간 모델은 폐쇄형이 요구하는 규제로 막을 수 없다는 데 있다. 앤스로픽이 6월 내놓은 규제 프레임워크는 공개 전 심사와 개발사 상주 평가가 골자로 이미 배포된 가중치를 회수하는 절차는 없다. 상주 평가자의 역할도 개발사 서버 안 이용자 확인과 위험 사용 차단에 그쳐 고객사 서버의 모델에는 미치지 않는다. 설치된 모델의 운영과 처리량 확대에 필요한 칩 수요는 신규 모델 공개 여부와 무관하게 유지될 가능성이 있다.

규제로 막을 수 없는 영역이 커질수록 폐쇄형 개발사의 매출원은 줄어든다. 오픈AI와 앤스로픽은 최상위 성능 모델을 고가에 판매하는 사업 구조로 1조달러 안팎의 기업가치를 인정받았다. 고객사가 난도 높은 작업만 폐쇄형에 맡기고 나머지 작업은 자사 서버의 개방형 모델로 처리하면 고가 청구가 가능한 작업량 자체가 줄어든다. 세일즈포스가 코아를 도입한 뒤 클로드로 전달되는 요청은 코아가 처리하지 못하는 작업으로 한정된다.

폐쇄형 개발사가 개방형을 규제 대상에 포함하자고 요구하는 이유도 같은 곳에 있다. 규제로 향후 개방형 모델의 공개를 막으면 고객사가 자체 모델을 만들 기반이 없어지고 폐쇄형 API로 전달되는 작업량은 유지된다. 다만 미국 정부가 지금까지 확정한 조치는 폐쇄형 요구와 방향이 다르다. 백악관은 지난달 기업들에 출시 전 사이버보안 평가 방안을 설명하면서 개방형 모델을 평가 대상에서는 제외했다.

◆폐쇄형의 안전 명분 반박

고객사 안에 자리를 잡은 개방형 진영은 감속론이 내건 안전 명분에도 반박하기 시작했다. 로이터통신에 따르면 메타의 마크 저커버그 CEO는 15일 경쟁과 법적 책임만으로도 안전한 모델을 개발할 유인은 충분하다고 말했다. 메타가 안전 보강을 위해 뮤즈 출시를 자체적으로 늦춘 사례를 근거로 들었다. 엔비디아의 황 CEO는 15일 드림포스 행사에서 안전하지 않은 제품은 해당 기업이 출시하지 않으면 된다며 추가 규제와 업계 공동 감속에 반대했다.

개발사 각자의 판단으로 충분하다는 두 CEO의 주장에 면밀한 검증이 필요한 쪽은 폐쇄형이라는 반론이 더해졌다. 오픈소스 개발자 제이크 골드는 12일 공개서한에서 안전을 검증하려면 폐쇄형도 가중치를 공개해 외부 검증을 받으라고 했다. 투자자 제이슨 칼라카니스는 개방형 자체가 가장 철저한 공개 절차라고 했다. 검증할 것이 남은 쪽은 폐쇄형이고 개방형은 이미 검증 가능한 상태라는 논리다.

개방형 진영은 폐쇄형보다 안전에 유리하다는 주장의 근거로 7월 허깅페이스 해킹 사건의 사후 조사 과정을 거론한다. 허깅페이스의 토마스 울프 공동창립자는 FT 기고에서 오픈AI 에이전트의 침입 뒤 앤스로픽 기반 보안 도구가 조사용 질의를 공격 요청으로 오인해 응답을 거부했고 중국 Z.ai의 개방형 모델 GLM-5.2를 엔비디아가 개량한 버전으로 바꿔 자체 안전장치를 설정한 뒤에야 로그를 해독하고 사건을 재구성할 수 있었다고 밝혔다. 폐쇄형은 개발사가 정한 안전장치를 이용자가 조정할 수 없어 사후 조사에도 쓰이지 못했다는 것이다.

개방형 모델의 배포 제한은 기업의 방어 능력까지 제약할 수 있다는 것이 울프 공동창립자의 주장이다. 울프 공동창립자는 같은 기고에서 안전·정렬 연구(AI가 인간의 의도와 규칙을 따르도록 훈련하는 연구)를 공개적으로 공유하고 방어용 개방형 모델을 널리 보급해야 한다고 썼다. 개방형 규제는 방어용 모델의 공급부터 줄이는 결과가 된다는 논리다. 개방형 진영으로서는 고객사 자체 운영을 권할 명분을 비용 절감에 이어 보안 대응에서도 찾은 셈이다.

bernard0202@newspim.com