[세종=뉴스핌] 이경태 기자 = "인공지능(AI)을 도입해야 할 것이라고 생각하면서도 이용요금이 급증할까 고민이 됩니다."

한 공기업 임원의 우려섞인 얘기다. 거대언어모델(LLM)을 활용하게 되면 데이터를 통합·분석해 보다 간편한 서비스를 제공할 수 있다지만 서비스 생성에 따른 비용을 함께 부담해야 하기 때문이다. 

◆ 범정부·경기도·경북도·남부발전 AI 접목 사업 '한창'

최근 정부기관을 비롯해 지방자치단체, 공기업 등 공공 부문에서 AI 도입을 고민하고 있다. 다만 AI 서비스를 이용할 때 발생하는 비용 때문에 선뜻 서비스 도입을 결정하기 어렵다는 지적이 나온다.

지난 10일 범정부 초거대 AI 기반 구현을 비롯해 디지털 행정 혁신을 위한 비즈니스 프로세스 리엔지니어링(BPR) 사업의 우선협상대상자로 투이컨설팅 컨소시엄이 선정됐다. LG CNS도 참여한다.

[서울=뉴스핌] 최지환 기자 = 고진 대통령 직속 디지털플랫폼정부위원장이 19일 오후 서울 중구 더존을지타워에서 열린 '함께하는 AI의 미래' 공공부문 초거대 AI활용 추진 현장간담회에서 초거대 AI활용 추진 현황에 대해 발표하고 있다. 2024.01.19 choipix16@newspim.com

디지털 플랫폼 정부의 실현을 위해 정부 전용 초거대AI 플랫폼을 구축하기 위한 것으로 LLM 모델을 접목, 대국민 서비스 사업에 앞서 사업을 설계하는 프로젝트다.

경기도 역시 범정부 사업과 유사한 방식의 '경기 생성형 AI 데이터플랫폼 사전 컨설팅' 공고를 최근 냈으며 지난 18일 입찰이 시작됐다.

경기도 데이터플랫폼 구축사업을 위한 사전 작업이다. AI 플랫폼을 구축하기 위한 클라우드사업과 연계해 실제 구축사업에서는 200억원대의 사업비가 요구되는 것으로 파악됐다.

경북도는 내부 직원의 공공행정 처리에 도움을 주기 위해 AI챗봇인 챗경북 시스템을 구축해 내부 구성원들의 문서 작성 등 생산성을 높이는 방향으로 서비스를 이용하고 있다.

폴라리스오피스 이해석 부사장(오른쪽 첫 번째)이 협약 후 관계자들과 기념촬영을 하고 있다. [사진=폴라리스오피스]

한국남부발전 역시 지난해 12월 말께 업무 혁신을 위해 생성형 AI 서비스인 '통합검색 플러스 GPT'를 선보였다. 전 직원이 사용할 수 있는 사내 정보검색 서비스다.

정부기관, 지자체, 공기업 등 공공부문 기관들의 AI 적용이 확산될 것으로 예상된다.

◆ 생성 서비스 비용 처리 부담…월정액 방안 역시 해결책 '의문'

문제는 비용이다. 서비스 구축은 개발업체에 용역을 주기 때문에 비용 환산에 어려움이 없는 사업비로 책정된다. 이와 달리 LLM 모델을 사용할 때마다 지출되는 토큰(입력 글자 및 결과물)에 대한 비용 부담이 갈수록 커질 수 있다는 것.

경북도 AI 서비스 담당자는 "현재 상황에서는 해당 서비스를 진행하는 산하기관이 토큰 비용 등을 포함한 사업 예산을 집행하고 있다"면서도 "다만 데이터 학습비용부터 향후 늘어날 토큰 비용 등을 고려할 때 현재로서는 기존 검색이나 민원 서비스를 AI 모델이 대체하기는 어려운 만큼 신중하게 판단을 하고 있다"고 전했다.

경북도가 3일 언론 브리핑을 열고 우리나라 최초로 'AI 이철우'가 설명하고 '인간 이철우'가 답하는 방식으로 '경북도 디지털 대전환' 정책 방향을 설명하고 있다.[사진=경북도]2023.05.03 nulcheon@newspim.com

일각에서는 시스템 및 서비스 구축 이외에 상시적으로 발생하는 토큰 비용을 감당할 예산 책정도 쉽지 않다는 얘기가 나온다.

한 IT업체 관계자는 "1차적으로 개발업체가 부담할 수도 있겠지만 업체 입장에서는 마이너스 요인이 된다"며 "토큰 비용을 무작정 부담할 수 있는 공공기관이 있을지는 의문"이라고 말했다.

이런 가운데 AI업계의 한 임원은 "LLM 모델을 활용한 서비스 확산에 힘을 쏟고 있는 기업 가운데 KT가 내부적으로 이같은 토큰값에 대해 월정액 개념을 도입하는 방안을 내부적으로 논의했다"며 "구독요금 비슷하게 나갈 수 있겠으나 확정된 것은 아닌 부분"이라고 말했다.

한 지자체 관계자는 "월정액으로 할 경우, 일부 사용량이 줄어도 더 많은 비용을 부담해야 한다는 점이 있어 해당 사업을 추진할 수 있을지 여러 모로 검토해야 할 것"이라고 전했다.

그는 "당장 사업의 생산성이나 타당성을 강조해서 내년 예산에 담아야 하지만 이런 부분에 대한 명분이 없어 예산안을 마련하기도 어려운 부분이 있다"며 "대국민 서비스 차원에서 이런 차원의 비용을 지원할 수 있는 방안이 있길 바란다"고 전했다.

biggerthanseoul@newspim.com