[서울=뉴스핌] 정승원 기자 = SK텔레콤이 통신 부문에 특화된 Telco(텔코·통신) 거대언어모델(LLM)을 오는 6월 출시할 예정이다. 텔코 LLM은 국내 출시 이후 글로벌 텔코 인공지능(AI) 얼라이언스(GTAA)를 통해 글로벌 시장에 출시될 계획이다.

SK텔레콤은 30일 서울 SKT타워에서 텔코 LLM 설명회를 열고 오는 6월 텔코 LLM을 국내에 출시한다고 밝혔다.

[서울=뉴스핌] 최지환 기자 = 에릭 데이비스 SK텔레콤 부사장 겸 AI 테크 골라보레이션 담당이 30일 오전 서울 중구 SKT타워에서 열린 텔코 LLM(거대언어모델) 기자설명회에서 텔코 LLM에 대해 설명하고 있다. 2024.04.30 choipix16@newspim.com

텔코 LLM은 오픈AI의 GPT, 엔트로픽의 클로드와 같은 범용 LLM이 아닌 통신업에 특화된 LLM이다. 기본적으로 SKT의 에이닷엑스(A.X), GPT, 클로드 등 다양한 범용모델을 기반으로 튜닝됐다.

현재 고객센터에서 상담 전화 한 건을 처리하는데 상담 업무와 상담 후 업무에 각각 시간이 소요된다.

고객 상담에 약 3분, 상담 후 업무에는 30초 이상이 소요되는데 텔코LLM을 도입하면 상담사가 고객과 전화하는 동안 LLM이 해결책을 상담사에게 제공하고 상담 내용을 요약해 시간을 단축시킬 수 있다는 설명이다.

여기에 고객 문의 정리와 상담 내용 기록까지의 과정 숙련에 시간이 필요했지만 텔코 LLM을 통해 이 시간도 줄일 수 있다.

텔코 LLM은 오는 6월 국내 출시를 목표로 하고 있다. 연말까지는 고객센터 적용이 가능할 것으로도 예상했다. 이후 GTAA 회원사들이 사용할 수 있는 형태로 글로벌 출시한다는 계획이다.

에릭 데이비스 AI 테크 콜라보레이션 담당은 "우선 한국어로 텔코 LLM을 개발했다. 이후에는 글로벌 시장도 고려하고 있으며 전 세계 통신사와 함께 튜닝하고 있다"며 "아직은 논의 단계로 구체적으로 데이터를 어떻게 할지 고민 중"이라고 밝혔다.

앞서 GTAA는 지난 2월 스페인 바르셀로나에서 열린 모바일월드콩그레스(MWC) 2024에서 창립 총회를 개최한 바 있다.

이번 창립총회에는 SK텔레콤을 비롯해 도이치텔레콤, 이앤그룹, 싱텔그룹, 소프트뱅크 등 글로벌 통신사가 함께 했다.

SK텔레콤은 국내 텔코 LLM의 출시 이후 GTAA 회원사들이 서비스할 수 있는 글로벌 텔코 LLM도 출시한다는 계획이다. 이는 통신사들이 업무 영역과 표준이 유사한 만큼 모든 언어의 데이터가 필요하지는 않기 때문이다.

통신사들이 생성형 AI 애플리케이션을 쉽게 구축할 수 있는 인텔리전스 플랫폼도 공개됐다.

인텔리전스 플랫폼의 업무 범위는 고객센터 콜봇, 챗봇, 유통 채널 어시스턴트, 인프라 어시스턴트, 사내 업무 혁신 등으로 다양하다.

때문에 인텔리전스 플랫폼을 통해 통신사나 상담 업무를 하는 기업들이 거대 플랫폼 개발에 드는 비용과 시간을 절감할 수 있을 것으로 예상된다. 

정민영 AI 플랫폼 담당은 "통신사 업무는 공유하는 것이 많아서 쉽게 확산될 수 있을 것"이라며 "기술적으로나 비용 효율적으로도 확산이 용이하다. GTAA 회원사들과도 어떻게 적용할 수 있을지 논의해볼 것"이라고 전했다.

[서울=뉴스핌] 최지환 기자 = 정민영 SKT AI플랫폼 담당이 30일 오전 서울 중구 SKT타워에서 열린 텔코 LLM(거대언어모델) 기자설명회에서 텔코 LLM에 대해 설명하고 있다. 2024.04.30 choipix16@newspim.com

origin@newspim.com