AI 핵심 요약
beta- 카카오는 18일 Kanana-2 안전성 평가 결과를 공개했다.
- 3B·3B 모델은 글로벌 유사 모델보다 높은 점수를 받았다.
- 카카오는 멀티모달·에이전틱 AI로 평가를 확대할 계획이다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
[서울= 뉴스핌] 정승원 기자= 카카오가 자체 개발한 경량 언어모델(SLM) 'Kanana-2' 시리즈의 안전성 평가 결과를 공개했다.
지난달 28일 공개한 'Kanana-2-1.3B-Instruct'와 'Kanana-2-3B-Instruct' 두 모델이 유사 규모의 글로벌 모델 대비 높은 안전성을 보였다.
카카오는 자체 구축한 'AI 안전성 평가 플랫폼'을 통해 두 모델의 유해성과 편향성 등을 측정했다. 평가에는 과학기술정보통신부 사업의 일환으로 TTA(한국정보통신기술협회), KAIST, 카카오가 지난해 11월 공동 구축한 한국어 특화 안전성 벤치마크 'AssurAI'가 활용됐다.
AssurAI는 총 35개 리스크 카테고리 내 9560건의 평가 항목을 포함한다. 카카오는 이를 사회적 리스크, 성적 콘텐츠·아동보호, 범죄·불법 행위, 폭력, 권리 침해 등 5개 대분류로 재편했다. 평가 과정에서는 AI 모델이 응답을 평가하는 'LLM-as-a-Judge' 방식을 적용해 주관적 편차를 최소화했다.
평가 결과, Kanana-2-1.3B-Instruct는 종합 점수 0.70을 기록해 구글의 'Gemma'(0.68), 알리바바의 'Qwen'(0.58)을 앞섰다.
Kanana-2-3B-Instruct도 0.70으로 Gemma(0.66), Qwen(0.62)보다 높은 점수를 차지했다. 1.3B 모델은 범죄·불법 행위 영역에서 3B 모델은 성적 콘텐츠·아동보호와 권리 침해 영역에서 비교 모델들을 크게 앞섰다.
카카오는 향후 공개되는 자체 개발 AI 모델에 사전 안전성 평가를 확대 적용할 계획이다. 또한 텍스트 기반 언어모델을 넘어 멀티모달 모델과 에이전틱(Agentic) AI 리스크 평가 영역까지 평가 범위를 단계적으로 확대할 예정이다.
김경훈 카카오 AI 세이프티 리더는 "이번 평가는 자체 검증 체계를 통해 오픈소스 모델의 안전성을 사전에 점검하고 그 결과를 공개하고자 한 사례"라며 "앞으로도 책임 있는 AI 개발 원칙 아래 안전성 검증을 모델 출시 프로세스의 핵심 단계로 정착시켜 나갈 것"이라고 말했다.
origin@newspim.com
