국내 최초 그룹 기술윤리위 출범, AI 안전성·투명성 제고 노력
AI 가드레일 모델 '카나나 세이프가드' 오픈소스로 공개
UNICEF·OHCHR 등 국제기구와 협력 강화…글로벌 거버넌스 참여
[서울=뉴스핌] 양태훈 기자 = 카카오가 국가인권위원회와 법무부가 공동 주최한 '기업과 인권 국제포럼'에서 AI 윤리와 인권 존중을 주제로 발표하며 책임 있는 기술 활용 방안을 공유했다.
9일 카카오는 전날 열린 '기업과 인권 국제포럼' 세 번째 세션 '규제와 자발적 조치를 활용한 스마트믹스 모범 사례'에서 발표자로 참여했다고 밝혔다. 이날 자리에서 하진화 카카오 AI Safety 시니어 매니저는 'AI 기술과 인권 존중'을 주제로 그룹 차원의 AI 윤리 원칙과 리스크 관리 체계 구축 사례를 소개했다.
카카오는 지난 2022년 국내 기업 최초로 '그룹 기술윤리위원회'를 출범해 계열사별 AI 윤리 점검과 위험성 평가, 알고리즘 투명성 강화 등 체계적 관리 활동을 수행하고 있다. 매년 '그룹 기술윤리 보고서'를 발간해 주요 정책과 성과를 공개해 왔다.
또한 ▲책임 있는 AI 가이드라인 제정 ▲생애주기별 자가점검 도구 개발 ▲AI 안전 체크리스트 수립 ▲국제 오픈소스 연합체 'AI 얼라이언스' 국내 최초 가입 ▲기술 윤리 전문지 '테크에틱스(Tech Ethics)' 발행 ▲AI 리스크 관리 체계 '카카오 AI Safety Initiative(Kakao ASI)' 구축 등 다양한 정책을 시행 중이다. 최근에는 자체 개발한 AI 가드레일 모델 '카나나 세이프가드(Kanana Safeguard)'를 국내 기업 최초로 오픈소스로 공개했다.
아울러 유엔 인권최고대표사무소(OHCHR), 유니세프(UNICEF) 등 국제기구와도 협력하며 글로벌 기술윤리 논의에 적극 참여해왔다. 특히 올해는 디지털 아동·청소년 보호 체크리스트를 도입했다. 이는 청소년보호법, 유엔아동권리협약(UNCRC), UNICEF의 '디지털 아동영향평가도구(D-CRIA)'를 기준으로 제작됐으며, 서비스 출시 전 리스크 점검·완화 조치·고충 처리 여부를 평가하는 항목으로 구성됐다.
카카오는 유관 부서 검토와 현황 조사를 거쳐 체크리스트를 도입했으며, 이를 통해 아동·청소년 보호 정책의 실효성과 고도화를 강화하고 있다.
이상호 카카오 그룹 기술윤리 소위원장은 "카카오는 2018년 국내 최초로 알고리즘 윤리헌장을 발표한 이후 다양한 이용자 보호에 힘써왔다"며 "AI 서비스의 혁신은 인권·프라이버시와 직결되는 만큼 기업 차원의 책임 의식을 내재화하는 노력을 이어가겠다"고 말했다.
dconnect@newspim.com
