AI 핵심 요약
beta- 네이버가 29일부터 기사 맥락을 종합 분석하는 AI 클린봇 3.0을 적용했다.
- 자살·사망·신체 훼손 댓글과 피해자 조롱·비하·혐오 댓글 차단에 초점을 맞췄다.
- 2019년 이후 지속적으로 성능을 개선해 신조어와 우회 표현까지 탐지 범위를 확대했다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
[서울=뉴스핌] 송은정 기자 = 네이버가 29일부터 악성 댓글 탐지 시스템 'AI 클린봇 3.0'을 적용했다. 자살·사망·신체 훼손 등 생명을 경시하는 댓글과 사건·사고 피해자 및 유족을 향한 조롱·비하·혐오 댓글을 집중 차단하는 데 초점을 맞췄다.
클린봇 3.0의 가장 큰 특징은 기사 맥락을 종합적으로 분석한다는 점이다. 뉴스 댓글 내용뿐 아니라 기사 제목과 본문을 함께 고려해 악성 댓글을 탐지함으로써 맥락에 따른 악의적 의도를 더욱 정확하게 판단할 수 있게 됐다.
네이버는 2019년 업계 최초로 AI 클린봇을 선보인 이후 지속적으로 성능을 개선해왔다. 초기에는 악성 키워드 기반으로 욕설과 비속어를 자동 탐지했으나, 2020년 딥러닝 기술을 적용해 문장 맥락을 분석하는 방식으로 확대했다. 이후 성적 불쾌감 유발 표현, 기호·문자를 활용한 우회 표현, 신조어 등에 대한 탐지 범위를 계속 넓혀왔다.
네이버는 올해 정치·선거 섹션 본문 하단 댓글 미제공과 악성 댓글이 일정 기준을 초과한 기사에 대한 댓글 서비스 자동 비활성화 등 정책적 노력도 병행하고 있다. 2023년에는 한국인터넷자율정책기구(KISO) 혐오표현 자율정책 가이드라인을 반영하는 등 업계 기준 마련에도 참여하고 있다.
yuniya@newspim.com
