[뉴스핌=심지혜 기자] 네이버가 인공지능(AI) 기술을 통해 음란물 이미지를 실시간으로 걸러낸다.
네이버는 자체 개발한 음란물 필터링 AI기술 '네이버 엑스아이(X-eye)'를 이미지 검색 결과에 적용한다고 31일 밝혔다.
네이버 X-eye는 부적절한 내용을 담은 이미지(음란물)가 네이버에 등록될 경우 이를 실시간으로 감지해 검색 노출을 막아준다. 검색 기준은 방송통신위원회의 세이프넷(Safe Net) 등급에 의거 성기, 음모, 항문 노출 및 성행위나 어린이·유아를 성적 유희의 대상으로 묘사하는 경우 등에 해당된다.
적용에 앞서 네이버는 축적된 방대한 이미지를 형태별로 분류해 10개월동안 AI를 학습시켰다. 네이버 X-eye는 최근 버전에서 400만장의 이미지(정상+음란물) 필터링을 내부 실험한 결과 98.1%의 높은 적중률을 나타냈다.
학습은 네이버 X-eye는 먼저 네모난 돋보기로 그림을 보듯 이미지의 각 부분을 순차적으로 훑어 특징을 추출하는 과정으로 이뤄진다. 이는 이미지 조각으로부터 특징을 추출하는 ‘컨볼루션(convolution)’ 작업으로 네이버는 이를 수 차례에 걸쳐 반복한다. 작업이 반복될 수록 AI는 더 많은 학습을 하게 되고 최종 결과는 더욱 완벽해 진다.
이번 적용으로 연중 24시간 성인 이미지 실시간 감지 시스템이 가동되며, 감지하지 못한 이미지는 계속된 학습으로 극복한다는 계획이다.
무엇보다 이미지 검색 결과 최종 노출 전, 사람이 직접 음란물 이미지 검수 과정이 AI 기술을 통해 수월해 졌다.
네이버는 다음달 중 동영상에도 네이버 X-eye를 적용할 예정이다.
오경수 네이버 UGC운영정책 리더는 "이번 출시로 성인 이미지에 대한 연중무휴 실시간 대응이 가능해졌다”며 “향후 동영상 필터링에도 확대 적용할 방침"이라며 "건전한 인터넷 이용환경 조성을 위해 외부에도 손쉽게 사용할 수 있는 AI 필터링 프로그램 제공을 검토하고 있다”고 말했다.
[뉴스핌 Newspim] 심지혜 기자 (sjh@newspim.com)
