[서울=뉴스핌] 송주원 기자 = 인공지능(AI) 기반 탐지 시스템 도입으로 아동·청소년 성착취물 삭제 요청 처리량이 약 9.7배 증가한 것으로 나타났다.

성평등가족부는 지난 4월부터 AI 기반 아동·청소년 온라인 성착취 탐지·신고 시스템을 운영한 결과 9월까지 6개월 동안 성착취물 9만6210건의 삭제를 지원했다고 10일 밝혔다.

지난해 1년간 수작업으로 삭제를 지원한 4만5438건의 두 배를 넘는 규모다. 종사자 1인당 하루 평균 삭제 요청 처리 건수도 도입 전 20.8건에서 202.1건으로 늘었다.

이 시스템은 사회관계망서비스(SNS)와 채팅앱 등에서 성착취물과 성적 유인 정보를 24시간 탐지한다. 등록된 키워드로 게시물을 수집한 뒤 이미지와 텍스트를 분석해 의심 자료를 선별한다. 담당자가 최종 검토를 거쳐 신고와 삭제 요청을 진행하는 방식이다.

현재 구글과 엑스(X), 블루스카이, 텔레그램 및 채팅앱 등 14개 플랫폼에서 220여개 키워드를 활용하고 있다. 종전에는 담당자가 게시물을 직접 살피는 방식이어서 빠르게 퍼지는 불법 게시물에 실시간으로 대응하기 어려웠다.

AI가 유해 영상물을 먼저 걸러내면서 종사자의 성착취물 직접 노출도 줄었다. 성평등부는 반복적인 모니터링으로 인한 심리적 부담이 완화돼 피해자 지원에 집중할 수 있게 됐다고 설명했다. 기존 수작업의 한계였던 대량 게시물 분석도 자동화할 수 있게 됐다.

불법촬영물 삭제 요청과 이력관리에도 자동화 기술을 적용했다. 약 2만개 사이트의 요청·처리 현황을 자동 관리해 건당 처리 시간을 1분 이내로 줄였다. 최근 6개월간 인터넷주소(URL) 5만8309건에 대해 삭제 요청과 삭제 여부 확인을 자동으로 진행했다.

해외 기관과의 협력도 강화했다. 미국 국립실종학대아동방지센터(NCMEC) 및 클라우드플레어와 시스템을 연계해 해외 서버에 올라온 성착취물에 대한 대량 삭제 요청을 가능하게 했다. 이를 통해 삭제에 응하지 않던 사이트 2곳의 성착취물 95건과 클라우드플레어를 통한 2만5156건의 삭제를 진행했다.

정부는 올해 탐지 대상 플랫폼을 74개로 늘린 뒤 내년에는 139개까지 확대할 계획이다. 특정 단어·이미지뿐 아니라 대화 맥락과 우회 표현까지 분석하도록 AI를 고도화한다. 중앙디지털성범죄피해자지원센터의 자료 약 10만건도 학습에 활용할 예정이다.

피해 청소년에게 지원 정보를 제공하는 AI 챗봇을 도입하고 지역 디지털성범죄피해자지원센터에는 피해 영상물 분석과 유포 감시, 삭제 요청이 가능한 소프트웨어를 보급한다. 내년에는 지역센터에서 시범 운영하고 민감정보를 외부로 보내지 않고도 영상물 분석과 삭제 요청을 처리할 수 있도록 개발한다. 피해 촬영물 속 얼굴이나 문자를 인식하는 AI 기능도 적용한다.

원민경 성평등부 장관은 "기술환경 변화에 따라 빠르게 진화하는 디지털 성범죄에 강력하고 신속하게 대응하기 위해서는 정부 차원의 기술적 대응이 필수적"이라며 "앞으로도 AI 등의 최신 기술을 현장에 적극 도입하여 대응 속도와 정확도를 높이고 보다 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 최선을 다하겠다"라고 밝혔다.

jane94@newspim.com