전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 ICT

속보

더보기

"'n번방' 성착취물 유포, AI로 거를 수 있지만 법적 문제가"

기사입력 : 2020년04월01일 07:16

최종수정 : 2020년04월01일 13:58

카카오·라인 "메신저 텍스트·이미지·영상 모두 대화로 '간주'...검열 불가"
IT 업계 "시스템으로 서버 검열가능하면 성착취물 등 음란물 차단 가능"

[서울=뉴스핌] 김지완 기자 = # "매달 프로노 사이트 방문하는 사람 숫자는 넷플릭스·아마존·트위터 방문자를 합친 것보다 많다. 그들은 점점 돈을 받은 아마추어들이 출연하는 '프로-암' 포르노를 많이 보는 추세다. 과거 포르노 배우가 옆집 여자, 동생들을 연기했다면, 진짜에 의해 대체되고 있다."

넷플릭스 다큐멘터리 '핫 걸 원티드(Hot Girl Wanted)' 도입부 멘트다. 이 다큐는 아마추어 포르노 업계에서 착쥐당하는 여성을 조명해 2015년 선댄스 영화제에서 호평 받았다. 불행히도 n번방, 박사방 참여자들은 '성착취물 제작자-유료회원-성착취물 피해 여성'으로 정확하게 나뉘며, '핫 걸 원티드'를 대한민국에서 그대로 재현했다. 

이 비극은 '메신저'라는 사적 대화통로를 통해 별다른 제재없이 수십만명에게 전파되면서 시작됐다. 비단 텔레그램만의 문제가 아니다. 카카오톡이나 라인 등 메신저가 성착취물 유포의 주요 통로로 자리잡았기 때문이다.

[서울=뉴스핌] 김창엽 인턴기자 = 2020.03.24 artistyeop@newspim.com

◆ 카카오·라인 "성착취물 서버에 올라와도 들여다 볼 권한 없어"

문제는 제2의 n번방, 박사방이 계속 나올 수 있다. 메신저가 음란물 유통 무풍지대로 손색없기 때문이다. 카카오, 라인 서버에 성착취물 영상이 올라와도, 이를 들여다 볼 권한이 없다. 

카카오톡 관계자는 "대화방 내용은 무엇이든 저희가 관여할 수 없다"면서 "모두 불법감청"이라고 목소리를 높였다. 그는 "오픈채팅도 대화방 내용을 들여다보지는 않는다"며 "채팅방 이름. 닉네임, 링크 접근 사이트 출처 펄터링이 할 수 있는 것의 전부다. 대화내용을 들여다보면 불법으로 저희가 오히려 처벌받는다"고 설명했다. 

라인 관계자 역시 "타임라인, 오픈챗 등 공개된 대화 공간에 업로드되는 콘텐츠에 대해 필터링 기술을 적용하고 있다"면서도 "개인정보 보호 원칙에 따라 1대1 채팅 메시지 모니터링 및 필터링 적용은 불가능하다"고 밝혔다.

카카오·라인은 메신저에서 오가는 텍스트·이미지·영상은 모두 대화로 간주돼, 개인정보보호법에 의해 검열 자체가 불가능하다는 입장을 냈다. 개인정보보호법은 개인 정보를 보호하여 개인의 권익 보호를 강화하고자 개인 정보 처리에 관하여 필요한 사항을 정한 법으로 지난 1995년 제정됐다. 

◆ AI·빅데이터 기술 이용하면 영상 중 음란물 선별 가능

하지만 IT업계에선 인공지능(AI), 빅데이터 등을 이용한 4차산업 기술을 이용하면 n번방, 박사방의 사태 재발을 막을 수 있다고 주장했다.

김서연 삼성SDS 수석보는 "빅데이터 기술이 발달함으로써 방대한 영상 데이터까지 분석할 수 있는 기술을 보유하고 있다"고 설명했다.

자크 아이스톡(Jarque Istock) 피보탈(Pivotal) 데이터 부문장은 "텍스트, 자연어, 이미지, 영상, 그래프, 물론 공간(지리)정보, 정량·비정량데이터, 구조화·반구조화 등 데이터 구조와 상관없이 모두 분석하고자 하는 모든 데이터를 분석할 수 있다"고 강조했다.

[서울=뉴스핌] 이형석 기자 = 메신저 텔레그램에서 이른바 'n번방'을 운영하며 미성년자 성 착취 동영상을 제작·유포한 핵심 운영자 조주빈 씨가 25일 오전 서울 종로경찰서에서 서울중앙지검으로 송치되고 있다. 이날 모습을 드러낸 조 씨는 "멈출 수 없었던 악마의 삶을 멈추어 주셔서 감사하다"고 말한 뒤 경찰차량으로 향했다. 경찰은 지난 24일 서울지방경찰청에서 신상공개위원회를 열고 조 씨의 신상을 공개하기로 결정한 바 있다. 2020.03.25 leehs@newspim.com

국계 빅데이터 전문기업의 한 임원은 "동영상도 기계적으로 바꿔놓으면 결국 숫자"라면서 "음란물의 특정 패턴을 찾아서 모형화 시키면 음란물 필터링 소프트웨어를 만들 수 있다"고 말했다.

그는 이어 "최근 AI, 빅데이터 기술을 이용하면 이전보다 정확도를 높여 완벽에 가깝게 차단할 수 있다"며 "법적으로 메신저 서버내 동영상 검열만 가능하다면 제2의 'n번방' 사태를 막을 수 있다"고 목소리를 높였다. 

◆ 포털 등 검열 가능한 곳에선 이미 AI·빅데이터 기술로 음란물 가려내

메신저와 달리 검열이 가능한 웹공간에선 이 기술이 폭넓게 적용되고 있다.

한국전자통신연구원(ETRI)는 수년전 피부색, 인체의 형태, 동작의 특성, 신음소리 등 콘텐츠 내용 자체를 분석해 일반 동영상과 음란물을 구분하는 소프트웨어를 개발해 상용화했다. 피부색의 비율을 따지는 방식에서 음란 행위시 반복되는 동작 유형에 신음소리 정보 등을 통해 정확도를 높인 것이 특징이다. 

네이버는 지난 2017년부터 음란물 필터링 인공지능(AI) 기술 '네이버 엑스아이(X-eye)'를 동영상에 적용중이다. 네이버 엑스아이는 영상 일정 구간마다 프레임을 추출해 음란물지수가 특정 수준 이상은 '임시 재생 중지' 상태로 만든다. 이후 10분 이내 검수자 검토를 거쳐 정상 영상은 복구하고 음란 영상은 삭제 조치를 하고 있다. 네이버 내부 실험 결과 음란물 검출 적중률이 98%에 달하는 것으로 알려졌다.

카카오도 '딥러닝 기반 '성인물 추천시스템'을 개발하고, 지속적으로 고도화하고 있다. 카카오 관계자는 "동영상의 경우 변형이 적고, 비슷한 시기에 인기 있는 동영상이 몰려 업로드 되는 경우가 많다"면서 "기존 검수한 동영상과 중복을 찾아 자동으로 검수하는 작업이 가능하다"고 설명했다.

그는 "중복을 검출하기 위해 영상을 이루는 프레임에서 특징(feature)를 뽑고 양자화(quantization)시켜서 특정 길이의 숫자로 된 이미지DNA를 만들면 결국 영상은 숫자열의 집합이 된다"면서 "이 숫자들을 비교하면 동영상끼리 중복인지 아닌지 판단이 가능하다"고 부연했다.

swiss2pac@newspim.com

[뉴스핌 베스트 기사]

사진
[서울이코노믹포럼]김현철"신남방정책 재건" [서울=뉴스핌] 배정원 기자 최수아 인턴기자 = 김현철 서울대학교 국제대학원 교수가 윤석열 정부 출범 이후 잘못된 경제 정책으로 초래된 대한민국 경제 위기를 극복하기 위해 글로벌 경제 전략을 재수립해야 한다고 주장했다. 김 교수는 8일 서울 여의도 페어몬트호텔 그랜드볼룸에서 열린 제13회 서울이코노믹포럼에서 '대한민국 글로벌 경제 전략'을 주제로 발표했다. 김 교수는 윤석열 정부 출범 이후 계속된 경제 추락을 회복하기 위해서는 경제 전략적 안정성과 우월성 관점에서 글로벌 경제 전략을 다시 설정해야 한다고 지적했다. [서울=뉴스핌] 윤창빈 기자 = 김현철 서울대 국제대학원 교수가 8일 오전 서울 여의도 페어몬트호텔 그랜드볼룸에서 종합뉴스통신사 뉴스핌 주최로 열린 제13회 서울이코노믹포럼에서 '대한민국 글로벌 경제 전략'을 주제로 발표하고 있다. 'Make Korea Rising Again : 다시 뛰자! 대한민국'이라는 주제로 열린 이번 포럼은 보수와 진보로 나뉘어 극심한 분열 양상을 보이고 있는 우리 사회의 '통합'을 모색하기 위해 마련됐다. 2025.04.08 pangbin@newspim.com 그는 현재 대한민국의 가장 큰 경제 위기는 트럼프발 관세 전쟁이라고 진단했다. 김 교수는 "관세를 낮추는 자유무역협정(FTA)과 같은 기존의 통상 정책으로 극복할 수 없다"며 관세 협상뿐만 아니라 방위비, 조선업, 에너지 등을 총체적으로 트럼프 정부와 협상하는 신통상 정책을 제안했다. 대중국 전략도 바꿔야 한다고 주장했다. 김 교수는 "윤석열 정부가 출범하며 '탈중국'을 선언했다. 당시 경제계와 학계는 경악하며 '탈중국은 절대 안 된다'고 경고했지만 사회는 침묵했고 결국 2023년 경제성장률 1.4%라는 수치를 기록하며 대한민국 경제를 무너뜨렸다"고 지적했다. 신남방 정책 재건의 필요성도 강조했다. 김 교수는 "윤석열 정부는 자주적 신남방 정책을 버리고 한국판 인태전략이라는 종속 정책을 채택했다"며 "이제는 공급망 발상이 아니라 판매망 발상으로 바꾸는 새로운 신남방 정책을 만들어야 한다"고 설명했다. 글로벌 경제 영토도 확장해야 한다고 지적했다. 김 교수는 신남방을 중심으로 아프리카와 중남미 지역을 포함해 유럽, 호주, 캐나다, 일본 등을 대한민국의 경제 파트너로 끌어들이는 'A+1,1,1'이라는 새로운 경제 전략이 필요하다고 강조했다. 글로벌 정책 외에도 대한민국 지역 전략을 새롭게 설정해야 한다고 제언했다. 구체적으로 ▲제조업 재활성화 ▲AI를 중심으로 한 신산업 전략 설정 ▲신기술 전략 설정 및 육성 등이 필요하다고 했다. 김 교수는 기존의 수출 중심 경제 모델도 바꿔야 한다고 주장했다. 그는 "물론 수출은 대한민국 경쟁력의 원천이긴 하지만 그것만으로는 부족한 시대가 됐다"며 "새로운 글로벌 경제 전략을 수립하고 내수 경제도 활성화시키면서 대한민국을 다시 한번 글로벌 허브로 만들어야 한다"고 제언했다. [서울=뉴스핌] 윤창빈 기자 = 김현철 서울대 국제대학원 교수가 8일 오전 서울 여의도 페어몬트호텔 그랜드볼룸에서 종합뉴스통신사 뉴스핌 주최로 열린 제13회 서울이코노믹포럼에서 '대한민국 글로벌 경제 전략'을 주제로 발표하고 있다. 'Make Korea Rising Again : 다시 뛰자! 대한민국'이라는 주제로 열린 이번 포럼은 보수와 진보로 나뉘어 극심한 분열 양상을 보이고 있는 우리 사회의 '통합'을 모색하기 위해 마련됐다. 2025.04.08 pangbin@newspim.com jeongwon1026@newspim.com 2025-04-08 12:47
사진
이완규 법제처장, 내란방조 피의자 신분 [서울=뉴스핌] 배정원 기자 = 헌법재판관 후보자로 지명된 이완규 법제처장이 12·3 비상계엄 관련 내란방조 혐의로 수사대상에 올라있는 것으로 나타났다. 8일 경찰에 따르면 경찰 비상계엄 특별수사단은 지난해 12월 이 처장을 피의자 신분으로 한 차례 불러 조사했다. 이 처장은 12·3 비상계엄 선포 다음 날인 지난해 12월 4일 서울 종로구 삼청동의 대통령 안가(안전가옥)에서 김주현 대통령실 민정수석비서관과 박성재 법무부 장관, 이상민 당시 행정안전부 장관과 회동을 가졌다. 이후 휴대전화까지 교체한 사실이 알려지면서 시민단체는 이 처장을 내란방조 등 혐의로 경찰에 고발했다. [서울=뉴스핌] 윤창빈 기자 = 헌법재판관 후보자로 지명된 이완규 법제처장이 12·3 비상계엄 관련 내란방조 혐의로 수사대상에 올라있는 것으로 나타났다. 사진은 이완규 법제처장이 20일 오전 서울 여의도 국회 법제사법위원회에서 열린 서울서부지방법원 소요사태 관련 긴급현안질의에서 의원 질문에 답변하고 있는 모습. 2025.01.20 pangbin@newspim.com 고위공직자범죄수사처(공수처)도 이 처장에 대한 내란방조·증거인멸 혐의 고발장을 접수하고 피의자로 입건해 조사하고 있다. 지난해 12월 11일 국회 법제사법위원회 전체회의에 출석한 이 처장은 당시 안가 회동에 대해 "저녁을 먹는 자리였다"며 "어쨌든 그 자리에 간 게 잘못이다. 죄송하다"고 밝힌 바 있다. 이런 가운데 한덕수 대통령 권한대행이 이날 이 처장과 함상훈 서울고등법원 부장판사를 헌법재판관 후보자로 지명하면서 논란이 일고 있다. 우원식 국회의장은 "헌법재판관 지명을 통한 헌법기관 구성권은 대통령 고유권한으로 대통령 궐위 상태라는 특수한 상황에서 권한대행이 국민이 직접 선출한 대통령에게 부여된 고유 권한을 행사하려고 드는 것은 용납할 수 없다"며 지명 철회를 촉구했다. jeongwon1026@newspim.com 2025-04-08 20:26
안다쇼핑
Top으로 이동