[서울=뉴스핌] 황혜영 기자 = AI 성착취물이 생성형 AI 플랫폼과 링크모음 사이트, SNS, 텔레그램 등을 통해 온라인 범죄 생태계로 확산되고 있다는 지적과 함께 법·제도와 플랫폼 책임, 국제 공조를 아우르는 종합 대응이 시급하다는 목소리가 나왔다.

청소년 성폭력 예방 전문기관 '탁틴내일'은 'AI 성착취물 생태계 분석-생성 플랫폼과 유통 구조를 중심으로' 이슈리포트를 발표하고 생성형 인공지능(AI)을 악용한 성착취물이 개별 사이트를 넘어 하나의 온라인 생태계 속에서 확산되고 있다며 종합적인 정책 대응을 촉구했다.

14일 탁틴내일 이슈리포트팀에 따르면 지난 4월 20일부터 5월 31일까지 AI 성착취물 관련 웹사이트와 SNS, 텔레그램 등을 대상으로 모니터링을 진행해 총 57개 플랫폼의 운영 실태를 분석했다.

조사 결과 생성형 AI 플랫폼에서는 실존 인물의 사진을 합성한 딥페이크 성착취물뿐 아니라 AI가 새롭게 만들어낸 가상 인물 성착취물이 함께 제작·유통되고 있는 것으로 확인됐다.

보고서에 따르면 링크모음 사이트와 SNS, 텔레그램 채널은 생성 플랫폼과 유기적으로 연결돼 추천인 제도, 무료 포인트 지급, 암호화폐 보상 등 각종 인센티브를 통해 신규 이용자를 지속적으로 끌어들이는 구조를 형성하고 있다.

탁틴내일은 이러한 구조가 "생성·홍보·유통·결제·수익화가 하나로 연결된 범죄 생태계"라며 "AI 성착취물이 개별 사이트를 넘어 온라인 생태계 전반에서 확산되는 양상"이라고 지적했다.

가상 인물을 대상으로 한 성착취물의 위험성도 강조됐다. 보고서는 "가상 성착취물은 직접적인 피해자가 특정되지 않더라도 성착취를 정상화하고 성적 대상화를 확산시키며 성착취물의 생산·유통·소비를 촉진하는 범죄 생태계의 일부로 기능할 수 있다"며 "사회적 위해성이 크다"고 경고했다.

청소년 보호조치는 사실상 유명무실한 것으로 드러났다. 조사 대상 플랫폼 상당수는 '18세 이상 이용' 안내 문구를 게시하거나 이용약관에 연령 제한을 명시했지만, 실질적인 연령 확인 절차는 운영하지 않았다.

실제 만 16세 계정으로 가입을 시도한 결과 별도 인증 없이 회원가입과 서비스 이용이 가능했고 국내에서 접속이 차단된 사이트 상당수도 VPN 등을 이용한 IP 우회를 통해 재접속이 가능한 사례가 확인됐다.

탁틴내일은 현행 법·제도가 AI 성착취물 확산이라는 새로운 범죄 환경을 충분히 포섭하지 못하고 있다고 비판했다. 현재 법체계가 실존 피해자 중심으로 설계돼 있어 실제 성착취물 사건에서도 법 적용과 판단 기준이 일관되지 않으며 이러한 한계는 AI 생성 가상 성착취물과 생성형 AI 플랫폼, 유통·재유포 구조를 포함한 온라인 범죄 생태계에서는 더욱 뚜렷하게 드러난다고 분석했다.

보고서는 영국과 미국이 생성도구 규제, 플랫폼 책임 강화, 신고 의무 부과, 불법 콘텐츠 재유포 방지 등을 통해 AI 기반 성착취 대응 범위를 지속적으로 확대하고 있다며 국내 법·제도 개편에 참고할 필요가 있다고 제시했다.

탁틴내일은 주요 정책 과제로 ▲AI 성착취물에 대응하는 법·제도 정비 ▲플랫폼 책임 및 안전조치(Safety by Design) 강화 ▲생성·홍보·유통을 포괄하는 생태계 대응체계 구축 ▲AI 탐지기술 고도화 및 국제 공조 강화 등을 제안했다.

특히 "AI 성착취물은 개별 콘텐츠의 문제가 아니라 생성부터 홍보, 유통, 결제, 수익화까지 연결된 새로운 형태의 디지털 성폭력으로 문제가 심각해질 수 있다"며 "콘텐츠 삭제와 사이트 차단 중심 대응에서 벗어나 범죄 생태계 전반을 겨냥한 예방 중심의 통합 대응체계 마련이 시급하다"고 강조했다.

hyeng0@newspim.com