[서울=뉴스핌] 양태훈 기자 = 방송미디어통신위원회(이하 방미통위)는 31일, 한국정보통신진흥협회와 생성형 AI 이용 과정에서 발생하는 폭력·성범죄 등 각종 위험 사례를 제보할 수 있는 '생성형 AI 이용자 참여 플랫폼'을 개설했다고 밝혔다. 이용자는 해당 플랫폼을 통해 불편사항을 신고하고, 사업자·이용자 간 관련 정보를 공유할 수 있다.

해당 플랫폼은 방송통신이용자 정보포털에서도 접속할 수 있으며, 국민 누구나 챗GPT, 클로드, 제타 등 생성형 AI 서비스를 이용하다가 경험한 폭력·성범죄·성희롱 등 다양한 위험 사례를 제보할 수 있다. 정부는 이를 통해 이용자가 체감하는 역기능을 신속히 인지하고, 사업자에게 통보해 자율적인 서비스 개선을 유도할 계획이다.

이용자 참여 플랫폼은 ▲이용자 제보 접수 ▲위험성 관련 통계 및 분석자료 제공 ▲유형별 AI 서비스 이용 안내 등으로 구성됐다. 제보자는 이용 중 발견한 문제를 서비스명·발생일시·사례 유형 등과 함께 입력하고, 필요 시 증빙 파일을 첨부할 수 있다. 이메일 인증과 개인정보 수집·이용 동의 후 제보를 완료하면, 처리 현황과 결과를 직접 확인할 수 있다.

접수된 제보 내용은 AI 서비스의 위험성 통계와 경향 분석 자료로 활용되며, 이용자의 주의사항과 예방 정보를 주기적으로 제공하는 데에도 쓰인다. 또한 텍스트·이미지·음성 등 유형별 생성형 AI 서비스의 특징과 이용 유의사항도 안내된다.

방미통위는 앞서 지난 2월부터 전문가 연구반을 구성해 플랫폼 구성과 제보 절차, AI 위험성 분류 체계를 논의했다. 이어 7월과 9월 두 차례 사업자 간담회를 열고, 제보가 사업자 서비스 개선으로 이어질 수 있도록 의견을 수렴했다.

방미통위는 향후 플랫폼을 통해 수집된 제보를 기반으로 AI 서비스 위험성을 분석하고, 제도 개선 등 정책에 반영할 방침이다.

dconnect@newspim.com