[서울=뉴스핌] 최원진 기자= 중국이 11일 챗GPT 등 생성형 인공지능(AI)에 대한 관리 지침 초안을 발표했다.
중국의 사이버 공간 규제 기관인 중국 사이버정보판공실(CAC)은 이날 홈페이지에 '네트워크 보안법' 및 기타 법률 및 규정에 따른 '생성형 AI에 대한 관리 조치' 초안을 공개했다.
지침은 중국 영토 내에서 대중에게 서비스를 제공하기 위해 AI 제품의 연구, 개발, 활용에 적용되며 챗GPT 등 텍스트 모델 뿐만 아니라 이미지, 소리, 영상, 코드 및 기타 콘텐츠 등 생성 AI 기술 전반에 적용된다.
주요 내용들로는 ▲안전하고 신뢰할 수 있는 소프트웨어, 도구, 컴퓨팅, 데이터 자원의 우선 사용 장려 ▲ AI 제품과 서비스의 중국 법률 및 규정 요구사항의 준수다.
특히 생성형 AI 제품과 서비스는 "사회주의 핵심가치를 반영해야 하며, 국가 권력 전복, 사회주의 체제 전복, 국가 분열 선동, 민족단결 저해, 테러 조장, 극단주의, 인종 증오와 차별, 폭력, 음란 및 허위 정보, 경제 및 사회 질서 교란 위험이 있는 콘텐츠"는 피해야 한다.
AI 제품에서 생성하는 모든 콘텐츠는 업체가 책임을 지며, 업체는 서비스 개시 이전에 당국에 사이버 보안 평가를 위한 AI 알고리즘 정보를 제출해야 한다.
생성형 AI 서비스 이용자는 반드시 신원 정보를 제공해야 하며, 사용자가 "지나치게 AI 콘텐츠에 의존하거나 탐닉하지 않도록 업체는 적절한 조치를 취해야 한다"는 내용도 담겼다.
만일 생성형 AI가 법률 및 규정 요구사항에 위배되는 콘텐츠를 제공한다면 "콘텐츠 여과 등 조치를 취하고 3개월 안에 콘텐츠 재생성 방지 조치"를 취해야 한다.
콘텐츠 시정 명령을 받고 3개월 안에 조치를 취하지 않은 업체는 1만위안~10만위안(200만~2000만원)의 벌금이 부과된다.
이밖에 생성형 AI에서 제공하는 텍스트, 사진, 동영상은 '인터넷정보서비스 심층통합관리규정'에 따라 전부 출처를 표시해야 하고 플랫폼상의 과대 광고, 악의적인 댓글과 게시물 작성, 악성 소프트웨어와 스팸 생성을 금지한다.
만일 서비스 제공자가 위의 내용을 위반할 경우 '네트워크 보안법' '데이터 보안법' '개인정보보호법' 등 법령 및 행정처분에 따라 처벌받게 된다.
당국은 오는 5월 10일까지 생성형 AI 관리 조치 초안에 대한 의견을 수렴한다. 지침은 올해 안에 시행될 예정이다.
중국 당국의 이번 발표는 중국 기업들이 오픈AI의 챗GPT를 대항할 자체 서비스를 출시하는 가운데 나왔다. 바이두는 지난달에 '어니봇'(Ernie Bot·중국명 원신이옌, 文心一言)을 출시했고, 이날 알리바바 클라우드는 거대언어모델(LLM) '통이치엔원'(通义千问)을 공개했다.
wonjc6@newspim.com
