[세종=뉴스핌] 이경태 기자 = 세계 최초로 포괄적 인공지능(AI) 규제를 전면 시행하는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI기본법)이 22일 본격 시행된다. 

정부는 산업 진흥과 신뢰 확보의 균형을 강조하고 있지만, 업계에서는 기준이 제시됐다는 의견 이면에 설익은 제도라는 상반된 평가가 공존하고 있다.

◆ 정부, "최소한의 안전장치이자 글로벌 추세"

과학기술정보통신부는 21일 'AI 투명성 확보 가이드라인'을 공개하며 제도의 합리성을 강조했다. 정부는 딥페이크 등 AI 오용에 대한 국민 불안을 해소하면서도, 기업 부담을 최소화하는 방향으로 가이드라인을 설계했다고 밝혔다.

가이드라인은 AI 생성물이 서비스 환경 내에서만 제공되는 경우와 외부로 반출되는 경우를 구분해 차등 적용한다. 챗봇 등 대화형 서비스는 이용 전 안내나 화면 내 로고 표출 등 유연한 표시를 허용하는 반면, 다운로드·공유 시에는 워터마크 등 명확한 표시를 의무화했다.

딥페이크처럼 실제와 구분이 어려운 생성물은 반드시 사람이 인식할 수 있는 방법으로 표시하도록 했다.

과기부 관계자는 "AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자, 이미 주요 글로벌 기업들이 도입하고 있는 세계적 추세"라며 "최소 1년 이상의 계도기간을 운영하며 업계와 긴밀히 소통해 제도가 현장에 원활히 안착되도록 지원하겠다"고 밝혔다.

◆ 업계, "구체적 기준 제시" vs "비현실적 규제"

업계 반응은 극명하게 엇갈린다. 일각에서는 그동안 모호했던 투명성 확보 의무의 구체적 이행 기준이 제시됐다는 점을 긍정적으로 평가한다. 서비스 유형별로 차별화된 기준을 마련해 현장 적용 가능성을 높였다는 분석이다.

AI 스타트업인 에임인텔리전스 측은 AI 기본법이 고영향 AI 사업자에게 ▲사전 검토 ▲이용자 사전 고지 ▲안전성·신뢰성 확보 조치 ▲자율적 검인증 노력 ▲기본권 영향평가 등 5대 의무를 부과한다는 점을 강조했다. 생성형 AI 사업자에게는 투명성 의무가 추가돼, AI 기반 서비스이라는 점을 고지하고 생성 결과물에 워터마크 등을 표시해야 한다.

고성능 AI(학습 연산량 10의 26제곱 부동소수점 연산 이상)는 위험 식별·평가·완화 조치, 안전사고 모니터링, 위험관리체계 구축 및 이행 결과의 정부 제출이 의무화된다.

투명성 의무 미이행, 해외 사업자의 국내대리인 미지정, 시정명령 불이행 시에는 3000만원 이하의 과태료가 부과된다. 서비스 유형별로 차별화된 기준을 마련해 현장 적용 가능성을 높였다는 게 에임인텔리전스의 분석이다.

반면 다른 쪽에서는 여전히 설익은 제도라는 비판이 나온다. 특히 고성능 AI 관련 규정에 대해 비현실적이라는 지적이 제기된다.

한 업계 관계자는 "하드웨어 시장이 매년 1.5배 정도 빨라지는데, 현재 기준으로 고성능 AI를 정의하는 것은 금방 시대에 뒤떨어질 것"이라고 우려했다.

◆ 학계, "세부 규정 우려"…저작권 문제는 '공회전'

임경태 카이스트 문화기술대학원 교수는 법 자체의 취지에 대해서는 긍정적 입장을 보였다. 임 교수는 "법 자체의 취지가 진흥을 위한 법"이라며 "법은 어쨌든 다른 데서도 나올 법이다. 도입을 하는 것은 매우 바람직하다"고 평가했다.

그러나 시행령의 세부 조항에 대해서는 우려를 표명했다.

그는 "발생될 행정력이 걱정되며 시행령 안에서 어떤 정보를 공개해야 하는지에 따라 오픈소스를 꺼려할 수 있다"며 "모델만 공개하고 오픈소스 데이터를 공개하지 않게 되면, (국내 AI 생태계가) 잠식당하기 쉽다"고 지적했다.

저작권 문제 역시 공회전 상태다. 

AI 학습 데이터의 저작권 문제는 여전히 논란이다. 시행령에서도 이 문제를 둘러싼 갑론을박이 계속되고 있어, 실질적 해법 마련은 요원한 상황이다. 데이터 공급 시장과 AI 개발 업계간 데이터 사용에 따른 비용을 산정하지 못했다. 

AI 모델을 출시한 이후 얻을 수 있는 혜택을 AI 개발 업계만 챙길 수 있다는 목소리도 이어진다. 한 콘텐츠 기업 대표는 "제로 클릭 시대에 콘텐츠가 제대로 소화되지 않을 텐데, AI 기업의 배만 불릴 수도 있을 것"이라며 "실질적인 콘텐츠 기업과 AI 기업간 충분한 논의가 필요하다"고 말했다.

정치권 한 관계자는 "법 시행을 하루 앞둔 시점에서 한국은 EU AI Act(2026년 8월 완전 발효 예정)보다 빠른 법제화를 달성했다"면서도 "속도만큼 내실을 갖췄는지에 대한 의문은 여전한데, 계도기간 동안 현장의 목소리를 얼마나 반영할 수 있을지가 'K-AI 거버넌스'의 성패를 가르는 중요한 포인트가 될 것"이라고 전했다.

biggerthanseoul@newspim.com