[서울=뉴스핌] 조민교 기자 = 기업들이 자체 개발해 내부 업무에 사용하는 인공지능(AI)에도 외부 상용 서비스와 같은 규제가 적용되는지 불분명하다는 지적이 나왔다. AI 개발 기업과 이를 활용하는 기업의 책임 범위도 명확하지 않아 관련 기준을 구체화해야 한다는 주장이다.

한국경제인협회는 올해 1월 22일 시행된 'AI 기본법'과 관련해 회원사 의견을 수렴한 19개 개선과제를 과학기술정보통신부에 건의했다고 밝혔다. 개선과제는 규제 대상과 적용 범위 명확화, AI 사용 사실 고지·표시 의무 합리화, 고성능·고영향 AI 규제 구체화, 학습 데이터 활용 기준 정비, 규제 확대의 예측가능성 확보 등 5개 분야다.

한경협은 우선 사내 업무용 AI와 외부 상용 서비스를 구분해야 한다고 강조했다. 기업이 자체 개발한 AI를 임직원이나 계열사와 공동으로 활용하는 경우에도 AI사업자 의무가 적용되는지 불분명하다는 것이다. 이에 고영향 AI가 아닌 일반 사내 업무용 AI는 외부 서비스와 구분하고, 일정한 보안·관리 요건을 갖춘 계열사 간 공동 활용도 내부 업무로 인정해 달라고 요청했다.

AI를 개발한 기업과 이를 활용해 서비스를 제공하는 기업의 책임도 실제 역할에 맞게 구분할 것을 제안했다. 가령 일반 업무용 AI를 다른 기업이 사람의 안전에 영향을 미치는 고영향 AI로 변경했다면, 위험관리 책임은 용도를 변경한 기업이 지도록 해야 한다는 설명이다. 유럽연합(EU) AI법도 기존 AI를 고위험 AI로 변경한 사업자에게 관련 의무를 부과하고 있다.

신약 개발 등 연구개발에 활용되는 AI의 규제 기준도 구체화해야 한다고 주장했다. 세포·동물 실험 단계의 독성 예측이나 의료기기 개발을 위한 코딩 지원, 연구 데이터 분석 등을 고영향 AI 규제에서 제외되는 사례로 명시하고, 관계기관의 판단을 신속히 확인할 수 있는 원스톱 창구를 마련해 달라고 건의했다.

아울러 고영향 AI에 적용되는 위험관리와 이용자 보호, 설명 의무의 구체적인 이행 기준을 조속히 확정해야 한다고 강조했다. 권혁민 한경협 성장전략실장은 "AI의 실제 위험과 기업의 역할에 맞게 의무를 구체화해 기업이 안전한 AI 활용과 혁신에 집중할 수 있도록 해야 한다"고 말했다.

mkyo@newspim.com