[시드니=뉴스핌] 권지언 특파원 = 도널드 트럼프 미국 대통령이 주요 인공지능(AI) 기업 경영진들과 마련한 '프런티어 AI의 책임에 관한 공동 약속(Joint Commitment on Frontier Responsibilities)'을 공개했다. 합의문에는 AI 모델의 안전성을 점검하기 위한 내부 통제부터 독립적인 외부 평가, 이사회 감독까지 4단계 통제·감사 체계를 구축하는 내용이 담겼다.

트럼프 대통령은 29일(현지시간) 자신의 소셜미디어 트루스소셜을 통해 이날 백악관에서 AI 기업 경영진들과 합의한 문서를 공개했다. 합의문은 프런티어 모델을 개발·배포하는 기업들이 기술이 의도한 대로 작동하도록 강력한 내부 프로세스와 통제 체계를 마련해야 한다고 명시했다.

핵심은 4단계 통제 및 감사 체계다.

우선 각 기업은 사이버보안·생물보안·화학적 위협 등과 관련해 AI 모델의 역량과 정렬 상태를 학습 및 배포 과정에서 모니터링하는 내부 통제 체계를 구축해야 한다. AI가 의도하지 않은 방식으로 해킹하거나 기술 시스템에 접근하는 것도 방지하도록 했다.

두 번째로 내부 전담팀을 두고 통제·모니터링·탐지 시스템이 의도한 대로 작동하는지 점검하고, 문제가 발생할 경우 이를 해결하도록 했다.

세 번째로 독립적인 외부 감사기관 또는 평가기관과 협력해 내부 통제와 모니터링·탐지 체계가 제대로 작동하는지 독립적인 평가를 받도록 했다.

마지막으로 이사회 산하에 독립위원회를 두고 내부 전담팀과 내·외부 감사 및 평가기관으로부터 보고를 받아 확인된 문제의 해결 여부를 감독하도록 했다.

합의문은 이 같은 조치를 통해 기업과 고객, 대중이 AI 기술이 의도한 대로 작동하고 있다는 신뢰를 가질 수 있을 것이라고 밝혔다.

참여 기업들은 정기적으로 만나 AI 시스템의 안전성을 높이기 위한 기준과 모범 사례를 마련할 예정이다.

또 장기적으로는 이러한 통제 및 감사 체계를 법률이나 규정으로 명문화하는 방안도 검토할 수 있다고 합의문은 밝혔다. 다만 이번 문서는 우선 기업들이 자체적으로 안전 통제와 감사 체계를 시행하겠다는 공동 약속의 형태다.

합의문에는 트럼프 대통령과 함께 순다르 피차이 구글 최고경영자(CEO), 다리오 아모데이 앤스로픽 CEO, 마크 저커버그 메타 CEO, 그렉 브록만 오픈AI 사장, 일론 머스크 테슬라 CEO 겸 xAI 창업자, 젠슨 황 엔비디아 CEO가 서명했다.

kwonjiun@newspim.com