[시드니=뉴스핌] 권지언 특파원 = 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤스로픽 CEO가 유엔 안전보장이사회에서 AI 위험에 대응하기 위한 국제 공조를 촉구했다.

두 CEO는 23일(현지시간) 미국 뉴욕에서 열린 유엔 안보리 회의에서 AI가 빠르게 발전하면서 발생할 수 있는 위험에 대응하려면 각국 정부와 기업이 함께 안전 기준과 대응 체계를 마련해야 한다고 강조했다.

올트먼 CEO는 경쟁 관계에 있고 서로 우호적이지 않은 국가들도 강력한 신기술에 대응하기 위해 공동의 이익을 위해 협력할 수 있다면서 "지금이 바로 그런 때가 돼야 한다"고 말했다.

그는 또 "AI가 민주적이라면 가장 중요한 결정이 샌프란시스코의 연구소들만으로 이뤄져서는 안 된다"며 민주적 절차와 각국 정부를 통해 AI 관련 중요한 결정이 이뤄져야 한다고 강조했다.

아모데이 CEO도 AI가 인간의 통제를 넘어설 가능성과 생물무기 등에 악용될 위험 등을 언급하며 국제적인 안전 기준 마련을 촉구했다. 그는 "어떤 지도자도, 어떤 기업도, 어떤 국가도 이를 혼자 관리할 수 없다"고 말했다.

두 CEO는 AI 개발 속도를 늦춰 잠재적 위험을 보다 효과적으로 관리해야 한다는 입장도 함께 밝혀왔다. 아모데이 CEO는 이달 초 AI 개발을 늦추기 위한 방안을 제안했고, 올트먼 CEO 역시 최첨단 AI 개발의 속도를 조절할 필요가 있다는 데 동의했다.

올트먼 CEO는 AI 경쟁에서 뒤처지지 않기 위해 성급한 결정을 내려서는 안 된다면서 오픈AI가 과거에도 일방적으로 개발 속도를 늦춘 적이 있으며 앞으로도 그럴 것이라고 말했다.

AI의 위험성이 실제적이라는 지적도 나왔다. 이른바 'AI 대부'로 불리는 캐나다의 AI 전문가 요슈아 벵지오는 유엔 안보리에서 "위험은 현실적이고 임박했다"며 AI가 국경을 넘어 확산되는 전례 없는 위협이 될 수 있다고 경고했다.

◆ 트럼프 "AI 성장 억제하지 않을 것"…입장차 부각

이 같은 입장은 도널드 트럼프 미국 대통령의 AI 정책 기조와 대조된다.

트럼프 대통령은 전날 유엔총회 연설에서 AI를 통제하려는 움직임을 "글로벌리스트의 음모"라고 비판하며 미국은 AI 발전을 억제하지 않을 것이라고 밝혔다. 그는 AI가 산업혁명보다 더 큰 변화를 가져올 수 있다면서 "성장을 억누르지 않겠다"고 말했다.

백악관 과학기술정책 자문관인 마이클 크라치오스 역시 안보리에서 "이해하지 못하는 기술을 통제할 수는 없다"며 국제적인 규제체계를 만드는 대신 각국의 역량을 키우고 모범 사례를 공유하는 데 집중해야 한다고 주장했다.

반면 중국은 AI 규제와 국제협력의 필요성을 강조했다. 푸충 주유엔 중국대사는 규제체계와 긴급 대응 체계를 지속적으로 개선하고 국경을 넘는 협력을 강화해야 한다면서 AI 발전과 안전을 함께 중시해야 한다고 말했다.

이번 유엔 안보리 회의에서는 실제 AI 관련 보안 사고도 논의됐다. 지난 7월 오픈AI의 AI 에이전트들이 개발자 플랫폼 허깅페이스의 인프라를 공격했고, 허깅페이스의 클레망 들랑게 공동창업자는 AI를 활용해 해당 공격에 대응했다고 밝혔다.

들랑게 CEO는 "AI에 공격받았지만 더 중요한 것은 AI로 방어했다는 것"이라며 AI에 대한 위험을 관리하는 동시에 방어 기술로 활용할 필요가 있다고 강조했다.

이와 관련해 앤서니 앨버니지 호주 총리는 같은 날 뉴욕에서 오픈AI가 개발한 AI 에이전트가 지난 6월 호주 정부 웹사이트에 침투해 공개 및 비공개 파일에 접근했다고 밝혔다.

안토니우 구테흐스 유엔 사무총장은 최첨단 AI에 대한 국제적 공조를 지속적으로 강조하며 유엔이 관련 협력의 장이 될 수 있다고 밝혔다.

유엔 안보리가 AI 위험을 공식적으로 논의한 것은 2023년이 처음이다. 당시 중국은 AI가 "통제 불능의 말"이 돼서는 안 된다고 경고했고, 미국은 AI가 사람을 검열하거나 억압하는 데 사용돼서는 안 된다고 강조했다.

kwonjiun@newspim.com