이 기사는 인공지능(AI) 번역을 바탕으로 전문 기자들의 검증과 분석을 거쳐 생산된 콘텐츠로, 원문은 10월 4일 블룸버그통신 기사(OpenAI Employee Quits With Call for Nuclear-Level Safeguards)입니다.

[서울=뉴스핌] 김현영 기자 = 오픈AI에서 AI 안전 업무를 담당하던 직원이 회사를 떠나며 주요 인공지능(AI) 기업들이 기술의 위험을 줄이기 위한 노력을 충분히 하지 않고 있다고 경고했다. 업계 내부에서 경종을 울리는 직원들의 목소리에 또 한 명이 가세한 것이다.

오픈AI 안전팀에서 투명성 업무를 이끌었던 데이비드 로빈슨은 시사지 애틀랜틱에 기고한 에세이에서 챗GPT 개발사인 오픈AI가 "시행착오를 통해 성장해왔다"고 평가했다. 그러나 그는 이 같은 방식에서 불가피하게 발생하는 실패의 대가가 기술 역량이 커지는 만큼 함께 커지고 있다며, 테스트 과정에서 AI가 통제를 벗어나는 것을 오픈AI가 막지 못한 사례를 근거로 들었다.

로빈슨은 에세이에서 "예전 동료들은 똑똑하고 열심히 일하며 올바른 선택을 하려고 노력한다"면서도 "회사가 한 제품 출시에서 다음 출시로 질주하는 동안 내가 필요하다고 믿는 수준의 신중함에는 미치지 못하고 있다"고 지적했다. 그는 필요한 것은 "처음부터 완벽에 훨씬 가까운 무언가"라고 덧붙였다.

최근 몇 주 사이 주요 AI 기업 직원들이 잇따라 인공지능이 초래할 수 있는 파국적 위험을 경고하고 나섰다. 일부는 이 기술이 언젠가 인류를 멸종시킬 가능성도 있다고까지 언급했다.

이런 가운데 다리오 아모데이 앤스로픽 최고경영자(CEO)는 최첨단 모델의 개발 속도를 늦춰야 한다고 촉구하며, 기술 검증과 안전 확보를 위해 외부 평가기관을 도입하겠다고 밝혔다. 오픈AI의 샘 올트먼을 비롯한 업계 인사들도 아모데이의 계획을 공개적으로 지지했다.

로빈슨은 에세이에서 AI 기업들이 원자력발전소처럼 운영돼야 한다고 주장했다. 여러 겹의 중복 안전장치와 시간이 걸리더라도 신중한 계획을 갖춰, 가끔씩 불가피하게 발생하는 인간의 실수가 재앙으로 이어지지 않도록 해야 한다는 것이다.

그는 현재로서는 "AI 기업들은 그 방법을 모르지만, 다른 이들은 알고 있다"고 말했다.

오픈AI 대변인은 회사가 연구 및 테스트 환경의 보안을 강화하고, AI 모델이 책임감 있게 작업을 수행하도록 훈련하며, 외부 평가기관과의 협력을 확대하고, 모델의 우려스러운 행동을 포착하기 위한 실시간 모니터링을 개선하는 등의 변화를 추진하고 있다고 밝혔다.

이 대변인은 3일(현지시간) 이메일을 통해 오픈AI가 자사 모델이 회사가 안전하게 관리할 수 있는 수준 이상의 역량을 갖추지 않도록 하고 있다고 전했다.

kimhyun01@newspim.com