[시드니=뉴스핌] 권지언 특파원 = 중국과 러시아 등 국가 연계 세력과 해커들이 미국 인공지능(AI) 기업 앤스로픽의 접근 제한을 우회해 생성형 AI 모델 클로드(Claude)를 무기 개발과 대규모 감시, 해킹 등에 활용한 것으로 나타났다. 생물무기 개발에 활용될 가능성이 있는 사례도 확인됐다.

앤스로픽은 10일(현지시간) 공개한 보고서에서 최근 8개월 동안 러시아·중국·이란 등 제한 국가의 이용자들이 가상사설망(VPN)과 허위 또는 도난 계정, 중개업체 등을 이용해 지리적 제한과 내부 안전장치를 우회했다고 밝혔다.

이들은 클로드를 이용해 사이버 공격을 자동화하고 첨단 군사 장비를 설계하거나 대규모 디지털 감시와 선전 활동을 수행한 것으로 조사됐다. 앤스로픽은 확인된 모든 사례에 대응 조치를 취하고 관련 정부 및 업계 단체에도 신고했다고 밝혔다.

◆ 자폭 드론·미사일부터 대규모 감시까지

앤스로픽은 북부 예멘에 기반을 둔 한 무기 제조 조직이 클로드를 활용해 유도 로켓과 다단 탄도미사일, 극초음속 활공미사일 등 3개의 무기 개발 프로그램을 진행한 사례를 적발해 활동을 중단시켰다고 밝혔다.

러시아에 기반을 둔 한 해커는 자율적으로 자폭 공격을 수행할 수 있는 드론 개발에 클로드를 사용하려 한 것으로 확인됐다.

중국과 이란의 국가 연계 세력이 클로드로 소셜미디어 콘텐츠를 대량 분석해 잠재적인 반체제 인사와 정치적으로 민감한 콘텐츠를 식별한 사례도 확인됐다. 말리에서는 보안 당국과 관련된 것으로 보이는 컨설턴트가 클로드를 활용해 모든 이동통신 사업자의 통신을 감시하고 특정 인물의 정보를 정리할 수 있는 대규모 통신 가로채기 플랫폼을 코딩한 것으로 나타났다.

보고서에는 러시아 연계 조직을 비롯해 범죄 및 국가 차원의 해킹 작전에 클로드가 악용된 사례도 담겼다. 앤스로픽은 해커들의 AI 활용이 빠르게 보편화하면서 낮은 수준의 해킹 조직들도 공격 과정 상당 부분을 자동화할 수 있게 됐다고 설명했다.

AI는 영향력 공작에도 활용됐다. 앤스로픽은 러시아·튀르키예·이란 등에서 시작된 것으로 추정되는 9건의 영향력 공작을 확인했으며, 일부는 몰도바와 케냐 등 선거 시기에 맞춰 진행됐다고 밝혔다. 다만 생성된 AI 콘텐츠 대부분은 실제 이용자들의 참여를 거의 이끌어내지 못했다.

◆ 생물무기 개발 가능성 5건…"과거의 가설이 이제 현실"

앤스로픽은 특히 생물학 분야에서 클로드가 위험한 연구에 활용된 사례 5건을 올해 확인했다고 밝혔다. 이 가운데 일부는 생물무기 프로그램의 일환이었을 가능성이 있다고 설명했다.

한 과학자는 치명적인 모기 매개 바이러스에 대한 기능획득(gain-of-function) 연구와 관련된 연구비 신청서를 작성하는 데 클로드를 활용했다. 앤스로픽은 해당 연구가 백신 개발에 활용될 가능성도 인정했지만, 연구비가 군사 연구기관에서 집행될 예정이었다는 점에서 우려를 표했다.

또 다른 과학자는 새로운 치료제 또는 독성 물질로 개발될 수 있는 화합물을 연구하는 데 클로드를 사용했으며, 미국 외 지역의 한 연구자는 고병원성 조류인플루엔자의 적응과 관련된 실험을 수주 동안 연구한 것으로 조사됐다.

앤스로픽은 이들 사례가 실제 생물무기 개발로 이어졌다는 증거는 없으며, 관련 인물이나 기관, 국가의 신원도 공개하지 않았다. 또한 해당 연구가 정당한 과학 연구였는지, 실제로 해를 끼칠 의도가 있었는지도 명확히 판단할 수 없었다고 밝혔다.

앤스로픽은 생물학 분야에서 AI가 유익한 연구와 유해한 목적으로 모두 활용될 수 있다면서 관련 위험을 "최첨단 AI 모델이 직면한 가장 심각한 위험 가운데 하나"로 규정했다.

앤스로픽의 위협 연구 책임자 제이컵 클라인은 "우리는 이 문제를 과장하려는 것이 아니다"라며 "오늘날 이 기술이 실제로 어떻게 악용될 수 있는지를 세상에 보여주고자 할 뿐"이라고 말했다.

그는 또 "과거에는 가정에 불과했던 일부 악용 사례가 이제 현실이 됐다"고 밝혔다.

kwonjiun@newspim.com