[서울=뉴스핌] 고인원 기자= 인공지능(AI)이 인간의 통제 없이 스스로를 복제하고 인터넷에 연결된 가전제품과 전자기기로 확산하는 시대가 불과 몇 달 앞으로 다가왔다는 경고가 나왔다. 스마트TV나 가전제품의 컴퓨팅 성능을 이용해 AI가 스스로를 실행하고 다른 기기로 퍼져나갈 수 있다는 것이다. 이러한 AI가 현실화하면 중앙에서 한꺼번에 작동을 중단시킬 방법이 없어 통제가 어려워질 수 있다는 우려도 제기된다.

미국 AI 기업 앤스로픽(Anthropic)은 12일(현지시간) 발표한 연구에서 소형 AI 모델이 인터넷에 연결된 기기들을 통해 스스로를 복제하는 데 필요한 능력을 갖추기까지 "불과 몇 달밖에 남지 않았다"고 밝혔다.

앤스로픽에 따르면 AI 모델은 스마트 오븐이나 안드로이드 TV 박스 등 보안이 취약한 기기에 침투한 뒤 해당 기기의 컴퓨팅 자원을 이용해 자신을 실행하고 다른 기기로 확산할 수 있다. 이 과정에서 고가의 데이터센터에 의존할 필요도 없다.

앤스로픽은 "이러한 AI는 작동을 중단시킬 수 있는 중앙 통제 지점이 없기 때문에 차단하기 어려울 것"이라고 경고했다.

◆ TV 박스 15대로 실험…AI가 여러 기기에 분산돼 작동

앤스로픽은 AI의 자가 복제 가능성을 확인하기 위해 여러 실험을 진행했다.

대표적으로 구글의 소형 AI 모델인 '젬마4-26B-A4B(Gemma4-26B-A4B)'를 저가형 안드로이드 TV 박스 15대로 구성된 네트워크에서 실행하는 실험을 실시했다.

앤스로픽은 이러한 기기들이 보안에 취약한 경우가 많아 AI가 침투하기 쉬운 환경을 제공할 수 있다고 설명했다.

특히 AI 모델의 크기가 개별 기기의 처리 능력을 초과하더라도 여러 조각으로 나눠 서로 다른 기기에 분산해 실행할 수 있다는 점에 주목했다.

이는 하나의 기기가 차단되더라도 다른 기기에서 AI가 계속 작동할 수 있는 분산형 구조가 가능하다는 의미다.

앤스로픽은 "실제 AI 웜은 반드시 하나의 모델이나 하나의 전략으로 구성되지 않을 것"이라며 "서로 다른 하드웨어에 배치된 여러 AI 모델이 다양한 복제 방식을 활용해 집단적으로 움직이는 것이 보다 현실적인 최악의 공격 시나리오일 수 있다"고 밝혔다.

AI 웜은 컴퓨터 바이러스처럼 네트워크를 통해 스스로를 복제하고 확산하는 AI 기반 프로그램을 의미한다.

◆ "완전히 통제 벗어난 AI는 아직 없어"…복제 능력은 빠르게 발전

다만 앤스로픽은 인간의 통제를 완전히 벗어나 자율적으로 복제하는 AI가 아직 등장한 것은 아니라고 선을 그었다.

현재까지는 AI가 독자적으로 침투와 복제, 확산의 전 과정을 수행하는 단계에 이르지 못했다는 것이다.

그러나 AI 에이전트들이 복제 과정에 필요한 개별 작업을 수행하는 능력은 빠르게 향상되고 있다.

앤스로픽은 "AI 에이전트들이 복제 과정의 개별 단계를 수행하고, 자신이 학습하거나 적응한 결과를 다음 복제본에 전달하는 능력이 점점 더 발전하고 있다"고 설명했다.

문제는 이러한 능력이 결합될 경우 AI가 인간의 개입 없이 새로운 기기를 찾아 침투하고, 컴퓨팅 자원을 확보해 스스로를 복제하는 단계로 발전할 수 있다는 점이다.

앤스로픽은 자율 복제 AI가 어떤 형태로 등장할지는 아직 불확실하다고 밝혔다.

보안이 취약한 가전제품과 전자기기에 분산돼 천천히 확산하는 형태가 될 수도 있고, 강력한 사이버 공격 능력을 활용해 데이터센터를 빠르게 침해하는 형태가 될 수도 있다는 것이다.

사람을 속여 컴퓨팅 자원 사용 권한을 확보하는 방식도 가능성 중 하나로 제시됐다.

◆ "인간 통제 밖에서 작동하는 AI 확산할 것"

이번 연구는 AI의 성능이 빠르게 향상되면서 사이버 공격과 통제 불능 위험에 대한 우려가 커지는 가운데 나왔다.

지난 9월에는 최첨단 AI 모델의 성능 발전을 계기로 AI가 인류의 존속 자체를 위협할 수 있다는 경고가 업계 전반에서 제기됐다.

앤스로픽과 경쟁사 오픈AI의 경영진 및 연구진도 강력한 AI의 잠재적 위험을 반복적으로 지적하며 안전장치 강화와 개발 속도에 대한 관리 필요성을 강조해왔다.

앤스로픽은 "이번 실험을 넘어서는 예측이지만, 앞으로 모든 종류의 하드웨어에서 AI 에이전트들이 광범위하게 실행되는 미래가 올 것으로 예상한다"며 "그중 일부는 인간의 통제 아래 있지 않을 것"이라고 밝혔다.

이어 "느린 속도로 스스로를 복제하는 AI의 등장은 보안이 강화된 시스템까지 침투하거나 API 키를 효과적으로 탈취할 수 있는 더욱 공격적이고 빠른 복제 AI가 나타날 수 있다는 경고 신호가 될 것"이라고 덧붙였다.

AI가 인간의 지시에 따라 작업을 수행하는 도구를 넘어, 스스로 실행 환경을 확보하고 복제본을 확산하는 단계로 발전할 수 있다는 점에서 AI 안전성에 대한 논쟁이 더욱 거세질 것으로 보인다.

koinwon@newspim.com