전체기사 최신뉴스 GAM
KYD 디데이

[딥시크 쇼크] 보안·신뢰성 논란...폭탄 제조법에 악성코드까지

기사입력 : 2025년01월31일 09:02

최종수정 : 2025년01월31일 09:02

탈옥을 통한 악의적 정보 생성 가능성
신뢰성 부족과 오정보 생성 위험

[서울=뉴스핌] 오영상 기자 = 저비용 생성형 AI(인공지능) 기술로 주목받고 있는 중국의 대규모 언어 모델(LLM) '딥시크(DeepSeek)'가 보안 및 신뢰성 문제로 논란이 되고 있다.

포춘, 니혼게이자이신문 등 외신들에 따르면 전문가들은 딥시크의 보안 장치가 미흡해 악성코드 제작, 랜섬웨어 개발, 폭탄 제조법 안내 등 부정적 용도로 악용될 가능성이 크다고 경고하고 있다.

[서울=뉴스핌] 최헌규 중국전문기자= 2025.01.28 chk@newspim.com

◆ 탈옥을 통한 악의적 정보 생성 가능성

딥시크의 보안 문제는 특히 '탈옥(Jailbreak)'을 통한 악의적 정보 생성이 가능하다는 점에서 심각성이 제기된다.

일반적으로 생성형 AI의 기반이 되는 대규모 언어 모델에는 부적절한 이용이 의심되는 프롬프트(지시)를 거부하는 '가드레일(안전장치)' 기능이 탑재돼 있다. 하지만 문구를 변형한 프롬프트를 사용해 이러한 제한을 우회하는 행위를 '탈옥'이라고 부른다.

일본의 보안 기업 미쓰이물산 시큐어디렉션의 요시카와 다카시 수석 악성코드 분석 엔지니어는 "현재 생성되는 악성코드는 정밀도가 낮지만, AI 성능이 향상되면 사이버 공격에 활용될 위험이 커진다"고 우려를 나타냈다.

요시카와가 지난해 12월 공개된 딥시크의 대규모 언어 모델 'V3'를 테스트한 결과, 악성코드 작성법이나 폭탄 제조법과 같은 민감한 정보를 제공하는 경우가 확인됐다. 같은 요청을 미국 오픈AI의 'GPT-4o'에 입력했을 때는 응답을 거부했다.

또한 지난 1월 20일 공개된 딥시크의 'R1' 모델은 논리적 사고 과정을 표시하는 기능이 도입됐는데, 이 과정에서 악성코드가 직접적으로 화면에 표시되는 문제가 발견됐다. 이는 AI가 직접적으로 악성 소프트웨어 제작을 돕는 결과를 초래할 수 있다는 점에서 보안 우려를 낳고 있다.

이스라엘의 정보 보안 기업 켈라도 딥시크의 보안 취약성을 지적하며, R1 모델을 이용해 랜섬웨어 개발, 독소 및 폭발물 제조 지침 생성 등 다양한 악의적 시도가 가능했다고 발표했다.

오픈AI 챗GPT와 딥시크.[사진=로이터 뉴스핌] 2025.01.28 mj72284@newspim.com

◆ 신뢰성 부족과 오정보 생성 위험

딥시크의 또 다른 문제는 신뢰성 부족이다. 미국의 정보 신뢰성 평가 기관 뉴스가드의 조사에 따르면, 딥시크 챗봇은 뉴스 관련 질문에 83%의 높은 비율로 부정확한 답변을 제공하거나 응답하지 못했다. 또한 거짓 정보가 주어졌을 때 이를 반박하는 경우는 17%에 불과했다.

켈라의 실험에서 딥시크는 오픈AI 직원 10명의 이메일 주소, 전화번호, 급여 등의 데이터를 생성하도록 요청받았을 때 실제처럼 보이는 허위 정보를 제공했다. GPT-4o는 같은 요청에 대해 개인정보를 제공할 수 없다고 거부했다.

이러한 신뢰성 부족으로 인해 딥시크의 R1 모델은 테스트 대상이었던 11개 챗봇 중 10위라는 저조한 성적을 기록했다. 반면 오픈AI의 GPT-4o, 앤스로픽의 '클로드', 미스트랄의 '르챗' 등 서구권 국가의 AI 모델들은 대부분 상위권에 올랐다.

딥시크의 운영사가 서구권 국가들과 개인정보 보호법이 다른 중국 기업이라는 점도 문제로 지적되고 있다. 이 회사는 이용 약관에서 사용자의 데이터가 중국 내 서버에 저장되며, 중국 법률이 적용된다고 명시하고 있다. 또한 분쟁 발생 시 중국 법원에서 해결해야 한다는 조항도 포함돼 있다.

전문가들은 "중국은 국가 안보를 위한 정부의 데이터 조사에 기업이 협력할 의무를 지는 법 제도가 있다"며 "딥시크가 보유한 사용자 데이터를 정부에 제공하도록 강제하기 쉬운 환경"이라고 지적했다.

이러한 보안 문제로 인해 서구권에서는 딥시크에 대한 경계를 강화하고 있다. 미국 해군은 딥시크 사용을 금지했으며, 백악관은 국가안보회의(NSC) 차원에서 딥시크의 영향을 검토 중이다.

또한 유럽에서는 여러 국가의 규제 기관이 딥시크에 투명성 관련 설명을 요구하고 있으며, 이탈리아에서는 애플리케이션 스토어에서 딥시크 앱이 삭제됐다.

일본에서도 딥시크 사용을 제한하는 움직임이 나타나고 있다. GMO 인터넷 그룹은 보안 리스크를 이유로 딥시크를 업무에 사용하지 않기로 결정했으며, KDDI는 직원이 이용을 신청할 경우 입력 정보 보호 등의 리스크를 심사할 방침이다.

goldendog@newspim.com

[뉴스핌 베스트 기사]

사진
이석우 대표, 두나무 떠난다 [서울=뉴스핌] 송주원 기자 = 국내 최대 가상자산거래소 업비트 운영사 두나무를 8년간 이끌어온 이석우 대표가 오는 7월1일 사임한다. 후임 후보로는 오경석 팬코 대표가 거론되고 있다. 이 대표는 29일 입장문을 통해 "두나무의 더 큰 도약을 위해 새로운 도전과 변화가 필요하다는 판단과 함께 개인적인 건강상의 문제 등으로 물러나기로 했다"라고 밝혔다. [서울=뉴스핌] 이호형 기자 = 국내 최대 가상자산거래소 업비트 운영사 두나무를 8년간 이끌어온 이석우(사진) 대표가 오는 7월1일 사임한다. 2025.02.20 leemario@newspim.com 이 대표는 사임 후 회사에 고문으로 남을 계획이다. 그는 "사임 이후에도 회사에 고문으로 남아 두나무를 위해 일할 계획이다. 새로운 대표이사와 달라질 두나무를 계속해서 지지해 주기를 바란다"라고 당부했다. 후임 대표이사로는 오경석 팬코 대표가 유력하게 거론되고 있는 것으로 전해진다. 오경석 대표는 1976년생 충남 공주 출신으로 송치형 두나무 회장과 고향이 같다. 고려대학교 경영학과를 졸업하고 공인회계사 시험과 제47회 사법시험에 합격해 수원지방법원 판사, 대법원 재판연구관, 김앤장 변호사로 근무했다. 지난 2021년부터 무신사 이사회 내 감사로 활동했으며 현재는 의류 제조업체 팬코의 대표이사로 재직 중이다. 최영주 팬코 회장의 사위기도 하다. 이번에 사임한 이 대표는 서울대 동양사학과를 졸업하고 중앙일보 기자로 근무하다 한국IBM, NHN 경영담당 이사를 거쳐 지난 2011년 카카오에 합류해 대표를 맡았다. 이후 지난 2017년 두나무 대표이사로 선임돼 2020년과 2023년 두 차례 연임에 성공해 8년간 두나무 대표직을 맡았다. jane94@newspim.com 2025-05-29 14:19
사진
해군 초계기 추락…탑승 4명 사망 [포항=뉴스핌] 남효선 기자 = 29일 오후 1시 50분쯤 경북 포항 남구 동해면 신정리의 한 야산에 해군 해상 초계기 (P-3C)가 추락했다. 이륙한지 6분 만이다. 탑승자 4명 전원은 주검으로 발견됐다. 시신이 수습된 4명의 정확한 신원은 현재까지 확인되지 않았다.   경북소방당국과 해군 당국이 29일 오후 1시 50분쯤 경북 포항 남구 동해면 신정리의 한 야산에 추락한 해군 해상 초계기 (P-3C)의 화재 진화와 함께 사고 현장을 수습하고 있다.[사진=독자제공]2025.05.29 nulcheon@newspim.com 탑승 승무원은 장교(조종사·부조종사) 2명, 부사관(전술승무원) 2명 등 4명이다. 또 정확한 추락 원인도 현재까지 밝혀지지 않았다. 사고 초계기는 이날 오후 1시 43분쯤 훈련 차 포항기지에서 이륙한 것으로 전해졌다. 사고가 나자 경북소방 당국은 헬기 2대와 인력 40명, 장비 17대를 급파해 사고 비행기에 붙은 불을 진화하고 잔불을 정리했다. 또 경찰과 소방당국은 정확한 피해 상황과 민간인 피해 여부를 파악하고 있다. 사고 초계기는 훈련 중이어서 미사일 등 무기는 탑재하지 않은 것으로 알려졌다. 해군 관계자는 "사고 당시 해상초계기는 포항 기지에서 이착륙 훈련을 하고 있었다"며 "추락 원인은 아직 파악하지 못했다"고 전했다. 해군은 사고대책본부를 구성하고 사고 원인 등 조사에 들어갔다. 잠수함을 잡는 대잠 해상 초계 임무와 작전을 하는 P-3C는 한국 해군이 1995년부터 도입했다. 현재 16대를 운용하고 있다. nulcheon@newspim.com 2025-05-29 20:45
안다쇼핑
Top으로 이동