전체기사 최신뉴스 GAM
KYD 디데이

[기고] AI 범죄에 대응하는 최선의 습관

기사입력 : 2025년04월14일 08:22

최종수정 : 2025년04월14일 08:26

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

하민회 (이미지21대표, 미래기술문화연구원장)

"OO 고객센터입니다. 본인 성함과 주소를 말씀해주세요."

"어디라고요?"

"OO 고객센터입니다. 본인 성함과 주소를 부탁드립니다."

"왜요?" 했더니 뚝 끊어버린다. 하마터면 걸려들 뻔했다. AI 딥보이스를 위해 목소리 정보를 수집하는 콜센터가 성행한다더니 남의 일이 아니었다.

과거 보이스피싱이 지인의 목소리를 흉내 내거나 공공기관을 사칭했다면 요즘은 실제 목소리 정보를 AI로 합성해 조작한다. 음성생성 앱에 6~11초 (두 세 문장)가량 목소리 녹음 파일을 올리면 채 1분도 되기전에 패턴과 속도를 분석해 만들어진 유사한 음성이 텍스트 문장을 읽는다. 듣는 사람이 가까운 관계일수록 속기 쉽다.

하민회 이미지21 대표.

AI기술이 발전하면서 이를 악용한 범죄도 진화하고 있다. 지난해 우리나라 보이스피싱 피해액은 8545억원, 1년 전보다 91%나 늘었다. 1인당 보이스피싱 평균 피해금액은 4100만원에 달한다. 2024년 APWG(Anti-Phishing Working Group) 보고서에 따르면, 전 세계적으로 보이스피싱 사건은 전년 대비 30% 증가했다. 공식 통계는 없지만 상당수 딥보이스가 악용되었을 것으로 추정한다.

AI로 조작되는 건 목소리만이 아니다. AI 이미지와 영상 조작 범죄 역시 증가 추세이다.

이미 골칫덩이가 된 딥페이크 성범죄뿐 아니라 최근에는 생체 인증 서비스를 뚫으려다 적발된 사례도 등장했다. 한 인터넷 은행에서 고객 개인정보를 탈취한 이들이 면허증 사진을 AI로 조작해 얼굴 인식 인증을 시도했다는 것이다. 다행히 실패로 돌아갔지만 하루가 다르게 기술이 발전하고 있다는 점을 감안하면 결코 안심할 수 없는 상황이다.

원격 근무가 많은 해외기업들은 또 다른 형태의 사이버 위협에 직면했다. 해커들이 직접 시스템을 공격하는 대신 AI 기술을 악용해 가짜 신분으로 화상 면접에 응해 채용되는 것.

<사진=NHK>

특히 북한 해킹그룹이 조직적으로 나서고 있다. 지난해 10월 미국 사이버 보안 회사 KnowBe4는 네 차례에 거친 화상면접과 신원조회를 거쳐 AI개발자를 뽑았다. 그의 계정에서 악성코드 설치가 수 차례 시도된 의심 정황을 발견한 뒤 에야 회사는 AI 사진과 도난 신분증으로 채용된 북한 해커임을 확인했다.

음성인증 기업 '핀드롭 시큐리티'도 고위 엔지니어링 직책 지원자를 화상면접 하던 중 이상 징후를 발견했다. 영상 인터뷰 중 지원자의 얼굴 표정이 말과 미묘하게 어긋났다. 지원자의 IP주소를 추적해보니 북한 국경 근처의 러시아 군사 시설이었다.

미 법무부에 따르면, 미국 시민권을 사칭한 북한 IT 직원들이 300개 이상의 기업에 침투했고 2024년에만 다국적 기업 40곳 이상의 시스템 접근 권한을 획득했다.

가짜 얼굴과 신분으로 '내부자'가 된 이들의 위험은 상상 이상이다. 회사 시스템에 악성코드를 설치해 회사에 몸값을 요구할 수 있고, 고객 데이터나 영업 비밀을 훔칠 수도 있다. 또한 회사 자금을 털어갈 수도 있다.

경찰 로고. [사진=뉴스핌DB]

가트너(Gartner)의 연구에 이하면 2028년까지 전 세계적으로 구직자 4명 중 1명이 AI로 생성된 프로필을 사용할 것으로 예측된다. 의도가 무엇이든 화상면접 사기는 더욱 심화될 전망이며 이런 위험을 인식하지 못하는 채용 관리자들이 많은 만큼 문제 해결 역시 쉽지 않을 것으로 보인다.

딥보이스와 딥페이크 기반 AI 범죄가 위협적인 건 정교하고 실시간성이 강해 기존 보안 체계를 우회할 수 있기 때문이다. 생성AI 모델의 오픈 소스화로 눈에 띄게 줄어든 비용도 범죄 증가에 일조한다. 무엇보다 음성 명령, 영상 회의 같은 사회 전반의 신뢰 기반 시스템을 취약하게 만들어 불신을 키우고 일상의 피로도를 높인다는 점에서 신속한 기술적 정책적 대응체계가 요구된다.

국내에서는 이동통신3사가 보이스피싱 탐지에 노력을 기울이고 있다.

SK텔레콤은 AI가 대화나 문자 문맥을 파악해 미끼 문자와 의심번호를 찾아내는 기술을 활용해 AI 기반 이상탐지 통합서비스를 개발했다.

KT는 AI 기반 보이스피싱 차단서비스를 상용화했다. 통화 내용, 말투, 계좌 언급 여부, 시간대 등 사전에 작성된 시나리오의 40여 개의 패턴을 실시간 분석해 보이스피싱 여부를 판단하고 AI가 실시간으로 위험 신호를 감지해 수신자에게 '이 통화 조심하세요'라는 경고를 보낸다.

[서울=뉴스핌] 이윤애 기자 = 보이스피싱 피해시 대응요령 [사진=금융감독원] 2025.02.13 yunyun@newspim.com

LG유플러스는 AI 통화 에이전트 '익시오'를 통해 실시간으로 통화 내용을 문장 단위로 분석해 보이스피싱 여부를 판단한다. 위조된 AI 목소리를 판별하는 서비스도 곧 상용화할 계획이다.

다행히도 국내에서는 딥페이크 화상면접 사기가 등장하지 않고 있지만 2025년 현재, 가상 이력서, 고해상도 얼굴 이미지, 10초 이상의 음성파일, 대중화된 스튜디오 앱 정도만 있으면 기술적으로 딥페이크를 이용한 화상면접 우회는 얼마든지 가능하다. 막연하게 화상면접 프로그램만 믿기 보다는 프로필의 다중적 검증, AI솔루션 활용 등을 통한 기술적 검증 단계를 반드시 거치는 것이 바람직하다.

예상 외 질문을 던지거나 카메라 각도 변경을 요구해보고 3D얼굴 모델을 구별할 수 있도록 손끝으로 코끝을 터치하는 행위 요구 등 물리적 검증을 추가한 프로토콜 강화도 안전성을 높이는 한 방법이다.

법적 조치 강화 역시 화상면접 사기의 효과적인 예방책이 될 수 있다. 2023년부터 싱가포르에서는 허가 없이 딥페이크를 사용하면 징역 10년을 받을 수 있다. 미국 HR 가이드 라인은 2025년부터 AI를 신분 사기에 사용 시 민사소송을 청구할 것을 권고하고 있다.

창이 날카로워지면 방패도 튼튼해져야 한다. 진짜처럼 들리고 보이는 판별이 어려워진 세상을 살아가려면 기술과 제도, 시민의식의 삼각 방어망이 필요하다.

AI 범죄에 대응할 수 있는 개인의 최고 대처법은 매사 경계심을 늦추지 않는 것. 음성이나 화상회의 중 중요한 지시를 받으면 반드시 문서를 재확인한다. 보안은 생체 외에 패턴이나 비밀번호 등과 함께 사용하는 것을 습관화하고, 화상 회의나 화상 면접 시엔 실시간 확인 질문을 활용하는 것이 바람직하다. 정교한 AI 시대엔 우리의 사고와 행동 역시 한층 정교 해져야 한다.

서울 강남구 1인가구지원센터에서 진행된 보이스피싱 예방 교육을 수강생들이 듣고 있는 모습. [사진=LG유플러스]

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
법사위, 尹 서울구치소 CCTV 열람 [서울=뉴스핌] 배정원 기자 = 국회 법제사법위원회(법사위)는 1일 윤석열 전 대통령의 수감 중 특혜 제공 여부와 특검의 체포영장 집행 당시 서울구치소 폐쇄회로(CC)TV를 열람하기 위해 현장검증에 나섰다. 추미애 법사위원장과 더불어민주당, 조국혁신당 소속 법사위원들은 이날 오전 경기 의왕 서울구치소를 방문해 윤 전 대통령의 체포영장 집행 거부와 수감 특혜 의혹 등을 점검했다. 국민의힘 의원들은 전원 불참했다. [서울=뉴스핌] 배정원 기자 = 추미애 법사위원장과 더불어민주당, 조국혁신당 소속 법사위원들은 1일 오전 경기 의왕 서울구치소를 방문해 윤 전 대통령의 체포영장 집행 거부와 수감 특혜 의혹 등을 점검했다. 국민의힘 의원들은 전원 불참했다. 2025.09.01 jeongwon1026@newspim.com 김용민 의원은 "국민의힘은 오늘 현장검증이 '망신주기용'이자 인권 침해라고 주장하고 있는데 정작 중요한 검증 절차에는 참여하지 않고 뒤에서 정치적 언사만 하고 있다"며 국민의힘 의원 불참에 유감을 표했다. 김 의원은 "오늘 검증해야 할 사안은 대한민국 형사사법시스템에서 매우 중차대한 문제"라며 "전직 대통령이라는 이유로 구치소에서 편하게 지내고 있다는 국민적 의혹이 해소되지 않는 한 대한민국 사법시스템은 국민으로부터 신뢰받지 못할 것"이라며 현장검증의 필요성을 재차 강조했다. 전현희 의원도 "CCTV를 열람하는 것은 윤석열에 대한 망신주기 목적이 아니다. 중대 범죄자의 체포영장 거부라는 법치주의 파괴 행태와 구치소 측의 특혜는 없었는지를 눈으로 확인하기 위함이다"며 "법치주의를 바로세우고 헌정질서를 회복하는 과정의 일환인 현장검증에 국민의힘이 자리를 비운 것은 매우 유감"이라고 말했다. 추미애 위원장은 "윤 전 대통령은 내란 혐의로 수사를 받으면서 조금의 양심이라도 있다면 응당 책임을 져야 함에도 불구하고 법치를 무시하고 부끄러운 모습을 연출하는 등 수사방해를 일삼고 있다"며 "오늘 현장검증을 통해 특혜 및 수사방해 상황을 면밀히 살피고 수용규칙 위반 등 사실이 확인될 경우 관련 규정에 따라 후속조치를 취하겠다"고 강조했다. 그러면서 서울구치소 측에 8월 한달 간 윤 전 대통령의 변호인 접견 횟수와 구치소 내 변호인 접견방 개수, 변호인 접견 규정 일체 등의 자료를 요청했다. 박은정 조국혁신당 의원과 서영교 민주당 의원은 이명박·박근혜 전직 대통령의 변호인 접견 관련 자료와 윤 전 대통령의 총 접견 시간 및 인원 등 통계 자료를 요구했다. jeongwon1026@newspim.com 2025-09-01 11:08
사진
[변상문의 화랑담배] 제1회 산세타령 변상문의 '화랑담배'는 6·25전쟁 이야기이다. 6·25전쟁 때 희생된 모든 분에게 감사드리고, 그 위대한 희생을 기리기 위해 제목을 '화랑담배'로 정했다. [자료= 인공지능 AI 이미지] 판소리 춘향가에는 '산세타령'이라는 눈대목(가장 재미있는 부분 중 하나)이 있다. 방자가 춘향이에게 이몽룡의 사람됨을 각 지방 산세에 비유하며 설명하는 대목이다. 방자가 춘향이에게 "여보게 춘향이! 낭군을 얻으려면 뚜렷한 서울 양반 낭군을 얻지. 아, 어찌 시골 무지랭이를 얻으려는가?" 했다. 이에 춘향이가 "미친 녀석! 낭군도 시골 서울이 다르단 말이냐?"하며, 방자 말이 땅에 떨어지기도 전에 이불 개듯 개어 방자 귀에 쑤셔 넣었다. 방자는 "하믄 다르지야. 인걸은 지령이라. 사람이 하는 것은, 산세 따라 나는 법이여. 내가 우리 도련님 성품을 이를 테니 잘 들어 보소. 경상도 산세는 산이 웅장 허기로 사람이 나면 정직하고. 전라도 산세는 산이 촉(비옥함)하기로 사람이 나면 재주가 있고. 충청도 산세는 산이 순순하기로 사람이 나면 인정이 있고. 경기도 올라, 한양 터 보면 천운봉이 높고 백운대 섰다. 삼각산 세 가지 북주가 되고 인왕산이 주산이요, 종남산이 안산인디 동작이 수구를 막았기로, 사람이 나면 선할 때 선하고 악하기로 들면 별악지상(別惡之象)이라." 서울 남산 아래, 선할 때 선하지만 악하기로 들면 별악지상(別惡之象)인 땅. 그곳이 지금의 용산기지다. 이몽룡이 장원급제하고 남원골 춘향이를 만나러 간 길도 남대문-용산고-용산기지 23번 게이트-한강나루-남태령-과천 길이다. 용산은 용산구 효창공원 일대와 원효로 서쪽 일대 구릉지대를 말한다. 한강을 따라 서쪽으로 흐르는 구릉이 마치 용이 꿈틀대는 모습이어서 용산이라 불렀다. 대통령실이 들어선 국방부, 합참 지역의 구릉은 둔지산(屯之山)이다. 조선시대 때 직업군인 집단 거주 마을이 있었다. 이곳은 임진왜란 때는 일본군 병참기지로, 병자호란 때는 청나라군 후방지휘소였다. 임오군란 때는 흥선 대원군이 용산기지 캠프 코이너에서 청나라로 납치돼 갔다. 용산고 앞에서 청나라군과 조선군 간 치열한 전투가 벌어졌다. 1894년 7월 청일전쟁이 터졌다. 일본군 소장 오시마가 이끄는 8000여 명의 일본군이 용산기지에 주둔했다. 조선총독부, 조선주차군사령부가 용산기지에 터를 잡았다. 부대 정문은 용산역 맞은편 아모레 퍼시픽 건물과 용산우체국 사이로 난 길을 따라 200m 정도 들어가면 나오는 문이다. 어김없는 별악지상(別惡之象) 땅이었다. 1950년 6월 25일 01:00 용산기지 내 육군본부 상황실에 전화벨이 울렸다. 당직 장교 작전국 대위 조병운이 수화기를 들었다. "충성! 옹진반도 제17연대입니다. 현재 시간 국사봉 북쪽 능선으로 병력 미상의 북한군이 접근하고 있습니다" 03:00 또 전화벨이 울렸다. "충성! 문산 제1사단입니다. 북한군이 구화리에서 도하용 주정(舟艇)을 운반하고 있습니다" 03:30 또 전화벨이 울렸다. "충성! 의정부 제7사단입니다. 적 포탄이 전 진지에 떨어지고 있습니다" 창밖에는 태풍 엘시가 비를 뿌리고 있었다. 육군본부 정보국 당직 장교 중위 김종필은 정보국장 장도영 대령에게 "전 전선에서 북한군이 공격해 오고 있습니다. 전군에 비상을 내려야 합니다. 국장님께서 빨리 상황실로 오셔야겠습니다"라고 보고했다. 용산기지가 또다시 별악지상(別惡之象)의 땅이 되고 있었다.  / 변상문 국방국악문화진흥회 이사장 2025-09-01 08:00
기사 번역
결과물 출력을 준비하고 있어요.
기사제목
기사가 번역된 내용입니다.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동