전체기사 최신뉴스 GAM
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 딥페이크 범죄를 막는 근본 대책

기사입력 : 2024년09월02일 08:31

최종수정 : 2024년09월02일 08:31

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

하민회 (이미지21대표, 미래기술문화연구원장)

딥페이크(Deepfake) 진앙이 한국이라고?

미국 보안업체 시큐리티 히어로가 공개한 '2023 딥페이크 현황' 보고서애 따르면 지난해 9만건이 넘는 딥페이크 영상 중 53% 이상의 피해자가 한국인이다. 이를 두고 외신들은 한국은 딥페이크에 취약한 국가, 심지어 범죄의 진앙으로 볼 수 있다고 보도했다. (딥페이크는 딥러닝(Deep learning)과 가짜(Fake)의 합성어로, AI 기반의 인간 이미지 합성 기술을 뜻한다.)

실지로 한국은 디지털 성범죄 비상사태에 직면했다.

2013년부터 2018년 사이 국내에선 3만건 이상의 불법 촬영 신고(몰카)가 경찰에 접수됐다. 대부분 공중 화장실과 탈의실, 숙박업소, 등의 불법 촬영이었다. 2019년에는 텔레그램 성착취 방(N번방) 사건이, 올해엔 서울대·인하대에서 여성 동문들의 딥페이크 합성물을 제작·유포한 디지털 성범죄 사건이 터졌다. 최근엔 교사, 지인, 동료, 학생들을 대상으로 하는 딥페이크 음란물 사건이 전국적으로 발생하고 있다.

하민회 이미지21 대표.

전문가들은 디지털 성범죄가 반복되는 가장 큰 이유로 '느슨한 처벌'을 꼽는다.

현행법상 2019년 딥페이크 성범죄를 처벌할 수 있는 조항은 '성폭력 범죄 처벌에 관한 특례법'에 허위 영상물 등의 반포(14조의 2)뿐이다. 이 조항은 2019년 'N번방' 사건 이후 만들어졌다.

나날이 지능화되는 딥페이크 범죄를 막기엔 당연히 역부족이다. 불법 촬영물과 다르게 불법 합성물은 단순 시청·제작·소지하는 행위에 대해선 처벌하지 못한다. 딥페이크 성착취물을 재미로 제작하고 유포하지 않고 그냥 가지고 있었을 뿐이라고 우기면 처벌받지 않는다는 말이다.

해외에선 제작만으로도 처벌이 가능하도록 엄격해지는 추세다. 최근 영국 법무부는 공유·유포 여부와 상관없이 딥페이크로 음란물을 만들기만 해도 처벌할 계획이라고 밝혔다. 미국 상원 의회에선 지난달 딥페이크 성착취물 피해자들의 피해를 보상하는 법안이 통과되기도 했다.

딥페이크 범죄의 심각성은 "만들기는 쉽지만 없애기는 정말 어렵다'는 것에 있다.

[사진=게티이미지뱅크]

AI에 사진만 넣으면 몇 분 만에 만들어진 성착취물이 텔레그램 등을 통해 빠른 속도로 다수에게 퍼진다. 합성 대상의 인스타그램 등 SNS 링크만 입력해도 성착취물을 만들어내는 웹사이트부터 템플릿을 골라 사진 1장만 넣으면 30초만에 합성물이 완성되는 중국 앱도 있다. 심지어 실시간 딥페이크 영상제작도 가능하다. 과거 딥페이크 영상은 표정이나 동작이 부자연스러운 부분이 많았다면 최근에는 전문가도 자세히 봐야만 구분이 될 만큼 정교해지는 추세다.

더 큰 문제는 AI 기술이 텍스트, 영상·음성 데이터까지 함께 처리하는 멀티모달 방식으로 진화하면서 과거 합성의 수준에서 이제는 특정 시나리오에 기반한 딥페이크 영상 창작이 가능 해졌다는 점이다. 이는 음란물 유포를 넘어 피싱이나 협박 등 범죄의 고도화를 부른다.

딥페이크 성착취물의 유통 수단인 텔레그램도 해결되어야 할 과제다. 암호화된 비밀채팅 기능으로 강력한 보안성을 갖춘 텔레그램은 각종 디지털범죄의 온상이다. 제작한 딥페이크 음란물을 '봇(Bot)'을 통해 배포하는 텔레그램은 최근 딥페이크 합성물을 제작을 수익화 하는 구조를 만들기도 했다.

[서울=뉴스핌] 김학선 기자 = 평화나비네트워크 소속 대학생들이 29일 서울 종로구 세종문화회관 앞에서 딥페이크 성범죄 대응 긴급 대학생 기자회견을 하며 피켓을 들고 있다. 2024.08.29 yooksa@newspim.com

프랑스 정부는 8월 28일 입국하는 텔레그램의 최고경영자(CEO) 파벨 두로프를 '범죄 방조'로 체포했다. 전 세계 9억 명의 사용자를 보유한 텔레그램은 마약 밀매, 조직범죄, 테러 조장, 사이버 폭력 등 각종 범죄 도구로 활용되고 있음에도 두로프는 프라이버시 보호를 이유로 수사당국에 협조를 하거나 적절한 조치를 취하는 것을 거부해왔다. 이번 프랑스 정부의 조치는 향후 SNS플랫폼에서 벌어지는 범죄행위에 대해 CEO가 형사적 책임을 요구받을 수 있음을 시사한다.

딥페이크 성착취물의 완전한 삭제는 여전히 어렵다. 24시간 365일 딥페이크 성착취물을 찾아내 삭제하는 AI엔진이 개발되어 국내에서도 활용 중이지만 복사본이 있는 한 특정 시간 경과 후 언제 고 다시 업로드 될 수 가능성이 있기 때문이다. 결국 어떻게 든 '딥페이크 성착취물이 만들어지지 않도록'하는 것이 최선인 셈이다.

[서울=뉴스핌] 김학선 기자 = 평화나비네트워크 소속 대학생들이 29일 서울 종로구 세종문화회관 앞에서 딥페이크 성범죄대응 긴급 대학생 기자회견을 하며 퍼포먼스를 하고 있다. 2024.08.29 yooksa@newspim.com

사실 딥페이크 범죄는 한국만의 문제는 아니다. 그렇지만 피해자와 가해자 다수가 10대라는 점은 자못 심각하다. 경찰청 통계에 의하면 지난 3년 동안 딥페이크 범죄 가해자 중 70% 정도가 미성년자이고 피해자 역시 60% 이상이 미성년자이다.

우리나라는 프랑스나 미국의 일부 주처럼 특정 연령까지 SNS 계정을 만들지 못한다거나 학교에서 스마트폰 사용을 금지하는 법령이 없는 탓에 일찍부터 SNS 환경에 쉽게 노출되는 데다 새로운 기술에도 매우 친화적인 편이다. 친구나 가까운 지인 등을 AI로 놀려먹자는 단순한 의도를 가진 미성년자가 가해자일 경우 피해자 역시 미성년자가 많을 수 밖에 없다.

딥페이크 범죄의 피해자와 가해자 다수가 미성년자라는 사실은 우리사회에 꼭 필요한 디지털 시민 교육과 미디어 리터러시 교육이 제대로 이뤄지지 않고 있음을 단적으로 보여준다.

'기술을 다룰 줄 하는 능력' 보다는 '기술로 무엇을 하고 하지 말아야 하는가' 에 대한 올바른 인식을 갖추는 일이 훨씬 중요시되어야 한다.

우선 디지털 범죄가 얼마나 심각한 중범죄인지 교육해야 한다. 디지털 범죄는 남의 인권과 인격을 침해하는 것이고 법에 저촉된다는 사실을 청소년기부터 자주 많이 알려줘야 한다. 현실 범죄와 디지털 범죄의 경중이 다르지 않는다는 점도 강조할 필요가 있다. 미성년자는 장난삼아 했던 행동의 중대성을 잘 모를 수 있다. 예컨대 학교 폭력의 연장선상으로 온라인에서 따돌림 하고 이상한 사진에다 얼굴 갖다 붙이면서 놀리는 '능욕문화' 같은 것이다. '능욕'이 AI를 만나 딥페이크가 되면 피해자에게 치명적인 해를 입힐 뿐 아니라 가해자도 성범죄자가 된다는 사실을 명확히 인지시켜야 한다.

텔레그램 채팅방에서 중국발 딥페이크 기술로 만든 한 K-POP 아이돌 그룹의 나체 영상이 유포돼 논란이 되고 있다. 현재 국내에 해당 기술이 일부 판매된 것으로 알려지고 있다. [사진=뉴스핌DB]

온라인에서의 다양한 비윤리적인 행위들을 가볍게 여기지 않는 '미디어 리터러시' 교육도 필요하다. 편향으로 인한 갈등과 미움이 온라인에서의 기본값이 아니라는 점을 인식시키고 비난을 놀이처럼 여기지 않아야 건전한 문화가 형성된다. 현실의 반이 온라인인 세상에서 미디어 리터러시 교육은 필수과목이 되어야 한다.

미국 대학에서는 신입생에게 '미디어 리터러시' 교육을 듣게 하는 곳이 늘고 있다. 우리나라에서는 특별히 배우지 않는 미디어를 현명하게 소비하는 방법, 적절한 댓글을 쓰는 법, 기분 나쁘지 않게 비판하는 법 등 현실적인 내용을 다룬다.

결국 딥페이크 범죄를 막는 근본적인 대책은 '가해자가 되지 않는' 교육 아닐까?

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
손흥민 7·8호-부앙가 23호...환상 '흥부 듀오' [서울=뉴스핌] 박상욱 기자 = 손흥민이 시즌 7·8호골을 연달아 터뜨리며 4경기 연속골을 기록했다. 드니 부앙가도 시즌 23호골을 넣어 '흥부 듀오'는 3골을 합작하며 팀 승리에 결정적인 역할을 했다. LAFC 손흥민은 28일(한국시간) 미국 미주리주 세인트루이스의 에너자이저 파크에서 열린 2025 MLS 정규리그 서부 콘퍼런스 세인트루이스 시티SC와의 원정 경기에서 3-4-3 포메이션의 원톱 스트라이커로 선발 출전했다. LAFC는 '흥부 듀오'의 활약을 앞세워 3-0으로 완승을 거뒀다. LAFC는 승점 53을 기록하며 서부 콘퍼런스 4위 자리를 유지했다. [세인트루이스 로이터=뉴스핌] 박상욱 기자= 손흥민이 28일(한국시간) MLS 34라운드 세인트루이스 시티 SC와의 원정 경기에서 자신의 첫 번째 골을 넣고 '찰칵 세리머니'를 하고 있다. 2025.9.28 psoq1337@newspim.com [세인트루이스 로이터=뉴스핌] 박상욱 기자= 손흥민이 28일(한국시간) MLS 34라운드 세인트루이스와의 원정 경기에서 자신의 첫 번째 골을 넣고 골 셀레브레이션을 하고 있다. 2025.9.28 psoq1337@newspim.com 손흥민은 1-0으로 앞선 전반 추가시간 시즌 7호골을 뽑아냈다. 그는 중원에서 단독 드리블로 페널티박스 왼쪽까지 돌파한 뒤 오른발 슈팅으로 골망을 흔들며 선제골을 기록했다. 후반 15분에는 페널티박스 정면에서 수비수를 앞에 두고 오른발 슈팅으로 시즌 8호골을 추가, 이날 멀티골을 완성했다. 손흥민은 이번 시즌 MLS에서 8경기 만에 8골 3도움을 기록하며, 출전 경기마다 존재감을 과시하고 있다. MLS 기록 기준으로 이번 4경기 연속골은 지난 2021년 12월 토트넘 소속으로 EPL 14라운드부터 4경기 연속골을 기록한 이후 약 3년 9개월 만이다. 경기를 중계하던 현지 해설진은 "손흥민과 부앙가는 피할 수 없다(inevitable)"며 두 선수의 뜨거운 활약을 추켜세웠다. [세인트루이스 로이터=뉴스핌] 박상욱 기자= 손흥민이 28일(한국시간) MLS 34라운드 세인트루이스와의 원정 경기에서 자신의 두 번째 골을 넣고 골 셀레브레이션을 하고 있다. 2025.9.28 psoq1337@newspim.com [세인트루이스 로이터=뉴스핌] 박상욱 기자= 손흥민이 28일(한국시간) MLS 34라운드 세인트루이스 시티 SC와의 원정 경기에서 골을 넣고 부앙가과 손을 마주치고 있다. 2025.9.28 psoq1337@newspim.com 손흥민과 함께 공격을 이끄는 드니 부앙가(31)도 전반 15분 선제골을 터뜨리며 5경기 연속골로 시즌 23골을 기록, 리오넬 메시에 이어 득점 랭킹 2위에 올랏다. 두 선수는 최근 LAFC가 터트린 15골 중 절반 이상을 책임지고 있다. 경기 도중 손흥민과 부앙가는 높이 뛰어올라 하이파이브를 주고받는 세리머니를 펼치며 팀 분위기를 끌어올렸다. 세인트루이스에서는 정상빈이 왼쪽 날개 공격수로 선발 출전하며 '코리안 더비'가 성사됐다. 정상빈은 전반 2분 수비 뒷공간으로 빠르게 침투하다 LAFC 골키퍼와 충돌하며 경고를 받았지만 경기 내내 활발한 움직임을 보였다. 그는 후반 20분 공격포인트 없이 교체돼 벤치로 돌아갔다. 이날 승리로 LAFC의 스티브 체룬돌로 감독은 2022년 1월 지휘봉을 잡고 나서 통산 100승(36무 9패)째를 달성하는 기쁨을 맛봤다. psoq1337@newspim.com 2025-09-28 11:52
사진
"'각설이 타령'은 광복군의 희로애락" [서울=뉴스핌] 이지은 기자 = 신개념 국악 방송 '최한이·변상문의 작금작금' 제4편이 26일 종합뉴스통신사 뉴스핌 유튜브 채널 '뉴스핌TV'와 'K스팟(K·SPOT)'을 통해 공개됐다. '최한이·변상문의 작금작금'은 국악이라는 전통 예술 분야에 새로운 활력을 불어넣고, 대중에게 더욱 가깝게 다가가려는 시도이다. 젊은 국악인들의 시선으로 전통음악을 재해석하고 현대사회 속 국악의 의미를 재조명하며, 소리꾼 최한이와 변상문 국방국악문화진흥회 이사장, 팝페라 가수 오윤석과 소리꾼 박나현, 김보성, 가야금 병창 박혜정 등이 출연한다. '최한이·변상문의 작금작금'의 제목 속 '작금(昨今)'은 역사적 사건과 역사적 인물 이야기를 국악으로 풀어 간다는 의미를 담고 있다. 또한 '작금(作金)'은 '금을 캐 부자가 된다'는 뜻도 포함돼 있다. [서울=뉴스핌] 이지은 기자 = '최한이·변상문의 작금작금' 제4편 '광복군'이 공개됐다. 본편은 종합뉴스통신사 뉴스핌TV의 유튜브 채널 '뉴스핌TV'와 'K·SPOT'에서 확인할 수 있다. 맨 왼쪽부터 최한이, 김보성, 변상문. 2025.09.25 alice09@newspim.com 이날 제4편 '광복군'에서는 가야금 병창 박나현과 경기소리꾼 김보성이 함께했다. 4편 '광복군'에서는 의병들에 대한 이야기로 시작했다. 변 이사장은 "의병은 1907년 8월 대한제국 군대가 해산된 후, 1919년 9월 상해 임시정부가 세워질 때까지 개인 신분으로 일제와 싸운 분들"이라고 설명했다. 이어 "이 광복군은 1948년 8월 15일 대한민국 정부수립과 함꼐 국군이 됐다"고 부연했다. 당시 독립군이자 광복군 출신으로 초대 국방부 장관을 맡은 사람은 이범석이며, 초대 국방부 차관은 최용덕이 맡았다. 제4편 '광복군'의 시대적 배경은 1944년 겨울이다. 변 이사장은 "평안도 출신 김준엽을 비롯한 1500여 명의 청춘은 평양에 주둔하고 있던 일본군 제20사단에서 4주간 훈련을 받고, 당시 중국군과 전쟁 중인 일본군에 배치됐다. 그런데 이들 중 40여 명이 일본군영을 탈영하게 된다. 대표적 인물이 전 고려대 총장 김준엽, 창작과 비평 출판사를 운영했던 장준하, 임시정부 초대 군무총장 노백린 장군의 아들 노능서"라고 말했다. 최한이 소리꾼은 장준하의 '돌베개' 책 부분을 읽으며 "흥이 오르자 안익태 씨가 작곡한 애국가를 불랐다. 회식을 주관한 김주임은 사발가를 불렀다"고 말했다. 이어 "여기서 나오는 '사발가'는 1900년대 초부터 1910년 한일병탄 무렵까지 우리 민족의 울분을 노래한 곡"이라고 소개했고, 김보성 소리꾼은 가창을 시작했다. [서울=뉴스핌] 이지은 기자 = '최한이·변상문의 작금작금' 제4편 '광복군'이 공개됐다. 본편은 종합뉴스통신사 뉴스핌TV의 유튜브 채널 '뉴스핌TV'와 'K·SPOT'에서 확인할 수 있다. 사진은 김보성 소리꾼. 2025.09.25 alice09@newspim.com [서울=뉴스핌] 이지은 기자 = '최한이·변상문의 작금작금' 제4편 '광복군'이 공개됐다. 본편은 종합뉴스통신사 뉴스핌TV의 유튜브 채널 '뉴스핌TV'와 'K·SPOT'에서 확인할 수 있다. 사진은 박나현 가야금 병창. 2025.09.25 alice09@newspim.com 탈영한 이들은 중국 국민당 정부 중앙육군군관학교를 마치고 중경에 있는 임시정부를 찾아갔다. 그리고 그곳에서 김구 선생을 만나게 된다. 해당 자리에서 김성근이라는 청년은 '각설이 타령'을 부르게 된다. 박나현 소리꾼은 '품바'라는 가사가 들어간 '광복군 환영가'를 가창했다. 최한이 소리꾼은 이를 들은 후 "지금으로 말하면 타령은 강한 수능금지송이 됐을 것 같다"고 말했다. 이후 변상문 이사장과 최한이는 오늘의 '금맥'으로 "각설이 타령은 광복군의 희로애락 그 자체였고, 국악은 곧 군악이었다"고 정의를 내렸다. 올해 8월 15일 광복 80주년을 맞아 선보이는 특집 프로그램인 '최한이·변상문의 작금작금' 제1화 '광복'은 총 4개로 나뉘어 방송됐다. 제1편은 '작금', 2편 '김구, 판소리 배우다', 3편 '이승만과 아리랑', 4편 '광복군'이다. [서울=뉴스핌] 이지은 기자 = '최한이·변상문의 작금작금' 제4편 '광복군'이 공개됐다. 본편은 종합뉴스통신사 뉴스핌TV의 유튜브 채널 '뉴스핌TV'와 'K·SPOT'에서 확인할 수 있다. 맨 왼쪽부터 최한이, 김보성, 변상문. 2025.09.25 alice09@newspim.com 앞서 제1편 '작금'에서는 성악가 오윤석이 참석해 한국 가곡 '선구자'를 가창했다. 변사로 나선 변상문 이사장은 '가곡'에 대해 "표준국어대사전에서 '가곡'을 우리나라 전통 성악곡의 하나로, 피리나 거문고, 해금 따위의 관현악 반주에 맞춰 부르는 노래라고 정의하고 있다"고 설명하면서 "광복 80주년을 맞이해 뒤죽박죽 돼 있고 뒤섞인 개념을 정리해보고자 한다"고 밝혔다. 그러면서 "가곡은 국악"이라는 답을 힘주어 말했다. 이어 제2편 '김구, 판소리 배우다'에서는 김구 선생이 왜인을 살해한 후 옥중 생활을 하며 만난 조덕근으로부터 시조와 여창 가곡, 남창 가곡, '경기 12잡가', '선유가', 판소리 '적벽가'와 '춘향가'를 배운 내용이 담겼다. 변상문 이사장은 "백범 김구는 판소리 '춘향가'를 배웠고, 판소리 '농부가'와 '갈까부다'를 즐겨 불렀다"고 말했다. 이에 최한이 소리꾼은 "판소리는 원조 K팝"이라고 정의했다. '이승만과 아리랑'이라는 제목의 제3편에서는 이승만 전 대통령이 1993년 2월 24일 스위스 제네바에서 국제연맹 본회의에 참석한 후 식사 자리에서 초대 대통령의 영부인인 프란체스카 여사를 만난 내용이 담겼다. 이 전 대통령은 프란체스카 여사에게 힘들고 외로울 때마다 '아리랑'을 불러줬다. 이에 최한이 소리꾼은 "아리랑은 2012년 유네스코 세계유산에 등재된 우리의 소리이다. '아리랑'은 한민족 DNA이다. 슬플 때는 발라드로, 기쁠 때는 찬가로, 힘들 때는 떼창으로, 인생사 희로애락의 뮤지컬로 시류를 편승하는 살아있는 맥"이라고 강조했다.   alice09@newspim.com 2025-09-26 16:05
기사 번역
결과물 출력을 준비하고 있어요.
기사제목
기사가 번역된 내용입니다.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동