전체기사 최신뉴스 GAM
KYD 디데이

[기고] 경이롭고 안전한 미래를 위한 준비

기사입력 : 2024년03월18일 08:28

최종수정 : 2024년03월18일 10:10

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

하민회 이미지21대표(코가로보틱스 마케팅자문)

미래 예측이 점점 어려워지고 있다. 거대언어모델(LLM) 챗GPT가 나왔을 때만 해도 지시어(프롬프트) 몇 줄로 그림까지 그려 주리라 기대하지 못했다. 채 1년 반이 되기 전에 몇 마디 말이면 영상이 뚝딱 만들어지는 AI모델 '소라'가 등장했다.

어제는 '먹을 것'을 달라는 말에 사과를 건내 주고 쓰레기를 주워담으며 "테이블에서 먹을 수 있는 게 사과 밖에 없었다"며 자기 행동을 설명하는 피규어 AI(Figure AI)의 휴머노이드 로봇 영상이 공개됐다. 압권은 할 일을 다 해치운 로봇의 자화자찬. "나 꽤 잘한 것 같은데. 사과는 새 주인을 찾았고 쓰레기를 치웠고, 식기는 원래 있어야 할 곳으로 갔잖아."

기특하면서도 사람 당황하게 만드는 이 로봇은 피규어 AI의 신속하고 섬세한 로봇 기술에 오픈AI의 시각적 추론과 언어 이해 기술이 결합된 시제품이다. 피규어 AI는 로봇이 언어적 이해를 통해 스스로 모든 행동을 했다는 점을 강조했다. 아직은 시제품이지만 보고 듣고 말하고 힘까지 갖춘 휴머노이드의 등장이라니. 미래가 다가오는 속도가 두려울 뿐이다.

하민회 이미지21 대표.

AI의 대부로 불리는 제프리 힌튼 토론토대학 교수는 최근 니혼게이자이 신문과의 인터뷰에서 "앞으로 10년 안에 자율적으로 인간을 죽이는 로봇 무기가 등장할 수 있다"는 섬뜩한 경고를 했다. 힌튼 교수는 AI기술을 핵전쟁에 비유하며 "아무도 AI가 지배하는 미래를 원하지 않는다"며 서둘러 국제적인 AI 규제 합의가 이루어져야 한다고 강조했다.

AI가 인간을 위협할 존재가 될 가능성도 거론했다. AI에게 목표를 주면 인간에게는 나쁜 해결책을 찾아낼 수 있다는 것인데 예컨대 AI에게 기후 변화를 막으라고 지시하면 AI가 목적달성을 위해 인간을 배제(제거)하는 것이 필요하다고 판단할 수 있으며 이를 실행하려는 위험성이 생긴다는 말이다.

힌튼 교수는 향후 서로 다른 AI가 경쟁하는 과정에서 데이터센터 등 자원 쟁탈전이 벌어질 수 있고 이는 생물계와 마찬가지로 진화 촉진의 과정으로 작용할 수 있다며 경쟁을 거쳐 훨씬 똑똑해진 AI에게 인류가 뒤쳐질 것을 우려했다. 

AI의 진화속도가 빨라지면서 경고의 목소리도 커지는 추세다. 최근 미 국무부로부터 의뢰를 받아 연구를 수행한 '글래드스톤 AI'는 "최악의 경우, 최첨단 AI시스템이 인류를 멸종시킬 수준의 위협이 될 수 있다"는 보고서를 제출했다.

[라스베이거스 로이터=뉴스핌] 최원진 기자= 영국의 로봇 개발사 '엔지니어드 아츠'(Engineered Arts)의 휴머노이드 로봇 '아메카'(Ameca)가 미국 네바다주 라스베이거스에서 열린 세계 최대 IT·가전박람회 'CES 2022'에서 방문객들과 대화를 나누고 있다. 2022.01.06 wonjc6@newspim.com

보고서는 AI의 핵심 위험을 2가지로 정리했다. AI가 무기화되어 잠재적으로 돌이킬 수 없는 피해를 입히는 경우 그리고 통제력을 상실하는 상황이다. 기업들이 안전과 보안을 뒤로하고 AI 개발의 가속화에만 힘을 쏟으면 자칫 가장 앞선 미국 AI시스템이 '도난' 당하거나 '무기화'될 수 있다는 점도 지적했다. 최근 우크라이나전에 동원되고 있는 AI드론 등의 무기만 봐도 이 같은 경고가 단순한 기우는 아닌 듯 보인다.

국가차원의 규제도 본격화되기 시작했다. 유럽연합(EU)이 세계 첫 인공지능(AI) 기술규제 법안인 'AI법(AI Act)'을 통과시켰다. 골자는 AI를 활용하는 과정에서 발생할 수 있는 위험을 범주화해 엄격하게 관리하겠다는 것. 허용할 수 없는 위험, 고위험, 저위험, 최소한의 위험 등 4단계로 구분했다.

허용할 수 없는 위험에는 사람의 의사결정 능력을 손상시키거나 취약성을 활용하는 AI 기술부터 특정인 혹은 단체에 불공정한 처우, 개인의 사회적 신용 점수를 매기는 소셜 스코어링, 학교나 직장에서 사람들의 감정을 해석하기 위한 AI기술 등이 해당되며 전면 금지된다. 또 특정 범죄를 수사하는 등의 용도가 아니면 실시간 원격 생체정보를 탐지하는 등의 기술도 허용되지 않는다.

고위험 AI의 범주에는 사람의 건강과 안전, 기본권을 해칠 중대한 위험(Significant Risk)을 초래하는 기술이 해당된다. 고위험 AI를 개발하는 기업은 시장 출시 전 반드시 적합성 평가 절차를 거치도록 했으며 이미 평가를 받았더라도 시스템이 실질적으로 수정될 경우엔 새롭게 적합성 평가를 받도록 함으로써 속도 전 양상을 보이는 AI 서비스 개발과 출시에 일종의 제동 역할을 할 것으로 보인다.

[사진 = 유비텍 공식 홈페이지] 유비텍의 대표적인 휴머노이드 로봇 모델인 '워커(Walker)'

오픈AI의 챗GPT나 구글의 제미나이 같은 생성형 AI 모델에 대해선 반드시 AI가 제작한 콘텐츠임을 명시하도록 했다. AI 학습을 위해 사용된 데이터를 투명하게 공개해야 한다는 내용도 눈길을 끈다. 현재 세계 각국에서 진행되고 있는 AI 기업과 데이터 저작권자의 갈등에 직결되는 문제이자 AI 기업들에겐 해명하기 쉽지 않은 약점이기 때문이다.

이상의 법 위반시 기업은 전 세계 매출의 7%에 해당하는 무거운 과징금을 물게 된다. EU의 AI법은 27개 회원국의 서명을 거쳐 오는 6월 EU 관보에 게재된 뒤 내년 초 발효되고 단계적으로 도입돼 2026년 이후에 전면 시행된다. 국제 AI규제법의 주요 이정표가 될 전망이다.

한참 발전 중인 AI 기술인데 벌써부터 발목을 잡는 게 옳은 지 궁금해하는 이들이 있다.

모든 혁신은 예측하기 어렵고 동시에 과소평가하기 쉽다. 기술의 탄생에서 대중화까지 이르는 길은 대단히 복잡하고 수많은 변수와 다양한 상황이 영향을 미치기도 한다. 때로 전혀 예상치 못한 지점에 도착하기도 하고 예측하지 못한 쓰임으로 보편화되기도 한다.

1900년대 초 비행기가 막 실용화되었을 때 사람들은 이 새로운 발명품이 우편물 수송과 비행기 레이싱에 쓰일 것이라 예측했다. 여객기라는 개념은 상상 밖에 있었다. 대학생들이 프로필과 사진을 공유하는 용도로 시작된 페이스북은 10년만에 정치적으로 가장 영향력 있는 수단이 되었다.

[사진=인튜이티브 서지컬 홈페이지]

AI도 마찬가지다. 우리의 예측대로 고분고분 진화할 것으로 기대하는 건 어리석고 위험하다. AI가 전 분야에 영향을 미치며 기하급수적인 성장을 보일 땐 더 그렇다. 잠재력이 큰 기술일수록 위험성도 크기 마련이다.

경이로우면서 안전한 미래를 원한다면 최소한 AI에게 올바른 방향 정도는 제시해야 하며 그것이 곧 규제다.

"우리는 자신이 모르는 무언가가 자신이 믿는 모든 것을 무효화할 수도 있다는 생각을 아예 하지 못한다." 지금은 심리학자 다니엘 카너만의 말을 새겨들어야 할 때다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
세빛섬 '청년 버스킹'... "분위기 만점 음악 즐겼다" [서울=뉴스핌] 오광수 문화전문기자 = "와이스 맨 세이, 온리 훌스 러브 인, 밧 아이 캔 헬프, 폴링 인 러브 위드 유." 바람 부는 한강에 엘비스 프레슬리의 대표곡 '캔 헬프 폴링 인 러브(Can't help falling in love)'가 울려 퍼졌다. 제3회 싱어송라이터선발대회 '히든스테이지'에서 대상을 수상한 김마누는 맨 처음으로 무대에 올라 매력적인 중저음으로 마치 엘비스 프레슬리가 환생한 듯한 분위기를 연출했다. [서울=뉴스핌] 정일구 기자 = '히든스테이지 시즌3 TOP10' 무화가 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. mironj19@newspim.com 2025.10.18  18일 오후 1시, 반포 한강공원 세빛섬에서는 감엔터테인먼트가 주최하고 서울특별시가 후원한 '2025 한강 청년 버스킹 축제'가 화려한 막을 올렸다. 가을비가 그치고 다소 바람이 불어 쌀쌀함이 느껴지는 날씨였지만 청년 뮤지션들의 음악을 향한 열정과 가을을 즐기러 나온 시민들의 열정을 막지 못했다. [서울=뉴스핌] 정일구 기자 = '히든스테이지 시즌3 TOP10' 오춘이 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. 2025.10.18 mironj19@newspim.com 삼삼오오 야외공연장에 모여든 시민들은 돗자리를 펴고 앉거나 따뜻한 커피를 손에 들고 다양한 음악을 구사하는 청년 뮤지션들의 공연을 즐겼다. 버스킹 축제의 문을 연 김마누는 "바람이 불었지만 이런 날의 매력이 있다. 오늘은 조금은 추워서 셋 리스트를 따스한 곡으로 바꿨는데 다들 따뜻하게 들어주신 것 같아 기분이 좋다"라고 말했다. [서울=뉴스핌] 정일구 기자 = 혼성듀오 섬과 도시가 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. 2025.10.18 mironj19@newspim.com  김마누의 무대가 끝나자 '히든스테이지'에서 최우수상을 수상한 밴드 '오춘'이 무대를 이어받았다. '깊을 오(奧), 봄 춘(春)'. 이름처럼 따뜻하고 깊은 감성을 전하는 팀이다. 대학 동기들과 군악대 인연으로 구성된 이 밴드는 "이 팀으로 경연이 아닌 야외 공연은 처음"이라며 "추운 날씨에 손이 어는 느낌도 들기도 했지만 그걸 제외하면 만족스러운 무대였다"라고 소감을 밝혔다. 무대는 나린과 수피(루키상), 유구름으로 이어졌다. '히든스테이지' 톱 10에 올랐던 5인조 아카펠라 팀인 나린은 애니메이션 영화 '케이팝데몬헌터스'의 주제가인 '골든'을 아카펠라로 편곡해 불러서 관객들의 열띤 호응을 얻었다. 용인에서 친구들과 함께 축제를 찾은 10대 여성관객인 B씨는 "아는 분들이랑 한강에 놀러왔다가 우연히 축제를 보고 신기해서 구경하게 됐다"며 "오춘이 나올 때부터 봤는데 다들 너무 잘했다. 특히 나린의 '골든'이 가장 인상 깊었다"고 말했다. [서울=뉴스핌] 정일구 기자 = '2025 한강 청년 버스킹' 무대를 찾은 가족 관객이 포토존을 배경으로 사진을 찍고 있다. 2025.10.18 mironj19@newspim.com  의정부에서 왔다는 20대 여성 A씨도 "드럼 선생님이 경연에서 상을 받으셨다고 해서 공연을 보러 왔다"며 "날씨가 춥긴 하지만 노래를 듣다보니 마음이 따뜻해졌다"면서 미소 지었다. '히든스테이지'에서 최우수상을 수상한 김유정이 선배가수 김현식의 '내 사랑 내 곁에'를 부르자 관객들은 가을이 무르익은 한강과 너무 잘어울리는 무대라면서 환호했다. 성해빈, 박은희의 혼성 듀오인 '섬과 도시', '히든스테이지'에서 우수상을 수상한 무화, 톱 10에 올랐던 널디나, 김지신 등의 무대도 저마다 개성이 넘쳤다. 이날 무대에는 '김루꾸 재즈밴드'도 참여해 뉴올리언스 사운드를 기반으로 한 재즈 선율로 축제의 밤을 더욱 풍성하게 했다. 각종 재즈 페스티벌과 공연 무대에서 50여 차례 이상 활약한 실력파 밴드답게, 세빛섬의 공기를 따뜻하게 물들였다. 발라드와 R&B, 재즈, 포크는 물론 록과 아카펠라까지 다양한 음악을 구사하는 청년 뮤지션들은 바람부는 한강에서 K-팝의 미래를 펼쳐보였다. [서울=뉴스핌] 정일구 기자 = '히든스테이지 시즌3 TOP10' 널디나가 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. 2025.10.18 mironj19@newspim.com  이날 공연장 한쪽에는 관객들이 직접 참여할 수 있는 체험 부스도 마련됐다. '서울의 향을 찾아서'라는 이름의 향수 체험 코너에서는 선유·도산·연희·성수·삼청·후암·도화·낙원 등 서울의 대표 지역을 모티브로 한 향을 시향할 수 있었다. 시민들은 자신이 고른 향에 원하는 향료를 섞어 '나만의 향수'를 완성하며 추억을 남겼다. 또 '한강 포토존'에서 사진을 찍는 가족과 연인도 자주 눈에 띄었다.  [서울=뉴스핌] 정일구 기자 = '히든스테이지 시즌3 TOP10' 널디나가 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. 2025.10.18 mironj19@newspim.com 서울에서 가족과 산책 중 우연히 들렀다는 30대 남성 C씨는 "길을 걷다 들렀는데 노래가 너무 좋아서 자리를 잡았다"며 "향수 체험도 정말 좋았다. 무대와 체험 둘 다 만족스러웠다"고 했다. 그러면서 "아내는 조금 추워했지만 그 추위마저 분위기 같았다"고 웃어 보였다. 4시간에 걸쳐 진행된 '2025 한강 청년 버스킹'을 주최한 감엔터테인먼트 관계자는 "야외공연장을 찾은 시민들이 청년 뮤지션들 덕분에 수준 높은 음악을 만끽할 수 있었다"면서 "가을 한강을 배경으로 버스킹 공연과 이벤트가 잘 어우러진 축제였다"고 말했다.  oks34@newspim.com   2025-10-18 17:46
사진
배우 이정현, 감독 데뷔작 CGV 단독 개봉 [서울=뉴스핌] 오광수 문화전문기자 = 가수와 배우로서 독보적인 존재감을 보여 온 이정현이 영화감독으로 데뷔한다. CGV는 17일 이정현의 첫 연출작이자 주연작인 단편 영화 '꽃놀이 간다'(Toe-Tapping Tunes)가 오는 10월 22일 CGV에서 단독 개봉한다고 밝혔다. [서울=뉴스핌] 오광수 문화전문기자 = 이정현이 주연 및 감독을 맡은 영화 '꽃놀이 간다'. [사진= 필름다빈] 2025.10.17 oks34@newspim.com 제26회 전주국제영화제 코리안시네마 섹션에 공식 초청됐던 화제작 '꽃놀이 간다'는 이정현이 감독·각본·주연을 모두 맡아 배우로서 쌓아 온 감정의 깊이를 스크린 뒤의 시선으로 옮겨냈다. 사회적으로 소외당하는 약자들을 소재로 한 영화다. 말기 암 환자인 엄마와 살고 있는 수미(이정현)는 밀린 치료비를 감당하지 못하고 자진해서 병원에서 쫓겨나 어머니를 돌보기 시작한다. 1억 5000만 원짜리 집에 산다는 이유로 정부로부터 어떠한 정책적 지원도 받지 못하는 두 모녀. 점점 위독해지는 엄마의 상태에도 불구하고, 꽃놀이 관광 포스터를 본 수미는 엄마가 다시 일어나 꽃놀이를 갈 수 있을 것이라 생각하며 꽃놀이 관광을 약속한다. 영화 '꽃놀이 간다'는 감독 이정현의 자전적인 경험도 녹여냈다. 이정현은 "어머니께서 3년 전 암으로 돌아가셨다"면서 "마지막 항암 치료를 받으실 때 그렇게 꽃놀이를 가고 싶어하셨는데, 저는 이해를 못해 싸운 적도 있다' 두고두고 후회가 남는다"고 말했다. 이러한 이정현의 안타까움이 반영 되어서인지 딸의 애처로운 희망을 섬세하고 디테일하게 담아낸다. '꽃놀이 간다'는 제26회 전주국제영화제, 제21회 미쟝센단편영화제, 제18회 여성인권영화제, 제26회 제주여성영화제 등 국내 유수 영화제에 초청되어 그 작품성을 인정받았다. 최근 이정현 감독은 추석 특집 KBS '불후의 명곡'에 출연해 '꽃놀이 간다'의 개봉 소식을 전했다. 이어 KBS '편스토랑', SBS 파워FM '두시탈출 컬투쇼' 등 다양한 예능 및 라디오 프로그램을 통해 감독으로서의 새로운 도전과 작품에 담긴 진심을 직접 전한다. oks34@newspim.com 2025-10-18 15:11
기사 번역
결과물 출력을 준비하고 있어요.
기사제목
기사가 번역된 내용입니다.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동