[기고] 진화하는 챗봇을 경계해야 하는 이유

기사입력 : 2023년10월04일 09:03

최종수정 : 2023년10월05일 09:36

하민회 이미지21대표(코가로보틱스 마케팅자문)

"약은 드셨어요?" "무릎은 좀 어떠세요?"

또렷하고 친절한 음성의 챗봇이 안부를 묻는다. 첫 통화에서 어떤 일을 했는지, 일이 힘들지는 않는지 이런 저런 질문을 던졌던 챗봇은 다음 주에는 병원은 다녀왔는지, 소화불량은 좀 나았는지 살뜰하게 안부를 챙긴다. 이전 통화 내용을 기억하는 기능 덕에 맞춤형 대화가 가능하다.

독거노인 등 사회적 소외계층에 주 2~3회 안부전화를 하는 클로바 케어콜 서비스다. 사용자의 외로움을 완화하고 복지 담당자의 업무 부담을 줄여준다는 취지에서 출발했지만 사용자 90%가 위로 받았다고 답할 만큼 반응이 좋다.

AI 챗봇이 빠른 속도로 진화 중이다. 생성형AI의 포문을 연 오픈AI의 챗GPT는 이제 음성과 이미지 정보를 처리할 수 있게 됐다. 음성으로 질문하면 답변도 말로 들을 수 있다. 조만간 자기 목소리를 다른 언어로 번역해서 말하는 것도 가능해진다.

이미지를 분석하고 문제를 이해하는 기능도 추가됐다. "자전거 안장을 낮추려는데 여기서 뭘 써야 해?" 질문과 함께 자전거 매뉴얼과 공구함 사진을 찍어서 올리면 챗GPT가 "왼쪽 섹션에서 4mm 공구를 찾으세요" 가이드 한다.

눈과 귀, 입이 생긴 멀티모달 AI로의 진화다. 텍스트로만 할 수 있던 의사소통의 영역이 시청각 소통과 학습으로 확장되면서 인지나 표현이 한층 사람에 가까와졌다.

하민회 이미지21 대표.

똑똑해진 챗봇 덕에 도처에 비서가 생겼다. 심지어 곧 SNS에도 등장할 예정이다.

메타 (구 페이스북)은 자사의 SNS 제품인 인스타그램과 왓츠앱, 메신저 등에서 구동되는 AI비서 '메타 AI'를 발표했다. 예를 들어 메신저로 친구와 1박2일 산행 계획을 잡고 있다. 이때 메타AI에게 준비물 리스트를 요청하면 즉시 대화에 참여해 답변을 올려준다. 자체 개발한 대규모 언어 모델(LLM) '라마2'기반으로 MS의 검색 엔진 빙과 제휴해 실시간 정보를 제공한다. 메타AI는 미국에서 먼저 테스트버전을 진행한 후 전 세계로 확장할 계획이다.

페르소나 AI 개발도 늘고 있다. AI 챗봇에 인격을 부여해 실제 인물처럼 대화를 나누는 페르소나 AI는 셀럽, 연예인, 스포츠스타 등 인물의 성격과 말투를 모방해 마치 실제 같은 대화 상대가 되어주는 것이 특징이다. 미국에서는 소설‧영화 캐릭터와 유명한 실존인물의 성격을 입힌 페르소나 AI 제작사 '캐릭터닷에이아이'가 유니콘 반열에 오르며 시장의 주목을 받고 있다.

우리나라에서도 최근 페르소나 AI를 가상인간으로 만들어 교육, 금융, 시니어케어 등 다양한 산업 영역에 제공해 수익성을 높이는 비즈니스 모델이 증가 추세다.

업계에서는 누구나 쉽고 빠르게 다양한 가상 인간을 제작하는 환경이 조성되고 있다고 말한다. 단순히 AI 비서나 AI 친구를 넘어 개개인에게 맞춤화된 AI챗봇이 일상화되는 날이 머지않았다는 것이다. 챗GPT가 출시 된지 아직 1년도 지나지 않았으니 새삼 발전속도가 두렵다.

[서울=뉴스핌] 조용준 기자 = 가상인간 리아가 '삼각김밥데이'를 맞아 삼각김밥을 판매하는 쇼호스트로 나섰다. [사진=네오엔터디엑스] 2022.03.03 digibobos@newspim.com

이쯤 되면 우리는 진지하게 생각해 볼 필요가 있다. 부지불식간에 우리 일상에 스며든 AI챗봇과 형성중인 '모종의 관계'에 관해서 말이다.

당신에게 AI챗봇은 조력자인가 친구인가 교사인가 아니면 상담사인가?

특정 키워드를 입력하면 미리 프로그래밍 된 답을 내놓는 단순한 설계를 가진 과거의 챗봇과 달리 AI챗봇은 신뢰도나 친밀도가 높은 '인격적 관계'를 맺고 있다.

문제는 사용자와 챗봇의 인격적 관계가 깊어질수록 챗봇과 보내는 시간은 늘고 실제 사람들과 보내는 시간이 줄어든다는 점이다. 의인화 현상도 심각해진다. 특히 페르소나 AI에서 많이 보이는 현상이다. 사용자는 AI챗봇에게 감정적 소모없이 원하는 때에 하고 싶은 말을 하고 듣고 싶은 말을 듣는다. 개인맞춤화 된 챗봇일수록 대화의 심리적 만족도는 올라가기 마련이다. 외로움을 달래기 위해 시작한 챗봇이 오히려 사용자를 고립시키고 사람들과 교류를 단절시키는 부작용을 일으키는 셈이다.

AI 가상인간에 대한 우려도 적지 않다. 앨런AI연구소의 논문에 의하면 AI챗봇이 인간 같은 목소리에 성격까지 갖추면 설정된 페르소나에 따라 잘못된 고정관념을 보이거나 유해한 대화, 공격적이거나 해로운 의견을 낼 수 있는 위험성이 최대 6배까지 증가했다. 미성년 사용자에겐 AI 가상인간과의 친밀한 관계가 대인관계와 가치관 형성에 부정적인 영향을 미칠 수도 있다.

[서울=뉴스핌] 조용준 기자 2022.08.26 digibobos@newspim.com

과도한 챗봇 의존도 역시 짚어 볼 문제다. 지시어 한 두 마디로 빠른 답을 얻는 편리함에 익숙해지면 스스로 찾고 생각하고 개선하려는 노력은 하지 않게 된다. AI의 추천을 거치지 않으면 불안하게 느낄 수도 있고 AI와 다르면 스스로의 선택을 의심할 수도 있다. 어쩌면 많은 것을 해결하고 새로운 것을 창조해내는 토대가 되는 기억력과 사고력까지 상실하게 될 지도 모른다.

네트워크로 연결된 우리 삶의 조각들은 빅데이터로 활용되고 이를 학습한 AI챗봇은 점점 더 인간에게 중요한 대화상대자가 되어갈 것이다. 때로는 외로움을 덜어주고 위로를 주고 해결책을 알려주겠지만 결국 선택하고 받아들이고 결정하는 건 사람의 몫이다.

진화하는 챗봇은 마냥 반기기 보단 경계해야 할 대상이다. 편리함이 우리를 함몰시킬 수 있다. 어떤 경우에도 인간의 미래를 만들어가는 유일한 존재는 우리 자신임을 잊지 않아야 한다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

사진

세빛섬 '청년 버스킹'... "분위기 만점 음악 즐겼다" [서울=뉴스핌] 오광수 문화전문기자 = "와이스 맨 세이, 온리 훌스 러브 인, 밧 아이 캔 헬프, 폴링 인 러브 위드 유." 바람 부는 한강에 엘비스 프레슬리의 대표곡 '캔 헬프 폴링 인 러브(Can't help falling in love)'가 울려 퍼졌다. 제3회 싱어송라이터선발대회 '히든스테이지'에서 대상을 수상한 김마누는 맨 처음으로 무대에 올라 매력적인 중저음으로 마치 엘비스 프레슬리가 환생한 듯한 분위기를 연출했다. [서울=뉴스핌] 정일구 기자 = '히든스테이지 시즌3 TOP10' 무화가 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. mironj19@newspim.com 2025.10.18 18일 오후 1시, 반포 한강공원 세빛섬에서는 감엔터테인먼트가 주최하고 서울특별시가 후원한 '2025 한강 청년 버스킹 축제'가 화려한 막을 올렸다. 가을비가 그치고 다소 바람이 불어 쌀쌀함이 느껴지는 날씨였지만 청년 뮤지션들의 음악을 향한 열정과 가을을 즐기러 나온 시민들의 열정을 막지 못했다. [서울=뉴스핌] 정일구 기자 = '히든스테이지 시즌3 TOP10' 오춘이 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. 2025.10.18 mironj19@newspim.com 삼삼오오 야외공연장에 모여든 시민들은 돗자리를 펴고 앉거나 따뜻한 커피를 손에 들고 다양한 음악을 구사하는 청년 뮤지션들의 공연을 즐겼다. 버스킹 축제의 문을 연 김마누는 "바람이 불었지만 이런 날의 매력이 있다. 오늘은 조금은 추워서 셋 리스트를 따스한 곡으로 바꿨는데 다들 따뜻하게 들어주신 것 같아 기분이 좋다"라고 말했다. [서울=뉴스핌] 정일구 기자 = 혼성듀오 섬과 도시가 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. 2025.10.18 mironj19@newspim.com 김마누의 무대가 끝나자 '히든스테이지'에서 최우수상을 수상한 밴드 '오춘'이 무대를 이어받았다. '깊을 오(奧), 봄 춘(春)'. 이름처럼 따뜻하고 깊은 감성을 전하는 팀이다. 대학 동기들과 군악대 인연으로 구성된 이 밴드는 "이 팀으로 경연이 아닌 야외 공연은 처음"이라며 "추운 날씨에 손이 어는 느낌도 들기도 했지만 그걸 제외하면 만족스러운 무대였다"라고 소감을 밝혔다. 무대는 나린과 수피(루키상), 유구름으로 이어졌다. '히든스테이지' 톱 10에 올랐던 5인조 아카펠라 팀인 나린은 애니메이션 영화 '케이팝데몬헌터스'의 주제가인 '골든'을 아카펠라로 편곡해 불러서 관객들의 열띤 호응을 얻었다. 용인에서 친구들과 함께 축제를 찾은 10대 여성관객인 B씨는 "아는 분들이랑 한강에 놀러왔다가 우연히 축제를 보고 신기해서 구경하게 됐다"며 "오춘이 나올 때부터 봤는데 다들 너무 잘했다. 특히 나린의 '골든'이 가장 인상 깊었다"고 말했다. [서울=뉴스핌] 정일구 기자 = '2025 한강 청년 버스킹' 무대를 찾은 가족 관객이 포토존을 배경으로 사진을 찍고 있다. 2025.10.18 mironj19@newspim.com 의정부에서 왔다는 20대 여성 A씨도 "드럼 선생님이 경연에서 상을 받으셨다고 해서 공연을 보러 왔다"며 "날씨가 춥긴 하지만 노래를 듣다보니 마음이 따뜻해졌다"면서 미소 지었다. '히든스테이지'에서 최우수상을 수상한 김유정이 선배가수 김현식의 '내 사랑 내 곁에'를 부르자 관객들은 가을이 무르익은 한강과 너무 잘어울리는 무대라면서 환호했다. 성해빈, 박은희의 혼성 듀오인 '섬과 도시', '히든스테이지'에서 우수상을 수상한 무화, 톱 10에 올랐던 널디나, 김지신 등의 무대도 저마다 개성이 넘쳤다. 이날 무대에는 '김루꾸 재즈밴드'도 참여해 뉴올리언스 사운드를 기반으로 한 재즈 선율로 축제의 밤을 더욱 풍성하게 했다. 각종 재즈 페스티벌과 공연 무대에서 50여 차례 이상 활약한 실력파 밴드답게, 세빛섬의 공기를 따뜻하게 물들였다. 발라드와 R&B, 재즈, 포크는 물론 록과 아카펠라까지 다양한 음악을 구사하는 청년 뮤지션들은 바람부는 한강에서 K-팝의 미래를 펼쳐보였다. [서울=뉴스핌] 정일구 기자 = '히든스테이지 시즌3 TOP10' 널디나가 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. 2025.10.18 mironj19@newspim.com 이날 공연장 한쪽에는 관객들이 직접 참여할 수 있는 체험 부스도 마련됐다. '서울의 향을 찾아서'라는 이름의 향수 체험 코너에서는 선유·도산·연희·성수·삼청·후암·도화·낙원 등 서울의 대표 지역을 모티브로 한 향을 시향할 수 있었다. 시민들은 자신이 고른 향에 원하는 향료를 섞어 '나만의 향수'를 완성하며 추억을 남겼다. 또 '한강 포토존'에서 사진을 찍는 가족과 연인도 자주 눈에 띄었다. [서울=뉴스핌] 정일구 기자 = '히든스테이지 시즌3 TOP10' 널디나가 18일 오후 서울 서초구 반포한강공원 세빛섬 야외무대에서 감엔터테인먼트 주최로 열린 '2025 한강 청년 버스킹 축제'에서 라이브 공연을 선보이고 있다. 2025.10.18 mironj19@newspim.com 서울에서 가족과 산책 중 우연히 들렀다는 30대 남성 C씨는 "길을 걷다 들렀는데 노래가 너무 좋아서 자리를 잡았다"며 "향수 체험도 정말 좋았다. 무대와 체험 둘 다 만족스러웠다"고 했다. 그러면서 "아내는 조금 추워했지만 그 추위마저 분위기 같았다"고 웃어 보였다. 4시간에 걸쳐 진행된 '2025 한강 청년 버스킹'을 주최한 감엔터테인먼트 관계자는 "야외공연장을 찾은 시민들이 청년 뮤지션들 덕분에 수준 높은 음악을 만끽할 수 있었다"면서 "가을 한강을 배경으로 버스킹 공연과 이벤트가 잘 어우러진 축제였다"고 말했다. oks34@newspim.com 2025-10-18 17:46

사진

배우 이정현, 감독 데뷔작 CGV 단독 개봉 [서울=뉴스핌] 오광수 문화전문기자 = 가수와 배우로서 독보적인 존재감을 보여 온 이정현이 영화감독으로 데뷔한다. CGV는 17일 이정현의 첫 연출작이자 주연작인 단편 영화 '꽃놀이 간다'(Toe-Tapping Tunes)가 오는 10월 22일 CGV에서 단독 개봉한다고 밝혔다. [서울=뉴스핌] 오광수 문화전문기자 = 이정현이 주연 및 감독을 맡은 영화 '꽃놀이 간다'. [사진= 필름다빈] 2025.10.17 oks34@newspim.com 제26회 전주국제영화제 코리안시네마 섹션에 공식 초청됐던 화제작 '꽃놀이 간다'는 이정현이 감독·각본·주연을 모두 맡아 배우로서 쌓아 온 감정의 깊이를 스크린 뒤의 시선으로 옮겨냈다. 사회적으로 소외당하는 약자들을 소재로 한 영화다. 말기 암 환자인 엄마와 살고 있는 수미(이정현)는 밀린 치료비를 감당하지 못하고 자진해서 병원에서 쫓겨나 어머니를 돌보기 시작한다. 1억 5000만 원짜리 집에 산다는 이유로 정부로부터 어떠한 정책적 지원도 받지 못하는 두 모녀. 점점 위독해지는 엄마의 상태에도 불구하고, 꽃놀이 관광 포스터를 본 수미는 엄마가 다시 일어나 꽃놀이를 갈 수 있을 것이라 생각하며 꽃놀이 관광을 약속한다. 영화 '꽃놀이 간다'는 감독 이정현의 자전적인 경험도 녹여냈다. 이정현은 "어머니께서 3년 전 암으로 돌아가셨다"면서 "마지막 항암 치료를 받으실 때 그렇게 꽃놀이를 가고 싶어하셨는데, 저는 이해를 못해 싸운 적도 있다' 두고두고 후회가 남는다"고 말했다. 이러한 이정현의 안타까움이 반영 되어서인지 딸의 애처로운 희망을 섬세하고 디테일하게 담아낸다. '꽃놀이 간다'는 제26회 전주국제영화제, 제21회 미쟝센단편영화제, 제18회 여성인권영화제, 제26회 제주여성영화제 등 국내 유수 영화제에 초청되어 그 작품성을 인정받았다. 최근 이정현 감독은 추석 특집 KBS '불후의 명곡'에 출연해 '꽃놀이 간다'의 개봉 소식을 전했다. 이어 KBS '편스토랑', SBS 파워FM '두시탈출 컬투쇼' 등 다양한 예능 및 라디오 프로그램을 통해 감독으로서의 새로운 도전과 작품에 담긴 진심을 직접 전한다. oks34@newspim.com 2025-10-18 15:11