[기고] 기술에도 필요한 윤리적 개입

기사입력 : 2025년05월12일 08:03

최종수정 : 2025년05월12일 08:03

하민회 이미지21 대표 (미래기술문화연구원장)

"모든 것을 속입시다"(cheat on everything) 얼마 전 창업한 AI 스타트업 '클루엘리(Cluely)' 스토리는 최근 접했던 이야기 중 가장 터무니없고 불쾌하다.

클루엘리의 창업자는 21세의 한국계 미국인 로이 리와 닐 샨무감. 둘은 콜롬비아대 동기로 코딩 면접에서 부정행위를 하는 '인터뷰 코더(Interview Coder)'라는 AI 도구를 개발했다. 이 도구는 브라우저 내 숨겨진 창을 통해 사용자에게만 보이도록 정보를 전달하기 때문에 사실상 들키지 않는 AI 커닝 페이퍼인 셈이다.

로이 리는 인터뷰 코더를 사용해 아마존, 메타 등 글로벌 IT 기업의 인턴십 면접을 통과했고, 심지어 이 과정을 유튜브에 공개했다. 아마존으로부터 강력한 항의를 받은 콜롬비아대학은 그들에게 1년 정학을 내렸지만 이들은 자퇴를 택했다.

그리고 이 기술로 보다 진화한 앱 클루엘리를 만들어 530만 달러(약 75억 원)의 시드 자금을 유치했다. 스타트업 생태계는 '효율적인 도구' 라는 이름으로, 일부 언론은 '차세대 AI비서'라고 포장했지만 클루엘리의 본질은 AI를 이용한 부정행위지원 시스템일 뿐이다.

얼마되지 않는 비용으로 누구나 AI 커닝페이퍼를 얻을 수 있다면 우리 사회는 어떻게 될까? 교육의 공정성은 무너지고, 기업의 채용 기준은 신뢰를 잃게 될 것이다. 사회 전반의 성과 기반 구조 역시 붕괴할 수 밖에 없다. 이쯤 되면 기술의 혁신이 아닌 기술의 사회 파괴가 아닐까?

하민회 이미지21 대표.

여기서 우리는 스스로에게 질문을 던져 볼 필요가 있다.

빠른 시간 안에 많은 이익을 얻을 수 있다면 당신도 망설임 없이 클루엘리에 투자할 것인가? 아무리 그럴듯하게 꾸며댄다 한들 본질이 부정행위 조장인데 이것도 기술로 인정해야 할까?

클루엘리는 오늘날 기술과 윤리가 충돌하는 지점에서 기술이 어떻게 규범을 위반하면서도 시장논리에 의해 정당화되는지 그 위험성을 보여준다. 그리고 AI윤리 기준의 필요성도 깨닫게 해준다.

한국 정부는 2020년 'AI 윤리기준'을 발표하며 ▲인간성 존중 ▲공공선의 증진 ▲책임성 보장을 핵심 원칙으로 삼았다. 이 기준에 따르면, AI는 "인간의 능력을 보완하되, 결과의 책임소재가 명확하고, 공정한 사용을 보장"해야 한다. 한국의 AI 윤리 기준에서 보면 클루엘리는 어느 것 하나도 지켜지지 않은 자격 미달 이다.

[서울=뉴스핌] 최문선 인턴기자 = 2025.04.28 moonddo00@newspim.com

국제 기준을 적용해도 마찬가지다. OECD, UNESCO는 AI의 투명성과 공정성을 강조해왔다. 특히 2021년 UNESCO AI 윤리 권고안은 "AI가 조작, 속임수, 기만적 정보 제공에 사용되어서는 안 된다"고 명시했다. 클루엘리의 존재 자체가 이 원칙에 정면으로 위배된다.

그럼에도 불구하고 클루엘리는 결코 적지 않은 시드 머니를 유치했다. 기술의 중립성을 핑계 삼아 위험한 기술에도 거침없이 투자해 온 투자 생태계의 무책임한 현실을 고스란히 드러난 셈이다.

우리는 기술의 전능성이라는 환상 속에서 AI가 인간의 규범을 뛰어넘거나 그 빈틈으로 파고 드는 것을 수용하고 있다. 예컨대 클리어뷰 AI (Clearview AI)는 무단으로 수집한 얼굴 데이터를 통해 감시 사회 구축에 일조를 하고 있고 SNS를 통해 개인 데이터를 무단 수집하고 이를 정치적 조작에 이용했던 케임브리지 애널리티카 (Cambridge Analytica)의 사례도 있다.

[바르셀로나 신화사 = 뉴스핌 특약] 2025년 3월 3일(현지시간) 스페인 바르셀로나에서 열린 세계 최대 이동통신 전시회 '모바일 월드 콩그레스(MWC) 2025'에서 촬영한 AI 글씨의 조형물.

이들은 하나 같이 교묘하게 정상성 혹은 획기적인 효율성을 위장했지만 본질적으로는 파괴적 기술들이다.

기술은 중립성을 띄지만 우리는 기술의 가능성보다 그 방향성에 초점을 두고 판단해야 한다. 애초에 인간 존엄성을 침해하거나 인간의 주체성이 소외되는 기술은 배제할 필요가 있다. AI는 인간의 한계를 보완하는 도구이지, 인간을 대체하거나 속이기 위한 수단이 되어서는 안 된다.

공정성을 파괴하고 사회의 신뢰를 퇴보시키는 클루엘리와 같은 기술에 대해서는 정부와 기업, 투자자 모두는 명확한 규제를 가하고, 기술 개발 단계에서부터 윤리 필터를 적용하는 제도를 마련해야 한다. 윤리 기준을 포함한 투자 가이드라인을 마련하고 투자 시 기술의 사회적 위험을 포함한 ESG 심사를 강화해야 한다. 플랫폼의 투명성 강화하고 의무화함으로써 사용자의 AI 조력 여부를 공개하도록 하는 법적 조치도 필요하다, 예컨대 온라인 시험, 면접 등에서 AI를 이용한 실시간 조력행위 시에 형사적 책임을 부과하는 등의 방법들이다.

무엇보다 기술이 할 수 있는 일보다 기술이 하면 안 되는 일이 먼저 규정할 수 있는 사람이 되어야 한다. 할 수 있으니까 개발하는 기술이 아니라 공공선을 위한 기술인지 한 번쯤 돌아보는 책임감이 있어야 한다. 지금 우리에게 필요한 자질은 기술에 '윤리적 개입'을 할 수 있는 능력이다.

[사진=게티이미지뱅크]

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

사진

법사위, 尹 서울구치소 CCTV 열람 [서울=뉴스핌] 배정원 기자 = 국회 법제사법위원회(법사위)는 1일 윤석열 전 대통령의 수감 중 특혜 제공 여부와 특검의 체포영장 집행 당시 서울구치소 폐쇄회로(CC)TV를 열람하기 위해 현장검증에 나섰다. 추미애 법사위원장과 더불어민주당, 조국혁신당 소속 법사위원들은 이날 오전 경기 의왕 서울구치소를 방문해 윤 전 대통령의 체포영장 집행 거부와 수감 특혜 의혹 등을 점검했다. 국민의힘 의원들은 전원 불참했다. [서울=뉴스핌] 배정원 기자 = 추미애 법사위원장과 더불어민주당, 조국혁신당 소속 법사위원들은 1일 오전 경기 의왕 서울구치소를 방문해 윤 전 대통령의 체포영장 집행 거부와 수감 특혜 의혹 등을 점검했다. 국민의힘 의원들은 전원 불참했다. 2025.09.01 jeongwon1026@newspim.com 김용민 의원은 "국민의힘은 오늘 현장검증이 '망신주기용'이자 인권 침해라고 주장하고 있는데 정작 중요한 검증 절차에는 참여하지 않고 뒤에서 정치적 언사만 하고 있다"며 국민의힘 의원 불참에 유감을 표했다. 김 의원은 "오늘 검증해야 할 사안은 대한민국 형사사법시스템에서 매우 중차대한 문제"라며 "전직 대통령이라는 이유로 구치소에서 편하게 지내고 있다는 국민적 의혹이 해소되지 않는 한 대한민국 사법시스템은 국민으로부터 신뢰받지 못할 것"이라며 현장검증의 필요성을 재차 강조했다. 전현희 의원도 "CCTV를 열람하는 것은 윤석열에 대한 망신주기 목적이 아니다. 중대 범죄자의 체포영장 거부라는 법치주의 파괴 행태와 구치소 측의 특혜는 없었는지를 눈으로 확인하기 위함이다"며 "법치주의를 바로세우고 헌정질서를 회복하는 과정의 일환인 현장검증에 국민의힘이 자리를 비운 것은 매우 유감"이라고 말했다. 추미애 위원장은 "윤 전 대통령은 내란 혐의로 수사를 받으면서 조금의 양심이라도 있다면 응당 책임을 져야 함에도 불구하고 법치를 무시하고 부끄러운 모습을 연출하는 등 수사방해를 일삼고 있다"며 "오늘 현장검증을 통해 특혜 및 수사방해 상황을 면밀히 살피고 수용규칙 위반 등 사실이 확인될 경우 관련 규정에 따라 후속조치를 취하겠다"고 강조했다. 그러면서 서울구치소 측에 8월 한달 간 윤 전 대통령의 변호인 접견 횟수와 구치소 내 변호인 접견방 개수, 변호인 접견 규정 일체 등의 자료를 요청했다. 박은정 조국혁신당 의원과 서영교 민주당 의원은 이명박·박근혜 전직 대통령의 변호인 접견 관련 자료와 윤 전 대통령의 총 접견 시간 및 인원 등 통계 자료를 요구했다. jeongwon1026@newspim.com 2025-09-01 11:08

사진

[변상문의 화랑담배] 제1회 산세타령 변상문의 '화랑담배'는 6·25전쟁 이야기이다. 6·25전쟁 때 희생된 모든 분에게 감사드리고, 그 위대한 희생을 기리기 위해 제목을 '화랑담배'로 정했다. [자료= 인공지능 AI 이미지] 판소리 춘향가에는 '산세타령'이라는 눈대목(가장 재미있는 부분 중 하나)이 있다. 방자가 춘향이에게 이몽룡의 사람됨을 각 지방 산세에 비유하며 설명하는 대목이다. 방자가 춘향이에게 "여보게 춘향이! 낭군을 얻으려면 뚜렷한 서울 양반 낭군을 얻지. 아, 어찌 시골 무지랭이를 얻으려는가?" 했다. 이에 춘향이가 "미친 녀석! 낭군도 시골 서울이 다르단 말이냐?"하며, 방자 말이 땅에 떨어지기도 전에 이불 개듯 개어 방자 귀에 쑤셔 넣었다. 방자는 "하믄 다르지야. 인걸은 지령이라. 사람이 하는 것은, 산세 따라 나는 법이여. 내가 우리 도련님 성품을 이를 테니 잘 들어 보소. 경상도 산세는 산이 웅장 허기로 사람이 나면 정직하고. 전라도 산세는 산이 촉(비옥함)하기로 사람이 나면 재주가 있고. 충청도 산세는 산이 순순하기로 사람이 나면 인정이 있고. 경기도 올라, 한양 터 보면 천운봉이 높고 백운대 섰다. 삼각산 세 가지 북주가 되고 인왕산이 주산이요, 종남산이 안산인디 동작이 수구를 막았기로, 사람이 나면 선할 때 선하고 악하기로 들면 별악지상(別惡之象)이라." 서울 남산 아래, 선할 때 선하지만 악하기로 들면 별악지상(別惡之象)인 땅. 그곳이 지금의 용산기지다. 이몽룡이 장원급제하고 남원골 춘향이를 만나러 간 길도 남대문-용산고-용산기지 23번 게이트-한강나루-남태령-과천 길이다. 용산은 용산구 효창공원 일대와 원효로 서쪽 일대 구릉지대를 말한다. 한강을 따라 서쪽으로 흐르는 구릉이 마치 용이 꿈틀대는 모습이어서 용산이라 불렀다. 대통령실이 들어선 국방부, 합참 지역의 구릉은 둔지산(屯之山)이다. 조선시대 때 직업군인 집단 거주 마을이 있었다. 이곳은 임진왜란 때는 일본군 병참기지로, 병자호란 때는 청나라군 후방지휘소였다. 임오군란 때는 흥선 대원군이 용산기지 캠프 코이너에서 청나라로 납치돼 갔다. 용산고 앞에서 청나라군과 조선군 간 치열한 전투가 벌어졌다. 1894년 7월 청일전쟁이 터졌다. 일본군 소장 오시마가 이끄는 8000여 명의 일본군이 용산기지에 주둔했다. 조선총독부, 조선주차군사령부가 용산기지에 터를 잡았다. 부대 정문은 용산역 맞은편 아모레 퍼시픽 건물과 용산우체국 사이로 난 길을 따라 200m 정도 들어가면 나오는 문이다. 어김없는 별악지상(別惡之象) 땅이었다. 1950년 6월 25일 01:00 용산기지 내 육군본부 상황실에 전화벨이 울렸다. 당직 장교 작전국 대위 조병운이 수화기를 들었다. "충성! 옹진반도 제17연대입니다. 현재 시간 국사봉 북쪽 능선으로 병력 미상의 북한군이 접근하고 있습니다" 03:00 또 전화벨이 울렸다. "충성! 문산 제1사단입니다. 북한군이 구화리에서 도하용 주정(舟艇)을 운반하고 있습니다" 03:30 또 전화벨이 울렸다. "충성! 의정부 제7사단입니다. 적 포탄이 전 진지에 떨어지고 있습니다" 창밖에는 태풍 엘시가 비를 뿌리고 있었다. 육군본부 정보국 당직 장교 중위 김종필은 정보국장 장도영 대령에게 "전 전선에서 북한군이 공격해 오고 있습니다. 전군에 비상을 내려야 합니다. 국장님께서 빨리 상황실로 오셔야겠습니다"라고 보고했다. 용산기지가 또다시 별악지상(別惡之象)의 땅이 되고 있었다. / 변상문 국방국악문화진흥회 이사장 2025-09-01 08:00