전체기사 최신뉴스 GAM 라씨로
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 기술에 책임을 요구할 권리

기사입력 : 2024년04월01일 08:34

최종수정 : 2024년04월01일 09:06

하민회 이미지21대표(코가로보틱스 마케팅자문)

'전례 없는 청소년 정신 건강 위기 초래'. 캐나다 학교들이 최근 메타(구 페이스북)와 틱톡, 스냅 등 소셜 미디어(SNS)기업들을 상대로 제기한 손해 배상 소송의 이유다. 이들 학교들은 'SNS 기업들이 중독성 행동을 유발하기 위해 고의로 제품을 설계해 교실에서 혼란을 초래하고 성적 학대와 착취에 더 취약하게 만든다.'고 주장했다. 배상액은 45억 캐나다 달러, 우리 돈 약 4조 5000억 원에 달한다.

청소년의 뇌가 취약한 만큼 SNS에 의해 충분히 조작, 중독될 수 있음을 사전에 인지했음에도 불구하고 보호조치는 커녕 오히려 상업적으로 이용했다는 것이다.

SNS기업에 대한 소송은 최근 몇 년간 꾸준히 지속되고 있다. 지난 해 10월 메타는 미국 41개 주정부로부터 캐나다 학교들과 비슷한 이유로 소송을 당했고 올 2월엔 뉴욕시가 메타, 스냅, 유튜브, 틱톡 등을 중과실, 공공방해 명목으로 고소했다.

소송에 등장하는 공통된 키워드는 '고의성'과 '중독성' 그리고 '기업 책임성'이다.

미국 41개 주정부를 대표해 소송을 주도한 콜로라도 주 법무장관은 메타를 '대중의 건강을 희생' 해 '이익을 극대화하는 기업'으로 질타하며 금전적 배상은 물론 청소년에게 해악을 끼치는 중독성 알고리즘을 즉시 제거할 것을 요청했다.

하민회 이미지21 대표.

이들이 지적한 중독 알고리즘은 다음과 같다.

좋아요와 댓글이 많을수록 상단에 드러나도록 해서 경쟁을 부추기는 '참여기반 노출', 끝없이 계속 게시물을 보여줌으로써 사용자를 SNS에 오래 붙잡아 두는 '무한 스크롤', 새로운 게시물이나 반응을 알려주어 확인 욕구를 자극하는 '푸시 알림'. 게시 후 24시간이 지나면 볼 수 없는 '스토리'와 실시간 시청만 가능한 '라이브' 역시 지금 당장 꼭 SNS를 봐야 할 것 같은 불안감을 조성한다.

이 같은 알고리즘은 도파민을 조종한다. 사용자가 스스로 인지하지 못한 상태에서 '좋아요'의 숫자에 대한 동경과 집착을 만들고 '좋아요'를 하나라도 더 받기 위해 자극적인 게시물을 올리고 이를 위해 위험천만한 행동을 마지않게 만든다.

2017년 미국역학저널에 실린 대규모 연구에 따르면 페이스북을 더 많이 사용할수록 신체 건강, 정신 건강, 삶의 만족도가 악화했다. 이는 5천명 이상의 페이스북 사용자를 3년 동안 추적한 결과다.

2010년 미국 의대 연구진이 고등학생 4천명 이상을 대상으로 SNS 습관을 관찰한 결과도 눈여겨볼만하다. 평일 하루 3시간 이상 SNS를 사용하는 '초네트워커(hypernetworkers)' 11.5%가 우울증, 약물남용, 수면 부족, 스트레스, 성적 부진을 보이며 자살 비율이 대조군인 일반 학생보다 훨씬 더 높은 것으로 나타났다.

인스타그램 로고.[사진=로이터 뉴스핌] 2024.03.29 mj72284@newspim.com

2000년 초반 SNS가 등장 한 이후 10여년이 지났을 무렵부터 SNS 유해성 논란이 시작되었다. 하지만 소비자가 직접 소송 등의 법률적 행위에 나서기까지 10여 년이 더 흘러갔다. 그 시간 동안 SNS가 중독 알고리즘 외에도 편견과 증오를 키우고 우울증을 유발하는 등의 부작용을 일으킨다는 다수의 연구 결과가 이어졌다.

심지어 메타에서 데이터과학자로 일했던 내부고발자도 등장했다. 그는 메타가 지난 대선 이후 허위 정보 등을 차단하는 공공 윤리(civic integrity) 부서를 해체하고 사용자들의 이용시간을 늘리기 위해 혐오조장 콘텐츠를 막지 않았다고 밝혔다. 메타는 알고리즘을 안전한 방식으로 바꾸면 사용자 시간이 줄어들고 이익이 줄어들 것임을 알고 있다며 '공익을 저버렸음'을 강조했다.

SNS 기업들의 책임성을 거론하기까지 무려 20여년의 시간이 걸렸고 수많은 이들이 위험성에 노출된 채 부작용에 시달리는 피해를 입었다. 확실히 소 잃고 외양간 고치는 형국이지만 지금이라도 고치려 드니 그나마 다행이다.

확산 속도가 빠르고 대중적 선호가 높은 기술일수록 잠재적 위험성도 클 수 있다. SNS가 등장하고 얼마 지나지 않아 그 위험성에 대한 경고가 있었지만 귀 기울이지 않았다. 경험해보지 못한 SNS의 재미와 자극에 현혹당했기 때문이다.

지금 우리는 다시 한번 SNS 등장기와 유사한 시기를 맞았다. 생성형AI가 뚝딱 만들어내는 문장, 이미지, 영상의 놀라운 생산성과 유용함에 압도당해 훤히 내다 보이는 위험성조차 간과하고 있다.

AI를 형상화한 이미지 [자료=블룸버그]

대표적인 것이 딥 페이크다. 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어인 딥 페이크는 AI기술로 만들어진 진짜와 구분하기 어려울 정도로 정교한 사진과 영상을 말한다. 전 세계 정치, 사회, 산업, 예술 등 거의 모든 분야에서 가짜 뉴스와 허위 정보에 이용되며 혼란을 일으키고 있다. 기술 자체를 유해하다 보기 어렵지만 워낙 악용의 우려가 크고 심각한 폐해를 일으키는 만큼 사용에 대한 지침이 필수적으로 규정되어야 하며 강력한 규제와 처벌 또한 신속하게 정해져야 할 상황이다.

불완전한 AI 역시 위험하다. 얼마 전 구글 제미나이가 미국 건국자나 아인슈타인 같은 역사적 인물을 유색인종으로 그려 질타를 받았다. 이후 메타의 이미지 생성기 역시 교황 이미지를 흑인으로 바꿔 그리는 오류가 확인됐다. 전문가들은 프롬프트 예측성과 결과물 통제성의 부족, AI편향 조정방법 등이 맞물린 AI 업계 모두가 해결하지 못하고 있는 생성형 AI의 공통된 문제로 진단했다.

MS의 이미지 생성기 '코파일럿 디자이너'에 대한 내부고발도 나왔다. 사내에서 기술을 테스트하고 문제를 점검하는 레드팀의 일원이었던 셰인 존스는 '코파일럿 디자이너'가 선정적이고 위험한 이미지가 여과없이 생성되는 '안전하지 않은' 모델임을 MS에 알리고 이용 등급 변경, 시판 연기를 제안했지만 회사는 일체 거절했다고 밝혔다.

[서울=뉴스핌] 정윤영 기자 = 지난해 5월 삼성전자와 러시아 인공지능연구소가 사진 이미지 한장을 이용해 자연스러운 딥페이크 영상을 만들어냈다. [제공=삼성전자] 2020.04.01 yoonge93@newspim.com

업과 일상에 스며들고 있지만 여전히 불안정한 기술이다. 아직은 전적으로 신뢰하거나 의존하기 어려우며 개발과정에 사람의 검토와 개입이 요구된다.

무엇보다 중요한 건 AI기술이 진정으로 영향력을 미치려면 AI에 대한 대중적인 이해가 필요하다는 점이다. 향후 등장할 다양한 AI기술들은 '무엇을 위해' 만들어졌으며 '어떻게 사용되어야' 하는지 남용이나 오용이 되면 '어떤 위험성과 부작용'이 생길 수 있는지 충분히 이해하는 것이 필요하다. 강력하고 혁신적이면서도 낯선 기술은 사용법을 충분히 익히기 전까지 안심하긴 어렵기 때문이다.

재미와 편의 앞에서 우리는 취약해지기 쉽다. 우리 사회에 등장한 AI를 단순히 흥미로운 도구로 여기지 않아야 한다. 내러티브를 형성하고 결정에 영향을 미치고 사회 전반에 거친 인식을 만들어내는 시스템으로 명확히 인식해야 한다. 강력하고 효율적인 것 이상의 '책임감'을 요구해야 한다.

그리고 그 책임감은 AI의 안전성과 AI기업의 투명성에 대한 확인을 게을리하지 않으며 꾸준히 요구해야 할 우리의 권리기도 하다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
尹부부 공천개입 수사 급물살 타나 [서울=뉴스핌] 박서영 기자 = 윤석열 전 대통령이 탄핵심판 선고에서 헌법재판관 전원일치 의견으로 파면된 가운데 이른바 '명태균 의혹' 사건에 대한 검찰 수사가 윤 전 대통령 부부에 속도를 낼지 이목이 집중된다. 5일 법조계에 따르면 헌법재판소는 4일 오전 11시 윤 전 대통령 탄핵심판 선고기일을 열어 윤 전 대통령의 파면을 결정했다. 박근혜 전 대통령에 이은 헌정 사상 두 번째 파면이다. 사진은 윤석열 전 대통령. [사진=뉴스핌 DB] 검찰은 지난 2월 17일 윤 전 대통령 부부 공천개입 의혹, 여론조사 조작 의혹, 여론조사 비용 대납 의혹 등 명씨 관련 사건을 창원지검에서 중앙지검으로 이송했다. 이후 검찰은 해당 사건과 관련한 연이은 소환조사 및 강제수사 등에 착수하면서 잔여 수사에 속도를 내 왔다. 검찰은 명씨가 실질적으로 운영한 여론조사업체 미래한국연구소가 당시 대선 후보였던 윤 전 대통령을 돕고자 총 81차례에 걸쳐 불법 여론조사를 해 주고, 그 대가로 김영선 전 국민의힘 의원이 2022년 6·1 보궐선거에서 경남 창원 의창 선거구 공천을 받았다는 의혹을 받았다고 보고 있다. 윤 전 대통령의 부인 김건희 여사는 이와 관련, 보궐선거와 지난해 4월 22대 총선 당시 국민의힘 공천 과정에 개입한 의혹을 받는다. 이날 헌재의 결정으로 윤 전 대통령은 현직 대통령으로서 가졌던 '불소추특권'을 잃게 됐다. 기존 수사 대상이던 내란 혐의뿐 아니라 공천 개입 의혹 수사도 피할 수 없게 된다는 의미다. 법조계 안팎은 조기 대선을 앞두고 윤 전 대통령 부부를 향한 공천 개입 의혹 사건 수사가 급물살을 탈 것이라고 내다봤다. 정계 출신 법조인은 "박 전 대통령도 파면된 다음에 소환조사가 바로 이뤄졌다"며 "곧바로는 아니겠지만 민주당 측에서 신속한 수사를 압박할 텐데 검찰도 조만간 협의를 해 윤 전 대통령 부부의 소환 일정 등을 잡으려 할 것"이라고 전망했다. 실제 2016∼2017년 박근혜 정부의 국정농단 사건 때, 박 전 대통령의 탄핵안이 국회에서 가결되고 3개월 만에 헌법재판소가 파면 결정을 내렸다. 당시 검찰과 박영수 특별검사팀의 수사는 박 전 대통령이 자연인 신분이 된 이후 급물살을 탔다. 박 전 대통령은 파면 11일 만에 검찰에 소환됐고, 이후 열흘 만에 구속됐다. 양홍석 변호사(법무법인 이공)는 "윤 전 대통령이 파면됐으니 명태균 수사의 경우 검찰이 좀 더 가열차게 할 것 같고, 공직선거법 위반 사건도 있는데 이 또한 바로 착수해야 하지 않을까 싶다"며 "다만 전직 대통령이기 때문에 신병 문제는 바로 결정하기는 쉽지 않을 수 있다"고 예상했다. 검찰의 신속한 수사는 진행되겠지만, 윤 전 대통령의 소환조사 등은 조기 대선이 끝난 후 이뤄질 것이란 분석도 있었다. 부장검사 출신 변호사는 "대통령이 파면됐으니 적극적으로 윤 전 대통령 부부를 조사하려고 들긴 하겠지만 소환조사의 경우 조기 대선 이후가 될 것 같다"며 "정치적 파장이 큰 사안이라 검찰이 속도를 내서 수사 한다 해도 대선 정국에서 전 대통령 부부를 직격하기는 어렵다"고 했다. 윤석열 전 대통령이 4일 탄핵심판 선고에서 헌법재판관 전원일치 의견으로 파면된 가운데 이른바 '명태균 의혹' 사건에 대한 검찰 수사가 윤 전 대통령 부부를 향할지 이목이 집중된다. 사진은 명태균 씨가 지난해 11월 8일 오전 경남 창원시 창원지방검찰청에 정치자금법 위반 혐의 피의자 신분으로 출석하고 있는 모습. [사진=뉴스핌 DB] seo00@newspim.com 2025-04-05 07:00
사진
[尹 파면] 조기 대선 막 올랐다 [서울=뉴스핌] 한태희 기자 = 헌법재판소가 윤석열 대통령 파면을 선고하며 조기 대선 막이 올랐다. 현재 조기 대선 레이스에서 이재명 더불어민주당(민주당) 대표가 독주하는 구도다. 여·야 잠룡들은 권력 구조를 개편하는 개헌론으로 차별화에 나서는 등 대권을 향한 행보를 시작했다. [서울=뉴스핌] 한태희 기자 = 2025.04.03 ace@newspim.com 6일 정치권에 따르면 조기 대선은 오는 5월 말에서 6월 초에 치러질 가능성이 높다. 헌법 제68조 2항에 따라 파면 등으로 대통령 궐위 시 60일 이내 선거를 치러야 해서다. 한덕수 대통령 권한대행은 공직선거법 제35조 1항에 따라 늦어도 오는 14일까지 조기 대선일을 공고해야 한다. 조기 대선 레이스에 들어가며 대권을 노리는 후보자 발걸음도 분주해졌다. 선두 주자는 이재명 대표다. 이 대표는 차기 대권 유력 후보자를 묻는 각종 여론조사에서 압도적인 1위를 달리고 있다. 이 대표는 최근 공직선거법 위반 사건 2심에서 무죄를 받으며 사법 리스크 부담도 덜었다. 야권에서는 김경수 전 경남지사, 김동연 경기지사, 김두관 전 국회의원, 김부겸 전 국무총리, 김영록 전남지사, 이광재 전 강원지사, 전재수 의원 등이 당내 경선에 참여할 가능성이 있다. 이들은 '1강'인 이 대표와 비교해 열세다. 야권 잠룡들은 차기 대통령 임기 단축 등 개헌론을 부각하고 있다. 이준석 개혁신당 국회의원도 차기 대권을 넘보고 있다. 이준석 의원은 '40대 기수론' 등 정치권 세대 교체론을 앞세우고 있다. 여권에서는 김문수 고용노동부 장관, 안철수 국회의원, 오세훈 서울시장, 원희룡 전 국토교통부 장관, 유승민 전 국회의원, 한동훈 전 국민의힘 대표, 홍준표 대구시장 등이 조기 대선에 참전할 가능성이 있다. 여권 후보자들은 당내 경선에서 정통 지지자인 보수 표심을 먼저 얻어야 한다. 동시에 본선에서 중도층 표까지 끌어올 수 있는 경쟁력도 보여줘야 한다. 여권 후보자들은 '12·3 비상계엄 사태'를 촉발한 제왕적 대통령제 한계 극복 방안으로 대통령 권한을 분산하는 개헌론을 제시하고 있다. 각 당은 곧 당내 경선을 시작해 본선에 올릴 후보자 선정에 들어간다. 공직선거법 제49조에 따라 조기 대선 24일 전부터 이틀 동안 대통령 후보 등록을 끝내야 하기 때문이다. 조기 대선이 오는 6월 3일 치러지면 각 당은 오는 5월 11일까지 중앙선거관리위원회에 대통령 후보를 등록해야 한다. 여야는 약 8년 전 제19대 대통령 선거 당시 박근혜 대통령 파면이 결정된 후 1개월 안에 대통령 후보 선출을 마무리했다. 범야권이 대통령 단일 후보로 본선에 들어갈지도 주목된다. 당 내 간판 주자가 없는 조국혁신당은 '야권 통합 완전국민경선(오픈프라이머리)'을 제안했다. 이 대표가 있는 민주당이 이에 응할지에 정치권 이목이 쏠리고 있다. ace@newspim.com 2025-04-06 07:00
안다쇼핑
Top으로 이동