전체기사 최신뉴스 GAM
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 위험천만 추천 알고리즘 방어법

기사입력 : 2024년12월30일 08:30

최종수정 : 2024년12월30일 08:30

하민회 (이미지21대표, 미래기술문화연구원장)

"당신이 어디에 관심이 있는지 다 알고 있어."  흑백요리사 숏츠 한번 봤더니 요리관련 영상이 줄을 잇고 시고르자브종(토종 시골 강아지) 영상에 잠시 웃었더니 전 세계 귀여운 강아지 영상이 꼬리에 꼬리는 문다. 처음엔 신기하고 기특했지만 지금은 섬뜩하고 무서울 지경이다. 내가 뭘 찾고 뭘 봤는지 다 알고 있는 듯 입 안의 혀처럼 구는 유튜브 알고리즘 이야기다.

습관처럼 보아왔던 유튜브가 이번 연말엔 좀 불편하다. 초현실적 계엄으로 탄핵 당한 대통령의 어리석은 선택에 알고리즘으로 인한 확증편향이 한몫 했다는 설 때문이다.

하민회 이미지21 대표.

누구나 정보를 만들어 공유하며 참여하는 대중 플랫폼은 사실 그리 믿을만하지 않다. 종종 가짜가 진짜 행세를 하기도 하고 근거 없는 거짓 주장이 용감한 내부고발로 둔갑되는가 하면 음모론이 집단의 신념으로 거듭나는 경우도 있다. 논리나 근거보다는 감정에 호소한다. 쏟아지는 정보 가운데 취사선택은 전적으로 개인의 자유이고 그로 인한 책임도 당사자의 몫이다. 소셜미디어, 대중플랫폼의 특성이기도 하다.

하지만 강력한 자동 장치가 개입되면 이야기가 달라진다. 이른바 추천 알고리즘이다. 클릭률과 체류 시간을 극대화하기 위해 설계된 추천 알고리즘은 사용자의 시청 기록, 검색 기록, 좋아요, 댓글 등의 데이터를 기반으로 작동한다. 사용자가 선호한 콘텐트의 특징을 분석해 유사한 특성을 가진 다른 콘텐츠를 추천하거나 비슷한 행동양식을 보이는 다른 사용자가 선호하는 콘텐츠를 제공하기도 한다.

선호도에 맞춘 콘텐츠를 제공하기 때문에 사용자 입장에서는 편리하게 느껴지겠지만 부작용이 만만찮다. 대표적으로 사용자가 다양한 관점을 접할 기회를 제한하는 이른바 정보 편식 현상인 필터 버블 (Filter Bubble)과 유사한 관점을 가진 콘텐츠와 그 사용자들끼리 만 상호작용하게 되는 반향실 효과(Echo Chamber)를 꼽는다. 비슷한 생각을 가진 사람들끼리 모이면 기존 신념이 강화되면서 다른 의견은 배제하게 된다. 확증편향의 출발점인 셈이다.

[서울=뉴스핌] 이호형 기자 = 디자인코리아 2024가 13일 서울 강남구 코엑스 D홀에서 열린 가운데 관람객들이 에스더블유엔아이 x 브리즘이 선보인 AI 알고리즘에 의한 선글라스 디자인 부스를 둘러보고 있다. 2024.11.13 leemario@newspim.com

사피엔스의 작가 유발 하라리는 신간 <넥서스>에서 2016년에 일어난 '로힝야 학살사건'의 원인 분석을 통해 자정 장치가 없는 비윤리적인 알고리즘이 얼마나 위험한지 경고한다.

소규모 이슬람 조직이 미얀마군 초소를 공격한 사건에서 시작된 '로힝야 학살 사건'은 최대 2만5천명에 이르는 비무장 민간인 학살과 6만명에 대한 가혹행위, 75만명의 해외 추방이 벌어진 끔찍한 '민족청소운동'이었다.

하라리는 이 사태 뒤에 로힝야족에 대한 증오를 부추기는 페이스북 알고리즘이 있었다고 지적한다.  당시 페이스북은 더 많은 데이터 수집, 광고 판매, 점유율 확보를 위해 '사용자 참여 극대화' 사업 모델을 채택했는데 페이스북의 알고리즘이 명시적인 명령이 없었음에도 '분노가 참여도를 높인다'는 사실을 스스로 학습해 폭력, 증오, 차별을 부추기는 콘텐츠를 선제적으로 증폭하고 추천했다. 페이스북의 알고리즘이 학살에 결정적 기여를 했다는 사실은 이후 유엔사실조사단에 의해서도 공인되었다.

오늘날 유튜브 알고리즘은 페이스북 알고리즘을 능가한다. 이야기가 충격적일수록, 분노스러울수록 열광한다. 근거가 있는지 검증은 했는지 따위는 하등 중요하지 않다. 같은 눈을 가진 이들이 알고리즘을 타고 빠르게 모여 같은 목소리를 울리며 자기확신을 키워간다. 닮은 이들의 같은 세계 속에는 일말의 의심도 자라지 못한다. 자신들이 세상의 전부 같지만 모일수록 그들의 세계는 점점 더 편협해질 뿐이다.

[서울=뉴스핌] 이호형 기자 = 디자인코리아 2024가 13일 서울 강남구 코엑스 D홀에서 열린 가운데 관람객들이 LG전자가 선보인 AI 우주 반려 로봇 '라이카' 살펴보고 있다. 2024.11.13 leemario@newspim.com

연세 지긋한 부모님께서 말도 안 되는 음모론에 나라를 걱정하시고 이런 콘텐츠를 여기저기 공유하셔서 염려스럽다는 자녀들이 적지 않다.

과연 알고리즘이 만들어내는 편향에 휩쓸리지 않고 현명하게 콘텐츠를 소비하는 방법은 없는 것일까?

보안기업 안랩은 우선 정기적으로 검색과 시청기록을 삭제할 것을 권장한다. 유튜브는 시청 기록을 바탕으로 추천 알고리즘을 작동시키기 때문에 시청 기록을 삭제하면 알고리즘이 초기화된다. 

유튜브 웹사이트나 앱에서 화면 우측 상단의 프로필 아이콘을 클릭하고 '설정' 메뉴에서 '히스토리 및 개인정보' 탭으로 이동한 후 '시청 기록' 옵션을 클릭해 삭제하고 싶은 영상을 제거한다. 아예 시청 기록 전체를 삭제하려면 '모든 기록 삭제'를 택하면 된다.

검색 기록 역시 추천 콘텐츠에 영향을 미친다. 검색 기록을 삭제하거나 저장 기능을 비활성화하면 추천 알고리즘에 영향을 줄 수 있다.

원치 않는 동영상이나 채널에 대해서는 '관심 없음' 또는 '채널 추천 안함'을 설정하고 좋아요 나 싫어요 등의 선호도를 명확히 표현하는 것도 도움이 된다.

아마존 모바일 플랫폼 [사진=블룸버그]

로그아웃 상태로 유튜브를 이용하면 개인화된 추천 대신 일반적인 트렌드 기반 콘텐츠를 볼 수 있고 알고리즘의 영향을 완전히 벗어나려면 아예 새 계정을 만드는 것도 한 방법이다.

하라리는 <넥서스>에서 모든 알고리즘에 최우선으로 학습시켜야 할 사항은 '알고리즘이 오류를 범할 수 있다'는 점이라고 말한다. 알고리즘에 스스로를 의심하도록 하고, 사용자에겐 알고리즘의 불확실성을 알리고, 음모론과 가짜 뉴스를 예방하는 법을 배우도록 지시해야 한다고 주장한다.

모든 플랫폼 기업이 알고리즘이 콘텐츠 선별에 사용하는 원칙을 투명하게 공개하도록 하고 폭력적이고 분노를 유발하는 알고리즘을 배제하도록 강제해야 하겠지만 이윤이 윤리를 앞서는 현실에서 큰 기대를 하기는 어려울 듯싶다.

오히려 알고리즘이 양극단의 가치관으로 자신을 세뇌할 수 있음을 분명히 가르치는 것이 더 효과적이지 않을까?

옥스퍼드 사전은 2024년 '올해의 단어'로 '뇌 썩음'(brain rot)을 선정했다. 하찮은 콘텐츠를 과잉 소비함으로써 개인의 정신적·지적인 상태가 퇴보한다는 뜻으로 소셜미디어의 과잉 소비로 초래되는 악영향에 대한 우려가 담겨있다.

바야흐로 우리는 뇌가 썩지 않도록 스스로를 보호해야 하는 시대로 접어들었다.

갤럭시 버즈3 시리즈는 AI 기반의 알고리즘이 개개인의 귀모양과 착용 습관을 바탕으로 내외부 마이크를 통해 감지되는 소리를 실시간으로 분석한다.[사진= 삼성전자]

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
출구조사 이재명 51.7·김문수 39.3% [서울=뉴스핌] 이바름 기자 = 방송3사 출구조사 결과 이재명 더불어민주당 대통령 후보가 51.7%로 크게 앞선 것으로 나타났다. 2위인 김문수 국민의힘 대통령 후보는 39.3%에 그쳤다. 이준석 개혁신당 후보는 7.7%였다. 방송사공동예측조사위원회(Korea Election Pool·KEP)는 3일 오후 8시 공동 예측(출구)조사 결과를 발표했다. KEP는 KBS·MBC·SBS 지상파 방송 3사와 한국방송협회가 소속돼 있다. [서울=뉴스핌] 윤창빈 기자 = 박찬대·윤여준 더불어민주당 상임총괄선거대책위원장을 비롯한 선대위원 및 의원들이 3일 오후 서울 여의도 국회 의원회관에 마련된 제21대 대통령 선거 개표상황실에서 출구조사 결과를 확인하고 환호하고 있다. 2025.06.03 pangbin@newspim.com 출구조사 결과 이재명 후보는 51.7%의 득표율을 기록했다. 김문수 후보는 39.3%로 나타났다. 두 후보간 차이는 12.4%포인트(p)로 집계됐다. 이준석 개혁신당 대통령 후보는 7.7%로 3위에 그쳤다. 전국 시도별로 보면 대부분 지역에서 이재명 후보가 우세했다. 이재명 후보는 서울 49.3%, 경기 55.8%, 인천 53.6% 등 수도권에서 우위를 점했다. 광주 81.7%, 전남 80.8%, 전북 79.6% 등 호남권에서도 두 후보들을 따돌리고 크게 앞섰다. '민심의 바로미터'로 평가되는 충청권도 이재명 후보의 손을 들어줬다. 대전 51.8%, 충남세종 51.3%, 충북 51.1%로 기록됐다. 제주도 이재명 후보에게 57.9% 몰렸다. 보수세가 강한 걸로 평가받는 강원과 울산도 이재명 후보로 돌아섰다. 울산은 이재명 46.5%, 김문수 44.3%로 나타났다. 강원은 이재명 48.4% 김문수 42.2%였다. [서울=뉴스핌] 정일구 기자 = 3일 서울 여의도 국회 도서관에 마련된 국민의힘 개표 상황실에서 선대위원장들이 제21대 대통령 선거 방송3사 출구조사 결과를 보고 있다. 왼쪽부터 양향자, 안철수, 김용태, 나경원, 권성동. 2025.06.03 mironj19@newspim.com 김문수 후보는 대구에서 67.5%, 경북은 64%를 얻어 그나마 보수의 자존심을 지켰다. 또한 부산에서도 49%, 경남에서 48.8%를 얻어 가까스로 이재명 후보를 제쳤다. 출구조사는 미리보는 개표결과로 평가받고 있다. 제20대 대통령 선거 당시 윤석열 전 대통령의 득표율과 당선까지 맞춰 정확성을 인정 받았다. 당시 KEP는 윤 전 대통령의 득표율을 48.4%, 이재명 더불어민주당 후보는 47.8%를 얻을 것이라고 예측했다. 실제 중앙선거관리위원회가 다음날 아침 최종 발표한 개표 결과에서 윤 전 대통령은 48.56%, 이 후보는 47.83%의 득표율을 보였다. 다만 출구조사는 제22대 국회의원 선거 결과와는 차이를 보였다. KEP는 해당 선거에서 범야권이 200석 안팎으로 압승할 것이라고 발표했으나, 실제로는 192석이었다. KEP는 격전지 18곳에서 승패를 거꾸로 예측한 것으로 나타났다. 한편 이날 오후 7시 현재 전국 투표율을 78.80%로 집계됐다. right@newspim.com 2025-06-03 20:31
사진
이준석 7.7%에 선대위 '침묵' [서울=뉴스핌] 신정인 기자 = 이준석 개혁신당 대통령 후보가 3일 대선 지상파 3사 출구 조사에서 7.7%를 기록했다. 당초 두자릿수를 기대했던 당 선거대책위원회는 다소 침체된 분위기가 이어졌다. 천하람 선대위원장은 "지방선거 준비에 매진하겠다"고 밝혔다. 천 선대위원장은 이날 오후 8시쯤 서울 여의도 국회 의원회관 개표상황실에서 출구조사 결과를 지켜본 직후 소감을 통해 이같이 말했다. [서울=뉴스핌] 최지환 기자 = 천하람 개혁신당 상임선거대책위원장이 3일 오후 서울 여의도 국회에 마련된 개혁신당 개표상황실에서 출구조사 결과발표를 바라보고 있다. 2025.06.03 choipix16@newspim.com 그는 "이준석 후보가 자랑스럽다. 그리고 사표 방지 심리와 관행적 투표 심리를 뚫고 압도적 새로움과 미래를 선택해주신, 이준석 후보를 선택해주신 모든 유권자분들이 진심 자랑스럽고 감사하다"고 했다. 이어 "돌이켜 생각해보면 이준석 후보의 대선 도전은 불가능에 도전하는 과정이었다"며 "거대 양당에 비해 돈과 조직이 압도적 열세인 상황에서 국민만 믿고 멋지게 완주했다"고 평가했다. 천 선대위원장은 "특히 이번에 유례 없이 높은 투표율은 이준석 후보의 2030 젊은 유권자 지지와 중도층의 폭넓은 지지가 국민들의 높은 투표참여로 작동했다고 생각한다"며 "앞으로 개혁신당의 구성원들은 이런 성취가 흩어지지 않도록, 앞으로 더 커질 수 있도록 이준석 후보와 힘을 합쳐 지방선거 준비에 매진하겠다"고 했다. 다만 상황실 내 선대위 관계자들은 두자릿수대 득표율을 예측했던 만큼 어두운 기색이 역력했다. 출구조사 발표 직전, 손깍지를 낀 채 상기된 얼굴로 대기했던 당 지도부들은 결과가 나오자 작게 한숨을 내쉬거나 자리를 이석하기도 했다. 발표 30분 전인 오후 7시31분에는 천 선대위원장이 "다들 고생했다"며 당직자들에게 감사 인사를 전했다. 이준석 후보는 이날 오후 9시쯤 상황실에서 출구조사 결과에 대한 소감을 전할 예정이다. allpass@newspim.com 2025-06-03 20:48
안다쇼핑
Top으로 이동