[기고] 짚고 또 짚어야 할 AI 안전성

기사입력 : 2024년06월24일 08:33

최종수정 : 2024년06월25일 07:09

하민회 이미지21대표(코가로보틱스 마케팅자문)

AI, 과연 안전할까?

오픈AI가 'GPT-4o'를 공개하는 날 '오픈 AI의 영혼'이 회사를 떠났다. 오픈 AI의 공동창업자이자 수석과학자 그리고 5일 천하로 끝난 '올트만 축출 사태'의 주역이었던 일리아 수츠케버다.

챗GPT 개발에 핵심적인 역할을 한 일리아 수츠케버는 샘 올트만과 일론 머스크로부터 '오픈 AI의 영혼'으로 불렸다. 그러나 기술 신중론자인 수츠케버는 AI 개발 속도와 안전성 문제를 두고 올트만CEO와 이견을 보였고, 지난해 11월 올트만 해임에 앞장섰다가 이사회에서 물러났다. 수츠케버가 이끌었던 오픈AI의 안전 윤리담당부서 '수퍼얼라인먼트(Super Alignment)'팀은 'GPT-4o' 출시 전에 해체됐다.

수츠케버는 최근 "안전한 초지능 구축"을 목적으로 하는 AI 스타트업 SSI(Safe Superintelligence)를 설립했다. 그는 "기본적으로 인류에게 대규모 피해를 주지 않는 안전한 초지능(SSI) 구축이야 말로 우리 시대의 가장 중요한 기술적 문제"임을 강조했다.

하민회 이미지21 대표.

AI기술의 안전성을 우려하는 업계 전문가와 석학들이 늘고 있다.

AI 안전성은 AI 시스템이 예측 가능한 방식으로 작동하고, 인간에게 해가 되지 않는 것을 의미한다. AI가 잘못된 결정을 내리거나 의도하지 않은 결과를 초래하지 않아야 한다.

최근 들어 이렇게 AI 안전성이 강조되는 건 크게 두 가지 이유 때문이다. AI 기술 발전 속도가 예상 범주를 넘어설 만큼 빨라지고 의료, 자율자동차, 금융 등 확산분야가 늘고 있다는 점 그리고 텍스트·이미지·오디오·비디오 등 다양한 형태의 데이터 정보를 동시에 이해해 사용자의 감정, 행동의 맥락, 주변 환경 등에 정확하게 반응하는 '멀티모달(Multi-modal)'기술이 일반화되면서 사용자와 AI의 상호작용의 접점이 현저하게 늘어났기 때문이다.

멀티모달의 안전성은 단순히 '세종대왕 맥북 사건'이나 '1일 1돌 섭취' 같은 엉뚱한 대답으로 웃어넘길 수 있는 차원의 문제가 아니다. 의료 분야의 AI가 잘못된 데이터를 학습하거나 알고리즘 오류로 잘못된 진단을 내릴 경우 환자의 생명이 위태로워질 수 있고 자율주행차가 교통 환경을 잘못 인식하거나 예기치 못한 상황에서 부적절하게 반응하면 치명적인 사고를 유발할 수도 있다. 그 만큼 정확성과 신뢰도가 확보되어야 부작용 없이 사용할 수 있다.

멀티모달 AI가 적용된 '스마트렌즈' 서비스. [자료=네이버]

AI 기술의 위험성을 경고하는 AI두머(doomer)의 대표주자인 'AI의 대부' 제프리 힌튼 교수는 최근 BBC와의 인터뷰를 통해 "AI의 안전에 대한 충분한 고려가 이뤄지지 않고 있다"고 지적했고 <사피엔스>의 저자 유발 하라리, 노벨경제학상 수상자 대니얼 카너먼 교수 등 세계적인 석학 25명도 최근 사이언스에 '급격한 진보 속 AI의 극단적 위험 관리'라는 글을 공동으로 기고해 AI 안전성에 대한 우려를 전했다.

오픈AI와 구글 전·현직 직원 13명이 '최첨단 AI에 대한 경고 권리'라는 성명을 통해 "AI가 인류에 전례 없는 혜택을 제공할 수 있는 잠재력을 갖고 있지만, 동시에 AI 기술로 야기되는 심각한 위험을 우리는 알고 있다"며, "이런 위험은 사회 불평등 심화부터 조작·가짜뉴스 등을 통환 사회 전복, 나아가 인류의 멸종을 초래하는 자율적인 AI 시스템의 통제 상실로 까지 이어질 것"이라고 지적했다. 또 "AI 글로벌 빅테크들이 AI의 위험성을 인지하고 있음에도 불구하고 이윤 추구 목표 때문에 적절한 조치나 제대로 된 감독을 하지 않고, 그 위험성을 원활하게 공유하지도 않는다"고 주장했다.

빅테크의 안전 불감증은 심각한 상태다. '안전'보다 '성능'에 초점을 맞추고 '시장 선점'에 매진한다. '선점' 한 자가 '독식'하는 AI 기술 속성 탓 이다.

오픈AI의 폭주가 대표적이다. 멀티모달 GPT-4o 출시 일정을 맞추기 위해 안전 윤리담당팀을 해체한 오픈AI는 GPT-4o 공개 직후 '스칼렛 요한슨 목소리 도용' 논란에 휩싸였다. 데이터 관리에 문제가 있음을 보여주는 사례였다.

오픈AI와 챗GPT 로고 [사진=뉴스핌DB]

해커가 GPT-4o를 탈옥시켜 끔찍한 답을 얻어내는 일도 발생했다. 탈옥(Jail breaking)은 정보기술(IT) 업계에서 AI 모델의 제한된 기능을 우회하여 AI가 본래 금지된 작업을 수행하게 만드는 행위로 주로 AI 시스템이 제공하지 않도록 설정된 정보나 서비스를 접근하거나, 비윤리적이고 위험한 행동을 하도록 유도하는 것을 의미한다. AI 모델의 윤리적 안전장치를 깨뜨리는 행위인 셈이다.

최근 해커 플리니 프롬프터(Pliny the Prompter)는 GPT-4o 모델을 탈옥시켜, 폭탄 제조 방법과 메스암페타민(필로폰) 제조 방법을 단계적으로 설명하게 하고, 자동차 탈취 방법, 욕설 등을 생성해 충격을 안겼다. GPT-4o가 안전장치가 취약한 상태로 세상에 나왔음을 보였기 때문이다.

AI 안전성을 높이려면 AI기업들의 진지하고 성실한 노력이 필요하다. 안전 윤리기준을 확립하고 몇 가지 사항에 대해선 지속적으로 업데이트 해 나가야 한다.

▲무엇보다 데이터 관리가 잘 되어야 한다. 편향되거나 잘못된 정보가 포함되지 않은, 다양하면서도 신뢰할 수 있는 데이터를 합법적으로 확보하고 사용해야 한다. ▲ AI 가 어떻게 결정을 내리는지 설명할 수 있는 알고리즘의 투명성도 확보되어야 한다. ▲ AI 시스템 도입 전 다양한 상황에서 테스트하고 검증함으로써 예기치 않은 오류나 위험을 최소화하는 노력도 기울어야 한다.

▲ 회사의 역량 중 많은 부분을 보안, 모니터링, 안전 등에 집중해야 한다. ▲ 아울러 AI 기업 직원들이 목소리를 낼 수 있도록 내부고발자에 대한 보호 조치가 마련돼야 한다. AI의 위험과 관련된 비판을 막는 계약 금지, 회사와 관계없는 독립 기관에 AI의 위험 관련 우려사항을 제기할 수 있는 익명 절차 마련, 내부고발자에 대한 보복 금지 등이 해당된다.

21일(현지시간) 마이크로소프트(MS) 연례 개발자 회의 '빌드'(Build)에서 연설하는 사티아 나델라 MS CEO. [사진=로이터 뉴스핌]

AI 안전성 확보는 마치 위험 물질을 다루듯 조심스럽고 신중하게 재차 확인하며 개발해가는 '정성과품이 드는 과정'이다.

이제 AI는 주어진 명령을 수행하는 데 그치지 않고 중간에 필요한 업무를 스스로 찾아내 결과물을 도출하는 'AI에이전트'로 진화하고 있다. 업계에선 AI의 여기서 한 단계 더 발전한 것을 '인공일반지능(AGI)'으로 보고 있다. AGI는 주어진 모든 상황에서 인간처럼 추론, 학습하고 문제를 해결하는 능력을 갖춘 AI로 굳이 인간의 명령이나 지시가 없이도 스스로 판단하고 일할 수 있다.

인구감소와 고령화로 인해 필연적으로 다가오는 축소사회는 어차피 AI와 로봇과 더불어 살아가게 될 것이다. 빅테크에게만 AI 안전성을 강제하긴 무리가 따른다. 국가적 규제가 시급하다. 여전히 안개속에 있는 'AI기본법' 제정부터 속도를 내야 한다.

인간보다 똑똑한 지적 존재를 만드는 일은 분명 위험한 일이다. 미래로 가는 AI라는 돌다리가 안전한지 백번 두드려 확인해도 모자람이 없지 않을까?

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

사진

광복군, 일본군 무장해제 "항복사실 모르느냐? 변상문의 '화랑담배'는 6·25전쟁 이야기이다. 6·25전쟁 때 희생된 모든 분에게 감사드리고, 그 위대한 희생을 기리기 위해 제목을 '화랑담배'로 정했다. 우리는 그들에게 전의(戰意)가 없는 것을 보이기 위해 기관단총을 모두 어깨에 걸쳤다. 그러고도 만일을 위해서 각각 산개하면서 뛰어내리기 시작했다. 드디어 내 차례가 왔다. 몸을 날렸다. 아. 그때 그 바람 냄새, 그 공기의 열기, 아른대는 포플러의 아지랑이, 그리고는 아무것도 순간적이었지만 보이지 아니했다. 그러나 어쩐 일인가? 우리 주변엔 돌격 태세에 착검한 일본군이 포위하고 있었다. 워커 구두 밑의 여의도 모래가 발을 구르게 했다. 코끼리 콧대 같은 고무관을 제독총에 연결한 험상궂은 방독면을 뒤집어쓴 일본군이 차차 비행기를 중심으로 원거리 포위망을 좁혀오고 있었다. 너무나도 위험한 상황이었다. 이것이 그리던 조국 땅을 밟고 처음 맞은 분위기였다. 동지들은 눈빛을 무섭게 빛내면서 사주경계를 했다. 그러나 아직 기관단총을 거머쥐지는 아니했다. 여의도의 공기가 움직이지 않는 고체처럼 조여들어 왔다. 뿐만 아니었다. 타고 온 C46형 수송기로부터 한 50여m 떨어진 곳의 격납고 앞에는 실히 1개 중대나 되는 군인들이 일본도를 뽑아 든 한 장교에게 인솔되어 정렬해 있었다. 그 앞에는 고급장교인 듯한 자들이 한 줄 또 섰고, 장군 몇 명도 있는 듯했다. 그러나 무엇보다도 8월 18일 한낮의 그 뜨거운 여의도 열기가 우리를 더욱 긴장시켰다. 격납고 뒤에까지 무장한 군인이 대기하고 있었다. 중형전차의 기관포도 이쪽을 향하고 있었다. 환호하는 광복군. [사진= 국사편찬위원회] 비행장 아스팔트 위엔 한여름의 복사열이 그 위기의 긴장처럼 이글대고 있었다. 어느새 우리는 땀에 젖어 있었다. 기막힌 침묵이 십여 분이나 지났다. 그러나 그들은 어떤 행동도 취해 오지 않았다. 마침내 우리가 발걸음을 옮겼다. 우리는 일본군 고급 장교들이 늘어선 쪽으로 한걸음 씩 움직였다. 각자 산개, 조심하라! 누군가가 이렇게 나직하게 말했다. 서해 연안으로 비행기가 고도를 낮출 때 누군가가 유서를 쓰던 일이 이 순간 내 머릿속에서 상기되었다. 일본군 병사들은 우리가 다가서자 의외로 포위망을 풀 듯이 비켜섰다. 우리는 아직 기관단총을 어깨에 멘 그대로였다. 일본군이 길을 열어주자, 그들도 일본군 육군 중장을 선두로 한 장교단이 우리 쪽으로 오기 시작했다. 그가 바로 조선주차군사령관 죠오쯔끼(上月良夫)였다. 쬬오쯔기는 그의 참모장 이하라 소장과 나남 사단장과 참모들을 뒤로 거느렸다. 우리도 좌우로 벌려 섰다. 쬬오쯔기가 「나니시니 이라시따노?(무슨 일로 왔소?)」말문을 열었다. 퍽 야무지게 보였다. 우리는 말 대신 영등포 상공에서 뿌리다 남긴 선전 전단을 내밀어 주었다. 우리의 임무가 일본어와 우리말로 적힌 전단이었다. 거긴 또 우리가 이렇게 들어오게 된 사연도 적혀있었다. 우리는 한 장씩 그 전단을 다른 일본군 장교들에게 나누어 주었다. 쬬오쯔끼는 이를 받아 읽고, "일본은 정전만 한 상태이니 일단 돌아갔다가 휴전 조약이 체결된 다음에 재입국하라"라고 말했다. 그러면서 은근히 위협했다. 자기네 병사들이 꽤 흥분되어 있으니, 만약 돌아가지 않으면 그 신변 보호에 안전책임을 지기가 어렵다는 분위기라고 했다. 이에 이범석 장군이 "네 놈들의 천황이 이미 연합국에 무조건 항복한 사실을 모르느냐? 이제부터는 동경의 지시가 필요 없다는 것을 알아야 한다"라고 맞섰다. 그러나 쉽사리 양보하지 않았다. 옥신각신 말이 몇 번 건너 왔다 갔다. 갑자기 쬬오쯔끼는 한 일본군 대령에게 일을 처리하라고 지시했다. 그러면서 그는 동경서 손님이 오기로 되어 있어 마중을 나와 있던 참이란 말을 하고는 물러가 버렸다" 이범석 장군은 일본군 측에 "조선 총독을 만나 담판 짓겠다'라고 요구했으나 거절당했다. 일본군 무장해제 임무를 띠고 국내로 들어 온 '광복군 국내정진군'은 아무런 소득도 올리지 못한 채 다음 날 8월 19일 14:30분 여의도 기지를 이륙하여 중국으로 돌아갔다. 광복군은 미군정이 시작되고 나서 한참이나 지난 다음에 개인 자격으로 귀국할 수밖에 없었다. 조짐이 좋지 않았다. / 변상문 국방국악문화진흥회 이사장 2025-09-29 08:00

사진

손흥민 7·8호-부앙가 23호...환상 '흥부 듀오' [서울=뉴스핌] 박상욱 기자 = 손흥민이 시즌 7·8호골을 연달아 터뜨리며 4경기 연속골을 기록했다. 드니 부앙가도 시즌 23호골을 넣어 '흥부 듀오'는 3골을 합작하며 팀 승리에 결정적인 역할을 했다. LAFC 손흥민은 28일(한국시간) 미국 미주리주 세인트루이스의 에너자이저 파크에서 열린 2025 MLS 정규리그 서부 콘퍼런스 세인트루이스 시티SC와의 원정 경기에서 3-4-3 포메이션의 원톱 스트라이커로 선발 출전했다. LAFC는 '흥부 듀오'의 활약을 앞세워 3-0으로 완승을 거뒀다. LAFC는 승점 53을 기록하며 서부 콘퍼런스 4위 자리를 유지했다. [세인트루이스 로이터=뉴스핌] 박상욱 기자= 손흥민이 28일(한국시간) MLS 34라운드 세인트루이스 시티 SC와의 원정 경기에서 자신의 첫 번째 골을 넣고 '찰칵 세리머니'를 하고 있다. 2025.9.28 psoq1337@newspim.com [세인트루이스 로이터=뉴스핌] 박상욱 기자= 손흥민이 28일(한국시간) MLS 34라운드 세인트루이스와의 원정 경기에서 자신의 첫 번째 골을 넣고 골 셀레브레이션을 하고 있다. 2025.9.28 psoq1337@newspim.com 손흥민은 1-0으로 앞선 전반 추가시간 시즌 7호골을 뽑아냈다. 그는 중원에서 단독 드리블로 페널티박스 왼쪽까지 돌파한 뒤 오른발 슈팅으로 골망을 흔들며 선제골을 기록했다. 후반 15분에는 페널티박스 정면에서 수비수를 앞에 두고 오른발 슈팅으로 시즌 8호골을 추가, 이날 멀티골을 완성했다. 손흥민은 이번 시즌 MLS에서 8경기 만에 8골 3도움을 기록하며, 출전 경기마다 존재감을 과시하고 있다. MLS 기록 기준으로 이번 4경기 연속골은 지난 2021년 12월 토트넘 소속으로 EPL 14라운드부터 4경기 연속골을 기록한 이후 약 3년 9개월 만이다. 경기를 중계하던 현지 해설진은 "손흥민과 부앙가는 피할 수 없다(inevitable)"며 두 선수의 뜨거운 활약을 추켜세웠다. [세인트루이스 로이터=뉴스핌] 박상욱 기자= 손흥민이 28일(한국시간) MLS 34라운드 세인트루이스와의 원정 경기에서 자신의 두 번째 골을 넣고 골 셀레브레이션을 하고 있다. 2025.9.28 psoq1337@newspim.com [세인트루이스 로이터=뉴스핌] 박상욱 기자= 손흥민이 28일(한국시간) MLS 34라운드 세인트루이스 시티 SC와의 원정 경기에서 골을 넣고 부앙가과 손을 마주치고 있다. 2025.9.28 psoq1337@newspim.com 손흥민과 함께 공격을 이끄는 드니 부앙가(31)도 전반 15분 선제골을 터뜨리며 5경기 연속골로 시즌 23골을 기록, 리오넬 메시에 이어 득점 랭킹 2위에 올랏다. 두 선수는 최근 LAFC가 터트린 15골 중 절반 이상을 책임지고 있다. 경기 도중 손흥민과 부앙가는 높이 뛰어올라 하이파이브를 주고받는 세리머니를 펼치며 팀 분위기를 끌어올렸다. 세인트루이스에서는 정상빈이 왼쪽 날개 공격수로 선발 출전하며 '코리안 더비'가 성사됐다. 정상빈은 전반 2분 수비 뒷공간으로 빠르게 침투하다 LAFC 골키퍼와 충돌하며 경고를 받았지만 경기 내내 활발한 움직임을 보였다. 그는 후반 20분 공격포인트 없이 교체돼 벤치로 돌아갔다. 이날 승리로 LAFC의 스티브 체룬돌로 감독은 2022년 1월 지휘봉을 잡고 나서 통산 100승(36무 9패)째를 달성하는 기쁨을 맛봤다. psoq1337@newspim.com 2025-09-28 11:52