[서울=뉴스핌] 김미경 기자 = 김희진 국민통합위원회 산하 '인공지능(AI) 시대 포용과 기회 특별위원회' 위원장은 "AI 기술 자체는 중립적일 수 있지만 그 기술을 쓸 수 있는 권한이나 그에 필요한 자원의 분배는 절대 중립적일 수 없다"고 진단했다.

김 위원장은 "AI 접근성뿐 아니라 활용 역량과 위험에 대처할 수 있는지, 이 기술을 정말 이해하고 있는지에 따라서 격차가 벌어질 수 있다"고 말했다.

김 위원장은 "AI에 대한 접근성과 활용 능력 측면에서 격차를 좁히려고 상위 부분을 끌어내리는 것이 아니라 하한선을 끌어올릴 수 있는 방법을 정책적으로 논의해 보고자 한다"고 강조했다.

서울대 데이터사이언스대학원 객원교수인 김 위원장은 지난 8월 7일 출범한 특위를 이끌고 있다. 특위는 김 위원장과 함께 ▲박은정 법무법인 태평양 변호사 ▲장아람 순천향대 의학과 교수 ▲최진환 로워크 대표 ▲김용미 대한상공회의소 경제연구원 연구위원 ▲안성원 소프트웨어정책연구소 AI정책연구실장 ▲오삼일 한국은행 조사국 고용연구팀장 ▲이영선 한국지능정보사회진흥원(NIA) 디지털접근성팀장 ▲정인관 숭실대 정보사회학과 부교수까지 모두 9명으로 꾸려졌다.  

김 위원장은 지난 24일 뉴스핌과 특별인터뷰에서 "기술로부터 시작된 격차가 사회적·경제적 불평등으로 이어지거나 기존에 있던 불평등을 고착화시키는 위험들이 있다"면서 특위가 출범하게 된 문제의식을 설명했다. 

김 위원장이 제시한 AI 격차의 층위는 세 갈래다. ▲AI 접근성 ▲AI 기술 혜택을 누리고 ▲그 과정에서 발생할 수 있는 위험에 대응할 수 있는 역량이다. 과거 디지털 격차 해소 논의가 기기 보급과 속도에 집중됐던 것과 달리 AI 격차는 삶의 질과 진로까지 좌우한다는 점에서 양상이 다르다고 진단했다.

김 위원장은 한국의 스마트폰 보급률을 토대로 AI 접근성 격차는 비교적 빠르게 좁혀질 수 있다고 내다봤다. 다만 활용과 대응 역량의 격차를 줄여 나가는 것은 어려운 과제라고 짚었다.  

김 위원장은 "한 달에 200달러(27만원)에 이르는 고가의 AI 서비스를 매달 쓸 수 있는 사람은 많지 않다"면서 "하지만 결과물을 보면 무료 모델과는 천지 차이"라고 말했다.

김 위원장은 "접근의 질과 정도, 활용할 수 있는 역량, 구체적으로 프롬프트(AI 명령어)를 쓰는 역량 같은 것은 단순히 정부가 재정적인 지원을 한다고 해서 향상시킬 수 있는 것이기 아니기 때문에 그 부분이 훨씬 더 좁히기 어렵다"고 설명했다. 

특히 김 위원장은 "격차가 한번 벌어졌을 때 지금은 그로 인한 부작용을 체감하는 게 적다고 하더라도 한번 시작되면 매우 빠르게 벌어질 것"이라고 진단했다.

김 위원장은 "특위 차원에서 모든 문제를 다루고 해소할 수는 없다"면서 "하지만 특위에서 양극화 해소에 있어서 중요한 지점을 중심으로 논의하고자 한다"고 말했다. 

특위는 현재 ▲책임 있고 윤리적인 AI 개발·사용 기준과 AI시대 기본권 정립 ▲모든 국민 AI 역량 강화와 취약계층 포용 ▲기업 간 격차 해소와 노동시장 변화 대응 ▲진단·모니터링 체계 구축의 4가지 의제를 놓고 논의를 진행 중이다.

AI 진단체계와 관련해 김 위원장은 "지표를 직접 산출하기보다 적합한 진단체계가 없다는 점을 인식하고 있다"면서 "진단체계 설계 과정에서 무엇을 고려해야 하는지를 제시하고자 한다"고 강조했다.

무엇보다 특위는 올해 연말 정책권고 보고서를 제시하는 것을 목표로 하고 있어 어떤 내용을 권고할지 관심이 쏠리고 있다. 

다음은 김희진 국민통합위원회 인공지능(AI) 시대 포용과 기회 특별위원장과 일문일답.

▲특위가 출범한 계기와 의미는

-AI 관련 위원회는 여러 곳에 흩어져 있다. 그중에서도 통합과 포용 차원에서 AI 발전 과정과 정책에 대해 할 수 있는 이야기가 무엇일까 고민하면서 만들게 됐다.

정부가 AI 세계 3강으로 가겠다고 하는데 기술의 발전이 항상 모든 사람의 진보를 가져오는 것은 아니다. 기술 자체는 중립적일 수 있지만 그 기술을 사용할 수 있는 권한이나 거기에 필요한 자원의 분배는 절대 중립적일 수 없다. 기술로부터 시작된 격차가 사회적·경제적 불평등으로 이어지거나 기존에 있던 불평등을 고착화시키는 위험이 있다고 위원들과 이야기했다.

AI 기술이 여러 정치·경제·사회 영역을 주도하는 사회에서 의미 있게 잘 살아가려면 무엇이 필요한지, 규범적·사회적으로 어떤 조건 안에서 기술을 관리하고 발전시키는 게 적절한지 위원회 차원에서 적극 논의해보자는 취지다.

▲'AI 기본권' 핵심은 무엇이라고 보나.

-AI 기본권의 의미에 대해서는 다양한 의견이 있어 아직은 논의가 충분히 모여지지 않은 것으로 보이고, 특위 안에서도 위원들 간에 이견이 있는 상황이다.

가장 큰 부분은 접근성이다. AI 접근을 모든 사람이 보편적으로 누리고 활용할 수 있게 해주자는 입장이 있고 그것까지 국가가 직접 나서는 것은 인위적이라고 보는 이들도 있다. 새로운 기술이 등장하면 어느 정도 자연스러운 격차가 생기는 것은 일부 어쩔 수 없는데 헌법 차원의 기본권 논의까지 가는 것은 시기상조 아니냐고 보는 이들도 있다.

또 AI 시대에는 기존의 기본권 논의에도 변화가 생길 수 있다. 예를 들어 평등에 대한 권리도 AI시대의 특정한 사용 맥락에서 보면 기존과 다르게 해석되거나 문제가 되는 양상 자체가 달라질 수 있다.

크게 말하면 접근권을 보장하자는 논의가 있고, 거기에 더해 기존 기본권을 AI시대에 어떻게 정의하고 해석할 것이냐는 논의가 있다. 통합위 차원에서는 아직 열려 있는 상태다.

▲이미 계층별 AI 격차가 눈에 띄는 것 같다.

-AI 격차는 AI 기본권 논의보다 더 넓은 범위라고 생각한다. 첫째는 접근성, 즉 누가 AI를 쓸 수 있고 없는지의 차이다. 둘째는 활용의 격차다. 같은 서비스를 써도 결과를 다르게 얻는다. 누가 어떤 역량으로 쓰는지, 활용의 질이 다를 수 있다. 고가의 AI 서비스를 구독하는 경우와 무료 버전을 쓰는 사람도 다르다. 셋째는 AI로 얻을 수 있는 혜택, 그리고 사용 과정에서 겪을 수 있는 위험에 얼마나 대응할 수 있는지에 대한 역량의 차이다.

AI 격차 이전에 이야기하던 디지털 격차는 어떻게 기기를 빨리 보급하고 더 빠른 속도를 누리느냐가 중심이었다면 AI 격차는 양상이 좀 다르다. 발전 속도나 적용되는 양상이 너무 다양하고 광범위한 데다 단순히 기술을 쓸 수 있느냐 없느냐가 아니라 삶의 질이 됐든 진로의 방향이 됐든 많은 것을 결정한다.

또 개인의 격차이기도 하지만 기업 간, 국가 간, 계층 간, 지역 간 격차이기도 해서 범위가 넓다. 모든 국민 개개인은 물론 장애인과 노인층 같은 취약계층, 대기업과 중소기업 간 등 다양한 층에서 격차가 일어난다는 데 주목하고 있다.

▲고령층·농어민·장애인의 디지털 정보화 수준이 일반 국민보다 낮게 나타난다. 취약계층의 AI 접근성은 어떻게 높일 수 있나.

-디지털 격차 논의 때부터 있던 취약계층 논의를 AI 격차 논의로 가지고 와서 포용정책 수립에 반영하고 있다.

접근성 자체의 격차는 취약계층이라 해도 비교적 빠르게 채워갈 수 있을 것 같다. 정부의 '모두의 AI' 같은 사업도 결국 많은 사람에게 양질의 서비스를 제공하자는 것이다. 민간 서비스의 무료 모델도 웬만한 성능이 나온다. 정부 지원정책과 디지털포용법도 있고, 한국은 디지털 격차를 굉장히 빠르게 좁혔던 역사도 있다.

문제는 그 뒷부분이다. 활용 역량이 어느 정도인지, 그리고 접근의 질과 정도가 굉장히 중요하다. 취약계층은 아무리 AI를 배우려는 뜻이 있어도 유료 AI 서비스를 매달 구독하는 것은 어렵다. 그런데 실제 결과물은 무료 모델을 썼을 때와 천지 차이다.

내용의 진실성을 검증하는 과정에서도 무료 모델은 환각이 일어날 가능성이 더 높거나 검증에 필요한 상세 근거를 제시하지 않는 경우가 있어서, 결과물로 혜택을 누리는 데서도 격차가 더 벌어질 수 있다.

접근의 질과 정도, 프롬프트를 쓰는 역량 같은 것은 단순히 돈을 줘서 뭘 해준다고 해서 가능한 게 아니기 때문에 훨씬 더 좁히기 어렵다. 지금은 부작용을 체감하는 게 적더라도 한번 벌어지기 시작하면 엄청 빠르게 벌어질 것으로 본다.

노동과 고용의 현장, 교육의 현장으로 가면 바로 자기 능력의 차이로 이어진다. 어떤 도구를 쓸 수 있는지가 개인의 성실성과 일에 투자한 시간보다 더 큰 영향을 줄 수 있다.

▲기업 간 AI 격차는 정부가 개입하기도 쉽지 않은 영역이다. 현장에서 어떤 문제를 보고 있나.

-사실 답답한 부분이다. 대기업은 더 높은 사양의 모델을 더 많은 사람이 쓸 수 있게 고가 서비스 구독을 하는 경우가 상당히 일반적이다. 하지만 중소기업에서는 이게 개인의 책임이 될 수 있다. 회사가 해 줄 수 없으니 개인이 소비하지 않는 이상 회사 차원에서 뭔가를 하기가 너무 어렵고 지원이 거의 없는 경우가 있다.

기술기업의 경우에도 데이터와 컴퓨팅 자원이 큰 기업에 집중돼 있다. 그들이 열심히 노력해서 구축한 것이겠지만 AI 모델 성능을 개선할 때 가장 중요한 게 데이터와 컴퓨팅 자원이 얼마큼 뒷받침되느냐인데 이미 주어진 차이 위에서 모델을 만들게 되면 많이 어렵다.

▲특위가 이런 광범위한 문제를 모두 다루기는 쉽지 않아 보인다.

-특위가 만들어진 지 얼마 안 됐지만 태스프포스(TF) 회의를 4차례 했다. 8월 첫째 주에 시작하기 전부터 여름 내내 만나면서 스터디도 하고 토론도 했는데, 그러다 보면 끝날 때는 고민이 더 깊어진다.

특위 차원에서 모든 문제를 다루고 해소할 수는 없다. 국민통합위 양극화해소분과에서 만들어진 특위인 만큼 양극화 해소에서 중요한 지점을 중심으로 하자고 하고 있다.

▲과학기술정보통신부가 확정한 AI 윤리원칙은 어떻게 평가하나.

-이번에 채택된 공정성 원칙에 포용성이 함께 명시됐다. 포용이라는 가치가 국가 전반의 AI 윤리 기준에 직접 들어갔다는 점에서 긍정적이다.

원래 초기 AI 윤리원칙은 2020년 12월에 처음 발표됐다. 이번에 6년 만에 손질한 건데 큰 틀에서는 기존의 내용을 바탕으로 하고 있는 것으로 이해했다. 다만 1차안과 2차안 사이에 시민사회 의견 등을 수렴했는데 그때 많이 이야기된 게 2020년 버전에 포함됐던 인권 보호가 빠졌다는 것이다.

그게 인권을 보호하지 않겠다는 뜻은 아니겠지만, 그런 부분에서 아쉬움을 표한 경우는 많이 있었다고 생각한다.

▲AI정책이 여러 부처에 걸쳐 있다. 별도의 컨트롤타워가 필요하다고 보나.

-AI 모델을 개발하고 사용하고 운영하는 과정을 보면 과기정통부뿐 아니라 개인정보보호위원회, 국가인공지능전략위원회, 산업통상부, 자율주행 관련해서는 국토교통부, 저작권 관련해서는 문화체육관광부 등 너무나 많은 부처와 기관이 관계돼 있다. 이걸 하나로 딱 묶어서 조직적으로 통합하기에는 상당히 어려울 것이다.

중요한 것은 부처 간 소통이다. 하나로 합쳐서 컨트롤타워를 두고 하향식으로 모든 것을 결정하는 게 늘 좋은 선택인 것은 아니다. 해당 분야에서 오래 살펴본 이들이 더 잘 아는 것도 있다. 다만 부처 간 소통으로 중복되는 정책은 해소하고 충돌되는 부분은 미리 조율할 방안을 마련하는 것이 중요하다. 특정한 중요 이슈가 있을 때는 그 이슈를 중심으로 TF를 꾸려 같이 논의하는 방식도 가능하지 않을까 싶다.

▲'AI 포용사회 진단체계 설계'를 특위의 주요 과제로 언급했는데, 지표나 평가 방식은 어떻게 고민하고 있나.

-지금 크게 4가지 의제로 나눠 논의하고 있다. 첫째는 책임 있고 윤리적인 AI 개발·사용의 기준을 어떻게 마련할 것이냐, 그리고 AI 시대 기본권을 어떻게 정립할 것이냐다. 둘째는 전 국민의 AI 역량을 향상시키는 정책으로, 취약계층까지 그 안에서 다룬다.

셋째는 기업 간·기업 생태계 내 격차 해소와 노동시장 변화 대응이다. 노동은 개인 문제이기도 하고 기업 문제이기도 한데, 둘째 의제에서 취약계층을 크게 다루기 때문에 분리해 기업 간 격차와 함께 놓았다. 마지막이 진단·모니터링 체제 구축이다.

일단 연말에 정책권고 형태로 보고서를 만들어보자는 이야기를 하고 있다. 타임라인이 확정된 것은 아니다.

제한된 시간 안에 해야 해서, 지표를 수학적·통계적으로 검토해 직접 산출한다기보다는 진단·모니터링 체계를 설계할 때 무엇을 고려해야 하고 감독 주체는 어떤 역할을 해야 하는지 바탕 작업을 하는 정도로 생각하고 있다. 지표를 직접 도출하는 것은 굉장히 많은 연구와 시간이 필요한 일이다.

하고 싶은 것은 적합한 진단체제가 없고 그것이 필요하다는 점을 강조하고 한 번 더 환기하는 것, 그리고 그런 체계를 만들려면 무엇을 고려해 설계해야 하는지 방향을 이야기하는 것이다. 다만 내가 위원장이라 하더라도 위원들과 다양하게 토론하는 과정이고 2차 회의를 얼마 전에 했기 때문에 앞으로 좀 더 구체화되지 않을까 한다.

▲특위에 각계 전문가 9명이 모였는데 전문성을 어떻게 정책 제안으로 이어갈 계획인가.

-내부에 AI 격차만 연구하는 사람들이 있는 것은 아니고 굉장히 다양한 이들이 참여하고 있다. 나는 AI 윤리를 전문으로 연구하고 있다.

AI가 실제로 적용됐을 때 사람의 권리와 의무에 큰 영향을 줄 수 있는 대표적인 분야가 의료와 사법이다. 그래서 각 도메인 전문가이자 양극화 해소 분과위원이 특위에 참여하고 있다. 기업 간 격차와 노동시장을 다루기 때문에 정보통신(IT) 분야 기업가도 있다.

또 진단체계나 노동시장 변화를 다루려면 데이터에 기반하지 않고서는 동떨어진 이야기를 할 수 있어서 AI로 인한 노동시장 변화를 많이 연구해온 한국은행과 대한상공회의소를 비롯해 한국지능정보사회진흥원(NIA)이 참여한다. NIA의 경우 AI에 특화된 격차만 연구하는 것은 아니지만 디지털 격차를 20여 년간 통계적으로 추적했기 때문에 취약계층 현황 등에서 많은 도움을 받고 있다. 

이렇게 다양한 분야의 전문가들이 모인 것은 논의가 공허해지지 않고 실효성 있는 정책권고로 이어져야 하기 때문이다. 특위를 구성하는데 지원단도 정말 많이 애썼다.

국가가 꼭 역할을 맡는 것이 적합하냐는 부분도 다 다른 의견을 가지고 있다. 국민 전체를 대표한다고 하기에는 대표성이 부족한 부분이 분명히 있지만, 굉장히 다른 배경에서 의견을 나누고 있다. 이렇게 배경이 다르고 의견이 다른 전문가들이 한 자리에 모인 이유는 양극화를 해소하고, AI 기술이 적용되고 사용되는 과정에서 벌어질 수 있는 격차를 해소할 방법을 찾아보자 하는 것이다.

▲통합위의 정책권고에 강제력이 없다는 한계는 어떻게 보나.

-우리가 이행을 강제하는 수단이 있는 기관은 아니다. 그러다 보니 당연히 한계가 있을 수밖에 없다.

그런데 어떻게 보면 이행을 강제할 권한가 없다는 게 굉장히 큰 한계인 동시에, 좀 더 자유롭게 다양한 것에 대해 말할 수 있다고 생각한다.

국민통합의 문제라는 게 어느 한 부처의 문제가 아니라 말 그대로 국민 전반의 하한선을 끌어올리고 신뢰의 기반을 넓히는 목적을 가졌다면, 더더욱 열린 마음으로 정책권고를 할 수 있지 않을까 생각한다.

▲AI 포용은 장기 과제인데 특위 활동이 끝나더라도 역할과 논의가 필요할 것 같다. 

-특위 논의를 보고서와 정책권고라는 결과물로 보여주는 게 우선 중요하다고 생각한다. 그걸로 모든 것을 해소할 수는 없겠지만, 1차적으로는 보고서를 만들고 실효성 있는 정책권고를 하는 게 목표다.

그 이후는 우리가 다 결정하는 문제라기보다 분과 차원의 논의도 필요하다. 특위 자체도 갑자기 만들어진 게 아니라 양극화해소분과에서 위원들이 각자 의견을 내고 토의한 다음 만들어졌고 처음 TF회의를 하면서 어떤 이들을 위원으로 모실지도 같이 정했다.

▲AI 포용이 또 다른 규제가 되는 것 아니냐는 우려도 있다.

-기술 발전을 저해하는 것 아니냐, 규제의 또 다른 이름 아니냐는 염려가 있을 수 있다. 이 시점에서 격차라는 게 너무 당연한 것일 수도 있는데 정책 논의까지 해야 하느냐고 생각하는 이들도 분명히 있을 것이다.

그런데 우리는 이 논의와 정책권고로 사회 전반의 신뢰 기반이 AI 기술을 개발하고 사용하는 과정에서 훼손되는 게 아니라 오히려 더 강건해지도록 역할을 하려고 노력할 것이다.

무엇보다 접근성도 그렇고 활용도 그렇고, 상위에 있는 것을 끌어내려 격차를 좁힌다기보다 하한선을 끌어올릴 방법이 정책적으로 어떤 게 있을지 많이 논의해보고 싶다. 격차 해소라고 해서 국가가 직접 나서서 인위적으로 줄이는 게 모든 경우에 자연스러운 것은 아니라고 생각한다. 어떤 경우에는 어느 정도 자연스러운 흐름으로 둬야 할 수도 있다. 너무 한쪽으로 치우치지 않는 선에서 우리가 할 수 있는 이야기를 하려고 한다.

▲하한선을 끌어올리려면 AI 역량교육이 중요할 텐데.

-'전 국민 AI 역량 강화' 의제를 다루면서 교육 이야기를 나눴다. 교육이 필요한 것은 맞는데 재교육이 될 수도 있고, 일반적인 학교교육 안에서 소화돼야 하는 부분도 있다. 교육 대상이 학생인지, 연령이 어떤지, 취약계층이라는 특수한 상황이 있는지를 고려해 프로그램을 준비해야 하는 게 아닌가라는 이야기를 했다.

위원 중에 디지털포용팀에 있는 이가 있어서 그동안 정부가 디지털포용 정책을 어떻게 해왔는지, 어떤 부분이 좀 더 효과가 있었는지도 공부하는 시간에 들었다. 그런 것을 AI 맥락에서는 어떻게 할지 향후 논의할 생각이다.

AI는 교육시키는 것도 쉬운 게 아니다. 우리가 가장 많이 접하는 게 생성형 AI지만 실제로는 너무나 다양하고 전문 프로그램도 굉장히 많더라. 교육 프로그램을 설계할 때 그런 부분도 다양하게 녹아들어가야 한다고 본다. 또 결국 책임 있게 사용하려면 AI 윤리교육도 같이 중요하다.

▲생성형 AI 다음에는 어떤 기술이 본격화할 것으로 보나.

요즘에는 AI 에이전트와 피지컬 AI가 거대언어모델(LLM) 다음의 기술이 될 것이라는 이야기를 많이 한다. 미래를 예측하는 것은 쉽지 않지만 확실한 것은, AI 기술의 발전 방향이 점점 더 어떻게 하면 더 자율적으로 인간의 개입 없이 과업을 수행할 수 있을까에 맞춰져 있다는 점이다. 인간의 직접 개입 없이 가능해질 수록, 더 빠르게 자동화 될수록 좋은 기술이고 진보된 기술이라는 것이 깔려 있다.

피지컬 AI도 로봇이 우리 대신 무언가를 해주는 것이고, AI 에이전트도 우리를 대리해서 해주는 것이다. 실제 투자도 그런 쪽으로 많이 되고 있다.

그런데 자율성이 커지면 사회적으로는 다른 양상의 문제가 생길 수 있다. 쉬운 예로, LLM 기반의 챗봇은 '비방하는 글을 써줘'라고 하면 글을 써주는 것으로 끝나지만, 에이전트로 넘어가면 그것을 직접 타인에게 (메일이나 메시지를) 보낼 역량을 갖추게 된다. 자율성이 있기 때문에 스스로 역할을 할 수 있는 게 에이전트다. 그러다 보면 책임의 경계도 달라지고 거래의 안전성을 정의하는 것도 달라질 수 있다. 

the13ook@newspim.com