세계 최초로 AI 장관이 등장했다. 이름은 디엘라(Diella), 알바니아에서 공공 입찰을 감독한다.

알바니아 정부는 전자조달 시스템과 연결된 이 AI 장관을 통해 "공공 입찰에서 부패를 100% 차단하고 모든 공적 자금을 완벽히 투명하게 관리할 것"이라고 밝혔다.

알바니아는 오랫동안 조직 범죄, 공무원 부패와 비리로 세계의 지적을 받아왔다. 이번 조치는 기술을 앞세워 내부적으로 '부패와의 전쟁'을 선포함으로써 국민의 불신을 달래고 외부적으로는 EU 가입을 위한 투명성 개선 의지를 드러낸 것으로 해석된다.

과연 AI가 '부패척결의 만능통치약'이 될 수 있을까? AI에게 장관직을 주는 것이 적합할까?

알바니아의 이 파격적인 실험은 기술적 의미뿐 아니라 정치적 의도, 사회적 반향, 그리고 기술적 한계 등에 관한 질문을 던지게 만든다.

가장 먼저 생각 해 볼 점은 'AI는 로비나 뇌물에 휘둘리지 않기 때문에 더 청렴하고 공정할 것' 라는 인식이다. 많은 이들이 AI는 감정이 없으니 인간보다 더 공정하고 객관적일 것이라 믿는다. 심지어 법관이나 정치인을 AI로 대체하면 더 나은 세상이 올 것이라 주장하는 이들도 있다.

하민회 이미지21 대표.

위험한 착각이다. 편향된 데이터는 감정보다 더 교묘한 불공정을 낳기 때문이다.

AI는 과거 데이터를 학습한다. 때문에 기존 차별과 불공정을 그대로 답습할 수 있다. 과거 조달 데이터가 이미 불공정 구조나 관행을 반영한다면, 모델의 '정확도'가 높아져도 규범적 공정성은 보장되지 않는다.

더구나 입찰 담합이나 비공식 로비는 데이터에 잘 드러나지 않는다. 설혹 이상 징후를 발견해 인간 로비스트나 정치인의 뇌물을 막는다 해도 부패는 규제와 감독에 맞추어 스스로 진화하는 속성이 있다. 특정 기업이나 세력이 AI 개발 운영권을 장악한다면 부패는 오히려 더 정교해지고 은밀해지지 않을까?

AI는 아직 블랙박스이다. '왜 그런 판단을 했는가'를 명확하게 설명하기 어렵다. 그 자체로 새로운 형태의 불투명한 권력이 될 수 있다. 역시 위험천만한 일이다.

책임성의 부재도 심각한 문제다.

AI장관이 잘못된 결정을 내리면 누가 책임을 져야 할까? 책임이 없는 AI의 결정은 누구도 책임을 지지 않는 상황을 만든다. 책임을 지지 않는 권력은 민주주의 기본원칙에도 어긋난다. 결국 AI 장관에 주어진 권력은 기술적 효율성에 불과할 뿐 정당성을 갖추지 못한다.

현실적으로 AI 장관이 실제 부패척결을 이뤄 내기는 어렵다. 더구나 무고한 기업이 부당하게 낙인 찍히는 일이라도 생기면 사회적 파장도 만만치 않을 것이다.

[사진=블룸버그통신]

그럼에도 알바니아가 굳이 AI를 장관에 임명한 까닭은 무엇일까?

공공 조달은 전 세계적으로 부패 위험이 가장 높은 영역이다. 특정 기업에 유리하게 조건을 바꾸거나, 담합으로 입찰 가를 조정하는 사례가 흔하고 공무원 비리도 잦다.

때문에 이미 해외 각국에서는 전자화·투명성, 시민 참여 등을 키워드로 삼아 조달 시스템을 구축해왔다. 최근엔 AI를 결합해 입찰서와 계약서를 읽고 법규 위반, 위험 조항 등을 찾아내 표기하거나 단독입찰 비율 급증, 입찰 공고기간 비정상적 단축, 반복 수상자 집중, 담합 의심되는 가격 패턴, 발주기관-수주사 연결고리의 의심점 같은 이상징후를 포착하고 감독한다.

조달청에서 운영하는 한국의 나라장터 (KONEPS) 역시 공고부터 입찰, 계약, 대금 지급까지 전 과정이 온라인에서 처리되어 행정비용 절감, 투명성 제고, 거래시간 단축으로 글로벌 모범사례로 꼽힌다.

굳이 AI를 장관으로 임명하지 않아도 시스템으로 충분히 부패 문제를 해결할 수 있다는 말이다.

사실 알바니아의 AI장관 임명은 혁신적인 실험이기 보단 정치적 쇼케이스에 가깝다.

당장은 24시간 AI가 감시하는 것만으로도 부패를 시도하려는 이들에게 위협이 되겠지만 AI는 결코 청렴과 공정의 대명사가 아니다. 오히려 책임의 부재, 편향의 확대, 민주적 정당성의 훼손이라는 잠재적 위험을 품고 있다.

더구나 EU 에서는 AI 장관이 고위험 AI로 분류될 수 있어, EU 가입을 지향하는 알바니아 정부는 설명 가능성, 투명성, 감사 의무 등 EU AI 법과의 정합성을 맞추어야 한다.

무엇보다 기술적 기능을 정치적·법적 상징으로 격상시킨 점은 결정적 무리수다. 책임의 주체가 되지 못하는 AI에게 '장관'이라는 호칭을 붙여 곧 부패가 척결될 것 같은 착시를 유도한 셈이다.

[고양=뉴스핌] 윤창빈 기자 = 디지털미디어테크쇼·디지털 퓨처쇼에 전시된 AI 로봇.pangbin@newspim.com

AI 장관이 국민을 현혹하는 정치적 이벤트가 되지 않으려면 AI 거버넌스가 동시에 설계되어야 한다.

모든 조달 데이터를 국제 표준에 맞춰 공개하고, 시민과 언론이 감시할 수 있도록 하고 규칙 기반 검증과 AI 기반 탐지를 결합한 하이브리드 모델을 도입해야 한다.

AI의 경보는 반드시 설명 가능한 근거와 함께 제시되어야 하고 기업이 AI 판단에 대해 이의 제기할 권리를 보장해야 한다. 관련된 최종 결정은 인간이 내리며 독립적 기관이 정기적으로 모델의 편향과 성능을 감사해야 한다.

AI 활용의 범위와 한계, 책임 구조를 국민과 공유하고 숙의 과정도 반드시 거쳐야 한다.

알바니아의 AI 장관 임명은 AI가 미래 사회의 중요한 의사결정 과정에 참여할 수 있다는 가능성을 보여준다. 그러나 이 실험이 성공하려면, 기술에 대한 맹목적인 신뢰를 넘어 기술과 인간이 상생하는 방안을 찾아내고 사회 전반의 투명성과 윤리 의식을 함께 높이는 노력이 병행되어야 한다.

AI는 부패라는 질병을 치료하는 강력한 도구이지만, 그 도구를 현명하게 사용하는 것은 결국 우리 인간의 몫이기 때문이다.

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등