[서울=뉴스핌] 전미옥 기자 = 한국산업은행이 인공지능(AI) 내부통제 체계 구축에 나선다. 고위험 AI에 대해서는 별도 승인 절차와 책임자 지정을 의무화하고, 기존 AI 서비스도 재검증하는 방향이다. AI 활용이 여신·기업분석 등 핵심 금융업무 전반으로 확대되면서 AI운영 전 과정에 대한 관리 기준을 본격적으로 마련하는 모습이다.

29일 금융권에 따르면 산업은행은 최근 약 5억원 규모의 'KDB AI 거버넌스 수립 컨설팅'을 발주했다. AI 윤리기준과 의사결정체계, 위험관리체계, AI 개발·활용 단계별 점검 기준 등을 마련하려는 것이다. 약 4개월간 컨설팅을 진행, 이르면 내년 3월쯤 AI 거버넌스 체계를 완성할 전망이다.

산은은 이번 사업의 배경으로 올해 1월 AI기본법 시행에 따른 법적 리스크와 생성형 AI 활용 확대를 꼽았다. AI 부작용으로 인한 금융사고와 평판 훼손, 법적 책임 가능성을 줄이고 고객과 임직원의 권리를 보호할 수 있는 관리체계가 필요하다는 판단이다.

특히 고위험 AI 서비스에 대한 별도 통제체계를 마련하는 것이 핵심이다. 산은은 고위험 AI 서비스를 도입할 경우 별도의 승인 절차를 거치고 책임자를 지정하도록 내부통제 기준을 만들 계획이다. AI협의체와 AI윤리위원회 등 별도 의사결정기구 설립 방안과 AI 위험관리 조직의 역할도 함께 정한다.

이미 사용 중인 AI 서비스도 다시 들여다본다. 산은은 현재 운영 중인 AI 서비스를 대상으로 위험관리 실증(PoC)을 진행하고 AI 모델 평가·검증 기준과 단계별 체크리스트를 마련할 예정이다. AI 운영 과정에서 발생할 수 있는 오류와 편향 등을 지속 관리하는 체계로 전환하겠다는 취지다.

관련해 산은은 AI 활용 범위를 빠르게 넓히고 있다. 산은은 지난해 2월 업무효율화용 내부 생성형 AI인 'KDB GPT'를 도입한데 이어 올해 4월에는 기업 재무분석 보고서를 AI로 작성·분석하는 '재무분석 AI 에이전트'를 자체개발했고 같은 달 전 직원 대상 업무용 AI포털 서비스인 '웍스AI'를 도입했다. 

여기에 더해 산은은 향후 AI 에이전트를 여신업무 전반으로 확대할 계획이라고 밝힌 바 있다. AI 활용범위가 핵심업무로 확대되면서 AI의 오류가 실제 금융 의사결정에 미칠 영향을 통제할 필요성이 커진 셈이다.

산은은 이번 컨설팅을 통해 AI기본법상 고영향 AI 판별 절차와 워터마크 등 투명성 확보 의무도 내부 체계에 반영할 방침이다. 향후 금융당국의 검사와 외부평가에도 대응할 수 있는 기반을 마련한다는 구상이다. 또한 행내 AI 경진대회를 통해 AI 활용 아이디어를 발굴하는 등 내부 활용 확산에도 나서고 있다.

산은 관계자는 "AI기본법 시행에 따라 법적 리스크를 최소화하고, 생성형 AI 등 기술 활용 확대에 맞춰 안전한 AI 개발·활용 체계를 마련할 필요성이 커졌다"며 "유관부서와 협업해 내년 1분기 중 AI 거버넌스 체계를 도입할 예정"이라고 설명했다.

산은뿐 아니라 은행권 전반에서도 AI 관리체계 구축이 확산하고 있다. AX 전환이 올해 주요 화두로 떠오르면서 AI 활용 확대와 함께 내부통제 기준을 정비하려는 움직임이 빨라지는 모습이다. IBK기업은행은 지난 3월 AI 개발·운영 전 과정과 위험등급별 통제기준을 마련하기 위한 거버넌스 구축에 착수했고, 한국수출입은행도 4월부터 자체 생성형 AI 플랫폼 'KEXIM AI' 구축과 함께 내부 규정과 윤리기준 등 관리체계를 수립 중이다.

시중은행들도 AI 위험관리 강화에 속도를 내고 있다. KB국민은행은 AI윤리위원회를 두고 서비스별 위험등급에 따라 관리하며, 고위험 AI에는 별도 승인 절차를 적용하고 있다. 신한은행도 AI 개발·운영 단계별 통제와 함께 중요 의사결정은 사람이 최종 판단하도록 하고 있다.

NH농협금융은 올해 말까지 그룹 차원의 AI 거버넌스를 구축해 농협은행 등 계열사에 공통 관리기준을 적용할 계획이며, 하나·우리금융도 생성형 AI의 정보유출과 오류, 편향 등을 관리하기 위한 내부 가이드라인과 보안통제를 정비 중이다. AI 활용이 핵심 금융업무로 확대되는 만큼 최종 판단과 책임 주체를 명확히 하는 것이 공통 과제로 떠오르고 있다.

금융권 한 관계자는 "최근 금융당국도 AI 활용 과정에서 최종 판단과 책임은 임직원에게 있다는 원칙을 강조하고 있다"며 "은행들은 이에 맞춰 AI 위험을 사전에 점검하고 책임소재를 명확히 하는 방향으로 내부통제 체계를 강화하는 추세"라고 말했다.

romeok@newspim.com