[서울=뉴스핌] 배요한 기자 = 자율주행자동차, 의료뿐만 아니라 금융, 광고마케팅, 제조업 등 세계적으로 다양한 산업분야에 인공지능이 활용되기 시작했다. 이와 함께 인공지능 스타트업에 대한 투자도 81조원이 몰리는 등 활발한 투자가 이뤄지고 있는 반면, 인공지능 모델의 안전성 및 신뢰성, 성능에 대한 우려도 함께 커지고 있다.

글로벌 시장조사기관 CB인사이트가 발간한 'AI현황 보고서(State of AI 2021 Report)'에 따르면 AI스타트업에 대한 글로벌 투자액은 지난해 668억달러(81조원)으로 2020년 321억달러(40조원)보다 108% 늘었다.

많은 산업분야에서 'AI는 기반기술'이라는 인식이 커지고 있는 가운데, 활용되는 AI가 기대지능을 충족하는지에 대한 객관적인 검증의 필요성이 확대되고 있다. 이러한 움직임은 고신뢰성이 필요한 의료, 금융분야, 자율주행 자동차를 중심으로 확산되고 있으며, 스마트팩토리, 마케팅 등 범용 AI분야 에서도 그동안 AI 개발자 및 공급자 중심의 시장에서 수요처와 투자자 중심의 시장으로 이동하기 위한 노력이 이어지고 있다.

이에 인공지능의 신뢰성과 관련된 논의가 활발하게 진행되고 있는 추세다. 성능뿐만 아니라 안전성, 설명가능성, 투명성, 공정성과 함께 시간 및 환경변화에도 동일 성능을 유지할 수 있는 견고성, 지속가능성 등에 대한 기준이 마련되고 있다. 지난해 국내 최초로 설립된 한국인공지능검증원은 누구나 신뢰할 수 있는 인공지능 검증을 위한 노력을 기울이고 있다.

한국인공지능검증원은 AI모델만을 대상으로 검증하는 민간기관이다. AI모델의 성능검증을 위한 다양한 검증사례 및 방법에 대한 연구와 안전한 인공지능 구현을 위한 학습데이터 품질검증 등을 수행하고 있다. 빠른 속도로 변화하는 인공지능 기술변화에 대응해 최신정보 확보 및 검증기술 고도화를 위한 산학연 전문가와의 다양한 연구개발을 진행하고 있다.

업계 관계자는 "정확한 진단, 신속한 분류, 체계적인 예측 등 인공지능이 주는 이익이 커지는 한편 막연한 우려감도 함께 높아지고 있다"며 "이를 감소시키는 신뢰가능한 인공지능 구현환경 조성 및 안전한 인공지능 활용을 위한 노력이 무엇보다 필요한 시기"라고 전했다.

yohan@newspim.com