과기부, 인공지능 인증제 도입하고 개발 가이드북 보급한다

기사입력 : 2021년05월13일 15:30

최종수정 : 2021년05월13일 15:30

2025년 책임있는 AI 활용 세계 5위 목표
윤리·신뢰성 높여 AI 산업 활성화 기대

[세종=뉴스핌] 이경태 기자 = 인공지능(AI) 제품 등에 대한 민간 인증제가 도입된다. 학습용 데이터의 신뢰성을 높이기 위한 표준 기준도 제시된다.

과학기술정보통신부는 13일 대통령 직속 4차산업혁명위원회 제22차 전체회의에서 이같은 내용이 포함된 '사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현전략'을 발표했다.

큰 틀에서 정부는 오는 2025년까지 책임있는 인공지능 활용 부문에서 세계 5위, 신뢰있는 사회 세계 10위, 안전한 사이버국가 세계 3위 수준을 목표로 두고 있다.

조경식 과학기술정보통신부 제2차관 [사진=과학기술정보통신부] 2021.05.06 photo@newspim.com

◆ 신뢰 가능한 인공지능을 구현할 수 있는 환경 조성

민간에서 인공지능 제품･서비스를 구현하는 단계(개발→ 검증→ 인증)에 따라 기업, 개발자, 제3자 등이 신뢰성 구현을 위해 참조할 수 있는 신뢰 확보 기준과 방법론을 제시하고 지원한다.

개발단계에서는 국내･외 신뢰성 관련 법･제도･윤리･기술적 요구사항을 한 번에 확인할 수 있는 '개발 가이드북'을 제작･보급한다. 검증단계에서는 개발 가이드북을 준수한 신뢰성 확보 여부와 그 수준을 확인하고 평가할 수 있는 검증절차･항목･방법 등의 검증체계를 마련한다. 인증단계에서는 기술·윤리적 요구사항을 충족해 검증체계를 통과한 제품·서비스에 대해 민간 자율 인증과 공시를 추진한다.

기술･재정적 상황이 열악한 스타트업 등도 체계적으로 신뢰성을 확보해 나갈 수 있도록 인공지능 구현을 위한 '데이터 확보→ 알고리즘 학습→ 검증'을 통합 지원하는 플랫폼을 운영한다. 학습용 데이터와 컴퓨팅 자원을 지원 중인 인공지능 허브(AI Hub) 플랫폼에서 검증체계에 따른 신뢰 속성별 수준 분석, 실(實)환경 테스트 등의 기능을 추가 개발·연계해 일괄적으로 지원한다.

이미 구현된 시스템에 인공지능이 판단기준 등을 설명할 수 있는 기능을 추가할 수 있고, 인공지능이 스스로 법･제도･윤리적 편향성을 진단하고 효율적으로 제거할 수 있도록 인공지능의 설명가능성, 공정성, 견고성 제고를 위한 원천기술 개발도 추진한다.

◆ 안전한 인공지능 활용을 위한 기반 마련

민･관이 인공지능 학습용 데이터 제작공정에서 공통적으로 준수해야할 신뢰 확보 검증지표 등의 표준 기준을 민간과 함께 마련, 통일성 있게 구축 될 수 있도록 확산한다. 디지털 뉴딜로 추진되는 데이터 댐 사업에서는 구축 전 과정에서 저작권, 개인정보보호와 같은 법·제도 준수 여부 등의 신뢰성 확보 고려사항을 선제적으로 적용해 품질을 향상시킨다.

국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 인공지능의 범주를 설정하고, 서비스 제공 전에 해당 인공지능의 활용 여부를 이용자에게 고지하도록 할 예정이다. 고지 이후, 해당 인공지능 기반 서비스에 대한 이용 거부, 인공지능의 판단 근거에 대한 결과 설명 및 이에 대한 이의제기 등의 제도화와 관련해 글로벌 입법･제도화 동향, 산업적 파급력, 사회적 합의･수용성, 기술적 실현 가능성 등을 고려해 종합적으로 검토할 계획이다.

과학기술정보통신부는 12일 '인공지능 학습용 데이터 사업'의 2차 공모를 시작했다. [자료=게티이미지뱅크] 2021.05.11 biggerthanseoul@newspim.com

인공지능이 국민생활 전반에 미치는 영향을 종합･체계적으로 분석하고 대응하기 위해 지능정보화기본법에 규정된 사회적 영향평가도 도입한다. 신뢰성 요소(안전성, 투명성 등)를 토대로 인공지능의 영향력을 종합 분석해 향후 인공지능 관련 정책이나 기술･관리적 조치방안 수립 시 활용할 예정이다.

인공지능에 대한 신뢰 확보와 이용자의 생명·신체보호와 관련된 과제에 대해 ▲업계 자율적 알고리즘 관리･감독환경 조성 ▲플랫폼 알고리즘 공정성･투명성 확보 ▲영업비밀 보장을 위한 알고리즘 공개기준 마련 ▲고위험 기술기준 마련 등 제도를 개선한다.

◆ 사회 전반의 건전한 인공지능 의식 확산

인공지능이 사회에 미치는 영향, 인간-인공지능 간 상호작용 등 사회·인문학적 관점과 윤리 기준의 사회 실천을 인식할 수 있는 내용을 담은 인공지능 윤리교육 총론을 마련한다. 이를 토대로 연구·개발자, 일반시민 등 맞춤형 윤리 교육을 개발·실시한다.

인공지능 윤리기준에 대한 구체적인 행위지침으로, 연구･개발자, 이용자 등이 업무, 일상생활 속에서 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트도 개발해 보급한다. 인공지능 윤리기준을 기본원칙으로 해 타 분야의 자율점검표와도 체계성과 정합성을 유지해 현장의 실천 가능성을 높인다.

학계·기업·시민단체·공공 등 다양한 사회 구성원이 참여해 인공지능 윤리에 대해 깊이 있게 토의하고 의견 수렴 및 발전방향을 논의하는 공론의 장도 마련해 운영한다.

조경식 과기부 2차관은 "챗봇 이루다 사건은 우리 사회가 인공지능의 신뢰성에 대해 어떻게 대처해야 하는 지 많은 숙제를 안기는 계기가 됐다"며 "정부는 AI 서비스 개발 과정에서 혼란을 겪거나 국민이 피해보지 않도록 AI의 신뢰 확보 기준을 명확히 할 뿐더러 기술적·재정적으로 여력이 부족한 중소기업이 신뢰성 기준을 준수할 수 있도록 지원할 것"이라고 강조했다.

biggerthanseoul@newspim.com

사진

외교부 1차관 인사 충격파 [서울=뉴스핌] 유신모 외교전문기자 = 국장급에서 일약 차관으로 직행한 박윤주 외교부 1차관 임명에 외교부가 술렁이고 있다. 외교부 조직과 인사를 총괄하는 책임자인 1차관에 현재 실장급(1급)보다 후배 기수인 박 차관을 전격 기용한 배경을 놓고 설왕설래 중이다. 이번 인사는 파격을 넘어 충격에 가깝다. 박 차관은 전임 김홍균 1차관보다 외무고시 기수로 11기 아래이며 나이도 9살이나 어리다. 박 차관이 미국 관련 업무를 오래했다고는 하나 본부 주요 국장도 거치지 않았고 공관장도 특명전권대사가 아닌 총영사를 지냈다. 기수나 나이, 경력 모든 면에서 전례가 없는 인사다. [서울=뉴스핌] 이길동 기자 = 박윤주 신임 외교부 1차관이 11일 오전 서울 종로구 외교부에 첫 출근을 하고 있다. 2025.06.11 gdlee@newspim.com 퇴직한 외교관 출신의 한 인사는 "차관이 실장보다 후배였던 경우는 외교부 역사상 한 번도 없었다"면서 "이 정도 인사면 조직에 미치는 영향이 만만치 않을 것"이라고 말했다. 전남 보성 출신인 박 차관은 민주당 정부에서 요직을 거쳤다. 노무현 정부 출범 때 정권인수위원회를 거쳐 이종석 당시 청와대 국가안전보장회의(NSC) 사무차장 밑에서 일했다. '자주파·동맹파 파동'으로 외교부 북미국장에서 물러난 위성락 현 국가안보실장도 당시 NSC에서 함께 일했으며, 위 실장이 주미 대사관 정무공사일 때도 워싱턴 공관에서 함께 근무했다. 문재인 정부 들어 북미국 심의관과 인사기획관을 거쳐 애틀랜타 총영사로 임명됐지만, 1년여 만에 윤석열 정부 출범과 함께 교체됐다. 외교부가 술렁이는 이유는 단순히 의외의 인물이 발탁됐기 때문만은 아니다. 박 차관 임명이 의미하는 것이 무엇인지에 대한 불안감이 있다. 전례없는 파격 인사로 조직에 충격을 가하고 강도 높은 조직 개편과 체질 개선을 추진하기 위한 인사가 아니냐는 관측이 나오고 있다. 외교부는 민주당 정부가 집권했을 때마다 개혁의 대상이었으며, 실제로 외교부를 '손보려는' 시도도 자주 있었다. 노무현 정부때는 중앙인사위원회·행정자치부 출신의 차관을 임명해 조직 개편을 시도했고, 문재인 정부 때는 주미 대사관의 한·미 정상통화 유출사건을 계기로 외교부 내 '친미 라인'을 제거하기 위해 과도한 징계를 가해 물의를 빚은 적도 있다. 외교부의 한 중견 간부는 "이번 차관 인사가 태풍의 전조일지도 모른다는 불안감이 외교부 내에 있는 것이 사실"이라며 "박 차관 임명이 조직에 활력을 불어넣는 신선한 충격으로 작용하기를 바란다"고 말했다. opento@newspim.com 2025-06-11 16:23

사진

[이재명의 사람들]김현지 총무비서관 [서울=뉴스핌] 지혜진 기자 = 이재명 정부가 출범한 지 1주일이 지난 가운데 비서실장을 비롯해 수석비서관급 인선도 추가로 이뤄지고 있다. 현재까지 드러난 이재명 대통령 인선의 핵심은 '실용'이다. 인수위원회 없이 출발해야 하는 정부인 만큼 기존에 손발을 맞춰온 인사들을 적극적으로 등용하는 모습이다. 특히 이 대통령이 경기 성남시장, 경기도지사 때부터 호흡을 맞춰온 성남·경기라인 인물들은 정부 요직에 내정됐다. 대표적인 인물이 총무비서관으로 내정된 김현지 전 보좌관이다. 이 대통령의 최측근 중 한 명으로 꼽히는 김 전 보좌관은 이 대통령이 성남시장이던 때 시민운동을 하면서 인연이 닿았다. 대학 졸업 직후인 1998년 당시 변호사이던 이 대통령이 설립을 주도한 성남시민모임에 합류했으며 이곳에서 집행위원장, 사무국장 등을 거쳤다. 이 대통령이 정치를 결심하게 된 계기가 됐던 성남시립병원 설립 운동도 함께했다. 성남시립병원추진위원회에서 사무국장을 역임한 것. 이후 이 대통령이 성남시장에 당선된 후에도 시민운동에 방점을 찍었다. 그는 2011년 성남 지역에서 활동하는 환경·도시 전문가 등이 주축이 된 민관 협력 기구 '성남의제21'에서 사무국장으로 활동했다. 그러다 이 대통령이 2018년 경기도지사에 당선된 후에야 도청 비서관직을 맡으며 본격적으로 이 대통령을 보좌하기 시작했다. 김 전 보좌관은 '그림자 보좌'로 유명하다. 본인이 전면에 나서지 않는 성향이다. 시민운동가로 활동할 때는 지역 언론 인터뷰에도 응하는 등 적극적인 모습을 보였으나 이 대통령이 국회에 입성한 이후에는 언론 노출을 지양해왔다. 또한 김 전 보좌관은 이 대통령에게 직언을 아끼지 않는 것으로 알려졌다. 당 관계자는 "김 전 보좌관은 리스크 관리를 중요시하는 사람이다. 문제가 될 만한 것들은 사전에 차단하려고 하고 조심성이 강하다"고 했다. 이 대통령의 최측근으로 꼽히던 정진상 전 당대표실 정무조정실장과 김용 전 민주연구원 부원장이 각각 대장동 사건과 불법 정치자금 수수 혐의 등으로 사법리스크에 휘말리면서 당직을 내려놓은 영향도 있다. 김 전 보좌관이 정 전 실장과 김 전 부원장의 자리를 대체했다는 이야기도 있었다. 김 전 보좌관이 맡게 될 대통령실 총무비서관은 대통령실 예산을 총괄하는 직책으로 공무원 직제상 1급에 해당한다. 특히 대통령실 2급 이하 행정관 등 실무진 인사에 관여할 수 있다. 이 대통령은 수석급 인선에는 강훈식 비서실장, 우상호 정무수석, 강유정 대변인 등 비교적 친명(친이재명) 색채가 옅은 통합형 인재를 등용하는 한편 실무라인에는 김 전 보좌관처럼 오랜 기간 손발을 맞춰온 '복심'들을 배치하고 있다. 대통령실 1부속실장에 내정된 김남준 전 당대표 정무부실장, 의전비서관의 권혁기 당대표 정무기획실장, 인사비서관의 김용채 전 보좌관 등이 대표적이다. 원외에서 이 후보를 후방지원한 더민주전국혁신회의 핵심인물들도 이재명 정부에서 주요 역할을 할 것으로 보인다. 윤용조 혁신회의 집행위원장은 대통령 국가안보실 비서관으로 배치될 가능성이 크다. 강위원 혁신회의 상임고문은 전남 경제부지사에 내정된 것으로 확인됐다. 내년 지방선거를 앞두고 새 정부와 더 긴밀히 호흡을 맞출 수 있는 점을 고려한 것으로 보인다. heyjin@newspim.com 2025-06-11 17:10