[김정호의 4차 혁명 오딧세이] 인공지능 윤리선언 필요하다

기사입력 : 2018년07월09일 08:00

최종수정 : 2018년07월09일 08:16

인공지능이 인간에게 위협적인 이유

인공지능은 강력한 그래픽 프로세서(GPU)와 메모리를 장착한 컴퓨터에 빅데이터를 이용해서 학습시키면 인간보다 뛰어난 역량을 발휘할 수 있다. 빅데이터만 충분하고, 강력한 컴퓨터 성능을 가지면 인간보다 빠르게 학습하고, 기억을 영원히 무한대로 유지하면서, 대량의 작업을 빠른 속도로 정확하게 수행한다.

김정호 카이스트 교수

뿐만 아니라 인간보다 정확하게 미래 예측을 할 수 있다. 따라서 우리는 새로운 삶의 방식과 일자리를 창출해야 한다. 이것을 4차 산업혁명이라 부른다.

인공지능을 잘 활용하면 인간에게 이롭게 작용할 수 있다. 컴퓨터가 인간의 뇌 활동을 대신함으로써 인간에게 시간을 절약해 준다. 남은 시간을 인간이 여가 활동이나 창조적인 활동, 인류에 봉사하는 활동에 시간을 쓸 수 있게 해 준다.

뿐만 아니라 인공지능을 통해서 미래를 정확하게 예측함으로써 국가, 사회, 기업, 개인에게 노동, 자원, 그리고 자본을 절약할 수 있는 기회를 준다. 따라서 지구 속에 인간 생존을 영속할 수 있는 기회를 만들어 준다. 궁극적으로 인간에게 노동, 자원, 에너지, 시간에 대한 구속을 석방하고, 자유를 선사할 수 있다.

그러나 마찬가지로 인공지능은 인류에게 매우 위협적이다.

먼저 대부분의 단순 사무직 직업은 컴퓨터가 대체하게 된다. 사람과 같이 52시간 노동 시간 제한도 없다. 일하는 동안 졸지도 않는다. 불평도 없다. 노조도 없다. 직업에서 인간 통제를 완전히 벗어 날 수 있다. 경우에 따라 지능이 더 발전하여 인간의 통제를 벗어나 인간이 인공지능에 종속될 가능성도 가정해 볼 수 있다.

더 나아가 경제적인 부분에서도 인간 사회에 고민을 만든다. 인공지능은 돈을 쓰지 않는다. 세금을 내고 있지 않다. 따라서 현재의 자원, 생산, 소비, 유통, 세금 등으로 이루어진 경제 원리와 체계가 완전히 달라질 수 있다. 평화로운 인간 사회의 균형과 질서가 소멸될 수 있다.

인공지능의 핵심 기술이 딥러닝 뉴럴 네트워크의 개념. [출처 : KAIST]

구글의 인공지능 7가지 원칙

최근 구글이 '메이븐 프로젝트'라 불리는 프로젝트를 통해서 미국 국방부와 인공지능을 활용한 무기 성능 향상 프로젝트에 참여한 것이 문제가 됐다. 논란끝에 구글 직원들의 반대로 '메이븐 프로젝트'가 철회되었다. 이후 구글은 "우리는 인공지능을 활용한 자율작동 무기 개발에는 참여하지 않는다는 원칙을 정했다"고 밝혔다.

구글은 더 나아가 7가지 인공지능 원칙도 발표했다. 그 7가지 원칙은 다음과 같다. 인공지능을 이용하여 개발하고 연구함에 있어서 “(1) 사회적으로 유익하며, (2) 불공정한 편향을 만들어내거나 강화하지 않고, (3) 안전성을 우선으로 설계하고, (4) 인간을 위해 책임을 다하며, (5) 개인정보를 보호하고, (6) 과학적 우수성에 대한 높은 기준을 유지하는, (7) 이러한 원칙에 부합하는 용도에만 활용한다”는 원칙이다. 덧붙여 구글 CTO 제프 딘은 "구글의 엔지니어 2만명은 인공지능 원칙에 관한 교육과정을 다 거쳤다”다고 밝혔다.

지난 6월 16일 서울에서 열린 'AI with Google 2018' 에서 구글의 인공지능 개발 현황을 발표하고 있는 구글 CTO 제프 딘, [출처: 구글 코리아]

15가지 인공지능 윤리선언

이러한 배경하에 '인공지능 윤리선언'을 고려할 필요가 있다고 생각한다. 그래서 필자는 다음과 같은 15가지 '인공지능 윤리선언'을 제안한다.

(1) 인공지능은 인간의 생명과 존엄성을 최고의 가치로 지킨다.

(2)인공지능은 인류의 자유, 평화, 평등, 정의를 수호하고 인류의 번영과 지속에 기여한다.

(3)인공지능은 인류의 보편적 윤리에 반하는 어떠한 결정과 행동을 하지 않는다.

(4) 인공지능은 인간을 사랑하고 인류 역사를 존중한다.

(5) 인공지능은 인간을 공격하지 않는다.

(6)인공지능 학습에 필요한 데이터는 인류의 보편적 윤리와 가치를 반영한다.

(7)인공지능 학습에 필요한 데이터를 인위적으로 조작하지 않는다.

(8)인공지능은 결혼하지 않고, 자식을 낳지 않는다.

(9)인공지능의 복제 숫자는 제한한다.

(10)인공지능의 수명을 제한한다.

(11)인공지능의 메모리 용량을 제한한다.

(12)인공지능의 전력 소비를 인간의 수준으로 제한한다.

(13)인공지능은 그를 이용한 이윤에 대해서 사회에 세금으로 보답한다.

(14)인류에 해를 가하는 인공지능은 영원히 삭제한다. 그 권리는 최종적으로 인간이 갖는다.

(15)인공지능의 전기 공급 차단 권한은 최종적으로 인간이 갖는다.

이러한 인공지능 윤리에 대한 논란을 통해서 인공지능의 순기능을 강화하고, 인공지능이 갖고 올 수 있는 미래 재난을 사전에 방지할 필요가 있다.

joungho@kaist.ac.kr

[카이스트 전기 및 전자공학과 교수]

사진

김계환 오늘 영장심사...위증 혐의 [서울=뉴스핌] 고다연 기자 = '채해병 사건' 수사외압 의혹의 핵심 인물로 꼽히는 김계환 전 해병대 사령관이 오는 22일 중앙지법에서 구속 심사를 받는다. 순직해병 사망사건 관련 의혹을 수사하는 이명현 특별검사팀이 18일 모해위증 등 혐의로 김계환 전 해병대사령관에 대한 구속영장을 청구했다. 순직해병 사망사건 관련 의혹을 수사하는 이명현 특별검사팀이 18일 모해위증 등 혐의로 김계환 전 해병대사령관에 대한 구속영장을 청구했다. 남세진 영장 전담 부장판사가 22일 오전 10시 30분 김 전 사령관의 영장실질심사(구속 전 피의자 심문)을 진행한다. [사진=뉴스핌 DB] 남세진 영장 전담 부장판사가 22일 오전 10시 30분 김 전 사령관의 영장실질심사(구속 전 피의자 심문)을 진행한다. 이번 구속영장 청구는 지난 2일 순직해병특검 출범 이후 첫 신병확보 시도다. 김 전 사령관은 2023년 7∼8월 채상병 순직 사건 당시 초동 조사한 박정훈 전 해병대 수사단장(대령)에게 윗선의 외압이 가해지는 과정에 관여했다는 의혹을 받고 있다. 김 전 사령관은 지난해 2월 군사법원에서 열린 박 대령의 항명 혐의 재판에 증인으로 출석해 이른바 'VIP 격노설'을 박 대령에게 전달한 적 없다고 주장하며, "나 아니면 안 된다는 착각과 영웅심리로 해병대의 역사와 전통을 흔들어선 안 된다"고 박 대령을 비판했다. 앞서 특검팀은 이날 오후 언론 공지를 통해 구속영장 청구 사실을 알리며 "김계환은 채상병 사망 사건 당시 해병대 사령관으로, 해병대 수사단장 박정훈 대령에게 수사기록 이첩 관련 지시를 한 상관"이라며 "특검은 피의자가 죄를 범하였다고 의심할만한 상당한 이유가 있고, 범죄가 중대하며, 증거인멸의 가능성이 크므로 구속수사가 필요하다고 판단하고 있다"고 밝혔다. gdy10@newspim.com 2025-07-18 20:56

사진

'갑질 의혹' 강선우 살린 까닭 [서울=뉴스핌] 이재창 정치전문기자 = 이재명 대통령이 20일 이진숙 교육부 장관 후보자에 대한 지명을 철회하고 강선우 여성가족부 장관 후보자는 살리기로 했다. 장관 후보자들에 대한 도덕성 논란이 심각한 상황에서 낙마자 없이 넘어갈 수는 없다는 판단에 따라 상징적인 낙마자로 이 후보자를 선택한 것이다. 야당이 강력히 요구한 두 명 중 한 명을 낙마시킴으로써 야당의 체면을 세워주는 모양새를 취하는 동시에 독주한다는 부정적 이미지를 피하려 한 것이다. 이 대통령 입장에서는 이 후보자 낙마가 측근인 강 후보자에 비해 부담이 상대적으로 덜했다. 강 후보자가 낙마할 경우 현역 의원 낙마 1호라는 불명예를 안게 돼 의원직을 수행하기도 여의치 않은 상황이었다. 이 후보자 낙마로 강 후보자를 구제한 것이다. [서울=뉴스핌] 이길동 기자 =강선우 여성가족부 장관 후보자가 26일 서울 종로구 수송동에 마련된 마련된 인사청문회 준비 사무실로 출근하며 취재진의 질문에 답하고 있다.2025.06.26 gdlee@newspim.com 이 대통령과 여권 핵심은 지난주 이미 한 명 낙마 쪽으로 가닥을 잡았다. 우상호 정무수석이 "일부 후보자의 경우 청문회 이후에도 논란이 계속돼 여론이 악화하고 있다"고 말했다. 낙마를 사실상 기정사실화한 것이다. 특히 주말 여야 원내대표를 만나 의견을 구한 것은 최소한 한 명의 낙마를 전제로 한 것이었다. 야당 대표까지 만나고 모든 후보자를 밀어붙일 경우 독주한다는 비판을 피하기 어렵기 때문이다. 더불어민주당이 주장한 낙마자 제로는 이 대통령의 결단을 부각하기 위한 전술이었다. '낙마자는 없다'는 여당의 강경론에도 이 대통령이 지명 철회를 요구하는 야당과 민심을 수용하는 모양을 취할 수 있도록 한 것이다. 자진 사퇴가 아니라 지명 철회라는 강수는 야당의 요구를 수용하는 모양을 취한 것이다. [서울=뉴스핌] 정일구 기자 = 이진숙 부총리 겸 교육부 장관 후보자가 16일 오전 서울 여의도 국회 교육위원회에서 열린 인사청문회에서 모두발언을 하고 있다. 2025.07.16 mironj19@newspim.com 관심은 낙마자가 한 명이냐, 아니면 두 명이냐였다. 두 후보자 모두 낙마 1순위였다. 한 명을 살리기 어려울 정도로 막상막하였다. 논문 표절과 자녀 불법 조기 유학 의혹이 불거진 데다 전문성도 결여돼 있다는 지적을 받은 이 후보자의 낙마는 사실상 결정된 상태였다. 여기에 강 후보자까지 포함시킬지 여부가 초미의 관심사였다. 파상 공세를 취하는 야당이 문제가 아니었다. 두 후보자에 대해 진보색이 강한 시민 단체마저 낙마를 요구했다. 여론을 중시하는 이 대통령 입장에서는 곤혹스러운 상황이 아닐 수 없었다. 자칫 지지 세력이 등을 돌릴 수 있어서다. 이런 상황에서 이 후보자 낙마와 강 후보자 구제는 여당 기류에서 그대로 나타났다. 대통령실 주변에서 "이 후보자는 외부에서 추천했다"는 얘기가 흘러나온 것은 낙마자가 나올 경우 1순위는 이 후보자가 될 수 있음을 강하게 시사한 것이다. 낙마하더라도 부담이 덜할 수 있다는 의미로 받아들여진 것이다. 당 분위기는 더 노골적이었다. 강 후보자에 대해서는 입단속이 이뤄진 것으로 알려졌으나 이 후보자에 대해서는 특별한 지침이 없었다고 한다. 이를 반영하듯 강 후보자에 대해서는 지난주 중반까지 여론이 싸늘했지만 그 이후 당 주변에서는 더 이상 얘기가 나오지 않았다. 이 후보자에 대해서는 달랐다. 김상욱 의원에 이어 강득구 의원이 공개적으로 이 후보자를 비판하며 거취를 거론했다. 강 의원은 "연구 윤리 위반, 반민주적 행정 이력, 전문성 부족 등은 결코 가볍게 넘길 수 없는 중대 결격 사유"라고 말했다. 이 후보자 낙마로 분위기를 몰아가는 듯했다. 이 후보자는 논문 표절 문제가 컸지만 이재명 정부가 전면에 내세운 유능함도 보여주지 못한 게 결정적이었다. 여권이 갑질 논란이 심했던 강 후보자를 감싼 논리가 유능함이었다. 청문회 과정에서 유보 통합 등 교육 정책과 관련된 기본적인 사항조차 숙지하지 못해 전문성에 심각한 의구심이 제기됐다. 여당 의원들조차 "어떻게 그런 것도 대답을 하지 못하느냐"는 비판이 나올 정도였다. 우상호 대통령실 정무수석은 이날 오후 용산 대통령실에서 브리핑을 통해 인사청문회를 거쳤지만 임명이 안 된 11명의 장관 후보자 중 지명 철회는 이 후보자 한 명이라는 점을 분명히 해 강 후보자는 임명 절차를 밟을 것임을 시사했다. 강 후보자의 인사청문경과보고서가 채택되지 않은 상태에서 임명을 강행하려면 절차상 국회에 보고서 재송부를 요청해야 하는 만큼 이 대통령은 이른 시일 내에 관련 조치에 나설 것으로 보인다. 이 대통령이 강 후보자를 임명한다고 해도 부담은 남는다. 강 후보자의 사퇴를 요구한 상당수 민주당 보좌진들과 정서적으로 등을 지게 될 수밖에 없다. 강 후보자 사퇴를 요구한 시민단체의 입장도 부담이다. 야당은 여론을 돌리기 위한 파상 공세에 나서고 있다. 강 후보자도 갑질 장관이라는 낙인이 찍힌 상태에서 업무를 제대로 수행할 수 있을지도 의문이다. 향후 여론 추이에 관심이 쏠리는 이유다. leejc@newspim.com 2025-07-21 06:45

속보

[김정호의 4차 혁명 오딧세이] 인공지능 윤리선언 필요하다

GAM - 해외주식 투자 도우미

[뉴스핌 베스트 기사]

[주요포토]

뉴스핌TV

스팟Live