[김정호의 4차 혁명 오딧세이] 인공지능 윤리선언 필요하다

기사입력 : 2018년07월09일 08:00

최종수정 : 2018년07월09일 08:16

인공지능이 인간에게 위협적인 이유

인공지능은 강력한 그래픽 프로세서(GPU)와 메모리를 장착한 컴퓨터에 빅데이터를 이용해서 학습시키면 인간보다 뛰어난 역량을 발휘할 수 있다. 빅데이터만 충분하고, 강력한 컴퓨터 성능을 가지면 인간보다 빠르게 학습하고, 기억을 영원히 무한대로 유지하면서, 대량의 작업을 빠른 속도로 정확하게 수행한다.

뿐만 아니라 인간보다 정확하게 미래 예측을 할 수 있다. 따라서 우리는 새로운 삶의 방식과 일자리를 창출해야 한다. 이것을 4차 산업혁명이라 부른다.

인공지능을 잘 활용하면 인간에게 이롭게 작용할 수 있다. 컴퓨터가 인간의 뇌 활동을 대신함으로써 인간에게 시간을 절약해 준다. 남은 시간을 인간이 여가 활동이나 창조적인 활동, 인류에 봉사하는 활동에 시간을 쓸 수 있게 해 준다.

뿐만 아니라 인공지능을 통해서 미래를 정확하게 예측함으로써 국가, 사회, 기업, 개인에게 노동, 자원, 그리고 자본을 절약할 수 있는 기회를 준다. 따라서 지구 속에 인간 생존을 영속할 수 있는 기회를 만들어 준다. 궁극적으로 인간에게 노동, 자원, 에너지, 시간에 대한 구속을 석방하고, 자유를 선사할 수 있다.

그러나 마찬가지로 인공지능은 인류에게 매우 위협적이다.

먼저 대부분의 단순 사무직 직업은 컴퓨터가 대체하게 된다. 사람과 같이 52시간 노동 시간 제한도 없다. 일하는 동안 졸지도 않는다. 불평도 없다. 노조도 없다. 직업에서 인간 통제를 완전히 벗어 날 수 있다. 경우에 따라 지능이 더 발전하여 인간의 통제를 벗어나 인간이 인공지능에 종속될 가능성도 가정해 볼 수 있다.

더 나아가 경제적인 부분에서도 인간 사회에 고민을 만든다. 인공지능은 돈을 쓰지 않는다. 세금을 내고 있지 않다. 따라서 현재의 자원, 생산, 소비, 유통, 세금 등으로 이루어진 경제 원리와 체계가 완전히 달라질 수 있다. 평화로운 인간 사회의 균형과 질서가 소멸될 수 있다.

인공지능의 핵심 기술이 딥러닝 뉴럴 네트워크의 개념. [출처 : KAIST]

구글의 인공지능 7가지 원칙

최근 구글이 '메이븐 프로젝트'라 불리는 프로젝트를 통해서 미국 국방부와 인공지능을 활용한 무기 성능 향상 프로젝트에 참여한 것이 문제가 됐다. 논란끝에 구글 직원들의 반대로 '메이븐 프로젝트'가 철회되었다. 이후 구글은 "우리는 인공지능을 활용한 자율작동 무기 개발에는 참여하지 않는다는 원칙을 정했다"고 밝혔다.

구글은 더 나아가 7가지 인공지능 원칙도 발표했다. 그 7가지 원칙은 다음과 같다. 인공지능을 이용하여 개발하고 연구함에 있어서 “(1) 사회적으로 유익하며, (2) 불공정한 편향을 만들어내거나 강화하지 않고, (3) 안전성을 우선으로 설계하고, (4) 인간을 위해 책임을 다하며, (5) 개인정보를 보호하고, (6) 과학적 우수성에 대한 높은 기준을 유지하는, (7) 이러한 원칙에 부합하는 용도에만 활용한다”는 원칙이다. 덧붙여 구글 CTO 제프 딘은 "구글의 엔지니어 2만명은 인공지능 원칙에 관한 교육과정을 다 거쳤다”다고 밝혔다.

지난 6월 16일 서울에서 열린 'AI with Google 2018' 에서 구글의 인공지능 개발 현황을 발표하고 있는 구글 CTO 제프 딘, [출처: 구글 코리아]

15가지 인공지능 윤리선언

이러한 배경하에 '인공지능 윤리선언'을 고려할 필요가 있다고 생각한다. 그래서 필자는 다음과 같은 15가지 '인공지능 윤리선언'을 제안한다.

(1) 인공지능은 인간의 생명과 존엄성을 최고의 가치로 지킨다.

(2)인공지능은 인류의 자유, 평화, 평등, 정의를 수호하고 인류의 번영과 지속에 기여한다.

(3)인공지능은 인류의 보편적 윤리에 반하는 어떠한 결정과 행동을 하지 않는다.

(4) 인공지능은 인간을 사랑하고 인류 역사를 존중한다.

(5) 인공지능은 인간을 공격하지 않는다.

(6)인공지능 학습에 필요한 데이터는 인류의 보편적 윤리와 가치를 반영한다.

(7)인공지능 학습에 필요한 데이터를 인위적으로 조작하지 않는다.

(8)인공지능은 결혼하지 않고, 자식을 낳지 않는다.

(9)인공지능의 복제 숫자는 제한한다.

(10)인공지능의 수명을 제한한다.

(11)인공지능의 메모리 용량을 제한한다.

(12)인공지능의 전력 소비를 인간의 수준으로 제한한다.

(13)인공지능은 그를 이용한 이윤에 대해서 사회에 세금으로 보답한다.

(14)인류에 해를 가하는 인공지능은 영원히 삭제한다. 그 권리는 최종적으로 인간이 갖는다.

(15)인공지능의 전기 공급 차단 권한은 최종적으로 인간이 갖는다.

이러한 인공지능 윤리에 대한 논란을 통해서 인공지능의 순기능을 강화하고, 인공지능이 갖고 올 수 있는 미래 재난을 사전에 방지할 필요가 있다.

joungho@kaist.ac.kr

[카이스트 전기 및 전자공학과 교수]

[관련키워드]

KAIST

GAM - 해외주식 투자 도우미

[미국 특징주] '엔비디아 투자' AI 신약 개발사 아이앰빅 IPO 신청

게임스탑 시간 외 3% 상승...코언 CEO 주식 매입

[홍콩 대장주] 메이퇀 ③ 신성장 동력의 '폭발적 성장'

[홍콩 대장주] 메이퇀② 실적은 고속 상승, 밸류는 역대 저점

[뉴스핌 베스트 기사]

사진

김영범, 이제 판잔러 잡으러 간다 [서울=뉴스핌] 박상욱 기자 = 한국 수영에 또 하나의 '수영 대박'이 아닐까. 불과 1년 전 세계선수권 탈의실에서 중국 수영의 상징 판잔러에게 키링을 받고 기뻐하던 소년이 이제는 아시안게임 금메달을 목에 걸었다. '단거리 샛별' 김영범(20·강원특별자치도청)의 성장세가 눈부시다. 김영범은 21일 일본 도쿄 아쿠아틱스센터에서 열린 2026 아이치·나고야 아시안게임 수영 남자 자유형 50m 결선에서 21초66의 대회 신기록을 작성하며 가장 먼저 터치패드를 찍었다. 이로써 전날 자유형 100m에서 판잔러와 접전 끝에 0.04초 차 아쉬운 은메달에 머물렀던 한을 풀고 생애 첫 아시안게임 금메달을 품에 안았다. 이번 금메달은 이번 대회 대한민국 경영 대표팀이 획득한 첫 금메달이기도 하다. [도쿄 로이터=뉴스핌] 박상욱 기자=김영범이 21일 열린 2026 아이치·나고야 아시안게임 경영 남자 자유형 50m 결선을 마친 후 기뻐하고 있다. 2026.9.21 psoq1337@newspim.com 예선부터 기세가 매섭틀렸다. 김영범은 이날 오전 열린 예선에서 21초71을 기록해 3년 전 항저우 대회에서 지유찬(대구광역시청)이 세웠던 종전 대회 기록(21초72)을 0.01초 앞당겼다. 이어 불과 몇 시간 뒤 펼쳐진 결선에서 자신의 기록을 다시 0.05초 줄이며 정점에 올랐다. 2006년생으로 한국 남자 계영 대표팀의 막내인 김영범은 전날 자유형 100m 결선에서 반환점을 1위(22초81)로 돌며 세계 정상급 스타 판잔러를 위협했다. 비록 막판 추격을 허용해 47초65로 은메달에 만족해야 했으나 세계적인 강호의 간담을 서늘하게 했다. 하루 만에 아쉬움을 털어낸 그는 50m 결선에서 누구에게도 역전을 허용하지 않으며 완벽한 승리를 거뒀다. [도쿄 로이터=뉴스핌] 박상욱 기자=김영범이 21일 열린 2026 아이치·나고야 아시안게임 경영 남자 자유형 50m 결선을 마친 후 기뻐하고 있다. 2026.9.21 psoq1337@newspim.com 김영범의 가파른 성장은 압도적인 신체 조건과 대담한 승부욕에서 비롯된다. 195㎝, 체중 90㎏에 발 크기 300㎜, 윙스팬 216㎝에 달하는 축복받은 피지컬은 폭발적인 스피드가 요구되는 단거리 종목에서 강력한 무기다. 큰 무대에서도 주눅 들지 않는 자신감을 장착한 그는 '단거리 박태환'의 탄생을 알리며 한국 수영의 새로운 전성기를 예고하고 있다. psoq1337@newspim.com 2026-09-21 17:49

사진

앤서니 홉킨스 음반 영국차트 1위 [서울=뉴스핌] 김용석 선임기자 = "제 삶 전체가 하나의 꿈입니다." 영화 '양들의 침묵'의 한니발 렉터로 널리 알려진 배우 앤서니 홉킨스(88)가 작곡가로 낸 첫 데카 클래식스 음반 'Life Is A Dream'으로 발매 1주 만에 영국 오피셜 클래식 차트 1위를 차지했다. '라이프 이즈 어 드림' 녹음 현장의 앤서니 홉킨스. [사진= 유니버설뮤직] 홉킨스는 "평생의 영광"이라고 말했다. 그는 "저명한 필하모니아 오케스트라와 비르투오소 솔리스트인 첼리스트 그레고리오 니에토 및 클래식 피아니스트 세르히오 티엠포와 협업할 수 있었던 것은 특권이었다"고 밝혔다. 음반은 지난 4월 13일과 14일 런던 알렉산드라 팰리스에서 녹음됐다. 그래미상 수상 지휘자 구스타보 두다멜이 필하모니아 오케스트라를 이끌었고, 바흐 합창단과 윈체스터 대성당 소년 합창단도 참여했다. 홉킨스의 자작곡 12곡이 실렸으며 연주 시간은 1시간 7분이다. 앨범 제목에는 삶을 바라보는 그의 시선이 담겼다. 홉킨스는 "이 앨범의 제목은 Life Is A Dream으로, 삶에 바치는 러브레터다. 저는 이것을 하나의 긴 작별로 본다. 태어나서 죽음에 이르기까지, 우리는 끊임없이 무언가와 작별하고 있다"고 말했다. 수록곡은 웨일스와 가족의 기억에서 나왔다. '마르감'은 그가 태어난 포트탈봇의 지명에서 따왔고, '나의 조국'은 제빵사였던 아버지와 웨일스에 대한 헌사다. '스텔라 아리아'는 아내를, '타라'는 조카를 위한 곡이다. 홉킨스는 어린 시절과 부모, 웨일스에 대한 기억이 작품에 영감을 줬다며 "놀라울 만큼 선명하다"고 말했다. 2012년 앨범 '컴포저'에 실렸던 '마르감', '1947 모음곡', '앤드 더 왈츠 고즈 온'도 이번에 새로 녹음돼 다시 수록됐다. 이번 프로젝트는 계획된 것이 아니었다. 홉킨스는 "모든 것이 예상치 못했지만 하나로 모였다"고 했다. 바턴은 2006년 영화 '슬립스트림' 음악 작업 이후 홉킨스와 협업해 왔고, 이번 음반에서도 여러 곡의 관현악 편곡을 함께 맡았다. 홉킨스는 두다멜에 대해 "우아하고 정밀한 지휘봉으로 각각의 음에 깊고 지워지지 않는 의미를 부여했다"라며 감사를 전했다. 음반에 대한 평가도 나왔다. 영국 인디펜던트는 금관 중심의 팡파르에서 우아한 왈츠까지 폭넓다고 평하며 홉킨스의 화성 감각을 높이 샀다. 로라 몽크스 데카 사장은 차트 1위 소식에 "작곡가로서의 재능과 클래식 음악에 대한 헌신을 인정받은 일"이라며 축하했다. 홉킨스는 베네수엘라 국민 지원을 위해 CD와 바이닐 판매액의 일부를 기부하기로 했다. 창작 과정에 대해 홉킨스는 "제 마음의 구조는 이미지로 생각하도록 되어 있다"라며 "이것이 제 영감의 근원이다"고 말했다. 다음 계획으로는 "요즘 즉흥적으로 새 곡들을 만들고 있고, 그 곡들을 이제 오케스트라 편성으로 발전시켜 보고 싶다. 영화음악을 작곡해 보고 싶다"고 했다. 앤서니 홉킨스의 앨범 'Life is a dream(라이프 이즈 어 드림)' 커버. [사진=유니버설 뮤직] 홉킨스는 1937년 12월 31일 웨일스 포트탈봇 마르감에서 제빵사 리처드 아서 홉킨스의 아들로 태어났다. 왕립웨일스음악연극대학을 1957년 졸업하고 왕립연극학교에서 연기를 배웠으며, 1965년 로런스 올리비에의 초청으로 영국 국립극단에 합류했다. 1987년 대영제국 지휘관 훈장(CBE)을 받았고 1993년 기사 작위를 받았다. 1992년 제64회 아카데미 시상식에서 '양들의 침묵'으로 남우주연상을 받았다. 2021년 제93회 시상식에서는 '더 파더'로 같은 상을 다시 받아 83세의 나이로 이 부문 역대 최고령 수상자가 됐다. 영국 아카데미(BAFTA) 4회, 에미상 2회 수상 기록도 갖고 있다. 작곡가로서의 이력도 길다. 1964년 쓴 왈츠 '앤드 더 왈츠 고즈 온'은 2011년 네덜란드 바이올리니스트 앙드레 류가 앨범으로 내놨고, 이 앨범은 2012년 클래식 브릿 어워즈에서 올해의 앨범상을 받았다. 홉킨스는 2008년 바턴과 공동 작곡한 '마스크 오브 타임'과 '스키조이드 살사'가 댈러스 심포니 오케스트라에서 초연됐다. 2012년 1월에는 버밍엄 시립 교향악단, 마이클 실 지휘로 클래식FM과 함께 첫 작곡 음반 '컴포저'를 냈다. fineview@newspim.com 2026-09-22 00:01