전체기사 최신뉴스 GAM
KYD 디데이
산업 생활경제

속보

더보기

[김정호의 4차혁명 오딧세이] 인공지능도 자아가 있다

기사입력 : 2019년08월12일 08:00

최종수정 : 2019년08월16일 19:30

김정호 교수.

 자아란 무엇인가

고등학교나 사관학교 혹은 대학에서 ‘무감독 시험’을 치르는 경우가 있다. 이 제도를 통해서 학생들은 정직과 신용을 학교에서부터 쌓는 연습을 하게 된다. 또한 명예를 지키는 연습을 한다.

특히 이러한 무감독 시험을 어린 학생 때 경험함으로써 사회에 나가서도 리더로 성장할 수 있고, 더 나아가 사회 전체의 신용 구축의 기초가 된다. 그리고 그까짓 시험 점수 하나 때문에 나와 남을 속이는 나쁜 짓을 하지 않는다는 자존심이 형성된다.

이러한 자존심이 상당 기간 누적되면 결국 자신에 대한 자부심을 느끼게 된다. 사회에 나가서도 불의나 부정직에 당당히 맞서고 정의를 지키는 힘을 기른다. 이렇게 형성된 정당하고 정직한 자신의 모습을 자랑스럽게 생각한다.

이러한 교육 과정은 결국 개인이 사회가 필요로 하는 ‘자아(自我)’를 정립하는 기간으로 본다. 이제 지식을 쌓고 정보를 얻는 것은 인터넷 검색기와 유튜브로도 충분하다. 여기에 더해 인공지능이 인간을 대신해서 판단도 내려주고, 결정도 대신 내려준다.

하지만 아직 인공지능은 자아가 없다. ‘인간의 자아’는 당분간 인간만의 고유 영역이 된다. 그러나 언젠가 ‘인공지능도 자아를 갖게 된다’는 상상은 충분히 현실성 있다.

이러한 인간의 ‘자아’를 글자 그대로 해석한다면 ‘자기 자신을 바라보는 모습’이라고 생각한다. 자기 자신을 바라보는 ‘거울’인 셈이다. 이러한 자아의 형성에 영향을 미치는 요소로는 철학, 종교, 윤리, 이념뿐만 아니라 자신의 신체적 모습도 영향을 미친다.

또한 어릴 때부터 가정과 학교에서 배우는 도덕과 습관, 그리고 법률 등도 다방면으로 영향을 미친다. 그뿐만 아니라 가족, 친구들과의 관계뿐만 아니라 사회적 관계도 중요하다. 최근에는 방송, 미디어뿐만 아니라 SNS, 인터넷 등 범람하는 정보도 자아 형성에 영향을 미친다.

행복한 삶을 위해서는 긍정적이고 자신감 있고 희망적인 자아 형성이 필요하다. 그래야 어려운 상황 속에서도 슬기롭게 난관을 극복할 수 있다. 긍정적인 자아가 높은 사람을 자존감이 높은 사람이라고 부른다. 사회 전체도 자존감을 높일 필요가 있다. 그러면 사회적 신뢰가 높아지고 갈등이 낮아지고 사회적 스트레스를 줄일 수 있다.

마찬가지로 인공지능이 미래에 자아를 갖게 된다면 ‘인공지능 자존감’도 높은 기준으로 심어 줄 필요가 있다.

인간이 자아를 구축하는 구성 요소. [출처=KAIST]

자아 인공지능의 구조

미래에는 인간처럼 인공지능도 ‘인공지능 자아’를 가질 수 있다. 인공지능이 자아를 형성하는 데에도 학습을 위해 입력한 철학, 윤리, 도덕, 이념, 종교 데이터 등이 영향을 미친다. 입력한 데이터가 ‘자아’의 모습을 결정한다.

인공지능에 기독교나 불교를 가르치려면 성경이나 불경을 모두 외우게 하면 된다. 헌법도 책으로 읽어 모두 외울 수 있다. 성리학도 모두 읽어 습득한다. 특정 이념에 관한 책을 모두 인공지능이 읽게 하고 외우게 한다. 이렇게 인공지능이 학습한 후에 테스트 과정을 거치면서 자아를 교정해 나아간다.

이러한 자아 구축을 위한 인공지능망을 가상적으로 자아망(INN: Identity Neural Network)이라고 부를 수 있다. 기존 학습에 추가해서 계속 새로운 상황을 데이터로 입력하고, 자아망을 학습시킨다. 문제를 내고 정답을 계속 점검한다. 답이 틀리면 자아망 속의 가중치(Weight)를 역방향 학습(Back Propagation Training)으로 고쳐 나간다. 일종의 시험을 통해서 일정 점수 이상 나올 때 자아 합격 판정을 줄 수 있다.

이 과정은 인간이 자아를 형성해 나아가는 과정과 똑같다. 인간 사회에서 일어나는 교육 과정과 같다. 그래서 인공지능의 자아를 통제하려면 인공지능 학습에 필요한 데이터를 통제해야 한다. 일종의 교과서를 ‘검정 교과서’로 통제하는 것과 같다. ‘불온 문서’, ‘불법 문서’, ‘불건전 문서’ 등의 입력을 막아야 할지 모른다.

입력 데이터의 선택은 결국 인간만이 할 수 있도록 해야 한다. 진시황제 시대의 ‘갱유분서’와 같은 일이 4차 산업혁명 시기인 인공지능 시대에 재현될 수도 있다. 참으로 놀라운 것은 역사는 돌고 돈다는 사실이다. 인공지능 시대에도 마찬가지이다.

이렇게 인공지능 자아망이 형성되면, 다음으로 자아망이 일반적인 인공지능의 출력을 통제하게 된다. 일반적인 인공지능망에는 영상 인식에 주로 사용되는 CNN, 음성 인식에 사용되는 RNN, 창작품에 사용되는 GAN, 게임을 하듯이 최적의 해법을 찾는 강화학습이 있다.

이들 신경망이 입력을 해석하거나, 판단을 내리거나, 미래를 예측하거나, 창작하거나, 게임의 최적 값을 결정할 때, 혹은 출력 값을 낼 때 자아망이 ‘관리 감독’을 하게 된다. 자아망이 봐서 자신의 자아 모습과 다르면 출력을 거절하거나 행동을 중지하게 한다. 그러면 각각의 인공지능이 다시 출력을 내거나 결정을 재생산하고, 최종적으로 자아망의 허락을 받고 출력을 내게 된다. 일종의 자기 검열이 된다.

이러한 전체 신경망을 ‘자아통제 신경망(SINN; Self-Identity Neural Network)’이라고 부를 수 있다. 이러한 자아통제 신경망을 완성하려면, 신경망의 구조, 학습 방법, 변수의 최적화 등 어려운 과제가 남아 있다. 인공지능망이 더욱 복잡해지기 때문이다. 하지만 언젠가 가능할 것으로 본다. 이는 수학자와 컴퓨터 과학자의 몫이다.

자아 인공지능의 구조를 설명하는 그림. [출처=KAIST]

인공지능이 자아를 가지면

이처럼 인공지능이 자아를 갖게 되면 그 자아에 맞게 행동하고 결정하기 때문에 신뢰와 안정성이 향상된다. 인간을 한층 더 대체하게 된다. 단순한 작업뿐만 아니라 복잡한 인간의 도덕적, 윤리적, 철학적 문제에도 독단적인 결정을 내릴 수 있다. 그 결과 인간이 컴퓨터로부터 점점 더 소외되고 종국에는 컴퓨터에 의해 지배될 수 있다. 더 나아가 인공지능은 인간의 명령을 거부할 수 있고, 인간을 ‘적’으로 규정할 수도 있다.

결국 인공지능의 자아 형성에는 이에 필요한 데이터의 선택이 중요하다. 이처럼 인공지능이 자아를 갖게 된다면, 인공지능 학습에 필요한 데이터의 선택 권리를 인간이 사수해야 한다. 아니면 모든 판단과 결정의 마지막에는 인간의 통제를 받도록 인공지능 알고리즘을 만들어야 한다. 그러한 법률이 필요한 시대가 되었다. 인공지능에 대한 적절한 통제가 필요하다.

자아를 가진 인공지능에 의한 인간 조종은 금지되어야 한다. [출처=KAIST]

 

[김정호 카이스트 전기 및 전자공학과 교수] joungho@kaist.ac.kr

[뉴스핌 베스트 기사]

사진
강선우 청문보고서 재송부 요청 [서울=뉴스핌] 박성준 기자 = 이재명 대통령이 22일 국회에 국방부, 국가보훈부, 통일부, 여성가족부에 대한 인사청문 보고서 송부를 재요청했다. 강유정 대통령실 대변인은 이날 용산 대통령실에서 브리핑을 통해 "금주 내에 임명을 마무리하고 신속한 국정 안정을 꾀하기 위해 기한은 오는 24일 목요일로 요청했다"며 이같이 밝혔다. [서울=뉴스핌] 이재명 대통령이 지난 17일 서울 용산 대통령실에서 레젭 타입 에르도안 튀르키예 대통령과 전화 통화를 하고 있다. [사진=대통령실] 2025.07.17 photo@newspim.com 현행 인사청문회법에 따르면 국회는 임명동의안 등이 제출된 날로부터 20일 이내에 청문 절차를 마무리해야 한다. 만약 국회가 이 기간 내에 청문보고서를 송부하지 않을 경우, 대통령은 그로부터 열흘 이내 범위에서 기한을 정해 국회에 송부를 재요청할 수 있다. 앞서 이 대통령은 논문 표절 논란이 불거진 이진숙 교육부 장관 후보자에 대해서는 지명을 철회했으며, 보좌진 '갑질' 등 의혹이 불거진 강선우 여성가족부 장관 후보자에 대해서는 임명 절차를 이어가기로 했다. 강 후보자와 관련해 야당뿐 아니라 시민사회단체들로부터도 반대 의견이 잇따르고 있다. parksj@newspim.com 2025-07-22 15:52
사진
블랙핑크, 美 빌보드글로벌200 1위 [서울=뉴스핌] 오광수 문화전문기자 = 블랙핑크가 글로벌 톱 클래스임을 증명하면서 미국 빌보드 메인 차트 정상을 꿰찼다고 YG엔터테인먼트가 22일 밝혔다. [서울=뉴스핌] 오광수 문화전문기자 = 블랙핑크. [사진 = YG엔터테인먼트]  2025.07.22 oks34@newspim.com 미국 빌보드가 SNS를 통해 먼저 공개한 최신 차트에 따르면 블랙핑크의 '뛰어(JUMP)'는 빌보드 글로벌 200과 빌보드 글로벌(Billboard Global Excl. U.S.) 차트에서 나란히 1위에 올랐다. 이로써 블랙핑크는 빌보드 글로벌 200에서 세 번째, 빌보드 글로벌에서 네 번째 1위를 차지하며 두 개 차트에서 동시에 K팝 걸그룹 최초·최다 기록을 쓰게 됐다. 또한 빌보드 글로벌 200에서는 스트리밍 1억 2300만 회로 올해 전 세계 여성 아티스트 발매곡 중 최고 수치를 달성했다. 특히 빌보드 핫 100에서는 28위에 안착해 주목된다. 앞서 'Ice Cream', 'Pink Venom', 'Shut Down', 'How You Like That', 'Kill This Love', 'DDU-DU DDU-DU', 'Lovesick Girls', 'Sour Candy', 'Kiss and Make Up'이 차트인에 성공했던 바. 이는 팀 발매곡만으로 세운 K팝 여성 아티스트 최다(10곡) 진입 신기록이다. 빌보드뿐 아니라 각종 글로벌 차트에서도 반향이 크다. 블랙핑크는 '뛰어(JUMP)'로 스포티파이 위클리 톱 송 글로벌 차트에서 K팝 그룹 최다 1위 곡 보유라는 신기록을 썼으며, 영국 오피셜 차트에는 자체 최고 순위인 18위로 첫 진입하는 등 주류 팝 시장에서 막강한 존재감을 과시 중이다. 유튜브에서도 독보적인 영향력을 떨치고 있다. '뛰어(JUMP)' 뮤직비디오는 지난 11일 공개 이후 8일 연속 글로벌 유튜브 일간 인기 뮤직비디오 최정상을 지킨 데 이어 주간 차트에서도 1위로 직행했으며, 조회수는 8800만 회를 훌쩍 넘어 1억 뷰 돌파를 눈앞에 뒀다. <빌보드 핫 100, 빌보드 글로벌 200 어떻게 다른가?> '빌보드 핫 100'은 미국 내 종합 싱글 차트로 가장 권위 있는 차트다. 글로벌 차트보다 권위 있는 이유는 미국 내 '라디오 방송 집계'가 포함되기 때문이다. 글로벌 차트는 성격상 라디오 집계는 불가능해서 스트리밍과 판매가 핵심이지만 '빌보드 핫 100'은 인기도를 가늠하는 라디오 집계가 핵심이다. 빌보드가 집계하는 라디오 방송국의 수만 1,200여 개가 넘는다. 이에 비해 '빌보드 글로벌 200'은 스트리밍이 포함된 차트여서 팬덤의 움직임에 의해 순위가 요동치는 경우가 많다.  oks34@newspim.com 2025-07-22 12:26
안다쇼핑
Top으로 이동