전체기사 최신뉴스 GAM
KYD 라이브
KYD 디데이
산업 생활경제

속보

더보기

[김정호의 4차혁명 오딧세이] 인공지능도 자아가 있다

기사입력 : 2019년08월12일 08:00

최종수정 : 2019년08월16일 19:30

김정호 교수.

 자아란 무엇인가

고등학교나 사관학교 혹은 대학에서 ‘무감독 시험’을 치르는 경우가 있다. 이 제도를 통해서 학생들은 정직과 신용을 학교에서부터 쌓는 연습을 하게 된다. 또한 명예를 지키는 연습을 한다.

특히 이러한 무감독 시험을 어린 학생 때 경험함으로써 사회에 나가서도 리더로 성장할 수 있고, 더 나아가 사회 전체의 신용 구축의 기초가 된다. 그리고 그까짓 시험 점수 하나 때문에 나와 남을 속이는 나쁜 짓을 하지 않는다는 자존심이 형성된다.

이러한 자존심이 상당 기간 누적되면 결국 자신에 대한 자부심을 느끼게 된다. 사회에 나가서도 불의나 부정직에 당당히 맞서고 정의를 지키는 힘을 기른다. 이렇게 형성된 정당하고 정직한 자신의 모습을 자랑스럽게 생각한다.

이러한 교육 과정은 결국 개인이 사회가 필요로 하는 ‘자아(自我)’를 정립하는 기간으로 본다. 이제 지식을 쌓고 정보를 얻는 것은 인터넷 검색기와 유튜브로도 충분하다. 여기에 더해 인공지능이 인간을 대신해서 판단도 내려주고, 결정도 대신 내려준다.

하지만 아직 인공지능은 자아가 없다. ‘인간의 자아’는 당분간 인간만의 고유 영역이 된다. 그러나 언젠가 ‘인공지능도 자아를 갖게 된다’는 상상은 충분히 현실성 있다.

이러한 인간의 ‘자아’를 글자 그대로 해석한다면 ‘자기 자신을 바라보는 모습’이라고 생각한다. 자기 자신을 바라보는 ‘거울’인 셈이다. 이러한 자아의 형성에 영향을 미치는 요소로는 철학, 종교, 윤리, 이념뿐만 아니라 자신의 신체적 모습도 영향을 미친다.

또한 어릴 때부터 가정과 학교에서 배우는 도덕과 습관, 그리고 법률 등도 다방면으로 영향을 미친다. 그뿐만 아니라 가족, 친구들과의 관계뿐만 아니라 사회적 관계도 중요하다. 최근에는 방송, 미디어뿐만 아니라 SNS, 인터넷 등 범람하는 정보도 자아 형성에 영향을 미친다.

행복한 삶을 위해서는 긍정적이고 자신감 있고 희망적인 자아 형성이 필요하다. 그래야 어려운 상황 속에서도 슬기롭게 난관을 극복할 수 있다. 긍정적인 자아가 높은 사람을 자존감이 높은 사람이라고 부른다. 사회 전체도 자존감을 높일 필요가 있다. 그러면 사회적 신뢰가 높아지고 갈등이 낮아지고 사회적 스트레스를 줄일 수 있다.

마찬가지로 인공지능이 미래에 자아를 갖게 된다면 ‘인공지능 자존감’도 높은 기준으로 심어 줄 필요가 있다.

인간이 자아를 구축하는 구성 요소. [출처=KAIST]

자아 인공지능의 구조

미래에는 인간처럼 인공지능도 ‘인공지능 자아’를 가질 수 있다. 인공지능이 자아를 형성하는 데에도 학습을 위해 입력한 철학, 윤리, 도덕, 이념, 종교 데이터 등이 영향을 미친다. 입력한 데이터가 ‘자아’의 모습을 결정한다.

인공지능에 기독교나 불교를 가르치려면 성경이나 불경을 모두 외우게 하면 된다. 헌법도 책으로 읽어 모두 외울 수 있다. 성리학도 모두 읽어 습득한다. 특정 이념에 관한 책을 모두 인공지능이 읽게 하고 외우게 한다. 이렇게 인공지능이 학습한 후에 테스트 과정을 거치면서 자아를 교정해 나아간다.

이러한 자아 구축을 위한 인공지능망을 가상적으로 자아망(INN: Identity Neural Network)이라고 부를 수 있다. 기존 학습에 추가해서 계속 새로운 상황을 데이터로 입력하고, 자아망을 학습시킨다. 문제를 내고 정답을 계속 점검한다. 답이 틀리면 자아망 속의 가중치(Weight)를 역방향 학습(Back Propagation Training)으로 고쳐 나간다. 일종의 시험을 통해서 일정 점수 이상 나올 때 자아 합격 판정을 줄 수 있다.

이 과정은 인간이 자아를 형성해 나아가는 과정과 똑같다. 인간 사회에서 일어나는 교육 과정과 같다. 그래서 인공지능의 자아를 통제하려면 인공지능 학습에 필요한 데이터를 통제해야 한다. 일종의 교과서를 ‘검정 교과서’로 통제하는 것과 같다. ‘불온 문서’, ‘불법 문서’, ‘불건전 문서’ 등의 입력을 막아야 할지 모른다.

입력 데이터의 선택은 결국 인간만이 할 수 있도록 해야 한다. 진시황제 시대의 ‘갱유분서’와 같은 일이 4차 산업혁명 시기인 인공지능 시대에 재현될 수도 있다. 참으로 놀라운 것은 역사는 돌고 돈다는 사실이다. 인공지능 시대에도 마찬가지이다.

이렇게 인공지능 자아망이 형성되면, 다음으로 자아망이 일반적인 인공지능의 출력을 통제하게 된다. 일반적인 인공지능망에는 영상 인식에 주로 사용되는 CNN, 음성 인식에 사용되는 RNN, 창작품에 사용되는 GAN, 게임을 하듯이 최적의 해법을 찾는 강화학습이 있다.

이들 신경망이 입력을 해석하거나, 판단을 내리거나, 미래를 예측하거나, 창작하거나, 게임의 최적 값을 결정할 때, 혹은 출력 값을 낼 때 자아망이 ‘관리 감독’을 하게 된다. 자아망이 봐서 자신의 자아 모습과 다르면 출력을 거절하거나 행동을 중지하게 한다. 그러면 각각의 인공지능이 다시 출력을 내거나 결정을 재생산하고, 최종적으로 자아망의 허락을 받고 출력을 내게 된다. 일종의 자기 검열이 된다.

이러한 전체 신경망을 ‘자아통제 신경망(SINN; Self-Identity Neural Network)’이라고 부를 수 있다. 이러한 자아통제 신경망을 완성하려면, 신경망의 구조, 학습 방법, 변수의 최적화 등 어려운 과제가 남아 있다. 인공지능망이 더욱 복잡해지기 때문이다. 하지만 언젠가 가능할 것으로 본다. 이는 수학자와 컴퓨터 과학자의 몫이다.

자아 인공지능의 구조를 설명하는 그림. [출처=KAIST]

인공지능이 자아를 가지면

이처럼 인공지능이 자아를 갖게 되면 그 자아에 맞게 행동하고 결정하기 때문에 신뢰와 안정성이 향상된다. 인간을 한층 더 대체하게 된다. 단순한 작업뿐만 아니라 복잡한 인간의 도덕적, 윤리적, 철학적 문제에도 독단적인 결정을 내릴 수 있다. 그 결과 인간이 컴퓨터로부터 점점 더 소외되고 종국에는 컴퓨터에 의해 지배될 수 있다. 더 나아가 인공지능은 인간의 명령을 거부할 수 있고, 인간을 ‘적’으로 규정할 수도 있다.

결국 인공지능의 자아 형성에는 이에 필요한 데이터의 선택이 중요하다. 이처럼 인공지능이 자아를 갖게 된다면, 인공지능 학습에 필요한 데이터의 선택 권리를 인간이 사수해야 한다. 아니면 모든 판단과 결정의 마지막에는 인간의 통제를 받도록 인공지능 알고리즘을 만들어야 한다. 그러한 법률이 필요한 시대가 되었다. 인공지능에 대한 적절한 통제가 필요하다.

자아를 가진 인공지능에 의한 인간 조종은 금지되어야 한다. [출처=KAIST]

 

[김정호 카이스트 전기 및 전자공학과 교수] joungho@kaist.ac.kr

[뉴스핌 베스트 기사]

사진
뉴욕을 뒤흔든 맘다니 돌풍 [뉴욕=뉴스핌]김근철 특파원= "빨리 뉴욕에 파트타임 일자리라도 알아봐야 할 것 같아요." 지난 주말 뉴욕 인근에 사는 지인들과의 모임 도중 나온 얘기다. 이날 저녁 자리 화제의 중심은 단연 '민주당 뉴욕 시장 후보 조란 맘다니'였다.'뉴욕 파트타임' 얘기도 맘다니 덕분에 나온 농담이다. 맘다니는 자신이 시장에 당선되면 뉴욕의 최저 임금을 시간당 30달러로 올릴 것이라고 약속했다. 지금 환율로 따지면 4만 600원 정도다. 현재 뉴욕의 최저 임금 시급은 16.50달러다. 이미 미국 내 최고 수준이다. 그런 뉴욕 최저 임금을 2배로 올리겠다는 얘기다. 물론 2030년까지라는 전제는 달렸다. 그렇다 하더라도 귀가 솔깃해질 만한 공약임은 분명하다. 비단 이날 모임뿐 아니다. 요즘 '뉴요커'들 사이에서 맘다니는 최고의 뉴스메이커다. 어디서든, 누구와든 맘다니 얘기를 꺼내면 10분~20분은 쉽게 대화를 나눌 수 있다. 그만큼 맘다니의 등장 자체가 뉴욕 사람들에게도 충격이자 파격이다. 조란 맘다니 미국 민주당 뉴욕시장 후보. [사진=로이터 뉴스핌] 뉴욕 시장 자리는 한국으로 치면 거의 서울 시장급이다. 뉴욕은 미국의 최대 도시이자, 전 세계에서 사람과 돈이 가장 많이 몰려드는 중심지다.  이런 뉴욕의 유력한 차기 시장 후보가 불과 33세라니. 그것도 아프리카 우간다에서 태어나 7세 때 뉴욕으로 이민 온 인도계 무슬림이다. 더구나 그는 26살이 되던 2018년에야 뒤늦게 미국 시민권을 취득하고 투표권을 받았다. 맘다니가 하버드 같은 아이비리그의 명문대를 졸업한 것도 아니다.  그는 평범한 학창 시절을 보내고 대학 졸업 후 저소득층 주택 압류 방지 상담사로 활동했다. 그러다가 2020년 뉴욕 주의회 하원의원 선거에 민주당 후보로 나서 선출된 것이 사회 경력의 전부다. 시쳇말로 '듣보잡' 수준이다. 예전 같았으면 뉴욕 시장 후보에 명함도 못 내밀 커리어다. 그런 맘다니가 불과 몇 개월의 선거 운동으로 민주당의 뉴욕 시장 후보가 됐다는 것은 믿기지 않는 스토리다.  그것도 뉴욕 주지사 3선에, 한때 차기 대선 후보 물망에 올랐고, 당내 유력 인사와 후원 그룹의 지원을 받는 '거물' 앤드루 쿠오모를 꺾었다. 그야말로 이변이 일어난 것이다. 민주당 전략가 트립 양은 뉴욕타임스(NYT)에 "현대 뉴욕시 역사에서 가장 큰 반전이 일어났다"고 평가했을 정도다. 맘다니는 1일 발표된 민주당 3차 경선 결과 과반이 넘는 56%를 득표했다. 이로써 그는 당당히 민주당의 뉴욕 시장 후보로 공식 선출됐다. 뉴욕은 아직도 민주당의 아성으로 불린다. 민주당 후보 공천은 뉴욕 시장 당선의 보증수표처럼 여겨진다. 뉴욕타임스(NYT)를 비롯한 미국 언론들의 관심은 이제 '맘다니 돌풍'이 과연 어디까지 이어질지에 모아진다. 숱한 전문가들은 아직 맘다니의 본선 경쟁력에 의문을 거두지 못하는 분위기다. 맘다니의 민주당 경선 승리의 발판이 됐던 급진적인 공약들이 결국 부메랑이 돼서 발목을 잡을 것이란 분석이 많다.  맘다니가 내세운 핵심 공약은 실제로 급진 좌파 성향의 포퓰리즘 정책으로 불릴 만하다. 시내버스 무임승차, 0세부터 5세까지 무료 보육 및 유치원 교육 실시, 뉴욕시 관리 아파트 임대료 동결, 값싼 시립 식료품점 설립, 부자 증세 등이 그것이다. 구체적 재정 대책이 없다는 질타와 비판이 나올 만하다. 게다가 맘다니는 학창 시절부터 팔레스타인을 지지하는 운동에 가담했다. 뉴욕과 민주당의 돈줄을 쥔 유대인들의 거부감도 크다.  민주당 주류와 온건그룹에선 벌써 부담스러운 티를 낸다. 너무 과격해서 중도층 이탈을 야기할 것이란 우려의 목소리를 낸다. 그래서 민주당을 지지하는 월가의 큰손들은 이미 온건 성향의 대항마를 찾고 있는 것으로 알려졌다. 당내 경선에서 패배했던 쿠오모 전지사나 경선에서 중도 사퇴한 에릭 애덤스 뉴욕 시장이 독립 출마 형태로 시장 선거에 나서려는 것과도 이와 연결돼 있다. 도널드 트럼프 대통령도 일찌감치 맘다니를 '100% 공산주의자 미친 놈'이라고 부르며 파상 공세를 퍼붓는 중이다.  급진 좌파 프레임을 씌워 민주당 전체를 싸잡아 비판하려는 의도도 깔려있다. 트럼프와 공화당은 색깔론 공세에 더해 민주당 측 후보 난립을 잘 이용하면 뉴욕 시장까지 손에 쥘 수 있겠다는 기대도 하고 있는 눈치다.  지하철에 탑승한 조란 맘다니 미국 민주당 뉴욕 시장 후보. [사진=로이터 뉴스핌] 이런 정치판의 셈법과 보도를 따라가다 보면 '맘다니가 11월 4일 선거에서 뉴욕 시장에 당선되기는 힘들겠구나' 하는 생각도 든다. 최근에 월가 금융기관에서 오래 기간 일했던 지인을 만난 자리에서도 '만다니의 한계'에 대해 얘기를 나눴다. 하지만 그의 견해는 좀 달랐다. 자신의 사무실에 근무하는 한 직원 때문에 생각이 바뀌었다고 한다. 그 직원은 줄곧 보수 성향을 보여왔고 지난 대선에서도 트럼프를 열렬히 지지했다고 한다. 그런 사람이 이번에 민주당 경선에 참여해 맘다니에게 표를 던졌다. 이유를 물으니, "뉴욕에서 사는 게 너무 힘들다. 물가가 미쳤다. 부자들은 상관없겠지만 우리 같은 단순 사무직은 열심히 일해도 렌트비, 교통비, 식료품비 내기에도 너무 벅차다. 내게 이념은 크게 상관없고, 누구라도 이 힘든 생활에 도움을 준다면 표를 안 찍을 이유가 없다"라는 답이 돌아왔다고 한다. 이 말을 들으니 맘다니의 공식 홈페이지 첫 화면에 큼직하게 적힌 슬로건이 새삼 머릿속에 다시 선명히 떠올랐다. "조란 맘다니는 뉴욕의 근로자들의 생활비를 낮추기 위해 시장직에 도전하고 있습니다"였다. 맘다니는 얼마전 NBC 방송의 간판 시사 프로그램 '미트 더 프레스'에 출연해 자신을 공산주의자라고 공격한 트럼프의 언급에 "나는 공산주의자가 아니다."라고 반박했다. 그리고는 "나는 트럼프가 힘을 실어주겠다고 대선 운동 기간 약속했던 바로 그 노동자들을 위해 싸우고 있다. 트럼프 대통령은 이후 그들을 배신해왔다"라고 말했다. '빨갱이 프레임'을 씌우는 트럼프에게 시원하게 한 방 먹이면서 자신이 노동자들을 위한 진짜 일꾼임을 드러내는 패기와 영리함이 번뜩이는 발언이다. 그래서 맘다니가 이념 프레임의 덫에 갇히지 않고, 뉴욕 시민의 민생과 민심을 파고드는데 성공한다면 '정말 큰일을 낼 수도 있겠다'는 생각도 든다. 그건 그가 뉴욕 시장에 당선된다는 의미만이 아니다. 인류 역사상 가장 풍요롭다는 21세기에도 팍팍안 일상을 견뎌내야 하는 노동자 계층과 밀레니얼 세대들에게 과거의 이념과 정치적 문법의 약발이 먹히지 않는다는 점을 확인시켜줄 '사건'이 될 수 있다.  맘다니 열풍과 논란이 뉴욕의 일회성 정치 이벤트로 그치지 않고 앞으로도 계속 증폭되고 변모하면서 확산될 것이란 예감이 드는 이유다.   kckim100@newspim.com 2025-07-03 04:16
사진
트럼프 "머스크 추방도 검토" [서울=뉴스핌] 고인원 기자= 도널드 트럼프 미국 대통령이 기자들에게 "(일론) 머스크의 추방 문제도 고민해보겠다"고 발언하며, 두 사람 간 갈등이 또 한 번 수위를 높였다. 일론 머스크 테슬라 최고경영자(CEO)가 트럼프의 감세·재정 법안을 비판한 데 이어, 트럼프는 머스크의 정부 보조금과 계약에 대한 전수조사와 함께 추방 가능성까지 언급해 정치적·법적 논란이 확산되고 있다. 트럼프는 1일(현지시간) 백악관 앞에서 기자들과 만난 자리에서 "머스크를 추방할 수 있느냐"는 질문에 "모르겠다. 한번 살펴보겠다(I don't know, we'll have to take a look)"고 답했다. 그는 이어 "머스크는 많은 보조금을 받았으며, 전기촤 의무화 폐지에 매우 화가난 듯 하다"고 덧붙였다. 도널드 트럼프 미국 대통령과 일론 머스크 테슬라 최고경영자(CEO).[사진=로이터 뉴스핌] 2025.06.21 mj72284@newspim.com 트럼프는 전기차 강제 규정을 "바이든 시대의 유산"으로 규정하고 폐지를 추진 중이다. 그는 "나는 전기차를 원하지 않는다. 휘발유도, 하이브리드도, 언젠가는 수소차도 원할 수 있다"며 "다만 수소차는 터지면 5블록 떨어진 데서 시신을 찾는다"고 비꼬기도 했다. 트럼프의 '추방' 발언이 담긴 클립이 퍼지자, 머스크는 X(옛 트위터)에 "이걸 더 키우고 싶어 죽겠지만, 지금은 참겠다"고 의미심장한 글을 올렸다. 이 논란은 머스크가 트럼프의 '크고 아름다운 하나의 법안 법(OBBBA)'을 "완전히 미치고 파괴적 법안"이라며 비판한 데서 촉발됐다. 트럼프는 이에 대해 "머스크는 역사상 가장 많은 보조금을 받은 사람"이라며, 정부효율성부(DOGE)가 머스크의 보조금 수혜 내역을 조사할 필요가 있다고 응수했다. 이어 트럼프는 "보조금이 없으면 로켓 발사도, 전기차 생산도 못할 것"이라고 몰아세웠다. 전문가들은 연방정부의 보조금·계약 중단이나 규제 강화 가능성을 주목하고 있으며, 이는 테슬라와 스페이스X의 사업에 실질적인 타격으로 이어질 여지가 있다고 지적한다. 머스크는 세금안 반대뿐 아니라 "새로운 정당(America Party)을 만들겠다"고 맞불을 놓으며 대선 기간부터 이어온 트럼프와 머스크 간 '브로맨스'가 균열 조짐을 보이고 있다. koinwon@newspim.com 2025-07-01 22:23
안다쇼핑
Top으로 이동