전체기사 최신뉴스 GAM
KYD 디데이
산업 전기·전자

속보

더보기

[김정호의 4차혁명 오딧세이] 설명 불가능한 인공지능 작동 원리의 비밀

기사입력 : 2019년01월07일 14:00

최종수정 : 2019년01월07일 14:00

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

인공지능은 암호 숫자 모음

인공지능의 알고리즘 중에서 최근 가장 많이 사용하는 알고리즘이 딥러닝(DNN, Deep Neural Network)이라고 한다. 인간의 뇌 신경망을 모방해서 수학적 모델을 세우고 컴퓨터 코딩으로 구현한다.

 김정호 카이스트 교수

이 딥러닝 신경망은 여러 개의 층(Layer)으로 이루어져 있는데, 그 층 숫자가 증가할수록 성능과 정확성이 높아진다. 그래서 "깊다"라는 의미를 가진 '딥'(Deep)이라는 표현이 나온다. 다른 말로 딥러닝을 심층학습(深層學習)이라고 부르기도 한다. 다량의 데이터나 복잡한 자료들 속에서 핵심적인 내용 또는 기능을 추출해내는 기계학습(Machine Learning) 알고리즘의 일종이다.

기계학습은 큰 틀에서 사람의 사고방식을 컴퓨터에게 가르치는 분야라고 이야기할 수 있다. 이 딥러닝이 성공할 수 있었던 배경에는 컴퓨터와 반도체의 성능향상과 인터넷에 널린 빅데이터의 도움이 결정적이다.

2012년 스탠포드 대학의 앤드류 응 교수와 구글이 함께 한 딥 러닝 프로젝트에서는 1만6000개의 컴퓨터 프로세서와 10억 개 이상의 신경망과 딥러닝을 이용하여 유튜브에 업로드 되어 있는 천만 개 넘는 비디오 중 고양이 인식에 성공하였다.

이 딥러닝에는 입력층(Input layer)과 출력층(Output layer) 사이에 여러 개의 은닉층(Hidden layer)들로 이루어져 있다. 이 딥러닝은 복잡한 비선형 관계(Non-linear relationship)들을 모델링할 수 있다.

뇌의 동작은 비선형적이기 때문이다. 이 딥러닝 알고리즘에는 각 층에 설치된 수천 혹은 수천 만개의 신경세포(Node)가 서로 연결망의 선으로 연결되어 있다. 그리고 이 연결망을 통해서 각 층을 지나면서 출력이 전달될 때, 가중치(w, weight)가 곱해진다. 이때 각 신경세포(Node)에서 입력 값이 합해지게 되는데, 그 합이 일정 값이 넘으면 다음 단계로 출력으로 전달된다. 그래서 딥러닝 신경망에는 수많은 변수(Parameters)가 존재한다. 이러한 변수들은 인공지능이 빅데이터를 이용해 학습하면서 정해간다. 다름 아니라 이 변수들을 정해가는 과정을 학습이라고 한다.

이 학습과정에서 최종 출력 값인 결과와 미리 정해진 정답과 비교하면서 변수를 학습해 간다. 예를 들어 인공지능이 사진을 판독한다면, 입력이 사진이고 최종 출력이 판독이다. 사진을 넣어 주면서 결과를 뽑아 호랑이인지 고양이 인지 판정하게 되는데, 이 과정을 전진방향 전파 학습(Forward Propagation) 이라고 한다. 이 결과에 오차가 생겼을 때, 그 결과의 차이를 보고, 다시 꺼꾸로 변수를 정해가는 과정을 역방향 전파 학습(Back Propagation) 이라고 한다. 이처럼 결과 오류의 차이를 이용해 변수를 정해서 전해간다. 이렇게 답을 알려주면서 학습하는 방법을 지도학습(Supervised Learning) 이라 한다.

이렇게 인공지능에서 학습을 통해서 정해진 변수 값들을 행렬이나 테이블로 쭉 나열해 볼 수 있다. 그런데 놀랍게도 그 숫자들의 의미를 전혀 찾을 수가 없다. 인간에게 단순한 숫자의 나열에 불과하다. 그 숫자의 의미를 찾아 보려고 노력하지만 그 의미를 찾을 수 없다. 그래서 필자는 "설명 가능한 인공지능은 없다"고 말한다.

인공지능 신경망 딥러닝의 구조. 입력층(Input layer), 내부층(Hidden Layer), 그리고 출력층(Output layer)으로 연결망이 이루어져있다. [출처: KAIST]
인공지능 딥러닝 알고리즘에서 전진학습 과정(Forward Propagation)과 가중치 변수(w)들, [출처: KAIST]


인공지능 작동원리, 아직은 설명 가능하지 않아 

미국 국방성 고급 연구기관인 DARPA(Defense Advanced Research Projects Agency)는 방위 고등 연구 계획국의 약자이며, 미국 국방성의 연구, 개발 부문을 담당하고 있다. 인터넷의 원형을 개발한 것으로 잘 알려져 있다. 이 DARPA에서 인공지능을 이해하고 설명해 보려는 프로젝트를 진행하고 있다.

인공지능이 인간을 대신해서 전쟁을 수행하고 공격한다면 인간에게 매우 위협적이다. 핵 무기보다 무섭다. 잘못하면 인류의 종말이 가까이 올 수 있다. 그래서 국방 무기에 인공지능을 적용할 때 많은 우려를 갖는다. 이러한 배경으로 미국 국방부에서는 인공지능을 충분히 신뢰하기 위해서는 인공지능 내부와 결정과정을 이해하고 설명할 수 있어야 한다고 보는 것이다. 그런데 필자는 성공할 수 없는 프로젝트라고 본다.

인공지능은 수많은 데이터로 학습한 이후, 호랑이와 고양이 사진을 구별할 수 있다. 그런데 왜 그런지 인공지능 내부를 설명할 수 없다. 그리고 미래 인공지능은 쌍둥이도 구별하고, 같은 사람이 나이 들어도 알 수 있다. 가족도 찾아 낸다. 화장하더라도 같은 사람을 찾아 낼 수 있다.

이러한 구분은 '인간 아기'가 2~3세만 되어도 호랑이와 고양이 사진을 구별해내는 것과 유사하다. 방향이 돌려지고, 조명이 바뀌어도 찾아 낸다. 그런데 아기가 설명할 수는 없다. 설명할 수 없는 직관으로 찾아 낸다. 그래서 인공지능 내부는 직관이자 블랙박스이다.

인공지능 강화학습(Reinforcement Learning)을 통해서 얻어진 숫자 4x6 행렬(Q 값), [출처: KAIST]


인공지능, 신의 언어일까? 외계인의 언어일까?

인공지능에서 충분한 데이터로 학습하면 내부는 모르지만 입력을 하면 정답이 나오고 최적 값이, 그리고 판정이 나온다. 그래서 필자는 ‘인공지능이 신의 언어 혹은 외계인 언어’일수도 있다고 본다.

당분간 이해하거나 설명하려는 인간의 노력은 무의미하다. 어쩌다 반도체와 컴퓨터가 성능이 발전하고, 데이터가 많아 지면서 알게 된 비밀일 것 같다. 인공지능은 인간과 외계인과의 대화 물꼬를 틀지도 모른다.

4차 산업혁명의 동력인 반도체가 양자역학 원리에 의해서 동작한다. 양자 역학도 불확실성에 기반하고 확률을 구하는 물리이다. 기존 인간의 확정적 경험 세계로는 절대 설명할 수 없다. 그냥 받아 들여야 한다.

양자적 불연속 에너지 현상, 존재의 불확실성, 배타성 (Exclusion Principle) 등은 인간의 실 생활에서 찾아 볼 수 없다. 원자 세계에서만 나타나는 현상이다. 그래서 양자역학과 인공지능 모두 미지의 세계이고 상상의 세계이다. 4차 산업혁명 개념과 실제도 그래서 어렵다. 그 물결을 받아 들이고 파도를 타야 한다.

외계인의 이미지. [출처: 허핑턴포스트코리아 ]

 

joungho@kaist.ac.kr  


[김정호 카이스트 전기 및 전자공학과 교수] 

 

[뉴스핌 베스트 기사]

사진
[10·15 부동산대책] "2금융권 모두 묶였다" [서울=뉴스핌] 이윤애 기자 = 이번에 발표된 10. 15 부동산 대책으로 주택매입 자금 조달의 '마지막 통로'로 불리던 2금융권 대출길이 사실상 완전히 막혔다. 그동안 1금융권 대출 한도를 채운 뒤 저축은행이나 캐피털 등 2금융권으로 넘어가 추가 자금을 확보하던 관행이 이번 대책 이후에는 불가능해진다. 정부는 주택시장 안정을 목표로 수도권 및 규제지역의 주택담보대출(주담대) 한도를 주택 시가 기준 15억원 이하는 6억원, 15억~25억원 이하 4억원, 25억원 초과 2억원으로 일괄 제한했다. ◆ "2금융권 통한 추가 대출도 불가능"…한도·DSR·LTV 일괄 적용 이전까지는 은행권에서 한도를 채운 뒤 2금융권으로 넘어가 추가 대출을 받는 식의 '보충 레버리지'가 가능했지만 이번 대책으로 저축은행·상호금융·보험사·카드사 등 전 금융권이 동일 기준을 적용받게 됐다. 또한 규제지역 신규 지정에 따라 해당 지역의 주담대 LTV(담보인정비율)는 70%에서 40%로 하향되며 전세대출·신용대출을 이용한 주택 구입도 금지된다. 이에 따라 2금융권을 통한 '추가 대출'이나 '신용대출 보완'도 사실상 불가능해졌다. 이번 대책에서 1·2금융권 동일 DSR(총부채원리금상환비율)·LTV 기준을 적용하면서 '2금융권으로 가면 더 빌릴 수 있다'는 공식은 완전히 무너졌기 때문이다. 그동안은 저축은행 등 2금융권은 은행보다 DSR 허용 비율이 상대적으로 높았다. 은행권이 40%이라면, 저축은행은 50~60%였다. 하지만 금리가 조금 더 높았다. 이런 가운데 1·2금융권 동일 DSR·LTV 기준을 적용하면서 2금융권으로 갈 유인이 없어졌다. 만약 2금융권의 금리가 8%이라면 실제 대출 한도는 오히려 줄어든다. 연소득 6000만원 기준으로 은행(금리 4%)에선 약 3억5000만원까지 가능하지만 저축은행(금리 8%)에서는 2억6000만원 수준에 그친다. [서울=뉴스핌] 한기진 기자 = 2025.10.15 hkj77@hanmail.net 금융권 관계자는 "이번 조치로 1금융권이 막히면 2금융권으로 돌던 흐름까지 완전히 끊길 것"이라며 "대출 금리는 더 높은데 한도까지 줄어, 비은행권 대출의 매력은 사실상 사라졌다"고 말했다. 저축은행업계 한 관계자는 "건전성 관리가 예민한 곳들은 지표 관리를 위해 더욱 보수적으로 대출을 실행할 것"이라고 말했다. ◆ "사업자대출·우회대출 차단"…고소득자 레버리지 봉쇄 그동안 일부 고소득층은 사업자등록을 내고 2금융권 사업자대출을 이용해 주택을 매입하는 편법을 사용해왔다. 하지만 정부는 이미 6·27 대책에서 신용대출 한도를 1억원으로 제한하고 사업자대출을 통한 주택자금 유용도 차단한 바 있다. 이에 더해 이번 대책에서 정부는 "주택구입 자금으로 유용되는 사업자대출은 동일한 심사 기준과 DSR 적용을 받는다"며 용도 외 사용 시 대출 회수 및 제재 대상이 될 수 있다고 명시했다. 금융권 다른 관계자는 "이전에는 2금융권 사업자대출로 10억원대까지 자금을 끌어오는 사례가 있었지만 이제는 용도검증 강화로 사실상 불가능하다"며 "소득이 높아도 DSR 제한에 걸려 실수요 외 매입은 어렵다"고 말했다. yunyun@newspim.com 2025-10-15 10:49
사진
불안이 불지핀 랠리 금값 4200달러 돌파 [시드니=뉴스핌] 권지언 특파원 = 지정학 불안과 연방준비제도(연준·Fed)의 금리 인하 기대감이 계속되면서 금 가격이 15일(현지시간) 온스당 4,200달러도 뚫고 올랐다. 국제유가는 미국과 중국 간 무역 긴장 격화와 공급 과잉 전망 여파가 계속되며 하락했다. 뉴욕상품거래소(COMEX)에서 금 선물 12월물은 1.2% 올라 4,213.60달러를 기록했다. 금 현물은 장중 한때 사상 최고치인 4,217.95달러까지 상승해 역대 최고가를 경신한 뒤 한국시간 기준 16일 오전 1시 33분 기준 1.3% 오른 온스당 4,196.76달러를 기록했다. 금괴. [사진=블룸버그통신] 주요 통화 바스켓 대비 달러 가치를 보여주는 달러지수는 0.32% 하락해 금값 매력을 더했다. 전날 제롬 파월 연준 의장이 "미국 노동시장은 여전히 '낮은 고용·낮은 해고의 침체(doldrums)' 상태에 있다"고 말하며 완화적(비둘기파적) 톤을 유지했기 때문이다. 스콧 베선트 미국 재무부 장관은 "주식시장이 흔들려도 미국은 중국과의 무역협상 입장을 바꾸지 않을 것"이라고 밝히며 미중 갈등 지속 가능성에 무게를 실었다. 씨티인덱스와 포렉스닷컴의 시장 분석가 파와드 라자크자다는 "금은 지금 완전히 폭주하는 국면에 있으며, 멈출 기미를 보이지 않는다"며 "최근 며칠간 미·중 무역 긴장이 다시 고조되면서, 투자자들이 주식의 롱 포지션(상승 베팅)을 헤지하기 위해 금으로 분산투자를 할 이유가 더욱 늘었다"고 말했다. 시장에서는 10월 금리 인하 0.25%포인트(25bp)를 단행할 확률을 98%, 12월 추가 인하는 100%로 완전히 반영한 상태다. 시장 참가자들은 또한 미국 정부 셧다운(일시적 행정 중단) 상황에도 주목하고 있다. 셧다운으로 인해 공식 경제 지표 발표가 중단되면서, 정책 결정자들의 경제 전망에도 불확실성이 커질 수 있기 때문이다. 유가는 무역 갈등보다 공급 과잉 가능성을 경계하며 하락했다. 런던 ICE선물거래소에서 브렌트유 12월물은 배럴당 61.91달러로 마감하며 전일 대비 0.48달러(0.8%) 하락했다. 뉴욕상업거래소(NYMEX)에서 서부텍사스산원유(WTI) 11월물은 0.43달러(0.7%) 내린 58.27달러로 마감했다. 두 벤치마크 모두 5월 7일 이후 가장 낮은 수준으로, 이틀 연속 최저가를 갱신했다. 석유수출국기구(OPEC)와 러시아 등 비회원 산유국들의 협의체인 OPEC플러스(+) 산유국 연합이 예정보다 빠른 속도로 감산 중단분을 복구하기로 하면서 공급 과잉 우려가 확대돼 유가는 여전히 압박을 받고 있다. 앞서 국제에너지기구(IEA)는 내년 기록적인 공급 과잉 전망치를 상향 조정했으며, 일부 대형 원유 트레이딩 회사들은 "기대보다 빨리 공급 초과 현상이 이미 나타나고 있다"고 경고했다. 뱅크오브아메리카는 "미·중 무역 긴장이 심화되고 OPEC+ 산유국들의 생산이 확대될 경우, 브렌트유 가격이 배럴당 50달러 밑으로 떨어질 수 있다"고 경고했다. UBS의 애널리스트 지오반니 스타우노보는 "유가는 여전히 무역 긴장과 투자심리(리스크 선호)의 변화에 크게 영향을 받지만, 주식시장이 강세를 보이고 있어 일정 부분 제한적인 지지를 받고 있다"고 말했다. kwonjiun@newspim.com 2025-10-16 06:13
기사 번역
결과물 출력을 준비하고 있어요.
기사제목
기사가 번역된 내용입니다.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동