전체기사 최신뉴스 GAM
KYD 디데이
산업 생활경제

속보

더보기

[김정호의 4차혁명 오딧세이] 아이에게서 배우는 AI 강화학습

기사입력 : 2019년04월22일 08:00

최종수정 : 2019년04월22일 08:00

우리는 어떻게 배우는가

필자가 처음 영어 공부를 시작한 것은 중학교 들어가기 전, 초등학교 6학년 때로 기억한다. 아마 공책에 a, b, c, d 알파벳을 필기체와 출판 서체로 연습한 기억이 난다. 그리고 영어로 배운 첫 문장이 “I am a boy,아니면 “You are a girl” 이 아닌가 생각한다.

        김정호 교수

본격적으로 영어를 공부한 시기는 고등학교 때이다. 그때 사용했던 영어 교재가 ‘성문종합영어’, ‘영어의 왕도’ , 그리고 ‘1200제’였다. 특히 그 중에 가장 어려운 교재가 ‘1200제”이었는데 아마도 일본 참고서를 번역한 책으로 기억한다.

그런데 이렇게 영어 공부를 시작할 때 재일 재미없었던 부분이 문법을 외우는 과정이었다. 명사, 대명사, 동사, 가정법 등 외우는 내용도 많고, 예외도 많았다. 그 규칙을 파악하고 외우고 이를 토대로 문장을 이해하고, 해석하고 작문하였다.

인공지능에서도 전통적으로 이와 비슷한 학습 방법을 써 왔다. 전통적 인공지능에서는 먼저 뇌와 지능의 동작 원리를 이해하고, 그에 맞추어 모델을 세우고 이를 컴퓨터 프로그램으로 구현하는 방법이다. 이 방법은 인간의 뇌의 동작을 인간의 논리로 파악하려 하는 방법이다. 영어 배울 때 문법으로 언어를 배우려는 시도와 같은 방법이다.

성문종합영어 참고서 내의 영어 문법과 작문 부분, [출처: tistory]


하지만 최근 딥뉴럴네트워크(DNN)으로 표현하는 인공지능은 빅데이터를 제공하고 그 데이터를 통해서 인공지능이 스스로 학습하는 방법이다. 이러한 방법을 ‘머신러닝' 인공지능이라고 한다. 여기서는 데이터를 믿고 학습한다. 이러한 머신러닝 학습 방법 중에서 인공지능 스스로 데이터를 만들어 내고 최적의 답을 만들어 내는 방법이 등장했는데, 이를 ‘강화학습(RL: Reinforcement Learning)’이라고 한다. 이를테면 컴퓨터 스스로가 자율학습을 해서 지능을 쌓아가는 방법이다.

아기가 처음 말을 배울 때 하는 말을 ‘옹알이’라고 한다. 옹알이를 통해서 엄마와 소통하면서 말을 배워나간다. 그때 처음 배우는 말이 ‘엄마’, ‘맘마’, ‘아빠’ 와 같은 단어들이다. 맘마라고 부르면 엄마가 우유를 주고, 엄마라고 부르면 엄마가 따뜻한 눈길을 주고 사랑으로 안아준다. 이처럼 아기가 언어를 배우는 과정에서는 아기가 주변 환경과 교류하면서 보상을 얻는 과정에서 말을 배운다. 우리처럼 문법을 통해서 배우지 않는다.

또한 아기가 걸음마를 배우는 과정도 비슷하다. 걷고, 넘어지고 다치면서, 시행착오를 거치면서 아장 아장 걷기를 배운다. 이때 환경은 거실 마루이고, 보상은 걷는 기쁨과 엄마의 웃음이다. 이처럼 주변환경 속에서 행동하고 보상 받으면서, 그 결과 최선의 결정과 행동을 하면서 학습하는 방법을 ‘강화학습’ 인공지능이라고 한다. 그래서 강화학습은 인간이 본능적으로 배우는 학습 방법이다.

아기가 옹알이를 하며 말을 배우고 있다. [출처: tistory]


시행착오 통한 강화학습, 로봇과 게임에도 적용 가능

강화학습에서는 주변 환경(Environment)이 있고 그 상태(State)를 벡터로 표현한다. 다양한 시도(Action)와 보상(Reward)를 얻으면서 스토리(Episode)를 만들고, 그 결과로 환경을 파악해 간다. 이렇게 시행착오를 거쳐서 학습하게 된다. 그리고 최적의 정책(Policy)을 찾아간다.

생쥐의 미로 찾기 게임이 강화학습의 좋은 한 예가 된다. 이 때 미로의 구조가 환경이 되고, 최종적으로 치즈를 먹게 되면 보상을 얻게 된다. 그렇지만 최단 시간 내에 찾아야 하는 조건이 붙게 된다. 이처럼 각 상태에 따라 미래를 정할 수 있고, 과거는 묻지 않는 조건을 강화학습에서는 마르코프(Markov) 조건이라고 한다. 강화학습을 적용하려면 마크코프 조건을 만족해야 한다. 과거는 묻지 않고, 현재 상태로만 그의 미래를 점치는 조건이다. 과거까지 따지면 너무 복잡해서 보상을 예측하기 어렵기 때문이다.

강화학습은 로봇의 걷기 제어에도 적용될 수 있다. 로봇이 넘어지고 걷기를 반복하면서 인간에게 가까운 최적의 보행 제어를 이러한 강화 학습 방법으로 찾을 수 있다. 마찬가지로 이러한 학습은 드론의 조종, 헬리콥터 조종, 항공기의 조종 제어에 사용할 수 있다. 더 나아가 자율주행 자동차의 자동 운전에 강화학습이 사용되어 주어진 조건(State) 에서 최적의 자율 운전을 할 수 있다. 이때 최종적으로 주어지는 보상이 연료비의 절약이나 사고율 저하, 안전성 향상 등이 될 수 있다.

이때 시행착오의 과정은 시간과 비용이 든다. 자동차를 부수기에는 비용이 비싸다. 경우에 따라 시행과 보상을 컴퓨터 시뮬레이션으로 대신 하기도 한다.

강화학습은 게임에 적용되기도 한다. 블록깨기(Atari Breakout)게임을 강화학습으로 하는 경우 금방 최적의 조건을 찾는 것을 볼 수 있었다. 돌이 블록 뒤로 들어가면 여러 번의 반사과정을 반복하면서 저절로 대부분의 블록이 격파되고 점수가 올라간다.

그래서 강화학습을 수행한 컴퓨터와의 인간과의 게임이 이제 더 이상 상대가 되지 않는다. 인공지능은 이런 경우뿐만 아니라 주식투자, 재고관리, 웹사이트의 광고 배치, 상품추천 등 다양한 분야에서 중요한 결정을 인간을 대신해서 할 수 있다. 인간처럼 이 때 보상은 경영상 이익이 된다. 컴퓨터는 졸거나, 피곤해 하거나, 술을 마시지도 불평하지도 않는다. 강화 학습으로 훈련한 보상 체계만 따를 뿐이다.

생쥐 미로게임에서 다양한 시도를 통해 치즈를 얻는 길을 찾는 인공지능 강화학습의 내부 구조, [출처: KAIST]
강화학습 인공지능으로 무장한 컴퓨터의 블록깨기(Atari Breakout) 게임, [출처:Ecosia]


강화학습은 인공지능의 '무기' 

이와 같이 강화학습은 데이터와 정답 없이 스스로 학습이 가능한 인공지능 알고리즘이다. 공부로 치면 자율학습 공부 방법이다. 인공지능이 데이터를 이용해서 학습하기 위해서는 데이터를 모으는 작업에서 많은 비용을 지불 해야 한다. 데이터 수거 장치, 전송 장치, 저장 장치에 투자해야 한다. 5G 무선 통신도 투자 비용이 크다. 그러면서도 데이터를 모으려면 개인의 허락을 받아야 하고, 개인 정보 보호 문제도 극복해야 한다. 그렇지만 강화학습은 데이터 없이 학습한다. 인공지능이 점점 강력해지는 또 다른 이유이기도 하다. 

 

joungho@kaist.ac.kr

[김정호 카이스트 전기 및 전자공학과 교수]

[뉴스핌 베스트 기사]

사진
소고기 콕 집은 트럼프...축산농 반발 [세종=뉴스핌] 이정아 기자 = 다음 달 1일 한국에서 생산돼 미국으로 수입되는 모든 제품에 '25% 상호관세' 부과를 앞둔 상황에서 한미 간 막판 협상에 돌입했다. 이번 협상에서 미국은 30개월령 이상 미국산 소고기 수입 제한 철폐를 강하게 요구하며 한국을 압박하고 있다. 정부는 미국 측의 압박으로 30개월령 이상 미국산 소고기 수입 허용 등 농축산물 비관세장벽 카드를 협상테이블에 올리는 방안을 고심 중이다. 다만 농민단체의 반발과 국민 신뢰가 흔들릴 것으로 예상되면서 '제2의 광우병 사태'가 재현되는 것 아니냐는 우려도 제기된다.  ◆ 美, 30개월령 이상 소고기 압박…韓, 농산물 카드 검토 28일 정부에 따르면 도널드 트럼프 미국 대통령은 호주가 미국산 소고기를 개방했다는 점을 연일 언급하며 한국에도 같은 수준의 개방을 요구하고 나섰다.  도널드 트럼프 대통령은 지난 24일(현지시간) 소셜미디어인 트루스소셜에 "호주가 미국산 소고기를 받아들이기로 합의했다"며 "이제 우리는 호주에 (미국산) 소고기를 많이 팔 것"이라고 게시했다. 도널드 트럼프 미국 대통령.[사진=로이터 뉴스핌] 2025.07.25 mj72284@newspim.com 이어 "우리의 훌륭한 소고기를 거부하는 다른 나라들도 (개방) 요구를 받은 상태"라며 "이 좋은 흐름을 이어가자. 지금은 미국의 황금기"라고 덧붙였다. 트럼프 대통령은 소고기 개방을 거부하는 국가를 구체적으로 명시하지는 않았지만, 관세협상을 앞둔 한국을 겨냥한 것 아니냐는 해석이 나왔다. 제이미슨 그리어 미국 무역대표부(USTR) 대표와 브룩 롤린스 미국 농무부 장관 또한 트루스소셜을 통해 "지난 20년간 비과학적인 무역 장벽 때문에 우리 소고기가 호주 소비자들에게 판매되지 못했다는 것은 터무니없다"는 성명을 발표했다. 이들은 "미국 농축산업자들은 세계에서 가장 안전하고 건강한 소고기를 생산하고 있다"며 "USTR은 불공정한 무역 관행을 타파하고 미국 국민이 주요 시장에 배제되지 않도록 미국의 무역 파트너들과 계속 협상할 것"이라고 밝혔다. 미국이 협상을 진행하는 국가를 대상으로 연일 30개월 이상 소고기 개방을 압박하면서, 한국도 소고기 카드를 협상 테이블에 올릴지 여부를 검토 중이다.  김용범 대통령실 정책실장은 지난 25일 한미 관세협상과 관련해 "협상 품목 아래 농산물도 포함돼 있다"며 "농업이나 디지털 분야는 제이미슨 그리어 미 무역대표부(USTR) 대표와 여한구 통상교섭본부장 간 협상이 계속 이어지고 있다"고 전했다. 당초 정부는 한미 관세협상에서 농업분야 보호를 우선으로 두고, 30개월령 이상 미국산 소고기 개방 등 비관세 장벽을 해소할 카드를 협상 테이블에 올리지 않기로 방침을 정한 바 있다. 한 대형마트의 미국산 쇠고기 진열대 모습 <뉴스핌 DB> 그러나 지난 25일(현지시간) 미국 워싱턴DC에서 열릴 예정이었던 한미 고위급 '2+2 통상협의'가 스콧 베센트 미국 재무장관의 일정 사유로 전날 취소되면서 미국이 한국의 협상 태도에 불편을 느낀 것 아니냐는 지적이 나왔다. 앞서 미국은 우리나라에 대해 25%의 상호관세를 부과하는 행정명령에 서명했다. 이는 오는 8월 1일부터 적용되며, 한미 양국은 관세 협상을 진행 중이다. 트럼프 행정부는 한국에 대해 ▲30개월령 이상 미국산 쇠고기 수입 허용 ▲쌀 시장 추가 개방 ▲유전자변형(LMO) 감자·사과 검역 완화 등을 강하게 요구하고 있다. ◆ 농민단체 "관세협상에 농업 희생양 삼지 말아야"…대정부 투쟁 돌입 정부로서는 30개월령 이상 미국산 소고기 수입에 대해 민감하게 반응할 수밖에 없다. 우선 한국은 현재도 미국산 소고기의 최대 수입국이다. 지난해 미국산 쇠고기 수입액은 22억1000만달러로 집계됐다. 전체 수입액(38억4700만달러) 대비 57.4%를 차지한다. 미국산 쇠고기 수입액은 지난 2004년 1억300만달러에서 2012년 5억2200만달러, 2016년 10억3500만달러로 20억달러를 넘기다 2022년에는 26억2400만달러로 역대 최대치를 기록했다. 지난해까지의 연평균 증가율은 17.5%다. 이재명 대통령 [사진=대통령실] 우리나라는 이른바 '광우병 파동' 이후 30개월령 미만 미국산 소고기만 수입하고 있다. 지난 2008년 한미 쇠고기 협상이 타결됐고, 우리 정부가 30개월령 이상 미국산 소고기까지 수입한다는 사실이 알려지자 이에 반대하는 촛불집회가 전국적으로 열렸다. 당시 이명박 정부 지지율은 취임 2개월 만에 20%대로 폭락했고, 결국 정부는 미국과 소고기 협상을 일부 재협상했다. 다시 말해 현재 국내 소비자들은 30개월령 이상 미국산 소고기 섭취에 대해 안전하지 못하다는 인식이 기반에 깔려 있다. 또 우리나라 연간 쌀 저율관세할당(TRQ) 물량은 40만8700톤으로, 미국 물량이 이중 13만2304톤(32%)을 차지한다. 쌀 개방은 WTO 규약에 묶여 있기 때문에 한미 양자 간 협상체계가 불가능하다. 다만 미국이 소고기 등 농산물 개방을 미루는 국가에 더 높은 관세를 부과할 계획이라는 점을 연일 강조하면서 국익 측면에서 조선·철강·반도체 등 산업을 보호하고 농산물을 희생해야 하지 않겠냐는 의견도 나온다. 농민단체는 정부의 기류에 대거 반발하고 있다. 한국농축산연합회, 한국종합농업단체협의회, 축산관련단체협의회, 농민의길 등 농축산업 단체는 이날 용산 대통령실 앞에서 결의대회를 개최하고 대정부 투쟁에 나선다. 이들 단체는 "미국산 농축산물은 이미 한미 FTA로 전면개방을 한 마당에 관세 추가 인하 및 비관세장벽까지 철폐된다면 농민 생존권 말살과 함께 국내 농업생산 기반 붕괴는 시간문제일 것"이라며 강하게 규탄한다. 이어 "미국산 소고기에 대한 수입연령 제한과 사과에 대한 식물검역은 국내법과 WTO 등 국제협정 등에 따른 정당한 조치이며, 국민건강과 직결된 것으로 절대 포기해선 안 되는 문제"라며 "농축산물을 협상대상에서 제외해 식량주권과 국민건강권을 반드시 사수할 것"을 정부에 촉구했다. 단체 관계자는 "한미 관세협상 추이를 예의주시하면서 요구가 묵살될 경우 대대적인 추가 농민항쟁을 벌이겠다"고 예고했다. [서울=뉴스핌] 이형석 기자 = 3일 오후 서울 여의도 국회 본청 계단에서 열린 더불어민주당 쌀값정상화법 공포 촉구 결의대회에서 참석자들이 피켓을 들고 구호를 외치고 있다. 2023.04.03 leehs@newspim.com plum@newspim.com 2025-07-28 12:49
사진
SPC "8시간 넘는 야간근무 없앤다" [서울=뉴스핌] 최원진 기자= SPC그룹이 27일 대표이사 협의체인 'SPC 커미티'를 열고 장시간 야간 근로를 폐지하고, 앞으로 생산직의 야근 시간을 8시간 이내로 제한하기로 했다고 밝혔다. SPC그룹은 야간 생산이 불가피한 일부 필수 품목을 제외하고, 가능하면 야간 가동 자체를 줄여나가겠다는 방침이다. 그룹 관계자는 "8시간 초과 야근 폐지를 위해 △인력 확충 △생산 품목 및 생산량 조정 △라인 재편 등 전반적 생산 구조를 완전히 바꿀 계획이다. 각 (계열)사별 실행 방안을 마련해 10월1일부터 전면 시행한다"고 설명했다. 이재명 대통령이 지난 25일 경기 시흥시 SPC 삼립 시흥 공장에서 열린 산업재해 근절 현장 노사간담회에서 발언을 하는 모습. [사진=대통령실]  주간 근무 시간 역시 단계적으로 단축해 장시간 노동에 따른 피로 누적과 사고 위험을 사전에 차단한다는 계획이다. 또한 이번 근무체계 전환이 현장에서 안정적으로 정착될 수 있도록 노조와 협의를 병행하고, 내부 교육 및 매뉴얼 정비 작업도 함께 추진할 예정이다. SPC는 "생산 현장의 장시간 야간 근로에 대한 지적과 우려를 무겁게 받아들여 근무 형태를 비롯한 생산 시스템 전반에 대한 개혁을 추진하기로 했다"며 "앞으로 근로자 안전이 최우선시되는 일터를 만들 수 있도록 적극 개선하고 투자하겠다"고 밝혔다. 이번 결정은 지난 25일 이재명 대통령이 SPC삼립 시화공장을 직접 찾아 현장 간담회를 주재하며 야간 노동과 과도한 업무 강도를 지적한 데 따른 것이다.  이 대통령은 지난 5월 SPC 시화공장에서 발생한 여성 노동자 사망 사고와 관련해 "수십 년이 흘렀지만 여전히 현장에서 노동자가 죽고 있다"며 "같은 방식의 사고가 반복되는 건 심각한 문제"라고 강하게 비판했다. 이어 "돈과 비용 때문에 안전과 생명을 희생하는 구조라면 반드시 바뀌어야 한다"며 "이번을 계기로 산재 사망률을 줄이기 위한 현실적이고 구체적인 대책이 마련되길 바란다"고 강조했다. 이날 간담회에는 김영훈 고용노동부 장관, 김용범 정책실장, 문진영 사회수석 등 청와대 주요 인사들이 배석했으며, SPC 측에선 허영인 회장과 김범수 SPC삼립 대표, 김지형 컴플라이언스위원장, 김희성 안전보건총괄책임자, 김인혁 노조위원장 등이 참석했다. CJ푸드빌, 크라운제과 등 타 식품업체의 현장 책임자들도 함께 자리를 했다. wonjc6@newspim.com 2025-07-27 13:22
안다쇼핑
Top으로 이동