전체기사 최신뉴스 GAM 라씨로
KYD 디데이
글로벌 특파원

속보

더보기

[여기는 실밸] "헤이 구글, 웃긴 이유 설명해줘"...유머 학습하는 구글 AI

기사입력 : 2022년04월29일 06:56

최종수정 : 2022년04월29일 09:13

구글, 차세대 AI '패스웨이' 진화한 PaLM 공개
딥 러닝 아닌 퓨삿 러닝으로 응용·추론 가능
AI 편향된 사고 등 윤리적 이슈가 과제

[편집자주] '여기는 실밸'은 돈과 인재가 몰리는 실리콘밸리의 벤처투자자(VC)들이 주목하고 있는 유망한 기업들을 소개합니다. 향후 기업공개(IPO) 가능성이 있는 유망한 기업이나 유니콘 기업들을 브리핑 해드립니다. '여기는 실밸'에서 실리콘밸리의 최신 산업 트렌드 및 기업 정보들을 확인할 수 있습니다.

[실리콘밸리=뉴스핌]김나래 특파원="헤이 구글, '비관론자에게 돈을 빌려라. 그들은 기대하지 않을 것' 이라는 문장이 왜 웃긴지 설명해줘"

구글 인공지능(AI)가 이제 사람의 농담까지 이해해 웃긴 이유까지 설명이 가능해졌다. 위의 질문에 구글 AI는 "대부분 사람들은 돈을 빌려줄 때 상대방이 돈을 갚을 것으로 기대하지만, 비관주의자는 항상 최악의 상황을 가정하는 사람이므로 돈을 빌린다면 어쨌든 갚지 않을 것으로 기대할 것으로 생각하기 때문이다"라고 답할 것이다.

이외에도 굉장히 전문적이고 이해하기 어려운 농담도 구글AI는 해석할 수 있다. 예컨대, "구글 TPU팀에서 고래를 고용한 거 봤어? 커뮤니케이션을 잘하던데"라는 농담은 일반인이 들어서는 알아 듣기 어렵다.

[뉴스핌=김나래 기자] 구글 리서치에서 설명한 유머 글을 해석하는 작동 방식. [사진=구글 블로그] 2022.04.29 ticktock0326@newspim.com

이는 TPU칩의 팟(pod)을 고래에 비유한 것으로 TPU는 구글이 딥 러닝에 사용하는 일종의 컴퓨터 칩을 말한다. 구글 AI는 팟의 사전적인 의미가 고래와 같은 동물들의 무리를 말하기 때문에 이를 이용한 유머라는 것을 분석해준다. 즉, "구글 TPU팀에서 고래를 고용해서 통신을 시키는거야?"라는 해석을 확장해 설명해 줄 수 있다. 

구글 리서치는 최근 새로운 AI 언어 모델 'PaLM(Pathways Language Model)'을 공개하고 AI가 이를 인식하는 방식들을 소개했다. PaLM은 작년 10월 구글이 차세대 AI 아키텍처로 소개한 '패스웨이(Pathways)'를 적용했으며, 패스웨이는 단일 모델을 학습시키는 데 특화된 시스템을 말한다.

제프 딘 구글 리서치의 수석 부사장은 지난 10월 패스웨이에 대해 "개발자가 한 가지만이 아닌 수천 또는 수백만 가지를 수행하도록 단일 모델을 훈련할 수 있는 차세대 AI 아키텍처"라고 소개했다.

실제로 패스웨이를 통해 항공 사진으로 어떤 지역의 지형을 파악하게 되면, 이 데이터는 해당 지역에 홍수가 발생했을 때 물이 어떻게 흐를지 예측하는 데에도 사용될 수 있다.

딘 부사장은 "이 기술로 많은 개별 작업을 처리할 수 있을 뿐만 아니라 기존 기술을 활용하고 결합해 새로운 작업을 더 빠르고 효과적으로 학습할 수 있는 하나의 모델을 훈련하고 싶다"며 "이렇게 하면 모델이 한 작업에 대한 교육을 통해 학습한 내용을 예측하는 지까지 배울 수 있다"고 설명했다. 

그가 설명한 것처럼 기존 AI 모델은 딥 러닝을 통해 학습하며, 학습한 내용 하나마다 한 가지 문제나 예시를 해결할 수 있다. 따라서 딥 러닝으로 학습한 모델을 제대로 활용하려면 수백만 개의 예제를 학습시켜야 했다.

하지만 패스웨이는 딥러닝보다 한단계 나아간 '퓨삿 러닝'으로 단일 모델을 학습시켜도 이를 다른 작업이나 문제를 해결할 때 활용할 수 있다. 다시 말해 기존의 딥 러닝은 새로운 작업이 필요한 경우 다시 학습을 해야 적용할 수 있지만 이번 구글의 퓨삿 러닝은 기존 학습 내용을 응용하고 추론이 가능하다.

 구글 TPU의 모습. [사진=구글] 2022.04.29 ticktock0326@newspim.com

이에 PaLM은 패스웨이를 보다 구체적인 형태로 구현해 노력의 결실을 맺었다는 평가를 받고 있다. PaLM은 패스웨이로 훈련된 5400억 개의 매개변수가 포함됐으며, 이를 통해 수백 가지의 언어를 이해하고 생성할 수 있으며 지금까지 개발된 다른 언어 모델보다 학습 효율이 높다는 것이 장점이다.

구글도 "PaLM은 현재까지 교육에 사용된 가장 큰 TPU 기반 시스템 구성으로 교육을 확장하기 위해 패스웨이 시스템을 처음으로 대규모로 사용하는 것을 보여줬다"면서 "여러 클라우드 TPU v4 팟에서 수행된 해당 교육은 6144개의 칩으로 확장됐다"고 평가했다.

​이번 구글이 발표한 자료에 따르면 영어와 다국어 데이터 세트의 조합을 사용해 훈련된 PaLM은 29개 작업 가운데 28개가 다른 기존 언어모델(머스크의 오픈 AI인 GPT-3, AWS가 제공하는 서버리스 기술인 람다) 보다 성능면에서 앞섰다. 질의응답과 문장 완성, 문맥 이해, 상식 추론 등 처리 작업 성능이 월등했다. 

구글 리서치는 "PaLM은 원인과 결과를 구별하고 적절한 맥락에서 개념적 조합을 이해하고 있다"며 "영어가 아닌 언어, 코딩 및 산술 작업에 능숙함을 보여줬다"고 발표했다.

업계에서는 올해 더 많은 산업과 사용 사례에 서비스를 제공하기 위해 사용되는 대규모 언어모델(LLM)의 가속화된 성장이 이어질 것으로 보고 있다. 방대한 양의 산업별 데이터에 대해 교육을 받은 LLM은 전문 훈련과 감독이 없어도 심층 도메인 질문에 답할 수 있다. 또 언어를 번역하며 문서를 이해·요약하고, 스토리를 작성하고 프로그램을 계산이 가능하다.

하지만 본격적인 PaLM 상용화를 위해 해결해야 할 문제가 있다. AI가 온라인으로 학습하는 이상 잘못된 정보나 차별·혐오 등이 반영될 가능성이 있어 편향된 사고 오류를 줄이는 것이 관건이다.

실제로 구글에서는 AI의 편향성 문제가 이슈가 된 적이 있다. AI 윤리 확립에 앞장서고 있는 팀닛 게브루 박사는 이같은 대규모 언어 모델에 대한 윤리적 문제를 지적하며 인종 차별적 비방을 무심코 받아들이는 것부터 무슬림을 폭력과 연관시키는 등 편향된 사고에 대해 지적했다. 이 같은 대형 모델들의 편향성이 있으면 소외된 사람에게 더 타격이 클 수 있다는 위험성이 있기 때문이다. 

그는 구글 AI윤리팀을 신설하고 2020년 12월까지 근무했지만 이후 연구소를 운영하고 있다. 그는 당시 대규모 언어모델의 단점을 논문을 통해 지적한 바 있다.

이에 구글 리서치 연구원들도 윤리적으로 위험한 부분에 대해 과제로 언급했다. 구글 리서치는 향후 언어 모델의 악의적인 사용에 대한 가이던스와 확장 가능한 솔루션 개발과 함께 지속적인 연구주제로 보완해 나간다는 방침이다. 

ticktock0326@newspim.com

[뉴스핌 베스트 기사]

사진
尹부부 공천개입 수사 급물살 타나 [서울=뉴스핌] 박서영 기자 = 윤석열 전 대통령이 탄핵심판 선고에서 헌법재판관 전원일치 의견으로 파면된 가운데 이른바 '명태균 의혹' 사건에 대한 검찰 수사가 윤 전 대통령 부부에 속도를 낼지 이목이 집중된다. 5일 법조계에 따르면 헌법재판소는 4일 오전 11시 윤 전 대통령 탄핵심판 선고기일을 열어 윤 전 대통령의 파면을 결정했다. 박근혜 전 대통령에 이은 헌정 사상 두 번째 파면이다. 사진은 윤석열 전 대통령. [사진=뉴스핌 DB] 검찰은 지난 2월 17일 윤 전 대통령 부부 공천개입 의혹, 여론조사 조작 의혹, 여론조사 비용 대납 의혹 등 명씨 관련 사건을 창원지검에서 중앙지검으로 이송했다. 이후 검찰은 해당 사건과 관련한 연이은 소환조사 및 강제수사 등에 착수하면서 잔여 수사에 속도를 내 왔다. 검찰은 명씨가 실질적으로 운영한 여론조사업체 미래한국연구소가 당시 대선 후보였던 윤 전 대통령을 돕고자 총 81차례에 걸쳐 불법 여론조사를 해 주고, 그 대가로 김영선 전 국민의힘 의원이 2022년 6·1 보궐선거에서 경남 창원 의창 선거구 공천을 받았다는 의혹을 받았다고 보고 있다. 윤 전 대통령의 부인 김건희 여사는 이와 관련, 보궐선거와 지난해 4월 22대 총선 당시 국민의힘 공천 과정에 개입한 의혹을 받는다. 이날 헌재의 결정으로 윤 전 대통령은 현직 대통령으로서 가졌던 '불소추특권'을 잃게 됐다. 기존 수사 대상이던 내란 혐의뿐 아니라 공천 개입 의혹 수사도 피할 수 없게 된다는 의미다. 법조계 안팎은 조기 대선을 앞두고 윤 전 대통령 부부를 향한 공천 개입 의혹 사건 수사가 급물살을 탈 것이라고 내다봤다. 정계 출신 법조인은 "박 전 대통령도 파면된 다음에 소환조사가 바로 이뤄졌다"며 "곧바로는 아니겠지만 민주당 측에서 신속한 수사를 압박할 텐데 검찰도 조만간 협의를 해 윤 전 대통령 부부의 소환 일정 등을 잡으려 할 것"이라고 전망했다. 실제 2016∼2017년 박근혜 정부의 국정농단 사건 때, 박 전 대통령의 탄핵안이 국회에서 가결되고 3개월 만에 헌법재판소가 파면 결정을 내렸다. 당시 검찰과 박영수 특별검사팀의 수사는 박 전 대통령이 자연인 신분이 된 이후 급물살을 탔다. 박 전 대통령은 파면 11일 만에 검찰에 소환됐고, 이후 열흘 만에 구속됐다. 양홍석 변호사(법무법인 이공)는 "윤 전 대통령이 파면됐으니 명태균 수사의 경우 검찰이 좀 더 가열차게 할 것 같고, 공직선거법 위반 사건도 있는데 이 또한 바로 착수해야 하지 않을까 싶다"며 "다만 전직 대통령이기 때문에 신병 문제는 바로 결정하기는 쉽지 않을 수 있다"고 예상했다. 검찰의 신속한 수사는 진행되겠지만, 윤 전 대통령의 소환조사 등은 조기 대선이 끝난 후 이뤄질 것이란 분석도 있었다. 부장검사 출신 변호사는 "대통령이 파면됐으니 적극적으로 윤 전 대통령 부부를 조사하려고 들긴 하겠지만 소환조사의 경우 조기 대선 이후가 될 것 같다"며 "정치적 파장이 큰 사안이라 검찰이 속도를 내서 수사 한다 해도 대선 정국에서 전 대통령 부부를 직격하기는 어렵다"고 했다. 윤석열 전 대통령이 4일 탄핵심판 선고에서 헌법재판관 전원일치 의견으로 파면된 가운데 이른바 '명태균 의혹' 사건에 대한 검찰 수사가 윤 전 대통령 부부를 향할지 이목이 집중된다. 사진은 명태균 씨가 지난해 11월 8일 오전 경남 창원시 창원지방검찰청에 정치자금법 위반 혐의 피의자 신분으로 출석하고 있는 모습. [사진=뉴스핌 DB] seo00@newspim.com 2025-04-05 07:00
사진
[尹 파면] 조기 대선 막 올랐다 [서울=뉴스핌] 한태희 기자 = 헌법재판소가 윤석열 대통령 파면을 선고하며 조기 대선 막이 올랐다. 현재 조기 대선 레이스에서 이재명 더불어민주당(민주당) 대표가 독주하는 구도다. 여·야 잠룡들은 권력 구조를 개편하는 개헌론으로 차별화에 나서는 등 대권을 향한 행보를 시작했다. [서울=뉴스핌] 한태희 기자 = 2025.04.03 ace@newspim.com 6일 정치권에 따르면 조기 대선은 오는 5월 말에서 6월 초에 치러질 가능성이 높다. 헌법 제68조 2항에 따라 파면 등으로 대통령 궐위 시 60일 이내 선거를 치러야 해서다. 한덕수 대통령 권한대행은 공직선거법 제35조 1항에 따라 늦어도 오는 14일까지 조기 대선일을 공고해야 한다. 조기 대선 레이스에 들어가며 대권을 노리는 후보자 발걸음도 분주해졌다. 선두 주자는 이재명 대표다. 이 대표는 차기 대권 유력 후보자를 묻는 각종 여론조사에서 압도적인 1위를 달리고 있다. 이 대표는 최근 공직선거법 위반 사건 2심에서 무죄를 받으며 사법 리스크 부담도 덜었다. 야권에서는 김경수 전 경남지사, 김동연 경기지사, 김두관 전 국회의원, 김부겸 전 국무총리, 김영록 전남지사, 이광재 전 강원지사, 전재수 의원 등이 당내 경선에 참여할 가능성이 있다. 이들은 '1강'인 이 대표와 비교해 열세다. 야권 잠룡들은 차기 대통령 임기 단축 등 개헌론을 부각하고 있다. 이준석 개혁신당 국회의원도 차기 대권을 넘보고 있다. 이준석 의원은 '40대 기수론' 등 정치권 세대 교체론을 앞세우고 있다. 여권에서는 김문수 고용노동부 장관, 안철수 국회의원, 오세훈 서울시장, 원희룡 전 국토교통부 장관, 유승민 전 국회의원, 한동훈 전 국민의힘 대표, 홍준표 대구시장 등이 조기 대선에 참전할 가능성이 있다. 여권 후보자들은 당내 경선에서 정통 지지자인 보수 표심을 먼저 얻어야 한다. 동시에 본선에서 중도층 표까지 끌어올 수 있는 경쟁력도 보여줘야 한다. 여권 후보자들은 '12·3 비상계엄 사태'를 촉발한 제왕적 대통령제 한계 극복 방안으로 대통령 권한을 분산하는 개헌론을 제시하고 있다. 각 당은 곧 당내 경선을 시작해 본선에 올릴 후보자 선정에 들어간다. 공직선거법 제49조에 따라 조기 대선 24일 전부터 이틀 동안 대통령 후보 등록을 끝내야 하기 때문이다. 조기 대선이 오는 6월 3일 치러지면 각 당은 오는 5월 11일까지 중앙선거관리위원회에 대통령 후보를 등록해야 한다. 여야는 약 8년 전 제19대 대통령 선거 당시 박근혜 대통령 파면이 결정된 후 1개월 안에 대통령 후보 선출을 마무리했다. 범야권이 대통령 단일 후보로 본선에 들어갈지도 주목된다. 당 내 간판 주자가 없는 조국혁신당은 '야권 통합 완전국민경선(오픈프라이머리)'을 제안했다. 이 대표가 있는 민주당이 이에 응할지에 정치권 이목이 쏠리고 있다. ace@newspim.com 2025-04-06 07:00
안다쇼핑
Top으로 이동