전체기사 최신뉴스 GAM
KYD 디데이

[여기는 실밸] "헤이 구글, 웃긴 이유 설명해줘"...유머 학습하는 구글 AI

기사입력 : 2022년04월29일 06:56

최종수정 : 2022년04월29일 09:13

구글, 차세대 AI '패스웨이' 진화한 PaLM 공개
딥 러닝 아닌 퓨삿 러닝으로 응용·추론 가능
AI 편향된 사고 등 윤리적 이슈가 과제

[편집자주] '여기는 실밸'은 돈과 인재가 몰리는 실리콘밸리의 벤처투자자(VC)들이 주목하고 있는 유망한 기업들을 소개합니다. 향후 기업공개(IPO) 가능성이 있는 유망한 기업이나 유니콘 기업들을 브리핑 해드립니다. '여기는 실밸'에서 실리콘밸리의 최신 산업 트렌드 및 기업 정보들을 확인할 수 있습니다.

[실리콘밸리=뉴스핌]김나래 특파원="헤이 구글, '비관론자에게 돈을 빌려라. 그들은 기대하지 않을 것' 이라는 문장이 왜 웃긴지 설명해줘"

구글 인공지능(AI)가 이제 사람의 농담까지 이해해 웃긴 이유까지 설명이 가능해졌다. 위의 질문에 구글 AI는 "대부분 사람들은 돈을 빌려줄 때 상대방이 돈을 갚을 것으로 기대하지만, 비관주의자는 항상 최악의 상황을 가정하는 사람이므로 돈을 빌린다면 어쨌든 갚지 않을 것으로 기대할 것으로 생각하기 때문이다"라고 답할 것이다.

이외에도 굉장히 전문적이고 이해하기 어려운 농담도 구글AI는 해석할 수 있다. 예컨대, "구글 TPU팀에서 고래를 고용한 거 봤어? 커뮤니케이션을 잘하던데"라는 농담은 일반인이 들어서는 알아 듣기 어렵다.

[뉴스핌=김나래 기자] 구글 리서치에서 설명한 유머 글을 해석하는 작동 방식. [사진=구글 블로그] 2022.04.29 ticktock0326@newspim.com

이는 TPU칩의 팟(pod)을 고래에 비유한 것으로 TPU는 구글이 딥 러닝에 사용하는 일종의 컴퓨터 칩을 말한다. 구글 AI는 팟의 사전적인 의미가 고래와 같은 동물들의 무리를 말하기 때문에 이를 이용한 유머라는 것을 분석해준다. 즉, "구글 TPU팀에서 고래를 고용해서 통신을 시키는거야?"라는 해석을 확장해 설명해 줄 수 있다. 

구글 리서치는 최근 새로운 AI 언어 모델 'PaLM(Pathways Language Model)'을 공개하고 AI가 이를 인식하는 방식들을 소개했다. PaLM은 작년 10월 구글이 차세대 AI 아키텍처로 소개한 '패스웨이(Pathways)'를 적용했으며, 패스웨이는 단일 모델을 학습시키는 데 특화된 시스템을 말한다.

제프 딘 구글 리서치의 수석 부사장은 지난 10월 패스웨이에 대해 "개발자가 한 가지만이 아닌 수천 또는 수백만 가지를 수행하도록 단일 모델을 훈련할 수 있는 차세대 AI 아키텍처"라고 소개했다.

실제로 패스웨이를 통해 항공 사진으로 어떤 지역의 지형을 파악하게 되면, 이 데이터는 해당 지역에 홍수가 발생했을 때 물이 어떻게 흐를지 예측하는 데에도 사용될 수 있다.

딘 부사장은 "이 기술로 많은 개별 작업을 처리할 수 있을 뿐만 아니라 기존 기술을 활용하고 결합해 새로운 작업을 더 빠르고 효과적으로 학습할 수 있는 하나의 모델을 훈련하고 싶다"며 "이렇게 하면 모델이 한 작업에 대한 교육을 통해 학습한 내용을 예측하는 지까지 배울 수 있다"고 설명했다. 

그가 설명한 것처럼 기존 AI 모델은 딥 러닝을 통해 학습하며, 학습한 내용 하나마다 한 가지 문제나 예시를 해결할 수 있다. 따라서 딥 러닝으로 학습한 모델을 제대로 활용하려면 수백만 개의 예제를 학습시켜야 했다.

하지만 패스웨이는 딥러닝보다 한단계 나아간 '퓨삿 러닝'으로 단일 모델을 학습시켜도 이를 다른 작업이나 문제를 해결할 때 활용할 수 있다. 다시 말해 기존의 딥 러닝은 새로운 작업이 필요한 경우 다시 학습을 해야 적용할 수 있지만 이번 구글의 퓨삿 러닝은 기존 학습 내용을 응용하고 추론이 가능하다.

 구글 TPU의 모습. [사진=구글] 2022.04.29 ticktock0326@newspim.com

이에 PaLM은 패스웨이를 보다 구체적인 형태로 구현해 노력의 결실을 맺었다는 평가를 받고 있다. PaLM은 패스웨이로 훈련된 5400억 개의 매개변수가 포함됐으며, 이를 통해 수백 가지의 언어를 이해하고 생성할 수 있으며 지금까지 개발된 다른 언어 모델보다 학습 효율이 높다는 것이 장점이다.

구글도 "PaLM은 현재까지 교육에 사용된 가장 큰 TPU 기반 시스템 구성으로 교육을 확장하기 위해 패스웨이 시스템을 처음으로 대규모로 사용하는 것을 보여줬다"면서 "여러 클라우드 TPU v4 팟에서 수행된 해당 교육은 6144개의 칩으로 확장됐다"고 평가했다.

​이번 구글이 발표한 자료에 따르면 영어와 다국어 데이터 세트의 조합을 사용해 훈련된 PaLM은 29개 작업 가운데 28개가 다른 기존 언어모델(머스크의 오픈 AI인 GPT-3, AWS가 제공하는 서버리스 기술인 람다) 보다 성능면에서 앞섰다. 질의응답과 문장 완성, 문맥 이해, 상식 추론 등 처리 작업 성능이 월등했다. 

구글 리서치는 "PaLM은 원인과 결과를 구별하고 적절한 맥락에서 개념적 조합을 이해하고 있다"며 "영어가 아닌 언어, 코딩 및 산술 작업에 능숙함을 보여줬다"고 발표했다.

업계에서는 올해 더 많은 산업과 사용 사례에 서비스를 제공하기 위해 사용되는 대규모 언어모델(LLM)의 가속화된 성장이 이어질 것으로 보고 있다. 방대한 양의 산업별 데이터에 대해 교육을 받은 LLM은 전문 훈련과 감독이 없어도 심층 도메인 질문에 답할 수 있다. 또 언어를 번역하며 문서를 이해·요약하고, 스토리를 작성하고 프로그램을 계산이 가능하다.

하지만 본격적인 PaLM 상용화를 위해 해결해야 할 문제가 있다. AI가 온라인으로 학습하는 이상 잘못된 정보나 차별·혐오 등이 반영될 가능성이 있어 편향된 사고 오류를 줄이는 것이 관건이다.

실제로 구글에서는 AI의 편향성 문제가 이슈가 된 적이 있다. AI 윤리 확립에 앞장서고 있는 팀닛 게브루 박사는 이같은 대규모 언어 모델에 대한 윤리적 문제를 지적하며 인종 차별적 비방을 무심코 받아들이는 것부터 무슬림을 폭력과 연관시키는 등 편향된 사고에 대해 지적했다. 이 같은 대형 모델들의 편향성이 있으면 소외된 사람에게 더 타격이 클 수 있다는 위험성이 있기 때문이다. 

그는 구글 AI윤리팀을 신설하고 2020년 12월까지 근무했지만 이후 연구소를 운영하고 있다. 그는 당시 대규모 언어모델의 단점을 논문을 통해 지적한 바 있다.

이에 구글 리서치 연구원들도 윤리적으로 위험한 부분에 대해 과제로 언급했다. 구글 리서치는 향후 언어 모델의 악의적인 사용에 대한 가이던스와 확장 가능한 솔루션 개발과 함께 지속적인 연구주제로 보완해 나간다는 방침이다. 

ticktock0326@newspim.com

[뉴스핌 베스트 기사]

사진
이화영, 대법서 징역 7년8개월 확정 [서울=뉴스핌] 홍석희 기자 = 쌍방울 그룹에서 수억원대 뇌물을 받고, 800만 달러를 북한에 송금한 혐의로 기소된 이화영 전 경기도 평화부지사가 징역 7년 8개월을 확정 받았다. 대법원 2부(주심 박영재 대법관)는 5일 오전 특정범죄가중처벌등에관한법률위반(뇌물) 등 혐의로 재판에 넘겨진 이 전 부지사에게 징역 7년 8개월을 선고한 원심을 확정했다. 쌍방울 그룹에서 수억원대 뇌물을 받고, 800만 달러를 북한에 송금한 혐의로 기소된 이화영 전 경기도 평화부지사가 징역 7년 8개월을 확정 받았다. 사진은 이 전 지사가 지난해 10월 2일 오전 서울 여의도 국회 법제사법위원회에서 열린 박상용 수원지검 부부장검사에 대한 탄핵소추 사건 조사 관련 청문회에서 정청래 법사위원장 질의에 답변하는 모습. [사진=뉴스핌 DB] 이 전 부지사는 이재명 대통령이 경기지사이던 2019년, 쌍방울로 하여금 도지사 방북 비용 300만 달러와 북한 스마트팜 사업 비용 500만 달러 등 총 800만 달러를 북한 측에 보내도록 한 혐의로 기소됐다. 경기도 평화부지사, 경기도 산하기관인 킨텍스 대표로 재직 중 쌍방울로부터 법인카드와 차량 등 3억3400여만 원의 정치자금을 제공받은 혐의도 받았다. 검찰은 이중 2억5900여만 원에 대해 뇌물 혐의를 적용했다. 1심은 이 전 부지사의 혐의 대부분을 유죄로 판단해 정치자금법 위반 징역 1년 6개월, 특가법상뇌물 및 외국환거래법 위반 등 징역 8년을 합해 총 징역 9년 6개월을 선고했다. 1심 재판부는 쌍방울이 경기도 스마트팜 사업비(500만 달러)와 당시 경기지사였던 이 대통령의 방북비용(300만 달러)을 대납하려 했다는 검찰 측 판단을 모두 받아들였다. 다만 검찰이 공소사실에 적시한 총 800만 달러 중 394만 달러만 해외로 밀반출된 불법 자금으로 인정했다. 2심은 1심 판결을 파기하고, 징역 7년 8개월 및 벌금 2억5000만원, 추징 3억2595만 원으로 감형했다. 구체적으로 정치자금법 위반 혐의에 대해서는 징역 8개월을, 특가법상뇌물 및 외국환거래법 위반 등 혐의에 대해서는 징역 7년을 각각 주문했다. 1심 형량과 비교해 1년 10개월이 감형됐다. 2신 재판부는 1심과 마찬가지로 검찰이 기소한 대북송금 800만 달러 가운데 394만 달러만 북한 측에 밀반출됐다며 유죄로 판단했다. 특히 이 중 200만 달러는 김 전 회장이 이재명 당시 경기지사의 방북비용으로 대납한 것이라고 봤다. 다만 "뇌물죄, 정치자금법 위반죄 범행 후 공무원 또는 정치인으로서 부정한 행위까지 나아가지는 않은 점, 스마트팜은 인도적 지원 사업이었고 남북간 평화조성을 위한 남북교류협력사업의 추진이라는 정책적 목적도 있는 점, 김성태가 쌍방울그룹의 대북사업 추진 등 이익을 도모한 사정도 있고 피고인이 김성태에게 비용 대납을 강요한 사정은 없는 점 등을 유리한 양형으로 고려했다"고 감형 이유를 설명했다. 검찰과 이 전 부지사 측 모두 판결에 불복해 상고했으나 대법원은 양 측의 주장을 모두 받아들이지 않았다. 대법원은 "원심의 유죄 부분 판단에 필요한 심리를 다하지 않은 채 논리와 경험의 법칙을 위반해 자유심증주의 한계를 벗어나거나 검사의 사전면담 등이 이루어진 증인의 법정진술의 신빙성 판단, 유죄의 인정에 필요한 증명의 정도, 뇌물수수죄에서 직무관련성, 대가성, 뇌물귀속 주체와 고의, 정치자금 부정수수죄에서 정치자금과 고의 등에 관한 법리를 오해하는 등으로 판결에 영향을 미친 잘못이 없다"고 판시했다. hong90@newspim.com 2025-06-05 10:45
사진
외교부 장관 김현종·조현 거론 [서울=뉴스핌] 지혜진 기자= 인수위원회 없이 출범하는 새 정부는 민생 회복과 함께 대미 관세 협상 등 외교·안보 문제도 시급하다. 미국 법원에서 도널드 트럼프 대통령이 주요국을 대상으로 부과한 상호관세 효력을 정지시켰지만 여전히 통상 환경의 불확실성이 가신 것은 아니다. 지난 4일 당선된 이재명 대통령은 "국익 중심의 실용 외교" 강조해왔다. 민주당 공약집을 보면 통상환경의 변화와 경제안보 중요성에 대응하기 위해 주요 20개국(G20)·주요 7개국(G7) 등의 적극 참여를 통해 글로벌 현안 적극 대응하고 2025 경주 APEC 성공적 개최를 위한 외교역량을 강화할 것을 약속했다. 신남방·신북방 정책을 계승 발전해 글로벌 사우스와 권역별 협력을 심화하고 핵심소재·연료광물의 공급망(GVC) 안정화를 위한 통상협력 강화도 약속했다. (왼쪽부터) 김현종 더불어민주당 선대위 외교안보특보, 위성락 민주당 의원, 조현 선대위 국익중심실용외교위 공동위원장, 안규백 의원. [사진=뉴스핌DB] 북핵 대응으로는 한국형 탄도미사일 성능과 한국형미사일방어체계(KAMD)를 고도화를 내세웠다. 핵무장이나 핵잠재력 확보에 대해서는 언급하지 않았다. '북핵 대응의 기본 원칙은 한·미 확장억제 강화'라는 기존의 기조를 이어갈 것으로 예상된다. 국방 분야에서는 국방 문민화를 비롯해 군 정보기관 개혁, 육·해·공군 참모총장 인사청문회 도입 등을 내세웠다. 이 대통령은 취임 첫날 국가안보실장에 위성락 민주당 의원을 임명했다. 주러시아 대사를 지낸 외교관 출신인 위 의원은 '이재명 후보 외교안보보좌관'으로 임명돼 활동했다. 이번 대선에서는 민주당 선대위 산하 '동북아평화협력위원회' 좌장을 맡았다. 외교부 장관 후보군으로는 조현 전 외교부 1차관과 김현종 전 청와대 국가안보실 2차장이 언급된다. 조 전 차관은 선대위에서 국익중심실용외교위원회 상임공동위원장을 맡았다. 위 의원과 외무고시 13기 동기로 유엔대사, 외교부 다자외교조정관, 외교부 국제기구국장 등을 역임했다. 김 전 차장은 대선 기간에도 '이재명 후보 외교안보보좌관' 자격으로 백악관 고위 당국자들과 만나 한미동맹과 한미일 3국 협력을 강화해야 한다는 이 후보의 입장을 전달하기도 했다. 국방부 장관 자리에는 군 출신이 아닌 5선의 안규백 민주당 의원이 유력하다. 이 대통령은 후보 때부터 군에 대한 '문민 통제'를 강조해 왔다. heyjin@newspim.com 2025-06-05 06:00
안다쇼핑
Top으로 이동