전체기사 최신뉴스 GAM
KYD 디데이
글로벌 미국·북미

속보

더보기

구글 '바드' 오답 "문장 자동완성 시스템이 오정보 생성"

기사입력 : 2023년02월09일 15:36

최종수정 : 2023년05월17일 08:27

[서울=뉴스핌] 최원진 기자= 마이크로소프트(MS)가 오픈AI의 인공지능(AI) 챗봇 '챗GPT'를 탑재한 새로운 버전의 검색 엔진 빙(Bing)을 출시하자 구글도 '바드'(Bard)를 공개했지만 광고 영상 속에서 바드의 오답이 확인되면서 망신을 샀다. 

구글이 지난 6일(현지시간) 공개한 짧은 바드 시현 영상에는 "나의 9살 아이에게 알려줄 만한 '제임스 웹 우주망원경'(JWST)의 새로운 발견들은 어떤 게 있을까"란 질문이 검색됐고, 바드는 "당신의 9살 아이가 좋아할 만한 JWST의 발견들을 아래에 모아봤다"며 '사실'들을 나열했다.

그러나 답변 중에는 "JWST가 최초의 외계 행성 사진을 찍었다"는 잘못된 정보가 포함돼 주요 외신과 전문가들의 지적이 빗발쳤다. 미 항공우주국(NASA)도 최초의 외계 행성 이미지는 지난 2004년 유럽남방천문대가 설치한 초거대 망원경(VLT)이 찍었다고 확인했다. 

챗GPT 모바일 구동화면.[사진=블룸버그]

구글 바드의 잘못된 답변을 지적한 여러 전문가 중 한 명인 NASA 소속의 천체 물리학자 그랜트 트렘블래이 박사는 "챗GPT 등 AI챗봇은 소름끼치도록 인상적인 것은 맞지만 오답을 내놓는다. 그것도 '매우 자신있게' 잘못된 답변을 내놓는다"고 지적했다.

이는 비단 구글만의 문제라기 보단 생성형 AI의 구동 방식 자체의 문제일 수 있다고 미 IT전문 매체 더버지는 분석했다. 

챗GPT, 바드 같은 AI챗봇은 질문에 답하기 위해 입증된 사실만 모아놓은 특정 데이터베이스(DB)에서 정보를 가져오는 것이 아니라 셀 수 없을 정도로 방대한 인터넷상 글의 문장 패턴을 분석, 이용자 질문에 부합하는 단어들을 서술형으로 재조합하는 원리다. 

AI챗봇은 본질적으로 '문장 자동 완성 시스템'이기 때문에 알맞는 단어들을 추출하고 재조합하는 과정에서 오류를 범할 수 있다.

또 정보를 수집하는 출처도 현재로선 제한된 것이 없어서 각종 블로그, 소셜미디어 등 이용자의 주관적 시각을 포함한 글들도 정보 수집 재료로 쓰일 수 있어 문제다. 

"미국의 초대 대통령은 누구?"와 같은 역사적 사실에 관한 질문에 오답이 나올리 없겠지만 JWST 등 최근 발생한 사건에 대한 답변은 '오류투성이'일 가능성이 큰 것도 이 때문이다. 

결국 AI챗봇은 입력값에 따라 출력값이 결정되는 '결정론적'(deterministic) 시스템이 아니라, AI가 질문과 연관됐다고 판단할 경우 사실입증 여부와 관계없이 정보를 제공하는 '개연론적'(probabilistic) 접근을 취한다는 설명이다. 

AI를 연구하는 미 프린스턴대학의 아빈드 나라야난 컴퓨터과학과 교수도 생성형 AI가 내놓는 답변이 "사실인지 아닌지 어떻게 알 수 있겠나"면서 현재로선 "엉터리 생성기에 불과하다"고 지적했다.

AI가 기계학습(machine learning) 능력으로 거짓정보를 차단할 순 없는 것일까. 미 매사추세츠공과대학(MIT)의 레미 발리 박사는 "정보를 가져온 웹사이트가 한 번이라도 가짜뉴스나 잘못된 정보를 게시한 적이 있다면 시스템이 자동적으로 해당 사이트에서의 데이터 수집을 차단하는 것이 한 방법일 수 있겠다"고 조언했다. 

콘텐츠 마케팅 업체 시에지 미디어의 로스 허젠스 검색엔진 전문가는 구글과 MS의 AI 검색 서비스는 이제 막 첫걸음을 뗀 상태이고 당연히 완벽할 수 없기 때문에 "구글이 바드를 일반 대중에 전면 출시할 때 아마도 답변 출처 URL링크를 첨부하지 않을까 생각한다"고 예상했다. 

wonjc6@newspim.com

[뉴스핌 베스트 기사]

사진
김영훈 고용부 장관 후보자는 누구? [세종=뉴스핌] 양가희 기자 = 이재명 대통령이 김영훈 전 민주노총 위원장을 고용노동부 장관 후보자로 임명했다. 강훈식 대통령실 비서실장은 23일 11개 부처 장관 후보자를 발표했다. 김 후보자는 1968년 부산에서 태어나 마산중앙고, 동아대를 졸업해 성공회대 NGO대학원에서 정치정책학(정치학) 석사 학위를 받았다. 김영훈 고용노동부 장관 후보자 [사진=대통령실] 2025.06.23 sheep@newspim.com 김 후보자는 2010년부터 2012년까지 민주노총 위원장으로 활동하다가 2017년 정의당에 입당, 제19대 대통령 선거에서 노동본부장을 맡았다. 2021년에는 더불어민주당 대선 후보 이재명 대통령의 노동부문 지지단체 '공정사회 구현을 위한 노동광장'에 공동대표로 참여한 바 있다. 지난 총선에서는 더불어민주연합에서 비례대표 20번을 받았다. 현재 한국철도공사 기관사이자 부산지방노동위원회 공익위원으로 활동하고 있다. 강 비서실장은 "민주노총 위원장을 역임하며 노동의 목소리를 대변해 온 인물"이라며 "산업재해 축소, 노란봉투법 개정, 주4.5일제 등 일하는 사람들의 권리를 강화하는 역할을 해줄 것으로 기대한다"고 밝혔다. 한 정부 관계자는 김 후보자에 대해 "합리적이다"라며 "민주노총이 그간 (사회적 대화 등) 제도권 밖에 있었다. 이를 계기로 제도권으로 들어오길 희망한다"고 말했다. ◇ 김영훈 고용노동부 장관 후보자 프로필 ▲1968년 부산 출생 ▲마산중앙고, 동아대, 성공회대 NGO대학원 정치정책학 석사 ▲정의당 노동본부장 ▲민주노총 위원장 ▲철도노조 위원장 ▲철도공사 기관사 ▲부산지방노동위원회 공익위원 sheep@newspim.com 2025-06-23 14:57
사진
안규백 64년 만에 문민 국방 후보자 [서울=뉴스핌] 김종원 국방안보전문기자 = 국군 최고통수권자인 이재명 대통령은 23일 초대 국방부 장관에 민간인 출신인 안규백(64) 더불어민주당 5선 중진 의원을 인선했다. 강훈식 대통령실 비서실장은 이날 "안 후보자가 국회 국방위원회 간사와 위원장 등 5선 국회의원 이력의 대부분을 국회 국방위에서 활동했다"면서 "군에 대한 이해도가 풍부하고 64년 만에 문민 국방장관으로서 계엄에 동원된 군의 변화를 책임지고 이끌어 나갈 것"이라고 인선 배경을 설명했다.  안규백 국방부 장관 후보자. [사진=대통령실] 안 후보자는 집권 여당인 민주당에서 국방위원장을 비롯해 국방위원으로서 15년 간 의정활동을 했다. 그 누구보다 군과 국방안보를 잘 아는 인물로 그동안 역대 정부에서도 꾸준히 민간인 출신 국방장관으로 유력하게 거명됐었다. 특히 안 후보자는 국회 12·3 비상계엄 사태에 대한 진상규명 국정조사 특위위원장 중책까지 맡았다. 여야 의원들을 아우르며 적지 않은 성과를 냈다는 평가다. 이번 대선에서도 민주당 중앙선대위 총괄특보단장 핵심 보직을 맡았다. 계엄 사태 주역인 군의 정치적 중립성을 확립하면서 어수선한 군을 안정적으로 이끌면서 군 전반을 개혁할 최적임자로 꼽힌다. 합리적인 성품에 남의 말을 귀담아듣는 전형적인 외유내강형 인물이다. 다만 상식과 원칙을 중시하며 불법적이고 정의롭지 않은 일에는 불같이 화를 내는 성격이다. 아들 둘 모두 육군과 해병대에서 현역으로 군 복무를 했다.  안 후보자가 국회 인사청문회를 통과해 이재명정부의 초대 국방장관으로 취임하면 1961년 현석호 장관 이후 64년 만에 군인이 아닌 민간인 출신 국방장관이 된다.  한국 정치사의 격동기를 거쳐 군사독재정권 시절에 장군 출신들이 독식했던 국방장관을 정치 안정기에 들어 사실상 민간인 출신의 진정한 '문민 국방장관'이 나올 수 있을지 초미 관심사다. ▲전북 고창(64) ▲광주 서석고 ▲성균관대 철학과 학사·무역대학원 무역학 석사 수료 ▲18·19·20·21·22대 국회의원 ▲국회 국방위원회 위원장·간사 ▲국회 '내란 진상규명 국정조사 특별위원회' 위원장 ▲더불어민주당 사무총장 kjw8619@newspim.com 2025-06-23 14:13
안다쇼핑
Top으로 이동