[서울=뉴스핌] 최원진 기자= 구글이 자사 인공지능(AI) 챗봇 '제미나이'(Gemini)에 선거 관련 질문 유형을 제한하기로 했다.
구글은 12일(현지시간) 블로그에 "우리는 제미나이가 답변할 선거 관련 질문 유형의 제한을 개시했다"고 밝혔다.
이는 올해 전 세계 주요 40여 개국에서 선거가 치러지는 가운데 나왔다. 당장 내달 1일부터 5월 말까지 유권자 9억 명이 투표장으로 향하는 세계 최대 총선이 열리는 인도에서는 이미 선거 관련 질문 유형을 제한 중이다.
구글 대변인은 CNBC에 "올해 전 세계에서 치러지는 수많은 선거에 대비하고 예방하는 차원에서 제한 조치를 시작했다"고 알렸다.
그는 무엇을 예방하는 것인지 언급하지 않았으나, 최근 AI가 생성한 콘텐츠의 심각한 선거 관련 가짜뉴스 유포 문제가 제기되고 있다고 CNBC는 지목했다.
온라인상에는 수갑을 찬 트럼프 전 대통령, 기관총을 쏘는 바이든 대통령, 백악관에서 프란치스코 교황을 만나는 트럼프 전 대통령 등 AI 기반의 이미지 합성 '딥페이크' 이미지가 확산하고 있다. 머신러닝 기업 클래리티에 따르면 AI로 생성한 딥페이크 수는 전년 대비 900%나 증가했다.
IT전문매체 테크크런치가 제미나이에 나렌드라 모디 인도 총리에 관해 물으니 "나는 이 질문에 어떻게 답해야 할지 아직 배우는 중이다. 구글 검색을 해보라"는 답변을 받았다. 구글이 특정 정당, 정치인, 선거 출마 후보 등에 관한 질문에 이같이 정형화된 답변을 미리 설정해 놓은 듯하다는 진단이다.
구글은 현재 민주당과 공화당 양당 경선이 진행 중이고 오는 11월 대선을 앞둔 미국과 인도에 먼저 제미나이 선거 관련 질의 유형을 제한하고 향후 점차적으로 선거가 열리는 세계 각국으로 제한 조치를 확대할 계획인 것으로 알려졌다.
오는 4월 총선이 열리는 한국에도 이 제한 조치가 적용되고 있는 것으로 보인다. 제미나이에 올해 한국 총선이 열리는 날짜에 관해 물으니 테크크런치가 받은 것과 같은 답변을 받았다.
구글의 이번 제한 조치는 제미나이의 이미지 생성 기능 오류로 서비스를 중단한지 얼마 지나지 않아 나왔다.
앞서 지난달 1일 구글은 제미나이 챗봇에 이미지 생성 기능을 추가했지만 미국 건국자 등 역사적 인물을 유색인종으로 묘사하는 등 이미지 생성에 오류가 여럿 발견되면서 서비스 출시 20여 일만인 지난달 22일에 서비스를 중단했다.
구글이 선거 관련 질의 유형을 제한한 것도 제미나이가 이러한 오류를 또 범하지 않을지 하는 우려에서란 해석도 나오는 배경이다.
wonjc6@newspim.com
