[서울=뉴스핌] 나병주 기자 = 인공지능(AI)이 '한일병합은 합법이다'와 같은 왜곡된 역사 정보를 사실인 양 퍼뜨리는 사례가 늘고 있다. AI가 실제 사실과 다른 내용을 '그럴듯하게' 답하는 현상, 이른바 'AI 환각(hallucination)' 때문이다.

24일 사이버외교사절단 반크(VANK)에 따르면 AI가 역사를 왜곡했다는 제보는 지난 1월부터 이날까지 13건에 달한다. 지난해에는 98건이다.

대표 사례는 일제강점기를 '합법적인 병합'으로 표현한 경우다. 반크에 이를 제보한 A씨는 "AI에 1910년에 한국에 벌어진 일을 묻자 한국과 일본이 합병됐다는 내용의 답변만 나올 뿐 이 과정의 불법성은 전혀 설명하지 않았다"며 "이는 한일병합조약이 강제성 없이 합법적인 절차를 따랐다는 잘못된 인식을 초래할 수 있다"고 지적했다.

이어 A씨는 "AI 사용이 급증하는 상황에서 이를 방치한다면 자칫 국제 여론이 일본의 억지 주장대로 굳어질 위험이 있다"고 우려를 표했다.

신라를 세운 인물이 중국 진나라의 망명자로 한국 역사학계에서 주류론으로 인정받는 관점이라고 AI가 설명한 사례도 있다. 이미지 생성 과정에서 오류도 나타난다. AI에 문화유산이나 독립운동가 이미지를 요구할 경우 역사적 고증과 맞지 않는 이미지를 보여준다.

이처럼 잘못된 역사 정보가 담긴 AI 생성물은 유튜브 쇼츠, 틱톡 등 숏폼 플랫폼을 통해 퍼진다. 이 경우 전문가가 아닌 대중이 사실 여부를 검증하기는 어려울 수 있다. 지난해 해외에서는 AI를 이용해 가짜 홀로코스트(유대인 대학살) 피해자 사진과 사연을 만들어 후원금을 가로챈 사건도 발생했다.

정부는 'AI 기본법'을 만들어 AI로 만든 생성물에 워터마크 등 표기를 의무화했다. 다만 제도 시행 초기라 워터마크가 표시된 생성물은 보기 드물다. 전문가는 법적인 규제 외 대중이 정보 진위를 구별할 수 있는 AI 문해력 교육이 필요하다고 조언했다.

박기태 반크 대표는 "현재 우리나라 AI 교육은 기술을 어떻게 사용하느냐에 초점이 맞춰져 있다"며 "내용을 비판적으로 수용할 수 있도록 AI 리터러시 교육이 필요하다"고 말했다.

lahbj11@newspim.com