[세종=뉴스핌] 신도경 기자 = 국민 10명 중 7명이 생성형 인공지능(AI)을 정서적 목적으로 이용하는 등 과의존 우려가 커짐에 따라, 안전한 활용을 지원하기 위한 '정신건강 목적 생성형 AI 이용 가이드라인'이 발표됐다.

보건복지부와 대한신경정신의학회는 8일 생성형 AI를 정신건강 목적으로 이용하는 국민들이 AI 과의존과 부작용을 예방하고 보다 안전하게 이용할 수 있도록 '정신건강 목적 생성형 AI 이용 가이드라인'을 발표했다.

◆ 국민 10명 중 8명, 업무·과제로 AI 시작…79.9% "AI에 조언받아"

최근 생성형 AI 이용이 빠르게 확산되면서 AI는 학업·업무와 정보 검색을 위한 도구를 넘어 일상적인 대화와 감정적 교감, 정신건강·심리상담을 위한 대화 상대 역할까지 하고 있다. 한국보건사회연구원은 생성형 AI와의 일상적 상호작용 확대가 정신건강에 미치는 영향을 살펴보기 위해 지난 8월 25일부터 9월 4일까지 '생성형 AI 이용에 따른 국민 정신건강 설문조사'를 실시했다.

이번 조사는 최근 1개월 이내 생성형 AI를 이용한 경험이 있는 15~79세 국민 1019명을 대상으로 진행됐다. 생성형 AI 이용 현황, 정서적 의존·과의존 정도, 대인관계와 일상생활 영향, 정신건강 영향 등을 조사했다.

조사 결과, 응답자 81.3%는 과제·업무, 정보 검색, 지식 습득 등의 목적으로 생성형 AI를 처음 접하고 이용하게 됐다. 응답자 68.8%는 일상 대화, 감정적 교감·위로, 정신건강·심리상담 등 정서적 목적으로도 이용하는 것으로 파악됐다. 15세부터 18세의 청소년 80.6%는 과제·업무 목적으로 생성형 AI를 이용하기 시작했다. 69.2%가 정서적 목적으로 생성형 AI를 이용하고 있었다.

생성형 AI의 답변이나 조언에서 도움을 받거나 문제를 해결한 경험이 있는 응답자는 79.9%로 확인됐다. 반면, AI 대화를 중단하기 어려운 경험을 한 사람은 16.3%로 나타나는 등 이용을 조절하기 어려워하는 모습도 함께 나타났다.

응답자의 86.9%는 생성형 AI 이용과 관련된 정부의 역할이 필요하다고 응답했다. 응답자들이 가장 시급히 지원해야 한다고 느끼는 영역은 AI 정신건강 가이드라인 수립 및 법제도 정비가 68.7%로 가장 많았다. 대화 기록의 저장·활용에 대한 규율과 이용자 통제권 보장(66.8%), 대화 데이터 관리법 교육(79.9%), AI 정보의 오류·편향을 걸러내는 비판적 사고 교육(79.0%) 등도 나타났다.

◆ 생성형 AI '의존·맹신' 막는다…복지부, 정신건강 가이드라인 발표

복지부는 생성형 AI 이용에 따른 정신건강의 부정적 영향을 최소화하고 안전한 활용을 지원하기 위해 가이드라인을 마련했다. 정신건강 목적으로 생성형 AI를 이용하기 전 서비스의 목적·대상·효과의 근거와 개인정보 처리방식을 확인하도록 권고하고 있다. 이름·연락처·주소 등 개인정보와 진단서·처방전·검사결과지 등 민감한 자료는 입력하지 말고 대화의 범위와 종료 시점을 미리 정해 이용해야 한다.

자신의 상태에 대한 AI의 말을 결론으로 삼지 말아야 하는 내용도 포함됐다. AI와의 대화를 바탕으로 자신을 우울증·불안장애 등 특정 정신질환으로 스스로 판단하거나 AI의 답변을 의학적 진단처럼 받아들인 경험은 14.6%로 자신의 정신건강이 나쁘다고 인식한 사람들에게 더 크게 나타났다.

실제 AI가 제공하는 정신건강 정보를 검증하고 확인하는 비율은 11.9%에 그쳤다. 복지부는 AI의 정신건강 진단이나 위험도 평가를 확정적인 의학적 판단으로 받아들이지 말고 다른 가능성과 관점을 함께 확인하도록 권고하고 있다.

AI를 실제 사람과 같은 존재로 여기거나 의존하지 않도록 해야 한다. 중요한 결정은 사람이나 전문가와 상의하고, 위험하거나 부적절한 응답을 받거나 정신건강 위기 상황에 놓인 경우에는 AI가 아닌 가까운 사람과 전문기관에 도움을 요청하도록 안내하고 있다.

아동·청소년의 경우 AI의 답변을 그대로 따르기보다 자신의 생각과 상황을 먼저 살펴보기, 이름·학교·주소·연락처·사진 등 개인정보 보호하기, 원할 때 언제든 AI와의 대화를 중단할 수 있음을 인식하기 등을 안내하고 있다.

보호자는 이용 자체를 무조건 금지하거나 통제하기보다 아이가 AI를 무엇을 위해 어떻게 이용하는지 먼저 이해하고 함께 안전한 이용 방법을 정하도록 안내해야 한다. 아이가 AI를 이용하기 전에 이용 목적과 방식에 대한 기본 규칙을 함께 정하기, 아동·청소년을 위한 서비스인지 여부·개인정보 보호 설정 등 확인하기 등의 내용이 포함됐다.

이선영 복지부 정신건강정책관은 "생성형 AI는 정보와 정서적 도움을 얻는 새로운 수단으로 활용될 수 있지만, 친절하고 확신에 찬 답변이 항상 정확성이나 안전성을 보장하지 않는다"며 "정부는 이번 가이드라인을 시작으로 이용자 교육을 확대하는 등 AI 전환기에 대응하는 정신건강 정책을 지속적으로 강화해 나가겠다"고 강조했다.

최준호 대한신경정신의학회 이사장은 "정신건강의 문제는 단순히 증상 하나만으로 판단하기보다 개인의 삶과 대인관계, 증상의 변화와 일상생활에 미치는 영향 등을 종합적으로 살펴보는 것이 필요하다"며 "AI는 전문적인 평가와 치료를 대신할 수는 없는 만큼, 필요한 경우 의료진의 도움을 적기에 받는 것이 중요하다"고 했다.

sdk1991@newspim.com