보건복지부와 대한신경정신의학회는 정신건강의 날을 앞두고, 생성형 AI(인공지능)를 정신건강 목적으로 이용하는 국민들이 AI 과의존과 부작용을 예방하고 보다 안전하게 이용할 수 있도록 '정신건강 목적 생성형 AI 이용 가이드라인' 2종을 8일 발표했다.
'모든 이용자를 위한 가이드라인'은 이용자가 생성형 AI 이용 과정에서 발생할 수 있는 개인정보 노출, 잘못된 정보와 판단, 과의존 등의 위험을 인지하고, 안전하게 AI를 이용할 수 있도록 3가지 핵심 메시지와 21개 권고문을 담았다.
우선 정신건강 목적으로 생성형 AI를 이용하기 전에 서비스의 목적·대상·효과의 근거와 개인정보 처리방식을 확인하고, 의학적 효과를 표방하는 서비스는 공인기관의 검증·승인 여부를 확인하도록 권고하고 있다.
또한 이름·연락처·주소 등 개인정보와 진단서·처방전·검사결과지 등 민감한 자료는 입력하지 말도록 안내하고 있다.
한국보건사회연구원이 지난 8월 25일부터 9월 4일까지 15~79세 국민 1019명을 대상으로 벌인 '생성형 AI 이용에 따른 국민 정신건강 설문조사'에 따르면, 생성형 AI를 이용할 때 개인정보를 보호하기 위한 조치를 취하는 경우는 50~60% 수준에 그쳤고, 대화 내용이 외부로 유출되거나 다른 목적으로 활용될 수 있다는 불안을 느낀 응답자는 38.0%에 달했다.
가이드라인은 또한 AI의 정신건강 진단이나 위험도 평가를 확정적인 의학적 판단으로 받아들이지 말고, AI가 제공하는 정신건강 정보와 조언은 학회·정부기관 등을 통해 검증된 자료나 전문가를 통해 확인하도록 했다.
AI와의 대화를 바탕으로 자신을 우울증·불안장애 등 특정 정신질환으로 스스로 판단하거나 AI의 답변을 의학적 진단처럼 받아들인 경험은 14.6%에 달했다. 실제 AI가 제공하는 정신건강 정보를 검증하고 확인하는 비율은 11.9%에 그쳤다.
아울러 가이드라인은 AI를 실제 사람과 같은 존재로 여기거나 의존하지 않도록 하고, AI 이용이 늘거나 가족·친구와의 관계가 줄어드는 경우 의식적으로 AI와 거리를 두도록 권고하고 있다. 특히 중요한 결정은 사람이나 전문가와 상의하고, 위험하거나 부적절한 응답을 받거나 정신건강 위기 상황에 놓인 경우에는 AI가 아닌 가까운 사람과 전문기관에 도움을 요청하도록 안내하고 있다.
복지부는 아동·청소년에 대한 권고사항과 보호자에 대한 권고사항을 포함해 '아동·청소년 및 보호자를 위한 가이드라인'을 별도로 마련했다.
아동·청소년 대상 권고사항은 △AI의 답변을 그대로 따르기보다 자신의 생각과 상황을 먼저 살펴보기 △이름·학교·주소·연락처·사진 등 개인정보 보호하기 △원할 때 언제든 AI와의 대화를 중단할 수 있음을 인식하기 △AI 캐릭터를 실제 친구나 연인처럼 여기고 있지는 않은지 스스로 점검하기 등을 안내하고 있다.
또한 △고민이나 어려움을 AI에게만 털어놓고 있다면 가까운 사람에게 이야기해보기 △AI가 위험하거나 부적절한 답변을 하는 경우에는 혼자 해결하려 하지 말고 부모·교사 등 믿을 수 있는 어른에게 알리기 △마음이 힘들거나 위기 상황에 처했을 때 도움을 받을 수 있는 전문기관 미리 알아두기 등을 권고하고 있다.
보호자 대상 권고사항은 △아이가 AI를 이용하기 전에 이용 목적과 방식에 대한 기본 규칙을 함께 정하기 △아동·청소년을 위한 서비스인지 여부 및 개인정보 보호 설정 등 확인하기 △AI 이용 사실을 알게 됐을 때 꾸짖거나 금지하기보다 어떻게 이용하는지 경청하고 대화하기를 제안하고 있다.
또한 △아이가 AI 캐릭터를 실제 친구나 연인처럼 여기거나 AI에만 고민을 털어놓는 등 정서적으로 지나치게 의지하고 있지는 않은지 살피기 △AI를 통해 정신건강 관련 정보를 얻는 경우에는 해당 내용의 적절성 및 타당성 확인하기 등을 권고하고 있다.
한편 보건사회연구원의 설문조사 결과, 응답자의 68.8%는 일상 대화, 감정적 교감·위로, 정신건강·심리상담 등 정서적 목적으로 생성형 AI를 이용하는 것으로 파악됐다. 생성형 AI로부터 도움을 받거나 문제를 해결한 경험이 있는 응답자는 79.9%였지만 AI와의 대화를 중단하기 어려운 경험을 한 사람도 16.3%에 달했다.
이용 조절의 어려움으로는 △현실의 일에 집중하려 해도 대화를 계속 이어가게 된다(16.3%) △주변 사람과 상의하지 않고 AI의 조언을 바탕으로 퇴사·이별 등 중요한 결정을 내린 적이 있다(10.6%) △대화 시간을 조절하지 못해 수면이나 일상생활에 방해를 받은 적이 있다(9.8%) 등으로 나타났다.
생성형 AI 이용과 관련된 정부의 역할이 필요하다는 응답은 86.9%였다. 지침을 제시하는 안내 45.0%, 법으로 규제 41.9%였으며, 개입하지 않아야 한다는 응답은 12.7%에 그쳤다.
가장 시급히 지원해야 한다고 느끼는 영역은 △AI 정신건강 가이드라인 수립 및 법제도 정비(68.7%) △대화 기록의 저장·활용에 대한 규율과 이용자 통제권 보장(66.8%) 순으로 나타났다.