연합뉴스청소년 자해 등 챗GPT의 정신건강 관련 논란으로 여러 건의 소송을 치르고 있는 오픈AI가 청소년용 챗봇 서비스를 출시했다.
오픈AI는 청소년들의 학습을 돕고 안전장치를 대폭 강화한 '청소년용 챗GPT'(ChatGPT for Teens) 모드를 18일(현지시간) 공개했다.
청소년용 모드에는 자해, 폭력, 섭식장애, 위험 행동, 성적·노골적 콘텐츠 등에 대해 청소년이 질문하거나 대화를 시도할 때 답변 출력을 통제하는 안전장치가 적용됐다. 이용자가 민감하거나 사적인 사진을 올릴 때 주의를 주는 기능도 포함됐다.
특히 청소년용 모드는 챗GPT가 인간처럼 행동하며 정서적 교감을 자극하거나 의존증을 유발하는 행동을 하지 못하도록 차단했다.
부모의 관리 도구도 강화해 자녀의 챗GPT 사용을 아예 차단하는 '방해금지 시간'(Quiet Hours)이나 공부 모드를 기본값으로 설정하는 '공부 시간'(Study Hours)을 설정할 수도 있다.
공부 모드는 청소년들이 숙제를 할 때 챗GPT가 제공하는 정답만 베끼는 부정행위를 막는 장치를 추가한 것으로 이용자가 질문을 하더라도 단번에 요약이나 답변을 제공하는 대신 도로 질문을 던지거나 단계별 원리를 짚어가며 해법을 찾도록 돕는다.
청소년용 챗GPT 모드는 이용자가 자신의 나이를 13~17세로 입력하거나, 시스템이 이용자 연령을 18세 미만으로 추정하면 해당 계정은 자동으로 적용된다.
오픈AI가 아동·교육 전문가들의 연구를 바탕으로 공부 모드를 설계했다고 설명한 가운데 청소년용 챗봇을 내놓은 것은 기업공개(IPO)를 앞두고 사법 리스크를 해소하기 위한 대응이라는 해석도 나온다.
챗GPT와 대화를 나누던 10대 청소년들이 자해하거나 극단적 선택을 하면서 오픈AI는 현재 여러 건의 소송에 휘말린 상황이다.
영문기사 보기 (View English Article)