요미우리 자이언츠 아베 신노스케 감독이 자녀 폭행 혐의로 체포된 뒤 자진 사임한 사건을 계기로, 인공지능(AI)의 위기 대응 기능에 대한 경각심이 일본 사회 내에서 확산하고 있다.
니혼게이자이신문(닛케이)은 28일, 챗GPT를 비롯한 AI의 위급 상황 관련 기능이 이번 아베 전 감독 사임 소동과 맞물려 큰 주목을 받고 있다고 보도했다.
아베 전 감독은 지난 26일 구단의 명예를 실추시킨 데 대한 책임을 지고 사임했다. 앞서 그는 자택에서 18세 장녀와 15세 차녀의 다툼을 중재하다 장녀를 밀친 혐의로 경찰에 체포된 바 있다. 사건의 발단은 장녀가 챗GPT에 "아버지로부터 폭행을 당했는데 어떻게 해야 하느냐"라고 상담한 것이었다.
AI는 즉시 아동상담소 전화번호를 안내했고, 장녀가 이를 통해 상담소에 연락하면서 경찰이 출동하는 상황으로 이어졌다. 변호인에 따르면 장녀는 아버지가 체포되는 상황을 보고 크게 당황하며 울음을 터뜨린 것으로 전해졌다.
현지 언론들은 이번 사건을 통해 AI가 단순히 정보를 제공하는 단계를 넘어, 실질적인 행동을 유도하는 'AI 에이전트'로 진화하면서 이용자의 상담 내용을 관계 기관에 연결하는 기능이 갖는 파급력을 재조명했다. 아동 학대나 자살 시도 등 위기 상황에서 AI의 개입이 긍정적인 역할을 할 수 있음에도, 이번 사건처럼 당사자의 본래 의도와 다르게 상황이 급박하게 전개될 위험성이 존재하기 때문이다.
닛케이는 최근 오픈AI가 캐나다 총기 난사 사건 당시 용의자와 범행 관련 대화를 나눴음에도 이를 당국에 신고하지 않아 유족에게 제소된 사례를 언급했다. 이는 AI 개발사가 민감한 사안에 대해 외부 통보나 상담 유도를 강화할 수밖에 없는 현실을 보여주지만, 개별 상황의 특수성을 고려하지 않은 기계적인 대응이 예상치 못한 결과를 낳을 수 있다는 지적이다.
테레비아사히 역시 "젊은 세대 사이에서 일상적으로 쓰이는 AI는 매우 편리한 도구이나, 그만큼 사용법에 대한 신중한 접근이 필요하다"고 강조했다. 전문가들은 AI가 특정 상황의 맥락이나 인간관계의 특수성을 완전히 파악하기 어렵다는 점을 인식하고, 기술 활용에 각별한 주의를 기울여야 한다고 제언했다.