메타의 인공지능(AI) 서비스가 SNS에 공개된 조각 정보를 종합해 미성년 자녀의 개인 신상과 위치 정보를 상세히 파악·노출하는 일이 미국에서 발생해 파장이 일고 있다.
10일(현지시간) IT 전문매체 퓨처리즘은 메타 AI가 여행 크리에이터로 활동 중인 칼리 로빈스의 자녀 신상정보를 동의없이 공개했다고 보도했다.
미국 유타주에 거주하는 로빈스는 지난주 차 안에서 어린 딸과 함께 노래를 부르는 소소한 일상 영상을 인스타그램에 올렸다.
영상 속 딸의 얼굴은 노출됐지만, 이름이나 신상 정보는 어디에도 표기되지 않았다.
그러나 해당 영상이 페이스북에 연동돼 공유된 직후, AI는 "뒷좌석에 탄 동승자 어린이는 누구인가요?"라는 자동 질문 프롬프트(명령어)를 제시했다.
호기심에 해당 질문을 클릭한 로빈스는 AI의 답변을 보고 충격을 금치 못했다.
AI는 영상 속 딸의 이름은 물론, 영상에 나오지 않은 다른 자녀의 신상 정보까지 한 번에 정리해 출력했기 때문이다.
특히 수년 전 로빈스의 친척이 페이스북에 올린 글·사진 등 수많은 조각 데이터를 수집·분석해 두 딸의 이름과 생년월일, 태어날 당시 체중, 좋아하는 책과 해변, 심지어 현재 다니는 학교까지 추정한 것으로 나타났다.
로빈스가 공개한 캡처 사진을 살펴보면, 메타 AI는 사생활 침해적인 새 질문들을 계속해서 추천하고 있었다.
'칼리의 딸들은 몇 살인가요?'라는 질문을 제안한 AI는 이용자가 받아들이자 구체적인 나이 분포·생애 연대표를 제공했다.
해당 정보에는 과거 조부모가 페이스북에 공유한 신생아 시절 딸 관련 게시물과 가족 생일, 출생 정보도 포함돼 있었다.
심지어 로빈스의 딸 중 한 명이 태어날 때 체중이 얼마나 나갔는지에 대해서도 또 다른 페이스북 게시물 정보를 활용해 이야기했다.
로빈스는 언론 인터뷰를 통해 "내가 지운 줄 알았던 수년 전 갓난아기 때의 사진까지 AI가 다시 불러왔다"며 "AI는 '칼리 로빈스의 정확한 위치 파악 중'이라는 메시지와 함께 거주지 위치 도출까지 시도했다"고 지적했다.
그러면서 "아이들을 보호하기 위해 주의를 기울여 왔다고 생각했는데, 가슴이 내려앉는 기분이었다"며 공포감을 호소했다.
논란이 확산하자 메타 대변인은 "해당 기능은 이용자가 관심 있는 주제나 게시물에 대해 더 많은 정보를 얻을 수 있도록 돕기 위해 개발된 것"이라며 "AI 답변은 이용자로부터 접근 권한을 가진 정보에 기반해 생성된다"고 해명했다.
다만 "해당 이용자에게 미성년 자녀와 관련된 사생활 침해적 질문을 AI가 먼저 제안한 것은 당사의 미흡했던 부분(missed the mark)"이라며 자동 추천 프롬프트 시스템을 수정했다고 밝혔다.