네팔 참사 자료에 AI 생성 딱지가 붙은 모습. 왼쪽이 AFP, 오른쪽이 APP에서 붙인 모습이다. AFP·APP 자료 캡처네팔과 티베트 접경을 덮친 대홍수 참사가 돈벌이 판으로 변질되는 움직임이 포착됐다. 이재민 성금을 가로채려는 가짜 기부 QR코드가 SNS에 공유되고 인공지능(AI)으로 만든 가짜 홍수 영상까지 쏟아지자 네팔 정부가 메타와 틱톡을 불러 즉시 삭제를 요구했다.
돈을 노린 사기는 참사 이튿날부터 감지됐다. 네팔 일간지 카트만두포스트의 지난 27일(현지시간) 보도에 따르면 네팔 경찰은 총리 재난구호기금 명의로 개인 계좌나 전자지갑에 입금하라고 요구하거나 정부 기관의 로고와 명칭, 양식을 베낀 가짜 QR코드가 SNS에 유포될 수 있다며 출처가 불분명한 QR코드와 링크, 계좌번호를 믿지 말라고 경고했다.
라이징네팔에서 공개한 가짜 기부 QR코드. 라이징네팔 홈페이지 캡처
네팔 국영 영자지 라이징네팔의 29일 보도에서 총리실도 개인과 단체가 승인받지 않은 QR코드와 개인 정보를 올려 모금하고 있다는 보고에 우려를 표했다. 당국은 이런 사기가 동정심을 악용해 구호 자금을 빼돌릴 수 있다고 보고 있다.
가짜 영상은 참사 직후부터 여러 언어로 퍼졌다. AFP 팩트체크의 28일 보도에 따르면 27일 X에 올라온 10초 분량의 영상은 강둑을 넘은 흙탕물이 보행자와 차량을 덮치는 장면으로, 인스타그램과 틱톡, 유튜브까지 번졌지만 구글의 AI 생성물 탐지기 신스ID로 확인한 결과 구글 AI 도구로 만든 것으로 판정됐다.
페이스북의 참사 전후 비교 자료에 AI 생성 콘텐츠 딱지를 붙인 모습. AAP 홈페이지 캡처가장 널리 퍼진 것은 홍수 전후를 나란히 놓은 비교 사진이었다. 알록달록한 건물이 빼곡한 산간 마을이 홍수 뒤 토사에 덮인 모습인데, 호주 통신사 AAP의 팩트체크팀은 28일 이 사진에서 AI 생성물에 심어지는 보이지 않는 워터마크 신스ID가 검출됐고 메타도 해당 게시물에 AI 콘텐츠 표시를 붙였다고 밝혔다. 수십 개 계정이 같은 사진을 재게시했다.
지난 2021년 7월 일본 시즈오카현 아타미시 산사태 현장을 네팔 홍수라고 올린 SNS 콘텐츠에 가짜 딱지를 붙인 모습. AAP 홈페이지 캡처
수십만 회 조회된 또 다른 영상은 실제 재난 영상이었지만 장소와 시기가 달랐다. 흙탕물이 마을 골목을 훑고 전봇대가 쓰러지는 이 영상은 지난 2021년 7월 일본 시즈오카현 아타미시 산사태 현장으로, AAP에 따르면 호주 매체 나인닷컴이 2021년 7월 3일 게재한 원본을 좌우로 뒤집었을 뿐이었다.
네팔 정부는 결국 플랫폼을 직접 불렀다. 카트만두포스트의 28일 보도에 따르면 정부는 이날 메타와 틱톡의 네팔 담당자들과 만나 시신 이미지와 AI 생성 영상, 가짜 기부 QR코드, 오도성 게시물을 신고 즉시 삭제해 달라고 요청했다.
SNS 아이콘 화면. 연합뉴스네팔 정부 SNS 규제 태스크포스 조정관인 비자이 쿠마르 로이(Bijay Kumar Roy) 네팔통신청(NTA) 국장은 인터넷 서비스 제공업체는 도메인 전체를 차단하는 것만 가능해 플랫폼과의 직접 협조가 필수적이라고 밝혔다.
그는 두 회사가 신고된 게시물을 처리하는 데 현재 24~48시간이 걸리며 그 사이 허위 게시물이 널리 퍼진다고 지적했고, 정부는 자극적이거나 허위인 콘텐츠가 올라오는 즉시 자동 차단되도록 알고리즘을 선제적으로 운영해 달라고 요구했다.
네팔 통신정보기술부는 성명에서 언론과 SNS 이용자에게 검증되지 않았거나 조작됐거나 AI로 만든 소문을 공유하지 말라고 호소했고, 맥락 없이 공유되는 시신 사진과 영상이 유족의 고통을 키운다고 경고했다.
홍수가 티베트 지룽 통상구를 덮치는 모습이 담긴 CCTV 영상 일부분. 엑스(X) 캡처(계정 비공개 처리)가짜가 진짜 행세를 하는 사이 진짜 영상은 의심을 받았다. AFP 팩트체크는 홍수가 티베트 지룽 통상구를 덮친 뒤 네팔로 흘러간 CCTV 영상은 실제 촬영분이라고 확인했고, 국내에서도 27일 실제 현장 영상을 두고 AI 영상이 아니냐는 반응이 나올 만큼 진위 구분이 어려워졌다.
이번 참사는 현지시간 26일 오전 8시 37분(한국시간 오전 11시 52분)께 네팔 라수와 지역과 티베트 지룽현 접경에서 빙하 붕괴로 시작된 토석류가 보테코시강과 트리슐리강 유역을 덮치면서 발생했다. 현지 당국 집계를 인용한 31일 보도 기준으로 네팔과 중국 양측 사망자는 790명을 넘고 실종자는 3천 명을 넘는다. 두산에너빌리티와 한국남동발전이 참여한 어퍼 트리슐리-1 수력발전소 건설 현장에 있던 한국인 9명도 연락이 끊긴 상태다.
영문기사 보기 (View English Article)