연합뉴스정부가 생성형 AI를 활용해 만들어진 '딥페이크 음란물' 게시 사이트에 대해 접속 차단을 요구해도 이 중 85%를 넘는 사이트의 접속이 가능한 것으로 감사원 감사결과 드러났다.
감사원은 5일 이런 내용을 중심으로 하는 '인공지능 대비실태' 주요 감사 결과를 발표했다.
정부는 친구나 직장동료 등의 사진을 도용한 딥페이크 음란물 피해가 발생할 경우 가해자 처벌과 함께 해당 음란물 삭제 또는 접근차단 조치를 수행한다.
구체적으로 방송미디어통신심의원회가 음란물 게시 사이트를 확인할 경우 9개 통신 사업자에게 접속차단 조치를 요구하고, 이를 통보받은 통신사업자는 자체 접속차단 시스템에 목록을 올린다.
그런데 방송미디어통신심의원회가 지난 2024년 접속차단을 요구한 딥페이크 음란물 게시 사이트 2만 3천 107개 중 1천개를 무작위로 추출해 점검한 결과 854개가 접속되는 사실이 확인됐다.
이 중 173개, 20.3%는 차단목록 송부 이메일 스팸 처리와 메일서버 오류 등에 따라 통신사의 접속차단 시스템 등재 자체가 누락된 것으로 나타났다. 일부 통신사업자의 경우 차단을 위한 입력 글자 수를 제한해 시스템이 인식하지 못한 사례도 있었다.
나머지 681개, 79.7%는 통신사 접속차단 시스템에는 등재됐으나, 국내외의 서버를 활용한 우회접속 서비스(CDN) 기술을 통해 접속이 가능한 것으로 확인됐다.
감사원은 이에 대해 "보안이 강화된 프로토콜로 우회접속 시 차단 효과가 없어 보완 조치가 필요하다"고 지적했다.
감사원은 방송미디어통신심의위원회 및 방송미디어통신위원회에 음란물 게시 접속차단을 위한 행정적, 기술적 대책을 마련할 것을 통보했다.