실제 인물의 사진으로 성적 이미지를 합성하거나 문구만 입력하면 가상 음란물을 만들어주는 해외 사이트 64건이 접속차단 대상에 올랐다.
방송미디어통신심의위원회는 24일 통신심의소위원회를 열고 AI 기반 음란물·딥페이크 생성 사이트 64건에 시정요구 조치인 접속차단을 의결했다.
이들 사이트는 실제 인물의 얼굴이나 신체 사진을 올리면 성행위 등을 묘사한 이미지·동영상을 생성하거나, 이용자가 입력한 문구에 따라 가상 음란물을 만들어주는 서비스를 제공한 것으로 조사됐다.
상당수 사이트는 한국어까지 지원했으며, 소액으로도 음란물이나 딥페이크를 제작할 수 있었다. 일부 사이트는 약관에 타인의 동의 없는 성적 이미지 생성을 금지한다고 명시했지만, 실제로는 별다른 제한 없이 타인의 사진을 활용할 수 있었다고 방미심위는 설명했다.
성적 허위영상물을 제작하면 성폭력처벌법에 따라 7년 이하 징역이나 5천만 원 이하 벌금에 처할 수 있다. 음란물을 유포하면 정보통신망법에 따라 1년 이하 징역이나 1천만 원 이하 벌금형을 받을 수 있다.
방미심위는 AI를 악용해 음란물과 성적 허위영상물을 유통하는 국내외 사이트를 계속 감시하고 접속차단 등으로 대응할 방침이다.