윤석열 전 대통령을 지지하고 극우 성향 발언을 하던 여성의 SNS 계정을 운영했던 남성이 올린 사과문. 인스타그램 캡처(계정 비공개 처리)최근 인공지능(AI)으로 만든 가상의 여성이 '윤(윤석열) 어게인'·'아메리카 퍼스트' 등 정치 활동을 하는 것처럼 꾸민 사회관계망서비스(SNS) 계정이 전 세계적으로 늘고 있다. 또 노출이 있는 여성 이미지를 AI로 만들어 상업적 홍보에 활용하는 사례도 등장했다.
이에 생성형 AI가 오히려 전통적인 여성에 대한 관념을 극복하기보다 이를 증폭하는 데 활용되고 있다는 지적이 나온다. 기업과 정부가 AI의 성차별적 활용에 대한 공론을 확대하고, AI 윤리원칙에 차별 금지 원칙을 적극 반영해야 한다는 목소리가 커지고 있다.
"인기 얻으려고"…AI로 가짜 여성 만들어 정치 계정 운영
일본의 한 남성 당원이 AI로 만들어 운영했던 나카무라 리호의 SNS 계정(좌)과 '제시카 포스터'의 SNS 사진(우). X 캡처(계정 비공개 처리)
지난달 '나카무라 리호'란 이름으로 활동하던 일본 여성의 SNS 계정이 사실은 한 남성이 AI로 만든 이미지를 활용해 운영한 것으로 드러나 논란이 됐다.
해당 계정은 자신을 "성폭력으로 인한 임신과 출산 경험을 살려 여성이 안심하고 살아갈 수 있는 사회를 목표로 한다"고 소개했다. 아이를 업고 거리에서 정치활동을 하거나 아이를 안는 등 AI로 만들어진 사진도 있었다.
계정을 운영한 남성은 "남성은 인기가 없어서 여성으로 인기를 얻으려고 했다"고 설명한 것으로 전해졌다. 그는 일본 입헌민주당 당원으로 밝혀졌다.
일본뿐 아니라 미국과 한국에서도 AI로 만들어진 여성이 실제 정치 활동을 하는 인물인 것처럼 꾸며져 지지를 얻는 일이 벌어지고 있다. 특히 보수 성향 집단에서 이런 현상이 나타나고 있다는 분석도 나온다.
미국에서는 도널드 트럼프 미국 대통령을 지지하는 활동을 한 '제시카 포스터(Jessica Foster)'라는 이름의 금발 미군 여성의 SNS 계정이 AI로 만든 가상인물로 밝혀지기도 했다. 이 여성은 트럼프 대통령과 함께 찍은 사진을 올리기도 했는데, 실제 인물이라고 믿은 이용자들이 몰리면서 팔로워가 100만 명에 달하기도 했다.
한국에서도 지난 4월 "자유대한민국을 사랑합니다. 윤 어게인!"이라고 자신을 소개했던 한 SNS 계정 운영자가 사실 자신은 남성이라며 사과문을 올렸다. 해당 계정은 "수줍게 민낯 공개"라며 자신의 얼굴 사진을 올리고, 윤석열 전 대통령을 지지하는 등 극우 성향의 글을 게시했다.
'정치적 피싱' 유행…"원하는 여성상 만들어 포퓰리즘"
전문가들은 이를 AI로 만든 젊은 여성 이미지를 이용한 일종의 '정치적 피싱'으로 설명한다.
서강대 사회학과 전상진 교수는 "'피싱'이라는 행위를 통해 원하는 효과를 보려는 것으로 보통 돈, 정치, 영향력을 얻기 위해서다"라며 "사람들이 '포스트 트루스(탈진실)', 즉 진실에 냉소적인 태도를 보이는 현상과도 맞닿아 있다"고 분석했다.
그러면서 "진실을 아는 것은 효과가 없고 내가 가진 문제도 해결되지 않는다고 냉소적으로 생각하는 경향이 있는데, (AI로 가상 인물을 만들어 피싱하는 것은) 자신이 원하는 것만으로 마음대로 세상을 만들어보고 싶다는 생각"이라고 지적했다.
특히 보수 성향 집단이 자신들이 바라는 전통적인 여성 이미지를 만들어 여성을 왜곡한다는 지적도 나온다.
서울대 언론정보학과 김수아 교수는 "극우 성향 집단이 활용한 AI 여성 이미지는 단순히 '여성'이 아니라, 우파 포퓰리즘이 원하는 여성 이미지라는 연구들이 있다"며 "예를 들어 미국에서는 보수 개신교 신념에 복무해 직장을 가지지 않고 남편과 아이를 돌보는 여성이 정치적 프로파간다로 활용되는 경우가 많다"고 설명했다.
그러면서 "이러한 여성을 실제에서 찾는 것보단 AI로 형성하는 것이 쉬워져서 보수 세력이 AI 여성 이미지를 만들어낸다고 볼 수도 있다"고 덧붙였다.
경북대 철학과 윤김지영 교수는 "AI가 생성한 여성 이미지는 특정 국가에서 굉장히 욕망할 만한 여성의 이미지로 한정이 된다"며 "특정 정당을 지지하는 여성의 이미지를 만들어 보이면서 실제 여성에 대한 인식을 왜곡할 수 있다"고 분석했다.
그러면서 "이는 정치의 참여 주체를 남성으로 상정했다는 것"이라며 "남성 유권자 또는 남성 당원들을 끌어들이는 유인책으로서 특정한 여성 이미지를 만들어 냈다"고 설명했다.
식당 홍보에도 몸매 노출 AI 여성…"성평등 책임 다해야"
서울의 일부 식당들이 포털 사이트 홍보 사진에 노출이 심한 옷을 입은 여성 이미지를 AI로 만들어 올려 논란이 됐다. X 캡처(계정 비공개 처리)정치에서뿐만 아니라 식당 홍보 등 상업적으로도 여성을 성적대상화한 AI 이미지가 활용돼 논란이 되고 있다.
올해 초 서울의 한 식당 정보 페이지에 몸매가 부각되는 옷차림의 여성이 "음식이 정갈하고 좋다"고 말하는 모습이 담긴 사진이 올라왔다.
이는 AI로 만들어진 사진이었는데, 여성의 몸과 외모를 강조한 이미지를 홍보에 활용한 것이 부적절하다는 논란이 일면서 식당 측은 사진을 삭제했다.
생성형 AI가 발전할수록 다양하고 사실적인 이미지를 만들 수 있지만, 성차별적 인식을 답습하고 오히려 강화할 수 있다는 우려가 나오는 이유다.
윤김지영 교수는 이에 대해 "AI라는 기술이 전혀 중립적이지 않다는 것을 보여준다"며 "생성형 AI가 고도화돼 인간을 노동에서 해방시키고 비서의 역할을 함과 동시에 우리가 가장 극복해야 한다고 생각하는 전통적인 관념, 여성에 대한 성적 대상화는 그 속에서 증폭되고 있다"고 지적했다.
김수아 교수는 "AI가 발전할수록 그런 것이 아니라 처음부터 이렇게(성적 대상화) 쓰일 위험이 너무 컸다는 주장들이 있다"며 "기술적으로 여성의 성적 대상화는 예비된 것이나 마찬가지이며, 기술 발전 초기부터 개입하는 것이 필요하다는 주장이 국제적으로도 동의를 얻고 있다"고 설명했다.
결국 정부와 기업, 플랫폼 등이 AI의 성평등한 활용 방안을 적극적으로 논의하고 책임을 다해야 한다는 목소리가 커지고 있다.
한국여성단체연합은 지난달 성명을 내고 정부가 마련 중인 '인공지능 윤리원칙'에 AI 개발자와 제공자가 편향과 차별적 결과를 점검하고 개선할 구체적인 책무를 반영해야 한다고 주장했다.
과학기술정보통신부와 정보통신정책연구원은 최근 해당 원칙의 2차안을 발표했는데, 여성연합은 1차안 본문에 담겼던 구체적인 차별 금지 내용이 삭제·축소되고 성차별과 성별 편향에 대한 문구가 제외됐다고 분석했다. 이에 여성연합 측은 "AI의 전 과정에서 성별·장애·인종·연령 등 기존의 사회적·구조적 차별이 재생산·강화되지 않도록 하는 원칙과 책임을 본문에 다시 명확히 할 것"을 촉구했다.
윤김 교수는 "생성형 AI가 성평등을 저하하는 방식으로 이미지와 텍스트를 만들어냈을 때에 대한 심각성에 대해선 거의 공론화되지 않았다"며 "일단 가장 중요한 것은 이에 대한 공론의 장을 통해 시민단체, 정부, 기업, 전문가 등이 함께 협의를 한 다음 기업의 자정적인 책임을 기대해 볼 수 있다"고 설명했다.
영문기사 보기 (View English Article)