현실의 또 다른 이름, 딥페이크가 생성한 '실시간 지옥'

<183> '딥페이크 포르노' 성범죄 강국이 된 한국

딥페이크 성범죄 OUT 공동행동 회원들이 25일 서울 여의도 국회 앞에서 열린 딥페이크 성범죄방지법 개정안 관련 국회 여성가족위원회 규탄 긴급 기자회견에서 구호를 외치고 있다. 뉴스1

나와 너 그리고 여기에서 저기까지, 널려있는 잠재적 비극.

이르샤 데일리워드 '비상 경고' 중에서

얼마 전 서울시교육청에서 보낸 '딥페이크(인공지능 기반 이미지 합성) 등 디지털 성범죄 대응 안내'라는 제목을 단 가정통신문이 왔다. '딥페이크 불법합성물'에 대한 대응책으로 증거를 모으고, 접속을 차단하고, 거부감을 표현하고, 화제를 전환하고, 경찰에 신고하라는 내용이었다. 가해자 처벌과 예방이 아니라 피해자 책임을 중심에 둔 대응책을 보고 있자니 답답했다.

최근 어느 중학교가 여학생들을 향해 "사회관계망서비스(SNS)에 올라간 사진을 내리고 개인정보 보호에 유념하라"고 지시했다는 소식과 어느 초등학교 가정통신문을 통해 "성범죄 예방을 위해 여학생들은 너무 짧은 바지를 입지 않도록 합니다"라는 내용이 전달됐다던 이야기가 함께 떠올랐다. 이러한 대응책에 "응, 그래"라고 할 수 없는 건 안전을 개인의 처신 문제로 환원시키기 때문이다. 결국 '네가 조심했어야지'라고 하는 피해자 비난은 '내가 조심했어야 했는데'라는 자기 죄책감과 직렬로 이어지기 때문이다.

이름과 이름들

6일 오후 서울 종로 보신각 앞에서 한국여성의전화 주최로 열린 텔레그램 딥페이크 성폭력 대응 긴급 집회에서 참가자들이 구호를 외치고 있다. 연합뉴스

가정통신문에는 '딥페이크 불법합성물'로 표현돼 있었다. 이 용어는 '허위 영상물' '음란 영상물'이라는 표현과 함께 피해의 심각성을 손쉽게 가린다. 타인을 향한 폭력이자 인격을 심각하게 훼손하는 범죄임을 드러내지 못한다. 한편 성범죄물·성착취물·성폭력물이라고 하면 특정 성을 향한 범죄이자 착취임이 드러나긴 하지만 광범위한 이름이기도 해서, 인공지능(AI) 딥러닝 기술이 적용된 딥페이크 사태의 특이성을 직관적으로 파악하기가 쉽지 않다.

해외에서는 흔히 '딥페이크 포르노'라고 명명한다. 이는 딥페이크라는 용어 자체가 포르노적 기원을 담고 있어서다. 2017년 플랫폼 사이트 레딧(Reddit)에 여성 얼굴 사진 원본을 유명인의 얼굴로 바꿔치기해 포르노 콘텐츠로 제작해 배포한 사용자의 아이디가 '딥페이크'였다. 이후 2018년에는 옥스퍼드 영어 사전의 공식 용어가 되고 미국 어휘집에 등재될 정도로 단어가 빠르게 자리 잡았다. 딥페이크 포르노의 심각성을 직관적으로 전달하고자 언론과 활동가들은 딥페이크 강간, 디지털 인신매매, 강간 문화의 디지털화라는 이름으로 부르기도 한다. 지난 10일 '텔레그램 딥페이크 성폭력 사태 관련 긴급 좌담회'에서 권김현영 여성현실연구소장은 '딥페이크 포르노 대량 제작 사태'라고 이름을 붙이기도 했다. 꼭, 알맞은 이름이었다.

일상 약탈자

지난달 30일 대구 수성구 시지중학교에서 학교전담경찰관(SPO)이 학생들을 대상으로 딥페이크 성착취물 범죄 예방 교육을 하고 있다. 연합뉴스

미국의 사이버 보안업체 시큐리티 히어로(Security Hero)의 딥페이크 보고서에 따르면 온라인에 있는 딥페이크 영상 중 98%가 포르노이고, 피해자의 99%가 여성이었다고 한다. 그중 53%가 한국 여성으로 전 세계에서 압도적 1위를 차지했다. 이 정도면 세계적 열풍으로 불리는 K팝과 K뷰티의 점유율도 사소해진다. 대한민국은 명실상부한 'K딥페이크포르노' 성범죄 초강대국이다.

"모든 여성이 포르노 영화에 출연할 수 있는 세상을 상상해보세요. 우리는 그런 세상에 살고 있습니다." BBC에서 제작한 다큐멘터리 'Deepfake Porn: Could You Be Next?'(2023)에서 진행자는 말했다. 그 세상이 올해 8월 한국에서 드러났다. 그것도 아는 여성이 출연하는, 바로 내 곁에서 함께 공부하고 있는 친구가 출연하는 딥페이크 포르노 영상을 대량 제작해 돌려보고 팔아먹었다. 지인, 친구, 동료, 학생 심지어 가족까지 가릴 것 없이 여성의 일상을 능욕하고 약탈했다. AI와 혐오지능이 결탁해 만들어낸 성착취가 놀이-취미-문화-산업으로 이어지며 K딥페이크포르노 성범죄 강국으로 우뚝 섰다.

딥페이크 포르노 대량 제작 사태를 경험한, 경기 어느 중학교 학생들은 5일 급식실과 교내 곳곳에 성명서를 붙였다. 이들은 "우리의 일상의 평화는 모두 '털렸다'. (…) 내 곁의 평범한 사람들, 친하지는 않더라도 그럭저럭 잘 지낸 학생들이 지인들의 딥페이크 영상과 사진을 보고 희롱을 하며 즐거워했다는 사실에 우리는 절망한다"며 "더 끔찍한 피해는 불신"이라고 말했다.

불신 지옥, 능욕 천국

추석 연휴 마지막 날인 18일 오전 대구 동구 동대구역 대합실에서 시민들이 딥페이크 범죄 관련 뉴스를 시청하고 있다. 뉴스1

SNS에서 약력 사진을 내리고 계정을 잠그며 사회에 대한 불신의 감각을 '딥러닝' 중인 여성, 청소년, 청년들을 향해 나오는 "AI로 만든 건 진짜도 아닌 가짜인데 뭐가 그리 심각해" "위협이 과대평가되고 있다" 또는 "급발진 젠더팔이, 이제는 그만할 때도 됐다" "젠더 갈라치기 하며 잠재적 범죄자 취급하지 말라" 등의 반응들은 하나같이 호들갑이라고 한다. 별일 아니라고 한다.

사법부는 "잘못을 인정하면서 반성하고 있으니" 별일 없었다는 듯 솜방망이 처벌하며 가해자들의 뒤를 봐주고 있다. 입법부는 적극적인 예방책 없이 뒷북만 치는 사후 대책에만 골몰하고, 수사기관은 "해외에 서버가 있어 수사가 어렵다"며 가해자들이 달아날 수 있게 뒷문을 열어두었다.

언론은 사건 해결이 아니라 자극적인 보도에만 집중했고, 방송통신심의위원회가 온라인 플랫폼 기업의 자율 규제라는 말로 방관하는 사이 플랫폼 기업들은 성착취, 마약, 무기거래, 도박 범죄가 빠져나갈 뒷문 역할을 자율적으로 하고 있다. 정부는 처벌할 의무를 내팽개쳐 둔 채 폭력적인 남성 문화에 적극적으로 개입해 여성가족부 폐지를 약속하고, 여성폭력 피해자 지원과 방지를 위한 예산을 대폭 삭감했다. 지방자치단체와 교육청은 성교육 예산을 삭감하고 성평등 도서를 도서관에서 빼냈다.

이러한 젠더 권력 불평등의 기호학적 사슬을 이어가다 보면 '능욕 천국' 조직원들의 형상이 그려진다. 그러는 사이 어떤 남성들은 딥페이크 성범죄 강국의 포르노 중독자들이 되었고, 어떤 여성들은 '불신 지옥'을 딥러닝하고 있다.

실시간 지옥

서울 소재 여자대학교를 중심으로 결성된 '여성혐오폭력 규탄 공동행동'이 21일 오후 서울 종로구 혜화역 인근에서 '딥페이크 성착취 엄벌 촉구 시위: 만든놈, 판놈, 본놈 모조리 처벌하라' 집회를 열고 있다. 최은서 기자

2018년 불법촬영물을 규탄하는 혜화역 2번 출구 시위에서 "공중화장실, 탈의실, 지하철역, 어디를 가든지 남자들이 나를 보고 있고, 어딘가에서 내 사진이 공유되고 있는 여기가 지옥입니다"라며 분노에 끓던 그 목소리가 잊히지 않는다. "내 삶은 너의 포르노가 아니다"라는 구호로 이어지던 지옥의 감각은 섬뜩했다.

21일 '딥페이크 성착취 엄벌 촉구 시위'가 열렸다. "우리의 일상은 너의 포르노가 아니다"라는 피켓을 혜화역 2번 출구에서 6년 만에 다시 만났다. "몰카를 조심한 내가 가상세계에서는 AI 야동배우?!"라는 피켓은 2018년과 2024년을 잇고 있었다. "불법촬영/ 말랬더니/ 딥페이크/ 하고있네" "동창동기/ 여자친구/ 동생누나/ 엄마까지/ 딥페이크/ 지인능욕/ 단톡방에/ 다모였네"라는 구호와 "우리의 지옥을 가해자들의 지옥으로"라고 적힌 피켓은 분노로 끓어올라 있었다.

'사이버 지옥'이라고 불렸던 n번방 사태 이후 "디지털 성범죄 지옥문이 이미 열렸다"고 경고한 서지현 전 검사는 딥페이크 포르노 대량 제작 사태 이후 한 인터뷰에서 말했다. "여기가 지옥이 아닐까요. 친밀한 사람과의 신뢰가 깨진 곳이 지옥이겠죠." 지옥은 은유가 아니다. 고통에 비유는 필요 없다. 지옥은 현실의 다른 이름이다.

지옥에서는 무지개가 뜨지 않는다

춘천여성민우회 등 20여 개 단체로 구성된 텔레그램딥페이크성폭력대응 강원미투행동연대는 10일 춘천지법 앞에서 기자회견을 열고 텔레그램 기반의 딥페이크 불법합성물에 대한 대책 마련과 처벌 강화를 촉구했다. 춘천여성민우회 제공

단 5초 만에 만들어진다는 딥페이크 기반 포르노 이미지들은 더 빠르게, 더 실감 나게, 더 길게, 더 정확하게 실시간 지옥을 생성해내고 있다. 사용자와 상호 작용하는 생성형 AI 기술은 여성혐오를 딥러닝해 미래를 생성할 것이다. 더 빠르게, 더 확실하게, 더 단호하게 규제하고 처벌하지 않는다면 본 적 없는 지옥은 일상화하고, 디지털화하고, 산업화할 것임이 분명해 보인다.

"잡힐 확률 0%다. 걱정하지 말고 즐기자"라는 생성형 AI 기술을 탑재한 대한민국의 남성들을 딥러닝시키기 위해 다른 사례를 입력시켜야 한다. 지옥을 생성하는 놈, 지옥을 제작하는 놈, 지옥을 소지하는 놈, 지옥을 시청하는 놈, 지옥을 유포하는 놈, 지옥을 판매하는 놈, 제대로 처벌하고 응징하는 사례들을 먼저 딥러닝시켜야 한다. 그렇지 않다면 우리의 사회적 신뢰망은 무지개가 뜨지 않는 지옥을 맞이할 수밖에 없다. 아무도 믿을 수 없는 지옥에서는 무지개가 뜨지 않는다.

아직 태어나지 않은 깜짝 놀랄 재난.

이르샤 데일리워드 '비상 경고' 중에서

편집자주

젠더 관점으로 역사와 문화를 읽습니다. 서한영교 작가가 격주로 글을 씁니다.

서한영교 작가