포르노 산업구조 계승한 딥페이크 성범죄 '떴다방' [포르노가 된 딥페이크①]

‘웹하드 카르텔’ 잇는 ‘딥페이크 카르텔’

손쉬운 딥페이크 기술, 10대까지 제작자로

생기고 사라지고…수사만으로는 근절 안돼

[서울=뉴시스] 전신 기자 = 서울 종로구 보신각 앞에서 여성·인권·시민단체 회원들이 텔레그램 딥페이크 성폭력 대응 긴급 집회를 하고 있다. 2024.09.06. [e-mail]

[편집자주]연예인 음란물부터 지인 능욕까지 광범위하게 사용되는 딥페이크 기술. 지난해 학생들이 연루된 대규모 딥페이크 음란물 사태가 공론화된 뒤 처벌법이 마련됐지만 지금도 '○○방'은 새롭게 생기고 사라지고 있다. 뉴시스는 포르노 산업을 계승한 '딥페이크 산업' 구조를 분석하고 대책을 고민했다. ‘판매자’ 근절을 위해 기술 오남용을 규제하고, '소비자' 유입을 막기 위해 왜곡된 성인식을 개선해야 한다는 결론에 이르렀다.

[서울=뉴시스] 김남희 최은수 조성하 이명동 이태성 기자 = "아이가 딥페이크 가해자라고 하네요. 같은 반 여학생 얼굴을 합성한 거라는데, 범죄까지 될 줄 몰랐다고 합니다. 그냥 친구들끼리 장난친 건데 억울하게 큰 처벌을 받을까 봐 걱정됩니다."



지난해 딥페이크(인공지능 기반 이미지 합성) 기술을 이용해 음란물을 만드는 텔레그램 '지인능욕방'이 공론화된 지 약 반 년이 지났다. 경찰 수사가 계속되면서 네이버의 한 성범죄 상담 카페에는 대응책을 묻는 피의자들의 글이 하루에도 수 십건씩 올라오고 있다.

디지털장의사 업계 관계자들은 최근에도 딥페이크물 삭제 의뢰가 끊이지 않는다고 밝혔다. 딥페이크 음란물을 제작·유포하는 경우 형량이 가중되는 만큼 '피해 회복 노력'을 재판부에 증명하고자 영상 삭제에 나선다는 것이다.

김호진 산타크루즈컴퍼니 대표는 "가해자는 대부분 10대고, 피해자는 여성연예인이나 지인"이라며 "가해학생이 다니는 학교에서 가해 사실을 알게 돼 경찰에 신고하면 부모님이 영상 삭제를 의뢰하는 경우가 대부분"이라고 말했다.



실제로 경찰이 지난해 검거한 딥페이크 허위영상물 피의자 682명 중 80%(548명)가 10대 청소년이었다.

10대까지 제작자로 만드는 손쉬운 '딥페이크' 기술

뉴시스는 가해자에 초점을 맞춰 딥페이크 산업 구조를 파헤쳐 봤다. '딥페이크'라는 신기술의 등장으로 제작에 손을 뻗친 청소년이 늘어나고 있다. 그런데 딥페이크 성범죄는 포르노 산업의 습성을 그대로 계승하고 있는 것으로 파악돼 심각한 사회 문제라는 지적이 나온다.

딥페이크 성범죄와 포르노 산업의 구조는 3가지 측면에서 동일하다.

①운영자는 성인사이트에서 포르노를 판매하며 광고 수익을 얻듯 '다크웹'이나 '텔레그램'을 통해 딥페이크물을 제작·유포하며 수익을 얻는다.

②헤어진 연인과의 성관계 영상을 유포해 복수하는 '리벤지 포르노'는 '지인능욕' 딥페이크물로 이어졌다.

③클릭 몇 번으로 합성영상물을 만들 수 있는 딥페이크 기술로 단순 시청자에 머물던 청소년들까지 가해자가 된다.

김 대표는 "연예인 딥페이크물을 보기 위해 '딥페이크방'에 가입한 10대들은 '매일 (무료로) 보기만 하는 게 미안한데 나도 만들어볼까'라는 생각에 지인 사진을 제공한다. 운영자는 딥페이크물을 만들고, 그 중 '잘 나온' 합성물을 성인사이트나 도박사이트에 올려 수익을 얻는다"고 설명했다.

실제 법률상담을 요청하는 가해자들은 “친하게 지내던 여자 동기의 사진으로 딥페이크를 만들어 올렸는데 다른 사람이 유포해서 경찰 조사를 받았다”, “텔레그램에서 다른 사람에게 부탁해 지인 얼굴로 합성된 영상을 10번 정도 제작했다. 장난삼아 한 건데 이렇게 심각한 범죄가 될 줄 몰랐다”고 호소한다.

‘웹하드 카르텔’ 잇는 ‘딥페이크 카르텔’

[그래픽=뉴시스] 재판매 및 DB 금지.

뉴시스가 2022년 3월부터 최근 3년간 '딥페이크'를 검색어로 공개된 판결문 21건을 분석한 결과, 운영진 7명이 재판대에 섰다. 이들은 연예인이나 일반인의 얼굴에 성행위 영상을 합성해 판매하며 수익을 올렸다.

A씨는 텔레그램 채널을 운영하며 미성년자 연예인의 얼굴에 자위행위나 성행위를 하는 모습을 합성한 영상 34개를 제작하고 56회에 걸쳐 유포했다. 성인 여성 연예인을 합성한 성행위 영상 415개를 만들고 배포하며 후원금 명목으로 500만원의 범죄수익을 얻기도 했다. 판결문에 따르면 A씨가 만든 영상은 일반인이 식별하기 어려울 정도로 정교했다고 한다. A씨는 징역 2년6개월형을 선고받고 항소했으나 기각됐다.

B씨는 키즈모델과 걸그룹 멤버 얼굴로 아동청소년 딥페이크물 600여개를 제작해 이 중 458개를 배포했다. 여성 연예인이 유사성행위를 하는 영상물 등 음란물 3116개를 유포한 죄까지 더해져 징역 3년을 선고받았다. 

이들은 법의 단죄를 받았지만, 실제 수사기관이 운영자를 잡아 재판대에 세우기까지는 수 년이 걸린다. 최근 텔레그램이 피의자 정보를 경찰에 제공하기 시작하자 성범죄자들이 다른 보안형 사회관계망서비스(SNS) 앱으로 갈아타는 엑소더스 현상도 일어나 추적이 더욱 어려워지는 실정이다.

박성현 법률사무소 유 대표변호사는 "최근에 범죄 형태도 이전처럼 단순히 시청하고 유포하는 차원이 아니라, 상습적이고 조직적 형태의 범죄로 텔레그램을 운영하고 가담하는 경우가 많이 늘고 있다"고 밝혔다.

딥페이크 음란물이 과거 '웹하드 카르텔'처럼 성적 욕망을 이용한 거대 산업이 되고 있는 셈이다.

생기고 사라지고…수사만으로는 근절 안 돼

최근 서울경찰청과 경기북부경찰청, 부산경찰청 등은 일반인 여성의 딥페이크 음란물을 제작해 텔레그램을 통해 유포한 '뉴커방(Newker방)'을 추적 중이다. 이같은 딥페이크방은 매일 같이 새로 생기고 폭파되고 있다.

이용자들은 커뮤니티에서 수사 상황을 공유하며 "작년 11월에 한 게 걸린 것 같다" "이번 달 단속 끝날 때까지만 참지"라는 댓글을 달았다. 오는 31일까지 진행되는 경찰의 딥페이크 집중단속이 한시적이나마 이용자들을 주춤하게 하는 셈이다.

그러나 딥페이크 성범죄를 근절하기 위해서는 사후 수사가 아닌 사전 규제와 예방이 필요하다. 이용자 유입을 막을 방안과 판매자 근절을 위한 규제책은 후속 기사에서 다룬다.


◎공감언론 뉴시스 [e-mail], [e-mail], [e-mail], [e-mail], [e-mail]