딥페이크방 '단골손님'은 청소년…왜곡된 성인식에 악순환[포르노가 된 딥페이크②]

중·고등학교 교사 5인이 말한 딥페이크 성범죄

디지털 접근성 높은 코로나 세대엔 '그저 오락'

"너 그러다 딥페 당해"…딥페이크 폭력 불감증

기저 깔린 '왜곡된 성인식'…범죄 유입 부추겨

"코딩만 가르칠 게 아니라 AI 윤리 교육도 병행"

[그래픽=뉴시스] 재판매 및 DB금지. [e-mail]

[편집자주]연예인 음란물부터 지인 능욕까지 광범위하게 사용되는 딥페이크. 지난해 학생을 대상으로 한 대규모 딥페이크 사태가 공론화된 뒤 처벌법이 마련됐지만 지금도 '○○방'은 새롭게 생기고 사라지고 있다. 뉴시스는 포르노 산업을 계승한 '딥페이크 산업' 구조를 분석하고 대책을 고민했다. 피라미드 꼭대기의 '운영자' 근절을 위해 기술 오남용을 막고 수익구조를 없애야 하고, '이용자' 유입을 막기 위해 왜곡된 성인식을 개선해야 한다는 결론에 이르렀다.

[서울=뉴시스] 조성하 이태성 기자 = 딥페이크 성범죄 가해자는 유독 한 집단에 몰려 있다. 바로 10대 청소년이다. 경찰청이 지난해 딥페이크 특별단속 기간 동안 검거한 가해자 10명 중 8명이 미성년자로 집계됐다.



왜곡된 성관념은 어디에 뿌리를 두고 있을까. 청소년들이 성범죄영상물 제작까지 나서게 된 원인은 무엇일까. 전문가와 교사 5명, 또래 친구 3명의 이야기를 종합해 봤다.

'기술 장벽' 낮은 코로나 세대…디지털 접근성 높아

코로나19 팬데믹을 겪으며 청소년의 디지털 접근성이 높아진 점이 환경적 요인으로 꼽힌다.

 '디지털 네이티브' 세대로, 기성세대보다 첨단기술 활용 문턱이 낮다는 점은 디지털 기술을 악용한 성범죄를 쉽게 저지를 수 있는 요소다. 스마트폰을 많이 쓰고, 익명 메신저 앱을 사용하는 데도 거리낌이 없어 급기야 '딥페이크 포르노 제작'까지 손대게 된 것이다.



교사들의 증언대로, 최근 학교 폭력의 무대가 오프라인에서 디지털로 공간 이동한 것도 이와 무관하지 않다.

중학교 1학년 담임을 경험했다는 김지연 전교조 여성부위원장은 "딥페이크는 텔레그램 채널을 통해 누구든지 간편하게 만들 수 있다 보니 10대 청소년이 용돈벌이나 호기심으로 쉽게 접근할 수 있다"고 했다.

서울 강남구 중학교 A교사와 서울 강동구 고등학교 B교사도 온라인 접근성이 높아진 점이 디지털 성범죄에 쉽게 노출되게 했다고 입을 모았다.

"너 그러다 딥페 당한다"…딥페이크 폭력 불감증

딥페이크 폭력을 하나의 오락거리나 유행으로 생각하는 분위기도 원인으로 꼽힌다.

방송통신위원회의 '2020년 사이버폭력 실태 조사'에서 불법 합성물 제작·유포 등 디지털 성범죄를 목격한 경험이 있는 학생 가운데 16%가 "전혀 문제 되지 않는다"고 답했다.

서울 송파구의 한 중학교에 재학 중인 김지수(14·가명)양은 "본인이 직접 당한 게 아니어서인지 딥페이크를 장난으로 받아들이는 것 같았다"며 "여자 애들 사이에서는 산악 동호회 사진으로 프로필 사진을 바꾸거나, '너 그러다 딥페이크 당한다'라고 농담하는 게 일종의 유행이었다"고 말했다.

서울 종로구의 고등학교에 재학 중인 이서준(18·가명)군도 "기본적으로 딥페이크를 심각하게 생각하지 않는 분위기"라며 "당사자가 볼 거란 생각을 하고 만드는 게 아니고 단순한 장난으로 여기는 것 같다"고 털어놨다.

학생들이 딥페이크 영상을 쉽게 접할 수 있는 환경에 맞물려 무비판적으로 수용하는 구조가 형성되는 셈이다.

경기도 양주 소재 중학교 교사 C씨는 "애초에 (딥페이크방) 운영자들 중 10대를 겨냥하는 사람이 많을 것 같다"며 "성인보다는 판단력이 흐린 아이들은 잘 속아 넘어가는 것 같다"고 했다.

김 부위원장은 "'우리들끼리 같이 하는 거니까 쟤도 괜찮으면 나도 괜찮은 거고' 이런 식으로 집단적으로 하는 범죄가 더 죄책감을 흐린다"며 또래문화가 범죄를 부추긴다고 분석했다.

기저 깔린 '왜곡된 성인식'…범죄 유입 부추겨

[그래픽=뉴시스] 재판매 및 DB금지. [e-mail]

디지털 친화성과 폭력 불감증의 기저에는 ‘왜곡된 성인식’이 깔려 있다. 딥페이크 성범죄가 여성 혐오에 기인하는 점을 짚어내지 못한다면 기술 발달에 따라 새로운 유형의 성폭력이 이어질 것이라는 지적이다.

B교사는 "문제는 딥페이크 범죄를 저지르는 학생들이 문제를 일으키던 애들이 아니다"라며 "정말 얌전한 애들이 자기 휴대폰에만 넣어놓고 자기만족으로 보는 경우도 많다"고 했다.

왜곡된 성인식이 낮은 기술적 허들과 만나 ‘보통의 학생’을 가해자의 문턱을 넘도록 만드는 셈이다.

김 부위원장은 여성과 남성을 동등한 위치로 보지 않는 차별이 문제의 핵심이라며 성평등 교육을 통해 이러한 사고를 바로 잡는 것이 미래의 피해자를 줄일 근본적 대책이라고 설명했다.

동시에 "기존의 성폭력 예방 교육은 처벌에만 초점을 뒀다면, 앞으로의 성교육은 성적인 지식만 얻는 것이 아닌  다른 사람을 존중하는 등의 태도, 그리고 상대의 동의 없이 어떠한 권리도 침해할 수 없다는 점을 배우는 과정이어야 한다"고 했다.

딥페이크 부작용 막심한데…AI 윤리 교육은 사실상 전무

신기술이 성범죄와 결합하는 속도에 비해 AI 윤리 교육은 부재한 것도 문제다.

딥페이크 범죄가 사회 문제로 대두된 후 각 학교에서 관련 예방 교육을 실시하고 있지만 이마저도 안내 자료 배포나 동영상을 시청하는 것에 그치고 있다.

이서준군은 "문제가 되고 나서 학교에서 한 번 동영상 교육을 들었는데 집중해서 들은 게 아니라서 잘 기억나지 않는다"며 "엎드려 자거나 딴짓을 하는 친구들도 많았다"고 전했다.

지난달 한국청소년정책연구원이 발표한 '청소년의 생성형 AI 이용실태 및 리터러시 증진방안 연구'에서 중고등학생 5778명을 대상으로 실시한 설문에는 인공지능(AI) 교육 경험이 부족하다는 응답이 나타났다.

응답자의 67.9%는 딥페이크를 만드는 데에 활용될 수 있는 생성형 AI를 사용한 적이 있다고 응답했지만 제대로 된 교육은 받은 적이 없다는 점을 털어놨다.

학교에서 가장 필요한 교육으로는 ▲개인정보나 저작권침해 등에 관한 교육(3.19점) ▲정보의 오류나 편향성 등을 확인하는 교육(3.12점) 등을 꼽았다.

"코딩만 가르칠 것이 아니라 윤리 교육도 병행해야"

전문가들은 처벌 강화와 AI 윤리 교육 체계를 확립하는 해법이 동반해야 한다고 지적한다. 빠르게 발전하는 기술 속도만큼 범죄 유형도 다양해질 수 있어 보다 근본적인 해법이 필요하다는 것이다.

김덕진 IT커뮤니케이션연구소장은 딥페이크 범죄 피해 회복과 관련해 "단순한 명예훼손이 아니라 경제적·비용적으로 (책임을) 물을 수 있도록 해야 한다"면서도 "결과물에 대한 처벌을 강화하고 그것이 어떤 영향을 어떻게 미치는지에 대한 윤리 교육이 가장 필요하다"고 봤다.

이세영 성균관대 미디어커뮤니케이션학과 교수는 "기존에는 정보를 올바르게 소비하는 방법만 배웠다면 이제 정보를 생산해 내는 과정까지 이해해야 한다"며 "어려서부터 교육으로 AI 관련 윤리·도덕성을 길러줘야 부작용을 미리 예방할 수 있다"고 강조했다.

김명주 서울여대 정보보호학부 교수는 "'잠깐 가지고 놀았다고 아이 인생을 이렇게 망치느냐'며 2차 가해를 하는 경우도 많다"며 "학생들뿐만 아니라 학부모들도 딥페이크 범죄의 심각성을 일깨워주는 교육이 동반돼야 한다"고 제언했다.

전문가들은 국가가 나서서 교육 자료 개발이나, 전문적인 교육 인력 양성을 책임져야 한다고 강조했다.

이 교수는 "학교 현장에 업무가 이미 많은 상황에서 모든 선생님을 AI 교육에 투입하는 건 비효율적"이라며 "AI를 전담해 가르칠 수 있는 교사를 지정하거나, 인증제를 통해 일정한 수준의 이상의 교육 역량을 갖추도록 하는 방안도 하나의 방법"이라고 제안했다.


◎공감언론 뉴시스 [e-mail], [e-mail]