[딥페이크 성범죄 확산①]SNS 사진 하나면 조작…일반인 피해도↑

AI 발달로 이젠 일반인도 '딥페이크 성범죄' 표적

SNS 사진 한 장으로 딥페이크 음란물 몇 초만에

음란물 제작 속도에 비해 범죄 발견·단속 속도 느려

시민들 "내 사진 악용할까봐 SNS이용하기 꺼려져"

[서울=뉴시스] 인공지능(AI) 기술의 발전으로 누구나 쉽게 딥페이크를 만들어낼 수 있는 프로그램들이 온라인에 유통되면서 일반인들이 피해를 호소하는 경우가 잇따르고 있다. 2024.2.5. [email protected] *재판매 및 DB 금지

[서울=뉴시스] 이아름 리포터 = 직장인 A씨(24·여)는 지난해 충격적인 일을 겪었다. 직장 상사 B씨가 사회관계망서비스(SNS)에 올려둔 자신의 사진을 이용해 음란물을 제작했다는 사실을 알게된 것이다. B씨는 A씨의 얼굴과 다른 여성의 나체 이미지를 합성해 음란물을 만든 뒤 개인 PC에 보관하고 있었다. 이 사실을 알게된 B씨의 여자친구에 의해 사진이 다른 동료들에게 전송되기까지 했다.

A씨는 지인들이 자신의 얼굴을 악의적으로 편집한 사진을 봤다는 사실에 큰 수치심과 괴로움을 느끼다 결국 B씨를 경찰에 고소했다. 그는 "처음에는 믿기지 않았다. 실제 사진은 아니지만 실제같이 편집된 사진을 제3자가 봤다는 것도 수치스럽고 어디까지 퍼져있는지도 모르는 상태다 보니 무작정 피하려고만 했다. 잠도 제대로 못 자고 대인기피증인가 싶을 정도로 모든 사람의 연락을 피해 한동안은 숨어지냈다. 하지만 한 달을 그렇게 지내다가 '내가 피할 이유는 없다'는 생각이 들었다"고 심경을 밝혔다.

이미지나 영상을 짜깁기해 만든 '딥페이크'(deepfake)가 심각한 사회 문제로 떠오르고 있다. 지금까지는 연예인이나 유명인의 얼굴 이미지와 음란물을 합성해 유포하는 범죄가 많았다. 그런데 생성 인공지능(AI) 기술의 발전으로 누구나 쉽게 딥페이크를 만들어낼 수 있는 프로그램들이 온라인에 유통되면서 최근 A씨와 같은 일반인들이 피해를 호소하는 경우가 잇따르고 있다.

[서울=뉴시스] 포털에 '언드레스'를 검색해 나온 하나의 웹사이트를 이용해 셀카(본인) 한 장을 첨부했더니 손쉽게 음란물이 제작됐다. 2024.2.5. [email protected] *재판매 및 DB 금지

딥페이크 음란물을 만들어주는 웹사이트는 온라인 상에서 그 수를 헤아릴 수 없을 정도로 많이 퍼져 있다. 검색 엔진에 '언드레스(undress)'나 '딥누드(deepnude)'와 같은 단어를 입력하면 이런 서비스를 제공하는 웹사이트들이 여러개 검색된다. 제한 없이 이용할 수 있는 무료 서비스도 적지 않다. 한 딥페이크 웹사이트는 이미지 파일 1장만 입력하면 사진 속 인물을 몇 초 내에 알몸 상태로 만들어준다. 컴퓨터를 잘 다루는 사람이 아니어도 손쉽게 불법 음란물을 만들 수 있는 환경이 만들어진 것이다.

이런 딥페이크 서비스의 이용자 수는 무시 못할 규모다. 지난해 10월 소셜네트워크 분석 기업 그래피카(Graphika)가 발표한 자료를 보면 9월 한 달 동안에만 2400만명이 딥페이크 웹사이트를 방문한 것으로 나타났다. 피해 사례도 급증하는 추세다. 방송통신위원회에 따르면 '딥페이크를 포함한 성적 허위 영상물'에 관한 신고는 2021년 1913건에서 2023년(11월까지) 5996건으로 2년새 3배 이상 늘었다.

일반인을 상대로 한 딥페이크 범죄가 늘어나는 것은 사회관계망서비스(SNS)의 영향도 크다. 특정인의 사진을 SNS 등을 통해 사진을 손쉽게 입수하고 공유할 수 있는 시대가 됐기 때문이다.

이 때문에 A씨의 사례처럼 주변인에 의한 딥페이크 성범죄가 잇따라 보고되고 있다. 아동·청소년들이 불법성을 인지하지 못한 채 범죄의 유혹에 빠지는 경우도 있다. 최근 경남 김해의 한 초등학교에서는 학생들이 담임선생님(20대 남성)의 사진을 여성 나체 이미지와 합성한 음란 사진을 만들어 소송전이 벌어지기도 했다.

이에 한국인터넷자율정책기구(KISO)는 22일 네이버, 카카오, SK커뮤니케이션즈 등 포털 회원사들과 협력해 청소년 보호를 위한 검색어 110개를 새로 추가했다. AI와 관련한 '지인 능욕', '지인 합성' 등 딥페이크 관련 검색어와 '옷 벗기기'로 유명한 딥페이크 앱들이 대표적이다.

하지만 이런 차단 조치는 범죄를 예방하기에 역부족이다. 해외 검색 엔진을 이용하면 여전히 많은 딥페이크 앱을 찾을 수 있고, 차단 조치를 피할 수 있는 새로운 검색어가 지속적으로 등장하기 때문이다.

더 큰 문제는 딥페이크를 구현하는 기술이 날이 갈수록 정교하게 발전하고 있다는 점이다. 최근에는 사람의 얼굴 사진을 입력하면 얼굴 표정이나 춤을 추는 모습을 동영상으로 구현하는 서비스까지 등장했다. 이미 일부 온라인 플랫폼에서는 AI로 만들어낸 캐릭터가 등장하는 음란 동영상이 유료로 판매되고 있는 실정이다. 일반인도 불법적으로 제작된 음란 영상의 피해자가 될 위험에 무방비로 노출된 셈이다.

전문가들은 당국의 제재나 단속 조치보다 기술의 발전 속도가 훨씬 빨라 앞으로도 딥페이크 성범죄는 빠르게 증가할 것으로 전망한다.

서울여자대학교 정보보호학과 김명주 교수는 "딥페이크 이미지나 영상을 만드는 도구가 광범위하게 퍼져있다. 일정 회비만 내면 얼마든지 만들 수 있고, 비용도 크지 않다"며 "영상 만드는 속도는 발견하고 단속하는 속도보다 빠르다. 음란물이 만들어져도 피해자가 인지하기 어렵고, 인지한다고 하더라도 사건화되는 게 힘들다"고 분석했다.

김 교수는 "최근 동남아시아서 멀쩡한 사람의 사진을 주고 그 사람의 몸을 나체로 바꿔치기해서 포르노 사진으로 만드는 게 나왔다. 이제는 애니메이션 기능도 들어가는데 나체 사진을 주면 동영상으로 바뀐다"며 "SNS에 있는 일반인 사진을 다운 받아서 거기 올려버리면 그런 게 나오는 것"이라고 설명했다.

일부 시민들 사이에서는 '딥페이크 포비아'라고 불릴 정도의 심각한 공포감이 확산되고 있다. 누군가 내 사진을 나쁜 의도로 활용할지 알 수 없기 때문에 타인과의 공유를 최소화하는 것이다.

경기도에 거주하는 직장인 C씨(여·25)는 "내 사진을 누가 이런 식으로 악용할까 봐 내 마음대로 SNS에 사진 한 장 올리는 것도 무섭다. 그러다 보니 요즘 인스타그램 활동을 안 하게 됐다"고 털어놨다.

경남의 한 중학교에 담임교사로 재직 중인 D씨(여·20대)는 "얼마 전 김해에서 교사를 상대로 초등학생들이 딥페이크 범죄를 저지른 사건을 뉴스를 통해 봤다. 이제는 학생들 장난이 귀엽게 봐줄 정도를 지나쳐 범죄까지 와버린 것 같아서 안타깝다"며 우려를 표했다.

◎튜브가이드
▶홈페이지 : https://www.tubeguide.co.kr
▶기사문의/제보 : [email protected]