• 페이스북
  • 트위터
  • 유튜브

광장

광장

기획특집

포르노가 된 딥페이크

포르노의 진화

"아이가 딥페이크 가해자라고 하네요. 같은 반 여학생 얼굴을 합성한 거라는데, 범죄까지 될 줄 몰랐다고 합니다. 그냥 친구들끼리 장난친 건데 억울하게 큰 처벌을 받을까 봐 걱정됩니다." 지난해 딥페이크(인공지능 기반 이미지 합성) 기술을 이용해 음란물을 만드는 텔레그램 '지인능욕방'이 공론화된 지 약 반 년이 지났다. 경찰 수사가 계속되면서 네이버의

'단골손님'은 청소년…왜곡된 성인식에 악순환

딥페이크 성범죄 가해자는 유독 한 집단에 몰려 있다. 바로 10대 청소년이다. 경찰청이 지난해 딥페이크 특별단속 기간 동안 검거한 가해자 10명 중 8명이 미성년자로 집계됐다. 왜곡된 성관념은 어디에 뿌리를 두고 있을까. 청소년들이 성범죄영상물 제작까지 나서게 된 원인은 무엇일까. 전문가와 교사 5명, 또래 친구 3명의 이야기를 종합해 봤다.

기술 급성장하는데 속도 못 따라가는 '규제'

딥페이크 성범죄의 정점에는 허위영상물을 만들어 판매하는 제작자(운영자)가 있다. 이들이 만든 음란물은 갈수록 정교해지고 빠르게 성장하고 있지만 정부의 규제는 그 속도를 따라가지 못하고 있다. 구글 모회사 알파벳의 최고경영자(CEO) 순다르 피차이는 "사회가 인공지능(AI) 기술에 대한 준비가 돼 있지 않은 것 같다"며 "(AI) 규제나 남용을 처벌하

1