딥페이크 공포 확산…여가부·과기부, 영상삭제 지원 현장 합동점검

尹, 전날 국무회의서 관계부처에 강력 대응 지시

딥페이크 기반 성범죄 연구…연내 개선방안 마련

허위영상 자동 탐지 등 시스템 고도화 방안 논의

[그래픽=뉴시스] [email protected]

[서울=뉴시스] 고홍주 기자 = 최근 여성 사진을 음란물에 합성한 '딥페이크'(기존 사진이나 영상을 다른 사진이나 영상에 겹쳐서 실제처럼 만들어 내는 인공지능 기반 이미지 합성기술) 영상이 대학가를 넘어 중·고등학교까지 퍼지고 있는 가운데, 여성가족부와 과학기술정보통신부가 피해 영상 삭제 현장을 방문해 지원 방안을 논의했다.

신영숙 여가부 차관과 강도현 과기부 제2차관은 28일 오후 여가부 산하 한국여성인권진흥원 디지털성범죄피해자지원센터(디성센터)를 찾아 운영 현황을 살피고, 피해 예방 및 피해자 지원 방안에 대해 긴급 점검하는 자리를 가졌다.

윤석열 대통령은 전날(27일) 국무회의에서 "딥페이크는 명백한 범죄"라며 관계부처에 강력히 대응할 것을 지시했다. 이번 방문은 윤 대통령 지시를 이행하고 현장 목소리를 청취하기 위해 이뤄졌다.

최근 생성형 인공지능(AI) 기술을 활용해 일반인을 대상으로 한 디지털 성범죄 피해가 빠르게 확산되면서 부처 간 대응방안 마련이 시급해졌다. 과기부는 지난 5월 '새로운 디지털 질서 정립 추진계획'을 국무회의에서 보고한 뒤 여가부와 함께 부처 간 협업을 이어왔다.

특히 7월부터는 합동으로 딥페이크 기반 디지털 성범죄 피해 예방 및 보호방안 마련을 위해 정책연구를 추진하고 있다. 정책연구를 기반으로 올해까지 딥페이크 발전에 따른 디지털 성범죄 관련 법제 정비 방향과 딥페이크 성적합성물 탐지시스템 구축 방안 등을 도출할 예정이다.

이날 두 차관이 방문한 디성센터는 디지털 성범죄 피해상담과 피해 촬영물에 대한 삭제를 지원하고, 수사 및 무료 법률지원 연계 등 종합적인 서비스를 제공하고 있다.

지난 2018년 4월 개소 이래 지난해 12월31일까지 총 3만2000여명의 피해자들이 디성센터에서 피해 상담 및 피해영상 삭제 서비스와 법률지원 서비스를 받았다.

두 차관은 디성센터에서 삭제지원시스템 운영 현황을 청취한 뒤 딥페이크를 자동적으로 탐지하고 사진 한 장으로도 허위 영상물을 추적할 수 있도록 하는 방안에 대해 논의했다. 기존에는 합성물이나 편집물을 수동 판별해야 했지만, 자동화 시스템이 도입되면 피해 영상물 의심 이미지가 자동 모니터링 돼 삭제 요청이 자동 통보될 수 있다.

신 차관은 "디지털 기술을 악용해 갈수록 정교해지는 디지털 성범죄로부터 피해자를 보호하기 위한 국가적 노력이 요구되고 있다"며 "딥페이크 성착취물을 빠르게 탐지할 수 있는 삭제시스템 고도화 등 현장에서 개선이 필요한 사항을 중심으로 과기부와 협력방안을 논의해 건전한 디지털 환경을 함께 조성해나가겠다"고 말했다.

강 차관도 "디지털 성범죄는 피해자의 삶을 송두리째 파괴하고 사회질서를 위협하는 용서할 수 없는 범죄"라며 "과기부는 모두를 위한 안전한 디지털 사회를 구현해야 하는 임무가 있는 만큼, 여가부와 협력해 딥페이크 성범죄를 예방하고 피해자를 빠르게 지원할 수 있는 기술개발, 새로운 사업 기획 등을 적극 지원하겠다"고 했다.

신보라 여성인권진흥원장은 "끊임없이 재유포되는 피해영상물을 신속하고 완전하게 삭제하기 위해 실무자 1인당 피해자 100명 이상을 지원하는 등 혼신의 노력을 기울이고 있다"며 "삭제지원시스템에 고도화된 기술이 도입된다면 피해자 지원을 확대할 수 있을 뿐만 아니라 실무인력 부족을 보완할 수 있는 하나의 방안이 될 수 있을 것"이라고 덧붙였다.

[서울=뉴시스] 여성가족부 산하 한국여성인권진흥원 디지털성범죄피해자지원센터. 2024.08.28. (자료=여성가족부 제공) *재판매 및 DB 금지

◎공감언론 뉴시스 [email protected]