'디지털성범죄 영상' AI가 추적·삭제…서울시, 개발 추진

오디오, 주파수, 대화 내용까지 복합적 분석

[서울=뉴시스] 서울시와 서울기술연구원은 디지털 성범죄 영상물로 인한 시민 피해를 최소화하기 위해 성범죄 피해 영상물을 끝까지 추적하고 삭제하는 인공지능(AI) 기술 개발을 본격 추진한다고 7일 밝혔다. (사진=뉴시스DB) [email protected]

[서울=뉴시스] 하종민 기자 = 서울시와 서울기술연구원은 디지털 성범죄 영상물로 인한 시민 피해를 최소화하기 위해 성범죄 피해 영상물을 끝까지 추적하고 삭제하는 인공지능(AI) 기술 개발을 본격 추진한다고 7일 밝혔다.

디지털 성범죄 추적 AI기술은 비디오, 오디오, 텍스트 데이터 등의 분석기술이 융합돼 적용된다. 기존 방식이었던 피해자 영상 속 얼굴 매칭뿐 아니라 움직임 패턴과 오디오의 주파수나 대화 내용까지 복합적 분석이 이루어지는 방식으로, 사이버 공간에서 불법영상 추적시 정확도 향상이 기대된다.

또 영상을 삭제해도 시간이 지나면 다시 확산되는 특성을 고려해 AI 기반의 디지털 성범죄 유해사이트 자동 검색 기능을 개발할 예정이다. 실제 성범죄 피해 영상의 경우 유해사이트가 서버를 바꿔가기도 하고, 새롭게 생성되기도 하면서 동영상이 빠르게 유포되는 특성이 있어 재확산 방지에도 큰 역할을 할 것으로 보인다.

시는 지난 3월 '서울 디지털성범죄 안심지원센터'를 개관해 상담부터 피해영상 삭제, 심리치료 등을 지원 중이다. AI 기술이 추가 도입될 경우 피해 영상물의 재확산을 막고, 보다 빠른 삭제지원이 가능할 것으로 전망된다.

임성은 서울기술연구원장은 "날로 진화하고 있는 디지털 성범죄에 대응할 수 있도록 연구원의 AI 역량을 집중할 계획"이라며 "AI 삭제지원시스템 개발을 성공적으로 마무리하고, 24시간 가동될 수 있도록 노력할 것"이라고 말했다.


◎공감언론 뉴시스 [email protected]