딥페이크 성범죄물, 텔레그램에만 몰린 이유…허위 영상물 적발시 카톡서 영구 추방

네이버·카카오, 딥페이크 음란물 선제 사전 조치 중

네이버, '클로바 그린아이'로 음란물 실시간 탐지·삭제

카카오, 허위 영상물 배포 적발 시 카톡 영구 제한

[그래픽=뉴시스] [email protected]

[서울=뉴시스]윤정민 기자 = 최근 인공지능(AI) 이미지 합성 기술인 딥페이크를 악용한 합성 음란물 제작·유포가 사회적 문제로 떠올랐다. 특히 텔레그램을 통해 음란물이 확산된 것으로 나타났는데 범죄와 연관된 콘텐츠를 수시로 모니터링하거나 삭제하지 않는 등 플랫폼 기업이 적극적으로 조처하지 않기 때문이다.

국내 플랫폼 기업인 네이버와 카카오는 다르다. 이미 불법 합성물로 의심되는 콘텐츠를 실시간으로 탐지할 수 있는 기술을 개발·고도화했기 때문에 국내 플랫폼에서는 불법 합성물을 쉽게 찾아볼 수 없다.

[성남=뉴시스] 황준선 기자 = 경기 성남시 분당구 네이버 사옥 모습. 2024.05.13. [email protected]

29일 정보기술(IT)업계에 따르면 네이버는 실시간 AI 이미지 필터링 시스템 '클로바 그린아이'을 개발해 네이버 카페, 블로그 등에서 실시간으로 올라오는 음란물을 탐지하고 있다.

2017년 개발했으며 2021년에는 2.0 버전으로 고도화 했다. 99.5%의 정확도로 플랫폼에 게재되는 콘텐츠가 정상인지, 음란물인지, 성인물인지, 선정적인 게시물인지 등을 파악한다.

[서울=뉴시스] 네이버 음란물 차단 AI '그린아이' 작동 방식 (사진=네이버 제공) *재판매 및 DB 금지

네이버는 지난 상반기 자사 플랫폼에 게재된 선정적인 내용을 포함한 이미지, 동영상 총 869만여건을 제한했는데 이 중 그린아이 등 AI를 통한 제한 비중은 96%에 달했다. AI 시스템을 통해 걸러진 운영정책 위반 게시물의 정확한 처리를 위해 모니터링 전담 부서를 운영하고 24시간 모니터링 체제도 유지하고 있다.

[서울=뉴시스] 카카오 판교 사옥 아지트 전경(사진=카카오) *재판매 및 DB 금지

카카오도 카카오톡 오픈채팅, 포털 다음, 카카오 내 공개 게시판 서비스 등에서 악의적인 딥페이크 콘텐츠 유통을 감시하는 모니터링을 진행하고 있다. 카카오톡의 경우 허위 영상물 배포·제공 행위 적발 시 카카오톡 전체 서비스 영구 제한된다.

지난 1월에는 한국인터넷자율정책기구(KISO)와 협의해 포털 다음에 딥페이크 관련 검색어를 청소년 보호 검색어로 지정했다. 청소년 보호 검색어로 지정되면 해당 검색어 노출이 제한되며 성인 이용자의 경우 연령 확인 절차를 통해 검색 결과를 확인할 수 있다.

[서울=뉴시스] 카카오는 카카오, 카카오톡, 다음 고객센터에 '딥페이크 범죄 주의 및 신고 채널 안내'를 29일 게시했다. (사진=카카오 고객센터 캡처) *재판매 및 DB 금지

이밖에 방송통신심의위원회는 지난 28일 국내 플랫폼 기업에 방심위 전용 신고 배너 팝업을 설치하도록 요구하는 등의 딥페이크 음란물 확산 사태 종합 대책안을 발표했다.

이에 네이버는 고객센터 공지사항에 '딥페이크 유포 주의 사항 및 신고 채널 안내'를 게시했다. 카카오도 카카오, 카카오톡, 다음 고객센터에 '딥페이크 범죄 주의 및 신고 채널 안내'를 게시했다.

한편 국내 플랫폼 기업의 대책 마련과 달리 이번 딥페이크 음란물 유포 배경이 된 텔레그램은 별다른 조처를 하지 않은 것으로 알려졌다. N번방 사건 당시에도 경찰의 협조 공문에 답하지 않으면서 수사가 난항을 겪었다.

텔레그램의 수사 비협조는 해외에도 다르지 않다. 이에 프랑스 수사당국은 최근 파벨 두로프 텔레그램 창업자 겸 최고경영자(CEO)를 각종 범죄 방관 혐의로 체포했다.


◎공감언론 뉴시스 [email protected]