테일러 스위프트만 당했을까…딥페이크, 이제 일반인도 노린다

진짜 같은 합성이미지 만드는 딥페이크…기술 보편화돼 누구나 활용

배우 스칼렛요한슨·톰행크스도 피해…美 대통령에 일론 머스크까지 대상

유통 단계서 악성 콘텐츠 확산 억제가 관건…악용 범죄 처벌규정 강화해야

[서울=AP/뉴시스] 테일러 스위프트

[서울=뉴시스]송혜리 기자 = 얼마 전 세계적인 팝스타 테일러 스위프트 얼굴에 음란물을 합성한 딥페이크 이미지가 사회관계망서비스(SNS) 엑스(X, 구 트위터)에서 확산돼 미국사회 뿐만 아니라 전 세계가 발칵 뒤집혔다.

현지시각으로 지난 24일 X에 등장한 이 사진은 삽시간에 퍼져나갔는데, X 측이 원본 삭제 조치를 취한 시점에는 이미 4700만회 이상 조회된 뒤였다.

전문가들은 인공지능(AI) 기반 딥페이크 기술로 누구나 어렵지 않게 합성 영상을 만들 수 있어, 유명인은 물론 일반인도 얼마든지 범죄 타깃이 될 수 있다고 경고한다. 딥페이크 악용 범죄 확산 방지를 위해선 유통단계에서의 엄격한 제재가 필요하다는 게 이들의 조언이다.

들불처럼 번지는 딥페이크 범죄…배우 스칼렛요한슨·톰행크스도 피해

테일러 스위프트 뿐 아니다. 이미 수많은 유명 스타들이 딥페이크의 표적이 됐다. 지난해 11월 헐리우드 배우 스칼렛 요한슨은 자신의 사진과 목소리를 AI 기술로 변조, 이를 광고에 사용한 AI 앱 제작사에 법적 조치를 취했다.  스칼렛 요한슨의 사진과 영화 속 목소리를 무단 사용해 그를 그대로 흉내낸 AI 아바타를 만들고, '리사 AI'라는 AI 이미지 편집 앱을 홍보하는 광고에 사용한 것이 발단이다.

미국 유명배우 톰 행크스도 자신의 얼굴을 무단 도용한 AI 아바타가 치과 보험을 홍보하는 영상이 무단 유포되고 있다고 경고했다. 비슷한 시기 미국 CBS방송 진행자 게일 킹도 자신의 동의 없이 자신의 AI 아바타가 체중 감량 제품 홍보 영상에 쓰였다고 주장했다.

지난 1월에는 조 바이든 미 대통령이 트랜스젠더 혐오 발언을 내뱉은 것처럼 꾸며낸 가짜 영상이 삽시간에 퍼졌다. 소셜 네트워크 'X'를 인수한 일론 머스크 테슬라 창업자 역시 딥페이크 영상의 희생양이 됐다. 그가 코인 투자자 모집 홍보하는 영상이 돌았는데, 확인 결과 딥페이크 가짜 영상이었다.
 

유명인→일반인 딥페이크 타깃 확대돼…유통단계 확산 억제가 관건 

유명인만 딥페이크 영상 범죄의 타깃이 되는 건 아니다. 모바일 앱과 프로그램을 이용해 이젠 간단한 조작법만 알면 딥페이크 영상을 만들 수 있는 시대다. 전문가들은 유통단계에서 어떻게 효율적으로 차단할 것인지 사회적 논의를 시작해야 한다고 입을 모은다.
 
딥페이크 콘텐츠 제작을 못하게 하는 건 사실상 불가능하기 때문이다. 이 때문에 딥페이크 악용 콘텐츠가 무분별하게 확산되고, 이로 인한 사회적 혼란이 발생하지 않도록 유통 단계에서의 철저한 관리와 함께 딥페이크 영상 악용 범죄에 대한 처벌 규정을 강화해야 한다는 지적이다.

최재식 카이스트 교수는 "개개인이 AI기술을 활용해 콘텐츠를 만드는 행위까지 일일이 제한하는 것은 한계가 있다"며 "결국은 유통단계에서 AI로 생성한 악의적인 콘텐츠를 걸러내는 것이 관건"이라고 말했다.

이어 "현재 AI가 생성한 콘텐츠에 대한 탐지 기술들이 다양하게 개발되고 있고, 이를 플랫폼에 적용하는 등으로  유통 단계에서 딥페이크 악용 콘텐츠 확산을 차단해야 한다"면서 "아울러 개인들 또한 딥페이크 악용 콘텐츠에 대한 문제의식, 경각심을 가질 필요도 있다"고 강조했다.

다행히 플랫폼 사업자들도 딥페이크 악용 콘텐츠 차단에 적극 나서는 움직임이다. 구글, 틱톡 등이 AI를 활용해 제작한 콘텐츠 영상을 게재할 때 그 사실을 고지하도록 의무화하고 있다. 네이버도 오는 4월 총선을 앞두고 AI 댓글, 딥페이크 탐지 기능을 도입키로 했다. 아울러 선거 관련 허위 댓글 신고 기능과 AI가 생성한 기사를 따로 표시하는 기능도 적용했다.

네이버 측은 "AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 지속해서 분석하고 업데이트하는 등의 감시를 강화하고 있다"고 설명했다.


◎공감언론 뉴시스 [email protected]