"AI가 만들었습니다"…틱톡, '가짜영상' 대응책 내놔

'딥페이크' 악용 사례 대응…'AI 생성 콘텐츠' 표시토록

[서울=뉴시스] 이혜원 기자 = 인공지능(AI) 기반 합성 기술인 '딥페이크'를 악용한 가짜 영상에 대한 우려가 커지는 가운데, 동영상 플랫폼 틱톡이 AI가 만든 영상을 사용자가 식별할 수 있도록 하는 서비스를 내놓겠다고 발표했다.

19일(현지시간) 미국 CNBC에 따르면 틱톡은 이날 콘텐츠 제작자가 AI 생성 콘텐츠를 표시할 수 있는 기능을 출시할 예정이라고 밝혔다.

이와 함께 AI가 편집했거나 생성한 것으로 감지되는 콘텐츠에 'AI 생성'이라고 표기하는 서비스를 이번주 시작할 예정이다.

틱톡은 자사 AI 정책을 통해 콘텐츠 제작자가 AI로 합성·변조한 가짜 영상을 올릴 때 'AI 생성 콘텐츠'라고 표시하도록 규정하고 있다. 회사는 이번에 출시할 서비스로 사용자들이 해당 정책을 쉽게 준수할 수 있을 것이라고 했다.

틱톡은 자사 플랫폼에서 사실과 거짓을 혼동하게 만드는 딥페이크 영상을 금지하고 있다. 예술이나 교육 등 특정 목적으로 공인 이미지를 합성하는 건 허용하지만, 사인이나 청소년을 대상으로 한 딥페이크 영상은 제한한다.

이번 조치는 AI 기술 전쟁이 치열해지면서 거짓 정보 피해에 대한 우려가 커지는 가운데 나왔다.

이와 관련 유럽연합(EU)은 인공지능으로 제작한 텍스트, 사진 및 기타 콘텐츠에 'AI 생성'이라고 표시하는 등 허위 정보 문제에 대응하도록 온라인 플랫폼에 촉구해 왔다.


◎공감언론 뉴시스 [email protected]