얼굴에 비친 그늘, 가짜영상 잡는 단서…탐지기술 어디까지 왔나[딥페이크 두 얼굴④]

눈 깜빡임, 얼굴 움직임, 조명, 영상품질 등 비교로 '가짜 영상' 판별

딥페이크 제작하는데 사용된 AI모델 흔적까지 찾아낸다

전문가들 "이제 막 R&D 초기 단계로, 검증되려면 수년 필요할 수도"

       

[서울=뉴시스] 조수정 기자 = 윤석열 대통령이 27일 서울 영등포구 페어몬트 앰배서더 서울에서 열린 2024 국제 사이버범죄대응 심포지엄 개회식에 참석한 뒤 딥페이크 탐지 소프트웨어 시연을 보고 있다. (사진=대통령실 제공) 2024.08.27. [email protected] *재판매 및 DB 금지

[서울=뉴시스]송혜리 기자 = 인공지능(AI) 기술을 활용한 딥페이크 범죄가 일반 국민을 대상으로 빠르게 확산하고 있는데, 딥페이크 불법 영상물을 모니터링하고 차단할 수 있는 기술적 대응 방법에도 귀추가 주목되고 있다. 딥브레인AI, 라온시큐어, 샌즈랩 등 이 관련 기술 개발에 뛰어 들었으며, 정부도 딥페이브 성범죄 대응 기술 개발을 위해 내년 20억원 규모의 예산을 편성하는 등 관련 R&D에 박차를 가하겠다는 입장이다.

다만 딥페이크 탐지 대응 기술은 이제 막 R&D(연구개발) 초기단계로 상용화되려면 상당한 시일이 걸릴 수 있다는 게 전문가들의 전언이다. 

딥페이크 어떻게 식별할…비정상적인 눈 깜박임까지 찾아낸다

딥페이크 영상을 탐지하는 방식은 다양하다. 박현우 라온시큐어 AI연구개발센터장은 "AI 기술로 얼굴 변화를 감지하거나, 음성과 입 모양의 부자연스러운 부분을 분석하기도 한다"며 "또 혈류나 세부적인 피부 특징을 찾아내거나 AI 이미지 합성 툴 자체를 감지하는 방법도 활용된다"고 소개했다.

이 중 대표적인 탐지 방식이 눈 깜빡임, 얼굴 움직임, 조명, 영상품질 등을 세밀하게 분석해 딥페이크 여부를 판별하는 방법이다. 인간은 자연스럽게 눈을 깜박이지만 딥페이크 영상에서는 눈 깜박임이 비정상적이거나 거의 없을 수 있다. 이를 통해 딥페이크 영상인지를 식별할 수 있다.

또 딥페이크는 얼굴이 자연스럽게 움직이지 않거나 얼굴에 빛이나 그림자가 제대로 표현되지 않을 수 있는데 이런 영상 불일치를 찾아내는 방식도 쓴다.

영상과 음성·텍스트의 일치 여부로도 딥페이크를 탐지할 수 있다. 가짜 영상에서 입술의 움직임과 음성이 맞지 않는 경우를 찾아내거나, 영상 속 인물이 말하는 내용이 실제 상황과 맞지 않는 경우도 딥페이크 영상일 가능성이 있다.

딥페이크를 탐지하는 또 다른 방법으로는 CNN(Convolutional Neural Network) 기술을 사용하는 것이 있다. 이 기술은 가짜 얼굴 이미지와 진짜 얼굴 이미지를 대량으로 학습한 후, 새로운 이미지가 들어오면 그것이 진짜인지 가짜인지 구별해낼 수 있다.

또 딥페이크를 만드는 데 사용된 AI 모델(생성적 적대 신경망, GAN)의 흔적을 탐지하는 알고리즘을 개발해 활용하거나, 딥페이크 영상이나 이미지 파일에 담긴 정보(메타데이터)를 분석하는 방법도 있다. 예를 들어, 파일이 언제 만들어졌는지, 어떤 소프트웨어로 만들어졌는지 등을 살펴보면 가짜일 가능성이 있는 부분을 발견할 수 있다

[서울=뉴시스] 과기정통부는 총 24억원의 예산을 투입해 악의적 변조 콘텐츠 대응을 위한 딥페이크 탐지 고도화, 생성억제, 유포 방지 플랫폼 개발 사업을 추진한다. 이는 성균관대 주관으로 지난해부터 시작했으며 내년까지 수행할 예정이다. (사진=과기정통부 제공)

보안·AI 기업 탐지 기술 개발 뛰어든 기업들…정부도 내년 20억 R&D 책정

국내 기업 중 일부는 이미 딥페이크 탐지 서비스를 시작했거나, 개발 완료를 앞두고 있다. 대표적으로 AI 전문기업 딥브레인AI는 경찰청과 협력해 딥페이크 범죄 단속을 돕는 딥페이크 탐지 솔루션을 선보였다.

딥브레인AI의 딥페이크 탐지 솔루션은 종합탐지와 음성탐지로 구성된다. 딥페이크로 의심되는 영상을 시스템에 업로드하고 탐지모델·탐지구간·탐지인물 등을 설정하면 진위여부를 즉각 판별한다. 통상 5분에서 10분 정도의 탐지 시간이 소요되며, 딥페이크로 판명될 경우 '가짜(Fake)'로 표시된다.

특히 서양인 위주의 데이터로 제작된 기존 대다수 탐지 모델과 달리 한국인 데이터 100만건, 아시아 계열 인종 데이터 13만건을 포함해 총 520만건의 데이터 학습을 더해 탐지율을 높였다. 딥브레인AI 관계자는 "딥페이크 탐지를 실제 기관 서비스로 구현한 것은 현재 당사가 유일하다"고 말했다.

보안 기업 라온시큐어는 올 하반기에 개인이 쉽게 딥페이크 여부를 체크할 수 있는 탐지 서비스를 자사 개인용 모바일 백신 애플리케이션에 탑재할 계획이다.

라온시큐어가 선보일 딥페이크 탐지 기술은 합성된 얼굴과 정상 얼굴을 각각 학습해 이를 상호 비교해 분류할 수 있도록 AI를 학습시킨다. 정확도를 높이기 위해 여러 모델을 동시에 이용하며, 이미지부터 동영상, 안면 추출, 주파수 계열 변환 등 다양한 기술을 적용해 생성형 AI의 특징을 탐지한다.  회사는 향후 기업이나 기관이 딥페이크 탐지 서비스를 이용할 수 있도록 애플리케이션프로그래밍인터페이스(API) 로도 제공할 예정이다.

라온시큐어 관계자는 "추가적으로 AI가 작성한 콘텐츠를 탐지하는 부분도 연구하고 있으며, 이를 통해 사람이 직접 생성한 데이터인지 여부를 탐지하는 서비스로 확장할 계획"이라고 말했다. 관련 업계 관계자는 "딥페이크 대응기술은 이제 막 개발 중인 단계로, 보다 활발한 투자와 시장 형성이 필요하다"고 말했다.   

한편, 정부도 딥페이크 탐지 및 성범죄물 유통 차단 기술 개발 지원에 적극 나선다는 계획이다. 과학기술정보통신부는 딥페이크 탐지 고도화·생성 억제기술 개발 사업과 자기진화형 딥페이크 탐지기술 개발 사업 등 총 20억원 규모의 내년 예산을 편성했다. 성균관대 주관으로 지난해 총 24억원의 예산을 책정해 진행되는 딥페이크 탐지 고도화·생성 억제기술 개발사업은 적대적 생성 신경망(GAN) 방식의 탐지 기술을 개발하는 프로젝트로, 딥페이크 생성형 AI 기술과 탐지 기술을 연동해 생성형 AI 품질과 탐지 수준을 상호 경쟁적으로 끌어올린다는 목표다.
  
자기진화형 딥페이크 탐지 기술 개발 사업은 오는 2027년까지 총 40억원의 정부 출연금이 투입된다. 디지털 성범죄 피해 예방을 위해 불법 촬영물 이미지 유포를 차단하고 추적할 수 있는 기술 개발 사업도 진행된다.


◎공감언론 뉴시스 [email protected]