"얼굴변화·혈류 불일치로 가짜영상 잡는다"…딥페이크 탐지기술 어디까지 왔나

라온시큐어, 샌즈랩 등 보안업계 대응기술 개발 박차

전문가 "아직 국내는 걸음마 단계…시장 형성 투자 늘어나야"

정부도 총 64억 규모 탐지기술 R&D 확대

(사진=챗GPT) *재판매 및 DB 금지

[서울=뉴시스]송혜리 심지혜 기자 = 최근 텔레그램을 통한 딥페이크 디지털 성범죄가 급속히 확산하면서 딥페이크 탐지·대응 기술에 대한 관심이 뜨겁게 달아오르고 있다. 딥페이크 성적합성물이 사회적 이슈로 대두되자 라온시큐어, 샌즈랩 등 딥페이크 관련 대응 기술을 개발하는 정보보안 기업들의 주가가 급등세를 연출하기도 했다.

보안 업계 관계자는 "인공지능(AI) 기술 역기능인 딥페이크 이슈가 크게 대두되면서 대응기술을 개발하거나 보유 중인 보안 기업들에 대한 기대감이 반영된 것 같다"며 "다만, 딥페이크 대응기술은 이제 막 개발 중인 단계로, 보다 활발한 투자와 시장 형성이 필요하다"고 말했다. 정부도 딥페이브 성범죄 예방을 위해 내년 20억원 규모의 예산을 편성하는 등 관련 R&D에 박차를 가하겠다는 입장이다.

딥페이크란 AI 기술을 이용해 사람의 이미지·영상·음성을 합성하는 기술로, 최근 일반 청소년들의 사진을 음란물과 합성하는 이른바 성적영상합성 범죄물이 급속히 확산되면서 사회적 논란이 돼 왔다.

현재 관련 업계가 개발 중인 딥페이크 대응 기술은 주로 영상 합성물을 탐지, 가짜 영상을 추적·삭제할 수 있는 기술이다. AI 기술로 얼굴 변화를 감지하거나, 음성과 입 모양의 부자연스러운 부분을 분석한다. 또 혈류나 세부적인 피부 특징을 찾아내거나 AI 이미지 합성 툴 자체를 감지하는 방법 등 다양하다.

대표적으로 안면인식을 통한 이미지·영상 분석 기술로는 눈 깜박임 비정상 탐지, 얼굴 움직임 분석 등으로 딥페이크 활용 여부를 확인 할 수 있다.

가령 실제 인간은 자연스럽게 눈을 깜박이지만, 많은 딥페이크 영상에서는 눈 깜박임이 비정상적이거나 거의 없을 수 있다. 이를 통해 딥페이크를 식별할 수 있다. 또 딥페이크는 얼굴의 미세한 움직임, 표정 변화, 입술과 음성의 동기화 등을 완벽하게 재현하지 못할 때가 있다. 이러한 비정상적인 움직임을 탐지하는 방법이 사용된다.

또 다른 방법으로는 합성된 얼굴 이미지와 실제 얼굴 이미지를 학습한 CNN(Convolutional Neural Network)를 사용해 딥페이크를 탐지하거나, 딥페이크 생성에 사용된 AI 모델(생성적 적대 신경망, GAN)'의 흔적을 탐지하는 알고리즘을 개발해 활용할 수 있다. 이밖에 딥페이크 영상이나 이미지의 메타데이터에서 비정상적인 정보를 탐지하는 방법도 있다. 예를 들어, 파일 생성 시간, 소프트웨어 사용 기록 등에서 의심스러운 점을 발견할 수 있다.

라온시큐어, 딥페이크 탐지 위한 안면인식 기술 개발 中…샌즈랩도 정부과제 참여

라온시큐어는 기존 모바일 보안 애플리케이션에 자체 개발한 '딥페이크 감지 안면인식 기술'과 'AI가 생성한 콘텐츠 탐지 기술'을 올 하반기 탑재할 예정이다.

라온시큐어는 금융기관이나 공공기관, 민간 기업들에게 다양한 보안 솔루션을 제공하는 전문기업이다. 휴대폰을 보호하는 백신 프로그램이나, 안전한 비밀번호 입력을 위한 가상 키보드, 그리고 암호 인증과 전자서명 같은 기능들을 제공한다. 또 컴퓨터를 보호하기 위한 키보드 보안, 웹 보안, 백신, 방화벽 같은 솔루션도 제공한다.

라온시큐어가 선보이게 될 딥페이크 탐지 기술은 플랫폼에서 디페이크 영상을 자동으로 찾고 걸려 내는 서비스다. 이를 위해 회사측은 합성된 얼굴과 정상 얼굴을 각각 학습해 이를 상호 비교해 분류할 수 있도록 AI를 학습 시키고 있다. 특히 탐지 알고리즘의 정확도를 높이기 위해 이미지부터 동영상, 안면 추출, 주파수 계열 변환 등 다양한 변수들까지 측정하는 방식이 될 것이라는 게 회사측 설명이다.

라온시큐어는 AI  기술 전문가들로 구성된 AI 연구개발팀을 자체 운영하는 한편, 올해 초부터 정부과제로 서울대와 함께 동형암호 기반의 생체정보 보호 기술을 공동 연구해 왔다.

라온시큐어 관계자는 "향후 기업이나 기관이 딥페이크 탐지 서비스를 이용할 수 있도록 애플리케이션프로그래밍인터페이스(API) 형태로도 제공할 예정"이라며 "추가적으로 AI가 작성한 콘텐츠를 탐지하는 부분도 연구하고 있으며, 이를 통해 사람이 직접 생성한 데이터인지 여부를 탐지하는 서비스로 확장할 계획"이라고 말했다.

사이버 위협 탐지 전문기업인 샌즈랩은 지난해 4월부터 정부 생성형 AI 역기능 억제 기술 개발 공동 사업에 참여하고 있다. 이 프로젝트에는 LG유플러스, 포티투마루, 로그프레소, 한국과학기술원(KAIST) 등이 함께 한다. 딥페이크, 보이스피싱, 음성 합성 등 AI 역기능 방지 기술과 사이버보안 특화 온프레미스(내부구축)용 소형언어모델(sLLM)을 개발하는 과제다.

샌즈랩은 딥페이크 영상과 이미지를 보다 정확하고 정밀하게 찾아내기 위한 기술 개발에 집중하고 있다. 이를 위해 심층 학습 기반의 알고리즘과 멀티모달 데이터 분석 기법을 개발 중이다. 특히 실시간 비디오 스트리밍이나 소셜 미디어에서 딥페이크 영상을 쉽게 걸러 낼 수 있도록 탐지 모델을 가볍게 만들면서도 정확도를 높이는데 주력한다는 방침이다.

정부 총 64억원 투입…딥페이크 탐지 및 불법촬영물 유포 차단 기술 등 개발

정부도 딥페이크 탐지 및 성범죄물 유통 차단 기술 개발 지원에 팔을 걷어붙였다. 과학기술정보통신부도 딥페이크 탐지 고도화·생성 억제기술 개발사업과 자기진화형 딥페이크 탐지기술 개발 사업 등 총 20억원 규모의 내년 예산을 편성했다. 성균관대 주관으로 지난해 총 24억원의 예산을 책정해 진행되는 딥페이크 탐지 고도화·생성 억제기술 개발사업은 적대적 생성 신경망(GAN) 방식의 탐지 기술을 개발하는 프로젝트로, 딥페이크 생성형 AI 기술과 탐지 기술을 연동해 생성형 AI 품질과 탐지 수준을 상호 경쟁적으로 끌어올린다는 목표다.

자기진화형 딥페이크 탐지 기술 개발 사업은 오는 2027년까지 총 40억원의 정부 출연금이 투입된다. 디지털 성범죄 피해 예방을 위해 불법 촬영물 이미지 유포를 차단하고 추적할 수 있는 기술 개발사업도 병행한다. 이와 함께 과기부는 여성가족부와 함께 딥페이크 기반 성범죄 예방을 위한 정책 연구에도 착수했다.

28일 딥페이크 피해자 지원방안 긴급 간담회에서 강도현 과기정통부 차관은 "디지털 성범죄는 피해자의 삶을 송두리째 파괴하고 사회질서를 위협하는 용서할 수 없는 범죄"라며 "과기정통부는 모두를 위한 안전한 디지털 사회를 구현해야 하는 임무가 있는 만큼, 여가부와 협력하여 딥페이크 성범죄를 예방하고 피해자를 빠르게 지원할 수 있는 기술개발, 새로운 사업 기획 등을 적극 지원하겠다"고 강조했다.


◎공감언론 뉴시스 [email protected], [email protected]