700만원짜리 명품 입은 교황님? 딥페이크 판별기 돌려보니….

샌즈랩 '페이크체크' 5초 만에 딥페이크 판별…픽셀 왜곡 탐지 등 기술 적용

1번 분석모델은 100%, 2, 3번 분석모델은 딥페이크 확률 31.9%, 4.7% 도출

모델별로 적용된 탐지 기술 달라…합성 유형에 맞는 모델 적용 시 최적 결과 보여줘

누구나 가입없이 사용 가능…샌즈랩 "테스트버전 이후 지속 고도화"

[그래픽=뉴시스] [email protected]

[서울=뉴시스]송혜리 기자 = 최근 인공지능(AI) 기술을 악용해 사람의 얼굴을 음란물에 합성하는 이른바 '딥페이크 음란물'이 사회적 문제로 확산하자 국내 보안·AI 기업들이 딥페이크 탐지 기술을 무료로 제공하며 대응에 나섰다.

보안기업 샌즈랩은 딥페이크 탐지 솔루션인 '페이크체크'를 무료로 서비스하기로 결정했다. 이를 통해 일반인들도 손쉽게 딥페이크 콘텐츠를 탐지할 수 있는 기회를 제공하고 있다.

또 AI 기업 딥브레인AI는 경찰청에 딥페이크 탐지 기술을 제공한 데 이어 관공서, 학교, 기업 등 다양한 기관에 한 달간 해당 기술을 무료로 지원하겠다고 밝혔다. 이 기술은 향후 서비스형 소프트웨어(SaaS)로 상용화될 예정이다.

딥페이크 기술은 AI를 활용해 사람의 이미지, 영상, 음성을 합성하는 기술로 영화, 광고 등 다양한 분야에서 순기능을 할 것으로 기대됐다. 하지만 최근 들어 악용되면서 심각한 사회적 문제로 대두됐으며, 특히 성적 영상 합성 범죄가 급증하고 있다. 이에 따라 딥페이크 탐지 기술을 활용한 대응이 절실히 요구되고 있다.

발렌시아가 입은 교황 사진 5초만에 '딥페이크' 판별

샌즈랩이 공개한 딥페이크 탐지 서비스 '페이크체크'에 딥페이크 이미지 분석을 맡겨봤다.

페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면, 수 초 내로 위조 진위 여부를 분석해 판별 결과를 알려주도록 설계됐다. 현재는 png, jpg, jpeg 등 2MB 이하의 이미지 파일만 판별이 가능하나, 회사는 이미지 뿐만 아니라 영상의 위·변조 여부 판별까지 지원할 계획을 가지고 있다.

지난해 3월 종교계는 물론 패션계를 발칵 뒤집어 놓은 '하얀패딩점퍼를 입은 교황'사진을 페이크체크에 올려 딥페이크 여부를 분석해봤다.

해당 사진은 한벌달 5000유로(약 740만원)에 달하는 흰색 명품 롱패딩코드를 입은 프란치스코 교황의 모습을 담은 것으로, '미드저니'라는 AI프로그램으로 합성한 딥페이크 이미지다. 이 딥페이크 이미지가 소셜미디어 사이트인 레딩을 통해 확산되자, 사람들은 "교황이 진짜 명품 패딩을 입은 것인줄 알았다"며 놀라움을 금지 못하기도 했다.

페이크체크 분석을 클릭한 뒤 5초쯤 지났을까. 해당 서비스는 분석모델에 따른 세가지 결과표를 보여줬다.

첫번째 분석모델은 딥페이크 100.0%, 정상 0.0%라고 분석했다. 이와 달리 두번째 분석모델은 딥페이크 31.9%, 정상 68.2%라고 답을 냈다. 세번재 분석모델은 딥페이크 4.7%, 정상 95.3% 라고 나왔다.

샌즈랩 측은 모델별로 딥페이크 탐지값이 다른 것은, 해당 이미지의 딥페이크 기술은 모델 1만이 탐지할 수 있는 기술이었기 때문이라고 설명했다.

가령, 교황 딥페이크 이미지에 '픽셀왜곡'이란 특징이 있었다면, 이를 탐지하는 기술이 모델 1에 있었기 때문에 모델 1에서만 딥페이크 100%가 나왔다는 말이다. 이외 모델 2, 3에는 모델 1과는 다른 탐지기술이 적용됐기 때문에 이 다른 기술이 적용된 딥페이크 이미지 판별에서 높은 결과 값을 낸다.

이와 비슷한 시기에 논란이 됐던 '죄수복을 입은 트럼프'사진도 페이크체크에 올려봤다. 첫번째 분석모델은 딥페이크 71.9%, 정상 28.1%로 표기했고 두번째 모델은 딥페이크 89.2%, 정상 10.8%로 더 높은 결과값을 보여줬다.

샌즈랩 관계자는 "페이크체크는 해당 이미지에 딥페이크 요소가 있는 지 확인하는 용도"라고 말했다. 이어 "탐지 모델을 세가지 제공하는 이유는 하나의 모델로만 탐지했을 때 오류가 존재하지 않지만 오류라고 보고하는 '오탐'을 방지하기 위함"이라며 "각각 모델들에는 픽셀왜곡, 얼굴 표정·시선의 어색함 등을 분석하는 여러기술들이 융합돼 있다"고 말했다.

페이크체크로 분석한 발렌시아가를 입은 교황(사진=페이크체크 캡쳐, 파블로 자비에르) *재판매 및 DB 금지

베타테스트 지속 고도화

현재 페이크체크 서비스는 무료로 제공되며, 회원가입이나 인증 등 없이 누구나 이용 가능하다.

또 샌즈랩은 해당 서비스를 자체 구축하고 유지하는데 드는 클라우드 서비스 등의 모든 비용을 사회 공헌 차원에서 직접 부담하기로 했다. 당장의 서비스 수익보다 딥페이크로 인한 2·3차 피해 확산 방지가 우선이라는 판단에서다.

샌즈랩 관계자는 "이번 서비스 개시에는 우리 기술로 사회에 보탬이 되겠다는 직원들의 의지가 강하게 반영됐다"고 말했다.       

이번 서비스는 '개발 완료'버전이 아닌 일종의 '오픈 테스트 버전' 형태로 출시했기 때문에 지속적인 의견 수렴과 업데이트를 통해 탐지 대상 확대나 탐지율 향상을 해나갈 것이란 게 회사 측 설명이다.

샌즈랩 관계자는 "세가지 모델에 적용된 기술들은 향후 더 정확하게 탐지해내는 기술들의 조합으로 변경될 것"이라고 말했다.


◎공감언론 뉴시스 [email protected]