"악용될까 무서워 SNS 해지했어요"…딥페이크 범죄 맞춤형 법안 나와야

한국인터넷진흥원(KISA) '인공지능(AI) 보안 세미나'에서 주제 발표

딥페이크의 유형에 따른 입법·강력하되 신속한 절차로 형사처벌 등 강조

이근우 법무법인 화우 변호사가 서울 용산 로얄파크컨벤션에서 열린 한국인터넷진흥원(KISA) '인공지능(AI) 보안 세미나'에서 발표하고 있다(사진=송혜리 기자) *재판매 및 DB 금지

[서울=뉴시스]송혜리 기자 = "딥페이크 음란물은 사람의 인생을 송두리째 망가뜨립니다. 가해자가 무서워서 피해자가 정당한 사회 활동을 피해야 하는 이런 상황들이 벌어지지 않도록, 강력하되 신속한 절차로 형사처벌을 할 수 있는 맞춤형 법안이 필요합니다."

이근우 법무법인 화우 변호사는 서울 용산 로얄파크컨벤션에서 열린 한국인터넷진흥원(KISA) '인공지능(AI) 보안 세미나'에서 이같이 설명했다.

이날 세미나는 AI와 관련된 다양한 사이버 위협 사례 공유와 대응 방안을 논의하기 위한 자리로, 이근우 변호사는 'AI 기술 악용 중 딥페이크 규제에 대한 대응'을 주제로 발표했다. 이근우 변호사는 과학기술정보통신부 AI법제정비단, AI전략최고위협의회 법제도 분과에 참여하고 있다.

딥페이크에 속아 340억 송금하고 선거에서 경쟁자 지지하는 가짜 영상 등장

딥페이크란 AI를 이용해 사람의 이미지·영상·음성을 합성하는 기술이다.

최근 일반 청소년들의 사진을 음란물과 합성하는 이른바 성적영상합성 범죄물이 급속히 확산되면서 사회적 논란이 됐다. 특히 나이와 성별에 상관없이 누구나 범행의 대상이 될 수 있으며, 범죄자들이 경쟁적으로 대상을 찾고 있어 심각한 사회적 우려를 낳고 있다.

이근우 변호사는 이번 국내 사고 이전에도, 딥페이크를 악용한 범죄가 논란이 된 바 있다고 지적했다. 

이 변호사는 "지난 2월, 홍콩에서 딥페이크·딥보이스 기술로 재현된 화상회의에 속아 340억원을 송금한 사례가 발생했다"며 "또 지난해 미 대선에서 민주당 소속 힐러리 클린턴 전 미국 국무장관이 공화당 대선 후보를 지지하는 영상이 등장하기도 했다"고 말했다.

뿐만 아니라 세계적인 팝스타 테일러 스위프트 얼굴에 음란물을 합성한 딥페이크 이미지가 사회관계망서비스(SNS) 엑스(X, 구 트위터)에서 확산돼 미국사회 뿐만 아니라 전 세계가 발칵 뒤집혔던 사건도 있었다.

생성형AI가 작성한 콘텐츠 표기는 전세계 동향…국내서도 처벌가능하도록 법안 개정 추진

이 때문에 세계 각국은 딥페이크 악용 방지 법제 마련에 속도를 내고 있다.

이근우 변호사는 "미국에서는 매년 많은 딥페이크 규제법안이 의회에 제출되고 있다"면서 "이중 '딥페이크 어카운터빌리티 액트(Deepfakes Accountability Act)' 법안은 딥페이크로 제작된 경우 이를 식별할 수 있도록 공개하도록하고 있다"고 말했다.

또 미국에선 딥페이크로 음란물을 제작하는 것과 관련해 지난 1월 '디파이넌스 액트(DEFIANCE Act)'법안이 발의된 상태다. 이 변호사는 "해당 법안이 통과될 경우, 딥페이크 음란물을 연방 차원에서 범죄화하고, 피해자들이 음란물 제작 및 유포 관련자들을 상대로 민사소송을 제기할 수 있게 된다"고 말했다.

국내도 입법활동이 활발하게 진행하고 있다. 지난 21대에 이어 이번 22대 국회에서도 AI 신뢰확보, AI 역기능 방지를 위한 법률안이 상정된 상태다.

현재 발의된 AI에 관한 법안들에는 공통적으로 생성형AI를 이용해 제품 또는 서비스 제공하려면, 해당 제품과 서비스가 생성형AI에 기반해 운용되거나 이에 의해 생성됐다는 사실을 표시하도록 의무를 부과하고 있다.  

또 정보통신망법 개정안에선 동의 없이 얼굴·신체 또는 음성 촬영하고 이를 편집·합성·가공한 정보의 유통을 금지하고 있으며, 딥페이크 가해자에 대한 형사처벌(7년 이하의 징역, 10년 이하의 자격정지 또는 7000만원 이하의 벌금)등의 내용이 담겼다.

현행법에서 찾아보면, 딥페이크 음란물 제작 관련해 규제는 성폭력범죄의처벌 등에 관한 특례법이 해당 내용을 담고 있다.

다만 이 법에선 '반포할 목적으로 대상자의 의사와 관계없이 사진을 촬영하고, 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공하면 처벌받는다'고 언급하고 있어 개인 소지 목적의 딥페이크 음란물 제작행위는 처벌 대상이 아니다.

이 변호사는 "반포 목적이 없이 제3자가 제작한 음란물을 유포한 행위에 대해서는 처벌공백이 있으며, 게다가 반포 목적이라는 것도 입증이 쉽지 않다"고 말했다.

가해자가 무서워서 피해자가 숨어선 안돼… 강력한 처벌 뒤따라야

이근우 변호사는 "입법적 조치와 현실적 조치가 조화돼야 하는 시점"이라고 말했다.

이 변호사는 ▲인공지능 일반법, 정보통신망법, 성폭력특별법 등 딥페이크의 유형에 따른 입법 필요 ▲피해자가 가해자를 무서워하고 회피하는 시스템 개선 ▲신속한 콘텐츠 파악 및 차단 등 시정 조치, 강력하되 신속한 절차로 형사처벌 등이 필요한 시점이라고 제언했다.

이근우 변호사는 "딥페이크 범죄 유형에 따라 맞춤형 입법이 필요하다"면서 "동시에 가해자를 엄격하고 신속하게 또 강력한 형사처벌이 가능하도록 하는 형태로 입법이 필요할 것"이라고 말했다.


◎공감언론 뉴시스 [email protected]