딥페이크 파문에…AI기본법 제정 논의 탄력받나

딥페이크 성범죄에 AI기본법 제정 논의 속도 붙을 듯

사업자 워터마크 표시 의무화·모니터링 강화 등 규제 논의

국내 IT업계 "해외 역차별·글로벌 AI 경쟁 뒤처질 것" 우려

[그래픽=뉴시스] [email protected]

[서울=뉴시스]최은수 심지혜 기자 = 딥페이크 기술을 악용한 디지털 성범죄 영상이 심각한 사회적 과제로  대두되면서 인공지능(AI) 기본법(인공지능 산업진흥 및 신뢰기반 조성 등에 관한 법률안) 제정 논의가 탄력을 받을 전망이다.

AI 기본법은 AI 법적 정의와 AI위원회 등 추진체계, 산업 진흥을 위한 3년 주기 국가 AI 기본계획 수립과 안전성 확보 방안 등을 담은 특별법으로, AI 산업 육성과 규제를 위한 뼈대 법안이라 할 수 있다. 정부 주도로 21대 국회에서 발의됐지만 여야 정쟁에 발이 묶여 제대로된 논의도 없이 폐기됐다.

그러다 22대 국회에서 재발의 됐고 국회에서도 법안 마련의 필요성에 공감대가 형성되면서 논의에 속도가 붙는 분위기다.

기존 AI기본법 법률안들이 주로 AI 산업 진흥책에 초점을 맞췄지만, 최근 딥페이크 성범죄 영상물 사태가 일파만파 확대되면서 AI기본법에 안전대책을 강화하는 방안이 집중적으로 논의될 것으로 보인다.

세계 주요국에서는 AI 규제에 초점을 둔 법제가 하나둘 제정되고 있다. 미국 캘리포니아주(州)는 AI로 인해 피해가 발생할 경우 개발사에 책임을 지우는 규제 법안을 추진하고 있다. 유럽연합(EU)은 AI 위험 수준에 따른 차등 규제를 담은 ‘AI법’을 세계 최초로 통과시켰다. 또 EU의 AI 법은 AI 시스템을 쓰는 모든 사람에게 책임을 부과할 것을 명시했다. 일본은 지난 5월 AI 규제 방침 등을 밝혔다.

"생성형 AI가 만든 이미지"…법으로 '워터마크' 표기 의무화

29일 국회 의안정보시스템에 따르면 AI 산업 발전 지원과 함께 AI의 부작용 방지를 위한 내용을 담은 관련 법안 9건이 발의돼 있다. 이 중 6건이 국회 과학기술정보방송통신위원회 법안심사소위원회에 회부했다. 여기에는 국민의힘이 지난 6월 당론으로 제출한 AI 기본법을 비롯해 조인철 더불어민주당 의원이 대표 발의한 '인공지능 산업 육성 및 신뢰 회복에 관한 법률안' 등이 포함돼 있다.

국회에 제출된 법안들 역시 ‘안전한 AI 이용’을 강조하고 있다. AI의 발전이 전산업의 패러다임 전환을 이끌면서 산업 발전에 기여하고 있지만 사회적 문제를 동시에 안고 있는 만큼 법·제도적 장치가 필요하다는 것이다.

국민의힘이 제출한 AI 기본법만 해도 딥페이크 악용 사태를 방지할 수 있는 제동장치 방안이 담겨 있다.  AI 사업자를 대상으로 생성형 AI 서비스에 대한 사전 고지 및 워터마크 표시라는 기본적인 규제사항을 준수할 것을 요구하는 내용이 핵심이다.

조 의원이 발의한 AI기본법은 ▲인공지능 관련 사업과 연구 지원 ▲인공지능집적단지 지정과 지원 ▲인공지능 실증사업 지원 ▲인공지능의 잠재적 위험성 제거 등의 내용을 담고 있다.

법안들과 관련해 국회 수석전문위원은 "악의적인 AI 사용 등을 고려할 때 규제 수준을 강화할 필요가 있다는 의견과 진흥 중심으로 입법할 필요가 있다는 의견이 존재한다”면서도 “우리 국익에 도움이 되면서 AI 산업의 진흥과 규제 사이에 균형을 확보하는 내용으로 법안의 조속한 통과가 필요하다"고 설명했다.

이외에도 김승수 국민의힘 의원은 AI로 만든 가상의 정보라는 표식, ‘워터마크’를 넣도록 하고 이를 지키지 않은 것에 대해 정보통신서비스 제공자가 이를 바로 삭제하는 것을 의무화 하는 정보통신망법 개정안도 발의했다.

정부도 AI 기본법의 연내 제정을 목표로 제도적 지원에 드라이브를 걸고 있다. 과학기술정보통신부는 ‘새로운 디지털 질서 정립 추진계획’을 통해 마련하고 안전한 AI 이용을 위한 논의를 이어가는 중이다.

핵심 과제로 꼽은 내용 중에는 ‘딥페이크를 활용한 가짜뉴스 대응’ 이 포함돼 있다. 관련 법령 정비를 통해 딥페이크 악용을 근절하기 위해 생성부터 유통, 확산까지 전주기에 대응하는 체계를 구축한다는 방침이다. 특히 '워터마크 표시 의무화'를 위해 구체적인 방안을 검토하는 것은 물론 딥페이크 탐지 기술 개발을 추진하고 있다.

이와 함께 AI 생성물 표시제의 조기 도입과 함께 서비스 내에서 자체적으로 모니터링 하도록 하는 등 사업자의 자발적 조치가 강화될 수 있도록 지원할 예정이다.

특히 다음달에는 국가인공지능위원회가 출범, 딥페이크 악용 성범죄와 같은 부작용에 대한 안전책 마련에 중추적 역할을 할 전망이다.

김남철 과기정통부 정보통신정책총괄과장은 "딥페이크와 관련해 워터마크를 표기하도록 하는 조항을 AI기본법에 담으려 하고 있다"고 "(딥페이크가)창작 분야에서 상당한 의미가 있지만 부작용이 심한 부분도 있다"고 설명했다.

워터마크 표시 의무화·유통 책임 묻는 규제안에 업계 우려 커

딥페이크 음란물 확산 사태를 계기로 AI기본법이 규제에 방점을 둘 가능성이 제기되고 있어 산업계는 크게 우려를 표하고 있다.

국내 인터넷 업계 한 관계자는 "딥페이크 콘텐츠가 타인의 권익을 해치는 용도로 사용되는 것에 대한 법적 제재는 공감한다"라면서도 "다만 딥페이크 생성 및 유통 책임을 플랫폼 기업에 책임을 지우는 것이 어떤 영향을 미치는지 충분히 고려해야 한다. 플랫폼이 직접 생성한 것이 아님에도 사업자를 제재하고 처벌하는 조항이 만들어진다면 AI 발전이 저해될 것"이라고 지적했다.

AI기본법 규제안으로 논의되고 있는 워터마크 부착은 업계가 그 필요성에 공감하지만 기술력이나 자금이 부족한 스타트업 및 중소기업의 산업 진출을 막을 수 있다는 우려가 있다. 스타트업 업계 관계자는 "워터마크 부착 기술개발이 쉽지는 않아 스타트업은 시기상조라는 입장"이라며 "기술력을 정부에서 지원해주던지 유예가 필요하다는 입장이다. 일종의 사다리 걷어차기가 될 수 있다"고 했다.

AI와 관련된 제품·서비스를 우선적으로 출시하되 사후 규제하겠다는 우선허용·사후규제도 업계가 우려하는 부분이다. 지난 21대 국회에서 발의된 AI기본법에 포함된 우선허용·사후규제 원칙에 대해 시민단체 등이 반발하며 제동이 걸리자 정부는 이 원칙을 삭제해 법안을 수정했고, 산업계는 강력 반발하고 있다.

텔레그램 못 막는 n번방 방지법…AI기본법도 역차별 우려

딥페이크 음란물이 확산되고 있는 텔레그램, 유튜브 등 해외 사업자에 AI기본법 규제가 적용되기 어려울 경우 국내 사업자와 역차별 문제도 제기된다. 네이버, 카카오 등 국내 포털 사업자들은 AI필터링 기술로 음란물을 필터링하거나 비가시성 워터마크 기술 도입을 검토하는 등 선제적으로 대응해왔다.

인터넷 업계 관계자는 "n번방 방지법이 정작 사태의 통로였던 텔레그램을 규제하지 못하면서 결국 이번 음란물 사태 유통도 막지 못한 것"이라면서 "또 다시 AI법이 규제로 작용이 되서 국내 사업자만 옭아맨다면 AI 속도전에서는 밀릴 수 있다"라고 주장했다.

특히 국내 AI 생태계가 전세계 생성형 AI 경쟁에서 뒤처지고 있는 상황에서 규제에 초점을 맞춘 AI기본법이 통과되면 빅테크와 격차가 더욱 벌어질 수 있다는 우려가 나온다. 

현재 구글, 메타, 마이크로소프트(MS), 오픈AI 등 글로벌 빅테크들은 자본력을 앞세워 LLM(대규모언어모델) 학습에 필요한 인프라 확충에 대거 투자했다. 이어 이미지, 영상 등으로 기술을 고도화하고 서비스 상용화에 속도를 내고 있다. 국내에서도 네이버, 카카오 등이 앞장서 자체 LLM 개발에 집중하고 있지만 해외 빅테크와 직접 경쟁하기는 역부족이라는 평가가 지배적이다.

전문가들은 AI 진흥을 우선시 하되 딥페이크 등 부작용 피해 최소화를 위한 지침 형태로 입법 보완이 필요하다고 본다.

이성엽 고려대 기술경영전문대학원 교수는 "워터마크 부착은 딥페이크 악용 콘텐츠를 사전에 막기 위한 조치로 충분히 논의할만하지만, AI기본법에서 사업자 처벌 내용이 담길 경우 규제에 무게가 실리게 돼 과도한 부분이 있다. 이 부분은 성폭력처벌법이나 정보통신망법을 통해 논의할 부분"이라고 지적했다.

이어 "고위험 AI의 범위, 분류 등 가이드라인을 명확히 해야 기업들도 투자의 불확실성을 제거할 수 있는데 이런 측면에서 이미 늦어졌다"라며 "빠르게 산업 진흥 차원에서 거버넌스를 법으로 정비하지 않으면 우리나라가 IT강국이 되기 어렵다"고 조언했다.


◎공감언론 뉴시스 [email protected], [email protected]