전세계 2번째 AI기본법 제정국…"고영향 AI 가이드라인 시급"

국회 통과 AI기본법, 1년 유예기간 거쳐 2026년 1월 시행

AI R&D·데이터센터 등 육성 지원…"규제 최소화"

고영향 AI는 이용자에 사전에 고지해야…업계 "기준 모호"

[서울=뉴시스] 권창회 기자 = 26일 오후 서울 여의도 국회에서 열린 본회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(AI기본법)이 통과되고 있다. 2024.12.26. [email protected]

[서울=뉴시스]최은수 기자 = 인공지능(AI) 산업을 지원하고 규제할 법적 근거를 담은 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 26일 마침내 국회 본회의 문턱을 넘었다. 1년의 유예기간 동안 어떻게 시행령이 제정될지가 관건이 될 것으로 보인다.

특히 업계는 AI기본법 규제 근거에 주목하고 있다. AI기본법이 시행되면 사람의 생명·신체의 안전에 중대한 영향을 미친다고 판단하면 고영향 AI로 규정짓고 규제 대상에 포함된다. 다만 산업계에서는 고영향 AI에 대한 기준이 모호한 데다가 규제 대상에 포함되는지 판단하기가 어렵다며 정부가 발 빠르게 이를 구체화한 가이드라인을 마련해야 한다고 입을 모은다.

26일 오후 개최된 국회 본회의에서 AI기본법이 통과됐다. 2020년 처음 발의 돼 논의를 거듭한 지 4년 만이다. 12.3 비상계엄 사태 이후 탄핵 정국 혼란 속에서 연내 통과가 불투명하다는 우려가 나왔지만, 여야가 비쟁점 법안 통과에는 뜻을 모으면서 AI기본법을 비롯한 다수 민생법안이 이날 국회 본회의를 통과했다.

AI기본법은 국무회의 의결 및 공포를 거친 후 1년의 경과 기간을 둔 뒤 2026년 1월부터 시행된다. 이로써 우리나라는 유럽연합(EU)에 이어 두 번째로 AI 관련 법안을 제정한 국가가 됐다.
 
AI기본법은 고영향·생성형 AI를 규율하고 규제 근거를 마련했다. 이밖에도 ▲인공지능 기본계획 수립·시행 ▲대통령 소속의 국가인공지능위원회 설치 ▲과학기술정보통신부 장관의 인공지능정책센터 지정 ▲인공지능안전연구소 운영 ▲인공지능기술 관련 표준 제정 사업 추진 ▲인공지능 사업자의 안전성·신뢰성 확보 조치 시행 등에 대한 법적 근거가 담겼다.

고영향 및 생성형 AI 규제 근거 담겨…업계 "정의 모호"

AI기본법은 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI를 고영향 AI로 규율했다. 또 고영향 AI와 생성형 AI는 규제대상으로 포함돼 투명성 확보 의무, 안전성 확보 의무, 사업자 책무를 진다.

구체적으로 고영향 AI 또는 생성형 AI를 이용한 제품 또는 서비스를 제공하는 사업자는 해당 사실을 이용자에게 사전에 고지해야 한다. 생성형 인공지능의 경우 정의 규정과 표시의무 규정을 담아, 생성형 인공지능이 만들어낸 결과물임을 이용자들이 알 수 있도록 했다.

만약 AI사업자가 이런 의무사항을 위반하면 과기정통부 장관은 사실조사 및 시정명령을 할 수 있다. 또 시정명령을 이행하지 않으면 3000만원 이하 과태료를 부과할 수 있다.

한국인공지능법학회장인 최경진 가천대 법학과 교수는 "고영향 AI에 대한 구체적인 예시와 범위를 명확히하는 가이드라인을 빨리 내서 산업계 충격을 최소화해야 한다"고 조언했다.

특히 고영향 AI가 활용되는 영역에 에너지법, 보건의료기본법, 의료기기법 등이 포함되면서 논란이 되고 있다. 산업계 관계자는 "AI를 활용한 자율주행차 사업자나 의료기기를 사용하는 사람들도 규제 대상이 포함되는 것이라 기존 부처에 더해 과기정통부 규제 대상에 포함되는 이중규제 우려가 있다. 전통 산업도 AI를 활용하면 규제 대상이 될 수 있는 가능성이 높아졌다"라고 전했다.

업계가 우려하는 또 다른 조항은 정부가 사실조사에 나설 수 있다는 내용이다. 이 법안의 제40조 2항은 과기정통부 장관이 조사가 필요한 경우 AI 사업자의 사업장에서 장부나 서류, 그 밖의 자료나 물건을 조사하게 할 수 있다고 규정하고 있다. 다만 과기정통부는 사실조사 조항은 AI기본법에만 규정된 것이 아니라 현행법 상 행정조사의 기본법인 '행정조사기본법' 제7조 규정을 반영한 일반적인 내용이라고 설명했다.

학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 AI시스템의 경우 AI 안전성 확보 이행 의무가 주어진다는 점도 업계가 우려하는 대목이다. IT업계 관계자는 "현재는 해외 사업자만 해당이 될 가능성이 크지만 누적된 학습량이 지속 업그레이드될 것이기 때문에 국내 사업자도 해당이 될 것이란 우려가 크다"라고 전했다.

AI산업 육성 지원 마련…유상임 장관 "규제 최소화 원칙"

기대감도 높다. 법 부재로 회색지대였던 국내 AI 산업이 AI기본법 제정으로 AI R&D, 학습용데이터, AI데이터센터, 집적단지 등 AI 기술 및 산업의 진흥 토대가 만들어지고, 기업들의 불확실성이 해소될 수 있어서다.

AI기본법에 따르면 정부는 AI 기술의 개발 활성화와 안전하고 편리한 이용을 위해 국내·외 동향 및 관련 제도의 조사, 기술의 실용화, 연구개발 등의 사업을 지원할 수 있다. 과기정통부 장관은 AI 기술 표준 제정 등의 사업을 추진할 수 있다. AI 관련 전문인력을 양성하고, 해외 전문인력의 확보를 위한 각종 시책을 추진할 수도 있다.

또 과기정통부는 3년마다 AI 기술 및 AI산업의 진흥과 국가경쟁력 강화를 위해 AI 기본계획을 국가인공지능위원회의 심의·의결을 거쳐 수립·시행한다. 기본계획에는 AI 정책의 기본 방향, 전문인력 양성, 신뢰 기반 조성 등에 관한 사항이 포함돼야 한다.

대통령 소속 국가인공지능위원회는 기본계획의 수립, 인공지능 활용 촉진, 고영향 인공지능 규율 등에 관한 사항을 심의·의결해야 한다는 내용도 담겼다.

AI집적단지 지정, AI 데이터센터 시책 추진, AI 융합의 촉진 등으로 산업 발전을 지원하고 AI 전문인력의 확보, 중소기업을 위한 특별지원, 창업 활성화을 통해 AI 인재 양성 및 중소·스타트업 양성을 촉진한다.

염재호 국가 AI위원회 부위원장은 "이번 AI기본법은 여러 하위법령을 만들기 위한 기본 틀이 만들어졌다는 데 의미가 있다"라며 "국가AI위원회 법정기구로 마련되 틀이 갖춰지기 때문에 여러 하위법령을 만들기 위한 기본틀을 만든 것"이라고 평가했다.

최경진 교수는 "지금과 같은 정치적 불안기에는 AI기본법 제정이라도 법적 근거라도 있어야 정책을 안정성 있게 끌고 갈 수 있는 기반이 생긴다"라며 "국회가 AI 예산을 축소시킨만큼 법에 근거해 AI 인프라에 투자할 수 있는 예산을 추경으로 편성하는 게 필요하다"라고 제언했다.                                                                         

유상임 과기정통부 장관은 “AI기본법 제정은 끝이 아닌 시작”이라며, “현장과의 긴밀한 소통을 통해 하위법령 제정과 각종 산업 지원 시책의 수립을 속도감 있게 추진해 나가고, 국가 AI 컴퓨팅 인프라를 조속히 구축하도록 최선의 노력을 기울이겠다”라고 밝혔다.


◎공감언론 뉴시스 [email protected]