"韓, 글로벌 AI 규범 정립 주도"…민간 협의체 출범

올해 5월 국내서 英과 2차 AI 안전성 정상회의 개최

과기정통부, 국내 AI 산·학·연과 준비…‘AI 안전 연구소 설립 추진

[서울=뉴시스] 박윤규 과학기술정보통신부 2차관이 2일 오전 서울 용산구 아모레퍼시픽에서 열린 '인공지능(AI) 일상화 연속 현장간담회(뷰티테크)'에 참석해 발언하고 있다. (사진=과학기술정보통신부 제공) 2024.02.02. [email protected] *재판매 및 DB 금지

[서울=뉴시스] 심지혜 기자 = 일상 속 활용이 늘어나는 인공지능(AI)의 잠재적 위험성 우려가 커지는 가운데 정부가 안정성 확보 방안 마련을 위해 전문가들과 머리를 맞댔다.

과학기술정보통신부는 'AI 글로벌 규범 자문단' 제1차 회의를 서울 스페이스에이드 CBD에서 개최했다고 16일 밝혔다.

자문단은 올해 5월 우리나라에서 개최할 'AI 안전성 정상회의'를 국내 AI 전문가와 함께 체계적으로 준비하고, 정상회의의 주요 논의와 합의점을 모색하는 과정에서 우리나라 산업계·학계의 목소리를 반영하기 위해 구성한 산·학·연 협의체다.

생성형 AI, 온디바이스 AI 등 AI가 기술적 발전을 거듭하면서 일상생활과 사회·산업 전반으로 확산되고 있으며, 거짓정보, 딥페이크, 사이버 보안 위협 등 고도화된 AI가 초래할 수 있는 잠재적 위험성에 대한 우려의 목소리도 커져가고 있다.

UN 고위급 자문기구, G7 AI 히로시마 프로세스, 미국 AI 행정명령, 유럽연합(EU) AI 법 등 국제사회와 주요국에서 AI 규범을 정립하는 노력이 본격화되고 있다.

우리나라는 디지털 기술·산업 역량을 인정받아 아시아 권역의 AI 강국으로서 차기 정상회의를 수임하게 됐다. 이에 전 세계적으로 AI가 안전하게 확산될 수 있도록 국가, 기업의 역할에 대한 구체적인 논의를 주도해 나갈 계획이다.

이날 자문단 회의에는 박윤규 과기정통부 차관, 전문가 20여 명이 함께 모여 제1차 정상회의 결과를 공유하고 제2차 정상회의의 주요 목표와 세부 내용에 대해 논의했다.

참석자들은 AI 안전성 평가, 기업이 취해야 할 조치, 고성능 AI의 사회적 위험성 등에 대해 심도 있게 다뤘다.

국내 AI 산업 환경에서 실현할 수 있는 글로벌 차원의 AI 안전성 확보 및 AI 막대한 전력소요·탄소배출 등에 대응하기 위한 에너지 안전성 확보 등 지속가능한 AI 발전을 위한 제안에 대해서도 의견을 나눴다.

과기정통부는 자문단과 대면·영상회의를 수시로 열고 정상회의 목표, 의제 등을 설정·구체화하고 우리나라 AI 산업 육성을 뒷받침할 수 있는 방향으로 공동 개최국인 영국, 정상회의 참석 국가들과 협의해 나갈 계획이다.

박윤규 과기정통부 차관은 "이번 'AI 안전성 정상회의' 개최는 우리나라가 글로벌 AI 규범 및 거버넌스 정립에 기여하고 전 세계와 함께 AI 혜택을 안전하게 누릴 수 있는 계기가 될 것"이라고 강조했다.

이어 "기존 방향성 중심의 AI 이니셔티브에서 나아가 구체적인 AI 안전성 확보를 위한 글로벌 논의를 주도하고 이 과정에서 우리나라 산업계･학계의 의견을 적극 반영하여 국내 AI 산업 발전을 도모하겠다"고 말했다.
 
한편, 제1차 정상회의는 지난해 11월 영국 블레츨리 파크에서 열렸다. 회의에서는 주요국 정상과 각료급 인사, 빅테크 CEO 및 글로벌 석학 등이 함께 AI의 위험성을 최소화하기 위한 정부･민간의 역할과 공조 방안을 논의했다.

이후 요수아 벤지오 교수가 담당하는‘과학현황보고서’ 작성에 우리나라 이경무 교수(서울대), 오혜연 교수(카이스트)가 참여하고 있다. 과기정통부는 영국·미국·일본 등 주요국과 마찬가지로 AI의 안전성 연구와 평가를 담당하는 ‘AI 안전 연구소’ 설립을 추진할 계획이다.


◎공감언론 뉴시스 [email protected]