"안전한 AI 어떻게 만들까"…정부 'AI 윤리' 확립에 국민 의견 듣는다

과기정통부, KISDI와 'AI 윤리·신뢰성 포럼 공개세미나' 개최

주요국 AI 법안 진행현황 등 소개…AI 윤리 전문가 의견도 수렴

[서울=뉴시스]윤현성 기자 = 정부가 안전한 인공지능(AI) 기술 확립을 위한 공론의 장을 마련했다. AI 윤리와 관련해 산·학·연 전문가들 뿐만 아니라 국민의 의견도 적극 반영한다는 방침이다.

과학기술정보통신부와 정보통신정책연구원(KISDI)은 28일 서울 중구 포스트타워에서 '2024 인공지능 윤리·신뢰성 포럼 공개세미나'를 개최했다.

이번 공개세미나는 2024년 AI 서울 정상회의를 마무리하고, 2025년 프랑스 행동 정상회의를 준비하는 차원에서 마련됐다. AI 윤리·신뢰성 포럼을 돌아보고 AI 관련 글로벌 논의, AI 윤리 쟁점에 대한 의견수렴 및 대응 방안을 모색한다는 계획이다.

먼저 이상욱 포럼위원장은 '제3기 AI 윤리·신뢰성 포럼의 의의와 과제 : 2025 AI 행동 정상회의를 준비하며'를 주제로 이날 행사 기조강연을 진행했다. 이 위원장은 AI 윤리 거버넌스 글로벌 실천 방향, 국제 AI 거버넌스들의 논의와 관련 배경을 살펴보고, 혁신적 AI 기술을 통한 새로운 도약과 공정하고 적절한 대응 방안 마련의 중요성을 강조했다.

이어서 박성필 KAIST 문술미래전략대학원 원장은 '균형 잡힌 AI 전환 프레임워크 설계 : 윤리적 및 법적 관점'을 주제로 강연을 진행했다. 박 원장은 AI로의 전환 현황과 이에 대한 상반된 입장을 짚어보고, 주요국의 AI 법안 진행현황을 소개했다. 그는 특히 AI의 윤리 이슈에 대응하는 원칙과 가치를 바탕으로 한 'AI 전환' 프레임워크 설계의 필요성을 제시했다.

이날 세미나 제1세션은 문정욱 KISDI 실장이 '2024년 AI 윤리영향평가 : AI 영상합성서비스'를 주제로 진행했다. 문 실장은 AI 윤리영향평가 개요·진행 경과·주요 결과에 대해 설명하고 정부·기업·개인의 역할과 노력에 대해 논의했다. 특히 문 실장은 향후 AI 윤리영향평가 과정 및 결과에 대한 민주성과 타당성 확보를 위해 다면적 평가를 시행하겠다고 밝혔다.

제2세션에서는 이현경 KISDI 부연구위원이 'AI의 윤리적 개발·활용 확산을 위한 실무자용 AI 윤리교육 콘텐츠 개발'을 주제로 발표를 진행했다.

각 섹션 발제에 이어 패널토론도 이어졌으며 발표된 정책에 대해 다양한 분야의 전문가들의 의견수렴 및 향후 개선 방향에 대한 논의가 이뤄졌다.

송상훈 과기정통부 정보통신정책실장은 "9월 '국가AI위원회' 출범 및 안전·신뢰분과 설치, 첨단AI의 안전성 확보방안을 연구하는 AI안전연구소 출범 등을 통해 국가차원의 체계적인 AI신뢰·안전정책 거버넌스를 구축·운영할 계획"이라며 "AI혁신과 안전의 조화로운 발전을 뒷받침하기 위해 AI안전연구소의 운영근거와 AI윤리·신뢰성 정책의 추진근거를 포함한 'AI기본법'도 국회 과방위를 통과했다. 정부는 앞으로도 안전하고 신뢰할 수 있는 AI가 확산될 수 있도록 정책적으로 적극 뒷받침하겠다"고 말했다.


◎공감언론 뉴시스 [email protected]