'금융분야 AI 가이드라인' 연내 시행… '3중 내부통제장치' 마련

[서울=뉴시스] 정옥주 기자 = 보험 음성봇, 인공지능(AI) 은행원 등 AI 기반 금융서비스를 활성화하고, 이에 대한 신뢰도를 높이기 위한 '금융분야 AI 가이드라인'이 연내 시행된다.

금융위원회는 8일 도규상 부위원장 주재로 제1차 '디지털금융협의회 데이터 분과회의'를 열고, AI 기반 금융서비스 개발을 위한 '금융분야 AI 가이드라인'을 발표했다.

가이드라인은 AI 서비스의 책임있는 운영을 위해 ▲AI 윤리 원칙 마련 ▲AI 조직 구성 ▲위험관리정책 수립 등 '3중 내부 통제장치'를 마련토록 했다. AI를 금융거래 및 대고객서비스에 적용한 전 금융업권이 적용 대상이다. 신용평가회사의 개인신용평점 개발과 같이 비금융업이라도 AI 활용 결과가 금융거래에 미치는 영향이 큰 경우에도 적용된다.

AI윤리는 회사별 가치, AI 활용 상황 등에 따라 AI 서비스 개발·운영시 준수해야 할 원칙·기준을 수립해야 한다. AI조직은 AI의 잠재적 위험을 평가·관리할 구성원의 역할·책임·권한을 서비스 전 단계(기획·설계·운영·모니터링)에 걸쳐 구체적으로 정의해야 한다.

특히 AI 서비스 자체 평가·관리정책을 마련하고, 개인권리에 중대한 위험을 초래할 수 있는 서비스에는 강화된 위험관리를 적용해야 한다. 예컨데 신용평가, 대출심사 등 AI 의사결정이 개인의 금융거래계약의 체결·유지에 중대한 영향을 가져오는 경우, 이에 대한 내부통제·승인절차 등을 마련하고 별도의 책임자를 지정해야 한다.

AI가 사람의 의사결정과정을 대체하는 경우, 필요시 사람에 따른 AI시스템 감독·통제가 가능하도록 시스템을 설계해야 한다. 또 AI시스템 성능을 주기적으로 모니터링하고, AI 개발 환경의 보안취약성 점검 시스템 마련 등 위험완화 조치를 시행해야 한다.

가이드라인은 또 AI 개발·학습단계에서 질 좋은 데이터가 활용되도록 하고, 개인신용정보 오·남용이 없도록 불필요한 개인신용정보 처리를 최소화하는 시스템을 마련하는 내용도 담았다. 사생활정보 등 민감정보를 활용하고자 하는 경우, 비식별 조치 등 안전한 정보 활용을 위한 충분한 조치를 거쳐야 한다.

이밖에 AI 활용결과 불합리한 소비자 차별 등이 나타나지 않도록 서비스 특성별로 위험요인을 통제하고, 금융소비자가 AI 서비스에 대한 충분한 설명을 듣고 자신의 권리를 충분히 행사할 수 있도록 했다.

특히 AI를 통해 신용평가, 보험가입 등 금융거래·계약체결 여부 결정 등을 한 경우 '설명요구·정정요구권'이 있음을 고지해야 한다. 소비자는 AI 평가결과 및 주요 평가기준, 사용된 기초정보에 대한 설명을 들을 수 있고, AI 평가에 활용된 자신에 대한 정보의 정정·삭제요구, 결과 재산출 등을 요구할 수 있다.

금융당국은 충분한 준비기간을 거쳐 연내 시행할 계획이다. 또 금융업권협회 등을 중심으로 실무지침 제정반을 구성·운영해 3분기 중 실무지침을 마련한다. 금융권의 AI 활용을 촉진·지원하기 위한 AI 인프라 정비 방안도 워킹 그룹 논의 등을 거쳐 3분기 중 발표할 계획이다.

도규상 부위원장은 "앞으로는 AI와 같은 기술 혁신이 금융의 질적변화를 주도할 것으로 예상된다"며 "AI를 통해 비정형·비금융 데이터 활용이 보다 활성화되면서 금융소외계층을 포용할 수 있게 되고, 데이터 처리의 속도와 정확성이 제고되면서 금융거래 비용은 낮아지고, 금융 중개기능의 효율성은 높아질 것"이라고 전망했다.

이어 "우리나라에서도 AI가 보험상품을 설명하는 보험 음성봇, 계좌발급이나 계좌이체를 도와주는 AI은행원이 등장했고, 로보어드바이저 투자금액은 이미 1조원이 넘었다"며 "AI기술의 비약적 발전속도,가명정보 등 빅데이터 활용을 가능하게 하는 데이터 법제의 개정 등을 고려할 때,AI는 더 이상 지체할 수 없는 금융의 미래"라고 덧붙였다.

다만 그는 "AI 기술을 전면적으로 도입하기에는 아직 넘어야 할 과제들이 많다"며 "올 초 AI 챗봇 '이루다' 논란에서 보듯 AI로 인한 차별 발생 가능성 등에 대한 우려가 있고, 안전성에 대한 사회적 신뢰도 충분하지 못한 상황"이라고 지적했다.

그러면서 "AI 가이드라인은 이러한 문제 인식을 바탕으로 신뢰를 근간으로 하는 금융 서비스가 AI 기술을 접목함에 있어 지켜야할 최소한의 방향성을 제시하고자 했다"며 "가이드라인은 ▲금융산업의 책임성 강조 ▲AI 학습용 데이터의 정확성과 안전성 획보 ▲AI 금융서비스의 투명성·공정성 담보 ▲금융소비자 권리의 엄격한 보장 등 4가지 핵심가치를 구현하고자 했다"고 강조했다.


◎공감언론 뉴시스 [email protected]