정부, 불법 유통 개인정보 AI로 찾아 낸다…피싱·딥페이크 범죄 줄어들까

개인정보위, 개인정보 노출·불법유통 대응 강화방안 발표

인터넷상 노출된 개인정보 및 불법유통 게시물 탐지 고도화, 삭제기간 단축

[서울=뉴시스] 정병혁 기자 = 고학수 개인정보보호위원회 위원장이 23일 오후 서울 종로구 정부서울청사에서 열린 2024년 제17회 개인정보보호위원회 전체회의에서 의사봉을 두드리고 있다.(사진=개인정보보호위원회 제공) 2024.10.23. [email protected] *재판매 및 DB 금지

[서울=뉴시스]송혜리 기자 = 정부가 불법유통된 개인정보 탐지에 인공지능(AI) 기술을 활용한다. 텍스트(문자)뿐만 아니라 이미지 형태의 개인정보도 탐지 할 수 있도록 시스템을 고도화해, 명의도용·스팸·스미싱 범죄는 물론 딥페이크 범죄 확산에 대응할 방침이다.

정부는 이와 동시에 포털·소셜네트워크(SNS)기업과 핫라인을 강화해 불법유통 게시물 삭제에 걸리는 기간을 평균 24.8일에서 18.9일까지 줄여나갈 계획이다.

 24일 개인정보보호위원회는 이같은 내용을 담은 '개인정보 노출·불법유통 대응 강화방안'을 발표했다.

그간 개인정보 유출 사고 발생이 명의도용·스팸·스미싱으로 이어져, 각종 범죄·불법행위 등에 악용될 수 있다는 사회적 우려가 컸다. 이번 방안은 온라인상 개인정보 노출·불법유통을 최소화함으로써 2차 피해를 예방하기 위해 마련했다. 

AI로 텍스트 뿐만 아니라 이미지까지 탐지…딥페이크 범죄 대응

개인정보위는 먼저 노출된 개인정보 탐지에 AI를 접목한다.

470만여개 국내·외 웹사이트에 노출된 개인정보를 효과적으로 탐지할 수 있는 검색어를 개발해 적용하고, 현재 정형화된 정보(텍스트) 중심의 탐지에서 주민등록번호·전화번호 등이 포함된 이미지 정보까지로 탐지대상을 확대한다.

이를 바탕으로 향후에는 딥페이크 확산 등에 대응해 얼굴 등 영상에 포함된 개인정보도 탐지·삭제할 수 있도록 탐지 시스템을 단계적으로 고도화해 나갈 예정이다.

아울러 노출 게시물의 신속 차단을 위해서 국내·외 주요 포털과 소셜네트워크서비스(SNS) 15개 사업체로 구성된 '핫라인' 협력체계를 적극적으로 활용할 계획이다.

사업체 특성별 대응 조치를 체계화하고 탐지 분류모델을 고도화해, 불법유통 게시물 삭제에 걸리는 기간을 18.9일까지 단계적으로 단축해나갈 예정이다.

또 AI 학습과정에서 온라인상 노출된 개인정보가 제외되도록 개인정보위가 확보한 노출데이터를 오픈AI·구글·메타 등과 정기적으로 공유한다.

경찰과 공조 강화해 불법 매매 단속…실태 점검도 강화

개인정보 불법매매를 근절하기 위해서 경찰청과 공조도 강화한다.

개인정보위·한국인터넷진흥원(KISA)은 불법거래 게시물을 프로파일링해 수사과정에 필요한 맞춤형 데이터를 생성제공하고, 수사기관은 검거에 활용함으로써 상습매매자에 대해 신속 대응할 예정이다.

한편으론 실태점검도 강화한다. 지난 9월 공공기관에 대한 안전조치 의무 강화에 따라 관리수준 평가결과가 미흡한 취약 공공기관을 집중 점검하고, 공공기관의 법 위반행위 공표 기준을 확대한다.

또 신산업·신기술 등 산업사회의 변화를 반영해 중장기 조사 로드맵을 수립하고, 내년에 '디지털 포렌식랩'을 구축해 유출사고의 디지털 증거(로그, 메타데이터 등)를 신속히 확보할 계획이다.

개인정보위는 "AI·데이터 경제 시대를 맞아, 데이터의 핵심을 이루는 개인정보의 노출과 불법유통 등 악용 방지를 통해 국민 신뢰 기반의 안전한 디지털 이용환경이 조성될 수 있도록 최선을 다할 방침"이라고 밝혔다.


◎공감언론 뉴시스 [email protected]