"분명 우리 딸 목소리인데"…실제와 구분 어려운 AI의 공격

[2024 사이버 위협 트렌드 3選 ①] 사이버 공격자들의 생성형 AI 활용 증가

악성 코드 작성하고 피싱메일 고도화…가짜뉴스 양산해 사회혼란 조장

AI 디지털 리터러시 역량 키워야…팩트체크 습관화·책임감 갖고 정보 공유해야

[그래픽=뉴시스] 재배포 및 DB금지.

[서울=뉴시스]송혜리 기자 = #지난해 5월 미국 국방부(펜타곤) 건물 근처에서 폭발이 일어난 것처럼 보이는 사진이 소셜미디어를 통해 퍼졌다. 논란이 일자 미국 국방부는 조작된 사진이라며 진화에 나섰고, 버지니아주 경찰·소방당국도 화재가 발생한 적 없다고 해명했다.

그럼에도 불구하고 해당 사진과 소문은 곳곳으로 퍼졌다. 인도의 한 방송사는 이 사진에 낚여 '펜타곤 근처에서 폭발이 일어났다'고 보도했다가 사과하기도 했다.

주식시장도 출렁였다. CNBC는 이날 미 증시 개장 직후 가짜 사진이 널리 퍼졌고, 이로 인해 스탠더드앤드푸어스(S&P)500 지수가 잠시 0.3% 하락했다고 보도했다. 전문가들은 해당 사진이 AI프로그램을 통해 만들어졌을 가능성이 높다고 분석했다.

인공지능(AI)이 사이버 범죄의 핵심 도구가 되고 있다. 올해 생성형 AI가 등장하고 기술을 탐색하고 습득했던 한 해라면, 내년은 실제 사이버 공격에 적용하고 활용하는 해가 될 것이라는 게 보안 전문가들의 진단이다.

사이버 범죄자들은 생성형 AI를 이용해 악성코드 제작과 취약점 검색 등을 시도하는 한편, 다국어를 자연스럽게 구사하는 피싱 메일을 전 세계에 유포할 수도 있다. 무엇보다 우려되는 상황은 우크라이·이스라엘 전쟁 등 세계 각지에서 분쟁이 이어지고 미국 대통령 선거·한국 4월 총선 등 정치 캠페인을 앞두고 AI 딥페이크 정보들이 기승을 부리며 사회적 혼란을 부추길 수 있다는 우려가 나오고 있다.

펜타곤에서 폭발이?…글로벌 전쟁·선거 진행 중 딥페이크 심리전 기승 부릴 듯

펜타곤 폭발 가짜뉴스는 AI 기술을 악용한 정보조작·가짜뉴스가 어떻게 사회 혼란을 부추기는 단적으로 보여준 사건이다. 특히 올해는 세계 각지의 전쟁이 이어지고 있는 상황에서 미국 대선 굵직한 정치 이벤트들이 예정돼 있는 상황에서 심리전 혹은 각자 세(勢)를 확대하려는 목적으로 딥페이크 기술을 활용한 가짜 정보들이 대량 유통될 것으로 점쳐지고 있다. 국내에서도 내년 4월 총선거를 전후로 이러한 기술이 쓰일 가능성이 높다는 경고가 나오고 있다.

AI를 기반으로 한 이미지·목소리 합성기술인 딥페이크·딥보이스 기술이 빠르게 진화하면서 이제는 가상 영상 수준이 실제와 구분할 수 없을 정도로 정교해지고 있어 문제다. 지난 3월 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 모습의 가짜 사진이 유포됐고, 프란치스코 교황이 명품 브랜드의 하얀 패딩 점퍼를 입은 가짜 이미지도 확산돼 논란이 됐다.

어설픈 피싱메일이 AI로 진화…자칫 방심하면 다 털린다

"고갱님 다…당황하셨어요?"

기존 피싱 이메일과 메시지를 보면 상당히 어설픈 문법과 화법을 구사하고 있었지만 이제는 달라진다. AI가 더 정교한 피싱메일 작성을 돕기 때문이다. 심지어 다양한 언어로도 피싱메일을 작성해 사이버 범죄자들의 수고를 덜어줄 것으로 보인다.

이 뿐만 아니라 피싱 메일 내용을 공격 대상 맞춤형으로도 작성해 준다. 최근의 피싱메일은 불특정 다수를 향한 뜬금없는 내용이 아닌, 공격 대상이 관심을 가질 만한 내용으로 작성되고 있다. 대상이 종사하는 분야 혹은 연구분야 등을 파악해, 열어보지 않으면 피해를 입을 수 있는 내용을 담는다. AI는 다양한 정보의 조합으로 대상이 더 '혹'할 수 있는 메일을 작성해 범죄자들의 공격 성공률을 높여줄 것이다.
 
'딥보이스' 악용도 문제다. 딥보이스는 특정인의 목소리를 딥러닝으로 학습시켜 해당 특정인이 실제 말을 하는 것처럼 만들어낸다.

아직 우리나라에서 딥보이스를 보이스피싱에 악용한 사례 발생은 미미하지만, 해외에서는 2019년부터 꾸준히 보고되고 있다. 심지어 한 건에 수 백억원의 피해가 발생한 딥보이스 범죄도 있었다.

실제, 영국 더타임스에 따르면 캐나다 앨버타에 사는 벤저민 파커의 부모는 지난해 딥보이스를 이용한 보이스피싱 피해를 당했다. 파커의 부모는 자신을 아들의 변호사라고 소개한 사람의 전화를 받았다. 그는 아들을 바꿔준다고 한 뒤 어떤 목소리를 들려줬다. 수화기 너머에서는 파커의 목소리와 매우 비슷한 음성이 흘러나왔다. "다음날 있을 법원 심리 전까지 2만1000캐나다달러(약 2000만원)을 송금해 달라"는 요청이었다.

이용자·사회 AI 리터러시 역량 키워야

전문가들은 AI를 활용한 해킹 공격이 증가할 것으로 예상되는 만큼 기업과 개인이 정보보안에 각별히 신경을 써야 하고, AI 기술 발전에 걸맞는 디지털 리터러시 능력을 갖출 수 있는 제도적 기반을 모색해야 한다는 목소리가 나오고 있다.

디지털 리터러시란 디지털 미디어와 기술을 이해하고 활용하는 능력을 말한다. AI 생성 데이터를 비롯해 무분별하게 나돌고 있는 디지털 정보를 비판적으로 분석하고, 해당 정보를 공유할 때는 책임감을 가져야 한다는 것이 전문가들의 지적이다. 특히 AI 딥보이스 기술을 악용한 피싱 범죄에 속지 않기 위해선 느닷없는 전화가 걸려와 금전 거래를 요구받았을 때 상대방 전화로 다시 걸어 사실을 확인하는 등 팩트체크를 생활화 해야한다고 당부했다.

최상명 다크트레이서 이사는 "가장 중요한 것은 일상 속 보안 수칙을 잘 지키는 것"이라며 "한편으로 AI로 고도화된 사이버범죄에 대응하기 위해, 정부와 관련 산업에서 대응 기술을 함께 개발하는 등 공동의 노력을 기울일 필요도 있다"고 설명했다.


◎공감언론 뉴시스 [e-mail]