"분명 부사장님 목소리였는데"...감쪽같이 당하는 'AI 피싱'

등록 2023.08.15 12:00:00수정 2023.08.15 12:28:10

아크로니스 상반기 보고서 'AI 악용한 사이버공격 증가' 지적

악성 콘텐츠 제작하고 정교한 공격 실행하는 데 챗GPT 활용

[뉴욕=AP/뉴시스] 지난 1월 31일 미국 뉴욕에서 한 휴대전화 화면에서 챗GPT 개발기업 '오픈AI'의 로고가 표시돼 있다. 2023.02.20

[서울=뉴시스]송혜리 기자 = #홍콩의 한 기업. 재무부서로 한 통의 전화가 걸려왔다. 이 회사의 최고재무책임자(CFO)였다. 그는 3500만달러를 특정 계좌로 송금하라고 말했다. 전화를 받은 직원은 CFO의 주문에 따라 이를 수행했다. 그러나 이 전화는 인공지능(AI) 기술로 CFO의 목소리를 복제해 악용한 사이버 공격이었다.

글로벌 보안 업체 아크로니스는 '상반기 결산 사이버 위협 보고서'를 통해 이같이 AI가 악용된 사이버공격 사례를 공개했다. 그러면서 "챗GPT를 비롯해 생성형 AI 기술이 이미 사이버 공격·악성 콘텐츠를 생성하는 데 사용되고 있다"고 경고했다.

악성코드 대신 작성·개인화된 피싱메일도 뚝딱

아크로니스는 전 세계 100만개 이상의 단말기에서 수집한 데이터를 기반으로 한 이번 보고서를 통해 "일반적으로 많이 사용되고 있는 생성형 AI 활용 수법은 범죄자를 돕는 것"이라고 경고했다.

대표적으로 AI는 악성이메일를 대신 작성해 공격자의 수고를 상당히 줄여 주고 있다. 몇 가지 키워드를 사용해 은행보안 확인 또는 메일 전달 실패 알림 등으로 위장한 피싱 이메일을 만들 수 있다. 심지어 AI는 텍스트를 여러 언어로 번역해 현지 상황에 맞게 수정하기도 한다. 회사 웹 사이트나 소셜 미디어 계정의 정보를 이용해 더욱 개인화된 피싱 이메일을 보내는 것도 가능하다.

아울러 생성형AI는 악성코드 제작에도 활용되고 있다. 아크로니스에 따르면 생성형 AI 모델은 파이썬, 고, 러스트 등의 언어로 프로그래밍 코드를 작성할 수 있다. 공격자가 사전 작업과 학습에 오랜 시간을 들이지 않아도 간편하게 악성코드를 작성할 수 있다는 말이다.

생성형AI는 프로그램 코드 이해에도 뛰어난 성능을 보여준다. 이에 따라 사이버 범죄자는 소스 코드를 프로그램 코드에 붙여 넣고 잠재적인 취약점에 대해 물어볼 수 있다. 취약점이 발견되면 다시 생성형 AI 모델을 이용해 새로운 공격을 위한 익스플로잇(Exploit) 코드를 작성할 수 있다.

내 얼굴이 사용된 누드사진으로 협박? 범인은 AI

아크로니스는 AI로 진위 여부를 구별하기 어려운 이미지·영상물을 생성하는 '딥페이크' 정보 생성이 증가할 뿐만 아니라, 비즈니스 전자 메일 침해 사기(BEC) 사기나 정보 탈취에 쉽게 사용될 수 있는 신원 위조도 증가할 수 있다고 경고했다. 특히, 디지털 음성 복제는 해외에서 폰뱅킹 인증에 자주 사용하는 음성 생체 인식 시스템도 우회하는 것으로 나타났다고 설명했다.

아크로니스는 이같은 조작기술을 이용해 지인을 사칭해 긴급한 상황에서 벗어나야 한다며 돈을 요구하는 사기의 신뢰성을 높일 수도 있다고 덧붙였다. 또한 생성형 AI가 사용자의 얼굴이 포함된 누드 사진을 만들고, 비용을 지불하지 않으면 친구들에게 사진을 공유하겠다고 위협하는 성 착취 범죄에 사용될 수도 있다고 경고했다.

다만, 아크로니스는 "현재 AI로 생성된 이미지, 음성, 비디오를 안정적으로 탐지하는 것은 매우 어렵다"면서 "이 분야에 대한 연구가 현재 활발히 진행되고 있다"고 덧붙였다.

아크로니스는 사전 예방적 사이버 보호 조치의 필요성을 강조했다. 사이버 보안 태세를 유지하려면 안티멀웨어, 엔드포인트 탐지 및 대응(EDR), 데이터 유출 방지(DLP), 이메일 보안, 취약성 평가, 패치 관리, 원격 모니터링 및 관리(RMM) 및 백업 기능을 결합한 다계층 솔루션이 필요하다고 강조했다.

아크로니스 사이버 보호 리서치의 칸디드 뷔스트 부사장은 "올해 위협의 양은 지난해에 비해 급증했으며, 이는 범죄자들이 시스템을 손상시키고 공격을 실행하는 방법을 확장하고 향상시키고 있다는 신호"라며 "역동적인 위협 환경에 대응하기 위해 조직은 모든 위협을 효율적으로 치료할 수 있는 민첩하고 포괄적인 통합 보안 솔루션이 필요하다"고 말했다.

◎공감언론 뉴시스 [email protected]