"고갱님, 당황하셨어요?" 어설픈 사기전화 이젠 없다…AI가 피싱범죄와 만나면

SK쉴더스, 2024년 주요 보안 위협 전망·대응전략 제시

"AI로 고도화한 피싱, 취약점·공급망 공격 기승 부린다"

SK쉴더스 이호석 EQST Lab 담당이 5일 광화문에서 열린 ‘2024 주요 보안 위협과 대응 전략’ 미디어 세미나에서 ‘2024 보안 위협 전망’에 대해 발표하고 있다(사진=SK쉴더스 제공) *재판매 및 DB 금지

[서울=뉴시스]송혜리 기자 = "고갱님~ 많이 당황하셨죠~?"

이같이 어눌한 한국말로 검사를 사칭하면서 개인정보를 요구하는 보이스피싱은 이제 옛날 이야기가 될 것으로 보인다. 

인공지능(AI) 기술이 고도화되면서 이를 악용한 'AI 피싱·보이스피싱 범죄'도 기승을 부릴 것으로 전망된다. AI 기술을 이용하면 더 짜임새가 있는, 어눌하지 않은 말과 말투로 타깃 대상을 속이는 게 가능하다.

5일 서울 광화문 인근에서 열린 SK쉴더스 간담회에서 이호석 SK쉴더스 EQST(Experts, Qualified Security Team) 담당은 내년 사이버공격 전망을 발표하면서 "이제껏 피싱 메일은 조선족이 쓴 것 같은, 문맥은 맞지만 단어 선택이 좀 어색한 그런 형태가 있었지만, 이제 이런 부분은 챗GPT 등 AI기술로 보완해 너무나 자연스러운 말을 구사하는 공격을 할 수 있게 됐다"고 말했다.

AI가 작성하는 피싱 메일…어설픈 한국말 안 쓴다

이날 간담회를 통해 SK쉴더스 화이트 해커 전문가 그룹 EQST는 내년에 AI를 이용한 사이버 공격이 증가할 것이라고 전망했다. 생성형 AI가 전 산업에 도입되며 AI의 적용 분야가 늘어나는 가운데, AI를 활용한 지능화된 피싱 공격이 많아질 것이란 설명이다.

이호석 EQST 담당은 "챗GTP를 피싱에 특화한 형태로 만든  웜GPT가 등장했다"면서 "이 기술은 기존 피싱메일에 쓰여진 어색한 말들을 자연스럽게 보완해 주기 떄문에 해외에서도 더 정교한 공격이 가능하게 됐다"고 말했다. 이어 "아는 사람 혹은 업무와 관계있는 사람처럼 위장해 메일을 보내는 공격은 지난해 FBI가 수집한 것만 해도 2만 건에 이르는 통계가 있는데, 이게 이 공격에 AI가 접목돼 더 고도화될 것이라고 보고 있다"고 설명했다.

피싱 메일 작성에 AI를 사용하는 것 뿐만 아니라, AI기술로 이미지·음성을 복제하는 딥페이크, 딥보이스도 악용되고 있다. 특히, 보이스피싱 등에 악용될 수 있는 딥보이스는 특정인의 목소리를 딥 러닝으로 학습시켜, 해당 특정인이 실제 말을 하는 것처럼 만들어낸다.

아직 우리나라에서 딥보이스를 보이스피싱에 악용한 사례 발생은 미미하나 해외에서는 2019년부터 꾸준히 보고되고 있다. 심지어 한 건에 수 백억원의 피해가 발생한 딥보이스 범죄도 있었다.

영국 더타임스에 따르면 캐나다 앨버타에 사는 벤저민 파커의 부모는 지난해 딥보이스를 이용한 보이스피싱 피해를 당했다. 파커의 부모는 자신을 아들의 변호사라고 소개한 사람의 전화를 받았다. 그는 아들을 바꿔준다고 한 뒤 한 목소리를 들려줬다. 수화기 너머에서는 파커의 목소리와 매우 비슷한 음성이 흘러나왔다. "다음날 있을 법원 심리 전까지 2만1000캐나다달러(약 2000만원)을 송금해 달라"는 요청이었다.

취약점·공급망 공격…파고드는 속도 빨라진다

EQST는 웜GPT 공격과 더불어 제로데이 취약점을 악용한 랜섬웨어 공격도 기승을 부릴 것이라고 전망했다. 제로데이 취약점은 핵심 시스템의 보안 취약점이 공개됐으나, 이를 막을 수 있는 패치가 아직 발표되기 전의 상태를 말한다.

아울러 EQST는 지난 3월 발생한 최초의 연쇄적인 공급망 공격에 이어, 내년에도 이같은 공격이 많아질 것이라고 설명했다. N차 공격으로 연계가 되거나 주요 인프라를 노린 공급망 공격이 기승을 부릴 것으로 전망된다. 

사용자의 접근 권한을 관리하는 IAM(Identity and Access Management) 서비스를 대상으로 한 공격도 많아질 것으로 분석했다. 다양한 형태의 자격 증명 권한과 인증정보가 다크웹에서 활발하게 거래되고 있어, 이를 노린 공격이 많아질 것으로 보인다는 설명이다.

이 밖에 EQST는 클라우드를 활용해 암호화폐를 채굴하는 '클라우드 마이닝'공격이 증가할 것이라고 설명했다. 이호석 담당은 "AI 산업이 발달하면서 GPU가 중요한 요소가 됐는데, 이 GPU를 악용한 가상화폐 채굴이 본격화하고 있어 클라우드 리소스에 대한 공격에 대한 대비도 유의해야 한다"고 말했다. 이어 "실제 해외에서는 2000만원규모 피해 사례도 발생했다"고 덧붙였다.

김병무 클라우드사업본부장은 "2024년은 AI 비즈니스 원년이 될 것으로 보이는 가운데 AI로 인한 보안 위협에 적극적으로 대응해야 할 때"라며 "SK쉴더스가 매년 보안 위협을 전망하고 대응 전략을 제시해온 만큼 전문 역량을 바탕으로 기업과 사회의 보안 의식 제고 활동에 앞장서겠다"고 말했다.


◎공감언론 뉴시스 [email protected]