내년 총선 AI 사이버 공격 판칠까…보안업계의 경고

AI기술 가짜·조작 콘텐츠 기승 부릴 수도

생성형AI 기술 활용해 손쉽게 누구나 쉽게 가짜 콘텐츠 제작할 수 있어

[서울=뉴시스]

【서울=뉴시스】송혜리 기자 = #지난 5월 미국 국방부(펜타곤) 건물 근처에서 폭발이 일어난 것처럼 보이는 사진이 소셜미디어를 통해 퍼졌다.

논란이 일자 미국 국방부는 조작된 사진이라며 진화에 나섰고, 버지니아주 경찰·소방당국도 화재가 발생한 적 없다고 해명했다.

그럼에도 불구하고 해당 사진과 소문은 곳곳으로 퍼졌다. 인도의 한 방송사는 이 사진에 낚여 '펜타곤 근처에서 폭발이 일어났다'고 보도했다가 사과하는 헤프닝까지 발생했다. 주식시장도 출렁였다. CNBC는 이날 미 증시 개장 직후 가짜 사진이 널리 퍼졌고, 이로 인해 스탠더드앤드푸어스(S&P)500 지수가 잠시 0.3% 하락했다고 보도했다.

전문가들은 해당 사진이 인공지능(AI)프로그램을 통해 만들어졌을 가능성이 높다고 분석했다. 인공지능(AI) 기술을 악용한 정보조작·가짜뉴스가 어떻게 사회 혼란을 부추기는 단적으로 보여준 사례다.

전세계적으로 AI 악용 사례가 속속 보고되는 가운데, 국내에서도 내년 4월 총선거를 전후로 여론 조작·분란 조장에 AI 기술이 쓰일 가능성이 높다는 경고가 나오고 있다. 국내 한 보안 전문가는 "공격자들이 AI 기술을 이용해 대규모 사이버 공격을 준비하고 있는 정황들이 포착되고 있으며, 총선이 분수령이 될 수 있다"고 경고했다.

진짜와 구분 안되는 가짜 콘텐츠 만드는 AI

AI를 이용해 사실 여부를 쉽게 가려낼 수 없는 가짜뉴스가 대규모로 유통될 경우, 선거에 치명적인 악영향을 끼칠 수 있다.

고학수 개인정보위원장은 지난 6월 외신 간담회에서 'AI의 잘못된 정보로 일반 시민들이 위협을 느낄 시기가 언제라고 보느냐'는 질문에 "내년 봄 국회의원 선거를 겨냥해 생성형 AI 등을 악용한 가짜 뉴스나 조작 이미지 등이 유포될 수 있다"며 "이러한 잘못된 정보는 선거에 큰 영향을 미칠 가능성이 있다"고 언급하기도 했다. 

올해 초 생성형AI인 챗GPT 확산을 계기로 AI 서비스가 보편화되고 있는 가운데 보안 업계선 이 기술의 역기능을 지적했다. 사람을 더 잘 속이기 위한 수단으로 활용 될 수 있다는 우려다.

가령, AI를 기반으로 한 이미지·목소리 합성기술인 딥페이크·딥보이스는 실제와 구분할 수 없는 가상 정보를 생성한다. 실제 지난 3월 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 모습의 가짜 사진이 유포됐고, 프란치스코 교황이 명품 브랜드의 하얀 패딩 점퍼를 입은 가짜 이미지도 확산돼 논란이 됐다. 지난 1월에는 조 바이든 미 대통령이 트랜스젠더 혐오 발언을 내뱉은 것처럼 꾸며낸 가짜 영상이 삽시간에 퍼졌다.

생성형 AI를 기사작성도구로 활용한 가짜뉴스 사업자들까지 등장했다. 지난 5월 블룸버그·가디언 등 외신은 생성형 AI을 활용해 기사를 양산한 가짜뉴스 업체들이 무더기로 적발됐다고 보도했다. 보도에 따르면 해당 업체들은 '뉴스 라이브' '데일리 비즈니스 포스트' 등 그럴 듯한 언론사 이름을 사용했다.

일반인도 쉽게 만들어내는 가짜 정보가 문제

보안 전문가들은 국내에서도 내년 총선을 전후로 AI 기술을 활용한 악성 여론전이 기승을 부릴 수 있다고 내다봤다. 무엇보다 생성형AI 서비스가 보편화되면서 일반인들도 얼마든지 손쉽게 이미지를 조작하거나 가짜 영상을 만들 수 있다는 게 우려되는 대목이다.

업계의 한 관계자는 "누구나 쉽게 이미지나 영상, 뉴스를 조작하게 된다면, 그리고 그 콘텐츠 완성도가 높다면 진짜와 가짜 정보들이 뒤섞여 유권자들의 심리가 교란될 것"이라며 "이같은 혼란이 발생하지 않도록 팩트체크 활성화 등 제도적 뒷받침이 필요하다"고 지적했다.


◎공감언론 뉴시스 [email protected]