• 페이스북
  • 트위터
  • 유튜브

NYT "AI가 선거판을 투기장으로 만들 수 있다"

등록 2023.03.29 10:58:11수정 2023.03.29 11:40:56

  • 이메일 보내기
  • 프린터
  • PDF

선거자금 모금, AI가 사람보다 이미 앞서

투표 전날 허위정보 유포·영상조작 우려

정치시스템 과학 아닌 투기장으로 변모

[서울=뉴시스] 챗GPT. (사진=뉴시스 DB) 2023.03.04. photo@newsis.com *재판매 및 DB 금지

[서울=뉴시스] 챗GPT. (사진=뉴시스 DB) 2023.03.04. [email protected] *재판매 및 DB 금지


[서울=뉴시스] 강영진 기자 = 내년 11월에 치러지는 미 대통령 선거를 앞두고 인공지능(AI) 활용도가 커질 것으로 예측되는 가운데 AI는 이미 널리 사용되고 있으며 사실이 아닌 것을 호도하는 부작용이 발생하고 있다고 미 뉴욕타임스(NYT)가 28일(현지시간) 보도했다. 다음은 기사 요약.

AI가 정치자금 모금 행사 초청장 초안을 쓰고 도널드 트럼프 전 대통령이 뉴욕지검에 체포되는 가짜 사진을 만들어내고 조 바이든 대통령의 목소리를 생생하게 재연해 하지 않은 말을 지어낸다.

과거 전문가들만 할 수 있었던 음성과 화상 조작을 아무나 쉽게 할 수 있게 됐다. 허위 정보가 넘쳐 나면서 사실과 거짓의 경계가 흐려지고 있다.

갈수록 합성 영상이 늘어나면서 사람들이 스스로의 눈조차 믿을 수 없는 상태에 빠져들고 있다.

AI는 과거 수많은 인턴들이 담당했던 사소한 업무들을 대신할 것이라는 기대를 받아왔다. 민주, 공화 양당 모두 AI를 이용해 보다 호소력 있는 광고, 보다 정확한 여론 흐름 예측, 유권자 개인에 맞춘 문구, 수많은 투표 결과 분석 등을 생산하려 애쓰고 있다. 엄청나게 빠르게 진행되는 이 같은 변화로 정치 시스템이 과학이 아닌 투기장으로 바뀔 것이라는 전망까지 나온다.

오픈AI사의 챗GPT가 생성형 인공지능 골드 러시를 촉발했다. 뒤이어 구글과 마이크로소프트도 뛰어들었으며 문장을 특정인물의 목소리로 녹음하는 기술도 나왔다. 그림을 그리는 AI는 극사실적인 그림으로 미술대회에서 수상하기도 했다.

허위 정보와 “영상 조작”이 가장 큰 우려 대상이다. 포토샵으로 영상을 조작하는 일은 과거에도 있었지만 지금은 비교하기 어려울 정도로 빠르고 우수하게 만들어진다.

특히 감시가 충분히 이뤄지지 못하는 지방선거가 우려 대상이다. 실제로 최근 시카고 시장 선거에서 폴 밸러스 후보를 모방한 영상이 트위터에 올랐다.

이처럼 AI를 악용하는 일이 훨씬 더 많다. 이런 추세라면 2016년 동영상이 유포되면서 자신이 여성을 공격했다는 사실을 인정해야 했던 트럼프가 새로운 폭로 동영상이 나올 경우 부인하게 만들 것이다.

이 문제를 쉽게 해결할 방법은 없다. AI는 현재 선거전에서 수많은 이메일 초안을 작성하고 선거자금 지원을 요청하는 일에 가장 많이 활용된다. 민주당 전국위원회는 AI가 사람보다 헌금을 더 많이 이끌어낸다는 것을 확인한 상태다.

반면 AI 챗봇이 유권자를 가장해 선거원들의 시간을 뺏는 글을 쓰거나 후원자들에게 개별화된 후보의 감사 영상을 조작해 보낼 수 있다. 실제로 2020년 인도에서 후보가 여러 언어로 연설하는 동영상을 만들어 내보낸 적이 있다. 지금은 당시와 기술이 비교하기 어려울 정도로 발전돼 있다.

나아가 소셜 미디어나 웹사이트를 거치지 않고 직접 허위 정보를 유권자에게 전달하는 방식이 일반화될 것이라는 전망도 나온다. 예컨대 투표 전날 밤 후보자의 목소리로 녹음된 음성 메일이 유권자에게 전달될 경우 파장은 매우 클 수밖에 없다.

틱톡에는 바이든 대통령, 오바마 전 대통령, 트럼프 전 대통령이 가상 온라인 게임을 하면서 하는 욕설을 내뱉는 동영상이 오르는 등 정치인 패러디 허위 동영상 만들기가 크게 유행하고 있다.

심야 토크쇼에서 AI로 폭스 뉴스 진행자 목소리를 흉내 내 트럼프를 비난하는 문자 메시지를 읽도록 한 일도 있었다.

바이든 대통령이 우크라이나 전쟁에 보내기 위해 징집령을 내리는 장면의 동영상도 우파에서 만들어 냈다.

이에 따라 AI가 할 수 있는 일과 해선 안 되는 일을 규정하는 것이 관건이 되고 있다. 오픈 AI사는 지난해 가을 “선거 활동, 성인물, 스팸, 증오” 등을 허용하지 않도록 했다고 밝혔다. 최근에는 “선거 자료를 대규모로 생성하는 것”을 금지했다.

음성합성 AI를 사용해 바이든 대통령이 부르는 노래를 녹음해 내보냈던 토미 비터 오바마 전 대통령 대변인은 “정확도가 믿을 수 없을 정도였다. 재미로 해봤는데 정말 큰 문제가 될 수 있겠다는 생각”이라고 말했다.


◎공감언론 뉴시스 [email protected]

많이 본 기사