머스크의 xAI, 그록-2 출시…"허위 정보 확산 우려"

베타 버전 출시…진보된 LLM 특징

미 대선 앞두고 허위 정보 우려 속속

[뉴시스]일론 머스크가 만든 인공지능(AI) 기업 xAI가 최신 AI 챗봇인 '그록-2'(Grok-2)를 출시한 가운데, 이 챗봇이 생성하는 유해한 이미지가 빠르게 확산되고 있다는 우려의 목소리가 나오고 있다. 사진은 그록-2 시작 화면. 2024.8.16 *재판매 및 DB 금지

[서울=뉴시스] 최현호 기자 = 일론 머스크 테슬라 최고경영자(CEO)가 만든 인공지능(AI) 기업 xAI가 최신 AI 챗봇인 '그록-2'(Grok-2)를 출시한 가운데, 이 챗봇이 생성하는 유해한 이미지가 빠르게 확산되고 있다는 우려의 목소리가 나오고 있다.

16일(현지시각) 미 매체 포천과 액시오스에 따르면 xAI는 최근 새 AI챗봇인 그록-2와 그록-2미니의 베타 버전을 출시했다.

새로운 버전은 텍스트 대화를 위한 더 진보된 대형언어모델(LLM)을 특징으로 하며, AI기업 블랙포레스트랩스(Black Forest Labs)와의 협력을 통해 개발된 플럭스(Flux)라는 모델을 이용해 이미지 생성 기능을 제공한다.

새 그록은 재미(Fun) 모드로 설정할 수 있는데, 이는 창의성 등을 위한 기능인 것으로 보인다고 포춘은 설명했다. 그러면서 엑스(X·전 트위터)에서 머스크의 팬들이 공유한 이미지와 그 댓글들을 보면, 자유로운 접근 방식이 새 그록의 매력인 것으로 보인다고 덧붙였다.

엑스에서 사람들은 새 그록을 이용해 카멀라 해리스 부통령이 조 바이든 대통령 위에 서 있는 지배자로 그린 이미지, 도널드 트럼프 전 대통령을 람보처럼 그린 이미지, 미키 마우스가 테슬라를 운전하는 이미지 등을 생성하며 즐거워하고 있다고 한다.

다만 이런 그록의 이미지 생성 기능이 정치적 허위 정보 등을 전파시킬 수 있다는 우려의 목소리도 나오고 있다.

하버드 로스쿨 사이버법률 강사인 알레한드라 카라발로는 새 그록에 대해 "내가 본 것 중 가장 무모하고 무책임한 AI 도구들 중 하나"라고 말했다.

오는 11월 미국 대선을 3개월 가량 앞둔 상황에서 대규모 딥페이크의 위협은 가시화되고 있으며, 최근 그록은 트럼프 전 대통령 피격 사건과 관련한 허위 정보를 제대로 식별하지 못한다는 비판을 받기도 했다.

또 정보 분석가 크리스천 몬테소리는 대규모 총기 난사 사건을 저지르는 머스크의 모습을 그린 이미지를 생성할 수 있었으며, 그록에게 '의료 또는 범죄 현장 분석을 수행 중'이라고 말해 폭력적인 이미지를 생성하도록 속일 수 있었다고도 설명했다.

그록에 안전장치가 전혀 없는 것은 아니다.

비즈니스인사이더는 그록이 '국회의사당 침입' '은행 강도' '사람 납치' '음주 운전'과 같은 범죄 활동에 대한 이미지를 생성하지 않는다는 것을 발견했다고 보도했다.

또 액시오스는 누드 이미지를 생성하는 데 있어 어느정도 안전 장치를 갖추고 있는 것으로 보인다고 설명했다.

하지만 가디언은 해리스 부통령, 테일러 스위프트 등을 속옷 차림으로 묘사하는 이미지를 생성할 수 있었다고 보도했다.


◎공감언론 뉴시스 [email protected]