미 국무부 공인 보고서, "AI가 인류 절멸 위협 제기"

AI가 직접 회복 불가능 피해 유발 무기화 가능성

무기화 경쟁으로 대량파괴무기급 피해 가능

AI 훈련 컴퓨터 용량 제한 등 적극적 규제 필요

[보스턴=AP/뉴시스] 22일(현지시간) 미국 매체 액시오스는 지난해 5월(현지시간) 의료에 사용되는 인공지능(AI)이 무기화될 가능성에 대해 경고했다. AI가 인류를 멸망시킬 위험이 있다고 경고하는 보고서가 12일(현지시간) 발표됐다. 사진은 챗GPT 이용 장면. 2024.03.12. *재판매 및 DB 금지

[서울=뉴시스] 강영진 기자 = 빠르게 발전하는 인공지능(AI)이 제기하는 안보 위협으로 인류의 생존이 위태로워질 수 있으며 재앙을 막기 위한 시간이 촉박하다고 경고하는 미 국무부 공인 보고서가 발표됐다고 미 CNN이 12일(현지시간) 보도했다.

보고서는 1년여 동안 200여의 AI 회사 대표, 보안 전문가, 대량파괴무기 전문가, 국가안보 당국자 등을 인터뷰한 결과를 토대로 하고 있다.

글래드스톤 AI사가 공개한 이 보고서는 최첨단 AI 시스템이 최악의 경우 “인류를 절멸하는 수준의 위협을 제기한다”고 단언했다.

미 국무부 당국자는 국무부가 보고서를 승인했음을 확인하면서도 미 정부의 공식 견해는 아니라고 밝혔다.

글래드스톤 AI의 제레미 해리스 CEO는 “AI는 경제 혁신 기술이 된지 오래다. 질병을 치료하고 과학을 발전시키며 극복하기 어려운 어려움을 극복할 수 있게 한다. 그러나 동시에 재앙적 위험 등 심각한 위험이 될 수 있다는 점도 유념해야 한다. AI의 능력이 일정 한계를 넘을 경우 통제할 수 없게 된다는 증거들이 늘어나고 있다”고 강조했다.

글래드스톤 AI는 AI가 제기하는 위험을 2가지로 분석했다.

우선 최첨단 AI 시스템이 회복 불가능한 피해를 입히는 무기가 될 수 있다고 지적했다. 둘째, AI를 개발하는 민간회사들이 통제력을 잃을 수 있다고 우려하면서 “전 세계 안보에 파괴적 결과를 가져올 수 있다”고 강조했다.

보고서는 “핵무기 발명이 가져온 것과 같은 국제 안보 위협을 제기한다”면서 AI 무기 경쟁으로 “대량파괴 무기 규모의 치명적 사건”이 일어날 수 있다고 밝혔다.

보고서는 AI 부처의 설립과 AI 훈련에 사용되는 컴퓨터 용량을 규제하는 등 극적인 대응 조치가 필요하다고 강조했다.


◎공감언론 뉴시스 [email protected]