"빅테크 AI 능가" 카카오 자신감…엔비디아 'GH200' 맞손

카카오 새 AI 브랜드 '카나나'…엔비디아 최신 GPU 'GH200' 사용

카카오 내년까지 GPU 관련 1000억원 투자…초거대 '카나나 플래그' 개발 중

[용인=뉴시스] 정신아 카카오 대표가 22일 오전 경기 용인시 카카오 AI 캠퍼스에서 열린 '이프카카오(if kakaoAI 2024)'에서 카카오 새 인공지능(AI) 브랜드 '카나나'를 설명하고 있다. (사진=카카오 제공)

[서울=뉴시스] 오동현 기자 = 카카오가 엔비디아와 협력해 인공지능 서비스 개발에 속도를 올리고 있다. 카카오는 엔비디아의 최신 GPU(그래픽처리장치)인 GH200을 사용해 자체 거대언어모델(LLM)의 추론 성능을 높이고 있다. 이는 카카오가 세계적인 수준의 LLM '카나나'를 개발하는 원동력이 됐다.
 
타이 맥커처 엔비디아 수석부사장은 23일 카카오가 개최한 '이프카카오' 행사의 특별 연사로 나서 카카오와의 인공지능(AI) 생태계 발전을 위한 공동 노력을 발표했다.

맥커처 부사장은 "카카오의 카나나 팀과 함께 모델을 만들고 있고 인프라 협업을 하고 있다. 카카오가 AI회사로 전환할 수 있도록 지원하고 있다. AI 모델 생성, 서비스, 통합 그리고 계속된 혁신을 할 수 있도록 지원한다"고 말했다.

특히 "카카오는 엔비디아의 최신 GPU인 GH200을 사용해 효율적인 인프라 구축을 위한 테스트를 검증하고 있다"며 "엔비디아는 오픈AI의 챗GPT, 구글의 제미나이 모델을 위해 함께 했던 것과 유사한 엔드 투 엔드 개발을 지원하고 있다"고 강조했다.

이어 "엔비디아는 데이터센터 디자인, 컨설팅도 카카오에 제공하고 있다. 엔비디아의 경험을 토대로 기술 도입을 더 빠르게 할 수 있도록 돕고 있다"며 "이번 협업을 통해 엔비디아와 카카오의 미래는 상당히 밝다. 한국과 카카오에만 국한된 것이 아니라, 더 넓은 AI 생태계를 위해 AI 서비스를 구축하면서 글로벌 경쟁력까지 강화할 수 있는 기회"라고 덧붙였다.

카카오가 도입한 'GH200'은 엔비디아의 최신 AI용 슈퍼칩이다. GH200은 GPU와 ARM 기반의 CPU를 하나로 결합한 형태로, 정보를 주고받는 과정을 크게 단축해 전력 소비를 줄일 수 있다는 장점이 있다. 이전 GPU 'H100'에 비해 1.7배의 메모리 용량과 1.5배의 대역폭을 보장하는 것으로 알려졌다.

엔비디아 설립자 겸 CEO 젠슨 황은 지난해 8월 미국 로스앤젤레스에서 열린 '시그래프 2023' 컨퍼런스에서 "GH200은 이전 칩 대비 메모리 용량이 더 크기 때문에 AI 추론에서 뛰어난 성능을 보일 것"이라며 "이를 통해 AI 모델에 드는 비용을 크게 절감할 수 있다"고 밝혔다.

그러면서 "1억달러 규모의 데이터센터와 동일한 컴퓨팅 인프라를 구축하는데 800만달러면 충분할 것"이라고 강조한 바 있다. 가속 컴퓨팅으로 에너지 효율을 높이면 같은 비용에서 20배의 성장을 할 수 있다고 덧붙였다.

[서울=뉴시스] 타이 맥커처 엔비디아 수석부사장은 23일 카카오가 개최한 '이프카카오' 행사의 특별 연사로 나섰다.

카카오는 AI 조직을 통합하고 연구개발비를 확대하는 등 AI 서비스 개발에 총력을 기울이고 있다. 그 결과 이번에 새로운 AI 브랜드 '카나나'를 공개했다. 카카오가 발표한 LLM 3종은 크기에따라 ▲초거대 크기의 '카나나 플래그' ▲중소형 크기의 '카나나 에센스' ▲초경량 크기의 '카나나 나노'로 나뉜다.

 김병학 카카오 카나나알파 성과리더는 "카나나 에센스가 글로벌 최고 성능을 가진 유사 사이즈 대표 모델과의 성능 비교에서 유사하거나 높은 성능을 보였다"며 "특히 한국어 논리 및 추론을 평가하는 KMMLU, HAE-RAE 벤치마크에서 우위를 보였다"고 강조했다. 이어 "카나나 나노는 유사 사이즈의 글로벌 대표 모델들과 비교했을 때 전반적인 벤치마크에서 평균적으로 탁월한 성능을 보였다"고 전했다.


◎공감언론 뉴시스 [email protected]