KT클라우드, 연내 초거대 AI 학습용 GPU 구축

GPU 컴퓨팅 인프라 확보 위해 엔비디아 제품 병행 도입

종량제 GPU 서비스 ‘HAC' 적용…최대 50% 비용절감

[서울=뉴시스] KT클라우드가 연말까지 KT대덕2연구센터에 초거대 AI 학습용 그래픽처리장치(GPU) 인프라를 구축한다고 밝혔다. (사진=KT클라우드 제공) 2022.10.25 *재판매 및 DB 금지

[서울=뉴시스]심지혜 기자 = KT가 초거대 인공지능(AI) 시장 공략을 본격화한다. 초거대 AI란 대용량의 연산이 가능한 GPU 인프라를 바탕으로 대규모 데이터를 학습해 사람처럼 스스로 사고할 수 있도록 설계된 AI다.

KT클라우드는 연말까지 KT대덕2연구센터에 초거대 AI 학습용 그래픽처리장치(GPU) 인프라를 구축한다고 25일 밝혔다.

하이퍼스케일AI컴퓨팅(HAC) 인프라 구축으로 최적의 성능, 운영 효율성 등을 검증하고 본격적인 초거대 AI 사업에 속도를 낸다는 전략이다. 이를 통해 초거대 AI 학습 성능개선과 재학습결과 등을 검토·보완해 글로벌 탑티어 수준까지 기술력을 끌어올린다는 계획이다. 초거대 AI의 적기 학습을 위한 GPU 컴퓨팅 인프라 확보를 위해 엔비디아 기기를 병행 도입한다.

KT클라우드는 국내 기업인 '모레(Moreh)'와 최적화된 AI 프레임워크를 개발하는 한편, '리벨리온(Rebellions)’과 함께 국산 AI 클라우드 반도체 칩 개발도 추진 중이다.

[서울=뉴시스] KT클라우드가 연말까지 KT대덕2연구센터에 초거대 AI 학습용 그래픽처리장치(GPU) 인프라를 구축한다고 밝혔다. (사진=KT클라우드 제공) 2022.10.25 *재판매 및 DB 금지

KT클라우드의 HAC는 지난 해 12월 출시된 세계최초 종량제 GPU 서비스다. HAC의 GPU로는 AMD 제품을 사용했다. HAC는 여러 대의 GPU를 논리적으로 결합해 하나의 GPU처럼 사용하며, 수백·수천개의 GPU 클러스터링을 지원한다. 대규모 연산이 필요할 때 다중·동적 할당 기술을 통해 원하는 만큼만 GPU 자원을 할당 받고, 연산 후 즉시 반납할 수 있어 탄력적으로 서비스를 이용할 수 있다는 것이 장점이다.

자체적으로 초거대 AI 언어모델 학습 테스트를 진행한 결과, HAC는 동등한 조건의 기존 구축형 서비스 대비 30~50%의 비용 절감 효과를 낼 수 있는 것으로 나타났다.

KT클라우드는 서버 팜을 지속적으로 증설해 나간다는 계획으로, 향후 최대 10분의 1 수준의 효율적 비용으로 동급 연산 자원을 제공할 수 있을 것으로 내다봤다.

윤동식 KT클라우드 대표는 “HAC는 초거대 AI 연구 및 서비스 개발에 필수적인 대규모 인프라를 제공하는 혁신적인 기술이자 서비스”라며 “초거대 AI 산업의 문턱을 낮춰 대규모 GPU 인프라가 필요한 AI 전문기업·스타트업 등과 성공 사례를 만들어가고 있다. 뿐만 아니라 국내·외 AI 선도기업들과 초거대 AI 산업 성장을 이끌어 갈 것”이라고 전했다.


◎공감언론 뉴시스 [email protected]