KAIST, 용량·대역폭 향상 '옴-지피유' 개발…성능 180%↑

정명수 교수, 3D XPoint와 DRAM 사용한 광 네트워크 기반

GPU 메모리 시스템 대역폭 대폭 향상, 고용량 메모리 확보

[대전=뉴시스] KAIST의 'Ohm-GPU' 구조 개요도. *재판매 및 DB 금지

[대전=뉴시스] 김양수 기자 = 여러 프로세스를 병렬로 빠르게 처리할 수 있는 연산장치인 GPU(Graphic Processing Unit)의 메모리 시스템 용량과 대역폭을 대폭 향상시킨 기술이 국내연구진에 의해 개발됐다.

KAIST는 전기및전자공학부 정명수 교수 연구팀이 3D XPoint 메모리와 DRAM 메모리를 통합한 이종 메모리 시스템에서 광 네트워크로 통신할 수 있는 '옴-지피유(Ohm-GPU)' 기술을 개발했다고 2일 밝혔다.

이를 통해 기존 DRAM을 단독으로 사용하던 전기 네트워크 기반 GPU 메모리 시스템 대비 181% 이상 성능을 향상시키는데 성공했다.

3D XPoint 메모리는 DRAM에 비해 용량이 크지만 데이터 전송 속도가 느리고 DRAM 메모리는 3D XPoint에 비해 데이터 전송 속도가 빠르지만 용량이 작다.

기존 GPU는 다수의 연산장치로 구성돼 있어 연산속도가 매우 빠르다는 장점이 있으나 DRAM을 단독으로 사용하는 메모리 시스템은 낮은 메모리 용량과 좁은 데이터 전송 대역폭으로 연산성능을 충분히 활용하지 못한다.

용량을 증가시키는 대안으로 DRAM을 XPoint로 대체하는 방법이 있지만 이는 8배 큰 메모리 용량을 얻을 수 있으나 읽기/쓰기 성능이 각 4배, 6배로 낮아진다.

또 대역폭을 증가시키는 대안으로 HBM(High Bandwidth Memory) 기술이 있지만 단일 면적 내 장착할 수 있는 전기 채널의 한계로  GPU 메모리 시스템의 고대역폭 요구를 만족시키기 어렵다.

정 교수팀이 개발한 Ohm-GPU 기술은 대용량 XPoint와 고성능의 DRAM을 통합한 이종 메모리 시스템으로, 기존 메모리 시스템과 동일한 성능을 가지면서도 메모리 용량은 크다.

또한 단일 광 채널(광섬유)로 서로 다른 파장의 다중 광신호를 전달할 수 있는 광 네트워크의 장점을 적용, 메모리 대역폭이 매우 넓다. Ohm-GPU 기술은 이종 메모리의 모든 메모리 요청을 광신호로 처리한다.

연구팀은 메모리 요청 때 발생하는 이종 메모리 간 데이터 이동의 오버헤드(대기 시간)는 연산 메모리 접근과 데이터 메모리 접근의 광 파장을 다르게 설정하고 메모리 컨트롤러 개입 최소화, XPoint 컨트롤러의 이종 메모리 간 데이터 이동 수행으로 해결했다고 설명했다.

DRAM을 단독으로 사용하던 기존 전기 네트워크 기반 GPU 메모리 시스템 대비 높은 성능을 보이는 이번 기술은  인공지능(AI), 빅데이터, 클라우드 컴퓨팅 등 대고성능 가속기의 메모리 시스템을 대체할 수 있을 것으로 기대된다.

정명수 교수는 "GPU 메모리 시스템 기술은 일부 해외 유수 기업이 주도하고 있지만 이번 연구성과를 기반으로 GPU 및 GPU와 유사한 모든 고성능 가속기 메모리 시스템 관련 시장에서 우위를 선점할 기회를 갖게 됐다"고 강조했다.

이번 연구는 10월에 열릴 컴퓨터 구조 분야 최우수 학술대회인 '마이크로(MICRO) 2021'에서 발표될 예정이다.(논문명: Ohm-GPU: Integrating New Optical Network and Heterogeneous Memory into GPU Multi-Processors)


◎공감언론 뉴시스 [email protected]