삼성전자가 주도할 반도체 시장 변화는?[마하-1의 경제학③]

초거대 AI 모델 위한 메모리 지원 기술 선제 개발 중

PIM부터 '뉴로모픽'까지…메모리, AI 중심으로 재편

[서울=뉴시스]삼성전자는 AI 전용 반도체 솔루션인 PIM(Processing-In-Memory) 기술을 고성능 D램인 HBM에 세계 최초로 적용했다. (사진=삼성전자 반도체 뉴스룸) [email protected] *재판매 및 DB 금지

[서울=뉴시스]이인준 기자 = AI(인공지능) 시대는 반도체 업계에 새로운 화두를 던졌다. 삼성전자는 마하-1를 시작으로, 부품(메모리) 회사에서 벗어나 반도체 솔루션 기업으로 외연 확장을 가속할 전망이다.

초거대 AI 시대의 필수품… 미래 메모리 기술 선제 개발 중

23일 업계에 따르면 삼성전자는 초거대 AI 모델을 지원하기 위해 다양한 기술을 선제적으로 개발 중이다.

삼성전자는 당장 효율적인 연산을 위해 PIM(프로세싱인메모리·Processing-in-Memory) 기술 개발에 주력하고 있다.

PIM은 메모리 내부에 데이터 연산 기능을 구현해, 데이터 이동 거리를 줄여 시스템 성능을 높이는 기술이다. 삼성전자는 2021년 세계 최초로 고대역폭메모리(HBM)에 PIM 기술을 접목한 HBM-PIM을 개발했다.

삼성전자의 추론 칩 '마하-1' 같은 FPGA(필드프로그래머블게이트어레이) 개발 업체, 미국 자일링스(Xilinx)에서 이미 상용화 중인 AI 가속기 시스템에 삼성의 이 HBM-PIM을 탑재한 결과 일반 시스템 대비 성능이 2.5배 높아지는 것이 확인됐다.

삼성전자는 CXL(컴퓨트익스프레스링크) 기술도 독자적으로 개발하고 있다. CXL은 고용량 AI 모델 개발에 적합한 솔루션으로, 메모리 용량의 확장을 더 쉽게 해준다.

CXL은 연산 기능을 메모리 옆에 위치시켜 CPU-메모리 간 발생하는 병목현상을 줄이고 시스템 성능을  더 개선하는, PNM(Processing-near-Memory) 기술이다. 삼성전자의 CXL 인터페이스 기반의 PNM 기술은 2배 이상 성능 향상이 가능하다.

혁신 AI 메모리 기술은 삼성전자가 미래 먹거리로 키우고 있는 파운드리 사업에도 긍정적인 영향을 미칠 것으로 보인다. 삼성전자는 메모리부터 파운드리(반도체 위탁생산)까지 일괄 수행하는 세계 유일한 기업이다.

[서울=뉴시스] 박주성 기자 = 삼성전자와 미국 하버드 대학교 연구진이 차세대 인공지능 반도체 기술인 뉴로모픽 (Neuromorphic) 칩에 대한 미래 비전을 제시했다. 함돈희 삼성전자 종합기술원 펠로우 겸 하버드大 교수, 박홍근 하버드大 교수, 황성우 삼성SDS사장, 김기남 삼성전자 부회장이 집필한 이 논문은 영국 현지시간 23일 세계적인 학술지 '네이처 일렉트로닉스(Nature Electronics)'에 게재됐다. 이번 논문은 뇌 신경망에서 뉴런(신경세포)들의 전기 신호를 나노전극으로 초고감도로 측정해 뉴런 간의 연결 지도를 '복사(Copy)'하고 복사된 지도를 메모리 반도체에 '붙여넣어(Paste)', 뇌의 고유 기능을 재현하는 뉴로모픽 칩의 기술 비전을 제안했다. 사진은 논문 관련 이미지. (사진=삼성전자 제공). 2021.09.26. [email protected] *재판매 및 DB 금지

친환경부터 '뉴로모픽'까지…반도체, 업의 본질 바꾼다

삼성전자는 이와 함께 HBM-PIM과 GPU(그래픽처리장치) 가속기를 이용해 데이터 처리 효율을 높이면서 전력량 절감에도 기여할 수 있는 솔루션도 개발 중이다 .

삼성전자가 8개의 GPU 가속기로 시스템을 구성하고 대용량 AI 언어 모델을 학습시킨 결과, HBM-PIM을 탑재한 GPU 가속기를 사용했을 때 HBM을 탑재한 GPU 가속기보다 1년 동안 사용하는 에너지를 2100GWh 절감할 것으로 예상된다. 탄소 배출량을 96만t(t·CO2eq)가량 줄일 수 있는 수준으로, 1억 그루의 소나무가 1년 동안 흡수하는 탄소보다 더 많다.

삼성전자는 궁극적으로 미래에 인간 뇌처럼 수많은 데이터를 처리할 수 있는 고차원의 차세대 반도체 '뉴모로픽(Newmorphic)' 개발에도 힘을 쏟고 있다.

삼성전자는 지난달 함돈희 하버드대 응용물리학 및 전기공학과 교수를 SAIT(옛 삼성종합기술원) 부원장에 선임했다. 함 교수는 가장 진화한 형태의 꿈의 AI 반도체 '뉴로모픽 칩' 분야 권위자다.

그는 2021년 김기남 당시 삼성전자 부회장, 황성우 삼성SDS 사장 등과 함께 AI반도체 기술 뉴로모픽 주제 논문을 집필했다. 이는 세계적인 학술지 '네이처 일렉트로닉스'에 게재됐다.

앞으로 AI 산업은 반도체 '업(業)'의 본질을 바꿔 놓을 것으로 평가 받고 있다. 최근 젠슨 황 엔비디아 CEO(최고경영자)도 연례 개발자 콘퍼런스 'GTC 2024'에서 "엔비디아는 단순히 칩(Chip·반도체)를 파는 것이 아니라 플랫폼을 판다. CPU만 파는 이전과 방식과 달리 데이터센터를 위한 전체 시스템을 팔겠다"고 강조했다.

CPU(중앙처리장치)의 부속품으로 여겨지던 GPU가 AI 산업의 중심이 된 것처럼, 한낱 부품에 불과했던 메모리도 점차 주연급으로 대접 받고 있다. '메모리가 중심 역할을 하는 메모리 센트릭(Memory-Centric)' 시대가 우리 곁으로 성큼 도래하고 있는 것이다.

◎공감언론 뉴시스 [email protected]