AI 추론 칩 기업 d-매트릭스(d-Matrix)가 차세대 랩터(Raptor) XPU를 엔비디아의 NVLink 퓨전(Fusion)으로 연결한다. 엔비디아 AI 인프라 플랫폼에 맞춰 랙스케일 배포를 진행한다는 계획이다. 엔비디아가 현지 시각 9월 10일 공식 블로그를 통해 발표했다.

NVLink 퓨전은 커스텀 XPU와 CPU를 엔비디아 스택에 연결하는 고대역폭·저지연 기술이다. d-매트릭스는 이를 통해 엔비디아 MGX 랙 아키텍처와 스펙트럼-X(Spectrum-X) 스케일아웃 네트워킹을 활용한다. 검증된 랙 설계와 공급망, 전력·냉각 인프라를 그대로 쓸 수 있다는 설명이다.

d-매트릭스는 NVLink로 XPU를 하나의 고대역폭 스케일업 도메인으로 묶을 계획이다. 엔비디아 베라 루빈 NVL72(Vera Rubin NVL72) 같은 GPU 시스템과 함께 분리형 추론(disaggregated inference) 구성으로 운영할 수 있다. 베라 CPU와 커넥트X-9 슈퍼닉, 블루필드-4 DPU, 스펙트럼-X 이더넷도 함께 통합한다.

시드 셰스(Sid Sheth) d-매트릭스 최고경영자(CEO)는 추론 수요가 급증하고 있지만 자본과 시간, 에너지는 한정돼 있다고 말했다. NVLink 퓨전과 MGX를 통해 랩터 XPU를 널리 배포된 수랭식 아키텍처에 통합할 수 있다는 설명이다. 고객에게 더 빠르고 위험이 낮은 배포 경로를 제공한다고 덧붙였다.

NVLink 퓨전은 엔비디아 AI 팩토리에 특화된 XPU 아키텍처를 여는 기술로 소개됐다. 엔비디아는 커스텀 칩 기업들이 프로세서 혁신에 집중하고, 배포는 자사 인프라로 처리하도록 생태계를 확장하고 있다. d-매트릭스도 이 생태계에 합류했다.

d-매트릭스는 데이터센터 추론용 AI 칩을 개발하는 스타트업이다. 이번 발표로 자체 칩을 엔비디아 생태계에 통합하게 됐다. 랙스케일 배포를 위한 구체적인 일정은 공개되지 않았다.

분리형 추론은 GPU 시스템과 추론 전용 칩을 분리해 운영하는 방식이다. 대규모 GPU 시스템이 학습과 추론을 함께 처리하는 대신, 추론 전용 칩이 별도로 배치된다. d-매트릭스는 랩터 XPU를 베라 루빈 NVL72와 함께 분리형 추론 구성으로 운영할 계획이다. 추론 수요가 증가하는 환경에서 전력과 비용을 절감하기 위한 선택이다.

자세한 내용은 엔비디아 블로그에서 확인할 수 있다.

이미지 출처: d-매트릭스