AMD Helios AI 랙 개요

AMD는 MI455X GPU와 6세대 EPYC CPU를 기반으로 하는 차세대 Helios AI 랙을 공개했다. 이 솔루션은 최첨단 AI 및 주권 컴퓨팅 분야의 선도적인 솔루션이 되는 것을 목표로 한다. AMD는 작년 Advancing AI 2025 행사에서 Helios AI 랙을 처음 선보였으며, 올해 컴퓨텍스에서 Helios 랙을 전시했다.

AMD의 목표는 AI 분야에서 최고의 성능을 제공하고 NVIDIA의 Oberon 및 Kyber 랙이 지배하는 현재 시장 구도를 변화시키는 것이다. Helios AI 랙은 AMD의 첫 번째 AI용 풀 스택 랙 수준 솔루션이며, 업계에 AMD의 개방형 표준을 제시한다. Helios AI 랙은 단순한 하드웨어 구성 요소가 포함된 표준 랙이 아니며, AMD는 최신 기술을 적용하여 Helios를 사용하는 기업들이 모든 기능을 활용할 수 있도록 했다.

AMD Helios AI 랙은 Advancing AI 2026 행사에서 공식 출시될 예정이지만, AMD는 이미 전체 플랫폼 세부 정보를 공개했다. Helios AI 랙의 세 가지 핵심 구성 요소는 AMD Instinct MI400 시리즈 GPU, 6세대 EPYC CPU, 그리고 Pensando 네트워킹 및 패브릭 기술이다.

핵심 구성 요소: MI400 시리즈 GPU 및 6세대 EPYC CPU

AMD Instinct MI400 시리즈는 Helios AI 랙에 탑재되는 GPU다. 이 GPU는 최신 CDNA 5 아키텍처를 기반으로 하며, MI455X 및 MI450X는 AI 훈련 및 추론 워크로드에, MI430X는 HPC 및 주권 AI 워크로드에 사용된다. MI455X는 40 PFLOPs의 FP4 및 20 PFLOPs의 FP8 컴퓨팅 성능을 제공하며, 이는 MI350 시리즈의 두 배에 달한다. 비교를 위해 NVIDIA Rubin GPU는 50 PFLOPs의 FP4 및 17.5 PFLOPs의 FP8 컴퓨팅 성능을 제공한다.

AMD Instinct MI400 시리즈는 HBM4 메모리를 활용한다. 새로운 칩은 288GB HBM3e에서 432GB HBM4로 50% 메모리 용량이 증가한다. HBM4 표준은 19.6 TB/s의 대역폭을 제공하며, 이는 MI350 시리즈의 8 TB/s보다 두 배 이상 높다. 비교를 위해 Rubin GPU는 288GB HBM4에 22 TB/s의 대역폭을 제공한다.

Helios에 탑재되는 6세대 EPYC CPU는 코드명 Venice로 불리며, 새로운 Zen 6 코어 아키텍처를 기반으로 한다. AMD EPYC Venice 칩은 TSMC의 2nm 공정 기술로 양산되는 최초의 HPC 제품이며, 최대 256코어 512스레드를 제공한다. AMD는 EPYC Venice CPU가 70% 이상의 성능 및 효율성 향상과 30% 이상의 스레드 밀도 증가를 제공할 것으로 예상한다. AMD는 초기 벤치마크에서 5세대 Turin “Zen 5” CPU가 Vera를 앞서고, 6세대 Venice “Zen 6” 칩은 훨씬 더 큰 성능 우위를 보이며 더 나은 TCO를 제공한다고 밝혔다.

네트워킹 및 통합 솔루션

네트워킹 및 패브릭은 데이터센터 및 엔터프라이즈 솔루션에서 핵심적인 역할을 한다. AMD의 Pensando 스택은 이러한 기술을 제공하며, Helios는 최신 Vulcano 800 AI NIC 및 Salina DPU를 탑재했다. AMD Pensando “Vulcano” 800 AI NIC는 800Gbps 고성능 스위치로, GPU당 최대 2.4Tbps의 스케일아웃 대역폭을 제공한다. 스케일업 패브릭은 UALink over Ethernet(UALoE)을 활용하여 랙 스케일에서 고대역폭, 저지연 GPU 연결을 제공한다. 이 패브릭은 Helios AI 랙이 지원하는 최대 72개의 GPU에 원활한 상호 연결을 제공한다.

AMD Pensando DPU는 AI 서버를 엔터프라이즈 네트워크에 연결하며, 네트워크, 보안 및 스토리지 오프로드를 가속화하여 AI 서버 효율성을 높인다. Salina DPU는 16개의 Arm N1 코어를 탑재하여 프런트엔드 서버-클라이언트 연결을 위한 네트워킹, 보안 및 스토리지 오프로드를 처리한다. 각 Salina DPU는 CPU 전용 처리보다 40% 빠른 속도를 제공하며, AMD 이전 세대 DPU보다 두 배의 성능을 제공하고 NVIDIA BlueField-3 DPU보다 40% 성능 향상을 제공한다.

AMD Helios AI 랙은 Meta의 Open Rack Wide 표준을 사용하며, 완전 액체 냉각 설계로 18개의 컴퓨트 트레이와 6개의 스위치를 갖췄다. 각 트레이에는 4개의 Instinct MI455X GPU와 1개의 EPYC Venice “Zen 6” CPU가 탑재된다. 시스템은 AMD Pensando “Salina” 400 DPU 및 Pensando “Vulcano” 800 AI NIC를 네트워킹 및 상호 연결에 활용한다. Helios AI 랙은 총 72개의 GPU를 탑재하며, 각 GPU는 구리로 제작된 액체 냉각판 아래에 배치된다. Helios AI 랙은 약 5000파운드의 무게와 약 500만~550만 달러의 비용이 들며, 각 랙은 약 225~245kW의 전력을 소비한다.

Helios AI 랙은 최대 2.9 Exaflops의 FP4 컴퓨팅, 1.4 Exaflops의 FP8 컴퓨팅, 31 TB의 HBM4 메모리, 1.4 PB/s의 총 대역폭, 43 TB/s의 스케일아웃 대역폭, 260 TB/s의 스케일업 상호 연결 대역폭, 그리고 최대 4600개의 CPU 코어와 18,000개의 GPU 코어를 제공한다. 이 모든 기능은 Helios가 수조 개의 매개변수 모델 훈련 및 대규모 AI 추론에서 세대별 도약을 제공할 수 있도록 한다.

ROCm은 AI 및 HPC를 위한 AMD의 산업 표준이다. NVIDIA의 CUDA에 대한 직접적인 경쟁자인 AMD는 ROCm 스택을 v7.14까지 발전시켰다. ROCm은 개방형 하드웨어 및 소프트웨어 표준을 제공하여 통합 복잡성을 줄이고 모든 AMD 플랫폼에서 AI 배포를 가속화한다. Helios는 PyTorch, TensorFlow, JAX, Hugging Face, vLLM, SGL, Deepspeed, ONNX, llm-d, OpenXLA, MLID, Llama Stack 등 다양한 프레임워크에 대한 기본 지원을 제공한다.

Agentic AI에 대한 폭발적인 수요는 더 많은 컴퓨팅에 대한 수요 증가로 이어졌으며, Helios는 엄청난 기능을 제공한다. AMD와 Microsoft는 Helios Rackscale 솔루션이 고객에게 배포되고 Azure AI 서비스를 지원할 것이라고 발표했다. Microsoft 외에도 AMD는 OpenAI, META, Oracle, HPE, TCS, Celestica, Nutanix, US DOE를 포함한 다양한 고객에게 Helios AI Rackscale 솔루션, 6세대 EPYC CPU 및 MI455X GPU를 제공할 것이라고 발표했다.

AMD의 Helios AI 랙은 Agentic AI 시대에 대한 대담하고 포괄적인 도약을 나타낸다. 최첨단 Instinct MI455X GPU, 강력한 6세대 EPYC Venice CPU, 고급 Pensando 네트워킹 기술을 액체 냉각 방식의 강력한 플랫폼에 통합한 완전 통합형 개방형 표준 랙 스케일 플랫폼을 제공한다. 우수한 HBM4 메모리 용량, 탁월한 스케일업 및 스케일아웃 대역폭, 광범위한 프레임워크 지원을 제공하는 성숙한 ROCm 소프트웨어 생태계를 갖춘 Helios는 경쟁 솔루션보다 더 높은 메모리 밀도, 더 큰 유연성, 그리고 매력적인 가격 대비 성능 이점을 제공하여 기존 시장 질서에 도전할 위치에 있다. Microsoft, OpenAI, Meta, Oracle을 포함한 인상적인 초기 채택자 목록의 지원을 받는 이 혁신적인 시스템은 수조 개의 매개변수 모델 훈련 및 대규모 추론을 가속화하는 동시에 보다 개방적이고 상호 운용 가능한 AI 인프라를 육성할 것으로 기대된다. Advancing AI 2026에서 공식 출시를 준비하는 Helios는 AMD의 고성능 리더십에 대한 약속을 강조하며 AI 하드웨어의 빠른 발전을 보여주는 강력한 증거다.