슈퍼마이크로(Supermicro, Inc., NASDAQ: SMCI)는 12일 엔비디아(NVIDIA) 블랙웰(Blackwell) 아키텍처 기반의 새로운 AI 시스템을 공개하며 포트폴리오를 확장했다. 이번에 발표된 제품은 대규모 AI 훈련 및 클라우드 규모 추론 워크로드에 최적화된 4U DLC-2 액체 냉각식 NVIDIA HGX B200 시스템과 8U 전면 I/O 공랭식 시스템이다. 두 제품 모두 향후 출시될 NVIDIA HGX B300 플랫폼을 지원하도록 설계됐으며, 전면 I/O 접근성을 통해 케이블링 단순화, 열효율 개선, 컴퓨팅 밀도 향상, 운영비 절감을 실현한다.

Front IO B200 Solutions

찰스 리앙(Charles Liang) 슈퍼마이크로 CEO 겸 사장은 "DLC-2 기반 HGX B200 시스템은 AI 팩토리 구축 시 전력 절감과 온라인 가동 준비 시간을 단축한다"며, "빌딩 블록(Building Block) 아키텍처를 통해 고객 요구에 맞춘 솔루션을 신속히 제공할 수 있다"고 밝혔다. 이어 "공랭식·액체 냉각식 모두에서 다양한 AI 인프라 요구에 맞춘 블랙웰 솔루션 제공이 가능하다"고 덧붙였다.

차세대 액체 냉각 기술 ‘DLC-2’ 적용

슈퍼마이크로의 DLC-2(Direct Liquid Cooling) 솔루션은 고집적 컴퓨팅 환경에서 전력과 물 사용량 절감, 소음 감소 효과를 제공한다. 주요 특징은 다음과 같다.

- 데이터센터 전력 최대 40% 절감 - 칠러(Chiller) 사용 최소화로 물 소비량 최대 40% 절감 - 주요 부품( CPU, GPU, DIMM, PCIe 스위치, VRM, 전원공급장치) 열의 최대 98% 액체 냉각 흡수 - 최대 45°C 유입 온수 냉각 가능 - 소음 수준 50dB까지 저감

이 기술은 엔드투엔드 데이터센터 규모의 액체 냉각 솔루션을 제공해 배포와 가동 준비 시간을 단축하며, 공랭식 대비 효율성을 크게 높인다.

전면 I/O 설계로 배치 효율 극대화

이번 신제품은 전면 I/O 설계로 네트워킹, 케이블링, 스토리지 관리의 편의성을 강화했다. NVIDIA ConnectX-7 NIC 8개, NVIDIA BlueField-3 DPU 2개를 전면에 배치했으며, NVIDIA Quantum-2 InfiniBand와 Spectrum-X 이더넷 플랫폼을 완벽 지원해 고성능 컴퓨트 패브릭을 구현한다.

또한 32개의 DIMM 슬롯을 통한 메모리 확장 업그레이드로 CPU-GPU 병목 현상을 제거하고 대규모 워크로드를 최적화했다. 가상화 환경에서 다중 작업 효율성 향상과 데이터 전처리 가속으로 NVIDIA HGX B200의 HBM3e GPU 메모리를 보완한다.

4U 전면 I/O 액체 냉각식 시스템은 최대 350W P코어를 지원하는 Intel Xeon 6700 시리즈 듀얼 소켓 프로세서와 NVIDIA HGX B200 8-GPU(각 180GB HBM3e)를 탑재했다. 메모리는 최대 8TB(5200MT/s DDR5 RDIMM 기준) 또는 최대 4TB(6400MT/s DDR5 RDIMM 기준)까지 구성 가능하며, 8개의 핫스왑 E1.S NVMe 스토리지 드라이브 베이와 2개의 M.2 NVMe 부팅 드라이브를 제공한다.

8U 전면 I/O 공랭식 시스템은 동일한 전면 접근 아키텍처와 주요 사양을 유지하면서 액체 냉각 인프라가 없는 환경에 적합한 간소화된 솔루션이다. 슈퍼마이크로의 10U 대비 컴팩트한 폼팩터를 적용해 CPU 트레이 높이를 줄였으며, GPU 트레이는 6U 높이를 유지해 공랭 성능을 극대화했다.

AI 성능 및 확장성

모든 슈퍼마이크로 4U 액체 냉각 시스템과 8U·10U 공랭식 시스템은 NVIDIA HGX B200 8-GPU에 최적화돼 있으며, 각 GPU는 5세대 NVLink를 통해 초당 1.8TB로 연결돼 시스템당 총 1.4TB의 HBM3e GPU 메모리를 제공한다. 엔비디아 블랙웰 플랫폼은 전 세대 호퍼(Hopper) 대비 LLM 실시간 추론 성능을 최대 15배, 학습 속도를 3배 향상시킨다.

카우스투브 상가니(Kaustubh Sanghani) 엔비디아 GPU 제품 관리 부사장은 "기업은 슈퍼마이크로의 신규 전면 I/O B200 시스템을 통해 AI를 전례 없는 속도로 구축·확장할 수 있다"며, "혁신, 효율성, 운영 우수성을 달성할 수 있다"고 말했다.

김종혁 기자/news@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지