슈퍼마이크로컴퓨터(Super Micro Computer, Inc., SMCI, 이하 슈퍼마이크로)가 최신 AMD 인스팅트(Instinct) MI350 시리즈 GPU를 기반으로 한 새로운 AI 최적화 서버 솔루션을 발표했다.

이번에 공개된 슈퍼마이크로 H14 세대 GPU 최적화 서버는 수냉식과 공냉식 냉각 옵션을 모두 지원하며, 성능과 확장성, 효율성을 고루 갖춘 것이 특징이다. 이 서버는 AMD 인스팅트 MI350 시리즈 GPU와 듀얼 AMD EPYC 9005 시리즈 프로세서를 동시에 탑재해, 고성능이 요구되는 대규모 데이터센터 환경에서도 높은 성능을 유지하면서 총소유비용(TCO) 절감을 추구하는 기업을 겨냥했다.

찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 최고경영자(CEO)는 “슈퍼마이크로는 AI와 고성능컴퓨팅(HPC) 애플리케이션에 최적화된 시스템 설계 및 공급에 풍부한 경험을 지니고 있으며, 이를 바탕으로 업계를 선도하고 있다”고 말했다. 그는 또한 “슈퍼마이크로의 데이터센터 빌딩 블록 솔루션(DCBBS)은 고객이 최첨단 기술을 신속하게 시장에 도입할 수 있도록 돕는 동시에, 복잡한 요구사항을 가진 애플리케이션에도 적합한 엔드투엔드 솔루션을 제공한다”고 강조했다.

리앙 CEO는 이어 “슈퍼마이크로 GPU 서버 라인업에 MI350 시리즈 GPU를 추가함으로써 당사의 AI 솔루션을 더욱 강화하고 확장했다”며, “이로 인해 고객들은 차세대 데이터센터 설계 및 구축 과정에서 더욱 폭넓은 선택지와 향상된 성능을 누릴 수 있게 됐다”고 밝혔다.

슈퍼마이크로가 새롭게 선보인 H14 세대 데이터센터 솔루션은 AI, HPC, 클라우드, 엔터프라이즈 워크로드 전반에서 탁월한 성능과 유연성을 제공한다. 슈퍼마이크로의 검증된 빌딩 블록 아키텍처를 기반으로 설계된 해당 솔루션은 엔터프라이즈 고객이 기존 워크로드를 효율적으로 업그레이드하고 확장할 수 있도록 한다. AMD의 최신 EPYC CPU와 Instinct GPU가 함께 탑재된 신규 서버는 강력한 AI 기능을 지원하는 제품군을 구성하며, 슈퍼마이크로의 DCBBS를 통해 컨설팅부터 설치, 사후 지원에 이르기까지 전 과정에서 고객을 지원한다.

AMD 회장 겸 CEO 리사 수(Lisa Su)는 “AMD 인스팅트 MI350 시리즈는 OEM 인프라와의 호환성을 유지하기 위해 업계 표준 폼팩터를 따르면서도 경쟁 제품 대비 달러당 토큰 처리량이 최대 40% 더 우수한 성능을 제공한다”고 밝혔다. 수 CEO는 “이 GPU가 슈퍼마이크로의 검증된 플랫폼과 결합되면, 고객은 AMD 기술 기반의 수냉식 또는 공냉식 완전 통합 랙 시스템을 구축할 수 있다”며, “이를 통해 모든 규모에서 유연하고 효율적인 고성능 AI 솔루션이 구현 가능하다”고 덧붙였다.

AMD 인스팅트 MI350 시리즈 GPU 기반 슈퍼마이크로 AI 솔루션

슈퍼마이크로는 수냉식 및 공냉식 고성능 패브릭 기반 8GPU 시스템을 지속적으로 확장하고 있으며, 업계 표준 개방형 멀티 아키텍처인 OCP 가속기 모듈(OAM)을 활용해 AMD 인스팅트 MI350 시리즈 GPU를 지원하고 있다. 특히 MI355X GPU가 탑재된 4U 수냉식 시스템은 슈퍼마이크로가 새롭게 개발한 직접 수냉식 냉각(DLC) 아키텍처를 적용해 고밀도 환경에 적합하도록 설계됐다.

이 DLC 아키텍처는 다양한 서버 구성 요소의 열을 효율적으로 관리하며, 전력 소비를 최대 40%까지 절감할 수 있다. 또한 랙당 성능을 극대화하고 대규모 냉각 인프라 환경을 지원하는 데 적합하다. 고객은 고집적도 랙 스케일 구축을 위한 4U 수냉식 옵션과, 공냉식 환경에 적합한 8U 옵션 중 선택할 수 있다.

해당 가속화 GPU 서버는 컴퓨팅 처리량, 메모리 대역폭 활용도, 에너지 효율성을 최대화해 보다 전력 효율적인 AI 추론 환경을 제공한다. AMD 인스팅트 MI350 시리즈는 GPU당 288GB의 HBM3e 메모리를 탑재해, 기존 AMD 인스팅트 GPU 대비 메모리 용량이 약 1.5배 증가했다. 이와 함께 8TB/s의 대역폭을 제공하며, FP16 및 FP8 정밀도 기준 페타플롭스 성능은 기존 MI325X 대비 1.8배 향상되었다. 이로 인해 고객은 AI 워크로드에서 더 많은 데이터를 더욱 빠르게 처리할 수 있다.

ABI 리서치(ABI Research)의 산업 분석가 폴 셸(Paul Schell)은 “AI 모델은 점차 복잡하고 방대한 형태로 진화하고 있으며, 실제 환경에서 안정적으로 구동할 수 있는 인프라가 필요하다”고 지적했다. 그는 “슈퍼마이크로가 H14 세대 시스템에 AMD MI350 GPU를 추가한 것은 AI 학습과 추론 모두에 적합한 확장성과 성능, 메모리 용량을 제공하겠다는 명확한 의지를 반영한 것”이라고 평가했다. 셸 분석가는 또한 “수냉식과 공냉식을 모두 지원하는 이 시스템은 CSP, 차세대 클라우드, 엔터프라이즈 환경에서 차세대 AI 확장을 이끄는 핵심 인프라로 자리매김할 것”이라고 덧붙였다.

이번에 공개된 슈퍼마이크로의 GPU 솔루션은 클라우드 서비스 공급업체와 엔터프라이즈 고객이 대규모 AI 워크로드를 안정적으로 처리할 수 있도록 설계됐다. AMD의 4세대 CDNA 아키텍처를 기반으로 하는 인스팅트 MI350 시리즈는 AI 학습과 추론뿐만 아니라 복잡한 과학 시뮬레이션까지 다양한 고성능 워크로드를 지원하며, FP6 및 FP4와 같은 새로운 데이터 유형도 채택해 대규모 AI 모델 처리에 필요한 확장성과 에너지 효율성을 함께 제공한다.

박현수 기자/news@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지