슈퍼마이크로컴퓨터(Super Micro Computer, Inc., 이하 슈퍼마이크로)가 에이전틱 AI와 강화학습(RL) 워크로드에 최적화된 고밀도 컴퓨팅 인프라 '엔비디아 베라 CPU 랙(NVIDIA Vera CPU Rack)'을 공개했다.

이번 신제품은 슈퍼마이크로의 데이터센터 빌딩 블록 솔루션(DCBBS) 포트폴리오에 추가된 랙 스케일 시스템으로, 엔비디아 베라 CPU 256개를 통합해 대규모 AI 에이전트의 병렬 실행과 데이터 처리를 지원하도록 설계됐다.

최근 에이전틱 AI와 강화학습 기술이 발전하면서 AI 데이터센터에서 CPU가 담당하는 역할도 확대되고 있다. 기존의 선형적인 추론 방식과 달리 여러 AI 에이전트가 작업을 분담하거나 반복적으로 수행하는 환경에서는 GPU뿐 아니라 이를 뒷받침할 CPU 연산 자원이 중요해지고 있기 때문이다.

GPU가 토큰과 코드, 쿼리 생성 등 AI 추론 작업을 처리한다면, CPU 기반 샌드박스는 실제 작업 실행과 결과 평가, 외부 도구 활용, 워크플로 관리 등을 담당한다. 특히 수백~수천 개의 GPU를 운영하는 AI 팩토리에서는 다수의 에이전트를 동시에 실행하기 위한 전용 CPU 컴퓨팅 인프라가 요구된다.

슈퍼마이크로의 엔비디아 베라 CPU 랙은 이러한 수요에 대응하기 위해 총 2만2528개 코어와 4만5056개 스레드를 제공한다. 이를 기반으로 랙당 최대 2만2500개의 AI 에이전트 샌드박스를 동시에 지원할 수 있다.

네트워크 처리와 보안 기능도 강화했다. 엔비디아 블루필드-4(BlueField-4) DPU를 통합해 고성능 네트워킹과 하드웨어 수준의 보안 기능을 제공하며, 대규모 에이전트 워크로드를 안정적으로 운영할 수 있도록 지원한다.

냉각 시스템에는 슈퍼마이크로의 DLC-2 직접 수냉식 냉각 기술 스택이 적용됐다. 랙 전체를 100% 수냉식으로 구성해 고밀도 CPU 환경에서 발생하는 열을 처리하도록 설계했으며, 수냉식 AI 팩토리 환경에 대응한다.

또한 현재 출하 중인 슈퍼마이크로의 엔비디아 베라 루빈 NVL72(NVIDIA Vera Rubin NVL72) 시스템과 함께 운영하거나 독립적인 CPU 컴퓨팅 인프라로 구축할 수 있다. 이를 통해 데이터센터 운영자는 GPU 중심의 AI 인프라에 CPU 연산 자원을 추가하거나 워크로드 특성에 따라 별도의 시스템을 구성할 수 있다.

슈퍼마이크로는 수냉식 랙 외에도 공냉식 1U 및 2U 서버 시스템을 제공해 고객의 데이터센터 환경과 냉각 인프라에 따른 선택의 폭을 넓히고 있다.

찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 "에이전틱 AI가 데이터센터의 요구사항을 변화시키면서 슈퍼마이크로는 완전 통합형 인프라를 통해 DCBBS 포트폴리오를 확장하고 있다"며 "공냉식 구축을 원하는 고객을 위해 랙 스케일 수냉식 솔루션 외에도 공냉식 1U 및 2U 시스템을 제공한다"고 설명했다.

이어 "엔비디아와 함께 보안성과 확장성을 갖춘 에이전틱 AI 최적화 공통 아키텍처를 제공해 고객의 인프라 구축 소요 시간을 단축할 수 있도록 지원하겠다"고 덧붙였다.

크리스 메리어트(Chris Marriott) 엔비디아 엔터프라이즈 플랫폼 부문 부사장은 "기업들이 에이전틱 AI와 강화학습을 확장하면서 수천 개의 에이전트 워크플로를 동시에 지원할 수 있는 새로운 차원의 고밀도 CPU 인프라가 필요해지고 있다"고 말했다.

또한 "엔비디아 베라 CPU와 블루필드-4 DPU를 슈퍼마이크로의 수냉식 DCBBS 아키텍처와 통합함으로써 고객은 AI 팩토리 전반에서 에이전틱 워크로드 실행을 확장하는 데 필요한 전용 컴퓨팅 역량과 하드웨어 기반 보안을 확보할 수 있다"고 밝혔다.

이준문 기자/jun@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지