엔비디아가 AI 팩토리 구축에 필요한 컴퓨팅과 네트워킹, 전력 공급, 냉각 시스템 등을 컨테이너에 사전 통합해 구축 기간을 대폭 줄이는 새로운 레퍼런스 설계를 공개했다. 기존 약 6개월이 소요되던 AI 인프라 구축 기간을 빠르면 14일까지 단축할 수 있어 AI 서비스의 가동 시점을 앞당길 것으로 기대된다.

엔비디아는 모듈형 컨테이너 내부에 엔비디아 베라 루빈(NVIDIA Vera Rubin) 기반 AI 팩토리를 구축할 수 있도록 지원하는 레퍼런스 설계 ‘DSX POD’를 공개했다고 밝혔다.

DSX POD는 파트너사가 AI 팩토리 운영에 필요한 주요 시스템을 제조 시설에서 사전에 통합하고 검증한 뒤 고객 현장에 공급할 수 있도록 설계됐다. 현장에 도착한 컨테이너형 유닛은 미리 구축된 전력, 냉각, 네트워킹 및 기타 지원 인프라에 연결해 가동할 수 있다.

기존 AI 팩토리 구축 방식은 현장에서 컴퓨팅 장비와 네트워크를 설치하고, 전력 공급과 냉각 시스템을 구성한 뒤 개별 장비의 연결 상태와 작동 여부를 검증해야 했다. 이 과정에서 복잡한 시공 계획과 전문 인력 확보, 부품 조달, 장비 운송 등이 필요해 구축 기간이 길어질 수 있었다.

반면 DSX POD는 컴퓨팅, 네트워킹, 케이블링, 랙 단위 전력 공급, 액체 냉각 시스템의 통합과 설치 과정을 제조 시설에서 수행한다. 이를 통해 현장 작업을 최소화하고 부품 조달 지연이나 설치 오류에 따른 위험을 줄일 수 있다.

엔비디아는 이러한 방식을 활용하면 기존 약 6개월이 걸리던 AI 팩토리 구축 기간을 조건에 따라 최단 14일까지 줄일 수 있다고 설명했다.

엔비디아 창립자 겸 CEO 젠슨 황(Jensen Huang)은 “AI 팩토리는 건설이 완료되는 시점이 아니라 토큰을 생산하기 시작할 때 가치를 창출한다”며 “엔비디아 DSX POD는 공장 제작 방식의 정밀도와 속도를 AI 인프라 구축에 도입해 구축 기간을 수개월에서 수주로 단축한다”고 말했다.

이어 “이를 통해 고객은 컴퓨팅 용량을 확장하고 수익 창출이 가능한 생산 환경을 더 빠르게 가동할 수 있다”고 덧붙였다.

공장 제작·사전 검증으로 AI 인프라 구축 효율 향상

DSX POD는 엔비디아 베라 루빈 시스템과 운영에 필요한 인프라를 반복 생산할 수 있는 컨테이너형 설계로 통합한 것이 특징이다. 파트너사는 표준화된 설계를 활용해 AI 팩토리용 시스템을 대규모로 생산하고 공급할 수 있다.

특히 엔비디아 DSX 인프라 플랫폼의 설계 철학을 계승하면서도 운송과 설치 전에 전용 컨테이너 내부에서 시스템 통합과 검증을 마치는 아키텍처를 적용했다.

파트너사는 제품을 출하하기 전에 랙 간 케이블 연결과 배선, 배관 설치, 기능 검증까지 완료한다. 이러한 작업은 실제 설치 현장의 인프라 준비 과정과 병행할 수 있어 전체 구축 일정 단축에 도움이 된다.

공장에서 테스트를 마친 컨테이너를 공급하기 때문에 현장에서 발생할 수 있는 복잡한 설치 작업과 오류를 줄일 수 있다는 것도 장점이다. 특히 대규모 AI 인프라 구축 과정에서 요구되는 전문 인력과 물류 부담을 낮추고, 장비 조달과 시공 과정에서 발생할 수 있는 일정 지연 위험을 줄이는 데 초점을 맞췄다.

엔비디아는 이러한 사전 제작 방식이 AI 팩토리의 실제 운영 시작 시점을 앞당기는 데 중요한 역할을 한다고 설명했다.

AI 팩토리는 단순히 장비 설치를 완료하는 것만으로 경제적 가치를 창출하는 것이 아니라 모델 학습이나 추론 등 실제 워크로드를 처리할 때부터 운영 효과가 발생한다.

엔비디아는 새로운 AI 팩토리가 모델을 실행해 실제 생산 워크로드를 처리하기 시작하는 시점인 ‘첫 토큰 생성 시점(Time to First Token, TTFT)’을 앞당기는 데 주목하고 있다.

DSX POD를 통해 고객이 AI 인프라를 더 빠르게 서비스에 투입하고, 모델 학습과 추론 서비스를 조기에 시작함으로써 토큰 생성에 따른 수익 창출 시점도 앞당길 수 있다는 설명이다.

델·HPE·레노버 등 글로벌 기업 협력…2027년 초 공급

엔비디아는 DSX POD의 생산과 글로벌 공급을 위해 주요 IT 인프라 및 산업 기술 기업들과 협력하고 있다.

협력사에는 안두릴(Anduril), 아르마다(Armada), 불(Bull), 크루소(Crusoe), 데이원(DayOne), 델 테크놀로지스(Dell Technologies), 델타(Delta), 이튼(Eaton), 폭스콘(잉그라시스)(Foxconn, Ingrasys), 기가바이트(GIGABYTE), HPE, 레노버(Lenovo), 페가트론(Pegatron), 콴타 클라우드 테크놀로지(Quanta Cloud Technology, QCT), 슈나이더 일렉트릭(Schneider Electric), 버티브(Vertiv), 위스트론(Wistron) 등이 포함된다.

엔비디아는 이들 파트너와 함께 2027년 초부터 전 세계 시장에 DSX POD 기반 AI 팩토리를 공급할 예정이다.

DSX POD는 AI 팩토리 구축에 필요한 주요 시스템을 제조 단계에서 통합·검증하고 현장에서는 준비된 기반 시설과 연결하는 방식으로, 대규모 AI 컴퓨팅 인프라의 구축 기간을 줄이는 데 중점을 둔다. 엔비디아는 이를 통해 고객의 AI 컴퓨팅 용량 확장과 생산 환경 가동을 지원한다는 계획이다.

김종혁 기자/news@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지