ASUS가 대만 타오위안시 루주(Luzhu)에 위치한 AI Lab을 글로벌 미디어에 공개했다.

ASUS는 6월 2일 각국 IT 전문 매체를 초청해 AI Lab 투어 행사를 진행하고 AI 서버 사업 현황과 데이터센터 구축 역량, 연구시설 운영 현황 등을 소개했다. 이날 행사는 2층 브리핑룸에서 진행된 발표 세션과 3층 연구시설 투어로 구성됐으며, Joseph Lu ASUS Infrastructure Solution BG 시니어 디렉터가 AI 사업 현황과 AI Lab 구축 배경을 설명한 뒤 Jerry Wang ASUS Infrastructure Solution BG 프로덕트 매니저와 Charles Yan ASUS Infrastructure Solution BG 시니어 매니저가 연구시설 내부를 직접 안내했다.

AI 서버 공급 확대와 함께 이어진 HPC 경험

최근 AI 시장은 단순히 GPU 성능 경쟁만으로 평가되던 단계에서 벗어나고 있다. 생성형 AI 모델 규모가 빠르게 커지고 추론 서비스 수요 역시 증가하면서 서버 한 대의 성능보다 수백 대, 수천 대 규모의 시스템을 어떻게 구축하고 운영할 것인지가 중요한 과제로 떠오르고 있다. 이에 따라 전력 공급과 냉각 설계, 네트워크 구성, 운영 소프트웨어 등 데이터센터 전반의 역할이 함께 중요해지고 있으며, 서버 제조사 역시 하드웨어 공급을 넘어 인프라 사업으로 영역을 확대하는 추세다.

Joseph Lu 시니어 디렉터는 발표를 통해 ASUS 역시 이러한 변화에 맞춰 AI 서버와 데이터센터 인프라 사업을 확대하고 있다고 설명했다. ASUS는 최근 NVIDIA GB300 NVL72 기반 시스템 출하를 시작했으며 NVIDIA HGX B300 기반 서버 역시 글로벌 시장에 공급하고 있다.

NVIDIA GB300 NVL72는 최신 Blackwell Ultra GPU를 기반으로 구성된 랙 스케일 AI 플랫폼이다. 대규모 AI 학습과 추론 환경을 위해 설계된 제품으로 수십 개 GPU를 하나의 연산 자원처럼 활용할 수 있도록 구성된다. ASUS는 해당 플랫폼 공급을 시작하며 AI 인프라 사업 확대에 속도를 내고 있다고 설명했다.

이어 소개된 NVIDIA HGX B300 기반 서버는 CPU와 GPU뿐 아니라 전원 설계와 냉각 구조, 인터커넥트, 펌웨어, 관리 소프트웨어 등이 결합된 복합 시스템이라는 점도 함께 설명됐다. AI 서버가 단순히 연산 장치를 집적한 제품이 아니라 다양한 구성 요소가 안정적으로 동작해야 하는 플랫폼이라는 설명이다.

발표에서는 ASUS가 참여해 온 HPC 및 AI 프로젝트 이력도 함께 소개됐다. 자료에 따르면 ASUS는 2011년부터 대만 국가고성능컴퓨팅센터(NCHC) 프로젝트에 참여해 왔으며 Formosa 4와 Formosa 5를 비롯해 Taiwania 2, Taiwania 3, Forerunner 1, Nano 4, Nano 5 등 다양한 슈퍼컴퓨팅 시스템 구축 사업을 수행해 왔다.

최근에는 대만을 넘어 UAE와 베트남 등 해외 지역으로 공급 범위를 확대하고 있으며 H100과 H200, GB200, GB300 기반 AI 인프라 구축 프로젝트도 진행하고 있다고 설명했다. Joseph Lu는 이러한 프로젝트 경험을 통해 대규모 데이터센터 구축과 운영 과정에서 필요한 기술과 운영 노하우를 축적해 왔다고 소개했다. 단순히 서버를 공급하는 수준을 넘어 실제 데이터센터 운영 과정에서 요구되는 전력과 냉각, 시스템 검증, 운영 관리에 대한 경험 역시 함께 확보해 왔다는 설명이다.

설계부터 검증, 생산과 지원까지 자체 수행

ASUS는 발표를 통해 자체 엔지니어링 역량도 강조했다.

발표 자료에는 하드웨어 설계와 전원 설계, 기구 설계, 펌웨어, 관리 소프트웨어, 품질 검증, 프로젝트 관리, 공급망 운영, 기술 지원 등이 모두 ASUS 내부 조직을 통해 운영되고 있다는 내용이 포함됐다.

Joseph Lu 매나저는 AI 서버가 CPU와 GPU만으로 완성되는 제품이 아니라 전원부와 냉각 구조, 펌웨어, 관리 플랫폼까지 하나의 시스템으로 동작해야 한다고 설명했다. 또한 설계와 검증, 생산, 기술 지원 조직이 유기적으로 연결돼 있어 고객 요구사항에 대한 대응이나 문제 해결 과정에서도 보다 빠른 지원이 가능하다고 덧붙였다.

이어 소개된 AI Lab은 크게 RD Lab, QTR Lab, Thermal Lab, 그리고 데이터센터 구축 및 운영 플랫폼으로 구성된다. RD Lab은 실제 데이터센터 환경을 구현한 검증 시설이며, QTR Lab은 극한 환경에서 제품 신뢰성을 검증하는 공간이다. Thermal Lab은 데이터센터 내부 공기 흐름과 냉각 환경을 재현하는 역할을 담당하며, 소프트웨어 플랫폼은 데이터센터 구축과 운영을 지원한다.

브리핑을 마친 뒤 기자단은 3층 연구시설로 이동해 각 시설을 직접 둘러보는 시간을 가졌다.

실제 AI 데이터센터 환경을 구현한 RD Lab

RD Lab을 투어를 시작으로 진행된 2부 행사에서 Jerry Wang 프로덕트 매니저는 최근 AI 서버의 전력 밀도와 발열이 지속적으로 증가하면서 액체 냉각 기술의 중요성이 커지고 있다고 설명했다.

RD Lab은 이러한 환경을 고려해 실제 AI 데이터센터와 유사한 구조로 설계된 연구시설로, 액체 냉각 서버와 공랭 서버를 모두 검증할 수 있는 하이브리드 환경이 구축되어 있어 출하 예정 제품에 대한 기능 검증과 펌웨어 테스트는 물론 고객 환경에서 발생한 문제 재현과 냉각 효율 분석, 전력 사용량 검증 등이 이곳에서 수행된다고 설명했다. ASUS는 연구시설과 실제 운영 환경 사이의 차이를 최소화하기 위해 데이터센터와 유사한 구조를 적용했다고 설명했다.

시설 내부에는 NVIDIA GB300 NVL72 기반 ASUS AI POD가 설치돼 있었다.

현장에 구축된 시스템은 ASUS XA GB721-E2 플랫폼으로 36개의 NVIDIA Grace CPU와 72개의 NVIDIA Blackwell Ultra GPU를 하나의 랙에 통합한 형태로 ASUS는 해당 시스템을 활용해 출하된 GB300 플랫폼에 대한 펌웨어 검증과 기능 테스트, 시뮬레이션 작업 등을 수행하고 있다고 설명했다.

Jerry Wang 매니저는 이 시스템의 전체 전력 소비량이 약 132kW 수준이라고 설명하며, 일반적인 서버와 비교하기 어려운 수준의 전력 소비량을 갖는 만큼 기존 공랭 방식만으로는 효율적인 냉각이 어렵고, 이에 따라 액체 냉각 기반 데이터센터 설계가 필요하다고 덧붙였다.

GB300 NVL72 중앙에는 NVLink 스위치가 배치돼 있으며 이를 통해 랙 내부에 탑재된 72개의 GPU를 하나의 대규모 연산 자원처럼 연결할 수 있다. 최근 AI 데이터센터 시장에서 주목받고 있는 랙 스케일 컴퓨팅 개념을 보여주는 사례로, CPU와 GPU, 네트워크 인터커넥트가 하나의 플랫폼으로 통합되면서 랙 전체가 하나의 연산 자원처럼 동작하는 구조를 갖추고 있다.

RD Lab은 실제 데이터센터와 동일하게 Cold Aisle과 Hot Aisle 구조를 적용하고 있다. 냉기가 공급되는 공간과 열기가 배출되는 공간을 분리해 냉각 효율을 높이는 방식으로, 데이터센터에서 널리 활용되는 설계다.

전력 공급 라인은 천장을 통해 연결되며 냉각 배관은 이중 마루(Raised Floor) 아래에 배치돼 있다. ASUS는 GB300 NVL72 랙 한 대의 무게가 약 1.6톤 수준에 이르는 만큼 일반적인 바닥 구조가 아닌 Raised Floor 구조를 적용해 하중을 분산시키고 냉각 배관과 전력 설비를 효율적으로 배치했다고 설명했다.

RD Lab 내부에는 CDU(Cooling Distribution Unit)를 중심으로 한 액체 냉각 설비도 구축돼 있다. 액체 냉각 데이터센터는 일반적으로 두 개의 냉각 루프를 사용한다. Primary Loop는 CDU와 냉각탑을 연결하며 Secondary Loop는 서버와 CDU를 연결한다. ASUS는 이러한 구조를 통해 대규모 AI 시스템에서 발생하는 열을 효율적으로 관리하고 있다고 설명했다.

또한 냉각 시스템은 일반 데이터센터에서 널리 사용되는 7℃ 냉각수 대신 20℃ 냉각수 기반으로 설계됐다. ASUS에 따르면 이를 통해 냉각 효율을 유지하면서도 전력 사용량을 줄일 수 있으며, 발표 자료에서는 연간 전력 사용량을 약 30% 절감할 수 있다고 설명했다.

현장에서는 냉각수 온도와 습도, 전압, 전류, 압력 차이, 누수 감지 상태 등을 실시간으로 확인할 수 있는 통합 모니터링 시스템도 공개됐다. ASUS는 이러한 데이터를 활용해 데이터센터 환경을 시뮬레이션하고 냉각 효율과 전력 사용 효율(PUE)을 분석하고 있다고 설명했다.

극한 환경 신뢰성 검증을 위한 QTR Lab

두 번째로 방문한 공간은 QTR(Quality Test for Reliability) Lab이다.

QTR Lab은 AI 서버가 다양한 환경에서도 안정적으로 동작하는지 검증하기 위한 시설로, 대형 챔버 내부에서 온도와 습도를 자유롭게 조절할 수 있도록 구성돼 있다.

ASUS에 따르면 해당 챔버는 영하 40℃부터 영상 85℃까지 온도 조절이 가능하며, 습도 역시 10%에서 98%까지 설정할 수 있다. 또한 최대 1만6000CFM 수준의 공기 흐름과 최대 100kW 냉각 성능을 지원한다.

현장에서는 NVIDIA GB200 NVL72 기반 시스템이 실제 테스트를 진행하고 있었다. ASUS는 고객 환경을 가정한 다양한 조건을 적용해 시스템 안정성을 검증하며 특정 고객이 요구하는 온도와 습도 조건을 그대로 재현하는 테스트도 가능하다고 설명했다. 이를 통해 장기간 사용 과정에서 발생할 수 있는 문제를 확인하고 제품 신뢰성을 검증하고 있다.

해당 시설을 활용해 출하 전 검증뿐 아니라 고객 환경에서 발생한 문제 재현에도 활용하고 있다고 설명했다. 또한 장시간 구동에 따른 안정성 검증과 환경 변화에 따른 시스템 반응 분석도 수행하고 있다고 덧붙였다.

데이터센터 환경을 재현하는 Thermal Lab

세 번째 공간인 Thermal Lab은 실제 데이터센터 내부 환경을 재현하기 위한 시설이다.

QTR Lab이 극한 환경을 검증하는 공간이라면 Thermal Lab은 데이터센터 내부의 공기 흐름과 압력 변화, 냉각 효율 등을 분석하는 역할을 담당한다.

시설 내부에는 Hot Aisle과 Cold Aisle 환경이 구현돼 있으며 냉기 통로와 주변 온도를 25℃에서 45℃ 사이로 조절할 수 있다. 또한 공기 흐름과 압력 차이를 측정해 서버가 다양한 운영 환경에서 정상적으로 동작하는지 확인한다.

현장에서는 NVIDIA HGX 기반 서버가 테스트에 활용되고 있었으며, ASUS는 팬 동작과 압력 변화, 공기 흐름 등을 분석해 서버 냉각 구조를 검증하고 있다고 설명했다.

데이터센터 구축과 운영을 지원하는 플랫폼

랩 투어 마지막에는 Charles Yan 시니어 매니저가 ASUS 데이터센터 관리 플랫폼을 소개했다.

먼저 소개된 ASUS Infrastructure Deployment Center(AIDC)는 AI 데이터센터 구축을 위한 자동화 플랫폼이다.

AIDC는 운영체제 설치와 펌웨어 업데이트, 네트워크 구성, 서비스 배포 등을 자동화할 수 있도록 설계됐다. ASUS는 대규모 AI 클러스터 구축 과정에서 반복 작업을 줄이고 구축 시간을 단축할 수 있다고 설명했다.

또한 Infrastructure Planner 기능을 통해 실제 구축 이전에 랙 배치와 전력 사용량, 냉각 설계, 공간 활용도 등을 시뮬레이션할 수 있다. 사용자는 드래그 앤 드롭 방식으로 랙을 배치하면서 전력과 공간 사용량을 사전에 검증할 수 있다.

운영 단계에서는 ASUS Control Center Data Center Edition(ACC)이 활용된다. ACC는 서버 상태와 센서 정보, 전력 사용량, 이벤트 로그 등을 통합 관리하는 플랫폼으로 HPC와 AI, 엔터프라이즈 인프라를 단일 인터페이스에서 관리할 수 있도록 설계됐다.

ASUS는 구축과 운영이 데이터센터 관리 과정에서 가장 많은 시간과 비용이 소요되는 영역이라고 설명하며, AIDC와 ACC를 통해 데이터센터 구축과 운영 과정을 보다 효율적으로 관리할 수 있다고 소개했다.

구축부터 운영까지 아우르는 ASUS Professional Service

발표 마지막에는 ASUS Professional Service가 소개됐다.

ASUS는 컨설팅과 설계, 인프라 구축, 성능 튜닝, 플랫폼 배포, 유지보수까지 포함하는 서비스를 제공하고 있으며 프로젝트 초기 단계부터 데이터센터 구축 완료 이후 운영 단계까지 지원할 수 있다고 설명했다.

발표 자료에서는 프로젝트 킥오프 미팅부터 데이터센터 인프라 설계, 하드웨어 설치, 스토리지 및 네트워크 구축, 소프트웨어 플랫폼 설치, 성능 검증, 교육 및 운영 지원에 이르기까지 AI 데이터센터 구축 전 과정을 단계별로 소개했다.

AI Factory 구축을 위한 ASUS의 인프라 전략

ASUS는 NVIDIA AI Enterprise와 연계한 AI Factory 구축 전략도 함께 소개했다.

발표 자료에 따르면 ASUS는 냉각 설계와 네트워크 구성, 스토리지 인프라, 관리 플랫폼, 성능 최적화 등을 포함한 통합 데이터센터 구축 역량을 제공하고 있으며 NVIDIA DSX 기반 AI 인프라 구축 과정에도 참여하고 있다. 또한 ACC와 AIDC를 비롯한 관리 플랫폼을 활용해 데이터센터 구축 이후 운영과 유지관리 단계까지 지원할 수 있다고 설명했다.

최근 AI 인프라 시장은 단일 서버 단위 경쟁을 넘어 대규모 AI 클러스터와 데이터센터 운영 효율이 중요한 요소로 부상하고 있다. AI 모델 규모가 확대되고 GPU 집적도가 높아지면서 전력 공급과 냉각, 네트워크, 운영 플랫폼, 검증 체계의 중요성 역시 함께 커지고 있다.

이번에 공개된 루주 AI Lab은 AI 서버 자체의 성능 검증을 넘어 전력과 냉각, 신뢰성, 운영 효율까지 포함한 데이터센터 환경 전반을 검증하는 역할을 수행하고 있다.

ASUS는 RD Lab과 QTR Lab, Thermal Lab, 그리고 구축·운영 플랫폼을 통해 AI 인프라 전 과정에 대한 검증 체계를 구축하고 있으며, 향후 GB300 이후 세대의 AI 플랫폼과 데이터센터 기술 발전에 맞춰 연구 범위 역시 지속적으로 확대해 나갈 계획이라고 밝혔다.