[IT동아 강형석 기자] 인공지능(AI) 기술이 진화하면서 정보기술 기반 시설 구조도 근본부터 흔들리고 있다. 지금까지의 데이터센터는 웹페이지를 띄우고 기업의 방대한 데이터베이스를 안전하게 보관하는 디지털 창고에 가까웠다. 반면 AI 모델이 자율적으로 사고하고 수많은 보조 에이전트를 불러내 작업을 처리하는 현 시점의 데이터센터는 전기와 원자재를 투입해 완제품을 찍어내듯 쉴 새 없이 지능의 최소 단위인 토큰(Token)을 생산하는 AI 팩토리(AI 공장)로 탈바꿈했다. 공장이 쉬지 않고 돌아가려면 막대한 전력과 원활한 물류망이 뒷받침되어야 하듯, AI 팩토리 역시 상상을 초월하는 컴퓨팅 성능과 전력 공급, 네트워크 대역을 필요로 한다.

문제는 이러한 지능 생산 체계를 지탱해야 할 인프라가 유례없는 병목 현상에 직면했다는 점이다. 데이터센터 하나가 소비하는 전력 규모가 수백 메가와트(MW)를 넘어 마침내 기가와트(GW) 단위로 치솟았다. 기가와트는 통상 원자력 발전소 1기가 생산해 내는 전력량과 맞먹는 규모다. 전력 공급망의 한계는 곧바로 비용 문제로 이어진다. 고성능 연산 칩들이 뿜어내는 막대한 열기 역시 풀어야 할 숙제다.

AI 기업들이 실질적인 사업 가치를 창출하는 길은 이제 고성능 AI 알고리듬 경쟁이 아니라, 토큰 하나를 생산하는 데 들어가는 전력과 비용을 낮추는 토크노믹스(토큰 경제학) 싸움으로 좁혀지는 분위기다.

이런 AI 산업의 고민을 풀기 위해 에이수스가 나섰다. 2026년 9월 3일 콘래드 서울 호텔에서 열린 에이수스 AI 테크 2026(ASUS AI TECH 2026)은 전력과 냉각, 시스템 설계, 소프트웨어 오케스트레이션(소프트웨어 조율) 등을 하나로 아우르는 에이수스의 통합 AI 데이터센터 인프라 청사진을 볼 수 있는 자리였다.

차세대 AI 데이터센터 인프라 강조한 엔비디아

연단에 오른 정소영 엔비디아 코리아 엔터프라이즈 사업 리드는 엔비디아와 에이수스의 협력 관계가 오래됐다는 점을 언급했다. 두 회사는 초창기 개인용 컴퓨터(PC)와 소비자 제품 중심으로 사업을 함께해 왔는데, 코로나19를 거친 후에는 협력의 무게중심이 데이터센터 사업으로 옮겨갔다고 설명했다. 그는 이런 변화가 결국 AI 기술의 발전 자체가 만들어낸 결과라고 짚었다. 오늘날 AI를 챗봇이나 대화형 서비스로만 떠올리는 경우가 많지만, 이미 오래전부터 여러 기술 요소가 얽힌 하나의 거대 산업으로 성장해 왔다는 게 그의 진단이다.

정소영 리드는 컴퓨팅의 기본 단위가 더 이상 그래픽 처리장치(GPU) 한 장, 서버 한 대, 혹은 GPU 클러스터 수준에 머물지 않고 데이터센터 스케일 전체로 확장되고 있다고 내다봤다. 이유는 두 가지다. 첫째, 데이터센터가 더 이상 서버나 네트워크 장비를 수동적으로 담아두는 공간이 아니라 토큰과 지능을 만들어내는 '공장' 개념으로 바뀌었다는 것. 둘째, 데이터센터의 물리적 규모 자체가 전통적인 수십~수백 메가와트급을 넘어 기가와트급으로 커지고 있다는 것이다.

이어 엔비디아 DSX 플랫폼이 소개됐다. 빠르게 확장하는 AI 데이터센터 환경 속에서 엔비디아가 여러 파트너사와 손잡고 만든 새로운 기술 플랫폼이 이런 변화에 대응할 해답이라는 이야기다. 정소영 리드는 에이수스가 시스템뿐 아니라 네트워크, 랙 아키텍처 전반에서 강력한 기술력을 갖춘 만큼, 앞으로 DSX 기반의 대규모 데이터센터 사업에서도 긴밀한 협력이 이어질 것이라고 자신했다.

이어 연단에 오른 이민형 엔비디아 코리아 솔루션 아키텍트는 에이전트 인공지능의 일상화가 촉발한 기술적 변곡점을 다뤘다. 그는 스스로 코드를 작성하고 검증까지 끝마치는 에이전트 모델들이 속속 등장하면서 소프트웨어 개발의 양상이 송두리째 바뀌고 있다고 말했다.

그는 AI 발전을 네 단계로 나눴다. 첫 번째는 더 많은 데이터와 GPU 자원을 투입할수록 결과가 좋아지는 프리트레이닝(사전학습) 스케일업. 두 번째는 이렇게 만들어진 거대 모델의 출력을 사람이 원하는 방향으로 다듬는 포스트트레이닝. 세 번째는 답을 한 번에 내지 않고 여러 경로를 탐색해 품질을 높이는 테스트타임 스케일링. 마지막으로 에이전트가 목표를 기억한 채 만족스러운 결과가 나올 때까지 스스로 반복하는 에이전트 시대다.

이민형 솔루션 아키텍트는 이 네 단계를 지나며 토큰 소모량이 폭발적으로 늘고 있다고 짚었다. 하나의 에이전트가 여러 하위 에이전트를 불러들여 작업을 시키다 보니 소모되는 토큰의 양이 기하급수적으로 늘어난다는 것이다. 엔비디아 내부에서도 오픈AI의 코덱스(Codex)나 앤트로픽의 클로드(Claude) 같은 도구를 업무 생산성 향상에 적극 활용한다는 사례를 들며, 업계 전반이 겪는 연산 자원 압박을 생생하게 전했다.

이런 토큰 폭증을 받아낼 그릇이 'AI 팩토리'다. 이민형 솔루션 아키텍트는 이를 5단 케이크에 비유했다. 맨 아래층은 에너지와 전력, 그 위로 칩, 인프라(냉각·네트워킹), 다양한 AI 모델이 쌓이고, 꼭대기에는 실제 비즈니스 애플리케이션이 자리한다. 이 다섯 층을 모두 촘촘히 설계해야 토큰당 비용이나 와트당 토큰을 최적화할 수 있다는 설명이다.

그는 현재 데이터센터의 전력 손실 구조도 짚었다. 전체 전력 가운데 20% 이상이 설비·냉각 단계에서, 10% 이상이 랙 내부에서 새어나간다. 엔비디아 DGX 시스템 한 대가 소모하는 전력만 217kW에 달해, 서버 랙까지 800V 고전압을 직접 공급하는 구조로 전환이 불가피하다는 게 그의 진단이다.

AI 데이터센터 구축을 위한 '풀-스펙트럼' 강조한 에이수스

엔비디아가 데이터센터의 거시적 청사진을 펼쳐 보였다면, 에이수스는 현실적인 솔루션을 들고 나왔다. 연단에 오른 CH 셰(CH Hsieh) 에이수스 기업 R&D 센터 부사장은 "인공지능 산업이 물리적 세계와 결합하는 자율화 단계로 전진하고 있다. 인프라 엔지니어링의 본질은 결국 비용을 다스리는 것"이라고 말했다. 지능을 담아낼 그릇이 아무리 커져도 토큰 하나를 생산하는 데 들어가는 비용이 통제되지 않으면 어떤 비즈니스도 지속되기 어렵다. CH 셰 R&D 센터 부사장은 고객이 투자한 자본 대비 최대의 토큰 생산량을 거둘 수 있도록 에이수스가 4가지 엔지니어링 기술 구축에 힘썼다고 밝혔다.

에이수스가 강조한 4가지 엔지니어링 기술은 ▲전력 효율성 ▲열 관리 ▲연결성 ▲스마트 자동화다. 먼저 전력 부문에서 에이수스는 시설 차원에서 800V 직류 기반 HVDC(초고압 직류송전) 솔루션을 검토하는 동시에, 미래를 대비해 고체 상태 변압기(solid-state transformer) 솔루션까지 조사하고 있다고 밝혔다. 개발 중인 수직 전력 공급 구조도 공개했다. 전압 조정기를 GPU 바로 아래에 배치해 전력이 이동하는 경로 자체를 물리적으로 줄임으로써 손실을 최소화하는 구조다.

열 관리 부문에서는 GPU에 냉각수를 훨씬 가까이 접근시키는 마이크로채널 콜드플레이트 기술, 내부 팬을 없앤 100% 액체냉각 시스템, 다중 메가와트급 용량을 지원하는 랙 레벨 냉각수 분배 장치(CDU)를 조합해 적용했다고 밝혔다.

연결성 측면에서는 신호 무결성(SI)이 소재 구성이나 배치 간격 같은 물리적 요인에 크게 좌우된다는 점을 짚었다. CH 셰 R&D 센터 부사장은 AI 예측 기법과 기초 연구를 결합해 시스템을 만들기 전에 미리 성능을 예측하고, 업계 표준을 웃도는 수준까지 기술 완성도를 높였다고 역설했다.

스마트 자동화는 복잡한 시스템을 현장에서 직접 조립해내는 '라스트 마일(최종 단계)' 영역이다. 구축 기간 단축과 품질 향상, 손쉬운 확장성 확보를 동시에 이루는 게 목표다. CH 셰 R&D 센터 부사장은 "4가지 솔루션들이 따로 놀아서는 의미가 없으며, 모든 요소를 하나로 통합해야 비로소 투자 대비 더 많은 토큰을 얻을 수 있다"고 재차 강조했다.

이어 쿠오웨이 차오(KuoWei Chao) 에이수스 최고운영책임자는 AI 팩토리 시장을 위한 솔루션을 대거 공개했다. 추론용 RS·XA 시리즈, 최고 수준의 학습 성능을 내는 게 목표인 HGS 플랫폼, 대규모 슈퍼컴퓨팅을 겨냥한 인공지능 서버(AI POD) NVR 7000 등이 모습을 드러냈다. 그는 에이수스의 AI 서버 솔루션이 미국, 유럽, 아시아태평양 지역 고객에게 공급되고 있다는 점을 들어 AI 인프라가 이제 글로벌 비즈니스 수준으로 성장했다고 말했다. 에이수스는 스스로를 전통적인 ODM·OEM의 틀에 가두지 않는 하이브리드 기업으로 정의했다. 자체 연구개발 역량과 완결된 제품군, 1티어(최고등급)급 부품 조달력, 탄탄한 공급망까지 아우른다는 설명이다.

알버 우(Alber Wu) 에이수스 솔루션 비즈니스 사업부 총괄 매니저는 토큰이 곧 돈(Tokens are money)이라는 명제로 발표를 이어갔다. 그는 에이수스가 서버 장비를 판매하는 회사가 아니라, 부지 설계부터 운영 자동화까지 턴키(설계시공 일괄입찰) 방식으로 통째로 다루는 엔드-투-엔드(처음부터 끝까지 처리하는 방식) AI 팩토리 공급자라고 못박았다.

성과도 이어졌다. 에이수스는 대만의 국가 슈퍼컴퓨팅 인프라(NCHC) 구축을 완수했고, 베트남 FTT 프로젝트의 대규모 AI 팩토리도 성공적으로 마무리했다. 현재는 태국과 말레이시아 등 동남아 주요 거점의 차세대 국가급 인프라 수주를 진두지휘하고 있다는 소식도 전해졌다.

각 국가와 지역마다 전력 사정과 산업 규제가 제각각인 소버린 AI(국가기반 인공지능) 시장에서 에이수스가 파트너로 낙점받는 비결은 바로 황금 삼각 편대(Golden Triangle) 전략에 있다는 게 알버 우 총괄 매니저의 설명이다.

하나는 고성능 서버와 스토리지, 초고속 네트워킹 및 부대 시설을 하나로 묶어 연산 자원인 GPU가 단 1초도 쉬지 않고 일하도록 만드는 통합 고속도로(Integrated Highway)다. 비싼 연산 장비를 켜두고도 데이터 전송 지연으로 칩이 멍하니 대기하는 시간을 철저히 없애겠다는 의미다.

다음은 에이수스가 독자 개발한 AI 소프트웨어 정의(Software Defined) 스택이다. 과거 복잡한 인프라를 현장에 설치하고 세팅하는 데 수주 이상 걸리던 작업을, 인프라 배포 센터(AIDC)를 통해 단 며칠 만에 끝마칠 수 있도록 자동화한 게 대표적이다. 전산실의 상태를 한눈에 파악하는 중앙 관제 시스템, 사용자가 소비한 연산 자원을 달러 단위로 실시간 투명하게 추적하고 배분하는 쿼터 관리 및 과금 플랫폼을 결합한 것도 차별점이다.

마지막은 고객의 초기 전력 예산 수립과 아키텍처 컨설팅부터 시작해 성능 미세 조정(튜닝), 운영 라이프사이클 전반을 책임지는 전문 컨설팅 서비스(Professional Services)다. 대규모 연산 처리가 가능하도록 고안된 고성능 소프트웨어 정의 스토리지(SDS)와 보안 거버넌스까지 하나로 묶어, 기업이 복잡한 기술적 시행착오 없이 인공지능 전환을 이루도록 돕는 역할을 자처한 셈이다.

AI 데이터센터 외에도 엣지 시장까지 넘본다

인공지능 혁명의 무대는 AI 데이터센터에만 머물러 있지 않다. 공장의 기계 설비, 도심의 도로망, 상점의 계산대, 의료진의 수술실 등 현실 환경 속에서 제대로 작동해야 비로소 결실을 맺을 수 있다. 이들을 움직일 엣지 장비(연산 장비)가 필요한 이유다. 마지막 발표자로 나선 YC 첸(YC Chen) 에이수스 엣지 AI 컴퓨팅 사업부 총괄 매니저는 엣지 장비의 중요성을 짚었다.

에이수스 자료에 따르면 전 세계 엣지 AI 시장 규모는 2026년 약 360억 달러(약 48조 5388억 원) 수준에서 2034년에는 2000억 달러(약 270조 원)에 육박하는 시장으로 팽창할 전망이다. 전통적인 산업용 PC 시장의 성장세보다 35배 빠른 속도다.

이처럼 현장 중심의 엣지 컴퓨팅 수요가 폭발하는 배경에는 중앙 집중식 클라우드 인프라가 지닌 치명적인 한계가 자리한다. 공장이나 도로 위에서 매 초마다 쏟아져 나오는 방대한 고화질 영상과 센서 데이터를 전부 먼 거리의 중앙 클라우드로 전송하는 것은 불가능에 가깝다. 통신망 대역폭 비용이 감당하기 힘들 정도로 치솟는 데다, 데이터가 클라우드를 거쳐 돌아오는 데 걸리는 수십~수백 밀리초(1000분의 1초)의 지연 시간은 촌각을 다투는 산업 현장에서 치명적인 사고로 이어질 수 있다.

AI 데이터를 현장 기기로 처리하는 엣지 AI는 클라우드의 병목을 해결할 솔루션으로 주목받는다. 데이터를 외부로 내보내지 않고 현장에서 즉시 소화하기에 통신 비용이 들지 않고, 빠르게 실시간 결정을 내릴 수 있으며, 기밀 유출 위험을 원천 차단하면서 전체 운영비용(TCO)까지 절감할 수 있다. 외부 환경과 상호작용하는 피지컬 AI(실물 인공지능)에도 엣지 장비 채택이 주를 이룬다.

YC 첸 총괄 매니저는 "초소형 산업용 임베디드 메인보드부터 견고한 박스형 시스템, 그리고 중소형 산업 서버에 이르는 방대한 라인업을 기반으로 현장 중심의 AI 혁신을 가속하겠다"고 말했다.

IT동아 강형석 기자 (redbk@itdonga.com)