[IT동아 강형석 기자] 생성형 인공지능(AI)이 사용자의 질문에 답변을 내놓는 수동적 형태였다면, 오늘날의 AI는 스스로 계획을 세워 도구를 호출하고 결과물을 내놓는 에이전틱 AI로 진화했다. 뿐만 아니라, 로봇이나 자율주행차, 스마트 팩토리 등 다양한 하드웨어와 결합하며 제조 및 서비스 현장을 혁신하고 있다.

개발자 플랫폼 기업 버셀(Vercel)의 게이트웨이 트래픽 데이터 분석 자료에 따르면 폐쇄형 상용 모델과 오픈 웨이트(Open-weight) 모델의 월간 호출량은 매달 두 배씩 증가하고 있다. 기업들이 소프트웨어 코드 작성, 산업용 디지털 트윈 설계, 공정 오류 수정 등 경제 가치를 창출하는 업무에 AI 에이전트를 본격 투입하기 시작했기 때문이다. 모델 규모가 수천억에서 수조 파라미터 단위로 커지고 단일 작업에 다수의 모델이 동시 가동되면서, 컴퓨팅 파워와 전력 효율을 극대화하는 데이터센터 설계 역량은 곧 기업의 수익성으로 직결되고 있다.

2026년 11월 9일부터 양일간 서울 코엑스에서 진행되는 ‘엔비디아 AI 데이 서울(NVIDIA AI Day Seoul) 2026’은 다양한 산업에 접목되는 AI 기술이 빠른 속도로 진화 중임을 확인한 자리였다. 이번 행사는 에이전틱 AI와 피지컬 AI, 차세대 AI 인프라에 대한 엔비디아의 관점과 한국 산업 생태계간 접점을 조명했다.

에이전트 시뮬레이션으로 가속하는 피지컬 AI 시대

디푸 탈라(Deepu Talla) 엔비디아 로보틱스 및 엣지 AI 부문 부사장은 산업 현장에 AI을 배치하는 피지컬 AI의 기술적 난제와 해법을 제시했다. 제조 공장이나 물류 현장에 투입되는 로봇은 디지털 환경의 소프트웨어보다 훨씬 까다로운 정확도, 신뢰성, 안전성 기준을 충족해야 한다. 작업 공간에 사람이 없더라도 설비 파손이나 공정 중단 위험을 완벽히 통제해야 하기 때문이다. 디푸 탈라 부사장은 “2025년, 추론 능력을 갖춘 파운데이션 모델(로봇 학습 모델)과 물리 시뮬레이션 기술이 성숙기에 접어들었고, 2026년에는 에이전틱 AI가 결합하면서 향후 10년간 이어질 로보틱스의 황금기가 열렸다”고 말했다.

엔비디아는 로봇 하드웨어를 제조하지 않는 대신에 피지컬 AI 구현에 필요한 이른바 '3대 컴퓨터(Three Computers)' 아키텍처와 가속 라이브러리를 공급한다. 로봇의 두뇌에 해당하는 AI 모델을 학습시키기 위한 '엔비디아 DGX', 학습된 모델을 가상 환경에서 검증하고 합성 데이터를 생성하는 시뮬레이션 컴퓨터 '엔비디아 OVX(RTX 기반 서버)', 실제 로봇 내부에 탑재되어 실시간으로 센서를 처리하고 관절을 제어하는 엣지 컴퓨터 '엔비디아 젯슨(Jetson)'이 대표적이다.

하드웨어 위에 실시간 안전 운영체제인 '아이작 OS(Isaac OS)'와 안전 플랫폼 '헤일로스(Halos)', 오픈소스 보안 런타임 '오픈쉘(OpenShell)'이 구동되며 물리 모델과 에이전트가 수십 개의 가속 라이브러리를 안전하게 호출하도록 돕는다. 디푸 탈라 부사장은 에이전트 기반 로봇 개발 워크플로우를 언급하며, 허깅페이스(Hugging Face)의 소형 이족보행 로봇 '마이크로덕(Microduck)' 학습 시연 영상을 공개했다.

마이크로덕 개발자가 장애물 코스와 보행 목표를 텍스트로 입력하자, 에이전트 하네스인 '헤르메스(Hermes)'와 개방형 모델 '네모트론(Nemotron)', 오픈AI의 '아스트라(Astra)' 모델이 협력해 작업 계획을 수립했다. 에이전트는 스스로 오픈소스 CAD(컴퓨터 지원 설계) 도구인 프리캐드(FreeCAD)를 실행해 3D 구조물을 모델링하고, 블렌더(Blender)로 재질을 입힌 뒤 옴니버스 심레디(Omniverse SimReady) 라이브러리로 마찰력과 질량 등 물리 속성을 부여했다. 이어 아이작 심(Isaac Sim) 안에서 마이크로덕의 관절과 액추에이터를 연결하고 클라우드 기반 '아이작 랩(Isaac Lab)'에서 수천 대의 가상 로봇을 병렬로 훈련시켰다. 로봇이 넘어질 때마다 정책이 개선되었고, 검증을 마친 정책을 실물 로봇에 내려받자, 마이크로덕은 좁은 통로와 장애물을 피해 안정적으로 걸어 나갔다.

과거에는 공장이나 물류창고의 디지털 트윈을 구축하려면 수십 명의 엔지니어와 3D 아티스트가 수개월 동안 설비 자산을 수집하고 변환해야 했다. 이제는 코딩 및 3D 도구를 직접 다루는 에이전트 기술 덕분에 엔지니어 한 명이 일주일도 채 걸리지 않는 시간에 디지털 트윈 구축과 정책 배포를 끝낼 수 있다. 시뮬레이션 환경 구축과 현장 배포 속도가 기존 대비 수십 배 이상 빨라진 셈이다.

데이터 확보와 기술 주권(Sovereign AI)을 뒷받침하는 오픈 모델 전략도 비중 있게 다뤘다. 디푸 탈라 부사장은 “기업이나 대학 연구소, 스타트업이 모델을 처음부터 학습시키려면 막대한 연산 자원이 필요하지만, 가중치와 학습 스크립트, 테스트 레시피를 모두 공개한 엔비디아 개방형 모델을 활용하면 전체 개발 공정의 80%~90%를 앞당긴 상태에서 출발할 수 있다”고 강조했다.

기업은 엔비디아 개방형 모델에 자체 독점 데이터를 결합, 지식재산권(IP)을 외부 유출 없이 사내에 보존할 수 있다. 엔비디아 개방형 월드 파운데이션 모델인 '코스모스(Cosmos)'는 2026년, 3세대(Cosmos 3)로 진화하며 엣지(Edge), 나노(Nano), 슈퍼(Super) 세 가지 라인업을 갖췄다. 코스모스는 주변 환경을 이해하고 추론할 뿐 아니라, 학습용 합성 데이터를 생성하고 가상 세계 안에서 로봇의 행동 정책을 평가하는 역할까지 수행한다. 또한 연구 기관들이 실물 휴머노이드 로봇을 구하기 어렵다는 점을 고려해, 엔비디아는 약 2주 전 독일 로봇 기업 애자일 로봇(Agile Robots)과 손잡고 아이작 그루트(Isaac GR00T) 및 젯슨 토르(Jetson Thor) 기반의 레퍼런스 휴머노이드 플랫폼 '애자일 원(Agile ONE)'을 공개해 하드웨어와 전체 소프트웨어 스택을 연구 현장에 공급하기 시작했다.

한국 제조 및 로봇 생태계와의 구체적인 협력 성과도 대거 소개됐다. 두산로보틱스는 숙련공조차 기피하는 고난도 표면 연마(Sanding, 샌딩) 공정에 피지컬 AI를 적용했다. 자동차 도어나 가전제품 외장재를 정밀하게 다듬는 작업은 1년 전만 해도 로봇 자동화가 불가능하다고 여겨졌다. 두산로보틱스는 엔비디아가 디즈니 리서치(Disney Research), 구글 딥마인드(Google DeepMind)와 공동 개발한 오픈소스(개방형 설계도) 로봇 물리 엔진 '뉴턴(Newton)'과 미분 가능한 물리 시뮬레이션 프레임워크 '워프(Warp)'를 도입해 연마 시 표면 변화를 사전에 정밀 예측하고 제어한다.

현대자동차그룹은 수십 년간 고도화해 온 프로그래밍 기반 공정 자동화를 범용 AI 로봇 체계로 전환하기 위해 공장 전체를 옴니버스 기반 디지털 트윈으로 옮겼다. 비정형 작업이 많고 환경이 수시로 바뀌는 공정 특성상, 가상공간에서 단일 작업 셀부터 공장 전체의 로봇 군집 제어까지 현실 시간보다 수십만 배 빠른 속도로 수십만 번의 시뮬레이션을 반복하며 최적의 운영 시나리오를 찾고 있다.

LG전자는 2026년 8월, 로봇 개발 전용 AI 데이터 팩토리를 열고 아이작 심과 아이작 랩을 활용해 가전 조립 및 물류 피킹 로봇의 정밀도와 신뢰성을 높이고 있다. 거대언어모델을 결합해 사람의 감정과 맥락을 읽는 서비스 로봇 연구도 병행 중이다.

리얼월드(RLWRLD)는 아이작 랩 아레나(Isaac Lab-Arena)를 기반으로 로봇 손재주와 조작 능력을 정량 평가하는 오픈소스 벤치마크 '덱스벤치(DexBench)'를 엔비디아와 공동 개발에 나섰다. SK텔레콤과 SK하이닉스는 반도체 제조 및 초대형 AI 팩토리 구축 초기 단계부터 옴니버스 디지털 트윈을 도입해 설비 배치를 최적화하고 있다.

하네스부터 오픈쉘 보안까지, 소프트웨어 공학으로 완성하는 에이전틱 AI 구조

조너선 코헨(Jonathan Cohen) 엔비디아 응용연구 부문 부사장은 에이전틱 AI를 새로운 컴퓨팅 플랫폼으로 규정하고 이를 구성하는 전체 기술 구조를 다뤘다. 초기 거대언어모델 애플리케이션이 사용자의 프롬프트(명령)를 모델에 직접 전달해 일회성 답변을 받는 챗봇 형태였다면, 현대 에이전틱 시스템은 사용자 요청을 '에이전트 하네스(Agent Harness)'라는 소프트웨어 영역에 먼저 보낸다. 클로드 코드(Claude Code), 코덱스(Codex) 같은 상용 도구나 파이(Pi), 헤르메스(Hermes), 오픈클로(OpenClaw) 같은 오픈소스 하네스가 작업을 분해해 여러 AI 모델에 배분하고 계산기, 3D 디자인 소프트웨어(블렌더 등), 혹은 AI가 직접 작성한 코드 도구를 호출하며 사내 데이터베이스와 연동해 복합 과업을 완수한다.

조너선 코헨 부사장은 에이전틱 AI의 본질을 확률적 추론과 결정론적 컴퓨터 과학의 결합이라고 설명했다. 대형언어모델은 유연하고 뛰어난 지능을 지녔으나 연산 비용이 비싸고 실행할 때마다 결과가 달라지는 비결정론적(Non-deterministic) 한계를 안고 있다. 반면 지난 50년~60년간 발전해 온 컴퓨터 과학은 자료구조, 흐름 제어, 형태 검사, 규칙 강제 등 결정론적 문제를 오차 없이 효율적으로 처리한다. 잘 설계된 에이전트는 두 영역의 장점만 취해 소프트웨어 엔지니어링의 실무 방식을 한 단계 진화시킨다는 이야기다.

여러 언어 모델을 적재적소에 배치해 비용과 성능을 조율하는 의사결정 엔진으로는 '스위치보드 도구모음(Switchboard Toolkit)’이 제시됐다. 모든 작업을 가장 거대하고 비싼 프런티어 모델에 맡기면 약 80%의 과제 통과율을 얻을 수 있지만 막대한 비용이 발생한다. 스위치보드를 활용해 난도가 낮은 토큰 생성 작업은 가벼운 언어 모델로 보내고 고난도 추론만 대형 언어 모델에 할당하면, 동일한 80% 성공률을 유지하면서도 전체 추론 비용을 3분의 1 수준으로 낮출 수 있다는 설명이다. 기업은 고정된 라우터를 쓰는 대신 자체 도메인 지식과 변화하는 모델 환경에 맞춰 스위치보드의 분배 구조를 직접 설계 가능하다.

에이전트의 두뇌 역할을 하는 오픈 모델 포트폴리오도 빠르게 확장되고 있다. 엔비디아는 워싱턴대 베이커 연구소와 개발한 단백질 설계 모델 '바이오네모(BioNeMo) RFD4-프로테이나(Proteina)', 정형 데이터(테이블 및 관계형 데이터베이스)에서 결측치를 추정하고 미래 수치를 예측하는 '쿠모(Kumo)' 파운데이션 모델, 텍스트와 시각 추론을 아우르는 '네모트론(Nemotron)'에 대해 가중치와 학습 데이터셋, 조합법 등을 공개하고 있다.

조너선 코헨 부사장은 엔비디아의 최신 시각 언어 모델 '네모트론 3.5 슈퍼 VL(Nemotron 3.5 Super VL)'의 차별점을 강조했다. 이 모델은 1200억 파라미터 규모의 전문가 혼합(MoE) 구조를 채택해 토큰당 120억 파라미터만 활성화한다. 그는 “이전 세대 대형 모델인 네모트론 3 울트라와 대등하거나 더 높은 지능 점수를 기록하면서도 모델 크기는 대폭 줄여 처리 속도를 약 5배 끌어올렸다”고 강조했다. 엔비디아는 향후 차세대 '네모트론 4'를 출시해 오픈 웨이트 생태계 투자를 지속할 계획이라는 점도 덧붙였다.

개발된 모델을 실제 서비스에 배치하는 추론 단계에서는 단일 시스템용 컨테이너인 '엔비디아 추론 마이크로서비스(NVIDIA Inference Microservices)'와 데이터센터 규모 오케스트레이션 엔진인 '다이나모(Dynamo)'가 쓰인다. vLLM, SGLang, 텐서RT-LLM(TensorRT-LLM) 등 복잡한 추론 엔진 설정을 미리 최적화해 묶은 NIM은 도커(Docker) 명령어 한 줄로 즉시 실행된다. 수만 개의 추론 요청이 동시에 쏟아지는 데이터센터 환경에서는 오픈소스 엔진인 다이나모가 KV 캐시 관리, 프리필(Prefill)과 디코드(Decode) 분리 서빙, 다중 모델 연쇄 호출 스케줄링을 도맡아 지연 시간을 최소화한다.

배포 이후 에이전트가 실수를 통해 스스로 학습하고 시스템 전체를 개선하도록 돕는 라이프사이클 도구도 정교해졌다. 기업은 '네모 짐(NeMo Gym)' 프로토콜로 에이전트가 수행할 과업과 평가 기준을 정의하고, 에이전트가 문제를 해결하는 궤적(Rollout trajectory)을 수집한 뒤 '네모 RL(NeMo RL)'을 통해 강화학습 기반 미세조정을 수행한다.

정형·비정형 사내 데이터를 에이전트에 연결하는 '에이전트 지식 파운데이션(Agent Knowledge Foundation)'에는 문서 레이아웃을 인식하는 네모 파스(NeMo Parse), 관계형 테이블에서 온톨로지를 자동 구축하는 도구, 그래픽 처리장치(GPU) 가속 데이터프레임(cuDF), 임베딩 및 재순위화(리랭킹) 모델이 포함된다. 운영 중 발생하는 에이전트의 행동 로그는 '네모 릴레이(NeMo Relay)'가 수집하고, '네모 컴패스(NeMo Compass)'가 기록을 분석해 잘못된 도구 호출이나 반복되는 오류 패턴을 찾아내 소스 코드나 모델을 수정하도록 돕는다.

조너선 코헨 부사장은 “SK텔레콤, LG AI연구원, 업스테이지(Upstage), NC AI 등이 국가 차원의 K-AI 이니셔티브 아래 네모트론 데이터셋과 다이나모 추론 엔진을 활용해 한국형 특화 모델과 에이전트 서비스를 구축하고 있다”고 말했다.

에이전틱 AI의 안전성(Safety)을 담보하는 '오픈쉘(OpenShell)' 기술도 언급됐다. 오픈쉘은 에이전트를 격리된 샌드박스에 가두고 네트워크나 파일 시스템 접근을 기본 차단한 채, 모든 외부 자원 요청이 반드시 오픈쉘 제어 계층을 거치도록 강제한다. 인증 정보와 권한 정책은 에이전트의 손이 닿지 않는 외부 영역에 보관되며, 수학적 정리 증명(Theorem Proving) 기술을 적용해 여러 에이전트가 공모하더라도 허용된 권한 합계를 절대 넘지 못하도록 봉쇄한다. 조너선 코헨 부사장은 “엔비디아는 에이전트가 조작할 수 없는 하드웨어 수준에서 감사 및 보고 메커니즘을 실행하는 실리콘 강제(Silicon Enforcement) 기술도 개발 중”이라고 설명했다.

데이터센터 전체를 하나의 컴퓨터로 빚어내는 AI 인프라

마지막에는 정구형 엔비디아 코리아 솔루션 아키텍트 팀 매니저와 제시 클레이튼(Jesse Clayton) 엔비디아 AI 인프라 제품 마케팅 매니저가 AI 인프라에 대해 다뤘다. 정구형 매니저는 엔비디아가 2024년 GTC에서 공개한 NVL72 플랫폼을 언급했다. 그는 “프런티어 모델의 파라미터(매개변수) 규모가 수천억 단위로 커졌다. 단일 에이전트 애플리케이션 안에서 음성 인식, 문서 분할 임베딩, 벡터 검색 리트리버, 답변 생성 거대언어모델 등 다수의 모델이 연쇄적으로 돌아가면서 대규모 연산 자원을 요구하고 있다. 충분한 연산 능력을 갖춘 플랫폼이 필요하다는 판단에 NVL72를 설계하게 됐다”고 말했다.

엔비디아는 GPU 간 고속통신 장비인 NV링크(NVLink) 스위치 트레이 9개로 72개의 GPU를 단일 구조처럼 묶고, 마지막에는 서버 확장 장비인 NV링크 스파인(Spine)을 연결하는 식으로 AI 팩토리를 구축한다. 블랙웰(GB200) NVL72에서 시작해 블랙웰 울트라(GB300) NVL72, 베라 루빈(Vera Rubin) NVL72로 이어지는 플랫폼은 정해진 규격과 전력 한도 안에서 전체 사용자에게 제공하는 초당 토큰 생성량과 동시 접속자 1000명이 각자 체감하는 응답 속도를 동시에 끌어올리는 데 초점을 맞췄다.

에이전틱 AI 시대에는 워크로드 특성에 맞춘 이기종 컴퓨팅 결합이 필수다. 정구형 매니저는 “1000줄에서 1만 줄에 달하는 코드를 지연 시간 없이 쏟아내야 하는 초저지연 디코딩 요구에 대응하기 위해 그록(Groq)의 LPU(Language Processing Unit) 지식재산권 자산을 결합한 'LPX 랙(엔비디아 그록 3 LPX)'을 생태계에 통합했다”고 말했다. 엔비디아가 단일 스레드(Single-Thread) 연산 성능을 끌어올린 자체 설계 '베라(Vera) CPU'를 선보인 이유가 바로 에이전트 후속 작업의 병목을 해소하기 위해서라는 점도 덧붙였다.

제시 클레이튼 매니저는 수직 통합된 엔비디아 인프라를 외부 맞춤형 칩(Custom Silicon) 개발사에도 수평 개방하는 'NV링크 퓨전(NVLink Fusion)' 아키텍처를 소개했다. 많은 혁신 기업이 특정 연산을 가속하기 위해 자체 맞춤형 반도체(ASIC)나 이기종 가속기(XPU)를 설계하지만, 칩 개발(Tape-Out)은 전체 여정의 출발점일 뿐이다. 칩을 완성한 뒤에도 서버 시스템 통합, 인터커넥트 네트워킹, 랙 아키텍처 설계, 제조 공급망(ODM) 확보까지 복잡한 후속 작업이 뒤따르며, 이 과정에서 추가 비용과 출시 지연이 발생하곤 한다.

NV링크 퓨전은 파트너사가 설계한 맞춤형 XPU에 엔비디아의 고대역폭·저지연 인터커넥트 기술을 직접 통합할 수 있게 해 준다. 이렇게 만들어진 칩을 레퍼런스 디자인(기본 설계)에 얹어 엔비디아 MGX(모듈형 통합 시스템) 표준 랙에 장착하면, 랙 내부의 NV링크 스위치가 XPU를 단일 스케일업 도메인으로 연결한다. 칩 개발사는 엔비디아가 이미 구축해 놓은 글로벌 부품 공급망과 서버 제조 생태계를 그대로 활용할 수 있다는 장점이 따른다.

데이터센터 구축 사업자 입장에서도 이점이 크다. 엔비디아 GPU와 XPU가 동일한 MGX 표준 랙 규격을 공유하므로 특정 칩 아키텍처에 종속되지 않으며, 맞춤형 칩이 개발되는 동안 데이터센터 설비 공사를 병행할 수 있어 시장 출시 시간(Time-to-market)이 단축된다.

엔비디아는 제한된 전력을 토큰 생산으로 치환하는 '엔비디아 DSX(Data Center Scale Infrastructure)' 플랫폼도 언급했다. 사전 검증된 기본 설계와 15개 이상의 오픈소스 소프트웨어(DSX OS)로 구성된 DSX 플랫폼은 AI 데이터센터 인프라 구축부터 운영 전 과정의 최적화에 초점을 뒀다.

DSX 플랫폼의 하드웨어는 베라 루빈 NVL72 랙 대수, 냉각수 분배 장치(CDU) 수량, 스토리지 및 네트워크 구성을 하나의 기본 블록인 '1 확장 유닛(Scalable Unit)'으로 정의한다. 기업은 확보한 전력 예산에 맞춰 이 기본 블록을 늘리기만 하면 수천, 수만 장 규모의 클러스터를 오차 없이 구축할 수 있다는 게 정구형 매니저의 설명이다. 코로케이션(데이터센터 대여 운영) 및 데이터센터 시공사에는 층고, 바닥 하중 지지력, 액체 냉각 설비 용량 등을 상세히 규정한 시설 인프라 레퍼런스 디자인을 제공한다.

대규모 데이터센터 운영을 위한 오픈소스 소프트웨어, DSX 맥스 LPS(Max LPS)도 공개했다. 대규모 전력 스케줄링(전력 사용 계획)으로 데이터센터의 유휴 전력을 실시간 회수해 가동 GPU 수를 늘리는 데 쓴다.

예컨대 한 기업이 1기가와트(GW)라는 고정된 전력 예산을 확보했다고 가정해 보자. 기업은 모든 랙이 항상 최대 소비전력인 '맥스 P(Max P)'를 쓴다고 가정해 보수적으로 설비를 설계한다. 하지만, 실제로는 모든 랙이 동시에 최대 전력을 소모하지 않아 상당량의 전력이 낭비된다. 만약 바이오스(BIOS) 설정을 통해 최대 전력 상한선을 조금 낮춘 정적 프로파일 '맥스-Q(Max-Q)'를 일괄 적용하면, 일부 최대 구간의 성능을 살짝 양보하는 대신 설치 가능한 장비 수를 늘릴 수 있다.

이 외에도 DSX 맥스 LPS는 데이터센터의 빌딩 관리 시스템(BMS)과 실시간 통신하며 층별 전력 사용량과 온도, 각 랙의 현재 부하와 유입된 작업량을 상시 모니터링한다. 거대언어모델 기반 AI 에이전트가 결합되고, 서버 제어 오픈소스 도구인 '니코(NICO)'가 각 서버의 바이오스에 직접 접근해 전력 상한선(Power Capping)을 실시간으로 올리거나 내린다. 과열되거나 부하가 몰린 랙의 전력을 조절하고 유휴 상태인 랙의 여유 전력을 끌어와 층간·랙간 전력을 유기적으로 재분배하는 원리다.

엔비디아는 최근 논란인 장비의 감가상각을 의식했는지 장비의 수명에 대한 언급도 놓치지 않았다. 정구형 매니저는 “높은 생산성과 더불어 하드웨어의 긴 수명과 범용성도 AI 팩토리의 투자 가치를 지탱한다. 2020년 출시되어 만 6년이 지난 엔비디아 A100 GPU는 최근 한 클라우드 파트너사가 2029년까지 장기 임대 계약을 연장했다. 이는 단일 GPU 세대의 경제적 수명이 9년에 달함을 입증한 셈이다. 2025년에 양산한 GB300 NVL72 역시 7년 이상의 가동 수명을 기대하고 있다”고 말했다.

그는 이어 “칩부터 데이터센터 설비, 애플리케이션까지 모든 요소를 동시에 설계하는 극한의 공동 설계(Extreme Co-design) 구조를 멈추지 않을 것”이라고 강조했다.

IT동아 강형석 기자 (redbk@itdonga.com)