엔비디아가 대규모 생성형 AI와 에이전틱 AI 추론을 겨냥한 오픈소스 소프트웨어 ‘엔비디아 다이나모 1.0’을 공개했다. AI 모델 성능 경쟁이 학습을 넘어 추론 인프라 효율로 옮겨가는 시점에서, 엔비디아가 다이나모를 통해 AI 팩토리 전반을 조율하는 소프트웨어 계층까지 주도권을 확대하겠다는 의지를 드러낸 것으로 풀이된다.

엔비디아는 미국 새너제이에서 열린 ‘엔비디아 GTC 2026’에서 다이나모 1.0을 발표하고, 이 소프트웨어가 엔비디아 블랙웰 플랫폼과 결합해 클라우드 제공업체와 AI 혁신 기업, 글로벌 엔터프라이즈가 고성능 AI 추론을 보다 높은 확장성, 효율성, 속도로 제공할 수 있도록 지원한다고 밝혔다.

이번 발표의 핵심은 추론을 단순한 모델 실행 단계가 아니라, 데이터센터 전체 자원을 실시간으로 재배치하고 조율해야 하는 산업 인프라 문제로 규정했다는 점이다. 에이전틱 AI 시스템이 실제 프로덕션 환경으로 빠르게 확산되면서, 데이터센터 내에서는 크기와 모달리티가 서로 다른 요청이 동시에 발생하고 성능 기준 역시 예측하기 어려워졌다. 이 같은 환경에서는 GPU 성능 자체만으로는 한계가 있고, 자원 오케스트레이션이 핵심 경쟁력으로 떠오른다.

엔비디아는 다이나모 1.0을 컴퓨터 운영체제에 비유했다. 운영체제가 하드웨어와 애플리케이션을 조율하듯, 다이나모는 AI 팩토리의 분산형 운영체제로서 클러스터 전반의 GPU와 메모리 리소스를 유기적으로 배분해 복잡한 AI 워크로드를 지원한다는 설명이다. 최근 업계 벤치마크에서는 다이나모가 엔비디아 블랙웰 GPU의 추론 성능을 최대 7배까지 끌어올린 것으로 소개됐다. 엔비디아는 이를 통해 수백만 대 GPU 환경에서 토큰 비용을 낮추고 수익 창출 기회를 확대할 수 있다고 강조했다.

젠슨 황 엔비디아 창립자 겸 CEO는 “추론은 인텔리전스의 엔진으로 모든 쿼리, 에이전트, 애플리케이션을 구동한다”며 “엔비디아 다이나모를 통해 우리는 AI 팩토리를 위한 최초의 운영 체제를 구축했다. 엔비디아 생태계 전반에 걸친 다이나모의 급속한 확산은 에이전틱 AI의 새로운 흐름이 이미 시작됐음을 보여주며, 엔비디아는 이를 전 세계적 규모에서 지원하고 있다”고 밝혔다.

다이나모 1.0은 보다 정교한 트래픽 제어 기능과 GPU 및 저비용 스토리지 간 데이터 이동 기능을 추가해, 추론 작업을 여러 GPU에 분산 처리하도록 설계됐다. 이를 통해 불필요한 연산을 줄이고 메모리 제약을 완화할 수 있다는 것이 엔비디아의 설명이다. 특히 에이전틱 AI나 긴 프롬프트 환경에서는 이전 단계에서 생성된 관련 단기 메모리를 가장 많이 보유한 GPU로 요청을 우선 라우팅하고, 필요하지 않을 경우 해당 메모리를 오프로드할 수 있도록 했다. 결국 단순한 연산 가속이 아니라, 메모리와 데이터 이동까지 포함한 추론 최적화가 다이나모의 차별점으로 읽힌다.

오픈소스 생태계 확대도 병행한다. 엔비디아는 다이나모와 텐서RT-LLM 라이브러리 최적화 기술을 랭체인, llm-d, LMCache, SG랭, vLLM 등 주요 프레임워크에 통합해 오픈소스 생태계 활성화에 나선다고 밝혔다. 여기에 지능형 메모리 관리를 위한 KVBM, GPU 간 고속 데이터 이동을 위한 엔비디아 NIXL, 스케일링 간소화를 위한 엔비디아 그로브 등 다이나모 핵심 구성 요소를 독립 모듈로 제공한다. 텐서RT-LLM의 쿠다 커널을 플래시인퍼 프로젝트에 제공해 오픈소스 프레임워크에 네이티브 방식으로 통합되도록 한 점도 눈에 띈다. 폐쇄형 플랫폼에 머무르지 않고, 개발자와 인프라 사업자들이 실제 현장에서 쉽게 채택할 수 있도록 생태계 접점을 넓히는 전략이다.

실제 지원 기업군도 광범위하다. 클라우드 서비스 제공업체로는 AWS, 마이크로소프트 애저, 구글 클라우드, OCI가 이름을 올렸다. 엔비디아 클라우드 파트너사로는 알리바바 클라우드, 코어위브, 크루소, 디지털오션, 지코어, GMI 클라우드, 라이트닝 AI, 네비우스, 엔스케일, 투게더 AI, 벌처가 참여한다. AI 네이티브 기업으로는 커서, 헤비아, 퍼플렉시티가 포함됐고, 추론 엔드포인트 제공업체로는 베이스텐, 딥 인프라, 파이어웍스가 지원한다. 엔터프라이즈 분야에서도 아스트라제네카, 블랙록, 바이트댄스, 쿠팡, 인스타카트, 메이투안, 페이팔, 핀터레스트, 쇼피, 소프트뱅크 등이 다이나모 기반 엔비디아 추론 플랫폼 지원 기업으로 제시됐다.

파트너사 발언에서도 공통적으로 드러나는 메시지는 명확하다. AI가 파일럿을 넘어 대규모 상용 운영 단계로 들어서면서, GPU 성능만이 아니라 이를 실제 서비스 품질과 비용 효율로 전환하는 소프트웨어 계층이 중요해졌다는 것이다. 코어위브는 복잡한 AI 에이전트 배포를 위한 안정적이고 원활한 환경 제공을, 네비우스는 심층 최적화와 예측 가능한 성능, 신속한 배포를, 핀터레스트는 수억 명 규모 멀티모달 AI 경험 확장을, 투게더 AI는 대규모 프로덕션 워크로드를 위한 고성능·고효율 추론을 각각 강조했다.

이번 발표는 엔비디아가 AI 인프라 경쟁의 무게중심을 다시 한 번 이동시키고 있음을 보여준다. 그동안 엔비디아는 GPU와 네트워킹, 시스템 아키텍처를 중심으로 AI 데이터센터의 표준을 만들어 왔지만, 다이나모 1.0을 통해 이제는 추론 오케스트레이션 소프트웨어까지 포괄하는 ‘전체 스택’ 전략을 한층 강화하게 됐다. 특히 생성형 AI 시장이 모델 학습 중심에서 실시간 추론, 에이전트 실행, 멀티모달 서비스 확장으로 옮겨가는 흐름을 감안하면, 다이나모는 단순한 개발 도구가 아니라 AI 팩토리 수익성 자체를 좌우할 핵심 레이어로 자리 잡을 가능성이 있다.

엔비디아는 다이나모 1.0을 이날부터 전 세계 개발자에게 제공한다고 밝혔다. AI 산업이 더 큰 모델보다 더 효율적인 추론과 더 안정적인 운영으로 경쟁 축을 옮기는 가운데, 다이나모 1.0은 엔비디아가 그 변화의 중심에서 소프트웨어 주도권까지 확보하려는 전략적 카드로 평가된다.

김종혁 기자/news@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지