엔비디아가 AI 인프라의 핵심 축을 GPU에서 CPU까지 확장하며 차세대 컴퓨팅 패러다임 전환에 나섰다.

엔비디아는 미국 새너제이에서 열린 ‘GTC 2026’에서 세계 최초의 에이전틱 AI 및 강화학습 전용 프로세서 ‘베라 CPU(NVIDIA Vera CPU)’를 공개했다. 베라는 기존 랙 스케일 CPU 대비 2배 높은 효율과 50% 빠른 성능을 제공하며, AI 시대의 새로운 CPU 기준을 제시했다.

AI 인프라 중심축, ‘GPU 보조’에서 ‘CPU 주도’로

그동안 CPU는 GPU를 보조하는 역할에 머물렀지만, 생성형 AI를 넘어 ‘에이전틱 AI’로 진화하면서 상황이 달라지고 있다. 작업 계획 수립, 도구 실행, 코드 처리, 결과 검증 등 복합적인 추론 과정이 중요해지면서 이를 처리할 인프라의 성능과 효율이 핵심 경쟁력으로 부상했다.

엔비디아 창립자 겸 CEO 젠슨 황은 “이제 CPU는 단순 지원 역할을 넘어 모델을 직접 구동하는 단계로 확장되고 있다”며 “베라는 AI 시스템이 더 빠르게 사고하고 더 큰 규모로 확장할 수 있는 기반을 제공한다”고 강조했다.

AI 팩토리 구현 위한 핵심 인프라

베라는 엔비디아 그레이스 CPU의 후속 아키텍처로, 다양한 산업에서 대규모 AI 시스템을 구현할 수 있는 ‘AI 팩토리’ 구축에 초점을 맞췄다. 특히 단일 스레드 성능과 코어당 대역폭을 극대화해 코딩 어시스턴트, 기업용 AI 에이전트 등 고부하 서비스에서도 높은 처리량과 응답성을 확보했다.

엔비디아는 256개의 수랭식 베라 CPU로 구성된 랙 시스템도 함께 공개했다. 해당 시스템은 2만2500개 이상의 동시 CPU 환경을 지원하며, 단일 랙에서 수만 개의 AI 인스턴스를 운영할 수 있다. 이는 대규모 AI 서비스의 실시간 확장성을 크게 끌어올릴 수 있는 구조다.

CPU·GPU 초고속 결합…데이터 병목 해소

베라는 NVLink-C2C 인터커넥트 기술을 통해 GPU와 결합된다. 이 기술은 최대 1.8TB/s의 대역폭을 제공하며, 기존 PCIe Gen6 대비 7배 빠른 데이터 전송 속도를 구현한다.

또한 HGX 루빈 NVL8 시스템의 호스트 CPU로 활용되며, GPU 가속 워크로드의 데이터 이동과 시스템 제어를 담당하는 새로운 레퍼런스 설계도 제시됐다. CPU와 GPU 간 병목을 최소화해 전체 AI 처리 효율을 극대화한 것이 특징이다.

에이전틱 AI 최적화 설계

베라는 88개의 자체 설계 ‘올림푸스 코어’를 탑재하고, 공간적 멀티스레딩 기술을 통해 각 코어가 두 개의 작업을 동시에 처리할 수 있도록 설계됐다. 이는 다중 사용자 환경에서 안정적인 성능을 유지하는 데 강점을 가진다.

메모리 구조 역시 개선됐다. LPDDR5X 기반 저전력 메모리 서브시스템을 적용해 최대 1.2TB/s 대역폭을 제공하면서도 전력 소비는 절반 수준으로 낮췄다.

이러한 설계는 강화학습과 에이전틱 AI처럼 높은 시스템 활용도를 요구하는 환경에서 빠른 응답성과 효율성을 동시에 확보하는 데 초점을 맞추고 있다.

하이퍼스케일러·연구기관 대거 참여

베라는 공개와 동시에 글로벌 생태계의 폭넓은 지지를 확보했다. 알리바바, 메타, 오라클 클라우드, 코어위브 등 주요 하이퍼스케일러가 도입을 추진 중이며, 델, HPE, 레노버, 슈퍼마이크로 등 글로벌 서버 제조사들도 베라 기반 시스템을 설계하고 있다.

또한 로스앨러모스 국립연구소, 로렌스 버클리 연구소, 텍사스 첨단 컴퓨팅 센터 등 주요 연구기관도 도입을 계획하고 있다. 특히 일부 테스트에서는 기존 대비 최대 5.5배 낮은 지연시간을 기록하며 성능 우위를 입증했다.

AI CPU 시장 ‘표준 경쟁’ 본격화

엔비디아 베라는 단순한 신제품이 아니라 AI 인프라 구조 자체를 재정의하는 시도로 평가된다. GPU 중심에서 CPU·GPU 통합 아키텍처로의 전환, 그리고 추론 중심 AI로의 이동이 맞물리며 CPU의 전략적 중요성이 급격히 상승하고 있기 때문이다.

올해 하반기부터 파트너사를 통해 공급될 예정인 베라는 향후 AI 워크로드 전반에서 새로운 표준으로 자리 잡을 가능성이 높다. AI 산업이 ‘생성’에서 ‘행동’으로 진화하는 가운데, 이를 뒷받침할 인프라 경쟁 역시 한층 치열해질 전망이다.

김종혁 기자/news@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지