NVIDIA Vera CPU, 에이전트 AI에 최적화된 아키텍처

NVIDIA의 Vera CPU는 기존의 작업 고립형 패러다임에서 벗어나, 조직화된 에이전트 지능 생태계로 컴퓨팅 아키텍처를 재정의한다. 이는 중앙 처리 장치(CPU)의 역할을 범용 멀티태스커에서 AI 에이전트의 복잡하고 다단계적인 추론 루프를 관리하도록 설계된 특수 지휘자로 전환하는 것을 의미한다.

Wccftech는 최근 NVIDIA Vera 팀과 만나 빠르게 성장하는 에이전트 AI 경제에서 CPU의 새로운 역할에 대한 정보를 얻었다. 단일 스레드 성능의 부활, CPU 제어 AI 샌드박스의 엄청난 규모, 그리고 진화하는 CPU-GPU 비율에 대해 논의했다.

클라우드 시대의 한계 극복 및 Vera CPU의 설계 특징

2010년대 초반, 데이터센터 설계는 코어 수량보다는 개별 프로세서 코어의 성능 극대화에 중점을 두었다. 이 시기 Intel과 같은 시장 선두 주자들은 더 적은 코어를 더 높은 클럭 주파수로 실행하는 아키텍처(예: Haswell 세대)에 집중했다. 이 시대는 높은 단일 스레드 성능을 가졌지만 전체 처리량은 낮은 CPU 설계의 상위 좌측 사분면에 해당했다.

대규모 클라우드 하이퍼스케일러가 성장하면서 산업은 규모 경제로 전환했다. 서버 단위당 수익을 극대화하기 위해 단일 서버에 가능한 한 많은 코어를 탑재하려는 수요가 증가했다. 이러한 밀도를 달성하고 비용을 제어하기 위해 x86 벤더들은 단일 칩 설계에서 멀티 칩렛 레이아웃으로 전환했다. 그러나 코어 수의 대규모 확장은 단일 코어 최적화 및 IPC(Instructions Per Cycle)를 희생시켰다. 이 시대는 대규모 처리량을 제공했지만 단일 스레드 성능이 낮은 하위 우측 사분면에 해당했다.

NVIDIA Vera CPU는 높은 단일 스레드 성능과 높은 처리량을 결합하여 클라우드 시대의 역사적인 트레이드오프를 깨고 에이전트 병목 현상을 해결한다. 이는 높은 코어당 속도, 대규모 대역폭을 위한 맞춤형 LPDDR5X 메모리 서브시스템, 그리고 지연 시간을 제거하는 2세대 NVIDIA Scalable Coherent Fabric으로 구동되는 단일 모놀리식 컴퓨트 다이의 세 가지 특정 설계 선택을 통해 달성된다.

Vera CPU의 독립적인 역할과 성능 우위

AI 인프라 환경은 균일한 올인원 서버 노드에서 고도로 전문화된 이기종 설정으로 변화하고 있다. NVIDIA의 원래 CPU 전략(Grace 프로세서에서 볼 수 있었던)은 서버 랙 내에서 GPU 클러스터에 데이터를 공급하는 데 전적으로 설계된 궁극적인 '호스트 노드'를 만드는 데 중점을 두었다. 그러나 에이전트 워크플로우 및 강화 학습의 고유한 요구 사항은 NVIDIA가 에이전트 도구 호출 및 강화 학습 작업을 처리하기 위한 순수 CPU 랙의 사용 사례가 있음을 깨달으면서 전환을 강요했다.

이러한 전환으로 인해 Vera CPU는 더 이상 결합된 GPU-CPU 아키텍처(Vera-Rubin 스택과 같은) 내에 통합된 구성 요소로만 간주되지 않는다. 대신 Vera는 독립적인 독립형 CPU 자산으로 상용화되고 있으며, 대규모 에이전트 도구 호출 및 추론 루프를 처리하기 위한 '순수 랙'의 Vera 프로세서가 포함된다.

Vera CPU는 이전 모델인 Grace보다 1.5배 빠른 성능을 제공한다. 특히 Python 스크립팅 및 코드 컴파일과 같은 순차적 작업에 크게 의존하는 에이전트 워크로드에서 업계 최고의 x86 프로세서와 비교했을 때 Vera는 최대 2배 빠르며, 기하 평균 기준으로는 1.6배의 이점을 제공한다. NVIDIA는 전통적인 동시 멀티스레딩 방식 대신 CPU 네이티브 기능인 Spatial Multithreading을 구현한다. 이 독점 기능은 칩이 전용 '워커' 및 'I/O' 스레드를 엄격하게 프로비저닝하도록 한다. 이러한 분할은 데이터센터 전체의 무거운 컴퓨팅 부하에서도 코어가 백그라운드 작업을 처리하기 위해 기본 처리 스레드의 사이클을 빼앗지 않도록 보장한다. Phoronix의 최근 심층 검토에 따르면 NVIDIA의 Spatial Multithreading은 약 20%의 성능 향상을 제공하는 것으로 확인되었다.

모놀리식 다이 선택과 미래 전략

NVIDIA는 레거시 x86 제조업체와 달리 클라이언트 PC와 하이엔드 데이터센터 모두를 위한 복잡하고 유연한 아키텍처를 설계할 필요가 없었다. 이러한 독특한 위치 덕분에 NVIDIA는 Vera를 단일 목표인 초고성능 AI 데이터센터만을 위해 설계할 수 있었다. AI 에이전트 및 데이터 분석의 강렬한 메모리 페칭 루프를 충족시키기 위해 NVIDIA는 경쟁사의 멀티 칩렛 트렌드를 의도적으로 거부하고 단일 모놀리식 다이를 선택했다. 모든 코어를 하나의 연속적인 실리콘 조각에 유지함으로써 NVIDIA는 데이터가 별도의 칩렛 간에 교차 통신 경계를 넘어야 할 때 발생하는 내부 성능 '세금'을 완전히 제거할 수 있었다.

이러한 모놀리식 엔지니어링은 협업 컴퓨팅에서 대규모 성능 이점으로 이어진다. Vera CPU는 전례 없는 초당 3.4테라바이트의 이분 대역폭을 달성하여 개별 프로세서 코어가 선도적인 x86 칩보다 3배 빠르게 협업하고 컨텍스트 정보를 공유할 수 있다. 모놀리식 접근 방식이 Vera의 특정 성능 목표를 달성하는 데 수학적으로 필요했지만, NVIDIA는 미래를 위한 칩렛 기술에 대해 매우 실용적이고 중립적인 입장을 유지한다. 회사는 미래 시장 기회가 요구한다면 칩렛 설계로 전환할 것이며, 엄격한 설계 철학보다는 엔지니어링 유용성을 선택할 것이다.