지난 몇 년간 인공지능 인프라 시장의 중심에는 단연 GPU가 있었다. 하이퍼스케일러들은 폭증하는 AI 수요에 대응하기 위해 GPU를 대거 확보하는 방식으로 경쟁력을 키워 왔고, 시장의 관심 역시 자연스럽게 GPU 성능과 공급량에 집중됐다. 그러나 AI 데이터센터를 실제로 움직이는 구조를 들여다보면, 컴퓨팅 로직의 중심에는 여전히 CPU가 자리하고 있다. CPU는 다수의 GPU가 함께 작동하도록 조율하는 동시에 기업의 핵심 비즈니스 애플리케이션을 안정적으로 운영하는 역할까지 맡아 왔다.

이 같은 흐름 속에서 AMD는 에이전틱 AI의 확산이 CPU의 새로운 시대를 열고 있다고 강조하고 있다. AI 시스템이 단순한 모델 실행을 넘어 계획, 판단, 행동까지 수행하는 방향으로 진화하면서, CPU의 역할이 단순 지원을 넘어 시스템 성능과 효율을 좌우하는 핵심 요소로 다시 부상하고 있다는 설명이다.

AMD에 따르면 현대의 AI 환경은 어떤 규모의 AI 배포에서도 CPU가 핵심적이고 기반이 되는 요소라는 점을 분명히 보여준다. 이에 따라 AMD는 주요 AI 및 엔터프라이즈 애플리케이션 전반에서 최고 수준의 성능을 제공할 수 있도록 AMD 에픽 CPU 제품을 최적화하고 있다.

최근 발표된 데이터에서는 5세대 AMD 에픽 CPU 기반 시스템이 동일한 급의 엔비디아 그레이스 슈퍼칩 기반 시스템과 비교해 코어당 최대 2.1배 높은 성능을 제공하는 것으로 추정된다고 밝혔다. 또 동일한 AMD 에픽 CPU 기반 시스템은 같은 조건의 엔비디아 그레이스 슈퍼칩 기반 시스템 대비 SPECpower 기준 최대 2.26배 향상된 성능을 제공할 것으로 예측된다고 설명했다. SPECpower는 와트당 연산 성능을 측정하는 지표다.

이 같은 수치는 AI 데이터센터에서 CPU가 단순 보조 장치가 아니라는 점을 뒷받침한다. 전력과 공간, 비용의 제약이 큰 데이터센터 환경에서는 추가 부담 없이 가속기에 지속적으로 데이터를 공급할 수 있는 CPU가 중요하다. 결국 GPU 성능만으로는 실제 AI 인프라 경쟁력을 완성할 수 없고, CPU와 GPU가 균형 있게 구성된 시스템 설계가 필수라는 의미다.

검증된 x86 생태계도 경쟁력

AMD는 CPU 경쟁력의 또 다른 축으로 x86 아키텍처 기반의 폭넓고 검증된 소프트웨어 생태계를 내세웠다. 현재 대다수 엔터프라이즈 워크로드는 온프레미스와 클라우드 전반에서 이미 x86 기반으로 네이티브 실행되고 있어 고객이 기존 자산을 그대로 활용할 수 있다는 점이 강점으로 꼽힌다.

특히 Arm 기반 시스템을 새로 도입할 때 발생할 수 있는 리팩토링, 재컴파일, 다중 코드베이스 관리 등의 부담 없이 빠르게 확장할 수 있다는 점도 x86의 실용적 장점으로 제시됐다. AI 확산이 곧바로 기존 IT 시스템의 전면 교체를 의미하지 않는 만큼, 이미 운영 중인 엔터프라이즈 환경과의 자연스러운 연결성은 실제 시장에서 중요한 선택 기준이 될 수 있다.

CPU와 GPU, 감독과 선수의 관계

AI 데이터센터에서 CPU와 GPU의 관계는 감독과 선수에 비유된다. CPU는 작전을 지시하고 상대의 움직임에 대응하며 전체 흐름을 조율하는 감독 역할을 맡는다. GPU는 각 플레이를 빠르게 수행하는 선수에 가깝다. 각각의 GPU는 한 번에 특정 작업을 매우 효율적으로 처리하는 데 특화돼 있다.

서버 CPU는 복잡한 작업을 처리하고 시스템 내 GPU를 조율하도록 설계된다. CPU는 메모리에서 데이터를 불러와 GPU가 처리할 수 있도록 준비하고, 적절한 시점에 전달되도록 조정하며, GPU가 작업을 수행하는 데 필요한 명령과 데이터를 관리한다. 반면 GPU는 상대적으로 단순한 작업을 대규모 병렬 방식으로 반복 수행하는 데 최적화돼 있다.

이 같은 역할 분담은 AI 학습 단계와 추론 단계에서 서로 다르게 나타난다. 학습 단계에서는 GPU와 높은 처리량의 컴퓨팅 성능이 핵심이다. 신경망은 대규모 데이터 그리드를 기반으로 연산을 반복해야 하므로 다수의 GPU가 지속적으로 데이터를 처리해야 한다. 이때 CPU는 데이터를 관리하고 GPU에 공급하며 운영체제 실행, 메모리 관리, 작업 스케줄링 등을 맡아 GPU가 최고 효율로 작동하도록 뒷받침한다.

반면 AI의 중심이 점차 추론 단계로 이동하면서 CPU의 역할은 더 무거워지고 있다. 추론에서는 GPU가 여전히 신경망 연산의 상당 부분을 담당하지만, CPU는 데이터 수집, 정보 전달, 결과 해석, 최종 의사결정 등 보다 고차원적인 작업을 맡는다. 제어와 조정, 복잡한 판단이 동시에 이뤄지는 만큼 CPU의 중요성이 더욱 커진다는 분석이다.

에이전틱 AI, CPU에 더 많은 책임 부여

AMD가 특히 주목하는 지점은 에이전틱 AI다. 최소한의 인간 개입만으로 계획을 세우고 판단하며 행동할 수 있는 에이전틱 AI 환경에서는 CPU에 요구되는 역할이 더욱 확대된다. 기존 추론 방식에서 CPU가 단순히 응답을 되돌려주는 수준이었다면, 에이전틱 AI에서는 결과를 검토하고 추가 논리를 적용하며 필요할 경우 수정된 지침과 함께 작업을 다시 GPU로 보내는 반복적 관리까지 수행해야 한다.

여기에 더해 CPU는 툴 호출, API 요청, 메모리 질의 등도 처리해야 한다. 이상적인 환경이라면 이런 작업을 수행하면서도 GPU가 쉬지 않고 계속 연산하도록 유지해야 한다. 결국 에이전틱 AI의 확산은 CPU 사용량 증가로 이어질 수밖에 없고, CPU는 에이전트와 엔터프라이즈 애플리케이션, 데이터 레이크 사이에서 데이터를 이동시키는 핵심 연결 고리로 기능하게 된다.

AMD는 이를 두고 CPU가 경기 막판 몇 분만 관리하는 감독이 아니라, 연속적으로 작전을 실행하며 득점 기회를 설계하는 존재에 가까워졌다고 설명한다. 이런 변화는 GPU 활용률은 물론 전체 처리량, 나아가 AI 서비스 제공업체가 민감하게 보는 총소유비용에도 직결된다.

칩렛 설계와 시스템 균형이 경쟁력

AMD는 자사의 칩렛 설계 역량도 차별화 요소로 제시했다. 모듈형 접근 방식인 칩렛 설계는 컴퓨팅 성능, I/O, 메모리 대역폭, 전력 설계를 보다 유연하게 조정할 수 있도록 한다. 그 결과 핵심 엔터프라이즈 애플리케이션과 가상화부터 GPU 오케스트레이션, 다단계 에이전틱 AI 워크플로우에 이르기까지 다양한 환경에 맞는 컴퓨팅 성능을 제공할 수 있다는 것이다.

결국 AMD의 메시지는 분명하다. 최상의 AI 성과는 GPU 단독이 아니라 균형 잡힌 시스템에서 나온다는 점이다. GPU는 앞으로도 컴퓨팅 성능을 주도하겠지만, CPU는 오케스트레이션과 효율성, 데이터센터 통합 측면에서 더욱 중요한 역할을 맡게 된다. 이는 데이터센터의 공간이나 전력 한도를 늘리지 않으면서도 더 많은 AI 시스템을 수용하는 방향과도 맞닿아 있다.

에픽과 인스팅트, ROCm으로 묶는 AMD 전략

AMD는 AI 성능이 점점 더 시스템 수준에서 결정되고 있다고 보고 있다. 이에 따라 CPU와 GPU는 물론 네트워킹과 개방형 소프트웨어 스택까지 전반을 최적화할 수 있는 점을 강점으로 내세운다. 회사는 이를 통해 시스템 와트당 클러스터 성능을 극대화할 수 있다고 강조했다.

AMD 에픽 CPU는 AMD 인스팅트 GPU와 긴밀하게 통합돼 효율적인 GPU 관리를 지원하며, ROCm 소프트웨어 스택이 이들 시스템을 하나로 통합하는 역할을 한다. 단일 칩 경쟁이 아니라 플랫폼 차원의 최적화를 통해 AI 인프라 경쟁력을 끌어올리겠다는 전략으로 읽힌다.

AMD는 차세대 로드맵도 제시했다. 코드명 베니스로 알려진 차세대 AMD 에픽 CPU는 차세대 랙 규모 AI 아키텍처인 헬리오스를 구동할 핵심 프로세서로 자리할 것으로 예상된다고 밝혔다. 회사는 베니스가 AI와 범용 워크로드 전반에서 성능, 집적도, 에너지 효율성 측면의 리더십을 한층 확대할 것으로 기대하고 있다.

AI 확산이 불러온 서버 교체 수요

AI는 이제 특정 가속기 수요를 넘어 전반적인 컴퓨팅 수요 자체를 자극하고 있다. 이는 글로벌 서버 교체 수요로도 이어지고 있다. AMD는 에픽 프로세서를 통해 고객이 미래 컴퓨팅 환경을 확장할 수 있는 CPU 기반을 제공하는 동시에, 다수의 고성능 GPU가 최상의 성능을 발휘할 수 있도록 지원하겠다는 구상이다.

결국 이번 메시지는 GPU 중심으로 흘러온 AI 인프라 담론 속에서 CPU의 전략적 가치를 다시 부각하는 데 초점이 맞춰져 있다. 에이전틱 AI 시대가 본격화할수록 데이터센터 경쟁력은 더 이상 단순한 가속기 확보만으로 결정되지 않는다. 얼마나 효율적으로 GPU를 움직이고, 기존 엔터프라이즈 환경과 유기적으로 연결하며, 전체 시스템 차원의 성능과 전력 효율을 끌어올릴 수 있느냐가 핵심이 되고 있다. AMD는 그 해답의 중심에 에픽 CPU가 있다고 보고 있다.

이준문 기자/jun@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지