Arm이 AI 에이전트 작업에 맞춘 새로운 CPU 성능 평가 방법을 공개했다. AI 에이전트는 사람 대신 여러 단계의 작업을 스스로 처리하는 AI 프로그램이다. Arm은 후지쯔와 메타, 오픈AI의 지원을 받아 이 평가 방법을 개발했다.

Arm은 AI 에이전트가 작업을 끝낼 때까지 진행 상태를 유지하고, 자료를 검색하고, 도구와 서비스를 호출하는 과정에서 CPU 사용량이 증가한다고 설명했다. 투자사 a16z가 소개한 자료에 따르면 AI 모델 중개 서비스 오픈라우터의 에이전트 토큰 사용량은 2026년 2월 이후 약 14배 증가했다. 토큰은 AI가 글을 처리하는 기본 단위다. Arm은 수많은 에이전트가 24시간 동시에 실행되면 CPU가 응답 속도를 유지하면서 얼마나 많은 작업을 끝내는지가 중요해진다고 밝혔다.

새 평가 방법은 실제 에이전트 활용 사례를 반영하고, CPU 성능을 반복해 측정할 수 있게 하며, 작업 전체의 결과를 검증하는 원칙을 따른다. 먼저 부품 단위 측정으로 AI 모델 추론이나 네트워크 같은 변수와 CPU 성능을 분리해 확인한다. 이어 작업을 처음부터 끝까지 실행해 성능 개선이 실제 작업 완료로 이어지는지 검증한다.

성능 분석 기관 시그널65는 이 방법에 맞춘 작업으로 Arm의 데이터센터용 CPU ‘Arm AGI CPU’와 AMD의 서버 CPU ‘EPYC 튜린’을 비교 검증했다. 7개 에이전트 작업에서 Arm AGI CPU는 AMD EPYC 9755보다 서버 랙당 평균 1.99배 높은 성능을 기록했다. 랙은 서버 여러 대를 설치하는 데이터센터의 기본 단위다. 이번 수치는 서버 한 대에서 측정한 결과를 바탕으로 랙 단위 성능을 추정한 값이다.

작업 종류별로는 도구 사용에서 평균 1.7배, 작업 흐름 조율에서 2배, 추론과 계획 수립에서 2.2배 높은 성능을 보였다. 에이전트가 다른 시스템과 분리된 실행 공간인 샌드박스를 생성하는 시간은 AMD EPYC 9965보다 최대 45% 짧았다. Arm은 높은 코어 밀도와 전력 효율 덕분에 이런 결과를 얻었다고 설명했다.

Arm은 Arm AGI CPU 기준 서버 설계를 데이터센터 하드웨어 설계를 공유하는 단체 OCP(오픈 컴퓨트 프로젝트)에 제공하는 절차를 진행하고 있다. 메타는 자사 서버 랙 설계 ‘요세미티 YV5’에 Arm AGI CPU를 도입하고 있다. 아바셰크 다노티아 메타 소프트웨어 엔지니어는 일관된 비교 기준을 마련하려는 Arm의 노력을 지지한다고 말했다.

자세한 내용은 Arm 뉴스룸에서 확인할 수 있다.

이미지 출처: Arm