Arm이 현지 시각 9월 8일 데이터센터용 설계 자산인 네오버스 컴퓨트 서브시스템(CSS) N4를 공개했다. 컴퓨트 서브시스템은 CPU 코어와 캐시, 메모리 인터페이스, 입출력을 하나로 묶어 둔 반제품 설계로, 고객사가 자체 칩을 만들 때 처음부터 모든 요소를 개발하지 않아도 되게 해 준다.
CSS N4는 다이 하나에 최대 128개 코어를 담고 LPDDR6 메모리와 PCIe 7세대 연결을 지원한다. 이전 세대인 CSS N3와 비교해 성능은 최대 2배, 와트당 성능은 최대 1.25배, 메모리 대역폭은 최대 1.75배로 확대됐다. Arm은 이번 제품을 지금까지 내놓은 CSS 가운데 구성 자유도가 가장 높고 실리콘 구현까지 가장 빠른 경로를 제공한다고 설명했다.
모하메드 아와드 Arm 클라우드 AI 부문 총괄 부사장은 발표문에서 에이전트 확산이 데이터센터의 요구를 바꾸고 있다고 밝혔다. 에이전트가 추론에 그치지 않고 데이터를 가져오고 도구를 호출하며 데이터베이스나 다른 에이전트와 주고받는 과정에서 CPU 기반 연산이 크게 증가한다는 설명이다. 다만 작업 성격에 따라 요구가 갈리는데, 규모를 늘리는 용도에는 처리량 효율이, 응답이 중요한 에이전트 작업에는 반응 속도가 우선한다고 덧붙였다.
Arm은 IDC 집계를 인용해 Arm 기반 랙 규모 서버가 가속 컴퓨팅 플랫폼에서 x86을 앞질렀다고 밝혔다. 자체 칩을 만들지 않는 고객을 위해서는 지난 3월 공개한 Arm AGI CPU를 완제품 실리콘으로 제공한다. 오픈AI와 메타, 클라우드플레어, 오라클, SAP, 레노버, 슈퍼마이크로, 베르다가 이 CPU를 기반으로 솔루션을 개발하고 있다.
클라우드 쪽에서는 구글 클라우드가 액시온 기반 GKE에서 에이전트 샌드박스를 운영하고, 마이크로소프트 애저는 코발트 200으로 샌드박스 도구 실행을 처리한다. 샌드박스는 에이전트가 외부 시스템에 영향을 주지 않도록 격리해 둔 실행 환경을 말한다. 엔비디아 베라도 에이전트 작업 가속을 목표로 설계됐다. 바이트댄스의 클라우드 부문 볼케이노 엔진은 Arm AGI CPU 기반 에이전트 샌드박스를 처음으로 상용화한다.
Arm은 AI 인프라가 시스템 구조나 기능에 맞춘 전용 실리콘을 요구하는 방향으로 다양해지고 있다고 설명했다. 맞춤형 컴퓨팅 플랫폼부터 데이터 처리 장치(DPU), 네트워킹 설계까지 범위가 넓어졌다는 것이다. CSS는 이런 설계에 검증된 컴퓨팅 기반을 제공해 고객사의 개발 부담과 통합 위험, 실리콘 구현까지 걸리는 시간을 줄인다.
Arm은 같은 날 모바일용 AI 네이티브 컴퓨트 플랫폼과 AI 포털, 피지컬 AI 협력체 등 다섯 건을 함께 발표했다. 이 가운데 피지컬 AI 협력체에는 삼성 파운드리를 포함해 80개 이상의 기업이 참여했다.
자세한 내용은 Arm에서 확인할 수 있다.
이미지 출처: Arm
AI Matters 뉴스레터 구독하기
9
