Arm이 AI 에이전트를 실행하는 컴퓨팅과 에이전트를 감시·통제하는 컴퓨팅을 분리하는 인프라 구조를 엔비디아와 함께 제시했다. Arm은 공식 블로그에서 엔비디아가 9월 말 공개한 ‘오픈 에이전트 세이프티 플랫폼(Open Agent Safety Platform)’을 이 구조가 실제로 구현된 사례로 소개했다. 엔비디아는 100곳이 넘는 업계 파트너와 함께 이 플랫폼을 설계했다.

Arm은 IDC 자료를 인용해 가속 컴퓨팅용 서버 시장에서 Arm 기반 랙 스케일 서버가 x86 서버보다 높은 비중을 차지하는 주력 플랫폼이 됐다고 밝혔다. 랙 스케일 서버는 서버 랙 전체를 하나의 시스템으로 설계해 GPU와 CPU를 함께 운영하는 형태다. Arm 기술은 주요 하이퍼스케일러 전반에 도입되고 있다. 하이퍼스케일러는 AWS, 구글, 마이크로소프트처럼 초대형 데이터센터를 운영하는 클라우드 기업을 말한다.

AI 에이전트는 답변 생성에 그치지 않고 계속 실행되면서 도구를 호출하고 데이터에 접근해 작업을 수행한다. Arm은 에이전트 활용이 확대될수록 에이전트를 실행하는 컴퓨팅과 에이전트를 보호하는 컴퓨팅이 함께 필요하다고 설명했다.

에이전트 런타임과 하네스, 오케스트레이션, 도구 실행은 모두 CPU에서 처리된다. 오케스트레이션은 여러 에이전트와 도구의 작업 순서를 조율하는 기능이다. 에이전트가 더 오래, 더 많이 동시에 작동할수록 CPU 수요도 증가한다. Arm AGI CPU와 AWS 그래비톤, 구글 액시온, 마이크로소프트 코발트, 엔비디아 베라 CPU는 설계는 다르지만 Arm 소프트웨어 생태계와 호환된다. 엔비디아 오픈셸(OpenShell)은 에이전트 주변에 실행 경계를 설정해 에이전트가 접근할 수 있는 대상과 수행할 수 있는 작업을 관리하며, 이들 Arm CPU 전반에서 같은 방식으로 작동한다.

Arm 기반 DPU와 인프라 프로세서는 에이전트를 감시하는 별도 계층으로 작동한다. DPU는 데이터 처리 장치로, 네트워크와 보안 작업을 서버의 주 CPU 대신 처리하는 전용 칩이다. 네트워킹, 모니터링, 격리, 보안 기능을 호스트 CPU에서 분리하면 보호 대상 에이전트와 별도로 작동하는 제어 지점을 확보할 수 있다. Arm은 DPU도 Arm CPU 기술로 설계되기 때문에 개발자와 인프라 기업이 같은 아키텍처 위에서 보안 기능을 개발할 수 있다고 밝혔다.

엔비디아 블루필드-4는 Arm 네오버스 V2 코어 64개를 탑재한 엔비디아 그레이스로 구동되며, 호스트와 독립된 인프라 환경을 제공한다. 오픈셸은 블루필드에서 엔비디아 센트리(Sentry)와 통합돼 정책 시행 범위를 에이전트 런타임 밖의 별도 신뢰 영역까지 확장한다. 센트리는 에이전트의 행동을 실시간으로 모니터링하고, 안전하지 않은 행동을 보이는 에이전트를 격리하는 감시 시스템이다. 이 구조에서는 에이전트가 오작동하더라도 인프라와 네트워크 제어 기능이 에이전트와 독립적으로 작동한다.

Arm은 에이전트의 역량과 자율성이 높아질수록 컴퓨팅 수요와 함께 보안 체계도 확장돼야 하며, 에이전트가 클라우드 인프라에서 엣지 기기와 피지컬 시스템으로 확장되는 만큼 에이전트가 실행되는 모든 환경에 보안 경계가 적용돼야 한다고 설명했다.

관련 기사: 엔비디아, AI 에이전트 안전 플랫폼 공개…경계 벗어나면 DPU가 밀리초 안에 격리

자세한 내용은 Arm 뉴스룸(Arm Newsroom)에서 확인할 수 있다.

이미지 출처: Arm