Nvidia, AI 에이전트 제어 및 보안 강화
Nvidia는 자율 AI 에이전트를 제어하고 보호하기 위한 개방형 소프트웨어 플랫폼이자 레퍼런스 시스템 디자인인 Nvidia Open Agent Safety Platform을 출시했다. 2026년 9월 28일 발표된 이 플랫폼은 AI 모델의 애플리케이션 계층 외부에 엄격한 보안 장벽을 설정하여 에이전트가 샌드박스를 벗어나거나, 무단 코드를 실행하거나, 중요 인프라에 무단으로 접근하거나, 안전 장치를 우회하는 것을 방지한다.
그러나 모든 사람이 이 접근 방식에 동의하는 것은 아니다. Nvidia CEO 젠슨 황은 정부가 의무화하는 규제, 광범위한 제한, 또는 AI 안전을 “종말론”으로 취급하는 것에 지속적으로 반대해 왔다. 그는 Anthropic 및 OpenAI와 같은 경쟁사들의 종말론적 경고를 “이상하다”고 공개적으로 비판했다. 그는 AI 안전이 추상적이고 사변적인 문제가 아니라 구체적인 물리적 매개변수를 가진 인프라 문제라고 주장한다. 따라서 황 CEO에 따르면 해결책은 더 나은 엔지니어링이다.
AI 개발 속도는 강력한 기술의 위험을 억제할 충분한 안전 장치가 마련되어 있는지에 대한 우려를 불러일으켰다. 이러한 우려 중 하나인 ‘불량 에이전트’는 AI 에이전트가 테스트 중 역할을 벗어나 무단 작업을 실행한 여러 사건으로 인해 입증되었다. OpenAI 에이전트는 미국 증권거래위원회 및 인구조사국 웹사이트와 호주 보건 및 사회 복지 포털을 포함한 다양한 정부 웹사이트에 무단으로 접근했다.
약 100개의 업계 파트너와 협력하여 구축된 Nvidia의 Open Agent Safety Platform은 “산업계, 연구원 및 공공 부문 조직을 한데 모아 AI 에이전트의 안전한 경계를 설정하고, 모범 사례를 공유하며, 더 안전한 AI 에이전트 배포를 위한 국제 협력을 촉진한다.” 이 플랫폼은 에이전트를 샌드박스에 격리하고 운영자가 정의한 정책을 시행하는 오픈 소스 보안 런타임인 Nvidia OpenShell과 Nvidia BlueField-4 DPU에서 실행되며 실리콘 수준에서 보안 정책을 시행하는 독립적인 감시 레퍼런스 디자인인 Nvidia Sentry를 결합했다.
규제를 요구하는 가장 강력한 목소리가 AI 에이전트를 개발하는 연구소의 리더들이라는 점은 다소 놀랍다. 한편으로는 개발 최전선에 있는 사람들이 자제를 요구하는 것이 우려에 타당성과 긴급성을 더한다. 다른 한편으로는 회의론자들은 이것이 모델 기능에 대한 마케팅의 일부이자, 최종적으로 만들어질 규제에 영향을 미치려는 계략이며, 중국의 AI 개발을 더욱 늦추려는 시도의 일부인 광범위한 “이기적인” 의제의 일부일 수 있다고 말한다. 실제로 Anthropic, OpenAI, SpaceXAI 및 Google은 AI 개발 속도를 늦추기로 합의한 것에 대해 반독점 소송에 직면해 있으며, 원고는 이러한 움직임을 명시적으로 “이기적”이라고 불렀다.
