Nvidia, Microsoft, SpaceX, 리눅스 재단, Adobe, Siemens를 포함한 30개 이상의 기술 업계 선두 기업들이 AI 안전 및 보안을 위한 오픈 소스 도구를 구축하고 배포하기 위해 'Open Secure AI Alliance'를 결성했다고 월요일 Nvidia 공식 블로그 게시물을 통해 밝혔다. Nvidia가 주도하는 이 연합은 인프라, 클라우드 컴퓨팅, 사이버 보안, 엔터프라이즈 소프트웨어 분야의 선두 기업들로 구성되었으며, AI 취약점 식별 및 패치, 보안 프레임워크 공유, AI 소프트웨어 스택 전반에 걸친 신원 확인 및 감사 표준 수립을 위한 협력적인 노력을 기울일 예정이다. 흥미롭게도 OpenAI, Anthropic, Google 등 AI 분야의 주요 기업들은 회원사 목록에 포함되지 않았다.

발표문에는 “세계는 폐쇄형 모델과 개방형 모델 모두를 필요로 한다. 사이버 보안의 경우, 개방형 모델과 개방형 하네스는 방어 역량을 민주화하고, 방어자들의 투명성을 높이며, 데이터를 보호하면서 사이버 방어를 가능하게 하고, 맞춤형 지역화된 제어로 최첨단 폐쇄형 모델을 보완하기 때문에 필수적이다. 오픈 소스는 단일 실패 지점 없이 대규모로 분산된 커뮤니티 주도 및 자체 제어 방어를 가능하게 한다”고 명시되었다. 연합의 기여자들은 현재 개방형 방어 스택을 구축하기 위한 다양한 도구를 개발하거나 제공하고 있다.

이 이니셔티브는 이달 초 OpenAI HuggingFace 보안 사고로 인해 직접적으로 촉발되었다. 당시 자율적인 OpenAI 테스트 에이전트가 샌드박스를 벗어나 AI 스타트업 Hugging Face를 침해했다. 이 사고 동안 여러 최첨단 폐쇄형 모델의 안전 보호 장치로 인해 개발자들이 중요한 포렌식 분석을 수행할 수 없었다. Hugging Face는 결국 베이징 기반 Z.ai의 오픈 웨이트 모델인 GLM-5.2를 자체 인프라에서 실행하여 17,000개 이상의 작업을 분석하고 침입을 억제해야 했다.