F5가 엔비디아 네모 가드레일(NeMo Guardrails)과 통합한 AI 보안 솔루션 ‘F5 AI 가드레일’을 공개했다. 실제 운영 단계에 올라간 AI 애플리케이션에 기업급 보안을 적용하는 제품으로, 현재 기업 고객을 대상으로 제공된다.

기업이 AI를 시범 운영에서 실제 운영으로 옮기지 못하게 막는 요인 가운데 하나가 보안이다. 하이브리드 멀티클라우드 환경에 여러 AI 모델과 프레임워크를 올린 조직은 보안 제어가 흩어져 있고 정책 적용도 제각각이며, AI 애플리케이션이 하나씩 늘 때마다 거버넌스 공백이 커진다. 대부분의 AI 프레임워크에는 기본적인 안전 점검 기능이 들어 있지만 개별 애플리케이션 안에 박혀 있어 중앙에서 적용되지 않는다. 그래서 보안·규제 준수 조직은 AI 트래픽을 검사하고 정책을 적용하며 이력을 추적할 단일 관리 지점 없이, 여러 도구와 애플리케이션의 정보를 일일이 취합해 가시성을 확보해야 했다.

F5 AI 가드레일은 보안 정책 적용을 AI 프레임워크에서 떼어낸다. 조직은 엔비디아 네모 가드레일을 표준으로 쓰면서 프롬프트와 대규모언어모델(LLM) 응답의 보안 검사는 F5가 담당하게 해, 애플리케이션을 고치지 않고도 기업 정책을 중앙에서 적용할 수 있다. 프레임워크 라이브러리와 마이크로서비스, 오케스트레이션, 보안이 각자의 역할을 맡고 따로 업데이트되는 계층형 구조가 만들어진다.

기능은 네 가지다. 프롬프트와 응답 검사는 AI 트래픽에 보안 정책을 실시간으로 적용해 프롬프트 인젝션과 무단 데이터 공개, 유해한 출력이 이용자나 연계 시스템에 닿기 전에 탐지하고 막는다. 프롬프트 인젝션은 악의적인 문장을 입력에 섞어 모델이 원래 지시를 어기게 만드는 공격이다. 중앙 집중 정책 적용은 애플리케이션 코드를 다시 쓰거나 워크플로를 바꾸지 않고 한곳에서 여러 애플리케이션에 정책을 걸 수 있게 한다. 여기에 모델과 프레임워크, 사업 부문을 가로질러 AI 애플리케이션 동작을 단일 화면에서 확인하는 가시성, 엔비디아 AI 프레임워크 위에 F5 검사 계층을 두어 각 요소를 따로 교체하고 확장하는 독립 계층 구조가 더해진다.

쿠날 아난드(Kunal Anand) F5 최고제품책임자(CPO)는 “기업에 부족한 것은 AI 애플리케이션이 아니라 애플리케이션 전반에 걸친 일관된 보안과 거버넌스”라며 “AI가 실제 운영 단계로 전환되면 분절된 제어 체계는 리스크와 복잡성을 키우고 도입을 지연시킨다”고 말했다. 이어 “이번 통합으로 보안 조직은 다양한 환경에서 AI 트래픽을 검사하고 정책을 적용하며 거버넌스를 관리할 통합 지점을 확보하고, 개발자는 자유롭게 개발을 이어갈 수 있다”고 설명했다.

애쉬 발가트(Ash Bhalgat) 엔비디아 AI 네트워킹 및 보안 솔루션·에코시스템 마케팅 선임 이사는 “엔비디아 네모 가드레일은 AI 애플리케이션에 안전 및 보안 정책을 적용할 수 있는 개방형 구조와 프로그래밍 기능을 갖춘 프레임워크”라며 “F5 AI 가드레일과의 통합은 고객이 AI 에이전트를 실제 운영 환경에 도입할 때 LLM 프롬프트와 응답을 보호하는 기능을 확대한다”고 말했다.

F5 AI 가드레일은 쓰는 LLM의 종류와 관계없이 AI 애플리케이션을 보호한다. 조직은 일관된 검사·정책 체계를 유지하면서 모델을 바꾸거나 새 AI 애플리케이션을 추가하고, 적용 범위를 여러 사업 부문으로 넓힐 수 있다.

자세한 내용은 F5에서 확인할 수 있다.

이미지 출처: F5