F5가 ‘F5 AI 게이트웨이’의 기능을 강화하고 이를 ‘F5 AI 시큐리티 플랫폼’에 통합했다고 8월 27일 발표했다. AI 게이트웨이는 기업이 쓰는 AI 모델과 에이전트, 도구에 대한 접근과 사용 방식을 한 곳에서 관리하는 제어 계층이다.

기업의 AI 활용은 실험 단계를 지났지만 통제 수단은 속도를 따라가지 못하고 있다. AI 트래픽이 AI에 맞춰 설계되지 않은 개별 프록시와 모니터링 도구에 흩어져 있어 일관된 기준을 적용하기 어렵다는 것이 F5의 설명이다. F5가 펴낸 ‘2026 애플리케이션 전략 현황 보고서’에서는 조직의 77%가 가장 비중이 큰 AI 활동으로 학습이나 튜닝이 아닌 추론을 꼽았고, 조직당 평균 7개의 AI 모델을 관리하고 있었다.

F5 AI 게이트웨이는 세 가지 기능을 하나로 묶었다. 모델 게이트웨이는 모델 접근을 관리하고 비용을 최적화한다. MCP 게이트웨이는 에이전트가 어떤 도구에 접근할 수 있는지 통제한다. MCP는 AI 모델이 외부 도구와 데이터에 연결되는 방식을 정한 규약이다. AI 가드레일은 프롬프트와 응답을 검사한다.

비용 관리 기능은 토큰 사용량을 AI 모델 제공업체와 모델, 팀, 사용자별로 나눠 추적한다. 토큰은 모델이 언어를 처리할 때 쓰는 최소 단위이자 요금을 매기는 기준이다. 팀별 예산을 설정해 청구 시점이 아니라 실제 지출이 발생할 때 한도를 적용하고, 스마트 라우팅과 모델 등급화, 시맨틱 캐싱, GPU 인식 로드 밸런싱으로 각 요청을 적정 비용의 모델로 보낸다. F5는 애플리케이션을 고치지 않고도 토큰 지출을 최대 60% 줄이도록 설계했다고 밝혔다.

MCP 게이트웨이는 에이전트가 권한을 받은 API와 데이터 소스, 검색 증강 생성 시스템에만 접근하도록 제한한다. 검색 증강 생성은 모델이 답을 만들기 전에 외부 문서를 찾아 참고하게 하는 방식이다. 어떤 에이전트가 누구를 대신해 언제 어떤 자원에 접근했는지는 감사 기록으로 남는다. 승인된 MCP 서버 정보는 레지스트리에 모아 각 팀이 같은 기준으로 확인한다.

AI 가드레일은 민감한 데이터가 모델로 전달되기 전에 가리고, 프롬프트 인젝션과 탈옥 시도를 차단한다. 프롬프트 인젝션은 입력에 몰래 명령을 섞어 모델을 조종하는 공격이고, 탈옥은 모델에 걸린 안전장치를 우회하게 만드는 시도다. 요청을 평가할 수 없으면 기본적으로 차단한다. 감사 기록과 SIEM 전송, 데이터 저장 위치 제어 기능을 제공하고 SOC 2와 ISO, HIPAA 프레임워크에 맞춘 운영을 지원한다.

쿠날 아난드 F5 최고제품책임자는 “AI 요청에는 비용과 보안, 거버넌스 측면의 영향이 뒤따르지만 대부분의 조직은 문제의 일부만 해결하는 개별 도구에 의존하고 있다”며 “앞으로 모든 기업에 AI를 위한 지능형 제어 계층이 필요할 것으로 본다”고 말했다.

F5 AI 게이트웨이는 SaaS와 하이브리드 SaaS, 하이브리드 멀티클라우드 환경에 구축할 수 있다. 규제 산업과 소버린 환경을 위한 에어갭 지원도 계획하고 있다. 에어갭은 외부 네트워크와 물리적으로 끊어 놓은 운영 방식이다.

자세한 내용은 F5에서 확인할 수 있다.

이미지 출처: F5