오픈AI, AI 보안 스타트업 프롬프트푸 인수…에이전트 보안 강화 나선다

2026.03.11. 10:03:35

193

오픈AI(OpenAI)가 AI 보안 플랫폼 스타트업 프롬프트푸(Promptfoo)를 인수한다고 공식 발표했다. 테크크런치(TechCrunch)에 따르면, 인수 절차가 완료되면 프롬프트푸의 기술은 오픈AI의 기업용 AI 에이전트 플랫폼인 '프런티어(Frontier)'에 통합될 예정이다.

프롬프트푸는 2024년 이안 웹스터(Ian Webster)와 마이클 디안젤로(Michael D'Angelo)가 공동 창업한 AI 보안 스타트업으로, 기업이 AI 시스템 개발 단계에서 취약점을 발견하고 수정할 수 있도록 돕는 도구를 개발해왔다. 오픈AI에 따르면, 프롬프트푸의 솔루션은 현재 포춘 500대 기업(Fortune 500) 가운데 25% 이상이 사용하고 있으며, 대규모 언어 모델(LLM) 애플리케이션을 평가하고 레드티밍(red-teaming·보안 취약점 모의 공격)하기 위한 오픈소스 명령줄 인터페이스(CLI)와 라이브러리도 널리 활용되고 있다.

오픈AI는 이번 인수를 통해 프런티어 플랫폼에 자동화 보안 테스트와 레드티밍 기능을 기본 탑재할 계획이다. 구체적으로는 프롬프트 인젝션(prompt injection), 탈옥(jailbreak), 데이터 유출, 도구 오용, 정책 위반 에이전트 행동 등의 위험을 기업이 사전에 탐지하고 해결할 수 있도록 지원한다는 방침이다.

오픈AI의 B2B 애플리케이션 최고기술책임자(CTO) 스리니바스 나라야난(Srinivas Narayanan)은 "프롬프트푸는 기업 규모에서 AI 시스템을 평가하고 보안을 검증하며 테스트하는 깊은 엔지니어링 역량을 갖추고 있다"며 "이 역량을 프런티어에 직접 통합하게 돼 기쁘다"고 밝혔다.

프롬프트푸 공동창업자 겸 최고경영자(CEO) 이안 웹스터는 "AI 에이전트가 실제 데이터와 시스템에 더 많이 연결될수록, 보안과 검증은 더욱 어렵고 중요해진다"며 "오픈AI 합류를 통해 이 작업을 가속화할 수 있게 됐다"고 전했다.

CNBC에 따르면, 프롬프트푸는 설립 이후 총 2,268만 달러를 조달했으며, 2025년 7월 기준 기업 가치는 약 8,550만 달러로 평가됐다. 해당 시리즈 A(Series A) 투자 라운드는 인사이트 파트너스(Insight Partners)가 주도했으며, 안드레센 호로위츠(Andreessen Horowitz)도 참여했다. 오픈AI는 이번 인수 금액은 공개하지 않았다.

테크크런치에 따르면, 오픈AI는 프롬프트푸의 오픈소스 프로젝트도 계속 개발해 나갈 계획이다. 해당 오픈소스 툴은 개발자들이 챗GPT(ChatGPT), 앤트로픽(Anthropic)의 클로드(Claude), 구글(Google)의 제미나이(Gemini) 등 주요 LLM의 성능을 비교하고 테스트하는 데 활용되고 있다.

한편 CNBC에 따르면, 오픈AI는 최근 몇 달 사이 여러 스타트업과 인재를 잇달아 영입하고 있다. 지난 1월에는 헬스케어 기술 스타트업 토치(Torch)를 약 6,000만 달러에 인수한 데 이어, 지난해 10월에는 애플 맥(Apple Mac) 사용자를 위한 AI 인터페이스 '스카이(Sky)'를 개발한 소프트웨어 애플리케이션스(Software Applications)를 인수한 바 있다.

자세한 내용은 오픈AI(OpenAI)에서 확인할 수 있다.

이미지 출처: OpenAI

AI Matters 뉴스레터 구독하기