오픈AI가 현지 시각 11월 12일 기조연설에서 AI 에이전트가 기업 시스템의 취약점을 찾고 고치는 보안 제품 2종을 공개했다고 영국 IT 매체 더레지스터가 보도했다. 신제품은 모의 해킹 도구 ‘데이브레이크 레드팀(Daybreak Red Team)’과 취약점 수정 도구 ‘데이브레이크 디펜스 팩토리(Daybreak Defense Factory)’다.

데이브레이크 레드팀은 여러 AI 에이전트가 함께 작업하는 모의 해킹 도구다. 더레지스터에 따르면, 에이전트들은 소스 코드와 애플리케이션 정보를 활용해 웹 애플리케이션의 공격 경로를 조사하고 실제로 시험한다. 오픈AI는 레드팀을 얼리 액세스 형태로 제공한다.

디펜스 팩토리는 취약점을 찾아 검증하고 수정안까지 작성한다. 보안 특화 모델 ‘GPT-6 사이버’를 기반으로 하며, 오픈AI 소개 페이지에 따르면, ‘코덱스 시큐리티’ 플러그인을 사용하고 취약점 수정 작업은 모두 코덱스로 처리했다. 에이전트가 조직의 코드 저장소를 검사해 취약점을 찾고 패치를 작성하면, 낸시 왕 오픈AI 사이버 응용 AI 부문 책임자에 따르면, 엔지니어는 패치와 작동을 확인하는 테스트가 포함된 풀 리퀘스트를 받아 검토한다. 엔지니어가 승인한 수정만 실제 서비스에 반영된다.

오픈AI는 디펜스 팩토리 소개 페이지에서 사내 적용 결과도 공개했다. 오픈AI에 따르면, 사내 250명 이상이 참여해 100개가 넘는 서비스 영역에 디펜스 팩토리를 적용했다. 적용 첫날 긴급 문제 53건을 해결했으며, 검증을 거친 뒤 오탐률은 0.81%였다.

그렉 브록먼 오픈AI 사장은 기조연설에서 기업의 보안 수준은 그 기업이 사용하는 최첨단 모델의 수준만큼만 확보된다고 말했다. 브록먼 사장은 보안의 기본 원칙도 여전히 중요하다고 말했다. 더레지스터에 따르면, 오픈AI는 보안 조직이 AI 모델의 능력에 맞춰 보안 업무 방식을 바꿔야 한다고 강조했다. 오픈AI는 두 제품의 가격을 공개하지 않았다. 디펜스 팩토리는 오픈AI가 지난 10월 16일 서울에서 연 ‘오픈AI 사이버 CXO 라운드테이블’에서 사내 보안 운영 방식으로 처음 소개됐다.

자세한 내용은 더레지스터에서 확인할 수 있다.

이미지 출처: 오픈AI