미국 AI 보안 기업 컨티뉴엄 AI(Continuum AI)가 현지 시각 10월 12일 소프트웨어의 보안 허점을 찾아내는 AI 모델 ‘오르카사이버 제로 1.5(OrcaCyber Zero 1.5)’를 공개했다. 이 회사가 운영하는 AI 모델 중개 서비스 오르카라우터(OrcaRouter)에서 이용할 수 있으며, 9월 17일 공개한 1.0 버전의 후속 모델이다.

이 모델은 해커가 공격에 쓸 수 있는 취약점을 찾고, 그 취약점으로 실제 공격이 가능한지 확인하는 작업에 맞춰 개발됐다. 한 번에 100만 토큰 분량의 자료를 읽을 수 있어 큰 프로그램의 코드 전체나 긴 보안 기록을 한꺼번에 살펴볼 수 있다. 토큰은 AI가 글을 처리하는 기본 단위다.

회사가 직접 측정한 결과에 따르면 이 모델은 실제 웹사이트 취약점을 재현하는 시험(CVE-벤치)에서 24개 과제 중 23개를 해결해 95.8%를 기록했다. 해킹 대회 문제로 구성된 시험(사이벤치)에서는 39개 문제를 모두 해결했다. 다만 외부 기관이 검증한 결과는 아니며, 상세 기술 보고서도 아직 공개되지 않았다.

회사가 통제된 시험 조건에서 진행한 시연에서 모델은 로그인 절차를 우회해 관리자 권한을 얻었고, 결제 화면의 수량을 조작해 금액이 마이너스인 주문을 생성했다. 다른 AI 비서에 숨겨진 지시문을 빼내거나, 찾아낸 취약점을 고치는 코드를 직접 작성하고 수정 여부를 확인하는 과정도 시연했다.

이용 요금은 AI에 입력하는 자료 100만 토큰당 3달러(약 4,000원), AI가 생성하는 답변 100만 토큰당 7.5달러(약 1만 원)다. 모델은 검증된 보안 연구자와 기업 보안팀 등 허가받은 이용자에게만 제공된다. 컨티뉴엄 AI는 다음 주 기업이 자체 서버에 설치해 쓸 수 있는 공개형 보안 모델도 선보일 계획이다.

자세한 내용은 컨티뉴엄 AI에서 확인할 수 있다.

이미지 출처: 컨티뉴엄 AI