구글 위협 인텔리전스 그룹(GTIG)이 사람 개입 없이 취약점을 찾아 공격까지 실행하는 AI 해킹 도구를 처음 확인했다고 현지 시각 11월 16일 보고서에서 밝혔다. GTIG에 따르면, 공격자들은 지난 분기 거대 언어 모델(LLM) 기반 도구로 취약점 발견부터 공격까지 전 과정을 자동화했다.
GTIG가 외부에 노출된 공격자의 준비용 서버에서 찾은 도구 이름은 ‘exploit_agent’다. 여러 AI 에이전트가 함께 작동하는 취약점 연구, 공격 도구로, 많이 쓰는 웹 애플리케이션의 패치 전후 코드를 계속 비교한다. 이후 공격 코드를 작성하고 사람 개입 없이 자동으로 실행한다. 여러 상용 LLM, 로컬 LLM과 연동되지만, GTIG는 구체적인 모델 이름을 공개하지 않았다.
서버에서는 피해 기관에서 빼낸 데이터와 내부 정찰, 무차별 대입 공격, 웹셸 설치, 다른 공격자의 웹셸 삭제에 쓰는 스크립트도 발견됐다. 설정 파일에는 ‘키는 채팅창이 아니라 여기에 직접 입력하라’는 러시아어 주석이 있었다. GTIG는 운영자를 특정하지 않았다. GTIG가 분석한 공격 사례에는 워드프레스 플러그인 ‘스펙트라’ 2.19.25 버전이 포함됐다.
GTIG는 서버의 피해 기록을 근거로 운영자가 프랑스의 미디어, 엔터테인먼트, 교육 분야 웹사이트를 공격 대상으로 삼았다고 분석했다. GTIG는 인쇄 관리 소프트웨어 페이퍼컷의 인증 우회 취약점(CVE-2026-81578)과 안전하지 않은 클래스 로딩 취약점(CVE-2026-82078)이 2026년 8월 말 제로데이 공격에 악용된 사례도 소개했다. 보안 기업 헌트리스 등 연구진은 하루 안에 LLM으로 공격 코드를 재현했다. 보고서는 AI 침투 테스트 도구 ARTEX, CyberStrikeAI, HexStrike AI 등을 악용한 사례도 소개했다.
보고서에 따르면, 제로데이 취약점 공격은 2025년 월평균 8건, 2026년 월평균 11건이었으며 2026년 8월에는 22건을 기록했다. GTIG는 제한 없는 자율 실행이 네트워크 기록과 식별 가능한 정보, 고유한 코드 흔적을 남긴다고 분석했다.
실리콘앵글에 따르면, 구글은 확인된 제미나이 악용과 관련된 계정과 자산을 차단했다. 구글 딥마인드는 이번 분석 결과를 활용해 악용 탐지 분류 모델을 강화했다.
자세한 내용은 구글 클라우드에서 확인할 수 있다.
이미지 출처: 구글
AI Matters 뉴스레터 구독하기




쌀