기업의 인공지능(AI) 모델 접근 권한을 탈취해 막대한 사용 요금을 발생시키거나 이를 암시장에서 재판매하는 'LLM재킹(LLMJacking)' 공격이 새로운 사이버보안 위협으로 부상하고 있다. 실제 공격 사례에서는 하루 만에 10만 달러 이상의 무단 사용 요금이 발생했으며, 일부 기업은 접근 권한을 차단하기까지 누적 피해액이 100만 달러에 달한 것으로 나타났다.

사이버보안 기업 맨디언트(Mandiant)와 구글 위협 인텔리전스 그룹(GTIG)은 최근 LLM재킹 공격의 구체적인 작동 방식과 피해 사례, 대응 방안을 분석한 새로운 보고서를 발표했다.

보고서에 따르면 기업들이 자율형 AI 에이전트와 최첨단 대규모언어모델(LLM) 도입을 확대하면서 관련 계정과 API 키 등 자격 증명을 노리는 공격도 증가하고 있다. 특히 공격자들은 탈취한 접근 권한을 직접 악용하는 데 그치지 않고, 다른 범죄자에게 저렴한 가격으로 판매하는 방식으로 수익화를 시도하고 있다.

LLM재킹은 기업이나 개인이 보유한 AI 모델 접근 권한을 무단으로 확보한 뒤 이를 악용하는 공격 수법이다. 타인의 컴퓨팅 자원을 가로채 암호화폐 채굴에 활용하는 '크립토재킹(CryptoJacking)'과 유사하지만, 피해가 발생하는 방식과 속도에서 차이를 보인다.

크립토재킹이 컴퓨팅 자원을 지속적으로 점유하면서 피해를 누적시키는 방식이라면, LLM재킹은 단시간에 대량의 API 호출을 발생시켜 피해 기업에 거액의 모델 사용 요금을 부담시킬 수 있다는 점이 특징이다.

탈취한 API 키로 AI 모델 무단 사용…글로벌 기업 전방위 공격

맨디언트와 GTIG가 분석한 최근 공격은 북미와 남미, 아시아 태평양 지역에 걸쳐 발생했다. 공격 대상도 금융 서비스, 유통, 기술, 운송 등 다양한 산업군으로 확대된 것으로 확인됐다.

공격자들은 주로 계정 자격 증명 탈취와 세션 하이재킹(Session Hijacking)을 통해 기업 환경에 침투했다. 세션 하이재킹은 정상적으로 로그인된 사용자의 세션을 가로채 해당 사용자의 권한으로 시스템에 접근하는 공격 방식이다.

공개된 깃허브(GitHub) 저장소에 실수로 노출된 유효한 자격 증명 역시 주요 공격 경로로 활용됐다. 개발 과정에서 외부에 노출된 API 키나 계정 정보가 공격자에게 전달될 경우, 해당 권한으로 AI 모델에 무단 접근할 수 있는 것이다.

주목할 부분은 탈취한 자격 증명을 활용한 수익화 구조다.

보고서에 따르면 공격자들은 확보한 API 키를 불법 프록시 게이트웨이와 연결해 여러 AI 모델에 접근할 수 있는 서비스를 구성하고 있다. 이른바 'LLM 믹서(LLM Mixers)'로 불리는 방식으로, 탈취한 접근 권한을 묶어 사이버 범죄 암시장에서 정상 이용 요금보다 크게 할인된 가격에 재판매한다.

이 과정에서 실제 AI 모델 이용 요금은 권한을 탈취당한 기업에 청구되지만, 공격자는 무단 접근 서비스를 판매해 수익을 얻는다.

실제 조사에서는 한 불법 토큰 라우팅 서비스가 구매자에게 월 60달러 수준의 요금으로 프런티어 AI 모델을 무제한 이용할 수 있도록 제공한 사례가 확인됐다. 이 서비스로 인해 피해 기업에 청구된 모델 사용 비용은 약 100만 달러에 달했다.

8시간 만에 50만 건 넘는 API 호출…서비스 계정 반복 생성으로 한도 우회

공격자들이 AI 모델 사용량 제한을 회피하기 위해 자동화된 수법을 동원한 사례도 포착됐다.

맨디언트와 GTIG가 분석한 한 공격에서는 위협 행위자가 8시간이 채 되지 않는 시간 동안 50만 건 이상의 LLM API 호출을 실행했다.

해당 공격자는 API 호출 한도를 우회하기 위해 수명이 짧은 서비스 계정을 지속적으로 생성하고 삭제하는 '소각 및 교체(Burn and Rotate)' 전략을 사용했다.

기존 계정의 사용 한도에 도달하거나 제한을 받으면 새로운 계정으로 교체해 API 호출을 이어가는 방식이다. 이를 통해 단기간에 대량의 모델 사용 요청을 발생시켰다.

공격자는 클라우드 서비스 제공업체의 청구 내역도 수시로 확인했다. 무단으로 발생시키고 있는 모델 사용 비용을 직접 모니터링하면서 공격을 지속한 것이다.

이처럼 LLM재킹은 단순한 계정 탈취를 넘어 자동화된 API 호출, 이용 한도 우회, 불법 서비스 재판매 등이 결합된 형태로 진화하고 있다는 것이 보고서의 분석이다.

비인가 AI 사용 현황 파악하고 API 키 관리 강화해야

맨디언트와 GTIG는 기업들이 AI 모델과 관련 컴퓨팅 자원에 대한 접근 통제를 강화하고, 비정상적인 사용 패턴을 조기에 탐지할 수 있는 보안 체계를 마련해야 한다고 강조했다.

우선 조직 내부에서 공식적으로 승인하지 않은 LLM이 사용되고 있는지 확인하는 '섀도 LLM(Shadow LLM)' 현황 파악이 필요하다고 제안했다.

아울러 API 키에 부여된 권한을 업무에 필요한 최소 범위로 세분화하고, 개발 환경과 코드 저장소에 노출된 자격 증명을 자동으로 찾아내는 시크릿 스캐닝(Secret Scanning)을 적용할 것을 권고했다.

전략적 위협 헌팅(Threat Hunting)을 통해 비정상적인 API 호출이나 의심스러운 계정 활동을 선제적으로 조사하는 방안도 제시했다. AI 서비스 이용 내역과 청구 정보를 지속적으로 점검하고, 다중 인증(MFA)을 활성화하는 등 기본적인 계정 보안 조치도 중요하다고 설명했다.

존 헐트퀴스트(John Hultquist) GTIG 수석 애널리스트는 "공격자들은 LLM재킹을 적극 활용해 방어자보다 규모 측면에서 우위를 점하려 한다"며 "에이전틱 도구를 이용해 피해자가 인지하지 못하는 사이 토큰을 탈취하고 공격 규모를 확대하고 있다"고 밝혔다.

이어 "기업이 LLM 자원에 대한 접근을 엄격하게 통제해야 막대한 비용 발생을 방지할 수 있다"며 "공격자들이 저렴한 비용으로 대규모 자율형 공격을 수행하는 상황에서 더 넓은 커뮤니티를 보호하는 데에도 이러한 조치가 필요하다"고 강조했다.

또한 기업들이 빠르게 도입하고 있는 AI 모델과 컴퓨팅 자원을 제대로 모니터링하지 않으면 제3자가 이를 무단으로 악용할 수 있다고 경고했다.

헐트퀴스트 애널리스트는 AI 자원의 사용 내역을 철저히 점검하고 다중 인증을 활성화하는 한편, 계정과 자격 증명 정보를 신중하게 관리해야 한다고 당부했다.

이준문 기자/jun@newstap.co.kr

ⓒ 뉴스탭(https://www.newstap.co.kr) 무단전재 및 재배포금지