미국 국가안보국과 사이버보안·인프라보안국, 연방수사국이 현지 시각 9월 8일 중국 AI 기업 6곳을 대상으로 한 공동 경보를 발표했다. 경보 번호는 AA26-251A이며 딥시크와 문샷 AI, 알리바바, 미니맥스, 스텝펀, Z.AI가 대상이다.

경보는 산업 규모의 지식 증류를 문제 삼았다. 증류는 큰 모델이 내놓은 답을 교재 삼아 다른 모델을 가르치는 방법으로, 개발 비용과 시간을 줄일 수 있다. 세 기관은 여섯 기업이 2024년 말부터 수백만 건의 요청을 주고받으며 미국 최첨단 모델에서 수십억 개의 토큰을 추출했다고 밝혔다. 대상은 클로드와 GPT, 제미나이, 그록 계열 모델이다.

미국 AI 기업들의 이용약관은 자사 모델의 출력을 다른 모델 학습에 쓰는 것을 금지한다. 세 기관은 이번 활동이 중국 정부의 인지 아래 이뤄졌을 가능성이 높다는 표현을 경보에 명시했다.

경보는 미국 AI 기업과 연구기관에 대응 조치를 권고했다. 모델 출력 모니터링 강화와 비정상적 접근 패턴 탐지, 대규모 토큰 추출을 차단하는 기술적 조치, API 접근 통제와 사용량 모니터링이 제시됐다.

증류는 중국 AI 기업들이 모델 성능을 빠르게 높이는 수단으로 알려져 있다. 미국 모델의 출력을 학습에 활용하면 개발 비용과 시간을 줄일 수 있지만, 지식재산권과 보안 문제가 함께 제기된다. 이번 경보는 그 활동을 국가 차원의 위협으로 규정한 것이다.

미국 정부는 지난해부터 중국 AI 기업에 대한 수출 통제를 강화해 왔는데, 이번 경보는 대응 범위를 소프트웨어와 데이터 영역으로 넓힌 것이다. 미국 정보기관이 특정 중국 기업들을 공개적으로 지목한 것은 이례적이다.

자세한 내용은 CISA에서 확인할 수 있다.

이미지 출처: CISA