앤트로픽(Anthropic)이 중국 인공지능 기업 3곳이 자사 AI 모델 클로드(Claude)에 2만4천 개 이상의 가짜 계정을 개설해 기술을 탈취했다고 공식 고발했다.

테크크런치(TechCrunch)에 따르면, 딥시크(DeepSeek)·문샷 AI(Moonshot AI)·미니맥스(MiniMax) 등 3개 기업이 해당 계정을 통해 클로드와 1,600만 회 이상의 대화를 생성했으며, 이 과정에서 '디스틸레이션(distillation)'이라는 기법을 활용한 것으로 알려졌다. 앤트로픽은 이들 기업이 "클로드의 핵심 차별화 역량인 에이전틱 추론(agentic reasoning), 툴 유즈(tool use), 코딩 능력을 집중적으로 노렸다"고 밝혔다.

디스틸레이션은 AI 기업들이 자사 모델을 더 작고 저렴하게 만들 때 흔히 쓰는 학습 기법이다. 그러나 경쟁사가 이를 악용하면 타사 모델의 능력을 사실상 그대로 복제하는 수단이 된다. 오픈AI(OpenAI)도 이달 초 미국 하원 의원들에게 보낸 메모에서 딥시크가 디스틸레이션을 통해 자사 제품을 모방했다고 주장한 바 있다.

각 기업의 공격 규모는 차이가 있었다. 딥시크는 15만 건 이상의 대화를 통해 주로 기초 논리와 정렬(alignment) 능력을 탈취하려 했으며, 특히 정책에 민감한 질의에 대한 검열 우회 방법을 집중적으로 수집한 것으로 파악됐다. 문샷 AI는 340만 건 이상의 대화를 통해 에이전틱 추론, 툴 유즈, 코딩·데이터 분석, 컴퓨터 사용 에이전트 개발, 컴퓨터 비전(computer vision) 등을 표적으로 삼았다. 지난달 문샷 AI는 새로운 오픈소스 모델 키미 K2.5(Kimi K2.5)와 코딩 에이전트를 공개했다. 미니맥스는 1,300만 건의 대화를 통해 에이전틱 코딩, 툴 유즈, 오케스트레이션(orchestration) 역량을 집중 탈취했다. 앤트로픽은 최신 클로드 모델이 출시되자마자 미니맥스가 트래픽의 절반가량을 즉각 해당 모델로 전환해 능력을 흡수하는 장면을 직접 포착했다고 밝혔다.

앤트로픽은 디스틸레이션 공격을 더 어렵고 탐지하기 쉽게 만드는 방어 기술에 계속 투자하겠다고 밝히면서도, "AI 업계, 클라우드 제공업체, 정책 입안자들의 공조 대응"이 필요하다고 촉구했다.

이번 사태는 미국의 대중국 AI 반도체 수출 통제 논쟁이 한창인 시기에 터져 더욱 주목받고 있다. 지난달 트럼프 행정부는 엔비디아(Nvidia)의 H200 같은 첨단 AI 반도체를 중국에 수출할 수 있도록 공식 허용했다. 비판론자들은 이 같은 수출 통제 완화가 AI 패권 경쟁의 결정적 시기에 중국의 AI 연산 능력을 키워준다고 우려하고 있다.

앤트로픽은 딥시크·미니맥스·문샷 AI가 이 정도 규모의 탈취를 감행하려면 "첨단 반도체에 대한 접근이 전제돼야 한다"고 지적했다. 앤트로픽 블로그는 "디스틸레이션 공격은 수출 통제의 정당성을 오히려 강화한다. 반도체 접근을 제한하면 직접적인 모델 학습뿐 아니라 불법 디스틸레이션의 규모도 줄일 수 있다"고 밝혔다.

사이버 보안 기업 크라우드스트라이크(CrowdStrike) 공동 창업자이자 실버라도 정책 액셀러레이터(Silverado Policy Accelerator) 싱크탱크 의장인 드미트리 알페로비치(Dmitri Alperovitch)는 테크크런치에 "중국 AI 모델이 빠르게 발전한 이유 중 하나가 미국 최전선 모델의 디스틸레이션을 통한 기술 탈취였다는 건 이미 한동안 명백했다. 이제 사실로 확인됐다"며 "이 기업들에 AI 반도체를 팔지 말아야 할 이유가 더 확실해진 셈"이라고 말했다.

앤트로픽은 디스틸레이션이 미국의 AI 경쟁력을 약화시키는 데 그치지 않고 국가 안보 위협으로도 이어질 수 있다고 경고했다. 앤트로픽 블로그는 "앤트로픽을 비롯한 미국 기업들은 국가 또는 비국가 행위자가 AI를 이용해 생물무기를 개발하거나 사이버 공격을 벌이는 것을 막는 시스템을 구축하고 있다. 불법 디스틸레이션으로 만들어진 모델은 이런 안전장치를 갖추지 못할 가능성이 높아, 위험한 능력이 보호막 없이 확산될 수 있다"고 경고했다. 또한 권위주의 정부가 최전선 AI를 사이버 공격, 허위 정보 캠페인, 대규모 감시 등에 활용할 위험이 있으며, 해당 모델이 오픈소스로 공개될 경우 이 위험은 더욱 커진다고 지적했다.

테크크런치는 딥시크, 미니맥스, 문샷 AI 측에 입장을 요청했으나 기사 작성 시점까지 답변을 받지 못했다.

자세한 내용은 테크크런치(TechCrunch)에서 확인할 수 있다.

이미지 출처: 앤트로픽