앤트로픽의 위협 인텔리전스 책임자 제이컵 클라인은 현지 시각 9월 3일 CNBC 인터뷰에서 “클로드와 다른 모델에 접근하려는 불법 생태계 전체가 존재한다”고 밝혔다. 경쟁사가 클로드의 출력을 수집해 자사 모델을 학습시키는 증류 행위를 두고 한 말이다. 증류는 큰 모델이 내놓은 답을 교재 삼아 작은 모델을 가르치는 방법으로 그 자체가 불법은 아니지만, 앤트로픽은 지금 벌어지는 방식은 범죄에 해당한다고 주장한다.

클라인은 중국 AI 기업 문샷 AI의 키미 K3가 클로드 최신 버전을 불법적으로 학습해 개발됐다고 직접 지목했다. 키미 K3는 7월 오픈웨이트로 공개된 뒤 낮은 가격과 성능으로 빠르게 퍼진 모델이다. 앤트로픽은 올해 초에도 딥시크와 미니맥스가 클로드를 증류했다고 주장했고, 알리바바에 대해서는 대규모 증류 공격으로 기능을 탈취했다고 밝힌 바 있다. 오픈AI와 구글도 자체 보고서에서 같은 문제를 겪고 있다고 밝혔다.

증류에 쓰는 출력은 주로 다크웹을 거쳐 수집된다. 클라인은 “수만 개, 많게는 수십만 개의 가짜 계정을 대량 생성해 클로드에 접근한다”며 두더지 잡기 같은 상황이 벌어지고 있다고 설명했다. 다크웹 장터에서 도난당한 신용카드와 해킹된 AI 계정을 사들여 계정을 대량으로 만든 뒤, 수천 개의 질문을 던져 출력을 모으는 방식이다. 클라인은 이란과 러시아, 북한처럼 제재를 받는 지역의 연구소도 다크웹을 거쳐 클로드와 제미나이, 챗GPT에 접근하고 있다고 전했다.

앤트로픽은 비공개 시장에서 1조 달러(약 1,357조 원)에 가까운 기업가치를 인정받았고 이르면 10월 상장할 것으로 알려졌다. 클라인은 “경쟁은 환영하지만 도난 카드로 수백만 개의 가짜 계정을 생성해 안전장치 없는 모델을 개발하는 것은 안보 우려로 이어진다”고 말했다. 그는 중국에 기반을 둔 조직이 앤트로픽 기술을 이용해 대규모 첩보 활동을 벌인 사례도 있다고 덧붙였다.

자세한 내용은 CNBC에서 확인할 수 있다.

이미지 출처: 앤트로픽