로이터는 현지 시각 7월 31일 중국 군 관련 연구기관이 오픈AI와 앤트로픽 모델의 출력을 국방·감시·드론·사이버전·전장 계획용 AI 학습에 사용했다고 단독 보도했다. 워싱턴 소재 제임스타운 재단이 정리한 자료를 단독으로 제공받아, 중국 학술 논문과 특허 80건 이상을 검토한 결과다. 로이터는 군 연계 사례연구 24건을 추가로 확인했다고 밝혔다.

여기에는 모델 증류가 사용됐다. 성능이 높은 모델의 출력을 받아 작고 특화된 모델을 학습시킨 뒤 자국 안에서 운영하는 방식이다. 로이터는 증류 자체가 업계에서 널리 쓰이는 관행이며, 쟁점은 허가받지 않은 추출에 있다고 명시했다.

베이징에 있는 인민해방군 96941부대는 오픈AI GPT-3.5로 군 관련 소스코드 요약을 생성한 뒤 자국 모델 학습에 활용한 것으로 확인됐다. 무기산업과 연계된 중북대학은 앤트로픽 클로드 3 하이쿠로 소셜미디어 감시와 콘텐츠 분류를 위한 합성 학습데이터를 만들었다. 국방과학기술대학의 2024년 논문은 증류로 영상처리 모델을 축소해 무인기에 탑재하면 통신이 끊겨도 실시간 항법과 표적 판단이 가능하다고 서술했다.

제임스타운 재단 펠로 서니 청은 논문 60건 이상을 분석한 뒤 “중국 군 과학자들이 서구 모델의 추론 단계를 체계적으로 포착해 감시와 사이버전, 전술 의사결정에 맞게 변형하고 있다”고 말했다.

기업들의 대응은 나뉘고 있는 편이다. 앤트로픽은 중국이나 중국 정부가 통제하는 기업에 클로드 상용 접근을 제공하지 않으며 정책 위반을 탐지하는 감시 체계를 운영한다고 밝혔고, 증류된 모델은 원 모델의 안전장치를 잃을 수 있다고 덧붙였다. 오픈AI는 논평 요청에 응답하지 않았다. 백악관과 국방부, 중국 외교부, 인민해방군도 답하지 않았다.

AI 데이터 기업 사피엔 공동창업자 트레버 코버코는 증류 모델의 성능이 원 모델보다 떨어진다며, 선택된 기능을 값싸고 자국이 통제하는 시스템으로 옮기는 것일 뿐 최전선 AI로부터 독립을 이루는 것은 아니라고 말했다.

자세한 내용은 로이터에서 확인할 수 있다.

이미지 출처: 이디오그램 생성