중국 AI 기업 Z.ai가 현지 시각 9월 17일 자사 모델 GLM-5.3-플래시의 추론 서비스를 중국산 AI 가속기 10만 장 이상으로 구성한 클러스터에 직접 구축한 과정을 기술 자료로 공개했다. GLM-5.3-플래시는 전체 3,200억 매개변수 가운데 토큰당 180억 개만 사용하는 혼합 전문가 구조이며, 맥락창은 100만 토큰이다. 맥락창은 모델이 한 번에 참고하는 텍스트 양을 말한다.

Z.ai는 이 작업의 상당 부분을 GLM-5.3이 구동하는 ‘인프라 에이전트’가 담당했다고 밝혔다. 이 에이전트는 커널 개발과 최적화, 성능 병목 진단, 서빙 스택 개선을 엔지니어와 함께 수행했다. 모델이 자신을 서비스하는 시스템의 최적화에 직접 참여한 구조다.

모델 적응 단계부터 프로덕션 투입까지는 2주가 걸리지 않았고, 전체 처리량은 초기 기준 대비 세 배가 됐다. 토큰당 비용과 하드웨어 이용 효율은 주류 엔비디아 GPU와 비슷한 수준에 도달했다. 현재 GLM-5.3-플래시의 프로덕션 추론은 전부 이 시스템에서 처리된다.

Z.ai는 이번 작업을 재귀적 자기 개선의 초기 형태라고 표현했다. 재귀적 자기 개선은 AI가 자기 성능을 스스로 높여 가는 순환을 뜻한다. 동시에 회사는 아직 재귀적 자기 개선에 도달하지 않았으며, 목표를 정하고 경계를 설정하고 위험을 평가하는 일은 사람이 계속 담당할 몫이라고 밝혔다.

자세한 내용은 Z.ai에서 확인할 수 있다.

이미지 출처: Z.ai