중국 AI 기업 Z.ai(즈푸 AI)의 대형 언어모델 ‘GLM 5.3’이 아마존웹서비스(AWS)의 생성형 AI 플랫폼 아마존 베드록에서 정식 출시됐다. AWS는 현지 시각 10월 5일 공지에서 에이전트 방식 코딩과 장시간 이어지는 소프트웨어 개발 작업에 쓸 수 있는 모델이라고 소개했다. 자격을 갖춘 기업 고객이 사용할 수 있다.

GLM 5.3은 전체 매개변수 7,530억 개 중 토큰마다 약 400억 개만 쓰는 전문가 혼합(MoE) 구조다. 전문가 혼합은 여러 하위 모델 중 질문에 맞는 일부만 골라 계산해 비용을 줄이는 방식이다. 이전 GLM 5.2와 같은 기반 모델을 쓰고, 학습 후반 단계를 늘려 성능을 높였다. 한 번에 100만 토큰을 입력할 수 있고 최대 12만 8,000토큰을 출력한다.

추론 기능은 항상 켜져 있고, 사용자가 추론 강도를 골라 응답 속도와 토큰 사용량을 조절할 수 있다. 베드록에서는 시스템 프롬프트와 메시지에 캐시 위치를 지정해, 같은 맥락을 반복해서 쓸 때 지연 시간과 입력 비용을 줄이는 프롬프트 캐싱을 지원한다. 모델은 미국 리전 간 추론 프로필과 글로벌 리전 간 추론 프로필로 호출한다.

앤트로픽은 10월 1일 GLM 5.3의 공격 코드 작성 능력이 자사 미토스 프리뷰에 가깝고, 안전장치를 우회한 비율이 최대 100%에 이르렀다고 밝혔다.

자세한 내용은 아마존웹서비스에서 확인할 수 있다.

이미지 출처: Z.ai