현지 시각 8월 28일 텐센트가 소프트웨어 엔지니어링과 연구, 금융 분석 작업을 겨냥한 오픈소스 AI 모델 Hy4 프리뷰를 공개했다. 모델은 허깅페이스에 공개됐으며, 텐센트는 이를 자체 개발자 도구인 코드버디(CodeBuddy)와 워크버디(WorkBuddy)에 통합할 계획이다.
Hy4는 혼합 전문가(MoE) 구조로, 총 파라미터는 약 770B이며 요청당 활성화되는 파라미터는 약 49B다. 파라미터는 모델이 학습으로 얻은 값의 개수를 말한다. MoE 구조는 모든 파라미터를 매번 실행하는 대신 요청을 전문 하위 네트워크에 분산해 추론 비용을 낮춘다. 컨텍스트 창은 100만 토큰을 넘는다. 토큰은 모델이 언어를 처리하는 최소 단위이고, 컨텍스트 창은 모델이 한 번에 참고하는 분량을 가리킨다. 텐센트는 Hy4가 여러 오픈AI 코드스(Codex) 세션을 동시에 조율하고 결과를 비교할 수 있다고 밝혔다.
텐센트는 Hy4를 코드버디와 워크버디에서 출시 후 2주간 무료로 제공한다. API 가격은 입력 100만 토큰당 0.834달러, 출력 100만 토큰당 2.501달러이고 캐시 적중분은 100만 토큰당 0.042달러다. 텐센트 클라우드 토큰허브와 오픈라우터에서도 접근할 수 있다. 이번 프리뷰는 지난 7월 6일 아파치 2.0 라이선스로 공개된 Hy3의 후속이다.
텐센트는 Hy4 프리뷰가 자체 개발 과정에도 참여했다고 밝혔다. 훈련 방법과 데이터 전략, 평가 체계, 저수준 연산자를 자동으로 최적화하는 작업에 모델이 직접 들어가 방안을 제안하고 실험한 뒤 결과를 다음 탐색에 반영하는 초기 단계의 재귀적 자기개선 루프를 만들었다는 설명이다. 추론 시스템의 병목도 스스로 분석해 연산자 융합과 통신 최적화를 여러 차례 손봐 처리량을 기준 대비 31.8% 높였다. 텐센트가 내부적으로 전문가 163명과 엔지니어링 과제 203건을 놓고 진행한 블라인드 평가에서 Hy4 프리뷰는 4점 만점에 평균 2.99점을 받아 GLM-5.3(2.92점)과 키미 K3(2.94점)를 앞섰다. 텐센트의 오픈소스 전략은 오픈웨이트 모델을 무료로 배포하면서 그 위에서 실행되는 인프라와 클라우드 서비스로 수익을 내는 방식이다. Hy4를 코드버디와 워크버디 같은 유료 제품에 연결하는 것은 이 전략의 연장선이다. 개발자는 허깅페이스에서 가중치를 내려받아 자체 호스팅하거나 파인튜닝할 수 있고, 기업은 텐센트의 관리형 버전을 구독할 수 있다.
중국 AI 기업들의 오픈웨이트 모델 경쟁은 계속되고 있다. 지아이(Z.ai)는 GLM 계열을 에이전트 코딩과 사이버 방어 작업에 밀고 있고, 문샷은 2.8조 파라미터 규모의 오픈웨이트 모델 키미 K3를 공개한 바 있다. 텐센트의 이번 발표는 오픈웨이트 모델이 저렴한 가격과 긴 컨텍스트로 폐쇄형 프런티어 모델에 도전하는 경쟁에 합류했음을 보여 준다.
Hy4의 100만 토큰 컨텍스트 창은 대규모 코드베이스를 한 번에 처리할 수 있는 능력을 의미한다. 개발자는 전체 저장소를 모델에 넣고 수정 작업을 지시할 수 있어, 여러 파일에 걸친 리팩터링이나 버그 수정을 더 효율적으로 진행할 수 있다. 텐센트는 Hy4가 여러 오픈AI 코드스 세션을 동시에 조율하고 결과를 비교하는 작업을 지원한다고 밝혔다.
오픈소스 코딩 모델 시장에서는 메타의 코드 라마와 딥시크의 코더 계열, 알리바바의 큐원 코더 등이 경쟁하고 있다. 텐센트는 자체 개발자 도구인 코드버디와 워크버디에 Hy4를 통합해, 오픈소스 모델을 실제 제품에 연결하는 전략을 취하고 있다. 이는 모델 자체보다 이를 둘러싼 도구와 서비스로 수익을 내려는 움직임이다.
자세한 내용은 텐센트에서 확인할 수 있다.
이미지 출처: 텐센트
AI Matters 뉴스레터 구독하기
