텐센트가 16일 일상 업무용 AI 모델 ‘Hy4 플래시(Hy4 flash)’를 공개했다. 텐센트는 Hy 모델 가운데 비용 대비 효율이 가장 높은 모델이라고 소개했다.
Hy4 플래시의 전체 매개변수는 2,240억 개다. 매개변수는 AI 모델이 학습으로 조정하는 값으로, 모델의 크기를 나타내는 기준이다. 답을 만들 때 실제로 쓰는 매개변수는 이 가운데 120억 개다. 글과 이미지를 함께 처리하고, 한 번에 최대 100만 토큰 분량의 자료를 읽는다. 텐센트는 강화학습으로 작업 하나를 끝내는 데 쓰는 출력 토큰을 평균 50% 줄였고, 초당 150토큰 넘는 속도로 답을 생성한다고 밝혔다.
가격은 100만 토큰당 입력 약 0.070달러(약 93원), 출력 약 0.281달러(약 374원), 캐시 입력 약 0.003달러(약 4원)다. 텐센트의 자체 업무 평가 지표 ‘워크인덱스’에서 Hy4 플래시는 훨씬 큰 Hy4 프리뷰(전체 매개변수 7,700억 개)보다 성능이 조금 높았다. 작업당 비용은 Hy4 프리뷰의 13분의 1, Hy4의 20분의 1, 딥시크 V4.1 플래시의 8분의 1이었다. Hy4는 4일 공개된 텐센트의 상위 모델이다.
텐센트 내부의 워크버디 이용자 85명이 27개 분야 259개 작업으로 진행한 블라인드 평가에서는 만족도가 앤트로픽의 클로드 하이쿠 5.5에 가까웠다. Hy4 플래시는 비교 모델 가운데 작업당 비용이 가장 낮았고, 작업을 끝내는 시간도 가장 짧았다.
텐센트는 심층 조사, 문서 처리, 슬라이드 생성, 간단한 웹 화면 제작, 컴퓨터 조작 같은 일상 업무에 Hy4 플래시를 권했다. 오래 걸리는 소프트웨어 개발처럼 복잡한 작업에는 Hy4를 쓰라고 안내했다. Hy4 플래시는 텐센트 클라우드 토큰허브와 워크버디, AI 비서 앱 위안바오, 기업용 메신저 위컴, QQ, ima, 마비스에서 쓸 수 있다. 30일까지 워크버디에서는 무료이고, 토큰허브에서는 50% 할인된다. 텐센트는 Hy4 플래시를 오픈소스로 공개할 계획이라고 밝혔지만, 공개 일정은 알리지 않았다. 오픈라우터 연동도 곧 지원한다. 평가 수치는 모두 텐센트 Hy 팀이 발표한 자체 결과다.
자세한 내용은 텐센트에서 확인할 수 있다.
▶︎ 관련 기사: 텐센트, 770B 파라미터 오픈소스 코딩 모델 Hy4 프리뷰 공개
이미지 출처: 텐센트
AI Matters 뉴스레터 구독하기

