지믈렛 랩스가 현지 시각 9월 4일 시리즈 B로 3억 달러(약 4,035억 원)를 유치했다고 발표했다. 안드리센 호로위츠가 주도했고 기업가치는 30억 달러(약 4조 350억 원)로 평가됐다. 누적 조달액은 3억 9,200만 달러(약 5,272억 원)다.
추론은 학습을 마친 모델이 요청을 받아 답을 내놓는 과정이고, 이 과정은 여러 단계를 거친다. 지믈렛은 모델을 단계별로 분해해 각 단계에 가장 잘 맞는 칩에 배분하는 방식으로 지연시간과 처리량을 함께 개선한다고 설명한다. 회사는 이를 멀티 실리콘 추론이라고 부른다.
지원하는 칩에는 엔비디아와 AMD, 인텔, Arm, 세레브라스, d-매트릭스 제품이 포함된다. 서비스는 자체 관리형 클라우드로 제공하거나 고객사 환경에 관리형으로 설치하는 방식 가운데 고를 수 있다.
회사는 2025년 10월 스텔스 상태에서 나왔고, 2026년 3월에는 고객 수가 3배로 확대되며 상위 프런티어 연구소와 대형 클라우드 사업자를 고객으로 확보했다고 밝혔다. 이후 지믈렛 클라우드에서 수십억 달러 규모의 계약 매출을 확보했고 관리 중인 이기종 인프라는 수백 메가와트 규모로 확대됐다고 설명했다.
에이전트 방식이 늘면서 추론 비용 구조를 다시 보는 시도도 함께 이어지고 있다. 한 대의 요청이 여러 번의 모델 호출로 이어지는 만큼, 같은 작업을 더 싼 칩에 배분할 수 있는지가 비용을 좌우한다.
자세한 내용은 글로브뉴스와이어에서 확인할 수 있다.
이미지 출처: 이디오그램 생성
AI Matters 뉴스레터 구독하기
9
