리퀴드 AI가 현지 시각 9월 29일 결정 모델 d1을 출시했다. 분류와 라우팅, 점수 매기기처럼 답이 정해진 선택지 안에 있는 작업만 처리하며, 텍스트를 생성하지 않는다. 응답의 출력 토큰 수는 항상 0이다.

결정 모델은 문장을 한 글자씩 만들어 내는 대신 미리 정해 둔 선택지에 확률을 매겨 한 번에 제공하는 방식이다. 리퀴드 AI는 세 가지 질문 유형을 제공한다. 노울은 예·아니오 질문에 0과 1 사이 확률을 제공하고, 초이스는 이름을 붙인 여러 선택지 가운데 하나를 고르면서 전체 확률 분포와 확신도를 함께 낸다. 스코어는 단계를 정해 둔 기준표에서 입력이 어디에 해당하는지 확률로 가중한 값을 제공한다. 세 유형을 한 번의 요청에 섞어 넣을 수 있고, 모델은 같은 상황을 놓고 모든 질문을 한꺼번에 평가한다.

리퀴드 AI는 d1이 허깅페이스 디시전 인덱스에서 종합 58.9점을 기록해 타입세이프의 Jev 1.13이 받은 57.9점을 넘었다고 밝혔다. 다국어 평가와 긴 입력 처리에서 앞섰고, 프롬프트 인젝션 공격에도 더 잘 버텼다는 설명이다. 프롬프트 인젝션은 입력에 숨긴 지시로 모델이 원래 규칙을 무시하게 만드는 공격을 말한다. 다만 도구 사용은 Jev보다 약간 낮았고 지식 추론은 8점 뒤졌다.

회사가 제시한 전환 근거는 비용과 안정성이다. 일반 모델은 한 단어짜리 분류 결과에도 출력 토큰 요금을 매기지만 d1은 출력 토큰이 없다. 생성 길이에 따라 응답 시간이 함께 늘어나지도 않고, 답이 항상 질문 유형에 맞춰 나오므로 형식이 깨진 JSON을 다시 요청할 일도 없다. 모델이 스스로 적어 내는 확신도 대신 보정된 확률을 제공하기 때문에, 고객 문의 분류라면 0.8을 넘으면 차단하고 0.2 아래면 통과시키며 그 사이는 사람이 보게 하는 식으로 기준을 정할 수 있다.

d1은 리퀴드 API에서 `d1:free` 이름으로 쓸 수 있다. 자체 서버에서 실행할 수 있는 가중치는 공개하지 않았고 추가 학습도 지원하지 않는다. 리퀴드 AI는 오픈라우터에도 곧 추가하겠다고 밝혔다. 회사는 요약과 대화, 코드 작성처럼 새 문장을 만들어야 하는 작업에는 기존 언어 모델을 그대로 쓰라고 안내했다.

자세한 내용은 리퀴드 AI 결정 모델 문서에서 확인할 수 있다.

이미지 출처: 리퀴드 AI