구글이 문장을 생성하지 않고 정해진 선택지 가운데 답을 고르는 판단 전용 AI 모델 ‘제미나이 디시전 1’을 출시했다. 구글은 현지 시각 11월 11일 공식 블로그에서 이 모델로 작동하는 ‘제미나이 디시전 API’를 함께 공개했다.

디시전 API는 AI 에이전트가 어떤 도구를 쓸지 고르거나, 질문을 어느 모델에 보낼지 정하거나, 콘텐츠가 정책을 지키는지 확인하는 작업에 맞춰 설계됐다. 이용자는 글, 이미지, 음성, 동영상, PDF를 하나의 입력으로 넣고 서로 독립된 질문을 최대 1,000개까지 함께 보낼 수 있다. 입력 분량은 최대 25만 6,000토큰이다. 토큰은 AI가 글을 처리하는 기본 단위다.

예, 아니요로 답하는 질문은 조건이 맞을 확률을 알려 준다. 객관식 질문은 2개에서 255개까지 선택지를 받아 가장 알맞은 답과 선택지별 확률을 알려 준다. 점수형 질문은 미리 정한 평가 기준에 따라 점수를 매긴다. 모든 답에는 0에서 1 사이의 신뢰도 점수가 포함돼, 판단이 애매한 경우 다른 모델이나 사람에게 검토를 넘길 수 있다.

제미나이 디시전 1은 답을 한 글자씩 생성하지 않고 후보 선택지 전체를 한 번에 채점한다. 구글에 따르면, 요청부터 결과 반환까지 150~250밀리초(ms)가 소요된다. 입력이 1만 6,000토큰 이하인 경우 질문을 1개에서 100개로 늘려도 처리 시간이 거의 변하지 않았다.

가격은 입력 100만 토큰당 0.10달러이며 출력 토큰에는 요금을 받지 않는다. 구글은 공통 벤치마크 기준으로 인터랙션스 API에서 ‘제미나이 3.5 플래시 라이트’를 쓰는 경우보다 비용이 5배 가까이 낮다고 밝혔다. 구글 AI 스튜디오의 무료 등급으로 시험해 볼 수 있다.

구글 자사 서비스인 제미나이 노트북은 들어온 질문을 알맞은 모델로 보내는 데 디시전 API를 사용해 일상적인 질문의 응답 지연을 최대 40% 줄였다. 구글 랩스의 CC는 200개가 넘는 이모지 가운데 알맞은 반응을 고르는 데, 구글 검색은 외부 도구 연결 과정의 공격 행위를 탐지하는 데 디시전 API를 사용한다. 오픈라우터, 랭체인, 버셀 등 개발 도구 지원도 순차 적용되며, 구글 클라우드의 제미나이 지원은 준비 중이다.

자세한 내용은 구글에서 확인할 수 있다.

▶︎ 관련 기사: 오픈AI, 빠른 판단 전용 ‘디시전 API’ 정식 출시

이미지 출처: 구글