구글이 답을 '쓰는' 대신 '고르기'만 하는 모델을 내놨다. Gemini Decisions API와 이를 돌리는 새 모델 Gemini

구글이 답을 '쓰는' 대신 '고르기'만 하는 모델을 내놨다. Gemini Decisions API와 이를 돌리는 새 모델 Gemini Decision 1이다.

AI 서비스 안에는 작은 판단이 많다. 이 질문을 어느 모델로 보낼지, 어떤 도구를 쓸지, 이 콘텐츠가 정책을 어기는지 같은 것들이다. 그동안은 이런 판단에도 생성 모델을 호출해 답이 나올 때까지 기다리거나, 전용 분류기를 따로 학습시켜야 했다.

Decision 1은 답을 토큰 하나씩 생성하지 않는다. 미리 정한 선택지에 한 번에 점수를 매긴다.

1. 입력 하나에 질문을 최대 1,000개까지 붙여 한 번에 평가한다. 입력은 텍스트, 이미지, 오디오, 영상, PDF를 섞어 최대 256K 토큰까지 넣을 수 있다.

2. 질문 형식은 세 가지다. 예/아니오, 2~255개 중 하나 고르기, 순서가 있는 등급 점수다.

3. 모든 답에 0~1 사이 신뢰도 점수가 붙는다. 애매한 경우만 다른 모델이나 사람 검토로 넘기도록 코드를 짤 수 있다.

구글이 밝힌 전체(엔드투엔드) 지연 시간은, 멀티모달 입력과 컨텍스트 최대 16K 토큰 기준으로 150~250ms다. 가격은 입력 100만 토큰당 0.10달러이고 출력 토큰은 과금하지 않는다. 구글 설명으로는 공유 벤치마크 기준 Gemini 3.5 Flash-Lite(Interactions API)보다 5배 가까이 저렴하다.

구글이 공개한 비교 표에서는, 핵심 벤치마크 9개 중 7개에서 가장 높은 점수를 기록했다. 공유 평가 7개 기준 보정 오차(Top-1 ECE)는 0.0250으로 표에서 가장 낮았다. Mind2Web Multimodal과 When2Call, 총비용(공유 평가 7개)에서는 TypeSafe Jev 1.14가 앞섰다.

구글 안에서는 이미 쓰고 있다. 구글 설명으로는, Gemini Notebook이 질문을 알맞은 모델로 보내는 라우터로 써서 일상 질문의 지연을 최대 40% 줄였다. Google Labs의 CC는 200개가 넘는 이모지 중 반응을 고르는 데 쓴다.

Google AI Studio와 Gemini API에서 바로 쓸 수 있고, 프로토타입용 무료 구간도 있다.

#Gemini #GoogleAI #GoogleDeepMind

https://t.co/0kPLQ16N8K

introducing the Gemini Decisions API

powered by Gemini Decision 1, our new multimodal decision model

get fast, calibrated decisions on up to 1000 questions at once across text, images, audio, video, and PDFs

try it today in AI Studio and via the Gemini API https://t.co/h3Kmz2ypDi