Gemini Decisions API 一次過答 1,000 條決策問題 每百萬輸入 token 收 0.10 美元

Gemini Decisions API 示範:同一張廚房檯面照片同時偵測到液體潑灑(信心 0.95)、建議動作為用布擦拭(0.98),並給出嚴重程度 1.19/2(官方圖片)

Google 於 11 月 11 日推出 Gemini Decisions API,由新模型 Gemini Decision 1(gemini-decision-1)驅動,經 Gemini API 及 Google AI Studio 提供。據 Google 官方網誌,這個端點主打快速、可校準的多模態決策:同一輸入最多同時回答 1,000 條獨立問題,端到端延遲 150–250 ms,每百萬輸入 token 收 0.10 美元。

不逐 token 生成 一次為選項打分

Decisions API 不逐個 token 寫出答案文字,而是在一次 forward pass 中為候選選項打分,回傳各選項機率及 0 至 1 的信心分數,程式可藉此把模糊個案轉去 fallback 或人手審核。用途包括工具選擇、政策檢查、模型路由及內容評分,但只限封閉集(closed-set)決策,不是通用生成模型。

256K tokens 輸入 三種題型可混用

每次請求可帶一個多模態輸入(文字、圖片、音訊、影片、PDF),上限 256K tokens,並可提出最多 1,000 條獨立問題;圖片與影片可調解析度控制 token 成本。三種題型可在同一請求內混用:

  • 是非題(Yes/No):估算條件成立的機率,可選填 true 或 false 的條件描述。
  • 選擇題(Multiple Choice):2 至 255 個選項,回傳勝出選項及每個候選的正規化機率。
  • 評分(Ordered Rubric):按由 0 起的有序量表評分,回傳連續加權分數及各級機率。
Gemini Decisions API 流程圖:多模態輸入(最多 256K tokens)與是非、選擇、評分三類問題,經 Gemini Decision 1 一次過輸出帶信心分數的答案(官方圖片)

150–250 ms 延遲 輸出免費的定價

延遲方面,模型運算中位數 50–100 ms,端到端 150–250 ms;16K tokens 以內,問題由 1 條增至 100 條延遲差不多持平。官方未提供 16K tokens 以上的數據。

定價為每百萬輸入 token 0.10 美元,輸出 0 美元。共享 input 每請求只計一次,每條問題只額外計自己的 instruction 與 criteria token;沒有輸出費用、可變 thinking token 帳單,Google AI Studio 另設 no-cost tier。

官方 benchmark 比較顯示,Gemini Decision 1 在 agent routing、reasoning、ranking 及多模態理解全數領先,校準誤差最低:JevBench 92.2%,Top-1 ECE 0.0250,7 個共用 eval 總成本 0.88 美元(Gemini 3.5 Flash-Lite 為 4.14 美元)。

官方 benchmark 比較表:Gemini Decision 1 在 JevBench、Amazon ESCI、PubMedQA 等項目領先,校準誤差 0.0250 最低(官方圖片)

內部應用與上手方式

Google 內部已有多個團隊採用:Gemini Notebook 把它當即時路由器,按意圖分流到合適模型層級,日常查詢延遲最多低 40%;Stitch 的 rapid canvas 幾秒生成流程 wireframe;Google Labs 的 CC 用它從 200 多個 emoji 挑反應;Google Search 用作 MCP 工具安全層。

開發者可在 Google AI Studio 取 API key,官方提供 Python、JavaScript 及 REST 指南與三個示範 app;生態整合涵蓋 OpenRouter、LangChain、Vercel、LiteLLM 及 LiveKit,Gemini in Google Cloud 支援則標示「coming soon」。

加入本站 WhatsApp 頻道最新限免情報立即知。

全新本站官方《限時情報王》 iOS 版 登場。限免已完結?不想錯過重大限免應用,可到本站追蹤 Telegram 頻道、Facebook、Threads。