Google 推出 Gemini Decisions API 與 Decision 1 模型支援多模態決策

文章摘要

Google 正式推出 Gemini Decisions API 與 Gemini Decision 1 模型,專為多模態決策需求設計,支援文字、影像、音訊、影片與 PDF 等多元格式輸入。此技術能在單次傳遞中同時處理多達 1,000 個是非題、選擇題或評分題,並透過機率與信心分數進行判斷,而非傳統的逐字生成,大幅提升執行效率。系統端到端延遲僅 150 至 250 毫秒,且輸入容量支援高達 256K 標記。在收費結構上,該模型定價為每百萬輸入標記 0.10 美元,且免收輸出標記費用,相較 Gemini 3.5 Flash-Lite 的互動 API,成本降低約 5 倍。開發者目前可於 Google AI Studio 取得 API 金鑰進行串接,該工具特別適用於工具選擇、政策審核、模型路由與內容評級等封閉集決策場景,無需訓練自訂分類器,即可處理複雜的多模態資訊並自動輸出置信度分數,協助系統針對模糊案例進行標記,以便後續執行備援機制或人工審查。

AI 大叔解析

## 【核心判斷】
Google 這次把大語言模型當作傳統「分類器」來賣,徹底切斷了逐字生成文字的延遲與計費包袱。Gemini Decision 1 放棄傳統 Token-by-token 解碼,改用單次前向傳遞(single forward pass)直接輸出機率與信心分數,專攻是非、選擇與評分等封閉式決策。它支援高達 256K 標記的多模態輸入,且允許單次請求塞入最多 1,000 個獨立問題,在模型端運算僅需 50 至 100 毫秒、端到端延遲壓在 150 至 250 毫秒的水準下,把這類路由與審核任務的計費直接鎖定在每百萬輸入標記 0.10 美元,且輸出標記完全免費。

## 【毒舌吐槽】
業界過去一年最愛玩的把戲,就是叫昂貴的生成式模型回傳一個 JSON,裡面只裝著一個「Yes」或「No」,順便附贈幾百毫秒的網路等待與按字計費的帳單。這次 Google 算是自己戳破了這層國王的新衣:既然只是要做工具選擇或內容審查這類選擇題,根本不需要模型在那邊假裝思考吐字。免收輸出費用、直接吐回 0 到 1 的信心分數,直接把那些為了做多模態分類而硬刻客製化小模型的土法煉鋼工程,襯托得既昂貴又費工。

## 【為什麼重要?】
這項設計直接改變了 AI 系統中控制層(Control Plane)的成本結構與架構複雜度。在以往的多模態系統中,如果企業想同時檢查一段語音通話紀錄加上一份 PDF 帳單,通常必須先做語音轉錄(ASR)、跑光學字元辨識(OCR),再串接客製化分類模型或呼叫通用 LLM。Gemini Decision 1 不收語音轉錄與 OCR 額外費用,且不論單次請求掛載多少題目,共享的多模態輸入資料只計費一次,這讓它在基準測試上的成本比 Gemini 3.5 Flash-Lite 搭配 Interactions API 還便宜近 5 倍。

延遲特性的扁平化是另一個關鍵訊號。在包含多模態輸入與 16K 標記的上下文情境下,從 1 個問題增加到 100 個問題,其模型運算時間幾乎維持平坦。當系統需要對同一筆資料連續進行十幾道政策審查(Policy checks)與模型路由(Model routing)時,工程架構不需要再平行開十幾個 API 連線去等回傳,也不用承擔個別連線超時的風險,大幅降低了微服務鏈條上的除錯成本。

## 【影響對象與建議】
- **AI 系統架構師**:檢視目前架構中僅用於回傳是非判斷、JSON 標籤或模型路由的生成式呼叫,評估替換為 Decisions API,以省下解碼延遲並消除輸出標記費用。
- **內容審核與風控工程師**:直接利用回傳的 0 至 1 信心分數設定閾值,將低信心或邊界案例自動導向人工審查或備援流程,無須自行訓練與維護多模態分類模型。
- **Agent 與工作流程開發者**:若系統需要依據使用者輸入進行工具選擇(Tool selection),可改用此 API 取代龐大 prompt 的生成判定,利用已整合的 LangChain 或 LiteLLM 套件降低調度延遲。

想更了解這個話題?