Gemini Decisions API 拆解:Agent 如何用一次前向计算把路由、审核和多模态判断变快?
先说结论
Google 在 2026 年 11 月 11 日发布 Gemini Decisions API,核心不是再做一个“更会聊天”的模型,而是给 Agent 增加一个专门回答“在有限选项里该选什么”的决策层。它可以把文本、图片、音频、视频和 PDF 放进同一次输入,对最多 1000 个独立问题一次计算,返回选择结果、概率和置信度,而不是逐 token 生成长答案。
我的判断是:这类接口很适合做模型路由、工具筛选、策略审核和上下文质量判断,但不应该替代需要开放式推理的主模型。 150–250 毫秒端到端延迟、每百万输入 token 0.10 美元且不收输出 token 费用,让它有机会成为 Agent 的“快速控制平面”;真正的难点则从“模型会不会回答”变成“候选项和判定标准是不是定义得好”。
发生了什么
Google DeepMind 在官方博客发布《Gemini Decisions API: Fast, calibrated multimodal decisions》,页面发布日期为 2026 年 11 月 11 日。官方称该 API 由新模型 Gemini Decision 1 驱动,通过 Gemini API 和 Google AI Studio 提供,面向封闭集合决策:是/否判断、多选题和有序评分。
原始来源:
- Google 官方技术博客,2026-11-11:https://blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api/
- 官方文档:https://aistudio.google.com/docs/decisions-api
官方事实是:一次请求可以共享同一份多模态输入,并附带最多 1000 个问题;支持最长 256K token 的输入,官方给出的端到端延迟是 150–250 毫秒,其中模型计算的中位数为 50–100 毫秒;价格是每百万输入 token 0.10 美元,输出 token 不计费。我的判断是:它把许多过去必须“让大模型写一段解释”的任务,重新变成了可度量、可缓存、可降级的分类接口。
这不是 Google 第一次把模型放进工程控制环,但这次的产品边界更清楚:它不鼓励模型自由生成,而是要求调用方先定义候选答案、问题类型和评分标准。对 Agent 来说,这意味着决策可以从主对话链路中拆出来,变成一个有独立延迟预算和失败策略的组件。
技术细节
1. 一份输入,三种决策
Gemini Decision 1 的输入沿用 Interactions API 的 Content block 形式。文本、图片、音频、视频和 PDF 可以放在同一份输入中,随后对这份共享材料提出多组问题。官方列出三种问题类型:
- Yes/No:判断一个条件是否成立,并可分别写出“真”和“假”的判定标准;
- Choice:从 2 到 255 个候选项中选出一个,同时返回所有候选的归一化概率;
- Score:按照有序标准给出连续分数,并返回每个等级的概率。
这三种类型看似普通,关键差异在于它们共享一次输入编码。假设一个质检 Agent 需要检查一张照片、一段录音和一份维修单:传统做法可能先调用视觉模型,再调用文本模型,再让语言模型汇总;Decisions API 可以让多个问题围绕同一份材料同时计算,例如“是否存在安全隐患”“下一步该派哪类人员”“严重程度属于哪一级”。
官方示例把一张休息区台面的照片和文字说明放在同一请求中,然后同时判断是否有液体洒落、该采取哪种清理动作,以及现场严重程度。这个例子不复杂,但它说明了接口的工程形态:问题不是让模型写报告,而是让程序拿到结构化的候选选择和置信度。
2. 为什么“零输出 token”重要
生成式 API 的成本和延迟通常随着输出长度增长。即使最终只需要一个路由标签,模型也可能先生成解释、再由程序解析标签。Decisions API 直接返回概率与分数,官方称在共享 benchmark 上,相比 Gemini 3.5 Flash-Lite 搭配 Interactions API,整体成本接近低 5 倍。
更重要的是,它降低了“解析自由文本”的风险。程序不必从“我认为应该选择方案 A,因为……”里抽取方案 A,而是读取明确的选择结果、概率分布和置信度。对于需要审计的 Agent,这意味着日志可以记录规则版本、候选集合、模型置信度和最终动作,少依赖自然语言解释。
但这里有一个边界:概率不是事实证明。一个候选项得到 0.92,不代表它在现实世界中必然正确,只代表模型在给定输入、问题和候选定义下的相对判断更稳定。安全策略仍然需要确定性规则、人审阈值和拒绝路径。
3. 多问题并行与校准
官方说,问题数量从 1 增加到 100 时,延迟保持接近扁平;这正是批量决策的价值。模型路由器可以一次评估“是否需要深度推理”“是否包含代码”“是否需要视觉能力”“是否涉及高风险内容”,再决定后续走哪条链路。
官方博客还强调 calibration,也就是置信度与真实正确率之间的匹配程度。对 Agent 来说,校准比单一准确率更实用:高置信度结果可以直接走自动路径,中等置信度交给第二模型复核,低置信度则转人工或返回“无法判断”。如果只有一个准确率数字,却没有置信度,系统很难设计可靠的降级策略。
对 Agent / 工程的影响
1. 把路由器从提示词技巧变成独立服务
很多 Agent 目前用一个大提示词完成意图识别、工具选择和任务执行。问题是:提示词越长,主模型越慢;选择错误时,后面的工具调用已经产生了成本。Decisions API 可以放在入口处,先做一个轻量控制面:简单问题走便宜模型,复杂问题走深度模型,需要图像时才启用视觉链路,低置信度时要求补充材料。
这会带来更清晰的观测指标。工程团队可以分别统计“决策层延迟”“路由命中率”“低置信度比例”和“下游任务成功率”,而不是把所有错误都归因到一个聊天模型。
2. 工具选择要先限定候选集
工具调用是它很自然的场景,但不能把几十个工具的完整描述无差别塞进去,再期待模型稳定选择。更好的做法是先由规则做粗筛,再让 Decisions API 在少量候选中做选择,并把每个候选的适用条件写成可测试标准。比如“查询订单”“修改地址”“人工转接”三个选项,各自定义明确的输入证据和禁止条件。
如果候选集合会随版本变化,必须把候选列表和规则版本一起记录。否则同样的输入,在工具新增后可能得到不同选择,问题却无法复现。
3. 多模态质检和内容审核更容易落地
它原生接收图片、音频、视频和 PDF,因此适合做“先判断,再决定是否调用重模型”的前置层。比如视频抽帧后判断是否值得进入详细分析,PDF 与照片一起判断材料是否齐全,录音与业务字段一起判断是否需要人工复核。
不过“多模态输入”不等于“任何格式都可靠”。分辨率、音频质量、扫描件清晰度和上下文长度都会影响判断。上线前需要用真实分布做阈值评估,不能只拿官方 demo 的干净样本验收。
4. 成本下降不等于系统可以无限并发
每百万 token 0.10 美元很有吸引力,但输入仍然计费,且大批量问题会放大上游限流和重试压力。工程上应设置请求体大小、问题数量、超时和并发上限;对相同材料的重复判断可以缓存;对低风险的确定性规则,不要为了“统一 AI 化”而调用模型。
我的判断
第一,值得把 Gemini Decisions API 当作 Agent 的决策层候选,而不是主模型替代品。第二,最有价值的落点是路由、审核和上下文评分,因为这些任务天然有有限候选和明确降级。第三,真正决定效果的不是“模型有多强”,而是候选项、判定标准、置信度阈值和人工兜底是否被工程化;这些没做好,低延迟只会让错误更快发生。
Q&A
Q1:来源和发布日期是什么?
A:主源是 Google 官方博客《Gemini Decisions API: Fast, calibrated multimodal decisions》,发布日期为 2026-11-11,原文地址是 https://blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api/。接口文档见 https://aistudio.google.com/docs/decisions-api。
Q2:它和普通 Gemini 生成调用最重要的区别是什么?
A:普通调用通常生成文本;Decisions API 让调用方定义问题和候选项,返回选择、概率、置信度或评分。它更适合程序直接消费,而不是生成长篇解释。
Q3:能不能直接拿它做 Agent 的全部决策?
A:不能。它适合封闭集合判断,不适合开放式规划、复杂长链推理和需要创造性输出的任务。高风险动作仍应叠加规则校验、权限控制和人工复核。
Q4:最小验证应该看哪些指标?
A:至少看端到端延迟、不同置信度区间的真实准确率、低置信度占比、路由后的任务成功率、输入 token 成本,以及候选集合变化前后的回归结果。不要只看平均准确率。
Q5:什么时候不建议使用?
A:如果任务本来就能用正则、Schema 验证或确定性业务规则解决,不要引入模型;如果候选项无法稳定定义,或者错误后没有安全降级路径,也不应把它放进自动执行链路。
字数自检:正文约 4300 字符,超过最低要求。
隐私自检:未包含内部网络地址、真实机器标识、用户信息或认证凭据。
封面 seed:包含日期与主题 slug,未与其他栏目复用。
categories:ai_tech。