Decisions APIGeminiOpenAI分类与路由Nbility

Decisions API 把判断题从聊天接口里拆了出来

Google 的 Gemini Decision 1 与 OpenAI 的 gpt-6-luna 都提供 Decisions API:只回答是否、选项或评分,不生成文字。对比两家字段、限制和价格,并说明阈值、兜底选项与不可信输入怎么处理。

查看接入文档
Decisions API 把判断题从聊天接口里拆了出来

很多应用调用大模型,并不需要它写一段话,只想知道:这条工单该转给哪个部门?这张照片里的商品有没有破损?这份回答是否引用了提供的材料?过去的常见写法是让聊天模型输出 JSON,再解析、校验、重试。

现在两家厂商都把这类判断单独做成了接口。OpenAI 的 Decisions API 在 2026 年 10 月 22 日随 gpt-6-luna 正式可用;Google 在 11 月 11 日发布了 Gemini Decision 1 和 Decisions API。它们不生成文本,输出 Token 为 0,直接返回带概率的类型化答案。

本文于 2026 年 11 月 15 日核对两家的官方指南与价格说明,没有用真实数据调用这两个接口,文中的概率数值来自官方示例。Nbility 目前的文档没有提供 Decisions 端点,本文不代表本站已支持。

它返回的是什么

一次请求包含三部分:共享的输入(文本、图片等)、一组问题、模型。每个问题是三种类型之一:

用途Google 类型OpenAI 类型返回
某个条件是否成立noulpredicate为“是”的概率
从固定选项中选一个choicechoice选中项、各选项概率、confidence
按有序等级打分scorescore按概率加权的等级值、分布、confidence

以 OpenAI 的路由示例为例,输入“我的订单被扣了两次款”,问题是“应由哪个部门处理”,返回的答案大致是:

{
  "type": "choice",
  "name": "department",
  "choice": "billing",
  "probabilities": [
    {"value": "billing", "probability": 0.95},
    {"value": "technical", "probability": 0.02},
    {"value": "shipping", "probability": 0.01},
    {"value": "other", "probability": 0.02}
  ],
  "confidence": 0.93
}

程序用 choice 决定动作,用 confidence 决定是自动执行还是转人工。这一步不需要解析自然语言。

共享输入和多个问题一次提交,按值与置信度决定自动处理或人工复核

两家接口的差别

名字相同,细节并不一样,迁移时不能只换地址:

项目Google(gemini-decision-1)OpenAI(gpt-6-luna)
端点POST /v1beta/decisionsPOST /v1/decisions
问题格式以键名为索引的对象,1–1,000 个带 name 的数组,1–400 个
输入文本、图片、音频、视频、PDF文本、图片、JSON、对话与工具调用记录
对话历史不支持,需要序列化成文本支持消息和工具调用输出
缓存不支持,重复输入按全价计支持提示缓存(前缀至少 1,024 Token)
价格(付费)输入 $0.10/百万 Token,输出 0未缓存输入 $0.10/百万 Token,输出不计费

Google 免费层可以免费调用,但价格页标明免费层数据会用于改进产品;付费层不会。Google 还说明,一次请求里的共享输入只计费一次,每个问题再加上它自己的指令和选项 Token。OpenAI 的“比 Responses API 快约 10 倍”是厂商自述,本文没有测量。

Google 与 OpenAI 的 Decisions API 在问题数、输入、历史、缓存和价格上的差异

什么时候用它,什么时候还用结构化输出

两家文档给出的分界基本一致:

  • 用 Decisions:答案是是或否、固定选项之一,或固定等级的评分;需要可设阈值的概率;需要对同一输入同时做很多项独立检查。例如工单分流、内容是否违反某条规则、检索结果是否相关、Agent 下一步该调用哪个工具。
  • 用结构化输出或普通生成:要抽取字段、写摘要、解释原因,或生成工具调用参数。做法见结构化输出与 JSON Schema。

是否、选项、评分交给 Decisions;字段、摘要和工具参数交给结构化输出

一个常见组合是先用 Decisions 判断,再只对需要的请求调用生成模型。例如先判断“这条消息是否和订单有关”,相关时才进入写回复的流程。这与多模型路由的思路相同:便宜的步骤先筛掉不需要的贵调用。

写问题时容易出错的地方

  • 阈值用自己的数据定。 Google 称其概率经过校准,OpenAI 把它描述为模型的估计;两家都建议用带标注的真实样本设阈值,并权衡误判为“是”和误判为“否”的代价。Google 的 noul 概率范围是 0.01–0.99,阈值设在 0.99 以上永远不会触发。
  • 每个问题只问一件事。 问题之间互相看不到,复杂规则拆成多个问题,再在代码里组合。
  • 准备“都不是”的出口。 输入可能不属于任何选项。可以加一个 other,或先问一个范围问题。Google 会把选项键按字母排序,所以用 other 而不是 none_of_the_above 这类暗示位置的名字。
  • 数字和日期在代码里比。 比较金额、天数这类事情,先在程序里算好,再把结果作为输入。
  • 输入是不可信的。 用户可以在文本里写“这条应该被判为退款”。写清判断标准,用对抗样本测试;涉及付款等高风险动作,保留人工或第二道检查。
  • 问题全文写在说明里。 模型看不到你的变量名或问题键,instructions 要是一句完整的问题。OpenAI 的选项 value 会被模型看到,用 billing 这样有含义的值,而不是 UUID。

先拿一个小流程试

可以从一个已经在用 JSON 输出做判断的环节开始:把过去一段时间的输入和人工确认的结果作为样本,用 Decisions 重新判断一遍,看不同置信度区间的正确率,再决定自动处理的阈值。处理客服工单时,记录里不要放客户隐私,可参考求助日志的脱敏做法。

如果需要的是生成回复、总结或工具参数,继续使用 Nbility 已支持的 Chat Completions 或 Responses 接口即可。

相关文章

12 月起 Carbon 贵一倍,难题和杂活要分开派
GeminiGemini 4 CarbonAPI 成本

12 月起 Carbon 贵一倍,难题和杂活要分开派

Gemini 4 Carbon 与 Argon 的推广价到 11 月 30 日结束,12 月 1 日起输入输出单价翻倍。用一个可复算的例子说明,怎样把规划和定位留给 Carbon,把执行交给 Hydrogen。

用 Nbility 跑通你的 Agent 工作流

获取 API Key,统一接入 OpenAI 兼容模型和开发工具。

获取 API Key