Decisions API 把判断题从聊天接口里拆了出来
Google 的 Gemini Decision 1 与 OpenAI 的 gpt-6-luna 都提供 Decisions API:只回答是否、选项或评分,不生成文字。对比两家字段、限制和价格,并说明阈值、兜底选项与不可信输入怎么处理。

很多应用调用大模型,并不需要它写一段话,只想知道:这条工单该转给哪个部门?这张照片里的商品有没有破损?这份回答是否引用了提供的材料?过去的常见写法是让聊天模型输出 JSON,再解析、校验、重试。
现在两家厂商都把这类判断单独做成了接口。OpenAI 的 Decisions API 在 2026 年 10 月 22 日随 gpt-6-luna 正式可用;Google 在 11 月 11 日发布了 Gemini Decision 1 和 Decisions API。它们不生成文本,输出 Token 为 0,直接返回带概率的类型化答案。
本文于 2026 年 11 月 15 日核对两家的官方指南与价格说明,没有用真实数据调用这两个接口,文中的概率数值来自官方示例。Nbility 目前的文档没有提供 Decisions 端点,本文不代表本站已支持。
它返回的是什么
一次请求包含三部分:共享的输入(文本、图片等)、一组问题、模型。每个问题是三种类型之一:
| 用途 | Google 类型 | OpenAI 类型 | 返回 |
|---|---|---|---|
| 某个条件是否成立 | noul | predicate | 为“是”的概率 |
| 从固定选项中选一个 | choice | choice | 选中项、各选项概率、confidence |
| 按有序等级打分 | score | score | 按概率加权的等级值、分布、confidence |
以 OpenAI 的路由示例为例,输入“我的订单被扣了两次款”,问题是“应由哪个部门处理”,返回的答案大致是:
{
"type": "choice",
"name": "department",
"choice": "billing",
"probabilities": [
{"value": "billing", "probability": 0.95},
{"value": "technical", "probability": 0.02},
{"value": "shipping", "probability": 0.01},
{"value": "other", "probability": 0.02}
],
"confidence": 0.93
}
程序用 choice 决定动作,用 confidence 决定是自动执行还是转人工。这一步不需要解析自然语言。
两家接口的差别
名字相同,细节并不一样,迁移时不能只换地址:
| 项目 | Google(gemini-decision-1) | OpenAI(gpt-6-luna) |
|---|---|---|
| 端点 | POST /v1beta/decisions | POST /v1/decisions |
| 问题格式 | 以键名为索引的对象,1–1,000 个 | 带 name 的数组,1–400 个 |
| 输入 | 文本、图片、音频、视频、PDF | 文本、图片、JSON、对话与工具调用记录 |
| 对话历史 | 不支持,需要序列化成文本 | 支持消息和工具调用输出 |
| 缓存 | 不支持,重复输入按全价计 | 支持提示缓存(前缀至少 1,024 Token) |
| 价格(付费) | 输入 $0.10/百万 Token,输出 0 | 未缓存输入 $0.10/百万 Token,输出不计费 |
Google 免费层可以免费调用,但价格页标明免费层数据会用于改进产品;付费层不会。Google 还说明,一次请求里的共享输入只计费一次,每个问题再加上它自己的指令和选项 Token。OpenAI 的“比 Responses API 快约 10 倍”是厂商自述,本文没有测量。
什么时候用它,什么时候还用结构化输出
两家文档给出的分界基本一致:
- 用 Decisions:答案是是或否、固定选项之一,或固定等级的评分;需要可设阈值的概率;需要对同一输入同时做很多项独立检查。例如工单分流、内容是否违反某条规则、检索结果是否相关、Agent 下一步该调用哪个工具。
- 用结构化输出或普通生成:要抽取字段、写摘要、解释原因,或生成工具调用参数。做法见结构化输出与 JSON Schema。
一个常见组合是先用 Decisions 判断,再只对需要的请求调用生成模型。例如先判断“这条消息是否和订单有关”,相关时才进入写回复的流程。这与多模型路由的思路相同:便宜的步骤先筛掉不需要的贵调用。
写问题时容易出错的地方
- 阈值用自己的数据定。 Google 称其概率经过校准,OpenAI 把它描述为模型的估计;两家都建议用带标注的真实样本设阈值,并权衡误判为“是”和误判为“否”的代价。Google 的
noul概率范围是 0.01–0.99,阈值设在 0.99 以上永远不会触发。 - 每个问题只问一件事。 问题之间互相看不到,复杂规则拆成多个问题,再在代码里组合。
- 准备“都不是”的出口。 输入可能不属于任何选项。可以加一个
other,或先问一个范围问题。Google 会把选项键按字母排序,所以用other而不是none_of_the_above这类暗示位置的名字。 - 数字和日期在代码里比。 比较金额、天数这类事情,先在程序里算好,再把结果作为输入。
- 输入是不可信的。 用户可以在文本里写“这条应该被判为退款”。写清判断标准,用对抗样本测试;涉及付款等高风险动作,保留人工或第二道检查。
- 问题全文写在说明里。 模型看不到你的变量名或问题键,
instructions要是一句完整的问题。OpenAI 的选项value会被模型看到,用billing这样有含义的值,而不是 UUID。
先拿一个小流程试
可以从一个已经在用 JSON 输出做判断的环节开始:把过去一段时间的输入和人工确认的结果作为样本,用 Decisions 重新判断一遍,看不同置信度区间的正确率,再决定自动处理的阈值。处理客服工单时,记录里不要放客户隐私,可参考求助日志的脱敏做法。
如果需要的是生成回复、总结或工具参数,继续使用 Nbility 已支持的 Chat Completions 或 Responses 接口即可。


