150 毫秒极速响应：OpenAI 推出 Decisions API，让 AI 从“聊天”走向“实时决策”

AI 总结
• OpenAI 在 9 月 30 日举行的 2026 开发者日活动中宣布推出 Decisions API，该 API 面向实时、低延迟的分类与路由场景，可在约 150 毫秒内返回结果。
• Decisions API 基于 OpenAI 的小型模型 Luna 构建，其响应速度比通过常规 API 使用 Luna 快约 10 倍，主要竞品包括 TypeSafe 的 Jev。
• 该 API 专为“快速单次决策”设计，开发者需提供上下文并预先定义好问题与有限答案集合，API 将返回选中的答案及置信度等结构化信息。
• 典型应用场景涵盖客服工单系统中对问题类型与优先级的自动判定、内容审核中的策略快速选择以及 Agent 编排中的决策节点工作流。

【IT之家 9 月 30 日消息】在今天召开的 2026 开发者日活动中，OpenAI 宣布推出 Decisions API，这是一个面向实时、低延迟分类与路由场景的全新 API，可以大约在 150 毫秒内返回结果，比通过常规 API 使用 Luna 快大约 10 倍。

【定位与原理】
Decisions API 为“快速单次决策”设计，把模型（当前基于 OpenAI 的小型模型 Luna）的“智能”聚焦到一组用户预定义的问题 + 有限答案集合上，用极低的延迟返回结构化决策结果。



在目前同类模型中，主要竞争模型来自 TypeSafe 的 Jev，不过 Decisions API 专注于将模型智能转化为快速决策。



开发者提供上下文（文本或图片），并预先定义好“问题 + 可选答案”，API 返回选中的答案及置信度等结构化信息，用于后续业务逻辑。

【典型应用场景】
Decisions API 比较适合以下场景：

• 客服 / 工单系统：根据用户描述自动判定问题类型、优先级、应分配的团队。

• 内容审核与策略选择：在几个预定义策略（例如：允许 / 限流 / 人工复审）中快速选择。

• Agent 编排中的“决策节点”：在多步工作流中，用 Decisions API 来决定下一步调用哪个工具 / 哪个子 agent，而不是让大模型自由发挥。

• 实时业务规则辅助：在已有规则引擎之上，用 Decisions API 处理模糊地带，在有限选项内给出建议决策，再由规则引擎做最终裁定。

[来源链接] https://www.ithome.com/1/008/531.htm