应用和智能体在整个工作流程中需要做出许多小决策:如何对输入进行分类、将请求路由到哪里,或下一步采取什么行动。单独来看,这些决策都很简单。但在大规模应用中,延迟和成本会不断累积。
今天,我们正式推出 Decisions API。Decisions API 基于 GPT‑6 Luna 构建,将 Luna 的智能集中用于答案范围有限的问题,帮助应用和智能体根据文本、图像和结构化输入做出近乎实时的决策,速度最高可达通过 Responses API 使用 GPT‑6 Luna 的 10 倍。
自公开测试以来,我们新增了 GPT‑Live 原生集成、用于复用上下文的提示词缓存,以及美国和欧盟的推理驻留支持。开发者还可以传入原生 JSON 输入、在问题指令中加入图像,并在每次请求中提出最多 400 个问题,是此前上限的两倍。我们也在持续降低延迟,包括在亚洲的多个地区增加容量。
Decisions 的早期应用已表明,它适用于多种使用场景。
在 OpenAI 内部,各团队正将 Decisions API 应用于产品和业务工作流程。dot 团队正用它缩短响应时间,提升交互体验。我们的个人财务团队用它对交易描述进行分类;传播团队则用 Decisions 按主题对报道分类,并评分评估报道是在强化还是质疑核心叙事,从而帮助识别哪些内容值得进一步审查。
这些早期案例展示了快速、结构化的决策如何在广泛的使用场景中,将接收到的信息转化为有用的行动。客户对 Decisions API 的应用同样广泛,从准确归因 AI 成本,到增强语言学习体验的互动性。
Decisions API 使用起来很简单:开发者定义问题及允许的答案,然后以文本、图像或原生 JSON 的形式提供上下文。该 API 返回三种支持的答案类型之一 — 概率、选项或分数,应用可据此决定下一步操作。多种答案类型让 Decisions 能够适用于广泛的使用场景。
Decisions API 支持三种答案类型:
类型 | 用途 | 主要结果 |
|---|---|---|
predicate | 估计条件成立的概率,例如产品是否有可见损坏。 | probability:条件成立的概率估计值,范围为 0 到 1。 |
choice | 从预定义选项中选择一项,例如智能体应继续执行、重试,还是请求澄清。 | choice:你提供的值之一。响应还包含概率和置信度。 |
score | 根据评分标准中按顺序排列的等级评估输入,例如损坏的严重程度。 | score:各等级索引按概率加权后的平均值。 |
借助 GPT‑Live,你可以为语音应用带来自然、富有表现力的对话,并顺畅处理打断,让交流流畅进行。Decisions API 现已与 GPT‑Live 原生集成(在新窗口中打开),帮助应用在实时对话中快速做出有针对性的决策。客服智能体可以决定是提出澄清问题、路由请求,还是将问题升级处理。虚拟形象可以在用户说话时调整面部表情,并根据用户的话语以眨眼或微笑回应,营造更具互动性的体验。
以下示例根据转录文本的更新选择虚拟形象的表情。将此配置添加到现有 GPT‑Live 会话的 session.triggers 中。
Live 会发出一个 decision.event;应用读取选定的 reaction,并据此驱动角色动画。详细了解如何将语音接入 Decisions API。(在新窗口中打开)

Microphone off until you start
Expression palette
Tap a face to preview it.
Live decisions
Watch as the Decisions API chooses a facial expression based on what each of you says.
Your words
Watch the reaction as you speak.
Assistant’s words
Watch the face as the assistant replies.
Try saying
I rehearsed my audition for my cat. She walked out halfway through.
Decisions API 今天正式推出,可通过专用的 Decisions 端点使用 GPT‑6 Luna。有关当前费率和缓存的详细信息,请参阅定价与可用性指南(在新窗口中打开)。
先从应用经常需要反复做出的一项决策开始。定义问题、可能的答案,以及区分这些答案所需的上下文。使用能反映真实使用情况的示例进行测试:在 Decisions Playground(在新窗口中打开) 中使用你自己的文本或图像,或按照开发者指南(在新窗口中打开)发起首次请求。
Decisions API 的费用为每百万输入 Token 0.10 美元。缓存输入的费用为每百万 Token 0.01 美元。有关 30 分钟和 12 小时缓存写入的费用,请阅读我们的定价指南。(在新窗口中打开)你只需为输入 Token 付费,输出 Token 不收费。支持在美国和欧盟进行区域内处理,符合条件的客户还可使用零数据保留(在新窗口中打开)。详情请参阅定价与缓存(在新窗口中打开)和数据控制(在新窗口中打开)。



