應用程式和智能代理在工作流程中需要作出許多小決策:如何將輸入分類、將請求轉交何處,或下一步採取甚麼行動。每項決策單獨看來都很簡單。但規模一大,延遲和成本便會不斷累積。
今天,我們正式推出 Decisions API。Decisions API 以 GPT‑6 Luna 為基礎,將 Luna 的智能集中用於答案範圍有限的問題,協助應用程式和智能代理根據文字、圖像及結構化輸入,近乎即時地作出決策,速度最高可達透過 Responses API 使用 GPT‑6 Luna 的 10 倍。
自公開測試以來,我們新增了 GPT‑Live 原生整合、用於重複使用上下文的提示詞快取,以及美國和歐盟的推論駐留功能。開發人員亦可傳入原生 JSON 輸入、在問題指示中加入圖像,並在每次請求中提出最多 400 個問題,是原有上限的兩倍。我們亦持續降低延遲,包括在亞洲多個地區增加處理容量。
早期使用 Decisions 的經驗,已展現出它在多種情境下的應用價值。
OpenAI 各團隊正將 Decisions API 應用於產品和業務工作流程。dot 團隊正利用 Decisions API 縮短回應時間,提升互動體驗。我們的個人理財團隊利用 Decisions API 將交易描述分類;傳訊團隊則利用 Decisions 按主題將媒體報道分類,並就報道支持或挑戰關鍵論述的情況作出評分,協助找出值得進一步審視的內容。
這些早期例子展示了快速、結構化的決策如何在各種應用情境中,將收到的資訊轉化為有用的行動。客戶對 Decisions API 的應用同樣廣泛,從準確釐清 AI 成本的歸屬,到提升語言學習體驗的互動性,都能發揮作用。
Decisions API 用法簡單:開發人員先定義問題和允許的答案,再以文字、圖像或原生 JSON 提供上下文。API 會傳回三種支援類型之一的答案,即機率(probability)、選項(choice)或分數(score),讓應用程式據此決定下一步。這些不同的答案類型,讓 Decisions 適用於各式各樣的應用情境。
Decisions API 支援三種答案類型:
類型 | 用途 | 主要結果 |
|---|---|---|
條件判斷(predicate) | 估算某項條件成立的機率,例如產品是否有可見損壞。 | 機率(probability):介乎 0 至 1 的估算值,表示條件成立的機率。 |
選項選擇(choice) | 從預先定義的選項中選取一項,例如智能代理應繼續、重試,還是要求澄清。 | 選項(choice):你提供的其中一個值。回應亦包含各選項的機率及可信度。 |
評分(score) | 根據評分準則中按次序排列的等級,為輸入內容評級,例如損壞的嚴重程度。 | 分數(score):各等級索引值按機率加權後的平均值。 |
透過 GPT‑Live,你可為語音應用程式帶來自然、富有表現力的對話,並流暢處理插話,讓交流順暢進行。Decisions API 現已原生整合 GPT‑Live(在新視窗中開啟),協助應用程式在即時對話中迅速作出有針對性的決策。客戶支援智能代理可以決定應提出問題以釐清情況、轉交請求,還是將問題升級處理。虛擬角色可在用戶說話期間調整面部表情,並根據用戶的話,以眨眼或微笑回應,帶來更具互動性的體驗。
以下範例會根據逐字稿的更新,選擇虛擬角色的表情。將此設定加入現有 GPT‑Live 工作階段的 session.triggers。
Live 會發出 decision.event;應用程式讀取選定的 reaction,再據此讓角色作出相應的動畫反應。進一步了解如何將語音功能連接至 Decisions API。(在新視窗中開啟)

Microphone off until you start
Expression palette
Tap a face to preview it.
Live decisions
Watch as the Decisions API chooses a facial expression based on what each of you says.
Your words
Watch the reaction as you speak.
Assistant’s words
Watch the face as the assistant replies.
Try saying
I rehearsed my audition for my cat. She walked out halfway through.
Decisions API 今天正式推出,可透過專用的 Decisions 端點使用 GPT‑6 Luna。請參閱收費方式與使用情況指南(在新視窗中開啟),了解目前收費及快取詳情。
先從應用程式經常重複作出的一項決策開始。定義問題、可能的答案,以及區分這些答案所需的上下文。你可以在 Decisions Playground(在新視窗中開啟) 中,使用自己的文字或圖像,透過反映實際使用情況的範例測試決策;也可以按照開發人員指南(在新視窗中開啟)發出第一個請求。
Decisions API 每百萬個輸入 Token 收費 0.10 美元。快取輸入每百萬個 Token 收費 0.01 美元。有關 30 分鐘及 12 小時快取寫入的收費,請參閱定價指南。(在新視窗中開啟)你只需支付輸入 Token 的費用,輸出 Token 不收費。美國和歐盟提供區域處理服務,符合資格的客戶亦可使用零資料保留(在新視窗中開啟)功能。詳情請參閱收費與快取(在新視窗中開啟)及資料控制(在新視窗中開啟)。



