應用程式和智慧體在工作流程中需要做出許多小決策,像是如何分類輸入內容、將請求轉送到何處,或接下來採取什麼行動。單看每個決策,都很簡單。但規模一大,延遲和成本就會不斷累積。
今天,我們正式推出 Decisions API。Decisions API 以 GPT‑6 Luna 為基礎,將 Luna 的智慧聚焦於答案範圍明確的問題,協助應用程式和智慧體根據文字、圖片及結構化輸入做出近乎即時的決策,速度最高可達透過 Responses API 使用 GPT‑6 Luna 的 10 倍。
自公開測試版推出以來,我們已新增 GPT‑Live 原生整合功能,提供提示詞快取來重複利用上下文,並支援在美國和歐盟境內執行推論。開發人員也可以直接以 JSON 格式傳入資料、在問題指示中加入圖片,並在每次請求中提出最多 400 個問題,是先前上限的兩倍。我們也持續降低延遲,包括在亞洲多個地區增加運算容量。
早期的採用案例顯示,Decisions 可用於多種情境。
OpenAI 各團隊正將 Decisions API 應用於產品和業務工作流程。dot 團隊運用 Decisions API 縮短回應時間,提升互動性。個人理財團隊用來分類交易描述;公關團隊則運用 Decisions,依主題分類媒體報導,並針對報導強化或挑戰核心論述的程度評分,協助找出值得進一步審閱的內容。
這些早期案例顯示,快速、結構化的決策能在各種使用情境中,將接收到的資訊轉化為有用的行動。客戶對 Decisions API 的應用也同樣廣泛,從將 AI 成本準確歸屬到各項工作,到打造更具互動性的語言學習體驗,都能派上用場。
Decisions API 的使用方式很簡單:開發人員先定義問題及允許的答案,再以文字、圖片或原生 JSON 提供上下文。API 支援機率、選項和分數三種答案類型,會傳回其中一種類型的答案,讓應用程式據此決定下一步。多樣的答案類型讓 Decisions 能適用於各種使用情境。
Decisions API 支援三種答案類型:
類型 | 用途 | 主要結果 |
|---|---|---|
predicate | 估計條件成立的機率,例如產品是否有可見的損壞。 | probability:以 0 到 1 之間的數值估計條件成立的機率。 |
choice | 從預先定義的選項中選出一項,例如智慧體應該繼續、重試,還是請對方進一步說明。 | choice:你提供的其中一個值。回應也會包含 probabilities(各選項的機率)及 confidence(信心度)。 |
score | 根據評分準則中依序排列的等級評估輸入內容,例如損壞的嚴重程度。 | score:以機率加權計算的等級索引平均值。 |
透過 GPT‑Live,你可以讓語音應用程式自然、生動地與使用者對話,也能順暢處理插話,讓交談流暢進行。Decisions API 現已與 GPT‑Live 原生整合(在新視窗中開啟),協助應用程式在即時對話中,迅速針對明確問題做出決策。客服智慧體可以決定要提出問題釐清需求、轉送請求,還是將問題交由更高層級處理。虛擬化身可以在使用者說話時調整臉部表情,並根據對話內容眨眼或微笑回應,讓互動更生動。
下方範例會根據逐字稿的更新,選擇虛擬化身的表情。將這項設定加入現有 GPT‑Live 工作階段的 session.triggers 中。
Live 會發出 decision.event;應用程式讀取所選的 reaction,並據此呈現角色動畫。進一步瞭解如何將語音連接至 Decisions API。(在新視窗中開啟)

Microphone off until you start
Expression palette
Tap a face to preview it.
Live decisions
Watch as the Decisions API chooses a facial expression based on what each of you says.
Your words
Watch the reaction as you speak.
Assistant’s words
Watch the face as the assistant replies.
Try saying
I rehearsed my audition for my cat. She walked out halfway through.
這組示範有時間限制。開始使用 Realtime 的示範內容即表示你同意 OpenAI 的《使用條款》並已知悉了我們的《隱私權政策》。
Decisions API 今天正式推出,可透過專用的 Decisions 端點搭配 GPT‑6 Luna 使用。請參閱定價與供應情況指南(在新視窗中開啟),瞭解目前費率和快取詳細資訊。
先從應用程式經常重複做出的一項決策開始。定義問題、可能的答案,以及判別答案所需的上下文。使用符合實際使用情況的範例進行測試:你可以在 Decisions Playground(在新視窗中開啟) 中使用自己的文字或圖片,也可以參考開發人員指南(在新視窗中開啟)來送出第一個請求。
Decisions API 的費用為每百萬個輸入 Token 0.10 美元。快取輸入的費用為每百萬個 Token 0.01 美元。如需瞭解 30 分鐘及 12 小時快取寫入的費用,請參閱定價指南。(在新視窗中開啟)你只需支付輸入 Token 的費用,輸出 Token 不收費。美國和歐盟皆提供區域內處理服務,符合資格的客戶也可使用零資料保留(在新視窗中開啟)功能。詳情請參閱定價與快取(在新視窗中開啟)及資料控制(在新視窗中開啟)。



