在 Amazon Bedrock 推出智能代理專用 Stateful Runtime Environment

AI 智能代理在推理方面表現出色，但更具挑戰的是營運層面：如何在真實工具與真實系統之間，於長時間運作中可靠地執行多步驟流程，同時具備適當的控制機制。

今日，我們透過與 Amazon 的合作與聯合開發，推出全新 Stateful Runtime Environment，原生運行於 Amazon Bedrock，並由 OpenAI 提供支援，令 AI 智能代理應用更輕鬆簡單。AWS 客戶將可透過此 Runtime Environment 運用 OpenAI 的智能。這個環境已針對 AWS 基礎設施優化，並為代理式工作流程而設，具備生產環境所需的狀態管理、可靠性與管治能力。

很多基於無狀態 API 的智能代理原型都只能處理簡單用例，例如單一的提示詞、一個答案，或最多一次工具調用。但生產環境則截然不同。真實工作流程通常跨越多個步驟，需要承接先前操作的上下文，依賴多項工具輸出、審批流程與系統狀態，並在安全環境中設有可信的防護機制。

使用無狀態 API 時，必須自行構建智能代理的編排層。開發團隊需要負責釐清儲存狀態的程序、工具調用方法、有錯誤時如何處理，以及如何安全恢復長時間任務。

Stateful Runtime Environment 正是為減輕這種負擔而生，可以在你的 AWS 環境內運行，並針對 AWS 服務進行優化。現在，你的智能代理不再需要手動拼接零散請求來完成流程，而是可自動執行複雜步驟，並保留「工作上下文」，包括記憶／歷史紀錄、工具與工作流程狀態、環境使用情況，以及身份與權限界線。

現在，交付多系統客戶支援、銷售營運流程、內部 IT 自動化，以及包含審批與審核的財務流程等解決方案，變得前所未有地容易。

當運行環境負責跨步驟的持續編排與狀態管理時，團隊便可專注於工作流程與業務邏輯本身，而無需花時間搭建基礎支援架構。

具備狀態保存能力的任務專為長時間穩定運行而設，能保留多步驟執行所需的上下文與控制界線。

運行環境設計為在客戶的 AWS 環境內運作，可輕鬆符合既有的安全架構、工具整合和管治規則。

開始使用

Amazon Bedrock 中的 Stateful Runtime 將於短期內推出。如希望了解這將如何為你的 AI 發展帶來助益，請聯絡你的 OpenAI 團隊，或提交聯絡申請。