Zendesk 運用 OpenAI 打造專為解決問題而生的適應型智能代理

十多年來，Zendesk 一直協助企業提供優質的客戶體驗。Zendesk 平台每年成功解決超過 46 億次問題。

在 2023 年初，Zendesk 開始與 OpenAI 緊密合作，探索 AI 如何重塑服務及產品開發。現時，Zendesk 正試行新一代 AI 智能代理⁠（在新視窗中開啟），由 OpenAI 模型驅動，不但能管理整個對話，亦可自主規劃及執行回應：

• 把設定時間由數天縮短至數分鐘
• 將自動化率提升至 80%
• 讓團隊全面掌控 AI 的運作方式

即使是最先進的服務平台，在傳統自動化方面亦有限制。傳統模型依賴意圖分類：先預測客戶意圖，再觸發預設對話或流程，並期望客戶按既定腳本回應。

這種設定雖適用於結構化互動，但遇到細微差異、後續問題或邊緣個案，往往會迅速失效。

Zendesk 技術總監 Adrian McDermott 表示：「舊有模式是輸入訊息，輸出回應。真實客戶會改變主意、提出疑問，並期望 AI 能自然地跟上對話進度。在客戶服務中，最重要的就是解決問題，但時至今日，機械人在這方面的能力仍有局限。」

Zendesk 與 OpenAI 合作，採用檢索增強生成 (RAG) 來處理基礎的常見問題互動。如今，他們的重點已轉向生成式推理，讓 AI 智能代理獨立規劃並執行任務。

Zendesk 新一代 AI 智能代理，專為客戶服務而設。在 OpenAI GPT‑4o 等模型驅動下，智能代理不只會回答問題，更會主導對話、根據情境推理，並全力解決問題。

Zendesk 平台採用多智能代理架構，由多種專門智能代理組成，其中包括：

• 任務識別智能代理：這款 AI 智能代理無需依賴人工訓練，而是透過真實對話來了解用戶需求，提出釐清問題，並分辨相似問題之間的差異。
• 對話式 RAG 智能代理：透過多輪對話為實證依據，擴展傳統 RAG 的能力。例如，當用戶查詢付款選項時，智能代理會先追問用戶所在位置，然後再提取特定地區的政策。
• 程序編譯智能代理：Zendesk 的程序合規智能代理在自主與控制之間取得平衡，將自然語言表達的商業規則轉化為結構化流程，確保 AI 理解並以視覺化方式呈現執行步驟。
• 程序執行智能代理：透過呼叫 API、觸發工作流程及更新系統來執行，且一切操作皆符合企業定義的邏輯。

透過結合 RAG 與推理，Zendesk 的 AI 智能代理可以進行多步驟對話、提出跟進問題，並根據用戶輸入調整回應。平台能在不依賴僵化對話流程的情況下，自主解決複雜問題。

McDermott 表示：「我們讓機械人在引導對話時有更高的自主性，同時確保其運作不超出 Zendesk 對品質與準確性的規範。這個過程由深入理解客戶問題開始，並專注於解決問題。」

Zendesk 在開發 AI 智能代理上的一大轉變，在於轉向混合開發模型，讓智能代理在同一對話中自然切換流程與生成式程序。

有了全新的 AI 智能代理建立者，企業可以用自然語言定義程序。AI 智能代理會運用適應型推理來規劃行動方案，並在正式採用前預覽建議步驟。

AI 推理控制功能可即時展現 AI 智能代理的思考方式，確保團隊可透過檢視思路鏈 (CoT) 來審核每段對話，清楚掌握決策過程。

這項轉變將設定時間從數天縮短至數分鐘，並讓更廣泛的 Zendesk 客戶都能運用生成式自動化技術。

在系統層面，Zendesk 透過嚴謹的內部基準測試，為不同應用場景挑選並部署最佳模型，同時調整提示詞。團隊會同時考量延遲、成本和品質，並針對從 RAG 到背景推理等各類應用場景，測試 OpenAI o3‑mini 等新模型。

此流程讓 Zendesk 能在 24 小時內評估、測試及部署新模型。

Zendesk 會追蹤部署前後的表現，透過離線評估，以及解決率、編輯率和延遲等即時指標進行分析。每項模型決策均有文件記錄並可供審核，確保系統在持續演進時仍保持透明和可靠。

今年，Zendesk 計劃更進一步：推出自助服務基準測試平台，讓任何 Zendesk 工程團隊都能自行測試和部署模型，無需機器學習專家的支援。

Zendesk 目前正與早期採用者試行全新 AI 智能代理平台。此平台可輕鬆整合至現有系統，讓客戶無需重新構建，即可加速邁向 80% 自動化。

雖然更全面的指標將於 2025 年稍後公佈，但早期意見已相當正面：設定更快、回覆更準確，而且各個渠道皆能提供更流暢的用戶體驗。