改善每次 OpenAI 互動的支援

此文章為 OpenAI 系列之一，探討 OpenAI 如何利用自家技術構建公司解決方案。

一直以來，支援服務意味著排隊、支援票證和吞吐量。但在 OpenAI，這並不夠好。我們服務數以億計的用戶，每年處理數百萬計的要求，同時處理量以每年數倍的速度持續增長。

很多組織都需處理規模擴展問題，但很少需要同時面對規模擴展與超高速增長。幾乎沒有公司同時面對這兩種挑戰，兼正在打造可改變這種面貌的技術。這種結合，讓我們需要從根本上重新構想支援方式。

支援並非數量上的挑戰，而是工程與營運設計挑戰。因此我們構建出與別不同的營運模式：每次互動都令下一次互動更臻完善。

營運團隊希望可以超越利用聊天機械人來迴避支援問題的做法。團隊有一個願景：將支援重新構想成可以持續學習和改善的 AI 營運模型。

而核心部分，則包含三項構成要素：

• 平台：亦即支援系統互動之處。這可以是聊天、電郵和電話，但逐步將支援協助直接內嵌於產品之中。
• 知識：不只是靜態的文件，而是源自真實對話、政策和情境的動態指引，且懂得持續改善。
• 評估與分類器：由軟件與人類共同構建的品質共識，加上用於衡量、改善和突顯反饋的工具。

這各個範疇並非獨立存在，而是環環相扣。在企業對話中出現的模式，可以引發開發者常見問題。就某個案所進行的評估，可以協助強化模型，令日後數以千計的個案獲益。而由於同一基礎能力可以推動聊天、電郵與語音等不同平台，各種改善會在不同渠道自動擴展。

支援代表的角色正不斷改變。我們的目標是將模型從主要著重處理交易性工作，轉變為整體建構的一部分。支援代表有能力直接透過由下而上地作出轉變，或間接透過日常工作的自然流動，來參與架構建設工作。

支援代表可以標示應用作測試個案的互動、在留意到新模式出現時建議和提供分類器，甚至是測試簡單的自動化工作，以填補日常工作流程空隙。培訓工作亦會相應調整：訓練不應只集中於政策，而是著重評估互動、識別結構性空隙、甚至是反饋改善建議。

這種新方式用以確保支援代表不但是回應者，同時亦是建構者。

結果是支援組織不只以吞吐量來定義工作效率，而是著重解決問題的能力。每個人不只為用戶服務，同時亦在積極改善服務所有用戶的機制。

以這種方式建立支援體系之所以可行，完全是因為我們建基於 OpenAI 的技術架構之上。

• 智能代理 SDK 預設提供逐步追蹤和可觀測性。我們可以重現執行流程、檢查工具調用，並即時偵錯以找出根本原因。
• 回覆 API 讓分類器可以進行語氣分析、正確性評估及政策遵循度分析。
• 即時 API 讓我們可以提供語音支援。
• OpenAI 的評估主目錄讓質量可以量化，同時可輕鬆視覺化追蹤不同時間的變化。

由於平台已內建基礎能力，我們可以減少系統整合的時間，將更多精力投放於真正重要的工作：定義卓越實踐、衡量成效，並持續改善。

我們最初開發了一個簡單的問答系統，運作效果相當理想。而隨著智能代理 SDK 推出，我們迅速擴展至動態的操作，例如退款、發票和事件調查等功能。隨著模型持續改善，引入更大的情境視窗、深入研究和更強的代理能力，我們就能立即採用這些技術發展。

評估將日常對話變成生產測試，同時將「卓越實踐」的定義系統化：不只是解決問題，更要做到有禮、清晰和一致。支援代表在這過程中扮演直接角色，例如標示用於評估的強弱例子，而這些評估指標在生產環境中持續運行，以引導模型行為。

支援自動化軟件工程師 Jay Patel 指出：「通常當您遇到問題，您會想盡快獲得協助。運用 AI 工具，我們就能盡快作出回覆；但我們亦應明白什麼時候模型不應作出回覆，這同樣重要。」

學習不應止於解決問題。模式可以進一步深化成知識、自動化和產品設計。系統可以加倍擴展，為用戶帶來更快的回覆、為建造者縮短反饋循環時間，並為每個平台設定更一致的高質量標準。

而在這個過程中，不只是 AI 在學習，整個組織也會隨之成長。專家可以見到模型未完善之處、塑造新的分類器，並提供用作微調的數據集。可觀測性主目錄讓質量可以量化，並可展示不同時間的表現改善情況。

在整個過程中最深刻的轉變並非工具本身，而是人與組織衡量成功的標準。支援專家的價值不只在於解決問題，亦在於深化知識、改善模型，以至擴展系統本身。主管希望有新型的團隊成員：同時兼具前線感知能力和設計觸覺，並可以結合支援技巧和探索精神，以進一步改善系統。

而我們的願景，是支援服務不再是最終目的，而是成為與每種產品平台交織的行動。用戶不在乎「開一個支援個案」，他們只想在當下所需之處，獲得所需的支援。

這項發展最初只為回應規模擴展而產生的問題，如今已成為人類與 AI 攜手合作的藍圖。這項工具既具備協作性和適應性，同時可持續改善。