Retell 運用 OpenAI 模型，協助支援每月 1 億通電話

Retell AI⁠(在新視窗中開啟) 是專為客服中心營運打造的語音 AI 平台，協助企業建立能回答問題、採取行動，並在必要時將來電者轉接給真人的智慧體。其平台目前服務超過 4,000 家企業，每月通話量從 2026 年初的 3,000 萬通，成長至 9 月的逾 1 億通。

隨著服務更多工作流程複雜的企業，Retell 運用 OpenAI 模型維持高水準的通話品質與可靠性。如今，Retell 平台上 80% 的通話由 OpenAI 模型產生回應，客戶的問題解決率超過 80%。Retell 在各款 OpenAI 模型上的累計 token 用量也已突破 1 兆，反映出其採用規模。

Retell 的工程師在整個開發過程中使用 Codex，從研究不熟悉的程式碼，到開發功能與除錯，並使用 GPT‑6 Astra 測試前端介面。

企業語音智慧體即使面對不斷變化的對話，也必須遵守公司政策，並恪守指定的職責範圍。Retell 建立了 vCX 基準測試，運用取自實際營運情境的高難度多輪對話，比較數十款模型的表現。

這項測試評估模型能否遵循指令、依據所獲資訊作答、呼叫正確的工具，以及使用自然的對話語言。在 Retell 於 2026 年 10 月 13 日進行的基準測試中，GPT‑6 Astra 在指令遵循項目以 89.7% 的成績排名第一。

Retell 也分享了 GPT‑6 Astra 模型推出前進行的評估。結果顯示，啟用推理功能時，GPT‑5.5 在無幻覺率（88.0%）與工具呼叫正確率（88.3%）兩項指標上均居各模型之首，兩項表現皆優於 Gemini‑3.1‑Pro 與 Claude‑4.6。即使關閉推理功能，其無幻覺率仍然領先。

Retell 表示，選擇 OpenAI 模型的新客戶都持續使用這些模型。客戶也能透過 Realtime API 使用 OpenAI 即時模型，並以 OpenAI 文字轉語音服務作為語音引擎。Retell 會在 OpenAI 新模型推出當天即開放使用，並隨著模型改進重新執行基準測試。

客服中心團隊使用 Retell 設定智慧體的業務背景、目標與規則。開發人員還能進一步設定工作流程與系統整合。

通話期間，Retell 的任務執行框架會執行音訊模型、追蹤對話，並管理智慧體何時說話、聆聽或回應插話。GPT‑6.1 Sol、GPT‑6 Astra 和 GPT‑5.5 等 OpenAI 模型會根據客戶提供的指令與對話脈絡，產生回應並請求呼叫工具。Retell 透過與客戶系統的整合執行這些呼叫，並可將結果寫回顧客紀錄。

需要人工判斷時，語音智慧體會先向客服人員簡述相關背景、回答對方的後續問題，並確認對方準備就緒後，才將客戶轉接過去。通話結束後，Retell 會使用 GPT‑5.6 Terra 分析逐字稿，擷取處理結果及其他資料。

Retell 表示，採用這種方式後，客戶問題解決率超過 80%。在電子產品公司 Anker，智慧體負責美國與英國的第一線售後支援，包括訂單追蹤、保固查詢與故障排除。Anker 回報的案件解決率為 80.4%，淨推薦值（NPS）為 63。其團隊也表示，智慧體的語氣、說話節奏與親切程度，都達到了他們對真人客服的期待。

在 Pine Park Health，Retell 智慧體負責預約提醒與主動安排預約，並將結果記錄在病患的病歷中。團隊因此省下相當於 2.1 名全職醫療助理的工時，並將這些時間轉用於病患照護。其預約智慧體在成功聯繫病患後，達成了 55.7% 的預約率。

Retell 平台的日間流量可達夜間最低流量的 50 倍以上。為了在需求高峰期仍能維持即時回應，Retell 採用 OpenAI 專用伺服器，由旗下客戶共用。在 Retell 於 2026 年 10 月 13 日進行的基準測試中，GPT‑6 Astra 和 GPT‑6 Sol 的首句回應延遲中位數均為 883 毫秒，GPT‑5.6 Luna 則以 497 毫秒的成績居首。

OpenAI 的區域 API 端點讓開發人員能將流量導向特定地理區域，協助 Retell 縮短網路傳輸時間，並滿足醫療與金融服務等產業客戶的資料駐留要求。

Retell 也在服務的每一層建立備援機制。Retell 運行自有的電話技術堆疊，另備有一套可隨時接手的堆疊，以及語音與模型服務的備援，以便在服務故障時協助維持通話。

隨著 Retell 的企業業務成長，客製化工作流程與系統整合的需求也隨之增加，工程師經常需要處理程式碼庫中不熟悉的部分。撰寫程式碼前，他們會先向 Codex 提出概括性的需求。Codex 會檢視程式碼、以實際資料進行核對，並說明需要修改之處。一位工程師表示，Codex 做這類研究比他做得更好，速度也快得多。

工程師表示，在實作過程中，Codex 經常能發現他們未曾考慮到的細節。除錯時，Codex 會將日誌、資料庫紀錄與程式碼交叉比對，以查明問題。Retell 的工程師在協助客戶以 OpenAI 模型開發應用程式時，也會使用 Codex 加速各項工作，例如撰寫指令，引導模型在客戶應用程式中的回應方式。

Retell 運用 GPT‑6 Astra 的電腦操作功能，測試網頁介面的變更。工程師提交前端 pull request 後，GPT‑6 Astra 就會開啟介面、逐一點選操作、測試流程並嘗試找出會導致流程失效的情況，最後回報發現的問題。Retell 表示，早期模型無法可靠地完成這項工作。

Retell 持續招募人才，但工程團隊已不必隨著業務以同樣的速度擴編。Retell 表示，其每位員工的年化營收達 160 萬美元。

每家企業都清楚自己想如何服務顧客。Retell 的目標，是讓最熟悉這項工作的人能直接運用自身專業，透過先進的語音 AI 與平台，建立、測試並改進自己的智慧體。接下來，Retell 計畫擴充品質保證與模擬功能、支援更多語言，並開發知識庫自動學習功能。

隨著 OpenAI 模型持續進步，Retell 期待客戶能以自己的方式，為數百萬名來電者提供世界級服務。

「沒有人比企業本身更了解它的顧客。我們讓企業能將這份專業化為行動，直接改進 AI 智慧體。目標是讓企業組建一支內部工程師團隊，在組織內部部署，全面掌管並運作這套系統。」Bing 說。