Retell AI 導入 OpenAI 模型,語音代理每月處理逾 1 億通電話
文章摘要
語音 AI 平台 Retell AI 宣布每月處理通話量從 2026 年初的 3,000 萬通增長至 9 月的逾 1 億通,目前服務超過 4,000 家企業,其中 80% 的通話由 OpenAI 模型生成回應,協助客戶達成超過 80% 的問題解決率。Retell 累計消耗 OpenAI 模型 Token 已超過 1 兆。為確保通話品質,Retell 開發 vCX 基準測試,在 2026 年 10 月 13 日的評測中,GPT-6 Astra 在指令遵循能力表現最佳,達 89.7%。
在 GPT-6 Astra 發布前,GPT-5.5 在推理模式下以 88.0% 的非幻覺率及 88.3% 的工具呼叫準確率,超越 Gemini-3.1-Pro 與 Claude-4.6。Retell 目前應用 GPT-6.1 Sol、GPT-6 Astra 及 GPT-5.5 等模型處理通話流程、執行系統整合及呼叫工具,並使用 GPT-5.6 Terra 進行通話後數據分析。此外,開發人員利用 Codex 輔助編碼與除錯,GPT-6 Astra 則用於測試前端介面。儘管 AI 代理可處理大多數事務,但在需人類判斷時,系統仍會提供背景摘要並協助轉接。該平台支援 OpenAI Realtime API 及文字轉語音引擎,並承諾在 OpenAI 新模型發布當日即刻導入並重新執行基準測試。
在 GPT-6 Astra 發布前,GPT-5.5 在推理模式下以 88.0% 的非幻覺率及 88.3% 的工具呼叫準確率,超越 Gemini-3.1-Pro 與 Claude-4.6。Retell 目前應用 GPT-6.1 Sol、GPT-6 Astra 及 GPT-5.5 等模型處理通話流程、執行系統整合及呼叫工具,並使用 GPT-5.6 Terra 進行通話後數據分析。此外,開發人員利用 Codex 輔助編碼與除錯,GPT-6 Astra 則用於測試前端介面。儘管 AI 代理可處理大多數事務,但在需人類判斷時,系統仍會提供背景摘要並協助轉接。該平台支援 OpenAI Realtime API 及文字轉語音引擎,並承諾在 OpenAI 新模型發布當日即刻導入並重新執行基準測試。
AI 大叔解析
## 語音代理處理破億通話,關鍵在於基準測試的落地能力
Retell AI 在 2026 年 9 月達到每月處理超過 1 億通電話的規模,不僅驗證了 AI 語音代理在客服情境的承載力,更體現了企業對模型選擇的務實態度。該公司透過自建 vCX 基準測試(Benchmark),在 2026 年 10 月 13 日的評測中,GPT-6 Astra 於指令遵循能力獲得 89.7% 的表現。相較於坊間常見的行銷數據,Retell 直接以生產環境的複雜對話作為評測素材,並以此決定模型調用策略,而非單純依賴模型發布會的簡報。
## 毒舌吐槽
這年頭談 AI 落地,沒把「實際通話」拿出來遛一遍的都是耍流氓。Retell AI 總算沒在那邊只會畫大餅,直接針對指令遵循、幻覺率(GPT-5.5 的 88.0%)和工具呼叫準確率(88.3%)做定性分析。值得玩味的是,當一間公司開始認真做 vCX 這種基準測試,其實也變相說明了市面上的模型多到讓人眼花撩亂,企業主如果沒有一套自己說了算的評測機制,很容易就被不同模型的更新節奏搞得暈頭轉向。
## 為什麼重要?
語音代理要做到「能聽且能做」,重點不在於模型參數多大,而在於與企業後端系統的整合流暢度。Retell 在處理高峰流量時,採取了專用伺服器與 OpenAI API 區域路由(Regional Endpoints)機制,這是典型的基礎設施工程思維:透過減少網路傳輸延遲與解決資料主權(Data Residency)需求,來維持通話體驗。數據顯示,在 2026 年 10 月的測試中,GPT-6 Astra 與 GPT-6 Sol 的中位數首句延遲為 883 毫秒,而 GPT-5.6 Luna 則達到 497 毫秒。對於語音互動而言,這種毫秒級的優化就是「活人」與「機器人」之間的心理門檻。
此外,該平台在 Anker 的案例中達成 80.4% 的解決率,甚至在 Pine Park Health 實現了相當於節省 2.1 個全職人力成本的效率,這才是這類服務能生存的關鍵數字。它證明了當 AI 代理不再只是「讀稿機」,而是能透過整合工具執行系統寫入、數據提取(使用 GPT-5.6 Terra 分析)時,AI 才能真正從「客服助理」升級為「運作單位的一份子」。
## 影響對象與建議
* **企業技術主管(CTO/Engineering Lead):** 不要盲目追求最新模型。建議仿照 Retell 建立符合自家業務場景的「生產環境測試集」,針對工具呼叫準確率與指令遵循度進行評測,這比單看模型跑分報告更有參考價值。
* **客服與營運經理(Contact Center Manager):** 評估 AI 代理價值時,請聚焦「問題解決率」與「人工轉接頻率」。若系統能做到在轉接前自動完成背景摘要,則該工具已具備顯著的營運優化效益。
* **系統架構師(System Architect):** 針對語音通話的延遲問題,應優先規劃地理位置分散的 API 端點路由,並務必建立 telephony stack 的備援機制,這是確保高併發下系統穩定性的底線。
## 逆風觀點
雖然 Retell AI 聲稱處理超過 1 兆個 Token,但數據顯示目前仍有 20% 的通話無法由模型直接處理,這顯示即便模型效能提升,AI 代理在面對極端複雜或情緒化的客戶需求時,仍存在無法越過的技術邊界。過度依賴單一模型供應商(OpenAI)雖然能透過即時更新保持領先,但也同時將系統穩定性與業務邏輯完全綁定在該供應商的更新迭代風險之上。
Retell AI 在 2026 年 9 月達到每月處理超過 1 億通電話的規模,不僅驗證了 AI 語音代理在客服情境的承載力,更體現了企業對模型選擇的務實態度。該公司透過自建 vCX 基準測試(Benchmark),在 2026 年 10 月 13 日的評測中,GPT-6 Astra 於指令遵循能力獲得 89.7% 的表現。相較於坊間常見的行銷數據,Retell 直接以生產環境的複雜對話作為評測素材,並以此決定模型調用策略,而非單純依賴模型發布會的簡報。
## 毒舌吐槽
這年頭談 AI 落地,沒把「實際通話」拿出來遛一遍的都是耍流氓。Retell AI 總算沒在那邊只會畫大餅,直接針對指令遵循、幻覺率(GPT-5.5 的 88.0%)和工具呼叫準確率(88.3%)做定性分析。值得玩味的是,當一間公司開始認真做 vCX 這種基準測試,其實也變相說明了市面上的模型多到讓人眼花撩亂,企業主如果沒有一套自己說了算的評測機制,很容易就被不同模型的更新節奏搞得暈頭轉向。
## 為什麼重要?
語音代理要做到「能聽且能做」,重點不在於模型參數多大,而在於與企業後端系統的整合流暢度。Retell 在處理高峰流量時,採取了專用伺服器與 OpenAI API 區域路由(Regional Endpoints)機制,這是典型的基礎設施工程思維:透過減少網路傳輸延遲與解決資料主權(Data Residency)需求,來維持通話體驗。數據顯示,在 2026 年 10 月的測試中,GPT-6 Astra 與 GPT-6 Sol 的中位數首句延遲為 883 毫秒,而 GPT-5.6 Luna 則達到 497 毫秒。對於語音互動而言,這種毫秒級的優化就是「活人」與「機器人」之間的心理門檻。
此外,該平台在 Anker 的案例中達成 80.4% 的解決率,甚至在 Pine Park Health 實現了相當於節省 2.1 個全職人力成本的效率,這才是這類服務能生存的關鍵數字。它證明了當 AI 代理不再只是「讀稿機」,而是能透過整合工具執行系統寫入、數據提取(使用 GPT-5.6 Terra 分析)時,AI 才能真正從「客服助理」升級為「運作單位的一份子」。
## 影響對象與建議
* **企業技術主管(CTO/Engineering Lead):** 不要盲目追求最新模型。建議仿照 Retell 建立符合自家業務場景的「生產環境測試集」,針對工具呼叫準確率與指令遵循度進行評測,這比單看模型跑分報告更有參考價值。
* **客服與營運經理(Contact Center Manager):** 評估 AI 代理價值時,請聚焦「問題解決率」與「人工轉接頻率」。若系統能做到在轉接前自動完成背景摘要,則該工具已具備顯著的營運優化效益。
* **系統架構師(System Architect):** 針對語音通話的延遲問題,應優先規劃地理位置分散的 API 端點路由,並務必建立 telephony stack 的備援機制,這是確保高併發下系統穩定性的底線。
## 逆風觀點
雖然 Retell AI 聲稱處理超過 1 兆個 Token,但數據顯示目前仍有 20% 的通話無法由模型直接處理,這顯示即便模型效能提升,AI 代理在面對極端複雜或情緒化的客戶需求時,仍存在無法越過的技術邊界。過度依賴單一模型供應商(OpenAI)雖然能透過即時更新保持領先,但也同時將系統穩定性與業務邏輯完全綁定在該供應商的更新迭代風險之上。