Retell OpenAI 語音代理每月通話量達 1 億宗,模型取捨持續存在
根據 OpenAI 10 月 27 日發布的客戶案例,Retell OpenAI 語音代理現時協助支援一個每月處理超過 1 億宗通話的平台。當中 80% 通話由 OpenAI 模型生成回應。這個區別相當重要:平台通話量、模型使用量,以及成功解決的客戶請求,衡量的是不同事物。
這項公布將面向客戶的自動化與內部工程生產力連繫起來。Retell 表示,GPT-6 Astra 在其指令遵循基準測試中領先,而 Codex 則支援開發工作。該公司亦表示,每名員工的年度經常性收入運行率為 160 萬美元;這是按年化計算的指標,並非已完成的全年收入。
核心張力在於更強模型能力與可靠即時服務需求之間。Retell 自身研究顯示,調整模型設定會改變競爭排名。對企業買家而言,問題是基準測試的進步能否轉化為正確行動、可接受的等候時間,以及更少未獲解決的通話。
Retell OpenAI 語音代理讓生產規模更清晰可見
所報告的通話量確立了 Retell 的營運規模;但並不代表自動化對話具備普遍成功率。
語音代理部署案例指出,每月通話量由 2026 年初的 3,000 萬宗,增長至 9 月超過 1 億宗。根據該報道,Retell 亦服務超過 4,000 家企業。這些是由公司自行報告、並透過供應商客戶案例呈現的數字。
這個發布背景相當重要。OpenAI 在展示其模型可支援龐大工作負載方面有商業利益。Retell 則有展示企業可信賴其平台的利益。這些利益不會令數字失效,但可解釋為何獨立衡量會帶來額外價值。
公告描述的是一項營運里程碑,而非新推出的電話服務。讀者應區分 10 月的發布日期與 9 月的通話量里程碑。該案例將此前累積的活動公諸於世;並未表示這些通話在公告發布時才突然開始。
通話量亦留下了重要未解問題。成功接通、放棄對話及成功處理請求,都可能以不同方式計入營運報告。在未公布計算定義的情況下,買家不應將標題中的總數視作已解決客戶問題的數量。
同樣的審慎原則亦適用於模型的角色。生成回應只是自動化通話的一個組成部分。客戶仍需要系統理解請求、擷取適當資訊、執行獲授權的行動,並識別何時需要人手協助。
設想一個假設性的保養查詢。代理可以準確解釋保養條款,卻無法找到來電者的購買紀錄。它可以擷取購買紀錄,卻套用了錯誤的資格規則。流暢的語音無法解決這兩種失誤。
這個區別改變了應如何理解該里程碑。Retell 的規模令其模型選擇具有商業相關性,但並不免除檢視個別對話內部情況的需要,尤其當這些對話會更改客戶紀錄或觸發業務行動時。
對開發者而言,公告將焦點放在周邊服務架構。對買家而言,它提升了明確界定成果的重要性。持續增長的平台兩者都需要,因為成功示範對不尋常請求、不完整紀錄及連接系統之間的故障,只能提供有限指引。
因此,這項消息支持一個比全面宣稱自動化客戶服務更狹窄、也更有用的結論。Retell 報告稱,採用 OpenAI 支援對話的情況相當可觀。要評估這種採用的質素,仍需要每月流量總數以外的證據。
客戶成果為服務平台帶來壓力
Retell 的客戶案例將競爭壓力轉向已完成的工作及回收的員工時間,買家可藉此將自動化與營運需要連繫起來。
Retell 的售後支援案例研究,描述 Anker 在美國及英國部署首線服務的情況。工作包括訂單追蹤、保養核查及故障排除。Anker 報告稱,個案解決率為 80.4%,淨推薦值為 63;後者衡量客戶推薦意願。
這些成果描述的是特定部署,不應成為所有電子產品品牌、支援組織或語言的預測。請求複雜度、客戶期望、連接系統及升級處理政策,都會影響代理可處理多少工作。
不過,該案例指出了一個具體的競爭目標。服務平台面對的壓力,是要證明其代理能完成可辨識的業務任務。買家可將這些任務與既有工作流程比較,而非主要透過語音質素或預設腳本示範判斷產品。
另一項長者照護排程案例研究報告稱,Pine Park Health 回收了相當於 2.1 個全職職位的醫療助理時間。其排程代理報告稱,在接觸到病人的情況下,預約率為 55.7%。
附加於該預約數字的條件至關重要。在已接觸病人之中衡量的比率,並不描述所有嘗試通話的成功情況。聯絡成功率與排程效能是不同的營運問題,即使兩者同屬一個工作流程。
回收的時間亦不同於取消職位。員工產能可以轉移至病人照護、協調或其他工作,而無需減少人手。因此,買家應將時間節省與員工在自動化接管重複通話後實際進行的工作連繫起來。
這些例子為聯絡中心軟件供應商及實施團隊帶來壓力。當客戶可以問代理是否真的擷取訂單或填補預約時,功能清單的說服力便會下降。被迫作出的回應,是更具體的衡量方式,並以可見的已完成工作紀錄支持。
競爭領域已包括更廣泛的服務平台。Sierra 在語音及其他通訊渠道推廣多渠道服務代理,並提供建立及改進代理的工具。其定位突顯另一個採購問題:企業希望採用以電話為主的部署,還是跨渠道協調的服務體驗。
現有證據並未確立 Sierra 與 Retell 之間的直接效能勝者。兩者公開聲稱並非配對實驗。有用的比較在於部署範圍、整合要求,以及各供應商如何讓客戶檢視成果。
短期壓力落在採購及試點設計上。團隊需要在評估代理前,決定何謂解決。長期壓力則落在供應商身上:隨着客戶政策、產品目錄、人手安排及通話模式改變,供應商必須維持這些成果。
Retell 語音基準測試顯示設定為何重要
模型的排名取決於任務、設定及衡量方式;領先的指令遵循分數並不代表在每項即時通話要求上都領先。
Retell 公開的語音模型基準測試顯示,GPT-6 Astra 的指令遵循得分為 89.7%。這項指標衡量對既定規則及角色的遵循程度。排行榜另行報告 grounding、工具呼叫、對話語言及延遲,即回應前的等待時間。
這些類別代表不同的失敗模式。Grounding 是指維持在所提供資訊的範圍內。工具呼叫是指透過已連接的功能或服務請求執行行動。代理可以在一個類別表現良好,卻在另一個類別犯下嚴重錯誤。
因此,Retell 語音基準測試支持對標題作出更有保留的理解。Astra 的指令遵循結果,與擁有嚴格政策的企業有關,但不代表每個替代方案在每項任務上都較差,也不代表單一分數可預測完整客戶體驗。
Retell 另一項困難通話評估尤其清楚說明設定問題。其 10 月 19 日報告顯示,GPT-5.5 在啟用推理時的工具呼叫正確率為 88.3%,而關閉推理時為 75.6%。這裏的推理,是指回答前額外進行的模型處理。
在該報告的關閉推理比較中,Gemini-3.1-Pro 的工具呼叫正確率為 85.7%。Retell 稱,這個設定差異與生產環境延遲有關。這些結果屬於與 Astra 指令遵循結果不同的評估,不應合併成單一排名。
競爭層面的啟示很具體。在這些設定下,Google 的模型在該特定比較中領先,而 GPT-5.5 則在啟用推理時領先。買家若只根據最強的已公布結果作選擇,可能會選中與實際部署不同的設定。
額外處理並非自動是正確選擇。等待電話回應的客戶會直接感受到延遲。即使最終答案準確,停頓太久的代理仍可能令客戶不確定系統是否聽到請求。
相反,快速回應卻啟動錯誤行動,也會造成自身負擔。員工必須發現錯誤、修復紀錄,並解釋發生了甚麼事。當客戶需要再打一次電話時,初步答案的速度並沒有多少安慰作用。
因此,相關決策取決於具體任務。擷取送貨更新與變更敏感帳戶設定,並不承載相同後果。評估者應考慮錯誤行動的嚴重性,而非同等獎勵每一個完成的回應。
Retell 承認,其較困難的評估使用基於模型的評判器及挑選出的困難個案。這類評判器會引入潛在偏差,而困難個案亦不代表平均通話質素。該報告亦排除了完整體驗的部分內容,包括中斷處理。
這種透明度增強了評估的實用性,同時限制其範圍。它為開發者提供關於特定弱點的證據,但並未證明已公布百分比可在無需進一步測試下預測某個組織自身的通話成果。
對 Retell OpenAI 語音代理而言,證據支持持續衡量,而非永久選定某一模型。新模型可以改善一個維度,同時令另一個維度仍未解決。設定、業務規則及已連接的行動,仍是效能決策的一部分。
Codex 將生產力主張延伸至工程工作
Retell Codex 工作流程描述了合理的生產力提升,但每名員工收入無法分離出有多少改善來自編程輔助。
據客戶案例所述,Retell 工程師使用 Codex 進行程式碼研究、實作和除錯。GPT-6 Astra 亦會透過電腦操作測試介面變更,即與軟件畫面互動。Retell 表示,工程團隊人數的增長速度慢於業務增長。
相比單看營收比率,所披露的工作流程更具參考價值。企業整合往往要求工程師在作出變更前先理解既有行為。減少這方面的研究負擔,可協助團隊回應客戶要求,而毋須反覆重新掌握程式碼庫的運作。
除錯亦是另一個合理的節省工作量來源。故障可能涉及程式碼、儲存的資料,或意料之外的事件順序。只要工程師在採納修正方案前核實相關解釋,能協助串連這些環節的支援工具便可縮短調查時間。
介面測試則處理工作量的另一部分。變更可以成功編譯,卻令客戶流程變得令人困惑或無法使用。能夠探索介面的自動化代理,可找出開發人員初步檢查所涵蓋的狹窄條件以外的問題。
以上都是工程支援可能產生影響的機制,但本身並不能證明已量度的生產力提升。公開說法未有提供受控比較,以顯示同一團隊在有及沒有支援下完成等同工作時的表現。
Retell 的 Codex 工作流程亦顯示人員貢獻依然重要。工程師仍需判斷擬議變更是否符合客戶要求,並評估存取界線、非預期行為,以及推出錯誤實作所帶來的後果。
每名員工營收屬於更下游的指標。這個比率結合業務表現和人手配置,而兩者均可能因與開發工具無關的原因而改變。客戶增長、合約組合、組織結構及外部服務使用情況,均可影響結果。
將營收年化亦帶來另一項區別。營收運行率是把目前的營收速度推算至全年,並不代表公司已在一個完整年度內實際收取該筆金額,亦不能證明公司已實現盈利。
這個數字仍然相關,因為它促使人們審視軟件業務如何擴展。如果工程需求的增長慢於客戶活動,公司便有空間擴張,而毋須以額外人手配對工作量的每次增加。這是一項值得驗證的假設。
缺失的證據涉及持久性和品質。更快交付只有在已部署的變更仍具可維護性和可靠性時才有幫助。即使營收比率維持高位,反覆事故、大量審核工作或延遲修復,均會改變對生產力的評估。
對開發人員而言,實際訊號在於支援介入流程的位置。研究和調查可能在實作開始前已耗用大量精力。這個案例顯示,若只按所生成的程式碼評估編程代理,便會忽略其潛在貢獻的部分範圍。
對高管而言,合適的結論仍應有所界定。Retell 報告了一個精簡的營運模式,同時廣泛使用工程支援工具。該案例研究並不能證明採用相同工具可在其他地方複製其營收效率。
解決率主張需要清晰的分母及人手界線
尚未解決的問題,是已公布的成果在通話複雜度、客戶情況及成功定義改變時,能否持續一致。
解決百分比需要一個分母:納入計算的互動集合。它亦需要一項規則,以判定客戶的問題是否已經完成處理。不同選擇可以對同一部署產生實質不同的描述。
例如,評估可能在代理完成其指定工作流程時,便將對話計作已解決。客戶卻可能因根本問題仍然存在而再次致電。這兩項觀察均可能準確,但會支持對服務品質的不同結論。
這是分析層面的疑慮,並非證明 Retell 報告的數字有誤。公開客戶案例提供了有用例子,但未有為每項部署提供標準化比較。讀者在解讀更廣泛的主張時,應保留這項區別。
最具後果的錯誤亦難以用簡單平均值呈現。代理錯報送貨預計時間,與修改錯誤客戶紀錄,所造成的問題並不相同。部署評估需要區分造成不便的情況,與需要緊急更正的行動。
人手升級處理亦構成另一項界線。把來電者轉交員工可以是恰當判斷,而非失敗。評估應問的是轉交是否發生於正確時機,以及員工是否獲得足夠背景資料以有效繼續處理。
只以避免轉交為目標的系統會產生相衝突的誘因。它可能在耗盡權限或可用資料後仍繼續交談。企業需要成功定義,同時獎勵恰當升級處理及正確完成自動化工作。
知識品質帶來另一項限制。若企業未能清楚記錄政策,模型便無法可靠地套用該政策。即使代理的語言理解能力足夠,互相矛盾的指示和過時紀錄仍可削弱其表現。
這使來源維護成為營運可靠性的一部分。團隊需要知道哪個政策版本為答案提供依據,以及誰批准其後的變更。可搜尋的工程知識庫與調查及記錄這些變更的內部工作相關。
供應商依賴亦值得審視。大量使用單一供應商,會集中承受該供應商可用性和模型行為所帶來的風險。替代路徑只有在已按相同業務要求及權限界線進行測試時才有幫助。
轉換模型亦可能改變早前評估的意義。一個聽來可接受的備援方案,可能以不同方式遵從指示,或按非預期順序要求採取行動。營運延續性不只是成功從另一個模型取得回應。
這些疑慮並不會否定已報告的採用里程碑。它們指出供應商提供模型和平台後,企業責任仍然所在。企業仍擁有其政策、對客戶的承諾,以及可接受錯誤的決策權。
因此,對公告最有力的解讀,是把採用情況與不確定性結合。Retell 已公布具意義的規模及客戶使用案例。關於可靠性和生產力的更廣泛主張,仍需要跨越時間、配置和客戶群的更多可比較證據。
留意基準更新、客戶跟進及工程證據
下一批有用證據應把模型改進與持續的客戶成果及工程品質連結起來,而非再增加另一項孤立的標題指標。
未來數月首項值得留意的訊號,是清楚列明模型和設定的更新基準。Retell 取決於配置的結果已顯示,單憑模型名稱並不足夠。未來比較應保留足夠細節,以解釋排名變化。
更強的指令遵循結果,將支持模型在測試條件下提升政策遵從度的論點。若同時附有正確行動量度及回應延遲資料,便會提供更大信心。只在一個類別有所改善,則只支持較狹窄的結論。
反向情況亦同樣重要。若替代模型能在可接受的回應時限內更準確地處理相同行動,買方便有可信理由重新考慮路由安排。這將削弱任何把目前結果解讀為永久競爭優勢的說法。
第二項訊號是採用穩定定義的客戶跟進。Anker 和 Pine Park Health 提供了易於辨識的營運使用案例。若日後披露包括觀察期、重複聯絡、升級處理結果,以及自動化互動後所需的員工工作量,便會更具參考價值。
持續成果將加強這些部署能產生持久營運價值的主張。若隨着範圍擴大而惡化,則表示原先的成功依賴於較狹窄的一組要求。無論結果如何,均有助買方理解自動化適用的位置。
第三項訊號是每名員工年化營收以外的工程證據。有用的披露應把支援工具與交付時間、審核工作量、缺陷和維護連結起來。這些指標有助區分真正更快的執行,與只是把工作轉移至後續檢查或修復。
若較短的交付週期同時維持或改善品質紀錄,將加強生產力論點。即使公司持續報告吸引的營收比率,日益增加的返工仍會削弱該論點。相關成果是在整個開發流程中可靠地交付。
這些訊號亦釐清不同讀者應從這個案例中得到甚麼。開發人員應檢視設定及評估案例如何對應實際工作。企業買方應把供應商規模與自身成果定義分開。營運主管則應把人手跟進納入評估。
Retell OpenAI 語音代理已把討論推向生產環境證據,並提供值得審慎留意的公開數字。下一步是提升可比較性:一致的定義、可見的配置選擇,以及能在最初客戶案例以外持續成立的跟進結果。
在利用這項公告作為採購決策理據前,應要求以貴機構的實際來電和已記錄政策為基礎進行試用。要求供應商區分已完成的行動、恰當升級處理、重複聯絡,以及需要修復的錯誤。讓了解客戶困難所在的服務員工,以及了解連接系統的工程師參與其中。比較模型時應保持評估條件清晰可見,尤其是其推理設定和獲准採取的行動。其後在政策或工作流程變更後重新檢視結果,而非假設早期成功率會保持穩定。甚麼證據會令你的團隊相信自動化對話正在改善服務?又有甚麼結果會令你縮小部署範圍?



