top of page

Retell OpenAI 语音代理月通话量达 1 亿次,模型取舍仍在持续

7小时前
讀畢需時 12 分鐘

根据 OpenAI 10 月 27 日发布的客户案例,Retell OpenAI 语音代理如今正支持一个每月处理超过 1 亿次通话的平台。其中 80% 的通话由 OpenAI 模型生成回复。这一区分至关重要:平台通话量、模型使用量和成功解决的客户请求衡量的是不同事项。

这项公告将面向客户的自动化与内部工程生产力联系起来。Retell 表示,GPT-6 Astra 在其指令遵循基准测试中领先,而 Codex 则支持开发工作。该公司还报告称,其每名员工的年度经常性收入运行率为 160 万美元;这是年化指标,并非已完成的全年收入。

核心张力存在于更强的模型能力与可靠实时服务的需求之间。Retell 自身研究显示,改变模型设置会改变竞争排名。对于企业买家而言,问题在于基准测试的提升能否转化为正确操作、可接受的等待时间以及更少的未解决通话。

Retell OpenAI 语音代理展现生产规模

所报告的通话量表明 Retell 的运营规模;它并不能证明自动化对话具有普遍的成功率。

这篇语音代理部署案例称,月通话量从 2026 年初的 3000 万次增长至 9 月时超过 1 亿次。据该报道,Retell 还服务着超过 4000 家企业。这些是通过供应商客户案例呈现的公司自报数据。

这一发布背景很重要。OpenAI 在展示其模型能够支持大规模工作负载方面具有商业利益。Retell 则有兴趣证明企业可以信任其平台。这两种利益并不会使数据失效,但都说明独立测量将带来额外价值。

该公告描述的是一项运营里程碑,而非刚刚推出的电话服务。读者应区分 10 月的发布日期与 9 月的通话量里程碑。这篇案例将此前累积的活动带入公众视野;它并未表示这些通话是在公告发布时突然开始的。

通话量也留下了重要问题未解。已接通的通话、被放弃的对话以及成功处理的请求,都可能以不同方式纳入运营报告。在没有公布计数定义的情况下,买家不应将标题中的总量视为已解决客户问题的数量。

同样的谨慎也适用于模型所扮演的角色。生成回复只是自动化通话的一个环节。客户仍需要系统理解请求、检索适当信息、执行获授权的操作,并识别何时需要人工协助。

以一个假设的保修咨询为例。代理可能准确解释保修条款,却无法找到来电者的购买记录。它也可能检索到购买记录,却应用了错误的资格规则。流畅的语音无法解决这两种失败。

这种区分改变了对此里程碑的解读方式。Retell 的规模使其模型选择具有商业相关性。但这并未消除审查单次对话内部情况的必要性,尤其是在这些对话会更改客户记录或触发业务操作时。

对开发者而言,这项公告将注意力投向周边的服务架构。对买家而言,它提升了明确定义结果的重要性。不断增长的平台两者都需要,因为成功演示对异常请求、不完整记录以及关联系统之间的故障只能提供有限指引。

因此,这则新闻支持一个比有关自动化客服的笼统说法更狭窄、也更有用的结论。Retell 报告称,采用 OpenAI 支持对话的规模可观。要评估这种采用的质量,还需要月度流量总量以外的证据。

客户结果给服务平台带来压力

Retell 的客户案例将竞争压力转向已完成的工作与释放出的员工时间,在这些方面,买家能够将自动化与运营需求联系起来。

Retell 的售后支持案例研究描述了 Anker 在美国和英国部署一线服务的情况。相关工作包括订单追踪、保修核验和故障排查。Anker 报告的案件解决率为 80.4%,净推荐值为 63;后者衡量客户推荐意愿。

这些结果描述的是一次特定部署。它们不应被视为对每个电子产品品牌、支持组织或语言的预测。请求复杂度、客户期望、连接的系统和升级政策都会影响代理可处理的工作量。

尽管如此,该案例指出了一个明确的竞争目标。服务平台面临证明其代理能够完成可识别业务任务的压力。买家可以将这些任务与现有工作流进行比较,而不是主要依据语音质量或脚本化演示来评判产品。

另一项老年护理预约案例研究报告称,Pine Park Health 释放出的医疗助理时间相当于 2.1 个全职岗位。其预约代理报告称,在联系到患者时,预约成功率为 55.7%。

附加在这一预约数据上的条件至关重要。在已联系到的患者中计算的比率,并不能说明所有尝试通话中的成功情况。可联系性和预约效果是不同的运营问题,即使二者同属一个工作流。

释放出的时间也不同于被取消的岗位。员工产能可以转向患者护理、协调或其他工作,而不必减少员工人数。因此,买家应将节省的时间与员工在自动化接管重复通话后实际从事的工作联系起来。

这些案例给联络中心软件供应商和实施团队带来压力。当客户可以追问代理是否确实检索到订单或成功安排预约时,功能清单的说服力就会下降。随之而来的要求是更具体的测量,并由可见的已完成工作记录加以支撑。

竞争领域已包括更广泛的服务平台。Sierra 在语音及其他通信渠道中推广多渠道服务代理,同时提供用于构建和改进代理的工具。其定位凸显了另一个采购问题:企业需要的是以电话为中心的部署,还是跨渠道协同的服务体验。

现有证据并未确立 Sierra 与 Retell 之间的直接性能赢家。它们的公开说法并非匹配实验。更有用的比较涉及部署范围、集成需求,以及各供应商让客户检查结果的方式。

短期压力落在采购和试点设计上。团队在评估代理之前,需要先决定什么才算解决。长期压力则落在供应商身上:随着客户政策、产品目录、人员配置和通话模式变化,供应商需要维持这些结果。

Retell 语音基准测试说明设置为何重要

模型的排名取决于任务、配置和测量方式;领先的指令遵循得分并不能证明其在每一项实时通话要求中都处于领先地位。

Retell 的公开语音模型基准测试显示,GPT-6 Astra 的指令遵循得分为 89.7%。该指标衡量其对既定规则和角色的遵守程度。排行榜还分别报告了事实依据、工具调用、对话语言和延迟,即回复前的等待时间。

这些类别代表不同的失败模式。事实依据意味着不偏离所提供的信息。工具调用意味着通过连接的功能或服务请求执行操作。代理可能在一个类别中表现出色,却在另一个类别中犯下后果严重的错误。

因此,Retell 语音基准测试支持对标题作出更审慎的解读。Astra 的指令遵循结果与拥有严格政策的企业有关。但这并不意味着每个替代方案在每项任务上都更差,也不意味着单一得分能够预测完整的客户体验。

Retell 单独的困难通话评估尤其清楚地体现了配置问题。其 10 月 19 日的报告列出,启用推理时,GPT-5.5 的工具调用正确率为 88.3%;关闭推理时则为 75.6%。这里的推理是指回答前进行的额外模型处理。

在该报告关闭推理的比较中,Gemini-3.1-Pro 的工具调用正确率为 85.7%。Retell 将这种配置差异描述为与生产环境延迟相关。这些结果来自与 Astra 指令遵循结果不同的评估,不应合并为单一排名。

竞争层面的启示很具体。在这些设置下,Google 的模型领先于那项特定比较,而启用推理时 GPT-5.5 领先。若买家只依据最强的公开结果进行选择,可能会选中与实际部署不同的配置。

额外处理并不必然是正确选择。在电话中等待的客户会直接感受到回复延迟。即使最终回答准确,停顿过久的代理也可能让客户不确定它是否听到了请求。

反过来,快速回复却发起错误操作同样会造成负担。员工必须发现错误、修复记录并解释发生了什么。当客户需要再次来电时,初始回复的速度几乎无法带来安慰。

因此,相关决策应针对具体任务。检索配送更新与更改敏感账户设置,并不具有相同后果。评估者应考虑错误操作的严重性,而不是对每次完成的回复给予同等评价。

Retell 承认,其更困难的评估使用基于模型的评判器和经挑选的高难度案例。这类评判器可能引入偏差,而高难度案例也并不代表平均通话质量。该报告还排除了完整体验中的一些部分,包括打断处理。

这种透明度增强了评估的实用性,同时也限定了其范围。它为开发者提供了有关特定弱点的证据。但在未经进一步测试的情况下,它不能证明已发布的百分比能够预测某个组织自身的通话结果。

对于 Retell OpenAI 语音代理,现有证据支持持续测量,而非永久性地选择某一个模型。新模型可以改善一个维度,同时让另一个维度仍未解决。配置、业务规则和连接操作仍是性能决策的一部分。

Codex 将生产力主张延伸至工程领域

Retell Codex 工作流描述了可信的生产力提升,但每名员工收入无法单独说明其中有多少改善来自编码辅助。

据客户案例显示,Retell 的工程师使用 Codex 进行代码研究、实现和调试。GPT-6 Astra 还会通过计算机使用功能测试界面变更,也就是与软件界面交互。Retell 表示,其工程人员规模的增长速度慢于业务增长。

相较于营收比率本身,所披露的工作流提供了更有价值的信息。企业集成通常要求工程师在实施变更前理解现有行为。减轻这类研究负担,可以帮助团队响应客户需求,而无需反复重新了解代码库。

调试则是另一种可能节省投入的来源。一次故障可能涉及代码、存储的数据,或一连串意外事件。若辅助工具能帮助关联这些要素,就能缩短调查时间,前提是工程师在接受修复方案前验证其解释。

界面测试覆盖的是工作负载的另一部分。一项变更可能成功编译,却让客户旅程变得令人困惑或无法使用。能够探索界面的自动化代理,可以发现开发者初步检查所覆盖的狭窄条件之外的问题。

这些都是工程辅助可能产生影响的机制,但本身并不能证明已经实现了可量化的生产力提升。公开资料没有提供受控对比,以展示同一团队在有无辅助的情况下完成等效工作时的表现。

Retell 的 Codex 工作流同样凸显了人类贡献的重要性。工程师仍需判断拟议的变更是否符合客户需求。他们还需要评估访问边界、意外行为,以及发布错误实现可能造成的后果。

人均营收处于更下游的位置。该比率综合了业务表现与人员配置,而二者都可能因与开发工具无关的原因发生变化。客户增长、合同结构、组织架构和外部服务使用情况,均可能影响最终结果。

将营收年化还引入了另一层区别。运行率是将当前营收节奏推算至全年。它并不意味着公司已经在一个完整财年内实际收取了该金额,也不能证明公司实现了盈利。

这一数字仍具参考意义,因为它促使人们审视软件业务如何扩张。如果工程需求的增长慢于客户活动,公司便拥有了扩张空间,无需以新增员工来对应工作量的每一次增加。这是一个值得检验的假设。

缺失的证据涉及可持续性与质量。更快交付只有在已部署的变更仍然可维护且可靠时才有价值。即使营收比率维持高位,反复发生的事故、大量审查工作或延迟修复,也会改变对生产力的评估。

对开发者而言,实用信号在于辅助能力进入流程的位置。研究与调查可能在实施开始前消耗大量投入。这个案例表明,仅以生成的代码来评估编码代理,会忽视其潜在贡献的其他部分。

对管理者而言,恰当的结论仍应有所限定。Retell 报告了一种精简的运营模式,并结合了广泛的工程辅助。该案例研究并不能证明,采用相同工具就能在其他场景复制其营收效率。

解决率主张需要清晰的分母与人工边界

尚未解决的问题是:在通话复杂度、客户情境以及成功定义发生变化时,已公布的结果能否保持一致。

解决率需要一个分母:纳入计算的交互集合。它还需要一项规则,用于判定客户的问题是否已经解决。不同选择可能对同一部署呈现出存在实质差异的图景。

例如,一项评估可能在代理完成其指定工作流时,将一次对话计为已解决。由于根本问题仍未消除,客户可能仍会再次来电。这两种观察都可能准确,但它们对服务质量的结论并不相同。

这是一项分析层面的关注点,并非证明 Retell 报告的数据有误。公开客户案例提供了有用的示例,但未对每一种部署提供标准化对比。读者在解读更广泛的主张时,应保留这一区别。

最具后果的错误也无法用简单平均数来概括。错误陈述配送预估的代理,与修改了错误客户记录的代理,造成的问题并不相同。部署评估需要区分一般不便与需要紧急纠正的行为。

人工升级构成了另一条边界。将来电者转交给员工可能体现了恰当判断,并非失败。评估应当考察转接是否发生在正确时机,以及员工是否获得了足够的背景信息以有效继续处理。

一个只针对避免转接进行优化的系统,会形成相互冲突的激励。它可能在权限或可用信息已经耗尽后继续交谈。企业需要对成功作出定义,以便在正确的自动化完成之外,也奖励恰当的升级处理。

知识质量带来了另一项约束。企业若未能清晰记录某项政策,模型就无法可靠地执行该政策。即使代理的语言理解能力足够,彼此冲突的指令和过期记录也可能削弱其表现。

这使得源信息维护成为运营可靠性的一部分。团队需要知道,某个回答依据的是哪个版本的政策,以及后续变更由谁批准。可搜索的工程知识库与调查和记录这些变更的内部工作相关。

供应商依赖同样值得审视。重度使用单一提供商,会使风险集中于该提供商的可用性和模型行为。替代路径只有在依据相同业务要求和权限边界经过测试时,才真正有帮助。

切换模型也可能改变先前评估的含义。一个听起来可以接受的后备模型,可能以不同方式遵循指令,或以意外顺序请求执行操作。运营连续性所需的不只是成功从另一模型获得回复。

这些关注点并未否定所报告的采用里程碑。它们指出了供应商提供模型和平台后,企业仍需承担责任的领域。企业依然拥有自身的政策、客户承诺,以及对可接受错误的决策权。

因此,对该公告最有力的解读应将采用情况与不确定性结合起来。Retell 已公布了具有意义的规模和客户使用案例。有关可靠性和生产力的更广泛主张,仍需要在不同时间、配置和客户群体中获得更多可比证据。

关注基准更新、客户后续数据与工程证据

下一类有价值的证据,应将模型改进与持续的客户结果和工程质量联系起来,而不是再增加一项孤立的头条指标。

未来数月首个值得关注的信号,是清晰标识模型与设置的更新基准。Retell 依赖配置的结果已经说明,仅有模型名称并不足够。未来的对比应保留足够细节,以解释排名变化。

在测试条件下,更强的指令遵循结果将支持政策遵守能力提升的判断。若同时附带正确操作指标和响应延迟数据,将提供更大信心。仅在一个类别中的改进,只能支持范围更窄的结论。

反向结果同样重要。如果替代模型能在可接受的响应窗口内更准确地处理相同行动,买方就有可信理由重新考虑路由策略。这将削弱将当前结果视为永久竞争优势的任何解读。

第二个信号是采用稳定定义的客户后续数据。Anker 和 Pine Park Health 提供了容易理解的运营使用案例。如果后续披露包含观察周期、重复联系、升级结果以及自动化交互后所需的员工工作量,信息价值将更高。

持续结果将强化这些部署能够产生持久运营价值的主张。若随着范围扩大而出现表现恶化,则意味着最初的成功依赖于更狭窄的一组请求。无论哪种结果,都会帮助买方理解自动化适用的位置。

第三个信号是人均年化营收以外的工程证据。有用的披露应将辅助能力与交付时间、审查投入、缺陷和维护联系起来。这些指标有助于区分真正更快的执行,与仅仅将工作转移到后续检查或修复的情况。

在交付周期缩短的同时,质量记录稳定或改善,将强化生产力论点。即使公司继续报告具有吸引力的营收比率,不断增加的返工也会削弱这一论点。关键结果是整个开发过程中可靠的交付。

这些信号也明确了不同读者应从该案例中获得什么。开发者应审视设置和评估案例如何对应实际任务。企业买方应将供应商规模与自身的结果定义区分开来。运营负责人应将人工后续处理纳入评估。

Retell OpenAI 语音代理已将讨论推进到生产环境证据层面,公开数据值得审慎关注。下一步是提高可比性:采用一致的定义、公开的配置选择,以及能够超越最初客户案例的后续结果。

在依据该公告作出采购决策之前,应要求围绕贵组织的实际通话和已记录政策开展试用。要求供应商区分已完成的操作、恰当的升级、重复联系,以及需要修复的错误。让了解客户困难所在的服务员工和了解连接系统的工程师参与其中。比较模型时,应保持评估条件透明,尤其是其推理设置和允许执行的操作。随后在政策或工作流发生变化后重新审视结果,而不要假定早期成功率会保持稳定。哪些证据能说服您的团队相信自动化对话正在改善服务?哪些结果会让您缩小部署范围?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page