top of page

Google Gemini 3.8 Live 应对语音代理的等待难题

3小时前
讀畢需時 15 分鐘

Google 于 9 月 15 日推出两款 Gemini 3.8 Live 模型,将其语音战略划分为即时对话与更深入的后台推理。Google Gemini 3.8 Live 的发布瞄准了一个至今仍让高级语音代理显得不够成熟的问题:工具运行时,它们常常会停止说话。

Gemini 3.8 Live 处理快速对话和直接任务。Gemini 3.8 Live Extended Thinking 则通过推理、调用工具并报告进度来处理更长的工作流,同时不中断对话。Google 表示,这两款模型都是其迄今最先进的实时对话模型。

这一时间点颇具针对性。五天前,OpenAI 面向开发者发布 GPT-Live-1,将全双工对话和委派推理带入其 API。Google 如今竞争的不只是语音质量。竞争焦点正在转向:当代理执行实际操作时,哪个平台能让对话始终保持连贯。

Google Gemini 3.8 Live 将语音工作划分为两款模型

Google 将低延迟和深度推理视为不同的产品需求,而非单一通用语音模型上的设置选项。

Gemini 3.8 Live 是用于低延迟对话、直接命令以及快速返回结果工具的默认模型。其 Extended Thinking 对应版本则面向需要规划、调用多个工具或进行数秒处理的请求。

这种区分很重要,因为对话速度与推理深度往往相互牵制。模型可以立即响应,但答案可能缺乏处理复杂任务所需的规划;它也可以暂停进行推理,但这会让用户不确定系统是否接收到了任何内容。

Google 的解决方案是双模型产品线。标准模型强调快速轮流对话和可预测的交互周期。Extended Thinking 则让系统能够在后台推理和执行工具时,保持交互处于开放状态。

两款模型均接受文本、图像、音频和视频输入,并输出文本和音频,让代理获得视觉上下文,而无需单独的感知模型。Google 的模型文档列出了标准模型的 131,072 token 输入上限和 65,536 token 输出上限。

该公司将 Gemini 3.8 Live 定位于客服分流、语言练习、语音搜索、互动故事、传感器读数和智能设备控制等场景。这些案例受益于快速响应和相对简单的工具使用。

Extended Thinking 面向技术支持、协同旅行搜索、代码辅导及其他多步骤工作流。这类任务要求的不只是识别语音并生成自然语音。代理还必须维持状态、选择工具、检查结果,并解释自己正在做什么。

这些模型还支持异步函数调用。函数调用允许模型请求外部服务执行某项操作,例如检查库存或检索账户记录。异步执行意味着这些工作可以持续进行,而不会阻塞对话的其他部分。

Gemini 3.8 Live 支持阻塞式和非阻塞式函数。Extended Thinking 则要求使用非阻塞函数声明,因为其交互设计依赖于并行工作。

这是一个重要的架构选择。它促使开发者不再将语音会话视作一连串彼此孤立的问答。相反,会话成为一个持续进行的过程:语音、推理、工具调用和用户中断都围绕同一任务发生。

这些模型可通过 Gemini API 和 Google AI Studio 使用。Google 也正将其分发到消费者和企业产品中,不过两个版本的可用性有所不同。

标准模型正逐步在 Search Live 中推出。Extended Thinking 正在 Gemini Live 和部分 Workspace 体验中上线,企业访问则先通过私密预览启动。

Google 的官方发布公告称,模型可在对话中于 97 种支持的语言之间自动切换。公告还称,每一段生成的音频输出都带有 SynthID 水印。

这种广泛分发使其不只是一次 API 更新。Google 可以在搜索、生产力软件、消费者助手和第三方代理中测试同一底层方案。每种环境都会暴露出时序、准确性和任务执行方面的不同问题。

因此,核心变化不只是更好的合成语音。Google 将实时 AI 划分为快速对话路径和推理密集型路径,再将两者连接到更广泛的产品版图。

为什么后台推理会改变语音代理体验

Extended Thinking 的设计目标,是用对仍在进行工作的主动对话取代难以解释的沉默。

当代理在搜索、计算或等待另一项服务时,文本界面可以显示加载动画。语音则缺少这种视觉惯例。数秒的沉默听起来可能像连接中断、请求失败,或系统不再监听。

Gemini 3.8 Live Extended Thinking 通过对话填充语和进度叙述来应对这种不确定性。它可以确认请求、说明正在检查某项内容,并在工具运行期间继续说话。

这些更新并非旨在暴露私有的思维链。它们充当任务状态消息,向用户提供足够的信息,让其理解交互仍在进行。

Google 的思考指南描述了支持这一行为的新会话生命周期。后台推理持续期间,服务器会将交互标记为 IN_PROGRESS;整体请求完成后,再将其改为 IDLE

这种差异要求开发者重新审视一个熟悉的完成信号。在标准 Live 会话中,turnComplete 表示模型已完成并回到空闲状态。在 Extended Thinking 中,它可以标记一次语音更新的结束,而更广泛的任务仍在继续。

忽略这种区别的界面可能会在错误的时机允许输入、过早停止动画,或在工具仍在运行时告诉用户任务已完成。因此,采用该模型不仅仅是更改一个端点名称。

Extended Thinking 还提供低、中、高三档推理等级。标准模型使用具有固定延迟特征的交错式推理,因此开发者无法调整其思考等级。

这种划分为产品团队提供了实用选择。他们可以在简单交互中优先追求即时响应,或者在不完整答案代价更高的工作流中接受更多处理时间。

以一名被要求比较多个日期航班和酒店的旅行代理为例。模型必须查询多个服务、应用旅行者偏好、识别冲突,并给出易于理解的结果。

传统语音机器人可能会在这些调用期间保持沉默。另一些可能会用无法提供真实状态信息的泛泛提示来填补时间。Extended Thinking 则旨在让系统在工作推进时确认各个步骤。

技术支持面临类似挑战。代理可能需要检查日志、核对配置值、比较错误代码,并判断哪项操作是安全的。流畅的首次响应并不证明诊断正确。

Google 的机制将口头进度与持续时间更长的交互状态相连。如果它能够稳定运行,系统就能在不假装每个答案都可立即给出的前提下,显得反应灵敏。

模型还可以在整个会话中接收新的客户端内容。这意味着用户可以在生成进行时补充上下文或重新引导对话。开发者必须决定该更新是补充当前任务,还是打断它。

这种交互设计让语音代理更接近人工服务通话,在这类通话中,一方查询记录时双方会持续交换确认信息。但它也带来了新的失效模式:代理可能说得过多、重复含糊的更新,或描述与工具实际状态不符的进度。

对于构建 AI 工作流的团队而言,可观测性变得至关重要。他们需要记录模型说了什么、运行了哪个函数、状态何时变化,以及最终操作是否符合用户请求。可搜索的工程知识库可以帮助团队将这些追踪记录与规范和事故说明关联起来。

更深层的含义是,语音质量如今也包括编排能力。悦耳的语音和准确的转录依然重要,但它们并不能完成银行请求或解决技术故障。

代理必须协调对话与操作,同时不丢失任何一条线索。Google Gemini 3.8 Live Extended Thinking 将这种协调能力作为产品的决定性特征。

OpenAI 与 Google 现提供竞争性的推理路径

主要竞争在于将实时对话与更深层智能结合的两种方式。

Google 将可配置的后台推理置于 Gemini 3.8 Live Extended Thinking 内部。该模型在同一持续交互中说话、规划并调用非阻塞工具。

OpenAI 的 GPT-Live-1 则采用了更明确的委派路径。其实时模型负责轮流对话和语音行为,随后将更深层的推理或操作交给选定的后端模型、工具或代理框架。

OpenAI 于 9 月 10 日向 API 开发者推出 GPT-Live-1。该公司称,该模型可以同时听和说、处理打断,并在保持对话的同时委派困难工作。

GPT-Live-1 发布公告将委派呈现为一种架构优势。产品团队可以将语音层与为特定任务选择的独立推理模型结合。

Google 的方案提供了更紧密的整合。Extended Thinking 通过单一模型端点处理可配置推理和对话,尽管底层业务操作仍由外部函数执行。

两种设计都没有消除编排需求。Google 开发者必须管理交互状态、异步工具和会话更新。OpenAI 开发者则必须管理实时模型与其委派后端之间的关系。

实际问题在于,团队希望复杂性存在于何处。更集成的模型可以减少可见组件的数量,并让对话行为更易协调。委派式设计则可让开发者在同一语音体验背后替换推理系统,或使用专门的代理。

这场竞争之所以出现,是因为语音本身已不再是充分的差异化因素。领先系统都能转录、生成富有表现力的音频,并处理打断。更困难的问题是:当软件改变对话之外的某些内容时,如何维持连贯交流。

Google 的 Extended Thinking 模型试图让推理紧贴实时会话。OpenAI 则让对话层调用独立的推理栈。两者都在回应同一限制:如果困难任务要么让对话冻结,要么只能得到肤浅答案,语音代理就无法保持实用性。

竞争边界也延伸至模型架构之外。Google 可以将 Gemini 部署到 Search、Workspace、与 Android 关联的体验及其云平台中。这种分发能力为优化语言切换、视觉锚定和工具使用提供了高频机会。

OpenAI 也通过 ChatGPT 和开发者 API 拥有自己的触达范围。其模型中立的委派叙事,可能会吸引那些已在运行复杂智能体系统、并希望拥有对话式前端的团队。

对于企业采购方而言,集成能力的重要性可能超过基准测试领先优势。语音智能体会接触身份系统、账户记录、工作流引擎、合规控制和客户数据。即使是得分最高的模型,也仍需可靠地访问这些系统。

Google 将 Agora、Fishjam、LiveKit、Pipecat、Vercel 和 Vision Agents 列为支持其 Live API 生态系统的开发者平台。这些服务负责媒体层和传输层的部分工作,减少了每个应用都必须独立构建的基础设施。

这种支持可以加快原型开发,但生产环境决策取决于发布演示中很少呈现的细节。团队需要测试丢包、电话网络压缩、嘈杂环境、带口音的语音、工具故障以及通话中途的身份验证。

他们还必须决定,当用户在执行一项重要操作时打断系统,后续该如何处理。在数据库更新之前的中断,与更新之后的中断并不相同。自然对话并不能消除对事务性保障措施的需求。

Google 的全会话内容更新让开发者对中断拥有更多控制权。OpenAI 则强调全双工交互,即监听和说话可以同时进行。两种方式都需要针对取消、确认和恢复任务制定明确规则。

最终胜出的不会是那个在干净演示中听起来最像人类的模型,而是能够将混乱的口头请求转化为正确、可审计结果,同时维持对话信任的平台。

这一标准给两家公司都带来了压力。Google 必须证明,集成式后台推理仍然便于开发者管理。OpenAI 必须证明,委派机制不会在说话模型与实际执行工作的系统之间形成明显断层。

基准测试更偏向 Gemini,但并不能定论可靠性

Google 公布的分数支撑了其发布叙事,但受控测试无法代表真实语音工作流中的每一种故障。

Gemini 3.8 Live Extended Thinking 在 Artificial Analysis 的语音到语音质量指数中获得了 82.6 分。该独立排行榜将高推理版本列为当前比较中的第一名。

该模型在 Artificial Analysis 实现的 τ-Voice 测试中也取得了 68.6%。Google 报告称,其在 Sierra 的 τ-Voice 银行业基准测试中得到 35.1%,在 Big Bench Audio 中达到 97.7%。

实时语音排行榜有助于将厂商声明与纯内部评估区分开来。它衡量多个维度,而非将音频质量视为唯一目标。

不过,基准测试领先并不意味着每一次生产部署都会有更好的表现。分数取决于测试条件、模型设置、系统提示词、工具、网络行为以及成功的定义方式。

τ-Voice 尤其有用,因为它将语音交互与任务完成结合在一起。其场景要求智能体遵守政策、使用工具,并处理贴近现实的多轮对话。

最初的 τ-Voice 研究评估了 278 项任务。在其测试条件下,早期语音智能体仅保留了相当于文本能力的 30% 至 45%。

这一差距解释了 Google 为何强调推理和工具。语音智能体失败的原因并不会在简单的语音样本中显现。它们可能误判意图、选择错误的功能、违反政策,或在长时间交互中丢失关键细节。

噪声和多样化口音也会降低完成率。电话音频可能损失频率细节,而日常对话中包含停顿、更正、背景人声和不完整句子。

Extended Thinking 通过分配更多推理资源并保留更长的任务生命周期,解决了部分智能体行为失误。它并不能消除输入歧义、不可靠的外部服务或有缺陷的业务规则。

Google 自己的模型卡为发布措辞提供了有益的平衡。卡片称,Gemini 3.8 Audio 可能产生幻觉,也可能偶尔出现响应变慢或超时。

Gemini 模型卡还称,这些模型的知识截止日期为 2025 年 1 月。因此,当前信息依赖于锚定机制或外部工具,而不是基础模型中存储的知识。

Google 的安全评估中还出现了另一项值得注意的细节。该公司称,按照其前沿风险分类,这两款音频模型相较 Gemini 3.7 Flash 并未带来有意义的新能力提升。

这一表述并不与产品发布相矛盾。模型可以在不跨越前沿能力门槛的前提下,提升对话协调、延迟表现和任务执行能力。它确实表明,“最先进”描述的是实时对话产品,而不是衡量通用智能的每一个指标。

SynthID 提供了另一项保障,但其作用有限。该水印可以帮助识别由 Google 系统生成的音频。它并不能判断语音是否准确、是否经过授权,或是否被恰当地使用。

生产团队仍需要为敏感操作设置确认步骤。语音智能体不应仅因其对口头请求的分类看似自信,就转移资金、取消服务或暴露私密记录。

它们也需要具备回退行为。当模型无法理解用户时,坦诚地请求澄清比流畅地猜测更安全。当工具超时时,系统应区分未完成的操作与已完成的操作。

因此,开发者应将基准分数视为进展的证据,而不是服务级保证。这些结果足以证明,应让 Gemini 3.8 Live Extended Thinking 接受高要求工作流的测试。它们并不能替代针对企业自身口音、政策、工具和故障成本的测试。

Google 最重要的主张并不是模型可以自然地说话,而是模型能够将流畅语音与可靠的任务完成结合起来。在独立用户于真实运行条件下复现这一点之前,这项主张仍然取决于具体部署。

生产级语音智能体需要的不只是自然对话

此次发布让语音 AI 更接近实际工作场景,但也使应用设计和运营控制变得更重要。

一套生产级语音智能体至少承担四项工作:理解说话者、管理对话、推理请求,以及执行正确操作。

任何一层出现故障,都可能破坏整个交互。即使转写完美,如果智能体选择了错误政策也无济于事。如果用户以为工具已经完成、而它实际已超时,正确推理同样没有帮助。

Gemini 3.8 Live 的视觉输入增加了另一层维度。用户可以一边描述问题,一边将摄像头对准设备、文档或屏幕。模型可以将该视觉流与语音和文本结合。

这可能支持引导式故障排查、可视化客户协助、无障碍工具和辅导教学。但它也引入了隐私问题,因为实时摄像头可能捕捉到与请求无关的人员、通知或文档。

应用需要提供醒目的录制提示,并制定严格的数据保留政策。它们应尽量减少发送给模型的音频和视频,尤其是在持续监听仍处于活动状态时。

Google 表示,两款 Gemini 3.8 模型均永久启用了主动音频。主动音频允许模型判断某些输入不需要回应。它可以减少不必要的打断,但会话仍会处理传入音频。

这种区别会影响成本、同意授权和用户预期。智能体保持沉默,并不一定意味着服务已停止监听。

会话管理带来了另一个运营问题。长时间对话会积累上下文,增加处理需求,也让旧信息更难管理。

Google 支持上下文窗口压缩,即在达到阈值后保留近期历史记录中选定的一部分。开发者必须测试这种压缩是否会丢弃工作流后续所需的事实。

131,072 token 的输入容量听起来很充裕,但容量并不保证完美记忆。语音应用应将重要状态存入结构化系统,而不是期望转录文本充当唯一的事实来源。

例如,支持智能体应将已确认的设备细节写入明确的工单记录。预订智能体应在经过验证的字段中维护所选日期和乘客信息。口头上下文可以引导交互,但结构化状态应控制实际操作。

工具权限也需要清晰边界。获准查询账户的智能体,不应自动获得修改账户的权限。读取操作、可逆变更和重要操作需要不同的确认规则。

当这些边界真实存在时,Extended Thinking 的进度叙述可以改善透明度。模型可以告诉用户它找到了一个选项,然后在预订前请求批准。它不应讲述应用从未实际实施的安全检查。

人工升级处理仍然必要。有些请求涉及情绪困扰、法律不确定性、欺诈迹象或政策例外,不应由通用模型单独解决。

语音界面可能增加用户信任,因为语音显得更具个人感。这种特质也会让自信的错误更具说服力。产品团队应衡量用户是否理解智能体的局限,而不仅是他们是否享受这段对话。

此次发布也提高了人们对无障碍能力的期待。自动语言切换可以让服务更易触达,但语言覆盖并不等同于不同语言之间具有同等表现。

团队应测试区域口音、语码转换、人名、地址和领域专用词汇。一个能处理日常对话的系统,仍可能难以识别药物名称、序列号或金融术语。

自然的节奏可能掩盖这些识别问题。智能体或许会流畅回应,却基于一个细微错误的实体执行操作。随着错误成本上升,确认步骤应变得更明确。

Google Gemini 3.8 Live 为开发者提供了更强大的组件来完成这些工作。它并未提供构建可靠服务所需的政策层、审计设计、恢复流程或领域验证。

产品机会是真实存在的,因为语音减少了界面摩擦。用户可以描述复杂情况,无需浏览菜单,也无需将问题转化为搜索词。

工程负担同样真实。智能体在对话中能做的事情越多,开发者就越必须谨慎定义它被允许做什么、如何记录成功,以及如何撤销错误。

Gemini 3.8 Live 发布后值得关注什么

三个信号将表明 Google 是交付了更好的语音智能体平台,还是仅仅呈现了更强的演示。

第一个信号是在真实条件下独立完成任务的表现。Artificial Analysis 已提供了有用的比较数据,但采购方仍需要包含嘈杂通话、区域口音、中断和不可靠工具的测试。

复现这些收益将增强 Google 的论点:后台推理能够改善结果。若在受控环境之外出现明显下滑,则说明当前基准测试仍遗漏了重要的部署故障。

第二个信号是开发者对 Extended Thinking 生命周期的采用情况。该模型要求应用跟踪 interaction_status、使用非阻塞函数,并处理单次请求中的多次话语。

库和智能体平台可以隐藏其中一部分复杂性。不过,问题报告、集成示例和生产案例研究将揭示这一设计究竟可靠,还是难以控制。

广泛采用将支持 Google 的一体化方案。若围绕状态处理、取消操作和工具同步的抱怨持续存在,则会更有利于模块化的语音架构。

第三个信号是 OpenAI 的竞争回应。GPT-Live-1 在 Google 公布消息前数日进入开发者市场,并通过后端委派提供了自己对实时推理的解法。

开发者应比较完整系统,而非孤立的模型演示。相关衡量维度包括中断处理、操作准确性、延迟、可审计性、集成工作量,以及工具失败后的恢复能力。

对于希望掌控推理后端的团队,OpenAI 的模块化设计可能更合适。Google 的统一模型则可能吸引偏好单一实时端点,并希望与 Search、Workspace 和 Google Cloud 深度集成的团队。

未来的产品分发同样重要。Gemini 3.8 Live 已开始进入 Search Live,而 Extended Thinking 正在覆盖 Gemini 和部分 Workspace 用户。反复的日常使用将暴露实验室评估难以发现的交互模式。

应关注用户是否接受进度播报,还是觉得它令人分心。有用的确认应描述真实的任务状态;重复的填充内容会很快让人感觉只是另一种形式的等待。

还应关注企业是否公布可量化的业务成果。成功的语音智能体应减少放弃通话、提高首次联系解决率,或在不增加额外纠正工作的前提下完成更多任务。

仅看使用量可能会产生误导。模型或许会因演示效果出色而吸引用户试用。持久的采用需要证据证明,它能以足够准确的方式解决请求,从而证明其运营风险是值得承担的。

Google 已作出明确押注:下一代语音智能体应在思考和行动时持续交谈。Gemini 3.8 Live 负责快速路径,而 Extended Thinking 则让复杂工作保持在持续进行的语音交互中。

这种分工解决了语音 AI 最明显的弱点之一。但它也暴露出其下更不易察觉的挑战:当对话与软件操作同时展开时,如何保持准确的状态。

评估 Google Gemini 3.8 Live 的开发者应先从一个边界明确的工作流开始,为每次工具调用配置监测,并在扩大访问范围前测试中断情况。该智能体只是听起来很专注,还是能持续完成它声称正在做的工作?

 
 

免费开始

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)M-Chip Mac

你的 AI 工作伙伴

remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page