top of page

ByteDance 与 Google 的竞争迎来 SeedRealtime 的实时视听测试

8月11日
讀畢需時 13 分鐘

据报道,ByteDance 于 8 月 11 日发布了 SeedRealtime,将一款新的视听模型直接带入与 Google 实时多模态系统的竞争之中。这份发布报道将该模型描述为一项实时视听产品。不过,公开索引的 ByteDance 资料中仍缺少重要的技术和商业细节。

这一信息缺口至关重要,因为实时多模态 AI 已不再只是实验室演示。Google 已通过 Gemini Live API 为开发者提供双向音频、视频和文本交互。其模型能够观看视频流、听取用户语音、以语音回应,并在同一会话中调用外部工具。

因此,ByteDance 与 Google 的竞争正在超越基准测试分数和生成媒体。下一轮较量关乎持续感知、对话时机、产品分发与信任。只有当 ByteDance 能够将这些要素整合进一个可用系统中时,SeedRealtime 才会真正产生影响。

SeedRealtime 延续 ByteDance 的实时 AI 布局

SeedRealtime 似乎连接了 ByteDance 此前分别发展的两个领域:实时语音交互与多模态视觉理解。

ByteDance 的 Seed 团队已经构建了广泛的模型产品组合,其中包括通用多模态模型、实时语音系统、图像生成器和音视频生成工具。SeedRealtime 据称的定位表明,该公司正朝着可持续观察和对话的助手迈进。

这与上传后处理录制视频不同。实时模型必须在解读输入流的同时决定何时回应,还必须保留足够的上下文,以理解场景和对话如何变化。

该系统可能支持这样的场景:用户通过摄像头展示设备故障,同时请求语音指导。其他用途包括可视化客户支持、实时口译、无障碍辅助、远程培训和互动购物。

这些例子描述的是这一类别,而非已获确认的 SeedRealtime 功能。截至本分析撰写时,ByteDance 尚未发布可被公开索引的模型卡、API 指南、基准测试报告或详细发布页面。其确切的输入、输出、支持语言、上下文限制和可用性仍不清楚。

这一名称也需要谨慎解读。“视听”可以描述多种不同系统。一种模型可能接收声音和视频,却只以文本作答;另一种模型则可能在跟踪实时摄像头画面的同时输出原生语音。

更具雄心的版本将能够维持连续的视觉与声学上下文,同时支持打断。这种设计更像一位实时参与者,而不是一连串彼此独立的请求。

ByteDance 之前的工作说明了为何这种解读具有合理性。今年 4 月,该公司推出了 Seeduplex,一款全双工语音模型。全双工意味着系统可以同时听和说,而不是强制执行严格的轮次交替。

ByteDance 表示,Seeduplex interaction能够抑制无关的人声和背景干扰。该公司还将视觉输入列为一项计划中的扩展方向,用于协调听、看和说。

SeedRealtime 似乎遵循了这一既定方向。不过,相关路线图并不能证实两个系统共享同一架构。ByteDance 尚未公开说明 SeedRealtime 是否扩展自 Seeduplex、Seed2.0 或其他模型系列。

这一差别对开发者很重要。换名后的研究演示只能带来有限的即时价值;具备文档化流式接口的稳定模型,则代表一次有意义的平台发布。

ByteDance 还需要说明该模型将在哪里运行。通过 Doubao、Volcano Engine、BytePlus、CapCut 或其他服务进行分发,将带来不同的受众与治理要求。

目前,得到验证的变化比标题暗示的更为有限。据报道,ByteDance 已推出一款实时视听模型,推进了其面向持续多模态交互的公开布局。但评估这一进展所需的运营细节仍不完整。

为什么 ByteDance 与 Google 的竞争关乎延迟

决定性指标并非模型能否理解音频和视频,而是它能否以足够快的速度完成理解,从而实现自然交互。

传统多模态系统会在生成答案前接收完整的图像、录音或提示。实时系统没有清晰的边界:新的声音和视觉信息会在模型推理和回应时持续到达。

这会产生多种形式的延迟。系统必须对输入媒体进行编码、检测用户是否说完、推理请求,并生成答案。网络传输和应用逻辑还会带来额外延迟。

一个模型即使在存储视频基准测试中表现良好,在对话中也可能令人难以使用。即便答案正确,如果在需要帮助的时刻过去后才到达,依然会让人沮丧。

轮次检测是另一项挑战。人们会停顿、重新开始一句话、彼此抢话,或对房间里的其他人说话。一个有用的助手必须区分犹豫与表达结束,以及背景语音与有意输入。

视觉时序增加了更多复杂性。用户可能一边移动摄像头一边说“那根线缆”。模型必须在正确的时刻将这句话与正确的物体关联起来,也需要避免在场景变化后仍指向较早的画面。

Google 已通过 Gemini Live API展示了这些工程权衡。该服务使用持久 WebSocket 连接进行双向流传输,在支持原生音频输出的同时接收音频、视频和文本输入。

Google 的文档也揭示了实际限制。其当前能力指南列出了连续音频以及音频与视频组合使用时受限的默认会话时长。开发者可以通过额外的管理技术延长会话,但这些限制表明,持续上下文会带来实际成本。

这一现成的开发者入口为 Google 提供了重要优势。团队可以查看消息格式、会话行为、模型标识符、身份验证和集成模式,然后在自己的应用中测量性能。

在开发者能够对 ByteDance 和 Google 进行严肃比较前,SeedRealtime 需要提供可比的文档。精美的演示无法揭示其在弱网络、频繁打断、拥挤房间或长时间会话中的表现。

首次响应延迟只是一个指标。开发者还需要了解轮次结束延迟、打断恢复、工具调用速度、视频采样行为和上下文保留能力。长尾延迟尤为重要,因为偶发的长时间停顿可能破坏整个体验。

音频质量也会影响用户对速度的感知。一个很快开始说话但经常自我修正的模型,可能会让人觉得比指标所显示的更慢。自然的节奏需要推理与语音生成之间的协调。

ByteDance 在大规模消费级场景中拥有相关经验。其平台处理大量的视频、音频和互动信号。这种背景可能有助于媒体基础设施、移动端优化和分发。

不过,推荐系统的规模并不会自动迁移至实时生成式交互。个人助手必须维持特定于会话的上下文,并生成个性化回应,不能只依赖于对现有内容进行排序。

因此,关键机制是持续协调。SeedRealtime 必须将感知、推理、轮流发言与语音整合起来,不能让其中一个组件拖慢其余部分。这种整合将决定模型给人的感觉是实时在场,还是仅仅速度很快。

Google 已具备成熟的分发优势

Google 带着已部署的 API、面向消费者的入口和设备集成进入这场竞争,而 SeedRealtime 则始于信息缺口。

Google 将其实时模型描述为用于低延迟语音应用、工具使用和实时信息检索的系统。其实时对话模型支持多种输入格式,并与 Google AI Studio 和 Gemini API 相连接。

该公司还掌控 Android、Search、Workspace、YouTube 以及不断扩展的硬件产品组合。这些入口为实时视听辅助成为一种重复性用户行为提供了场所。

具备摄像头感知能力的助手会通过上下文获得价值。它可以帮助用户检查家电、解读标识、识别物体,或操作不熟悉的软件。当模型能够通过连接的服务采取行动时,它会更加有用。

Google 可以将实时交互与 Search 和开发者定义的工具相连接。一个系统或许能够观察商品、检索支持信息,并在不结束对话的情况下执行后续操作。

ByteDance 的分发地位则不同。TikTok、Douyin、CapCut 及相关服务让该公司贴近创作者和视觉沟通场景。这种触达能力可能支持直播制作辅助、镜头指导、商业和媒体编辑。

ByteDance 还运营着面向中国消费者的 AI 助手 Doubao。实时视听模型可以让用户直接展示问题,而不是通过文本描述,从而增强该产品。

因此,两家公司从不同的产品历史切入同一技术类别。Google 的起点是搜索、移动计算和开发者基础设施;ByteDance 的起点则是短视频、创作工具、推荐和高频媒体消费。

这种对比让 SeedRealtime 不只是又一次模型发布。ByteDance 无需复制 Google 的每一种使用场景,它可以聚焦于视频已经处于用户活动核心位置的交互。

创作者可以在录制时请助手评估构图;卖家可以在直播产品演示期间获得语音指导;观众可以在不离开视频界面的情况下,就不断变化的场景提问。

在 ByteDance 确认部署前,这些仍只是潜在应用。但它们仍说明了,尽管平台入场较晚,该公司的分发能力为何可能给 Google 带来压力。

压力也会朝相反方向传导。Google 的文档化 API 为开发者提供了更清晰的测试与部署路径。在 SeedRealtime 得到广泛使用前,Google 可以通过多样化的企业和消费者工作负载来改进其模型。

因此,主要对手并不只是一个模型对另一个模型,而是 ByteDance 以媒体为中心的分发体系,对阵 Google 已建立的多模态平台。

在 ByteDance 与 Google 的竞争中,产品入口的位置可能比微小的基准差异更重要。用户很少孤立地选择一个基础模型;他们是通过已经掌握其数据、注意力或工作流的应用接触到它。

开发者也会做出类似的决策。他们会比较可靠性、地域可用性、内容审核控制、支持服务、可观测性以及集成成本。即使模型能力出色,只要部署路径仍不明确,也可能难以获得采用。

ByteDance 必须说明 SeedRealtime 是研究发布、面向消费者的功能、企业服务,还是开发者平台。在此之前,Google 仍提供了更易于验证的方案。

实时音视频 AI 存在严重的失效模式

持续观看和聆听的模型会带来隐私、准确性与安全风险,而这些风险并不会出现在普通文本聊天中。

最直接的风险是自信却错误的感知。摄像头移动、光线不佳、遮挡、噪声和多人同时说话,都可能扭曲可用证据。模型可能识别错物体,或将语音与无关的视觉事件错误关联。

当用户寻求医疗、机械、金融或安全方面的指导时,这会变得危险。回答延迟只是造成不便;快速却错误的指令,可能在用户意识到错误前就造成伤害。

持续运行的系统还面临棘手的注意力问题。它们必须决定环境中的哪些部分重要、哪些应被忽略。捕捉所有内容会增加成本和隐私暴露,而过度过滤又可能移除重要上下文。

仅靠语音活动检测无法解决这一问题。附近的电视、其他人,或生成的音频片段,可能包含看似在对助手说的话。视觉线索可以有所帮助,但也可能引入新的错误。

全双工交互进一步加大了挑战。系统必须判断在被打断后何时停止说话。它应保留有用上下文,而不是固执地完成已经过时的回答。

Google 将主动聆听描述为能够区分直接互动与背景闲聊的能力。这是一项重要的产品主张,但开发者仍需要在不同口音、设备、环境和无障碍需求下进行独立测试。

ByteDance 也针对 Seeduplex 提出了相关主张,包括干扰抑制和自适应端点检测。SeedRealtime 需要提供新的证据,因为加入视觉后,输入分布和安全边界都会发生变化。

隐私同样重要。实时摄像头可能捕捉到面孔、文件、屏幕、位置,以及从未同意与 AI 系统互动的旁观者。麦克风可能录下超出预期请求范围的敏感对话。

开发者需要明确了解数据保留、区域处理、训练使用、日志记录和删除机制。他们还需要能够显示何时有流正在传输、以及传输了哪些信息的控制措施。

生成语音会带来冒充风险。能够复现声音或对可见人物作出反应的系统,可能被用于制作欺骗性内容、未经授权使用肖像,或实施社会工程攻击。

Google 表示,其 AI 生成音频采用 SynthID watermarking。水印不能阻止滥用,但提供了一种识别生成输出的方法。

截至发稿时,公开索引中尚未发现与 SeedRealtime 相当的披露。ByteDance 应说明输出是否带有可检测的来源标记,以及系统如何处理面部和声音身份。

该公司还必须应对来自环境的提示注入问题。标志、屏幕、录音或他人都可能提供旨在覆盖用户目标的指令。实时感知会将周围世界变成一个不受信任的输入通道。

连接工具的系统会提高风险等级。能够看到指令并执行操作的助手,需要严格的授权边界。它应将观察到的内容与经用户批准的命令区分开来。

当前的验证缺口并不意味着 SeedRealtime 缺乏安全防护,而是外部观察者尚无法对此进行评估。在 ByteDance 发布技术证据之前,有关安全性、延迟或准确性的主张都应保持暂定状态。

这正是实时多模态 AI 的核心权衡。更多持续上下文可以让助手更有用,但也会扩大系统处理的敏感与对抗性信息量。

基准测试无法判定 ByteDance 与 Google 的竞争

SeedRealtime 需要基于场景的证据,因为静态排行榜无法复现实时交互中的时序与不确定性。

有价值的评估应从端到端任务开始。测试人员可以要求模型在接收口头纠正的同时,诊断不断变化的视觉问题。另一项测试则可以是在嘈杂房间中识别当前发言者。

评估应衡量任务完成情况,而不只是答案相似度。系统必须注意到相关变化、主动要求澄清、安全地中断,并在证据不足时避免采取行动。

延迟测量需要展示分布,而不是平均值。模型可能大多数时候响应很快,却在复杂场景中卡住。报告中位延迟和高百分位延迟,可以暴露这种不稳定性。

视频采样值得特别关注。持续传输每一帧成本高昂,通常也没有必要;但采样过于稀疏,则可能导致模型错过短暂事件,或将语音关联到错误时刻。

上下文保留是另一个关键变量。在一次维修过程中,用户可能会指向几分钟前展示过的物体。助手需要保留相关状态,同时又不能无限期保存每一帧敏感画面。

开发者还应测试纠正行为。当用户说“不是,我指的是左边的连接器”时,模型应更新自己的理解。若重复原先的回答,就说明其落地能力较弱。

语言覆盖不能被简化为支持语言数量。音频质量会随口音、语码转换、专业术语和嘈杂环境而变化。视觉推理也可能依赖于不同地区的产品、文字系统和文化背景。

Google 的公开资料介绍了覆盖多种语言和语言对的实时语音翻译。其当前模型页面还提供输入类型、上下文限制、可用性和模型状态等信息。

这种透明度并不能证明其更具优势,但能够让外界进行审查。ByteDance 应为 SeedRealtime 发布同等信息。否则,分析师无法判断两款产品是否服务于相同任务。

独立访问与文档同样重要。经过挑选的演示可以借助有利的光照、清晰的语音、短时会话和排练过的提示来隐藏失败案例。开放测试才能揭示系统在非理想条件下的表现。

ByteDance 此前已为其他 Seed 发布提供过详细的模型卡。例如,Seed2.0 model card 讨论了多模态理解、推理、智能体能力和面向应用的评估。

SeedRealtime 技术报告应在不披露敏感实现细节的前提下说明其架构,还应记录训练数据类别、评估设计、已知限制和安全控制措施。

“实时”一词需要具备可衡量的含义。ByteDance 应报告首次音频输出时间、对打断的响应时间、帧处理节奏以及持续会话的可靠性。单次演示无法证明这些特性。

当两套系统都能在相同硬件、网络、提示和任务下接受测试时,ByteDance 与 Google 的比较才会变得可信。在此之前,更有依据的结论应聚焦于平台成熟度,而非模型质量。

Google 目前提供了更清晰的开发者路径。ByteDance 则提出了更引人关注、尚未解答的问题:其媒体技术积累能否规模化地打造差异化实时交互模型。

三个信号将表明 SeedRealtime 是否重要

访问渠道、独立性能测试和产品部署,将决定 SeedRealtime 是改变市场,还是仅仅成为一条新闻标题。

第一个信号是官方技术访问渠道。ByteDance 应发布 API、产品界面、模型卡或可复现的研究演示。文档必须说明接受的输入、生成的输出、延迟预期、语言支持、会话限制和地域可用性。

开发者访问将强化 SeedRealtime 是一次平台发布的判断。如果外部团队能够发布其测试结果,即便是有限邀请计划也仍能提供有用证据。持续沉默则会削弱这一主张。

第二个信号是与 Google 实时模型进行独立测试。最有参考价值的评估将采用变化的场景、打断、重叠语音、弱网络连接和多步骤工具调用。

测试人员应报告完整的任务结果和失败率,还应考察隐私控制、拒绝行为、出错后的恢复能力,以及在更长会话中的一致性。

有力的结果应表明,SeedRealtime 能在某一类任务中提供可靠交互。它不必赢得每一个类别;在创作者工作流、电商或多语种视频辅助方面展现清晰优势,就能形成差异化。

第三个信号是在 ByteDance 主要产品中的部署。与 Doubao、CapCut、Douyin、TikTok、Volcano Engine 或 BytePlus 的集成,将揭示该公司面向的目标受众。

面向消费者的部署将检验大规模可用性和内容审核。企业访问将检验可靠性、治理和集成能力。面向创作者的发布则会支持这样一种观点:ByteDance 正在战略性地利用其媒体优势。

如果 ByteDance 无法将模型连接到产品中,Google 的优势仍将十分显著。相反,快速集成可能缩小差距,因为 ByteDance 已拥有高频视觉交互入口。

读者还应区分生成与交互。ByteDance 拥有强大的音视频生成产品,但据报道,SeedRealtime 属于实时感知类别。一方的成功并不能保证另一方同样成功。

对开发者而言,眼下的行动很直接:在没有接口文档和独立测试的情况下,不要围绕一则公告重新设计生产系统。应关注访问条款、会话行为、数据处理和工具支持。

企业买家应要求在自身环境中获得证据。安静办公室中的演示,对仓库、客服中心、商店、车辆或多语种会议的表现几乎说明不了什么。

知识工作者应关注这些助手如何处理纠正和不确定性。实用的实时模型必须能在无法可靠看见、听见或识别某事物时明确说明。流畅的表达绝不能替代有依据的证据。

ByteDance 与 Google 的竞赛如今迎来了一名据报道的新参与者,但举证责任在 ByteDance 一方。SeedRealtime 需要公开规格、外部验证和真实产品分发。

如果这三个信号出现,实时音视频 AI 将迎来另一个可信平台和更强竞争。如果没有,Google 已有文档支撑的生态系统仍将是实际参考点。哪家公司会先让用户在真实条件下检验其承诺?

 
 

免费开始

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)M-Chip Mac

你的 AI 工作伙伴

remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page