top of page

Gemini 4 Argon 基准测试显示 Google 落后于 Claude 和 GPT-6

4小时前
讀畢需時 12 分鐘

Google 公布了 Gemini 4 Argon 的基准测试结果,显示其在高难度 Android 开发任务上的表现落后于 Claude 和 GPT-6。10 月 26 日的更新带来了一个令人尴尬的对比:Google 自己的评估将竞争对手的系统排在其最新产品之前。

这一发现之所以重要,是因为 Android Bench——Google 对 AI 辅助 Android 工程的评估——测试的不只是提出看似合理的代码建议的能力。其当前排行榜评估模型与智能体的组合在大型开发工作中的表现。智能体是使用模型检查项目、修改文件并运行开发工具的软件。

不过,这一标题需要补充说明。这些结果比较的是经过配置的系统,而不是在相同条件下单独测试的模型。它们还区分了部分进展和完全通过的解决方案。Google 已公布了存在竞争差距的证据,但这些证据支持的结论比“Gemini 在 Android 编程上普遍落败”更为有限。

对开发者而言,眼下的问题涉及委派。哪套系统值得接手一项困难任务,而开发者又将继承多少未完成的工作?对 Google 而言,压力更为具体:当自家的记分板更看好竞争对手时,它需要解释为什么其 Android 开发产品仍值得获得这样的任务。

Gemini 4 Argon 基准测试显示出明显差距,并需修正排名

Google 公布的结果显示,Argon 落后于竞争对手的 Claude 和 GPT 系统,但实时排行榜将其列为第六,而非第五。

在 10 月 26 日的报道中,9to5Google 将 Argon 描述为第五名。其 Android 编程报道准确指出了更广泛的竞争结果:Google 的产品落后于 Anthropic 和 OpenAI 的近期系统。由于当前榜单中另一项 Claude 产品紧随其后、位列 Argon 之前,具体排名值得修正。

Google 的 Android Bench 排行榜将 Claude Sonnet 5.5 列为第一,通过率为 40%。GPT 6.1 Sol 的通过率为 29.3%,而 Gemini 4 Argon 为 21.3%。三者的完成率分别为 80.9%、82.8% 和 81.8%。

配置也有所不同。Sonnet 通过 Claude Code 以最高推理强度运行,GPT 通过 Codex 以最高强度运行,而 Argon 则通过 Antigravity SDK 以高强度运行。推理强度是控制模型思考深度的配置项。任何比较都应保留这些标签。

这些细节让结果具有参考价值,但并不使其具有普遍性。评估这些特定系统的团队拥有一个具体的起点。若要比较各品牌在所有编程任务中的表现,读者就更缺乏作出全面判断的依据。

排名修正并不能消除 Google 面临的问题。将 Argon 从第五名调整为第六名,改变了序位,却不影响核心观察:多套竞争系统能够成功完成更多基准任务。

完成率数据也让简单的解读变得复杂。Argon 的部分进展得分接近这些被重点提及的竞争对手,但其完全通过的结果落后。这种模式提出了一个不同于“模型能否生成大量代码”的问题。

开发者可能收到一份规模很大的实现,却仍得不到可靠的结果。剩余工作可能包括定位一个隐蔽缺陷、满足遗漏的需求,或检查智能体忽略的行为。仅凭排行榜无法确定哪一种解释主导了 Argon 的失败。

因此,最站得住脚的解读应当具体:Google 测试的 Argon 配置在完整任务解决方面落后于领先的测试替代方案。这构成调查其失败原因的理由,而不是把每一份输出都视为同样薄弱的借口。

这也改变了竞争讨论。Google 不需要再证明 Argon 能够生成 Android 界面。它需要证明,这套配置后的系统能够足够可靠地完成高难度任务,从而赢得开发者的信心。

Google 面临将 Android 专长转化为已完成工作的压力

Google 在 Android 领域的地位带来了期待,但平台所有权并不能证明其在工程基准测试中表现更优。

该公司参与定义了这一平台、其开发实践以及评估本身。因此,这一结果格外引人注目。读者自然会期待这些优势能够转化为对 Android 开发者的强大辅助。

然而,这种期待是对 Google 优势的推断,而不是经过测量的能力。编程系统必须在现有项目中应用知识、遵守约束,并从错误中恢复。熟悉一个平台并不能自动解决这些协同问题。

Google 在 3 月发布的原始基准测试公告中,将其描述为识别能力差距并改进模型选择的方式。这一表述如今尤为重要。公布不利结果符合该基准测试声明的目的,即使它会令 Google 的产品叙事更加复杂。

不应将这次发布混同于承认 Gemini 没有价值。一项评估可以揭示弱点,同时仍对其创建者有用。事实上,如果一个基准测试总是偏向其发布者,反而会带来另一种可信度问题。

实际压力落在围绕 Argon 的产品方案上。如果 Google 希望开发者委派困难的 Android 任务,其证据必须将模型能力与可靠结果联系起来。集成便利性本身无法回答性能对比的问题。

对工程经理而言,这会影响其论证负担。选择熟悉的供应商可能简化采购或管理,但这些考量无法解决其编程系统是否能处理团队最困难工作的疑问。技术选择仍然需要证据。

反过来,排名更高的竞争对手也不会自动获得不受限制地访问生产工作流的资格。团队仍需审查代码库权限、审查预期,以及计划委派的变更类型。基准测试领先只能回答这一决策的一部分。

眼下的竞争影响,是削弱了这样一种假设:Google 自己的模型理应是 Google 移动平台的显而易见之选。Android 开发者现在有了一个针对该平台测试替代方案的理由。

这构成了有意义的压力,却不需要预测客户流失。现有证据并未证明采用变化、切换率或商业后果。它证明的是一项已公布的性能比较,买家在质疑默认选择时可以使用。

Google 最有力的回应应直接解决已测得的弱点。附带已记录改动的新结果,会比泛泛宣称编程智能更具信息价值。开发者需要了解什么得到了改进、在什么条件下改进,以及还存在哪些限制。

因此,竞争挑战是运营层面的。Google 必须证明其专业知识能够抵达最终完成的应用,而不是停留在令人信服的解释或大规模补丁上。这正是平台可信度成为开发者决定委派什么任务时有用证据的地方。

当部分进展已不足够时,Claude 和 GPT 领先

竞争差异在于完成任务,即使这些系统产生的中间进展数量相近。

完成度评分可以认可有用的工作,但不会宣告任务成功。每当开发者接手一项看似接近完成的实现时,这种区别都很重要。可见代码量并不能决定修复剩余问题的难度。

以一个假设的账户创建功能为例。智能体可能构建了页面、连接了导航并存储了用户输入。如果应用程序错误处理了失败的验证步骤,该功能在发布前仍需要调查。

缺失的行为可能只需要一个小补丁。找到它却仍可能需要仔细阅读、复现和测试。因此,部分完成与人工投入需要分开看待;两者都不能机械地推导为另一个。

Google 在 9 月发布的长周期评估更新中解释了为何引入更具挑战性的任务与持续评分。长周期任务是包含延长且相互依赖步骤的开发工作。Google 描述了应用创建、迁移、功能新增和跨平台转换等工作。

这一转变改变了领先的含义。在局部修复上表现良好的系统证明了某种有价值的能力,但这不同于管理一项长期工程任务。在整个项目中保持决策一致,会带来自身的失败机会。

对 Google 而言,反转之处在于:一个旨在暴露这些机会的基准测试,如今突出显示了领先于 Argon 的竞争对手。这一结果以聚焦持续执行的测试,挑战了对本土平台优势的预期。

Claude 的领先配置在被重点提及的系统中提供了最强的完整解决结果。GPT 的配置则提供了另一项可供参考的竞争基准。它们的排名为开发者提供了值得考察的替代方案,而不是让人假定其输出无需审查的理由。

重要的比较应发生在被分配等价工作的系统之间。如果一个助手处理困难的迁移,另一个只编写孤立的实用函数,它们表面上的生产力无法支持有意义的排名。该基准测试通过定义共同的评估环境提供了帮助。

但它并未消除该环境与企业代码库之间的差异。团队的依赖项、架构和验收标准可能改变哪些失败最为重要。强劲的总体结果可以与特定工作负载的不佳适配同时存在。

这就是为什么 Claude 与 Gemini 的编程对比需要明确的任务边界。关于完整基准任务的主张应当始终与该基准测试绑定。若将其扩展到解释、小型编辑或所有 Android 项目,则需要额外证据。

解读 GPT 的位置时,同样需要这种严谨性。排名低于领先者并不意味着产品不适用。它表明在已公布配置下观察到了不同结果,团队仍需评估其与自身工作的相关性。

对 Argon 而言,挑战在于缩小大规模实现与被验收完成之间的距离。这比试图赢得“哪个模型最理解 Android”的未定义争论更具可操作性。

不同的智能体和推理设置限制了对模型的结论

Gemini 4 Argon 基准测试比较的是已部署的组合,因此无法将差距唯一归因于底层模型。

编程智能体控制模型如何与项目交互。其周边软件决定工具如何暴露、哪些上下文得以保留,以及执行如何推进。这些安排的变化会影响开发者最终收到的结果。

这使得系统层面的比较具有商业相关性。开发者使用的是包含工具、权限和执行行为的产品。他们通常不会接触脱离周边软件而独立运行的模型。

不过,商业相关性与因果解释是不同的问题。知道哪种配置表现更好,并不能说明它为何表现更好。模型、代理、推理设置及其相互作用,仍都可能是影响因素。

Google 的 10 月基准测试更新日志记录了新增 Argon、Sonnet 5.5 和 GPT 6.1 Sol 结果,并同时标注了推理强度。它还记录了已归档的条目。因此,这次更新既改变了可用的比较对象,也改变了读者获得的配置信息。

这些标签提升了透明度,但并未建立跨厂商的标准化衡量方式。名为“high”的设置,不能自动被视为等同于另一家提供商的“max”。这些名称能够标识配置,但无法证明计算条件相同。

同样,现在就认定 Argon 在不同设置下会消除其差距也为时过早。这是一种可检验的可能性,而非当前排名所支持的解释。对于“另一种代理必然会改善结果”的说法,也应保持同样的谨慎。

更有力的因果比较应当有意改变这些要素。在固定模型的情况下更换代理,有助于检验周边软件的影响;在固定代理的情况下更换模型,则是在回答另一个问题。

这两种方法都无法让每项比较达到完全受控。不同提供商的接口和支持能力可能存在差异。尽管如此,明确实验边界仍能帮助读者理解一项结果实际隔离出了什么因素。

Google 的评估方法还提出了更多限制。该方法描述了私有数据集、重复运行、自动化功能检查,以及模型辅助的视觉评估;同时也提醒,资源总量可能会偏向那些较早失败的系统。

这些披露支持谨慎解读,而非全盘否定。私有任务集可以减少记忆化答案带来的影响,但也会使外部复现更加困难。自动化评估可以扩大测试规模,但审阅者仍需判断其检查是否符合预期工作。

报告中的置信区间也存在重叠。这并不会抹去已观察到的排序,但会限制人们对固定性能层级的信心。读者应区分已展示的结果,与“未来运行必然保持所有名次”的说法。

谨慎的结论依然具有实质意义:在这项已发布的比较中,Argon 处于落后位置。尚未解决的问题是,这一结果在多大程度上归因于模型、其配置、其代理,或评估本身的特定要求。

Android 团队需要了解他们将接手什么样的工作

一项有价值的采购决策应关注代理提交修改后会发生什么,而不应止步于排行榜名次。

对于维护应用程序的团队而言,代理的输出会成为他人的责任。审阅者必须充分理解这些改动,才能接受、修复或拒绝它们。这一交接决定了表面上的进展能否转化为可用的工程成果。

设想一个针对成熟应用的假设性迁移。助手更新了目标代码并报告成功,但审阅者发现,请求范围之外的行为也发生了变化。团队现在必须同时调查迁移本身及其非预期影响。

这种负担不同于手动编写原始改动,也不同于收到一份完整、可靠的实现。基准测试结果可以帮助筛选候选方案,但接收团队仍需衡量交接质量。

当 Android 编码排名促使人们提出更精确的问题时,它们最有价值。哪些任务最容易暴露失败?系统是否能识别自己尚未完成工作?审阅者能否追溯它为何修改某个文件,或为何采纳某项假设?

这些问题很重要,因为一份自信的总结可能掩盖不确定性。开发者需要的是已检查内容的证据,而不只是对工作的精致描述。这些证据的质量会影响还需要进行多少独立验证。

相关比较还取决于预期的劳动分工。将 AI 用于边界明确改动的团队,与委托其完成长期实施任务的团队,期待并不相同。后者类别中令人失望的结果,并不能断定前者的表现。

这种区分让 Argon 即使存在基准测试劣势,仍有发挥价值的空间。团队可以根据自己实际打算分配的工作来评估它,不应把熟悉程度或集成程度当作这种评估的替代品。

Claude 和 GPT 同样负有类似责任。它们更强的已发布排名值得关注,但本地结果仍须支持更广泛的委派。排行榜上的领先条目无法认证一个陌生代码库,或应用程序未明示的要求。

知识连续性也成为这项评估的一部分。项目决策、过去的失败和约束条件,都可能解释为何一项表面合理的改动其实并不合适。如果审阅者无法找回这些背景,评估代理的选择就会更加困难。

应对这一问题的团队可以使用可搜索的知识库,整理技术文档和开发决策。这有助于获取背景信息;但它不能替代可执行检查,也不能证明编码性能。

其商业含义在于对“有用性”作出更宽泛的定义。当助手的工作减少了获得可接受结果所需的总投入时,它才值得信任。生成的代码、有说服力的解释和中间进展,只有在帮助实现这一结果时才有意义。

Google 的比较凸显了这一问题,因为它将显著进展与完全成功区分开来。开发者应仔细审视这条边界。正是在这里,一个吸引人的演示转化为工程承诺,接收团队也开始对剩余的一切承担责任。

关注 Argon 的下一轮结果、配置变化和独立测试

下一项有意义的证据将显示,Google 能否在明确记录的条件下提升完整任务的解决能力。

第一个信号是 Argon 在可比工作上的另一项评估。更强的结果将支持这样一种观点:Google 正在解决已测得的弱点。若任务集发生变化,则需要重新比较,才能有人声称原有差距已经缩小。

这一区分很重要,因为排行榜的提升可能有多种原因。新模型的表现可能更好,代理可能发生变化,评估也可能演进。读者需要足够的文档记录,才能区分这些发展。

一项有说服力的更新应标明测试版本,并保留清晰的参考点。缺少这种连续性,更高的分数或许令人鼓舞,却仍难以解读。关键问题是可比要求下的改进,而不仅仅是一个更好看的数字。

第二个信号是 Argon 的代理或推理配置出现有记录的变化。若这种变化后结果更好,将加强“周边系统促成了该差距”的论点。若结果没有变化,这一解释的说服力则会减弱。

这也将澄清竞争应对方式。Google 可以通过多个组件改进面向开发者的产品,用户也会从组合结果中受益。但在判断这种改进是否能迁移到另一开发环境时,识别具体组件仍然重要。

同样的审视也应适用于竞争对手。更新后的 Claude 或 GPT 配置可能扩大已观察到的差距、缩小差距,或改变排序。动态变化的比较要求读者跟踪经过测试的系统,而非依赖品牌层面的印象。

第三个信号是在 Google 任务集之外,对 Android 项目进行的独立评估。相似结果将强化已发布排序具有实践相关性的论据;不同结果则有助于识别基准测试在哪些工作负载上提供的指导较少。

独立证据应描述任务本身及验收标准。一场缺乏明确边界的成功演示,很难与一项失败的长期任务进行比较。当读者能理解代理实际被要求完成什么时,报告会更有价值。

不应假定任何特定结果。当前结果并未证明 Google 会缩小差距、竞争对手会维持其位置,或开发者会更换产品。它们只确立了一项值得通过更严格控制的证据持续关注的比较。

Gemini 4 Argon 基准测试目前为 Google 提出了一个具体的性能问题。其自身评估在完整解决任务方面更偏向竞争系统,同时也留下了有关配置和泛化能力的重要开放问题。

在作出下一次编码代理决策之前,先明确你希望委派的任务,以及接受其结果所需的证据。针对这些工作比较候选方案,保留经过测试的配置,并审视审阅者在提交后将接手什么。把失败尝试与成功案例一并记录,避免一场令人信服的演示主导整体记录。区分中间进展与真正满足你要求的工作,并记录人工干预在哪些地方改变了结果。这些观察将使未来的 Android 编码排名更易于解读。当 Google 发布下一轮 Argon 结果时,请问:这些变化是否解决了对你的代码库真正重要的失败?更新后的系统是否让你的团队留下更少未完成的工作?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page