top of page

Gemini 4 Carbon 基准测试落后于 Claude,但更具性价比优势

2小时前
讀畢需時 12 分鐘

Google 的 Gemini 4 Carbon 在一项新基准测试中落后于 Claude Opus 5.5,但其单项任务的平均支出显著更低。Gemini 4 Carbon 基准测试结果为 Google 提供了可信的性价比论据,不过这一比较附带一项重要限定:一旦改变受测领域,排名也会随之变化。

SemiAnalysis 的 GDPx 是一项评估 AI 系统完成长周期专业任务能力的测试,结果显示 Anthropic 在总分上领先。Carbon 的成绩足够接近,由此引出一个实际的采购问题:领先成绩是否值得额外投入更多成本?对于需要资助反复运行的开发者,以及正在决定哪些工作值得使用最昂贵模型的企业而言,这个问题尤为重要。

这些发现支持一个审慎的结论。Carbon 值得用于高要求工作流的评估,但它的定位取决于所评估的工作,以及约束执行过程的条件。较低的测算支出增强了 Google 值得试用的理由,但这并不意味着每位客户的运营成本都会更低,也不能证明 Carbon 在各类专业工作中都能媲美 Claude。

Gemini 4 Carbon 基准测试让 Google 跻身前列

GDPx 公布的排行榜显示,Claude Opus 5.5 得分为 12.0%,Carbon 以 10.9% 紧随其后,GPT-6 Astra 为 9.6%。该评估包含 11 个领域的 206 项任务,并由 14 家专业合作伙伴共同开发。各领域权重相同,结果取每项任务三次尝试的平均值,并采用任务专属评分方式。部分任务可获得部分分数,因此标题中的百分比并非简单的完成率。这些细节可见于 GDPx 排行榜。

Carbon 的成绩确立了其在此次评估中的竞争地位;其含义仍取决于评估本身的设计。

对于比较 Google 与 Anthropic 的读者而言,眼前的差异很直接:Claude 领跑总分,Google 则以不同的支出结构取得了接近的成绩。两项观察都不意味着应将该排行榜视为通用的智能水平排名。

基准测试是经选择的问题、工具与评分规则的集合。它的价值在于将这些选择呈现得足够清楚,以便解读。因此,评估合同研究的组织应提出不同于评估软件维护团队的问题。

总分提供了初步比较,但无法判定某个买家会遇到哪些错误,也无法衡量修正这些错误需要多少人工干预。测得的性能与实际有用的性能之间的差距,正是采购决策变得更复杂的地方。

设想一个正在调查现有应用故障的工程团队。一个有用的模型必须识别相关证据,提出站得住脚的改动,并产出可供审查者测试的结果。只有精致解释却没有可运行修复方案,只会增加额外工作。

对这个团队而言,相关比较还包括补丁的质量及验证所需的工作量。通用排行榜的位置可以提供背景,但团队自己的代码仓库决定该结果能否迁移。

另一家组织可能主要关心如何从不断变化的文档集合中提取一致的答案。其验收标准会强调证据覆盖、相互冲突的记录和准确引用。在那里,相同的总排名可能支持完全不同的采购决定。

这正是新结果重要、却未能终结竞争的原因。它使 Carbon 进入高难度工作的候选名单。接下来的问题是,其测得的经济性在从基准环境转向买家实际工作流后能否依然成立。

这种区分也能避免一种常见的报道错误:总分上的微小差距,并不能证明竞争系统会犯可互换的错误。买家需要了解这些错误出现在哪里。

较低的测算支出给 Claude 的溢价带来压力

9to5Google 在 11 月 2 日的报道强调,与 Claude Opus 5.5 相比,Carbon 的平均基准测试支出显著更低。报道还称,GPT-6 Astra 的总体得分更低,但在该评估中的成本更高。这项价值主张的依据是 基准测试成本比较,而非对订阅方案的一般性评估。

Anthropic 面临的挑战是:证明 Claude 额外测得的性能,能在哪些场景中弥补其额外成本。

这是对研究结果的经济学解读,而非客户已经更换供应商的证据。当买家可以使用任一系统复现可接受的结果时,这种压力才会变得切实。一旦如此,支出差异就值得更密切的关注。

对于反复运行研究或工程任务的企业而言,推理支出指让模型处理请求并生成回复的费用。随着使用规模扩大,这项费用会愈发重要。一个实验阶段看似可负担的工作流,在全组织反复使用后可能变得难以维持。

不过,单次尝试任务的平均支出只是计算的一部分。买家最终支付的是有用的成果。一次低成本尝试如果需要大量修正,可能在工作交付给客户之前就失去成本优势。

因此,人工审查也应纳入同一比较。审查者必须检查回答是否回应了请求、遵守了约束,并为重要主张提供支持。即使模型自身账单看似有利,他们的时间也可能改变经济性。

重试出于类似原因同样重要。一个需要反复尝试的系统会消耗更多资源并延迟完成。买家应区分单次尝试成本低,与单次被接受结果成本低之间的差别。

可恢复错误与代价高昂的失误之间也存在差异。格式问题通常很容易修复,而隐藏在技术建议中的错误假设,可能需要更多调查。

这意味着,在 Claude 的输出需要更少修正,或能发现更多重大问题的工作流中,它可以证明溢价合理。若 Carbon 能以更低的总投入达到相同验收标准,选择它也同样合理。基准测试并未决定哪种情况适用。

竞争影响仍然具有意义。Google 已有基于证据的理由,要求买家在评估领先者时一并评估 Carbon。Anthropic 则必须说明这一差距的实际价值,而不能完全依赖其榜首位置。

对于采购团队而言,这会将讨论转向可衡量的结果。有用的问题变成:每个系统在共同验收标准下表现如何。品牌偏好与总排名仍是背景,而完成的工作决定采购。

安全过滤机制改变了竞争图景

SemiAnalysis 将 Claude 和 GPT 模型的一些较低成绩归因于安全分类器,即根据安全规则筛查请求或行为的系统。其 GDPx 方法论讨论了排除网络安全、生物学和对齐研究;对齐研究关注的是让 AI 行为与预期目标保持一致。这产生了不同的比较。评估者还会在模型原生执行工具可用时使用这些工具运行模型,使结果成为对实际工作系统的比较。

受安全行为影响的排名,不能仅被解读为底层问题解决能力的排名。

一个系统可能因为无法解决问题而无法完成请求,也可能因为其安全防护识别到风险而拒绝继续。在以完成为导向的评估中,这两种结果看起来相似,但对买家而言含义不同。

对于获得授权的研究团队,不必要的拒绝可能中断合法工作。从这个角度看,拒绝行为应纳入实用性评估。技术能力再强的系统,也必须支持客户获准执行的任务。

对于另一家组织而言,同样的限制可能是可取的。广泛部署 AI 的公司可能优先考虑敏感请求边界的可预测性。它偏好的系统,可能不同于在研究基准中最经常继续执行的系统。

经过过滤的排名带来了另一个解读问题:移除敏感领域改变了受评估的工作负载,但并未揭示在不同安全防护条件下,相同模型在这些任务上的表现。

这一区分限制了读者能够从 Carbon 的位置中推断的内容。未过滤的结果描述了在公布任务组合中的表现,过滤后的结果描述了更窄的任务组合。在其中一个消失的同时,任何一个都不应被宣传为普遍答案。

因此,Gemini 4 Carbon 基准测试提出的问题,比 Google 是否赶上 Anthropic 更为精确。它问的是:能力、拒绝行为与执行工具的哪种组合,最符合客户的要求。

执行工具之所以重要,是因为 AI 代理,即通过软件采取行动的系统,依赖的不只是其回复。其环境决定了它能检查哪些文件、运行哪些命令,以及如何获得反馈。

假设有一款编程助手能够正确推理某个缺陷,却难以运行项目测试;另一款则可能从环境错误中高效恢复。买家会将这些差异体验为产品本身的差异。

这让实际评估具有优势:它们能反映客户实际使用的系统。但这也限制了对孤立模型的主张。强劲的结果并不能说明究竟是哪一个组件应获功劳。

因此,买家在选定赢家前应调查失败类别。不必要的拒绝、错误推理、缺失上下文和工具故障需要不同的应对方式。将它们合并为单一判断,可能掩盖系统令人失望的原因。

其他评估进一步说明需要按任务作出判断

独立评估可提供有用的交叉检验,但无法解决 GDPx 的竞争。按美国经济产出行业份额对选定专业任务加权的 Vals Index,在其 10 月 30 日更新中列出:Claude Sonnet 5.5 为 70.85%,Carbon 以 70.45% 紧随其后,并以 70.18% 领先 Claude Opus 5.5。这些 专业任务结果采用不同的方法论,应与 GDPx 分开看待。

不同基准测试中的领先者各不相同,正是应在根据排名泛化之前审查工作负载的理由。

这种对比与 Gemini 4 Carbon 和 Claude 的比较相关,因为“Claude”涵盖不同模型。涉及 Opus 的结果并不能自动说明 Sonnet 的表现。比较需要准确的模型身份,以及测试条件。

还需要评估日期。公布的排行榜是特定系统在特定条件下的快照。后续更新可以改变比较结果,而不会使先前的快照变得不诚实或毫无价值。

对于买家而言,不同评估之间的差异有助于识别尚未解决的问题。关于专业实用性的广泛主张,需要覆盖客户实际执行工作类型的证据。在不同演示中重复同一项总分主张,并不会显著增加信心。

Zapier 的独立评估说明了配置如何改变结果。AutomationBench 测试模拟业务工作流的完成情况。Carbon 在低推理强度下得分为 31.5%,中等强度下为 53.0%,高强度下为 53.9%。因此,其业务工作流评估显示,低强度与中等强度之间的提升远大于中等强度与高强度之间的提升。

这些数字并不能解释 Carbon 的 GDPx 得分。它们只能说明一个更具体的事实:模型设置会显著影响测得的性能。若比较中省略这些设置,买方就无法获得复现结果所需的信息。

由此带来的运营含义是,仅凭模型名称并不能定义产品的行为。买方还需要了解拟议部署中使用的配置。在高要求设置下观察到的性能,未必能迁移到成本更低或速度更快的配置中。

反过来,最高可用设置也不会自动带来最佳业务结果。额外计算必须带来足够的改进,才能证明其对成本和等待时间的影响是合理的。这一判断取决于任务本身。

例如,假设的后台研究流程若能减少后续审查,或许可以容忍更长的执行时间。交互式助手则可能优先考虑响应速度,因为用户必须等待才能继续操作。这两种偏好都不能直接从综合排行榜中推导出来。

这正是知识工作流设计进入讨论的地方。评估AI 知识管理的团队,同样需要审视相关信息如何被传递给模型。在推理质量成为决定因素之前,缺失证据就可能削弱一个原本能力出色的系统。

因此,面对相互竞争的基准测试结果,更有价值的回应是提高具体性。明确工作内容、可用信息、配置和验收标准,然后依据这些要求评估完整工作流。

访问权限与验证决定价值能否传递给客户

Google 于 10 月 28 日发布 Carbon,并表示将分阶段推出,首先面向部分网络安全防御人员和可信合作伙伴。其既定计划是在获得更多反馈并推进安全保障工作后扩大访问范围。Google 的发布文章也提出了自身的能力主张。Carbon 推出详情表明,发布公告与面向广泛客户提供服务是两个不同的里程碑。

当客户能够在可用条件下测试相关系统时,有利的基准测试结果才会在商业上发挥价值。

这与价值论证直接相关。若无法访问模型及其比较所依据的设置,买方就无法验证预期节省。可用性决定了 Carbon 是即时可选方案,还是未来的候选方案。

分阶段开放也可能限制公开反馈的广度。来自受选组织的早期结果或许能够揭示高要求应用的表现,但日常部署问题仍可能没有答案。买方应当区分有前景的评估与面向多样化客户的既定表现。

对 Google 而言,下一个商业挑战是将基准测试的吸引力转化为可用的产品。这不仅需要给出好的答案。客户还需要稳定的访问权限、清晰的行为表现,以及足够的运营信息来评估完整工作流。

对 Anthropic 而言,即使竞争对手发布了有吸引力的结果,可用性和现有集成仍可能提供实际优势。已经在使用 Claude 的团队必须考虑更换系统所需的工作量。这种工作量应当被衡量,而不是想当然地估计。

切换涉及检查提示词、工具、权限和下游预期。对人而言看似等价的输出,仍可能破坏预期特定结构的软件。即使模型质量具有竞争力,这类差异也会影响采用。

Gemini 4 Carbon 基准测试并未衡量这些迁移成本,但它为调查这些成本提供了理由。买方不应悄然将有利的基准测试成本视为完整的迁移商业案例。

验证还带来另一项限制。此处审阅的证据证明了评估方所发布的内容;它并不构成对 GDPx 的独立复现。复现将增强人们对所报告的性能与支出关系的信心。

在此之前,相关主张应始终与其来源和条件绑定。Carbon 在已发布的评估中取得了强劲结果。这支持进一步测试,但并不能证明每位客户都会获得同样的优势。

同样的严谨性也适用于部署示例。一个处理内部技术文档的假设研究助手,需要准确地选择证据并可靠地标注来源。一个假设的软件代理,需要做出能够通过审查和测试的修改。两种结果都不会自动源于基准测试排名。

对于知识工作者而言,有效的AI 工作流同样依赖于信息组织和检索。更好的模型经济性无法弥补一个反复提供过期文档或遗漏关键上下文的流程。

因此,最终的采购决策不止是两个品牌标志之间的选择。它涉及从请求到被接受工作的完整路径。Carbon 的测量价值,是促使人们在纳入客户自身约束的前提下仔细审视这一路径的理由。

接下来的信号是更广泛的访问、稳定的排名与被接受的工作

第一个值得关注的信号,是初始推出范围之外的可用访问。买方需要有机会使用自己的工具和证据来评估 Carbon。更广泛的访问将增强该基准测试的商业意义;持续的限制则会使更多价值论证停留在预期层面。

相关里程碑是支持可重复测试的访问。简短演示可以展示潜力,却无法证明运营一致性。客户需要足够的接触时间,才能同时观察成功运行和失败模式。

第二个信号是,竞争关系是否能在更多评估和有清晰文档记录的领域选择中得到维持。在相关任务组合下仍然有利的结果,将增强 Google 的论据。若排名严重依赖于狭窄的选择范围,结论就会更具特定性。

敏感领域的比较尤其值得谨慎对待。未来报道应区分任务选择变化与模型行为变化。否则,重新排序的排行榜可能看似证明了评估从未测量过的技术进步。

独立复现会增加另一项有价值的检验。它们将有助于判断报告中的关系是否能在不同操作人员和环境中持续成立。一致的结果会提升信心,而不一致则会揭示需要解释的条件。

第三个信号是关于被接受工作的证据,包括人工审查和错误恢复。这才是企业最终购买的结果。某项部署在模型层面可能看起来经济,但在修正和监督后可能变得昂贵。

当较低的测量支出伴随着客户可用相近工作量接受的输出时,Carbon 的价值论证会得到加强。

相反方向的证据将削弱这一更广泛的主张。如果审查人员需要显著更多时间,或重试抵消了初始优势,那么较低的基准测试支出就不再那么有说服力。这不会否定已发布的结果;它只会界定其实际适用边界。

Anthropic 的回应也应在同一框架下看待。已接受输出、执行可靠性或运营经济性的改善,都可能改变比较结果。买方应关注这些结果,而不是假设当前关系会持续存在。

因此,对 Gemini 4 Carbon 与 Claude 最有用的解读应当是有条件且可执行的。Google 赢得了更深入评估的机会。Claude 仍保持 GDPx 最高得分。客户的工作负载决定了这些观察结果各自应在多大程度上影响支出。

这使标题保持在恰当的比例。Carbon 的结果挑战了“最高基准测试分数必然代表最佳采购选择”的假设。但它并不能证明成本更低的尝试任务总会带来成本更低的已完成工作。

在将 Gemini 4 Carbon 基准测试视为采购结论之前,先确定你的团队实际需要完成的工作。选择具有代表性的任务,定义可接受的输出,并将审查时间纳入比较。记录系统何时拒绝、卡住,或产出看似合理但未能通过检查的答案。保持测试配置可见,确保结果仍然可解释。然后比较达成被接受结果所需的工作量。这些证据将说明 Google 的测量优势是否能迁移到你的工作流,也能揭示 Claude 的更高分数在哪些方面值得支付溢价。对于你的下一次部署,最重要的是什么:最难任务上的额外能力,还是在现有预算内获得更多可接受的工作?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page