top of page

Nvidia Vera CPU 基准测试显示其 Python 性能领先 Intel 和 AMD

2小时前
讀畢需時 12 分鐘

Nvidia 的 Vera 处理器在多项 Python 测试中领先 Intel 和 AMD 的服务器芯片,为其 AI 基础设施定位提供了可量化的依据。10 月 30 日发布的 Nvidia Vera CPU 基准测试,将这款独立处理器与 Intel Granite Rapids-AP 和 AMD EPYC Turin 进行了比较。测试确立了一些有价值的优势,但尚无法判定哪一平台运行完整 AI 智能体的效率最高。

这一差异很重要,因为智能体 AI——即能调用工具并跨多个步骤执行任务的软件——依赖的不只是模型生成能力。一个系统可以快速生成指令,却仍可能在等待代码执行、检索或验证时响应缓慢。Vera 瞄准的正是这些外围工作,使 Nvidia 与成熟的服务器处理器正面竞争。

核心竞争在于 Vera 与现有 Intel 和 AMD 方案在承载此类工作负载上的较量。买家需要了解,其 CPU 优势是否能在实际软件、并发和部署要求中延续。现有证据支持认真评估 Vera,但关于其智能体性能更优的广泛主张,仍有待进一步测试。

Nvidia Vera CPU 基准测试确立了特定工作负载优势

Vera 最突出的结果证明它是一款具备竞争力的服务器处理器,而非 AI 基础设施中的全面赢家。 Tom’s Hardware 的独立 CPU 基准测试涵盖 Python、内存测试和更广泛的服务器工作负载。这种覆盖范围很重要,因为面向智能体推广的处理器仍必须处理常规应用工作。

最清晰且可获取的 Python 结果来自 PyBench,这是一项衡量基础 Python 操作执行时间的基准测试。该媒体报道称,Vera 的完成速度比 AMD EPYC 9755 快 4%。这是特定测试中的明确领先,而不是对整个编程助手能快多少的衡量。

其他结果进一步表明,必须逐项解读图表。在 CacheBench 的读取、修改和写入综合测试中,Vera 落后于对比组。Intel 则在所报告的纯 CPU 提示词处理比较中领先,该测试衡量文本生成前对输入的处理。不同测试会考验处理器和软件栈的不同部分。

这些结果让对比比简单的胜利叙事更具参考价值。采购团队可以将观察到的优势与其实际运行的工作负载联系起来,也可以发现看似合适的处理器在哪些方面需要额外评估,才能迁移生产服务。

独立 CPU 测试与集成 AI 系统之间的区别尤其值得关注。独立服务器比较检验的是由处理器及其周边平台完成的工作,并不会自动衡量与 GPU——通常用于运行大型 AI 模型的加速器——之间的交互。

GPU 支撑的部署可能与纯 CPU 测试采用不同的工作划分方式。在独立基准测试中占主导地位的操作,可能只占已部署服务响应时间的一小部分。反过来,适度的 CPU 改进也可能很重要,尤其当应用反复等待该操作完成时。

因此,正确的解读应是有条件的。当测得的工作负载与买家的应用相似时,Vera 提供了可信的替代方案。同样的结果并不能证明每个数据库、推理服务或企业应用都应迁移至 Nvidia。

这也是为什么基准测试的广度比标题式的简洁结论更重要。测试彼此无关的服务器任务,有助于暴露狭窄演示可能遗漏的弱点。买家需要了解这些边界,因为生产服务器很少只执行产品演示中展示的那一种操作。

眼下的变化是,Vera 的独立性能如今又有了一个公开参考点。下一个问题是,这些测得的操作与智能体服务所执行工作的匹配程度有多高。

Python 性能对 CPU 候选名单施加压力

强劲的 Python 结果让 Vera 得以进入此前以 Intel 和 AMD 为中心的评估流程。 Python 是广泛用于 AI 软件的编程语言,提供了一个相关的起点。但在成为采购证据之前,其基准测试结果仍需解读。

设想一个假设中的编程智能体:它编辑文件、运行验证脚本,并在继续前检查输出结果。模型无法仅靠更快生成文本来完成这一序列。验证步骤必须完成,下一次决策才能利用其结果。

对于这类应用,相关脚本执行得更快,能够缩短工作流中的一个依赖环节。关键在于“相关脚本”。涵盖内置语言操作的基准测试,并不能复现生产应用调用的每个软件包、扩展程序或子进程。

Python 应用也会在不同位置执行工作。有些会将大量时间花在语言层面的控制流程上;另一些则调用编译库、联系远程服务或等待存储。仅凭应用所用的语言,无法确定哪种硬件资源决定其响应时间。

这限制了 Python 性能领先的含义,但并不意味着它无关紧要。它提供了测试代表性应用追踪记录——即真实操作的记录序列——的理由,但并不能绕过这类测试。

Nvidia 明确将 Vera 与工具执行和编排联系起来,后者是跨应用协调工作的过程。其智能体工作负载设计强调持续的单核性能和内存访问。这一定位解释了该公司对脚本工作负载的兴趣,但并未独立验证每一项所宣称的系统收益。

因此,对 Intel 和 AMD 的压力是具体的。它们的平台必须在延迟有效应用进展的 CPU 操作上展开竞争。拥有更高总容量的服务器,并不一定能更快完成一项存在依赖关系的操作。

反向情况同样重要。单项操作更快,并不证明总服务容量更高。当大量用户同时到来时,调度、内存消耗和竞争性工作可能改变结果。买家既需要响应能力,也需要足以支撑预期流量的容量。

对开发者而言,这将注意力转向识别模型响应之间的时间消耗。对企业买家而言,这让候选评估名单中多了一款处理器。对应用用户而言,能否受益取决于服务提供商是否部署了能够改善其实际等待步骤的硬件。

因此,Python 结果通过合理的应用关联带来了竞争压力。它们并不能证明这一编程语言本身定义了整个智能体基础设施市场。

Vera 与 EPYC Turin 的较量不止于核心数量

这一比较挑战了“更高核心数量本身就能确定智能体服务最佳处理器”的假设。 CPU 核心是处理器内部的执行引擎。更多核心可支持更多并行工作,但单个任务并不总能在它们之间高效拆分。

Vera 配备 88 个定制 Nvidia Olympus 核心。Nvidia 表示,每个核心支持两个硬件线程,即由处理器管理的执行上下文。这些规格描述的是可用的执行资源,并不意味着每个应用都能获得同等的扩展能力。

AMD 的EPYC 处理器规格显示,EPYC 9755 配备 128 个核心,EPYC 9965 则配备 192 个核心。这些产品在同一服务器产品家族中处于不同定位。将它们视为可互换的“AMD CPU”,会掩盖一个具有实际意义的比较。

因此,Vera 与 EPYC Turin 的比较需要提出明确的工作负载问题。买家是希望更快完成单个脚本、服务更多独立请求,还是整合服务?每个目标都可能青睐执行速度、并行能力和内存访问之间的不同平衡。

Intel 也属于同一讨论。其 Xeon 平台是运行应用服务和 CPU 侧 AI 工作的另一条成熟路径。基准测试比较应直接测试这一路径,而不是假定所有与 AI 相关的操作都偏向 Nvidia。

内存带宽,即数据在内存与处理器之间移动的速率,又增加了一个维度。Nvidia 为 Vera 的 LPDDR5X 内存标称最高 1.2 TB/s;LPDDR5X 是一种低功耗内存技术。这是公开的能力指标,并不保证应用能达到该传输速率。

当数据移动限制应用进展时,应用会从带宽中受益;当执行依赖远程响应或一系列计算时,受益则较小。单靠一项高带宽规格,无法识别这些条件。

这使平台平衡比单一规格更具决定性。让执行引擎更快获取数据,只有在它们确实需要这些数据时才有帮助;增加并行能力,也只有在应用能有效利用时才有帮助。

因此,Vera 与 EPYC Turin 最好被理解为工作负载适配性的比较。买家不应仅按核心、插槽或线程对每项结果进行归一化。每种分母回答的问题不同,也可能掩盖系统其他环节的成本。

插槽数量,即服务器中安装的处理器数量,也会改变比较边界。单插槽优势与整机优势是不同的结论。在评估部署要求时,两者都不应被默默替代为对方。

竞争层面的含义很直接:Intel 和 AMD 需要给出针对特定工作负载的答案,而 Nvidia 则必须证明优于有利规格参数的实际收益。没有任何一家供应商能仅凭核心数量赢得生产决策。

更快的 CPU 步骤不会自动带来更快的智能体

CPU 速度与智能体性能之间的关联机制是合理的,但其影响取决于应用的实际瓶颈。 瓶颈是限制进展的资源或操作。改进系统的其他部分,通常无法显著改变这一限制。

设想一个研究智能体:它检索文档、提取段落,并要求模型进行比较。如果文档处理主导了延迟,更快的 CPU 执行值得关注;如果远程检索服务主导延迟,更换本地处理器只能解决问题中较小的一部分。

同样的逻辑也适用于编程智能体。编译,即将源代码转换为可执行软件的过程,可能在验证序列中占据重要位置。但应用也可能将大部分时间花在等待模型输出、外部测试或代码仓库访问上。

Nvidia 的AI 吞吐量分析认为,CPU 侧延迟可能影响周边 GPU 服务。这是该公司的架构性解释,而不是对每种部署的独立测量。其相关性取决于服务如何调度工作并保持应用状态。

这一论点扩大了买方应当衡量的范围。更快完成一次工具调用,会直接影响正在等待结果的用户。至于是否还能提升加速器利用率,则需要集成系统层面的证据。

利用率,即可用容量中实际用于有效工作的比例,单独看时也可能具有误导性。繁忙的处理器可能在执行重试、重复工作,或处理错过截止时间的任务。高活动量不一定意味着高有效产出。

更有力的指标是在明确服务要求下完成的工作。对于编码产品,这可能意味着在可接受的响应时间内返回已验证的修改。对于研究产品,这可能意味着完成的答案具备所需证据。

这些示例是评估目标,并非已公布的 Vera 测试结果。它们说明了为何组件层面的测量与应用层面的测量应当结合起来。前者用于识别潜在优势;后者决定这些优势是否真正改善了产品。

平均性能与尾延迟之间也有类似区别。尾延迟指最慢一部分请求所经历的响应时间。平均值可能有所改善,而复杂请求依然缓慢。共享生产系统需要同时关注这两者。

知识应用在硬件性能与信息质量之间还存在另一条边界。更好的知识融合与更快的处理速度,解决的是回答工作流中的不同环节。更快的执行不会让不完整的来源集合变得更完整。

Nvidia Vera CPU 基准测试足以证明,值得研究 CPU 执行在哪些环节限制了智能体的进展。但应用负责人仍需在自己的服务中建立这一关联。这是一项工程要求,并非否定已测得的提升。

编译器选择、平台功耗与部署仍具决定性

只有将软件配置、系统能耗和运维要求纳入分析,处理器对比才能成为采购论据。 这些因素可能改变观察到的基准测试领先优势的价值。它们应当受到与处理器架构同等严格的审查。

编译器,即将源代码转换为可执行指令的软件,能够显著影响测试结果。不同的优化设置会改变应用程序利用现有硬件的效率。由此得出的对比,包含了软件选择以及处理器能力。

当前评测说明了这种敏感性。Tom’s Hardware 报道称,使用 oneAPI 优化二进制文件重新测试 Intel 工作负载后,性能提升了 10%。在该对比中,Vera 使用另一种编译器 GCC 时仍领先 8.6%。这一结果既显示出仍然存在的领先,也体现了显著的软件影响。

这并不意味着所有结果都必须使用同一编译器才算公平。跨平台比较往往需要不同工具,以反映实际部署条件。关键在于披露这些选择,并将其与客户实际能够运行的环境联系起来。

通用构建可以回答可移植性问题。调优构建可以回答平台优化问题。二者都不应被表述为能够回答买方所有的软件问题。

历史测试条件也需要谨慎看待。Phoronix 的早期 Vera 测试使用了量产前硬件,且工作负载访问受限。评测者还描述了对功耗和频率监控的限制。这些条件属于那次早期测试,不应自动用于描述 10 月的另一项独立评测。

这一区别很重要,因为初步演示与后续服务器评估具有不同的证据权重。买方应当询问:自己阅读的具体对比实际测量了什么。限制条件应随其证据而定,而不是成为永久附着于产品上的标签。

能耗评估同样需要精确。热设计功耗是一项用于规划散热和供电的规格,并不等同于每完成一项任务所测得的能耗。仅凭处理器规格无法判定完整系统的效率。

部署对比应包括交付等量工作所需的平台资源。内存、网络、存储和散热都可能影响结果。系统在消耗能量的同时用于等待的时间也会产生影响。

运维就绪度可能带来另一项限制。Vera 使用 Arm,这是一种不同于所比较 Intel 和 AMD 芯片所用 x86 架构的处理器指令架构。买方必须确认,所需软件及支持安排能否在目标平台上以可接受的方式运行。

这并不是说迁移必然失败。而是在作出承诺前,应测试依赖关系、打包应用、监控和故障恢复。若运行服务会带来不可接受的中断,性能提升的价值便有限。

因此,审慎的结论比热情或否定都更为收窄。Vera 具备可信的优势,但完整的部署论证仍取决于工作负载。Nvidia、Intel 和 AMD 都应满足同一要求:披露配置,并展示有用的生产结果。

三个信号将决定这些结果接下来的意义

下一步证据应将可复现的 CPU 提升,与已完成的应用工作和可靠部署连接起来。 在接下来的数月中,有三个信号尤其值得关注。其价值在于解决当前图表无法定论的不确定性。

第一个信号是在生产系统上的更广泛复现。独立评测者和客户应公布配置、软件版本、调优选择及完整结果。若 Vera 的优势在可比较系统中反复出现,将增强人们对其优势能够超越特定测试环境的信心。

这种复现应保留不利结果,也保留有利结果。孤立的弱项可能揭示对买方重要的工作负载边界。完整的结果集比从精选胜利中拼凑出的又一个标题更有用。

复现还需要区分一致性与数字完全相同。不同系统可能产生不同的绝对结果,同时保留有意义的相对模式。关键问题在于,该解释是否能经受这些配置下的审查。

第二个信号是保持任务和所需输出质量不变的应用对比。如果一次更快的运行跳过了验证,或返回了更弱的结果,那么其意义有限。在平台能够被公平比较前,必须先定义何为完成的工作。

对于编码智能体,这样的对比应保持模型、任务集、工具和验收标准一致。对于研究智能体,则应保持证据要求和评估流程一致。这些是建议的测量条件,而非对已完成测试的声明。

若能证明完成任务所需时间缩短,将强化 Vera 组件结果与其智能体定位之间的关联。若 CPU 操作变快后变化仍然很小,则表明该应用可能由另一个阶段主导。无论哪种结果都很有价值。

第三个信号是来自服务提供商和系统合作伙伴的部署证据。Nvidia 的Vera 发布详情列出了单路和双路配置,以及计划中的合作伙伴供货情况。宣布支持表明意图;可访问的系统和持续的运行结果则构成另一类证据。

客户案例应说明迁移了什么、改善了什么,以及哪些方面需要调整。有用的披露应讨论应用行为、软件兼容性,以及维持服务所需的运维工作。若处理器采用公告缺乏这些细节,核心采购问题仍未得到解决。

竞争性比较也必须跟上可用替代方案的变化。针对某一明确代际的结果,仍然只是关于该代际的证据。买方应在采购选项变化时更新候选名单,同时保留较早结果作为历史参考点。

综合来看,这些信号将使讨论从架构前景走向部署判断。它们也为 Intel 和 AMD 提供了清晰的回应路径:在可比较的运行条件下展示等量的有效工作。Nvidia 同样应接受这一标准。

现有证据已经改变了评估讨论。Vera 值得作为独立 CPU 平台加以考虑,尤其是在其测得的优势与应用需求相似的场景中。Nvidia Vera CPU 基准测试并未证明它能够无条件替代现有服务器。

在下一次基础设施决策之前,先确定究竟是哪类 CPU 工作拖慢了你的应用。将本地执行与模型生成、远程服务和存储等待区分开来。然后在可用平台上比较完整任务,并保持输出质量和运行要求一致。保留配置和不利结果,同时保留胜利结果。真正有用的问题是:Vera 是否能更快完成你的工作、更高效地利用资源,并适配你的运行环境。请供应商在这一边界上提供证据。Python 领先值得更深入的评估;生产决策则应依据用户所依赖服务的实际表现。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page