AMD 与 Nvidia 的竞争加剧:EPYC 9996 挑战 Vera 和 Xeon
- Olivia Johnson

- 7月26日
- 讀畢需時 14 分鐘
AMD 详细介绍了一款拥有 256 个核心的 EPYC 9996 处理器,并以异常激进的性能主张挑战 Nvidia Vera 和 Intel Xeon。如今,AMD 与 Nvidia 的竞争已从加速器延伸至负责调度 AI 工作负载、为 GPU 供给数据并运行 Agent 工具的 CPU。
这款代号 Venice 的 Zen 6 处理器集成 256 个 Zen 6c 核心、512 线程和 1,024 MB L3 缓存。AMD 表示,在选定的 AI 基准测试中,其性能最高可达 Intel 128 核 Xeon 6980P 的 3.4 倍。
AMD 还宣称,在初步对比中,其单核性能比 Nvidia Vera 高 20%。这一结果之所以重要,是因为 Nvidia 将 Vera 定位为 Rubin 系统面向 AI 的主机 CPU,而不只是另一款通用服务器芯片。
这些数据尚未获得广泛的独立验证。它们来自 AMD 主导的测试、选定的工作负载,以及有时采用不同 Venice 配置的比较。规格参数是明确的,但竞争结论仍未尘埃落定。
EPYC 9996 将 Venice 扩展为完整服务器产品组合
AMD 并非只推出一款用于展示实力的处理器,而是将 Venice 划分为面向高密度云计算、企业服务器和 AI 主机系统的不同平台。
旗舰 EPYC 9996 采用 256 个 Zen 6c 核心,并支持 512 个并发线程。Zen 6c 是 AMD 面向高密度场景的核心设计,旨在在实际可用的插槽和功耗限制内集成更多核心。
根据已公布的规格,该处理器的基础频率为 2.55 GHz,最高加速频率为 4.1 GHz。其热设计功耗达到 600 瓦,明确定位于高密度数据中心领域。
这一功耗范围支持 1,024 MB 原生 L3 缓存。L3 是处理器共享的末级缓存,可减少频繁访问的数据往返于速度较慢的系统内存。
该缓存并非 AMD 的垂直堆叠式 3D V-Cache。AMD 让每个 32 核 Zen 6c chiplet 可访问 128 MB L3,相当于每核 4 MB。
AMD 已确认 Zen 6 采用 TSMC 的 2 纳米级 N2 制程。其 EPYC 9006 specifications 显示,该系列最多支持 16 个内存通道,以及最高 12,800 MT/s 的 MRDIMM 速度。
MRDIMM,即多路复用组合秩内存模块,通过合并来自多个内存秩的传输来提高有效数据速率。AMD 宣称,该配置可为每个插槽提供 1.6 TB/s 的内存带宽。
与 EPYC Turin 相比,这是一次重大的架构变化。Turin 支持 12 个内存通道、最高 6,400 MT/s 的 DDR5 速度,并在所引用的比较中提供约 576 GB/s 带宽。
Venice 还在单插槽 SP7 服务器中引入 128 条 PCIe 6.0 通道。双插槽系统可提供 160 条通道,使系统构建商拥有更大容量来部署加速器、网络和高速存储。
核心密度只是该产品线的一部分。标准 Zen 6 型号最高可达 128 核,而高频型号最高为 96 核,最高加速频率可达 5 GHz。
96 核 EPYC 9686F 和 64 核 EPYC 9586F 均可达到 5 GHz 峰值。这些处理器面向对延迟和单核速度的重视高于最大线程密度的工作负载。
AMD 计划推出更小型的 SP8 平台,配置范围从 8 核到 128 核。SP8 将内存支持缩减至 8 个通道,但保留了 128 条 PCIe 6.0 通道。
另一款名为 Verano 的处理器面向 AI 主机节点职责。AMD 表示,它将通过 SOCAMM2 模块集成最多 72 个核心、5 GHz 峰值频率和 24 通道 LPDDR5X 内存。
预计 Venice-X 将于稍后推出,为缓存敏感型技术工作负载配备 3D V-Cache。据报道的计划显示,它将采用 96 核、1,152 MB 总 L3 缓存和 5.15 GHz 加速频率。
这种细分揭示了 AMD 更大的战略:希望以一种架构覆盖云端高密度部署、传统企业应用、高性能计算以及 AI 系统中 CPU 密集型部分。
这种广度也形成了核心张力。Nvidia 正围绕高度集成的 AI 平台优化 Vera,而 AMD 则押注灵活的 x86 产品组合仍更具吸引力。
AMD 与 Nvidia 的竞争正在转向主机 CPU
关键竞争已不再局限于谁的 GPU 能完成更多矩阵运算。主机 CPU 越来越决定昂贵的加速器能否持续高效工作。
AI Agent 的工作不止于模型推理。它们会运行 Python 代码、查询数据库、调用外部工具、搜索向量索引、编译软件,并管理大量并发执行环境。
这些步骤通常发生在 CPU 上。缓慢的主机可能让 GPU 等待数据、编排决策,或等待模型外部工具返回结果。
Nvidia 围绕这一瓶颈设计了 Vera。该处理器采用 88 个定制 Olympus 核心,支持 176 个线程,并提供最高 1.2 TB/s 的 LPDDR5X 内存带宽。
其内存位于 SOCAMM 模块中,这是一种为高带宽和更低功耗设计的紧凑型内存封装。Nvidia 还通过 NVLink-C2C 为 Vera 提供了与 Rubin GPU 的直接连接。
该连接可在 CPU 和 GPU 之间提供最高 1.8 TB/s 的一致性带宽。一致性内存允许处理器共享数据,同时保持对数据状态的一致视图。
Nvidia 表示,Vera 完成选定 Agent 工作负载的速度比对比 x86 处理器快 1.8 倍。其 Vera CPU launch 还称,在特定机架级配置中可实现两倍的每瓦性能。
AMD 则以不同优势回应。EPYC 9996 的核心数量接近 Vera 的三倍,并拥有宣称达到 1.6 TB/s 的插槽内存带宽。
不过,AMD 的 SP7 平台通过 PCIe 连接加速器,而不是 Nvidia 专有的 CPU 到 GPU 互连架构。PCIe 6 提供广泛兼容性,但无法匹敌 NVLink-C2C 所宣传的一致性带宽。
这形成了清晰的战略分野。
内存架构
AMD:最多 16 个 DDR5 通道、12,800 MT/s MRDIMM,以及宣称达到 1.6 TB/s 的插槽带宽。
Nvidia:LPDDR5X SOCAMM 内存、1.2 TB/s 带宽,并着重于每核能效。
CPU 设计
AMD:最多 256 个 x86 Zen 6c 核心,另有针对频率优化的低核心数型号。
Nvidia:88 个基于 Arm 的定制 Olympus 核心,围绕 Agent 处理和 AI 基础设施设计。
加速器连接
AMD:PCIe 6 连接支持来自多家厂商的加速器。
Nvidia:NVLink-C2C 通过一致性接口将 Vera 与 Rubin GPU 紧密耦合。
部署模式
AMD:覆盖传统数据库、云服务、HPC 和 AI 的广泛服务器产品组合。
Nvidia:整合 CPU、GPU、网络、存储和软件的 AI 工厂。
对于采用完整 Nvidia 平台的客户,Nvidia 的方案可以减少集成摩擦。同一供应商控制处理器、互连、网络适配器、系统设计以及大量软件。
AMD 则提供另一种灵活性。客户可将 EPYC 与 AMD Instinct 加速器、Nvidia GPU 或其他 PCIe 设备配合部署,而无需采用单一的垂直整合架构。
这一选择对运营混合设备集群的云服务商和企业至关重要。现有 x86 应用可迁移至 Venice,无需改变指令集,也不用为 Arm 重建整个软件环境。
Vera 仍获得了大量支持。Nvidia 表示,主要云服务商和 AI 公司计划部署它,Dell、HPE、Lenovo 和 Supermicro 的系统也将采用它。
因此,竞争问题已超出基准测试速度。买家必须决定:开放服务器平台还是整合式 AI 技术栈,能在完整工作负载中带来更好的结果。
Zen 6 将核心密度变成带宽问题
EPYC 9996 能够发挥作用,是因为 AMD 在增加核心数量的同时提升了内存吞吐量、缓存容量和输入输出带宽。仅增加核心会造就一颗拥挤且效率低下的处理器。
拥有 256 个核心的服务器 CPU 必须持续为这些核心提供指令和数据。否则,许多核心会花时间等待内存,而不是完成有用工作。
AMD 的第一项回应是更大的内存子系统。16 个通道比 Turin 的 12 通道设计或 Intel Xeon 6980P 的 12 个通道提供了更多并行通往内存的路径。
第二项回应是对更快 MRDIMM 的支持。理论上,12,800 MT/s 的数据速率可为每个通道提供更高传输能力,尽管实际应用很少能持续达到这一标称上限。
第三项回应是缓存。EPYC 9996 的 1,024 MB L3 缓存提供的共享工作空间远大于 Intel Xeon 6980P 的 504 MB。
Intel 的 Xeon 6980P specifications 列出其具备 128 个核心、256 个线程、12 个内存通道、96 条 PCIe 5.0 通道和 500 瓦 TDP。
Venice 将该 Intel 处理器的核心数量翻倍,同时将插槽功耗提高 20%。这一比较在理论核心密度方面有利于 AMD,但并不能证明应用层面的效率。
软件必须提供足够多的并行工作,才能利用 256 个核心。数据库、Web 服务、虚拟机、编译集群和云容器通常能够有效做到这一点。
其他应用依赖数量有限的高速线程。相较于最大 EPYC 配置,这类工作负载可能更受益于 AMD 的 5 GHz 型号或 Intel 的更高频率产品。
Chiplet 设计还带来另一项考量。AMD 将核心分布在多个计算裸片上,并将它们连接至两个输入输出裸片。
这种安排改善了制造良率,并让 AMD 能够利用可复用组件构建多种产品。但当核心访问位于其他位置的内存或缓存资源时,也可能产生非均匀延迟。
AMD 的基准测试选择反映了最适合该架构的工作负载。NGINX Web 服务、Redis、向量搜索、数据库和 Agent 沙箱都支持大量并发。
在使用 WRK 负载生成器进行的 NGINX 测试中,AMD 报告 EPYC 9996 每秒可处理 28,789,170 个请求。该公司测得 EPYC 9965 为 24,320,476 个,Intel Xeon 6980P 为 10,162,179 个。
因此,AMD 宣称其实现了 1.2 倍的代际提升,并较 Intel 领先 2.8 倍。这些是厂商结果,而非中立实验室的结论。
FAISS 向量搜索测试呈现出类似模式。FAISS 是一个开源库,用于在大型数值嵌入集合中搜索相似项目。
AMD 报告 EPYC 9996 每秒可处理 751,453 次查询。其数据显示,EPYC 9965 为 472,079 次,Xeon 6980P 为 316,069 次。
向量检索与采用检索增强生成的 AI 系统相关。它帮助应用在要求语言模型生成答案前找到文档或记录。
该处理器也面向代码编译和媒体处理。这两类工作负载都可将独立任务分散至大量核心,因此高密度处理器对共享基础设施颇具吸引力。
当利用率保持较高时,云运营商可将更多服务整合到每个插槽上。他们还可减少为固定工作负载所需的授权服务器、网络连接和主板组件数量。
不过,整合会扩大单台服务器故障的影响,也会提高散热密度,并对内存容量、网络和存储提出更高要求。
因此,EPYC 9996 不只是一款更快的 CPU。它押注的是:数据中心能够持续为一个高密度插槽提供数据、散热,并保持足够繁忙,从而证明其设计的合理性。
AMD 的 3.4 倍说法需要更多背景
AMD 的基准测试结果构成了可信的性能依据,但尚不足以证明其相对 Intel 或 Nvidia 具有普遍的 3.4 倍优势。
与 Intel 最大的一项对比来自 TPCx-AI,这是一套涵盖数据科学和机器学习工作流的测试套件。其主要结果以每分钟处理的 AI 用例数表示。
AMD 报告称,EPYC 9996 达到 5,982.91 AIUCpm。同一份演示材料列出,EPYC 9965 为 3,458.79,EPYC 9755 为 2,704.19,Xeon 6980P 为 1,750.36。
这些结果得出了所称的相对 Intel 3.4 倍优势,以及代际间 1.7 倍的提升。TPCx-AI benchmark 提供了公认的测试框架,但实现细节仍会影响每一项结果。
编译器设置、内存配置、软件版本、存储、调优和服务器固件都会影响性能。由厂商主导的对比也会选择更有利于厂商论点的产品和工作负载。
AMD 提供了多项测试的实际数值,这使其说法比未经说明的归一化柱状图更有参考价值。不过,一些综合得分仍然较难解读。
其企业工具对比将 TPC-H、类 TPC-C 和 Redis 工作负载合并为几何平均值。AMD 声称其吞吐量达到 Intel 的 2.6 倍,以及 EPYC 9965 的 1.6 倍。
另一项测试重放了五种智能体角色,并生成了综合吞吐量得分。AMD 报告称,EPYC 9996 得分为 4.451,而 EPYC 9965 为 2.97,Xeon 6980P 为 1.779。
公开结果对该得分中一个单位的具体含义提供的细节有限。没有可复现的测试工具链,买家很难将这一数值直接换算为响应时间或运营容量。
与 Nvidia 的比较更需要谨慎。AMD 使用 Nvidia 公布的 SPEC CPU 2026 结果作为比较基线,随后使用相同的 GNU 15.2 编译器运行 Venice。
AMD 称,其 256 核 Zen 6c 型号实现了 Vera 整数吞吐量的 2.2 倍。从一个角度看,这并不令人意外,因为 EPYC 配置拥有 256 个核心,而 Vera 为 88 个。
更重要的说法是对每核性能的比较。AMD 称,一款 96 核高频 Venice 处理器实现了 Vera 每核成绩的 1.2 倍。
这一数值支持了 AMD 的论点:其领先地位并不完全来自核心数量。不过,它比较的是厂商提交的初步结果,而不是经过独立测试的量产系统。
AMD 对两种 Venice 配置均采用了 600 瓦设置。Nvidia 在其当前平台信息中列出的 Vera CPU 可配置功耗范围为 250 至 450 瓦。
功耗差异很重要,因为数据中心需要在机架级供电和散热限制内运行。当每个插槽消耗更多电力时,更快的插槽并不必然带来更快的机架。
Nvidia 在其自身的 Vera performance analysis 中强调了这一点。该公司关注持续每核速度、每核内存带宽、延迟,以及满载状态下的性能。
AMD 强调总吞吐量、x86 兼容性和工作负载整合。两种表述都合理,但都突出了对各自架构最有利的衡量指标。
这些比较还遗漏了若干总体拥有成本因素。内存容量、软件许可、服务器密度、散热设计、加速器利用率和应用迁移的影响,可能超过基准测试领先优势。
EPYC 9996 的 600 瓦 TDP 并不是平均应用功耗的衡量值。TDP 用于指导散热设计,而实际功耗会随配置和工作负载变化。
同样的谨慎也适用于 Nvidia 的效率说法。Vera 的最终结果将取决于实际出货的服务器、固件、编译器、内存配置和软件成熟度。
Intel 的处境同样可能变化。其更新的高密度 Xeon 产品提高了核心数量和内存能力,未来的平台将更直接地回应 Venice。
AMD 已提供了足够的细节,使 EPYC 9996 成为有力的竞争者。但它尚未提供足够的独立证据,来宣称所有 Intel 或 Nvidia 替代方案都已落后。
Intel 面临迫在眉睫的密度压力
Nvidia 定义了这场战略竞争,但 Intel 面临着最明确的近期压力,因为 AMD 以每插槽两倍核心数瞄准传统 x86 工作负载。
Xeon 6980P 仍是一款大型服务器处理器,拥有 128 个核心、12 个内存通道,并支持速率最高达 8,800 MT/s 的 MRDIMM。它还配备 504 MB 缓存和 500 瓦 TDP。
EPYC 9996 将核心数翻倍,缓存容量大致翻倍,将内存通道扩展至 16 个,并将输入输出支持从 PCIe 5.0 升级至 PCIe 6.0。
这一组合可以减少高并行工作负载所需的服务器数量。对于正在更新老旧 x86 基础设施的组织而言,它也为 AMD 提供了一个有吸引力的叙事。
对于轻线程软件,这一比较的决定性较弱。在应用调优、加速器支持、数据库认证或现有机群管理更为重要的场景下,Intel 仍可能保持竞争力。
Intel 还提供了无法简单归结为核心数的平台特性。其加速引擎面向加密、压缩、数据移动、分析和网络工作负载。
客户很少会仅凭一张图表更换服务器平台。采购团队会评估供货情况、支持合同、经验证的配置、软件许可、安全更新和长期供应能力。
AMD 面临的挑战,是将架构优势转化为广泛出货。即使一款处理器在测试中领先,仍需要主板、固件、内存认证、云实例和可靠的供货量。
Nvidia 采取了不同的市场路径。Vera 的主要目标并不是取代每一台 x86 服务器,而是在围绕 Nvidia 加速器构建的 AI 工厂中掌控 CPU 的角色。
这对两家既有 x86 厂商都构成压力。如果 Nvidia 成功,一些 CPU 采购决策将从通用服务器团队转向完整的 Nvidia 平台订单。
AMD 的应对方式,是在这种转变确立之前让 EPYC 与智能体 AI 相关。其 2026 年 7 月的宣传反复将 Venice 与 Web 服务、向量搜索、数据库、代码执行和智能体编排联系起来。
这种定位是有意为之。这些工作负载位于模型周边,即便 GPU 执行主要推理计算,也可能消耗大量 CPU 资源。
AWS 通过 Graviton 增添了另一条竞争路径。AMD 的演示材料纳入了 Graviton5 在 Web 服务、向量搜索、数据密集型 AI 和企业工作负载方面的结果。
Graviton 可以在 AWS 内提供经济性和能效优势,但客户无法将其部署到自己的数据中心。EPYC 则在云端和本地环境中提供了更广泛的可移植性。
Arm 服务器 CPU 仍在削弱 x86 过去将软件兼容性视为不可战胜优势的假设。许多 Linux 云应用如今都能在两种指令集上顺畅运行。
Vera 在这一进展基础上,进一步利用 Nvidia 的软件和加速器生态关系。主要系统制造商对它的采用,也为买家提供了比 Nvidia 早期高度封装系统更多的选择。
因此,AMD 必须在两条战线上竞争。它既要维护 x86 在通用服务器中的角色,也要防止 Nvidia 将 AI 主机 CPU 定义为独立类别。
EPYC 9996 为 AMD 提供了一件可信的武器,因为它将极高密度与熟悉的软件环境结合在一起。悬而未决的问题在于,其广泛适用的设计是否能胜过围绕更狭窄 AI 环境优化的处理器。
AMD 与 Nvidia 的说法之后,买家应关注什么
下一轮判断将来自独立系统、机架级测量和真实软件部署,而不是又一轮由厂商挑选的幻灯片。
第一个信号是来自已出货 EPYC 9996 服务器的可复现基准数据。独立评测机构和云服务商需要在 Venice、Vera 和当前 Xeon 平台上,以相同软件进行测试。
这些测试应披露编译器设置、内存配置、功耗限制、固件和散热条件。它们还应报告延迟分布,而不只是总吞吐量。
如果在数据库、编译、向量搜索和 Web 服务中均取得强劲结果,将支持 AMD 的广泛平台论点。不同工作负载之间出现大幅差异,则会削弱任何普遍性能说法。
第二个信号是机架级效率。买家应在固定的功耗、散热和占地空间限制下比较完成的工作量。
如果一颗 600 瓦处理器能够替代多个低密度插槽,它仍可提高机架效率。如果内存、网络或散热阻碍其实现充分利用,则可能失去这一优势。
Nvidia 的垂直整合系统同样值得接受这种审视。NVLink-C2C 可以改善数据共享,但客户需要证据证明这些收益能提升完整应用的吞吐量。
第三个信号是实际部署。云实例可用性、OEM 出货量、客户案例和生产软件支持将表明,该硬件是否能超越受控演示。
Vera 在下半年的可用性,为 Nvidia 提供了在所有 Venice 变体进入市场前建立 AI 导向系统的机会。AMD 现有的 x86 生态系统则让它在传统应用中拥有更快的路径。
买家还应仔细审视工作负载部署位置。CPU 密集型智能体系统可受益于更多核心,但受 GPU 限制的服务可能几乎无法从最大的 EPYC 型号中获益。
即使在同一 AI 应用中,理想选择也可能发生变化。检索、编排、代码执行、推理和存储可能各自偏好不同的硬件特性。
评估 AMD 与 Nvidia 竞争的组织,应从自身生产工作负载的追踪数据着手。请求速率、内存停顿、GPU 空闲时间和尾延迟,能够揭示基础设施实际在何处等待。
合成基准测试仍然有用,因为它们能隔离架构差异。但当归一化得分取代客户真正关心的运营指标时,它们就会产生误导。
EPYC 9996 通过将 256 个核心、1 TB 缓存和 16 个内存通道集成到一个插槽中,改变了服务器领域的讨论。无论最终竞争排名如何,这都是一项重大的工程声明。
AMD 最大胆的说法仍只是说法。Nvidia 的效率叙事也仍等待更广泛的独立测试,而 Intel 依然拥有成熟的部署基础和下一轮产品回应。
有用的问题不是 AMD、Nvidia 还是 Intel 赢下每一项基准测试,而是哪一个平台能够消除特定数据中心中成本最高的瓶颈。
在选择系统之前,应要求厂商提供完整配置和可重复的测试方法。随后在真实负载下测量完整工作负载吞吐量、机架功耗、延迟和加速器利用率。
这些证据将决定 EPYC 9996 是重塑 AI 基础设施,还是仅仅赢下一组经过精心挑选的图表。


