top of page

NVIDIA Vera Rubin 架构走向开放,但 AI 工厂技术栈仍高度耦合

47分钟前
讀畢需時 15 分鐘

尽管 NVIDIA 将 Vera Rubin 平台打造为一个紧密协同的系统,它仍在 OCP 上开放了关键的 Vera Rubin 机架和计算托盘设计。NVIDIA Vera Rubin 架构贡献为制造商提供了支持最高 250 千瓦机架的共享规范。但这并不会让 Rubin 变成一组可随意互换的组件。

这种区别界定了此次发布的核心。NVIDIA 希望供应商、云运营商和数据中心建设方能够将其下一代 AI 硬件周边的物理基础设施标准化。同时,NVIDIA 仍掌控决定 Rubin 系统性能的核心计算、网络和软件技术。

AMD、Meta、Google、Microsoft、Cisco 和 Intel 也在 2026 OCP Global Summit 上推动开放基础设施。它们的参与表明,开放性已成为竞争中的必要条件,而非可有可无的姿态。争论的重点已从 AI 工厂是否需要标准,转向谁的架构将成为标准实现方案。

NVIDIA 的方法将开放式机架结构与高度集成的芯片和软件结合起来。它可以减少建设阻力,同时扩大 NVIDIA 平台的影响范围。因此,买方面临的选择比开放与专有基础设施之间的二元取舍更为复杂。

他们必须判断:当运营核心仍然依赖特定供应商时,标准化设施能否带来足够的实际灵活性。

NVIDIA Vera Rubin 架构进入 OCP

NVIDIA 正在开放 Vera Rubin 周边的物理蓝图,同时保留对让完整系统运转的核心技术的控制权。

NVIDIA 于 10 月 12 日在圣何塞举行的 OCP Global Summit 上宣布了这些贡献。该活动于 10 月 12 日至 10 月 15 日在 San Jose McEnery Convention Center 举行。

根据该公司的 Vera Rubin announcement,此次贡献覆盖了关键机架和计算托盘设计。NVIDIA 通过其 MGX 模块化参考架构及 OCP 的 Open DC Initiative 提交了这些设计。

更新后的 MGX 1.2 规范不止涵盖服务器机箱的尺寸。它还包括盲插式液冷、可配置输入输出槽位、标准化冷却接口,以及可互操作的机架级连接。

盲插式连接让技术人员能够将设备接入电源或冷却接口,而无需手动连接每一条线路。当一个机架中包含大量紧密排列的组件时,这种设计可以缩短安装和维护工作。

MGX 1.2 还规定了液冷式 5,000 安培母线,即在机架内部配送电力的导体。它支持原生 19 英寸设备,以及额定功率最高 250 千瓦的机架部署。

这些细节之所以重要,是因为现代 AI 系统已不再像一次安装一台的普通服务器。Vera Rubin NVL72 系统会在机架级计算域内协调 36 颗 Vera CPU 和 72 块 Rubin GPU。

该机架依赖 NVLink 交换、网络适配器、数据处理单元、高带宽内存、冷却设备和供电系统。改变其中一层,可能影响其他多层的容量或运行上限。

NVIDIA 还贡献了一项独立的 Vera CPU 机架设计。该系统面向代理编排、工具调用、代码编译和沙箱执行等工作负载。

这种划分反映了 AI 需求形态的变化。训练依然重要,但代理式应用也会带来持续的推理和 CPU 密集型协调工作。代理式 AI 指能够利用工具、模型和外部服务规划并执行多步骤任务的软件。

NVIDIA 正尝试将这两类工作负载都标准化。Vera Rubin NVL72 处理大规模训练和推理,而 Vera CPU 机架则提供高密度通用计算能力。

该公司还发布了其面向数据中心级基础设施的操作层 DSX OS 中的组件。这些发布涉及交换机配置、集群验证、机架管理、裸金属部署和租户接入。

这些工具将贡献范围扩展到钣金和冷却管道之外。它们为运营商提供了准备硬件、发现故障和管理机架固件的起点。

不过,边界仍然很重要。开放式机架规范并不会让 NVLink、Rubin GPU、Spectrum-X 网络或 NVIDIA 的软件栈变成供应商中立的技术。

NVIDIA 正在开放其产品周边的部署环境,而不是放弃对定义该平台的计算架构的控制。

这种安排仍可能带来显著好处。制造商可以依据通用的机械、电力、冷却和维护要求进行生产。运营商则可以在每套最终系统全部到位之前规划设施。

其结果类似于围绕某类特定机器制定的共享建筑规范。即使其中一家供应商提供了大部分生产线,也会有更多公司能够建设这座工厂。

开放标准已成为规模化部署的要求

压力来自物理部署的限制,因为千兆瓦级 AI 基础设施无法依靠为每栋建筑量身定制工程方案。

NVIDIA 将大型 AI 数据中心称为 AI 工厂,因为它们将能源和数据转化为训练完成的模型或生成的 token。这个名称也反映了一个现实:这些设施日益更像工业项目,而不是扩建后的服务器机房。

其约束条件包括公用事业接入、变压器、冷却厂房、泵、网络拓扑、调试以及更换流程。只有当这些支撑系统协同运行时,计算性能才有意义。

从兆瓦级设施走向千兆瓦级园区,会放大每一种不兼容问题。一个非标准连接器或冷却接口,就可能使数千个组件的采购变得复杂。

定制设计也会延长验证周期。每个供应商都必须确认自己的设备能够与设施的电力、热管理、控制和安全系统协同运行。

OCP 标准为这些供应商建立了共同目标。Open Compute Project 最初由超大规模运营商发起,它们共享可提升效率和可维护性的硬件设计。

AI 机架扩展了这一使命。OCP 的 Open Systems initiative 寻求在集群及其配套设施之间建立通用设计。其既定目标包括实现多供应商供应链。

最新工作已超越单个机架。NVIDIA 与 AMD、Google 和 Meta 共同参与了 Open Data Center Specification 0.7 版。

该规范涵盖设施布局、冷却和电力架构。这种协调可以帮助建设方将加速器机架接入周边物理设施,而不必从空白设计开始。

Google、Meta、Microsoft 和 NVIDIA 还发布了 OCP Grid Resilience Specification。该规范描述了当公用电网发生扰动时,大型 AI 负载应如何响应。

根据该规范,设施应保持连接、自动响应,并在两秒内恢复至接近满负载。这种行为很重要,因为大型计算园区可能代表显著且快速变化的电力负载。

突然断开连接可能会让电网瞬间失去数百兆瓦负载。协调不佳的重启则可能在不久后再次造成需求剧烈变化。

NVIDIA 表示,其 DSX 参考设计为这两项规范提供了实施路径。DSX 协调计算、网络、设施、冷却、电力和运营软件。

这种一致性让 NVIDIA 占据优势。它参与塑造了开放规范,并已提供围绕相同假设设计的集成实施方案。

这正是此次贡献的核心战略价值。如果制造商采用与 NVIDIA 兼容的机架和设施模式,Rubin 的部署就更容易在不同地区复制。

设备制造商可以更早生产兼容部件。托管数据中心公司可以在每个客户配置最终确定前准备机房。云服务商可以在多个站点复用运营流程。

这种方法也有助于 NVIDIA 管理自身的平台发布节奏。该公司计划频繁推出新一代平台,但设施的使用寿命远长于加速器产品。

标准化的物理接口可以让运营商更换计算托盘,而无需重建整套供电和冷却系统。这一承诺仍需要经过多代硬件的测试。

竞争压力落在每一家试图在完全定制的超大规模环境之外销售产品的供应商身上。客户越来越期待可部署的机架设计,而不是孤立的加速器基准测试成绩。

AMD 已通过 Helios 作出回应,而 Intel 则强调与现有基础设施的兼容性。Meta、Google 和 Microsoft 正在贡献标准,因为它们运营的设施规模使反复定制工作的成本极高。

如今的竞争关乎供应商会优先实施哪些参考设计。当制造商、安装商、运营商和服务团队围绕某一标准投入资源时,该标准便会获得影响力。

NVIDIA 已建立的合作关系为 MGX 提供了强劲起点。该公司在 7 月表示 Rubin 已进入全面生产阶段,并列出了超过 80 家 MGX 合作伙伴。

这些是公司自行报告的采用信号,并非对部署质量的独立证明。不过,它们仍说明了为何 NVIDIA 可以将开放性作为一种扩张战略。

开放式机架并不意味着 AI 系统可以互换

NVIDIA 的模式减少了其技术栈周边的阻力,但不会在该技术栈内部实现不受限制的替代。

“开放”一词在基础设施领域涵盖几种不同概念。它可以指公开的尺寸、可访问的设计文件、开源软件、许可费条款,或竞争产品之间的互操作性。

这些属性并不等同。一个机架可以采用开放的机械规范,同时依赖专有的加速器、互连、固件和编程工具。

Vera Rubin 就体现了这种区别。NVIDIA 将其 CPU、GPU、NVLink 交换机、ConnectX SuperNIC、BlueField DPU 和 Spectrum Ethernet 硬件设计为一个协同平台。

NVLink 在机架内提供高带宽通信。Spectrum-X 负责系统之间的横向扩展 Ethernet。CUDA 和 NVIDIA 的库将应用程序连接至底层加速器。

OCP 的贡献可以帮助其他制造商构建兼容 MGX 的机箱或冷却组件。但它并不允许该制造商在 NVL72 系统中用竞争对手的加速器替换 Rubin GPU。

这未必是一个缺陷。紧密协同可以提升性能、可预测性和部署速度。复杂系统往往会在由一个组织控制关键接口时运行得更好。

然而,这种协调也集中了承担架构影响力的权力。客户可以采购更多物理组件,同时仍在计算核心上依赖 NVIDIA。

网络领域也存在同样的张力。Meta 宣布将在未来的 Vera Rubin 基础设施中采用 NVIDIA Spectrum-6 交换机。

Spectrum-6 提供每秒 102.4 太比特的交换容量。NVIDIA 表示,与 Spectrum-4 相比,它将交换容量和每通道带宽均提升了一倍。

Meta 的 N-IceCube 交换机将这项技术部署在其液冷 IcePack 机架中。它通过 OCP Switch Abstraction Interface 运行 Meta 的开源网络操作系统 FBOSS。

这一组合在控制层面具有实质性的开放性。Meta 可以在不同交换硬件上使用熟悉的软件,并避免完全依赖某家供应商的网络操作系统。

交换芯片及相关加速组件仍是 NVIDIA 产品。开放性让 Meta 获得更多运营控制权,但并不意味着每个组件都可以互换。

两家公司还共同开发了多平面网络设计。它将流量分散到最多八个独立平面中,在某个组件发生故障时提供替代路径。

NVIDIA 表示,该架构可支持包含超过 10 万块 GPU 的 AI 工厂。这一规模主张取决于系统配置,且仍与该公司所述的设计目标相关联。

Google 的 Falcon Transport 集成遵循类似模式。Falcon 是一种数据传输协议,可在多条路径之间平衡流量,并处理拥塞或丢包。

未来的 ConnectX-10 SuperNIC 和 BlueField DPU 将支持 Falcon。这项工作使 NVIDIA 硬件能够通过为 Google 基础设施开发的传输机制进行通信,同时为应用保留标准 RDMA 接口。

Cisco 和 NVIDIA 还推出了名为 USFP 的 Ultra-Dense Small Form Factor Pluggable 规范。该拟议光模块支持每通道每秒 400 吉比特。

该设计从 16 条全双工通道起步,并规划扩展至 32 条。NVIDIA 表示,其带宽密度将达到当前每通道 200 吉比特可插拔光学模块的四倍。

Cisco、NVIDIA、TE Connectivity 和 Amphenol 计划通过多源流程推进 USFP。其采用情况将取决于供应商能否生产兼容模块,以及运营商能否在持续负载下完成验证。

这些项目共同展示了一种分层的开放模式。共享接口让大型客户能够将 NVIDIA 产品与自有软件和设施集成。

NVIDIA 仍从这些接口背后的专用组件中获取价值。其战略并非让供应商变得无关紧要,而是在部署的每个阶段让选择该供应商变得更容易。

AMD Helios 将开放性推向竞争战场

AMD 提供了最清晰的替代方案,因为 Helios 同样将集成机架与旨在保留客户选择权的标准结合起来。

AMD 的 Helios 平台包含 72 个 Instinct MI455X 加速器、EPYC 处理器、Pensando 网络组件以及 ROCm 软件环境。与 Vera Rubin 一样,它将机架视为 AI 计算的基本单元。

Helios 采用 Meta 的 Open Rack Wide 设计。这种外形规格为高密度 AI 系统提供了比传统机架设备更大的物理宽度,同时标准化了维护和设施接口。

AMD 将 Helios 描述为符合 OCP 理念的平台,围绕开放网络和可重复部署的四 GPU 托盘构建。据其 Helios 发布公告,该公司于 2026 年 7 月将该系统投入生产。

AMD 还推广用于纵向扩展通信的 UALink,以及用于横向扩展网络的基于标准的以太网。UALink 是一种行业互连技术,旨在连接参与厂商的加速器。

与 NVIDIA 的差异并不只是开放与封闭的对比。两家公司都集成了自家的加速器、CPU、网络和软件,也都采用符合 OCP 理念的机架设计。

它们的区别在于各自在哪些领域接受外部接口。NVIDIA 开放了围绕 NVLink 和 CUDA 的更多基础设施;AMD 则将基于标准的互连和 ROCm 定位为通往更大硬件选择空间的路径。

两种方法都不会自动保证可移植性。在不同加速器系列之间迁移 AI 工作负载,仍需要进行软件验证、内核优化、性能测试和运营调整。

设施同样面临切换成本。技术人员需要为每种设计配备备件和操作流程。液冷回路和电力系统必须能够应对机架实际运行特性。

Intel 提供了另一种定位。其 OCP 2026 计划 强调在数据中心和边缘部署中利用现有应用、数据和基础设施。

这一信息面向无法建设全新 AI 园区的组织。许多企业需要能适配现有供电、冷却和服务器环境的加速器。

NVIDIA 部分通过对 19 英寸设备的 MGX 支持,以及面向 x86 系统设计的 Rubin 产品来覆盖这一市场。不过,其旗舰方向仍假定采用密度日益提高的液冷机架。

因此,竞争问题的范围超出了基准测试领先地位。买家必须选择与其设施、软件、融资能力以及对供应商依赖容忍度相匹配的部署模式。

超大规模云厂商可以影响标准并定制硬件。较小的云服务商和企业则更依赖经过验证的参考设计。

这使 NVIDIA 的集成方案颇具吸引力。预先协调的技术栈可以减少集群开始产生实际价值前所需的工程决策数量。

但当团队围绕 NVIDIA 专有系统构建监控、部署和模型工作流后,切换也会变得更加困难。开放机架尺寸并不能消除这些累积的依赖关系。

AMD 的机会在于证明,替代性的集成技术栈也能提供可比的运营成熟度。Intel 的机会则在于服务那些现有基础设施比最大机架密度更重要的部署场景。

胜者不会仅由已发布的规格决定。运营商将考察交付进度、可用性能、故障率、服务时间、软件支持和能耗。

开放标准可以扩大配套硬件的供应商范围,但无法弥补加速器供应不足或运营工具不成熟的问题。

电力与冷却主张仍需要现场证据

只有当运营商能够在真实设施中复现其效率和可维护性时,这一架构才具备可信度。

NVIDIA 已在工程环境中演示了运行工作负载的 Vera Rubin 硬件。7 月,记者在 NVIDIA Engineering SuperLab 看到了 NVL72 系统、800 伏直流侧挂设备和液冷托盘。

这次 SuperLab 演示 证明了机架和主要子系统并非仅存在于演示幻灯片中。但它不是独立的生产部署,也不是长期可靠性研究。

这一差距至关重要,因为 AI 基础设施故障往往发生在加速器之外。连接器可能泄漏,泵可能老化,光学组件可能失效,固件冲突可能出现,而电力设备在负载变化时的表现也可能不同。

MGX 1.2 通过标准化接口和更便捷的维护解决了其中一些问题。该设计采用无风扇液冷计算托盘,虽然移除了机架风扇,却增加了对设施冷却的依赖。

250 千瓦机架对管道、冷却液分配单元、母线和维护流程提出了不同寻常的要求。现有企业数据中心中,很少有专为如此密度设计的设施。

NVIDIA 及其合作伙伴也在为 800 伏直流配电做准备。更高电压可在既定功率水平下减少电流,从而降低导体要求和转换损耗。

Visionbay 的 K-1 设计结合了 NVIDIA 的 800 伏架构,以及 Vertiv 提供的电力和热管理设备。其集群级电力中心将交流电转换为直流电,并在更靠近计算设备的位置进行分配。

Visionbay 计划分阶段过渡,而非要求每个设施立即采用 800 伏。这种方式承认替换现有电气系统的困难。

核心风险在于跨供应商的执行。一项标准可以定义连接器或运行范围,却无法保证制造质量或安装安全。

运营商还需要经过验证的流程来为高压直流设备通电、隔离和维修。员工培训的重要性可能不亚于组件供应能力。

功率密度带来了另一项不确定性。每个机架配置更多计算能力可减少集群所需的占地面积,但也会集中热风险和电气风险。

当一个机架承载更大的协调域时,该机架发生故障也会移除更多计算能力。多平面网络可以绕过某些组件故障,但无法解决所有供电或冷却中断。

电网韧性规范又增加了一层未经验证的协同要求。在两秒内将大型设施恢复至接近满负载,需要在公用事业信号与计算系统之间进行快速控制。

NVIDIA 表示 DSX 软件会监控并响应这些信号。运营商需要确认,这种行为在不同公用事业公司、设备供应商和本地电网规则下仍能保持稳定。

性能主张也应保持同样谨慎。NVIDIA 表示,Vera Rubin 通过计算、网络和内存数据移动方面的协同进步改善 token 经济性。

独立比较必须在具有代表性的工作负载下衡量完整系统。仅凭峰值算术吞吐量无法揭示代理式应用能够多好地利用该机架。

有价值的测试应包括模型加载、工具执行、网络拥塞、组件故障和不断变化的请求量,还应衡量冷却和电力转换消耗的能源。

可维护性也必须得到同等关注。NVIDIA 表示,标准化托盘和接口可减少组装、测试和现场维护时间。

只有当运营商记录到更短的维修时间和更高的可用性时,这一主张才具备价值。在此之前,它仍主要是由供应商证据支持的设计目标。

OCP 流程提升了透明度,因为参与方会发布规范并邀请更广泛的实现。它并不能替代实际运行站点的调试数据。

因此,买家应将架构就绪度与运营证明区分开来。Rubin 已投入生产,合作伙伴预计将在 2026 年下半年提供产品。

下一阶段需要在 NVIDIA 自有工程设施之外持续承载实际工作负载的部署。这些证据将决定开放设计是否能降低实际风险。

三个信号将显示 NVIDIA 的开放战略是否奏效

生产采用、多供应商实现以及经过验证的运营数据,将决定 OCP 贡献是否会改变市场。

第一个信号是云服务商推出生产级 Vera Rubin 算力。NVIDIA 此前点名 AWS、Google Cloud、Microsoft、Oracle Cloud Infrastructure、CoreWeave、Lambda、Nebius 和 Nscale 为早期提供商。

Cisco、Dell、HPE、Lenovo 和 Supermicro 预计也将构建 Rubin 系统。多家合作伙伴完成交付将表明,MGX 设计支持不止一条制造路径。

这些发布的质量比公告数量更重要。买家应关注正式可用性、稳定容量、部署区域以及披露的运行限制。

公开的客户工作负载将增强 NVIDIA 关于该架构已准备好持续使用的主张。反复延期或高度受限的预览则会削弱这一主张。

第二个信号是对 MGX 1.2 及相关 OCP 规范的独立实施。供应商必须交付兼容的母排、冷却设备、连接器、机架、光学组件和管理软件。

一项健康的标准应当支持关键组件来自多家合格供应商。如果大部分零部件仍通过一条狭窄的供应链提供,那么这种设计主要只是在纸面上开放。

USFP 提供了一个有价值的测试案例。NVIDIA 和 Cisco 已阐述其密度和效率目标,但该模块仍需要广泛的供应商基础和部署经验。

同一标准必须能够适用于交换机、线缆、笼体、散热条件和维修流程。成功的互操作性将证明,这项贡献能够在创始公司之外催生一个市场。

第三个信号是与 AMD Helios 及其他 OCP 系统进行对比的现场数据。买家需要涵盖有效吞吐量、能耗、可用性和维护情况的完整测量结果。

NVIDIA 已发布详细的 Rubin 可用性规划,而 AMD 也在同期将 Helios 定位为面向大规模部署的平台。两者的重叠为两种集成式机架战略提供了直接对比的机会。

应关注以每兆瓦持续应用输出衡量的结果,而非孤立的芯片性能。同时也应关注运营商从托盘、交换机、光学组件或冷却部件故障中恢复的速度。

如果多家制造商都能复现 NVIDIA 的性能和服务目标,OCP 战略将更像是真正的产业化扩展。如果只有 NVIDIA 管理的环境能够成功,所谓开放的主张就会显得更为有限。

更广泛的结果将决定谁掌控 AI 基础设施标准。NVIDIA 正在利用开放性来扩展一个协同平台,而竞争对手则利用标准来挑战这种协同。

对开发者和 AI 用户而言,影响将以间接方式显现。基础设施选择会影响模型可用性、延迟、可靠性,以及运行长时间智能体工作流的成本。

企业买家应向供应商询问:哪些层级可以互换,哪些则需要 NVIDIA 专有的硬件或软件。他们还应索取来自生产系统的故障数据,而不仅仅是参考设计的预测数据。

NVIDIA Vera Rubin 架构公告之所以重要,是因为它将开放性视为一种部署机制。它并未消除围绕 NVIDIA 技术栈的商业边界。

下一个问题很具体:OCP 合作伙伴能否将这些规范转化为由多家真实供应商提供、可互换且易于维护的基础设施?

关注首批云端部署、组件认证和现场对比结果。这些结果将揭示,NVIDIA 是推动了行业标准的开放,还是仅仅让自己的系统更易于构建。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page