top of page

英伟达测试低内存版 Rubin Ultra 配置

8月11日
讀畢需時 13 分鐘

据报道,英伟达正在测试仅配备 192 GB 或 256 GB 内存的 Rubin Ultra 设计,尽管该公司此前展示过 1 TB 配置。Nvidia Tom 的报道描述了至少三种低内存原型,其中包括以 HBM4 取代 HBM4E 的设计。这些调整将使该公司最雄心勃勃的加速器变成一款更为保守的产品。

这些测试并不能确定 Rubin Ultra 的最终规格。英伟达尚未公开确认相关配置,现有报道也未厘清许多关键设计细节。不过,这些测试之所以重要,是因为它们出现在有关计算芯粒减少、以及计划中的 Kyber 机架受到延误影响的独立报道之后。

综合来看,这些说法揭示了英伟达已公布的系统与供应商能够大规模制造的硬件之间存在冲突。AMD 和大型云服务商的定制加速器带来了竞争压力。然而,英伟达眼下的对手并非另一家芯片厂商,而是它自己提出的 1 TB 承诺。

Nvidia Tom 的报道描述了三种较小设计

核心变化并非小幅调整容量,而可能是对英伟达五个月前展示设计的一次收缩。

根据这篇 Rubin Ultra 报道,英伟达至少测试了三种采用更少高带宽内存的配置。HBM 将堆叠式 DRAM 安置在处理器旁,提供远高于传统服务器内存的带宽。

据报道,这些选项包括内存容量为 192 GB 和 256 GB 的 Rubin Ultra。其他原型据称使用的内存堆叠少于原始设计对应的 16 个。至少有一种方案还以 HBM4 替代此前公布的更先进 HBM4E。

该报道并未将每种容量与具体内存代际或堆叠数量逐一对应,也未指出各原型中的计算裸片数量。这些缺失信息使人无法可靠计算其带宽、封装布局或预期应用性能。

这种不确定性很重要,因为英伟达公开展示的起点截然不同。在 2026 年 3 月的 GTC 上,该公司展示了一块包含四个计算芯粒和 1 TB HBM4E 的 Rubin Ultra 托盘。公司将该加速器定位为通过其 Kyber 和多机架系统在 2027 年部署的产品。

192 GB 配置的容量将不足展示容量的五分之一。它的内存也将少于英伟达现行 Vera Rubin NVL72 规格中为每块标准 Rubin GPU 列出的 288 GB。

这种差异并不自动意味着较小产品无法使用。内存需求取决于模型、工作负载、数值格式和部署架构。高密度机架可以将工作负载分配到多个加速器上,而专用存储能够承载部分推理缓存。

不过,这一变化将改变“Ultra”的含义。3 月的演示将这一标签与出众的单封装内存容量及四个计算芯粒联系在一起。采用普通 HBM4 的较小双芯粒加速器,与其说像原先的旗舰产品,不如说更接近经过调整的 Rubin 产品。

英伟达尚未确认任何已报道的原型将投入量产。在硬件开发期间测试多个选项很常见,尤其是在最终认证之前。企业会例行评估许多最终不会离开实验室的设计。

时机使这些特定测试更具意义。有关内存缩减的报道,出现在据称对计算封装和机架架构作出调整之后。每一篇报道都指向同一项务实应对:在开始批量制造前降低复杂度。

因此,Nvidia Tom 的报道制造出一个清晰的张力。英伟达可以维持公开规格并承担更大的供应风险,也可以降低规格以保护交付进度。它无法仅靠命名或营销彻底解决这两个问题。

HBM4E 供应正给 1 TB 承诺带来压力

Rubin Ultra 公布的内存容量放大了供应风险,因为每块加速器都将消耗异常庞大数量的先进堆叠。

HBM4E 是 HBM4 的增强代际,可采用定制逻辑基底裸片。该基底裸片负责管理堆叠内存与加速器封装之间的连接。定制逻辑可改善集成度,但也增加了设计、制造和认证工作。

据报道,短缺并不只是原始 DRAM 位元不足。英伟达需要同时具备正确速度、容量、热特性、逻辑设计和封装兼容性的内存堆叠。供应商必须稳定交付所有这些特性,英伟达才能组装量产系统。

Rubin Ultra 原先的 1 TB 配置加剧了这一挑战。展示设计在四个大型计算芯粒旁配置了 16 个 HBM4E 堆叠。因此,每块成品加速器在计入封装良率之前,就要消耗许多先进组件。

单个组件的缺陷可能影响整个封装的价值。这使供应情况比简单统计可用内存裸片数量所反映的更为敏感。封装产能、中介层、基底裸片、验证和散热都成为限制因素的一部分。

英伟达的标准 Rubin 平台说明了这一差异。其 NVL72 规格列出每块 GPU 配备 288 GB HBM4,以及每秒 22 TB 的内存带宽。72 块 GPU 合计,机架拥有 20.7 TB HBM4。

美光在 3 月表示,已开始为 Vera Rubin 大批量生产 36 GB、12 层 HBM4 堆叠。该供应商称其速度超过每针脚每秒 11 千兆比特,带宽超过每秒 2.8 TB。这些指标描述的是标准 HBM4,而非与原始 Rubin Ultra 相关的定制 HBM4E 配置。

根据 量产报道,美光还已送样 48 GB、16 层 HBM4 堆叠。更高的堆叠可在不增加封装位置数量的情况下提高容量,但也带来自身的良率、散热和认证要求。

据报道,回退至 HBM4 将使英伟达能够利用更成熟的 Rubin 供应链,也可能减少内存供应商的定制工作。这种选择会将可用性和进度置于为 Ultra 公布的差异化内存技术之上。

减少堆叠数量提供了另一种调节手段。更少的堆叠会降低总容量,但也会简化布线,并减少每个封装所需的稀缺组件数量。英伟达可利用同样的合格内存产出制造更多加速器封装。

这正是 192 GB 和 256 GB 测试值得关注的原因。它们并非随意选定的容量,而是表明英伟达正在探索消耗显著更少堆叠、同时仍为特定 AI 工作负载保留足够带宽的产品。

需求又增加了一层压力。如今,英伟达、AMD、云服务商定制芯片及其他处理器都在争夺先进内存。供应商必须扩大产量,同时避免质量或良率崩溃。

长期供应协议可以锁定配额,但无法立即创造合格产出。新的制造产能需要时间,先进封装和最终系统集成也必须与内存生产同步扩张。

因此,据报道的降级与其说是放弃 HBM 技术,不如说是在对其进行配给。英伟达似乎正在测试 Rubin Ultra 在仍保持商业可信度的前提下可配备的最低内存容量。

英伟达公布的旗舰产品正与制造现实发生碰撞

如今最主要的较量,是英伟达公开的 1 TB 愿景与完整 Rubin Ultra 系统可制造性之间的较量。

英伟达最初的概念结合了四个计算芯粒、16 个 HBM4E 堆叠、先进封装、液冷和新的机架架构。每一项都极具雄心。将它们结合起来,便形成了多条相互依赖的延误路径。

6 月,另一篇报道称,英伟达已放弃四芯粒配置,转而采用双芯粒设计。这篇 芯粒报道援引制造执行方面的担忧,但英伟达并未确认所谓取消。

双芯粒设计将使较小的 Rubin Ultra 内存配置更容易理解。四个计算芯粒可使用更大的本地内存容量和带宽。两个芯粒则会降低这种需求,同时简化封装、供电和散热。

不过,192 GB 仍将低得出人意料。根据英伟达公布的规格,标准 Rubin 已为每块 GPU 配备 288 GB HBM4。容量更低的 Ultra 产品需要另一种差异化来源。

英伟达可能会强调机架级扩展,而非单封装内存。其 Rubin 系统设计描述了适用于 Rubin Ultra 的 NVL72、NVL144 和 NVL576 选项。规划中最大的域将连接八个机架和 576 块 GPU。

这一策略将销售单位从单个加速器转向完整计算系统。客户将评估总体吞吐量、整个域内可用内存、网络、电力和软件。在数百块互连 GPU 的范围内,单个封装的缩减看起来可能不那么严重。

但机架级扩展无法抹去本地内存限制。模型和推理缓存必须经过 HBM、互连、CPU 和存储构成的层级移动。访问远程数据会引入延迟并消耗网络容量。

英伟达的 BlueField-4 上下文内存平台旨在扩展键值缓存的存储空间,即模型推理期间产生的临时数据。这类系统可降低对 HBM 的压力,但无法让较慢存储的行为与直接连接到 GPU 的内存完全相同。

较小的 Rubin Ultra 仍可能在内存占用适中的计算密集型工作负载中表现出色,也可服务于能够将模型高效分配到众多加速器上的部署场景。问题在于,这些优势与 GTC 上展示的 1 TB 叙事不同。

这正是核心逆转。英伟达曾利用极致集成来定义 Rubin Ultra,随后据报道开始在同一集成设计上测试缩减方案。内存、计算芯粒和机架拓扑似乎都在审查之中。

针对有关延误的相关报道,该公司曾作出一项笼统回应。在有说法称 Kyber 已推迟至 2028 年后,一名英伟达代表表示,其“路线图保持不变”。英伟达没有说明这一表态涵盖原始规格、时间安排,还是修订后的路线图。

这种区别已变得至关重要。一个产品家族可以按计划推进,同时内部配置发生变化。英伟达可以在 2027 年推出名为 Rubin Ultra 的产品,却未必交付 3 月展示的四芯粒、1 TB 加速器。

对企业买家而言,产品名称不如经过验证的性能与交付日期重要。但从发布到出货之间的差距仍会影响规划。数据中心必须在机架到货前很早就预留电力、制冷、机房空间、网络与融资资源。

因此,Nvidia 面临艰难的工程决策。保留 1 TB 规格能够维护旗舰产品叙事,但会集中供应与制造风险。降低内存容量能够保障产量,却会削弱最初的技术承诺。

更小的 Rubin Ultra 内存改变竞争格局

降低内存容量会给竞争对手留下机会,但 Nvidia 的软件与系统优势意味着结果并非简单的胜负之分。

AMD 是最直接的商用加速器竞争对手。其 Instinct 路线图瞄准同一批大型云服务运营商、模型开发者和企业基础设施买家。这些客户比较的是完整系统,而非孤立的规格参数。

单加速器内存容量对于大型模型、长上下文窗口、训练检查点和键值缓存至关重要。更多本地内存能够减少模型切分以及处理器之间的通信,也可以在固定系统内支持更大的批次或更长的序列。

带宽与容量是两个独立因素。若采用足够数量的高速堆叠和宽接口,192 GB HBM4 设计仍可能提供强劲带宽。目前的报道没有给出足够细节来确定其具体配置。

因此,现在直接得出性能结论还为时过早。较小的容量并不证明 Rubin Ultra 会输给 AMD,但确实表明客户在进行可靠比较前需要更新后的规格信息。

云服务提供商也拥有定制加速器。Google、Amazon、Microsoft 和 Meta 都围绕特定内部工作负载设计芯片。当这能提升效率或供应控制能力时,它们的系统可以牺牲通用性。

这些替代方案从两个方面对 Nvidia 施压:它们赋予超大规模云厂商谈判筹码,也降低了对单一供应商路线图的依赖。云运营商可以将适合的工作负载导向自研芯片,同时将 Nvidia 系统留给对软件敏感的任务。

Nvidia 仍保有重大优势。CUDA 已深度嵌入 AI 开发流程,公司还掌控着涵盖处理器、互连、网络、CPU 和软件的广泛技术栈。为了保留兼容性和部署速度,客户可能接受缩水后的硬件规格。

来源报道反映了这种优势。据称,一位 Nvidia 客户表示,单 GPU 内存并非首要关切,并强调了长期合作关系。这个观点不能代表所有买家,但说明容量本身不会决定需求。

可用性可能比理想规格更重要。一款能够稳定交付的 256 GB 加速器,可能比因内存稀缺而延迟的 1 TB 设计更有价值。云服务提供商无法从困在认证流程中的硬件获得收益。

与此同时,减少内存可能会将成本转移到其他环节。客户可能需要更多加速器、更多网络资源或额外的存储基础设施来完成相同工作负载。更高的系统复杂度可能抵消更简单封装所带来的节省。

电力也是另一项担忧。将模型分布到更多加速器上可能提高通信与制冷需求。因此,买家将考察每瓦实际产出的有效 token 数,而不仅仅是峰值算力。

软件优化可以缓解影响。量化会减少表示模型权重所需的位数。混合专家模型会针对每个 token 只激活网络中经过选择的部分。更好的缓存管理也可以限制推理过程中的内存压力。

这些方法都无法消除物理约束。它们改变的是开发者使用现有容量的效率。结果会因模型而异,并可能影响质量、延迟或工程投入。

因此,HBM4 对 Nvidia 的影响会因客户而异。训练前沿模型的大型实验室可能看重最高本地容量;拥有优化模型的推理服务提供商则可能更偏好可靠供应和更高机架密度。

企业买家不应将报道中的 192 GB 原型视为最终产品,也不应基于展示过的 1 TB 配置制定基础设施计划。在 Nvidia 公布并验证最终规格之前,这两个数字都仍属暂定。

该报道留下了关键技术问题未解

现有证据支持进行严肃的设计审查,但并不能确定 Nvidia 将量产哪一种原型。

第一个不确定性涉及配置映射。报道提到 192 GB、256 GB、更少堆叠和 HBM4 选项,但没有说明这些描述是指三种不同设计,还是彼此重叠的特征。

192 GB HBM4 设计可能采用与 256 GB 版本不同的堆叠安排。另一种原型可能保留 HBM4E,同时减少堆叠数量。没有这种映射关系,比较仍然只是推测。

第二个问题涉及计算裸片。6 月的报道曾称设计将从四个 chiplet 转为两个,但 Nvidia 尚未确认这一变化。内存测试可能涉及双 chiplet 硬件、最初的四 chiplet 封装,或两者兼有。

计算与内存决策不能被孤立评估。更少的计算裸片会降低算力和内存需求。若保留四个计算裸片却大幅削减内存,可能造成更严重的带宽或容量失衡。

第三个未知因素是“测试”的含义。硬件公司会在量产前测试许多配置。有些实验用于评估可行性,另一些则为不同客户细分市场准备产品。

Nvidia 最终可能推出不止一种 Rubin Ultra 型号。稀缺的 1 TB 版本可能服务于特定客户,而低内存产品则支持更广泛部署。报道并未证实这种细分策略,但从技术上仍有可能。

供应短缺与良率困难也有所不同。短缺意味着合格组件数量不足;良率问题则意味着太多制造出的封装无法满足要求。两者都会降低产量,但需要不同的补救措施。

该来源将压力归因于 HBM4E 的复杂性,以及 Rubin Ultra 推出所需供应不足。Nvidia 及其内存合作伙伴尚未公开提供能够独立验证这一说法的生产数据。

供应商公告提供了有用背景,但并未解决问题。Micron 表示其 HBM4 已进入大规模量产,但 HBM4E 还需要额外定制。某一代产品的生产状态,并不能保证下一代产品拥有充足供应。

Kyber 引入了另一项未解决的依赖因素。7 月的报道声称,其 NVL144 机架因复杂铜背板相关问题而延迟。Kyber 延迟说法称,据报的变化不会影响更早出货的标准 Rubin 系统。

Nvidia 的官方材料仍将 Kyber 描述为 Rubin Ultra 及后续 Feynman 一代的基础。材料中还列出了 NVL72 和 NVL576 路线。如果某一机架配置延后,这一更广泛的系统规划可能为 Nvidia 提供替代方案。

但每种替代方案都会改变部署假设。NVL72 在一个 scale-up 域内提供更少的加速器;NVL576 则依赖使用铜缆和光连接的多机架拓扑。这些系统会带来不同的网络与运营挑战。

性能是最大的未解问题。内存容量本身无法揭示训练速度、推理吞吐量、延迟或能效。Nvidia 尚未发布针对报道所述配置的经验证基准测试。

客户还需要针对工作负载的数据。能够装入 192 GB 的模型,与必须跨多个处理器运行的模型表现不同。长上下文推理可能产生随用户数量、序列长度和缓存精度增长的内存需求。

因此,Nvidia Tom 报道作为对原型的描述具有可信度,而不是一份最终规格表。它的价值在于揭示正在考虑的选择。不应在 Nvidia 公布产品前,就据此断言成品已被降级。

三个信号将显示哪种 Rubin Ultra 得以保留

最终的 Rubin Ultra 将由生产披露、客户认证和系统级基准测试定义,而非原型传闻。

第一个信号是 Nvidia 下一次详细规格更新。买家应关注确认后的内存容量、内存代际、堆叠数量、计算 chiplet 数量和带宽。低于 1 TB 的规格将证实,3 月的设计已不再代表主要量产目标。

围绕供货情况的措辞将与数字同样重要。Nvidia 可能会为有限部署保留高容量型号,同时推出更小的变体。这一结果将削弱“全面撤退”的说法,同时确认由供应驱动的产品细分。

第二个信号是供应商认证。内存制造商应披露 HBM4E 是否已为 Rubin Ultra 进入大规模量产,而不只是 HBM4 是否正为标准 Rubin 出货。生产声明应明确容量、速度和客户认证状态。

如果供应商宣布已认证的 HBM4E 产出达到足够规模,原始设计就更具可行性。若持续强调标准 HBM4,则会增强低内存配置的可能性。

第三个信号是客户测试。Nvidia 已向部分客户发送标准 Vera Rubin 样品,并表示量产出货仍计划在 2026 年下半年进行。在 Rubin Ultra 的 2027 年时间表变得可信之前,它也需要达到同等里程碑。

客户认证应提供关于可用性能的更清晰证据。买家需要完整机架上的模型训练结果、推理吞吐量、延迟、功耗和可靠性数据。汇总式营销数字无法回答所有部署问题。

Kyber 的进展属于第三个信号的一部分。可用的量产机架将表明 Nvidia 已解决其背板、制冷和集成问题。若持续依赖替代机架布局,则意味着系统复杂性仍是更大的障碍。

这些信号将强化或削弱文章的核心判断。官方规格下调将证实制造现实击败了 1 TB 承诺。经过认证的 HBM4E 和经验证的高容量系统,则将表明 Nvidia 将较小原型视为应急方案。

对开发者而言,眼下的教训是不要假设单一内存目标。软件团队应在多种容量范围内测试分区、量化和缓存行为。无论 Nvidia 最终推出 192 GB、256 GB 还是更高容量设计,这种准备都有帮助。

企业买家应索取针对工作负载的结果,而非比较产品名称。他们应询问运行时开销后还剩多少加速器内存可用、模型如何跨 GPU 分布,以及故障会如何影响机架。

基础设施规划人员也应维持多种电力与制冷情景。更小的加速器封装不一定意味着更小的部署规模。客户可能通过使用更多处理器或更密集的系统来补偿。

所报道的重新设计并不证明 Rubin Ultra 已经失败。它表明 Nvidia 最雄心勃勃的配置正面临从展示走向规模化量产的艰难道路。每一种对 Nvidia Tom 报道的解读都应以这一区别为指导。

Nvidia 会保留 1 TB 旗舰产品、将 Rubin Ultra 拆分为多个产品,还是让 HBM4 成为实际标准?在下一个规格更新发布前,暂勿下定论。随后,再将这些说法与供应商认证情况及真实客户基准测试进行对照。这三项核查将揭示 Nvidia 是解决了短缺问题,还是仅仅围绕这一问题进行了重新设计。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page