top of page

Frore LiquidJet Diamond 瞄准 Nvidia Rubin 的 2,300W 散热难题

41分钟前
讀畢需時 14 分鐘

Frore Systems 推出了 Frore LiquidJet Diamond,这是一款定制冷板,旨在为功耗达 2,300 瓦的 Nvidia Rubin 加速器及热量高度集中的芯片热点散热。该公司声称,与传统的刮削式冷板相比,该设计可将 GPU 温度降低 16°C 至 22°C,并可将每瓦 AI token 产出提高 30% 至 35%。

这些数字意味着,散热将直接参与提升计算产出,而不再只是防止系统过热的辅助系统。不过,Frore 公布的结果仍属于企业自身的主张,部分基于热模型和特定运行条件。独立的 Rubin 硬件测试尚未证实同等幅度的提升。

更重要的竞争在于两种散热架构之间。传统冷板通过加工形成的通道分布冷却液,而 Frore 则将流量集中导向处理器热图中标记的热点。LiquidJet Diamond 在热通量最高的位置加入金刚石均热层,仅在 Frore 认为必要的区域使用这种昂贵材料。

这一方案推出之际,Nvidia 和 AMD 正在准备封装功耗更高、多芯粒组件更大、内存系统更密集的加速器。散热供应商如今既要应对总热量,也必须处理温度远高于周边封装区域的小范围热点。

Frore LiquidJet Diamond 将金刚石置于热点之上

Frore 的核心思路是围绕每颗处理器的热图设计冷板,再将金刚石直接置于最棘手的热点上方。

冷板是一种紧贴处理器封装安装的金属散热组件。板内循环的液体将热量带往设施级冷却回路。热传导路径通常包括硅芯片、封装材料、导热界面材料以及冷板本身。

每一层都会增加热阻。热阻会扩大冷却液与工作中的硅芯片之间的温差。当某个小区域的发热量远高于封装其他部分时,这种效应会更难控制。

Frore 表示,LiquidJet Diamond 采用三维、超短回路、多级结构。其内部通道会优先将冷却液导向热点,随后再流经 GPU die、高带宽内存及其他 chiplet。

该公司使用从半导体制造改良而来的工艺制造内部铜结构。这种方法可支持比通常通过刮削工艺制成的直线鳍片更复杂的形状;刮削工艺会在铜材中切出细薄通道。

金刚石构成该设计的第二部分。Frore 将金刚石材料嵌入冷板底面,并将其设置在已识别的热点上方。金刚石的导热能力优于铜,因此可在热量进入液冷结构之前先扩散高度集中的热量。

这并非适用于所有加速器的通用冷板。其尺寸和内部通道会随目标处理器而变化。Frore 列出的 Nvidia GB300 配置参考尺寸为 104.6 × 62 × 20.4 毫米。

这种定制设计构成了该产品与 Frore LiquidJet Nexus 最重要的区别。Nexus 将多块冷板和散热组件整合为更大的服务器级组件。LiquidJet Diamond 则是一块独立的加速器冷板,系统厂商可将其集成到自身平台中。

Frore 公布的产品规格显示,该冷板可支持面积为 5 × 5 毫米、热通量为 770 W/cm² 的热点。该额定值假设冷却液入口温度为 25°C、最高结温为 95°C、采用 PTM7950 导热界面材料,并使用无顶盖封装。

这些条件十分重要。770 W/cm² 描述的是集中于一个小型热点的热量,而非整个 GPU 封装的平均热密度。它也不意味着任何加速器在不同冷却液温度或封装选择下都能维持这一热密度。

该公司将 LiquidJet Diamond 与多入口刮削式冷板进行比较,声称其最大热点承受能力提高超过 150%,传热效率提高 75%,GPU 温度可降低 16°C 至 22°C。

Frore 还表示,这些降温幅度可转化为每瓦 AI token 产出提高 30% 至 35%。这是对计算效率改善的预测,并非对数据中心总能耗下降的实测结果。

发布报道指出,Frore 尚未披露其制造或集成金刚石部件的方式。这一缺失信息可能影响成本、制造良率、可靠性和产量。

因此,LiquidJet Diamond 代表了一项明确的工程方案:将局部热扩散与针对单一处理器热行为设计的冷却液路径相结合。其价值取决于这些优势能否经受生产公差、长期运行和完整机架部署的考验。

Nvidia Rubin 将散热变为计算约束

对于一款功耗达 2,300 瓦的加速器而言,温度控制成为性能预算的一部分,因为热阻可能限制持续运行时钟频率和有效产出。

传统服务器散热通常围绕平均封装功耗设计。当大型加速器集成多个计算 die、高带宽内存、高速互连和不均衡工作负载时,这种方法的可靠性会下降。

AI 工作负载可能让张量处理硬件长时间保持活跃。内存和互连活动也会使热量在封装中发生变化。冷板必须同时应对持续的总功耗和局部峰值,不能让任何一个区域达到极限。

Frore 计划展示配备 LiquidJet Diamond 的 2,300 瓦 Nvidia Rubin 散热配置。该演示瞄准达到该公司所述 770 W/cm² 水平的热点。

目前尚不清楚该演示使用的是已出货的 Rubin 加速器、预生产硬件,还是热测试载具。测试载具能够复现功耗和热点位置,但无法代表量产硅芯片的所有机械特性和工作负载行为。

Nvidia 公布的HGX 规格显示,一块 HGX Rubin NVL8 基板搭载八颗 Rubin GPU。每颗 GPU 配备 288 GB HBM4 内存和 22 TB/s 内存带宽。该八 GPU 平台提供两太字节 HBM4。

这些规格有助于解释为何散热已成为系统设计问题。热量必须从包含 GPU、内存、网络组件、供电硬件和处理器的高密度布局中移除。

Nvidia 表示,Rubin 每颗 GPU 可提供 50 petaflops 的 NVFP4 推理性能。其Rubin 架构包含 3,360 亿个晶体管、224 个流式多处理器和 896 个 Tensor Core。

该架构还采用 chiplet 设计和高带宽封装连接。这种组合会在有限物理面积内产生多个潜在热源。平均封装温度无法完整描述这些局部情况。

温度会影响产出,因为现代处理器会在电气和热限制范围内管理频率和电压。在其他限制因素尚未介入时,更低温的芯片可维持更高的运行频率。

不过,温度降低并不自动保证固定幅度的吞吐量提升。性能还取决于工作负载行为、内存访问、网络、软件效率、利用率和电源管理。

Frore 将散热直接与每瓦 token 产出联系起来,因为推理运营商会销售或消耗有效计算产出。如果两个系统使用相近的电力,产出更多 token 的系统就具有更高的计算效率。

这种商业化表述对证据提出了更高标准。买家需要看到覆盖具有代表性的模型、批处理规模、序列长度和利用率模式的工作负载级测量结果。仅凭热模型无法展示完整的运行结果。

还必须将散热功耗纳入考量。泵、冷却液分配单元、设施热交换器以及可选冷水机都会消耗能源。当完整冷却回路需要显著增加功耗时,芯片级效率提升可能会被削弱。

Frore 认为,较低的冷板热阻可减少对更低入口水温的依赖。更高温的冷却液可以简化排热并提高设施效率。这一主张具有合理性,但净效果取决于气候、系统设计和设施运行温度。

因此,压力转向传统冷板供应商和服务器设计商。他们必须改善热点控制,或证明专业化程度较低的冷板能够以更低成本和复杂度提供足够性能。

传统冷板面临热点难题

核心竞争并非单纯是金刚石对铜,而是针对热点的散热与围绕更广泛排热需求设计的冷板之间的竞争。

刮削式冷板由铜基板和一组薄鳍片构成。冷却液在鳍片之间流动,吸收热量后离开冷板。制造商对这一工艺十分熟悉,生产出的组件也契合既有服务器供应链。

当热量分布相对均匀时,这种架构能够良好运行。但当冷却液需要沿长通道流动,而某个小区域产生极高热量时,其效率会下降。

设计者可以增加入口、改变鳍片几何形状、提高流量或降低冷却液温度。每种应对方式都有代价。更高流量会提高压力要求,而更低温的液体可能需要更多设施能源及冷凝控制。

Frore 的短回路设计试图缩短入口与最热区域之间的距离。其多级流路会优先将可用的最冷液体输送至热点,再为封装中的其他组件散热。

金刚石层则解决一个相关问题。冷却液通道会在热量进入冷板后将其移除。高导热扩散层可在这一传递发生前,将集中的热量分散到更大的冷却面积上。

这一区别解释了为何 Frore 同时引用传热效率和热点热密度。一个指标描述热量穿过散热结构的效率,另一个则描述在结温达到指定上限前,热源能够承受的集中程度。

这一设计也凸显了按总瓦数比较产品的局限。两款功耗相同的加速器,若其 die 布局、封装和热点位置不同,可能需要不同的冷板。

这正是 Frore 将 Nvidia Rubin、Rubin Ultra、Feynman、AMD Instinct MI455、MI500 以及定制的超大规模云厂商加速器列为目标的原因。每款产品都会获得针对其尺寸和热图定制的冷板。

AMD 公开的MI400 路线图计划于 2026 年推出基于 CDNA 的 MI400 系列。AMD 更新的规划还将 MI400 纳入配备 HBM4 和下一代网络技术的机架级系统中。

支持多家供应商可能扩大 Frore 的市场机会,但也会成倍增加工程工作量。每新增一种封装,都可能需要更新仿真、设计新的内部结构、调整工具,并重新进行机械可靠性验证。

标准刮削板则具备另一项优势。其成熟的结构可降低认证风险,并以较少的定制制造步骤支持多种产品配置。

因此,LiquidJet Diamond 必须证明其复杂性物有所值。买家会在额外的热裕量与组件成本、开发周期、可维护性、可靠性及供应可得性之间进行权衡。

钻石本身并不能决定这种比较的结果。材料的用量、品质、取向、键合方式和布置位置都会影响性能。出色的体相导热率数值,并不保证组装后的界面具有低热阻。

接触压力也是一项挑战。冷板必须在大尺寸封装上保持可靠接触,同时不能损伤裸芯、桥接芯片、中介层或周边元件。

对于无顶盖封装,这一问题会更加严重。移除集成式散热器可缩短热路径,但也会让脆弱的封装结构直接承受机械载荷。

Frore 的 770 W/cm² 规格以无顶盖封装为前提。评估带顶盖量产 GPU 的买家,不能将该数值直接套用于自身系统。

因此,只要能满足加速器的运行要求,传统方案依然具有竞争力。只有当现有冷板导致时钟频率降低、冷却液温度必须更低、泵送功率增加,或热点裕量不足时,Frore 的设计才最具吸引力。

市场不会仅凭导热率数字在两种方案之间做出选择,而会依据经过认证、能在数千台服务器上提供可预测性能的系统来决定。

为什么更低温度能提升每瓦 Token 产出

Frore 的效率主张建立在清晰的机制之上,但实际增益幅度并不只取决于冷板。

处理器的结温取决于冷却液温度、产生的热量和总热阻。在其他变量保持稳定时,降低热阻即可降低结温。

较低温度可降低半导体器件的漏电功耗,也能为处理器在热限制范围内留出更多空间,从而支持更高的持续频率或减少降频。

Frore 早期的 LiquidJet 建模显示,相比基础冷板,温度可降低约 6°C 至 12°C。该公司将这一范围与每瓦 Token 产出提升 10% 至 25% 联系起来。

LiquidJet Diamond 增加了一个局部扩散层,Frore 称其可额外降低最高 10°C 的热点温度。其完整对比结果因而宣称可实现 16°C 至 22°C 的温度改善,以及 30% 至 35% 的每瓦 Token 产出提升。

这些区间不应被视为普遍适用的数值。不同的封装设计、界面、入口温度、流量和工作负载,可能带来不同结果。

独立研究支持液冷与持续计算性能之间更广泛的关联。一项 2026 年的液冷研究比较了液冷与风冷的八 GPU Nvidia H100 系统。

研究人员报告称,液冷系统的 GPU 温度介于 41°C 至 50°C;风冷配置在负载下则介于 54°C 至 72°C。

他们还测得,液冷平台每块 GPU 的性能为 54 TFLOPS,而采用风冷时为每块 GPU 46 TFLOPS。这意味着在其测试系统中存在 17% 的性能差异。

该研究并未验证 Frore LiquidJet Diamond 或其有关 Rubin 的主张。它使用的是不同硬件,比较的也是液冷与风冷,而不是两种液冷冷板设计。

但它说明了为何冷却供应商可以合理地讨论计算产出。热稳定性会影响处理器的持续运行表现,而不只是决定元件能否存活。

每瓦 Token 产出仍然是一项取决于工作负载的指标。受内存带宽限制的推理任务,从额外 GPU 频率中获得的收益可能低于计算受限型任务。

软件也可能主导结果。量化、批处理、推测解码、内核选择和并行化方式,都会影响系统从其电力输入中产出多少 Token。

机架网络又增加了一个变量。Rubin 系统采用高带宽 NVLink 连接,使 GPU 能够作为协同计算结构运行。即使单块 GPU 保持低温,通信开销也可能限制工作负载性能。

最有说服力的测试,应使用两种冷板测量同一套 Rubin 系统。两种配置都应采用相同的软件、冷却液条件、工作负载和设施侧能耗核算方式。

结果应包括结温、热点波动、加速器功耗、泵功耗、冷却液流量、压降、吞吐量和每焦耳 Token 产出。长时间运行能够揭示早期收益是否保持稳定。

数据中心买家还需要性能分布数据,而非仅看峰值结果。即使平均优势看似有限,若冷板能缩小加速器之间的性能差异,仍可能改善集群调度。

这种一致性十分重要,因为大型训练和推理任务可能需要等待最慢的参与者。少量受散热限制的 GPU,就可能降低更大规模同步系统的效率。

因此,Frore 所称的 35% 最好被理解为该公司预测结果的上限,而非每一项 Rubin 部署都能获得的普遍提升。

这些主张仍需要生产规模的验证

LiquidJet Diamond 针对的是一个可信的工程问题,但其公开数据尚不足以构成完整的量产认证依据。

第一项不确定性在于验证。Frore 为其热点规格提供了详细条件,但尚未发布使用量产 Rubin 系统进行的广泛独立基准测试。

分析热模型在开发阶段很有价值。它们可让工程师在最终硬件大规模上市前,比较材料、流道、封装选择和冷却液条件。

但模型仍取决于输入参数。关于功率分布、界面品质、散热器接触、工作负载行为和处理器控制的假设,都可能改变结果。

如果 Frore 说明测试设备与测量方法,计划中的演示将能提供有用证据。热测试载具可以验证受控条件下的散热能力,但不能验证 Token 吞吐量。

量产 GPU 测试可以将温度变化与实际性能联系起来。即便如此,买家仍需要工作负载细节和完整的系统功耗核算。

第二项不确定性是制造。Frore 表示其利用半导体工艺制造铜结构,但尚未披露量产成本或产能。

嵌入钻石会引入更多界面和工艺步骤。由于不同材料的热膨胀率不同,热循环可能对键合部位施加应力。

服务器会在维护、工作负载变化和故障期间反复升温和降温。认证必须证明,冷板在这些循环中仍能保持接触、流动性能和结构完整性。

第三个问题是定制化。为每张热图定制冷却液通道可以改善性能,但也会使特定冷板绑定于某一封装配置。

如果加速器设计后期发生变化,可能需要重新设计冷板。当 GPU 供应商在批量出货前修订功率分布图、机械公差、封装高度或界面要求时,这一风险尤为重要。

云运营商也重视可替换性。高度定制的组件需要在整个部署运行周期内具备可靠的备件库存和明确的维护流程。

第四个问题涉及冷却液基础设施。冷板并非独立运行,它需要连接歧管、泵、冷却液分配单元、换热器、传感器和设施侧循环系统。

压降会影响泵的要求。当许多加速器共享一个机架时,流量分配会变得更加困难。细微的制造差异也可能影响哪条支路获得最多冷却液。

Frore 将 LiquidJet Diamond 描述为即插即用式升级方案,但这一表述需要谨慎理解。机械兼容性并不保证液压特性相同,也不意味着设施要求无需改变。

第五项不确定性是经济性。更低温度可通过更高吞吐量、更低冷却能耗或更长硬件寿命创造价值。买家必须将这些节省与冷板的完整安装成本进行比较。

钻石材料并不必然使系统失去经济性,因为 Frore 仅在热点周围使用它。不过,该公司尚未公布足够的商业信息,无法计算部署回报周期。

第六个问题是封装风险。Frore 最高的热点规格,假设冷板通过 PTM7950 与无顶盖封装直接接触。

移除顶盖可通过消除硅片与冷板之间的层级来降低热阻,但也可能增加多裸芯组件开裂或受力不均的风险。

集成式散热器能够保护封装,并分散机械力。超大规模云服务商或许会为更高产出接受更高的封装风险,但企业买家可能更重视保守的可维护性。

这些问题并不会否定该架构。它们界定了从有说服力的演示到在 AI 集群中部署经过认证产品之间所需完成的工作。

Frore 可以通过发布独立测试结果、详细运行条件、可靠性数据和液压测量结果来强化其论据。客户部署比又一次建模对比更能提供有力证据。

三个信号将决定钻石冷却能否规模化

下一阶段的重点是验证、加速器认证和采用情况,而不是再次提高宣传中的温度指标。

第一个信号是透明的 Rubin 演示。Frore 应说明这套 2,300 瓦配置采用的是量产硅片、预量产硬件,还是基于加热器的测试载具。

一场有价值的演示应披露冷却液温度、流量、压降、封装配置、界面材料和热点测量方法。真实工作负载的结果还应包括完整系统功耗。

若独立测量结果与 Frore 所称的 16°C 至 22°C 区间相符,将强化热点定向冷却的论据。若结果仅限于建模或仿真硬件,核心性能主张仍无法得到验证。

第二个信号是与加速器或服务器供应商完成正式认证。一项具名的设计中标将表明,LiquidJet Diamond 已通过机械、液压、散热和可靠性审查。

获得 Nvidia Rubin 或 AMD Instinct 平台的认证,也将检验 Frore 的定制化模式。这将显示该公司能否将处理器热图转化为可重复生产的组件。

笼统的兼容性声明分量较轻。买家需要证据证明,该冷板能在完整服务器内运行,并具备获批准的安装力、连接器、歧管、固件控制和维护流程。

第三个信号是集群规模的运行数据。一块冷板可以表现良好,但当机架满载时,可能暴露流量平衡、泵、振动、泄漏检测或维护方面的问题。

长期运行结果应追踪加速器温度、性能波动、冷却功耗、故障率和工作负载产出。每瓦 Token 产出应计入配套冷却设备。

如果 Frore 能在这些条件下维持其宣称的效率提升,冷板选择将成为 AI 容量规划的一部分。运营商可从固定的电力配额中获得更多计算工作量。

如果将系统功耗和量产封装纳入考量后,增益有所缩小,LiquidJet Diamond 对极端热点仍可能具有价值,但未必会广泛取代传统冷板。

当前时机仍有利于开展严肃的试验。Nvidia 的 Rubin 平台将高计算密度与 HBM4 及机架级互连相结合。AMD 也在推进同样高度集成的加速器系统。

与此同时,AI 运营商正面临无法仅靠芯片设计解决的供电和基础设施限制。如今,从晶体管到冷却装置之间的每一层,都会影响可用计算容量。

Frore LiquidJet Diamond 提供了一种在技术上连贯的应对方案。它根据处理器的热图引导冷却液流动,并在单靠铜材最难应对局部负载的位置采用金刚石。

剩下的问题是,这种精确性是否能经受制造、认证和机架级运行的考验。在将“每瓦多生成 35% token”视为既定成果之前,买方应关注实测的 Rubin 工作负载、具名系统合作伙伴,以及经独立验证的能耗核算。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page