top of page

NVIDIA DSX Power:企业如何应对 AI 基础设施瓶颈

2小时前
讀畢需時 13 分鐘

NVIDIA 于 10 月 21 日概述了其 DSX 基础设施平台获得合作伙伴采用的新进展,瞄准了仅靠芯片升级无法解决的电力约束问题。NVIDIA DSX 电力战略将电力基础设施、冷却与计算整合到协同规划和运营框架中。其核心主张挑战了一种常见的建设顺序:先确保供电,再设计建筑,最后在内部部署计算机。

此次公告涵盖 Schneider Electric、Siemens Energy、Phaidra 和 Emerald AI 等设备供应商和软件公司。它们的工作范围从开发参考设计到集成运营控制系统不等。这些差异很重要,因为加入一个平台、完成设备认证,以及记录运营设施中的改进,代表着不同层级的证据。

Eaton 和 Trane 通过协同电力与冷却设计提供了一个有用的对比。合在一起,这些工作促使基础设施采购方评估完整系统,而非孤立的组件。核心问题在于,协同基础设施能够提供多少可用计算能力,以及运营商能够在实际电网条件下验证哪些收益。

NVIDIA DSX Power 超越服务器机架

NVIDIA 正将其基础设施战略延伸至决定已部署计算机能否以预期容量运行的环节。

该公司的 DSX 电力更新介绍了一个涵盖仿真、电力灵活性和运营协同的平台。DSX Sim 支持对电网、变电站和设施进行建模。DSX Flex 将设施需求与电力条件及现场发电相协调。DSX Exchange 则连接基础设施系统之间的运营信号。

这些功能对应基础设施项目的不同阶段。仿真支持建设前的决策,而运营协同则涉及已经承载工作负载的设备。将这两个阶段区分开来,有助于理解采用该平台意味着什么。

据 NVIDIA 表示,Schneider Electric、AVEVA 和 ETAP 正在推进参考架构和数字孪生——即物理基础设施的虚拟映射。Siemens Energy 正在开发配套的电力基础设施参考设计。Hitachi Energy 已将一套电池储能系统认证为 DSX Ready。

参考设计规定了设备和系统的预期配置。认证则表明其符合适用要求。两者都不能证明围绕这些组件建设的每一座设施都能实现预期性能。

这一差异使该公告对采购方更具参考价值,因为它明确了每家供应商在部署流程中所处的位置。通过认证的产品有助于缩小设备选择范围。仍在开发中的参考设计支持规划,而软件集成则创造了潜在的运营能力。

设想一座假设中的设施:其电力设备可以支持增加服务器,但冷却系统无法带走新增热量。购买更多计算硬件并不能消除这一限制。基础设施团队必须先理解这种相互作用,才能将未使用的电力容量视为可用计算容量。

反过来的情况同样重要。冷却设备或许还有扩展空间,但电力接入仍受限制。通用规划模型能帮助团队识别究竟是哪一项限制最先成为瓶颈。

因此,这项公告扩大了 NVIDIA 与基础设施采购方之间关系的范围。其硬件架构成为电力、冷却、储能和控制决策的一个输入因素。

对供应商而言,协同意味着进入围绕 NVIDIA 计算系统组织的项目的渠道。对采购方而言,这创造了减少合同和工程专业之间不兼容假设的机会。

实际收益取决于这些共同假设能否经受采购、安装和运营环节的考验。在软件中看似协调的设计,仍需要实际设备按照模型所描述的方式运行。

这也是为何解读这项公告时,最有价值的做法是将架构进展与可衡量的运营结果区分开来。NVIDIA 描述了一个更广泛的协调框架,并点名了参与者。设施所有者仍需确定该框架能在其场址带来什么成果。

电力约束正在改变谁承担交付风险

电力可用性使基础设施协同成为 AI 采购方的交付问题,而不再只是设施团队所关注的事项。

国际能源署更新后的 数据中心展望预计,电力消费将从 2025 年的 485 太瓦时上升至 2030 年的 950 太瓦时。太瓦时衡量的是一段时间内消耗的能源。

这些数字描述的是全球年度消费量,并不能证明某个具体场址能否在服务器到位时获得电力。

这一差异解释了为何总体供应预测很难让面临具体接电期限的项目经理感到安心。地点、设备准备情况和运营要求,决定了可用能源能否转化为可用容量。

直接压力落在承诺完工日期的开发商、承诺计算容量的云服务商,以及围绕这些承诺规划 AI 部署的企业身上。它们的进度依赖于服务器采购协议之外的基础设施。

采购方可以谈妥硬件交付,却仍不确定设施何时能够支持合同约定的工作负载。当协同能够及早揭示这些依赖关系、从而有时间调整计划时,它便具有价值。

它还改变了团队对已建成建筑的理解。实体竣工并不必然意味着设施已准备好以预期规模持续提供计算能力。电气测试、冷却表现和工作负载性能必须相互匹配。

对采购团队而言,这意味着供应商之间的交接应得到与单个产品规格同等程度的重视。谁来验证组合后的表现?当设备各自符合规格、但设施未达到目标时,谁来解决争议?

当项目包含自动化控制系统时,这些问题尤其重要。冷却供应商可能优化温度稳定性,而计算运营方可能优先考虑工作负载完成情况。两项目标都合理,但它们的控制决策需要协调。

压力还会通过容量可用性和服务可靠性传导至 AI 应用团队。开发者无需成为电气工程师,但需要认识到基础设施承诺会影响部署时间表。

服务商宣传的计算容量只能提供部分答案。采购方应了解这些容量何时可用、适用哪些运行条件,以及中断会如何影响其工作。

该公告也给企业内部带来压力。基础设施、财务、采购和工程团队必须评估相同的假设,而不是分别批准项目中彼此脱节的部分。

这项组织工作需要易于访问的技术记录。可检索的工程知识库可以帮助团队在交接过程中保留规格、设计决策和验收证据。

文档无法消除电力约束,但它有助于防止不同部门基于基础设施计划的不同版本作出承诺。

更广泛的含义很直接:交付风险取决于协调程度最低的依赖关系。DSX 通过鼓励供应商围绕共同的基础设施要求进行规划,解决了这一问题中有意义的一部分。

协同设计挑战独立系统方法

主要竞争在于协同基础设施与分别优化电力、冷却和计算的设计之间。

Eaton 和 Trane 在其 8 月 17 日发布的电力与冷却设计中展示了这一转变。它们公布的参考架构与 NVIDIA DSX 保持一致,并将配电与热管理结合起来。

两家公司将其描述为独立工程流程的协同替代方案。它们声称,与传统低压设计相比,能效最高可提升 15%。这是供应商针对特定比较提出的主张,而不是在运营设施中独立证实的普遍结果。

Eaton 和 Trane 与 NVIDIA 最新更新中重点提及的公司一样,都参与了更广泛的基础设施发展趋势。它们的方法为比较解决类似协同问题的供应商提供了具体案例。

竞争问题不止于哪家公司供应某个组件,还涉及哪种配置能为采购方带来可重复的设计、明确的责任归属和可信的运营证据。

独立的工程专业之所以存在,是有充分理由的。电气保护、冷却安全、计算性能和设备维护需要不同的专业知识。协同应在保留这些职责的同时,改善各项决策之间的相互作用。

共享设计流程有助于在不匹配的假设演变为施工问题前将其暴露出来。例如,计算扩容计划可能假定了机械设计并不支持的冷却条件。

与安装完成后相比,这种假设性的不匹配在规划阶段更容易处理。工程师可以在项目开始依赖它们之前,调整设备选择、运行限制或扩展顺序。

数字模型在支持这些决策时才具有价值。仅有视觉细节并不能证明其工程实用性。模型需要包含相关的设备行为、可信的假设,并与验收要求建立清晰关联。

因此,采购方应询问模型预测什么,以及将如何检验这些预测。用于设备选择的仿真,与用于指导运营控制的仿真,承担着不同责任。

这还会带来商业层面的影响。当多家供应商共同构建协同架构时,组合结果的责任可能更难划分。

参考设计提供了共同起点,但合同仍需明确集成问题的责任归属。否则,每家供应商都可能履行各自义务,而客户却要承担系统层面的缺口。

NVIDIA 的角色为参与供应商提供了共同的计算参考,但这并不能免除对其工程方法、支持安排以及与现有设备兼容性的评估。

对于扩建旧设施的运营商而言,这种兼容性尤其值得关注。关键问题是,协同控制能否纳入已安装的基础设施,而无需依赖只适用于新设施的假设。

最有力的做法,是让工程权衡变得清晰可见且可验证。当买家能够将某项声称的改进追溯到设备、控制行为或工作负载调度的具体变化时,他们便能从中受益。

这种可追溯性,正是将一体化架构转化为可问责交付流程的关键。

运营控制旨在释放设施内部已有的容量

协调实时运行的设备带来的益处不同于加快建设速度:它能在既有用电上限内提供更多可用算力。

Phaidra 的设施控制集成将冷却、设备测量数据和电力基础设施与 NVIDIA 工作流连接起来。该公司介绍了软件代理——即用于选择运营行动的系统——旨在提升热稳定性并释放未充分利用的容量。

即使不接受每一项性能主张,其运营逻辑也不难理解。计算设备会产生热量,冷却设备会消耗电力,两者都必须在设施限制内运行。

一项改善该系统某个环节的控制决策,可能影响另一个环节。例如,降低冷却能耗,只有在热环境和电力限制允许增加工作负载时,才能真正创造有用的算力余量。

NVIDIA 将同一功率范围内约 10% 的额外算力归因于 Phaidra 的集成。这里的功率范围,是设备必须在其中运行的用电上限。买家应将这一数字视为企业披露的主张,并要求针对具体部署提供证据。

重要的限定在于“更多算力”的含义。硬件活跃度、已完成作业和有用的应用输出彼此相关,但并不能互相替代。

设施可以让设备保持更高负载,却未必能改善客户购买的成果。反之,即使硬件峰值活跃度大致不变,运营调整也可能提高作业完成效率。

对于 AI 模型服务而言,token 是模型处理或生成的文本单位。每瓦 token 数描述的是相对于电力消耗的输出,但比较时需要保持工作负载和测量边界一致。

运营方应了解,所报告的改进是仅涵盖计算设备,还是覆盖整个设施。冷却、电力损耗和其他支持系统都会影响更广泛的结果。

基准同样重要。将优化后的系统与调校不佳的设备比较,和将其与已经管理良好的设施比较,回答的是不同的问题。

这并不否定优化的价值。它决定了买家应预期能够复现多少已公布的改进。

运营证据还应涵盖工作负载和天气的变化。在稳定条件下表现良好的控制策略,也需要在计算需求或冷却需求发生变化时接受评估。

这些是验收问题,而非拒绝自动化控制的理由。它们有助于区分一项有前景的集成方案,与运营方能够纳入容量规划的实际收益。

对于现有设施而言,其吸引力显而易见。释放可用容量,可以避免每一次扩建都依赖更大的电力接入。

然而,所释放的容量必须在客户关心的条件下持续可用。在受限时段消失的改进,与在正常服务期间始终维持的改进,具有不同的运营价值。

NVIDIA DSX 的电力价值主张在这里最为具体:协调各系统可以改善设施对电力配额的使用方式。要确定这种改进的规模和可靠性,则需要来自完整运营环境的测量数据。

电网灵活性以恒定需求换取附条件的接入能力

灵活的用电需求创造了机会,但运营方必须考虑被延后、迁移或由其他资源支撑的工作。

NVIDIA 表示,Emerald AI 已将其 Conductor 平台与 DSX Flex 集成。相关主张涉及通过更灵活的设施用电需求来利用未充分使用的电网容量。它描述的是建模潜力,而非已经交付给客户的电力容量。

独立研究为这一更广泛的机制提供了有用的参考。杜克大学的灵活负载研究估计,在允许每年削减 0.5% 能源消耗的情景下,可增加 98 吉瓦负载。

削减是指在需要时减少电力消耗。该研究中的年度百分比,指的是被削减的能源相对于最大潜在消耗量的比例;不应将其理解为同等比例的停运时间。

这一差异很重要,因为分散在多个时段的部分削减,与关闭整个设施并不相同。年度平均值也无法说明某一具体站点的实际体验。

该研究支持将灵活性作为基础设施资源加以研究。它并不验证每一种商业实施方案,也不保证单个项目能够获得电力接入。

一个假设的模型训练作业说明了其中的运营权衡。训练会使用数据更新模型,而部分作业或许能够容忍时间安排的变化。延后工作仍会影响完成进度和设备利用率。

交互式应用面临不同的要求。推理,即运行已训练模型的过程,通常服务于期待及时响应的用户。在需求激增时减少可用算力,可能影响服务,除非运营方另有安排。

将工作迁移到其他地点会带来自身的限制。接收地点需要具备可用算力、所需数据以及处理该数据的许可。调度决策不会自动创造这些条件。

电池储能提供了另一种运营选择,但储存的能源是有限的。其效用取决于所需削减的持续时间和幅度,以及设施的其他可靠性需求。

现场发电引入了另一组设备和运营依赖因素。应将其视为完整基础设施计划的一部分进行评估,而不是把它当作自动摆脱电网限制的途径。

IEA 此前的AI 能源分析强调了经济层面的难题:AI 设施属于资本密集型资产,降低运行水平的代价高昂。因此,必须结合受影响计算工作的价值来评估灵活性。

这是广泛容量主张的核心限制。存在未使用的电网余量,并不能证明每一种工作负载都能在经济上适应它。

买家应询问,灵活性承诺如何转化为对客户的义务。哪些工作负载会改变,适用何种通知机制,以及之后如何衡量已完成的工作?

可信的协议会将电网要求与运营行为及服务承诺联系起来。缺少这种联系,基础设施规划就可能将应用所有者从未同意提供的灵活性计算在内。

这一机会仍然足够可观,值得研究。其价值来自于将实际的工作负载容忍度与实际电网条件相匹配,再验证该安排能否同时适用于双方。

三项信号将显示采用是否转化为运营证据

接下来最有价值的证据,将把具名设施、测量结果和可执行的运营安排联系起来。

未来三个月,应关注的第一个信号是公布可识别的部署案例及明确的运营范围。供应商参与表明其已介入,而具名设施则有助于读者评估哪些内容已经投入生产。

最有参考价值的披露,应说明现场运行了哪些 DSX 功能、哪些设备参与其中,以及由哪个组织对结果负责。它还应区分规划软件与控制实时基础设施的系统。

这类证据将强化平台正在超越架构协同阶段的判断。进一步的合作公告会扩大参与范围,但对运营表现提供的信息较少。

第二个信号,是将基础设施变化与已完成计算工作联系起来的测量结果。结果应说明基准、工作负载、观察期和电力边界。

例如,设施级比较应将支持系统与计算设备一并纳入考量。仅针对计算设备的比较也应明确说明,让买家了解该结果排除了哪些因素。

独立审查将使这些披露更具说服力,尤其是在所声称的收益将成为客户扩建计划一部分时。在不同运营条件下可重复的结果,比孤立的峰值改进能提供更有力的证据。

这一信号将强化协调能够创造持久容量的论点。若结果依赖异常有利的条件,买家应预期获得类似收益的适用场景就会更为有限。

第三个信号,是披露一项将灵活需求与客户实际可使用服务相连的公用事业安排。关键证据在于,承诺的负载削减与作为回报授予的电力接入之间的关系。

一项有用的披露应说明运营义务、验证方式,以及设施无法按预期降低需求时将如何处理。它还应明确运营方如何保障对客户的承诺。

这将把灵活性论点与基础设施交付联系起来。若持续进行建模却没有相应的运营协议,商业机会的规模仍将较不确定。

这些信号也有助于读者比较不同供应商,而不必依赖关于一体化基础设施的宽泛主张。一家正在开发参考设计的公司,应根据设计里程碑接受评估。运营软件提供商,则应根据运营结果接受评估。

对于企业买家而言,眼下的任务是让采购问题与现有证据相匹配。应询问哪些主张描述的是架构,哪些描述的是资格验证,哪些描述的是经测量的客户成果。

对于开发者而言,相关问题是基础设施安排将如何影响算力获取。容量承诺应能以可用性、调度限制和服务预期来理解。

NVIDIA 的公告提供了一幅有用的图景,展示了供应商正将精力集中在何处。它也说明,基础设施问题为何需要不同责任和激励机制的组织协同合作。

NVIDIA DSX 电力战略值得关注,因为它连接了共同决定可用 AI 容量的各项决策。应以同样具体的问题评估下一项部署公告:今天实际运行了什么?测量到了何种改进?适用哪些条件?请供应商说明,电网灵活性将如何影响你计划运行的工作负载。在效率主张之外,也应比较已完成工作和服务可靠性。将设计预期与验收证据区分开来,并在设施扩建时要求更新结果。这些步骤为买家提供了一种实用途径,用于在平台发展过程中判断其采用情况。哪家供应商能够将其基础设施承诺转化为你的团队可以依赖的计算容量?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page