National Compute Grid 汇集闲置 AI 容量,但可靠性才是真正考验
National Compute 已推出 National Compute Grid,目前已接入或正在评估接入约 760 兆瓦的容量。该项目挑战了人们对 AI 基础设施短缺的一个常见假设:主要问题或许并非可用加速器的数量,而是现有容量分散在彼此脱节的供应商、合同和调度系统之中。
National Compute Grid 提议为这些碎片化容量建立一个共享市场。初创公司、大学、政府实验室和 AI 开发者无需协商专属的多年期集群租约,即可申请基础设施。参与供应商则可以提供闲置硬件,同时保留为自身已排定训练任务预留的容量。
这一模式使 National Compute 与大型 AI 实验室和超大规模云服务商偏好的单租户基础设施协议形成竞争。OpenAI 和 Anthropic 可以通过长期承诺锁定庞大集群。规模较小的开发者则往往只在实验、推理、评估或短期训练高峰期间需要临时访问权限。
该计算网格试图通过通用调度与市场软件服务这些更难预测的工作负载。它还支持 NVIDIA 和 AMD 加速器、Google TPU,以及新兴芯片架构。然而,列出多样化容量要比让它们真正可以互换容易得多。
分布式资源池无法自动复现前沿模型训练所使用的高度紧密连接的集群。数据传输、网络、软件兼容性、安全性和硬件可靠性,仍会限制各类工作负载能够在哪里运行。
因此,此次发布构成了对两种竞争性基础设施模式的检验。一种为单个租户预留完整集群;另一种则将计算视为共享市场,可将未使用的容量重新导向即时需求。
National Compute Grid 将搁置硬件转化为共享市场
National Compute 销售的是协同容量的访问权,并不声称分散的 GPU 能组成一台巨型超级计算机。
根据其网格设计论文,该计算网格于 2026 年 6 月进入仅限受邀用户参与的早期访问阶段。其公开网站目前向符合条件的政府、军事和教育用户提供预览访问。其他潜在客户可以加入等候名单。
Grid Exchange 是该项目的核心市场。它跟踪各供应商提供的可用节点,并将工作负载与合适硬件进行匹配。调度器会考虑芯片类型、位置、利用率、可用性以及客户的支出上限。
成员可以通过自带容量系统接入已拥有或租赁的基础设施。当这些机器不再有内部需求时,成员可将其提供给其他参与者。原持有方会在网络使用这些容量时获得收入。
这一安排旨在解决 AI 采购中的一个基本错配。研究团队通常在尚不清楚实验是否会成功之前便预留基础设施。成功的结果可能迅速推高需求,而失败的方向则可能让昂贵的集群处于低利用率状态。
National Compute 表示,独立的单租户集群经常出现低于 60% 的节点占用率。其论文还称,模型 FLOPS 利用率低于 30%,平均净计算利用率低于 15%。这些数字来自联盟观察,并非独立的全行业审计。
这一区别很重要。一块 GPU 看似被占用,却可能几乎没有完成有价值的工作。它可能在等待数据、通信、存储,或等待另一台发生故障的节点。因此,原始分配时长并不能说明基础设施推进训练任务的效率。
该联盟以一项名为 goodput 的指标作出回应。goodput 衡量的是已完成且未中断的工作,而不是预留的 GPU 小时数。对于训练,系统计算的是能够成功推进任务的连续运行时间。
根据拟议模式,中断的训练运行不会像已完成工作一样产生相同费用。推理容量则取决于声明的副本可用性。批处理将通过已完成的吞吐量来衡量。
这种设计将更多可靠性风险转移给基础设施运营商。当机器反复故障、停滞或中断任务时,供应商的收入会减少。客户则获得了依据结果而非名义加速器数量进行评估的激励。
该系统还支持峰值预留。研究团队可以为期三到六个月的窗口预留更大规模的集群,而不必持续多年租用它。计算网格可在计划运行开始前,用较低优先级的工作填补闲置时段。
National Compute 表示,其成员拥有约 760 兆瓦已接入或“已在视野内”的容量。该表述将现有基础设施与仍处于规划阶段的容量合并计算。因此,它不应被理解为 760 兆瓦可立即供客户使用的供应量。
该联盟设定了到 2030 年达到 2 吉瓦的目标。实现这一目标不仅需要签约供应商。National Compute 还必须整合其系统、验证可用性,并在一致的运营规则下交付工作负载。
为什么 AI 计算访问更有利于最大的买家
该计算网格之所以重要,是因为传统 AI 基础设施合同会奖励可预测的规模,即便研究需求本身难以预测。
大型 AI 开发者能够作出长期承诺,因为他们预计多个产品和研究项目将持续产生需求。他们也能在内部团队之间分配未使用的基础设施。较小的实验室则缺乏同等的财务与组织灵活性。
机器人公司 1X 的 AI 负责人 Sam Sinha 在最初的发布报道中描述了这种不平衡。他认为,市场不能只由 OpenAI 和 Anthropic 控制对主要计算资源的访问。
这种担忧不只关乎初创公司竞争。大学和政府实验室通常需要临时容量,用于科学模拟、模型评估和专项训练任务。它们的预算与采购周期很少能与商业 AI 领军企业相提并论。
一个大学团队可能在会议截止日期前需要数百个加速器。机器人开发者在训练新的控制模型时,可能需要额外容量。国家实验室也可能在某项特定实验前后需要一波 GPU 资源。
这些工作负载很重要,但并不规律。为每次峰值购买永久专属集群会浪费资金和能源。等待容量也可能拖延研究,直至成果失去技术或商业价值。
资源池化试图通过统计复用减少这种闲置储备。该术语指的是将不同的需求模式结合起来,使一名用户的低需求时段能够服务另一名用户的峰值需求。电话网络和电力系统也采用相关原理。
National Compute 估计,汇集十个独立参与者可将单位计算量的浪费容量减少约三倍。它还表示,由 100 名参与者组成的资源池可将这种浪费减少约十倍。
这些估计取决于需求的多样性。如果每家 AI 公司都在同一场模型竞赛中需要最新的加速器,它们的需求就会高度相关。当所有参与者同时经历需求峰值时,资源池化无法凭空创造硬件。
该模式在客户拥有不同工作负载、截止日期、芯片偏好和时区时效果最佳。推理、批处理、评估、微调和较小规模的训练项目,可以填补大型运行任务之间留下的空档。
这意味着,该计算网格的首个优势很可能会出现在最大规模前沿训练之下。灵活工作负载比涉及数千个高度联网加速器的同步运行更容易在供应商之间迁移。
National Compute 还将该计算网格与公共科学联系起来。它已宣布为旨在利用 AI 加速研究的联邦 Genesis Mission 提供计算积分承诺。该项目为 National Compute 提供了一个显著的公共部门验证场景。
若能成功,这将表明共享商业基础设施可以补充国家实验室超级计算机。若失败,则会揭示采购、安全和软件要求如何限制资源池市场表面上的灵活性。
因此,压力落在两类参与者身上。超大规模云服务商必须说明,为何对于可容忍灵活性的工作负载,长期承诺仍然必要。National Compute 则必须证明,灵活性不会牺牲可靠性、保密性或有效性能。
National Compute 计划如何协调不同云和芯片
该计算网格的核心机制是一个中立调度器,将跨组织边界的容量视为统一市场。
在单一超大规模云服务商内部,调度器可以看到硬件状态、工作负载优先级、网络拓扑和内部需求。由于同一组织控制机器、软件和运营政策,它可以转移任务。
National Compute 正试图将这种可见性扩展至独立供应商之间。其调度器跟踪节点状态、打包兼容工作负载,并持续分配供应。它还可以根据既定优先级规则抢占或迁移任务。
该架构借鉴了 Google 的 Borg 调度体系及其后续的 Quota Marketplace。National Compute 表示,其创始团队成员此前曾参与构建和运营这些系统。
Google 的内部经验为该项目提供了最有力的技术先例。该论文称,随着动态分配在其 AI 基础设施中扩展,资源池占用率从约 65% 提升至 99%。
一项更受控的比较涉及两个规模相近、各自包含数十万颗芯片的资源池。National Compute 引用了静态资源池 75% 的占用率,以及市场化资源池 93% 的占用率。
不过,Google 的环境拥有一项关键优势:单一公司控制参与的数据中心、身份系统、网络标准和运营激励。National Compute 必须在仍互为商业竞争对手的组织之间复制这些调度收益。
Vultr 作为创始联盟成员加入该项目,并在贡献基础设施。其联盟公告将 Grid Exchange 描述为跨云、实体站点和加速器架构的通用编排层。
Vultr 同样支持 goodput 模型。这使参与供应商有动力维持可用性,而非最大化计费分配时长。不过,在客户能够比较供应商之前,该计算网格必须以一致方式定义 goodput。
不同加速器带来了另一层复杂性。NVIDIA GPU、AMD 加速器和 Google TPU 使用不同的软件栈、开发工具和优化方法。为某个平台准备的工作负载未必能在另一个平台上高效运行。
调度器可以揭示这些差异,而无法消除它们。客户仍需要兼容的框架、模型代码、库、存储和检查点格式。该计算网格必须将每项任务放置在满足这些要求的基础设施上。
National Compute 的技术文档目前描述了三种访问模式。客户可以申请虚拟机集群、向专属 Kubernetes 集群提交 GPU 任务,或通过公共研究计划获得整台节点。
虚拟机用户需声明所需 GPU 数量及可接受的最高费率。只要市场出清水平不超过该上限,市场便会分配机器。在保护条件到期后,容量可能会被收回。
Kubernetes 客户可为自行产生需求的任务设定类似上限。公共研究人员则可通过 National Compute 的 Marshall 接口申请完整节点。该计划在主要拍卖结构之外运行。
这些接口让这张网格比一项政策提案更具象。它们展示了开发者如何在无需逐一与每家供应商协商的情况下申请容量。但它们尚未证明整个网络能够持续提供一致性能。
National Compute 最终需要在多类工作负载中提供运营证据。适用于批量推理的调度器,可能难以胜任分布式训练。适合公共研究的资源池,也可能仍无法满足受监管企业的要求。
因此,其核心机制可信,但尚未完善。内部算力资源市场已在大规模环境中提升了利用率。尚未解决的问题是,共享标准能否将这一成果扩展到单一公司信任边界之外。
碎片化容量无法替代前沿训练集群
只有当网络、存储、软件和安全能力能够支撑所请求的工作负载时,闲置 GPU 才能成为有用供给。
前沿模型训练要求加速器以极低延迟交换数据。数千枚芯片可能共同执行一次同步计算。集群中任一环节的延迟或故障,都可能拖慢整个训练任务。
分散在遥远数据中心的机器,无法仅通过普通互联网连接参与这类计算。在设施之间迁移模型检查点和训练数据集同样需要时间。数据传输限制甚至可能完全阻止迁移。
这一限制将可互换的算力与名义上的算力区分开来。当一块 GPU 位于所需存储与网络架构旁边,而另一块不在时,即使两者型号相同,也并不等价。它们所处的物理和软件环境决定了能够执行的工作。
National Compute 并不需要让每台机器支持所有工作负载。市场可以按加速器、拓扑、地点、安全等级和可靠性细分容量。客户随后可选择符合自身要求的资源。
即便如此,细分仍会缩小每个可用资源池的规模。需要在认证区域使用某一加速器类型的客户,无法从所有已列出的节点中获取资源。因此,整体容量这一标题数字会夸大任何特定任务可获得的供给。
该项目自身的论文也承认第二个问题:安全规则仍在制定中。共享基础设施可能会将专有模型权重、检查点和训练数据部署在由多家组织运营的机器上。
这种安排会成为攻击者颇具吸引力的目标,也会让调度器成为中心化的信任点。遭入侵的控制平面可能泄露敏感工作负载的运行位置,或将其重定向至不安全的站点。
National Compute 为不同工作负载提出了安全分级。开放数据的批量任务,所面对的要求将不同于医疗数据、政府工作负载或未发布模型训练。站点将获得与这些等级对应的认证。
调度器将阻止敏感工作在低于其声明保护级别的环境中运行。拟议的控制措施还包括在节点复用前进行擦除和重新认证。在条件允许时,更高等级可能要求使用机密计算硬件。
这些仍只是提案。该联盟表示尚未最终确定治理规则,并已向安全、研究和政策社区征求意见。首部《Grid Constitution》预计将确立这些运营约束。
论文自身还存在值得关注的时间表不一致之处。摘要称全面可用性将于 2027 年 1 月 15 日开始;后文的路线图则称 Grid Exchange 已于 2026 年 9 月 15 日进入全面可用阶段。
与此同时,官方网站将当前服务描述为仅限公共访问合作伙伴使用的预览版。这些表述可能反映了快速变化的发布计划中的修订,但也使实际商业化状态更难判断。
预订数据同样需要谨慎看待。论文称,在技术预览期间已获得超过 11 亿美元的长期预订。后续的行业分析援引了更大的报告数字,超过 50 亿美元。
这两个金额都不应被视为已确认收入。预订可能代表未来意向、附条件容量或多年期承诺。National Compute 尚未公布涵盖这些预订的经审计利用率、交付或收入数据。
不足 15% 的利用率说法同样来自该项目及其成员。这一指标或可揭示低效问题,但并不意味着所有已安装的 AI 硬件中有 85% 可自由使用。
部分容量按设计就应保持闲置。运营商需要为故障、需求激增、维护和计划中的训练保留余量。合同可能禁止转售,而数据本地化义务也可能阻止外部租户使用某些系统。
National Compute 必须区分真正闲置的硬件与必要的备用容量。否则,市场在低需求时期可能看似充裕,却恰恰会在需求上升时失效。
真正的竞争是共享算力与专属容量之争
National Compute 并非要取代 hyperscalers;它正在检验客户是否需要在 AI 开发的每个阶段都使用独占基础设施。
专属容量提供可预测的拓扑、稳定的性能,以及对敏感工作负载的直接控制。这些特质对于大规模训练运行和具有严格延迟要求的生产服务至关重要。
其弱点在于承诺风险。客户必须在尚不清楚哪些实验会成功之前很久预测需求。即使研究方向改变、硬件改进或工作负载所需资源减少,他们仍需为预订付费。
资源池市场则颠倒了这种取舍。它提供灵活性和潜在的更高利用率,但客户需要接受供应的波动性。他们也依赖于跨供应商统一的调度、安全和性能规则。
这两种模式可以共存于同一个 AI 项目中。实验室可以将网格容量用于评估、数据处理、微调和实验性运行,随后为同步预训练任务预订专属集群。
网格的峰值预订模式明确支持这种混合方式。成员可以为已知时间窗口锁定大块容量,同时将未使用时段释放给其他客户。这使该系统既是已承诺基础设施的补充,也是其替代方案。
Hyperscalers 已经运营现货市场和内部调度器。它们的优势来自于对完整设施和网络的控制。National Compute 的差异化在于供应商中立性,以及跨组织边界整合供给的能力。
这种中立性需要可执行的治理机制。供应商必须相信,竞争对手无法耗尽其积分或操纵调度。客户则必须知道,运营方不能偏袒某一特定供应商、模型开发者或芯片架构。
拟议的 Grid Index 可通过发布市场出清信息发挥作用。透明的基准将让研究人员、基础设施运营商和资助方比较不同容量类别的价值。
公共研究资助未来或可包含算力积分,而非默认采用单一云合同。初创公司可以依据可见市场为实验定价。基础设施所有者则可衡量,出售闲置容量是否优于让备用机器闲置。
然而,有用的指数需要真实的交易量。源自稀薄或附条件供给的价格可能误导买家。National Compute 必须证明,已发布的容量能够在常规和需求高峰期间转化为完成的任务。
最有力的证明将来自回头客。成功为一次实验扩容的初创公司可提供有价值的案例研究;在多个项目中持续回归的团队,则表明该市场能够成为常规基础设施规划的一部分。
出于同样原因,供应商参与也很重要。Vultr 为该联盟带来了一家可信的云服务成员,而 Crusoe 也已表明自己是发布合作伙伴。National Compute 尚未公开完整成员名单。
这种有限的透明度使得评估地理覆盖范围、加速器多样性或供应商集中度变得困难。一个名义上中立的市场,可能仍依赖于少数几家基础设施公司。
当网格能够在不要求永久承诺的前提下提供可预测的访问能力时,它将对传统合同施加最大压力。它不需要在每一项任务上都优于专属集群。
它只需让灵活容量对相当一部分 AI 工作足够可靠即可。每一项转移至该市场的工作负载,都会减少团队为不确定的未来需求而必须预订的基础设施数量。
National Compute Grid 发布后值得关注的事项
三个信号将决定该网格会成为有用的基础设施,还是停留在雄心勃勃的协调实验阶段。
第一个信号是经验证的已交付容量。National Compute 应将运营中的节点与计划项目、潜在成员及仍“在视野中”的基础设施区分开来。公开数据应包括加速器类型、地点、可用时间窗口以及已完成的工作负载量。
独立的利用率数据将增强其论点。该网格的核心主张在于将闲置机器转化为有用工作。它应报告有效吞吐量、中断情况、调度延迟,以及客户实际能够获得的已列出容量比例。
若这些指标显示多个供应商之间存在持续使用,该项目的市场论点将获得支持。若大多数容量仍停留在规划阶段,760 兆瓦这一标题数字看起来将更像项目储备,而非正在运行的资源池。
第二个信号是工作负载多样性的成功表现。较小规模的训练运行、推理、批量处理、评估和公共研究应率先投入生产。这些任务比高度同步的前沿训练更能容忍变化。
National Compute 应公布示例,说明任务运行了多长时间、是否跨供应商迁移,以及哪些硬件约束影响了部署位置。透明的故障数据也同样有价值。
在多样化工作负载上实现可靠完成,将证明共享调度的能力超越了演示阶段。反复中断或狭窄的硬件兼容性,则会削弱碎片化供给能够像统一市场一样运作的主张。
第三个信号是可执行的安全与治理机制。《Grid Constitution》应定义认证等级、事件报告、工作负载部署、审计权、运营方限制,以及处理客户数据的规则。
这些规则必须超越愿景性表述。政府实验室和模型开发者需要证据证明节点会被擦除、重新认证并受到监控。客户也需要一套明确的流程来处理争议和服务故障。
National Compute Grid 发现了一个真实的矛盾:AI 公司将算力描述为稀缺资源,但昂贵的加速器在高峰工作负载之间仍未被充分利用。更好的协调机制可以回收其中一部分被浪费的容量。
然而,编排无法消除物理限制、合同约束或信任边界。该项目的未来取决于能否在压力之下,将宣传中的兆瓦容量转化为安全、已完成的实际工作。
开发者和科研采购方应关注实际交付的有效吞吐量,而非宣传的容量规模。他们应将等待时间、中断风险、硬件兼容性和数据控制能力,与专用替代方案进行比较。如果 National Compute 公布这些结果,并且客户持续回归,共享 AI 算力便可能成为一个持久的基础设施类别。否则,市场仍将青睐那些能够提前数年预订完整集群的大型买家。



