Pat Gelsinger 的 AI 硬件警告：HBM 很糟糕，电力才是真正的制约
Pat Gelsinger 在 10 月 9 日提出了由三部分组成的 AI 硬件警告。更好的芯片设计无法弥补内存不足、制造缓慢或电力不可得的问题。
这位前 Intel CEO 在一期 The a16z Show 中称高带宽内存（HBM）是一项“丑陋”的技术。他也表示，AI 硬件正进入复兴期。不过，他最尖锐的预测涉及那些无法获得足够电力的数据中心建设计划。
“如果我无法为它供电，为什么还要建设新的数据中心、购买一百万块 GPU？”Gelsinger 问道。他预测，更多数据中心项目将因预期能源无法到位而违约。
这一预测并非已经得到独立证实的结果。它是 Gelsinger 对那些财务与建设计划依赖未来电力交付项目的判断。不过，其背后的供需失配确实值得关注。
AI 基础设施支出常常看起来像是一场围绕加速器供应的竞争。但 Nvidia、AMD、定制芯片设计商、内存制造商、云服务商、公用事业公司和开发商，实际上面对的是一套相互关联的制约系统。
当处理器还在等待模型数据时，更快的处理器价值有限。当设施仍卡在并网排队中时，完工的服务器价值有限。当输电与发电能力要多年后才能到位时，预留的供电协议价值同样有限。
因此，Pat Gelsinger 的 AI 硬件论点所聚焦的核心冲突，并不是 Nvidia 与另一家芯片公司之间的竞争，而是承诺中的计算能力与运行这些能力所需实体基础设施之间的矛盾。
Pat Gelsinger 的 AI 硬件观点将三大瓶颈联系起来
Gelsinger 的重要观点并非某一个组件已经失效，而是设计、生产、内存和电力如今正以彼此不兼容的速度推进。
AI 可以通过帮助工程师编写、检查和优化复杂设计，缩短半导体设计的部分环节。但这种改进并不会自动缩短后续的每一个阶段。
晶圆制造、先进封装、验证、系统集成和软件开发仍然需要漫长的周期。Gelsinger 认为，这些步骤可能耗时过久，以至于加速器最初针对的工作负载假设，在大规模部署前就已过时。
他举出的历史案例是 Graphcore。这家英国芯片公司为机器学习开发了智能处理单元，但周边市场与软件环境迅速变化。Gelsinger 的重点并不是说其工程能力不够出色，危险在于目标变化的速度可能快于产品周期。
当芯片公司走向专业化时，这种风险会进一步增加。一种针对当今模型结构优化的架构，到了发布时可能会面对不同的注意力机制、数据格式、上下文要求或推理模式。
该行业也在试验大量专用推理处理器。Gelsinger 预计这一领域将出现整合，因为客户无法支持硬件与软件的无穷组合。
每一种架构都需要编译器、框架、优化内核、网络、监控与运维工具。这些要求会形成软件负担，其重要性可能超过亮眼的基准测试成绩。
10 月 9 日的podcast transcript将这一商业化问题与两项物理限制联系起来。AI 系统需要足够接近加速器的内存来持续供给数据，而设施则需要可靠的电力来运行计算与制冷设备。
这一框架改变了买方解读加速器发布信息的方式。峰值算力仅描述了已部署系统的一部分。内存容量、可用带宽、封装良率、网络、散热和电力可得性，都可能决定实际产出。
Gelsinger 并非中立观察者。他在 Intel 任职期间，曾领导一项成本高昂的计划，试图重建其制造实力并更有效地参与 AI 竞争。他目前的利益也涉及硬件和光子学创业项目。
不过，他的行业经验仍让这些批评更具分量。他曾参与处理器设计、制造战略、系统架构和高管决策。他所描述的是买方可以检验的依赖关系，而不是要求人们接受一项单一的性能主张。
因此，他眼中的复兴期并不平顺。AI 工具可以扩大有能力提出新芯片方案的团队数量。制造经济性与软件采用情况将决定哪些方案能够成为持久的平台。
这引出了本文的第一个反转：更容易的设计可以催生更多架构实验，同时也让制造准入、封装能力和部署纪律变得更加重要。
为什么 Pat Gelsinger 称 HBM 是糟糕的内存
HBM 的成功源于 AI 加速器需要极高带宽，而不是因为堆叠式 DRAM 在容量、密度、温度和成本之间提供了理想平衡。
高带宽内存将动态随机存取内存堆叠并置于加速器附近。宽连接使处理器能够搬运远多于传统服务器内存通过较窄通道所能传输的数据。
这种接近性至关重要，因为许多 AI 操作受制于数据移动。如果模型权重、激活值或缓存令牌到达速度太慢，加速器便无法让其计算单元持续忙碌。
HBM 解决了带宽问题，但其结构也带来了艰难的权衡。堆叠芯片将内存与热量集中在很小的区域。先进封装必须在维持可接受良率的同时，将内存堆栈与昂贵的加速器连接起来。
Gelsinger 重点谈到了比特密度、边缘带宽、功耗和热特性。边缘带宽是指设计人员能够沿芯片或封装周围有限物理边界布置多少连接能力。
他还指出，DRAM 对热量的耐受性并不好。将内存靠近高温计算单元可改善通信，但也会增加热管理难度。
他的措辞刻意尖锐：HBM 是“糟糕的”内存，但它仍是目前最可用的选择。后半句至关重要，因为这种批评并不意味着 AI 芯片制造商作出了不理性的决定。
该行业采用 HBM，是为了解决迫切的瓶颈。若没有有效替代方案便将其移除，会降低处理大型模型的处理器可获得的带宽。
HBM 制造商也在持续改进堆叠、接口、能效和集成能力。SK hynix、Samsung 和 Micron 已投入巨资，因为加速器公司当下就需要这些提升。
SK hynix 将更紧密的内存与逻辑集成视为突破当前系统限制的途径。其公开的memory integration工作强调与晶圆代工厂和封装合作伙伴的协作。
这一立场在一定程度上支持了 Gelsinger。一家领先的 HBM 供应商并未宣称传统的远端内存能够满足未来 AI 的要求。它正在让内存更接近逻辑芯片，并将封装视为架构的一部分。
不过，改进并不会让 HBM 成为永久答案。容量、热密度、制造复杂性和物理接口限制，仍是活跃的研究问题。
替代方案以不同方式拆解这一问题。近存计算将特定操作移到更靠近存储数据的位置。更大的低成本内存池以部分带宽换取容量。新型互连技术则尝试让加速器访问额外内存，而不会承受过高的延迟代价。
高带宽闪存最终可能为某些工作负载提供更大的容量，但它无法在所有角色中直接替代 DRAM。存内计算概念则试图通过在数据所在位置执行某些操作，减少数据移动。
这些方法需要新的硬件与软件假设。开发者需要可预测的编程模型，云服务运营商则需要在不断变化的工作负载中仍然有用的系统。
因此，不应将对 HBM 的批评误解为 HBM 需求将在近期崩塌。当前市场需要巨大的带宽，而生产系统必须使用已经能够规模化供应的技术。
更有价值的解读是架构层面的。每增加一层材料、互连、散热机制和封装步骤，都表明如今为持续供给处理器所投入的工程工作有多么庞大。
因此，AI 买家应关注持续的应用性能，而不只是加速器标称吞吐量。他们应考察每台设备的内存容量、真实工作负载下的带宽、热降频、互连表现和软件成熟度。
Gelsinger 对 HBM 的批评，作为对内存墙的诊断最具说服力。内存墙指的是计算速度与系统向处理器供应数据的能力之间不断扩大的差距。
HBM 推迟了这堵墙的到来，但并未消除它。
AI 硬件复兴仍要穿过制造环节
AI 正在创造更广泛的芯片创意空间，而晶圆制造、封装和软件规模化能力则在缩小能够存活下来的参与者范围。
Gelsinger 认为，AI 辅助可以压缩芯片开发周期。工程师可以利用模型生成设计元素、探索布局、检查验证结果，并处理更庞大的技术信息。
这可以降低形成可行设计所需的工作量。但它无法凭空建成一座现代晶圆厂，无法立即增加先进封装产能，也无法保证可接受的制造良率。
一款芯片只有在被制造、封装、测试、安装、编程并可靠运行之后，才能具备商业意义。任一环节薄弱，都可能延迟收入，或让客户手中硬件的利用率不足。
这正是这场复兴不同于简单创业热潮的地方。更多团队可以探索专用处理器，但真正能够获得实现大规模部署所需全部资源的团队相对较少。
Nvidia 的优势说明了这一点。其地位建立在加速器性能之上，也建立在软件、网络、系统、开发者熟悉度，以及为大规模部署打造的供应链之上。
AMD 依靠其 Instinct 加速器及配套软件参与竞争。Google 多年来一直在其云平台内部开发和部署 Tensor Processing Units。Amazon 和 Microsoft 也为自身工作负载设计定制芯片。
这些公司能够将芯片设计与数据中心、内部软件团队、客户需求和采购承诺联系起来。规模较小的设计商往往必须通过合作伙伴关系拼凑这些要素。
制造周期还会带来另一种风险。针对某一代模型构思的专用芯片，可能在客户已转向不同模型规模或推理经济性之后才进入量产。
Gelsinger 的论点在指出这种时间错配时最有力。AI 可以帮助设计者在早期更快推进，而实体生产路径仍相对僵化。
光互连是其中一种拟议的应对方案。它利用光在线性系统组件之间传输信息，可能降低长距离传输中部分电信号的限制。
Gelsinger 曾表示，光链路应承担更多输入和输出流量，而内存与计算则保持彼此接近。他目前的工作包括通过 xLight 推广光子学方案。
一篇光子芯片报道将这一努力描述为改善大型计算系统连接方式的更广泛尝试的一部分。这项技术仍面临制造、集成和采用方面的障碍。
光学技术无法解决所有瓶颈。它不能提供电力、增加 HBM 堆叠数量，或消除对高效软件的需求。但它可以降低数据在系统各部分之间传输所带来的能耗和延迟。
同样的原则也适用于芯粒、先进封装和内存集成。现代性能提升越来越依赖于连接专用组件，而非依靠单一的单体式处理器。
这提高了能够协调多家供应商的公司的价值，也放大了任何一个组件延迟所带来的后果。
因此，AI 硬件的复兴将同时带来多样化与整合。新设计会不断出现，但客户会将支出集中于能够大规模交付并可靠运行现有软件的架构。
开发者应像关注芯片规格一样关注软件支持。即使完成安装，缺乏成熟编译器或经过优化的模型内核，再有前景的加速器也可能闲置。
企业采购者面临相关的决策。提前数年预订硬件可以锁定产能，但也可能使组织被锁定在对模型、能源成本和利用率的假设之中。
胜出的架构未必是理论指标最大的芯片。它可能是能以可接受的运营成本，将可用内存、电力和软件转化为稳定 Token 输出的系统。
电力短缺将计算计划转化为信用风险
电力约束会将工程问题转化为融资问题，因为未完工或供电不足的设施无法支撑其预期收入。
Gelsinger 的默认风险警告主要针对项目，并不一定意味着成熟云服务商会立即陷入困境。这一区别避免了戏剧化的预测演变成误导性论断。
一个数据中心开发项目可能涉及土地、许可、建设融资、设备承诺、公用事业协议以及预期客户合同。这些环节并不总能按相同进度成熟。
开发商建设建筑和订购服务器的速度，可能快于公用事业公司新增发电能力、输电线路、变电站和并网连接的速度。若项目错过通电日期，可能在服务客户之前就开始为资产付费。
这种延迟可能削弱财务模型。债务偿还仍在继续，设备持续折旧，客户也可能转向其他地方寻求容量。若只获得部分电力配额，原本按高利用率规划的项目就会变得脆弱。
这正是 Gelsinger 警告背后的机制。它并不要求全国范围内的电力消失。局部短缺、连接延迟或交付时间表的不确定性，都可能损害单个项目。
国际能源署估计，2024 年全球数据中心耗电约 415 太瓦时。其基准情景预计，到 2030 年需求将达到约 945 太瓦时。
IEA 预计，到 2030 年，数据中心在全球电力需求增长中的占比将低于 10%。这一全球占比可以与个别市场面临的严重压力并存。
数据中心在地理上高度集中。它们还需要在特定地点获得大规模、可靠的负荷，因此本地电网条件比全球总量更为重要。
该机构的能源需求分析预计，以 AI 为重点的设施将推动大部分增长。报告也强调，预测取决于效率、采用情况、硬件和模型发展。
这种不确定性具有双向影响。更好的芯片、改进的冷却技术和更高效的模型可以降低每项任务的耗电量。更低的成本随后又可能刺激更多使用，抵消部分效率收益。
设施开发商有多种应对方式：选择可用发电能力充足的地区、分阶段建设、签订长期购电协议，或支持新增发电和输电项目。
一些运营商正在探索天然气发电、核电合同、配合储能的可再生能源，以及灵活的计算调度。每种方案都涉及许可、融资、可靠性或排放方面的权衡。
购电协议同样需要仔细审查。合同约定的能源、发电容量、并网批准和实际交付并不是可以互换的概念。
投资者应询问电力何时可用、谁承担延迟风险，以及承诺供应是否足以支持场地规划的全部负荷。他们还应审查是否包含冷却和备用系统。
客户在将预订的加速器容量视为有保障之前，也应提出类似问题。云服务商可能拥有硬件，但缺乏足够已投运的基础设施来持续运行每一套系统。
Gelsinger 提出的“100 万块 GPU”示例表达的是规模，而非记录某个具名项目的违约。读者不应将其视为某个具体开发项目已经失败的证据。
他的更广泛结论仍具可信度：采购进度已超过最缓慢的物理依赖项。越多资本在电力交付前就被投入，当时间表出现分离时，风险敞口就越大。
违约预测需要更高的举证门槛
电力稀缺已有记录，但数据中心违约潮仍是一项需要项目层面财务证据支撑的预测。
Gelsinger 的警告将多种可能结果压缩成了一个令人印象深刻的词。建设延期、分阶段部署、合同重新谈判、资产出售、重组和支付违约并不相同。
开发商可能消化延迟，而不会错过债务偿付。大型科技公司比投机型运营商更容易重新调配资本、转移设备或重新协商交付时间表。
贷款方也可能要求项目在获得后续建设资金前落实电力承诺。这些保护措施可以降低风险敞口，尽管无法消除进度风险。
如果通电延期导致逾期付款、贷款减值、租约取消或困境资产出售，这一论点会更有说服力。公开证据应识别这些结果，而非将每一处延期设施都视为违约。
对内存批评也存在反驳理由。HBM 通过提供传统内存系统无法实现的带宽，推动了当前 AI 的扩张。
将其称为糟糕的技术，可能会掩盖堆叠、封装、接口和能效方面的显著进步。真正相关的问题是，另一种架构能否在实际工作负载中超越 HBM，并实现量产交付。
内存制造商有强烈动机维护并拓展自身投资。不过，它们在更紧密的逻辑集成和替代性内存层级方面的工作表明，当前架构仍有改进空间。
电力预测也存在类似的不确定性。IEA 表示，到 2030 年，全球数据中心的耗电量将翻倍，而以 AI 为重点的耗电量有望增长得更快。
公用事业公司、监管机构和运营商已经在作出回应。新增发电能力、升级输电系统、需求灵活性和更高效的计算都可以缩小缺口。
IEA 还预计，到 2030 年，可再生能源将满足数据中心电力需求增长中近一半的部分。这一前景并不保证每个地点都能及时获得供电。
地点仍然至关重要。一个国家市场可能拥有足够的总发电量，但某个特定地区仍缺乏输电能力或获批的并网连接。
技术也能改变需求曲线。量化会降低表示模型数值所使用的精度。蒸馏将能力迁移至更小的模型。更好的调度则提高已部署集群的利用率。
这些进步可以减少特定工作负载所需的硬件。但它们无法保证总消耗下降，因为更低成本的推理往往会吸引更多用户和应用。
因此，Gelsinger 关于 AI 硬件的论点应被视为压力测试，而非既定的市场预测。它提出的问题是：当内存、制造能力或电力的到位时间晚于预期时，相关计划是否仍然可行。
不同项目的答案会不同。拥有强劲资产负债表和已落实电力供应的超大规模云服务商园区，与围绕未来租户和不确定电网连接建设的项目，属于不同的风险类别。
读者还应将发言者的权威与证据区分开来。Gelsinger 拥有深厚的半导体经验，但这并不意味着他对每个项目的融资情况都具有私下可见性。
他的警告值得关注，因为其背后的机制是连贯的。验证则需要合同、并网时间表、利用率数据、贷款表现和公开披露的项目取消情况。
三项信号将检验 Gelsinger 的警告
故事的下一阶段将由已交付电力、可用的内存替代方案，以及在财务层面可见的项目失败所决定。
第一个信号是已宣布的数据中心容量与已通电容量之间的差距。公告衡量的是雄心，而已投运的电力负荷衡量的是运营商实际能够使用的资源。
应关注公用事业并网批准、变电站完工日期、输电项目和分阶段园区开放情况。反复延期将强化 Gelsinger 的论点，即电力已成为决定性约束。
更快的连接和可靠的交付则会削弱违约论断。这将表明，公用事业公司和开发商能够在融资压力变得严峻之前协调扩张。
第二个信号是内存替代方案能否走出实验室并进入生产系统。HBM4 的改进很重要，但它们是在延续当前路线，而非解决所有批评。
近内存计算、高带宽闪存、光互连以及更大的传统内存池，应以已出货产品来评判。有效指标包括应用性能、容量、能效、软件兼容性和供货量。
若出现能够降低对 HBM 依赖的可信部署，将强化复兴论点。另一项缺乏制造规模的有前景原型，则会支持 Gelsinger 对商业化的警告。
第三个信号是项目层面的财务困境。投资者应寻找与电力不可用直接相关的逾期付款、重组、租户承诺取消、困境出售和贷款方披露。
普通的进度调整并不足够。只有当多个独立项目显示出能源延迟与财务违约之间的共同联系时，这一预测才会成为一波浪潮。
这些信号的重要性超出半导体投资者。开发商需要知道哪些架构值得投入优化工作。企业采购者需要评估预订容量能否按期交付。
知识工作者将通过模型可用性、延迟、使用限制和服务可靠性感受到结果。基础设施瓶颈最终会体现在其上构建的产品中。
比较各种公告的团队可以在AI 知识库中保存决策、技术证据和不断变化的假设。当交付日期或架构主张发生变化时，这些记录将发挥作用。
Pat Gelsinger 对 AI 硬件的警告，归根结底关乎协同。当内存、封装、软件、冷却、融资和电力必须同时到位时，仅仅设计出更好的芯片已经不够。
HBM 仍可能不可或缺，同时又面临深度受损。AI 硬件可能迎来复兴，但多数新架构未必能实现规模化落地。数据中心需求可以持续增长，而单个项目也可能在财务上难以为继。
未来三个月的问题很明确：哪些公司能够展示已激活的产能、已部署的内存改进以及真正运行的系统，而不是再来一轮预订和预测？
