Gelsinger 称 HBM“糟糕”,SK hynix 已在规划后 HBM 时代
- Ethan Carter

- 2天前
- 讀畢需時 12 分鐘
Pat Gelsinger 称高带宽内存“糟糕”,引发了一场迅速传遍 Google News 和半导体行业报道的争论。他的批评直指支撑多数先进 AI 加速器的这项内存技术,在散热、功耗和封装方面所作出的妥协。
这一评价格外尖锐,因为 SK hynix 近年来的成功正是围绕 HBM 建立的。不过,SK hynix 高级副总裁兼 Fellow Hoshik Kim 并未将这项技术捍卫为内存的最终形态。在同一场 RAISE Summit 讨论中,Kim 承认,行业终将需要超越当下的架构。
这番交锋并不意味着 HBM 已经失败。它揭示了一个更具影响力的转向:从 HBM 热潮中获益最多的公司,已经在投资可能降低其对标准化 HBM 堆叠依赖的技术。
Google News 标题遗漏了什么
Gelsinger 批评的是当今 HBM 的局限,而非否定 AI 处理器旁配置高速内存的必要性。
现任 Playground Global 普通合伙人、前 Intel 首席执行官 Gelsinger 在巴黎举行的 RAISE Summit 2026 上发表了上述观点。该活动于 7 月 7 日至 7 月 9 日举行。Kim 参加了一场题为“AI 有内存问题”的小组讨论。
讨论中,Gelsinger 将 HBM 形容为一种糟糕的技术折中方案。HBM 将多颗动态随机存取存储器裸片垂直堆叠,并通过短而密集的电气连接进行互连。这种结构提供的带宽远高于距离处理器更远的普通内存模块。
但同样的堆叠结构也带来了散热与制造挑战。底层产生的热量必须穿过其他裸片,才能到达冷却系统。更高的堆叠高度和更复杂的封装可能会加剧这一问题。
Gelsinger 后来在谈及不断变化的内存业务时,也提出了同样的论点。他表示:“我们如今所熟悉和喜爱的 HBM,是一种糟糕的内存。”根据已发表的内存业务分析,他的解释聚焦于热量被困住及其对处理器性能造成的压力。
峰会片段让这场交锋听起来像是 SK hynix 作出了一项非同寻常的让步。Kim 似乎同意 HBM 并非最终答案。随后,另一位小组参与者将这一时刻描述为 SK hynix 承认 HBM 是糟糕的内存。
完整语境并没有那么戏剧化。HBM 依然不可或缺,因为 AI 加速器需要以极高速度传输模型权重和中间数据。传统服务器内存无法以相近的带宽或能效响应每一次加速器请求。
分歧在于 HBM 达到实际极限之后会发生什么。Gelsinger 倾向于让内存与处理器更紧密集成。SK hynix 则在探索定制 HBM、新型内存层级、先进封装,以及融合不同存储技术的产品。
这一区别至关重要。糟糕的产品没有令人信服的用途;不完美的产品则可能占据主导地位,因为所有可选替代方案都带来更严苛的限制。
目前的 HBM 属于第二类。它制造成本高、冷却困难,并且受到封装产能的严格约束。但它仍是向先进 GPU 输送数据最有效的方式之一。
Google News 的标题捕捉到了冲突,却压缩了技术论证。Gelsinger 质疑的是该架构的长期效率;Kim 承认的则是 SK hynix 已开始着手解决的路线图问题。
为何 AI 系统仍接受 HBM 的缺陷
AI 基础设施采用 HBM,是因为处理器缺乏数据供给,即便这种内存本身会带来散热和经济成本。
现代 AI 加速器每秒可以完成海量数学运算。当模型数据到达得过慢时,这些运算几乎毫无价值。处理器吞吐量与内存供给之间的鸿沟,通常被称为“内存墙”。
训练会产生这一问题的一种表现形式。数千个加速器反复交换参数、梯度和临时结果。缓慢的内存路径会让昂贵的计算单元处于等待状态。
推理则会产生另一种表现形式。服务器必须读取模型权重并管理键值缓存,后者存储了生成后续 token 所需的信息。更大的模型和更长的上下文都会增加这些内存需求。
HBM 通过将宽内存接口放置在加速器附近来缓解这一瓶颈。它通过大量并行运行的连接传输数据,避免仅依赖极高的时钟频率。
这种邻近性帮助 Nvidia、AMD 和定制加速器开发商扩展 AI 系统,也让 HBM 供应成为整个半导体市场的一项战略约束。
但这种物理布局依然有代价。垂直堆叠的裸片会在较小区域集中热量。更多层数会提高制造复杂度,而缺陷可能减少每批可产出的可用封装数量。
封装还将内存供应商的命运与晶圆代工厂和加速器厂商绑定在一起。HBM 不能作为孤立的大宗商品生产后再插入标准插槽。它必须匹配处理器接口、封装设计、功耗预算和冷却系统。
因此,Gelsinger 所称的“糟糕”,指向的是一项工程权衡。HBM 通过接受更高的热量、成本和集成复杂度,解决了带宽稀缺问题。
SK hynix 并不否认这些限制。该公司的公开材料也表示,内存公司必须了解客户的处理器、工作负载、功耗要求和散热设计。其全栈战略明确超越了供应可互换内存组件的模式。
这一转变也解释了:即使更优雅的架构成为可能,HBM 也不会立即消失。AI 硬件平台需要数年的设计、认证和制造准备。开发者也会围绕已部署加速器可用的内存优化软件。
数据中心运营商已对配备 HBM 的系统进行了大量投资。他们需要兼容、可靠性与性能可预测的产品。替代方案必须在符合现实制造和部署周期的同时胜过 HBM。
因此,当前架构可以在技术上具有过渡性,同时继续保持商业重要性。以太网、闪存存储和硅制程技术都经历过类似路径。它们屡遭批评却依然存续,因为周边生态系统与核心设计同步改进。
HBM 供应商可以增加层数、改进键合方法、定制基础裸片并优化冷却。这些变化会延长该架构的实用寿命,即使无法消除其根本性妥协。
SK hynix 面临继任者困境
SK hynix 必须守住 HBM 领先地位,同时帮助客户构建依赖更广泛、更定制化内存层级的系统。
HBM 让内存从后台组件变为 AI 系统设计的核心部分。SK hynix 通过与加速器公司和先进封装合作伙伴密切协作而获得影响力。随着每个客户都要求容量、带宽、功耗和延迟的不同组合,这一地位愈发难以守住。
公司已无法再靠为广泛市场生产单一标准化组件来最大化产出。它必须日益加强与处理器设计商、晶圆代工厂、封装供应商和云运营商之间的路线图协调。
这正是 Gelsinger 批评背后的商业模式压力。更紧密的处理器—内存集成可以提高性能,但也会增加押错客户或平台的成本。
传统内存芯片可以服务于许多系统。高度定制化的产品则可能依赖于某一代处理器。若该处理器延期或需求疲弱,供应商可能会留下无法利用的产能和研发成本。
SK hynix 已经拥抱定制化。其 2026 年产品展示包括定制 HBM 结构和存内计算概念。存内计算将部分计算移至更靠近存储数据的位置,从而减少内存与主处理器之间的数据传输。
据其 CES 内存产品组合介绍,该公司在 CES 2026 展示了一款容量为 48 GB 的 16 层 HBM4 产品,还展示了围绕定制 HBM 和存内计算设计构建的 AI 系统演示。
这些产品表明,SK hynix 将 HBM 视为可持续演进的平台,而不是把每一代产品都当作未变大宗商品的更快版本。
这一战略带来了艰难的平衡。客户希望得到适配其加速器的专用产品;SK hynix 则希望保留足够的共通性,以复用设计、控制成本并服务多家相互竞争的客户。
其与 TSMC 的合作提供了一种化解这一张力的方式。服务多家加速器设计商的晶圆代工厂可以支持共享的封装与集成方法。SK hynix 因而能够参与多个平台,而非将一切押注于一家芯片厂商。
Samsung 和 Micron 面临同样的转型。两家公司都必须与主要加速器客户完成产品认证,同时提高制造良率。它们还需要为定制内存和先进封装提供可信的路线图。
竞争将因此超越标称带宽。买家将评估散热表现、能耗、容量、封装可用性、软件支持和交付可靠性。
SK hynix 依然占据有利位置,因为它拥有量产经验和紧密的客户关系。然而,在某一代 HBM 中保持领先,并不保证能在围绕定制基础裸片或处理器集成构建的内存架构中继续领先。
该公司的优势正变得不再像一份内存芯片目录,而越来越像一个协同设计关系网络。这一模式可以建立持久的客户纽带,但也要求更大、更早期的押注。
真正的竞争是 HBM 与内存层级之争
当今 HBM 最可能的继任者并非单一替代芯片,而是一套协调的层级架构,将不同数据置于不同内存层。
AI 工作负载并不会平等对待每一个字节。有些数据必须立即送达处理器;另一些信息则可以容忍额外延迟,以换取更高容量或更低能耗。
HBM 服务于最快的层级,但将所有数据都存放其中并不现实。与普通 DRAM 和闪存存储相比,它的容量依然有限,制造和封装成本也更高。
SK hynix 正在开发 High Bandwidth Flash,即 HBF,作为一种可能的附加层级。HBF 试图将 NAND 闪存的高密度与适合 AI 基础设施的带宽特性结合起来。它将位于 HBM 与固态存储之间,而非彻底取代其中任何一种产品。
该公司还在通过 Compute Express Link 研究内存扩展。CXL 是一种互连标准,可让处理器通过一致性寻址访问池化或外部内存。它可以在不把每个字节都放置在加速器旁的情况下,为 AI 服务器提供更大容量。
SK hynix 研究人员已测试一种分层推理设计,采用通过 CXL 连接的内存和 NVMe 存储。该方法会根据性能需求迁移数据,而不是假定所有模型信息都必须放在 HBM 中。
这正是 Kim 在 RAISE Summit 上的回应之所以重要的原因。称 HBM 不是最终答案,与该公司已公布的路线图一致。SK hynix 在其 AI memory roadmap 中将 HBF 描述为应对将所有 AI 数据保留在堆叠内存中所面临经济限制的一种方案。
处理器集成则代表另一条路径。将内存直接置于处理器上,或通过更先进的封装进行连接,可以缩短电气路径,也能减少数据移动所消耗的能量。
不过,集成并不能消除艰难的决策。封装内容量受到限制,紧密耦合的设计也更难以独立升级。一次失败的处理器设计,还可能连带使其定制内存投入受挫。
分层系统能够分散这种风险。频繁访问的模型权重可留在 HBM 中;规模更大的缓存信息集合可迁移至 CXL 内存或高带宽闪存;传统存储则可保留紧迫性较低的数据。
软件必须决定数据应放在哪里,并在不制造新瓶颈的前提下完成迁移。这使内存管理成为系统级优化问题,而不再仅仅是组件规格问题。
这一变化既会影响开发者,也会影响芯片公司。模型架构、量化、缓存、批处理和推理调度都会影响内存流量。更好的软件无需等待新的半导体制程,就能降低对 HBM 的需求。
对企业买家而言,峰值带宽将成为不完整的采购指标。更有价值的评估将包括每瓦吞吐量、真实工作负载下的延迟、可用容量,以及数据溢出 HBM 后的性能表现。
这种层级架构是“HBM 可作为完整答案”这一观点的主要对手。HBM 可以继续作为最快的一层,同时失去作为解决所有 AI 内存问题核心方案的地位。
为什么“糟糕内存”的论断需要克制
HBM 的弱点确实存在,但尚无任何拟议的继任者能够匹敌它在带宽、部署规模和客户接受度上的综合表现。
Gelsinger 对堆叠内存的批评有明确的技术依据。散热、功耗、良率和封装复杂度都是可衡量的约束。更进一步的说法——处理器集成内存将取代传统 HBM——仍然缺乏确定性。
首先,集成会加深产品路线图之间的相互依赖。加速器公司会按照较长周期更新架构、接口和制造计划。内存供应商必须在需求明朗之前,就投入研发和制造资源。
其次,散热改进可以延长 HBM 的生命周期。封装设计师可以调整材料、堆叠结构、热界面和系统散热。混合键合也能缩小连接尺寸并改善电气特性。
第三,HBM 标准能够维持竞争。标准接口让多家供应商能够开发兼容产品。转向高度定制化的内存或许会提高性能,却会降低可互换性。
这种权衡对云公司尤为重要。定制封装可能将买家锁定在某一种处理器和内存组合上。标准化产品则能在供应商遭遇延期或良率问题时提供更多选择。
第四,新的内存层级也会引入自身的延迟和软件成本。CXL 能扩展容量,但数据仍需比存放在加速器旁的信息传输得更远。基于 NAND 的内存具有高密度优势,但其耐久性和访问特征与 DRAM 不同。
分层架构只有在软件能够智能放置数据时才有效。错误的放置可能抹去理论优势,并带来不可预测的性能。
SK hynix 当前的产品战略反映了这种不确定性。该公司在继续投资 HBM4 的同时,也在研究可与之互补的产品。根据其 inference program,该公司在 GTC 2026 上将 HBM4 展示为提升大模型推理效率的工具。
这与规划 HBM 之后的发展并不矛盾。半导体公司经常一边资助下一代架构,一边改进当前架构。客户需要的是今天可以部署的产品,而不只是前景可期的实验室设计。
市场也几乎没有给 SK hynix 提前放弃 HBM 的理由。AI 加速器需求仍在回报高带宽产品。供应协议和认证周期形成的商业动能,并不会因技术批评而立即逆转。
Gelsinger 也以投资者身份看待这一问题,他投资的公司正在推进更紧密的内存-计算集成。他的专业背景令这项批评具有重要意义,但读者也应认识到,他支持的是另一条发展路径。
Kim 代表的公司,其营收和客户关系都受益于 HBM。他愿意讨论继任方案同样值得关注,但这并不能证明 SK hynix 已选定某一种替代架构。
更负责任的结论应当更为审慎:HBM 已变得不可或缺,但尚未成为理想方案。它的缺点足以重塑路线图,但不足以让现有部署失去价值。
Google News 读者应将这场交锋视为架构转型正在发生的证据,而不是行业已经选出赢家的证明。
三个信号将揭示 HBM 之后的发展
HBM 的未来将通过产品认证、已部署的内存层级,以及集成能够改善完整系统的证据而变得更加清晰。
第一个信号是 HBM4 及其后继产品的客户认证。宣布样品并不意味着已经实现量产、具备可接受的良率,或能够在加速器封装中可靠运行。
应关注 SK hynix、Samsung 和 Micron 能否按客户计划交付已认证产品。延期将强化 Gelsinger 的论点,即复杂性正变得更难管理。稳定爬坡则表明 HBM 仍有演进空间。
散热性能与标称带宽同样重要。供应商需要证明,增加层数不会迫使处理器在持续工作负载下降低速度。真实应用结果将比峰值规格更具参考价值。
第二个信号是分层内存的商业部署。HBF、CXL 内存扩展和计算存储需要获得超越演示和研究论文的采用。
一个成功的系统应减少对稀缺 HBM 的依赖,同时不造成不可接受的延迟。它还应适用于有价值的模型和推理模式,而不只是某一项经过精心挑选的基准测试。
开发者应关注软件如何暴露这些层级。自动放置将使采用更容易。需要大量手动调优的系统,可能仍将局限于拥有专业工程团队的超大规模云服务商。
这一发展也有知识管理层面的对应关系。有效的系统会根据紧迫性、上下文和检索成本放置信息。个人知识库在应用层面遵循类似原则,尽管它所处的层级远高于半导体硬件。
第三个信号是达到制造规模的、可信的处理器-内存集成。原型可以展示低延迟,但商业产品还必须满足良率、散热、可修复性和成本要求。
证据应包括完整系统的每瓦性能。若一种设计改善了内存访问,却使封装变得难以承受地难以制造,它就无法广泛取代 HBM。
客户多样性将提供另一项检验。如果集成产品只能与一种加速器配合使用,它们可能成为有价值的细分市场。更广泛的采用将支持 Gelsinger 的预测:内存业务正走向协同设计的硅芯片。
这些信号还将揭示谁面临最大压力。SK hynix 必须将其 HBM 领导地位转化为系统设计影响力。Samsung 必须利用其制造广度争取认证。Micron 则必须在无法匹敌每个竞争对手规模的情况下展开竞争。
加速器设计者也面临自己的选择。他们可以要求越来越定制化的内存,接受更高的供应商依赖,或利用软件和分层设计来保留灵活性。
最重要的结果不会是宣布 HBM 已死,而是能够量化地减少昂贵加速器等待数据的次数。
这正是 Google News 这场交锋背后的问题:行业能否保留 HBM 的带宽,同时摆脱其在散热、容量和商业模式上的约束?
在下一个产品周期中,忽略最尖锐的引语,关注系统本身。认证进度、持续性能和实际的分层内存部署,将揭示 HBM 是继续作为 AI 基础设施的中心,还是成为众多层级中的一层。


