SK hynix 制定首个 HBF 标准，Google 与 Hynix 的关联提高了赌注

SK hynix 在与 Sandisk 发起标准化联盟仅六个月后，发布了首个高带宽闪存（High Bandwidth Flash，HBF）规范。Google 与 Hynix 的关联引入了重要的客户侧声音，因为 Google 现已与 AI 处理器开发商 Tenstorrent 一同参与其中。

该规范定义了最高 512GB 的 HBF 容量，以及约 0.4TB/s 至 3.0TB/s 的带宽等级。HBF 是一种经过封装的闪存，可让处理器比访问传统固态硬盘更快地访问数据。它旨在补充高带宽内存，而非取代其在所有工作负载中的作用。

这一区别构成了真正的张力。HBM 提供现代加速器所需的速度，但其容量、功耗、封装和供应限制会塑造整个 AI 系统。SK hynix 和 Sandisk 正提出新增一个层级，用于存放需要高带宽、但不应占用稀缺 HBM 容量的数据。

Google 的参与为这一提案增添了可信度，但参与不等于部署。该联盟仍需拿出可用的芯片、可靠的软件，并证明 NAND 的延迟和耐久性适合生产环境中的推理。这些测试将决定 HBF 会成为基础设施，还是仍只是一项颇具吸引力的规范。

SK hynix 将 HBF 从提案变为开放规范

首个规范为处理器设计者提供了共同的技术目标，但尚未确立商业产品。

SK hynix 于 8 月 4 日在加州圣克拉拉 FMS 2026 开幕期间宣布了该规范。会议将持续至 8 月 6 日，汇聚内存、存储、处理器和数据中心企业。

此次发布源于 2026 年 2 月与 Sandisk 启动的标准化工作。这一举措本身又是在两家公司于 2025 年 8 月建立初步合作关系之后展开的。从合作伙伴关系到在六个月内发布规范，对于一个新的内存类别而言速度异常之快。

根据 HBF specifications，该设计支持 8 层和 16 层 NAND die 堆叠。其容量上限可达 512GB，三种性能等级则覆盖约 0.4TB/s 至 3.0TB/s。

这些范围之所以重要，是因为 HBF 并非被定位为一种固定产品。不同等级使设计者能够在带宽、容量、封装复杂度和系统需求之间取得平衡。针对模型权重优化的部署，可能需要与服务检索数据的部署不同的配置。

该标准还采用了 UCIe，即 Universal Chiplet Interconnect Express。UCIe 是一种开放接口，用于在单一封装或系统内连接不同的半导体 chiplet。

采用 UCIe 应可降低对专有处理器连接方式的依赖。原则上，HBF 可以与支持兼容实现的不同 CPU、GPU 和 AI 加速器连接。若 HBF 要成为行业级层级，这种灵活性至关重要。

该文件还涵盖电气特性、die 堆叠可靠性、封装，以及软件输入输出指导。这些细节使该项目不再只是概念图。它们为内存供应商、处理器企业和软件开发者提供了共同的工程边界。

SK hynix 和 Sandisk 通过 Open Compute Project 披露了该规范。标准化启动创建了专门的 OCP 工作流，而非封闭的双边模式。

这一选择对采用至关重要。处理器公司会抵触围绕由单一供应商控制的内存层级进行设计。开放规范为多种实现、更广泛的工具链以及共享的软件支持提供了更清晰的路径。

不过，开放性并不保证互操作性。供应商仍需将规范转化为兼容的控制器、封装、固件和运行时行为。认证和参考实现将与文件本身同样重要。

因此，首个 HBF 标准改变了讨论方向，但并未终结讨论。行业如今拥有可供评估的明确架构，但尚无生产环境证据表明该架构能实现其承诺的经济效益。

为何 Google 与 Hynix 的关联对 AI 推理至关重要

Google 的参与表明，HBF 的设计着眼于超大规模工作负载，而不仅是寻求另一块 NAND 市场的企业。

SK hynix 表示，Google 和 Tenstorrent 正在参与该联盟。Google DeepMind 高级资深工程师 Xiaoyu Ma 也计划于 8 月 6 日与来自 SK hynix 和 Sandisk 的高管共同参加一场小组讨论。

该小组讨论的标题“Breaking the Memory Wall with High Bandwidth Flash”点明了目标问题。AI 处理器可以快速进行计算，但当有用数据无法以相匹配的速率到达处理器时，性能就会受损。

推理让这一问题更加棘手。训练用于构建模型，而推理则运行模型以响应请求。生产系统需要反复在受限的内存层级中移动模型权重、注意力数据、嵌入和缓存上下文。

更长的上下文窗口会通过键值缓存带来额外压力。KV cache 会存储中间注意力数据，以便模型在生成过程中无需重新计算先前的 token。随着请求变得更长或数量更多，其规模也会增长。

智能体系统可能会加剧这一问题。AI agent 可能需要规划、调用工具、检查文件、检索记录，并在多个步骤中保留状态。每项活动都会增加数据移动，也可能使一个请求持续活跃更长时间。

SK hynix 执行副总裁 Kim Chun-sung 和副总裁 Kang Uk-song 将分层内存作为解决方案进行介绍。分层内存会根据速度、容量、成本和访问模式，将数据放置在多种内存类型中。

在这一模式下，HBM 仍最靠近加速器，用于存放最热的数据。HBF 保存容量更大、主要面向读取、但仍需要相当带宽的数据集。传统 SSD 则提供另一个速度更慢、距离更远、容量更大的层级。

Google 与 Hynix 的关系之所以重要，是因为 Google 既运营 AI 服务，也开发自己的 tensor processing units。其工程师能够依据真实的加速器、编译器、模型和数据中心需求来评估这一提案。

这并不意味着 Google 已承诺购买 SK hynix HBF。官方公告指出的是联盟参与，而非供应合同或部署时间表。公告也未说明哪些 Google 系统可能使用这项技术。

即便如此，客户侧参与能够避免标准只反映内存供应商的优先事项。超大规模云服务商关注故障处理、集群管理、软件可移植性、可维修性和整体系统利用率。

Tenstorrent 则带来了不同视角。它在占主导地位的 GPU 架构之外开发 AI 处理器和 RISC-V 技术。其参与支持了联盟的主张，即 HBF 应可跨不同处理器类型运行。

Google 和 Tenstorrent 共同将该项目的范围扩展到 SK hynix 和 Sandisk 之外。前者代表超大规模 AI 运营，后者代表替代性加速器设计。两者都能暴露内存供应商原本可能忽视的假设。

重要信号是架构层面的兴趣，而非对已完成硬件的认可。HBF 目前拥有能够测试其接口是否适配实际推理系统的参与者。他们持续参与的意义，将大于其名字出现在启动公告中。

HBF 创造新层级，而非取代 HBM

核心机制在于数据放置：只有当系统将对延迟敏感的数据留在 HBM 中，并把适当的数据迁移到闪存时，HBF 才能发挥作用。

HBM 使用堆叠 DRAM die 和宽接口，在处理器附近提供极高带宽。HBF 借鉴了堆叠和宽接口的思路，但使用 NAND 闪存以获得更大容量和持久存储能力。

NAND 在断电后仍可保留数据，其密度也远高于 DRAM。但它的读取延迟更高、写入更慢，且编程-擦除耐久性有限。这些差异使 HBF 无法充当简单的 HBM 替代品。

因此，3.0TB/s 的最高等级只是性能故事的一部分。峰值带宽描述的是在有利条件下可移动的数据量，并未反映零散的小规模读取返回前所需的等待时间。

这一差距对 AI 工作负载很重要。模型权重通常会在推理过程中被反复读取，且很少发生变化，因此更适合闪存。KV cache 则会持续接收写入，使其更难适配。

一篇 2026 年 6 月的研究论文探讨了高带宽闪存是否足以作为第二内存层级。作者在其 memory-tier analysis 中，将 HBF 与封装内 LPDDR 和一致性连接内存进行了建模比较。

他们的模型发现，不同属性主导不同的工作负载。容量可减少模型副本数量，带宽会影响数据交付，而写入支持则决定一个层级能否承受 KV-cache 流量。

该论文还模拟了约 20 微秒的 NAND 读取延迟。即使标称 HBF 带宽很高，这一延迟也会降低零散、小规模访问下的有效带宽。

这项研究属于分析性研究，而非对商业 HBF 芯片的实测。其假设不应被视为对 SK hynix 硬件的定论。但它确实为该架构指出了一项可信的压力测试。

另一篇 7 月论文提出了 FlashAccel，这是一种在大模型推理期间使用 HBF 的架构。FlashAccel study 聚焦于更高容量的闪存，同时着手解决带宽利用率低和写入限制问题。

这些研究表明，软件是隐藏的必要条件。运行时必须识别热数据和冷数据、预测访问模式，并在不让加速器停顿的情况下移动信息。

这一过程不能增加过多复制。在 SSD、HBF 和 HBM 之间反复移动相同数据会消耗带宽和能耗。糟糕的数据放置可能会抵消容量优势。

处理器连接还需要在现实访问模式下维持有效吞吐量。UCIe 提供了通用互连基础，但控制器和软件决定应用程序如何体验这一层级。

HBF 最强的早期应用，可能包括模型权重、检索索引或相对稳定的专家参数。这些数据集可能规模庞大、读取频繁，且写入密集度低于活跃的 KV caches。

混合专家模型提供了一个清晰例子。这类模型会针对每个 token 激活选定的专家组件，而非使用全部参数。使用频率较低的专家可存放在 HBF 中，直到运行时需要它们。

这种安排可能使系统能让更大的模型靠近每个加速器。它或许能减少从远程存储进行的传输，或减少为容纳模型权重所需的设备数量。

不过，在不可预测的时点被选中的专家会产生不规则读取。即使总带宽看似足够，NAND 延迟也会变得重要。只有当软件能够准确预测需求时，预取才会有所帮助。

HBF 还带来了封装和散热方面的问题。堆叠 NAND、控制器逻辑、连接链路以及附近的加速器都会产生热量。该标准包含封装和可靠性指导，但具体实现必须验证这些限制。

SK hynix 将 HBF 描述为介于 HBM 和 SSD 之间的桥梁。这是恰当的概念框架。它的价值取决于能否填补这一空白，同时又不继承两者过多的弱点。

首个标准仍需接受硅层面的现实检验

HBF 最大的不确定性在于，真实系统能否将亮眼的容量和带宽规格转化为可预测的应用性能。

FMS 公告中没有独立测得的 HBF 基准测试结果。它没有披露商用硬件的延迟、耐久性、应用吞吐量、错误率、散热限制或功耗。

公告也没有说明 SK hynix HBF 的量产日期。Sandisk 此前表示，首批 HBF 样品计划于 2026 年推出，随后将在 2027 年初推出集成 HBF、面向 AI 推理的设备。

路线图可能发生变化。制造具有高速逻辑接口的堆叠 NAND，需要在良率、封装、控制器和散热方面投入工作。标准可以统一接口，却无法解决这些量产挑战。

工作负载适配性构成另一项风险。闪存适合读取和持久化数据，而推理系统正越来越多地生成大型动态缓存。如果 HBF 无法承受足够的写入量，架构师就需要为这类流量设置另一层存储。

这并不意味着 HBF 无关紧要，而是限制了它能够高效完成的任务。该设计可能擅长处理模型权重和索引，却不适合频繁变化的状态数据。

软件成熟度也是另一项约束。加速器已经依赖复杂的运行时来完成内存分配、批处理、缓存、量化和调度。引入 HBF 会为该技术栈增加一项数据放置决策。

开发者需要了解数据位于何处，以及它为何发生迁移。否则，模型可能达到实验室中的吞吐量目标，却在生产环境中产生不稳定的尾延迟。

尾延迟衡量的是请求中最慢的部分，而不是平均值。它之所以重要，是因为少量延迟的内存读取就可能导致交互式服务无法达到响应目标。

该标准的三档带宽等级也可能使性能预期碎片化。围绕第 3 档行为设计的系统，未必能顺畅适配较低等级。软件需要可靠的能力发现和回退机制。

互操作性同样尚未得到验证。开放接口应当允许多种处理器和内存组合。实际兼容性将取决于电气特性、固件、封装以及错误管理细节。

Google 的参与并不能消除这些风险。google hynix 关系提升了人们对相关问题正被纳入设计流程的信心，但并不代表公开的基准测试结果或部署承诺。

竞争将从多个方向给 HBF 路线施压。Samsung、Micron 和其他内存厂商可以扩大 HBM 容量，或开发替代性的堆叠闪存设计。通过 CXL 连接的内存也可以提供另一层容量。

部署在加速器附近的 LPDDR 可提供更低延迟和完整的可写能力，但在密度和功耗方面存在不同的权衡。GPU 直连存储技术也能改善对传统 SSD 的访问，而无需引入 HBF。

这些方案并不相互排斥。未来的服务器可以同时使用 HBM、LPDDR、HBF、CXL 内存和 SSD。这种灵活性也会提高复杂度，并要求每新增一层都证明其成本合理性。

HBF 最具说服力的价值主张不会仅来自峰值规格，而应来自在明确的生产工作负载下更低的系统成本、更高的能效或更大的吞吐量。

独立测试结果应比较完整系统，而非孤立的内存设备。有用的指标包括每秒 token 数、首个 token 时间、尾延迟、每个 token 的能耗以及加速器利用率。

可靠性结果同样重要。数据中心需要可预测的纠错能力、组件寿命、维护流程和故障隔离能力。位于昂贵处理器附近的持久化内存层不能成为运营薄弱点。

SK hynix 表示，HBF 将扩展内存与存储之间的边界。这种表述是合理的，但这一边界之所以存在，是因为两种技术的行为不同。工程设计无法仅靠命名抹去这些差异。

SK hynix 将 HBF 与 375 层 NAND 配套展示

FMS 展示将 HBF 标准与一项更广泛的努力联系起来：让 NAND 在受功耗约束的 AI 基础设施中发挥更大作用。

SK hynix 还首次展示了其第十代 375 层 4D NAND 晶圆及相关产品。该技术仍在开发中。

该公司表示，与上一代产品相比，新 NAND 的每瓦性能提升了 2.5 倍。这一数据为公司声明，尚未在公告中获得独立验证。

SK hynix 计划于 2027 年初开始量产采用该 NAND 的企业级 SSD。该公司正将这些硬盘定位于高性能、高容量的数据中心工作负载。

NAND 公告支持了 HBF 的叙事，但并未证明 HBF 的性能。两类产品都在应对同一种基础设施压力：AI 系统需要更多可访问的数据，但电力供应并非无限。

更高密度的 NAND 可以在固定物理空间内提升容量。更好的每瓦性能也可以减少存储系统中数据传输所消耗的电力。

这些改进之所以重要，是因为 AI 基础设施正日益受到系统层面的限制。当内存、存储、网络、散热或供电阻碍充分利用时，更快的加速器价值有限。

因此，SK hynix 展示的是一个产品组合，而非一种通用内存。其分层内存理念涵盖高速 DRAM、堆叠 HBM、HBF 和企业级 SSD。

这一策略反映了一项现实：没有任何单一介质能够同时提供最低延迟、最高容量、最强耐久性、最低功耗和最低成本。

工程任务在于，将每个数据集放入成本最低、但仍能满足性能目标的层级。这个原则听起来简单，但工作负载会随请求而变化。

例如，检索系统可能存储数十亿个代表文档或图像的向量。经常访问的索引片段可以保留在更快的内存中，较冷的数据片段则可迁移到 HBF 或 SSD。

大型推理服务可能将活跃模型层保存在 HBM 中。较少被选中的专家权重可以存放在 HBF，而传统存储则保存完整检查点和历史版本。

处理企业文档的智能体则构成另一种潜在工作负载。系统需要模型权重、检索索引、工具状态和用户上下文，但这些数据集具有不同的访问模式。

知识工作者不会直接与 HBF 交互。只有当服务支持更长上下文、更大的本地索引、更稳定的响应时间或更低的资源消耗时，他们才会注意到它的影响。

工程团队将承担集成负担。他们必须追踪内存行为、调优数据放置策略，并在硬件和软件变更中保留文档。一个可搜索的工程知识库可以帮助团队留存这些决策。

更广泛的产品组合也让 SK hynix 不必将 HBF 的成败视为非此即彼。如果 HBF 的采用速度较慢，HBM 和企业级 SSD 的需求仍可能随着 AI 基础设施的发展而增长。

不过，这一组合也带来战略上的平衡难题。HBF 必须提供足够价值以吸引客户，同时又不能只是将现有内存产品的收入转移过来。

Sandisk 从 NAND 一侧面临类似挑战。HBF 可以为闪存创造更高价值的应用，但成功需要处理器和软件合作伙伴，而这些并非存储厂商能够单独掌控。

这正是开放标准与联盟参与需要相辅相成的原因。内存供应商定义可制造的设备，而处理器和云端参与者塑造能够使用这些设备的系统。

三个信号将显示 HBF 是否正成为真实的基础设施

下一阶段必须以硬件证据、软件支持和可重复部署取代联盟势头。

第一个信号是：在接近生产环境的推理工作负载下，对可运行的 HBF 芯片进行测量。样品披露的信息不应只有峰值带宽。延迟、耐久性、功耗、散热和有效吞吐量也需要得到同等关注。

如果样品能为以读取为主的模型权重持续提供有用性能，将增强其可行性。名义带宽与有效带宽之间若存在巨大差距，则会削弱这一前景，尤其是在不规则访问场景下。

第二个信号是软件集成。主流推理运行时需要制定策略，在 HBM、HBF 和存储之间放置权重、缓存、索引和中间数据。

有价值的集成应提供指标和控制能力，而非隐藏所有数据放置决策。运营人员需要诊断页面迁移、停顿、写入压力和容量使用情况。

来自 Google 或 Tenstorrent 软件的支持，会使 google hynix 关系更加具体。公开代码、参考设计、会议成果或已记录的兼容性，将比仅仅加入联盟更具分量。

第三个信号是开放标准得到更广泛的实施。更多内存供应商、处理器厂商或云运营商参与，将减少对两家创始公司的依赖。

多个可互操作的产品将表明，OCP 的披露真正形成了行业接口。反之，不兼容的厂商变体则意味着该标准缺乏足够的精确性或商业协同。

FMS 2026 标志着这一验证期的开始，而非结束。SK hynix 和 Sandisk 已定义出一个可信的新内存层，并吸引了相关参与者。

它们尚未证明，HBF 在处理真实推理流量时优于 HBM、LPDDR、CXL 内存和 SSD 的竞争性组合。这个结论必须来自系统，而非规格参数。

对于开发者和企业买家而言，眼下应密切关注工作负载证据。应当询问每项基准测试期间，模型权重、KV 缓存和检索索引分别位于何处。

还应询问所报告的收益是否包含整个系统的功耗、软件和硬件成本。更快的内存组件并不保证服务更高效。

首个 HBF 标准使这些测试成为可能。即将到来的样品将决定 Google、Sandisk 和 SK hynix 的努力会成为新的基础设施层，还是一项雄心勃勃的规格。