top of page

Sandisk 和 SK hynix 发布开放 HBF 规范,但硬件考验才刚刚开始

Sandisk 和 SK hynix 于 8 月 4 日发布了首个开放的 High Bandwidth Flash 规范,距离双方启动标准组织仅过去六个月。这项公告登上 Google News,并为一项新兴存储技术提出了异常具体的承诺:容量最高可达 512GB,带宽可达 3TB/s。

这一组合瞄准了 AI 系统内部日益扩大的缺口。High Bandwidth Memory,即 HBM,可在处理器附近提供高速性能,但容量仍然有限。固态硬盘提供的容量大得多,却距离处理器太远,难以满足许多对延迟敏感的推理任务。

被称为 HBF 的 High Bandwidth Flash,旨在填补两者之间的层级。Sandisk 和 SK hynix 并非主张让 NAND flash 取代每一组 HBM 堆叠。它们希望系统将 HBM 用于最活跃的数据,而将 HBF 用于仍需快速访问、但规模更大的工作集。

这份规范让处理器设计人员更容易评估这种架构。但它并不能证明 HBF 能在量产硬件中实现其宣称的性能。因此,真正的较量并非 Sandisk 与 SK hynix 之间的竞争,而是开放规范与仍待完成的工程和采用工作之间的竞争。

HBF 规范将一种存储构想转变为共同目标

这项发布为处理器、封装和软件团队提供了共同的 HBF 设计目标,但并未交付一款成品。

SK hynix 在加利福尼亚州圣克拉拉举办的 FMS 2026 上与 Sandisk 一同宣布了这项规范。该活动于 8 月 4 日至 8 月 6 日举行,重点关注存储器和存储技术。

两家公司通过 Open Compute Project,即 OCP,发布了这项工作。OCP 是一个专注于开放数据中心基础设施的行业组织。这个选择很重要,因为 HBF 需要两家存储器供应商以外的参与。

根据 HBF specification announcement,初始设计支持两种物理配置。八芯片堆叠提供一种选择,而 16 芯片堆叠则支持已公布的最高容量。

该规范覆盖最高 512GB 的容量,并定义了三个性能等级,带宽约从 0.4TB/s 延伸至 3TB/s。

这些等级让系统设计人员能够将 HBF 实现与不同的工作负载和成本要求相匹配。较低等级可支持要求较低的推理任务,无需迫使每种设计都采用最复杂的封装方案。

该发布还涵盖电气特性、封装可靠性、处理器连接,以及软件输入和输出指南。这些细节使 HBF 超越了演示概念,朝着工程团队可审查的方案迈进。

处理器连接采用 Universal Chiplet Interconnect Express,即 UCIe。UCIe 是一种开放的封装级接口,用于连接单个系统内部相互独立的半导体芯片。

官方 UCIe specifications 涵盖物理连接、协议、软件行为和合规性测试。使用这一接口减少了 HBF 依赖某一家处理器厂商私有连接方式的必要。

它也为 HBF 与 CPU、GPU 及其他加速器的连接创造了路径。这种灵活性是开放标准论点的核心,因为 AI 基础设施不只包含一种处理器架构。

然而,接口标准并不会自动带来互操作性。厂商仍需开发可协同工作的控制器、封装方法、固件、驱动程序、内存管理策略和合规性测试。

这一差异很容易在简短的 Google News 标题中被忽略。Sandisk 和 SK hynix 发布的是一份规范,而不是普遍可用的 HBF 模块或量产 AI 服务器。

它们的推进速度仍值得注意。Sandisk 和 SK hynix 于 2025 年 8 月宣布最初的标准化合作关系。双方于 2026 年 2 月启动 OCP 工作流,并在约六个月后完成了首份规范。

据 SK hynix 称,Google 和 AI 处理器开发商 Tenstorrent 现已加入该联盟。它们的参与为项目带来了来自工作负载和处理器两方面的宝贵意见。

两家公司均未公布采用该规范的合格量产系统。也尚无独立基准测试证明符合规范的商用设备在带宽、延迟、耐久性或能效方面的表现。

因此,这份开放文档改变了行业能够讨论的内容。工程师不再只能争论一个尚未定义的存储类别,而是可以研究堆叠规模、带宽等级、接口、封装预期和软件要求。

这就是眼前发生的事。更大的问题是,为什么 AI 推理首先需要另一层存储。

为什么 AI 推理正让 HBM 和 SSD 承受压力

HBF 的存在,是因为推理日益需要以接近 HBM 的方式访问那些大到无法完全保留在 HBM 中的数据集。

AI 训练获得了基础设施领域的大部分关注,但推理带来了不同的存储问题。训练构建模型;推理则反复运行该模型,以回答请求、生成媒体内容、使用工具或运行智能体。

一项已部署的服务可能需要模型权重、注意力数据、缓存 token、检索索引和应用上下文。随着模型和并发工作负载增长,将所有活跃数据集都保存在最快存储器中会变得困难。

HBM 将 DRAM 堆叠置于处理器附近,并通过宽接口连接。这种设计为必须快速移动大量数据的加速器提供高带宽。

它的优势并不能消除物理限制。封装空间、制造复杂度、功耗、容量和供应情况,都会影响每个处理器旁可部署多少 HBM。

企业级 SSD 解决的是另一类问题。它们以更低的每比特成本存储更多信息,并且 NAND flash 无需持续供电即可保存数据。但其传统存储路径会增加延迟和软件开销。

这便留下了架构上的空白。一些推理数据不需要最低可能的 HBM 延迟,但确实需要比传统 SSD 路径更快、更直接的访问。

SK hynix 将 HBF 描述为辅助层,而 HBM 继续处理带宽要求最高的工作。这种分层存储模型根据访问频率和性能需求,将数据分配给不同技术。

大型模型提供了一个有用的场景。频繁使用的部分可保留在 HBM 中,活跃度较低的权重则放在 HBF 中。SSD 可以保存系统较少需要的数据。

随后,系统会随着工作负载条件变化在不同层级之间移动信息。这种方法类似于既有的缓存层级,但其容量、带宽要求和封装挑战都大得多。

其收益取决于放置决策。如果软件反复从较慢层级获取错误的数据,处理器核心可能需要等待,整体性能也会下降。

因此,HBF 必须不止是加速器旁的高密度 flash。周边系统需要控制器和软件,来预测哪些数据应属于各个存储层。

Agentic AI 加剧了这种压力。一个智能体可保留更长的历史记录、查询外部知识、调用软件工具,并为一次用户请求协调多项模型操作。

这些工作流会产生更大且更难预测的工作集。与单次提示和响应相比,它们也可能让推理基础设施持续繁忙更长时间。

对开发者而言,问题不在于每个应用是否都需要 HBF,而在于未来推理系统是否需要一个中间层:既能减少昂贵的 HBM 容量需求,又不必退回到普通存储。

对企业买家而言,存储架构会影响服务器利用率、响应时间、功耗,以及一套系统能容纳的模型数量。即使用户从未见到这些底层组件,这些因素仍会影响运营成本。

知识工作者也存在间接利益关系。更大的本地上下文和更具持久性的智能体,需要能够高效保留和检索工作数据的基础设施。

一个 searchable knowledge base 在应用层面面临类似的放置问题。相关材料必须快速到达模型,同时又不能将每份文档都加载到最快的上下文层中。

HBF 处理的是这一更广泛挑战的硬件一面。它试图让更多与模型相关的数据保持在足够接近计算的位置,以实现实用的推理,而不将每个比特都视为高端 HBM 数据。

这对处理器厂商、云运营商和存储器供应商形成了压力。每一方都必须判断,额外增加一层是否能带来足够的系统改善,以证明新增封装和软件复杂度的合理性。

Google News 的关注掩盖了真正的较量:规范对阵芯片

这份规范已具备吸引合作伙伴的可信度,但只有实际运行的芯片才能证明 HBF 是否应当置于 AI 处理器旁。

Sandisk 最初将 HBF 提出为一种面向推理、基于 NAND 的存储架构。其最初计划是在 2026 年下半年提供首批 HBF 样品。

该公司还预计,首批集成 HBF 的推理设备样品将在 2027 年初推出。这些目标载于其 2025 partnership release

2026 年 8 月的规范并未确认这些样品里程碑已经完成。它确立了潜在产品应遵循的技术框架。

Sandisk 的第一代概念目标是在 16 芯片堆叠中实现 1.6TB/s 的读取带宽和 512GB 容量。后续世代预计将超过 2TB/s,并最终达到 3.2TB/s。

这些数字来自 Sandisk 自己的 HBF technical brief。它们仍是公司目标,并非来自商用系统的独立测量结果。

该技术简报还称,在一项特定测试中,模拟的 HBF 配置性能与无限容量 HBM 模型相差仅 2.2%。该工作负载采用了 Llama 3.1 405B 模型的八位权重。

这一结果需要谨慎解读。Sandisk 的结论基于内部测试和模拟,且比较假设 HBM 容量无限。实际产品将面临有限容量、散热限制、软件行为和相互竞争的数据流量。

NAND 的行为也不同于 DRAM。它提供密度和非易失性,但通常具有更高的访问延迟和更严格的耐久性考量。

HBF 更大的页面尺寸可能会使请求小型、分散数据片段的工作负载变得复杂。即使标称传输速率看起来很强,搬运不必要的字节仍会消耗带宽和能源。

以读取为主的模型推理是一个合理的起点,因为训练后的权重相比许多其他数据结构变化较少。写入密集度更高的用途则会对耐久性管理施加更大压力。

封装构成了另一项考验。16 芯片堆叠需要一致的制造工艺、散热控制、信号完整性和可接受的量产良率。

一种设计可以在仿真中运作良好,但在大规模组装时却可能成本高昂。单个组件的缺陷可能影响整个先进封装的经济性。

因此,512GB 这一数字很重要,但可用容量只是产品的一部分。买家还会考察延迟分布、持续带宽、错误管理、温度、寿命,以及混合工作负载下的表现。

三档带宽规格也带来了实施问题。规范定义了目标,但供应商必须证明哪些处理器和封装能够持续支持各个等级。

UCIe 提供了开放的接口基础,但并不保证任何 HBF 堆叠都能连接到任何加速器。合规计划和参考设计将决定市场实际获得多大程度的互操作性。

这正是 Google 和 Tenstorrent 的重要性所在。Google 具备运营大型 AI 服务和设计定制加速器的经验。Tenstorrent 则能够检验该接口能否超越占主导地位的 GPU 模式而发挥作用。

它们加入联盟是一个积极的采用信号。但这并不等同于采购承诺、产品发布或部署计划。

缺少已明确命名的量产处理器,仍是核心验证缺口。HBF 至少需要一个加速器平台,配备控制器、封装设计、软件栈,以及有据可查的工作负载收益。

没有这种集成,该标准可能会在技术上很有意思,却在商业上处于边缘地位。半导体行业中有许多规范从未获得广泛的量产应用。

Sandisk 和 SK hynix 提高了成功概率,因为两者的能力具有互补性。Sandisk 贡献 NAND 设计和闪存架构,而 SK hynix 则覆盖 NAND、DRAM、HBM、封装和大规模生产。

双方的合作也减少了 HBF 只是为了保护单一供应商而进行专有尝试的印象。通过 OCP 发布,意味着将接受更广泛的审查,并可能吸引更多参与者。

不过,当公司在实施细节上存在分歧时,开放性也可能拖慢决策。生态系统通过接纳更多参与者来扩大覆盖范围,但达成共识和开展合规工作需要时间。

该规范已跨过首个制度性门槛。下一步是硅验证,随后是系统验证、软件支持、客户认证和量产经济性。

标题可以把规范发布视为完成。硬件市场则把它视为一场更漫长测试的开始。

HBF 补充 HBM,而这种权衡决定了它的市场定位

只有当额外容量能够抵消其延迟和集成成本,同时不削弱其目标工作负载时,HBF 才能胜出。

将 HBF 称为 HBM 的替代品,制造了错误的竞争。SK hynix 明确将其定位于 HBM 与 SSD 之间,而 HBM 仍负责最严苛的带宽层级。

这种区分避免了架构面对不切实际的标准。基于 NAND 的 HBF 无需在每一项操作上都胜过 DRAM。它需要做的是,在可接受的性能下,让更大的内存池发挥价值。

Sandisk 此前表示,HBF 可能以相近成本提供 HBM 八到 16 倍的容量。当前的开放规范更为克制,定义了配置和性能等级,而非证明这一经济性主张。

容量对比也会随时间变化。HBM 供应商持续提升堆叠容量和带宽,因此 HBF 面对的是不断变化的基准。

HBM 得益于成熟的加速器支持和生产需求。处理器路线图、封装投资、内存控制器和软件工具都已围绕它展开。

HBF 起步时并没有这样的既有基础。它提出的优势是密度,而非成熟度。

SSD 则从另一个方向施加压力。它们无法匹敌封装内存层级,但软件和互连的改进可以让存储对 AI 工作负载更有用。

系统设计人员可能会认为,增强型 SSD 缓存以更低的集成风险提供了足够的性能。其他人则可能为高端工作负载保留更大的 HBM 池,而不是增加第三层。

HBF 必须在完整系统层面优于这些替代方案。如果额外的控制器、封装面积、散热或软件抵消了节省,即使每比特成本具有优势也无济于事。

对能耗主张同样需要谨慎。NAND 无需刷新电力即可保留信息,因此在存储数据方面具备结构性优势。

但能耗还包括数据移动、错误校正、控制器和热管理。相关指标应是每次完成推理的能耗,而非某个组件孤立的功耗特性。

内存管理层将成为决定性因素。软件必须识别高频使用的数据,进行适当放置,并在处理器停顿之前完成迁移。

这一要求为加速器供应商和云运营商创造了机会。它们掌控调度、编译器行为、模型服务和遥测数据,能够指导数据放置。

这也带来了锁定风险。开放的物理接口并不能确保更高层软件在不同处理器和内存供应商之间仍可移植。

开发者将需要能够呈现 HBF 行为的工具,而不应迫使每个模型团队手动管理页面。否则,可能只有最大的基础设施运营商才能获得稳定收益。

首批具有吸引力的工作负载很可能具备几个共同特征:读取密集、容量受限、能够容忍一定额外延迟,并且重要到足以证明专用硬件的合理性。

大模型服务符合这一特征。检索系统、推荐模型以及部分多模态应用,也可能在活跃数据超出实际可用 HBM 容量时受益。

并非所有 AI 任务都是如此。能够轻松放入现有内存的小型模型,几乎无法从另一层中获益。访问模式不规则、对延迟敏感的应用,可能仍会更倾向于 HBM,尽管其容量有限。

训练是一个更棘手的情况,因为它会反复读取和写入大型数据结构。HBF 的初始叙事聚焦推理,原因充分。

这种权衡让这项发布保持务实。HBF 不会抹去内存层级结构。它只是增加了一个层级,并要求系统设计人员更智能地管理这一层级。

SK hynix 的更广泛战略强化了这一观点。该公司推广覆盖 HBM、传统 DRAM、NAND、企业级 SSD 和新兴内存层的产品组合。

这一组合可以减少 HBM 与 HBF 之间的内部竞争。SK hynix 可以支持客户选择的任意组合,尽管单个产品的经济性仍会影响其优先级。

Sandisk 的激励不同。其业务集中于闪存,使 AI 推理成为将 NAND 推向高价值计算领域的机会。

双方合作围绕共同标准协调了这些激励。这并未消除来自 Samsung、Micron、Kioxia、处理器供应商或替代内存架构的竞争。

竞争对手的参与将增强 HBF 作为一个行业类别的地位。但这也可能削弱 Sandisk 和 SK hynix 区分自身产品的能力。

对于开放标准而言,这是一种健康的张力。广泛采用通常要求供应商放弃部分控制权,以换取更大的市场。

三个信号将显示 HBF 是否超越标题热度

接下来的证据必须来自样品、处理器承诺和实测工作负载,而不是又一次规范展示。

第一个信号,是与新规范绑定的可运行 HBF 硅片。Sandisk 此前的路线图将首批样品安排在 2026 年下半年,留给执行的窗口有限。

有价值的样品公告应明确容量、带宽等级、封装配置和测试状态。它还应区分内部工程样品与可供客户使用的硬件。

独立测试或客户测试将进一步增强说服力。实测延迟、持续带宽、功耗、耐久性和温度,比峰值传输数字更重要。

如果符合规范的样品按计划出现,该规范作为产品基础的可信度将得到提升。若出现延迟,则表明封装、NAND 行为、控制器或制造环节仍未解决。

第二个信号,是已命名的处理器或云平台。Google 和 Tenstorrent 参与联盟,但无论参与本身还是小组讨论亮相,都不能确认商业采用。

严肃的承诺会将 HBF 与处理器路线图、参考封装、开发板或云部署联系起来。它还会说明软件如何在 HBM 和 HBF 之间分配数据。

除硬件外,还应关注控制器支持和开发者工具。缺少调度、分析和放置软件的内存设备,无法提供完整的系统收益。

一个已承诺的平台并不能保证成为行业标准。但它能证明,某家处理器设计商认为其价值足以吸收集成成本。

多个处理器或云参与者将支持开放生态系统的论点。单一专有实现则会缩小 HBF 的角色,并增加其对单一客户的依赖。

第三个信号,是现实约束下的工作负载证据。Sandisk 的仿真提供了起始假设,但生产系统必须应对有限的 HBM、混合请求、热限制和不断变化的访问模式。

基准测试应比较完整配置,而不是孤立组件。HBF 系统需要展示相对于更大 HBM 池或 SSD 支持替代方案的吞吐量、延迟、能耗和成本。

最具信息量的测试将覆盖多名并发用户下的大模型推理。它们还应说明模型精度、批处理大小、上下文长度、缓存策略和处理器利用率。

有利的结果将表明,HBF 在支持更大活跃模型的同时,能让昂贵的计算单元保持忙碌。这将增强分层内存在推理规模扩大时的价值主张。

较弱的结果则会暴露 NAND 延迟或数据移动的成本。它们可能将 HBF 限制在容量比响应时间更重要的较窄用途之中。

通过 OCP 发布规范,为研究人员和潜在采用者提供了开展这些评估的共同基础。开放工作流启动也表明,这些公司打算招募生态系统,而不是让 HBF 保持封闭。

通过 Google News 跟踪这一故事的读者,应区分未来的每一个里程碑。联盟成员、样品、集成设备和生产部署,代表着截然不同层级的证据。

Sandisk 和 SK hynix 已完成其中第一个阶段。它们定义了一种开放架构,并明确了容量、带宽、接口、封装和软件目标。

如今,责任从标准文档转移到了工程团队身上。它们必须证明,HBF 可以可靠制造、跨处理器连接,并在不制造昂贵新瓶颈的情况下得到管理。

这一结果的重要性超越了两家内存公司。成功的 HBF 硬件将为 AI 系统设计人员提供另一种平衡容量、带宽、能耗和成本的方式。

失败同样会带来有用的教训。它将表明,HBM 与 SSD 之间的差距无法仅靠将高密度 NAND 封装得更接近计算单元来弥合。

因此,下一条值得打开的 Google News 标题应包含的不只是又一次合作。请关注可测量的硅片、已命名的处理器,以及另一家组织能够审视的工作负载结果。

在这些信号出现之前,HBF 是一个由可信赞助方支持、细节异常丰富的提案。它尚不是生产级 AI 基础设施中经过验证的一层。

关注样品、集成和基准测试,而非公告数量。哪家处理器供应商将率先证明,开放 HBF 能够改善真实的推理系统?

 
 

免费开始

一款本地优先的AI助手,具备个人知识管理功能

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)M-Chip Mac

在你的大脑里添加一个搜索栏

Ask remio

记住一切

​无需整理

bottom of page