top of page

SandiskとSK hynixがオープンなHBF仕様を公開、次はハードウェアでの検証へ

SandiskとSK hynixは8月4日、標準化団体の立ち上げからわずか6カ月後に、初のオープンなHigh Bandwidth Flash仕様を公開した。この発表は、発展途上のメモリ技術としては異例なほど具体的な約束――最大512GBの容量と最大3TB/sの帯域幅――とともにGoogle Newsにも掲載された。

この組み合わせは、AIシステム内部で広がるギャップを狙っている。High Bandwidth Memory(HBM)はプロセッサ近傍で高速性を提供するが、容量には依然として制約がある。ソリッドステートドライブははるかに大容量だが、多くのレイテンシに敏感な推論タスクにとってはプロセッサから遠すぎる。

HBFとして知られるHigh Bandwidth Flashは、その中間層を担うよう設計されている。SandiskとSK hynixは、NAND flashであらゆるHBMスタックを置き換えようとしているわけではない。最もアクセス頻度の高いデータにはHBMを使い、迅速なアクセスがなお必要な、より大きなワーキングセットにはHBFを使うことを想定している。

この仕様により、プロセッサ設計者はそのアーキテクチャを評価しやすくなる。ただし、HBFが量産ハードウェアで公称性能を実現できることを示すものではない。したがって真の競争はSandisk対SK hynixではない。オープン仕様と、なお必要とされるエンジニアリングおよび採用の取り組みとの競争である。

HBF仕様はメモリのアイデアを共通の目標へと変える

今回の公開により、プロセッサ、パッケージング、ソフトウェアの各チームは共通のHBF設計目標を得るが、完成製品が提供されるわけではない。

SK hynixは、カリフォルニア州サンタクララで開催されたFMS 2026でSandiskとともにこの仕様を発表した。同イベントは8月4日から8月6日まで開催され、メモリおよびストレージ技術に焦点を当てている。

両社は、オープンなデータセンター・インフラストラクチャに注力する業界団体、Open Compute Project(OCP)を通じてこの成果を公開した。この選択は重要である。HBFには2社のメモリ供給企業を超えた参加が必要だからだ。

HBF仕様の発表によると、初期設計では2つの物理構成をサポートする。8ダイスタックが一つの選択肢となり、16ダイスタックが発表済みの最大容量を実現する。

仕様は最大512GBの容量を対象とする。また、約0.4TB/sから3TB/sの帯域幅にわたる3つの性能グレードを定義している。

これらのグレードにより、システム設計者は異なるワークロードおよびコスト要件にHBF実装を適合させられる。下位グレードなら、すべての設計を最も複雑なパッケージへ向かわせることなく、比較的負荷の低い推論タスクを支援できる可能性がある。

今回の公開では、電気的特性、パッケージの信頼性、プロセッサ接続、ソフトウェアの入出力ガイドラインも扱っている。こうした詳細により、HBFはプレゼンテーション上の概念を超え、エンジニアリングチームが検討できる対象へと近づく。

プロセッサ接続にはUniversal Chiplet Interconnect Express(UCIe)を使用する。UCIeは、1つのシステム内で別個の半導体ダイを接続するオープンなパッケージレベルのインターフェースだ。

公式のUCIe specificationsは、物理接続、プロトコル、ソフトウェア動作、適合性試験を対象としている。このインターフェースを用いることで、HBFが特定のプロセッサベンダーの独自接続に依存する必要性を減らせる。

また、HBFをCPU、GPU、その他のアクセラレータに接続する道筋も生まれる。この柔軟性は、AIインフラストラクチャが単一のプロセッサ・アーキテクチャだけで構成されないという点で、オープン標準の主張の中心となる。

ただし、インターフェース標準が自動的に相互運用性を生むわけではない。ベンダーには、相互に機能するコントローラ、パッケージング手法、ファームウェア、ドライバ、メモリ管理ポリシー、適合性試験がなお必要だ。

この違いは、短いGoogle Newsの見出しでは見落とされやすい。SandiskとSK hynixが公開したのは仕様であり、広く入手可能なHBFモジュールや量産AIサーバーではない。

それでも、その進展の速さは注目に値する。SandiskとSK hynixは2025年8月に当初の標準化パートナーシップを発表した。2026年2月にOCPワークストリームを立ち上げ、およそ6カ月後にこの初の仕様を策定した。

SK hynixによると、現在はGoogleとAIプロセッサ開発企業Tenstorrentもコンソーシアムに参加している。両社の参加により、このプロジェクトはワークロードとプロセッサの双方から貴重な知見を得られる。

両社とも、この仕様を採用した認定済み量産システムは発表していない。適合する商用デバイスの帯域幅、レイテンシ、耐久性、エネルギー性能を示す独立ベンチマークも、まだ確立されていない。

したがって、このオープン文書は業界が議論できる内容を変える。未定義のメモリ分類を議論する代わりに、エンジニアはスタックサイズ、帯域幅グレード、インターフェース、パッケージングへの期待、ソフトウェア要件を検討できる。

これが当面の出来事である。より大きな論点は、なぜAI推論にそもそも別のメモリ層が必要なのかという点だ。

AI推論がHBMとSSDに圧力をかける理由

HBFが存在するのは、推論でHBMに全量を保持するには大きすぎるデータセットに対し、HBMに近いアクセス性能がますます求められているためだ。

AIトレーニングはインフラ投資の注目を多く集めるが、推論は異なるメモリ問題を生む。トレーニングはモデルを構築する。推論は、そのモデルを繰り返し実行して、リクエストへの回答、メディア生成、ツール利用、エージェント運用を行う。

導入済みのサービスでは、モデルの重み、アテンションデータ、キャッシュ済みトークン、検索インデックス、アプリケーションコンテキストが必要になる場合がある。モデルや同時実行ワークロードが拡大するにつれ、すべてのアクティブデータセットを最速のメモリに維持することは難しくなる。

HBMはDRAMのスタックをプロセッサの近くに配置し、幅広いインターフェースで接続する。この設計は、大量のデータを迅速に移動させなければならないアクセラレータに高い帯域幅を提供する。

その強みが物理的制約をなくすわけではない。パッケージ空間、製造の複雑さ、電力、容量、供給はいずれも、各プロセッサの隣にどれだけのHBMを搭載できるかを左右する。

エンタープライズSSDは別の問題を解決する。ビット当たりのコストを抑えつつ、はるかに多くの情報を保持でき、NAND flashは継続的な電力がなくてもデータを保持する。一方、従来のストレージ経路にはレイテンシとソフトウェアのオーバーヘッドが加わる。

ここにアーキテクチャ上のギャップが生じる。一部の推論データはHBMの最小レイテンシを必要としないが、従来のSSD経路よりも高速かつ直接的なアクセスを必要とする。

SK hynixは、HBMが最大帯域幅を要する処理を担い続ける一方で、HBFを補助層として位置付けている。この階層型メモリモデルでは、アクセス頻度と性能ニーズに応じてデータを異なる技術に割り当てる。

大規模モデルは有用な例となる。頻繁に使われる部分はHBMに残し、活動頻度の低い重みはHBFに置ける。さらにアクセス頻度の低いデータはSSDに保持できる。

システムはその後、ワークロード条件の変化に応じて情報を各階層間で移動させる。この手法は既存のキャッシュ階層に似ているが、容量、帯域幅要件、パッケージング上の課題ははるかに大きい。

恩恵は配置の判断に左右される。ソフトウェアが低速な層から誤ったデータを繰り返し取得すれば、プロセッサコアは待機し、全体性能が低下する可能性がある。

したがってHBFは、アクセラレータの隣に高密度flashを置くだけでは不十分だ。周辺システムには、どのデータを各メモリ層に置くべきかを予測するコントローラとソフトウェアが必要になる。

エージェント型AIはこの圧力を強める。エージェントはより長い履歴を維持し、外部知識を参照し、ソフトウェアツールを呼び出し、1件のユーザーリクエストに対して複数のモデル操作を連携させることができる。

こうしたワークフローでは、より大きく予測しにくいワーキングセットが生じる。また、単一のプロンプトと応答よりも長時間にわたり推論インフラストラクチャを稼働させることもある。

開発者にとっての問題は、すべてのアプリケーションにHBFが必要かどうかではない。将来の推論システムが、通常のストレージに戻ることなく高価なHBM容量を削減する中間層を必要とするかどうかである。

エンタープライズの購入者にとって、メモリ・アーキテクチャはサーバー利用率、応答時間、消費電力、1システムに収まるモデル数に影響し得る。ユーザーが基盤コンポーネントを目にしなくても、こうした要因は運用コストを左右する。

ナレッジワーカーも間接的な利害関係を持つ。より大きなローカルコンテキストと、より永続的なエージェントには、作業データを効率的に保持・取得できるインフラストラクチャが必要となる。

検索可能なナレッジベースも、アプリケーションレベルでは似た配置問題に直面する。すべてのドキュメントを最速のコンテキスト層に読み込むことなく、関連する資料を迅速にモデルへ届けなければならない。

HBFは、このより広い課題のハードウェア側に取り組む。すべてのビットを高級なHBMデータとして扱うことなく、より多くのモデル関連データを実用的な推論に十分近い計算資源のそばに置こうとするものだ。

これにより、プロセッサベンダー、クラウド運営企業、メモリ供給企業には圧力がかかる。各社は、別の階層が追加のパッケージングおよびソフトウェアの複雑さを正当化するほどシステムを改善するかどうかを判断しなければならない。

Google Newsの注目が隠す本当の競争:仕様対シリコン

この仕様はパートナーを引き付けるだけの信頼性を備えるが、HBFがAIプロセッサの隣に置かれるべきかを証明できるのは、動作するシリコンだけだ。

Sandiskは当初、HBFを推論向けのNANDベース・メモリ・アーキテクチャとして発表した。当初の計画では、2026年後半に初期HBFサンプルを提供する予定だった。

同社はまた、HBFを組み込んだ最初の推論デバイスのサンプルを2027年初頭に見込んでいた。これらの目標は、同社の2025 partnership releaseに含まれていた。

2026年8月の仕様は、これらのサンプルに関するマイルストーンが達成されたことを確認するものではない。潜在的な製品が従うべき技術的枠組みを定めるものだ。

Sandiskの第1世代コンセプトは、16ダイスタックで1.6TB/sの読み出し帯域幅と512GBを目標としている。後続世代では2TB/sを超え、最終的には3.2TB/sに達すると予測されている。

これらの数値はSandisk自身のHBF technical briefによるものだ。商用システムから得られた独立測定値ではなく、引き続き同社の目標である。

この資料では、シミュレーションされたHBF構成が、特定のテストにおいて容量無制限のHBMモデルから2.2%以内の性能を示したとも述べている。ワークロードには、Llama 3.1 405Bモデルの8ビット重みを使用した。

この結果は慎重に解釈する必要がある。Sandiskは内部テストとシミュレーションに基づいており、比較ではHBM容量が無制限であると仮定している。実際の製品では、有限の容量、熱的制約、ソフトウェアの挙動、競合するデータトラフィックに直面する。

NANDもDRAMとは異なる挙動を示す。高密度で不揮発性を提供する一方、一般にアクセスレイテンシが高く、耐久性についてより厳格な考慮が必要となる。

HBFのより大きなページサイズは、小さく分散したデータ片を要求するワークロードを複雑にする可能性がある。見出し上の転送速度が優れて見えても、不必要なバイトの移動は帯域幅とエネルギーを消費する。

学習済みの重みは他の多くのデータ構造より更新頻度が低いため、読み出し中心のモデル推論は有望な出発点となる。書き込み集約型の用途では、耐久性管理により大きな負荷がかかる。

パッケージングも別の試験となる。16ダイスタックには、一貫した製造、熱制御、信号完全性、許容可能な生産歩留まりが求められる。

設計はシミュレーションでは機能しても、大量生産で組み立てると高コスト化する可能性がある。1つのコンポーネントの欠陥が、先進パッケージ全体の採算性に影響を及ぼしかねない。

したがって512GBという数値は重要だが、実用的な容量は製品の一側面にすぎない。購入者は、レイテンシー分布、持続帯域幅、エラー管理、温度、寿命、混合ワークロードでの挙動を検証するだろう。

3つの帯域幅グレードも実装上の疑問を生む。仕様は目標を示しているが、ベンダーはどのプロセッサとパッケージが各グレードを維持できるのかを明らかにする必要がある。

UCIeはオープンなインターフェースの基盤を提供するものであり、あらゆるHBFスタックがあらゆるアクセラレータに接続できることを保証するものではない。市場が実際にどの程度の相互運用性を得られるかは、準拠プログラムとリファレンス設計によって決まる。

ここでGoogleとTenstorrentが重要になる。Googleは大規模AIサービスの運用とカスタムアクセラレータ設計の経験を持つ。Tenstorrentは、このインターフェースが支配的なGPUモデル以外でも機能するかを検証できる。

両社のコンソーシアム加入は、採用に向けた前向きなシグナルだ。ただし、購入の確約、製品発表、導入と同義ではない。

出荷予定のプロセッサが明示されていないことは、依然として検証上の最大の空白だ。HBFには、コントローラ、パッケージ設計、ソフトウェアスタック、文書化されたワークロード上の利点を備えるアクセラレータプラットフォームが少なくとも1つ必要となる。

この統合がなければ、この規格は技術的には興味深くても、商業的には周辺的な存在にとどまるおそれがある。半導体業界には、広範な量産利用に至らなかった仕様が数多く存在する。

SandiskとSK hynixは能力が補完的であるため、成功の可能性を高める。SandiskはNAND設計とフラッシュアーキテクチャを提供し、SK hynixはNAND、DRAM、HBM、パッケージング、量産までをカバーする。

両社の提携は、HBFが単に1社のサプライヤーを守るためのプロプライエタリな試みだという印象も和らげる。OCPでの公開は、より幅広いレビューと参加の可能性を招く。

ただし、企業間で実装の詳細に意見の相違がある場合、オープン化は意思決定を遅らせる可能性がある。エコシステムは参加者を増やすことで裾野を広げられるが、合意形成と準拠作業には時間がかかる。

この仕様は、最初の制度的な関門を通過した。次はシリコン検証であり、その後にシステム検証、ソフトウェア対応、顧客認定、生産経済性が続く。

見出しでは公開を完成と扱えるかもしれない。だがハードウェア市場では、それはより長い試験の始まりにすぎない。

HBFはHBMを補完し、そのトレードオフが市場を規定する

HBFが成功するのは、それが支えるべきワークロードを損なうことなく、追加容量がレイテンシーと統合コストを上回る場合に限られる。

HBFをHBMの代替品と呼ぶと、誤った競争構図を生む。SK hynixはHBFをHBMとSSDの間に位置付けており、最も要求の厳しい帯域幅層は引き続きHBMが担うと明示している。

この区別により、アーキテクチャは非現実的な基準から守られる。NANDベースのHBFは、すべての処理でDRAMを上回る必要はない。許容できる性能で、より大きなメモリプールを有用にする必要がある。

Sandiskは以前、HBFが同程度のコストでHBMの8倍から16倍の容量を提供できる可能性があると述べていた。現在のオープン仕様はより慎重で、こうした経済性の主張を実証するのではなく、構成と性能グレードを定義している。

容量比較も時間とともに変化する。HBMサプライヤーはスタック容量と帯域幅を引き続き拡大しており、HBFは変化する基準線と競合することになる。

HBMは、確立されたアクセラレータ対応と生産需要の恩恵を受ける。プロセッサのロードマップ、パッケージング投資、メモリコントローラ、ソフトウェアツールは、すでにHBMを中心に展開している。

HBFには、そのような導入基盤がない。提案されている強みは、成熟度ではなく高密度性だ。

SSDは別の側面から圧力をかける。オンパッケージのメモリ層には及ばないが、ソフトウェアとインターコネクトの改善によって、AIワークロードにおけるストレージの有用性は高められる。

システム設計者は、統合リスクを抑えつつ十分な性能を得られる強化SSDキャッシュを選ぶ可能性がある。また、第3層を追加するのではなく、より大きなHBMプールをプレミアムワークロード向けに確保する選択もあり得る。

HBFは、システム全体のレベルでこれらの代替策を上回らなければならない。追加のコントローラ、パッケージ面積、冷却、ソフトウェアが節約分を打ち消すなら、ビット当たりのコストが有利でも意味はない。

エネルギーに関する主張にも同様の慎重さが求められる。NANDはリフレッシュ電力なしで情報を保持するため、保存データに関して構造的な利点がある。

しかし、エネルギー使用量にはデータ移動、エラー訂正、コントローラ、熱管理も含まれる。重要な指標はコンポーネント単体の電力特性ではなく、完了した推論1回当たりのエネルギーだ。

メモリ管理層が決定的となる。ソフトウェアは頻繁に使われるデータを特定し、適切に配置し、プロセッサが停止する前に移動させなければならない。

この要件は、アクセラレータベンダーとクラウド事業者に機会をもたらす。両者はスケジューリング、コンパイラの挙動、モデルサービング、配置を導くテレメトリを管理している。

一方で、ロックインのリスクも生じる。オープンな物理インターフェースは、上位層のソフトウェアがプロセッサやメモリサプライヤー間でポータブルなままであることを保証しない。

開発者には、すべてのモデルチームにページを手作業で管理させずにHBFの挙動を可視化するツールが必要になる。そうでなければ、一貫した利得を得られるのは最大規模のインフラ事業者だけになるかもしれない。

最初に魅力的となるワークロードには、おそらくいくつかの共通点がある。読み取り中心で、容量制約があり、多少の追加レイテンシーを許容でき、専用ハードウェアを正当化するほど重要であることだ。

大規模モデルのサービングはこの特性に合致する。アクティブなデータが実用的なHBM容量を超える場合、検索システム、レコメンデーションモデル、一部のマルチモーダルアプリケーションも恩恵を受ける可能性がある。

ただし、すべてのAIタスクがそうではない。既存メモリに余裕を持って収まる小規模モデルは、別の層を追加しても得るものは少ない。不規則なアクセスパターンを持つレイテンシー重視のアプリケーションは、容量制約があってもHBMを選ぶ可能性がある。

トレーニングは、大きなデータ構造を繰り返し読み書きするため、より難しいケースとなる。初期のHBFに関する議論が推論に焦点を当てるのには理由がある。

このトレードオフは発表を現実的なものにしている。HBFはメモリ階層を消し去るのではない。新たなレベルを追加し、システム設計者にその階層をより賢く管理するよう求める。

SK hynixのより広範な戦略も、この見方を補強する。同社はHBM、従来型DRAM、NAND、エンタープライズSSD、新興メモリ層にまたがるポートフォリオを推進している。

このポートフォリオは、HBMとHBF間の社内競合を減らせる。SK hynixは顧客が選ぶどの組み合わせにも対応できるが、個別製品の採算性は依然として優先順位に影響する。

Sandiskには異なる動機がある。フラッシュへの集中は、AI推論をNANDを高付加価値の計算処理に近づける機会にする。

この提携は、それらの動機を共通規格の下で整合させる。Samsung、Micron、Kioxia、プロセッサベンダー、代替メモリアーキテクチャとの競争をなくすものではない。

競合他社の参加は、HBFを業界カテゴリーとして強化するだろう。同時に、SandiskとSK hynixが自社製品を差別化する能力を弱める可能性もある。

これはオープン規格にとって健全な緊張関係だ。広範な採用には通常、より大きな市場と引き換えにサプライヤーが一定の主導権を手放すことが求められる。

HBFが見出しの先へ進むかを示す3つのシグナル

次に必要な証拠は、別の仕様発表ではなく、サンプル、プロセッサのコミットメント、測定されたワークロードから得られなければならない。

最初のシグナルは、新仕様に結び付いた実動HBFシリコンだ。Sandiskの以前のロードマップでは、初期サンプルは2026年後半に予定されており、実行の余地は限られている。

有用なサンプル発表では、容量、帯域幅グレード、パッケージ構成、試験状況を明示すべきだ。また、社内のエンジニアリングサンプルと、顧客が利用可能なハードウェアを区別する必要がある。

独立機関または顧客による試験は、さらに説得力を増す。測定されたレイテンシー、持続帯域幅、消費電力、耐久性、温度は、ピーク転送値よりも重要だ。

準拠サンプルが予定どおり登場すれば、この仕様は製品基盤としての信頼性を得る。遅延は、パッケージング、NANDの挙動、コントローラ、製造に未解決の課題が残ることを示唆するだろう。

2つ目のシグナルは、実名のプロセッサまたはクラウドプラットフォームだ。GoogleとTenstorrentはコンソーシアムに参加しているが、参加やパネル登壇のいずれも商業採用を確認するものではない。

本格的なコミットメントは、HBFをプロセッサのロードマップ、リファレンスパッケージ、開発ボード、またはクラウド導入に結び付けるものとなる。また、ソフトウェアがHBMとHBFの間でデータをどのように割り当てるかも示す必要がある。

ハードウェアとともに、コントローラ対応と開発者ツールにも注目したい。スケジューリング、プロファイリング、配置のためのソフトウェアがなければ、メモリデバイスはシステム全体の利点を最大限に発揮できない。

コミットしたプラットフォームが1つあっても、業界標準が保証されるわけではない。ただし、プロセッサ設計者が統合コストを負担するだけの価値を見出していることは示せる。

複数のプロセッサまたはクラウド参加者が加われば、オープンエコシステムという主張を支えることになる。単一のプロプライエタリ実装にとどまれば、HBFの役割は限定され、1社の顧客への依存度が高まる。

3つ目のシグナルは、現実的な制約下でのワークロードの証拠だ。Sandiskのシミュレーションは出発仮説を提供するが、本番システムは有限のHBM、混在リクエスト、熱制約、変化するアクセスパターンに対応しなければならない。

ベンチマークは、単体コンポーネントではなく完全な構成を比較すべきだ。HBFシステムは、より大きなHBMプールやSSDベースの代替策に対し、スループット、レイテンシー、エネルギー、コストを示す必要がある。

最も有益なテストは、複数の同時ユーザーによる大規模モデル推論を対象とする。モデル精度、バッチサイズ、コンテキスト長、キャッシュ方針、プロセッサ使用率も説明すべきだ。

有利な結果は、より大きなアクティブモデルを支えながら、HBFが高価な計算ユニットを稼働させ続けられることを示す。推論の規模拡大における階層型メモリの有用性を強化するだろう。

弱い結果は、NANDレイテンシーやデータ移動のコストを明らかにする。容量が応答時間より重要な、より狭い用途にHBFを限定する可能性がある。

OCPを通じた仕様の公開は、研究者と潜在的な採用者に、こうした評価の共通基盤を提供する。open workstream launchも、両社がHBFを閉じたままにせず、エコシステムを募る意図を示している。

Google Newsを通じてこの動向を追う読者は、今後の各マイルストーンを区別すべきだ。コンソーシアム加盟企業、サンプル、統合済みデバイス、本番導入は、それぞれ大きく異なる水準の証拠を意味する。

SandiskとSK hynixは、そのうち最初の段階を完了した。両社は、容量、帯域幅、インターフェース、パッケージング、ソフトウェアに関する明確な目標を備えたオープンアーキテクチャを定義した。

いま、責任は規格文書からエンジニアリングチームへ移る。HBFが信頼性高く製造でき、プロセッサ間で接続でき、高価な新たなボトルネックを生まずに管理できることを示さなければならない。

この結果は、2社のメモリ企業にとどまらず重要だ。HBFハードウェアが成功すれば、AIシステム設計者は容量、帯域幅、エネルギー、コストのバランスを取るための新たな手段を得る。

失敗からも有用な教訓は得られる。高密度NANDを計算処理に近づけてパッケージングするだけでは、HBMとSSDの間の隔たりを埋められないことが示されるだろう。

したがって、次に開く価値のあるGoogle Newsの見出しには、別の提携以上の内容が必要だ。測定可能なシリコン、実名のプロセッサ、そして他組織が精査できるワークロード結果を探すべきである。

こうしたシグナルが現れるまで、HBFは信頼できる支援者を持つ非常に詳細な提案にとどまる。まだ本番AIインフラで実証された層ではない。

発表件数ではなく、サンプル、統合、ベンチマークを追うべきだ。オープンHBFが実際の推論システムを改善できることを最初に示すプロセッサベンダーはどこになるだろうか。

 
 

無料で始めましょう

ローカルファーストのパーソナル知識管理付きAIアシスタント

より良いAI体験のために、

remio は現在、 Windows 10+ (x64)M-Chip Mac のみをサポートしています。

脳内に検索バーを追加

ただremioに尋ねるだけ

すべてを思い出す

何も整理しない

bottom of page