Frore LiquidJet Diamond、Nvidia Rubinの2,300W冷却問題に挑む

Frore Systemsは、2,300ワットのNvidia Rubinアクセラレータと、異常に熱が集中するチップのホットスポットを冷却するために設計したカスタムコールドプレート「Frore LiquidJet Diamond」を発表した。同社は、この設計により、従来のスカイブ加工コールドプレートと比べてGPU温度を16°Cから22°C下げられるとしている。また、ワット当たりのAIトークン数を30%から35%増加させられると予測している。

これらの数値が実現すれば、冷却は単に過熱を防ぐ補助システムではなく、コンピューティング出力に直接寄与する要素となる。ただし、Froreが公表した結果は、熱モデルと指定された動作条件に一部基づく同社の主張にとどまる。独立したRubinハードウェアの試験では、同等の向上はまだ確認されていない。

より重要なのは、2つの冷却アーキテクチャの競争だ。従来のコールドプレートは加工したチャネル全体に冷却液を流すのに対し、Froreはプロセッサのマッピングされたホットスポット周辺に流れを集中させる。LiquidJet Diamondは熱流束が最も高い場所にダイヤモンド製ヒートスプレッダを追加し、Froreが必要と判断した箇所にのみ高価な素材を配置する。

このアプローチは、NvidiaとAMDが、より高いパッケージ電力、より大規模なマルチダイ構成、より高密度なメモリーシステムを備えるアクセラレータを準備する時期に登場した。冷却ベンダーは現在、総発熱量だけでなく、周囲のパッケージ領域よりはるかに高温になる小さな領域も管理する必要がある。

Frore LiquidJet Diamond、ホットスポットの上にダイヤモンドを配置

Froreの中心的な考え方は、各プロセッサの熱マップに合わせてコールドプレートを設計し、最も厳しいホットスポットの直上にダイヤモンドを配置することだ。

コールドプレートは、プロセッサパッケージに接して取り付けられる金属製の冷却部品である。プレート内部を循環する液体が、熱を施設の冷却ループへと運ぶ。熱経路には通常、シリコン、パッケージ材料、熱伝導インターフェース材料、そしてコールドプレート自体が含まれる。

各層は熱抵抗を加える。この抵抗により、冷却液と動作中のシリコンとの温度差が大きくなる。パッケージの他の部分よりもはるかに大きな熱を小さな領域が発生させる場合、その影響を制御することはさらに難しくなる。

Froreによると、LiquidJet Diamondは3次元の超短ループ型マルチステージ構造を採用している。内部チャネルは、GPUダイ、高帯域幅メモリー、その他のチップレットへ流す前に、まず冷却液をホットスポットへ導く。

同社は、半導体製造から応用したプロセスで内部の銅構造を製造する。この手法では、銅に薄いチャネルを切り出すスカイブ加工によって一般的に作られる直線的なフィンよりも、複雑な形状を実現できる。

ダイヤモンドは設計の第2の要素を構成する。Froreはコールドプレート底面にダイヤモンド素材を埋め込み、特定したホットスポットの上に配置する。ダイヤモンドは銅よりも効率的に熱を伝えるため、熱が液冷構造に入る前に、集中した熱を拡散できる。

これはすべてのアクセラレータ向けの汎用プレートではない。寸法と内部チャネルは、対象プロセッサに応じて変化する。Froreは、Nvidia GB300構成向けの基準サイズとして104.6×62×20.4ミリメートルを挙げている。

このカスタム設計が、FroreのLiquidJet Nexusとの最も重要な違いを生む。Nexusは複数のコールドプレートと冷却コンポーネントを、より大きなサーバーレベルのアセンブリに統合する。一方、LiquidJet Diamondは、システムビルダーが自社プラットフォームへ組み込める個別アクセラレータ用コールドプレートである。

Froreが公表した製品仕様によると、このプレートは5×5ミリメートルの770 W/cm²ホットスポットに対応する。この定格は、25°Cの入口冷却液、95°Cの最大接合部温度、PTM7950熱伝導インターフェース材料、ヒートスプレッダを外したパッケージを前提としている。

これらの条件は重要だ。770 W/cm²という数値は、GPUパッケージ全体における平均密度ではなく、小さなホットスポットに集中した熱を示している。また、異なる冷却液温度やパッケージングの選択肢でも、あらゆるアクセラレータがその密度を維持できることを意味するものではない。

同社はLiquidJet Diamondをマルチインレット型スカイブコールドプレートと比較している。最大ホットスポット容量は150%以上大きく、熱伝達効率は75%高く、GPU温度は16°Cから22°C低いと主張する。

Froreはさらに、こうした温度低下がワット当たりAIトークン数を30%から35%増やすとしている。これはコンピューティング効率の予測上の改善であり、データセンター全体のエネルギー使用量が測定により削減されたことを示すものではない。

発表時の報道は、Froreがダイヤモンド部材の製造方法や統合方法を明らかにしていないと指摘している。この不明な詳細は、コスト、製造歩留まり、信頼性、生産量に影響する可能性がある。

したがって、LiquidJet Diamondは特定の工学的提案を表す。局所的な熱拡散と、特定のプロセッサの熱挙動に合わせて設計された冷却液経路を組み合わせている。その価値は、こうした利点が製造公差、長期運用、完全なラック展開においても維持されるかどうかにかかっている。

Nvidia Rubin、冷却をコンピューティングの制約条件へ変える

2,300ワットのアクセラレータでは、熱抵抗が持続クロックと実用的な出力を制限し得るため、温度制御は性能予算の一部となる。

従来のサーバー冷却は、平均パッケージ電力を中心に設計されることが多かった。大型アクセラレータが複数の計算ダイ、高帯域幅メモリー、高速インターコネクト、不均一なワークロードを組み合わせる場合、このアプローチの信頼性は低下する。

AIワークロードでは、テンソル処理ハードウェアが長時間にわたり稼働し続けることがある。メモリーやインターコネクトの活動も、パッケージ全体の熱分布を変化させる。コールドプレートは、ある領域が限界に達することを防ぎながら、持続的な総電力と局所的なスパイクの双方に対応しなければならない。

Froreは、2,300ワットのNvidia Rubin冷却構成でLiquidJet Diamondを披露する計画だ。このデモは、同社が示す770 W/cm²に達するホットスポットを対象としている。

このデモが出荷版のRubinアクセラレータ、量産前ハードウェア、あるいは熱試験ビークルのいずれを使うのかは依然として不明である。試験ビークルは電力とホットスポットの配置を再現できるが、量産シリコンにおけるすべての機械的挙動やワークロード挙動を表現することはできない。

Nvidiaが公表したHGX仕様では、HGX Rubin NVL8ベースボードに8基のRubin GPUが搭載される。各GPUは288 GBのHBM4メモリーと22 TB/sのメモリー帯域幅を備える。8 GPUのプラットフォームは2テラバイトのHBM4を提供する。

これらの仕様は、なぜ冷却がシステム設計の問題になったのかを説明する一助となる。GPU、メモリー、ネットワークコンポーネント、電力供給ハードウェア、プロセッサを含む高密度な構成から、熱を取り除かなければならない。

Nvidiaによると、RubinはGPU当たり50ペタフロップスのNVFP4推論性能を提供する。Rubinアーキテクチャには3,360億個のトランジスタ、224基のストリーミングマルチプロセッサ、896基のTensor Coreが含まれる。

このアーキテクチャは、チップレット設計と高帯域幅のパッケージ接続も採用する。この組み合わせにより、限られた物理面積内に複数の潜在的な発熱源が生じる。平均パッケージ温度だけでは、こうした局所的な状態を完全に説明できない。

温度は出力に影響する。現代のプロセッサは、電気的および熱的な制約の範囲内で周波数と電圧を管理するためだ。他の制約が介在しない場合、より低温のチップはより高い動作周波数を維持できる。

ただし、温度低下が固定的なスループット向上を自動的に保証するわけではない。性能は、ワークロードの挙動、メモリーアクセス、ネットワーク、ソフトウェア効率、稼働率、電力管理にも左右される。

Froreが冷却をワット当たりトークン数へ直接結び付けるのは、推論事業者が有用な出力を販売または消費するためだ。2つのシステムが同程度の電力を使用するなら、より多くのトークンを生成するシステムの計算効率は高い。

この商業的な枠組みは、証拠に対する基準を引き上げる。購入者には、代表的なモデル、バッチサイズ、シーケンス長、稼働率パターンにわたるワークロードレベルの測定が必要だ。熱モデルだけでは、運用上の結果全体を示せない。

冷却に必要な電力も考慮しなければならない。ポンプ、冷却液分配ユニット、施設の熱交換器、オプションのチラーはエネルギーを消費する。チップレベルの効率向上は、冷却ループ全体で大幅な追加電力が必要になれば縮小し得る。

Froreは、コールドプレートの抵抗を下げることで、より低温の入口水への依存を減らせると主張する。より温かい冷却液は、排熱を容易にし、施設効率を改善できる。この主張には妥当性があるが、正味の結果は気候、システム設計、施設の運用温度に左右される。

そのため、従来型コールドプレートの供給企業とサーバー設計者への圧力は高まる。ホットスポット制御を改善するか、あるいは専門性の低いプレートでも、より低いコストと複雑性で十分な性能を提供できることを証明する必要がある。

従来型コールドプレート、ホットスポット問題に直面

主要な競争は単なるダイヤモンド対銅ではなく、ホットスポット特化型冷却と、より広範な排熱を前提に設計されたコールドプレートとの競争だ。

スカイブコールドプレートは、銅製ベースと薄いフィンの集合から始まる。冷却液はそれらのフィンの間を流れ、熱を集めてからプレートを出る。メーカーはこのプロセスをよく理解しており、完成した部品は既存のサーバー供給網に適合する。

このアーキテクチャは、熱が比較的均等に分散している場合には有効に機能する。小さな一箇所で極端な熱が発生する一方、冷却液が長いチャネルを移動する場合には、効率が低下する。

設計者は、入口を追加し、フィン形状を変え、流量を増やし、または冷却液温度を下げることができる。それぞれの対応には影響がある。流量を上げれば圧力要件が高まる可能性があり、より冷たい液体には、より多くの施設エネルギーや結露対策が必要になる場合がある。

Froreの短ループ設計は、入口と最も高温になる領域との距離を短縮しようとするものだ。マルチステージのルーティングにより、他のパッケージ部品へ供給する前に、利用可能な最も低温の液体をホットスポットに送る。

ダイヤモンド層は関連する問題に対処する。冷却液チャネルは、熱がコールドプレートへ到達した後に熱を除去する。高熱伝導率のスプレッダは、その熱移動が起こる前に、集中した熱をより広い冷却面積へ分散できる。

この違いは、Froreが熱伝達効率とホットスポット密度の両方を挙げる理由を説明する。一方の指標は、熱が冷却構造をどれだけ効果的に横断するかを表す。もう一方は、接合部温度が指定上限に達する前に、発熱源がどれほど集中し得るかを表す。

この設計は、総ワット数による製品比較の限界も浮き彫りにする。同じ電力を消費する2つのアクセラレータでも、ダイ配置、パッケージング、ホットスポット位置が異なれば、必要なコールドプレートも異なり得る。

そのためFroreは、Nvidia Rubin、Rubin Ultra、Feynman、AMD Instinct MI455、MI500、カスタムのハイパースケーラー向けアクセラレータを対象として挙げている。それぞれに、寸法と熱マップに合わせたプレートが提供されることになる。

AMDの公開MI400ロードマップでは、CDNAベースのMI400ファミリーは2026年に予定されていた。AMDのより新しい計画でも、MI400はHBM4と次世代ネットワーキングを備えるラックスケールシステムに位置付けられている。

複数ベンダーを支援することは、Froreにとっての事業機会を広げ得る。一方で、エンジニアリング作業も増大する。新たなパッケージごとに、シミュレーションの更新、内部構造の刷新、ツール変更、そして新たな機械的認定が必要になる可能性がある。

標準的なスカイブ加工プレートには別の利点がある。よく知られた構造により、認定リスクを抑えつつ、カスタム製造工程を減らして複数の製品構成を支援できる可能性がある。

したがってLiquidJet Diamondは、その複雑さを正当化しなければならない。購入者は、追加の熱的余裕を、部品コスト、開発期間、保守性、信頼性、供給可能性と比較することになる。

ダイヤモンドを使うだけでは、この比較に決着はつかない。材料の量、品質、配向、接合方法、配置はいずれも性能に影響する。優れたバルク熱伝導率の数値が、低抵抗の組立済みインターフェースを保証するわけではない。

接触圧も別の課題となる。コールドプレートは、ダイ、ブリッジ、インターポーザ、周辺部品を損傷させることなく、大型パッケージ全体で信頼性の高い接触を維持しなければならない。

この問題は、ヒートスプレッダを備えないパッケージでより深刻になる。統合型ヒートスプレッダを取り除けば熱経路は短くなるが、繊細なパッケージ構造が機械的負荷にさらされる。

Froreの770 W/cm²という仕様は、ヒートスプレッダなしのパッケージを前提としている。ヒートスプレッダ付きの量産GPUを評価する購入者は、この数値を自社システムにそのまま当てはめることはできない。

そのため、従来方式はアクセラレータの動作要件を満たす限り、依然として有力である。既存のプレートが、クロック低下、より低温の冷却液、より大きなポンプ動力、あるいは不十分なホットスポット余裕を強いる場面で、Froreの設計は最も魅力的になる。

市場が両方式を選別するのは、熱伝導率の数値だけによってではない。数千台のサーバーにわたり予測可能な性能を提供する、認定済みシステムによって選ばれることになる。

温度低下がトークン/Wを高める理由

Froreの効率性に関する主張には明確なメカニズムがあるが、改善幅はコールドプレートだけで決まるものではない。

プロセッサの接合部温度は、冷却液温度、発熱量、総熱抵抗を反映する。他の変数が安定している場合、熱抵抗を下げれば接合部温度も下がる。

低温化は半導体デバイスのリーク電力を低減できる。また、プロセッサが熱制限内で使える余地を増やし、より高い持続動作周波数を支えたり、スロットリングを抑えたりする可能性がある。

Froreによる以前のLiquidJetモデリングでは、ベースコールドプレートによって約6°Cから12°Cの温度低下が得られるとしていた。同社はこの範囲を、トークン/Wの10%から25%の向上と関連付けた。

LiquidJet Diamondは、Froreによれば、ホットスポットをさらに最大10°C低減する局所的なスプレッダを追加する。これにより、同社の総合比較では16°Cから22°Cの温度改善と、トークン/Wで30%から35%の向上に達するとしている。

これらの範囲を普遍的な値として合算すべきではない。パッケージ設計、インターフェース、入口温度、流量、ワークロードの違いにより、結果は変わり得る。

独立研究は、液冷と持続的なコンピューティング性能とのより広い関係を裏付けている。2026年の液冷に関する研究では、液冷および空冷の8基GPU Nvidia H100システムを比較した。

研究者らは、液冷システムのGPU温度が41°Cから50°Cだったと報告した。空冷構成では、負荷時に54°Cから72°Cの範囲となった。

また、液冷プラットフォームではGPU当たり54 TFLOPS、空冷ではGPU当たり46 TFLOPSを測定した。試験対象システムでは17%の性能差に相当した。

この研究はFrore LiquidJet Diamondや、そのRubinに関する主張を検証するものではない。異なるハードウェアを用い、2種類の液冷コールドプレート設計ではなく、液冷と空冷を比較している。

ただし、冷却ベンダーが計算出力について論じることが妥当である理由は示している。熱的安定性は、部品の生存性だけでなく、持続的なプロセッサ挙動にも影響し得る。

トークン/Wは依然としてワークロード依存の指標である。メモリ帯域律速の推論タスクは、演算律速のタスクに比べ、GPU周波数の追加的な向上から得られる効果が小さい可能性がある。

ソフトウェアが結果を大きく左右する場合もある。量子化、バッチ処理、投機的デコーディング、カーネル選択、並列化は、システムが電力入力から生成するトークン数に影響する。

ラックネットワークも別の変数となる。Rubinシステムは高帯域幅のNVLink接続を用い、GPUが協調したコンピューティングファブリックとして動作できるようにする。個々のGPUが低温に保たれていても、通信オーバーヘッドがワークロード性能を制限する可能性がある。

最も説得力のある試験は、同一のRubinシステムを2種類のコールドプレートで測定するものだろう。両構成で、ソフトウェア、冷却液条件、ワークロード、施設側の電力計上を同一にする必要がある。

結果には、接合部温度、ホットスポットのばらつき、アクセラレータ電力、ポンプ電力、冷却液流量、圧力損失、スループット、ジュール当たりのトークン数を含めるべきである。長時間の実行により、初期の改善が安定して維持されるかどうかが分かる。

データセンターの購入者には、ピーク結果だけでなく性能分布も必要となる。アクセラレータ間のばらつきを抑えるプレートであれば、平均的な優位性が小さく見えても、クラスタースケジューリングを改善できる可能性がある。

こうした一貫性が重要なのは、大規模な学習・推論ジョブでは最も遅い参加者を待つことがあるためだ。熱的制約を受けるGPUが少数でも、大規模な同期システムの効率を低下させ得る。

したがって、Froreの35%という数値は、同社が見込む結果の上限として読むのが最適である。すべてのRubin導入で得られる普遍的な改善では、まだない。

主張には依然として量産規模での実証が必要

LiquidJet Diamondは信頼できるエンジニアリング上の問題に対処しているが、公表された数値はまだ完全な量産認定の根拠を示していない。

最初の不確実性は検証に関するものだ。Froreはホットスポット評価について詳細な条件を示しているものの、量産Rubinシステムを使用した幅広い独立ベンチマークは公表していない。

解析的な熱モデルは開発段階で価値がある。最終ハードウェアが広く利用可能になる前に、材料、流路、パッケージ選択、冷却液条件を比較できる。

ただし、モデルは入力値に依存する。電力分布、インターフェース品質、ヒートスプレッダ接触、ワークロード挙動、プロセッサ制御に関する仮定は、結果を変え得る。

Froreが試験デバイスと測定方法を明示すれば、計画中のデモは有益な証拠となり得る。熱試験ビークルは、制御された条件下での放熱性能を検証する。しかし、トークンスループットを検証するものではない。

量産GPUテストであれば、温度変化を実際の性能と結び付けられる可能性がある。それでも購入者には、ワークロードの詳細と完全なシステム電力計上が必要となる。

第2の不確実性は製造である。Froreは半導体プロセスを応用して銅構造を製造するとしているが、量産コストや生産能力は開示していない。

ダイヤモンドの埋め込みは、より多くのインターフェースと工程を導入する。異なる材料は熱膨張率が異なるため、熱サイクルによって接合部に応力がかかる可能性がある。

サーバーは、保守、ワークロード変化、障害の際に繰り返し加熱・冷却される。認定では、コールドプレートがこうしたサイクルを通じて接触状態、流体性能、構造的完全性を維持することを示さなければならない。

第3の論点はカスタマイズだ。各ヒートマップに合わせて冷却液チャネルを調整すれば性能は改善し得るが、特定のプレートが特定のパッケージ構成に結び付けられる。

アクセラレータの後期変更では、プレートの再設計が必要になる可能性がある。GPUベンダーが量産出荷前に電力マップ、機械的公差、パッケージ高、インターフェース要件を改訂する場合、このリスクは重要になる。

クラウド事業者は交換容易性も重視する。高度にカスタマイズされた部品には、導入環境の稼働期間を通じて、信頼できるスペア在庫と明確な保守手順が必要となる。

第4の疑問は冷却液インフラに関するものだ。コールドプレートは独立して動作しない。マニホールド、ポンプ、冷却液分配ユニット、熱交換器、センサー、施設側ループに接続される。

圧力損失はポンプ要件に影響する。多数のアクセラレータが1つのラックを共有する場合、流量分配はより困難になる。製造上のわずかな違いも、どの分岐に最も多くの冷却液が流れるかに影響し得る。

FroreはLiquidJet Diamondをドロップインアップグレードと説明しているが、この表現は慎重に解釈する必要がある。機械的な互換性は、油圧特性が同一であることや、施設要件が変わらないことを保証しない。

第5の不確実性は経済性である。低温化は、スループット向上、冷却エネルギーの削減、ハードウェア寿命の延長を通じて価値を生み得る。購入者は、こうした節約分とプレートの完全な導入コストを比較しなければならない。

Froreはダイヤモンドをホットスポット周辺にのみ使用するため、ダイヤモンド材料が自動的にシステムの採算性を損なうわけではない。しかし、同社は導入回収を算定するのに十分な商業情報を公表していない。

第6の論点はパッケージングリスクである。Froreの最高ホットスポット仕様は、PTM7950を用いてヒートスプレッダなしのパッケージに直接接触することを前提としている。

蓋を外すことで、シリコンとコールドプレートの間の層がなくなり、熱抵抗は低下する。また、マルチダイアセンブリ全体でのひび割れや不均一な荷重の危険も高まり得る。

統合型ヒートスプレッダはパッケージを保護し、機械的な力を分散する。ハイパースケーラーは出力向上のためにより大きなパッケージングリスクを受け入れるかもしれないが、エンタープライズの購入者は保守性の保守的な設計を優先する可能性がある。

これらの疑問はアーキテクチャを否定するものではない。説得力のあるデモと、AIクラスター全体に導入される認定済み製品との間にある課題を定義するものである。

Froreは、独立した試験結果、詳細な動作条件、信頼性データ、油圧測定値を公表することで、その主張を強化できる。顧客導入は、さらなるモデリング比較よりも強い証拠を提供するだろう。

Diamond冷却が拡大するかを決める3つのシグナル

次の段階で重要なのは、見出しを飾る温度低下のさらなる拡大ではなく、検証、アクセラレータ認定、導入である。

第1のシグナルは、透明性の高いRubinデモである。Froreは、2,300ワットのセットアップが量産シリコン、量産前ハードウェア、またはヒーターベースの試験ビークルのいずれを使用するのかを明らかにすべきだ。

有用なデモでは、冷却液温度、流量、圧力損失、パッケージ構成、インターフェース材料、ホットスポット測定方法を開示する。実際のワークロード結果には、システム全体の電力を含めるべきである。

Froreの16°Cから22°Cという範囲と一致する独立測定が得られれば、ホットスポットを狙った冷却の有効性は強まる。モデリングまたはシミュレーション済みハードウェアに限定された結果では、主要な性能主張は未解決のままとなる。

第2のシグナルは、アクセラレータまたはサーバーベンダーとの正式な認定である。実名を伴う設計採用は、LiquidJet Diamondが機械、油圧、熱、信頼性のレビューを通過したことを示すだろう。

Nvidia RubinまたはAMD Instinctプラットフォーム向けの認定は、Froreのカスタマイズモデルも試すことになる。同社がプロセッサのヒートマップを再現性のある量産部品へと転換できるかを示すものとなる。

一般的な互換性表明の重みはそれより小さい。購入者には、承認済みの取付荷重、コネクタ、マニホールド、ファームウェア制御、保守手順を備えた完全なサーバー内でプレートが機能する証拠が必要だ。

第3のシグナルは、クラスター規模の運用データである。単一のコールドプレートは良好に機能しても、実装済みラックでは流量バランス、ポンプ、振動、漏水検知、保守の問題が露呈する可能性がある。

長期間の結果では、アクセラレータ温度、性能のばらつき、冷却電力、故障率、ワークロード出力を追跡すべきである。トークン/Wには、関連する冷却装置も含める必要がある。

Froreがこうした条件下で主張する効率改善を維持できれば、コールドプレートの選定はAI容量計画の一部となる。事業者は、固定された電力割り当てからより多くの仕事を引き出せる可能性がある。

システム電力と量産パッケージングを含めた場合に利得が縮小するなら、LiquidJet Diamondは、従来型プレートを広範に置き換えることなく、極端なホットスポット向けに価値を維持する可能性がある。

それでも、今は本格的な実験に取り組む好機だ。NvidiaのRubinプラットフォームは、高いコンピュート密度にHBM4とラックスケール接続を組み合わせている。AMDも同様に高度に統合されたアクセラレータシステムを追求している。

一方、AI事業者は、チップ設計だけでは解決できない電力および設備面の制約に直面している。トランジスタから冷却設備に至るすべての層が、利用可能なコンピューティング能力に影響を及ぼすようになった。

Frore LiquidJet Diamondは、技術的に整合性のある対応策を提示する。プロセッサの熱マップに従って冷却液を流し、銅だけでは最も厳しい局所負荷に直面する箇所にダイヤモンドを用いる。

残る問いは、その精度が製造、認定、そしてラックスケールでの運用においても維持されるかどうかだ。購入者は、「ワット当たりのトークン数が35%増加」という結果を確立されたものとして扱う前に、測定済みのRubinワークロード、実名のシステムパートナー、独立して検証されたエネルギー計算を注視すべきである。