AIチップの冷却、パッケージ内部へ

Google Newsは今週、従来の熱設計が実用上の限界に近づいているとする新たな市場レポートを受け、AIチップ冷却を取り上げた。もはや争点は空冷と液冷の対立だけではない。チップメーカーは、冷却ハードウェアをアクティブシリコン、積層メモリ、先端パッケージングにどこまで近づけるべきかを判断しなければならない。

きっかけとなったのは、BCC Researchが8月31日に発表した評価だ。同社は、プロセッサの電力密度上昇と、3次元ベイパーチャンバー、直接液冷、より統合された熱経路への需要を結び付けた。このレポートは、アジアの部品サプライヤーも移行における重要な参加者だと指摘している。

この見方は慎重に検討する必要がある。BCC Researchが公表したのは市場評価であり、独立した工学ベンチマークではない。それでも、その主張はNvidia、Microsoft、TSMC、Open Compute Projectが公開しているプロジェクトと整合する。

冷却は、持続的なコンピューティング性能、施設設計、導入スケジュールを左右する制約になっている。このため、チップ設計者とデータセンター運営者は、極めて難しい同じ工学課題に向き合う立場にある。

市場レポートが冷却をAIチップの物語へ変えた

直近の変化は、熱管理が補助設備からAIコンピューティングシステムの戦略的設計要素へ移りつつあることだ。

Google Newsの記事は、BCC Researchによる新しいベイパーチャンバー市場評価の報道に端を発した。BCCは、集約記事が広く流通する2日前の2026年8月31日に元となる発表を公開している。

レポートによると、AIサーバーの電力はおよそ500～600ワットから最大2,000ワットへ上昇したという。BCCはまた、10,000ワットに達する特殊なラック構成にも言及している。これらの数値は異なる装置範囲を示しているように見えるため、読者は一貫した時系列データとして扱うべきではない。

より重要な結論は、単一のワット数ではなく熱密度に関するものだ。現在は、ロジック、高帯域幅メモリ、ネットワーク部品、電力供給ハードウェアを含むより小さな領域に、より多くの電力が投入されている。その結果、平均的なラック測定では見えにくい局所的なホットスポットが生じる。

ベイパーチャンバーは、作動流体を含む密閉された扁平なヒートパイプである。熱は発生源付近で流体を蒸発させ、その蒸気はより低温の表面へ広がる。流体はその後凝縮し、内部のウィック構造を通って戻る。

このプロセスにより、集中した熱がより広い表面へ拡散する。従来の2次元チャンバーは主に一つの平面上で横方向に熱を移動させる。3次元設計では、パッケージ、メモリスタック、コールドプレートをより直接的に接続できる垂直経路が追加される。

BCCは、従来のベイパーチャンバーだけでは高密度AIアクセラレータで想定される熱流束を処理できないと主張している。そのため、同社のベイパーチャンバー評価では、3Dチャンバーと液冷インフラを組み合わせたアーキテクチャとして提示している。

この区別は重要だ。ベイパーチャンバーはホットスポットから熱を移動させるが、熱そのものを消滅させるわけではない。そのエネルギーをサーバーの外へ、最終的には建物の外へ運ぶためには、別のシステムが必要になる。

レポートは、この移行を取り巻く企業としてMurata Manufacturing、DNP、Fujikura、Delta Electronics、Samsung Electronics、Intelを挙げている。それぞれの役割は大きく異なる。熱部品を製造する企業もあれば、チップ、電子機器、あるいは完全なインフラシステムを設計する企業もある。

コンシューマー向けハードウェアも、この物語の一部を構成する。BCCは近年のSamsungモバイル機器で用いられている熱設計を指摘しており、そこでは積層部品が従来の熱経路を妨げる可能性がある。スマートフォンはAIサーバーよりはるかに低い電力で動作するが、どちらの市場も物理的なスペースの制約に直面している。

この類似性は、両者の冷却システムが交換可能であることを意味しない。ただし、小型化の経験を持つ熱設計サプライヤーが、AIインフラ投資家から注目を集める理由を示している。

したがって、このニュースは一つの製品発表を超える。市場調査会社が、部品サプライヤーをAIチップ投資の物語の中に位置付けたのだ。勝者はなお定まっていないものの、公開されている工学ロードマップは、根底にある熱的な圧力が現実であることを示している。

Google NewsがAI冷却計画で埋まりつつある理由

AIインフラベンダーが今冷却を議論しているのは、シリコン、メモリ、パッケージング、ラック密度が、一つに接続されたシステムとして進化しているためだ。

アクセラレータの公表電力定格は、物語の一部しか示さない。エンジニアは、一定の面積を通過する熱エネルギーを測る熱流束も管理しなければならない。消費電力が似ている2つのデバイスでも、まったく異なる冷却問題を生み出す可能性がある。

AIパッケージは、大型プロセッサと複数の高帯域幅メモリスタックを組み合わせることが増えている。高帯域幅メモリ、すなわちHBMは、より高速なデータ提供のためにメモリダイを垂直に積層する。この構造は帯域幅を向上させる一方、複雑な熱経路も生み出す。

TSMCのパッケージング・ロードマップは、この物理的な方向性を示している。同社のCoWoSプロセスは、ロジックとHBM部品をインターポーザ上に配置し、これらの要素間に高密度の接続を提供する。ファウンドリーは、より多くのシリコンとメモリを収めるため、パッケージサイズを拡大している。

TSMCによると、2025年に5.5レチクルサイズのCoWoSインターポーザを認定し、2026年に量産を開始した。同社のより広範なCoWoSロードマップは、より大型のパッケージを、より高いコンピューティング能力とメモリ帯域幅に結び付けている。

レチクルは、1回のリソグラフィ工程で露光できる最大面積である。この面積を超えるパッケージには、より大きな構造を接合または接続する技術が必要となる。拡大のたびに、電力供給、機械的安定性、信号配線、排熱は複雑化する。

冷却は、こうした接続を妨げずに高温部品へ届かなければならない。また、熱特性の異なるプロセッサとメモリスタック全体で、温度を均一に保つ必要もある。過度な温度差はクロック速度を制限し、部品寿命を縮める可能性がある。

従来のサーバールームは、冷却された空気をラック内に循環させる。このモデルは多くのワークロードに引き続き適しているが、空気が運べる熱量は液体よりはるかに少ない。そのため、高密度AIラックでは、より大きな気流、より大型のファン、より低い給気温度が必要になる可能性がある。

これらの対策はスペースと電力を消費する。また、気流はケーブル、筐体、ヒートシンク、高密度に実装された部品の周囲を通らなければならないため、実用上の限界にも直面する。

直接液冷は、プロセッサに取り付けたコールドプレートによって、この空気経路の一部を置き換える。冷却液は内部チャネルを流れ、熱を一般にCDUと呼ばれる冷却液分配装置へ運ぶ。CDUは、技術ループと施設側ループを分離する。

残る空冷部品も依然として重要だ。メモリ、電圧レギュレータ、ネットワークインターフェース、ストレージデバイスは、ファンを必要とするほどの熱を発生させる場合がある。そのため、名目上は液冷のラックでもハイブリッドシステムとして動作することがある。

Nvidiaは、Rubin世代のインフラでその妥協を超えようとしている。同社によると、最新アーキテクチャでは主要なコンピューティング部品とネットワーク部品のすべてを液体で冷却できる。45°C、すなわち113°Fで流入する冷却液を前提に設計されている。

より高温の冷却液は直感に反するように聞こえるが、多くの気候では冷却液と外気の温度差を大きくする。これにより、機械式チラーや蒸発冷却塔への依存を減らせる可能性がある。

Nvidiaは、同社の45°C冷却液設計がドライクーラーを支え、有利な条件下では施設冷却の水消費量をほぼゼロにできるとしている。これは特定の設計と気候に結び付いた企業の主張であり、普遍的なデータセンターの結果ではない。

決定的な変化はアーキテクチャにある。新しいアクセラレータはもはや、運営者が既存の室内へ単純に設置できる孤立したボードとして提供されるものではない。その熱要件は、マニホールド、ポンプ、施設の水温、熱交換器、バックアップ手順に影響を及ぼす。

チップのロードマップは今や、ビル所有者、コロケーション事業者、公益事業者に直接的な圧力をかけている。持続的なコンピュート密度が高まるたびに、サーバーのはるか外側で変更が必要になる可能性がある。

ベイパーチャンバーと液冷ループは異なる問題を解決する

中心となる競争はベイパーチャンバー対液冷ではなく、モジュール型の熱拡散と、シリコンおよびパッケージングとのより深い統合の間にある。

ベイパーチャンバーは、熱の移動における最初の部分を担う。小さな熱源から熱を拡散させ、ヒートシンクまたはコールドプレートにとって扱いやすい表面を提供する。液冷は、機器から施設の排熱システムまでのより長い経路を担う。

両者を組み合わせれば、冷却液を半導体そのものに流さずに性能を向上させられる可能性がある。この分離には実用的な利点がある。メーカーは冷却アセンブリを独立して試験でき、モジュールを交換でき、漏れが発生した場合の影響を限定できる。

3次元ベイパーチャンバーは、このモジュール型戦略を拡張する。熱経路は積層構造の周囲を回り込む、あるいは複数の熱表面を接続できる。このアプローチは、一枚の平坦なチャンバーでは重要なホットスポットすべてに届かなくなったパッケージに対応できる。

ただし、このアーキテクチャには依然として界面が存在する。熱は流動する冷却液に到達するまでに、シリコン、パッケージのリッド、熱伝導界面材料、ベイパーチャンバー、コールドプレートを通過する。境界が増えるたびに、熱伝達を妨げる熱抵抗が加わる。

熱伝導界面材料は、固体表面間の微細な隙間を埋める。接触を改善するが、抵抗をなくすことはできない。熱流束が高まるほど、すべての層がより重要になる。

Microsoftは、より統合された代替案を試験している。そのマイクロ流体方式は、シリコンチップの背面に微小なチャネルをエッチングし、冷却液をアクティブなコンピューティング領域にはるかに近づける。このチャネルは、パッケージ全体を均一に冷却するのではなく、ホットスポットを狙う。

Microsoftは実験室での研究において、この設計が一般的なコールドプレートより最大3倍効果的に熱を除去したとしている。同社はまた、GPU内部の最大温度上昇を最大65%低減したと報告している。

こうしたマイクロ流体の実験室試験は、量産への準備が整ったことを示すものではない。Microsoftは、結果はチップの種類、ワークロード、構成によって異なるとしている。信頼性試験は依然として必要な次の段階である。

この比較は、業界の主な緊張関係を浮き彫りにする。モジュール型部品は製造と保守を簡素化するが、界面の一つひとつが熱性能を弱める。統合型冷却は熱経路を短縮する一方、流体工学を半導体製造と結び付ける。

この結び付きは難しい問題を提起する。マイクロチャネルは、製造ばらつき、圧力サイクル、汚染物質、長期の稼働期間に耐えなければならない。エンジニアは、設置後の障害を検査または切り離す方法も必要とする。

パッケージ設計者も同様のトレードオフに直面する。HBM近くに冷却要素を置けば熱抵抗を下げられる一方、電気接続に必要な面積を占有する。また、組み立てや試験を複雑にする可能性もある。

液浸冷却は別の経路を提供する。これは、指定された条件下で電気を通さない誘電性流体に、サーバーまたは部品を浸す方式だ。単相システムは温かい液体を循環させ、二相システムは沸騰と凝縮を利用する。

液浸冷却は、コールドプレートでは届かない表面まで冷却できる。しかし、保守手順、材料要件、流体管理、機器保証を変えることになる。既存サイトの改修は、とりわけ複雑になり得る。

したがって、単一の冷却技術がすべての層で勝つわけではない。拡散性能と小型化が重要な場面では、ベイパーチャンバーが引き続き有効である。コールドプレートは高電力プロセッサ向けの成熟した手段を提供する。マイクロ流体冷却はより近接した接触を約束し、液浸冷却はより広範なコンポーネントをカバーする。

最も可能性が高いのは、万能な単一の代替手段ではなく、階層化されたアーキテクチャだ。冷却方式は、チップ電力、熱流束、ラック設計、施設の気候、保守要件、導入規模に応じて選ばれることになる。

このため、サプライヤー比較は単純な市場シェアランキングより難しくなる。ある企業はモバイル向けベイパーチャンバーで主導的でも、データセンターの信頼性基準を満たせない可能性がある。別の企業は優れたコールドプレートを製造できても、施設統合の専門性を欠くかもしれない。

勝者となるのは、コンポーネント性能を製造歩留まりや保守可能なシステムと結び付ける企業だ。研究室での熱抵抗だけでは、この競争の決着はつかない。

冷却がデータセンター・スタック全体を圧迫している

高温化するAIチップは、事業者が最初のラックを設置する前から、電力、水、床面積、保守、導入時期に関する判断を迫る。

圧力は既存建物から始まる。多くのデータセンターは、ラック密度が比較的予測しやすい空冷式エンタープライズサーバーを前提に設計されていた。高密度GPUクラスタを追加すれば、部屋の電力および冷却能力を超える可能性がある。

事業者はサーバーをより多くのラックに分散できるが、ネットワーク経路が長くなることで性能が低下し、インフラコストが増加する可能性がある。空調機を追加することもできるが、床面積と気流経路には依然として制約がある。液冷はより大きな能力を提供する一方、新たな配管を導入する。

施設で利用できる水も別の制約となる。一部のシステムは閉ループの機器回路を使うが、それでも冷却塔を通じて熱を放出する。こうした冷却塔は蒸発によって水を消費するため、地域の気候と水ストレスは重要な計画要因となる。

米国エネルギー省は、冷却がデータセンターのエネルギー使用量の最大40%を占め得ると推計している。同省の冷却エネルギーに関するレビューは最新のAIシステムより前のものだが、熱効率が運用経済性に影響する理由を説明している。

電力使用効率、すなわちPUEは、施設全体のエネルギーとコンピューティング機器に供給されるエネルギーを比較する。冷却エネルギーを減らせばPUEを改善できるが、この指標は有用なAI出力を測定するものではない。また、水や電力網への影響をすべて捉えるわけでもない。

事業者は、制約された電力単位当たりに生成されるトークンをますます重視している。より優れた熱システムは、アクセラレータがスロットリングなしに高い稼働率を維持する助けとなり得る。しかし、冷却ポンプや排熱設備も電力を消費する。

Nvidiaは、温水運用により、適切な設計からチラーを排除できると主張している。これが成功裏に導入されれば、電力予算のより大きな部分をコンピューティングへ振り向けられる。また、好条件の気候では蒸発による水使用量も削減できる可能性がある。

気候は依然として大きな適用条件である。ドライクーラーは屋外の空気に熱を放出するため、その性能は外気温によって変化する。涼しい地域で効率的に動作する構成でも、暑い夏には追加設備が必要になる場合がある。

改修は新築よりも不確実性が大きい。事業者は配管経路、床荷重、水質、電力容量、制御システムを調査しなければならない。また、漏水、結露、保守、緊急停止の手順も必要となる。

コロケーション事業者は商業上の問題に直面する。その建物は、異なる世代のハードウェアと冷却要件を持つ顧客に対応している。固定的な設計は陳腐化し得る一方、過度な柔軟性はコストと未使用容量を増やす。

標準化はそのリスクを下げられる。Open Compute Projectは、冷却液の種類、コネクター、マニホールド、CDU、供給温度、圧力条件、液冷分類を対象とする要件を公表している。

同団体のコールドプレート要件には、45°C以上に達する水クラスが含まれる。こうした仕様は、機器メーカーと施設事業者に、互換システムを評価するための共通言語を与える。

標準がベンダー間の差をなくすわけではない。材料は冷却液と反応する可能性があり、コネクター設計は漏れを起こし得るほか、狭い流路には汚染物質が蓄積する場合がある。高価なアクセラレータを損傷する前に問題を検出するには、監視が不可欠だ。

保守スキルも重要になる。ファンやヒートシンクの交換に慣れた技術者は、ポンプ、バルブ、フィルター、流体化学を扱わなければならない。サービス契約では、チップ、サーバー、ラック、施設の各ベンダー間で責任を明確にする必要がある。

こうした運用上の問題が、冷却によってコンピュート導入が遅れ得る理由を説明する。アクセラレータの出荷は、サイトがそれを給電、冷却、接続、保守できるようになるまで、利用可能な容量を生み出さない。

この現実は、Nvidia、AMD、カスタムチップ開発企業に対し、インフラ要件を早期に公表するよう圧力をかける。また、サーバーメーカーには、冷却を顧客提供の詳細事項として扱うのではなく、完全なラック設計を検証するよう求める。

ハイパースケーラーは、シリコン、システム、ソフトウェア、施設を協調させるため、より大きな制御力を持つ。小規模な事業者は、標準化モジュールと統合パートナーへの依存度がより高い。このため、高度な熱管理は両者の導入格差を広げる可能性がある。

エンタープライズの購入者にとって、調達単位は変化している。アクセラレータ仕様だけを比較しても、もはや十分ではない。購入者は、提供されるAI性能を取り巻く熱・電気面の全体的な条件を評価する必要がある。

最も強い冷却性能の主張にも生産上の証拠が必要だ

熱設計の移行は現実のものだが、市場予測や研究室での結果は、大規模で信頼性の高い導入を保証しない。

BCC Researchは、高密度AIシステムに向けた3Dベイパーチャンバーへの移行を必須だと説明している。この表現は、公開されている証拠が裏付ける範囲を超えている。チップ、ラック、施設が異なれば、異なる熱設計の道筋を採用し得る。

一部のシステムでは、従来型のコールドプレートとより大きな施設ループを組み合わせる可能性がある。他方で、高度なベイパーチャンバー、液浸タンク、リアドア熱交換器、オンチップ流路を使うものもある。ワークロードのスケジューリングによって、同時発生する熱ピークを抑えることもできる。

同レポートの電力値には慎重な解釈が必要だ。プロセッサ電力、サーバー電力、ラック電力、熱流束は関連するものの、異なる条件を測る指標である。明確な境界なしにこれらを組み合わせると、傾向を誇張したり、購入者を混乱させたりする可能性がある。

ベンダーのデモンストレーションにも別の限界がある。Nvidiaの温水設計とMicrosoftのマイクロ流体テストは、成熟度の異なる段階を対象としている。Nvidiaはインフラアーキテクチャを説明している一方、Microsoftが公表した数値は研究室試験に基づく。

どちらの主張も、すべてのデータセンターに一般化すべきではない。水の節約は、気候、排熱設備、運用温度、会計上の境界に左右される。冷却性能は、チップ構造、冷却液の流量、ワークロードの挙動に依存する。

統合設計における最も重要な未解決課題は信頼性だ。流路が詰まり、シールが劣化し、あるいは保守が非現実的になるなら、小さな温度改善に大きな意味はない。AIアクセラレータは資本が集中する資産であり、停止時間には高いコストが伴う。

製造歩留まりも関連する懸念事項である。パッケージやシリコンに熱構造を追加すると、工程数が増える。各工程は検査需要を増やし、新たな故障モードを生む可能性がある。

サプライチェーン能力も重要だ。データセンターの顧客が必要とするのは、印象的な試作品ではなく、大量の一貫したコンポーネントである。ベイパーチャンバー、コールドプレート、ポンプ、マニホールド、コネクターは、検証済みの材料と追跡可能な品質を備えて納入されなければならない。

冷却液の選定にはトレードオフがある。水は効率的に熱を移動させるが、腐食管理と電気的絶縁を必要とする。グリコール混合液は低温に耐える一方、熱性能を低下させる場合がある。誘電性流体は電気的リスクを単純化できるが、コストや材料面の問題を伴う。

二相流体は、追加の環境・規制上の考慮事項をもたらす。事業者は、地球温暖化係数、漏えい、圧力制御、使用終了時の処理を評価しなければならない。施設の長い運用期間中に、規制によって許容される流体の範囲が変わることもある。

もう一つのリスクは、より優れた冷却が資源使用量の低下ではなく、より多くのコンピューティングを促すことだ。効率的なシステムはタスク当たりのエネルギーを削減し得る一方、事業者がより多くのアクセラレータを導入できるようにする。総電力需要はなお増加し得る。

同じリバウンド効果は水にも及び得る。ある設計はメガワット当たりの水使用量を減らしても、はるかに大規模なキャンパスを支えられる可能性がある。地域社会が経験するのは、効率比だけでなく、総取水量と総消費量である。

Google Newsの報道は、この移行を単一の投資可能な波のように見せることがある。実際には、価値は材料企業、コンポーネントサプライヤー、サーバーメーカー、施設専門企業、チップ設計企業の間で分配される。

一部のサプライヤーは熱抵抗で競争する。別の企業は、信頼性、設置速度、サービス網、標準準拠によって勝つだろう。投資家は、技術的な立ち位置と収益エクスポージャーを区別すべきだ。

Simply Wall Stの記事も、市場志向の株式コレクションから生まれたものだ。その目的は、AIチップ需要に関連する企業を取り上げることにあった。この枠組みは、顧客がどの熱技術を採用するかを確立するものではない。

慎重な結論にも、なお重要な意味がある。冷却はパッケージにより近づき、ベンダーは現在、熱設計をコンピューティングアーキテクチャの一部として扱っている。不確実なのは、どの統合レベルが密度と保守性の最良のバランスを実現するかである。

高度な冷却が拡張できるかを示す三つのシグナル

次の段階は、生産導入、共有された技術標準、測定可能な施設成果によって決まる。

第一のシグナルは、Rubin世代の温水導入だ。Nvidiaによれば、次世代のインフラは、入口温度45°Cでの完全液冷運用をサポートする。事業者は、生産サイトが季節的な気温変化をまたいで、これらの条件を維持できるかを注視すべきである。

導入に成功すれば、適した気候におけるチラーレス排熱の根拠が強まる。また、ネットワーク、電力システム、補助電子機器が、サーバーファンに依存せず運用できることも示すだろう。

重要な証拠には、実際の施設構成、水使用の算定、ポンプエネルギー、稼働率、保守記録が含まれる。冷却水使用量がほぼゼロというマーケティング上の主張には、閉ループとサイト全体の消費量を区別する境界が必要だ。

第二のシグナルは、パッケージ内部または直近に配置される冷却の量産認定である。Microsoftのマイクロ流体研究は明確な技術的参照点を提供するが、依然として研究室プログラムにとどまる。

製造に関する発表は、別の温度ベンチマークよりも大きな一歩となる。購入者には、流路製造、故障検出、冷却液の清浄度、保守性、長期信頼性に関する情報が必要だ。

TSMCとメモリメーカーは、この点で特に注目に値する。より大きなパッケージと高密度化するHBM構成は、より短い熱経路の価値を高める。これらのパッケージング・ロードマップは、統合冷却が標準オプションになるのか、専門的な機能にとどまるのかを示し得る。

第三のシグナルは、ラックと施設をまたぐ相互運用性だ。オープン仕様は、事業者が複数のベンダーから調達できるハードウェアへと変換されなければならない。コネクター、冷却液の制限値、圧力範囲、テレメトリーは、長期にわたるカスタマイズなしに連携して動作すべきである。

幅広い相互運用性が実現すれば、モジュール型のコールドプレート、ベーパーチャンバー、CDUに有利に働くだろう。標準化が遅れれば、スタック全体を管理できる垂直統合型のハイパースケーラーが優位に立つ。

最終的には、市場予測よりも導入データの方が重要になる。運用者は、アクセラレーターの持続的な性能、総エネルギー、水消費量、保守時間、平方フィート当たりに提供される容量を比較すべきだ。

google newsを追う読者も、3つの異なる主張を切り分ける必要がある。ある部品が熱をより効率的に拡散できること、サーバーがより多くの熱を液体へ回収できること、施設がその熱を効率的に放出できることは、それぞれ別の話だ。ある層での成功が、他の層での成功を保証するわけではない。

開発者にとって、冷却性能の向上は、利用可能なコンピューティング容量の増加と、より安定した性能につながり得る。企業の購買担当者にとっては、拠点の導入準備、契約条件、インフラ投資の耐用年数に影響する。

ナレッジワーカーは、AIサービスの可用性やコストを通じて間接的に影響を受けるかもしれない。こうした技術的変化を追うチームは、繰り返される見出しに頼るのではなく、一次発表やエンジニアリングノートを検索可能なナレッジベース内で整理できる。

より高温化するAIシステムに新たな冷却が必要かどうかは、もはや問題ではない。問われているのは、統合型の熱設計が研究室を出て量産を乗り越え、何年にもわたって保守可能な状態を維持できるかどうかだ。

次の部品発表だけでなく、最初の大規模導入を注視すべきだ。こうしたシステムが、先進的な冷却によって実用的なAI容量が拡大するのか、それともボトルネックが別の場所へ移るだけなのかを示すことになる。