Broadcom Tomahawk 6、帯域幅を倍増。AIネットワークはなおスケーリングの圧迫に直面
Broadcom Tomahawk 6は単一チップのEthernetスイッチング容量を毎秒102.4テラビットへ倍増させた。しかし、この進歩がAIクラスタの実用的な容量を自動的に倍増させるわけではない。運用者がアクセラレータを増設する前に、より高速な接続が追加帯域幅を使い切る可能性がある。その結果生じる圧力は、スイッチにとどまらず、建屋レイアウト、ソフトウェア、導入スケジュールにまで及ぶ。
Data Center Dynamicsに10月30日掲載された論考は、この緊張関係をあらためて浮き彫りにした。著者でEridu共同創業者のOmar Hassenは、AI施設は当初からネットワーキングを軸に設計すべきだと主張する。その警告は、背景にあるタイムラインや前提の検証と併せて注目に値する。
BroadcomとNvidiaはすでに、より高速なスイッチングと光統合で対応を進めている。Metaのエンジニアリング研究は、導入済みの帯域幅と実際に利用可能な帯域幅は異なるという、もう一つの論点を示している。中心的な対立は、増大する通信要件と、ネットワークが予測可能なアプリケーション性能を提供する能力との間にある。
Broadcom Tomahawk 6は数値を変えるが、方程式全体を変えるわけではない
最新の帯域幅増強は実在する。しかし、それだけでネットワーク制約が解消されたとは言えない。
Broadcomは2025年6月3日、Tomahawk 6の出荷開始を発表した。公称容量は毎秒102.4テラビットで、スイッチチップ全体を通過するデータ移動量を示す指標である。同社はAIインフラ向けのルーティングおよび接続機能についても説明している。
この発表は、最近のネットワークの壁に関する主張を評価するうえで重要である。Hassenは、スイッチ帯域幅と接続性の不足が、生産的なAIインフラを制約していると論じる。彼は、より高い接続性と、スイッチング階層を少なくしたフラットなネットワークを提唱している。
この記事はベンダー企業の幹部による分析であり、市場全体を独立して測定したものではない。この区別によって論旨が無効になるわけではない。ただし読者は、アーキテクチャ上の議論と業界の進展に関する主張を分けて捉えるべきだ。
タイミングには特に注意が必要である。BroadcomのTomahawk 5の発表は、同社が毎秒51.2テラビットのスイッチング容量を発表した2022年8月16日にさかのぼる。次の発表は3年に満たない2025年6月に続いた。
これらの日付は、チップ発表の間隔をほぼ4年とみなす根拠にはならない。また、完成したシステムが広く利用可能になった時期や本番稼働に入った時期を示すものでもない。シリコンの出荷、機器の認定、運用導入は、それぞれ異なる節目である。
この違いは、購入者が問うべき内容を変える。問題は単にスイッチメーカーが容量を倍増させているかどうかではない。導入可能なシステムが、想定するワークロードに必要な速度で十分な実用的接続性を提供するかどうかである。
より高速なチップは、設計上の選択肢を生む。運用者はその容量を、より高速な接続、より多くの接続、あるいはその両方に割り当てられる。パッケージング、機器設計、対応構成が、どの選択肢を実用製品にできるかを決める。
したがって、帯域幅の節目はアーキテクチャ評価の終点ではなく、出発点であるべきだ。購入者はチップ仕様を調達可能な機器へ結び付ける必要がある。次に、その機器をアプリケーションの挙動へ結び付けなければならない。
ネットワーキングがコンピューティングに対して不可逆的に遅れを取ったという主張にも、同じ慎重さが求められる。すべてのモデル、クラスタ、導入環境を説明できる普遍的な比率は存在しない。頻繁にデータを交換するアプリケーションもあれば、より多くの処理をローカルに維持するものもある。
擁護できる結論は、より限定的でありながら実用的である。スイッチング容量は進化してきた一方、容量だけではAIインフラを十分に説明できない。ワークロードの通信要件が、ネットワークが実際に提供できる能力を上回る地点で圧力が生じる。
より高速なポートが帯域幅増加分をすべて吸収する可能性がある
スイッチは高速化しても、必要な速度で接続できるアクセラレータの数が増えるとは限らない。
決定的な違いは、総帯域幅とラディックス、すなわちスイッチが指定速度でサポートする独立接続数との間にある。どちらの数値も、もう一方なしには意味をなさない。低速時の高い接続数は、高速時の同じ接続数と同じ能力を示すものではない。
この計算は、スイッチ帯域幅のスケーリングがインフラ計画担当者を失望させうる理由を示している。総容量が倍増しても、接続ごとに必要な帯域幅も倍増すれば、理論上の接続数は変わらない。これは条件付きの関係であり、出荷されているすべてのスイッチに関する実測上の主張ではない。
この関係が重要なのは、AI施設が通信速度とクラスタ規模の両方を満たす必要があるためだ。一方の要件を満たすことが、もう一方に割り当てるはずだったリソースを消費する場合がある。運用者は、新世代のスイッチが両方の次元を等しく拡張すると想定できない。
物理コネクタには、さらに別の複雑さがある。それが常に一つの独立したアクセラレータ接続に対応するとは限らない。機器はチャネルを結合してより高速なリンクにしたり、ブレークアウト構成によって対応接続を分割したりできる。
したがって購入者が必要とするのは、見出しになるコネクタ数ではなく、対応する構成である。また、アクセラレータ向けの接続数とスイッチ間接続の数も把握しなければならない。スイッチング階層間に割り当てた容量は、同時にエンドポイントへ提供できない。
BroadcomのTomahawk 6の仕様は、構成の詳細が重要である理由を示している。同社は、リンク当たり毎秒200ギガビットで10万基超のアクセラレータをサポートする2層ネットワークについて説明している。これは、明示された接続速度に結び付くベンダーの設計上の主張であり、普遍的なクラスタ保証ではない。
速度条件は、規模の数値と並べて示すべきである。これを外すと比較は誤解を招く。一つの速度で大規模なエンドポイント群をサポートする設計が、より高い速度でも同じ規模を自動的にサポートできるわけではない。
同じ規律はスイッチング階層にも当てはまる。階層を一つ追加すればネットワークを拡張できるが、機器と接続も増える。そのトレードオフを受け入れられるかは、そこを通過するトラフィック次第である。
より大規模なネットワークが、あらゆる実用的な意味で必ず遅いとは限らない。設計とソフトウェアが効果的に利用すれば、追加の経路は容量と耐障害性を提供できる。同様に、階層が少ないことが優れたアプリケーション性能を保証するわけでもない。
実用上の制約は、ネットワークが維持すべき通信パターンである。ある設計は局所的なトラフィックを適切に処理できても、アプリケーションが離れたグループ間で通信する際には苦戦するかもしれない。総帯域幅はその違いを覆い隠しうる。
だからこそ、スイッチ世代を比較するには、容量が倍増したかを確認するだけでは足りない。意味のある比較では、エンドポイント速度、ワークロード、耐障害性要件、トポロジーを一定に保つ。トポロジーとは、デバイスとリンクの配置を指す。
こうした条件がなければ、スイッチ帯域幅のスケーリングは印象的に見えても、運用上の問題がほぼ変わらないことがある。条件を揃えれば、購入者は設計のどの部分が実際に恩恵を受けるかを特定できる。
圧力はアプリケーション利用者より先にクラスタ所有者へ及ぶ
支払い済みのコンピューティング容量が通信待ちになると、ネットワークの制約は運用上の問題となる。
複数のアクセラレータが一つのモデルを更新するために協働する、分散トレーニングジョブを考えてみよう。各アクセラレータは計算の一部を実行する。指定された時点で、参加者は処理を続ける前に情報を交換する。
コレクティブ操作は、プロセッサ群全体でその交換を調整する。たとえばAll-reduceは、各参加者の寄与を集約し、その結果を分配する。その完了は、グループに必要な通信に左右される。
重要なのは協調である。ローカル処理を終えたアクセラレータが、常に独立して先へ進めるとは限らない。通信の遅延は、有用な計算が再開されるまでの時間を長引かせる可能性がある。
これは、すべてのアイドル状態のアクセラレータをネットワーキングで説明できるという意味ではない。データ準備、ソフトウェアの挙動、メモリ制限、スケジューリングも性能を制約しうる。すべての低稼働率をネットワークのせいにすれば、実際の診断を曖昧にする。
クラスタ所有者にとって重要な問いは、どの制約がジョブ完了を左右しているかである。別のリソースがペースを決めている場合、より高速なスイッチの価値は限られる。逆に、通信がクリティカルパスに残るなら、より高速なプロセッサの恩恵も小さくなる。
これはインフラ計画に圧力を生む。調達チームはアクセラレータとネットワーキングを別々のプロセスで購入できるが、アプリケーションは両者を一体として体験する。機器の意思決定が利用可能な対策をすでに制約した後、ワークロード実行時に不整合が明らかになる。
同じ関係は、トレーニング済みモデルを実行して出力を生成する推論にも見られる。モデルが複数のアクセラレータにまたがる場合、通信はリクエスト処理の一部となる。その重要性は、アプリケーションが作業をどう分割するかに依存する。
Mixture-of-expertsモデルは、入力ごとに特化したモデルコンポーネントを選択する。これらのコンポーネントが異なるデバイス上に存在する場合、その間で作業をルーティングすることにより通信要件が追加される。どれほどのトラフィックがネットワークを横断するかは、導入構成によって決まる。
別の構成では、入力プロンプトを処理するprefillと、その後の出力を生成するdecodeを分離する。これらの段階の間でモデルの中間的なattention状態を移動させると、転送要件が生じる。このトレードオフには価値がある場合もあるが、その価値はネットワークの挙動にも一部依存する。
これらの例は、AIネットワークのボトルネックをワークロード別に評価すべき理由を示している。トレーニングの結果から推論性能を自動的に予測することはできない。一つの通信パターンに最適化された構成が、別のパターンでは異なる挙動を示すことがある。
アプリケーション利用者は、こうした制約を間接的に経験する。スイッチ仕様ではなく、完了時間、サービスの一貫性、利用可能な容量を体験する。したがって企業の購入者には、想定する利用状況を反映したサービス証拠が必要となる。
クラスタ運用者には、より直接的な責務がある。通信が有用な作業をどこで制限しているかを特定し、ハードウェア、ソフトウェア、配置の変更で対処できるかを判断する必要がある。制約を理解する代わりに帯域幅をあらゆる場所で増やすことは、高価な代替策である。
結果として、計画の重点は具体的に変化する。調達によってアーキテクチャが固定される前に、ネットワーク要件をワークロード設計と施設の意思決定に組み込むべきである。明らかな輻輳を待つほど、実用的な選択肢は少なくなる。
スイッチング容量を増やしても、すべてのトラフィック問題を修復できるわけではない
ネットワークは総容量が十分でも、トラフィックを誤った経路へ流している場合がある。
通信するデバイス間に複数の利用可能な経路があるネットワークを考えてみよう。負荷の高い転送が同じ経路に集中すれば、別の経路は十分に利用されないままになる。導入済み帯域幅の総量を増やしても、トラフィックが効果的に分散されるとは限らない。
これは、ハードウェア仕様とトランスポートの挙動が交わる領域であり、エンドポイントがデータを送信、確認応答、回復するためのルールを指します。こうしたルールは、アプリケーションが利用可能な経路をどれだけ効率的に使えるかに影響します。また、輻輳や損失によって通信が中断された場合の挙動も決定します。
Metaが公開した分散トレーニングネットワークの取り組みは、運用面での一例を示しています。同社のエンジニアは、ルーティング上の課題、通信ソフトウェアとの連携、ネットワーク構成を考慮したスケジューリングについて説明しました。この経験は、ネットワークをスイッチ購入ではなくシステムとして捉えるべきだという見方を裏付けています。
RoCE（converged Ethernet上のリモート・ダイレクト・メモリー・アクセス）は、デバイスがEthernetネットワークを介してリモートメモリーにアクセスできるようにする技術です。Metaの説明によれば、このようなネットワークの運用には、単純なリンク速度の向上を超えた変更が必要でした。ここでの教訓は統合に関するものであり、特定の構成を一律に推奨するものではありません。
ジョブ配置は、その統合の一部です。頻繁に通信するデバイス同士をネットワーク内で近接させれば、制約のあるリンクをまたぐトラフィックを減らせます。総アクセラレータ数が変わらなくても、異なる配置では負荷が増す可能性があります。
したがって、スケジューリングの判断はハードウェアの見かけ上の品質に影響します。好条件の配置で実施されたベンチマークは、秩序の低い本番環境では再現されない結果を出すことがあります。購入者は、ベンチマーク性能をサービス上の約束と見なす前に、この違いを理解すべきです。
Metaが2026年8月24日に発表したMetaRoCE transport designは、同じ議論をさらに進めています。同社は、より多くの経路管理をネットワークエンドポイントへ移し、順序どおりに到着しないパケットをサポートする設計を説明しています。また、AMD Pensandoのネットワーキングハードウェアで検証したと報告しています。
これらは、同社が示した試験条件に基づく報告結果です。すべてのアクセラレータ、アダプター、本番環境で同等の挙動を示すことを証明するものではありません。その意義は、大規模事業者が物理インフラと並行して、トランスポート設計を通じてネットワークの制約に取り組んでいる点にあります。
そのためBroadcom、Nvidia、Metaを、単純なスイッチ容量の競争に還元すべきではありません。それぞれの取り組みは、通信システムの異なる部分にまたがっています。ハードウェアとソフトウェアの改善は互いを補完し得ます。
購入者にとっては、ベンダー比較が複雑になる一方で、問うべき質問が明確になります。性能は特定のアダプターに依存するのか。通信ライブラリーには特定の設定が必要か。リンク障害後、トラフィックはどのように再分配されるのか。
こうした問いは、AIネットワークのボトルネックと運用責任を結び付けます。約束された結果を実現する構成は、誰かが維持しなければなりません。運用チームが監視やトラブルシューティングを行えないなら、性能機能の実用的な価値は限られます。
より広い含意として、アプリケーション性能を総容量だけから推測することはできません。効果的なルーティング、互換性のあるエンドポイント、ワークロード配置によって、その容量のうちどれだけが有用になるかが決まります。より高速なシリコンは余力を生み出しますが、それをどれだけ有効に使えるかはシステムが決定します。
光統合は電力に対応する一方、運用上の問いも生む
通信電力の削減は価値がありますが、効率性の主張には明確に定義された評価範囲が必要です。
Nvidiaは2025年3月、Spectrum-X EthernetおよびQuantum-X InfiniBand製品を含むphotonics networking switchesを発表しました。同社の発表では、光統合がネットワーキング戦略の中核に位置付けられています。BroadcomもTomahawk 6向けの光統合オプションを説明しています。
Co-packaged opticsは、統合パッケージ内で光学部品をスイッチチップの近くに配置します。この手法では、信号が光になる前に通る電気経路の一部を短縮します。ベンダーはこれを、高速通信の効率を改善する手段として提示しています。
これは問題の重要な一部に対処しますが、すべてを解決するものではありません。より効率的な光接続が、望ましくないトラフィック配置を単独で解消するわけではありません。また、同じアプリケーション出力に対して、施設全体のエネルギー消費が少なくなることを示すものでもありません。
測定の範囲は重要です。比較対象は光学部品、ネットワーキング機器、あるいはコンピューティング設備全体かもしれません。これらは異なる主張であり、区別して扱うべきです。
同様に、通信効率の改善がアプリケーションの改善に同じ割合で直結するわけではありません。結果は、アプリケーションが通信に費やす時間に左右されます。また、通信が改善された後に別の制約が支配的になるかどうかにも依存します。
これは光統合に反する証拠ではなく、一般的な性能上の関係です。ひとつの制約を取り除くと、別の制約が露わになることがあります。購入者は、アプリケーションレベルで測定した際にも残る改善がどれなのかを把握する必要があります。
運用設計は、さらに別の問いを生みます。統合部品を備えた機器は、交換手順や予備部品の計画を変える可能性があります。関連する詳細は個別のシステムに依存するため、保守性について広範な主張をするには慎重さが求められます。
調達チームは、技術者が独立して交換できる部品を明確にすべきです。また、障害を切り分ける手順も理解する必要があります。これらの事実は、効率性の改善が運用環境にどのように適合するかに影響します。
信頼性の比較にも同様の規律が必要です。部品の故障挙動とサービスの可用性は関連していますが、同じものではありません。冗長経路と回復ソフトウェアにより、個々の部品が故障してもアプリケーションの処理を維持できる場合があります。
逆に、非常に信頼性の高い部品であっても、サービスが中断しないことを保証するわけではありません。ソフトウェアエラー、構成ミス、他の箇所での障害もアプリケーションに影響し得ます。設計全体を評価することで、限定的な信頼性指標が根拠のないサービス上の主張になることを防げます。
したがって、最も強い懐疑的な視点は適用範囲に関するものです。高速スイッチングと光統合は、特定可能なエンジニアリング課題を解決します。証拠は、それらの解決策が購入対象のワークロード、施設、保守プロセスにどのような影響を与えるかを示さなければなりません。
この基準は、恒久的なネットワークの壁に関する予測にも当てはまります。アプリケーション、トランスポートソフトウェア、機器が変化すれば、制約も移動し得ます。有用な問いは、ひとつの技術が永続的に勝つかどうかではなく、次の導入でどの制約が支配的になるかです。
運用者にとって、Broadcom Tomahawk 6はこの評価における具体的なハードウェア進歩に位置付けられます。その価値は、それが可能にする設計と、その設計がもたらす結果に依存します。
導入可能なシステム、ワークロード結果、回復挙動を注視する
次に必要な証拠は、製品の能力を再現可能な運用成果へ結び付けるものです。
今後数か月で最初のシグナルとなるのは、指定構成における完全なシステムの提供状況です。チップの発表は技術的進歩を示しますが、購入者には、評価、設置、サポートが可能な機器が必要です。これらの節目のつながりは明示的に報告されるべきです。
Broadcom Tomahawk 6システムについて、有用な開示には、対応エンドポイント速度、接続数、ネットワーク構成が含まれます。提供可能な構成と計画段階のオプションを区別すべきです。また、どのソフトウェア機能が運用利用の準備を完了しているかも説明すべきです。
こうした証拠は、新しいスイッチングが現在の制約を緩和できるという主張を強化します。発表された能力と認定済み機器の間に恒常的な隔たりがあれば、その主張は弱まります。どちらの結果も、すべての運用者が同じ導入スケジュールに従うと仮定する必要はありません。
次のシグナルは、比較可能な条件下でのワークロード性能です。有用な比較では、アプリケーションとアクセラレータ構成を一定に保ちつつ、ネットワークの変更を明らかにします。そうでなければ、改善はソフトウェアやコンピューティングハードウェアにおける無関係な変更から生じる可能性があります。
トレーニングの比較では、通信測定とともにアプリケーション完了時の挙動を報告すべきです。推論の比較では、リクエスト特性とサービス条件を説明すべきです。ワークロードの文脈を欠く結果は、購入判断に限られた指針しか提供しません。
テールレイテンシー、すなわち異常に遅い完了時間にも注意が必要です。平均性能は、協調作業やユーザー体験に影響する遅延を隠すことがあります。購入者は、継続的な需要の下でも改善が一貫して維持されるかを知る必要があります。
強い結果は、追加容量や改善されたトランスポートが、意味のあるアプリケーション上の制約を減らすことを示します。弱い結果は、現実的な運用条件を比較に組み入れた後では、ほとんど利点がないことを示します。いずれの知見も、もうひとつの孤立した帯域幅記録より有益です。
最後のシグナルは、障害や混在需要の下での回復挙動です。ネットワークは、リンク障害、トラフィック移動、複数アプリケーション間の競合が発生する際に評価されるべきです。こうした条件により、アーキテクチャが慎重に整えられたデモを超えて有用な作業を維持できるかが明らかになります。
エンドポイント主導のトランスポートでは、関連する証拠に互換ハードウェアと、異なるネットワーク構成における挙動が含まれます。光統合では、保守手順と部品障害時のサービス継続性が含まれます。これらは技術的主張とは別の懸念ではなく、その実務的な延長です。
再現可能な回復結果は、より大規模な導入への信頼を支えます。トラブルシューティングの困難さや不安定な挙動は、容量増加による見かけ上の利点に条件を付けます。運用者はシステムの稼働期間を通じてサポートしなければならないため、その結果は重要です。
エンジニアリングチームは、ワークロード配置、機器構成、ソフトウェアバージョンを含め、各比較の前提を保存すべきです。検索可能なengineering knowledge baseは、導入条件が変化した際にも、これらの判断を利用可能な状態に保つ助けになります。
次のクラスターを承認する前に、ベンダーに対して、想定する運用条件で実行予定のアプリケーションを実演するよう求めてください。対応する接続構成、通信ソフトウェアの前提、障害後の挙動を要求してください。後続のチームが設計上の限界と構成上の問題を区別できるよう、これらの知見を調達判断に紐付けて保存してください。Broadcom Tomahawk 6はスイッチ容量が進歩していることを示しますが、その進歩が有用な作業を改善するかどうかは、受け入れ基準によって判断すべきです。ワークロードの通信要件から始め、それに対して完全なシステムを比較し、導入準備状況を性能に関する議論の一部にしてください。設置環境が多忙で、不完全であり、ベンチマークを超える運用状況でも、どのネットワークがアプリケーションを維持できるでしょうか。
