top of page

Google TPU vs Nvidia: AIチップ戦争の新戦線

更新日:6月17日

Google TPU vs Nvidia: A New Front in the AI Chip War

10年近くにわたり、人工知能ハードウェアに関する議論は、ある一つの名前で始まり、そして終わっていました。大規模なモデルをトレーニングしたり、高スループットの推論を実行したりしたい場合は、「グリーン・タックス」を支払う必要がありました。現代のAIアクセラレータを事実上発明した企業からハードウェアを購入していたのです。しかし、状況は変化しています。この動きは、Google TPU対Nvidiaを、業界支配をかけたハイステークスの闘いの中心に据えています。

Ironwoodとして知られるGoogleの第7世代チップの導入は、検索大手があえて自社のシリコン優位性を、GeminiAlphaFoldのような内部プロジェクトにのみ使用することに満足しなくなったことを示唆しています。これらのチップへのアクセスを販売することで、GoogleはAIチップ市場競争における支配力に挑戦しています。より広範なテクノロジー業界、そしておそらくは無視されてきたPCゲーマーにとっても、この競争はとうの昔に始まるべきでした。

ハードウェアの理解:Google TPUアーキテクチャ

Understanding the Hardware: Google TPU Architecture

なぜこれが重要なのかを理解するには、これらのチップの違いを理解する必要があります。Google TPU対Nvidiaの戦いは、単なるブランドロイヤリティの問題ではなく、根本的なアーキテクチャの問題なのです。

Nvidiaが支配的である理由は、グラフィックス・プロセッシング・ユニット(GPU)をゲームデバイスから数学エンジンへと巧みに転換させたことにあります。GPUは大規模な並列プロセッサです。元々はビデオゲームで数百万ピクセルものライティングやテクスチャを同時に計算するために設計されましたが、ディープラーニングに必要な数学処理に驚くほど適していることが判明しました。

しかし、GPUは汎用品です。グラフィックスを描画できるという、その名残をまだ引きずっています。

GoogleのTPU(Tensor Processing Unit)は専門家です。2016年に、1つの特定のタスク、すなわち行列乗算のためにゼロから設計されました。これはニューラルネットワークの中核をなす数学演算です。TPUはレイトレーシングやフレームレートを気にしません。それは、テンソル(データの多次元配列)をシステム内で容赦ない効率で移動させるために構築された特定用途向け集積回路(ASIC)です。

効率のギャップ

GPUに見られる汎用コンポーネントを取り除くと、同じ量のAI数学処理に対して、より少ない電力を消費し、より少ない物理スペースを占有するチップが得られます。データセンターでは、電力は最も高い運用コストです。Ironwoodチップはこの点を活用することを目指しています。Anthropicのような、数十億ドルものコンピューティングコストを浪費している企業にとって、汎用GPUに対するTPUの理論的な効率は、切り替えの強力な経済的インセンティブとなります。

Nvidiaの優位性とCUDAエコシステムの堀

The Nvidia  Advantage and the CUDA Ecosystem Moat

もしハードウェアがそれほど優れているなら、なぜGoogleはまだ競合他社を圧倒していないのでしょうか?その答えはソフトウェアにあります。Google TPU対Nvidiaの議論は、CUDAエコシステムの堀にぶつかるとしばしば停止します。

Nvidiaは単にチップを製造しただけでなく、言語を構築しました。CUDA(Compute Unified Device Architecture)は、開発者がGPUと対話できるようにするソフトウェアレイヤーです。Nvidiaはこのプラットフォームを約20年間洗練させてきました。ほとんどのAI研究者はCUDAでコーディングを学びました。ほとんどのオープンソースライブラリはCUDA用に最適化されています。これはAIのデフォルト言語です。

業界オブザーバーからのコメントは、重要な現実を浮き彫りにしています。Nvidiaはハードウェアベンダーを装ったソフトウェア企業です。もし彼らが「GeForce」企業としてのルーツに固執し、ゲームにのみ焦点を当てていたら、現在の規模のほんの一部だったでしょう。コンピューティングへのピボットはロックイン効果を生み出しました。

開発者の摩擦

歴史的に、Google TPUの使用は困難でした。特定のフレームワーク(TensorFlowなど)を使用する必要があり、しばしばカスタムコードの調整が必要でした。Nvidia H100用に書かれたモデルをTPUにドロップして実行できるとは期待できませんでした。この柔軟性の欠如が、参入の主な障壁でした。

しかし、Ironwood世代とJAXおよびPyTorchのアップデートにより、この障壁は低下しています。TPUのソフトウェアスタックは成熟しています。Nvidiaの割り当てを数ヶ月待つことにうんざりしているエンジニアにとって、「十分良い」ものになりつつあります。

Google TPUはNvidiaの独占を打破できるか?

現在、業界は供給危機に直面しています。AIコンピューティングの需要が供給を上回り、価格の高騰と長いリードタイムにつながっています。この不足が、Google TPU対Nvidiaのライバル関係をエスカレートさせる完璧なきっかけを生み出しています。AIコンピューティングは供給を上回り、価格の高騰と長いリードタイムにつながっています。この不足が、Google TPU対Nvidiaのライバル関係をエスカレートさせる完璧なきっかけを生み出しています。

ハイパースケーラーの反乱

テクノロジー大手は現実的です。GoogleはTPUを持っています。彼らは皆、単一のベンダーへの依存を減らそうとしています。MetaやAnthropicにTPUへのアクセスを販売することで、Googleは事実上、Nvidiaのライバルへの武器商人として行動しています。

Anthropicは、数十億ドル規模のGoogle Cloudとの画期的なパートナーシップを通じて、最大100万個のTPUチップにアクセスできるようになります。これはNvidiaに圧力をかけます。もし行列乗算ワークロードのかなりの割合がTPUに移行すれば、Nvidiaは絶対的な価格決定力を失います。競争は通常、イノベーションにつながり、最終的にはすべての人にとってより低い価格につながります。

ゲーミングの視点

テックフォーラムでよく聞かれる意見は、Nvidiaがエンタープライズ市場を追いかける中で、ゲーマーは「置き去りにされた」というものです。もしエンタープライズ市場がGoogle TPUのような代替品を見つければ、Nvidiaは再びコンシューマー向けのGeForceラインに注意を払わざるを得なくなるだろう、という論理です。Nvidiaが低マージンのゲーミングカードよりも3万ドルのAIチップを優先する方向に転換することは考えにくいですが、Googleからの競争圧力はサプライチェーンを安定させる可能性があります。

Ironwoodチップ:Googleの第7世代への賭け

Ironwoodチップは成熟を表しています。初期のTPUは壊れやすく、柔軟性に欠けていました。モデルアーキテクチャが変更されると、チップは苦労しました。Ironwoodチップは、最新のTransformerや大規模言語モデル(LLM)の動的な性質に対応できるように設計されています。

Googleによると、Ironwoodはより優れたインターコネクト速度を提供し、数千個のチップがよりシームレスに連携できるようになります。AIトレーニングでは、個々のチップの速度よりも、チップ同士が通信できる速度の方が重要です。Ironwoodポッドは最大9,216個のAIアクセラレータにスケールアップし、トレーニングと推論で合計42.5 FP8 ExaFLOPSを提供します。これは、NvidiaのGB300 NVL72システムのFP8能力である0.36 ExaFLOPSをはるかに上回っています。

もしGoogleが、Geminiクラスのモデルのトレーニングにおいて、IronwoodクラスターがNvidia H100クラスターよりもコスト効率が高いことを証明できれば、Google TPU対Nvidiaの物語は「実験」から「標準的な実践」へとシフトします。

今後の展望:AIチップ市場の競争

私たちは二極化した市場に向かっている可能性が高いです。Nvidiaは汎用AIトレーニングの王者であり続けるでしょう。AIトレーニングCUDAの慣性もあって、その柔軟性から。もしあなたが奇妙な新しいアーキテクチャをテストしている研究者なら、Nvidiaを使うでしょう。

しかし、Google TPUは大規模なトレーニングと推論において巨大なニッチを開拓しています。モデルが定義されたら、重い処理のためにTPUに移行することは経済的に理にかなっています。AIチップ市場の競争はもはや独占ではなく、寡占です。Google TPU対Nvidiaの戦いが激化し、AMDやAmazonからの参入もあり、ハードウェアの状況は多様化しています。

開発者、株主、そして手頃な価格のグラフィックカードを待っているゲーマーにとって、この競争こそが唯一の道です。

FAQ: Google TPU対NvidiaとAIハードウェア

FAQ: Google TPU vs Nvidia  and AI Hardware

Q: Google TPUとNvidia GPUの主な違いは何ですか?

A: Nvidia GPUは、グラフィックス、ゲーム、AIタスクを処理できる汎用プロセッサです。Google TPU(Tensor Processing Unit)は、行列演算とディープラーニング操作専用に設計された特殊ASICであり、特定のAIワークロードに対してより高い効率を提供します。

Q: 自宅のコンピュータ用にGoogle TPUを購入できますか?

A: いいえ、グラフィックカードのようにGoogle TPUを単独のコンポーネントとして購入することはできません。それらはクラウドベースのサービスとしてGoogle Cloud Platform(GCP)を通じてのみ利用可能ですが、Nvidia GPUは個人のワークステーションやゲーミングリグ用に購入できます。

Q: なぜほとんどのAI開発者は依然としてGoogle TPUよりもNvidiaを好むのですか?

A: Nvidiaは、堅牢なライブラリ、広範なサポート、使いやすさを提供するCUDAソフトウェアエコシステムにより、圧倒的なアドバンテージを持っています。TPUのソフトウェアサポートは改善されていますが、CUDAは依然として業界標準であり、Nvidiaチップは実験的で多様な開発においてより柔軟性があります。

Q: Google TPUの台頭は、ゲーミングGPUの品不足解消に役立ちますか?

A: 可能性はあります。大手テクノロジー企業がエンタープライズのAIワークロードをTPUに移行すれば、Nvidiaの商用GPUに対する莫大な需要が減少します。これにより、理論的にはNvidiaのコンシューマー向けGeForceラインの製造能力とリソースが解放され、ゲーマーに利益をもたらす可能性があります。

Q: ニュースで言及されている「Ironwood」チップとは何ですか?

Q: Google TPUを使用するには、新しいプログラミング言語を学ぶ必要がありますか?

A: 必ずしも新しい言語ではありませんが、特定のフレームワークを使用する必要があることがよくあります。TPUはJAXまたはTensorFlowで最適に動作し、PyTorchサポート(XLA)は大幅に改善されましたが、開発者はCUDAプラットフォームの場合とは異なる方法でコードを最適化する必要があることがよくあります。

Q: Google TPUとNvidiaの競争におけるコスト比較はどうですか?

 
 

無料で始めましょう

ローカルファーストのパーソナル知識管理付きAIアシスタント

より良いAI体験のために、

remio は現在、 Windows 10+ (x64)M-Chip Mac のみをサポートしています。

脳内に検索バーを追加

ただremioに尋ねるだけ

すべてを思い出す

何も整理しない

bottom of page