Nvidia AIデータセンターの効率はチップからソフトウェアへ移行している
より高速なチップ、高度な冷却技術、新しい電源装置に長年注目が集まってきたにもかかわらず、Nvidia AIデータセンターの効率はソフトウェアの問題になりつつある。研究者らは現在、ハイパースケーラーが、すでに導入済みのハードウェア上でAIワークロードを実行する方法を変えることで、有意な容量を引き出せると主張している。
タイミングは重要だ。国際エネルギー機関（IEA）によると、世界のデータセンターによる電力消費は2030年までに945テラワット時に達する可能性がある。これは現在の日本の電力使用量をわずかに上回る。しかし、業界における主要な施設効率の指標の一つは、6年連続でほとんど改善していない。
したがって、台頭しつつある競争はNvidia対ほかのチップメーカーという構図ではない。AIの成長には、それに見合うハードウェアと電力の拡張が必要だという前提に対する、ソフトウェア最適化の競争である。より優れたGPUは依然として不可欠だが、利用可能な電力が有用な処理を生むのか、回避可能な計算に費やされるのかは、ソフトウェアによって決まる。
研究者らがAIデータセンターのソフトウェア効率を中心課題に据える
最新の研究は、無駄な計算を単なるソフトウェアエンジニアリングの細部ではなく、インフラの問題として捉え直している。
当面の変化は概念的なものだ。研究者やインフラ専門家は運用者に対し、施設のオーバーヘッドだけに注目するのではなく、1ワット当たりに生み出される有用な処理を測定するよう求めている。
この違いは重要である。電力使用効率、すなわちPUEは、施設全体のエネルギーをコンピューティング機器に供給されるエネルギーと比較する。PUEが1.0に近いほど、冷却、照明、電力変換に使われる電力が比較的少ないことを示す。
しかしPUEでは、サーバーが過剰に大きなモデルを実行しているか、不必要なトークンを処理しているか、あるいは一部がアイドル状態にあるかは判断できない。アプリケーションがラックに届く電力の大半を無駄にしていても、施設は優れたPUEを報告できる。
Uptime Instituteによる2025年データセンター調査では、平均PUEが6年連続でほとんど変化しなかったことが示された。同報告書は、この停滞の一因として、レガシー施設と地域ごとの冷却制約を挙げている。
調査における加重平均PUEは1.54だった。これは施設オーバーヘッドが大きいことを示す一方で、さらなる冷却改善だけでは問題の一部にしか対処できない理由も示している。
IEAの推計では、現代のデータセンターにおいてサーバーは電力需要のおよそ60%を占める。ストレージとネットワークの比率はそれより小さい。冷却は、効率的なハイパースケール拠点では約7%である一方、効率の低いエンタープライズ施設では30%を超えることもある。
こうした数値は、機会の大半がコンピューティングスタックの内部にあることを示している。ソフトウェアは、モデル、数値精度、バッチサイズ、応答長、プロセッサ設定、ワークロードの配置先、実行時間を選択する。
ML.Energyイニシアチブに関わるミシガン大学の研究者、Jae-Won Chung氏はTom’s Hardwareに対し、ソフトウェアとアルゴリズムは有意な違いをもたらし得ると語った。同氏の議論では、コンピューティングシステムを複数の接続された層として扱う。
最下層にハードウェアがあり、その上にシステムソフトウェア、アルゴリズム、アプリケーションが位置する。チップの置き換えには製造、調達、設置、テストが必要だが、コードやスケジューリングポリシーははるかに速く変更できる。
この主張は、ソフトウェアが新たなインフラの必要性をなくすというものではない。むしろソフトウェアは、運用者が高価なアクセラレータと限られた系統容量をどれだけ効果的に使うかを決める制御層となる。
この捉え方は、Nvidia AIデータセンター効率の意味を広げる。ワット当たり性能は、もはやプロセッサ仕様で終わらない。処理をプロセッサへ送るあらゆる判断にまで及ぶ。
この違いは、特に電力上限の下で重要になる。施設がより多くの電力を確保できない場合、実用上の容量は、導入済みGPUそれぞれがその制約内でどれだけの有用な出力を提供できるかに依存する。
そのため、ソフトウェアの改善は容量拡張に似た効果を持ち得る。追加のリクエストを受け入れる余地を作り、遅延を減らし、施設の最大電力負荷を増やすことなく、より多くのアクセラレータを稼働させられるようにする。
これが、最近の議論が単なる持続可能性の提案にとどまらない理由である。エネルギー最適化を、収益、導入速度、ハイパースケーラーが販売できるAIサービスの量に直接結び付けている。
945TWhという予測がすべてのワットを容量に変える
電力は運用コストから、AI拡大を縛る制約へと変化した。
IEAは、データセンターが2024年に約415TWhを消費し、世界の電力使用量のおよそ1.5%に相当したと推計している。消費量はその前の5年間、年平均12%のペースで増加していた。
同機関のベースケースでは、消費量は2030年までに2倍以上の約945TWhへ増加すると予測されている。その時点で、データセンターは世界の電力消費量の3%弱を占めることになる。
この世界全体の比率は管理可能に聞こえるかもしれない。しかし、データセンターは比較的少数の地域に巨大な負荷を集中させるため、地域への影響は吸収しにくい。
新しい施設は2年から3年で稼働開始できる場合がある。一方、送電線、変電所、発電プロジェクト、系統増強には、より長い計画・建設期間を要することが多い。
2030年までのデータセンター需要の伸びの大半は、米国と中国が占めると見込まれている。IEAは、2024年比で米国が約240TWh、中国が175TWh増加すると予測している。
AIのトレーニングと推論に一般的に使われるアクセラレーテッドサーバーは、新規需要の最大の源泉である。IEAのベースケースでは、その電力消費は年率30%で増加すると予測されている。
これらのサーバーは、世界のデータセンター電力消費の純増分のほぼ半分を占める。従来型サーバーが約5分の1、冷却などのインフラもさらに5分の1を占める。
IEAのエネルギー予測は、高効率ケースについても説明している。ソフトウェア、ハードウェア、インフラ全般で改善を強化すれば、2035年には同じデジタルサービスを15%以上少ない電力で提供できる。
このシナリオは経済的な重要性を示している。急速に拡大する世界的な負荷全体で15%の効率向上を実現することは、環境面の注記ではない。同等規模の新規発電を必要とせずに、追加サービスを支えられる電力を意味する。
Amazon、Google、Meta、Microsoftを含むハイパースケーラーや主要AIプロバイダーは、この圧力に直接直面している。プロセッサは、電力会社がそれらを供給するために必要なインフラを構築するより速く発注できる。
各社は、長期電力契約、再生可能エネルギープロジェクト、原子力に関する契約、オンサイト発電、カスタムシリコンによって対応してきた。また、新たな冷却・給電設計を必要とする、より高密度なシステムも開発している。
それぞれの対応には限界がある。新規発電には時間がかかり、カスタムチップには長い開発サイクルが必要であり、高密度ラックは高額な施設改修を迫る可能性がある。
ソフトウェアは異なる時間軸で機能する。運用者は、新しい製造プロセスや系統接続を待たずに、推論ルーティング、モデル選択、スケジューリング、電力ポリシーを見直せる。
この機会が最も明確なのは、プロバイダーがGPUを確保しているものの、すべてを同時に稼働させるには電力が不足している場合だ。より優れたソフトウェアは、固定された電力上限の下で完了できる有用な計算量を増やせる。
また、新たなワークロードをどこに配置するかにも影響し得る。ある地域に余剰容量を持つハイパースケーラーは、レイテンシーやデータガバナンス上の制約を踏まえつつ、適したジョブを過負荷の電力網から移動させられる可能性がある。
この圧力はエンタープライズAIの購入者にも及ぶ。プロバイダーのエネルギーコスト、利用率、電力の可用性は、サービス容量、応答時間、高度なモデルへのアクセスに影響する。
開発者は、推論リクエストごとに電力料金の請求を受けるわけではないかもしれない。それでも、クオータ、レイテンシー、モデルの可用性、不必要なトークン使用を減らす圧力を通じて、その影響に直面する。
したがって、業界の電力問題はソフトウェア需要の問題でもある。不要な計算はすべて、別のリクエストに提供できない容量を占有する。
Nvidia AIデータセンターの効率にはワークロード制御も含まれる
Nvidia独自の制御機能は、チップ効率とソフトウェア効率の境界がすでに曖昧になっていることを示している。
NvidiaのBlackwellプラットフォームには、構成可能な電力プロファイルが含まれている。これらのプロファイルは、特定のワークロードに対して、GPUのコンピュート周波数、メモリ周波数、電力上限、キャッシュの動作、NVLinkの状態を調整できる。
同社によると、その制御機能は全体性能の少なくとも97%を維持しながら、エネルギー消費を最大15%削減できる。またNvidiaは、電力に制約のある施設でスループットを最大13%向上できるとしている。
これらはベンダー側の主張であり、ワークロードの特性に依存する。それでも市場の変化を示している。プロセッサの効率は、製造時に確立された一つの固定値としては、もはや扱われていない。
ソフトウェアは、システムが性能曲線のどこで動作するかを選択できる。可能な限り高いクロック速度では、消費電力が不釣り合いに増える一方で、性能向上はわずかにとどまる場合がある。
その速度を少し下げれば、出力の大半を維持しつつ、別のGPUに回す電力を確保できる。ラック規模では、集約された利得が各デバイスの小さな性能低下を上回る可能性がある。
同じ原則は、ハードウェア制御層より上にも当てはまる。ML.Energyの研究者らは、AlibabaのQwen3-235B-A22B-Thinkingモデルを異なる数値形式でテストした。
8ビット浮動小数点形式であるFP8は、bfloat16より低い精度で値を表現する。研究者らは、テストした問題解決タスクにおいて、FP8推論のエネルギー消費が約3分の1少ないことを確認した。
低精度はすべてのワークロードに適しているわけではない。精度の変化を招く可能性があり、結果はモデル、ハードウェア、実装によって異なる。しかしこれは、開発者が基盤となるアクセラレータを置き換えずに、エネルギーと性能に関する判断を下せることを示している。
トレーニングも別の対象となる。大規模なジョブは多数のプロセッサに処理を分散するが、それらのプロセッサが常に同じ速度で進むとは限らない。
一部のコンポーネントは早く完了し、電力を消費しながら同期ポイントで待機する。ほかは次の段階を開始できる時点を決める遅延要因となる。
Chung氏のPerseusオプティマイザーは、処理量の少ないトレーニングコンポーネントを特定し、より忙しいコンポーネントと同時に完了するよう速度を落とす。公開されたPerseusの研究では、スループットを低下させることなく最大30%のエネルギー削減が報告された。
重要な仕組みは、同期を考慮した電力制御である。Perseusはトレーニングジョブ全体を単純に減速するのではない。別のコンポーネントが完了時点を左右するために性能の余裕がある処理を対象とする。
この違いにより、削減効果は商業的にも意味を持つ。トレーニングが比例して長期化し、高価なインフラを占有してしまうなら、ハイパースケーラーが電力消費を抑えても得られるものは小さい。
ソフトウェアは、リクエストがGPUに到達する前に推論需要を削減することもできる。プロバイダーは繰り返されるプロンプトや応答をキャッシュし、同一または非常によく似たリクエストに対する計算を回避できる。
また、定型的なリクエストは小規模なモデルへルーティングし、より高い能力を必要とするタスクには大規模モデルを割り当てられる。このモデルルーティングのアプローチでは、計算を難易度に応じて選択されるリソースとして扱う。
プロンプトの圧縮により、入力トークン数を減らせる。出力上限を設ければ、モデルが必要以上の文章を生成するのを防げる。バッチ処理を改善すれば、アクセラレータの遊休時間を減らしてリクエストをまとめられる。
コンパイラはモデルグラフを最適化し、演算を融合し、不要なデータ移動を削減できる。メモリとプロセッサ間のデータ転送は、演算そのものと同様にエネルギーを消費するため、こうした改善は重要だ。
インフラチームはクラウドインスタンスの適正サイズ化も行える。過大なインスタンスは、大規模なフリート全体では特に、相当なベースライン電力を消費しながら低い利用率にとどまる可能性がある。
レガシーアプリケーションも別の形の無駄を生む。顧客向け開発より移行の緊急性が低く見えるため、古いソフトウェアが非効率な機器を稼働させ続けることがある。
SHIのデータセンターインフラ専門家であるChetan Visrolia氏は、レガシーラックについて、削減効果を得やすい対象だとTom’s Hardwareに語った。こうした機器は、ほとんど有用な処理を提供しないまま、スペース、冷却能力、電力を消費する可能性がある。
これらの手法は、単一の製品や一つの技術的ブレークスルーを意味するものではない。共通する仕組みは、結果を改善しない処理を排除することにある。
これが、Nvidia AIデータセンター効率の根底にある発想の転換だ。より高速なハードウェアには依然として価値があるが、その速度が有用な出力になるのか、それとも追加需要になるのかを決めるのはソフトウェアである。
すべてのAI利用を削減せずに、ワークロードの移動で電力網を支援できる
次のソフトウェア上の機会は、単に使用電力を減らすことだけではない。いつ、どこで使うかを選ぶことでもある。
AIワークロードには、緊急性の違いがある。対話型アシスタントには迅速な応答が必要だが、モデル評価、データ処理、一部の学習タスクは遅延を許容できる。
スケジューラは、柔軟に動かせる処理を、地域の電力需要が最も高い時間帯から移すことができる。電力網に余剰容量があるときや、再生可能エネルギーの発電量が豊富なときに処理を再開できる。
この手法は時間的ワークロードシフティングと呼ばれる。地理的ワークロードシフティングでは、適切なジョブを、コンピューティング能力と電力容量が利用可能な別のデータセンターへ送る。
ETH Zurichの博士研究員であるSophie Hall氏は、Googleのグローバルなデータセンターフリートにおけるワークロードシフティングを研究してきた。同氏の研究は、性能保証を維持しながら、前日計画とリアルタイムスケジューリングを組み合わせている。
この考え方は最適化の目標を変える。総消費電力量は依然として重要だが、そのタイミングと場所によって、最終的なコスト、排出量、電力網への負荷が決まる可能性がある。
再生可能エネルギーが供給過剰の期間に消費される1メガワット時は、制約のある夕方のピーク時に同量を消費する場合とは異なるシステム影響をもたらす。ソフトウェアは物理インフラよりも速く対応できる。
National Grid、Nvidia、Emerald AI、Electric Power Research Instituteが参加した2026年の試験は、柔軟な需要の例を示した。この試験では、AIデータセンターが要請を受けた際に、電力使用量を迅速に削減できることが示された。
報告された結果によれば、ある事業者は1分未満で需要を約66%まで削減した。別の試験では、10時間にわたり容量の10%で運転した。
これらの実証は、すべての商用ワークロードをこれほど積極的に抑制できることを立証するものではない。ただし、少なくとも一部のAI計算は、従来の産業需要より速く電力網の状況に対応できることを示している。
この柔軟性は、電力網への接続にも影響し得る。事業者が逼迫時に需要を減らすことに同意すれば、電力会社は施設をより早く接続できる可能性がある。
データセンター側にとってのトレードオフは、計算能力が一時的に利用できなくなることだ。電力会社側の利点は、施設の理論上の最大容量に見合う発電能力を常に必要としない、制御可能な負荷を得られることである。
Nature Reviews Clean Technologyで発表された研究でも、電力網と統合した運用が検討された。AI sustainability reviewでは、ワークロードを電力網の状況に合わせることで、再生可能エネルギーの比率が高い電力網においてライフサイクル排出量を約10%削減できると推定している。
このレビューは、エネルギー、炭素、水に関する目標が相反する場合もあると警告している。水消費を減らす戦略が、特定の運用条件下では排出量を増加させる可能性がある。
この複雑性は、単一の静的な効率目標に従うのではなく、複数の変数を最適化できるソフトウェアを有利にする。スケジューラは、電力供給、炭素集約度、水ストレス、レイテンシー、データ所在地に関する規則を考慮できる。
Googleは長年にわたり、カーボンフリー電力の利用可能性に応じてコンピューティングタスクを移動させてきた。他のハイパースケーラーも同様のスケジューリングに必要なグローバルインフラを備えているが、具体的な手法と結果はそれぞれ異なる。
この動きは新たな競争軸を生み出す。より多くのリージョン、より優れたワークロード可視性、成熟したスケジューリングシステムを持つプロバイダーは、制約のあるインフラからより多くのサービスを引き出せる。
小規模事業者も、クラウドオーケストレーションとワークロード制御を通じて恩恵を得られる。グローバルフリートは持たないかもしれないが、バッチジョブを延期し、アイドル状態のリソースを削減し、適切なモデルを選択できる。
開発者もこの層に影響を及ぼす。レイテンシー要件を明確に定義するアプリケーションは、柔軟なタスクを効率的にスケジュールするための自由度をインフラソフトウェアに与える。
待機可能なジョブを緊急扱いにすると、システムは即時対応の容量を確保せざるを得ない。そのため、より良いワークロードメタデータはエネルギー効率のためのツールになり得る。
アプリケーションレベルでは、ここでAI workflowsが重要になる。慎重に範囲を定めたリクエストと再利用可能なコンテキストは、インフラスケジューラが実行を最適化する前に、繰り返し処理を減らせる。
ソフトウェアによる削減には、データ・精度・リバウンドという限界がある
ソフトウェア最適化は電力逼迫を和らげられるが、AI成長の背後にある物理的な限界をなくすことはできない。
最初の制約は測定である。PUEは、事業者が施設境界で算出できるため広く使われている。一方で、多様なアプリケーションにまたがって有用な計算を測定することはより難しい。
学習実行では、単純な比較が難しいチェックポイント、評価結果、モデル能力が生み出される。推論サービスは、長さ、レイテンシー要件、商業的価値が異なるリクエストを処理する。
事業者はトークン当たりのワット時を削減しつつ、より多くの不要なトークンを生成することができる。そうでなければ実行されなかった低価値のリクエストを処理することで、GPU利用率を改善することもできる。
このため、ワークロードレベルの指標が必要になる。許容可能な結果に到達するまでに必要なトークン数がモデルごとに異なる場合、完了タスク当たりのエネルギーは、トークン当たりのエネルギーより多くの情報を与える。
品質も分母の一部であり続けなければならない。エネルギー消費が少なくても、エラーによってユーザーがタスクを繰り返す必要がある低精度モデルには利点がない。
同じ注意は小型モデルへのルーティングにも当てはまる。コンパクトなモデルは多くの日常的なリクエストを効率よく処理できるが、不正確なルーティング判断は再試行を生んだり、後でより上位の処理へエスカレーションしたりする可能性がある。
キャッシュには、プライバシーと鮮度に関する懸念がある。キャッシュ済みの応答は計算を節約できるが、回答が最新データや機密性の高いコンテキストに依存する場合には不適切かもしれない。
ワークロードシフティングにも厳しい境界がある。データ主権に関する規則は、別のリージョンでよりクリーンな電力や余裕ある電力が利用できる場合でも、情報が国境を越えることを妨げる可能性がある。
大規模なデータセットの移動には、時間、ネットワーク容量、エネルギーが必要となる。転送は運用リスクを高めたり、顧客情報をどこで処理するかに関する約束に違反したりする可能性もある。
対話型ワークロードには、スケジューリング上の柔軟性が限られる。再生可能エネルギーが後で利用可能になる見込みだからといって、アシスタントが数時間停止することをユーザーは受け入れないだろう。
学習ジョブはより柔軟に扱える可能性があるが、中断は障害リスクを高めるおそれがある。事業者には、電力の利用可能性が変化しても進捗を保持するチェックポイントおよび復旧システムが必要となる。
最大の不確実性はジェボンズのパラドックスだ。効率化は資源の実効コストを下げ、それが消費を促し、絶対的な削減効果の一部を相殺する可能性がある。
推論当たり15%を節約したプロバイダーは、空いた容量を追加リクエストの処理に使うかもしれない。リクエスト当たりのエネルギーは改善する一方、施設は引き続き割り当てられた電力を全量消費する可能性がある。
この結果は経済的に不合理ではない。プロバイダーは同じ電力をより多くのサービスに変換したのである。しかし、これはソフトウェア効率が総需要や排出量を自動的に削減するわけではないことを意味する。
この区別は公共政策にとって重要だ。節約されたすべてのワットが追加のAI生成を支えるなら、効率基準だけでは地域の電力網を守れない可能性がある。
ハードウェアの改善も同様のリバウンドを生んできた。より高速なプロセッサは個々の演算に必要なエネルギーを削減した一方で、ソフトウェア需要とデータセンター規模を拡大させた。
ソフトウェアによる取り組みには、非効率なアプリケーションを持続可能に見せかけるリスクもある。明白な無駄を取り除いても、すべてのAIワークロードがそのエネルギー使用を正当化するほどの価値を生むかどうかには答えられない。
最適化は、送電、発電、冷却への投資の代替にもならない。IEAの予測は、ソフトウェアのみの解決策ではなく、システム全体にわたる継続的な改善を前提としている。
したがって、Nvidia AIデータセンター効率は二つの方法で評価すべきである。事業者は、ワット当たりの有用な処理と、施設の絶対的な電力消費量の両方を追跡しなければならない。
前者はエンジニアリングが改善したかを示す。後者は、その改善が電力網への負荷を和らげたのか、単により多くの需要を可能にしただけなのかを示す。
透明性は依然として限定的だ。ハイパースケーラーは選択的な持続可能性・効率性指標を開示しているが、ワークロードレベルのエネルギーデータがプロバイダー間で比較可能なことは稀である。
一貫した報告がなければ、顧客は、あるモデルやサービスが同等の処理をより少ない電力で完了しているかを容易に判断できない。ベンダーの主張は、有利なワークロードや内部ベースラインに依存する可能性がある。
独立したベンチマークが役立つ可能性がある。そのためには、タスク品質、レイテンシー、ハードウェア利用率、エネルギーを一体として測定する必要がある。
精度を無視するベンチマークは、劣化した出力を評価してしまう。レイテンシーを無視するものは、実際のアプリケーションには適さない構成を評価する可能性がある。
こうした懐疑論は、ソフトウェア最適化を退ける理由ではない。それを環境マーケティングではなく、インフラエンジニアリングとして評価する理由である。
ソフトウェア戦略が機能しているかを示す三つのシグナル
試されるのは、ソフトウェアによる削減が、品質低下や総需要の増加を隠すことなく、測定可能な運用能力になるかどうかである。
最初のシグナルは、Nvidiaとハイパースケーラーによるワークロードレベルの報告だ。施設PUEには、電力消費を完了したAI処理に結び付ける指標を組み合わせるべきである。
有用な開示では、モデルサイズ、精度形式、電力設定をまたいで、条件をそろえたタスクを比較する。エネルギー消費量とともに、精度とレイテンシーも含めるべきだ。
ベンダーが再現可能な結果を公表すれば、ソフトウェア効率の主張は信頼性を増す。広範なフリート平均しか示さなければ、顧客は真の最適化とワークロード構成の変化を区別するのに苦労するだろう。
二つ目のシグナルは、柔軟な電力網接続の普及である。試験では一部のAI負荷が迅速に応答できることが示されたが、商用導入には電力会社、規制当局、事業者の合意が必要となる。
中断可能なサービスや自動化されたデマンドレスポンス義務を受け入れるデータセンターに注目したい。こうした取り決めは、ワークロードシフティングが研究や管理された実証を超えたことを示すだろう。
また、それは経済的なトレードオフも明らかにする。施設は計算能力が低下する時間帯を受け入れる代わりに、より早く電力へのアクセスを得られる可能性がある。
事業者がこうした合意を拒み、中断のない最大電力を引き続き求めるなら、地理的・時間的スケジューリングは限定的な手段にとどまる。
3つ目のシグナルは、プロバイダーが効率向上をどう活用するかだ。タスク当たりのエネルギー消費が減れば、新規建設の先送りやピーク需要の抑制につながる場合、ソフトウェア活用の根拠はより強まる。
一方で、効率化による余力がすべて即座に追加のトークン生成へ回され、絶対的な電力消費量が従来と同じペースで増え続けるなら、その結論は弱まる。
これはエンジニアリングが無意味になることを意味しない。一定の電力でより多くの出力を得られることには、依然として価値がある。ただし、その技術が総エネルギー需要よりも、容量不足という課題に対してより効果的に作用することを示しているにすぎない。
企業は、効率的なインフラに関する一般論に頼るのではなく、ベンダーにタスク単位の根拠を求めるべきだ。開発者は、小型モデル、短いプロンプト、キャッシュ、出力制約を用いても、必要な結果を維持できるか検証すべきである。
インフラチームは、柔軟に実行できる作業を特定し、そのサービス要件を明示すべきだ。そうすればスケジューラーは、負荷の低い時間帯、地域、プロセッサ設定を選ぶ余地を持てる。
業界はまた、技術的に可能な計算と、実際に有用な計算を区別し続ける必要がある。不必要なタスクを最適化しても、そのタスクが不必要であることは変わらない。
ソフトウェアが魅力的なのは、チップ、変電所、発電所より速く変化できるからだ。アプリケーション、アルゴリズム、システム、ハードウェア制御にまたがり、複利的な改善を生み出せる。
ただし、その成功は単一の研究室における割合だけでは測れない。ワット当たりの完了作業量の増加、導入停止の減少、より柔軟な送電網運用、品質調整済みベンチマークの透明性という形で現れるだろう。
実務上の問いは明確になった。ハイパースケーラーは、Nvidia AI data centerの効率をフルスタックの規律として扱うのか。それとも主に、より高速なシリコンによって進歩を測り続けるのか。開発者と企業の購買担当者は、利用するAIサービスについて比較可能なエネルギー、品質、レイテンシーのデータを求めることで、市場を前者へと後押しできる。
