公式EPYC結果がVeraの優位性に疑問を投げかけ、AMDとNVIDIAのベンチマーク競争は接近
NVIDIAは一部の比較でVeraが最大50％高速だと示したが、公式のEPYC Turin結果を計算に入れると、AMDとNVIDIAのベンチマーク競争の様相は変わる。
NVIDIAの2026年7月のVera CPU資料では、新しい88コアプロセッサをAMDの128コアEPYC 9755と比較している。しかし、NVIDIAはVeraについては社内測定値を用い、AMDシステムについては推定結果を採用した。ServeTheHomeはこのAMD推定値を公開済みのSPEC CPU 2026データに置き換え、競争がはるかに拮抗していることを見いだした。
この正規化によってVeraが弱いプロセッサになるわけではない。買い手が問うべき論点が変わるのだ。Veraは依然として一部のコア当たり性能比較で優位に見える一方、AMDはソケット全体のスループットでより強力な選択肢を維持している。真の対立点は、ベンダーが選んだ見せ方と、ワークロードに合わせた購買判断の間にある。
公式AMD結果を用いるとNVIDIAのVera数値は違って見える
最も重要な変化は新たなプロセッサ結果ではなく、NVIDIAの既存の主張を解釈するための、より適切な基準線である。
NVIDIAは7月21日、Veraに関する新たなアーキテクチャ詳細と社内SPEC CPU 2026測定値を公開した。SPEC CPU 2026は、システム間のコンピュート性能を比較するために設計された、標準化済みのプロセッサワークロード群である。同社は結果を、CPUがコード実行、検索、オーケストレーション、データベース、GPU推論を取り巻くその他の処理を担うエージェント型AIの文脈で位置付けた。
Veraは88個のカスタムOlympusコアを採用し、NVIDIA Spatial Multithreadingによって176のハードウェアスレッドをサポートする。NVIDIAは、2ソケット構成のSPECrate 2026整数ベーススコアが925だったと報告した。SPECrateは複数のワークロードコピーを実行してスループットを測定するため、コア数、メモリ挙動、コンパイラの選択、システム構成の影響を受けやすい。
NVIDIAのホワイトペーパーでの比較には、2024年に投入された128コアのTurinプロセッサ、AMDのEPYC 9755が使われた。NVIDIAは、そのプロセッサで利用可能な最も強力な公開・査読済みのSPEC提出結果を使うのではなく、競合AMDシステムの性能を推定した。
この選択は重要だ。公開された2ソケットEPYC 9755システムは、公式SPEC結果でSPECrate 2026整数ベーススコア1,070を記録した。その後のベンチマーク正規化によると、NVIDIAの推定値はこの査読済み結果を約16％下回っていた。
この公式スコアは、比較を意外な位置付けに置く。Veraの報告スコア925は、総整数スループットではデュアルソケットEPYC 9755システムの1,070を下回る。NVIDIAのコア数は依然として少ないため、この結果は同社のコア当たり性能の主張を支える。しかし、Veraがあらゆる意味でより高速なプロセッサだという単純な結論を支えるものではない。
NVIDIAのグラフは、推定AMDベースラインに対する比率を強調していた。その推定値を公式結果に置き換えると、両プロセッサ間の見かけ上の差は縮まる。ServeTheHomeの計算では、この比較におけるVeraはおよそコア当たり5.3ポイントに達する。AMDの性能重視EPYC 9575Fは、コア当たりおよそ4.8～5.0ポイントとなる。
これは、AMDの高周波数Turinオプションに対するVeraの推定コア当たり優位性が、およそ6～10％であることを意味する。50％以上の優位性を示唆する比較とは、実質的に異なる。
この違いはAMDとNVIDIAの議論の核心だ。プロセッサはコア当たりで優位でも、ソケット当たりでは劣る可能性がある。また、選択されたレイテンシー重視の処理で優位に立つ一方、並列サービス向けのスループットは低い場合もある。いずれの記述も正確であり得るが、どれも購買判断全体を表すものではない。
NVIDIAはVeraの数値を、独立して査読されたSPEC結果として提出していない。7月の測定値は依然として同社の社内データである。これは数値が無効であることを意味しないが、公開されたSPEC提出結果とは異なる証拠区分に置かれる。
したがって、正規化された結果はこの記事の中心的な緊張を生む。NVIDIAは強力な個別コアを備えた競争力のあるArmサーバーCPUを構築したように見える。そのマーケティング比較は、利用可能な査読済みデータが裏付ける以上に、その優位性を広く見せている。
AMDとNVIDIAの比較は、買い手がどの単位を重視するかに左右される
比較単位がアクティブなコアであればVeraが最も強く見える一方、完全なスループット重視ソケットであればEPYCの方が強く見える。
NVIDIAは、エージェント型コンピューティングに関する特定の考え方に基づいてVeraを設計した。AIエージェントはトークンを生成するだけではない。コンテキストを取得し、Pythonコードを実行し、データベースにクエリを送り、外部サービスを呼び出し、結果を確認して、ループを繰り返すことがある。
これらのステップの多くは逐次的だ。システムの他の場所で数百のタスクが動いていても、遅いツール呼び出しが応答全体を止めることがある。そのためNVIDIAは、ソケットが高負荷の状態での各スレッドの速度を意味する、負荷時の強力なシングルスレッド性能をより重視すべきだと主張する。
同社のVeraアーキテクチャ詳細では、幅広いアウト・オブ・オーダー型のOlympusコアを説明している。アウト・オブ・オーダー実行により、プロセッサはすべての命令が逐次的に完了するのを待つのではなく、独立した操作を並べ替えられる。
Olympusには、10ワイドのデコードエンジン、高度な分岐予測、難しい分岐パターン向けのニューラル予測器が含まれる。これらの機能は、インタープリタ、コンパイラ、エージェントランタイム、グラフソフトウェア、不規則な制御フローを持つその他のコードを対象としている。
これは一貫性のある設計目標だ。同時に、NVIDIAがコア当たりまたはスレッド当たりの視点を好む理由も説明する。エージェントの進行が分岐の多い1つの実行経路に依存する場合、より遅いコアを追加しても、その経路のレイテンシーは必ずしも短縮されない。
AMDのTurinポートフォリオは、より幅広いサーバーの役割を想定して設計された。高周波数、バランスの取れた性能、最大コア密度に最適化したモデルを含む。VeraをEPYCの1モデルだけと比較すると、AMD自身のラインアップ内にあるこれらの違いが見えにくくなる。
EPYC 9575Fは、特に重要な対照例だ。64個のZen 5コア、最大5.0 GHzのブースト周波数、400ワットのデフォルト熱設計電力を備える。AMDは、アクセラレータの隣で動作するホスト処理を含む、高いコア当たり速度を重視するワークロード向けに位置付けている。
EPYC 9755は別の道を取る。128コアによって総並列スループットは増加するが、各コアに割り当てられるソケットの電力およびメモリリソースは小さくなる。このため、シングルスレッド性能を中心とする主張の基準としては完全ではない。
EPYC 9965は、さらに密度寄りに進む。AMDのEPYC仕様には、192コア、384スレッド、384 MBのL3キャッシュ、500ワットのデフォルト熱設計電力が記載されている。このプロセッサを使用する公開済みの2ソケットシステムは、SPECrate 2026整数ベーススコア1,230に到達している。
このシステムレベルの結果は、Veraの報告スコア925とEPYC 9755の結果の両方を上回る。これは9965の各コアが高速であることを意味しない。単一の比率ではポートフォリオ比較を決着できない理由を示している。
数千の小規模Webサービスを運用するクラウドプロバイダーは、ラック当たりに完了できるリクエスト数を重視するかもしれない。対話型エージェントを提供するプラットフォームは、各サンドボックスで一貫したレイテンシーを重視する可能性がある。データベースの購入者は、コア当たりのソフトウェアライセンスを気にするかもしれない。AIシステムの構築者は、高価なGPUに仕事を継続的に供給できるかを重視するかもしれない。
各買い手は異なる経済単位を測定している。プロセッサ、ソケット、ノード、ラック、ライセンス対象コア、完了したエージェントタスクは、互いに代替できるものではない。
これは両社に圧力を生む。NVIDIAは、コア当たりの向上が選択されたCPUベンチマークだけでなく、完全なエージェントワークロードを改善することを示す必要がある。AMDは、より高いコア密度が、NVIDIAが強調する不規則なワークロード下でレイテンシーやメモリのボトルネックを招かないことを示す必要がある。
この結果は、どちらかのベンダーを勝者と宣言するより有用だ。アーキテクチャが運用経済性へと変わる地点を特定している。買い手はベンチマークを選ぶ前に、自らのサービスに合う単位を選ぶ必要がある。
メモリ帯域幅はVeraの優位性を実在させるが、条件付きでもある
Veraのメモリシステムは大きなアーキテクチャ上の優位性だが、その一部は新しい世代のメモリと少ないコア数を反映している。
Veraは88個のOlympusコアと、最大毎秒1.2 TBのLPDDR5Xメモリ帯域幅を組み合わせる。NVIDIAはアーキテクチャ資料によると、9,600 MT/sで動作するSOCAMM2モジュールを使用している。この帯域幅は、インタープリタ、データベース、検索システム、同時実行されるエージェントサンドボックスによって生じる多数のメモリアクセスを支援する。
AMD EPYC Turinは12チャネルのDDR5メモリをサポートする。EPYC 9965の製品ページには、最大6,400 MT/sのメモリ速度と、ソケット当たり毎秒614 GBの帯域幅が記載されている。EPYC 9755も同世代のメモリインターフェースを採用する。
したがってソケットレベルでは、VeraはTurinのピークメモリ帯域幅のほぼ2倍を提供する。Veraではその帯域幅を88コアで分けるため、コアレベルでは差がさらに大きくなる。128コアまたは192コアのEPYCプロセッサは、より小さい総帯域幅をより多くのコアで分ける。
NVIDIAは、選択した比較において、Veraが従来のx86サーバープロセッサの3倍超のコア当たりメモリ帯域幅を提供すると述べている。Veraを高コア数のTurinモデルと比較するなら、この見せ方は数学的に妥当だ。しかし、この結果にはアーキテクチャ、メモリ速度、チャネル設計、コア数が組み合わされている。
ServeTheHomeは、ソケット帯域幅比較の大部分がメモリ世代の違いを反映していると指摘する。TurinはDDR5-6400対応で2024年10月に市場投入された。Veraシステムは2026年後半に予定され、より高速なLPDDR5Xメモリを使用する。
これはVeraの優位性を消すものではない。NVIDIAは、より少数でより強力なコアに多くのメモリ帯域幅を割り当てるという、意図的なアーキテクチャ上の選択を行った。ただし、この比較をコア設計だけの純粋な測定値として解釈すべきではないことを意味する。
メモリ容量には別のトレードオフもある。NVIDIAの初期Veraテストシステムには96 GBモジュール8基が搭載され、768 GBを提供した。EPYCプラットフォームははるかに大きなメモリ容量をサポートでき、これはデータベース、分析、仮想化、大規模GPUクラスターを取り巻くCPUホストデータにとって重要になり得る。
レイテンシーは生の帯域幅だけで決まるわけでもない。Veraはモノリシックなコンピュートダイ、統合キャッシュ、NVIDIAのScalable Coherency Fabricを使用する。NVIDIAによると、このファブリックはダイ上で毎秒3.4 TBの帯域幅を提供し、2ソケットシステム全体で単一のNUMAドメインをサポートする。
NUMA、すなわち不均一メモリアクセスは、どのプロセッサまたはチップレットがデータを所有するかによってメモリアクセス時間が異なるシステムを指す。NUMAドメイン間でメモリを不適切に配置するソフトウェアは、予測不能な遅延を被る可能性がある。
AMDの高コア数EPYCプロセッサはチップレットを使用する。チップレットによりAMDは多数のコアを経済的に組み立てられるが、コンピュートダイ間の通信はI/Oダイとファブリックを経由する。この設計は、特定のダイ間アクセスパターンでレイテンシーペナルティを課す可能性がある。
NVIDIAはこの対比を用い、Veraが同時実行下でも予測可能なレイテンシーを実現すると主張している。エージェントワークロードでは、予測可能性は平均速度と同じほど重要になり得る。1回の遅延したツール実行が、ユーザーが体験する応答時間を延ばすことがある。
それでも、重要な検証はピーク帯域幅だけではない。ワークロードがその恩恵を得るには、十分な有効メモリトラフィックを生成する必要がある。ソフトウェア側にも、十分な並列性と、メモリサブシステムに負荷をかけるワーキングセットが求められる。
一部のコンパイル、暗号化、分岐の多いワークロードは、依然としてコアの実行性能によって制約される。別のデータベースや分析ワークロードでは、容量、キャッシュ挙動、ストレージアクセスの影響を受けやすくなる場合がある。ピーク帯域幅だけで、すべての結果を予測することはできない。
コンパイラも結果を左右し得る。NVIDIAの社内SPEC測定では、複数の比較でLLVMとClangが使われた一方、AMDが公表する結果ではGCCが使われることが多い。コンパイラの最適化は、スケジューリング、ベクトル化、コード配置、ライブラリ選定に影響する。
したがって、有効な購買比較では、可能な限りコンパイラとソフトウェアスタックを統一すべきだ。購入者がGCCでビルドしたソフトウェアを展開する予定なら、Clangの優位性は現れないかもしれない。ソフトウェアを互換性の問題なく高速なコンパイラへ移行できる場合、その選択肢を除外することも結果を歪める。
Veraのメモリシステムは、エージェント型ワークロードにおけるNVIDIAの主張を強める。ただし、それがあらゆるサービスで一定の優位性に自動的につながるわけではない。その利点は、アプリケーションコード、コンパイラの選択、データ配置、そして完全なシステムテストを経ても維持されなければならない。
NVIDIA Veraのベンチマークが依然として証明していないこと
現時点で得られる証拠はVeraが競争力を持つことを示しているが、AMD EPYC Turinに対する普遍的な優位性をまだ確立するものではない。
最初の制約は検証だ。NVIDIAは7月のSPEC CPU 2026の結果を社内で測定した。同社はホワイトペーパーで構成を開示しているが、その結果はSPECデータベースに提出されたAMDのスコアと同じような公的レビューを受けていない。
この違いは、NVIDIAが比較対象プロセッサと正規化手法の両方を選定したため、特に重要になる。ベンダーはベンチマークのルールに従いながらも、自社製品に有利な見せ方を選べる。
2つ目の制約はワークロードの選定だ。SPEC CPUはプロセッサの挙動を比較する統制された方法を提供するが、エージェントプラットフォームではない。検索、コード実行、ネットワーキング、データベース、モデル推論、GPUスケジューリングを含む一連の処理全体を測定するものではない。
NVIDIAの主張は、最終的にはAIファクトリーに関するものだ。同社は、CPU側の処理が高速化されればGPUの稼働が維持され、エンドツーエンドのエージェント応答性が改善すると主張している。CPUスループットのスコアはその主張を支える証拠ではあるが、直接測定したものではない。
3つ目の制約はプラットフォームへのアクセスだ。Phoronixは、システムが広く提供される前にNVIDIAのサンタクララ施設でVeraをテストした。同社の独立したLinuxテストには、Vera、Grace、複数のAMD EPYC構成、Intel Xeonシステムが含まれていた。
これらの結果はNVIDIAにとって有望だった。Veraは、選定されたコンパイル、コード、サーバーワークロードで強い性能を示した。選ばれたテスト全体では、複数のx86プロセッサと拮抗するか、それらを上回った。
しかし、NVIDIAは実施可能なベンチマークセットを管理し、テスト時間も限定的にしか提供しなかった。Phoronixはこのスイートを、セッションで許可されたワークロードだと明示的に説明している。独立テスターは、まだすべてのアプリケーションを実行したり、ファームウェアを大幅に変更したり、自前のラボでプラットフォームを再現したりできなかった。
4つ目の制約は電力測定だ。テストされたVera構成のプロセッサ電力ターゲットはピーク時450ワットだった。比較対象のAMDプロセッサは300ワットから500ワットの範囲だった。プロセッサの熱設計電力はノード全体の消費電力と同一ではなく、メモリ技術の違いもプラットフォームのバランスを変える。
公平な効率比較には、同一ワークロード下での完全なシステムの壁コンセント測定値が必要だ。同時に、スループット、レイテンシ、エネルギーも測定しなければならない。見出しのスコアを公称プロセッサワット数で割るだけでは、未解決のプラットフォーム変数が多すぎる。
5つ目の制約はソフトウェア互換性だ。VeraはArm命令セットを使用する一方、AMD EPYCはx86-64を使用する。Linuxと多くのクラウドアプリケーションは両方をサポートするが、企業では依然として、x86向けにコンパイルされたネイティブ拡張、独自エージェント、セキュリティソフトウェア、運用ツールが稼働している。
移植時の摩擦は異なる。コンテナ化されたオープンソースサービスは容易に移行できるかもしれない。一方、古い商用ソフトウェアでは、ベンダー認証やコード変更が必要になる場合がある。プロセッサはベンチマークで勝っても、ソフトウェアサポートが本番導入を遅らせれば展開では敗れる可能性がある。
6つ目の制約は比較のタイミングだ。VeraはTurinの約2年後に登場する。NVIDIAのホワイトペーパーは、AMDが次世代EPYC Veniceファミリーについて説明する準備を進める時期に公開されており、Turinは同時代のアーキテクチャではなく、世代交代前の比較対象となっている。
出荷中のプロセッサと比較することは合理的だ。購入者は現在Turinシステムを購入できる一方、Veraの提供開始は2026年後半に予定されている。しかし長期的なアーキテクチャ上の主張は、Veraの主な展開期間に競合するハードウェアとも検証されるべきだ。
AMDはすでに、Veniceが16のメモリチャネルに拡張し、ソケット帯域幅を増加させると述べている。初期の同社予測も、より高いラック密度とスループットを強調している。これらの主張にも、NVIDIAの社内Vera数値と同じ慎重さが必要だ。
AMDが公表したラック手法は、100 kWのラック上限下での性能を推定している。同社は、6つのワークロードでEPYC 9965がVeraを上回り、Veniceはさらに大きな優位性を持つと予測している。
ただしAMDは、Graceの結果をスケーリングしてVeraの性能を推定し、将来のVenice比較の一部も推定している。この手法は、NVIDIAに有利な見せ方に対し、AMDに有利な見せ方で応答するものだ。いずれのベンダーモデルも、出荷システム上での条件を揃えたテストに取って代わるものではない。
正しい懐疑的立場は対称的であるべきだ。NVIDIAのチャートを広範な優位性の証明として扱うべきではない。AMDのラック予測も、Veraが実運用のAIインフラ全体で敗れる証明として扱うべきではない。
両社は、自社の設計が最も強く見えるレベルを選んでいる。NVIDIAはコア当たりの進歩、メモリ帯域幅、レイテンシを強調する。AMDは総スループット、密度、ラックの電力制約下で利用できるコア数を強調する。
購入者は、こうした主張を検証可能な仮説として扱うべきだ。決定的なデータは、意図するサービスに近いソフトウェアを実行する、再現可能なシステムから得られなければならない。
真の競争はエージェントのレイテンシ対ラックスループット
AMDとNVIDIAの競争は、AIデータセンターの経済性を定義する性能単位がどちらになるかをめぐる争いへと変わりつつある。
NVIDIAの戦略はGPUから始まる。VeraはVera Rubinプラットフォームの一部であり、CPU、GPU、インターコネクト、ネットワーキング、ソフトウェアスタックが一体として設計されている。CPUの役割は、高価なアクセラレータ周辺の遅延を取り除くことだ。
そのため、スレッド当たりの進歩には戦略的な価値がある。高速なCPU処理がGPUのアイドル時間を減らせれば、Veraは単体のベンチマークスコアを超える価値を生み出せる。NVIDIAはNVLink-C2Cコヒーレンシーも利用し、CPUをプラットフォームの他の部分と密接に接続できる。
AMDは、より幅広いサーバー基盤から市場にアプローチしている。EPYCはクラウドインスタンス、データベース、分析、仮想化、ストレージ、ハイパフォーマンスコンピューティング、GPUホストに対応する。その高いコア数により、運用者は各ソケットやラックにより多くのワークロードを統合できる。
多くのサービスでは、依然として総スループットが支配的だ。Webサーバー、キーバリューストア、バッチ分析、仮想マシン、コンテナプラットフォームは、数百のコアに作業を分散できる。ラック当たりの完了ジョブ数が増えれば、個々のコアの性能が低くても上回る可能性がある。
エージェント型AIでは、エージェントプラットフォームが両方の特性を必要とするため、2つの戦略は重なる。ユーザー向けの応答性には高速な逐次処理が必要だ。同時に、多数のユーザー、ツール、環境が一斉に動作する際には、大規模な並行性も必要となる。
小規模な対話型展開では、Veraの設計が有利になるかもしれない。コードを編集し、サンドボックスを起動し、プロジェクトをコンパイルし、エラーを読み、再試行するエージェントを考えてみよう。分岐の多い処理とコンパイルが高速になれば、各ループを短縮できる。
大規模なクラウドプラットフォームでは、異なる結論に至る可能性がある。数千のエージェントを、データベース、検索サービス、セキュリティフィルター、無関係な顧客ワークロードと並行して実行するかもしれない。より高いソケットスループットとメモリ容量は、フリートの利用効率を改善できる。
ライセンスは経済性を再び逆転させ得る。一部のエンタープライズソフトウェアはプロセッサコアごとにライセンスされる。少ないコアでより高い性能を得られれば、必要なライセンス数を減らせる。コア単位の料金がないオープンソースサービスでは、最大のコア密度が有利になる可能性がある。
アーキテクチャは意思決定の一部にすぎない。調達関係、システムの可用性、ファームウェアの成熟度、仮想化サポート、運用上の慣れも展開に影響する。AMDには確立されたx86サーバー基盤がある一方、Veraはより新しいArmプラットフォームとして参入する。
NVIDIAには、プラットフォーム統合という別の優位性がある。すでにRubinシステムを購入している組織は、管理ツールと性能チューニングが一つのパッケージとして提供されるなら、特にそのラック向けに設計されたCPUを選ぶ可能性がある。単体のCPUベンチマークが僅差にとどまる場合でも、その判断は起こり得る。
AMDは柔軟性で対抗できる。EPYCシステムは複数ベンダーのアクセラレータをサポートし、確立されたサーバー構成に適合する。プラットフォーム集中を懸念する購入者は、ベンチマーク上の優位性とは別に、この選択肢を評価するかもしれない。
これが、正規化された結果が重要な理由だ。仮に50%のプロセッサ優位性があるとされれば、議論は始まる前に終わってしまう。コア当たり6〜10%の優位性であれば、より現実的な評価が可能になる。
その程度の差であれば、メモリ容量、総スループット、ソフトウェア互換性、ラック電力、プラットフォーム統合が結果を左右し得る。比較は勝利を示すチャートではなく、調達上の問題となる。
Veraは依然として注目に値する。NVIDIAは、台頭するワークロードに合わせて初のカスタムArmコアを設計し、競争力のあるサーバー性能に到達したように見える。成熟したx86アーキテクチャが数十年の最適化の恩恵を受けてきた市場では、これは重要だ。
AMDにも信頼できる対抗策がある。Turinのレビュー済み結果は、現行プロセッサが依然として競争力を保つことを示している一方、同社のポートフォリオはコア数と周波数の異なる選択肢を提供している。購入者は、NVIDIAのホワイトペーパーで選ばれた単一のEPYC SKUに限定されない。
市場の圧力は、この2社にとどまらない。Intelは、AMDの密度とNVIDIAの垂直統合型AIプラットフォームに対してXeonを守らなければならない。Armサーバーベンダーは今や、主要アクセラレータ供給企業に支えられたNVIDIA設計のコアと競争する必要がある。
それでも主な対立軸は、NVIDIAのコア当たりのエージェント戦略と、AMDのソケットおよびラックのスループット戦略の間にある。他のベンダーは文脈を提供するが、これらの結果が生み出す中心的な判断を定義するものではない。
Veraの優位性が維持されるかを決める3つのシグナル
次の段階では、再現可能なプラットフォーム証拠、条件を揃えたアプリケーションテスト、そしてAMDの現行世代との直接競争が必要になる。
最初のシグナルは、SPEC CPU 2026データベースへのレビュー済みVera提出結果だ。NVIDIAが報告した925というスコアは有用な出発点となるが、独立したレビューによりベンチマーク構成が確認され、AMDの公表済み結果と並ぶ一貫した記録が作られる。
925に近いレビュー済み結果は、正規化された結論を強めるだろう。それは、Veraがコア当たりで優れた性能を発揮する一方、総スループットではよりコア数の多いTurinシステムに後れを取ることを確認する。大きく異なるスコアであれば、比較を再計算する必要がある。
2つ目のシグナルは、一般提供されるVeraシステムでの制限のないテストだ。レビュアーには、コンパイラ、ファームウェア設定、メモリ配置、スレッド数、ソフトウェアバージョンを変更できる十分なアクセスが必要だ。また、壁コンセントでの消費電力も測定する必要がある。
最も有用なテストは、完全なエージェントループに沿ったものになるでしょう。そこには、検索、サンドボックスの作成、コード実行、コンパイル、データベースアクセス、ネットワーク呼び出し、GPUの協調処理を含めるべきです。結果では、中央値レイテンシ、テールレイテンシ、スループット、エネルギー、アクセラレータ利用率を報告する必要があります。
こうしたワークフロー全体でVeraが優位性を維持するなら、NVIDIAのアーキテクチャに関する主張は大幅に強まります。一方、選定されたベンチマーク以外ではリードが消えるなら、このホワイトペーパーは限定的な製品ポジショニングに近いものに見えるでしょう。
第三のシグナルは、AMD EPYC Veniceとの条件を揃えたVera比較です。Turinは現在利用可能ですが、VeniceはVeraの商用ライフサイクルの大部分で競合することになります。比較には、同一のコンパイラ、オペレーティングシステム、ワークロードのバージョン、電力上限、ノード構成を用いるべきです。
このテストでは、コア当たり、ソケット当たり、ラック当たりの結果を分けなければなりません。それらを一つの数値にまとめれば、この議論の発端となったフレーミングの問題を繰り返すことになります。
コア当たりのエージェントワークロードでVeniceが勝てば、NVIDIAの中心的な主張は弱まります。特により低いノード電力で、エンドツーエンドのレイテンシでVeraが勝てば、より少数の強力なコアと高帯域幅を優先するというNVIDIAの判断が裏付けられます。
インフラ購入者にとって、実務的な対応は明快です。両者が同じワークロードを実行するまでは、NVIDIAのVeraに関する主張とAMDの反論を別々の列に記録してください。各数値が測定値、推定値、提出値、あるいは独立レビュー済みのいずれであるかも記録します。
そのうえで、サービスに対応する単位を選びます。対話型エージェントプラットフォームでは、完了したエージェントステップ数とテールレイテンシを測定すべきです。クラウドフリートでは、ラック当たりの有効スループットを測定すべきです。ライセンス課金のデータベースでは、有償コア当たりの性能を測定すべきです。
AMDとNVIDIAのベンチマークを巡る争いは、すでに元のチャートよりも良い問いを生み出しています。Veraのコア当たりの優位性は独立レビューに耐えられるのか。その優位性は、エージェントの総合的な応答時間を短縮するのか。AMDのより高い密度は、同じ電力枠内でより多くの有用な処理を実現するのか。
ベンダーが選んだ比率ではなく、この三つの答えこそが、次のサーバー購入を決めるべきです。
