NVIDIA DGX Spark 64GB登場、128GBモデルは大幅値上げ

NVIDIAはNVIDIA DGX Spark 64GBを発表した。一方、従来の128GBシステムは約50％の値上げを受けている。

新構成はGB10 Grace Blackwellプロセッサ、NVIDIAのソフトウェアスタック、高速ネットワーキングを維持する。ただし、統合メモリは半減し、ローカルストレージも減少したと報じられている。

この変更は、NVIDIAのデスクトップAIシステムの意味合いを変える。DGX Sparkは当初、コンパクトなマシンでありながら非常に大きな統合メモリを提供することを約束していた。新たなエントリーモデルでは、その中核的なリソースがより限られる一方、従来の128GB版の発売時価格を上回る価格となっている。

NVIDIAによれば、64GBシステムは10月23日からAcer、ASUS、Dell、Gigabyte、HP、MSIを通じて提供される。同社はNVIDIAブランドの64GB Founders Editionを販売しない。

64GB版の発表詳細では、プライベート推論、永続的に稼働するAIエージェント、2ノードクラスタへの容易な移行を強調している。これらの用途は妥当だが、実用的なモデルやワークフローは容量制約によって左右される。

NVIDIA DGX Sparkの値上げが中心的な対立点を生んでいる。購入者は少ないメモリを受け入れるか、128GB版に大幅な上乗せ価格を支払うか、AMDやAppleシリコンを基盤とする競合システムを検討することになる。

NVIDIA DGX Spark 64GBはGB10を維持するが、メモリは半減

新システムはNVIDIAのコンピューティングプラットフォームを維持する一方、DGX Sparkを特に価値あるものにしていたリソースを削減している。

DGX Sparkは、Blackwell世代GPUと20コアArm CPUをGB10 Grace Blackwell Superchipに統合している。プロセッサ設計ではMediaTekがNVIDIAと協業した。

CPUとGPUは単一のコヒーレントなメモリプールを共有する。コヒーレントな統合メモリにより、両プロセッサはシステムメモリとグラフィックスメモリを別々に割り当てて維持することなく、同じデータにアクセスできる。

この構成はローカルAIで重要になる。大規模モデルでは、重み、実行時状態、プロンプト、生成データを、利用可能なメモリ内に収めなければならない。

従来のデスクトップGPUは、DGX Sparkよりはるかに少ない専用メモリしか搭載しないことが多い。開発者はシステムRAMを追加できるが、ディスクリートGPUはそれをローカルビデオメモリほど効率的には利用できない。

従来の128GBマシンは異なるバランスを提供していた。NVIDIAは、最大2,000億パラメータのモデルで推論を実行でき、最大700億パラメータのモデルをファインチューニングできるとしていた。

これらはベンダーが示す上限であり、すべてのモデルでの動作を保証するものではない。精度、量子化、コンテキスト長、キャッシュ要件、フレームワークのオーバーヘッドはいずれも実際のメモリ消費量を変える。

NVIDIA DGX Spark 64GBでは、NVIDIAが示す単一システムでのモデル上限が1,000億パラメータへ引き下げられる。特に圧縮された重みを使うモデルでは、なお大きな規模だ。

ただし、モデルを収められることと、快適に実行できることは同義ではない。ワークロードには、推論中に生成されるアテンションデータを保存するキー・バリューキャッシュのための領域も必要となる。

長いプロンプトほど多くのキャッシュを消費する。ユーザーやエージェントが複数になると、必要量はさらに増える。かろうじて読み込めるモデルでは、有用な作業のための余裕がほとんど残らない可能性がある。

NVIDIAは容量とともにメモリ帯域幅を削減してはいない。報道によれば、64GBシステムも毎秒273GBの帯域幅を維持する。

これは、メーカーがメモリインターフェースを狭めることなく、より低密度のLPDDR5Xパッケージを採用していることを示唆する。そのため、ワークロードが収まる場合には明白な帯域幅ペナルティを回避できるはずだ。

新マシンはDGX OS、CUDAライブラリ、PyTorchサポート、NVIDIAのエージェントツール、一般的な推論ランタイムも維持する。対応オプションにはOllama、llama.cpp、vLLM、LM Studioが含まれる。

ConnectX-7ネットワーキングもプラットフォームの一部として残る。その200Gbps接続により、2台のシステムは一般的なコンシューマー向けEthernetよりはるかに高速にデータを交換できる。

したがって64GB版は、同じ名称で販売される低速なプロセッサではない。既存プラットフォームを容量面で制約したバージョンだ。

この違いは、コンパクトなモデルを繰り返し実行する開発者に有利となる。一方、メモリ制約を避けるためにDGX Sparkを選んだ購入者には魅力が薄い。

システムメモリとともにストレージも減少したと報じられている。NVIDIAの公式発表は、パートナーごとの完全なストレージ仕様を示すよりも、メモリとクラスタリングに焦点を当てている。

購入前に、各メーカーの構成を確認すべきだ。パートナー専売であるため、ストレージ、ポート、サポート、保証条件はシステムごとに異なる可能性がある。

NVIDIAの最初のDGX Spark発表では、このマシンをパーソナルAIスーパーコンピュータとして位置付けていた。64GB版では、その約束がより限定的なローカルワークロードへと絞られる。

それでも有用であることに変わりはない。ただし、非常に大きなモデル開発環境を1台のデスクに置くという当初の提案とは異なる。

NVIDIA DGX Sparkの値上げが価値の論拠を書き換える

低容量モデルが存在するのは、従来システムが当初の市場ポジションを大きく超えたためだ。

DGX Sparkは、CES 2025で発表されたコンパクトなデスクトップシステム、Project Digitsとして始まった。初期の位置付けは、最終的に設定された価格より低い導入価格を示唆していた。

その後、128GB Founders Editionはより高い価格で発売された。NVIDIAは2026年中に、LPDDR5XメモリとNANDフラッシュの供給制約を理由として、その価格を再び引き上げた。

直近で報じられた価格改定では、128GBモデルは直前の定価からほぼ半額分値上がりした。発売当初の価格と比べると、約4分の3高い水準にある。

実際の取引価格は販売店や在庫状況によって異なり得る。しかし、NVIDIAの製品ラインと複数のパートナーシステムで、値上がりの方向性は明確だ。

当初の価格報道によれば、新しい64GB構成は現在、GB10へのより安価な入口として位置付けられている。

ただし、ここでの「より安価」は相対的な表現だ。削減版モデルの価格は、128GB Founders Editionの発売時価格より4分の1高いと報じられている。

この比較は逆転を浮き彫りにする。購入者は、安定した製品に対する通常の低メモリ版ディスカウントを受けているわけではない。

むしろ、昨年のフル容量モデルより高い導入コストで、半分のメモリを手にすることになる。128GB版は別の支出カテゴリーに移った。

NVIDIAは64GB版を手の届きやすい出発点として提示している。この説明が成り立つのは現在のGB10市場の中だけであり、製品の全履歴を通して見た場合ではない。

同社には、供給面で合理的な説明がある。LPDDR5Xパッケージはこうしたコンパクトなシステムにはんだ付けされており、大容量構成には多数の高密度コンポーネントが必要となる。

NANDストレージもコストに影響する。一般的なワークステーションとは異なり、DGX Sparkでは購入後により安価なメモリモジュールを取り付けることはできない。

コンポーネント価格だけですべての小売価格の変動を説明することはできない。メーカーのマージン、在庫タイミング、需要、流通チャネルでの入手性も表示価格に影響する。

NVIDIAは、どちらの容量についても部材表の内訳を公表していない。そのため購入者は、値上がりのうちどれほどがメモリに直接由来するのかを切り分けられない。

それでもメモリサプライヤーは逼迫した市場について言及している。Micronは、需要が2027年から2028年にかけても供給を上回り続けると警告している。

この見通しが重要なのは、AIインフラが複数のメモリカテゴリで製造能力を奪い合うためだ。サプライヤーがより高い収益をもたらす製品や顧客を優先するのは当然である。

コンパクトなAIシステムは難しい立場に置かれる。一般的なPCとの差別化には十分なメモリが必要だが、データセンターのような購買規模は持たない。

したがって、NVIDIA DGX Sparkの値上げは単なる一時的なキャンペーン終了以上の意味を持つ。製品を定義づけるコンポーネントへの圧力を反映している。

この圧力は購買判断も変える。複数のSparkを検討するチームは、今やワークステーション、レンタル型アクセラレータ、集中型推論サーバーと比較しなければならない。

クラウドコンピューティングは、持続的なワークロードでは依然として高価である。それでも、モデルや要件が拡大する直前に固定容量のシステムを購入するリスクは避けられる。

ローカルハードウェアは、プライバシー、予測可能な可用性、直接的な管理を提供する。その経済的優位性は、利用率、モデルの適合性、エネルギー、サポート、購入者の開発スケジュールに左右される。

遊休状態のワークステーションは経済性が低い。社内向けのコーディングまたはリサーチエージェントを24時間稼働させるSparkには、より強い導入根拠がある。

新しい価格構造により、ワークロードの定義が不可欠になった。購入者はもはや、積極的な発売時価格で非常に大きなメモリプールを提供するという点だけで、システムを正当化できない。

DGX Spark 64GB対128GBは、実際にはワークロードの判断である

適切な容量は、パラメータ数だけでなく、コンテキスト長、同時実行性、ファインチューニングの要件、モデル選択によって決まる。

NVIDIAは、小型のオープンモデルが価値あるローカル作業に十分な性能を備えるようになったと主張している。同社は260億から350億パラメータ規模のモデルを挙げている。

こうしたモデルは、コーディング、文書分析、リサーチ支援、その他のエージェントタスクを支援できる。量子化では、低精度で重みを保存することでメモリ使用量をさらに抑えられる。

同社によれば、1台の64GB Sparkで最大1,000億パラメータのモデルをサポートできる。この数値は、特定条件下での上限を示すものだ。

より小さいモデルの方が、より良い実用体験をもたらすことが多い。長いプロンプト、同時リクエスト、ツール、埋め込み、オペレーティングシステムのプロセスのためにメモリを残せるからだ。

継続的にコーディングエージェントを実行する開発者を考えてみよう。システムは、リポジトリをインデックス化し、ドキュメントを処理し、拡大していく会話を維持しながら、モデルを保持する必要がある。

64GBのプールでも、適切なモデルならそのワークフローを処理できる。ただし、開発者がコンテキスト長を拡大したり、複数のエージェントを起動したりすると制約が強まる。

文書分析でも同様の圧力が生じる。リサーチエージェントは、レポート、ノート、ソースファイルから数千トークンを処理する必要があるかもしれない。

モデルの重みは割り当ての一部にすぎない。推論エンジン、キャッシュ、文書処理ツール、アプリケーションサービスはすべてメモリを奪い合う。

画像生成やマルチモーダルのワークロードでは、さらに別の層が加わる。モデルはテキストエンコーダー、画像デコーダー、ビジョンコンポーネント、一時テンソルを組み合わせる場合がある。

ファインチューニングはさらに要求が厳しい。モデルのトレーニングや適応には、パラメータ、勾配、オプティマイザの状態、中間活性化のためのメモリが必要となる。

低ランク適応のような手法はこの負担を軽減する。しかし、チームがより大きなモデル、より長いシーケンス、より大きなバッチを望む場合には、特に負担を完全には取り除けない。

だからこそ、DGX Spark 64GB対128GBの選択は、NVIDIAが示す最大モデルのラベルだけに頼ることはできない。購入者には、導入予定ソフトウェアでの測定が必要だ。

128GB構成は、実験のための余地をより多く提供する。すぐにクラスタリングへ移行することなく、より大きなモデル、より広いコンテキストウィンドウ、同時ワークロードを収容できる。

容量は運用上の摩擦も減らす。開発者は量子化レベルの変更、サービスのアンロード、マシン間での作業分割に費やす時間を減らせる。

64GBシステムは、より管理された環境に適している。既知のモデルを標準化し、その実行時フットプリントを理解しているチーム向けだ。

推論専用のデプロイメントは特に適している可能性がある。チームがモデルを選択して検証すれば、予測可能なトラフィックに合わせてサービングスタックを最適化できる。

ファインチューニングを行うチームは、より難しい判断に直面する。64GBは、従来のSparkの一般的な代替品ではなく、検証すべき制約として扱うべきだ。

NVIDIAのアプリケーション例には、コーディングエージェント、リサーチエージェント、画像生成、リモートモデル提供が含まれる。これらはカテゴリーであり、標準化されたワークロードではない。

小規模なリポジトリを読むコーディングエージェントと、数百万行を分析するエージェントでは要件が異なる。単一ユーザー向けのリサーチアシスタントと、部門で共有するサービスも同様だ。

重要なのは、64GBでローカルAIを動かせるかどうかではない。動かせることは明らかだ。

問うべきなのは、対象となるワークロード全体を、将来の拡張に十分な余力を残して実行できるかどうかである。その答えには、実際のモデルとデータによる検証が必要になる。

チームは、ピーク時のメモリ使用量、プロンプト処理速度、生成速度、同時リクエスト時の挙動を記録すべきだ。また、現実的に想定される最長コンテキストもテストする必要がある。

ソフトウェア互換性はNVIDIAの立場を強める。CUDAは多くのAIライブラリで依然として優先されるプラットフォームであり、開発者は新しいツールをまずNVIDIA向けに最適化することが多い。

この優位性は、メモリ容量の少なさや取得コストの高さを補える場合がある。競合システムで未対応のカーネルや手作業の修正が必要になる場合、その重要性は特に大きい。

ただし、CUDA互換性によって不足した容量を生み出すことはできない。ワークロードが物理メモリを超えれば、購入者はより小さいモデルを使うか、ワークロードを分散するか、別のシステムを選ぶ必要がある。

NVIDIA、小型システム2台をアップグレード経路に位置付ける

クラスタリングは演算能力とプールされたメモリを増やすが、128GBの単一マシンをより低コストで再現するものではない。

すべてのDGX SparkにはConnectX-7ネットワークインターフェースが搭載されている。2台のシステムをQSFPケーブルで直接接続し、高速クラスタを構成できる。

NVIDIA Sync Cluster Assistantはマシンを検出し、構成を検証して、ConnectX-7接続を準備する。これにより、手作業によるネットワーク設定の工程がいくつか省かれる。

今後提供予定のModel Launcherは、対応モデルを1台または2台のノードに展開する作業を簡素化する。NVIDIAによると、Qwen3.8 27Bは初期対応モデルの一つになる。

こうしたソフトウェアの取り組みは、実在する弱点に対処するものだ。従来、分散ローカル推論にはコマンドラインでの設定や、vLLMまたはTensorRT-LLMの起動設定の変更が必要だった。

NVIDIAによると、64GBシステム2台はメモリをプールし、最大2000億パラメータのモデルをサポートできる。また、合計メモリ帯域幅は2倍になる。

NVIDIAによるQwen3.8 27Bのテストでは、2ノードクラスタは64GBシステム1台の最大1.7倍の性能を示した。

この結果はベンダー自身が作成したものであり、広範な独立検証はまだ行われていない。普遍的なスケーリング比率と解釈すべきではない。

分散性能は、ワークロードがノード間でどれほど頻繁にデータを移動させるかに左右される。インターコネクトが高速でも、ネットワーク転送はレイテンシーを加える。

一部のモデルは2つのプロセッサにきれいに分割できる。一方で、同期、通信、ソフトウェアオーバーヘッドによる性能低下がより大きいモデルもある。

クラスタは演算能力、ストレージ、ネットワーク機器、物理システムも2倍にする。単に2つのメモリバンクを結合する方法ではない。

この設計はスループットの面で価値がある。チームはより多くのリクエストを処理したり、複数のエージェントを実行したり、各デバイスに別々のタスクを割り当てたりできる。

ただし、64GBシステムを2台購入する費用は、新価格の128GBシステム1台を購入するより大幅に高い。クラスタは追加の演算能力を提供するが、同等の容量を低コストで得る手段ではない。

このアップグレード提案が最も強くなるのは、需要が段階的に伸びる場合だ。開発者は1ノードから始め、需要を確認してから、元のマシンを置き換えずにもう1台を追加できる。

一方、ワークロードがすでに64GBを超える場合には説得力が弱い。この購入者は、フル容量モデルを避けるために、即時の複雑化とより高い総支出を受け入れることになる。

消費電力と管理負荷もノード数に応じて増える。チームは2つのオペレーティングシステム、2台のストレージデバイス、ネットワークの健全性、分散ソフトウェアの挙動を監視しなければならない。

NVIDIA Syncはセットアップ作業を減らす。しかし、1台のコンピューターとクラスタの運用上の違いをなくすものではない。

同社によると、アプリケーションは通常のノートPCやデスクトップからクラスタ化されたモデルにアクセスできる。これにより、チーム向けの小規模な共有推論アプライアンスが実現する。

1つのノードでプライベートなコーディングモデルをホストし、従業員はブラウザや使い慣れた開発ツールを利用できる。機密データは組織のネットワーク内にとどめられる。

このシナリオは、DGX Sparkが単なる高級ミニPCではない理由を示している。NVIDIAはデータセンター向けのソフトウェア、ネットワーキング、デプロイメントパターンを、より小規模な環境向けにパッケージ化している。

このアプローチはNVIDIAのプラットフォーム戦略も守る。2台目のSparkを追加する顧客は、DGX OS、CUDA、ConnectX、NVIDIAの管理ツールへの依存を高める。

したがって、NVIDIA DGX Spark 64GBは製品であると同時に拡張ユニットでもある。その長期的な価値は、演出されたデモ以外の環境でクラスタがどれほどうまく動作するかに左右される。

独立したテストでは、2台のマシンにわたり、最初のトークンまでのレイテンシー、持続的な生成性能、同時ユーザー数、消費電力、障害復旧を測定すべきだ。

そうしたテストが出そろうまで、NVIDIAの1.7倍という結果は、すべてのモデルで期待できる成果ではなく、有用な上限値とみなすべきである。

AMDとApple、NVIDIAのメモリに関するトレードオフに圧力をかける

NVIDIAはCUDA統合とAIネットワーキングで優位に立つ一方、競合各社はより大きなメモリ容量や、より幅広いデスクトップの柔軟性を提供できる。

AMDはRyzen AI Haloシステムを通じて、コンパクトなローカルAIへの対応を拡大している。これらのマシンは統合メモリと統合Radeonグラフィックスを使用する。

2026年に発表されたAMDの開発者向けシステムには、128GBのLPDDR5XメモリとLinuxまたはWindowsのサポートが含まれていた。当初の位置付けでは、NVIDIAの先行Spark価格を下回っていた。

AMD system comparisonは、この選択を示している。AMDは使い慣れたPCの柔軟性を提供する一方、NVIDIAはより確立されたAIソフトウェア環境を提供する。

複数メーカーのRyzen AI Maxシステムも、ローカルモデルの利用者を対象としている。一部は128GB構成、標準的なPC機能、交換可能なストレージを提供する。

より大容量のAMDプラットフォームは、この競争をさらに広げる。AI性能やソフトウェアの利便性をある程度犠牲にしても、大きなメモリプールを優先したいユーザーに対応できる。

メモリ容量だけで比較は決まらない。レビューでは、GPUベースのAI作業において、GB10が同世代の統合Radeon代替製品より高速であることが多く示されている。

CUDAも別の利点である。多くのフレームワーク、モデルパッケージ、最適化プロジェクトは、同等のAMD対応が成熟する前にNVIDIA対応を公開する。

特定のCUDA依存ライブラリを必要とする開発者には、実用的な代替手段がない場合がある。必要なソフトウェアが正しく動作しなければ、ハードウェア費用を抑えてもほとんど価値はない。

別のユーザー層にとっては、AMDのWindows対応が同じくらい重要になる可能性がある。クリエイティブワーカーや開発者は、専用Linuxアプライアンスを維持せずにローカルAIを使いたいかもしれない。

Appleは3つ目の選択肢を提供する。Mac Studioシステムは、大容量メモリ、効率的なプロセッサ、成熟したデスクトップOSを組み合わせている。

Appleの統合メモリにより、大規模モデルを、ディスクリートGPUで一般的なビデオメモリの上限に縛られずに読み込める。MLXのようなツールはApple siliconを直接ターゲットにしている。

ただし、ソフトウェアの可用性とモデル性能は異なる。CUDA中心のワークフローがAppleのMetalやMLX環境に自動的に移行するわけではない。

Macシステムには、DGX Sparkに組み込まれたConnectX-7ファブリックもない。NVIDIAの直接的な2ノード・ローカル推論経路を前提に設計されてはいない。

したがって、競争上の判断には複数の側面がある。

メモリ容量

• NVIDIA 64GBシステム: 明確に定義されたモデルと、制御された推論ワークロードにより適している。

• NVIDIA 128GBシステム: より大きな余力があるが、今回の値上げにより本来の価値は弱まった。

• AMDおよびAppleシステム: 一部の構成では、異なる性能とソフトウェア上のトレードオフと引き換えに、より大きなメモリプールを提供できる。

ソフトウェア互換性

• NVIDIA: 幅広いCUDA対応と、事前構成済みのAIスタック。

• AMD: 改善が進むROCm対応に加え、従来型のWindowsおよびLinuxオプション。

• Apple: 強力なネイティブアプリケーションとMLXツール群。ただしCUDA互換性は限定的。

拡張戦略

• NVIDIA: 支援付き構成による直接的なConnectX-7クラスタリング。

• AMD: より従来型のワークステーションおよびネットワーク展開の選択肢。

• Apple: 高い単体システム容量。ただし同等のSparkクラスタリング設計はない。

汎用コンピューティング

• NVIDIA: DGX OSはシステムをAI開発と推論に集中させる。

• AMD: 標準的なハイエンドPCに近い形で機能する。

• Apple: ローカルAIと、確立されたクリエイティブ・生産性プラットフォームを組み合わせる。

したがって、DGX Spark 64GBと128GBの選択には代替製品も含める必要がある。購入者は、GB10がプライベートなローカルモデルへの唯一の道だと考えるべきではない。

NVIDIAの最も強い防御策は統合性である。シリコン、CUDA、最適化されたランタイム、ネットワーキング、システム管理を、1つのサポートされた設計にまとめている。

その弱点はメモリの価値にある。購入者が主に容量を必要としているなら、競合他社はGB10の性能結果をすべて再現せずともNVIDIAに挑戦できる。

最新の価格設定は、その余地を広げる。代替システムが必要なモデルを1台に収められるなら、購入者は推論速度の低下を許容できる。

逆に、CUDAでより高速に動作する小型モデルは、より大きくても低速なデプロイメントを日常利用で上回る可能性がある。勝者は実際のワークロードで決めるべきだ。

64GB版の発売後に購入者が注目すべき点

小型Sparkが実用的なプラットフォームになるのか、それともメモリ不足に対する高価な対応策にとどまるのかを示すシグナルは3つある。

1つ目のシグナルは、10月23日以降のパートナー製品の提供状況だ。NVIDIAは6社のメーカーを挙げているが、正確な構成と出荷量が重要になる。

名目上の開始構成は、入手できなければほとんど価値がない。購入者は、発表ページや入荷待ちのリストではなく、実際に納入されたシステムを追跡すべきだ。

パートナーの仕様も慎重に比較する必要がある。ストレージ容量、ポート構成、地域での提供状況、保証サービス、付属ソフトウェアは、実際の価値を変えうる。

複数のメーカーが信頼できる在庫を維持できれば、64GB版の発売は、NVIDIAが実用的なエントリーポイントを生み出したという主張を強める。

在庫不足が続けば、この製品は広く利用できる開発マシンというより、価格の基準点のように見えるだろう。

2つ目のシグナルは、独立したワークロードテストである。レビューでは、64GB Spark 1台、128GB Spark 1台、64GBの2ノードクラスタを比較すべきだ。

モデルの読み込みだけでは不十分である。テストには長いコンテキスト、同時ユーザー、エージェントのツール呼び出し、ファインチューニングのワークロード、持続的な運用を含める必要がある。

最も重要な測定項目には、使用可能メモリ、最初のトークンまでの時間、出力速度、エネルギー消費、クラスタのスケーリング効率が含まれる。

NVIDIAの最大パラメータ数には、特に厳しい検証が必要だ。技術的には収まるモデルでも、実用的でない体験にとどまる可能性がある。

独立テストでは、帯域幅が変わらないことで、単一ノードの性能の大半が維持されるかどうかも明らかにできる。容量に制約されるワークロードと帯域幅に制約されるワークロードでは、挙動が異なるはずだ。

より小型のマシンが、人気の270億～350億パラメータモデルで予測可能な性能を発揮すれば、NVIDIAの位置付けは支持を得るだろう。

通常のコンテキストや同時エージェントでメモリが尽きるなら、64GB版はマーケティングが示唆するよりもはるかに狭い層向けの製品になる。

3つ目のシグナルは競合の反応だ。AMDのシステムビルダーとAppleは、メモリ容量、ソフトウェアサポート、または総所有コストの低さを通じてNVIDIAに圧力をかけられる。

AMDには、ROCm互換性を改善し、WindowsベースのローカルAIを推進する余地がある。モデルランナーからのサポートが向上すれば、CUDAの実用上の囲い込みは弱まる。

Appleは、大容量の統合メモリ構成と効率的なローカル推論を強調できる。その機会が最も大きいのは、すでにmacOSを使っている開発者の間だ。

NVIDIAは、さらなるハードウェア変更ではなく、より優れたソフトウェアで対応できる。Sync Cluster AssistantとModel Launcherは、その戦略の初期例である。

どのモデルにワンクリックのデプロイプロファイルが提供されるかにも注目したい。また、開発者が複雑な手動設定に戻ることなく、それらのプロファイルをカスタマイズできるかどうかも重要だ。

メモリ市場は引き続き外部要因となる。供給不足が続けば、高価格が常態化し、メーカーがより小規模な構成を優先する動きにつながるだろう。

供給の改善は、最近の値上がりが一時的なものかどうかを試すことになる。また、NVIDIAに対してエントリークラスでより多くのメモリを提供するよう求める圧力が再び強まる可能性もある。

エンタープライズの購入担当者にとって、当面の対応は明快だ。マシンを選ぶ前に、ワークロードを定義することである。

想定するモデル、コンテキスト長、ユーザー数、ファインチューニング手法を検証する。フレームワーク互換性と運用コストも比較に含めるべきだ。

NVIDIA DGX Spark 64GBは、同じGB10基盤を採用しつつ、メモリ上限をより厳しく設定している。用途を絞った推論やエージェントのデプロイには適している可能性がある。

ただし、オリジナルの128GBシステムを万能に置き換える製品と見なすべきではない。128GBモデルは依然として柔軟性が高いが、その高価格を正当化するには、より高い稼働率が求められる。

ワークロードにとってより有益なのは、CUDAの性能とNVIDIAのマネージドスタックだろうか。それとも、1台のシステムで提供できる最大級のメモリプールだろうか。どちらのSpark構成に投資する場合も、まずその検証を行うべきだ。