Nvidia DGX Spark vs AMD Strix Halo: 128GBローカルAI対決
- Aisha Washington
- 6月6日
- 読了時間: 9分
更新日：6月17日
2025年末までに、ローカルで大規模パラメータモデルを実行するための参入障壁が変わりました。私たちはもはやゲーミングカードのVRAM容量だけを見ているわけではありません。データセンター仕様をデスクにもたらすユニファイドメモリアーキテクチャを見ています。市場はついに、産業用クラスターの5桁の価格タグなしで128GBの高速メモリへの2つの明確な道を提供してくれました： the Nvidia DGX Spark and the AMD Strix Halo.
どちらを選ぶかは、ブランドへの忠誠心の問題ではありません。それは、根本的に異なる2つの哲学を理解することです。一方は、Grace Blackwellアーキテクチャを1リットルのボックスに収めるために設計された特殊なアプライアンスです。もう一方は、ハイエンドデスクトップとAIワークステーションの境界線を曖昧にする、ブルートフォースAPUです。AIワークステーション。
この分析では、早期採用者が直面している当面の障害点から始めて、両者の実際の有用性を分解します。
重要なユーザーエクスペリエンス：Nvidia DGX SparkとAMD Strix Haloの癖を修正する
生の処理能力を見る前に、これらのマシンを実際に使用するのがどのようなものかを知る必要があります。どちらのデバイスにも、対処法を知らないと体験を台無しにする可能性のある特有の動作があります。
Nvidia DGX Spark のロード時間の遅延を解決する (mmap の修正)
開梱するとNvidia DGX Spark環境をインストールします、remioのようなモデルをllama.cpp経由でロードしようとすると、ユニットが故障していると思うかもしれません。初期ロード時間は1分半（約100秒）以上かかることがあります。GB10 Grace Blackwellスーパーチップ搭載デバイスとしては、これは遅く感じられます。
コミュニティはこの原因を特定しました。それはメモリマッピング（mmap）です。多くの推論エンジンのデフォルトの動作は、Sparkがユニファイドメモリプールを処理する方法と衝突します。
解決策:llama.cppの起動引数でmmapを無効にする必要があります。
このフラグをオフにすることで、ユーザーはロード時間が100秒から約22秒に短縮されたと報告しています。この簡単な調整により、Sparkは競合他社と同等か、それ以上に高速になります。さらに、mmapを無効にすることで、プロンプト処理速度とトークン生成の安定性が向上するようです。このボックスを所有している場合、これはオプションではなく、必須の設定手順です。
AMD Strix Halo の最適化とハードウェアの制約
、AMD Strix Halo（特に Ryzen AI Max+ 395 バリアント）は、Windows や標準的な Linux ディストリビューションに慣れているユーザーにとって、よりスムーズなソフトウェアのオンボーディングを提供しますが、独自の物理的およびソフトウェア上の注意点があります。
ソフトウェア面では、ROCm は成熟しましたが、推論用の標準バックエンドではパフォーマンスが低下する可能性があります。llama.cpp で純粋な推論タスクを実行する場合、Vulkan バックエンドに切り替えることで、Strix Halo アーキテクチャのデフォルト構成と比較して測定可能な向上が見られました。
ハードウェアのメンテナンスは、AMD Strix Haloremio の競合製品と比較して際立っています。HP Z2 Mini G1a のようなユニットは、工具不要のアクセス機構を備えています。ケースをスライドさせて開くだけで、標準的な 2280 NVMe ドライブを数秒で交換できます。
contrast this with the Nvidia DGX Spark。Spark の工業デザインは、残念ながらミニマルすぎます。電源 LED やネットワーク ポートのアクティビティ ライトすらありません。電源が入っているかどうかを確認するために、デバイスを ping する必要があることがよくあります。さらに悪いことに、内部ストレージ スロットは M.2 2242 フォーム ファクターを使用しています。これは、普及している 2280 よりも短く、まれな規格です。2242 サイズで高性能な 4TB または 8TB SSD を見つけるのは困難で高価です。Spark に大規模なデータセットを保存する予定がある場合は、外部ネットワーク ストレージに依存するか、まれなドライブを探す準備をしてください。
パフォーマンスの詳細: Nvidia DGX Spark の機能
The Nvidia DGX Sparkは、実質的に「箱に入ったAIラボ」です。価格は3,999ドルと高めですが、その価格には他では見られない特定の機能が含まれています。
Nvidia DGX Spark イメージ生成とINT4パワー
どちらのマシンも大規模言語モデル（LLM）を効率的に処理しますが、「Nvidia DGX Spark 画像生成において競合を圧倒します。FLUX.1 Dev (BF16) を実行するテストでは、Spark は約 120 TFLOPS を処理します。
比較のために言うと、Spark は、同様のワークロードで約 46 TFLOPS を処理する remio AMD Strix Halo よりも約 2.5 倍速く画像を生成します。ワークフローに重度の拡散モデルの使用が含まれる場合、Spark はその価格プレミアムをすぐに正当化します。
このアーキテクチャは、ネイティブNVFP4（4ビット浮動小数点）もサポートしています。SparkのINT4の理論上のスループットは112 TOPSと膨大で、Haloの約9倍を凌駕します。しかし、これは現在「可能性」であって「現実」ではありません。エンタープライズグレードのNvidiaツール以外のソフトウェアエコシステムは、コンシューマーがアクセス可能なローダーでこの精度を効果的に活用するまでには、まだ追いついていません。Sparkは、CUDA 13で現在できることのために購入するのであり、将来のソフトウェアがそのINT4のヘッドルームを解放してくれるという期待も込めて購入するのです。
もう一つの際立った特徴はネットワーキングです。SparkにはConnectX-7 200GbEカードが搭載されています。単一ユーザーにとってはオーバースペックです。しかし、3〜4台のユニットをクラスター化して400Bパラメータモデルを実行したい小規模なラボにとっては、このインターコネクトは非常に価値があります。
汎用性の王：AMD Strix Halo分析
AMD Strix Haloは、2,300ドルから2,500ドルの間で、大幅に安価です。サーバーノードであろうとはせず、究極のワークステーションであろうとしています。
AMD Strix Halo CPUパフォーマンスと日常的な使いやすさ
AMD Strix Haloは16コアのZen 5 CPUコアを活用しています。一般的なコンピューティングタスク、コンパイル、データ前処理において、SparkのARMコアを大幅に上回ります。
Linpackのようなハイパフォーマンスコンピューティングベンチマークでは、Strix Haloは倍精度演算で1.6 TFLOPSを達成し、Sparkの708 GFLOPSを2倍以上に引き上げます。AIワークフローでCPU側の前処理が多用される場合や、単に強力なLinux開発デスクトップとしてもマシンを使用したい場合は、Strix Haloが論理的な選択肢となります。
LLMトークン生成に関しては、驚くほど接戦です。LLM推論は純粋な計算能力よりもメモリ帯域幅に制約されることが多いため、Haloの128GB LPDDR5X-8000（約256 GB/s）はSpark（約273 GB/s）に追いついています。多くのテキスト生成シナリオでは、その差は無視できるほどです。
Strix Haloはシームレスな移行パスを表します。データセンターで見られるものと同じROCmおよびHIPスタックを使用しているため、ここで開発されたコードは簡単にスケールアップできますが、マシン自体は標準的なハイパワーPCのように感じられます。
なぜRTX 5090はこの議論に当てはまらないのか
必然的に、「なぜRTX 5090を買わないのか？」という疑問が生じます。
標準的なRTX 5090は生の計算能力の塊であり、Nvidia DGX SparkとAMD Strix Haloの両方をはるかに凌駕しています。 FLOPS/ドルあたり。 しかし、32GBのVRAMという厳しい壁にぶつかります。
ローカルLLMの世界では、メモリは酸素のようなものです。70Bパラメータモデルを高精度で、または120Bモデルを妥当な量子化で、32GBのビデオメモリにロードすることはできません。5090は小規模モデルでは高速ですが、大規模モデルでは完全に失敗します。
エンジニアリングラボでは、「128GB RTX 5090」カードの噂やプロトタイプが出回っており、一部は13,000ドルをはるかに超える価格で販売されています。これらはコンシューマー向け製品ではありません。今日128GBのメモリを必要とするユーザーにとって、GPUルートでは複数のカードと複雑なPCIeレーン管理が必要になります。SparkとHaloは、その容量を単一の、一貫したメモリブロックで提供します。
最終評価：128GBワークステーションの選択
以下の場合は、Nvidia DGX Spark を選択してください。Nvidia DGX Sparkの場合:
NVFP4 リサーチまたはエンタープライズ CUDA 検証用の専用アプライアンスが必要な場合。
画像生成 (Flux, Stable Diffusion) を多用するワークフローの場合。
200GbE 接続を使用して複数のユニットをクラスター化する予定の場合。
「ヘッドレスサーバー」エクスペリエンスと Linux 管理に慣れている場合。
以下の場合は、AMD Strix Halo を選択してください:
ドルあたりの最高の価値 (Spark の半額近く) を求めている場合。
コードのコンパイルとテキスト生成の両方をこなせる、汎用性の高いデイリードライバーが必要な場合。
標準的なSSDにより、ハードウェアのアップグレードが容易であることを優先します。
主な焦点はLLMテキスト推論であり、Sparkの有用性と一致します。
どちらのマシンも、2025年が128GBローカルAIが利用可能になった年であることを証明しています。グリーンチームの洗練されたアプライアンスを選択するにしても、レッドチームのパワフルなAPUを選択するにしても、メモリ不足の日々は終わりました。
よくある質問
Q: Nvidia DGX Sparkでゲームをプレイできますか？
A: いいえ、Sparkは厳密にはAIアプライアンスです。DisplayPort（HDMIのみ）のようなディスプレイ出力がなく、ARMベースのアーキテクチャとデータセンターGPUドライバーの組み合わせにより、標準的なPCゲームには適していません。
Q: Nvidia DGX SparkのSSDはアップグレード可能ですか？
A: はい、ただし困難です。ユニットを底面から分解し、ほとんどのPCで使用されている標準の2280ドライブよりも希少で高価なことが多いM.2 2242フォームファクタのSSDを見つける必要があります。
Q: AMD Strix HaloはWindowsをサポートしていますか？
A: はい、Strix Haloはx86ベースであり、Windows 11をネイティブでサポートしています。 ただし、AIパフォーマンスを最大化し、ROCmスタック全体にアクセスするには、一般的にLinux環境が推奨されます。
Q: Nvidia DGX Sparkは負荷時にどのくらいの大きさですか？
A: ファンのノイズは聞こえ、コンパクトな1リットルのサイズのため、金属シャーシはかなり熱くなります。 一部の高回転ミニPCよりは静かですが静寂ではなく、騒音に敏感な場合は、作業スペースから離れた場所に置くのが最適です。
Q: これらのデバイスでLLMの主なボトルネックは何ですか？
A: メモリ帯域幅が主なボトルネックです。128GBの容量があっても、メモリからコンピューティングコアへのデータの移動速度（帯域幅）がトークン/秒を制限するため、Sparkはコンピューティング能力で優位性があるにもかかわらず、Haloとテキスト生成のパフォーマンスは同等になります。
