Nvidia DGX Spark vs AMD Strix Halo : le duel de l’IA locale avec 128 Go
Fin 2025, la barrière à l’entrée pour exécuter localement des modèles comptant un nombre massif de paramètres a évolué. Nous ne regardons plus seulement la capacité de VRAM des cartes de jeu ; nous regardons des architectures à mémoire unifiée qui apportent des spécifications de centre de données sur le bureau. Le marché nous a enfin offert deux voies distinctes vers 128 Go de mémoire haute vitesse sans le prix à cinq chiffres des clusters industriels : le Nvidia DGX Spark et l’AMD Strix Halo.
Le choix entre les deux ne relève pas de la fidélité à une marque. Il s’agit de comprendre deux philosophies fondamentalement différentes. L’une est une appliance spécialisée conçue pour faire entrer l’architecture Grace Blackwell dans un boîtier de 1 litre. L’autre est une APU brute qui brouille la frontière entre un ordinateur de bureau haut de gamme et une station de travail IA.
Cette analyse décompose l’utilité réelle des deux, en commençant par les points de friction immédiats auxquels les premiers utilisateurs sont confrontés.
Expérience utilisateur critique : corriger les particularités des Nvidia DGX Spark et AMD Strix Halo
Avant d’examiner le débit brut, vous devez savoir ce que représente réellement l’utilisation quotidienne de ces machines. Les deux appareils présentent des comportements particuliers qui peuvent ruiner l’expérience si vous ne savez pas comment les gérer.
Résoudre les temps de chargement lents du Nvidia DGX Spark (le correctif mmap)
Si vous déballez un Nvidia DGX Spark, installez votre environnement, et essayez de charger un modèle tel que gpt-oss-120b via llama.cpp, vous pourriez penser que l’appareil est défectueux. Les temps de chargement initiaux peuvent s’étirer sur plus d’une minute et demie (environ 100 secondes). Pour un appareil alimenté par la superpuce GB10 Grace Blackwell, cela semble lent.
La communauté a identifié le coupable : le mappage mémoire (mmap). Le comportement par défaut de nombreux moteurs d’inférence entre en conflit avec la façon dont le Spark gère son pool de mémoire unifiée.
La solution : Vous devez désactiver mmap dans vos arguments de lancement llama.cpp.
En désactivant ce drapeau, les utilisateurs rapportent que les temps de chargement passent de 100 secondes à environ 22 secondes. Ce simple ajustement met le Spark au niveau de ses concurrents, voire le rend plus rapide. De plus, la désactivation de mmap semble améliorer la vitesse de traitement des prompts et la stabilité de génération des tokens. Si vous possédez ce boîtier, ce n’est pas facultatif ; c’est une étape de configuration obligatoire.
Optimisation et contraintes matérielles de l’AMD Strix Halo
L’AMD Strix Halo (en particulier les variantes Ryzen AI Max+ 395) offre une prise en main logicielle plus fluide pour les personnes habituées à Windows ou aux distributions Linux standard, mais il comporte ses propres réserves matérielles et logicielles.
Côté logiciel, bien que ROCm ait mûri, les backends d’inférence standard peuvent laisser des performances inexploitées. Pour les tâches d’inférence pure dans llama.cpp, passer au backend Vulkan a montré des gains mesurables par rapport aux configurations par défaut sur l’architecture Strix Halo.
C’est au niveau de la maintenance matérielle que l’AMD Strix Halo brille par rapport à son rival de l’équipe verte. Des unités telles que le HP Z2 Mini G1a disposent de mécanismes d’accès sans outils. Vous pouvez faire coulisser le boîtier et remplacer des disques NVMe 2280 standard en quelques secondes.
Comparez cela au Nvidia DGX Spark. Le design industriel du Spark est frustrant de minimalisme. Il n’a pas de LED d’alimentation ni même de voyant d’activité pour le port réseau. Vous devez souvent envoyer un ping à l’appareil simplement pour voir s’il est allumé. Pire encore, l’emplacement de stockage interne utilise le format M.2 2242 — une norme plus courte et plus rare que l’omniprésent 2280. Trouver un SSD haute performance de 4 To ou 8 To au format 2242 est difficile et coûteux. Si vous prévoyez de stocker des jeux de données massifs sur le Spark, préparez-vous à dépendre d’un stockage réseau externe ou à chercher des disques rares.
Analyse approfondie des performances : capacités du Nvidia DGX Spark
Le Nvidia DGX Spark est essentiellement un « laboratoire d’IA dans une boîte ». Son prix est plus élevé, autour de 3 999 $, mais ce coût comprend des capacités spécifiques que vous ne trouverez nulle part ailleurs.
Génération d’images et puissance INT4 du Nvidia DGX Spark
Bien que les deux machines gèrent correctement les grands modèles de langage (LLM), le Nvidia DGX Spark écrase la concurrence en génération d’images. Lors de tests exécutant FLUX.1 Dev (BF16), le Spark atteint environ 120 TFLOPS.
Pour mettre cela en perspective, le Spark génère des images environ 2,5 fois plus vite que l’AMD Strix Halo, qui atteint environ 46 TFLOPS dans des charges de travail similaires. Si votre flux de travail implique une utilisation intensive de modèles de diffusion, le Spark justifie immédiatement son surcoût.
L’architecture prend également en charge le NVFP4 natif (virgule flottante 4 bits). Le débit théorique pour l’INT4 sur le Spark est massif — 112 TOPS — éclipsant le Halo d’un facteur de près de 9x. Cependant, il s’agit actuellement d’un « potentiel » plutôt que d’une « réalité ». L’écosystème logiciel en dehors des outils Nvidia de niveau entreprise n’a pas encore totalement rattrapé son retard pour utiliser efficacement cette précision dans des chargeurs accessibles aux consommateurs. Vous achetez le Spark pour ce qu’il fait aujourd’hui avec CUDA 13, tout en pariant également que les futurs logiciels libéreront cette marge INT4.
Une autre fonctionnalité remarquable est le réseau. Le Spark inclut une carte ConnectX-7 200GbE. Pour un utilisateur unique, c’est excessif. Mais pour un petit laboratoire souhaitant regrouper trois ou quatre unités afin d’exécuter un modèle de 400 milliards de paramètres, cette interconnexion est inestimable.
Le roi généraliste : analyse de l’AMD Strix Halo
L’AMD Strix Halo est nettement moins cher, se situant entre 2 300 $ et 2 500 $. Il n’essaie pas d’être un nœud serveur ; il essaie d’être la station de travail ultime.
Performances CPU et facilité d’utilisation quotidienne de l’AMD Strix Halo
L’AMD Strix Halo exploite 16 cœurs CPU Zen 5. Dans les tâches de calcul général, la compilation et le prétraitement des données, il surpasse considérablement les cœurs ARM du Spark.
Dans les benchmarks de calcul haute performance comme Linpack, le Strix Halo fournit 1,6 TFLOPS de performances en double précision, soit plus du double des 708 GFLOPS du Spark. Si votre flux de travail IA implique un prétraitement intensif côté CPU ou si vous avez simplement besoin que la machine fasse également office de puissant bureau de développement Linux, le Strix Halo est le choix logique.
En ce qui concerne la génération de tokens par les LLM, la bataille est étonnamment serrée. Comme l’inférence des LLM est souvent limitée par la bande passante mémoire plutôt que par la puissance de calcul pure, les 128 Go de LPDDR5X-8000 du Halo (environ 256 Go/s) suivent le rythme du Spark (environ 273 Go/s). Dans de nombreux scénarios de génération de texte, la différence est négligeable.
Le Strix Halo représente une voie de migration fluide. Parce qu’il utilise la même pile ROCm et HIP que celle présente dans les centres de données, le code développé ici passe facilement à l’échelle, mais la machine elle-même ressemble à un PC standard et puissant.
Pourquoi la RTX 5090 ne s’inscrit pas dans cette discussion
Inévitablement, la question se pose : « Pourquoi ne pas simplement acheter une RTX 5090 ? »
La RTX 5090 standard est une bête de puissance de calcul brute, dépassant largement à la fois le Nvidia DGX Spark et AMD Strix Halo en termes de FLOPS par dollar. Cependant, il se heurte à une limite stricte : 32 Go de VRAM.
Dans le monde des LLM locaux, la mémoire est de l’oxygène. Vous ne pouvez tout simplement pas charger un modèle de 70B paramètres en haute précision, ni un modèle de 120B avec une quantification raisonnable, dans 32 Go de mémoire vidéo. La 5090 est plus rapide pour les petits modèles, mais elle échoue complètement pour les grands.
Des rumeurs et des prototypes de cartes « 128GB RTX 5090 » circulent dans les laboratoires d’ingénierie, certaines étant proposées à des prix exorbitants dépassant 13 000 $. Ce ne sont pas des produits grand public. Pour l’utilisateur qui a besoin de 128 Go de mémoire aujourd’hui, la voie GPU exige plusieurs cartes et une gestion complexe des lignes PCIe. Le Spark et le Halo offrent cette capacité dans un seul bloc de mémoire cohérent.
Verdict final : choisir votre station de travail 128 Go
Le choix entre le Nvidia DGX Spark et l’AMD Strix Halo dépend de votre pipeline de travail spécifique.
Choisissez le Nvidia DGX Spark si :
Vous avez besoin d’un appareil dédié à la recherche NVFP4 ou à la vérification CUDA en entreprise.
Votre flux de travail repose fortement sur la génération d’images (Flux, Stable Diffusion).
Vous prévoyez de mettre en cluster plusieurs unités à l’aide de la connexion 200GbE.
Vous êtes à l’aise avec une expérience de « serveur sans écran » et l’administration Linux.
Choisissez l’AMD Strix Halo si :
Vous voulez le meilleur rapport qualité-prix (près de la moitié du prix du Spark).
Vous avez besoin d’une machine polyvalente au quotidien qui compile du code aussi bien qu’elle génère du texte.
Vous privilégiez des mises à niveau matérielles faciles (SSD standard).
Votre priorité est l’inférence de texte par LLM, pour laquelle il égale l’utilité du Spark.
Les deux machines prouvent que 2025 est l’année où l’IA locale avec 128 Go est devenue accessible. Que vous choisissiez l’appareil abouti de l’équipe verte ou le puissant APU de l’équipe rouge, l’époque où la mémoire manquait est révolue.
FAQ
Q : Puis-je jouer à des jeux sur le Nvidia DGX Spark ?
R : Non, le Spark est strictement un appareil d’IA. Il ne dispose pas de sorties d’affichage comme DisplayPort (HDMI uniquement), et l’architecture basée sur ARM combinée aux pilotes GPU pour centres de données le rend inadapté aux jeux PC standard.
Q : Le SSD du Nvidia DGX Spark est-il évolutif ?
R : Oui, mais c’est difficile. Vous devez démonter l’unité par le dessous et trouver un SSD au format M.2 2242, qui est plus rare et souvent plus coûteux que les disques 2280 standard utilisés dans la plupart des PC.
Q : L’AMD Strix Halo prend-il en charge Windows ?
R : Oui, le Strix Halo est basé sur x86 et prend en charge Windows 11 nativement. Cependant, pour des performances d’IA maximales et l’accès à la pile ROCm complète, un environnement Linux est généralement recommandé.
Q : Quel est le niveau sonore du Nvidia DGX Spark sous charge ?
R : Le bruit du ventilateur est audible et le châssis métallique peut devenir assez chaud en raison de son format compact de 1 litre. Bien qu’il soit plus silencieux que certains mini-PC à haut régime, il n’est pas silencieux et il est préférable de le placer loin de votre espace de travail immédiat si vous êtes sensible au bruit.
Q : Quel est le principal goulot d’étranglement des LLM sur ces appareils ?
R : La bande passante mémoire est le principal goulot d’étranglement. Malgré une capacité de 128 Go, la vitesse à laquelle les données se déplacent de la mémoire vers les cœurs de calcul (la bande passante) limite le nombre de jetons par seconde, ce qui fait que le Spark et le Halo offrent des performances similaires en génération de texte malgré l’avantage de calcul du Spark.
