Nvidia DGX Spark vs AMD Strix Halo: El enfrentamiento de IA local de 128 GB
- Aisha Washington
- 29 jul
- 7 min de lectura
A finales de 2025, la barrera de entrada para ejecutar modelos con una enorme cantidad de parámetros de forma local ha cambiado. Ya no solo analizamos la capacidad de VRAM de las tarjetas gaming; analizamos arquitecturas de memoria unificada que llevan especificaciones de centros de datos al escritorio. El mercado por fin nos ha dado dos rutas distintas hacia 128 GB de memoria de alta velocidad sin el precio de cinco cifras de los clústeres industriales: el Nvidia DGX Spark y el AMD Strix Halo.
Elegir entre ellos no se trata de lealtad a una marca. Se trata de entender dos filosofías fundamentalmente diferentes. Una es un dispositivo especializado diseñado para llevar la arquitectura Grace Blackwell a una caja de 1 litro. La otra es una APU de fuerza bruta que difumina la línea entre un equipo de escritorio de gama alta y una estación de trabajo de IA.
Este análisis desglosa la utilidad en el mundo real de ambas, comenzando por los puntos de fricción inmediatos a los que se enfrentan los primeros adoptantes.
Experiencia de usuario crítica: solución de las peculiaridades de Nvidia DGX Spark y AMD Strix Halo
Antes de analizar el rendimiento bruto, necesitas saber cómo es realmente convivir con estas máquinas. Ambos dispositivos tienen comportamientos idiosincrásicos que pueden arruinar la experiencia si no sabes cómo gestionarlos.
Cómo resolver los tiempos de carga lentos de Nvidia DGX Spark (la corrección de mmap)
Si desembalas un Nvidia DGX Spark, instalas tu entorno, e intentas cargar un modelo como gpt-oss-120b mediante llama.cpp, podrías pensar que la unidad está defectuosa. Los tiempos de carga iniciales pueden prolongarse más de un minuto y medio (aprox. 100 segundos). Para un dispositivo impulsado por el superchip GB10 Grace Blackwell, esto se siente lento.
La comunidad ha identificado al culpable: el mapeo de memoria (mmap). El comportamiento predeterminado de muchos motores de inferencia entra en conflicto con la forma en que Spark gestiona su reserva de memoria unificada.
La solución: Debes desactivar mmap en los argumentos de inicio de llama.cpp.
Al desactivar esta opción, los usuarios informan que los tiempos de carga bajan de 100 segundos a aproximadamente 22 segundos. Este sencillo ajuste pone a Spark a la par de sus competidores, o incluso por delante de ellos. Además, desactivar mmap parece mejorar la velocidad de procesamiento de prompts y la estabilidad de la generación de tokens. Si tienes esta caja, no es opcional; es un paso de configuración obligatorio.
Optimización y limitaciones de hardware de AMD Strix Halo
El AMD Strix Halo (específicamente las variantes Ryzen AI Max+ 395) ofrece una incorporación de software más fluida para quienes están acostumbrados a Windows o distribuciones estándar de Linux, pero tiene sus propias advertencias físicas y de software.
En el lado del software, aunque ROCm ha madurado, los backends estándar para la inferencia pueden dejar rendimiento sobre la mesa. Para tareas de inferencia pura en llama.cpp, cambiar al backend Vulkan ha mostrado mejoras cuantificables frente a las configuraciones predeterminadas en la arquitectura Strix Halo.
El mantenimiento del hardware es donde el AMD Strix Halo destaca frente a su rival del equipo verde. Unidades como el HP Z2 Mini G1a cuentan con mecanismos de acceso sin herramientas. Puedes deslizar la carcasa para abrirla e intercambiar unidades NVMe 2280 estándar en segundos.
Compáralo con el Nvidia DGX Spark. El diseño industrial de Spark es frustrantemente minimalista. Carece de un LED de encendido o incluso de una luz de actividad para el puerto de red. A menudo tienes que hacer ping al dispositivo solo para saber si está encendido. Peor aún, la ranura de almacenamiento interna utiliza el formato M.2 2242 —un estándar más corto y menos común que el ubicuo 2280. Encontrar un SSD de alto rendimiento de 4 TB u 8 TB en tamaño 2242 es difícil y caro. Si planeas almacenar conjuntos de datos masivos en Spark, prepárate para depender de almacenamiento externo en red o buscar unidades poco comunes.
Análisis profundo del rendimiento: capacidades de Nvidia DGX Spark
El Nvidia DGX Spark es esencialmente un "laboratorio de IA en una caja". Tiene un precio más alto, alrededor de $3,999, pero ese costo incluye capacidades específicas que no puedes encontrar en otro lugar.
Generación de imágenes e potencia INT4 de Nvidia DGX Spark
Aunque ambas máquinas manejan competentemente los modelos de lenguaje grandes (LLM), el Nvidia DGX Spark destroza a la competencia en la generación de imágenes. En pruebas que ejecutan FLUX.1 Dev (BF16), Spark alcanza alrededor de 120 TFLOPS.
Para ponerlo en perspectiva, Spark genera imágenes aproximadamente 2.5 veces más rápido que el AMD Strix Halo, que logra unos 46 TFLOPS en cargas de trabajo similares. Si tu flujo de trabajo implica un uso intensivo de modelos de difusión, Spark justifica de inmediato su sobreprecio.
La arquitectura también admite NVFP4 nativo (coma flotante de 4 bits). El rendimiento teórico para INT4 en Spark es enorme—112 TOPS—superando a Halo por un factor de casi 9x. Sin embargo, actualmente esto es más un "potencial" que una "realidad". El ecosistema de software fuera de las herramientas Nvidia de nivel empresarial aún no se ha puesto completamente al día para utilizar esta precisión de forma efectiva en cargadores accesibles para consumidores. Compras Spark por lo que hace hoy con CUDA 13, pero también apuestas a que el software futuro desbloqueará ese margen de INT4.
Otra característica destacada son las redes. Spark incluye una tarjeta ConnectX-7 200GbE. Para un solo usuario, esto es excesivo. Pero para un pequeño laboratorio que quiera agrupar tres o cuatro unidades para ejecutar un modelo de 400B parámetros, esta interconexión es invaluable.
El rey generalista: análisis de AMD Strix Halo
El AMD Strix Halo tiene un precio significativamente menor, oscilando entre $2,300 y $2,500. No intenta ser un nodo de servidor; intenta ser la estación de trabajo definitiva.
Rendimiento de CPU y usabilidad diaria de AMD Strix Halo
El AMD Strix Halo aprovecha 16 núcleos de CPU Zen 5. En tareas de computación general, compilación y preprocesamiento de datos, supera significativamente a los núcleos ARM presentes en Spark.
En benchmarks de computación de alto rendimiento como Linpack, Strix Halo ofrece 1.6 TFLOPS de rendimiento de doble precisión, más del doble de los 708 GFLOPS de Spark. Si tu flujo de trabajo de IA implica un preprocesamiento intensivo en la CPU o simplemente necesitas que la máquina funcione también como un potente escritorio de desarrollo Linux, Strix Halo es la elección lógica.
En cuanto a la generación de tokens de LLM, la batalla está sorprendentemente reñida. Debido a que la inferencia de LLM suele estar limitada por el ancho de banda de memoria más que por la capacidad de cómputo pura, los 128 GB LPDDR5X-8000 de Halo (aprox. 256 GB/s) siguen el ritmo de Spark (aprox. 273 GB/s). En muchos escenarios de generación de texto, la diferencia es insignificante.
Strix Halo representa una ruta de migración fluida. Debido a que utiliza la misma pila ROCm y HIP presente en los centros de datos, el código desarrollado aquí se escala fácilmente, pero la propia máquina se siente como un PC estándar de alta potencia.
Por qué la RTX 5090 no encaja en esta conversación
Inevitablemente, surge la pregunta: "¿Por qué no comprar simplemente una RTX 5090?"
La RTX 5090 estándar es una bestia de capacidad de cómputo bruta, superando enormemente a ambos, el Nvidia DGX Spark y AMD Strix Halo en términos de FLOPS por dólar. Sin embargo, se topa con una barrera infranqueable: 32GB de VRAM.
En el mundo de los LLM locales, la memoria es oxígeno. Simplemente no se puede cargar un modelo de 70B parámetros con alta precisión, ni un modelo de 120B con una cuantización razonable, en 32GB de memoria de vídeo. La 5090 es más rápida para modelos pequeños, pero falla por completo con los grandes.
Circulan rumores y prototipos de tarjetas «RTX 5090 de 128GB» por laboratorios de ingeniería, algunas con precios exorbitantes de más de $13,000. No son productos de consumo. Para el usuario que necesita 128GB de memoria hoy, la ruta de las GPU requiere varias tarjetas y una gestión compleja de líneas PCIe. Spark y Halo ofrecen esa capacidad en un único bloque de memoria coherente.
Veredicto final: cómo elegir tu estación de trabajo de 128GB
Elige el Nvidia DGX Spark si:
Necesitas un equipo dedicado para investigación de NVFP4 o verificación empresarial de CUDA.
Tu flujo de trabajo se centra en gran medida en la generación de imágenes (Flux, Stable Diffusion).
Planeas agrupar varias unidades mediante la conexión de 200GbE.
Te sientes cómodo con una experiencia de «servidor sin interfaz gráfica» y la administración de Linux.
Elige AMD Strix Halo si:
Quieres la mejor relación calidad-precio (casi la mitad del precio del Spark).
Necesitas un equipo versátil de uso diario que compile código tan bien como genera texto.
Priorizas actualizaciones de hardware sencillas (SSD estándar).
Tu enfoque principal es la inferencia de texto con LLM, donde iguala la utilidad del Spark.
Ambas máquinas demuestran que 2025 es el año en que la IA local de 128GB se volvió accesible. Tanto si eliges el dispositivo pulido del equipo verde como la potente APU del equipo rojo, los días de escasez de memoria han terminado.
Preguntas frecuentes
P: ¿Puedo jugar a videojuegos en el Nvidia DGX Spark?
R: No, el Spark es estrictamente un dispositivo de IA. Carece de salidas de pantalla como DisplayPort (solo HDMI) y la arquitectura basada en ARM, combinada con controladores de GPU para centros de datos, lo hace inadecuado para los videojuegos estándar de PC.
P: ¿Se puede actualizar el SSD del Nvidia DGX Spark?
R: Sí, pero es difícil. Debes desmontar la unidad desde la parte inferior y encontrar un SSD con formato M.2 2242, que es más raro y a menudo más caro que las unidades 2280 estándar utilizadas en la mayoría de los PC.
P: ¿AMD Strix Halo es compatible con Windows?
R: Sí, Strix Halo está basado en x86 y es compatible de forma nativa con Windows 11. Sin embargo, para obtener el máximo rendimiento de IA y acceder a toda la pila ROCm, generalmente se recomienda un entorno Linux.
P: ¿Qué tan ruidoso es el Nvidia DGX Spark bajo carga?
R: El ruido del ventilador es audible y el chasis metálico puede calentarse bastante debido a su tamaño compacto de 1 litro. Aunque es más silencioso que algunos mini-PC con altas RPM, no es silencioso y es mejor colocarlo lejos de tu espacio de trabajo inmediato si eres sensible al ruido.
P: ¿Cuál es el principal cuello de botella para los LLM en estos dispositivos?
R: El ancho de banda de memoria es el principal cuello de botella. A pesar de tener 128GB de capacidad, la velocidad a la que los datos se mueven de la memoria a los núcleos de cálculo (ancho de banda) limita los tokens por segundo, lo que hace que Spark y Halo tengan un rendimiento similar en la generación de texto a pesar de la ventaja de cálculo del Spark.
