Nvidia DGX Spark vs AMD Strix Halo: O confronto de IA local com 128GB

No fim de 2025, a barreira de entrada para executar modelos com uma enorme quantidade de parâmetros localmente mudou. Não estamos mais olhando apenas para a capacidade de VRAM em placas gamer; estamos olhando para arquiteturas de memória unificada que levam especificações de data center para a mesa. O mercado finalmente nos deu dois caminhos distintos para 128GB de memória de alta velocidade sem o preço de cinco dígitos de clusters industriais: o Nvidia DGX Spark e o AMD Strix Halo.

Escolher entre eles não é uma questão de lealdade à marca. Trata-se de entender duas filosofias fundamentalmente diferentes. Um é um equipamento especializado projetado para levar a arquitetura Grace Blackwell a uma caixa de 1 litro. O outro é uma APU de força bruta que desfoca a linha entre um desktop de ponta e uma estação de trabalho de IA.

Esta análise detalha a utilidade prática de ambos, começando pelos pontos imediatos de atrito que os primeiros adotantes estão enfrentando.

Experiência crítica do usuário: corrigindo peculiaridades do Nvidia DGX Spark e AMD Strix Halo

Antes de analisar a taxa de processamento bruta, você precisa saber como é realmente conviver com essas máquinas. Ambos os dispositivos têm comportamentos idiossincráticos que podem arruinar a experiência se você não souber como lidar com eles.

Resolvendo os tempos lentos de carregamento do Nvidia DGX Spark (a correção de mmap)

Se você desembalar um Nvidia DGX Spark, instalar seu ambiente, e tentar carregar um modelo como gpt-oss-120b via llama.cpp, poderá achar que a unidade está com defeito. Os tempos iniciais de carregamento podem se arrastar por mais de um minuto e meio (aprox. 100 segundos). Para um dispositivo alimentado pelo superchip GB10 Grace Blackwell, isso parece lento.

A comunidade identificou o culpado: mapeamento de memória (mmap). O comportamento padrão de muitos mecanismos de inferência entra em conflito com a forma como o Spark lida com seu conjunto de memória unificada.

A solução: Você deve desativar mmap nos argumentos de inicialização do llama.cpp.

Ao desativar essa flag, usuários relatam que os tempos de carregamento caem de 100 segundos para aproximadamente 22 segundos. Esse simples ajuste coloca o Spark no mesmo nível de seus concorrentes, ou até mais rápido que eles. Além disso, desativar mmap parece melhorar a velocidade de processamento de prompts e a estabilidade da geração de tokens. Se você possui essa caixa, isso não é opcional; é uma etapa obrigatória de configuração.

Otimização e limitações de hardware do AMD Strix Halo

O AMD Strix Halo (especificamente as variantes Ryzen AI Max+ 395) oferece uma integração de software mais fluida para quem está acostumado ao Windows ou a distribuições Linux padrão, mas tem suas próprias ressalvas físicas e de software.

No lado do software, embora o ROCm tenha amadurecido, os backends padrão para inferência podem deixar desempenho de lado. Para tarefas de inferência pura no llama.cpp, mudar para o backend Vulkan mostrou ganhos mensuráveis em relação às configurações padrão na arquitetura Strix Halo.

A manutenção de hardware é onde o AMD Strix Halo se destaca em comparação com seu rival do time verde. Unidades como o HP Z2 Mini G1a apresentam mecanismos de acesso sem ferramentas. Você pode deslizar a tampa para abrir e trocar unidades NVMe 2280 padrão em segundos.

Compare isso com o Nvidia DGX Spark. O design industrial do Spark é minimalista de maneira frustrante. Ele não tem LED de energia nem mesmo uma luz de atividade para a porta de rede. Muitas vezes, você precisa fazer ping no dispositivo apenas para saber se ele está ligado. Pior ainda, o slot de armazenamento interno usa o formato M.2 2242 — um padrão mais curto e mais raro do que o onipresente 2280. Encontrar um SSD de alto desempenho de 4TB ou 8TB no tamanho 2242 é difícil e caro. Se você pretende armazenar conjuntos de dados enormes no Spark, esteja preparado para depender de armazenamento externo em rede ou procurar unidades raras.

Análise aprofundada de desempenho: capacidades do Nvidia DGX Spark

O Nvidia DGX Spark é essencialmente um "laboratório de IA em uma caixa". Seu preço é mais alto, em torno de $3,999, mas esse custo inclui capacidades específicas que você não encontra em nenhum outro lugar.

Geração de imagens e poder INT4 do Nvidia DGX Spark

Embora ambas as máquinas lidem competentemente com modelos de linguagem grandes (LLMs), o Nvidia DGX Spark destrói a concorrência na geração de imagens. Em testes executando FLUX.1 Dev (BF16), o Spark alcança cerca de 120 TFLOPS.

Para colocar isso em perspectiva, o Spark gera imagens aproximadamente 2,5 vezes mais rápido que o AMD Strix Halo, que alcança cerca de 46 TFLOPS em cargas de trabalho semelhantes. Se o seu fluxo de trabalho envolve uso intenso de modelos de difusão, o Spark justifica imediatamente seu preço mais elevado.

A arquitetura também oferece suporte nativo a NVFP4 (ponto flutuante de 4 bits). A taxa de processamento teórica para INT4 no Spark é enorme — 112 TOPS — superando o Halo por um fator de quase 9x. No entanto, atualmente isso é mais um "potencial" do que uma "realidade". O ecossistema de software fora das ferramentas Nvidia de nível empresarial ainda não acompanhou totalmente o uso eficaz dessa precisão em carregadores acessíveis ao consumidor. Você compra o Spark pelo que ele faz hoje com CUDA 13, mas também aposta que softwares futuros liberarão essa margem de desempenho em INT4.

Outro recurso de destaque é a rede. O Spark inclui uma placa ConnectX-7 200GbE. Para um único usuário, isso é exagero. Mas, para um pequeno laboratório que queira agrupar três ou quatro unidades para executar um modelo de 400B parâmetros, essa interconexão é inestimável.

O rei generalista: análise do AMD Strix Halo

O AMD Strix Halo custa significativamente menos, ficando entre $2,300 e $2,500. Ele não tenta ser um nó de servidor; tenta ser a estação de trabalho definitiva.

Desempenho de CPU e usabilidade diária do AMD Strix Halo

O AMD Strix Halo utiliza 16 núcleos de CPU Zen 5. Em tarefas gerais de computação, compilação e pré-processamento de dados, ele supera significativamente os núcleos ARM encontrados no Spark.

Em benchmarks de computação de alto desempenho, como Linpack, o Strix Halo fornece 1,6 TFLOPS de desempenho de precisão dupla, mais que dobrando os 708 GFLOPS do Spark. Se seu fluxo de trabalho de IA envolve pré-processamento intenso do lado da CPU ou se você simplesmente precisa que a máquina também funcione como um poderoso desktop de desenvolvimento Linux, o Strix Halo é a escolha lógica.

Quando se trata de geração de tokens de LLM, a disputa é surpreendentemente acirrada. Como a inferência de LLM é frequentemente limitada pela largura de banda da memória, a LPDDR5X-8000 de 128GB do Halo (aprox. 256 GB/s) acompanha o Spark (aprox. 273 GB/s). Em muitos cenários de geração de texto, a diferença é insignificante.

O Strix Halo representa um caminho de migração contínuo. Como usa a mesma pilha ROCm e HIP encontrada em data centers, o código desenvolvido aqui é facilmente escalado, mas a própria máquina se parece com um PC padrão e potente.

Por que a RTX 5090 não se encaixa nesta conversa

Inevitavelmente, surge a pergunta: "Por que não comprar simplesmente uma RTX 5090?"

A RTX 5090 padrão é uma fera em computação bruta, superando amplamente ambos, o Nvidia DGX Spark e AMD Strix Halo em termos de FLOPS por dólar. No entanto, ele atinge uma barreira rígida: 32GB de VRAM.

No mundo dos LLMs locais, a memória é oxigênio. Simplesmente não é possível carregar um modelo de 70B parâmetros em alta precisão, ou um modelo de 120B com quantização razoável, em 32GB de memória de vídeo. A 5090 é mais rápida para modelos pequenos, mas falha completamente para os grandes.

Há rumores e protótipos de placas "RTX 5090 de 128GB" circulando por laboratórios de engenharia, algumas com preços exorbitantes acima de $13,000. Estes não são produtos de consumo. Para o usuário que precisa de 128GB de memória hoje, a rota das GPUs exige várias placas e um gerenciamento complexo de pistas PCIe. O Spark e o Halo oferecem essa capacidade em um único bloco de memória coerente.

Veredito Final: Escolhendo Sua Estação de Trabalho de 128GB

Decidir entre o Nvidia DGX Spark e o AMD Strix Halo depende do seu pipeline de fluxo de trabalho específico.

Escolha o Nvidia DGX Spark se:

• Você precisa de um appliance dedicado para pesquisa com NVFP4 ou verificação empresarial de CUDA.

• Seu fluxo de trabalho é intenso em geração de imagens (Flux, Stable Diffusion).

• Você planeja agrupar várias unidades usando a conexão de 200GbE.

• Você se sente confortável com uma experiência de "servidor sem interface gráfica" e administração Linux.

Escolha o AMD Strix Halo se:

• Você quer o melhor custo-benefício (quase metade do preço do Spark).

• Você precisa de uma máquina versátil para o dia a dia, que compile código tão bem quanto gera texto.

• Você prioriza upgrades de hardware fáceis (SSDs padrão).

• Seu foco principal é a inferência de texto com LLMs, na qual ele iguala a utilidade do Spark.

Ambas as máquinas provam que 2025 é o ano em que a IA local de 128GB se tornou acessível. Quer você escolha o appliance refinado do time verde ou a poderosa APU do time vermelho, os dias de sofrer com falta de memória acabaram.

Perguntas Frequentes

P: Posso jogar no Nvidia DGX Spark?

R: Não, o Spark é estritamente um appliance de IA. Ele não possui saídas de vídeo como DisplayPort (somente HDMI), e a arquitetura baseada em ARM combinada com drivers de GPU para data centers o torna inadequado para jogos padrão de PC.

P: O SSD no Nvidia DGX Spark pode ser atualizado?

R: Sim, mas é difícil. Você deve desmontar a unidade pela parte inferior e encontrar um SSD no formato M.2 2242, que é mais raro e frequentemente mais caro do que as unidades 2280 padrão usadas na maioria dos PCs.

P: O AMD Strix Halo oferece suporte ao Windows?

R: Sim, o Strix Halo é baseado em x86 e oferece suporte nativo ao Windows 11. No entanto, para desempenho máximo de IA e acesso à pilha ROCm completa, geralmente é recomendado um ambiente Linux.

P: Quão barulhento é o Nvidia DGX Spark sob carga?

R: O ruído da ventoinha é audível e o chassi metálico pode ficar bastante quente devido ao seu tamanho compacto de 1 litro. Embora seja mais silencioso do que alguns mini-PCs com alto RPM, ele não é silencioso e é melhor mantê-lo longe do seu espaço de trabalho imediato se você for sensível a ruídos.

P: Qual é o principal gargalo para LLMs nesses dispositivos?

R: A largura de banda da memória é o principal gargalo. Apesar de terem 128GB de capacidade, a velocidade com que os dados se movem da memória para os núcleos de computação (largura de banda) limita os tokens por segundo, fazendo com que o Spark e o Halo tenham desempenho semelhante na geração de texto, apesar da vantagem computacional do Spark.