Nvidia testa configurazioni Rubin Ultra con meno memoria

Secondo quanto riportato, Nvidia sta testando progetti Rubin Ultra con soli 192 GB o 256 GB di memoria, nonostante avesse precedentemente presentato una configurazione da 1 TB. Il report di Nvidia Tom descrive almeno tre prototipi con meno memoria, inclusi design che sostituiscono HBM4E con HBM4. Questi cambiamenti trasformerebbero l'acceleratore più ambizioso dell'azienda in un prodotto più conservativo.

I test riportati non stabiliscono le specifiche definitive di Rubin Ultra. Nvidia non ha confermato pubblicamente le configurazioni e le informazioni disponibili lasciano irrisolti importanti dettagli progettuali. Tuttavia, i test contano perché seguono rapporti separati su un numero inferiore di chiplet di calcolo e ritardi che interessano il rack Kyber pianificato.

Nel loro insieme, queste affermazioni rivelano un conflitto tra il sistema annunciato da Nvidia e l'hardware che i fornitori possono produrre su larga scala. AMD e gli acceleratori personalizzati dei grandi provider cloud aggiungono pressione competitiva. Tuttavia, l'avversario immediato di Nvidia è la sua stessa promessa da 1 TB, non un altro produttore di chip.

Il report di Nvidia Tom descrive tre design più piccoli

Il cambiamento centrale non è un lieve aggiustamento di capacità. È un possibile passo indietro rispetto al design che Nvidia ha presentato cinque mesi fa.

Secondo il report su Rubin Ultra, Nvidia ha testato almeno tre configurazioni con memoria ad alta larghezza di banda ridotta. HBM colloca DRAM impilata accanto a un processore, offrendo una larghezza di banda molto superiore rispetto alla memoria server convenzionale.

Le opzioni riportate includono capacità di memoria Rubin Ultra pari a 192 GB e 256 GB. Altri prototipi utilizzerebbero meno dei 16 stack di memoria associati al design originale. Almeno una soluzione sostituisce inoltre HBM4E con l'HBM4 più avanzato precedentemente annunciato.

Il report non associa ogni capacità a una specifica generazione di memoria o a un numero di stack. Non identifica inoltre il numero di die di calcolo in ciascun prototipo. Queste omissioni impediscono un calcolo affidabile della larghezza di banda, del layout del package o delle prestazioni applicative previste.

Questa incertezza è importante perché il punto di partenza pubblico di Nvidia era radicalmente diverso. Al GTC di marzo 2026, l'azienda ha mostrato un tray Rubin Ultra contenente quattro chiplet di calcolo e 1 TB di HBM4E. L'azienda ha posizionato l'acceleratore per l'implementazione nel 2027 attraverso i suoi sistemi Kyber e multirack.

Una configurazione da 192 GB conterrebbe meno di un quinto della capacità dimostrata. Avrebbe inoltre meno memoria dei 288 GB indicati per ogni GPU Rubin standard nelle attuali specifiche Vera Rubin NVL72 di Nvidia.

La differenza non rende automaticamente inutilizzabile il prodotto più piccolo. I requisiti di memoria variano in base al modello, al carico di lavoro, al formato numerico e all'architettura di implementazione. Un rack denso può distribuire un carico di lavoro tra più acceleratori, mentre storage specializzato può contenere porzioni di una cache di inferenza.

Tuttavia, il cambiamento modificherebbe il significato di “Ultra”. La dimostrazione di marzo associava l'etichetta a una memoria eccezionale per package e a quattro chiplet di calcolo. Un acceleratore più piccolo a doppio chiplet che utilizza il normale HBM4 assomiglierebbe più a un prodotto Rubin adattato che all'ammiraglia originale.

Nvidia non ha confermato che alcuno dei prototipi riportati entrerà in produzione. Testare varie opzioni è normale durante lo sviluppo hardware, specialmente prima della qualificazione finale. Le aziende valutano regolarmente design che non lasciano mai il laboratorio.

La tempistica conferisce a questi particolari test maggiore rilevanza. I rapporti sulla riduzione della memoria sono arrivati dopo presunte modifiche al package di calcolo e all'architettura del rack. Ogni rapporto indica la stessa risposta pratica: ridurre la complessità prima dell'avvio della produzione in volumi.

La storia di Nvidia Tom crea quindi una tensione evidente. Nvidia può mantenere la specifica pubblica e accettare un maggiore rischio di approvvigionamento, oppure ridurre la specifica e proteggere il proprio programma di consegne. Non può risolvere completamente entrambi i problemi attraverso denominazione o marketing.

La disponibilità di HBM4E mette sotto pressione la promessa da 1 TB

La capacità di memoria annunciata per Rubin Ultra moltiplica il rischio di approvvigionamento perché ogni acceleratore consumerebbe una raccolta insolitamente ampia di stack avanzati.

HBM4E è una generazione potenziata di HBM4 che può utilizzare un die logico di base personalizzato. Il die di base gestisce le connessioni tra la memoria impilata e il package dell'acceleratore. La logica personalizzata può migliorare l'integrazione, ma aggiunge anche lavoro di progettazione, produzione e qualificazione.

La carenza riportata non consiste semplicemente in una mancanza di bit DRAM grezzi. Nvidia necessita di stack di memoria con la giusta velocità, capacità, comportamento termico, progettazione logica e compatibilità di packaging. Un fornitore deve offrire tutte queste caratteristiche in modo coerente prima che Nvidia possa assemblare sistemi di produzione.

La configurazione originale da 1 TB di Rubin Ultra ha intensificato questa sfida. Il design dimostrato collocava 16 stack HBM4E accanto a quattro grandi chiplet di calcolo. Ogni acceleratore finito consumerebbe quindi molti componenti avanzati prima ancora di considerare la resa del packaging.

Un difetto in un componente può incidere sul valore dell'intero package. Questo rende l'approvvigionamento più sensibile di quanto suggerisca un semplice conteggio dei die di memoria disponibili. Capacità di packaging, interposer, die di base, validazione e raffreddamento diventano tutti parte del vincolo.

La piattaforma Rubin standard di Nvidia illustra la differenza. Le sue specifiche NVL72 indicano 288 GB di HBM4 per GPU e 22 TB al secondo di larghezza di banda della memoria. Su 72 GPU, il rack contiene 20,7 TB di HBM4.

Micron ha dichiarato a marzo di essere entrata nella produzione ad alto volume di uno stack HBM4 da 36 GB e 12 layer per Vera Rubin. Il fornitore ha rivendicato velocità superiori a 11 gigabit al secondo per pin e una larghezza di banda oltre 2,8 TB al secondo. Queste cifre descrivono l'HBM4 standard, non la configurazione HBM4E personalizzata associata al Rubin Ultra originale.

Micron ha inoltre fornito campioni di uno stack HBM4 da 48 GB e 16 layer, secondo la copertura della produzione. Stack più alti possono aumentare la capacità senza incrementare il numero di posizioni nel package. Tuttavia, comportano requisiti propri in termini di resa, calore e qualificazione.

Il ripiego su HBM4 riportato consentirebbe a Nvidia di attingere a una catena di approvvigionamento Rubin più matura. Potrebbe inoltre ridurre il lavoro di personalizzazione per i fornitori di memoria. Questa scelta darebbe priorità alla disponibilità e alla tempistica rispetto alla tecnologia di memoria distintiva annunciata per Ultra.

Ridurre il numero di stack offre un'altra leva. Meno stack riducono la capacità totale, ma semplificano anche il routing e diminuiscono il numero di componenti scarsi necessari per package. Nvidia potrebbe costruire più package di acceleratori con la stessa produzione di memoria qualificata.

Ecco perché i test da 192 GB e 256 GB meritano attenzione. Non sono capacità casuali. Suggeriscono che Nvidia stia esplorando prodotti che consumano materialmente meno stack, pur mantenendo una larghezza di banda sufficiente per carichi di lavoro AI selezionati.

La domanda aggiunge un ulteriore livello di pressione. Gli acceleratori AI competono ora per la memoria avanzata tra Nvidia, AMD, chip cloud personalizzati e altri processori. I fornitori devono espandere la produzione senza lasciare che qualità o rese crollino.

Gli accordi di fornitura a lungo termine possono assicurare allocazioni, ma non possono creare istantaneamente output qualificato. La nuova capacità produttiva richiede tempo. Il packaging avanzato e l'integrazione finale dei sistemi devono espandersi parallelamente alla produzione di memoria.

Il downgrade riportato riguarda quindi meno l'abbandono della tecnologia HBM che il suo razionamento. Nvidia sembra testare quanta poca memoria Rubin Ultra possa avere pur restando commercialmente credibile.

L'ammiraglia annunciata da Nvidia si scontra con la realtà produttiva

La competizione principale è ora tra la visione pubblica da 1 TB di Nvidia e la producibilità dell'intero sistema Rubin Ultra.

Il concetto originale di Nvidia combinava quattro chiplet di calcolo, 16 stack HBM4E, packaging avanzato, raffreddamento a liquido e una nuova architettura di rack. Ogni elemento era ambizioso. Combinarli tutti ha creato diverse possibili cause di ritardo interdipendenti.

A giugno, rapporti separati hanno affermato che Nvidia aveva abbandonato la configurazione a quattro chiplet a favore di un design a doppio chiplet. Il report sui chiplet citava preoccupazioni sull'esecuzione produttiva, sebbene Nvidia non abbia confermato la presunta cancellazione.

Un design a doppio chiplet renderebbe più facili da comprendere le configurazioni Rubin Ultra con meno memoria. Quattro chiplet di calcolo possono utilizzare una maggiore capacità di memoria locale e larghezza di banda. Due chiplet riducono tale domanda semplificando al contempo packaging, alimentazione e raffreddamento.

Tuttavia, 192 GB resterebbero un valore inaspettatamente basso. Rubin standard dispone già di 288 GB di HBM4 per GPU, sulla base delle specifiche pubblicate da Nvidia. Un prodotto Ultra con capacità inferiore avrebbe bisogno di un'altra fonte di differenziazione.

Nvidia potrebbe enfatizzare la scalabilità a livello di rack anziché la memoria per package. Il suo design di sistema Rubin descrive opzioni NVL72, NVL144 e NVL576 per Rubin Ultra. Il dominio pianificato più grande collegherebbe otto rack e 576 GPU.

Questa strategia sposta l'unità di vendita da un singolo acceleratore verso un sistema di calcolo completo. I clienti valuterebbero throughput aggregato, memoria disponibile nell'intero dominio, networking, alimentazione e software. Una riduzione su un package potrebbe sembrare meno grave su centinaia di GPU collegate.

Tuttavia, la scalabilità a livello di rack non elimina i limiti della memoria locale. Modelli e cache di inferenza devono attraversare una gerarchia di HBM, interconnessioni, CPU e storage. L'accesso a dati remoti introduce latenza e consuma capacità di rete.

La piattaforma di memoria contestuale BlueField-4 di Nvidia è progettata per estendere lo storage della cache key-value, i dati temporanei prodotti durante l'inferenza del modello. Tali sistemi possono ridurre la pressione sull'HBM. Non possono far sì che uno storage più lento si comporti esattamente come memoria collegata direttamente a una GPU.

Un Rubin Ultra più piccolo potrebbe comunque eccellere in carichi di lavoro ad alta intensità di calcolo con impronte di memoria modeste. Potrebbe inoltre servire implementazioni che distribuiscono efficacemente i modelli su molti acceleratori. Il problema è che questi vantaggi differiscono dalla narrazione da 1 TB presentata al GTC.

Questo è il rovesciamento centrale. Nvidia ha utilizzato un'integrazione estrema per definire Rubin Ultra, poi avrebbe iniziato a testare riduzioni nell'ambito dello stesso design integrato. Memoria, chiplet di calcolo e topologia del rack sembrano tutti oggetto di revisione.

L'azienda ha offerto una risposta generale ai rapporti correlati sui ritardi. Dopo le affermazioni secondo cui Kyber fosse slittato al 2028, un rappresentante Nvidia ha dichiarato che la sua “roadmap è intatta”. Nvidia non ha chiarito se tale affermazione riguardasse le specifiche originali, la tempistica o una roadmap rivista.

Questa distinzione è diventata essenziale. Una famiglia di prodotti può restare in programma mentre la sua configurazione interna cambia. Nvidia potrebbe distribuire qualcosa chiamato Rubin Ultra nel 2027 senza fornire l'acceleratore da quattro chiplet e 1 TB mostrato a marzo.

Per gli acquirenti enterprise, i nomi dei prodotti contano meno delle prestazioni validate e delle date di consegna. Tuttavia, il divario tra annuncio e spedizione influenza la pianificazione. I data center devono riservare energia, raffreddamento, spazio a pavimento, rete e finanziamenti molto prima dell’arrivo dei rack.

Nvidia deve quindi affrontare una difficile decisione ingegneristica. Mantenere la specifica da 1 TB protegge la narrativa di punta, ma concentra il rischio di approvvigionamento e produzione. Ridurre la memoria protegge i volumi, ma indebolisce la promessa tecnica originaria.

La minore memoria di Rubin Ultra cambia l’equazione competitiva

Una riduzione della memoria offrirebbe un’apertura ai rivali, ma la posizione di Nvidia nel software e nei sistemi impedisce di trarre una semplice conclusione su vincitori e perdenti.

AMD è il concorrente più diretto nel mercato degli acceleratori venduti a terzi. La sua roadmap Instinct punta agli stessi grandi operatori cloud, sviluppatori di modelli e acquirenti di infrastrutture enterprise. Questi clienti confrontano sistemi completi, non singole righe di specifiche.

La memoria per acceleratore è importante per modelli di grandi dimensioni, finestre di contesto estese, checkpoint di addestramento e cache chiave-valore. Una maggiore memoria locale può ridurre la suddivisione del modello e la comunicazione tra processori. Può inoltre supportare batch più grandi o sequenze più lunghe all’interno di un sistema fisso.

La larghezza di banda conta separatamente dalla capacità. Un design HBM4 da 192 GB potrebbe comunque offrire una forte larghezza di banda se utilizza un numero sufficiente di stack veloci e un’interfaccia ampia. Le informazioni attuali non forniscono dettagli sufficienti per determinare tale configurazione.

Per questo motivo, conclusioni dirette sulle prestazioni sarebbero premature. Una capacità inferiore non dimostra che Rubin Ultra perderà contro AMD. Mostra però che i clienti necessitano di specifiche aggiornate prima di effettuare confronti affidabili.

I fornitori cloud dispongono anche di acceleratori personalizzati. Google, Amazon, Microsoft e Meta progettano chip attorno a specifici carichi di lavoro interni. I loro sistemi possono sacrificare la generalità quando questo migliora l’efficienza o il controllo della fornitura.

Queste alternative esercitano pressione su Nvidia in due modi. Offrono agli hyperscaler leva negoziale e riducono la dipendenza dalla roadmap di un singolo fornitore. Un operatore cloud può indirizzare i carichi di lavoro adatti verso il proprio silicio, riservando i sistemi Nvidia alle attività sensibili al software.

Nvidia mantiene importanti vantaggi. CUDA resta profondamente radicato nello sviluppo dell’AI e l’azienda controlla un ampio stack che copre processori, interconnessioni, networking, CPU e software. I clienti potrebbero accettare una specifica hardware ridotta per mantenere compatibilità e velocità di implementazione.

Il rapporto di fonte riflette questa forza. Secondo quanto riportato, un cliente Nvidia ha affermato che la memoria per GPU non era la principale preoccupazione, sottolineando il rapporto di lungo periodo. Questa opinione non può rappresentare ogni acquirente, ma illustra perché la sola capacità non determinerà la domanda.

La disponibilità potrebbe contare più della specifica ideale. Un acceleratore da 256 GB spedito in modo prevedibile può essere più utile di un design da 1 TB ritardato dalla scarsità di memoria. I fornitori cloud non ricavano nulla da hardware che resta bloccato nella fase di qualificazione.

Allo stesso tempo, ridurre la memoria può trasferire i costi altrove. Per lo stesso carico di lavoro, i clienti potrebbero aver bisogno di più acceleratori, più networking o infrastrutture di storage aggiuntive. Una maggiore complessità del sistema può compensare i risparmi generati da un package più semplice.

L’energia è un’altra preoccupazione. Distribuire un modello su più acceleratori può aumentare le esigenze di comunicazione e raffreddamento. Gli acquirenti esamineranno quindi i token utili prodotti per watt, non solo le prestazioni aritmetiche di picco.

L’ottimizzazione software potrebbe attenuare l’impatto. La quantizzazione riduce il numero di bit utilizzati per rappresentare i pesi del modello. I modelli mixture-of-experts attivano solo porzioni selezionate di una rete per ciascun token. Una migliore gestione della cache può inoltre limitare la pressione sulla memoria durante l’inferenza.

Nessuno di questi metodi elimina i vincoli fisici. Cambiano il modo in cui gli sviluppatori utilizzano in modo efficiente la capacità disponibile. I risultati variano tra i modelli e possono influire su qualità, latenza o sforzo ingegneristico.

L’impatto di Nvidia HBM4 sarà quindi diverso per ciascun cliente. I grandi laboratori che addestrano modelli di frontiera potrebbero valorizzare la massima capacità locale. I fornitori di inferenza con modelli ottimizzati potrebbero preferire una fornitura affidabile e una maggiore densità dei rack.

Gli acquirenti enterprise dovrebbero evitare di considerare il prototipo da 192 GB riportato come un prodotto finale. Dovrebbero inoltre evitare di basare i piani infrastrutturali sulla configurazione dimostrata da 1 TB. Entrambi i numeri restano provvisori finché Nvidia non pubblicherà e convaliderà le specifiche finali.

Il rapporto lascia senza risposta questioni tecniche cruciali

Le prove supportano una seria revisione del design, ma non stabiliscono quale prototipo Nvidia produrrà.

La prima incertezza riguarda la mappatura delle configurazioni. Il rapporto identifica opzioni da 192 GB, 256 GB, con meno stack e HBM4. Non chiarisce se queste descrizioni si riferiscano a tre design distinti o a caratteristiche sovrapposte.

Un design HBM4 da 192 GB potrebbe utilizzare una disposizione degli stack diversa da una versione da 256 GB. Un altro prototipo potrebbe mantenere HBM4E riducendo al contempo il numero di stack. Senza questa mappatura, i confronti restano speculativi.

La seconda questione riguarda i die di calcolo. Le notizie di giugno descrivevano un passaggio da quattro chiplet a due, ma Nvidia non ha confermato tale cambiamento. I test sulla memoria potrebbero coinvolgere hardware a due chiplet, il package originario a quattro chiplet o entrambi.

Le decisioni relative a calcolo e memoria non possono essere valutate separatamente. Un minor numero di die di calcolo riduce la capacità aritmetica e la domanda di memoria. Mantenere quattro die di calcolo con una memoria drasticamente ridotta potrebbe creare uno squilibrio più grave in termini di larghezza di banda o capacità.

La terza incognita è il significato di “test”. Le aziende hardware testano molte configurazioni prima della produzione. Alcuni esperimenti valutano la fattibilità, mentre altri preparano prodotti per diversi segmenti di clientela.

Nvidia potrebbe infine spedire più di un modello Rubin Ultra. Una versione da 1 TB, scarsa, potrebbe servire clienti selezionati, mentre prodotti con meno memoria supporterebbero un’implementazione più ampia. Il rapporto non conferma questa segmentazione, ma resta tecnicamente possibile.

Esiste inoltre una differenza tra carenza di fornitura e difficoltà di resa produttiva. Una carenza significa che esistono troppo pochi componenti qualificati. I problemi di resa significano che troppi package prodotti non soddisfano i requisiti. Entrambi riducono l’output, ma richiedono rimedi diversi.

La fonte attribuisce la pressione alla complessità di HBM4E e a una fornitura inadeguata per il lancio di Rubin Ultra. Nvidia e i suoi partner nel settore della memoria non hanno fornito pubblicamente dati di produzione che verifichino in modo indipendente tale affermazione.

Gli annunci dei fornitori offrono un contesto utile senza risolvere la questione. Micron afferma che la sua HBM4 ha raggiunto la produzione ad alto volume, ma HBM4E richiede ulteriore personalizzazione. Lo stato di produzione di una generazione non garantisce una fornitura adeguata per la successiva.

Kyber introduce un’altra dipendenza irrisolta. Le notizie di luglio sostenevano che il rack NVL144 avesse subito un ritardo legato a un complesso backplane in rame. La rivendicazione del ritardo di Kyber affermava che il cambiamento riportato non interessava i sistemi Rubin standard spediti in precedenza.

Il materiale ufficiale di Nvidia descrive ancora Kyber come una base per Rubin Ultra e per la successiva generazione Feynman. Elenca inoltre percorsi NVL72 e NVL576. Questo piano di sistema più ampio potrebbe offrire a Nvidia alternative se una configurazione rack subisse ritardi.

Tuttavia, ogni alternativa modifica le ipotesi di implementazione. NVL72 offre meno acceleratori all’interno di un dominio scale-up. NVL576 dipende da una topologia multi-rack che utilizza connessioni in rame e ottiche. Questi sistemi creano sfide di rete e operative distinte.

Le prestazioni sono la maggiore questione senza risposta. La sola capacità di memoria non rivela velocità di addestramento, throughput di inferenza, latenza o efficienza energetica. Nvidia non ha pubblicato benchmark convalidati per le configurazioni riportate.

I clienti avranno inoltre bisogno di dati specifici per il carico di lavoro. Un modello che rientra in 192 GB si comporta diversamente da uno che deve estendersi su diversi processori. L’inferenza a contesto lungo può creare esigenze di memoria che crescono con utenti, lunghezza delle sequenze e precisione della cache.

Il rapporto Nvidia Tom è quindi credibile come resoconto di prototipi, non come scheda tecnica finale. Il suo valore risiede nel rivelare le scelte in esame. Non dovrebbe essere utilizzato per dichiarare declassato un prodotto finito prima che Nvidia ne annunci uno.

Tre segnali mostreranno quale Rubin Ultra sopravvive

Il Rubin Ultra finale sarà definito da comunicazioni sulla produzione, qualificazione dei clienti e benchmark a livello di sistema, non da voci sui prototipi.

Il primo segnale è il prossimo aggiornamento dettagliato delle specifiche di Nvidia. Gli acquirenti dovrebbero osservare la capacità di memoria confermata, la generazione di memoria, il numero di stack, il numero di chiplet di calcolo e la larghezza di banda. Una specifica inferiore a 1 TB confermerebbe che il design di marzo non rappresenta più l’obiettivo principale della produzione.

Il linguaggio sulla disponibilità sarà importante quanto i numeri. Nvidia potrebbe mantenere un modello ad alta capacità per un’implementazione limitata, introducendo al contempo varianti più piccole. Tale esito indebolirebbe l’idea di una ritirata completa, confermando al tempo stesso una segmentazione guidata dalla fornitura.

Il secondo segnale è la qualificazione dei fornitori. I produttori di memoria dovrebbero comunicare se HBM4E è entrata nella produzione ad alto volume per Rubin Ultra, non semplicemente se HBM4 viene spedita per Rubin standard. Le dichiarazioni sulla produzione dovrebbero identificare capacità, velocità e stato di qualificazione dei clienti.

Se i fornitori annunceranno una produzione HBM4E qualificata in volume sufficiente, il design originario diventerà più plausibile. Una continua enfasi sulla HBM4 standard rafforzerebbe l’ipotesi di configurazioni con meno memoria.

Il terzo segnale è il testing dei clienti. Nvidia ha già inviato campioni Vera Rubin standard a clienti selezionati e afferma che le spedizioni in produzione restano previste per la seconda metà del 2026. Rubin Ultra necessita di traguardi equivalenti prima che la sua tabella di marcia per il 2027 diventi credibile.

La qualificazione dei clienti dovrebbe produrre prove più chiare sulle prestazioni utilizzabili. Gli acquirenti hanno bisogno di risultati sull’addestramento dei modelli, throughput di inferenza, latenza, consumo energetico e affidabilità su rack completi. I dati aggregati di marketing non possono rispondere a ogni domanda sull’implementazione.

I progressi di Kyber rientrano in questo terzo segnale. Un rack di produzione funzionante dimostrerebbe che Nvidia ha risolto i problemi di backplane, raffreddamento e integrazione. Una continua dipendenza da layout rack alternativi suggerirebbe che la complessità del sistema resta l’ostacolo maggiore.

Questi segnali rafforzeranno o indeboliranno il giudizio centrale dell’articolo. Specifiche ufficiali ridotte confermerebbero che la realtà produttiva ha sconfitto la promessa da 1 TB. HBM4E qualificata e sistemi ad alta capacità convalidati mostrerebbero che Nvidia ha trattato i prototipi più piccoli come piani di contingenza.

Per gli sviluppatori, la lezione immediata è evitare di presumere un unico obiettivo di memoria. I team software dovrebbero testare partizionamento, quantizzazione e comportamento della cache su diversi intervalli di capacità. Questa preparazione aiuta sia che Nvidia spedisca un design da 192 GB, 256 GB o a capacità superiore.

Gli acquirenti enterprise dovrebbero richiedere risultati specifici per il carico di lavoro invece di confrontare i nomi dei prodotti. Dovrebbero chiedere quanta memoria dell’acceleratore resta disponibile dopo l’overhead di runtime, come i modelli si distribuiscono tra le GPU e in che modo i guasti influenzano il rack.

I pianificatori dell’infrastruttura dovrebbero inoltre mantenere più scenari per energia e raffreddamento. Un package di acceleratore più piccolo non crea necessariamente un’implementazione più piccola. I clienti potrebbero compensare utilizzando più processori o sistemi più densi.

Il redesign riportato non dimostra che Rubin Ultra abbia fallito. È la prova che la configurazione più ambiziosa di Nvidia affronta un percorso difficile dalla dimostrazione alla produzione in volume. Questa distinzione dovrebbe guidare ogni interpretazione della copertura Nvidia Tom.

Nvidia manterrà il modello di punta da 1 TB, dividerà Rubin Ultra in diversi prodotti o renderà HBM4 lo standard pratico? Prima di giungere a una conclusione, attendete il prossimo aggiornamento delle specifiche. Poi confrontate queste affermazioni con la qualificazione dei fornitori e benchmark reali dei clienti. Questi tre controlli riveleranno se Nvidia ha risolto la carenza o si è limitata a riprogettare attorno ad essa.