NVIDIA BlueField-4 STX presenta un server CMX più compatto a OCP 2026
NVIDIA BlueField-4 STX è apparso a OCP 2026 in un design di server più compatto, spostando l'attenzione dall'annuncio della sua architettura all'hardware pratico per la memoria di contesto. Secondo la copertura di ServeTheHome del 19 ottobre, la scheda sembra utilizzare un singolo package del processore Vera anziché la configurazione a doppio Vera mostrata in precedenza. È rilevante perché un livello dedicato di storage della memoria deve giustificare l'infrastruttura necessaria per eseguirlo.
CMX, la piattaforma di storage per la memoria di contesto di NVIDIA, è destinata alle informazioni riutilizzabili generate durante l'inferenza AI, il processo di esecuzione di un modello addestrato. La tensione centrale è tra un'infrastruttura di contesto dedicata e la gestione di tali informazioni attraverso memoria e storage dei server esistenti. Un'implementazione più compatta offre ai costruttori di sistemi di storage un'altra configurazione da valutare, senza però stabilirne le prestazioni o l'economia operativa.
Le piattaforme server Intel e AMD rimangono punti di riferimento pertinenti per gli acquirenti che confrontano server di storage convenzionali con l'approccio specializzato di NVIDIA. La questione è se separare lo storage del contesto migliori un'applicazione a sufficienza da giustificare un ulteriore livello di sistema. L'hardware OCP rende questa discussione più concreta, anche se la documentazione disponibile lascia irrisolti importanti dettagli di implementazione.
NVIDIA BlueField-4 STX passa dall'architettura al design della scheda
Lo sviluppo presentato a OCP riguarda un'implementazione hardware più compatta, non il primo annuncio dell'architettura di storage di NVIDIA.
NVIDIA ha annunciato STX, la sua architettura di riferimento modulare per lo storage accelerato, il 16 marzo 2026. L'annuncio della sua architettura di storage accelerato ha posizionato CMX come la prima implementazione su scala rack. NVIDIA ha dichiarato che le piattaforme dei partner sarebbero diventate disponibili nella seconda metà del 2026.
L'osservazione di ottobre rientra quindi in una storia di implementazione già in corso. Offre una visione di come i partner potrebbero confezionare l'architettura, anziché dimostrare il lancio a OCP di una categoria interamente nuova.
Patrick Kennedy di ServeTheHome ha descritto una scheda compatta con memoria SOCAMM, un formato compatto di modulo di memoria, e uno slot M.2 per un piccolo dispositivo di espansione. La sua copertura del server CMX ha identificato un apparente package Vera e confrontato la scheda con il precedente design a doppio processore.
Kennedy ha inoltre riferito che ConnectX-9, la tecnologia di adattatore di rete di NVIDIA, non era visibile nelle schede o nelle fotografie esaminate. Questa osservazione lascia irrisolta l'implementazione di rete. Non dimostra che un sistema completo sia privo del componente.
Questi dettagli contano perché l'integrazione della scheda determina come un'architettura diventi un prodotto. I produttori di storage devono gestire connessioni, raffreddamento, accesso per la manutenzione e il resto del sistema. Una scheda processore compatta offre loro un punto di partenza diverso, ma non risponde da sola a queste questioni ingegneristiche.
Una distinzione utile separa la scheda, il server circostante e la distribuzione completa. Ogni livello introduce dipendenze che una fotografia non può stabilire. Gli acquirenti dovrebbero evitare di considerare un layout accattivante dei componenti come una specifica di sistema completa.
L'apparente passaggio a un singolo processore solleva anche una questione sulle scelte di configurazione. Un design più compatto potrebbe adattarsi a implementazioni con requisiti diversi di capacità o elaborazione. Le evidenze pubbliche non stabiliscono se le configurazioni servano carichi di lavoro identici o occupino posizioni diverse nei portafogli dei partner.
La documentazione supporta una conclusione più circoscritta: l'architettura di storage del contesto di NVIDIA sta comparendo in un'implementazione più compatta. Non supporta l'affermazione che ogni configurazione precedente sia stata sostituita.
Resta comunque un progresso significativo per i costruttori di sistemi. L'hardware concreto permette loro di valutare questioni di assemblaggio e integrazione che i diagrammi architetturali lasciano astratte. Le specifiche dei prodotti risultanti determineranno quanto questo progresso modificherà le decisioni di acquisto.
I costruttori di storage affrontano un diverso tipo di decisione sulla memoria
La pressione immediata ricade sui team infrastrutturali, che devono decidere se il contesto meriti un proprio livello di distribuzione.
NVIDIA BlueField-4 STX chiede a questi team di considerare più della capacità di storage. Un livello dedicato introduce un luogo separato per ospitare il contesto riutilizzabile, insieme alla responsabilità di gestirlo. La decisione riguarda il comportamento dell'applicazione e la gestione del sistema tanto quanto la selezione dell'hardware.
Per un acquirente, il confronto pertinente parte da un servizio esistente. Come si comporta quel servizio quando le conversazioni riprendono, i carichi di lavoro si spostano o la memoria disponibile si riduce? Queste osservazioni stabiliscono se un livello specializzato per il contesto affronti una limitazione effettiva.
Un design di server compatto contribuisce a rendere tangibile l'alternativa. Offre ai produttori qualcosa da integrare e agli acquirenti qualcosa per cui richiedere specifiche. Tuttavia, la sola dimensione fisica non può stabilire quanto lavoro applicativo utile supporterà un'implementazione.
La questione finanziaria va inoltre oltre la scheda processore. Gli operatori devono considerare rete, supporto software, requisiti delle strutture e tempo del personale. Rimuovere hardware da un componente non riduce automaticamente ogni spesa associata al servizio circostante.
Queste considerazioni creano pressioni diverse per acquirenti diversi. Un produttore di storage ha bisogno di una configurazione che possa confezionare, convalidare e supportare. Un operatore cloud ha bisogno di un servizio che possa gestire in modo affidabile. Un cliente enterprise ha bisogno di prove che l'applicazione risultante funzioni meglio secondo i propri requisiti.
Questi interessi si sovrappongono senza essere identici. Una configurazione che semplifica la produzione potrebbe comunque richiedere un notevole lavoro di distribuzione. Una configurazione che offre buone prestazioni in una dimostrazione controllata potrebbe essere difficile da integrare in un ambiente operativo consolidato.
La risposta più solida dell'acquirente è un confronto con confini espliciti. Il riferimento di base dovrebbe identificare quali componenti esistenti restano necessari, quali responsabilità si spostano e quali nuove dipendenze emergono. Altrimenti, un risultato favorevole a livello di componente può oscurare un risultato sfavorevole a livello di sistema.
Esiste anche una questione organizzativa. I team responsabili del serving dei modelli, della rete, dello storage e della sicurezza potrebbero dover concordare la titolarità. Un nuovo livello di contesto crea decisioni operative ovunque le sue responsabilità attraversino tali confini.
Per gli sviluppatori, questo influenza il modo in cui valutano le proposte infrastrutturali. Un'applicazione con conversazioni lunghe non richiede automaticamente hardware dedicato al contesto. Il team di sviluppo ha bisogno di prove che la gestione del contesto limiti il servizio prima di scegliere un rimedio.
Per i team di approvvigionamento, l'implicazione è altrettanto diretta. Chiedete ai fornitori di collegare la configurazione hardware a un problema applicativo misurabile. Una scheda più piccola amplia la gamma delle possibili implementazioni, ma l'applicazione rimane la ragione per distribuirne una.
Il riutilizzo del contesto collega lo storage alle prestazioni applicative
L'argomentazione architetturale di CMX è incentrata sul riutilizzo del lavoro di inferenza, non sul semplice mantenimento di più file applicativi.
L'architettura della memoria di contesto di NVIDIA descrive un livello di storage condiviso per il contesto di inferenza riutilizzabile. L'azienda lo posiziona tra la memoria locale veloce e lo storage condiviso convenzionale, con software che coordina dove risiede il contesto.
Una cache KV, ovvero le chiavi e i valori di attenzione memorizzati prodotti durante l'elaborazione dell'input del modello, consente a un lavoro di inferenza compatibile di riutilizzare calcoli precedenti. La memoria ad alta larghezza di banda della GPU, o HBM, conserva i dati vicino al processore grafico per un accesso rapido. CMX estende le opzioni di collocazione disponibili per il contesto oltre quella memoria immediata.
Questa distinzione è importante nell'interpretare l'annuncio. Acquistare più storage per documenti e conservare calcoli intermedi del modello affrontano problemi diversi. Entrambi coinvolgono dati, ma la loro utilità dipende da modelli di accesso e decisioni software differenti.
Si consideri un assistente di programmazione illustrativo che torna ripetutamente a un repository familiare. I suoi file sorgente rimangono dati applicativi, mentre lo stato di inferenza memorizzato nella cache compatibile rappresenta lavoro già svolto. Conservare quello stato è utile solo quando il sistema di serving può trovarlo e utilizzarlo in modo appropriato.
L'esempio è un modo per esaminare la proposta, non un risultato riportato da un cliente. Suggerisce cosa dovrebbe misurare una valutazione: se le richieste di ritorno ne traggono beneficio, quanto lavoro viene ripetuto e cosa accade quando il materiale in cache non può essere riutilizzato.
Quest'ultima condizione merita attenzione. Un sistema deve rimanere utile quando il suo contesto preferito non è disponibile. Una valutazione incentrata interamente sul riutilizzo riuscito lascerebbe agli acquirenti poca comprensione della variazione ordinaria o del comportamento di ripristino.
L'integrazione software appartiene quindi al centro del confronto. La capacità aggiuntiva ha valore limitato se l'applicazione non può prendere decisioni efficaci di collocazione e recupero. Le sole specifiche hardware non possono rivelare quanto bene queste decisioni funzionino su un carico di lavoro in evoluzione.
Lo stesso ragionamento si applica alle risorse condivise. Un riutilizzo che appare interessante per un servizio isolato richiede una valutazione separata quando altri servizi competono per l'accesso. Gli acquirenti dovrebbero esaminare l'intero ambiente operativo anziché estrapolare da una dimostrazione semplice.
Questo assegna alla scheda OCP un ruolo chiaro nella storia più ampia. Rappresenta un'altra implementazione fisica del livello proposto. Il suo valore dipende dal fatto che un sistema completo trasformi tale implementazione in un comportamento applicativo utile e ripetibile.
L'argomento più forte a favore dello storage dedicato al contesto collegherà le decisioni di collocazione ai risultati del servizio. Tali risultati dovrebbero includere reattività e lavoro utile sostenuto, insieme alle risorse necessarie per mantenerli. Dimostrare semplicemente che il contesto trova spazio da qualche parte stabilisce capacità, non beneficio.
I server convenzionali restano il confronto pertinente
L'approccio specializzato di NVIDIA deve competere con la familiarità operativa dell'infrastruttura esistente basata su server.
Questo confronto non richiede di rappresentare Intel o AMD come incapaci di supportare lo storage AI. I server convenzionali rimangono un'alternativa pratica per i team che già comprendono i requisiti di distribuzione, manutenzione e software. La familiarità ha valore quando un'organizzazione deve mantenere disponibili i servizi.
L'approccio di NVIDIA chiede agli acquirenti di accettare un design hardware e software più coordinato. Il potenziale beneficio deriva dal trattare il movimento dei dati e la gestione del contesto come responsabilità infrastrutturali che meritano un'accelerazione dedicata. L'obbligo corrispondente è dimostrare che la specializzazione migliori il servizio completo.
Anche il contesto competitivo è più complesso di NVIDIA contrapposta a ogni fornitore di storage. L'annuncio di marzo ha nominato Dell Technologies, HPE, IBM, NetApp e VAST Data tra i partner di storage. Tra i partner di produzione figuravano AIC, Supermicro e Quanta Cloud Technology.
Queste relazioni collocano fornitori esistenti all'interno dello sforzo di implementazione. Un cliente potrebbe valutare un sistema basato su STX attraverso un fornitore familiare anziché adottare un fornitore completamente separato. La partnership, tuttavia, non rende intercambiabili tutte le configurazioni risultanti.
Gli accordi di supporto influenzeranno questa valutazione. Gli acquirenti devono sapere chi è responsabile di un incidente quando i sintomi coinvolgono server, rete e software di erogazione. Un'architettura coordinata necessita comunque di un contratto operativo chiaro.
L'aggiornamento di agosto di NVIDIA sul direct storage access illustra la direzione più ampia. L'azienda ha annunciato interfacce cuFile open source, che consentono al software di accedere allo storage tramite il suo stack di storage GPU. Ha inoltre descritto il lavoro del settore sull'interoperabilità.
Questo impegno è rilevante perché i sistemi specializzati devono coesistere con altre infrastrutture. I clienti raramente valutano una scheda isolata senza considerare il software e le apparecchiature circostanti. L'interoperabilità può influire sulla facilità con cui introducono una nuova configurazione e sul margine di libertà che mantengono in seguito.
Ciò non dimostra che tutte le integrazioni rilevanti siano complete. Interfacce aperte e compatibilità in produzione rispondono a domande diverse. Gli acquirenti hanno comunque bisogno di combinazioni supportate, limitazioni documentate e di un modo per riprodurre i guasti.
Il confronto dovrebbe quindi includere la flessibilità operativa. Un'implementazione può espandersi in modo incrementale? I team possono aggiornare i componenti entro i limiti supportati? Cosa accade quando l'applicazione cambia direzione prima che l'hardware raggiunga la fine della sua vita utile?
Queste domande mantengono l'analisi ancorata alla reale scelta d'acquisto. Un design di server convenzionale può restare interessante nonostante i vantaggi di un sistema specializzato in carichi di lavoro selezionati. Al contrario, la familiarità non dovrebbe proteggere un design esistente dalle evidenze che un altro approccio serve meglio l'applicazione.
La presenza all'OCP amplia le opzioni hardware in esame. Non elimina la necessità di tale confronto né ne determina l'esito.
Le foto della scheda non possono stabilire l'economia del sistema
Le evidenze disponibili supportano un aggiornamento sull'implementazione, mentre le affermazioni su prestazioni, configurazione e funzionamento richiedono verifiche separate.
Una fotografia della scheda può aiutare a identificare i componenti visibili e suggerire scelte di packaging. Non può stabilire il comportamento di un servizio di storage completo. Trattare separatamente questi tipi di evidenza impedisce che un'osservazione hardware ragionevole diventi un'affermazione sull'applicazione non supportata da prove.
L'annuncio STX di NVIDIA di marzo ha dichiarato un throughput di token fino a cinque volte superiore rispetto allo storage tradizionale. I token sono le unità di testo che un modello elabora o genera. L'azienda ha inoltre dichiarato un'efficienza energetica fino a quattro volte superiore per il confronto dello storage ad alte prestazioni dell'architettura.
Si tratta di affermazioni di NVIDIA relative a confronti definiti. Non sono risultati verificati in modo indipendente per la scheda OCP compatta. Trasferirli a tale implementazione richiederebbe prove che colleghino configurazione, software, carico di lavoro e baseline.
La risposta appropriata è richiedere le condizioni alla base di un risultato. Gli acquirenti devono capire quale applicazione è stata eseguita, come è stato configurato il confronto e quali risorse sono state conteggiate. Senza questi dettagli, un moltiplicatore offre poche indicazioni per una singola implementazione.
Anche le medie lasciano senza risposta domande importanti. Un'applicazione può sembrare soddisfacente nel complesso mentre alcune richieste subiscono ritardi inaccettabili. Le valutazioni dovrebbero mostrare come si comporta il servizio sotto contesa e quando il suo contesto preferito non è disponibile.
La configurazione più piccola crea un'ulteriore incertezza. Un'apparente riduzione del numero di processori non stabilisce variazioni proporzionali nella spesa di sistema, nel consumo energetico o nel throughput. Altri componenti e scelte di configurazione possono influenzare il risultato.
La sicurezza rientra nella stessa discussione sulle evidenze. A maggio, NVIDIA ha annunciato controlli di accesso al contesto tramite DOCA, il suo framework software per infrastrutture. L'annuncio ha descritto capacità per l'accesso autorizzato ai file, la visibilità delle attività e l'isolamento di rete.
Queste capacità stabiliscono la direzione dichiarata da NVIDIA, piuttosto che dimostrare che una particolare configurazione cliente applichi ogni policy richiesta. Una valutazione dell'implementazione dovrebbe esaminare i controlli effettivamente forniti e le responsabilità che restano all'operatore.
Per il contesto condiviso, gli acquirenti dovrebbero chiedere come viene autorizzato l'accesso e come viene eliminato lo stato obsoleto. Dovrebbero inoltre esaminare cosa accade dopo una modifica delle autorizzazioni. Si tratta di domande pratiche di accettazione, non di accuse di un difetto nell'hardware riportato.
Esiste un ulteriore confine attorno alla parola “memoria”. Conservare lo stato di inferenza non dimostra che un'applicazione AI richiamerà informazioni corrette o produrrà una risposta migliore. La qualità dell'applicazione richiede una valutazione propria.
Una distinzione correlata compare in una base di conoscenza personale: organizzare le informazioni di origine è una questione distinta dal conservare i calcoli del modello. Gli acquirenti dovrebbero mantenere separati questi obiettivi nella stesura dei requisiti.
L'interpretazione prudente è quindi specifica. NVIDIA BlueField-4 STX ha un'altra forma hardware riportata, mentre la configurazione completa e i risultati della sua implementazione restano questioni da chiarire tramite documentazione e test.
Monitorare le configurazioni commercializzate, i risultati dei carichi di lavoro e le evidenze operative
I prossimi segnali utili dovrebbero collegare l'hardware compatto a un prodotto supportato, a un risultato riproducibile e a un'implementazione operativa.
Nei prossimi mesi, la documentazione dei partner offrirà il modo più chiaro per valutare cosa cambia con la presenza all'OCP. Altre fotografie aggiungerebbero valore limitato se lasciassero senza risposta le stesse domande sulla configurazione.
Il primo segnale è una specifica di sistema completa e ordinabile. Gli acquirenti dovrebbero cercare configurazioni di memoria supportate, dettagli di rete, opzioni di espansione, requisiti di raffreddamento e il software necessario per gestire la piattaforma. Questi dettagli trasformerebbero l'osservazione della scheda in un confronto tra prodotti.
Specifiche chiare rafforzerebbero l'interpretazione secondo cui il design compatto amplia le opzioni pratiche di implementazione. Un'ambiguità persistente lascerebbe questa conclusione provvisoria. Una piattaforma annunciata e una configurazione supportata sono traguardi diversi.
Anche la disponibilità richiede un significato preciso. Un fornitore può dimostrare l'hardware prima che i clienti possano implementarlo con supporto per la produzione. Gli acquirenti dovrebbero chiedere quali configurazioni vengono fornite, dove sono supportate e quali funzioni dipendono da software successivo.
Il secondo segnale è il test riproducibile delle applicazioni. Un confronto utile dovrebbe mantenere coerenti modello e carico di lavoro, spiegando al contempo come cambia la gestione del contesto. Dovrebbe identificare la baseline e includere l'infrastruttura necessaria su entrambi i lati.
I risultati dovrebbero coprire le richieste ricorrenti insieme alle richieste che non possono riutilizzare il contesto conservato. Dovrebbero inoltre esaminare il comportamento quando la domanda compete per risorse condivise. Ciò rivelerebbe se l'architettura aiuta nelle diverse condizioni operative del servizio.
Le evidenze di un miglioramento sostenuto dell'applicazione rafforzerebbero il caso a favore della specializzazione. Benefici limitati a una configurazione strettamente favorevole delimiterebbero gli ambiti in cui il sistema ha senso. Entrambi gli esiti aiuterebbero gli acquirenti più di un moltiplicatore da titolo non spiegato.
Il terzo segnale è costituito dalle evidenze operative provenienti dalle implementazioni. Ciò include il comportamento degli aggiornamenti, la responsabilità degli incidenti, il controllo degli accessi e il ripristino. Questi dettagli mostrano se una configurazione interessante resta gestibile dopo l'installazione iniziale.
L'annuncio di marzo di NVIDIA sulla piattaforma Vera Rubin includeva un'approvazione da parte della leadership tecnologica di Mistral AI. Tali dichiarazioni indicano interesse per l'architettura. Non sostituiscono una testimonianza di implementazione con dettagli chiari di configurazione e funzionamento.
Una testimonianza cliente utile spiegherebbe cosa è cambiato nel servizio e quale lavoro l'operatore ha dovuto svolgere. Identificherebbe le limitazioni accanto ai benefici. Questo tipo di evidenza consente a un'altra organizzazione di valutare se l'esperienza sia applicabile al proprio ambiente.
Per gli sviluppatori, il prossimo passo pratico è identificare dove la gestione del contesto influisce sul comportamento dell'applicazione prima di scegliere l'hardware. Per gli acquirenti di infrastrutture, è richiedere una configurazione completa e confrontarla con il servizio già in esecuzione. Per i produttori di storage, è spiegare in che modo l'implementazione compatta modifica integrazione e supporto.
Mantenete NVIDIA BlueField-4 STX nell'elenco di valutazione, quindi chiedete evidenze legate al vostro carico di lavoro. Iniziate con una traccia applicativa ripetibile e registrate il comportamento del sistema attuale quando il contesto viene riutilizzato, non è disponibile o compete per le risorse. Chiedete a un fornitore di eseguire lo stesso lavoro sulla configurazione proposta e di spiegare ogni dipendenza aggiuntiva. Coinvolgete il personale operativo nella revisione del risultato, perché implementazione e ripristino fanno parte della decisione insieme alla reattività. La presenza all'OCP offre a questa conversazione un punto di partenza hardware più concreto. Usate il prossimo ciclo di documentazione di prodotto e risultati misurati per decidere se lo storage di contesto dedicato risolve un problema che il vostro servizio ha davvero.
