SK hynix apre HBF al settore, ma la vera prova è l'hardware

SK hynix ha pubblicato la prima specifica High Bandwidth Flash, trasformando un livello di memoria AI proposto in un progetto tecnico aperto. L'annuncio del 4 agosto ha avuto ampia diffusione attraverso Google News, ma il nodo principale si trova sotto il titolo. HBF promette capacità fino a 512GB e una larghezza di banda fino a 3.0TB/s, ma nessun sistema HBF commerciale ha ancora convalidato questi obiettivi.

La specifica, sviluppata con Sandisk tramite l'Open Compute Project, descrive memoria flash NAND collocata tra High Bandwidth Memory e le tradizionali unità a stato solido. È destinata all'inferenza AI, in cui gli acceleratori leggono ripetutamente grandi pesi dei modelli mentre rispondono alle richieste degli utenti. Google e lo sviluppatore di processori AI Tenstorrent si sono uniti al consorzio, offrendo all'iniziativa potenziali utilizzatori oltre ai due fornitori di memoria.

Non è OpenAI ad annunciare una tecnologia di memoria. “Open” descrive la specifica e il suo modello di sviluppo, non l'azienda che crea ChatGPT. La vera sfida è tra un livello di memoria aperto e orientato alla capacità e la pratica consolidata di collocare i modelli principalmente nella costosa HBM. SK hynix dispone ora di una specifica, partner credibili e obiettivi ambiziosi. Ha ancora bisogno di silicio funzionante, supporto degli acceleratori ed economia di produzione.

SK hynix trasforma HBF in una specifica aperta

La pubblicazione offre ai progettisti di sistemi un obiettivo HBF comune, ma non un prodotto finito.

SK hynix e Sandisk hanno presentato la specifica all'apertura della conferenza Future of Memory and Storage a Santa Clara, California. L'evento si è svolto dal 4 al 6 agosto 2026. L'annuncio è arrivato dopo circa sei mesi di lavoro di standardizzazione nell'ambito di un gruppo di lavoro dell'Open Compute Project.

Le aziende avevano avviato quel gruppo di lavoro presso la sede Sandisk di Milpitas il 25 febbraio. Inizialmente avevano descritto HBF come un nuovo livello tra HBM e archiviazione SSD. La specifica appena pubblicata definisce per quel concetto capacità, classi prestazionali, interfacce, requisiti di packaging e linee guida di affidabilità.

La prima versione copre package con configurazioni di die NAND a otto o 16 strati. La capacità massima raggiunge 512GB per stack. Secondo l'annuncio pubblicato e le successive analisi tecniche, tre livelli prestazionali vanno approssimativamente da 0.4TB/s a 3.0TB/s.

L'intervallo è importante perché HBF non corrisponde a un unico livello prestazionale fisso. Le classi inferiori possono privilegiare capacità ed efficienza, mentre le implementazioni successive possono puntare a una larghezza di banda più vicina a quella dell'HBM avanzata. Questa flessibilità significa anche che il limite di 3.0TB/s non va scambiato per una garanzia di prodotto di prima generazione.

HBF utilizza flash NAND, la tecnologia non volatile presente negli SSD, anziché la DRAM usata dall'HBM. La memoria non volatile conserva i dati memorizzati senza alimentazione continua. Tuttavia, la NAND tradizionale non può alimentare un acceleratore AI a velocità neppure lontanamente paragonabili a quelle dell'HBM.

HBF affronta questo divario impilando die NAND specializzati e accedendo in parallelo a molti array interni. Un die logico di base gestisce queste connessioni e presenta un percorso molto più ampio al processore. Il package risultante richiama la filosofia di progettazione strettamente integrata dell'HBM, preservando al contempo il vantaggio di densità della NAND.

La specifica adotta inoltre Universal Chiplet Interconnect Express, o UCIe, per le connessioni tra HBF e processori host. UCIe è un'interconnessione aperta die-to-die che consente ai chiplet di scambiare dati all'interno di un package. La sua inclusione offre ai progettisti di CPU, GPU e acceleratori un percorso di integrazione condiviso.

La specifica UCIe non rende l'interoperabilità automatica. I fornitori hanno comunque bisogno di controller, gestione della memoria, correzione degli errori, packaging, firmware e supporto software. Riduce però il rischio che ogni fornitore HBF realizzi un collegamento fisico incompatibile.

Anche la pubblicazione tramite l'Open Compute Project è importante. Le specifiche OCP mirano a stabilire requisiti condivisi che più aziende possano implementare. Il suo framework di contributo distingue le specifiche di base ad ampia portata dai documenti dettagliati e pronti per la produzione.

Questa distinzione definisce lo stato attuale di HBF. SK hynix e Sandisk hanno portato l'idea oltre le slide e le discussioni private. Non hanno ancora fornito un componente pronto per la produzione che i produttori di server possano ordinare e qualificare.

Per i lettori arrivati tramite Google News, questa differenza è il primo dato da ricordare. SK hynix ha presentato una specifica standard, non uno stack di memoria da 512GB disponibile in commercio. L'annuncio definisce la destinazione e alcune delle strade che conducono a essa.

Perché l'inferenza AI ha bisogno di un altro livello di memoria

HBF esiste perché l'inferenza AI richiede sia un accesso veloce sia molta più capacità di quella che HBM può offrire economicamente.

L'addestramento riceve la maggior parte dell'attenzione pubblica, ma l'inferenza trasforma un modello addestrato in un servizio operativo continuo. Durante l'inferenza, i processori accedono ripetutamente ai pesi del modello, ai dati di attenzione e al contesto memorizzato nella cache. Modelli più grandi e conversazioni più lunghe aumentano la quantità di dati che deve restare vicina al calcolo.

HBM serve la parte più veloce di questo carico di lavoro. Impila die DRAM accanto a un acceleratore e li connette tramite un'interfaccia ampia. Questo design offre una larghezza di banda eccezionale e una bassa latenza, ma la capacità rimane limitata e la produzione è complessa.

Gli SSD risolvono il problema della capacità a un costo inferiore per bit. Tuttavia, i dati devono attraversare controller e interfacce di archiviazione prima di raggiungere l'acceleratore. Questo percorso introduce latenza e offre molta meno larghezza di banda rispetto alla memoria a livello di package.

I costruttori di sistemi affrontano quindi una scelta scomoda. Possono acquistare più acceleratori dotati di HBM per ospitare un modello di grandi dimensioni, anche quando le risorse di calcolo restano sottoutilizzate. In alternativa, possono spostare i dati del modello dagli SSD e accettare risposte più lente.

HBF tenta di creare una terza opzione. Colloca centinaia di gigabyte di NAND persistente molto più vicino al processore e accede a tale NAND tramite canali altamente paralleli. I dati che cambiano frequentemente possono rimanere in HBM, mentre set di pesi più grandi possono risiedere in HBF.

Questo approccio è particolarmente rilevante per i modelli mixture-of-experts. Tali modelli contengono molti gruppi di parametri specializzati, ma ne attivano solo un sottoinsieme per ciascun token. Il loro fabbisogno totale di capacità può essere enorme, anche quando ogni fase di inferenza utilizza un insieme di lavoro più ridotto.

Un livello orientato alla capacità potrebbe mantenere più esperti vicino a ciascun acceleratore. Il software sposterebbe i dati attivi nella HBM oppure vi accederebbe direttamente da HBF, a seconda dell'architettura finale. Entrambi i metodi potrebbero ridurre i trasferimenti dagli SSD remoti e diminuire il numero di acceleratori necessari esclusivamente per la capacità di memoria.

Sandisk aveva in precedenza modellato HBF usando il modello Llama 3.1 405B di Meta. L'azienda ha dichiarato che le prestazioni simulate di lettura dei pesi si sono avvicinate entro il 2.2 percento a quelle di un ipotetico sistema con capacità HBM illimitata. Quel risultato resta una simulazione aziendale, non un benchmark di produzione indipendente.

La sua analisi dell'architettura HBF ha inoltre descritto uno stack a 16 die con capacità di 512GB. Sandisk ha affermato che il progetto potrebbe avvicinarsi all'ingombro, all'altezza dello stack e al profilo energetico di HBM4. Si tratta di obiettivi di sviluppo finché i prodotti fisici non saranno sottoposti a test.

Il confronto non dovrebbe far intendere che la NAND sia diventata DRAM. HBM conserva vantaggi fondamentali in termini di latenza e resistenza. HBF è pensata per integrare HBM nei carichi di inferenza ad alta intensità di lettura, non per sostituire ogni byte della memoria dell'acceleratore.

Questo posizionamento distingue l'annuncio da un'altra storia su SSD più veloci. HBF porta la flash nel package del processore e la espone tramite un'interfaccia orientata alla memoria. L'architettura modifica dove risiedono i dati, come i processori li raggiungono e come i sistemi ripartiscono il lavoro tra i livelli di memoria.

Potrebbe anche incidere sui costi dei servizi AI. Se un acceleratore può indirizzare una quantità di dati del modello sostanzialmente maggiore, gli operatori potrebbero aver bisogno di meno sistemi replicati per carichi di lavoro vincolati dalla capacità. Ciò sarebbe rilevante quando è la capacità di memoria, anziché il throughput aritmetico, a determinare il numero di server.

L'opportunità va oltre i modelli di frontiera. I sistemi di retrieval, i motori di raccomandazione e i carichi di lavoro di ricerca vettoriale mantengono grandi raccolte di dati che i processori leggono ripetutamente. Anche i sistemi edge potrebbero mantenere localmente modelli più grandi senza dipendere da trasferimenti costanti da archiviazione più lenta.

Nessuno di questi scenari è garantito. Il software deve collocare intelligentemente i dati tra HBM, HBF e SSD. I carichi di lavoro con scritture frequenti o requisiti di latenza stringenti potrebbero restare poco adatti. Il valore di HBF dipende dall'abbinamento dei dati giusti al livello giusto.

La sfida principale è la capacità di HBF contro la dipendenza da HBM

SK hynix non sta cercando di superare HBM in ogni attività; sta mettendo in discussione l'assunto che l'inferenza debba risiedere principalmente all'interno di HBM.

Questa distinzione rende più credibile la proposta HBF. Un confronto diretto tra NAND e DRAM metterebbe in evidenza i limiti della NAND in termini di latenza e resistenza. Un design a livelli chiede invece se ogni peso del modello meriti spazio nella memoria più veloce e costosa.

Secondo la specifica iniziale, uno stack HBF può contenere fino a 512GB. Gli stack HBM attuali offrono una capacità molto inferiore, anche se le nuove generazioni ne aumentano la densità. HBF può quindi collocare un pool di dati persistenti molto più grande accanto all'acceleratore.

La classe prestazionale HBF più elevata raggiunge una larghezza di banda dichiarata di 3.0TB/s. Questa cifra entra nel territorio di banda associato ai singoli stack HBM di prossima generazione. Tuttavia, la specifica copre un ampio intervallo che parte da circa 0.4TB/s, e la sola larghezza di banda non rivela la latenza di accesso.

Un processore può inoltre utilizzare simultaneamente più stack HBM. Confrontare uno stack HBF con uno stack HBM non descrive la larghezza di banda di un intero acceleratore. I sistemi reali probabilmente combineranno entrambe le tecnologie e assegneranno a ciascuna un ruolo diverso.

La specifica aperta esercita pressione su più soggetti dei soli fornitori HBM. Sfida anche i fornitori di acceleratori che controllano sistemi di memoria strettamente integrati. Nvidia, AMD, Google e altri progettisti di chip devono decidere se HBF aggiunga valore sufficiente da giustificare nuovi controller, package e software.

La partecipazione di Google fornisce al consorzio un'importante fonte di conoscenza sui carichi di lavoro. Google gestisce grandi servizi AI e progetta le proprie Tensor Processing Units. Il suo coinvolgimento segnala che almeno un operatore hyperscale vede valore nell'esplorare un livello di memoria ricco di capacità.

Non conferma l'adozione in una futura TPU. L'annuncio del consorzio non contiene alcun impegno di prodotto da parte di Google, calendario di implementazione o volume d'acquisto. La partecipazione può influenzare uno standard senza produrre un dispositivo commerciale.

Tenstorrent offre una prospettiva diversa. L'azienda sviluppa processori AI e adotta strategie di architettura aperta orientate ai chiplet. HBF connessa tramite UCIe è in linea con questo approccio, anche se Tenstorrent non ha annunciato un processore commerciale contenente HBF.

Le aziende assenti dall'annuncio contano quanto quelle presenti. Nvidia, AMD, Intel, Micron, Samsung, Kioxia, Broadcom, Marvell e Qualcomm non sono state indicate come partecipanti. Il loro eventuale supporto amplierebbe l'ecosistema di fornitori e processori.

Una specifica aperta può ridurre le barriere all'adozione, ma modifica anche le dinamiche competitive. SK hynix e Sandisk stanno condividendo una parte sufficiente dell'interfaccia da incoraggiare altre implementazioni. Se HBF avrà successo, i concorrenti potrebbero entrare nel mercato e spingere prezzi o margini al ribasso.

Questo è il compromesso necessario per diventare uno standard. Un'interfaccia proprietaria può proteggere un singolo fornitore, ma avere difficoltà a ottenere un ampio supporto dai produttori di processori. Un'interfaccia aperta può favorire l'adozione, spostando al contempo la concorrenza verso produzione, packaging, resa e qualità dei controller.

SK hynix comprende entrambi i lati di questo calcolo. L'azienda è diventata una forza importante nella memoria per l'AI grazie alla produzione di HBM e a strette partnership con i produttori di acceleratori. Con HBF, può collegare la propria competenza nella DRAM, il portafoglio NAND e le capacità avanzate di packaging.

Sandisk contribuisce con il concetto originale di HBF e la tecnologia di processo NAND. Il suo accordo di standardizzazione del 2025 puntava a una larghezza di banda paragonabile a HBM con una capacità da otto a 16 volte superiore. Ha inoltre definito una roadmap iniziale per i campioni.

La partnership combina quindi incentivi complementari. Sandisk vuole avvicinare la flash al calcolo AI. SK hynix vuole fornire una quota maggiore della gerarchia di memoria, anziché proteggere HBM come unico livello premium.

Ecco perché la storia è più ampia di quanto suggerisca la sua cornice su Google News. La prima specifica crea uno spazio in cui produttori di memoria, progettisti di processori e operatori cloud possono negoziare un'architettura condivisa. Il vincitore non sarà deciso soltanto dal documento.

La specifica presenta ancora un divario di credibilità hardware

Il rischio maggiore di HBF è semplice: i suoi numeri più attraenti descrivono una specifica e proiezioni dei fornitori, non silicio di produzione qualificato.

Offrire 512GB in uno stack denso introduce sfide produttive. Sedici die NAND specializzati devono collegarsi in modo affidabile tramite packaging avanzato. Lo stack necessita di un comportamento termico accettabile, deformazione gestibile, resa sufficiente e un die logico capace di coordinare un parallelismo massiccio.

La larghezza di banda crea un'altra sfida. Gli array NAND devono operare simultaneamente per avvicinarsi alle classi prestazionali proposte. Il controller deve pianificare le letture, correggere gli errori, gestire i blocchi difettosi e mantenere un servizio prevedibile sotto carichi di lavoro impegnativi.

La latenza resta meno chiaramente definita della larghezza di banda. Un picco di 3.0TB/s indica quanti dati possono essere trasferiti in condizioni favorevoli. Non dice con quale rapidità ritorni una piccola richiesta né come cambi la prestazione con schemi di accesso irregolari.

L'inferenza AI spesso trasmette in streaming grandi pesi dei modelli, una modalità che si adatta meglio alla flash rispetto alle scritture transazionali casuali. Tuttavia, le cache di attenzione e altri stati di runtime possono cambiare rapidamente. Queste strutture potrebbero ancora richiedere HBM o DRAM convenzionale.

Anche la resistenza necessita di evidenze sul campo. HBF si basa su NAND, che supporta un numero finito di cicli di programmazione e cancellazione. L'archiviazione di modelli a prevalenza di letture riduce questa preoccupazione, ma i sistemi di produzione richiedono comunque aggiornamenti, riequilibrio e recupero dai guasti.

Anche le affermazioni sui consumi richiedono una convalida indipendente. NAND conserva i dati senza alimentazione di refresh, ottenendo un vantaggio teorico sulla DRAM. Tuttavia, il die di base, l'interfaccia ampia, la correzione degli errori e l'accesso parallelo agli array consumano tutti energia.

La precedente scheda tecnica di Sandisk descriveva un obiettivo di prima generazione pari a 1.6TB/s e 512GB in uno stack da 16 die. Rivendicava inoltre uno dei costi per bit più bassi tra le tecnologie di memoria. Né SK hynix né Sandisk hanno pubblicato un prezzo commerciale finale o verificato il costo totale del sistema.

L'economia includerà più dei die NAND. Packaging avanzato, die di base del controller, integrazione UCIe, raffreddamento, progettazione delle schede e sviluppo software aggiungono tutti costi. Le perdite di resa diventano particolarmente importanti negli stack alti che contengono molti componenti.

L'ampia gamma da 0.4TB/s a 3.0TB/s della specifica crea un'altra incertezza. Può supportare diverse generazioni di prodotti, ma rende meno utili le affermazioni generiche sulle “prestazioni HBF”. Gli acquirenti dovranno esaminare classe, capacità, latenza, resistenza e consumo di ogni implementazione.

Esiste anche un ciclo di adozione. I fornitori di memoria necessitano di impegni da parte dei produttori di processori prima di investire pesantemente nella produzione. I fornitori di processori vogliono campioni affidabili e più fornitori prima di riprogettare i package. Gli operatori cloud vogliono sistemi testati prima di riscrivere il software di gestione della memoria.

Gli standard aperti possono interrompere questo ciclo offrendo a ogni partecipante un obiettivo stabile. Non possono eliminare il rischio finanziario. Il consorzio HBF deve trasformare l'interesse in progetti di riferimento, controller, strumenti di convalida e impegni di acquisto.

La roadmap pubblica più favorevole è arrivata da Sandisk nel 2025. Puntava ai primi campioni di memoria HBF nella seconda metà del 2026. Prevedeva campioni di dispositivi per l'inferenza AI che utilizzano HBF all'inizio del 2027.

La roadmap per i campioni non è diventata un programma di produzione in volumi. I campioni consentono ai partner di testare la fattibilità. Non stabiliscono resa, disponibilità o affidabilità nei data center.

Questo divario dovrebbe influenzare il modo in cui i lettori interpretano l'annuncio. SK hynix non ha dimostrato che HBF risolva il muro di memoria dell'inferenza. Ha pubblicato una proposta dettagliata per costruire e collegare l'hardware pertinente.

La posizione scettica più solida non è che HBF manchi di uno scopo utile. Il problema della capacità di memoria è reale e le architetture a livelli sono una risposta ingegneristica consolidata. La preoccupazione è se questa particolare implementazione possa offrire benefici sufficienti una volta considerati latenza, packaging, software e costi.

HBF aperto mette pressione sul più ampio mercato della memoria

La specifica costringe le aziende di memoria e acceleratori a rispondere, anche se decidono di non adottare HBF.

Samsung e Micron competono direttamente con SK hynix nell'HBM. Kioxia compete nella NAND e condivide legami produttivi con Sandisk. Ciascuna deve ora scegliere tra partecipare, sviluppare un'implementazione compatibile o promuovere una risposta diversa.

Aderire rafforzerebbe la legittimità di HBF, ma esporrebbe i partecipanti a uno standard inizialmente plasmato da SK hynix e Sandisk. Restare fuori preserva l'indipendenza strategica, ma rischia di lasciare che due concorrenti definiscano un'interfaccia emergente.

I fornitori di acceleratori affrontano un calcolo simile. Un livello flash ricco di capacità potrebbe consentire loro di supportare modelli più grandi senza aggiungere una quantità equivalente di capacità HBM. Potrebbe anche complicare la progettazione dei package e indebolire la semplicità dell'architettura di memoria esistente.

La posizione di Nvidia merita particolare attenzione perché i suoi acceleratori sostengono gran parte dell'attuale mercato dell'infrastruttura AI. Nvidia non ha annunciato l'adozione di HBF. Senza il supporto delle principali piattaforme di acceleratori, HBF potrebbe rimanere limitata al silicio personalizzato e ai sistemi di inferenza specializzati.

La partecipazione di Google compensa in parte questo rischio. Un hyperscaler con processori personalizzati può adottare una nuova architettura di memoria senza attendere una roadmap per GPU commerciali. Un'implementazione interna di successo potrebbe fornire evidenze tecniche e volumi significativi.

Tenstorrent può verificare se l'interfaccia aperta funziona per un ecosistema di processori più piccolo. La sua partecipazione amplia inoltre il consorzio oltre le consolidate aziende di memoria e cloud. Tuttavia, nessuno dei due partecipanti garantisce attualmente l'accettazione nel mercato di massa.

L'iniziativa HBF segue uno schema consolidato nell'hardware per data center. Alcune aziende definiscono un'interfaccia comune, la pubblicano tramite un'organizzazione di settore e reclutano utenti prima che i prodotti maturino. Il successo dipende dal fatto che i concorrenti percepiscano l'interoperabilità come più preziosa del controllo.

HBM ha seguito un percorso istituzionale diverso attraverso gli standard JEDEC e un coordinamento stretto tra fornitori di memoria e progettisti di processori. Il percorso OCP di HBF avvicina gli operatori cloud e gli architetti di sistema al processo di definizione della specifica.

Questo approccio è adatto al carico di lavoro previsto. L'infrastruttura per l'inferenza AI comprende processori, memoria, storage, rete, orchestrazione e software applicativo. Ottimizzare soltanto il componente memoria trascurerebbe importanti colli di bottiglia del sistema.

Uno stack HBF da 512GB non può migliorare le prestazioni quando il software richiede ripetutamente piccoli blocchi sparsi. Diventa più utile quando compilatori e runtime organizzano i pesi per lunghe letture sequenziali. L'architettura del sistema determina se la larghezza di banda pubblicizzata si traduce in lavoro produttivo.

Gli sviluppatori potrebbero quindi incontrare HBF tramite il software prima di toccare le specifiche hardware. I framework avranno bisogno di politiche di allocazione, strumenti di profiling e controlli di posizionamento. Gli operatori avranno bisogno di osservabilità attraverso i livelli HBM, HBF e SSD.

Questo ricorda il più ampio lavoro di gestione delle informazioni in base alla rilevanza e alla frequenza di accesso. Una base di conoscenza ricercabile separa anch'essa il contesto attivo da raccolte conservate più ampie. HBF applica una gerarchia correlata ai dati delle macchine alla velocità dell'hardware.

L'analogia ha dei limiti, ma il principio è utile. La risorsa più veloce resta scarsa. I sistemi migliorano quando mantengono vicine le informazioni immediatamente necessarie e spostano il materiale meno urgente in un livello di supporto più ampio.

Questo è l'argomento strategico di HBF. Non deve sostituire HBM per diventare importante. Deve rendere la capacità HBM meno decisiva per un insieme significativo di carichi di lavoro di inferenza.

Cosa osservare dopo che i titoli di Google News saranno svaniti

Tre segnali determineranno se HBF diventerà uno standard di memoria per l'AI o resterà un'ambiziosa architettura su carta.

Il primo segnale è la consegna di campioni fisici. La roadmap pubblica di Sandisk puntava a campioni di memoria HBF nella seconda metà del 2026. Package funzionanti consentirebbero ai partner di misurare latenza, larghezza di banda sostenuta, resistenza, comportamento termico e consumo in condizioni ripetibili.

Risultati vicini alle classi prestazionali dichiarate rafforzerebbero l'ipotesi che NAND massivamente parallela possa fungere da memoria vicina al processore. Ritardi o ampi divari tra prestazioni di picco e sostenute indebolirebbero l'argomento della specifica incentrato sulla capacità.

Il benchmark più utile confronterebbe sistemi completi, non package isolati. Dovrebbe misurare token al secondo, tempo al primo token, energia per token e costo totale del server. Dovrebbe inoltre indicare quanta parte dei dati rimane in HBM.

Il secondo segnale è un progetto di processore nominato. Google e Tenstorrent hanno aderito al consorzio, ma nessuna delle due ha annunciato un acceleratore di produzione con HBF. Un chip, un package o una piattaforma di riferimento concreta dimostrerebbe che il lavoro di integrazione è andato oltre la partecipazione consultiva.

Un campione di dispositivo per l'inferenza all'inizio del 2027, in linea con il precedente calendario di Sandisk, sosterrebbe le affermazioni di esecuzione del consorzio. Il silenzio dei partner di processori suggerirebbe che il lavoro su packaging o software resta irrisolto.

L'adesione di Nvidia, AMD o di un altro fornitore commerciale di acceleratori sarebbe particolarmente significativa. La loro partecipazione estenderebbe HBF oltre i sistemi personalizzati e migliorerebbe le sue possibilità di attirare più fornitori di memoria.

Il terzo segnale è un supporto più ampio da parte di fornitori e software. Uno standard aperto diventa resiliente quando aziende indipendenti possono realizzare componenti compatibili. Samsung, Micron, Kioxia, fornitori di controller, aziende di packaging e operatori cloud sono quindi fondamentali.

Il supporto software conta altrettanto. I framework AI devono riconoscere HBF come un livello distinto e collocare i dati in base agli schemi di accesso. Senza questo livello, gli sviluppatori dovrebbero affrontare ottimizzazione manuale e prestazioni incoerenti.

L'annuncio di agosto di SK hynix stabilisce un importante punto di controllo. L'azienda e Sandisk hanno definito capacità, classi prestazionali, configurazioni degli stack, connettività e obiettivi di affidabilità. Google e Tenstorrent hanno aggiunto una partecipazione industriale credibile.

L’annuncio non risolve le questioni più difficili. Nessun sistema di produzione pubblico ha dimostrato il dichiarato equilibrio tra capacità, larghezza di banda, latenza, consumo energetico e costo. Nessun acceleratore commerciale di primo piano si è impegnato a supportare l’interfaccia.

I lettori che seguono la vicenda tramite Google News dovrebbero osservare questi tre segnali, anziché un’altra serie di confronti teorici. Cercate silicio misurato, un acceleratore identificato per nome e ulteriori implementatori indipendenti.

Se compariranno tutti e tre, HBF potrà diventare un complemento pratico a HBM e SSD. Se invece continueranno ad accumularsi solo specifiche e simulazioni, il settore continuerà ad affrontare la capacità per l’inferenza con più HBM, storage convenzionale e ottimizzazione software.

Il prossimo titolo davvero decisivo dovrebbe quindi contenere il nome di un prodotto e risultati misurati su carichi di lavoro. Fino ad allora, SK hynix ha aperto una strada promettente attraverso il muro della memoria per l’AI, ma l’hardware non lo ha ancora superato.