Samsung BM1773 SSD da 256TB riduce lo spazio per lo storage AI, ma la velocità non è il punto
Samsung ha presentato il Samsung BM1773 SSD da 256TB, inserendo 245,76TB di capacità flash utilizzabile nel compatto form factor E3.S per server. Questa combinazione conta più della sola capacità dichiarata. L'unità si rivolge alle infrastrutture AI che devono conservare dataset enormi senza destinare ulteriore spazio nei rack, potenza e capacità di raffreddamento allo storage.
Il BM1773 non è l'SSD enterprise più veloce di Samsung. Le sue prestazioni massime di scrittura sequenziale sono pari a 4,5GB/s, mentre il PM1763 di Samsung, orientato alle prestazioni, raggiunge velocità di trasferimento molto più elevate su PCIe 6.0. Questa tensione è voluta: Samsung separa la capacità dalla velocità di picco e sostiene che i data center AI abbiano bisogno di unità specializzate per ciascun compito.
La competizione rilevante è quindi tra storage flash denso e infrastrutture di capacità estese. Micron, Kioxia, Sandisk e Solidigm perseguono la stessa opportunità. L'elemento distintivo di Samsung è l'inserimento di un'unità della classe nominale da 256TB in E3.S, un form factor enterprise compatto adatto a configurazioni server ad alta densità.
Il Samsung BM1773 SSD da 256TB mette la densità al primo posto
Il BM1773 trasforma un noto traguardo di capacità in un'affermazione sul packaging molto più significativa.
Samsung descrive il BM1773 come il primo SSD E3.S a offrire fino a 245,76TB di capacità utilizzabile. Alcune pubblicazioni arrotondano questa cifra a 256TB, riflettendo la capacità grezza o nominale dell'unità. Chi confronta i prodotti dovrebbe tenere presente questa distinzione, poiché le unità enterprise sono solitamente indicate in base alla capacità utilizzabile.
Il formato E3.S è un Enterprise and Data Center Standard Form Factor progettato per storage server manutenibile e gestito termicamente. È molto più piccolo del formato E3.L più lungo impiegato da alcune unità concorrenti ad alta capacità. Inserire 245,76TB in E3.S consente a un produttore di server di aggiungere più flash senza adottare un dispositivo più grande o riprogettare il sistema attorno a numerose unità di capacità inferiore.
Samsung aveva già mostrato un concept di SSD da 256TB nel 2023. Il BM1773 fornisce l'identità di prodotto e l'architettura tecnica che mancavano a quella precedente dimostrazione. Utilizza la V-NAND QLC di nona generazione di Samsung, inclusi die da 2 terabit, con un controller PCIe 5.0 a 16 canali.
La NAND QLC memorizza quattro bit in ogni cella di memoria. Questo aumenta la capacità per unità di silicio, ma tradizionalmente comporta una resistenza alle scritture e prestazioni inferiori rispetto alla NAND TLC, che memorizza tre bit per cella. Il BM1773 dipende quindi dalla progettazione del controller, dal firmware, dalla gestione degli errori e dal collocamento dei carichi di lavoro per rendere pratica una densità estrema.
Secondo le specifiche del BM1773, l'unità offre scritture sequenziali fino a 4,5GB/s e scritture casuali fino a 50.000 operazioni di input-output al secondo. Samsung non ha presentato queste cifre come record prestazionali. Descrivono un'unità di capacità destinata a dataset grandi e per lo più persistenti.
La sua valutazione di resistenza è più rivelatrice. Samsung afferma che il BM1773 supporta 0,6 scritture dell'unità al giorno, comunemente abbreviato in DWPD. Tale valutazione significa che un operatore può scrivere ogni giorno una quantità di dati pari al 60 percento della capacità utilizzabile dell'unità durante il periodo di garanzia applicabile.
Su un dispositivo da 245,76TB, 0,6 DWPD corrisponde a circa 147TB di scritture al giorno. I limiti effettivi di implementazione dipenderanno dai termini finali di qualificazione di Samsung e dal comportamento del carico di lavoro. Tuttavia, questa valutazione colloca l'unità ben oltre lo storage che riceve solo scritture di archiviazione occasionali.
Samsung afferma inoltre che la resistenza in termini di byte totali scritti è raddoppiata rispetto alla precedente generazione QLC. Questa affermazione non è stata ancora convalidata in modo indipendente, ma affronta direttamente una preoccupazione comune sull'uso di QLC ad alta densità in infrastrutture AI attive.
Un'altra funzione, Die Failure Recovery, è progettata per mantenere operativo l'SSD dopo il guasto di un singolo die NAND. La gestione convenzionale dei guasti può costringere un'intera unità a entrare in uno stato limitato di sola lettura. Samsung afferma che il suo meccanismo di recupero isola il problema mantenendo il normale funzionamento.
Questa capacità diventa più importante all'aumentare della capacità. Un guasto che coinvolga un'unità da 245,76TB può potenzialmente mettere molti più dati dietro un singolo evento di manutenzione rispetto a un guasto che coinvolga un dispositivo più piccolo. Il consolidamento della capacità funziona solo se affidabilità e recupero migliorano insieme ad essa.
Samsung elenca inoltre il supporto per Commercial National Security Algorithm Suite 2.0 e la certificazione FIPS sub-chip. Queste caratteristiche si rivolgono agli operatori che richiedono controlli di sicurezza a livello hardware insieme alla densità. Lo stato esatto delle certificazioni e i requisiti di qualificazione dei clienti saranno importanti quando il prodotto entrerà in una distribuzione più ampia.
Il risultato non è semplicemente un SSD più grande. Samsung sta cercando di rendere lo storage QLC estremamente denso sufficientemente manutenibile per i server di produzione, dove capacità, disponibilità, sicurezza e resistenza prevedibile devono coesistere.
La crescita dei dati AI sta trasformando lo spazio nei rack in un vincolo
L'infrastruttura AI considera sempre più la densità dello storage un problema di abilitazione del calcolo, non una metrica di acquisto secondaria.
Le pipeline di addestramento conservano dataset sorgente, dati elaborati, checkpoint, embedding, log e più versioni dei modelli. L'inferenza aggiunge un'altra categoria in espansione: i dati della cache chiave-valore, o KV cache, che memorizzano informazioni di attenzione intermedie affinché un modello possa continuare a elaborare il contesto senza ricalcolare tutto.
La KV cache attiva risiede di solito nella costosa memoria veloce vicina agli acceleratori. I dati della cache meno recenti o consultati meno frequentemente possono spostarsi su storage più lento quando il software supporta il tiering. Questo passaggio crea un'opportunità per SSD ad alta capacità che si collocano tra la memoria costosa e i sistemi di capacità più lenti.
Samsung presenta esplicitamente il BM1773 come livello di cache per object storage basato su HDD e come spazio per dati KV cache freddi e di lunga durata. “Freddo” non significa sacrificabile. Significa che i dati ricevono accessi meno frequenti e non giustificano l'occupazione continua della scarsa memoria GPU o della DRAM.
All'OCP Global Summit, Samsung ha collegato gli SSD ad alta densità al pooling della memoria CXL e all'offloading della KV cache supportato da SSD. Compute Express Link, o CXL, consente ai processori di accedere a memoria aggregata o espansa tramite un'interconnessione standardizzata. L'offloading su SSD estende questa gerarchia con un livello più grande, più lento e meno costoso.
Questa architettura è importante perché aggiungere GPU non risolve automaticamente la capacità di memoria. Contesti lunghi, utenti simultanei e sistemi agentici possono creare grandi quantità di stato attorno a ogni richiesta di inferenza. I server hanno bisogno di un luogo in cui collocare tale stato quando la memoria più veloce si riempie.
La generazione aumentata dal recupero crea un'altra domanda di storage. I sistemi RAG cercano dati esterni prima di generare una risposta, spesso utilizzando embedding memorizzati in indici vettoriali. Le grandi implementazioni possono mantenere diversi indici, versioni, livelli di controllo degli accessi e copie delle fonti.
Questi carichi di lavoro non richiedono tutti le stesse prestazioni. I metadati e gli indici consultati frequentemente possono giustificare supporti più veloci. Grandi raccolte di fonti, embedding meno attivi, checkpoint e oggetti in cache possono privilegiare la capacità. Il Samsung BM1773 SSD da 256TB è destinato a questo secondo gruppo.
L'alta capacità riduce anche il numero di componenti. Sostituire diverse unità più piccole con un solo dispositivo denso può ridurre il numero di slot, connettori, controller e punti di assistenza necessari per un dataset fisso. Può liberare spazio nei server per acceleratori, networking o memoria aggiuntiva.
Tuttavia, un numero inferiore di unità può anche aumentare la quantità di dati associata a ciascun dominio di guasto. Gli operatori devono esaminare il comportamento di ricostruzione, la ridondanza, i limiti dei controller e il tempo di recupero. Un dispositivo denso non elimina la necessità di repliche o erasure coding.
Anche l'energia è un vincolo. I data center non ricevono capacità elettrica illimitata semplicemente perché la domanda aumenta. Ogni watt usato dallo storage e dal raffreddamento compete con processori, GPU, networking e memoria. Uno storage più denso può aiutare gli operatori a mantenere più dati vicini al calcolo senza moltiplicare il numero di unità.
Samsung ha formulato un argomento simile per il suo precedente concept da 256TB, affermando che un dispositivo poteva fornire la capacità di otto unità da 32TB utilizzando un settimo della loro potenza combinata. Tale confronto riguardava il precedente progetto Samsung, non una misurazione BM1773 verificata. Non dovrebbe essere considerato una specifica finale di efficienza per il nuovo prodotto.
La direzione più ampia rimane credibile. Il consolidamento della capacità può ridurre l'infrastruttura di supporto, anche quando i risparmi esatti variano in base allo chassis e al carico di lavoro. La valutazione reale deve avvenire a livello di server e rack, dove raffreddamento, ridondanza, potenza a riposo e capacità utilizzabile influenzano il risultato.
Per gli acquirenti AI, la domanda centrale non è più se lo storage sia veloce in isolamento. È se l'intera gerarchia mantenga riforniti gli acceleratori senza sprecare memoria premium per dati che non la richiedono.
La QLC densa scambia la velocità di picco con più dati AI per slot
La scommessa centrale di Samsung è che l'unità di storage AI più utile non sia sempre quella con il punteggio di benchmark più alto.
La cifra massima di 4,5GB/s per la scrittura sequenziale del BM1773 appare modesta rispetto agli SSD moderni orientati alle prestazioni. Il PM1763 di Samsung, che utilizza PCIe 6.0 e NAND TLC, supporta letture sequenziali fino a 28,4GB/s e scritture fino a 21,9GB/s nelle sue configurazioni iniziali.
Questo divario illustra due ruoli di prodotto distinti. Il PM1763 è progettato per server AI e di calcolo ad alte prestazioni. Samsung ha avviato la produzione di massa di questa unità in capacità che includono 4TB, 8TB e 16TB, secondo il comunicato PCIe 6.0 dell'azienda.
Il BM1773 privilegia la capacità. La sua architettura PCIe 5.0 a 16 canali deve coordinare un numero enorme di die QLC, ma l'unità non è pensata per sostituire un dispositivo TLC di fascia alta in ogni carico di lavoro. È più utile intenderla come un livello di storage denso per dati che devono rimanere prontamente accessibili.
Questa specializzazione può rendere più efficiente la progettazione dei server. Un sistema potrebbe utilizzare SSD ad alte prestazioni per dati attivi e operazioni a elevata intensità di scrittura, quindi utilizzare unità della classe BM1773 per raccolte più grandi orientate alla lettura. Il software decide quali dati appartengono a ciascun livello.
L'approccio ricorda il tiering della memoria. HBM si trova più vicina agli acceleratori e fornisce una larghezza di banda eccezionale. La DRAM offre una memoria di sistema più ampia. I dispositivi CXL possono espandere o aggregare la capacità. Gli SSD NVMe aggiungono un livello persistente, mentre object storage e dischi rigidi conservano informazioni più fredde.
Nessun singolo livello vince ogni confronto. I supporti più veloci costano di più, consumano spazio scarso o offrono minore capacità. I supporti più densi di solito sacrificano parte delle prestazioni o della resistenza. Il compito ingegneristico consiste nel mantenere i dati sul livello meno costoso che soddisfi comunque i requisiti di latenza e throughput.
Il BM1773 rafforza il livello SSD aumentando la quantità di dati disponibile in ogni slot. Samsung afferma che può servire grandi dataset multimodali, cache di oggetti e contesto di inferenza di lunga durata. Queste affermazioni sono sensate come scenari di destinazione, ma i risultati reali dipenderanno dal software di orchestrazione.
Un'unità non può decidere da sola quale KV cache debba uscire dalla memoria GPU. Il framework di inferenza, lo stack di storage e il percorso di rete devono coordinare questo spostamento. Un tiering inefficace potrebbe aggiungere una latenza sufficiente a compromettere i risparmi ottenuti grazie alla maggiore capacità.
L'accesso diretto allo storage dagli acceleratori presenta un problema simile. Un'elevata velocità di trasmissione sequenziale è utile, ma le prestazioni end-to-end includono dimensione delle richieste, profondità delle code, accesso ai metadati, trasferimenti di rete e decompressione. Una scheda tecnica non può stabilire come l'unità si comporterà in ogni piattaforma AI.
I supporti QLC aggiungono sensibilità al carico di lavoro. Sono adatti a implementazioni ad alta capacità e a prevalenza di lettura, ma piccole scritture sostenute e riscritture frequenti possono rivelarne le caratteristiche più deboli. La classificazione Samsung di 0,6 DWPD amplia la gamma di carichi di lavoro possibili, ma gli acquirenti necessitano comunque di misurazioni realistiche dell'amplificazione di scrittura.
L'amplificazione di scrittura si verifica quando l'SSD scrive internamente più dati di quanti ne abbia richiesti l'host. Garbage collection, spostamento dei dati e gestione degli errori possono aumentare questo sovraccarico. Man mano che un'unità si riempie, il comportamento delle applicazioni e il firmware diventano sempre più importanti.
Anche il recupero dai guasti dei die di Samsung merita un esame approfondito. Mantenere un'unità online dopo il guasto di un die NAND è prezioso, soprattutto a questa capacità. Gli operatori vorranno sapere come l'evento influenzi prestazioni, protezione dei dati, avvisi e procedure di sostituzione.
La densità dell'unità crea quindi sia il suo vantaggio sia il suo onere. Ogni slot contiene più informazioni utili, ma la qualificazione deve dimostrare che il sistema possa gestire tali informazioni in modo affidabile in caso di guasto, utilizzo intenso e servizio continuativo.
Micron e Solidigm mostrano perché la sola capacità non deciderà il mercato
Samsung è entrata in una corsa attiva alla densità, in cui disponibilità e qualificazione contano quanto la capacità nominale.
Micron offre la sfida diretta più chiara. Il suo portafoglio 6600 ION include un'unità E3.S da 122,88TB e un modello E3.L da 245,76TB. Il più lungo dispositivo E3.L corrisponde alla classe di capacità utilizzabile del BM1773 di Samsung, mentre la rivendicazione di Samsung si basa sull'inserimento di quella capacità in hardware E3.S più piccolo.
Micron definisce la sua unità da 245,76TB l'SSD commercialmente disponibile con la maggiore capacità e indica 256TB come capacità raw. Il suo portafoglio 6600 ION utilizza NAND QLC di nona generazione e PCIe 5.0. Micron punta a data lake AI, object storage, analisi, infrastrutture cloud e altre implementazioni a elevata intensità di lettura.
La formulazione “commercialmente disponibile” evidenzia la sfida immediata di Samsung. Una presentazione definisce una direzione tecnica, ma i clienti necessitano di campioni, maturità del firmware, compatibilità con i server, disponibilità in volume e impegni di supporto. Samsung non ha fornito pubblicamente tutti i dettagli necessari per confrontare queste fasi.
Anche il form factor complica il confronto in evidenza. L'unità E3.L da 245,76TB di Micron occupa più volume fisico, mentre la sua versione compatta E3.S offre attualmente 122,88TB. La densità E3.S di Samsung consentirebbe ai fornitori di sistemi di collocare la stessa capacità utilizzabile in un dispositivo più piccolo, se il prodotto finale verrà distribuito come descritto.
Anche Kioxia ha annunciato la famiglia LC9 con 245,76TB in E3.L. Sandisk aveva precedentemente presentato un'unità UltraQLC della classe 256TB nel consolidato form factor U.2. Ogni progetto compie scelte diverse in termini di dimensioni fisiche, compatibilità della piattaforma, architettura del controller e tempistiche del prodotto.
Il D5-P5336 di Solidigm raggiunge 122,88TB nelle opzioni E3.S, E1.L e U.2. Il suo SSD enterprise da 122TB è destinato a data lake AI, storage scale-out, distribuzione di contenuti e altri carichi di lavoro a elevata intensità di lettura. Solidigm valuta inoltre il modello da 122,88TB a 0,6 DWPD in condizioni specificate.
Quella stessa valutazione di resistenza mostra che Samsung non può vincere semplicemente rendendo il QLC accettabile per l'uso enterprise. I concorrenti hanno già consolidato prodotti QLC ad alta capacità e stanno accumulando esperienza nelle implementazioni. Samsung deve dimostrare che raddoppiare la capacità in E3.S preservi temperature, affidabilità e prestazioni gestibili.
La questione competitiva non riguarda semplicemente Samsung contro un singolo produttore. Riguarda la densità compatta contro alternative commercialmente mature. Gli acquirenti potrebbero accettare un'unità più lunga, più dispositivi o un form factor diverso se tale scelta arriva prima e presenta prove di qualificazione più solide.
La compatibilità della piattaforma può prevalere sulla densità raw. I produttori di server validano SSD specifici, versioni del firmware, limiti termici e interfacce di gestione. Un'unità fisicamente compatibile non diventa automaticamente un componente di produzione supportato.
Il raffreddamento è particolarmente importante nei sistemi E3.S densi. Un'elevata capacità non indica direttamente un elevato consumo energetico, ma unità strettamente raggruppate possono creare calore concentrato. Gli operatori necessitano di risultati sulle prestazioni sostenute a temperature realistiche, non solo di valori di picco ottenuti da test controllati.
Anche i domini di guasto del controller diventano più significativi. Consolidare più unità in un unico dispositivo riduce il numero di componenti hardware, ma colloca anche più capacità dietro un singolo controller e stack firmware. La progettazione di sistemi ridondanti deve tenere conto di questa concentrazione.
I team di approvvigionamento confronteranno la capacità effettiva dopo la ridondanza, non l'etichetta su una singola unità. Esamineranno inoltre densità per rack, watt per terabyte, prestazioni per watt, resistenza alle scritture, tempi di sostituzione, integrazione software e impegni di fornitura.
Samsung dispone di scala produttiva e integrazione verticale tra NAND, controller e firmware. Questi punti di forza le offrono un percorso credibile verso implementazioni di grandi dimensioni. Non eliminano il ciclo di validazione dei clienti.
Il mercato sarà quindi deciso dalla densità implementabile. Un SSD ad alta capacità più piccolo vince solo quando i server possono raffreddarlo, il software può utilizzarlo, gli operatori possono ripristinarlo e Samsung può distribuirlo con continuità.
I test indipendenti devono rispondere alle domande più importanti sul BM1773
Le specifiche di Samsung definiscono la promessa del prodotto, ma non ne stabiliscono ancora il comportamento all'interno di un cluster AI di produzione.
La prima incertezza è la disponibilità. Samsung ha mostrato il BM1773 in eventi di settore e pubblicato dettagli sul prodotto, ma restano poco chiari le date di spedizione su larga scala, i partner di qualificazione e gli impegni sui volumi. Un'unità tecnicamente completa può comunque richiedere mesi per superare i test di hyperscaler e fornitori di server.
Anche la capacità dovrebbe essere descritta con precisione. La copertura pubblica la definisce spesso un SSD da 256TB, mentre il materiale dettagliato di Samsung indica fino a 245,76TB in E3.S. Questa differenza non dimostra un problema. Riflette la capacità raw o nominale rispetto alle capacità utilizzabili decimali comuni nello storage enterprise.
Le prestazioni necessitano di una documentazione più completa. Samsung ha comunicato valori massimi per scrittura sequenziale e scrittura casuale, ma gli acquirenti necessitano anche di lettura sequenziale, lettura casuale, latenza, qualità del servizio e comportamento nelle scritture sostenute. Saranno importanti i risultati a diverse capacità e livelli di riempimento.
Il comportamento termico è un'altra questione aperta. E3.S supporta progetti enterprise compatti e manutenibili, ma collocare così tanta memoria flash dietro un solo controller crea un impegnativo problema ingegneristico. I test indipendenti dovrebbero mostrare se l'unità mantiene il throughput sotto carico prolungato senza throttling eccessivo.
Le dichiarazioni di resistenza richiedono contesto. Una valutazione di 0,6 DWPD è significativa e Samsung afferma che i byte totali scritti sono raddoppiati rispetto alla precedente generazione QLC. Gli acquirenti necessitano comunque del periodo di garanzia, delle ipotesi sul carico di lavoro, dei dettagli sull'overprovisioning e del comportamento di ritenzione previsto.
Anche la funzione Die Failure Recovery necessita di prove operative. Samsung afferma che impedisce a un singolo guasto del die di portare l'intera unità in modalità di sola lettura. Gli operatori devono sapere in che modo l'unità segnali tale condizione e se prestazioni o resistenza cambino in seguito.
Il supporto della sicurezza presenta una distinzione simile tra capacità e certificazione. L'allineamento a CNSA 2.0 e un progetto di sub-chip orientato a FIPS sono rilevanti per implementazioni regolamentate. I clienti devono verificare l'esatto perimetro della certificazione e le configurazioni approvate prima di considerare queste caratteristiche come prove di conformità.
I vantaggi specifici per l'AI dovrebbero essere sottoposti al controllo più rigoroso. Samsung afferma che il BM1773 possa supportare cold KV cache, object caching, dataset multimodali e altre grandi raccolte di dati AI. Si tratta di utilizzi credibili, ma i vantaggi a livello di carico di lavoro dipendono da molto più della capacità dell'unità.
Un sistema di offloading della KV cache deve decidere cosa spostare, quando spostarlo e come recuperarlo senza bloccare l'inferenza. Larghezza di banda di rete, overhead della CPU, supporto degli acceleratori, software di storage e modelli di richiesta possono dominare il risultato.
Un acquirente enterprise dovrebbe quindi richiedere benchmark applicativi, non soltanto benchmark di storage. Test utili misurerebbero il tempo al primo token, il throughput di generazione dei token, i tassi di cache hit, la latenza di coda e l'utilizzo degli acceleratori con il tiering supportato da SSD abilitato.
L'object-storage caching richiede prove diverse. I test dovrebbero esaminare dimensioni miste degli oggetti, pressione sui metadati, comportamento durante la ricostruzione e prestazioni durante i guasti. Il throughput di picco di un'unità rivela poco su queste condizioni operative.
Il rischio centrale non è che il BM1773 sia privo di uno scopo plausibile. Il rischio è che un convincente valore di densità eclissi il lavoro di integrazione necessario per trasformare la capacità in prestazioni AI utili.
Questa distinzione orienta anche le decisioni di acquisto. Le organizzazioni non dovrebbero selezionare un SSD della classe 256TB perché sembra a prova di futuro. Dovrebbero stabilire se i loro dataset, modelli di accesso e software di storage possano utilizzare QLC denso senza spostare un collo di bottiglia altrove.
Tre segnali mostreranno se la scommessa di Samsung sulla densità funziona
Il BM1773 diventa importante quando i fornitori di server e le piattaforme AI lo validano, non quando circola il titolo sulla capacità.
Il primo segnale è la qualificazione del prodotto. Samsung dovrebbe identificare calendari di campionamento, piattaforme server supportate e disponibilità in produzione. Produttori di apparecchiature originali o clienti hyperscale nominati rafforzerebbero l'ipotesi che lo storage E3.S da 245,76TB sia pronto oltre le dimostrazioni.
Questo segnale sosterrebbe la posizione di Samsung se i clienti potessero implementare l'unità senza insolite modifiche al telaio. Ritardi, configurazioni limitate o compatibilità termica ristretta indebolirebbero il vantaggio della densità compatta.
Il secondo segnale è costituito da test indipendenti sui carichi di lavoro sostenuti. Recensori e clienti necessitano di risultati relativi a latenza, throughput, potenza e temperatura a diversi livelli di riempimento. I test dovrebbero includere il recupero dai guasti e periodi ad alta intensità di scrittura, anziché brevi esecuzioni a prestazioni di picco.
Risultati solidi mostrerebbero che l'SSD Samsung BM1773 da 256TB offre densità pratica senza throttling o variazioni di latenza inaccettabili. Prestazioni sostenute deboli lo confinerebbero a ruoli di storage più freddi e circoscritti.
Il terzo segnale è l'adozione del software per la memoria AI supportata da SSD. Il materiale OCP di Samsung enfatizza l'offloading della KV cache e la memoria a livelli, ma l'hardware da solo non può stabilire tale architettura. Il supporto di framework di inferenza, fornitori di storage, piattaforme di accelerazione e strumenti di orchestrazione determinerà se il caso d'uso si espanderà.
Le implementazioni reali dovrebbero dimostrare una minore pressione sulla memoria o un migliore utilizzo degli acceleratori senza compromettere la latenza di risposta. Se questi risultati emergeranno, gli SSD ad alta capacità diventeranno una parte attiva dell'architettura di inferenza AI. In caso contrario, le unità resteranno preziose soprattutto per dataset densi e object storage.
Il prodotto Samsung rimane importante in entrambi gli esiti. Un dispositivo E3.S da 245,76TB rappresenta una sfida significativa in termini di packaging e affidabilità. Esercita inoltre una pressione diretta sui concorrenti, la cui capacità utilizzabile equivalente richiede hardware più grande.
La conclusione più netta è che Samsung non sta cercando di rendere più veloce ogni SSD. Sta cercando di fare in modo che ogni slot del server contenga una quantità maggiore dei dati che circondano il calcolo AI.
Per i team infrastrutturali, il passo successivo è mappare le effettive temperature dei dati prima di valutare l'hardware. Individuate ciò che deve rimanere in HBM o DRAM, ciò che può tollerare la latenza NVMe e ciò che appartiene a uno storage più freddo. Quindi monitorate i risultati delle qualifiche, i benchmark sostenuti e il supporto software. Questi segnali riveleranno se il BM1773 diventerà un livello standard dello storage per l'IA o resterà un notevole traguardo di densità.
