Broadcom Tomahawk 6 raddoppia la larghezza di banda. Le reti AI restano sotto pressione per la scalabilità

Broadcom Tomahawk 6 ha raddoppiato la capacità di switching Ethernet su singolo chip a 102,4 terabit al secondo, ma questo progresso non raddoppia automaticamente la capacità utile di un cluster AI. Le connessioni più veloci possono assorbire la larghezza di banda aggiuntiva prima che gli operatori colleghino altri acceleratori. La pressione che ne deriva si estende oltre gli switch, coinvolgendo layout degli edifici, software e calendari di distribuzione.

Un articolo d'opinione pubblicato il 30 ottobre su Data Center Dynamics ha riportato l'attenzione su questa tensione. L'autore, Omar Hassen, cofondatore di Eridu, sostiene che il networking debba plasmare le strutture AI fin dall'inizio. Il suo avvertimento merita attenzione, insieme a un esame critico della tempistica e delle ipotesi che lo sostengono.

Broadcom e Nvidia stanno già rispondendo con switching più rapido e integrazione ottica. Il lavoro di ingegneria di Meta aggiunge un'altra considerazione: la larghezza di banda installata e quella effettivamente utilizzabile non sono la stessa cosa. Il conflitto centrale è tra requisiti di comunicazione in crescita e la capacità della rete di offrire prestazioni applicative prevedibili.

Broadcom Tomahawk 6 cambia i numeri, non l'intera equazione

L'ultimo incremento di larghezza di banda è reale, ma non dimostra che il vincolo di rete sia scomparso.

Broadcom ha annunciato di aver avviato le spedizioni di Tomahawk 6 il 3 giugno 2025. La capacità dichiarata era di 102,4 terabit al secondo, una misura del movimento aggregato di dati attraverso il chip di switching. L'azienda ha inoltre descritto funzionalità di routing e connettività pensate per l'infrastruttura AI.

L'annuncio è rilevante per valutare la recente tesi del muro di rete. Hassen presenta larghezza di banda e connettività insufficienti degli switch come vincoli per un'infrastruttura AI produttiva. Sostiene una maggiore connettività e reti più piatte, ossia architetture con meno livelli di switching.

L'articolo rappresenta l'analisi di un dirigente di un fornitore, non una misurazione indipendente dell'intero mercato. Questa distinzione non invalida la sua tesi. Significa però che i lettori dovrebbero separare l'argomentazione architetturale dalle affermazioni sui progressi del settore.

La tempistica richiede particolare attenzione. Il lancio di Tomahawk 5 da parte di Broadcom risale al 16 agosto 2022, quando l'azienda annunciò una capacità di switching di 51,2 terabit. L'annuncio successivo è arrivato nel giugno 2025, meno di tre anni dopo.

Queste date non giustificano di considerare l'intervallo tra gli annunci dei chip come pari a quasi quattro anni. Né possono stabilire quando sistemi completi siano diventati ampiamente disponibili o siano entrati in produzione. Spedizione del silicio, qualificazione delle apparecchiature e distribuzione operativa rappresentano traguardi diversi.

Questa distinzione modifica la domanda che gli acquirenti dovrebbero porsi. Non si tratta semplicemente di capire se i produttori di switch stiano raddoppiando la capacità. Si tratta di stabilire se i sistemi effettivamente distribuibili offrano connettività utile sufficiente alle velocità richieste dal carico di lavoro previsto.

Un chip più veloce crea opzioni progettuali. Gli operatori possono destinare la sua capacità a connessioni più veloci, più connessioni oppure a una combinazione delle due. Packaging, progettazione delle apparecchiature e configurazioni supportate determinano quali opzioni diventino prodotti pratici.

Di conseguenza, un traguardo di larghezza di banda dovrebbe avviare una valutazione architetturale, non concluderla. Gli acquirenti devono collegare la specifica del chip alle apparecchiature che possono acquistare. Devono quindi collegare tali apparecchiature al comportamento delle applicazioni.

La stessa cautela vale per le affermazioni secondo cui il networking sia rimasto irrimediabilmente indietro rispetto al calcolo. Non esiste un rapporto universale che descriva ogni modello, cluster o distribuzione. Alcune applicazioni scambiano dati frequentemente; altre mantengono più lavoro in locale.

La conclusione difendibile è più circoscritta e più utile. La capacità di switching è progredita, mentre la sola capacità rimane una descrizione incompleta dell'infrastruttura AI. La pressione emerge quando i requisiti di comunicazione del carico di lavoro superano la capacità pratica della rete di soddisfarli.

Le porte più veloci possono assorbire l'intero aumento della larghezza di banda

Uno switch può diventare più veloce senza collegare più acceleratori alla velocità richiesta.

La distinzione cruciale è quella tra larghezza di banda totale e radix, il numero di connessioni indipendenti supportate da uno switch a una velocità specificata. Nessuno dei due numeri ha senso senza l'altro. Un elevato numero di connessioni a una velocità inferiore non descrive la stessa capacità di quel numero a una velocità superiore.

L'aritmetica spiega perché la scalabilità della larghezza di banda degli switch possa deludere i pianificatori dell'infrastruttura. Se la capacità aggregata raddoppia mentre raddoppia anche la larghezza di banda richiesta per connessione, il numero teorico di connessioni resta invariato. Si tratta di una relazione condizionale, non di un'affermazione misurata su ogni switch in commercio.

Questa relazione conta perché le strutture AI devono soddisfare sia la velocità di comunicazione sia la dimensione del cluster. Soddisfare un requisito può consumare le risorse destinate all'altro. Gli operatori non possono presumere che una nuova generazione di switch espanda entrambe le dimensioni in egual misura.

Un connettore fisico aggiunge un'altra complicazione. Non corrisponde sempre a una connessione indipendente di un acceleratore. Le apparecchiature possono combinare canali in collegamenti più veloci o suddividere le connessioni supportate tramite configurazioni breakout.

Gli acquirenti hanno quindi bisogno della configurazione supportata, non di un numero di connettori da titolo. Devono inoltre sapere quante connessioni servono gli acceleratori e quante collegano gli switch. La capacità allocata tra livelli di switching non può servire contemporaneamente un endpoint.

Le specifiche di Tomahawk 6 di Broadcom illustrano perché i dettagli di configurazione siano importanti. L'azienda descrive una rete a due livelli che supporta oltre 100.000 acceleratori a 200 gigabit al secondo per collegamento. Si tratta di un'affermazione progettuale del fornitore, legata a una velocità di connessione dichiarata, non di una garanzia universale per i cluster.

La qualificazione della velocità deve accompagnare il dato sulla scala. Rimuoverla rende fuorvianti i confronti. Un progetto che supporta una vasta popolazione di endpoint a una certa velocità non può automaticamente supportare la stessa popolazione a una velocità superiore.

La stessa disciplina si applica ai livelli di switching. Aggiungere un altro livello può estendere una rete, ma introduce anche più apparecchiature e connessioni. L'accettabilità di questo compromesso dipende dal traffico che lo attraversa.

Una rete più grande non è necessariamente più lenta sotto ogni aspetto utile. Percorsi aggiuntivi possono offrire capacità e resilienza quando progettazione e software li utilizzano efficacemente. Allo stesso modo, meno livelli non garantiscono prestazioni applicative migliori.

Il vincolo pratico è il modello di comunicazione che la rete deve sostenere. Un progetto potrebbe gestire bene il traffico localizzato e faticare invece quando le applicazioni comunicano tra gruppi distanti. La larghezza di banda aggregata può nascondere questa differenza.

Per questo confrontare generazioni di switch richiede più che verificare se la capacità sia raddoppiata. Il confronto significativo mantiene costanti velocità degli endpoint, carico di lavoro, requisiti di resilienza e topologia. Per topologia si intende la disposizione di dispositivi e collegamenti.

Senza queste condizioni, la scalabilità della larghezza di banda degli switch può apparire impressionante lasciando il problema operativo sostanzialmente immutato. Con esse, gli acquirenti possono identificare quale parte del progetto benefici davvero.

La pressione ricade sui proprietari dei cluster prima che sugli utenti delle applicazioni

I limiti di rete diventano un problema operativo quando la capacità di calcolo pagata resta in attesa della comunicazione.

Si consideri un lavoro di addestramento distribuito, in cui più acceleratori collaborano per aggiornare un unico modello. Ogni acceleratore esegue una parte del calcolo. In punti prestabiliti, i partecipanti scambiano informazioni prima di proseguire.

Un'operazione collettiva coordina tale scambio tra un gruppo di processori. All-reduce, per esempio, combina i contributi e distribuisce il risultato combinato. Il suo completamento dipende dalla comunicazione richiesta dal gruppo.

La conseguenza importante è il coordinamento. Un acceleratore che termina il proprio lavoro locale non può sempre avanzare in modo indipendente. Una comunicazione ritardata può prolungare il tempo prima che riprenda il calcolo utile.

Questo non significa che il networking spieghi ogni acceleratore inattivo. Preparazione dei dati, comportamento del software, limiti di memoria e pianificazione possono anch'essi limitare le prestazioni. Attribuire tutto il sottoutilizzo alla rete oscurerebbe la diagnosi effettiva.

Per il proprietario di un cluster, la domanda rilevante è quale vincolo controlli il completamento del lavoro. Gli switch più veloci hanno valore limitato quando un'altra risorsa determina il ritmo. Al contrario, processori più veloci offrono meno vantaggi quando la comunicazione resta nel percorso critico.

Ciò crea pressione sulla pianificazione dell'infrastruttura. I team di approvvigionamento possono acquistare acceleratori e networking tramite processi separati, ma l'applicazione li sperimenta insieme. Un disallineamento diventa visibile durante l'esecuzione del carico di lavoro, dopo che le decisioni sulle apparecchiature hanno già limitato i rimedi disponibili.

La stessa relazione appare nell'inferenza, il processo che esegue un modello addestrato per generare un output. Quando un modello si estende su più acceleratori, la comunicazione diventa parte della gestione della richiesta. La sua importanza dipende da come l'applicazione suddivide il lavoro.

I modelli mixture-of-experts selezionano componenti specializzati del modello per input diversi. Quando tali componenti risiedono su dispositivi differenti, l'instradamento del lavoro tra essi aggiunge requisiti di comunicazione. La disposizione di distribuzione determina quanto traffico attraversi la rete.

Un'altra configurazione separa il prefill, che elabora un prompt di input, dal decode, che genera l'output successivo. Lo spostamento dello stato intermedio di attenzione del modello tra queste fasi introduce un requisito di trasferimento. Questo compromesso può essere vantaggioso, ma il suo valore dipende in parte dal comportamento della rete.

Questi esempi spiegano perché i colli di bottiglia delle reti AI debbano essere valutati in base al carico di lavoro. I risultati dell'addestramento non possono prevedere automaticamente le prestazioni dell'inferenza. Una configurazione ottimizzata per un modello di comunicazione può comportarsi diversamente con un altro.

Gli utenti delle applicazioni incontrano indirettamente questi vincoli. Sperimentano tempi di completamento, coerenza del servizio e capacità disponibile, piuttosto che specifiche degli switch. Gli acquirenti aziendali hanno quindi bisogno di evidenze sul servizio che riflettano il loro utilizzo previsto.

Gli operatori dei cluster hanno l'obbligo più immediato: identificare dove la comunicazione limita il lavoro utile, quindi decidere se intervenire con modifiche hardware, software o di posizionamento. Aumentare ovunque la larghezza di banda è un costoso sostituto della comprensione del vincolo.

Il conseguente cambiamento nella pianificazione è concreto. I requisiti di rete devono rientrare nella progettazione del carico di lavoro e nelle decisioni sulla struttura prima che gli acquisti fissino l'architettura. Attendere che la congestione diventi visibile lascia meno opzioni pratiche.

Una maggiore capacità di switching non può risolvere ogni problema di traffico

Una rete può disporre di capacità aggregata sufficiente pur indirizzando il traffico lungo percorsi sbagliati.

Si pensi a una rete con diversi percorsi disponibili tra dispositivi in comunicazione. Se trasferimenti intensi si concentrano sullo stesso percorso, un altro può restare sottoutilizzato. Aumentare la larghezza di banda totale installata non garantisce che il traffico si distribuisca efficacemente.

Qui le specifiche hardware incontrano il comportamento del trasporto, ovvero le regole con cui gli endpoint inviano, riconoscono e recuperano i dati. Queste regole influenzano l'efficienza con cui un'applicazione utilizza i percorsi disponibili. Determinano inoltre cosa accade quando congestione o perdita interrompono la comunicazione.

Il lavoro pubblicato da Meta sulla rete per l'addestramento distribuito fornisce un esempio operativo. I suoi ingegneri hanno descritto le sfide di routing, il coordinamento con il software di comunicazione e una pianificazione che considera la topologia di rete. La loro esperienza sostiene l'idea di considerare il networking come un sistema, anziché come l'acquisto di uno switch.

RoCE, ovvero l'accesso diretto remoto alla memoria su Ethernet convergente, consente ai dispositivi di accedere alla memoria remota attraverso una rete Ethernet. Il resoconto di Meta descrive come la gestione di tali reti abbia richiesto cambiamenti oltre la mera velocità di collegamento. L'insegnamento riguarda l'integrazione, non un'approvazione universale di una singola configurazione.

Il posizionamento dei job è una componente di tale integrazione. Mantenere vicini nella rete i dispositivi che comunicano intensamente può ridurre il traffico sui collegamenti soggetti a vincoli. Distribuirli diversamente può aumentare la pressione anche quando il numero totale di acceleratori resta invariato.

Le decisioni di pianificazione influenzano quindi la qualità apparente dell'hardware. Un benchmark che utilizza un posizionamento favorevole può produrre risultati che scompaiono in condizioni di produzione meno ordinate. Gli acquirenti dovrebbero comprendere tale distinzione prima di considerare le prestazioni di benchmark come un impegno di servizio.

Il progetto di trasporto MetaRoCE di Meta, del 24 agosto 2026, estende lo stesso dibattito. L'azienda descrive lo spostamento di una quota maggiore della gestione dei percorsi verso gli endpoint di rete e il supporto di pacchetti che arrivano fuori ordine. Riferisce di aver effettuato la convalida con hardware di rete AMD Pensando.

Si tratta di risultati riportati dall'azienda, nelle condizioni di test dichiarate. Non stabiliscono un comportamento equivalente su ogni acceleratore, adattatore o ambiente di produzione. Il loro significato risiede nel fatto che un grande operatore affronta i limiti del networking tramite la progettazione del trasporto insieme all'infrastruttura fisica.

Broadcom, Nvidia e Meta non dovrebbero quindi essere ridotte a una semplice competizione sulla capacità degli switch. Il loro lavoro interessa parti diverse del sistema di comunicazione. I miglioramenti hardware e software possono completarsi a vicenda.

Per gli acquirenti, questo complica i confronti tra fornitori ma migliora le domande a disposizione. Le prestazioni dipendono da uno specifico adattatore? La libreria di comunicazione richiede impostazioni particolari? Come viene ridistribuito il traffico dopo il guasto di un collegamento?

Queste domande collegano i colli di bottiglia delle reti AI alla responsabilità operativa. Qualcuno deve mantenere la configurazione che fornisce il risultato promesso. Una funzionalità prestazionale ha un valore pratico limitato se il team operativo non può osservarla o risolverne i problemi.

L'implicazione più ampia è che le prestazioni dell'applicazione non possono essere dedotte dalla sola capacità aggregata. Routing efficace, endpoint compatibili e posizionamento dei carichi di lavoro determinano quanta di tale capacità diventa utile. Il silicio più veloce crea margine; il sistema decide con quale efficacia utilizzarlo.

L'integrazione ottica affronta il consumo energetico, ma solleva interrogativi operativi

Ridurre il consumo energetico delle comunicazioni è prezioso, ma le dichiarazioni di efficienza richiedono un confine chiaramente definito.

Nvidia ha annunciato gli switch di rete fotonici nel marzo 2025, inclusi i prodotti Ethernet Spectrum-X e InfiniBand Quantum-X. Il suo annuncio ha posto l'integrazione ottica al centro della strategia di networking. Anche Broadcom ha descritto opzioni di integrazione ottica per Tomahawk 6.

L'ottica co-packaged colloca i componenti ottici vicino al chip dello switch, all'interno di un package integrato. Questo approccio accorcia una parte del percorso elettrico utilizzato prima che i segnali diventino luce. I fornitori lo presentano come un modo per migliorare l'efficienza delle comunicazioni ad alta velocità.

Ciò affronta una parte importante del problema, ma non ogni sua parte. Una connessione ottica più efficiente non risolve autonomamente un cattivo posizionamento del traffico. Né dimostra che un intero impianto utilizzi meno energia a parità di output applicativo.

Il confine della misurazione conta. Un confronto potrebbe riguardare i componenti ottici, le apparecchiature di rete o l'intera installazione di calcolo. Si tratta di affermazioni diverse e dovrebbero restare separate.

Allo stesso modo, una migliore efficienza di comunicazione non si traduce automaticamente in un miglioramento applicativo equivalente. Il risultato dipende da quanto tempo l'applicazione trascorre comunicando. Dipende inoltre dal fatto che un altro vincolo diventi dominante dopo il miglioramento della comunicazione.

Si tratta di una relazione generale sulle prestazioni, non di una prova contro l'integrazione ottica. Rimuovere un vincolo può rivelarne un altro. Gli acquirenti devono sapere quale miglioramento permane quando viene misurato a livello applicativo.

La progettazione operativa introduce ulteriori domande. Apparecchiature con componenti integrati possono modificare le procedure di sostituzione e la pianificazione delle parti di ricambio. I dettagli rilevanti dipendono dal sistema specifico, quindi le affermazioni generali sulla manutenibilità richiedono cautela.

Un team acquisti dovrebbe stabilire quali componenti i tecnici possano sostituire in autonomia. Dovrebbe inoltre comprendere la procedura per isolare un guasto. Questi elementi influiscono su come un miglioramento dell'efficienza si inserisce in un ambiente operativo.

Anche i confronti sull'affidabilità richiedono una disciplina analoga. Il comportamento al guasto di un componente e la disponibilità del servizio sono correlati ma diversi. Percorsi ridondanti e software di ripristino possono preservare l'avanzamento dell'applicazione anche quando i singoli componenti si guastano.

Al contrario, un componente altamente affidabile non garantisce un servizio ininterrotto. Errori software, errori di configurazione e guasti altrove possono comunque influire sull'applicazione. Valutare il progetto completo impedisce che una metrica di affidabilità ristretta diventi un'affermazione di servizio priva di supporto.

L'angolazione scettica più forte riguarda quindi l'ambito. Switching più veloce e integrazione ottica risolvono problemi ingegneristici identificabili. Le evidenze devono mostrare come tali soluzioni incidano sul carico di lavoro, sull'impianto e sul processo di manutenzione acquistati.

Questo criterio si applica anche alle previsioni di un muro di rete permanente. I vincoli possono spostarsi con il cambiamento di applicazioni, software di trasporto e apparecchiature. La domanda utile è quale limitazione governerà la prossima distribuzione, non se una tecnologia vincerà indefinitamente.

Per gli operatori, Broadcom Tomahawk 6 rientra in tale valutazione come un avanzamento hardware concreto. Il suo valore dipende dal progetto che rende possibile e dai risultati che tale progetto offre.

Osservare sistemi implementabili, risultati dei carichi di lavoro e comportamento di ripristino

Le prossime evidenze dovrebbero collegare la capacità del prodotto a risultati operativi ripetibili.

Nei prossimi mesi, il primo segnale sarà la disponibilità di sistemi completi nelle configurazioni specificate. Gli annunci di chip dimostrano il progresso tecnico, ma gli acquirenti hanno bisogno di apparecchiature che possano qualificare, installare e supportare. Il collegamento tra queste tappe merita una rendicontazione esplicita.

Per i sistemi Broadcom Tomahawk 6, divulgazioni utili identificherebbero velocità degli endpoint supportate, numero di connessioni e topologie di rete. Distingueranno le configurazioni disponibili dalle opzioni pianificate. Spiegheranno inoltre quali funzionalità software sono pronte per l'uso operativo.

Tali evidenze rafforzerebbero l'argomento secondo cui switching più recente può alleviare i vincoli attuali. Divari persistenti tra le capacità annunciate e le apparecchiature qualificate lo indebolirebbero. Nessuno dei due esiti richiede di presumere che ogni operatore segua lo stesso calendario di implementazione.

Il segnale successivo è la prestazione dei carichi di lavoro in condizioni comparabili. Un confronto utile mantiene costanti l'applicazione e la configurazione degli acceleratori, identificando al contempo le modifiche alla rete. Altrimenti, i miglioramenti possono derivare da cambiamenti non correlati nel software o nell'hardware di calcolo.

I confronti di addestramento dovrebbero riportare il comportamento di completamento dell'applicazione insieme alle misurazioni di comunicazione. I confronti di inferenza dovrebbero descrivere le caratteristiche delle richieste e le condizioni di servizio. Un risultato privo del contesto del carico di lavoro offre indicazioni limitate per l'acquisto.

Anche la latenza di coda, ovvero tempi di completamento insolitamente lenti, merita attenzione. Le prestazioni medie possono nascondere ritardi che incidono sul lavoro coordinato o sull'esperienza utente. Gli acquirenti devono sapere se i miglioramenti restano costanti sotto domanda sostenuta.

Risultati solidi mostrerebbero che la capacità aggiunta o il trasporto migliorato riducono un vincolo applicativo significativo. Risultati deboli mostrerebbero benefici limitati quando nel confronto entrano condizioni operative realistiche. Entrambe le conclusioni sono più informative di un altro record isolato di larghezza di banda.

Il segnale finale è il comportamento di ripristino in presenza di guasti e domanda mista. Una rete dovrebbe essere valutata quando i collegamenti si guastano, il traffico si sposta o più applicazioni competono. Queste condizioni rivelano se l'architettura preserva lavoro utile oltre una dimostrazione accuratamente predisposta.

Per il trasporto guidato dagli endpoint, le evidenze rilevanti includono hardware compatibile e comportamento su diverse topologie di rete. Per l'integrazione ottica, includono procedure di manutenzione e continuità del servizio durante problemi ai componenti. Si tratta di estensioni pratiche delle affermazioni tecniche, non di questioni separate.

Risultati di ripristino ripetibili sosterrebbero la fiducia in implementazioni più ampie. Una risoluzione dei problemi difficile o un comportamento instabile qualificherebbero gli apparenti benefici di una maggiore capacità. L'esito conta perché gli operatori devono supportare il sistema per tutta la sua vita operativa.

I team di ingegneria dovrebbero conservare le ipotesi alla base di ogni confronto, inclusi posizionamento dei carichi di lavoro, configurazione delle apparecchiature e versioni software. Una base di conoscenza ingegneristica ricercabile può aiutare a mantenere disponibili tali decisioni quando le condizioni di implementazione cambiano.

Prima di approvare il prossimo cluster, chiedete ai fornitori di dimostrare l'applicazione che intendete eseguire nelle condizioni in cui prevedete di operare. Richiedete la configurazione di connessione supportata, le ipotesi sul software di comunicazione e il comportamento dopo un guasto. Conservate queste conclusioni insieme alla decisione d'acquisto, affinché i team successivi possano distinguere un limite di progettazione da un problema di configurazione. Broadcom Tomahawk 6 dimostra che la capacità degli switch sta avanzando; i vostri criteri di accettazione dovrebbero stabilire se tale avanzamento migliora il lavoro utile. Partite dai requisiti di comunicazione del carico di lavoro, confrontate sistemi completi rispetto a essi e rendete la prontezza all'implementazione parte della discussione sulle prestazioni. Quale rete può sostenere la vostra applicazione quando l'installazione è occupata, imperfetta e opera oltre il benchmark?