Apheros e 3D Architech affrontano il problema del raffreddamento nei data center per l'AI
Apheros e 3D Architech stanno perseguendo due risposte differenti a un conflitto che oggi caratterizza l'infrastruttura AI. I chip più veloci generano più calore, mentre gli attuali sistemi di raffreddamento consumano elettricità, acqua e spazio prezioso. Le startup vogliono riprogettare l'hardware che allontana il calore dai processori.
Il loro tempismo non è casuale. I server AI concentrano in ogni rack più capacità di calcolo rispetto ai sistemi cloud tradizionali. Questa densità trasforma il raffreddamento da servizio di supporto a limite della quantità di apparecchiature che gli operatori possono installare.
Le due aziende affrontano il limite da direzioni opposte. Apheros sviluppa strutture metalliche porose per il raffreddamento a liquido. 3D Architech stampa componenti in rame complessi progettati per trasferire il calore in modo più efficiente. Entrambe scommettono sul fatto che materiali migliori possano rinviare cambiamenti ben più ampi agli edifici dei data center e ai sistemi elettrici.
Questa promessa richiede ancora un attento esame. Le prestazioni di laboratorio non garantiscono produzione di massa a costi accessibili, funzionamento affidabile o installazione semplice. Gli operatori dei data center evitano inoltre tecnologie che introducono esigenze di manutenzione incerte.
La vera competizione, quindi, non è tra una startup e l'altra. È tra hardware termico avanzato e il costo, la familiarità e la base installata dei sistemi di raffreddamento convenzionali.
Due startup stanno riprogettando il percorso del calore fuori da un chip
Apheros e 3D Architech stanno modificando le strutture fisiche che trasportano il calore lontano, invece di chiedere agli operatori di raffreddare intere sale in modo più aggressivo.
La distinzione conta perché il calore nasce nel chip. La resistenza elettrica converte una parte dell'energia di un processore in energia termica. Quel calore deve attraversare diverse interfacce prima che un sistema di raffreddamento possa rilasciarlo all'esterno della struttura.
Ogni interfaccia crea resistenza. Una ventola migliore non può compensare completamente uno scarso collegamento tra chip, diffusore di calore, piastra fredda, refrigerante e scambiatore di calore esterno.
Apheros si concentra sulla schiuma metallica porosa. Il suo materiale contiene una rete aperta di piccoli passaggi e un'ampia superficie interna. Il refrigerante può fluire attraverso questi passaggi entrando in contatto con molto più metallo rispetto a quanto accadrebbe in un semplice canale.
L'azienda afferma che il suo processo produttivo realizza strutture a pori aperti adatte al raffreddamento a liquido. Il suo attuale posizionamento ruota attorno a piastre fredde in schiuma metallica, collocate vicino ai componenti che generano calore.
Una piastra fredda è un componente metallico che contiene canali per il refrigerante. Assorbe il calore da un processore e trasferisce questa energia al liquido in circolazione.
Apheros è nata dall'ETH Zurich ed è stata fondata nell'agosto 2023. La cofondatrice e CEO Julia Carpenter ha sviluppato l'approccio produttivo alla base della tecnologia durante il suo lavoro accademico. La cofondatrice e CTO Gaëlle Andreatta ha portato esperienza nella ricerca, nel trasferimento tecnologico e nello sviluppo di startup.
Nell'agosto 2024, Apheros ha annunciato un round pre-seed da 1,6 milioni di CHF, allora descritto come pari a circa 1,85 milioni di dollari. Founderful ha guidato il finanziamento.
L'azienda ha dichiarato che il capitale avrebbe sostenuto l'espansione produttiva, la ricerca e l'ingresso sul mercato. Questi piani restano obiettivi aziendali, piuttosto che prove indipendenti di performance commerciale.
La sua piattaforma in schiuma metallica mira a un'importante debolezza delle piastre fredde convenzionali. I canali lisci limitano la superficie disponibile per lo scambio di calore. Le strutture porose possono creare molto più contatto tra refrigerante e metallo.
Questo vantaggio comporta compromessi. Passaggi complessi possono aumentare i requisiti di pressione, intrappolare contaminanti o complicare la produzione. Gli operatori devono valutare questi fattori insieme alle prestazioni termiche.
3D Architech segue una strada diversa. Lo spinout del MIT utilizza un processo di produzione additiva basato sulla litografia per creare componenti metallici con caratteristiche molto piccole.
La litografia utilizza luce modellata o metodi di lavorazione correlati per definire strutture dettagliate. La produzione additiva costruisce poi l'oggetto progettato invece di ricavarlo tagliandolo da un blocco più grande.
L'azienda lavora con rame e leghe di rame perché il rame conduce bene il calore. La sua stampa del rame su microscala può creare architetture porose che sarebbero difficili da produrre mediante lavorazione meccanica.
Per il raffreddamento, le strutture risultanti possono fungere da dissipatori di calore compatti o da componenti per la gestione dei fluidi. Un dissipatore di calore aumenta l'area disponibile per trasferire il calore lontano dall'elettronica.
I materiali pubblici della startup indicano anche applicazioni nella conversione energetica e nel controllo del flusso. Tuttavia, il raffreddamento dei data center presenta la storia commerciale più immediata perché l'hardware AI ha reso la densità termica una questione rilevante a livello di scheda.
Inc. ha evidenziato entrambe le aziende nella sua analisi di gennaio 2025 del problema del raffreddamento. Quella copertura ha inquadrato modifiche hardware più piccole come un ponte pratico mentre concetti di data center più ambiziosi affrontano lunghi cicli di sviluppo.
Le startup non vendono prodotti equivalenti. Apheros pone l'accento sulla schiuma metallica integrata nei sistemi di raffreddamento a liquido. 3D Architech pone l'accento sul processo produttivo e sulle geometrie che rendono possibili strutture metalliche compatte.
La loro tesi comune è più importante delle differenze tecniche. Il calore dovrebbe essere catturato in modo efficiente vicino alla sua fonte, prima che gli operatori spendano ulteriore energia per spostare l'aria all'interno di un edificio.
L'infrastruttura AI ha trasformato il raffreddamento in un vincolo di capacità
La pressione deriva dalla crescente densità dei rack, perché gli operatori non possono installare più apparecchiature di calcolo se non riescono a rimuoverne il calore in modo affidabile.
I data center tradizionali fanno spesso affidamento sul raffreddamento ad aria. Le ventole spostano l'aria attraverso gli chassis dei server, mentre sistemi più grandi trasportano l'aria calda verso le apparecchiature di raffreddamento.
Questo approccio è familiare e funzionale. I tecnici possono sostituire molti componenti senza gestire circuiti di liquido estesi all'intera struttura vicino a costosa elettronica.
Anche l'aria ha limiti fisici. Trasporta meno calore del liquido, e grandi flussi d'aria richiedono ventole, condotti, spazio sul pavimento e un attento contenimento. Questi requisiti crescono man mano che ogni rack ospita più acceleratori ad alta potenza.
I server accelerati contengono processori specializzati, comprese le unità di elaborazione grafica, che gestiscono carichi di lavoro AI altamente paralleli. Rappresentano una quota crescente della nuova domanda dei data center.
L'Agenzia Internazionale dell'Energia stima che i data center abbiano consumato circa 415 terawattora di elettricità nel mondo nel 2024. Ciò ha rappresentato approssimativamente l'1,5 per cento del consumo globale di elettricità.
La sua prospettiva globale sull'elettricità prevede circa 945 terawattora nel 2030 nello scenario di base. I server accelerati rappresentano quasi la metà dell'aumento previsto.
Il raffreddamento non è responsabile di tutta questa domanda. I server restano il carico principale, e la quota attribuibile al raffreddamento varia tra tipologie di strutture, climi e condizioni operative.
Tuttavia, ogni unità di elettricità consumata dai server finisce infine per trasformarsi in calore. La struttura deve rimuovere continuamente quel calore, anche durante periodi di temperature esterne elevate o stress della rete elettrica.
L'efficacia nell'uso dell'energia, o PUE, confronta l'elettricità totale della struttura con quella consumata dalle apparecchiature di calcolo. Un PUE più basso indica minori costi indiretti dovuti a raffreddamento, conversione dell'energia, illuminazione e altre infrastrutture.
Il PUE è utile, ma non risolve la questione del raffreddamento. Una struttura può riportare un rapporto efficiente pur consumando enormi quantità di elettricità. La metrica dice inoltre poco sull'uso dell'acqua o sulle temperature a livello di componente.
Gli Stati Uniti illustrano la portata del vincolo. Berkeley Lab ha stimato che i data center abbiano consumato 176 terawattora nel 2023, ovvero circa il 4,4 per cento dell'elettricità nazionale.
La sua previsione energetica per gli Stati Uniti prevede un consumo compreso tra 325 e 580 terawattora nel 2028. Ciò equivarrebbe a una quota tra il 6,7 e il 12 per cento dell'elettricità degli Stati Uniti.
L'intervallo è ampio perché restano incerti le spedizioni di chip, l'utilizzo dei server, l'efficienza e l'adozione dell'AI. Tuttavia, persino il suo limite inferiore implica una crescita sostanziale.
È qui che le startup del raffreddamento acquisiscono influenza. Un componente termico migliore non può creare elettricità, accelerare la costruzione delle linee di trasmissione o assicurare una connessione alla rete. Può aiutare gli operatori a inserire più capacità di calcolo entro il perimetro energetico e termico di cui già dispongono.
Questa opportunità mette sotto pressione i fornitori di apparecchiature affermati, oltre agli operatori dei data center. I fornitori esistenti di sistemi di raffreddamento devono adattare prodotti progettati per rack a densità inferiore. Gli operatori devono decidere se adeguare gli edifici o riservare capacità predisposta per il liquido nelle nuove costruzioni.
I produttori di chip affrontano una pressione correlata. Le prestazioni dei processori perdono valore commerciale quando i clienti devono ridurre le frequenze di clock o lasciare vuote posizioni nei rack a causa di limiti termici.
I fornitori cloud devono bilanciare velocità e standardizzazione. Un'architettura di raffreddamento personalizzata può migliorare la densità, ma può anche limitare le scelte hardware e complicare la manutenzione in più strutture.
Gli acquirenti aziendali subiscono le conseguenze attraverso disponibilità e costi operativi. Raramente scelgono direttamente una piastra fredda, ma un'infrastruttura vincolata può influenzare dove vengono eseguiti i servizi AI e con quale rapidità la capacità diventa disponibile.
Apheros e 3D Architech occupano quindi uno strato ristretto ma significativo. Non devono costruire un intero data center. Devono fare in modo che i loro materiali risolvano un vincolo doloroso senza creare un problema operativo più grande.
Una geometria migliore compete con sistemi di raffreddamento familiari
La sfida principale delle startup consiste nel dimostrare che i guadagni termici superano i costi di produzione, pompaggio, integrazione e manutenzione nel corso di anni di esercizio.
La geometria avanzata è il meccanismo alla base di entrambi gli approcci. Una maggiore superficie crea più opportunità affinché il calore passi dal metallo caldo all'aria o al liquido.
Tuttavia, la sola superficie non determina le prestazioni del sistema. Gli ingegneri devono considerare anche resistenza al flusso, uniformità della temperatura, corrosione, pressione, incrostazioni e l'energia utilizzata dalle pompe.
Apheros afferma che la sua schiuma contiene pori aperti e una superficie interna molto ampia. Questa struttura può favorire il contatto tra refrigerante e metallo in tutto un volume compatto.
Il risultato desiderato è una piastra fredda che trasferisca più calore senza diventare notevolmente più grande. Ciò potrebbe supportare densi acceleratori AI preservando al contempo spazio prezioso attorno alla scheda del server.
Tuttavia, percorsi di flusso stretti e irregolari possono aumentare la perdita di pressione. La perdita di pressione è la riduzione della pressione del fluido mentre il refrigerante attraversa un componente.
Una maggiore perdita di pressione può richiedere pompe più potenti. Queste pompe consumano elettricità e possono ridurre parte del beneficio energetico a livello di sistema promesso da un migliore trasferimento di calore.
I progettisti possono regolare dimensione dei pori, spessore, portata e chimica del refrigerante. Il vantaggio finale dipende dall'intero circuito, non da un campione di materiale testato in condizioni ideali.
Conta anche la coerenza produttiva. Due piastre fredde destinate a server identici dovrebbero comportarsi in modo prevedibile. Piccole differenze nella geometria interna possono modificare la distribuzione del flusso e le temperature.
Il processo di 3D Architech offre un'altra forma di libertà progettuale. Gli ingegneri possono creare dissipatori di calore con sottili elementi in rame e canali complessi che la lavorazione meccanica convenzionale non può riprodurre economicamente.
Il rame presenta le proprie difficoltà di produzione. Riflette le comuni lunghezze d'onda dei laser e conduce il calore lontano dall'area di stampa attiva. Entrambe le caratteristiche possono complicare la produzione additiva di metalli.
Un approccio basato sulla litografia può potenzialmente evitare alcuni limiti associati alla lavorazione laser diretta. Consente inoltre di realizzare contemporaneamente molti piccoli elementi strutturali.
La questione commerciale è la produttività. Un processo che crea campioni impressionanti potrebbe comunque essere troppo lento, costoso o variabile per i volumi dei data center.
Nessuna delle due startup può vincere solo grazie alle prestazioni termiche di picco. I componenti dei data center operano in modo continuo e i guasti possono interrompere costosi carichi di lavoro computazionali.
Gli operatori chiederanno come si comportano i materiali dopo ripetuti cicli di riscaldamento e raffreddamento. Esamineranno corrosione, vibrazioni, ostruzioni, compatibilità con il refrigerante e rischio di perdite.
Chiederanno inoltre se i tecnici possano ispezionare e sostituire il componente mediante procedure consolidate. Un sistema di raffreddamento che richiede assistenza specializzata potrebbe restare confinato a un piccolo gruppo di installazioni ad alto valore.
I dissipatori di calore e le piastre fredde convenzionali iniziano questa competizione con vantaggi significativi. I fornitori ne conoscono le tolleranze di produzione, la durata prevista e le modalità di guasto. Gli operatori dispongono già di processi di approvvigionamento e manutenzione costruiti attorno a questi componenti.
Anche il raffreddamento ad aria continua a migliorare. Una migliore gestione dei flussi d'aria, gli scambiatori di calore sulle porte posteriori dei rack e i controlli di impianto possono estenderne l'utilità in alcuni ambienti.
Il raffreddamento a liquido diretto al chip non elimina necessariamente l'aria. Memoria, archiviazione, alimentatori e componenti di rete possono continuare a richiedere flusso d'aria. I sistemi ibridi potrebbero quindi persistere in molte strutture.
Il raffreddamento a immersione rappresenta un'altra via concorrente. Colloca le apparecchiature elettroniche in un liquido dielettrico, che in normali condizioni operative non conduce elettricità.
L'immersione può assorbire calore da un'ampia parte del server. Richiede tuttavia hardware compatibile, vasche specializzate, gestione dei fluidi e pratiche di manutenzione modificate.
Apheros e 3D Architech si inseriscono più naturalmente nel raffreddamento diretto a livello di componente. La loro opportunità consiste nell'offrire un miglioramento significativo senza richiedere una riprogettazione radicale della sala server.
Questo posizionamento è commercialmente sensato. In genere gli operatori preferiscono cambiamenti che possano entrare nelle catene di fornitura esistenti e nei progetti di riferimento già validati.
Riduce però anche il valore misurabile. Una schiuma metallica o un dissipatore stampato deve dimostrare quanto migliori temperature, flusso, energia di pompaggio o densità computazionale rispetto a un componente standard.
Le dichiarazioni aziendali su un raffreddamento superiore devono restare tali finché i clienti non pubblicheranno risultati comparabili. I test indipendenti devono prevedere carichi di lavoro, temperature del refrigerante, potenza delle pompe e condizioni ambientali equivalenti.
Senza questi dettagli, i miglioramenti percentuali possono risultare fuorvianti. Un componente può funzionare bene in isolamento pur offrendo un beneficio minore a livello di rack o di struttura.
Il problema del raffreddamento dei data center va oltre i dissipatori di calore
L'innovazione a livello di componente può ridurre la resistenza termica, ma non può risolvere i ritardi nella rete elettrica, le controversie sull'acqua o le emissioni legate alla rapida crescita del calcolo.
L'attenzione sull'hardware di raffreddamento rischia di far apparire il problema infrastrutturale più piccolo di quanto sia. I data center necessitano di produzione e trasmissione di elettricità, sottostazioni, sistemi di backup, terreni, acqua e capacità di costruzione.
Una piastra fredda più efficiente non garantisce che un impianto proposto ottenga una connessione alla rete. Né determina se i residenti locali accettino il progetto.
L'equilibrio ambientale dipende dal progetto di raffreddamento. Alcune strutture utilizzano sistemi evaporativi che consumano acqua per dissipare calore. Altre usano refrigeratori raffreddati ad aria, con diversi compromessi in termini di elettricità e prestazioni.
Il raffreddamento a liquido all'interno di un server non elimina automaticamente il consumo d'acqua. Il circuito interno richiede comunque un sistema esterno che trasferisca il calore nell'ambiente circostante.
I sistemi ad acqua calda possono migliorare questa equazione. Se il refrigerante esce dal server a una temperatura più elevata, gli operatori possono utilizzare più spesso l'aria esterna e far funzionare i refrigeratori meccanici meno frequentemente.
Il risultato dipende dal clima e dalla progettazione. Una strategia che funziona bene in una regione fresca può comportarsi diversamente durante un'estate calda e umida.
Il riutilizzo del calore offre un'altra possibilità. I data center possono trasferire il calore di scarto a edifici vicini, processi industriali o reti di teleriscaldamento.
Questa opzione richiede utenti sufficientemente vicini da poter utilizzare il calore. Richiede inoltre temperature, contratti e infrastrutture in linea con la domanda locale.
Questo contesto più ampio spiega perché gli ambiziosi esperimenti di raffreddamento attirino attenzione. Microsoft ha collocato nel 2018 un data center sigillato contenente 855 server sott'acqua, vicino alle isole Orcadi in Scozia.
L'azienda ha recuperato l'unità nel 2020 e ha riportato un tasso di guasto dei server inferiore rispetto alle proprie apparecchiature comparabili installate a terra. Ha attribuito parte della differenza alle temperature stabili e a un'atmosfera di azoto secco.
Il test di raffreddamento subacqueo ha dimostrato che architetture insolite possono funzionare tecnicamente. Non ha stabilito un modello commerciale ampiamente adottato.
L'installazione sott'acqua introduce complesse questioni di manutenzione, cablaggio, impatto ambientale e autorizzazioni. Il progetto dimostra anche perché gli operatori apprezzino miglioramenti meno spettacolari, ma compatibili con edifici convenzionali.
Questo è il ribaltamento alla base dell'attuale interesse per le startup. I data center sembrano digitali, ma i loro limiti più difficili riguardano oggi materiali, fluidi, costruzioni e sistemi elettrici.
Il software può migliorare la pianificazione dei carichi di lavoro e i controlli del raffreddamento. Non può modificare le proprietà termiche di aria, acqua, alluminio o rame.
Le startup affrontano anche un problema di tempistica. La spesa per l'infrastruttura AI crea urgenza, ma i cicli di qualificazione dei data center premiano la pazienza.
Gli operatori non possono implementare un componente termico non collaudato solo perché stanno arrivando nuovi acceleratori. Hanno bisogno di prove di affidabilità, capacità del fornitore e chiare responsabilità in caso di guasto.
I grandi operatori storici possono abbinare le apparecchiature di raffreddamento a garanzie e copertura di assistenza. Una piccola azienda di materiali potrebbe dipendere da partner produttivi o fornitori di apparecchiature consolidati per raggiungere gli stessi acquirenti.
Questa dipendenza può determinare chi acquisisce il valore. Una startup potrebbe fornire una struttura critica mentre un'azienda più grande mantiene la relazione con il cliente e il sistema completo.
La proprietà intellettuale offre una certa protezione, soprattutto quando il metodo di produzione genera una struttura che i concorrenti non possono copiare facilmente. Anche la conoscenza necessaria alla scalabilità può costituire una barriera.
Questi vantaggi richiedono comunque disciplina commerciale. I fondatori devono decidere se vendere materiali, componenti, licenze di produzione o partnership ingegneristiche.
Ogni modello comporta esigenze di capitale diverse. La produzione diretta richiede attrezzature, sistemi di qualità e scorte. Le licenze riducono l'esposizione produttiva, ma possono ridurre il controllo sull'implementazione.
La crescita del mercato non garantisce che nessuna delle due aziende diventi un fornitore importante. Una domanda elevata attrae spesso produttori affermati con solide relazioni di acquisto e consistenti team di ingegneria.
Anche il mercato del raffreddamento potrebbe frammentarsi. Processori, progetti di server, densità dei rack e standard delle strutture diversi possono richiedere soluzioni termiche distinte.
Apheros potrebbe trovare la propria posizione più solida in uno specifico progetto di piastra fredda, anziché nell'intero mercato dei data center. 3D Architech potrebbe guadagnare terreno in applicazioni specializzate prima di raggiungere volumi da hyperscaler.
Esiti simili non invaliderebbero la tecnologia di base. Mostrerebbero che la commercializzazione segue i confini dell'integrazione, non l'ampiezza della visione originaria.
Cosa deve dimostrare la validazione indipendente
La fase successiva dipende da evidenze ripetibili presso i clienti, non da un'altra dimostrazione di un campione metallico dalla forma insolita.
Il primo segnale da osservare è la qualificazione nell'hardware di server in produzione. Un test credibile dovrebbe utilizzare processori, livelli di potenza, refrigeranti e cicli operativi rappresentativi.
Dovrebbe inoltre confrontare il nuovo componente con un'alternativa consolidata. I risultati dovrebbero includere temperatura del chip, flusso del refrigerante, perdita di pressione ed elettricità delle pompe.
Se Apheros ottiene un partner dichiarato nel settore dei server o delle apparecchiature di raffreddamento, la sua tesi commerciale diventa più solida. Una relazione simile suggerirebbe che la schiuma può soddisfare i requisiti di integrazione e produzione.
L'assenza di partner nominati non dimostrerebbe un fallimento. Gli accordi di fornitura per data center restano spesso riservati durante lo sviluppo.
Tuttavia, le implementazioni pubbliche contano perché i risultati di laboratorio delle aziende non possono rivelare ogni condizione operativa. Gli ambienti di produzione espongono i componenti a contaminazione, variazioni nella manutenzione e lunghi cicli di servizio.
Il secondo segnale è la resa produttiva. La resa misura quanti pezzi prodotti rispettano le specifiche richieste senza rilavorazioni o scarti.
Un processo ad alte prestazioni può incontrare difficoltà commerciali se troppi componenti contengono difetti. Le fini caratteristiche interne possono essere particolarmente difficili da ispezionare con metodi ordinari.
3D Architech deve dimostrare che il proprio processo può riprodurre strutture di rame microscopiche su volumi di produzione significativi. I clienti vorranno dimensioni e comportamento termico stabili da lotto a lotto.
I confronti di costo devono coprire più del solo componente. Un dissipatore più costoso può comunque avere senso se consente processori aggiuntivi per rack o riduce l'infrastruttura di raffreddamento.
Al contrario, un basso costo del componente non può compensare un'installazione difficile o requisiti di pompaggio più elevati. Gli acquirenti valuteranno il costo totale di proprietà e il rischio operativo.
Il terzo segnale è l'adozione da parte di fornitori di sistemi affermati. Specialisti del raffreddamento, produttori di server e aziende di chip definiscono molte delle interfacce che una startup deve utilizzare.
Una vittoria progettuale con uno di questi fornitori rafforzerebbe la tesi secondo cui materiali avanzati possano entrare nei data center tradizionali senza imporre un cambiamento architettonico completo.
Chiarirebbe inoltre dove queste startup si collocano nella catena di fornitura. Un fornitore di componenti opera diversamente da un'azienda responsabile dell'intero circuito di raffreddamento.
Gli standard influenzeranno l'adozione. Connettori comuni, specifiche dei refrigeranti, sistemi di rilevamento perdite e interfacce di struttura riducono il rischio di impegnarsi con un solo fornitore.
Gli operatori dovrebbero inoltre richiedere una rendicontazione ambientale a livello di sistema. Temperature dei chip più basse non significano automaticamente minori consumi di elettricità o acqua.
Una valutazione solida dovrebbe includere pompe, ventole, dissipazione del calore, produzione del refrigerante, fabbricazione dei componenti e durata di servizio prevista. Dovrebbe anche esaminare se una maggiore densità incoraggi semplicemente più calcolo complessivo.
Questo effetto rimbalzo è importante. L'efficienza può ridurre le risorse necessarie per ogni unità di calcolo mentre il consumo totale continua a crescere.
L'IEA prevede che la domanda di elettricità dei data center più che raddoppierà entro il 2030 nel suo scenario di base. L'efficienza dei componenti può moderare questa traiettoria, ma non inverte la domanda che la alimenta.
Per gli acquirenti aziendali, la lezione pratica è porre domande specifiche ai fornitori di infrastrutture. Gli acquirenti dovrebbero esaminare dove vengono eseguiti i carichi di lavoro, come i vincoli di capacità influiscono sulla disponibilità e quali metriche ambientali sono riportate in modo indipendente.
Per gli sviluppatori, il raffreddamento può sembrare distante dalla progettazione delle applicazioni. Eppure la scelta dei modelli, la frequenza dell'inferenza e la pianificazione dei carichi di lavoro determinano quanta infrastruttura di calcolo richieda in ultima analisi un'applicazione.
I lavoratori della conoscenza dovrebbero interessarsene per una ragione diversa. I servizi AI spesso nascondono la propria catena di fornitura fisica dietro un'interfaccia semplice. Disponibilità e costi dipendono comunque da chip, apparecchiature di raffreddamento, connessioni alla rete e tempi di costruzione.
Apheros e 3D Architech rendono visibile quello strato fisico. Il loro lavoro suggerisce che alcuni dei progressi più preziosi dell'AI arriveranno da cambiamenti più silenziosi nei materiali e nella produzione.
Il loro successo non è garantito. Entrambe devono colmare la distanza tra una struttura tecnicamente interessante e un componente infrastrutturale comune e affidabile.
Bisognerà osservare i partner produttivi, test termici comparabili e prove di una produzione ripetibile. Questi segnali riveleranno se le strutture metalliche avanzate diventeranno hardware di raffreddamento standard o resteranno risultati specializzati dell'ingegneria.
Il prossimo vincitore dei data center potrebbe non costruire un modello né progettare un processore. Potrebbe rimuovere il calore in modo più efficiente dall'hardware che tutti gli altri si stanno affrettando a installare.
