Frore LiquidJet Diamond celuje w problem chłodzenia Nvidia Rubin o mocy 2 300 W
Frore Systems zaprezentowało Frore LiquidJet Diamond — niestandardową płytę chłodzącą zaprojektowaną do chłodzenia akceleratorów Nvidia Rubin o mocy 2 300 W oraz wyjątkowo skoncentrowanych hotspotów układów. Firma twierdzi, że konstrukcja może obniżyć temperaturę GPU o 16°C do 22°C w porównaniu z konwencjonalnymi płytami chłodzącymi wykonywanymi metodą skivingu. Prognozuje również o 30% do 35% więcej tokenów AI na wat.
Takie wyniki oznaczałyby, że chłodzenie bezpośrednio przyczynia się do wydajności obliczeniowej, zamiast być jedynie systemem pomocniczym zapobiegającym przegrzewaniu. Opublikowane przez Frore wyniki pozostają jednak deklaracjami firmy, częściowo opartymi na modelach termicznych i określonych warunkach pracy. Niezależne testy sprzętu Rubin nie potwierdziły jeszcze takich samych korzyści.
Istotniejsza rywalizacja toczy się między dwiema architekturami chłodzenia. Konwencjonalne płyty chłodzące rozprowadzają ciecz chłodzącą przez obrobione kanały, podczas gdy Frore koncentruje przepływ wokół odwzorowanych hotspotów procesora. LiquidJet Diamond dodaje diamentowe rozpraszacze ciepła tam, gdzie strumień cieplny jest najwyższy, umieszczając kosztowny materiał wyłącznie tam, gdzie według Frore ma on znaczenie.
Rozwiązanie pojawia się w momencie, gdy Nvidia i AMD przygotowują akceleratory o wyższej mocy pakietu, większych wieloukładowych zestawach oraz gęstszych systemach pamięci. Dostawcy chłodzenia muszą teraz zarządzać zarówno całkowitą ilością ciepła, jak i niewielkimi obszarami, które stają się znacznie gorętsze niż otaczająca je część pakietu.
Frore LiquidJet Diamond umieszcza diament nad hotspotami
Centralnym założeniem Frore jest zaprojektowanie płyty chłodzącej wokół mapy cieplnej każdego procesora, a następnie umieszczenie diamentu bezpośrednio nad jego najtrudniejszymi hotspotami.
Płyta chłodząca to metalowy element chłodzący montowany przy pakiecie procesora. Ciecz krążąca wewnątrz płyty odprowadza ciepło do systemu chłodzenia obiektu. Ścieżka cieplna zwykle obejmuje krzem, materiały obudowy, materiał interfejsu termicznego oraz samą płytę chłodzącą.
Każda warstwa zwiększa opór cieplny. Podnosi on różnicę temperatur między cieczą chłodzącą a pracującym krzemem. Efekt staje się trudniejszy do kontrolowania, gdy niewielki obszar wytwarza znacznie więcej ciepła niż reszta pakietu.
Frore twierdzi, że LiquidJet Diamond wykorzystuje trójwymiarową, wielostopniową strukturę z ultrakrótkim obiegiem. Jej wewnętrzne kanały kierują ciecz chłodzącą najpierw do hotspotów, zanim poprowadzą ją przez rdzeń GPU, pamięć o wysokiej przepustowości oraz inne chiplet’y.
Firma wytwarza wewnętrzną strukturę miedzianą za pomocą procesów zaadaptowanych z produkcji półprzewodników. Metoda ta pozwala na tworzenie bardziej złożonych kształtów niż proste żebra powszechnie wykonywane metodą skivingu, która polega na wycinaniu cienkich kanałów w miedzi.
Diament stanowi drugi element konstrukcji. Frore osadza materiał diamentowy w dolnej powierzchni płyty chłodzącej i umieszcza go nad zidentyfikowanymi hotspotami. Diament przewodzi ciepło skuteczniej niż miedź, dzięki czemu może rozprowadzać skoncentrowane ciepło, zanim trafi ono do struktury chłodzonej cieczą.
Nie jest to uniwersalna płyta przeznaczona dla każdego akceleratora. Wymiary i kanały wewnętrzne zmieniają się zależnie od docelowego procesora. Frore podaje referencyjny rozmiar 104,6 na 62 na 20,4 milimetra dla konfiguracji Nvidia GB300.
Niestandardowa konstrukcja stanowi najważniejszą różnicę produktu względem Frore LiquidJet Nexus. Nexus łączy kilka płyt chłodzących i komponentów chłodzenia w większy zestaw na poziomie serwera. LiquidJet Diamond to indywidualna płyta chłodząca dla akceleratora, którą producenci systemów mogą integrować z własnymi platformami.
Opublikowane przez Frore specyfikacje produktu podają, że płyta obsługuje hotspot o gęstości 770 W/cm² i wymiarach pięć na pięć milimetrów. Wartość ta zakłada temperaturę cieczy chłodzącej na wlocie 25°C, maksymalną temperaturę złącza 95°C, materiał interfejsu termicznego PTM7950 oraz pakiet bez pokrywy.
Te warunki mają znaczenie. Wartość 770 W/cm² opisuje ciepło skoncentrowane w niewielkim hotspocie, a nie średnią gęstość w całym pakiecie GPU. Nie oznacza też, że dowolny akcelerator może utrzymać taką gęstość przy innych temperaturach cieczy chłodzącej lub innych rozwiązaniach obudowy.
Firma porównuje LiquidJet Diamond z wielowlotowymi płytami chłodzącymi wykonywanymi metodą skivingu. Twierdzi, że zapewnia on ponad 150% większą maksymalną obsługiwaną moc hotspotu, o 75% wyższą efektywność wymiany ciepła oraz temperatury GPU niższe o 16°C do 22°C.
Frore twierdzi również, że obniżenie temperatur przekłada się na o 30% do 35% więcej tokenów AI na wat. Jest to prognozowana poprawa efektywności obliczeniowej, a nie zmierzone ograniczenie całkowitego zużycia energii w centrum danych.
Doniesienia dotyczące premiery wskazują, że Frore nie ujawniło sposobu produkcji ani integracji elementów diamentowych. Brak tych informacji może wpływać na koszty, uzysk produkcyjny, niezawodność oraz skalę produkcji.
LiquidJet Diamond stanowi więc konkretną propozycję inżynieryjną. Łączy lokalne rozpraszanie ciepła ze ścieżkami cieczy chłodzącej zaprojektowanymi dla zachowania termicznego jednego procesora. Jego wartość zależy od tego, czy te zalety przetrwają tolerancje produkcyjne, długi czas pracy i wdrożenia w pełnych szafach rackowych.
Nvidia Rubin sprawia, że chłodzenie staje się ograniczeniem obliczeniowym
Akcelerator o mocy 2 300 W sprawia, że kontrola temperatury staje się częścią budżetu wydajności, ponieważ opór cieplny może ograniczać utrzymywane taktowanie i użyteczną wydajność.
Tradycyjne chłodzenie serwerów często projektowano z myślą o średniej mocy pakietu. Podejście to staje się mniej niezawodne, gdy duży akcelerator łączy wiele rdzeni obliczeniowych, pamięć o wysokiej przepustowości, szybkie interkonekty i nierównomierne obciążenia.
Obciążenie AI może przez długi czas utrzymywać aktywność sprzętu do przetwarzania tensorów. Aktywność pamięci i interkonektów może również przesuwać ciepło w obrębie pakietu. Płyta chłodząca musi obsługiwać zarówno stałą całkowitą moc, jak i lokalne skoki, nie dopuszczając do osiągnięcia limitu przez którykolwiek obszar.
Frore planuje zaprezentować LiquidJet Diamond w konfiguracji chłodzenia Nvidia Rubin o mocy 2 300 W. Demonstracja ma obejmować hotspoty osiągające deklarowany przez firmę poziom 770 W/cm².
Nadal nie jest jasne, czy demonstracja wykorzystuje dostarczany na rynek akcelerator Rubin, sprzęt przedprodukcyjny, czy termiczny pojazd testowy. Pojazd testowy może odtworzyć moc i położenie hotspotów, ale nie jest w stanie odzwierciedlić wszystkich zachowań mechanicznych i obciążeniowych produkcyjnego krzemu.
Opublikowane przez Nvidia specyfikacje HGX umieszczają osiem GPU Rubin na płycie bazowej HGX Rubin NVL8. Każdy GPU zawiera 288 GB pamięci HBM4 i oferuje przepustowość pamięci 22 TB/s. Platforma z ośmioma GPU zapewnia dwa terabajty HBM4.
Specyfikacje te pomagają wyjaśnić, dlaczego chłodzenie stało się problemem projektowym całego systemu. Ciepło musi być odprowadzane z gęstego układu zawierającego GPU, pamięć, komponenty sieciowe, sprzęt zasilający i procesory.
Nvidia podaje, że Rubin zapewnia 50 petaflopów wydajności inferencyjnej NVFP4 na GPU. Jego architektura Rubin obejmuje 336 miliardów tranzystorów, 224 multiprocesory strumieniowe i 896 rdzeni Tensor.
Architektura wykorzystuje również konstrukcję chipletową oraz połączenia pakietowe o wysokiej przepustowości. To połączenie tworzy kilka potencjalnych źródeł ciepła na ograniczonej powierzchni fizycznej. Średnia temperatura pakietu nie może w pełni opisać tych lokalnych warunków.
Temperatura wpływa na wydajność, ponieważ współczesne procesory zarządzają częstotliwością i napięciem w ramach ograniczeń elektrycznych i termicznych. Chłodniejszy układ może utrzymywać wyższe częstotliwości pracy, jeśli nie interweniuje inne ograniczenie.
Niższa temperatura nie gwarantuje jednak automatycznie stałej poprawy przepustowości. Wydajność zależy również od zachowania obciążenia, dostępu do pamięci, sieci, wydajności oprogramowania, wykorzystania zasobów i zarządzania energią.
Frore bezpośrednio łączy chłodzenie z liczbą tokenów na wat, ponieważ operatorzy systemów inferencyjnych sprzedają lub wykorzystują użyteczny wynik. Jeśli dwa systemy zużywają podobną moc elektryczną, system generujący więcej tokenów ma lepszą efektywność obliczeniową.
Takie ujęcie biznesowe podnosi standard wymaganych dowodów. Nabywcy potrzebują pomiarów na poziomie obciążeń dla reprezentatywnych modeli, wielkości partii, długości sekwencji i wzorców wykorzystania. Sam model termiczny nie może wykazać pełnego rezultatu operacyjnego.
Należy także uwzględnić energię zużywaną przez chłodzenie. Pompy, jednostki dystrybucji cieczy chłodzącej, wymienniki ciepła w obiekcie oraz opcjonalne chillery pobierają energię. Wzrost efektywności na poziomie układu może się zmniejszyć, gdy pełny obieg chłodzenia wymaga znacznej dodatkowej mocy.
Frore argumentuje, że niższy opór płyty chłodzącej może zmniejszyć zależność od chłodniejszej wody na wlocie. Cieplejsza ciecz chłodząca może uprościć odprowadzanie ciepła i poprawić efektywność obiektu. Twierdzenie to jest wiarygodne, lecz wynik netto zależy od klimatu, konstrukcji systemu i temperatur pracy obiektu.
Presja spada więc na dostawców konwencjonalnych płyt chłodzących i projektantów serwerów. Muszą oni albo poprawić kontrolę hotspotów, albo udowodnić, że mniej wyspecjalizowane płyty zapewniają wystarczającą wydajność przy niższym koszcie i mniejszej złożoności.
Konwencjonalne płyty chłodzące mierzą się z problemem hotspotów
Główna rywalizacja nie toczy się wyłącznie między diamentem a miedzią; chodzi o chłodzenie dostosowane do hotspotów i płyty chłodzące zaprojektowane z myślą o szerszym odprowadzaniu ciepła.
Płyta chłodząca wykonywana metodą skivingu zaczyna się od miedzianej podstawy i zestawu cienkich żeber. Ciecz chłodząca przepływa między tymi żebrami, odbierając ciepło przed opuszczeniem płyty. Producenci dobrze rozumieją ten proces, a powstające komponenty pasują do ugruntowanych łańcuchów dostaw serwerów.
Ta architektura może działać dobrze, gdy ciepło jest rozłożone w miarę równomiernie. Staje się mniej wydajna, gdy ciecz chłodząca przemieszcza się przez długie kanały, podczas gdy jedna niewielka lokalizacja generuje ekstremalne ilości ciepła.
Projektanci mogą dodać wloty, zmienić geometrię żeber, zwiększyć przepływ lub obniżyć temperaturę cieczy chłodzącej. Każda odpowiedź ma konsekwencje. Wyższy przepływ może zwiększać wymagania dotyczące ciśnienia, podczas gdy chłodniejsza ciecz może wymagać większej ilości energii w obiekcie i środków kontroli kondensacji.
Konstrukcja Frore z krótkim obiegiem ma ograniczać odległość między wlotem a najgorętszym obszarem. Wielostopniowe prowadzenie przepływu dostarcza najchłodniejszą dostępną ciecz do hotspotu, zanim obsłuży ona inne komponenty pakietu.
Warstwa diamentowa rozwiązuje powiązany problem. Kanały cieczy chłodzącej odprowadzają ciepło po jego dotarciu do płyty chłodzącej. Rozpraszacz o wysokiej przewodności może rozłożyć skoncentrowane ciepło na większej powierzchni chłodzącej, zanim nastąpi ten transfer.
To rozróżnienie wyjaśnia, dlaczego Frore przywołuje zarówno efektywność wymiany ciepła, jak i gęstość hotspotu. Jedna miara opisuje, jak skutecznie ciepło przechodzi przez strukturę chłodzącą. Druga opisuje, jak skoncentrowane może być źródło, zanim temperatura złącza osiągnie określony limit.
Konstrukcja uwypukla również ograniczenie porównywania produktów według całkowitej mocy. Dwa akceleratory zużywające identyczną moc mogą wymagać różnych płyt chłodzących, jeśli różnią się układem rdzeni, obudową i położeniem hotspotów.
Dlatego Frore wymienia Nvidia Rubin, Rubin Ultra, Feynman, AMD Instinct MI455, MI500 oraz niestandardowe akceleratory hyperscalerów jako docelowe zastosowania. Każdy z nich miałby otrzymać płytę dostosowaną do swoich wymiarów i mapy cieplnej.
Publiczna mapa drogowa MI400 firmy AMD przewidywała rodzinę MI400 opartą na CDNA na 2026 rok. Nowsze plany AMD również umieszczają MI400 w systemach rack-scale z HBM4 i siecią nowej generacji.
Obsługa wielu dostawców mogłaby poszerzyć możliwości Frore. Jednocześnie zwielokrotnia to nakład prac inżynieryjnych. Każdy nowy pakiet może wymagać zaktualizowanych symulacji, nowych struktur wewnętrznych, zmian w oprzyrządowaniu i ponownej kwalifikacji mechanicznej.
Standardowa płyta skrawana oferuje inną przewagę. Jej dobrze znana konstrukcja może ograniczać ryzyko kwalifikacyjne i wspierać wiele konfiguracji produktów przy mniejszej liczbie niestandardowych etapów produkcji.
LiquidJet Diamond musi zatem uzasadnić swoją złożoność. Nabywca porówna dodatkowy zapas termiczny z kosztem komponentu, czasem rozwoju, łatwością serwisowania, niezawodnością i dostępnością dostaw.
Sam diament nie rozstrzyga tego porównania. Ilość, jakość, orientacja, metoda łączenia i rozmieszczenie materiału wpływają na wydajność. Doskonała wartość przewodności objętościowej nie gwarantuje niskiej rezystancji zmontowanego interfejsu.
Kolejne wyzwanie stanowi nacisk kontaktowy. Płyta chłodząca musi utrzymywać niezawodny kontakt na dużej powierzchni pakietu bez uszkadzania matryc, mostków, interposerów ani otaczających komponentów.
Problem staje się poważniejszy w przypadku pakietów bez pokrywy. Usunięcie zintegrowanego rozpraszacza ciepła skraca ścieżkę cieplną, ale naraża delikatne struktury pakietu na obciążenia mechaniczne.
Specyfikacja Frore wynosząca 770 W/cm² zakłada pakiet bez pokrywy. Nabywcy oceniający produkcyjny GPU z pokrywą nie mogą bezpośrednio przenosić tej wartości do własnych systemów.
Konwencjonalne rozwiązanie pozostaje więc wiarygodne, gdy spełnia wymagania operacyjne akceleratora. Projekt Frore staje się najbardziej atrakcyjny tam, gdzie istniejące płyty wymuszają niższe taktowanie, chłodniejszy płyn chłodzący, większą moc pompowania lub zapewniają niewystarczający margines dla hotspotów.
Rynek nie wybierze między tymi dwoma podejściami wyłącznie na podstawie wartości przewodności. Zadecydują kwalifikowane systemy, które zapewniają przewidywalną wydajność w tysiącach serwerów.
Dlaczego niższe temperatury mogą zwiększać liczbę tokenów na wat
Twierdzenie Frore dotyczące wydajności opiera się na jasnym mechanizmie, lecz skala zysku zależy nie tylko od płyty chłodzącej.
Temperatura złącza procesora odzwierciedla temperaturę płynu chłodzącego, generowane ciepło i całkowitą rezystancję termiczną. Zmniejszenie rezystancji obniża temperaturę złącza, gdy pozostałe zmienne pozostają stabilne.
Niższe temperatury mogą zmniejszać moc upływu w urządzeniach półprzewodnikowych. Mogą też zapewniać procesorowi większy zapas w ramach limitu termicznego, wspierając wyższą utrzymywaną częstotliwość lub ograniczając throttling.
Wcześniejsze modelowanie LiquidJet przez Frore przypisywało bazowej płycie chłodzącej obniżenie temperatury o około 6°C do 12°C. Firma powiązała ten zakres ze wzrostem liczby tokenów na wat o 10% do 25%.
LiquidJet Diamond dodaje lokalny rozpraszacz, który według Frore zapewnia nawet kolejne 10°C redukcji hotspotów. W pełnym porównaniu firma podaje więc poprawę temperatury o 16°C do 22°C oraz o 30% do 35% więcej tokenów na wat.
Tych zakresów nie należy łączyć jako uniwersalnych wartości. Różne konstrukcje pakietów, interfejsy, temperatury na wlocie, przepływy i obciążenia mogą przynosić odmienne wyniki.
Niezależne badania potwierdzają szerszą zależność między chłodzeniem cieczą a utrzymywaną wydajnością obliczeniową. Badanie z 2026 roku dotyczące chłodzenia cieczą porównało chłodzone cieczą i powietrzem systemy Nvidia H100 z ośmioma GPU.
Badacze odnotowali temperatury GPU od 41°C do 50°C w systemie chłodzonym cieczą. Konfiguracja chłodzona powietrzem osiągała pod obciążeniem wartości od 54°C do 72°C.
Zmierzono również 54 TFLOPS na GPU na platformie chłodzonej cieczą, w porównaniu z 46 TFLOPS na GPU przy użyciu chłodzenia powietrzem. Oznaczało to 17% różnicę wydajności w testowanych systemach.
Badanie nie potwierdza LiquidJet Diamond firmy Frore ani jej twierdzeń dotyczących Rubin. Wykorzystuje inny sprzęt i porównuje chłodzenie cieczą z chłodzeniem powietrzem, a nie dwa projekty płyt chłodzących cieczą.
Pokazuje jednak, dlaczego dostawca chłodzenia może zasadnie mówić o wydajności obliczeniowej. Stabilność termiczna może wpływać na utrzymywane zachowanie procesora, a nie jedynie na przetrwanie komponentu.
Liczba tokenów na wat pozostaje miarą zależną od obciążenia. Zadanie inferencyjne ograniczone przepustowością pamięci może zyskać mniej na dodatkowej częstotliwości GPU niż zadanie ograniczone mocą obliczeniową.
Oprogramowanie również może dominować wynik. Kwantyzacja, batchowanie, dekodowanie spekulacyjne, dobór kerneli i równoległość wpływają na to, ile tokenów system wytwarza z dostarczonej energii elektrycznej.
Sieć rackowa dodaje kolejną zmienną. Systemy Rubin korzystają z połączeń NVLink o wysokiej przepustowości, aby GPU mogły działać jako skoordynowana struktura obliczeniowa. Narzut komunikacyjny może ograniczać wydajność obciążenia nawet wtedy, gdy poszczególne GPU pozostają chłodne.
Najbardziej przekonujący test mierzyłby ten sam system Rubin z dwiema płytami chłodzącymi. Obie konfiguracje korzystałyby z identycznego oprogramowania, warunków chłodzenia, obciążeń i rozliczania infrastruktury.
Wyniki powinny obejmować temperatury złącza, zmienność hotspotów, pobór mocy akceleratora, moc pomp, przepływ płynu chłodzącego, spadek ciśnienia, przepustowość oraz liczbę tokenów na dżul. Długotrwałe testy ujawniłyby, czy początkowe korzyści pozostają stabilne.
Nabywcy centrów danych potrzebowaliby również rozkładów wydajności, a nie tylko wyników szczytowych. Płyta, która ogranicza różnice między akceleratorami, mogłaby poprawić harmonogramowanie klastra, nawet jeśli jej średnia przewaga wydaje się niewielka.
Ta spójność ma znaczenie, ponieważ duże zadania treningowe i inferencyjne mogą czekać na najwolniejszych uczestników. Garstka GPU ograniczonych termicznie może zmniejszyć wydajność większego, zsynchronizowanego systemu.
Wartość 35% podawana przez Frore powinna być więc odczytywana jako górna granica prognozowanego przez firmę wyniku. Nie jest jeszcze uniwersalną poprawą dostępną dla każdego wdrożenia Rubin.
Twierdzenia nadal wymagają dowodów w skali produkcyjnej
LiquidJet Diamond rozwiązuje wiarygodny problem inżynieryjny, lecz opublikowane wartości nie stanowią jeszcze pełnego przypadku kwalifikacji produkcyjnej.
Pierwsza niepewność dotyczy walidacji. Frore przedstawia szczegółowe warunki dla swojej wartości dotyczącej hotspotów, jednak nie opublikowała szerokiego niezależnego benchmarku z wykorzystaniem produkcyjnych systemów Rubin.
Analityczne modele termiczne są cenne w trakcie rozwoju. Pozwalają inżynierom porównywać materiały, ścieżki przepływu, wybory dotyczące pakietów i warunki chłodzenia, zanim finalny sprzęt stanie się szeroko dostępny.
Modele nadal zależą od danych wejściowych. Założenia dotyczące rozkładu mocy, jakości interfejsu, kontaktu z rozpraszaczem ciepła, zachowania obciążenia i kontroli procesora mogą zmienić wynik.
Planowana demonstracja może dostarczyć użytecznych dowodów, jeśli Frore wskaże urządzenie testowe i metodę pomiaru. Termiczny pojazd testowy zweryfikowałby odprowadzanie ciepła w kontrolowanych warunkach. Nie zweryfikowałby przepustowości tokenów.
Test produkcyjnego GPU mógłby powiązać zmiany temperatury z rzeczywistą wydajnością. Nawet wtedy nabywcy potrzebowaliby szczegółów dotyczących obciążeń i pełnego rozliczenia poboru mocy systemu.
Druga niepewność dotyczy produkcji. Frore twierdzi, że dostosowuje procesy półprzewodnikowe do wytwarzania struktur miedzianych, ale nie ujawniła kosztu produkcji ani zdolności produkcyjnej.
Osadzanie diamentu wprowadza więcej interfejsów i etapów procesu. Cykle termiczne mogą obciążać połączenia, ponieważ różne materiały rozszerzają się w różnym tempie.
Serwery wielokrotnie nagrzewają się i chłodzą podczas konserwacji, zmian obciążenia i awarii. Kwalifikacja musi wykazać, że płyta chłodząca zachowuje kontakt, wydajność przepływu i integralność strukturalną podczas tych cykli.
Trzecia kwestia to dostosowanie. Dopasowanie kanałów chłodziwa do każdej mapy cieplnej może poprawić wydajność, ale wiąże konkretną płytę z konfiguracją pakietu.
Późne zmiany akceleratora mogłyby wymagać przeprojektowania płyty. Ryzyko to ma znaczenie, gdy dostawcy GPU zmieniają mapy mocy, tolerancje mechaniczne, wysokości pakietów lub wymagania dotyczące interfejsu przed dostawami wolumenowymi.
Operatorzy chmurowi cenią też wymienialność. Wysoce dostosowany komponent potrzebuje niezawodnego zapasu części zamiennych i jasnych procedur serwisowych przez cały okres eksploatacji wdrożenia.
Czwarta kwestia dotyczy infrastruktury chłodzenia. Płyta chłodząca nie działa niezależnie. Łączy się z kolektorami, pompami, jednostkami dystrybucji chłodziwa, wymiennikami ciepła, czujnikami i obiegami infrastruktury.
Spadek ciśnienia wpływa na wymagania wobec pomp. Rozdział przepływu staje się trudniejszy, gdy wiele akceleratorów współdzieli rack. Niewielkie różnice produkcyjne mogą również wpływać na to, która gałąź otrzymuje najwięcej chłodziwa.
Frore opisuje LiquidJet Diamond jako modernizację typu drop-in, ale to sformułowanie wymaga ostrożnej interpretacji. Zgodność mechaniczna nie gwarantuje identycznego zachowania hydraulicznego ani niezmienionych wymagań infrastrukturalnych.
Piąta niepewność to ekonomika. Niższe temperatury mogą tworzyć wartość poprzez wyższą przepustowość, niższe zużycie energii na chłodzenie lub większą żywotność sprzętu. Nabywcy muszą porównać te oszczędności z pełnym kosztem zainstalowanej płyty.
Materiał diamentowy nie czyni automatycznie systemu nieopłacalnym, ponieważ Frore wykorzystuje go wyłącznie w pobliżu hotspotów. Firma nie opublikowała jednak wystarczających informacji handlowych, aby obliczyć zwrot z inwestycji dla wdrożenia.
Szósta kwestia to ryzyko związane z pakietem. Najwyższa specyfikacja hotspotów Frore zakłada bezpośredni kontakt z pakietem bez pokrywy, wykorzystujący PTM7950.
Usunięcie pokrywy zmniejsza rezystancję termiczną poprzez wyeliminowanie warstw między krzemem a płytą chłodzącą. Może również zwiększać ryzyko pękania lub nierównomiernego obciążenia w zespołach wielomatrycowych.
Zintegrowany rozpraszacz ciepła chroni pakiet i rozkłada siłę mechaniczną. Hyperscalerzy mogą zaakceptować większe ryzyko związane z pakietem w zamian za wyższą wydajność, ale nabywcy korporacyjni mogą priorytetowo traktować konserwatywną łatwość serwisowania.
Te pytania nie unieważniają architektury. Definiują pracę dzielącą przekonującą demonstrację od kwalifikowanego produktu wdrożonego w całym klastrze AI.
Frore może wzmocnić swoją argumentację, publikując niezależne wyniki testów, szczegółowe warunki pracy, dane dotyczące niezawodności i pomiary hydrauliczne. Wdrożenia u klientów zapewniłyby silniejsze dowody niż kolejne modelowane porównanie.
Trzy sygnały zdecydują, czy chłodzenie Diamond skaluje się
Kolejny etap dotyczy weryfikacji, kwalifikacji akceleratorów i wdrożenia, a nie kolejnego wzrostu deklarowanej temperatury.
Pierwszym sygnałem jest przejrzysta demonstracja Rubin. Frore powinna wskazać, czy konfiguracja o mocy 2300 watów wykorzystuje produkcyjny krzem, sprzęt przedprodukcyjny czy oparty na grzałkach pojazd testowy.
Użyteczna demonstracja ujawniłaby temperaturę chłodziwa, natężenie przepływu, spadek ciśnienia, konfigurację pakietu, materiał interfejsu i metodę pomiaru hotspotów. Wyniki rzeczywistych obciążeń powinny uwzględniać pełny pobór mocy systemu.
Niezależne pomiary zgodne z zakresem 16°C do 22°C podawanym przez Frore wzmocniłyby argument za chłodzeniem ukierunkowanym na hotspoty. Wynik ograniczony do modelowanego lub symulowanego sprzętu pozostawiłby główne twierdzenie dotyczące wydajności nierozstrzygnięte.
Drugim sygnałem jest formalna kwalifikacja u dostawcy akceleratorów lub serwerów. Wskazane zwycięstwo projektowe oznaczałoby, że LiquidJet Diamond przeszedł przeglądy mechaniczne, hydrauliczne, termiczne i niezawodnościowe.
Kwalifikacja dla Nvidia Rubin lub platformy AMD Instinct przetestowałaby również model dostosowania Frore. Pokazałaby, czy firma potrafi przekształcać mapy cieplne procesorów w powtarzalne komponenty produkcyjne.
Ogólne oświadczenie o zgodności ma mniejszą wagę. Nabywcy potrzebują dowodów, że płyta działa w kompletnym serwerze z zatwierdzonymi siłami montażowymi, złączami, kolektorami, kontrolą firmware i procedurami konserwacji.
Trzecim sygnałem są dane operacyjne w skali klastra. Jedna płyta chłodząca może działać dobrze, podczas gdy zapełniony rack ujawni problemy z równoważeniem przepływu, pompami, wibracjami, wykrywaniem wycieków lub serwisem.
Długotrwałe wyniki powinny śledzić temperatury akceleratorów, zmienność wydajności, moc chłodzenia, wskaźniki awarii i wyniki obciążeń. Liczba tokenów na wat powinna uwzględniać pomocnicze urządzenia chłodzące.
Jeśli Frore utrzyma deklarowaną poprawę wydajności w tych warunkach, wybór płyty chłodzącej stanie się częścią planowania mocy AI. Operatorzy mogliby uzyskać więcej pracy ze stałego przydziału energii elektrycznej.
Jeśli korzyści zmaleją po uwzględnieniu poboru energii przez system i opakowania produkcyjnego, LiquidJet Diamond może nadal być wartościowe w przypadku ekstremalnych hotspotów, nie zastępując jednak szeroko konwencjonalnych płyt chłodzących.
Moment wciąż sprzyja poważnym eksperymentom. Platforma Rubin firmy Nvidia łączy wysoką gęstość obliczeniową z HBM4 i łącznością w skali całej szafy. AMD rozwija podobnie zintegrowane systemy akceleratorów.
Tymczasem operatorzy AI mierzą się z ograniczeniami energetycznymi i infrastrukturalnymi, których nie da się rozwiązać wyłącznie poprzez projektowanie układów. Każda warstwa między tranzystorem a instalacją chłodniczą wpływa obecnie na dostępną moc obliczeniową.
Frore LiquidJet Diamond stanowi technicznie spójną odpowiedź. Kieruje chłodziwo zgodnie z mapą cieplną procesora i wykorzystuje diament tam, gdzie sama miedź napotyka największe lokalne obciążenie.
Pozostaje pytanie, czy ta precyzja przetrwa proces produkcji, kwalifikacji i eksploatację w skali szaf serwerowych. Kupujący powinni śledzić zmierzone obciążenia Rubin, wskazanych partnerów systemowych oraz niezależnie zweryfikowane rozliczenia energii, zanim uznają 35% więcej tokenów na wat za potwierdzony rezultat.
