Processing-in-Memory od SK hynix celuje w wąskie gardła AI wykraczające poza GPU i HBM

SK hynix ponownie postawił processing-in-memory w centrum swojej strategii AI, mimo wieloletniego uzależnienia branży od systemów GPU i HBM. Podczas AI Infra Summit 2026 firma zaprezentowała układ AiM, kartę akceleratora AiMX oraz serwer uruchamiający interaktywną demonstrację dużego modelu językowego. Przekaz był jasny: kierowanie każdej operacji przez GPU staje się kosztownym wąskim gardłem.

Prezentacja z 16 września nie przedstawiła PIM jako nowego wynalazku. SK hynix ogłosił pierwszą próbkę GDDR6-AiM w 2022 roku, a kartę AiMX zademonstrował w 2023 roku. Zmieniło się natomiast stanowisko firmy w kwestii miejsca tej technologii. SK hynix pozycjonuje ją obecnie jako wyspecjalizowane uzupełnienie infrastruktury GPU i pamięci o wysokiej przepustowości, szczególnie dla szybkiego wnioskowania AI.

To rozróżnienie ma znaczenie, ponieważ głównym starciem nie jest rywalizacja SK hynix z Nvidią czy innym producentem układów. Chodzi o konwencjonalną architekturę GPU-HBM kontra heterogeniczny projekt, który kieruje zadania intensywnie korzystające z pamięci do dedykowanego sprzętu pamięciowego. Nowe podejście obiecuje ograniczyć przemieszczanie danych, lecz komercyjne wdrożenie nadal zależy od oprogramowania, ekonomiki produkcji i niezależnie zweryfikowanej wydajności.

Co SK hynix pokazał w Santa Clara

SK hynix zaprezentował PIM jako działający element szerszego systemu obsługującego AI, a nie jedynie laboratoryjny układ pamięci.

Firma uczestniczyła w AI Infra Summit 2026, odbywającym się od 15 do 17 września w Santa Clara w Kalifornii. SK hynix podał, że wydarzenie przyciągnęło około 6 000 uczestników, czyli mniej więcej dwa razy więcej niż rok wcześniej. Stoisko firmy również podwoiło swoją powierzchnię i łączyło kilka technologii pamięci pod hasłem „New Spectrum”.

Ekspozycja PIM obejmowała układ pamięci AiM firmy, kartę akceleratora AiMX oraz serwer zawierający tę kartę. Processing-in-memory, czyli PIM, umieszcza ograniczone funkcje obliczeniowe wewnątrz pamięci lub bardzo blisko niej. Ogranicza to potrzebę przesyłania każdego fragmentu danych między pamięcią a odrębnym procesorem.

Odwiedzający mogli korzystać z usługi LLM działającej na prezentowanym systemie. Ten szczegół wykracza poza statyczną próbkę układu, choć demonstracja konferencyjna nie potwierdza gotowości produkcyjnej. Prezentacja infrastruktury AI pokazała, jak SK hynix chce, aby klienci postrzegali ten produkt: jako możliwy do wdrożenia komponent serwera.

Wiceprezes Lim Eui-cheol przedstawił strategię podczas ścieżki Data Movement na konferencji. W jego wystąpieniu argumentowano, że coraz bardziej zróżnicowane obciążenia nie mieszczą się już w jednym projekcie sprzętowym. Agenci o ultraniskich opóźnieniach, aplikacje z długim kontekstem i wnioskowanie na dużą skalę stawiają odmienne wymagania dotyczące pojemności pamięci, przepustowości i zasobów obliczeniowych.

Lim stwierdził, że sama konwencjonalna architektura GPU-HBM coraz mniej wystarcza do spełnienia wszystkich tych wymagań. Jest to stanowisko firmy, a nie niezależny werdykt dotyczący obecnych systemów GPU. Wyjaśnia jednak, dlaczego SK hynix zaprezentował podczas tego samego wydarzenia trzy różne technologie.

PIM jest przeznaczony do szybkiego dekodowania i operacji ograniczanych przez pamięć. High Bandwidth Flash, czyli HBF, ma umieszczać większą pojemność NAND pomiędzy pamięcią HBM a magazynem SSD. SALT-KV to system oparty na oprogramowaniu, służący do rozdzielania pamięci podręcznej klucz-wartość LLM między warstwy HBM, DRAM i SSD.

Pamięć podręczna klucz-wartość przechowuje wcześniej obliczone informacje uwagi podczas generowania przez model językowy. Jej zapotrzebowanie na pamięć rośnie wraz z wydłużaniem się rozmów i równoczesną obsługą większej liczby zapytań. Efektywne przenoszenie lub przechowywanie tych danych może wpływać na szybkość wnioskowania i wykorzystanie infrastruktury.

Portfel rozwiązań odzwierciedla zatem jeden kluczowy osąd. Obsługa AI będzie potrzebowała kilku wyspecjalizowanych warstw pamięci zamiast jednej, równomiernie szybkiej puli. SK hynix próbuje przekształcić swoją rolę ze sprzedawcy szybkiej pamięci w projektanta miejsca, w którym dane AI powinny się znajdować i gdzie powinny być wykonywane wybrane operacje.

Ta ambicja wyjaśnia także, dlaczego wystąpienia z 2026 roku nie należy opisywać jako pierwszej prezentacji PIM przez SK hynix. Firma ogłosiła GDDR6-AiM w lutym 2022 roku. W 2023 roku przedstawiła pierwszy prototyp karty AiMX, a w 2024 roku podwoiła demonstrowaną pojemność karty do 32 GB.

Najnowsze wydarzenie przesuwa narrację od rozwoju komponentów w stronę wdrażania systemowego. SK hynix nie podał jednak publicznie wolumenów dostaw, nazw wdrożeń u klientów ani harmonogramu produkcji, które byłyby potrzebne do potwierdzenia szerokiego wdrożenia komercyjnego.

Ta luka tworzy centralne napięcie artykułu. SK hynix może zaprezentować zintegrowany serwer PIM i przedstawić przekonujący problem architektoniczny. Nadal musi jednak udowodnić, że klienci przebudują wokół tego rozwiązania swoje oprogramowanie i infrastrukturę.

Dlaczego systemy GPU i HBM mierzą się z problemem przemieszczania danych

Ograniczenie, na które celuje SK hynix, pojawia się wtedy, gdy kosztowne procesory czekają na dane zamiast wykonywać użyteczne obliczenia.

Współczesne akceleratory AI łączą silnie równoległe procesory z pamięcią o wysokiej przepustowości, czyli HBM. HBM układa kości DRAM warstwowo i łączy je za pomocą gęstych pionowych połączeń. Umieszczenie tych stosów blisko GPU zapewnia znacznie większą przepustowość niż konwencjonalna pamięć serwerowa.

Taki układ stał się centralnym elementem trenowania i wnioskowania AI. Dodatkowa przepustowość procesora nie usuwa jednak każdego ograniczenia pamięciowego. Obciążenie może nadal ograniczać wielokrotne odczytywanie wag modelu, danych uwagi lub wyników pośrednich.

Przemieszczanie danych zużywa czas i energię, nawet gdy sama operacja matematyczna jest prosta. Konwencjonalny system pobiera dane z pamięci, przesyła je do procesora, wykonuje operację i zapisuje wynik z powrotem. Powtarzanie tej sekwencji w dużych modelach może prowadzić do niedostatecznego wykorzystania sprzętu arytmetycznego.

Problem staje się szczególnie widoczny podczas dekodowania LLM. Dekodowanie generuje tokeny wyjściowe sekwencyjnie, więc każdy krok zależy od wcześniejszego stanu. Proces często wykonuje stosunkowo niewielką liczbę obliczeń, odczytując przy tym duże ilości danych modelu i kontekstu.

Trenowanie charakteryzuje się inną równowagą. Grupuje większe operacje matematyczne i może intensywnie wykorzystywać jednostki GPU. Obciążenia związane z wnioskowaniem różnią się bardziej, ponieważ rozmiary partii, długości kontekstu, cele dotyczące opóźnień i wzorce zapytań zmieniają się zależnie od usługi.

SK hynix wykorzystuje tę różnorodność, by zakwestionować założenie, że każda istotna operacja powinna trafiać na GPU. Firma nie twierdzi, że akceleratory ogólnego przeznaczenia stały się zbędne. Proponuje odciążanie odpowiednich operacji ograniczanych przez pamięć, przy pozostawieniu zadań intensywnie obliczeniowych na sprawdzonych procesorach.

Takie podejście wywiera presję na kilka elementów obecnego projektu systemu. Operatorzy GPU muszą rozważyć, czy dodatkowa pojemność akceleratorów jest najefektywniejszą odpowiedzią na wolne wnioskowanie. Producenci serwerów muszą zdecydować, czy kolejna klasa kart zapewnia wystarczającą korzyść, by uzasadnić dodatkową złożoność.

Dostawcy chmurowi stają przed powiązanym pytaniem. Szybszy komponent ma ograniczoną wartość, jeśli oprogramowanie nie potrafi niezawodnie planować na nim pracy. Wykorzystanie sprzętu, zgodność modeli, zarządzanie systemem i utrzymanie mogą mieć równie duże znaczenie jak teoretyczna przepustowość.

Ekonomia zależy także od rodzaju usługi prowadzonej przez klienta. Premiumowy agent konwersacyjny, dla którego priorytetem jest natychmiastowe dostarczanie tokenów, ma inne potrzeby niż usługa wsadowa przetwarzająca tysiące zapytań. Wyszukiwanie z długim kontekstem wprowadza kolejny wzorzec pamięciowy.

SK hynix twierdzi, że PIM najlepiej nadaje się do obciążeń wymagających szybkiego dekodowania w usługach premium. To zastrzeżenie jest istotne. Zawęża propozycję do obciążeń, w których niskie opóźnienia i powtarzalny dostęp do pamięci uzasadniają wyspecjalizowany sprzęt.

Firma nie przedstawia jednej technologii pamięci jako odpowiedzi na każde wąskie gardło AI. HBF odpowiada za pojemność i przepustowość w zastosowaniach z długim kontekstem. SALT-KV decyduje, gdzie powinny znajdować się informacje z pamięci podręcznej. PIM wykonuje wybrane obliczenia blisko przechowywanych danych.

Podział ten podważa dominującą preferencję skalowania znanej platformy GPU-HBM. Dodawanie większej liczby GPU i szybszej pamięci HBM pozostaje operacyjnie prostsze, gdy istniejące oprogramowanie już je obsługuje. Heterogeniczny projekt zapewnia wydajność dopiero po właściwym podziale obciążeń.

Badacze nadal wskazują na ten sam kompromis. Badanie z 2026 roku dotyczące heterogenicznych systemów DRAM-PIM-GPU wykazało, że istotna efektywność wymaga współoptymalizacji całego systemu. Jego analiza projektu PIM wykazała, że statyczne zużycie pamięci i pobór mocy przez nieaktywne GPU mogą znacząco zmieniać pozorną efektywność.

Badanie wykazało również, że mapowanie obciążeń przyniosło ograniczone korzyści od końca do końca w testowanych konfiguracjach. Wyniki te nie oceniają bezpośrednio serwera SK hynix z 2026 roku. Pokazują, dlaczego pomiary na poziomie komponentów nie mogą same w sobie przewidzieć pełnej wydajności aplikacji.

Dla nabywców korporacyjnych oznacza to, że PIM należy oceniać jako architekturę systemową. Istotne pytanie nie brzmi, czy obliczenia mogą odbywać się wewnątrz pamięci. Chodzi o to, czy obsługiwana aplikacja wykonuje użyteczną pracę szybciej i efektywniej po uwzględnieniu wszystkich narzutów.

Processing-in-memory od SK hynix przenosi wybrane zadania bliżej danych

Processing-in-memory od SK hynix zmienia miejsce wykonywania obliczeń, lecz nie czyni z DRAM kompletnego zastępstwa dla GPU.

Projekt AiM firmy dodaje funkcje obliczeniowe do pamięci GDDR6. GDDR6 to standard szybkiej pamięci graficznej, który zapewnia znaczną przepustowość bez wykorzystywania warstwowej struktury HBM. Wiele urządzeń GDDR6-AiM można połączyć na karcie akceleratora AiMX.

W 2022 roku SK hynix podał, że jego pierwsza próbka GDDR6-AiM działała z szybkością 16 gigabitów na sekundę i przy napięciu 1,25 V. Standardowa pamięć porównawcza przywoływana przez firmę działała przy napięciu 1,35 V. Firma twierdziła również, że w określonych operacjach uzyskała nawet 16-krotnie wyższą wydajność oraz 80-procentowe ograniczenie zużycia energii.

Liczby te pochodziły od SK hynix i dotyczyły wybranych warunków. Nie należy interpretować ich jako uniwersalnych korzyści dla wszystkich zastosowań AI. Pierwotne ogłoszenie GDDR6-AiM nie ustalało, jak działałby każdy model produkcyjny, serwer czy stos oprogramowania.

Kolejnym krokiem był AiMX. SK hynix zademonstrował pierwszy prototyp karty akceleratora w 2023 roku, wykorzystując model językowy OPT 13B firmy Meta. Firma podała, że system ten przetwarzał dane ponad dziesięć razy szybciej niż porównywane rozwiązanie oparte na GPU, zużywając jedną piątą energii.

Twierdzenie to zawierało istotny warunek. SK hynix podał, że wydajność zakładała zastosowanie układu scalonego specyficznego dla aplikacji dla AiM Control Hub karty. Zademonstrowany wynik zależał więc od konkretnej implementacji kontrolera, a nie wyłącznie od układów pamięci.

Pierwszy prototyp AiMX mimo to ustanowił zamierzony mechanizm. Zamiast wymagać od GPU pobierania każdej wartości, karta wykonuje obsługiwane operacje blisko urządzeń GDDR6-AiM. Ograniczony ruch danych może zwolnić GPU do pracy lepiej odpowiadającej jego mocnym stronom.

SK hynix zaktualizował prototyp w 2024 roku. Nowa karta miała 32 GB, czyli dwukrotnie większą pojemność od poprzedniej wersji. Firma zaprezentowała ją z modelem Llama 3 70B firmy Meta i skoncentrowała się na wnioskowaniu wielowsadowym.

Przetwarzanie wielowsadowe grupuje kilka zapytań do wykonania. Może poprawić wykorzystanie zasobów, lecz zwiększa także obciążenie pamięci i planowania. SK hynix przedstawił AiMX jako akcelerator uwagi w tym środowisku.

Uwaga pozwala modelowi LLM powiązać bieżący token z istotnymi wcześniejszymi tokenami. Jest niezbędna dla zachowania modelu, lecz wymaga przenoszenia i przetwarzania znacznych ilości przechowywanego stanu. To sprawia, że niektóre elementy mechanizmu uwagi są atrakcyjnym celem dla akceleracji blisko pamięci.

Firma twierdziła również, że jej konstrukcja z 2024 roku może trzykrotnie zwiększyć szybkość działania mobilnych LLM w porównaniu z mobilną pamięcią DRAM przy tym samym poziomie poboru mocy. Ponownie było to porównanie przedstawione przez firmę, a nie szeroki niezależny benchmark. Demonstracja AiMX o pojemności 32 GB nie zapowiadała dostępności na masowym rynku.

Podczas konferencji w 2026 roku Lim przedstawił kolejne porównanie PIM ze statyczną pamięcią o dostępie swobodnym, czyli SRAM. SRAM jest szybka, ale zajmuje znaczną powierzchnię układu i zwykle oferuje mniejszą pojemność niż DRAM.

Według koreańskiego doniesienia o prezentacji Lim stwierdził, że PIM może zapewnić około 300 razy większą pojemność niż SRAM na tej samej powierzchni. Mogłaby również zachować wysoką wewnętrzną przepustowość. Wypowiedzi z konferencji przedstawiały PIM jako sposób na ominięcie ograniczeń SRAM dotyczących pojemności i kosztów.

To porównanie dotyczy rzeczywistego kompromisu architektonicznego. Szybka pamięć lokalna pomaga minimalizować opóźnienia, lecz duże macierze SRAM są kosztowne i wymagają dużej powierzchni. DRAM oferuje znacznie większą gęstość, choć zwykła pamięć DRAM nie ma takiej samej możliwości bezpośredniego wykonywania obliczeń.

SK hynix proponuje oddzielenie matrycy pamięci od matrycy obliczeniowej i pionowe połączenie ich za pomocą hybrydowego bondingu. Hybrydowy bonding łączy wypolerowane powierzchnie i połączenia miedziane bez konwencjonalnych wypukłości lutowniczych. Może to umożliwić gęstsze połączenia między niezależnie zoptymalizowanymi matrycami.

To rozdzielenie ma znaczenie, ponieważ umieszczanie rozbudowanej logiki bezpośrednio w matrycy DRAM może zmniejszać pojemność pamięci i podnosić koszty produkcji. Matryca logiczna może wykorzystywać proces dostosowany do obliczeń, podczas gdy matryca pamięci zachowuje konstrukcję skoncentrowaną na DRAM.

Hybrydowy bonding wprowadza jednak własne wymagania produkcyjne. Wyrównanie, jakość powierzchni, ciepło, uzysk i testowanie wpływają na koszty. Technicznie elegancki stos nie staje się automatycznie ekonomicznym produktem masowym.

Mechanizm jest zatem bardziej precyzyjny, niż sugeruje określenie „pamięć, która oblicza”. AiM realizuje obsługiwane operacje blisko danych. AiMX łączy te urządzenia w akcelerator. Procesor hosta, GPU, hierarchia pamięci, kontroler i stos oprogramowania nadal koordynują całe obciążenie.

To ograniczenie jest również źródłem potencjalnej korzyści. Specjalizowany sprzęt nie musi zastępować każdego komponentu, aby tworzyć wartość. Wystarczy, że wyeliminuje odpowiednio dużą część powtarzalnego przenoszenia danych z istotnego obciążenia.

Prawdziwym przeciwnikiem jest architektura uniwersalna

SK hynix kwestionuje założenie, że szybsze połączenia GPU-HBM powinny obsługiwać każdy etap wnioskowania AI.

To rywalizacja między dwoma podejściami. Pierwsze rozwija dominującą architekturę poprzez dodawanie szybszych akceleratorów, większych stosów HBM i dodatkowych systemów. Drugie dzieli pracę między GPU, PIM, pamięć masową i zarządzane programowo warstwy pamięci.

Pierwsze podejście korzysta z dojrzałej bazy oprogramowania. Deweloperzy już używają sprawdzonych frameworków GPU, zoptymalizowanych kerneli, systemów monitorowania i narzędzi wdrożeniowych. Dostawcy modeli często publikują konfiguracje zaprojektowane wokół tych platform.

Drugie podejście obiecuje lepsze dopasowanie sprzętu do obciążenia. Operacje ograniczone przepustowością pamięci mogą być wykonywane blisko danych, podczas gdy GPU nadal obsługują zadania wymagające intensywnych obliczeń. Wolniejsze, lecz większe warstwy pamięci mogą przechowywać informacje, które nie wymagają natychmiastowego dostępu.

Taki podział przypomina wyspecjalizowaną linię produkcyjną. Każdy komponent wykonuje zadanie odpowiadające jego właściwościom. Powstały system może być bardziej efektywny, ale koordynacja staje się trudniejsza.

Strategia SK hynix pośrednio wywiera presję na dostawców GPU. Jeśli karty PIM obsłużą znaczącą część dekodowania, klienci mogą potrzebować mniej cykli GPU dla tej samej skali usług. Udane systemy PIM mogą jednak także zwiększyć popyt na GPU, czyniąc kompletne usługi AI bardziej ekonomicznymi.

Z tego powodu opisywanie PIM jako bezpośredniego zamiennika GPU zniekształcałoby obecną prezentację firmy. SK hynix pokazał AiMX wewnątrz serwera i omawiał heterogeniczną infrastrukturę. Jej celem jest nieefektywne przenoszenie danych, a nie eliminacja procesora.

Samsung oferuje najczytelniejszy punkt odniesienia konkurencyjnego wśród głównych dostawców pamięci. Firma opracowała HBM-PIM i zademonstrowała tę technologię wraz ze sprzętem akceleratorowym AMD. Samsung badał także rozwiązania processing-near-memory i konstrukcje PIM dla AI działającej na urządzeniu.

Podejście Samsunga potwierdza, że branża postrzega obliczenia blisko pamięci jako coś więcej niż eksperyment SK hynix. Jego architektura HBM-PIM przenosi wybrane operacje do HBM, zamiast korzystać z kart AiM opartych na GDDR6.

Różnica w formacie pamięci nie wyłania prostego zwycięzcy. HBM zapewnia bardzo wysoką przepustowość blisko akceleratora, podczas gdy GDDR6 może oferować inne cechy pod względem pojemności, pakowania i kosztów. Klienci będą oceniać kompletne systemy oraz obsługiwane obciążenia.

Twórcy PIM również stają przed znanym problemem standaryzacji. Sprzęt staje się łatwiejszy do wdrożenia, gdy oprogramowanie może go obsługiwać bez szeroko zakrojonych zmian. Konstrukcja powiązana z niestandardowymi bibliotekami jednego dostawcy lub wąskim zestawem operatorów ryzykuje pozostanie produktem specjalistycznym.

Kompilatory muszą identyfikować operacje odpowiednie do przeniesienia. Środowiska uruchomieniowe muszą planować te operacje i zarządzać rozmieszczeniem danych. Narzędzia monitorujące muszą wyjaśniać awarie oraz zmiany wydajności w kilku lokalizacjach przetwarzania.

Modele ewoluują również szybciej niż cykle wymiany serwerów. Akcelerator zoptymalizowany pod jeden wzorzec uwagi może stracić znaczenie, jeśli nowe architektury zmienią dostęp do pamięci. Dlatego rekonfigurowalność i aktualizacje oprogramowania są ważne obok surowej wydajności krzemu.

W tym miejscu szersze portfolio SK hynix zyskuje znaczenie strategiczne. SALT-KV próbuje podejmować decyzje dotyczące rozmieszczenia danych w pamięci i pamięci masowej. HBF dostarcza kolejną warstwę pojemności. PIM obsługuje wybrane operacje.

Łącznie technologie te sugerują, że SK hynix chce wpływać na całą ścieżkę danych. Rola ta wykracza poza produkcję urządzeń pamięciowych o większej przepustowości. Wymaga oprogramowania systemowego, integracji po stronie klientów i stałego wsparcia deweloperów.

Zespoły inżynieryjne oceniające taki sprzęt będą musiały zachować warunki benchmarków, wersje modeli, pomiary poboru mocy oraz ustalenia z wdrożeń. Przeszukiwalna baza wiedzy inżynieryjnej może zachować te założenia wraz z późniejszymi decyzjami zakupowymi.

Pytanie konkurencyjne jest zatem szersze niż to, która firma buduje najszybszą pamięć. Zwycięzca musi sprawić, by wyspecjalizowana pamięć była zrozumiała i użyteczna w istniejących operacjach AI. Przewaga komponentu bez ścieżki wdrożenia nie zmieni projektu infrastruktury.

Czego demonstracje PIM nadal nie dowodzą

SK hynix wykazał ciągłość technologiczną, lecz jeszcze nie potwierdził komercyjnego wdrożenia na dużą skalę.

Inicjatywa AiM obejmuje obecnie kilka publicznych etapów. SK hynix ogłosił próbkę pamięci w 2022 roku, zademonstrował kartę w 2023 roku, podwoił prezentowaną pojemność w 2024 roku i pokazał serwer w 2026 roku.

Ten postęp ma znaczenie. Wskazuje na kontynuację inwestycji, a nie pojedyncze ogłoszenie konferencyjne. Publiczne demonstracje nie mogą jednak odpowiedzieć na kilka pytań ważnych dla nabywców.

Po pierwsze, SK hynix nie ujawnił ogólnej daty produkcji dla konfiguracji PIM z 2026 roku. Najnowsza prezentacja nie wskazała klienta hyperscale, zakontraktowanego wdrożenia ani potwierdzonego wolumenu dostaw.

Po drugie, najbardziej efektowne deklaracje firmy dotyczące wydajności wykorzystują wybrane porównania. Dane z 2022 roku obejmowały określone obliczenia. Wynik AiMX z 2023 roku zależał od warunku koncentratora sterowania opartego na ASIC. Demonstracja z 2024 roku koncentrowała się na konkretnym modelu i konfiguracji przetwarzania.

Rzetelna ocena wymaga dopasowanego sprzętu, identycznej jakości modelu, równoważnej precyzji i pełnego poboru mocy systemu. Powinna również uwzględniać procesory hosta, komponenty bezczynne, odświeżanie pamięci, sieć i narzut oprogramowania.

Opóźnienia należy mierzyć przy wielu rozmiarach partii i długościach kontekstu. Przepustowość powinna obejmować harmonogramowanie żądań oraz transfery danych poza kartą. Testy niezawodności powinny obejmować długotrwałą pracę, a nie tylko kontrolowaną demonstrację.

Po trzecie, PIM nie przyspiesza w takim samym stopniu każdej części obciążenia AI. Operacje intensywnie wykorzystujące arytmetykę mogą nadal lepiej pasować do GPU lub dedykowanych procesorów tensorowych. Synchronizacja między urządzeniami może zniwelować zyski, gdy zadania są źle podzielone.

Najnowsze prace akademickie wzmacniają tę ostrożność. Efektywność na poziomie systemu zależy od konfiguracji kanałów, mocy statycznej, struktury modelu i mapowania obciążenia. Korzystny wynik kernela może się skurczyć po zmierzeniu całego potoku wnioskowania.

Po czwarte, ekonomika produkcji pozostaje niepewna. Dodanie logiki i gęstych połączeń może zwiększać złożoność projektu. Rozdzielenie pamięci i logiki przez hybrydowy bonding może chronić gęstość pamięci, lecz dodaje etapy pakowania i kwestie uzysku.

Struktura podobna do chipletów wymaga również testowania przed i po montażu. Defekt w jednej warstwie może wpłynąć na wartość całego połączonego pakietu. Dostawcy muszą wykazać, że zyski wydajności przetrwają te koszty produkcyjne.

Po piąte, przenośność oprogramowania będzie kształtować gotowość klientów. Przedsiębiorstwa nie wdrażają akceleratora dla jednego imponującego benchmarku. Potrzebują wsparcia dla rozwijających się modeli, popularnych frameworków, aktualizacji zabezpieczeń, obserwowalności i przewidywalnego utrzymania.

Twierdzenia SK hynix należy zatem odczytywać jako argument techniczny oczekujący na walidację rynkową. Firma pokazała, że PIM może przejść od próbki pamięci do interaktywnego serwera. Nie wykazała jednak, że powstała platforma jest gotowa na szerokie cykle wymiany.

To rozróżnienie nie czyni ogłoszenia nieistotnym. Określa kolejny standard dowodowy. Następny prototyp z większą liczbą będzie miał mniejsze znaczenie niż wskazane wdrożenie działające w rzeczywistych warunkach usługowych.

Trzy sygnały pokażą, czy AiMX staje się infrastrukturą

Kolejna faza zależy od dowodów od klientów, odtwarzalnych benchmarków systemowych i użytecznego ekosystemu oprogramowania.

Pierwszym sygnałem będzie zobowiązanie produkcyjne powiązane z nazwanym systemem lub klientem. Data dostawy, kwalifikacja serwera lub wdrożenie chmurowe przeniosłyby AiMX poza powtarzające się demonstracje konferencyjne. Informacje o wolumenie dodatkowo wzmocniłyby te dowody.

Jeśli SK hynix ogłosi takie zobowiązanie, jego architektura skoncentrowana na pamięci będzie wyglądać na bliższą komercyjnej platformie. Kolejny pokaz bez szczegółów wdrożenia pozostawiłby pytanie o adopcję bez odpowiedzi.

Drugim sygnałem będzie niezależnie odtwarzalny benchmark. Powinien porównać AiMX z określonym systemem GPU-HBM w wielu modelach, długościach kontekstu i rozmiarach partii. Wyniki muszą uwzględniać całkowity pobór mocy serwera oraz opóźnienie end-to-end.

Transparentny test wzmocniłby twierdzenia, że rozwiązanie processing-in-memory SK hynix obniża rzeczywiste koszty wnioskowania. Wąskie pomiary komponentów lub niedopasowane systemy osłabiłyby porównanie, nawet jeśli ich nagłówkowe liczby wydają się duże.

Trzecim sygnałem będzie szersze wsparcie oprogramowania. Nabywcy powinni obserwować integrację z popularnymi frameworkami wnioskowania, udokumentowane pokrycie operatorów, narzędzia profilujące oraz wsparcie partnerów serwerowych. Publiczny dostęp dla deweloperów ujawniłby, jak dużej adaptacji modeli wymaga platforma.

Silna integracja z oprogramowaniem wskazywałaby, że SK hynix postrzega wdrożenie jako problem wykraczający poza same półprzewodniki. Zamknięty stos demonstracyjny utrzymywałby AiMX w zależności od niestandardowych prac inżynieryjnych.

Sygnały te stanowią również praktyczne ramy dla nabywców technicznych. Należy zapytać, czy dokładnie ten sam model działa bez zmian jakości. Mierzyć cały serwer, a nie pojedynczą kartę. Dokumentować, które operacje są wykonywane na PIM, a które pozostają na GPU.

Następnie warto sprawdzić, jak wydajność zmienia się wraz ze zmianami natężenia ruchu, kontekstu i wielkości wsadu. Usługi AI rzadko pozostają w obrębie jednego starannie dobranego obciążenia. Infrastruktura musi pozostać użyteczna, gdy zmieniają się modele i zachowania użytkowników.

SK hynix przedstawił wiarygodne argumenty, że przesyłanie danych zasługuje na większą uwagę. Prezentacja firmy z 2026 roku pokazuje również, że PIM wyszedł poza pierwszy próbny układ firmy. Nierozstrzygnięte pozostaje pytanie, czy klienci zaakceptują kolejny akcelerator i jego wymagania dotyczące oprogramowania.

Warto obserwować pierwsze wdrożenie produkcyjne, pierwszy odtwarzalny benchmark systemowy oraz pierwszy szeroko dostępny stos deweloperski. To te kamienie milowe zdecydują, czy AiMX stanie się częścią infrastruktury AI, czy pozostanie imponującą demonstracją.