Układy Samsung i SK hynix PIM nie były nowością z 2026 roku, ale wyścig poszedł dalej
Samsung i SK hynix nie ogłosiły wspólnego wprowadzenia na rynek układu pamięciowo-obliczeniowego nowej generacji w październiku 2026 roku, mimo niedawno rozpowszechnionego nagłówka sugerującego coś innego. Zweryfikowane wydarzenie, do którego odnosi się to sformułowanie, miało miejsce w lutym 2022 roku, gdy SK hynix przygotowywał prezentację technologii przetwarzania w pamięci na ISSCC.
To rozróżnienie ma znaczenie, ponieważ układy Samsung i SK hynix PIM są dziś częścią znacznie szerszej rywalizacji o infrastrukturę AI. Obie firmy wyszły poza pojedyncze ogłoszenia badawcze i rozwijają systemy pamięci projektowane z myślą o inferencji, przepływie danych, pojemności i zużyciu energii.
Pierwotna historia dotyczyła przetwarzania w pamięci, czyli PIM, które wykonuje wybrane obliczenia bezpośrednio w pamięci zamiast przesyłać każdą operację do osobnego procesora. Obecna rywalizacja jest większa. Samsung i SK hynix rozwijają obecnie różne połączenia PIM, pamięci o wysokiej przepustowości, pamięci flash, technologii pakowania i oprogramowania.
Nie jest to po prostu rywalizacja Samsung kontra SK hynix o jeden eksperymentalny układ. Główny wyścig toczy się między konwencjonalnymi systemami opartymi na GPU a architekturami, które zbliżają pamięć masową lub obliczenia do danych.
Zgłaszana premiera prowadzi do ISSCC 2022
Dostępne dowody wskazują na stare ogłoszenie konferencyjne, a nie na nowo zaplanowaną prezentację w październiku 2026 roku.
SK hynix ogłosił GDDR6-AiM 16 lutego 2022 roku. Firma opisała go jako produkt do przetwarzania w pamięci, który dodał funkcje obliczeniowe do pamięci GDDR6.
SK hynix poinformował, że zaprezentuje tę technologię podczas International Solid-State Circuits Conference 2022. ISSCC odbywało się wirtualnie od 20 do 24 lutego tego roku, a nie w październiku 2026 roku.
Ogłoszenie firmy zawiera kilka wskazówek zgodnych z ponownie rozpowszechnionym nagłówkiem. Dotyczyło układu pamięci nowej generacji, obliczeń wykonywanych wewnątrz pamięci oraz wystąpienia na dużej globalnej konferencji półprzewodnikowej.
Sformułowanie dotyczące terminu również odpowiada historii napisanej krótko przed tą konferencją. SK hynix wskazał jednak, że prezentacja odbędzie się „pod koniec tego miesiąca”, a nie w kolejnym miesiącu.
Według ogłoszenia GDDR6-AiM próbka łączyła funkcje obliczeniowe z pamięcią GDDR6 działającą z szybkością 16 gigabitów na sekundę. Firma pozycjonowała ją do uczenia maszynowego, obliczeń wysokiej wydajności i przetwarzania danych na dużą skalę.
SK hynix twierdził, że zastąpienie konwencjonalnej pamięci DRAM przez GDDR6-AiM może przyspieszyć niektóre obliczenia 16-krotnie. Firma deklarowała również 80-procentowe ograniczenie zużycia energii dzięki zmniejszeniu transferów między pamięcią a procesorami.
Były to wyniki raportowane przez firmę i powiązane z wybranymi obciążeniami. Nie potwierdzały porównywalnych zysków dla każdego modelu AI, serwera ani środowiska produkcyjnego.
W tym samym okresie obaj koreańscy producenci pamięci przedstawili odrębne prezentacje na ISSCC. Oficjalny press kit ISSCC wymieniał prezentację SK hynix dotyczącą projektu HBM3 o przepustowości 896 gigabajtów na sekundę.
Samsung przedstawił projekt 16-gigabitowej pamięci GDDR6 działającej z szybkością 27 gigabitów na sekundę na pin. Prezentacje dotyczyły zaawansowanej wydajności pamięci, ale nie stanowiły wspólnego ogłoszenia produktu PIM.
Historia PIM firmy Samsung zaczęła się wcześniej. W lutym 2021 roku firma zaprezentowała HBM-PIM, wersję pamięci o wysokiej przepustowości z programowalnymi jednostkami przetwarzającymi zintegrowanymi w każdym banku pamięci.
Samsung podał, że projekt był przeznaczony do trenowania AI, inferencji i obliczeń wysokiej wydajności. Jego artykuł również wybrano do prezentacji na ISSCC.
Źródła pierwotne wspierają zatem bardziej precyzyjny wniosek. Samsung i SK hynix rozwijały niezależnie obliczenia skoncentrowane na pamięci w cyklu ISSCC 2021 i 2022. Nie prezentowały jednego wspólnego produktu.
Nagłówek pozbawiony pierwotnej daty może przedstawić historyczny rozwój jako pozornie pilną wiadomość. Czytelnicy powinni ostrożnie traktować względne określenia, takie jak „w przyszłym miesiącu”, gdy agregator nie podaje pełnego znacznika czasu publikacji.
Dlaczego przetwarzanie w pamięci nadal ma znaczenie w 2026 roku
PIM pozostaje istotne, ponieważ przenoszenie danych pochłania dziś czas i energię, których sama szybsza arytmetyka nie jest w stanie odzyskać.
Konwencjonalny akcelerator wielokrotnie przesyła wagi modelu, aktywacje i wyniki pośrednie między procesorami a pamięcią. Procesor może pozostawać bezczynny, gdy system pamięci nie jest w stanie dostarczać danych wystarczająco szybko.
Inżynierowie nazywają to ograniczenie ścianą pamięci. Wydajność procesorów poprawiała się szybciej niż zdolność do efektywnego przenoszenia dużych zbiorów danych przez system.
Przetwarzanie w pamięci, wyjaśnione praktycznie, jest mniej skomplikowane, niż sugeruje jego nazwa. Wybrane operacje odbywają się tam, gdzie przechowywane są dane, co ogranicza transfery przez interfejs łączący pamięć i procesor.
Ta koncepcja nie zastępuje CPU ani GPU zwykłą pamięcią DRAM. Zamiast tego przypisuje odpowiednie operacje wyspecjalizowanej logice umieszczonej w podsystemie pamięci lub w jego pobliżu.
To rozróżnienie jest istotne. Procesory ogólnego przeznaczenia nadal lepiej sprawdzają się w sterowaniu przepływem i zróżnicowanych obliczeniach. Obliczenia po stronie pamięci działają najlepiej, gdy obciążenie wielokrotnie wykonuje przewidywalne operacje na dużych zbiorach danych.
Inferencja AI tworzy wiele takich obciążeń. Model językowy musi stale pobierać parametry i zarządzać danymi tymczasowymi podczas generowania każdego tokenu.
Dłuższe prompty zwiększają również presję na pamięć podręczną klucz-wartość, czyli zbiór wcześniej obliczonych danych uwagi wykorzystywanych ponownie podczas generowania. Utrzymywanie tych informacji w dostępności może ograniczać powtarzane obliczenia, ale wymaga znacznej pojemności pamięci i przepustowości.
Dodanie większej mocy obliczeniowej GPU nie rozwiązuje automatycznie tych problemów. Jeśli dane nie mogą wystarczająco szybko dotrzeć do jednostek obliczeniowych, dodatkowe procesory mogą zwiększać koszt i pobór energii bez proporcjonalnego wzrostu wydajności.
Podejścia PIM próbują ograniczyć tę nierównowagę. Mogą wykonywać operacje, takie jak obliczenia macierzowe, wyszukiwanie, filtrowanie lub zarządzanie przepływem danych, bliżej pamięci.
Pierwotny projekt HBM-PIM firmy Samsung umieszczał programowalne jednostki obliczeniowe w bankach stosu HBM. HBM wykorzystuje pionowo połączone matryce DRAM, aby zapewnić wysoką przepustowość w kompaktowym pakiecie.
Samsung podał, że jego prototyp ponad dwukrotnie zwiększył wydajność systemu, jednocześnie zmniejszając zużycie energii o ponad 70 procent w wybranych zastosowaniach. Dane te pochodziły z testów Samsunga i nie powinny być traktowane jako niezależne benchmarki.
SK hynix obrał inną początkową drogę z GDDR6-AiM. Pamięć GDDR jest powszechnie kojarzona z grafiką, lecz jej przepustowość czyni ją również użyteczną w akceleracji AI.
Firma później połączyła układy AiM w kartę akceleratora o nazwie AiMX. Takie pakowanie zapewniło wyraźniejszą ścieżkę testowania PIM w serwerach bez przeprojektowywania całego procesora wokół pamięci.
Dlatego układy Samsung i SK hynix PIM nadal zasługują na uwagę cztery lata po pierwotnych doniesieniach. Infrastruktura AI coraz bardziej zależy od czegoś więcej niż szczytowej przepustowości GPU.
Operatorzy oceniają obecnie, jak efektywnie platforma obsługuje modele, radzi sobie z długimi kontekstami, zarządza danymi cache i skaluje się w granicach limitów energetycznych. Architektura pamięci może wpływać na każdy z tych wskaźników.
Rezultatem jest przejście od szybszej pamięci jako komponentu do pamięci jako części architektury obliczeniowej. Ta zmiana podnosi strategiczną wartość firm, które wcześniej dostarczały standardowe układy działające za procesorem.
Pamięć AI Samsung kontra SK hynix to teraz rywalizacja systemowa
Konkurencja rozszerzyła się z indywidualnych specyfikacji pamięci na kompletne ścieżki przenoszenia, przechowywania i przetwarzania danych AI.
Samsung nadal rozwija PIM, łącząc tę technologię z szerszym portfolio pamięci i pakowania. Jego przewagą jest możliwość pracy na styku pamięci, produkcji układów logicznych i zaawansowanego pakowania.
Podczas Future of Memory and Storage 2026 Samsung zaprezentował około 30 technologii pamięci i magazynowania danych. Oferta obejmowała HBM4E, HBM5, LPDDR5X-PIM oraz produkty pamięci masowej dla przedsiębiorstw.
LPDDR5X-PIM przenosi funkcje obliczeniowe do energooszczędnej pamięci DRAM. Dzięki temu podejście ma znaczenie dla systemów brzegowych i urządzeń, w których zużycie energii jest równie ważne jak surowa przepustowość.
Samsung zaprezentował również zHBM, proponowaną trójwymiarową architekturę, która umieszcza pamięć o wysokiej przepustowości nad procesorem. Projekt ma skracać ścieżki danych i ograniczać problemy termiczne dzięki dedykowanej strukturze chłodzenia.
To podejście różni się od umieszczania jednostek obliczeniowych w każdym produkcie pamięciowym. Traktuje fizyczną odległość, pakowanie i ciepło jako elementy tego samego problemu związanego z przepływem danych.
Portfolio pamięci Samsunga na 2026 rok rozciąga się zatem od krótkoterminowych produktów HBM po architektury długoterminowe. Część pozycji to produkty dostarczane na rynek, podczas gdy inne pozostają próbkami, demonstracjami lub koncepcjami z planów rozwoju.
SK hynix buduje własny stos wokół HBM, PIM, pamięci flash o wysokiej przepustowości i oprogramowania. Firma określiła ten kierunek jako strategię „full stack AI memory”.
Jej układ GDDR6-AiM pozostaje podstawą AiMX, karty akceleratora zaprojektowanej dla obciążeń dużych modeli językowych. SK hynix zademonstrował AiMX w serwerze, zamiast ograniczać technologię do samodzielnej matrycy.
We wrześniu 2026 roku firma pokazała serwer AiMX uruchamiający interaktywną demonstrację modelu językowego. Przedstawiła również pamięć flash o wysokiej przepustowości oraz technikę programową o nazwie SALT-KV.
Pamięć flash o wysokiej przepustowości, czyli HBF, wykorzystuje technologię pionowych połączeń w pamięci NAND flash. SK hynix pozycjonuje ją jako warstwę zorientowaną na pojemność, umieszczoną między szybką pamięcią HBM a konwencjonalną pamięcią masową SSD.
SALT-KV odnosi się do pamięci podręcznej klucz-wartość tworzonej podczas inferencji modelu językowego. Firma twierdzi, że jej oprogramowanie zarządza informacjami w cache zgodnie z ich charakterystyką i potencjałem ponownego wykorzystania.
SK hynix argumentuje, że technologie te obsługują różne potrzeby inferencyjne. PIM ma służyć szybkiemu dekodowaniu, podczas gdy HBF zapewnia większą pojemność dla obciążeń z długim kontekstem.
To portfolio ilustruje obecną rywalizację Samsung kontra SK hynix w pamięci AI. Firmy nie stawiają na jednego uniwersalnego następcę zwykłej pamięci DRAM.
Samsung podkreśla integrację pakowania, pamięci i produkcji. SK hynix buduje wyspecjalizowane warstwy pamięci i oprogramowanie wokół odrębnych wzorców obsługi AI.
Micron i inni dostawcy pamięci zwiększają presję konkurencyjną, a Nvidia, AMD oraz projektanci niestandardowych akceleratorów wpływają na to, które interfejsy staną się istotne komercyjnie. Technicznie imponujący projekt pamięci nadal potrzebuje wsparcia procesora i kwalifikacji klientów.
Operatorzy chmurowi również projektują coraz więcej własnych układów krzemowych. Ich wybory mogą zdecydować, czy technologia pamięci stanie się szeroko wspieranym standardem, czy pozostanie związana z wąską konfiguracją akceleratora.
To sprawia, że kontrola nad warstwą oprogramowania staje się coraz ważniejsza. Deweloperzy potrzebują kompilatorów, bibliotek, harmonogramów i narzędzi monitorujących, które rozumieją, gdzie powinna działać każda operacja.
Sprzęt wymagający szeroko zakrojonego przepisywania aplikacji tworzy tarcie. Sprzęt dostępny przez znane frameworki ma większą szansę przejść od demonstracji do środowiska produkcyjnego.
Mechanizm polega na ograniczaniu przepływu danych
Najmocniejszym argumentem za przetwarzaniem po stronie pamięci nie jest to, że pamięć staje się GPU, lecz to, że mniej bajtów musi przechodzić przez kosztowne wąskie gardła.
Nowoczesny serwer AI zawiera kilka różnych form pamięci i pamięci masowej. Rejestry i pamięci podręczne znajdują się najbliżej rdzeni obliczeniowych, a po nich występuje HBM lub inna pamięć bezpośrednio dołączona.
Pamięć systemowa zwiększa pojemność, ale znajduje się dalej od akceleratora. Dyski półprzewodnikowe przechowują znacznie większe zbiory danych, lecz zapewniają większe opóźnienia.
Każdy transfer między tymi warstwami zużywa energię. Wprowadza też opóźnienie oraz wymaga interfejsów, kontrolerów i zasobów związanych z obudową układu.
PIM zmienia sposób działania, umieszczając ograniczone jednostki obliczeniowe obok przechowywanych danych. Jednostki te mogą wykonywać odpowiednie operacje przed odesłaniem mniejszych wyników do centralnego procesora.
Rozważmy system rekomendacyjny przeszukujący duże tabele embeddingów. Konwencjonalna konstrukcja może przenosić znaczne ilości danych do procesora, nawet gdy końcowym wynikiem jest niewielki zestaw kandydatów.
Logika po stronie pamięci może filtrować lub łączyć dane blisko ich źródła. Procesor otrzymuje wtedy mniej bajtów i spędza mniej czasu na oczekiwaniu na ruch w pamięci.
Innym przypadkiem jest wnioskowanie modeli językowych. Generowanie tekstu wymaga wielokrotnego dostępu do parametrów modelu i danych pamięci podręcznej uwagi.
PIM może przyspieszać wybrane, powtarzalne obliczenia. Warstwy pamięci o dużej pojemności mogą przechowywać więcej roboczych danych modelu blisko serwera, zamiast wielokrotnie ładować je z wolniejszej pamięci masowej.
Żadna z tych metod nie eliminuje GPU. GPU nadal wykonuje kluczowe obliczenia modelu i koordynuje jego działanie.
Zamierzoną korzyścią jest bardziej zrównoważony system. Moc obliczeniowa, przepustowość, pojemność i zużycie energii powinny skalować się razem, zamiast pozostawiać jeden z zasobów niewykorzystany.
SK hynix przedstawił ten argument podczas prezentacji na AI Infra Summit we wrześniu 2026 roku. Firma stwierdziła, że konwencjonalna architektura GPU-HBM staje się niewystarczająca dla obciążeń od agentów o niskich opóźnieniach po usługi z długim kontekstem.
Jej prezentacja pamięci AI obejmowała PIM, HBF, AiMX i SALT-KV. Odwiedzający mogli obejrzeć sprzęt i skorzystać z demonstracji modelu językowego działającego na serwerze wyposażonym w AiMX.
Ta demonstracja ma większe znaczenie niż kolejna teoretyczna wartość wydajności. Pokazuje drogę od układu pamięci do systemu, który deweloperzy i klienci mogą ocenić.
Jednak demonstracja konferencyjna nie dowodzi opłacalności w środowisku produkcyjnym. Nie może potwierdzić niezawodności w skali całej floty, zgodności oprogramowania między modelami ani niższego całkowitego kosztu posiadania.
Samsung stoi przed tym samym wyzwaniem. Jego koncepcje PIM i pamięci trójwymiarowej muszą pasować do planów rozwoju procesorów, możliwości pakowania, systemów chłodzenia i oprogramowania klientów.
Mechanizm ten wiąże się też z kompromisami. Logika dodana do pamięci zużywa powierzchnię układu i energię, a zarazem zwiększa złożoność projektu.
Jednostka PIM zoptymalizowana pod jedną klasę obliczeń może stać się mniej użyteczna, gdy zmienią się architektury modeli. Stałe funkcje zapewniają wydajność, lecz ogólna programowalność zwiększa koszt i narzut.
Producenci pamięci muszą zdecydować, gdzie wyznaczyć tę granicę. Zbyt mała elastyczność zawęża rynek, natomiast zbyt duża odtwarza złożoność konwencjonalnego procesora.
Te napięcia wyjaśniają, dlaczego opisywanie przetwarzania w pamięci wyłącznie przez pryzmat szczytowej wydajności może wprowadzać czytelników w błąd. Problemem jest przemieszczanie danych, lecz użyteczne wdrożenie zależy od całego systemu.
Twierdzenia konferencyjne nadal wymagają dowodów produkcyjnych
Nierozstrzygnięte pytanie nie brzmi, czy PIM działa, lecz czy działa wystarczająco szeroko, by uzasadnić nową warstwę sprzętu i oprogramowania.
Komunikaty firm zazwyczaj przedstawiają wyniki obciążeń dobranych tak, aby odpowiadały nowej architekturze. Takie testy mogą potwierdzać potencjał techniczny, nie prognozując jednak wydajności produkcyjnej.
Pierwotne deklaracje SK hynix o 16-krotnie szybszym przetwarzaniu i 80-procentowym niższym zużyciu energii dotyczyły określonych obliczeń. Nie opisywały każdego obciążenia ani nie przedstawiały uniwersalnego wyniku wdrożeniowego.
Wcześniejsze deklaracje Samsunga dotyczące wydajności i energii były podobnie powiązane z wewnętrznymi ocenami. Należy je odczytywać jako pomiary dostawcy, a nie niezależne porównania kompletnych systemów produkcyjnych.
Pierwsze ryzyko wynika z wrażliwości na rodzaj obciążenia. Przetwarzanie po stronie pamięci zapewnia największe korzyści, gdy operacje są powtarzalne, równoległe i ograniczane przez przemieszczanie danych.
Programy o nieregularnym przepływie sterowania mogą zyskać mniej. Niektóre zadania mogą też być ograniczane przez sieć, planowanie procesora lub pamięć masową, a nie przepustowość pamięci.
Drugą barierą jest oprogramowanie. Układ PIM potrzebuje narzędzi, które określają, jakie operacje powinny być wykonywane w pamięci, a jakie pozostać na akceleratorze.
Narzędzia te muszą działać z ewoluującymi modelami i frameworkami. W przeciwnym razie klienci poniosą koszty inżynieryjne, które mogą zniwelować oszczędności infrastrukturalne.
Trzecim wyzwaniem są standardy. Procesory AI, urządzenia pamięci i stosy oprogramowania pochodzą od różnych dostawców, działających w odrębnych cyklach wydawniczych.
Własnościowa implementacja może początkowo rozwijać się szybciej. Wspólny model programowania może dotrzeć do większej liczby klientów, ale uzgodnienie go w całej branży wymaga czasu.
Produkcja wprowadza kolejną niewiadomą. Łączenie logiki z gęstą pamięcią może komplikować testowanie, zarządzanie uzyskiem, pakowanie i projektowanie termiczne.
Branża pamięci ma szerokie doświadczenie w produkcji niezawodnej pamięci DRAM na dużą skalę. Dodanie obliczeń może zmienić ekonomikę, która czyni standaryzowaną pamięć atrakcyjną.
Szeroki zakres działalności produkcyjnej Samsunga daje mu kilka możliwości integracji. Musi jednak wykazać, że połączenie tych kompetencji prowadzi do niezawodnych systemów przy akceptowalnych uzyskach.
SK hynix zajmuje silną pozycję w pamięci o wysokiej przepustowości i zaprezentował szerszy zakres rozwiązań pamięci AI. Musi przełożyć ten impet techniczny na powtarzalne wdrożenia u klientów, wykraczające poza ekspozycje.
W tym miejscu rywalizacja Samsung vs SK hynix w pamięci AI staje się mniej jednoznaczna niż konkurs specyfikacji. Różne architektury mogą odnieść sukces w różnych częściach rynku.
Samsung może znaleźć większe możliwości w ściśle zintegrowanych pakietach lub urządzeniach o niskim poborze energii. SK hynix może zyskać popularność dzięki kartom akceleratorów, wyspecjalizowanym systemom wnioskowania lub warstwowym architekturom pamięci.
Obie firmy zależą również od klientów kontrolujących projekty akceleratorów. Nvidia, AMD, dostawcy chmury i inni twórcy układów mogą wspierać, przekształcać lub omijać preferowaną architekturę dostawcy pamięci.
Najmocniejszym dowodem byłoby wskazane z nazwy wdrożenie produkcyjne z powtarzalnymi wynikami dla obciążeń. Klienci musieliby ujawnić wydajność, zużycie energii, wykorzystanie i koszty oprogramowania w realistycznych warunkach.
Bez takich dowodów czytelnicy powinni rozróżniać trzy etapy postępu. Artykuł badawczy potwierdza wykonalność, prototyp demonstruje integrację, a kwalifikowany produkt komercyjny potwierdza gotowość dla klientów.
Odświeżony nagłówek pierwotnie opisywał dwa pierwsze etapy. Nie należy go interpretować jako dowodu, że układy PIM Samsung i SK hynix osiągnęły już szeroką adopcję komercyjną.
Trzy sygnały pokażą, czy PIM staje się rynkiem
Kwalifikacja przez klientów, wsparcie oprogramowania i powtarzalna ekonomika wnioskowania zdecydują o tym, czy produkty wykorzystujące przetwarzanie w pamięci wyjdą poza wyspecjalizowane wdrożenia.
Pierwszym sygnałem będzie wskazana z nazwy platforma produkcyjna wykorzystująca PIM lub AiMX. Potwierdzone wdrożenie serwera lub akceleratora pokaże, że klient zaakceptował kompromisy dotyczące sprzętu, oprogramowania i niezawodności.
Znaczenie ma jakość tego ujawnienia. Pilotaż, memorandum lub partnerstwo wystawiennicze nie mają takiej samej wagi jak dostarczany system dostępny dla klientów.
Adopcja produkcyjna wzmocniłaby argument, że dostawcy pamięci mogą przejmować większą część wartości generowanej przez obliczenia AI. Dalsze poleganie na konwencjonalnym HBM osłabiłoby twierdzenia o przejściu architektonicznym.
Drugim sygnałem będzie wsparcie w popularnym oprogramowaniu AI. Deweloperzy powinni obserwować integrację z kompilatorami, zoptymalizowane kernele, otwarte interfejsy programistyczne i planowanie na poziomie frameworków.
Oprogramowanie decyduje o tym, czy aplikacje mogą korzystać ze specjalistycznego sprzętu bez przepisywania ich pod jednego dostawcę. Decyduje też o tym, czy system dostosowuje się do zmian w strukturach modeli.
Szerokie narzędzia wzmocniłyby rynek układów PIM Samsung i SK hynix. Fragmentaryczne lub zamknięte oprogramowanie ograniczyłoby je do klientów zdolnych utrzymywać niestandardową infrastrukturę.
Trzecim sygnałem będzie niezależnie zmierzona ekonomika wnioskowania. Użyteczne porównania powinny uwzględniać opóźnienia, przepustowość, zużycie energii, pojemność pamięci i wykorzystanie w kilku typach modeli.
Wnioskowanie z długim kontekstem zasługuje na szczególną uwagę, ponieważ wymagania dotyczące jego pamięci podręcznej bezpośrednio obciążają pojemność pamięci. Szybkie, interaktywne agenty stanowią kolejny test, ponieważ akcentują niskie opóźnienia.
Jeśli PIM, HBF lub pamięć trójwymiarowa poprawią te wskaźniki bez nadmiernej pracy nad oprogramowaniem, obliczenia zorientowane na pamięć staną się bardziej przekonujące. Jeżeli korzyści znikną poza wybranymi demonstracjami, konwencjonalne konstrukcje akceleratorów zachowają przewagę.
Czytelnicy powinni również oddzielać PIM od szerszego sukcesu HBM. HBM stała się już kluczowa dla wysokowydajnych akceleratorów AI, lecz nie gwarantuje to adopcji obliczeń wewnątrz pamięci.
Bardziej prawdopodobnym wynikiem w krótkiej perspektywie jest mieszana hierarchia. GPU pozostaną centralne, podczas gdy wyspecjalizowane warstwy pamięci i pamięci masowej będą obsługiwać obciążenia korzystające z większej przepustowości, pojemności lub lokalnego przetwarzania.
Samsung i SK hynix przygotowują się na taki rezultat, korzystając z różnych kombinacji technologii. Ich strategie wskazują, że przyszłe systemy AI nie będą zależeć od jednego rodzaju pamięci.
Większa zmiana ma charakter koncepcyjny. Dostawcy pamięci coraz częściej opisują swoje produkty jako aktywne elementy infrastruktury AI, a nie pasywne komponenty pamięci masowej.
Ta zmiana podnosi stawkę dla firm procesorowych. Daje też operatorom chmury więcej możliwości wyboru miejsca przechowywania, przenoszenia i przetwarzania danych.
Deweloperzy i nabywcy korporacyjni powinni obserwować wdrożenia, a nie konferencyjne etykiety. Ważne pytanie brzmi, czy nowa architektura pamięci poprawia rzeczywiste obciążenie po uwzględnieniu kosztów integracji.
Pierwotny raport pozostaje użyteczny jako historyczny punkt odniesienia. Uchwycił moment, w którym najwięksi koreańscy producenci pamięci publicznie zakwestionowali tradycyjny podział między obliczeniami a pamięcią masową.
Cztery lata później idea nie zniknęła. Rozwinęła się w konkurujące plany rozwoju PIM, HBM, pamięci flash o wysokiej przepustowości, zaawansowanego pakowania i oprogramowania świadomego pamięci.
Kolejnym istotnym ogłoszeniem nie będzie następna obietnica, że pamięć może wykonywać obliczenia. Będzie nim dowód, że klienci mogą wielokrotnie wdrażać tę technologię, mierzyć jej korzyści i wspierać ją w zmieniających się obciążeniach AI.
Dla każdego, kto ocenia infrastrukturę AI, jest to praktyczny test, który należy śledzić. Szukaj wskazanych z nazwy systemów, dostępnego oprogramowania i wyników stron trzecich, zanim uznasz kolejną demonstrację konferencyjną za przejście rynkowe.
