SK hynix Processing-in-Memory nimmt KI-Engpässe jenseits von GPU und HBM ins Visier

SK hynix rückt Processing-in-Memory wieder ins Zentrum seiner KI-Strategie – trotz der jahrelangen Abhängigkeit der Branche von GPU- und HBM-Systemen. Auf dem AI Infra Summit 2026 zeigte das Unternehmen einen AiM-Chip, eine AiMX-Beschleunigerkarte und einen Server mit einer interaktiven Demonstration eines großen Sprachmodells. Die Botschaft war eindeutig: Jede Operation über eine GPU abzuwickeln, wird zunehmend zu einem kostspieligen Engpass.

Die Präsentation vom 16. September stellte PIM nicht als neue Erfindung vor. SK hynix kündigte 2022 sein erstes GDDR6-AiM-Muster an und demonstrierte 2023 eine AiMX-Karte. Verändert hat sich die Argumentation des Unternehmens dazu, wo diese Technologie eingesetzt werden sollte. SK hynix positioniert sie nun als spezialisierten Partner für GPU- und High-Bandwidth-Memory-Infrastruktur, insbesondere für schnelle KI-Inferenz.

Diese Unterscheidung ist wichtig, denn der zentrale Wettbewerb lautet nicht SK hynix gegen Nvidia oder einen anderen Chipanbieter. Es geht um die herkömmliche GPU-HBM-Architektur im Vergleich zu einem heterogenen Design, das speicherintensive Aufgaben an dedizierte Speicherhardware delegiert. Der neue Ansatz verspricht, Datenbewegungen zu reduzieren, doch die kommerzielle Akzeptanz hängt weiterhin von Software, Produktionsökonomie und unabhängig überprüfter Leistung ab.

Was SK hynix in Santa Clara zeigte

SK hynix präsentierte PIM als operativen Teil eines umfassenderen KI-Serving-Systems, nicht nur als Speicherchip aus dem Labor.

Das Unternehmen nahm vom 15. bis 17. September in Santa Clara, Kalifornien, am AI Infra Summit 2026 teil. Laut SK hynix zog die Veranstaltung rund 6.000 Besucher an – etwa doppelt so viele wie im Vorjahr. Auch der Messestand verdoppelte sich in der Größe und vereinte mehrere Speichertechnologien unter dem Motto „New Spectrum“.

Die PIM-Präsentation umfasste den AiM-Speicherchip des Unternehmens, eine AiMX-Beschleunigerkarte und einen Server mit dieser Karte. Processing-in-Memory, kurz PIM, platziert begrenzte Rechenfunktionen im Speicher oder unmittelbar daneben. Dadurch muss nicht jedes Datenstück zwischen Speicher und einem separaten Prozessor hin- und hertransportiert werden.

Besucher konnten mit einem LLM-Dienst interagieren, der auf dem ausgestellten System lief. Dieses Detail hebt die Präsentation über ein statisches Chipmuster hinaus, auch wenn eine Konferenzdemonstration keine Produktionsreife belegt. Die KI-Infrastruktur-Präsentation zeigte, wie SK hynix möchte, dass Kunden das Produkt verstehen: als einsetzbare Komponente innerhalb eines Servers.

Vizepräsident Lim Eui-cheol stellte die Strategie im Data-Movement-Track der Konferenz vor. Seine Session argumentierte, dass zunehmend vielfältige Workloads nicht länger in ein einziges Hardwaredesign passen. Ultra-niedrig-latente Agenten, Anwendungen mit langem Kontext und Inferenz mit hohem Volumen stellen unterschiedliche Anforderungen an Speicherkapazität, Bandbreite und Rechenressourcen.

Lim sagte, die herkömmliche GPU-HBM-Architektur allein könne all diese Anforderungen zunehmend nicht mehr erfüllen. Dies ist eine Unternehmensposition und kein unabhängiges Urteil über aktuelle GPU-Systeme. Sie erklärt jedoch, warum SK hynix drei unterschiedliche Technologien zur selben Veranstaltung brachte.

PIM zielt auf schnelles Decoding und speichergebundene Operationen. High Bandwidth Flash, kurz HBF, soll größere NAND-Kapazitäten zwischen HBM und SSD-Speicher platzieren. SALT-KV ist ein softwaregestütztes System, das den Key-Value-Cache eines LLM über HBM-, DRAM- und SSD-Ebenen verteilt.

Ein Key-Value-Cache speichert zuvor berechnete Aufmerksamkeitsinformationen während der Generierung durch Sprachmodelle. Sein Speicherbedarf wächst, wenn Gespräche länger werden und mehr Anfragen gleichzeitig ausgeführt werden. Diese Daten effizient zu verschieben oder vorzuhalten, kann Inferenzgeschwindigkeit und Infrastrukturauslastung beeinflussen.

Das Portfolio spiegelt daher eine zentrale Einschätzung wider. KI-Serving wird mehrere spezialisierte Speicherebenen statt eines einzigen, einheitlich schnellen Pools benötigen. SK hynix versucht, seine Rolle vom Verkauf von Hochgeschwindigkeitsspeicher hin zur Gestaltung der Orte zu entwickeln, an denen KI-Daten liegen und ausgewählte Operationen ausgeführt werden sollten.

Dieser Anspruch erklärt auch, warum der Auftritt 2026 nicht als erste PIM-Vorstellung von SK hynix beschrieben werden sollte. Das Unternehmen kündigte GDDR6-AiM im Februar 2022 an. 2023 stellte es seine erste AiMX-Prototypkarte vor und verdoppelte 2024 die demonstrierte Kapazität der Karte auf 32 GB.

Die jüngste Veranstaltung verschiebt die Erzählung von der Komponentenentwicklung in Richtung Systemeinsatz. SK hynix hat jedoch bislang keine öffentlich verfügbaren Angaben zu Stückzahlen, namentlich genannten Kundeneinsätzen oder Produktionsplänen vorgelegt, die eine breite kommerzielle Akzeptanz bestätigen würden.

Diese Lücke erzeugt die zentrale Spannung des Artikels. SK hynix kann einen integrierten PIM-Server zeigen und ein überzeugendes Architekturproblem erläutern. Das Unternehmen muss jedoch noch beweisen, dass Kunden Software und Infrastruktur um die Lösung herum anpassen werden.

Warum GPU- und HBM-Systeme vor einem Datenbewegungsproblem stehen

Die Einschränkung, auf die SK hynix abzielt, tritt auf, wenn teure Prozessoren auf Daten warten, statt nützliche Berechnungen auszuführen.

Moderne KI-Beschleuniger kombinieren hochparallele Prozessoren mit High-Bandwidth Memory, kurz HBM. HBM stapelt DRAM-Dies und verbindet sie über dichte vertikale Verbindungen. Die Platzierung dieser Stapel nahe einer GPU liefert deutlich mehr Bandbreite als herkömmlicher Serverspeicher.

Diese Anordnung ist für KI-Training und -Inferenz zentral geworden. Zusätzlicher Prozessordurchsatz beseitigt jedoch nicht jede Speicherbeschränkung. Ein Workload kann weiterhin dadurch begrenzt sein, dass Modellgewichte, Aufmerksamkeitsdaten oder Zwischenergebnisse wiederholt gelesen werden müssen.

Datenbewegungen verbrauchen Zeit und Energie, selbst wenn die mathematische Operation selbst einfach ist. Ein herkömmliches System ruft Daten aus dem Speicher ab, sendet sie an einen Prozessor, führt eine Operation aus und schreibt das Ergebnis zurück. Die Wiederholung dieser Abfolge bei großen Modellen kann dazu führen, dass arithmetische Hardware nicht ausreichend genutzt wird.

Besonders sichtbar wird das Problem beim LLM-Decoding. Dabei werden Ausgabetokens sequenziell erzeugt, sodass jeder Schritt vom vorherigen Zustand abhängt. Der Prozess führt häufig vergleichsweise geringe Berechnungen aus, während große Mengen an Modell- und Kontextdaten gelesen werden.

Training weist ein anderes Gleichgewicht auf. Es bündelt größere mathematische Operationen und kann GPU-Einheiten stark auslasten. Inferenz-Workloads variieren stärker, weil Batch-Größen, Kontextlängen, Latenzziele und Anfragemuster je nach Dienst unterschiedlich sind.

SK hynix nutzt diese Vielfalt, um die Annahme infrage zu stellen, dass jede wichtige Operation auf der GPU ausgeführt werden muss. Das Unternehmen argumentiert nicht, dass universell einsetzbare Beschleuniger überflüssig geworden sind. Es schlägt vor, geeignete speichergebundene Operationen auszulagern, während rechenintensive Arbeit auf etablierten Prozessoren verbleibt.

Dieser Ansatz setzt mehrere Teile des aktuellen Systemdesigns unter Druck. GPU-Betreiber müssen prüfen, ob zusätzliche Beschleunigerkapazität die effizienteste Antwort auf langsame Inferenz ist. Serveranbieter müssen entscheiden, ob eine weitere Kartenklasse genug Nutzen bietet, um die zusätzliche Komplexität zu rechtfertigen.

Cloud-Anbieter stehen vor einer verwandten Frage. Eine schnellere Komponente hat nur begrenzten Wert, wenn Software die Arbeit nicht zuverlässig darauf planen kann. Hardwareauslastung, Modellkompatibilität, Systemverwaltung und Wartung können ebenso wichtig sein wie theoretische Bandbreite.

Die Wirtschaftlichkeit hängt zudem davon ab, welchen Dienst ein Kunde betreibt. Ein hochwertiger Konversationsagent, der eine unmittelbare Token-Ausgabe priorisiert, hat andere Anforderungen als ein Batch-Dienst, der Tausende von Anfragen verarbeitet. Long-Context-Retrieval führt ein weiteres Speichermuster ein.

SK hynix zufolge eignet sich PIM am besten für Workloads mit schnellem Decoding in Premiumdiensten. Diese Einschränkung ist wichtig. Sie begrenzt den Vorschlag auf Workloads, bei denen niedrige Latenz und wiederholter Speicherzugriff spezialisierte Hardware rechtfertigen.

Das Unternehmen präsentiert nicht eine Speichertechnologie als Lösung für jeden KI-Engpass. HBF adressiert Kapazität und Bandbreite für Long-Context-Anwendungen. SALT-KV entscheidet, wo zwischengespeicherte Informationen liegen sollten. PIM führt ausgewählte Berechnungen nahe den gespeicherten Daten aus.

Diese Aufteilung stellt die vorherrschende Präferenz infrage, eine vertraute GPU-HBM-Plattform zu skalieren. Mehr GPUs und schnelleres HBM hinzuzufügen, bleibt operativ einfacher, wenn bestehende Software diese bereits unterstützt. Ein heterogenes Design bietet Effizienz erst, wenn Workloads korrekt aufgeteilt werden.

Forschende stoßen weiterhin auf denselben Zielkonflikt. Eine Studie aus dem Jahr 2026 zu heterogenen DRAM-PIM-GPU-Systemen kam zu dem Schluss, dass sinnvolle Effizienz eine systemweite Co-Optimierung erfordert. Ihre PIM-Designanalyse ergab, dass statischer Speicherverbrauch und GPU-Leerlaufleistung die wahrgenommene Effizienz wesentlich verändern können.

Die Studie stellte außerdem fest, dass die Workload-Zuordnung in den getesteten Konfigurationen nur begrenzte End-to-End-Gewinne erzielte. Diese Ergebnisse bewerten nicht direkt den Server von SK hynix aus dem Jahr 2026. Sie zeigen, warum Messungen auf Komponentenebene die vollständige Anwendungsleistung nicht allein vorhersagen können.

Für Unternehmenskäufer bedeutet dies, dass PIM als Systemarchitektur bewertet werden sollte. Die relevante Frage lautet nicht, ob Berechnungen im Speicher stattfinden können. Entscheidend ist, ob eine unterstützte Anwendung nützliche Arbeit schneller und effizienter erledigt, nachdem sämtliche Overheads einbezogen wurden.

SK hynix Processing-in-Memory verlagert ausgewählte Arbeit zu den Daten

SK hynix Processing-in-Memory verändert den Ort der Berechnung, macht DRAM jedoch nicht zu einem vollständigen Ersatz für eine GPU.

Das AiM-Design des Unternehmens ergänzt GDDR6-Speicher um Rechenfunktionen. GDDR6 ist ein Hochgeschwindigkeits-Grafikspeicherstandard, der erhebliche Bandbreite bereitstellt, ohne die gestapelte Struktur von HBM zu verwenden. Mehrere GDDR6-AiM-Geräte können auf der AiMX-Beschleunigerkarte kombiniert werden.

2022 erklärte SK hynix, dass sein erstes GDDR6-AiM-Muster mit 16 Gigabit pro Sekunde und 1,25 Volt arbeitete. Der vom Unternehmen zum Vergleich herangezogene Standardspeicher arbeitete mit 1,35 Volt. Das Unternehmen behauptete außerdem für bestimmte Operationen eine bis zu 16-mal höhere Leistung und eine Senkung des Stromverbrauchs um 80 Prozent.

Diese Zahlen stammten von SK hynix und beschrieben ausgewählte Bedingungen. Sie sollten nicht als allgemeingültige Gewinne für sämtliche KI-Anwendungen interpretiert werden. Die ursprüngliche GDDR6-AiM-Ankündigung legte nicht dar, wie jedes Produktionsmodell, jeder Server oder jeder Software-Stack abschneiden würde.

Der nächste Schritt war AiMX. SK hynix demonstrierte 2023 den ersten Prototyp einer Beschleunigerkarte mit Metas Sprachmodell OPT 13B. Das Unternehmen erklärte, dieses System verarbeite Daten mehr als zehnmal schneller als ein GPU-basierter Vergleich und benötige dabei ein Fünftel der Energie.

Diese Behauptung war an eine wesentliche Bedingung geknüpft. SK hynix erklärte, die Leistung setze einen anwendungsspezifischen integrierten Schaltkreis für den AiM Control Hub der Karte voraus. Das demonstrierte Ergebnis hing daher von einer bestimmten Controller-Implementierung ab, nicht allein von den Speicherchips.

Der erste AiMX-Prototyp verdeutlichte dennoch den vorgesehenen Mechanismus. Statt eine GPU jeden Wert abrufen zu lassen, führt die Karte unterstützte Operationen nahe den GDDR6-AiM-Geräten aus. Reduzierter Datenverkehr kann die GPU für Aufgaben freigeben, die besser ihren Stärken entsprechen.

SK hynix aktualisierte den Prototyp 2024. Die neue Karte verfügte über 32 GB und damit über die doppelte Kapazität der vorherigen Version. Das Unternehmen demonstrierte sie mit Metas Modell Llama 3 70B und konzentrierte sich auf Multi-Batch-Inferenz.

Multi-Batch-Verarbeitung bündelt mehrere Anfragen zur Ausführung. Sie kann die Auslastung verbessern, erhöht jedoch auch den Druck auf Speicher und Planung. SK hynix präsentierte AiMX in diesem Umfeld als Attention-Beschleuniger.

Attention ermöglicht es einem LLM, den aktuellen Token mit relevanten früheren Tokens in Beziehung zu setzen. Sie ist für das Modellverhalten essenziell, erfordert jedoch die Bewegung und Verarbeitung erheblicher Mengen gespeicherten Zustands. Dadurch werden Teile der Attention zu einem attraktiven Ziel für Beschleunigung in Speichernähe.

Das Unternehmen erklärte zudem, sein Design von 2024 könne die Geschwindigkeit mobiler LLMs bei gleichem Energieverbrauch im Vergleich zu mobilem DRAM verdreifachen. Auch dies war ein unternehmenseigener Vergleich und kein breit angelegter unabhängiger Benchmark. Die 32-GB-AiMX-Demonstration kündigte keine breite Marktverfügbarkeit an.

Auf der Konferenz 2026 stellte Lim einen weiteren Vergleich zwischen PIM und statischem Direktzugriffsspeicher, kurz SRAM, vor. SRAM ist schnell, beansprucht jedoch viel Chipfläche und bietet in der Regel weniger Kapazität als DRAM.

Laut einem koreanischen Bericht über die Präsentation sagte Lim, PIM könne auf derselben Fläche etwa die 300-fache SRAM-Kapazität bereitstellen. Gleichzeitig könne es eine hohe interne Bandbreite aufrechterhalten. Die Äußerungen auf der Konferenz stellten PIM als Möglichkeit dar, die Kapazitäts- und Kostengrenzen von SRAM zu umgehen.

Dieser Vergleich betrifft einen realen architektonischen Zielkonflikt. Schneller lokaler Speicher hilft, Latenzen zu minimieren, doch große SRAM-Arrays sind teuer und flächenintensiv. DRAM bietet eine deutlich höhere Dichte, verfügt jedoch nicht über dieselbe direkte Rechenfähigkeit.

SK hynix schlägt vor, den Speicher-Die vom Rechen-Die zu trennen und beide vertikal über Hybrid Bonding zu verbinden. Hybrid Bonding verbindet polierte Oberflächen und Kupferverbindungen ohne herkömmliche Lötbumps. Dadurch können dichtere Verbindungen zwischen unabhängig optimierten Dies entstehen.

Die Trennung ist wichtig, weil die Integration umfangreicher Logik direkt in einen DRAM-Die die Speicherkapazität verringern und die Fertigungskosten erhöhen kann. Ein Logik-Die kann in einem für Berechnungen geeigneten Prozess gefertigt werden, während ein Speicher-Die ein auf DRAM ausgerichtetes Design behält.

Hybrid Bonding bringt jedoch eigene Anforderungen an die Produktion mit sich. Ausrichtung, Oberflächenqualität, Wärme, Ausbeute und Tests beeinflussen allesamt die Kosten. Ein technisch eleganter Stack wird nicht automatisch zu einem wirtschaftlichen Produkt für die Massenfertigung.

Der Mechanismus ist daher präziser, als die Formulierung „Speicher, der rechnet“ vermuten lässt. AiM verarbeitet unterstützte Operationen nahe an den Daten. AiMX kombiniert diese Geräte zu einem Beschleuniger. Ein Host-Prozessor, GPU, Speicherhierarchie, Controller und Software-Stack koordinieren weiterhin die vollständige Arbeitslast.

Diese Einschränkung ist zugleich die Quelle des potenziellen Nutzens. Spezialisierte Hardware muss nicht jede Komponente ersetzen, um Mehrwert zu schaffen. Sie muss lediglich ausreichend wiederholte Datenbewegungen aus einer wichtigen Arbeitslast entfernen.

Der eigentliche Gegner ist eine Einheitsarchitektur

SK hynix stellt die Annahme infrage, dass schnellere GPU-HBM-Kombinationen jede Phase der KI-Inferenz bewältigen sollten.

Hier konkurrieren zwei Architekturwege miteinander. Der eine erweitert die dominante Architektur durch schnellere Beschleuniger, größere HBM-Stacks und zusätzliche Systeme. Der andere verteilt die Arbeit auf GPUs, PIM, Speicher und softwareverwaltete Speicherebenen.

Der erste Weg profitiert von einer ausgereiften Softwarebasis. Entwickler nutzen bereits etablierte GPU-Frameworks, optimierte Kernel, Monitoring-Systeme und Deployment-Tools. Modellanbieter veröffentlichen häufig Konfigurationen, die auf diese Plattformen zugeschnitten sind.

Der zweite Weg verspricht eine bessere Abstimmung zwischen Hardware und Arbeitslast. Speichergebundene Operationen können nahe an den Daten ausgeführt werden, während GPUs weiterhin rechenintensive Aufgaben übernehmen. Langsamere, aber größere Speicherebenen können Informationen aufnehmen, die keinen sofortigen Zugriff erfordern.

Diese Aufteilung ähnelt einer spezialisierten Produktionslinie. Jede Komponente übernimmt die Aufgabe, die ihren Eigenschaften entspricht. Das resultierende System kann effizienter werden, doch die Koordination wird schwieriger.

Die Strategie von SK hynix setzt GPU-Anbieter indirekt unter Druck. Wenn PIM-Karten einen bedeutenden Anteil des Decodings übernehmen, benötigen Kunden für dasselbe Servicevolumen möglicherweise weniger GPU-Zyklen. Erfolgreiche PIM-Systeme könnten jedoch auch die Nachfrage nach GPUs steigern, indem sie vollständige KI-Dienste wirtschaftlicher machen.

Daher würde es die aktuelle Darstellung des Unternehmens verzerren, PIM als direkten GPU-Ersatz zu beschreiben. SK hynix zeigte AiMX in einem Server und sprach über heterogene Infrastruktur. Das Ziel sind ineffiziente Datenbewegungen, nicht die Abschaffung des Prozessors.

Samsung bietet unter den großen Speicheranbietern den deutlichsten Wettbewerbsvergleich. Das Unternehmen hat HBM-PIM entwickelt und die Technologie mit AMD-Beschleunigerhardware demonstriert. Samsung hat außerdem Processing-near-Memory- und PIM-Designs für On-Device-KI untersucht.

Samsungs Ansatz bestätigt, dass die Branche Berechnungen nahe am Speicher als mehr als ein Experiment von SK hynix betrachtet. Seine HBM-PIM-Architektur verlagert ausgewählte Operationen in HBM, statt GDDR6-basierte AiM-Karten einzusetzen.

Der Unterschied beim Speicherformat ergibt keinen einfachen Sieger. HBM bietet eine sehr hohe Bandbreite nahe an einem Beschleuniger, während GDDR6 andere Eigenschaften bei Kapazität, Packaging und Kosten bieten kann. Kunden werden vollständige Systeme und unterstützte Arbeitslasten bewerten.

PIM-Entwickler stehen zudem vor einem bekannten Standardisierungsproblem. Hardware lässt sich leichter übernehmen, wenn Software sie ohne umfangreiche Umschreibungen ansprechen kann. Ein Design, das an die individuellen Bibliotheken eines Anbieters oder einen engen Operatorumfang gebunden ist, riskiert, ein Spezialprodukt zu bleiben.

Compiler müssen für Offloading geeignete Operationen erkennen. Runtimes müssen diese Operationen einplanen und die Datenplatzierung verwalten. Monitoring-Tools müssen Ausfälle und Leistungsänderungen über mehrere Verarbeitungsorte hinweg erklären.

Auch Modelle entwickeln sich schneller als Server-Erneuerungszyklen. Ein für ein bestimmtes Attention-Muster optimierter Beschleuniger kann an Relevanz verlieren, wenn neue Architekturen den Speicherzugriff verändern. Rekonfigurierbarkeit und Software-Updates sind daher neben der reinen Siliziumleistung wichtig.

Hier wird das breitere Portfolio von SK hynix strategisch relevant. SALT-KV versucht, Platzierungsentscheidungen über Speicher und Storage hinweg zu treffen. HBF liefert eine weitere Kapazitätsebene. PIM übernimmt ausgewählte Operationen.

Zusammen deuten diese Technologien darauf hin, dass SK hynix den gesamten Datenpfad beeinflussen möchte. Diese Rolle geht über die Herstellung von Speicherbausteinen mit höherer Bandbreite hinaus. Sie erfordert Systemsoftware, Kundenintegration und kontinuierliche Unterstützung für Entwickler.

Engineering-Teams, die solche Hardware bewerten, müssen Benchmark-Bedingungen, Modellversionen, Leistungsmessungen und Erkenntnisse aus Deployments festhalten. Eine durchsuchbare Engineering-Wissensdatenbank kann dafür sorgen, dass diese Annahmen späteren Kaufentscheidungen zugeordnet bleiben.

Die Wettbewerbsfrage ist daher umfassender als die Frage, welches Unternehmen den schnellsten Speicher baut. Der Gewinner muss spezialisierten Speicher innerhalb bestehender KI-Betriebsabläufe verständlich und nutzbar machen. Ein Komponentenvorteil ohne Einführungspfad wird das Infrastrukturdesign nicht verändern.

Was die PIM-Demonstrationen weiterhin nicht belegen

SK hynix hat technische Kontinuität nachgewiesen, aber noch keine kommerzielle Einführung im großen Maßstab.

Die AiM-Initiative umfasst inzwischen mehrere öffentliche Meilensteine. SK hynix kündigte 2022 das Speichermuster an, demonstrierte 2023 eine Karte, verdoppelte 2024 die gezeigte Kapazität und präsentierte 2026 einen Server.

Diese Entwicklung ist bedeutsam. Sie deutet auf fortlaufende Investitionen statt auf eine einzelne Konferenzankündigung hin. Öffentliche Demonstrationen können jedoch mehrere für Käufer wichtige Fragen nicht beantworten.

Erstens hat SK hynix keinen allgemeinen Produktionszeitpunkt für die PIM-Konfiguration von 2026 genannt. Die jüngste Präsentation nannte weder einen Hyperscale-Kunden noch einen vertraglich vereinbarten Einsatz oder ein bestätigtes Auslieferungsvolumen.

Zweitens basieren die eindrucksvollsten Leistungsbehauptungen des Unternehmens auf ausgewählten Vergleichen. Die Zahlen von 2022 bezogen sich auf bestimmte Berechnungen. Das AiMX-Ergebnis von 2023 hing von einer Bedingung mit einem ASIC-basierten Steuerungshub ab. Die Demonstration von 2024 konzentrierte sich auf ein spezifisches Modell und eine bestimmte Verarbeitungskonfiguration.

Eine faire Bewertung erfordert abgestimmte Hardware, identische Modellqualität, gleichwertige Präzision und die Leistung des vollständigen Systems. Sie sollte zudem Host-Prozessoren, Leerlaufkomponenten, Speicher-Refresh, Netzwerk und Software-Overhead berücksichtigen.

Die Latenz sollte über mehrere Batch-Größen und Kontextlängen hinweg gemessen werden. Der Durchsatz sollte Request-Scheduling und Datenübertragungen außerhalb der Karte einschließen. Zuverlässigkeitstests sollten den Dauerbetrieb abdecken, nicht nur eine kontrollierte Demonstration.

Drittens beschleunigt PIM nicht jeden Teil einer KI-Arbeitslast gleichermaßen. Rechenintensive Operationen können weiterhin besser für GPUs oder dedizierte Tensorprozessoren geeignet sein. Die Synchronisierung zwischen Geräten kann Gewinne zunichtemachen, wenn Aufgaben schlecht aufgeteilt werden.

Jüngere akademische Arbeiten unterstreichen diese Vorsicht. Die Effizienz auf Systemebene hängt von Kanalkonfiguration, statischem Stromverbrauch, Modellstruktur und Arbeitslastzuordnung ab. Ein günstiges Kernel-Ergebnis kann schrumpfen, sobald die vollständige Inferenzpipeline gemessen wird.

Viertens bleiben die Fertigungsökonomien ungewiss. Das Hinzufügen von Logik und dichten Interconnects kann die Designkomplexität erhöhen. Die Trennung von Speicher und Logik durch Hybrid Bonding kann die Speicherdichte schützen, fügt jedoch Packaging-Schritte und Überlegungen zur Ausbeute hinzu.

Eine chipletähnliche Struktur erfordert zudem Tests vor und nach der Montage. Ein Defekt in einer Schicht kann den Wert des kombinierten Packages beeinträchtigen. Anbieter müssen zeigen, dass Leistungsgewinne diese Produktionskosten überstehen.

Fünftens wird die Softwareportabilität die Bereitschaft der Kunden prägen. Unternehmen führen keinen Beschleuniger für einen beeindruckenden Benchmark ein. Sie benötigen Unterstützung für sich weiterentwickelnde Modelle, gängige Frameworks, Sicherheitsupdates, Observability und planbare Wartung.

Die Aussagen von SK hynix sollten daher als technischer Ansatz gelesen werden, der noch auf Marktvalidierung wartet. Das Unternehmen hat gezeigt, dass PIM sich von einem Speichermuster hin zu einem interaktiven Server entwickeln kann. Es hat nicht gezeigt, dass die daraus resultierende Plattform für breite Erneuerungszyklen bereit ist.

Diese Unterscheidung macht die Ankündigung nicht unwichtig. Sie definiert den nächsten Evidenzstandard. Ein weiterer Prototyp mit einer größeren Zahl wird weniger bedeuten als ein namentlich benannter Einsatz unter realen Servicebedingungen.

Drei Signale werden zeigen, ob AiMX zur Infrastruktur wird

Die nächste Phase hängt von Kundennachweisen, reproduzierbaren System-Benchmarks und einem nutzbaren Software-Ökosystem ab.

Das erste Signal ist eine Produktionszusage, die an ein benanntes System oder einen Kunden gebunden ist. Ein Auslieferungsdatum, eine Serverqualifizierung oder ein Cloud-Deployment würden AiMX über wiederholte Konferenzdemonstrationen hinausführen. Angaben zum Volumen würden diese Evidenz weiter stärken.

Wenn SK hynix eine solche Zusage ankündigt, wird seine speicherzentrierte Architektur eher wie eine kommerzielle Plattform wirken. Eine weitere Präsentation ohne Einsatzdetails würde die Frage der Einführung offenlassen.

Das zweite Signal ist ein unabhängig reproduzierbarer Benchmark. Er sollte AiMX mit einem definierten GPU-HBM-System über mehrere Modelle, Kontextlängen und Batch-Größen hinweg vergleichen. Die Ergebnisse müssen den Gesamtstromverbrauch des Servers und die End-to-End-Latenz umfassen.

Ein transparenter Test würde die Behauptung stärken, dass Processing-in-Memory von SK hynix reale Inferenzkosten senkt. Enge Komponentenmessungen oder nicht vergleichbare Systeme würden den Vergleich schwächen, selbst wenn ihre Schlagzeilenzahlen groß erscheinen.

Das dritte Signal ist eine breitere Softwareunterstützung. Käufer sollten auf Integrationen mit gängigen Inferenz-Frameworks, dokumentierte Operator-Abdeckung, Profiling-Tools und Unterstützung durch Serverpartner achten. Öffentlicher Entwicklerzugang würde zeigen, wie viel Modellanpassung die Plattform erfordert.

Eine starke Softwareintegration würde darauf hindeuten, dass SK hynix die Einführung als mehr als nur ein Halbleiterproblem versteht. Ein geschlossenes Demonstrationssystem würde AiMX weiterhin von kundenspezifischem Engineering abhängig machen.

Diese Signale bieten technischen Einkäufern zudem einen praktischen Rahmen. Fragen Sie, ob das exakte Modell ohne Qualitätsveränderungen läuft. Messen Sie den vollständigen Server statt nur einer einzelnen Karte. Dokumentieren Sie, welche Operationen auf PIM ausgeführt werden und welche auf der GPU verbleiben.

Testen Sie anschließend, wie sich die Leistung verändert, wenn Traffic, Kontext und Batchgröße schwanken. KI-Dienste bleiben selten innerhalb einer einzigen, sorgfältig ausgewählten Arbeitslast. Die Infrastruktur muss weiterhin nützlich sein, wenn sich Modelle und Nutzerverhalten ändern.

SK hynix hat überzeugend dargelegt, dass Datenbewegung mehr Aufmerksamkeit verdient. Die Präsentation des Unternehmens von 2026 zeigt zudem, dass PIM über den ersten Chip-Prototyp hinaus Fortschritte gemacht hat. Die offene Frage ist, ob Kunden einen weiteren Beschleuniger und dessen Softwareanforderungen akzeptieren werden.

Beobachten Sie die erste Produktionsbereitstellung, den ersten reproduzierbaren System-Benchmark und den ersten breit zugänglichen Entwicklungs-Stack. Diese Meilensteine werden darüber entscheiden, ob AiMX Teil der KI-Infrastruktur wird oder eine beeindruckende Demonstration bleibt.