BDH-CQ stellt tokenbasiertes KI-Reasoning mit rekurrentem latentem Gedächtnis infrage

BDH-CQ erreichte mit 150 Millionen Parametern 29,5 % pass@2 auf ARC-AGI-1, obwohl es seine Zwischenschritte beim Reasoning nie verbalisiert. Forschende von Pathway stellten das System am 10. August 2026 in einem Preprint vor, der rekurrentes Gedächtnis mit iterativer latenter Berechnung kombiniert. Das Ergebnis stellt eine verbreitete Annahme moderner Reasoning-Modelle infrage: Schwierigere Probleme erfordern längere Ströme erzeugter Reasoning-Tokens.

Der berichtete Wert macht BDH-CQ nicht zum genauesten ARC-Löser. Seine Bedeutung ergibt sich daraus, wie das Modell jede Testaufgabe lernt und wie wenig Rechenaufwand die Autoren dafür angeben. Demonstrationen aktualisieren während der Inferenz ein internes Gedächtnis, während feste Modellparameter die Abfrage wiederholt in einem kontinuierlichen Arbeitsraum verarbeiten.

Damit richtet sich BDH-CQ gegen tokenweises Reasoning, nicht gegen ein einzelnes Unternehmen oder Flaggschiffmodell. Chain-of-Thought-Systeme verwandeln Zwischenberechnungen in Sprache, bevor sie diese Tokens wieder einlesen. BDH-CQ hält diese Berechnung intern und könnte so die Latenz und den Decodierungsaufwand langer Reasoning-Spuren vermeiden.

Die Evidenz bleibt enger, als die Schlagzeile vermuten lässt. Die Bewertung umfasst visuelle Gittertransformationen, nicht offene Sprache, Programmierung oder wissenschaftliche Forschung. Wichtige Architekturdaten bleiben zudem proprietär, was unabhängige Reproduktion und Überprüfung einschränkt.

BDH-CQ lernt eine Aufgabe, ohne seine Parameter zu aktualisieren

BDH-CQ verwandelt Demonstrationen in ein temporäres rekurrentes Gedächtnis und nutzt dieses anschließend, um eine neue Abfrage zu lösen.

Das von Pathway geführte Team präsentierte BDH-CQ in einem Preprint vom August. Zu den Autoren gehören Forschende von Pathway, Bielik AI und der New York University. Die Arbeit beschreibt BDH-CQ als Erweiterung der Architekturfamilie Dragon Hatchling.

Jede Bewertungsaufgabe liefert mehrere Eingabe-Ausgabe-Beispiele sowie eine neue Eingabe, die eine Antwort erfordert. BDH-CQ verarbeitet diese Demonstrationen nacheinander. Jedes Beispiel verändert einen rekurrenten Zustand, der den Kontext in spätere Eingaben trägt.

Anschließend kodiert das Modell die Abfrage zusammen mit diesem angesammelten Zustand. Es transformiert wiederholt einen hochdimensionalen latenten Arbeitsraum, also eine kontinuierliche interne Repräsentation für Berechnungen. Nur die endgültige Kandidatenantwort wird decodiert.

Während dieses Prozesses findet keine Gradientenaktualisierung statt. Die trainierten Parameter des Modells bleiben fest, während sich sein rekurrenter Zustand mit den bereitgestellten Evidenzen verändert. Diese Unterscheidung trennt Inferenzgedächtnis vom herkömmlichen Fine-Tuning.

Die Forschenden geben außerdem an, dass Kennungen der Bewertungsaufgaben und Demonstrationspaare aus der Bewertung vom Training ausgeschlossen wurden. Ihr Modell wurde stattdessen auf einer Mischung aus ARC-ähnlichen Quellen und privat kuratierten Beispielen trainiert. Zu den öffentlichen Quellen gehörten ARC-AGI-1-Trainingsdaten, RE-ARC, ConceptARC, ARC-Heavy und ARC-GEN100K.

Dieses Setup ist relevant, weil sich viele kompakte ARC-Systeme direkt an jede Bewertungsaufgabe anpassen. Sie optimieren Modellkomponenten, verwenden aufgabenspezifische Identitäten oder stimmen über augmentierte Varianten ab. BDH-CQ beansprucht, die Transformation allein aus den Demonstrationen abzuleiten.

Als Testumgebung diente der öffentliche ARC-AGI-1-Evaluierungssplit. ARC-Aufgaben verwenden kleine farbige Gitter, um Transformationen mit Objekten, Symmetrie, Zählung, Topologie und räumlichen Beziehungen darzustellen. Ein Löser muss aus wenigen Beispielen eine nicht explizit genannte Regel ableiten.

Der öffentliche Split umfasst 400 Aufgaben. BDH-CQ löste 97 mit seinem erstplatzierten Kandidaten und 118, wenn einer von zwei Kandidaten zählen konnte. Diese Ergebnisse entsprechen 24,25 % pass@1 und 29,5 % pass@2.

Über 419 einzelne Testpaare hinweg erreichte es 25,78 % pass@1 und 31,03 % pass@2. Die Aufgabengenauigkeit ist strenger, weil jede erforderliche Testausgabe korrekt sein muss. Ein einziges falsches Gitter macht die gesamte Aufgabe erfolglos.

Die Forschenden berechneten die Inferenz anhand gemessener H200-GPU-Zeit. Ihre Standardkonfiguration benötigte pro Aufgabe etwa 0,85 H200-GPU-Sekunden. Sie argumentieren, dass dieses Ergebnis die zuvor berichtete Kosten-Genauigkeits-Grenze von ARC-AGI-1 verschiebt.

Dieser Effizienzanspruch ist der zentrale Nachrichtenwert des Ereignisses. BDH-CQ gewinnt nicht durch den höchsten Gesamtscore. Es beansprucht einen neuen Betriebspunkt, an dem bedeutende Leistung ungewöhnlich wenig Inferenzrechenleistung benötigt.

Die Arbeit berichtet außerdem über ein Black-Box-Audit durch Mitautoren, die Bielik AI und der New York University angehören. Sie reproduzierten den Wert von 29,5 % ohne Zugriff auf Modellgewichte. Das bietet eine nützliche Überprüfung des bereitgestellten Dienstes, ist jedoch nicht gleichbedeutend mit einer unabhängigen Replikation.

Am wichtigsten ist, dass das Ergebnis Gedächtnis, Anpassung und Inferenz in einem rekurrenten Prozess verbindet. Das System benötigt keinen separaten Optimierer für jede Aufgabe. Es vermeidet zudem, jeden Zwischenzustand in einen Satz zu verwandeln.

Warum tokenweises Reasoning unter Druck gerät

BDH-CQ zielt auf das Berechnungsformat von Chain-of-Thought-Reasoning, nicht nur auf dessen Benchmark-Genauigkeit.

Große Reasoning-Modelle weisen üblicherweise mehr Rechenleistung zu, indem sie mehr Tokens erzeugen. Diese Tokens können Teilschlüsse dokumentieren, Alternativen prüfen und frühere Fehler korrigieren. Sie zwingen interne Arbeit jedoch auch durch ein diskretes Vokabular.

Jedes erzeugte Reasoning-Token erfordert einen weiteren autoregressiven Decodierungsschritt. Das Modell muss seinen verborgenen Zustand auf Vokabularwahrscheinlichkeiten projizieren, ein Token auswählen und dieses Token erneut verarbeiten. Längere Spuren erhöhen daher Rechenaufwand und Latenz.

Verbales Reasoning bleibt nützlich, weil Menschen es prüfen können. Es kann auch Tool-Aufrufe, Zusammenarbeit und explizite Überprüfung unterstützen. Sprache wird jedoch zur Bandbreitenbeschränkung, wenn der Zwischenzustand keiner menschlichen Interpretation bedarf.

BDH-CQ testet einen anderen Mechanismus der Zuweisung. Statt ein sichtbares Transkript zu verlängern, fügt es rekurrente Transformationen innerhalb eines kontinuierlichen Zustands hinzu. Ein interner Zustand kann mehrere Teilmöglichkeiten kodieren, ohne jede davon einzeln auszuschreiben.

Dieser Unterschied ähnelt paralleler gegenüber serieller Arbeit. Eine verbale Spur wählt normalerweise an jeder Position ein Token aus. Ein hochdimensionaler Zustand kann mehrere aktive Merkmale bewahren und gemeinsam transformieren.

Die Idee ist nicht einzigartig für BDH-CQ. Metas Coconut-Forschung führt kontinuierliche verborgene Zustände in einen Transformer zurück und ermöglicht damit Reasoning, ohne jeden Zwischenschritt zu decodieren. Modelle mit rekurrenter Tiefe verwenden Berechnungsblöcke ähnlich über mehrere interne Iterationen hinweg erneut.

BDH-CQ fügt ein eigenständiges Element hinzu: Demonstrationen verändern fortlaufend das rekurrente Aufgabengedächtnis. Die Abfrage nutzt dieses Gedächtnis anschließend während der latenten Iteration. Das System verbindet damit In-Context-Anpassung und nonverbales Reasoning innerhalb einer Architektur.

Diese Verbindung setzt zwei etablierte Wege unter Druck. Der erste ist konventionelles Chain-of-Thought, bei dem Beispiele die Aufgabe festlegen und Tokens den Arbeitsraum bereitstellen. Der zweite ist aufgabenspezifische Optimierung, bei der sich ein kompakter Löser separat an jede Aufgabe anpasst.

Das System von Pathway beansprucht, die Flexibilität des ersten Wegs ohne dessen obligatorische Narration zu bewahren. Es beansprucht zudem, die kompakte Berechnung des zweiten Wegs ohne aufgabenspezifische Parameteraktualisierungen zu erhalten.

Auf ARC wird der Kontrast deutlicher. Systeme wie Hierarchical Reasoning Model und Tiny Recursive Model nutzen iterative latente Berechnung, ihre ARC-Verfahren beinhalten jedoch transduktive Anpassung. Demonstrationen aus der Bewertung nehmen an der mit jeder Aufgabe verbundenen Optimierung teil.

Die Autoren von BDH-CQ argumentieren, dass eine zuvor ungesehene Aufgabe stattdessen über den Kontext eingebracht werden kann. Sie vergleichen diese Anordnung mit einer Person, die eine Regel aus Beispielen lernt und sie dann anwendet, ohne ihre gesamte Reasoning-Mechanik umzuschreiben.

Diese Analogie sollte begrenzt bleiben. Aktualisierungen rekurrenter Zustände sind mathematische Operationen, kein Beleg für menschenähnliches Verständnis. Die Arbeit bezeichnet das Design als hirninspiriert, vermeidet jedoch ausdrücklich die Behauptung einer biologischen Nachbildung.

Die zugrunde liegende Dragon-Hatchling-Architektur verwendet spärliche positive Aktivierungen, Low-Rank-Kommunikation und rekurrenten assoziativen Zustand. Ihr öffentliches Architektur-Repository beschreibt lokal interagierende künstliche Neuronen und ein Arbeitsgedächtnis im Hebb-Stil.

Hebbsches Gedächtnis stärkt Assoziationen zwischen gleichzeitig aktiven Merkmalen. Bei BDH-CQ besteht der praktische Punkt darin, dass Kontext einen persistenten internen Zustand verändern kann. Der Zustand muss nicht als explizite Liste aller vorherigen Schlüssel und Werte wachsen.

Diese Eigenschaft könnte letztlich über visuelle Rätsel hinaus relevant werden. Lange Reasoning-Spuren verbrauchen Speicher, Decoderzeit und Kommunikationsbandbreite. Ein rekurrenter Zustand bietet einen anderen Weg, Informationen zu bewahren und diese Kosten zugleich zu kontrollieren.

Der Verzicht auf Sprache entfernt jedoch auch eine praktische Oberfläche für die Überprüfung. Einer verborgenen Trajektorie kann nicht allein deshalb vertraut werden, weil sie effizient ist. Entwickler benötigen andere Methoden, um zu prüfen, ob der interne Prozess stabil, verzerrt oder anfällig für Manipulation ist.

Der Druck auf tokenbasiertes Reasoning ist daher bedingt. BDH-CQ zeigt, dass sichtbarer Text nicht der einzige mögliche Berechnungsarbeitsraum ist. Es zeigt nicht, dass verborgene Berechnung Sprache bei jeder Aufgabe ersetzen kann.

Die MachineLearning-Diskussion auf Horizon weist auf einen tieferen Mechanismus hin

Der wichtige Mechanismus ist nicht allein stilles Reasoning, sondern die Trennung zwischen kontextuellem Gedächtnis und aktivem Reasoning-Arbeitsraum.

Eine weithin geteilte MachineLearning-Diskussion machte die Arbeit bekannter, doch die zugrunde liegenden technischen Behauptungen stammen aus der Forschung selbst. BDH-CQ verwaltet zwei interne Strukturen mit unterschiedlichen Aufgaben.

Der rekurrente Kontextzustand verändert sich, während das Modell Demonstrationen aufnimmt. Er speichert Assoziationen, die für die neu präsentierte Aufgabe relevant sind. Der latente Reasoning-Arbeitsraum beginnt, nachdem diese Beispiele in das Gedächtnis eingegangen sind.

Beim Lösen der Abfrage verändert sich der Arbeitsraum über mehrere Reasoning-Schritte hinweg. Der Kontextzustand bleibt während dieser Transformationen verfügbar. Ein Decoder wandelt den endgültigen Arbeitsraum in ein oder zwei eingestufte Gitterkandidaten um.

Diese Aufteilung verhindert, dass ein einzelner Vektor jede Verantwortung tragen muss. Das Gedächtnis beantwortet, was die Demonstrationen etabliert haben. Der Arbeitsraum verarbeitet, welche Berechnungen für die Abfrage noch erforderlich sind.

Die Autoren beschreiben die Speicheraktualisierung auf hoher Ebene. Ein neuer Zustand hängt vom vorherigen Zustand und der nächsten Demonstration ab. Die trainierten Parameter, die diese Aktualisierung steuern, ändern sich nicht.

Den Arbeitsraum beschreiben sie ähnlich. Ein Encoder initialisiert ihn aus der Abfrage und dem angesammelten Kontext. Eine rekurrente Funktion aktualisiert ihn wiederholt, bevor ein Decoder die Antwort erzeugt.

Diese Beschreibung erklärt das Konzept, jedoch nicht die vollständige Implementierung. Die Arbeit sagt, dass genaue Dimensionen, Aktualisierungsregeln und interne Systemdetails proprietär bleiben. Sie hält außerdem das vollständige Trainingsrezept zurück.

Das evaluierte Produkt umfasst mehr als die zentrale neuronale Architektur. Es verwendet Eingabetransformationen, Kandidatenkonstruktion, Rangordnung und eine Inferenzpipeline. Diese umgebenden Komponenten können sowohl Genauigkeit als auch Rechenaufwand beeinflussen.

Trotz dieser Einschränkung liefern kontrollierte Experimente Hinweise darauf, was das rekurrente Gedächtnis tatsächlich speichert. Ein Test erzeugte innerhalb jeder Aufgabe eine neue Farbzordnung. Demonstrationen definierten, wie sich mehrere Farben verändern sollten.

BDH-CQ löste alle 96 zurückgehaltenen Ausgaben auf Rang eins, während die Zahl gleichzeitiger Bindungen von zwei auf acht stieg. Das Ergebnis legt nahe, dass das Kontextgedächtnis dichte aufgabenspezifische Zuordnungen speichern und anwenden kann.

Andere Tests variierten den Umfang einer demonstrierten Operation. Die Randfortpflanzung blieb über alle 48 zurückgehaltenen Ausgaben hinweg bei Distanzen von zwei bis acht korrekt. Auch das Kopieren von Motiven blieb über alle 48 Ausgaben hinweg korrekt, während die Zahl der Ziele zunahm.

Dies sind günstige Beispiele, weil die zugrunde liegende Operation lokal und regelmäßig bleibt. Das Modell kann eine gelernte Aktion erweitern, ohne eine komplizierte Ausgabereihenfolge rekonstruieren zu müssen.

Die Reihenfolge erzeugte eine andere Kurve. Die Leistung blieb bis zu fünf Objekten nahezu gesättigt und fiel dann bei längeren Sequenzen ab. Bei acht Objekten löste BDH-CQ unter pass@2 nur eine von 24 zurückgehaltenen Ausgaben.

Das Fehlermuster war breit statt lokal. Nur drei Ausgaben dieser Länge hatten überhaupt die korrekten Dimensionen. Dies deutet auf einen Ausführungsengpass beim Aufbau des geordneten Ergebnisses hin, nicht nur auf Unsicherheit über die Regel.

Verschachtelte Enthaltensein-Beziehungen scheiterten anders. Die Leistung blieb bis Tiefe vier stark und nahm dann bei Tiefe fünf ab. Diese Ausgaben behielten meist die korrekten Dimensionen bei und übertrafen bei ihren besten Kandidaten eine mittlere Zellgenauigkeit von 99,9 %.

Ein einzelner relationaler Fehler führte oft zum Scheitern. Dieses Muster legt nahe, dass das Modell die Transformation nahezu vollständig ausführte, aber eine Enthaltensein-Entscheidung aus dem Blick verlor. Die Exact-Match-Bewertung zählte diese Ausgaben zu Recht als falsch.

Das Hinzufügen einer Demonstration in der Zielkomplexität veränderte die Ergebnisse. Die Verschachtelung der Tiefe fünf stieg von 19 von 24 korrekten Ausgaben auf 24 von 24. Die Reihenfolge bei Länge acht verbesserte sich von null auf 13 von 24.

Diese Intervention stärkt die Behauptung des In-Context-Lernens. Byte-identische Testeingaben erzielten unterschiedliche Ergebnisse, wenn die Demonstrationen die erforderliche Komplexität abdeckten. Die Beispiele veränderten das effektive Verhalten des Modells ohne Parameter-Updates.

Dieselbe Evidenz definiert jedoch auch eine Grenze. BDH-CQ extrapoliert nicht jede Regel zuverlässig über die demonstrierte Komplexität hinaus. Sein Speicher kann eine Transformation binden, während sein Arbeitsbereich weiterhin Schwierigkeiten hat, diese Transformation in größerem Maßstab auszuführen.

Der Denkaufwand erzeugte einen weiteren vorhersehbaren Zielkonflikt. Die hohe Einstellung erreichte 29,5 % pass@2, die mittlere 27 %. Niedriger Aufwand erreichte 21 %, wobei die Autoren über schrittweise geringere Rechenleistung berichten.

Diese Beziehung ähnelt der Skalierung von Testzeit-Rechenaufwand in anderen Reasoning-Systemen. Mehr rekurrente Schritte erhöhen die Wahrscheinlichkeit einer exakten Antwort. Der Unterschied besteht darin, dass zusätzlicher Aufwand innerhalb kontinuierlicher Zustände statt in einem wachsenden Transkript stattfindet.

Dieser Mechanismus macht BDH-CQ zu mehr als einem komprimierten Chain-of-Thought-Experiment. Er erzeugt aus Demonstrationen einen Aufgabenspeicher, trennt diesen Speicher von der Abfrageberechnung und skaliert den Aufwand über rekurrente Tiefe.

Die Benchmark-Erfolge legen klare Fehlermodi offen

Die stärkste Evidenz für BDH-CQ zeigt zugleich, dass kontextuelles Lernen keine konsistente Regelausführung garantiert.

Die Arbeit bewertet BDH-CQ auf ConceptARC, das visuelle Aufgaben in 16 Konzeptfamilien organisiert. Das Modell erreichte mit semantischen Kennungen 59,38 % striktes Task pass@2. Nachdem Kennungen verschleiert und Konzeptgruppen gemischt wurden, erreichte es 60 %.

Diese ähnlichen Werte verringern eine naheliegende Sorge. Das Modell schien nicht von aussagekräftigen Aufgabennamen oder nach Konzepten gruppierten Batches abhängig zu sein. Beide Varianten erzielten 374 korrekte Ergebnisse über 480 einzelne Testpaare.

Aggregierte Stabilität bedeutete jedoch kein identisches Verhalten. Nur 276 von 480 vollständigen Ranglisten der Kandidaten stimmten zwischen den beiden Durchläufen überein. Anfragekontext oder internes Suchverhalten veränderten viele Ausgaben, ohne den Gesamtscore zu verschieben.

Wichtiger noch: Die Genauigkeit bei Testpaaren erreichte 77,92 %, während die strikte Aufgabengenauigkeit bei 59,38 % blieb. Die Differenz von 18,54 Prozentpunkten zeigt, dass eine korrekte Antwort auf eine Eingabe oft nicht auf jede Eingabe übertragen werden konnte.

Bei 52 von 160 ConceptARC-Aufgaben waren ein oder zwei Testeingaben korrekt, ohne dass alle drei gelöst wurden. Unter einer strikten Sicht auf Regelinduktion belegen diese Teilerfolge keine konsistente Anwendung der abgeleiteten Regel.

Auch nach Konzept variierte die Leistung stark. Das System löste neun von zehn Aufgaben mit Unterscheidungen zwischen gefüllten und ungefüllten Formen. Es löste zudem neun von zehn Aufgaben in der TopBottom2D-Familie.

Copy und Order erreichten jeweils nur zwei von zehn. Jede Familie enthält lediglich zehn Aufgaben, daher können diese Zahlen keine stabile Rangfolge begründen. Sie zeigen dennoch, wo das aktuelle System einer genaueren Belastungsprüfung unterzogen werden sollte.

Komposition offenbarte eine weitere große Schwäche. BDH-CQ löste Rotation und Verlagerung getrennt und anschließend ihre Kombination über alle 72 zurückgehaltenen Ausgaben hinweg. Reflexion in Kombination mit Verlagerung gelang bei 47 von 72.

Das Vertauschen von Farben schnitt deutlich schlechter ab. Als isolierte Operation über die zusammengefassten Motivfamilien hinweg gelang es nur bei 26 von 72 Ausgaben. In Kombination mit Verlagerung scheiterte es bei allen 72.

Das Layout spielte eine große Rolle. Das Modell lernte das Vertauschen von Farben leichter, wenn Motive eine feste Anordnung teilten. Über zwei durchmischte Familien hinweg verschwand die Leistung nahezu, noch bevor Komposition ins Spiel kam.

Dieses Ergebnis warnt davor, das System ohne Einschränkung als Lerner abstrakter Operatoren zu beschreiben. Mitunter bindet es eine wiederverwendbare Transformation. In anderen Fällen hängt der Erfolg von repräsentationalen Regelmäßigkeiten innerhalb der Demonstrationen ab.

Auch ARC selbst begrenzt die Schlussfolgerungen. Seine Gitter schließen Faktenabruf, natürlichsprachliche Mehrdeutigkeit, sozialen Kontext, Tool-Nutzung und langfristige Planung aus. Starke visuelle Induktion belegt keine breite Reasoning-Kompetenz.

Der Titel der Arbeit betont In-Context-Lernen mit rekurrentem latentem Reasoning. Er behauptet nicht, dass das System mit 150 Millionen Parametern ein allgemeines Sprachmodell ersetzen kann. Der Ausblick nennt Sprach- und mathematisches Reasoning als künftige Erweiterungen.

Die Reproduzierbarkeit bleibt die größere Sorge. Das vollständig evaluierte System ist nicht verfügbar, während exakte Speicher-Updates und Details des latenten Arbeitsbereichs unveröffentlicht bleiben. Forschende können das Schlagzeilenergebnis aus dem öffentlichen Dragon Hatchling Repository noch nicht reproduzieren.

Das berichtete Audit bietet gewisse Gewähr, dass der Dienst den angegebenen Score zurückgab. Seine Evaluatoren sind jedoch Mitautoren der Arbeit, und ihnen fehlten die Modellgewichte. Ein stärkerer Test würde unabhängige Evaluatoren einbeziehen, die ein eingefrorenes Artefakt ausführen.

Auch Trainingskontamination erfordert vorsichtige Formulierungen. Den Forschenden zufolge schlossen sie öffentliche Evaluierungsdemonstrationen und Aufgabenkennungen aus. Ihre privaten Daten und der vollständige Prozess der Checkpoint-Auswahl bleiben einer Prüfung entzogen.

Das Experiment mit verschleierten Kennungen schließt einen engen, anfrageseitigen Shortcut aus. Es beweist nicht, dass keine verwandten Muster in das Training eingegangen sind. Die Arbeit selbst räumt ein, dass ConceptARC kein frischer Benchmark ist.

Auch Kostenvergleiche erfordern Vorsicht. Die Schätzung von BDH-CQ basiert auf gemessener Hardwarezeit unter Annahme eines Beschleunigerpreises. Andere Leaderboard-Einträge können Anbieterpreise oder separate Hardwareschätzungen widerspiegeln.

Das bedeutet, dass die dargestellten Werte nicht immer dieselbe wirtschaftliche Größe messen. Die kurze gemessene Laufzeit des Modells bleibt bemerkenswert, doch die genaue Größe seines Vorteils hängt von der Vergleichsmethodik ab.

Stilles Reasoning bringt einen Governance-Zielkonflikt mit sich. Nutzer können den Zwischenweg nicht prüfen, weil kein sprachlicher Pfad existiert. Die endgültige Antwort lässt sich bei ARC kontrollieren, wo jede Zelle ein exaktes Ziel hat.

Viele reale Anwendungen verfügen nicht über eine solche Verifikation. Eine medizinische Zusammenfassung, Geschäftsprognose oder Forschungssynthese hat selten ein unmittelbares Orakel. Verborgenes Reasoning bräuchte Konfidenzkalibrierung, Konsistenztests und externe Evidenzprüfungen.

Dieses Problem entkräftet latente Berechnung nicht. Auch menschenlesbare Chains können plausible Erklärungen enthalten, die erst nach der zugrunde liegenden Entscheidung erzeugt wurden. Sichtbares Reasoning ist nicht zwangsläufig getreu.

Die praktische Anforderung lautet bessere Evaluation. Ein latentes System benötigt Verhaltensproben, die Speicher, Extrapolation, Komposition, Stabilität und Fehlerbehebung testen. Die kontrollierten Experimente von BDH-CQ sind gerade deshalb nützlich, weil sie diese Grenzen offenlegen.

Rekurrentes latentes Reasoning verändert die Kostendebatte

BDH-CQ lenkt die Aufmerksamkeit von der Modellgröße allein auf die Struktur von Inferenz und Anpassung.

Ein Modell mit 150 Millionen Parametern ist im Vergleich zu frontier Sprachsystemen klein. Dennoch erklärt die Parameterzahl seine berichtete Effizienz nicht vollständig. Die Architektur vermeidet zudem wiederholtes Sprachdekodieren und puzzlespezifische Optimierung.

Dadurch entstehen drei unterschiedliche Rechenbudgets. Das Training baut die allgemeine Fähigkeit auf, ARC-ähnliche Aufgaben zu verarbeiten. Demonstrationen aktualisieren den temporären rekurrenten Speicher. Latente Iterationen weisen abfragespezifischen Reasoning-Aufwand zu.

Wenn diese Budgets getrennt bleiben, erhalten Entwickler eine feinere Kontrolle. Ein System könnte mehr Demonstrationen verarbeiten, ohne seine Parameter zu verändern. Es könnte zudem nur dann mehr interne Iterationen ausführen, wenn eine Abfrage sie benötigt.

Aktuelle Sprachmodelle kombinieren diese Funktionen oft in einem einzigen Tokenstrom. Prompts tragen Demonstrationen, Attention bewahrt Kontext und generierte Tokens erweitern das Reasoning. Die daraus entstehende Schnittstelle ist einfach, aber rechnerisch seriell.

BDH-CQ bietet eine stärker strukturierte Aufteilung. Der Speicher erfasst Evidenz aus dem Kontext, während rekurrente Tiefe die aktive Suche ausführt. Der Decoder erscheint erst, wenn das System eine externe Antwort benötigt.

Dieses Design ähnelt Fast-Weight-Speicher, bei dem Aktivierungen temporäre Assoziationen innerhalb eines festen Netzwerks erzeugen. Es verbindet sich auch mit linearer Attention, die vergangene Informationen in einem rekurrenten Zustand zusammenfassen kann.

Die tiefere Wettbewerbsfrage betrifft die Anpassung. Aufgabenspezifische rekursive Löser können nach Optimierung auf den Beispielen jedes Rätsels gut abschneiden. Allgemeine Sprachmodelle passen sich über Kontext an, verbrauchen jedoch oft viele Tokens beim Reasoning.

BDH-CQ zielt auf kontextuelle Anpassung ohne ausführliches Dekodieren oder Optimierung mittels Backward Pass. Diese Kombination ist der zentrale Gegenpol zu etablierten Methoden, auch wenn seine absolute Genauigkeit unter stärkeren Systemen bleibt.

Entwickler sollten das Ergebnis nicht als Beleg lesen, dass Tokens obsolet sind. Sprache bleibt eine wirksame Schnittstelle zwischen Modellen, Nutzern, Tools und Prüfern. Sie ermöglicht es einem System zudem, Unsicherheit zu kommunizieren und fehlende Informationen anzufordern.

Eine künftige Architektur könnte beide Modi kombinieren. Latente Rekurrenz könnte interne Berechnungen mit hoher Bandbreite übernehmen. Selektives Dekodieren könnte Kontrollpunkte offenlegen, wenn Verifikation, Zusammenarbeit oder Tool-Nutzung Sprache erfordert.

Die BDH-CQ-Arbeit weist auf diesen Hybrid hin. Sie merkt an, dass latente Zustände und Sprache unterschiedliche Funktionen erfüllen können. Zwischentext muss nicht überall verschwinden, nur weil er nicht bei jedem Schritt nötig ist.

Der Ansatz könnte auch das Speicherdesign verändern. Konventionelle Long-Context-Modelle behalten wachsende Token-Historien oder komprimierte Caches. Rekurrenter Speicher aktualisiert stattdessen einen Zustand fester Größe, wenn neue Evidenz eintrifft.

Speicher fester Größe bringt einen eigenen Zielkonflikt mit sich. Kompression kann Informationen verwerfen, Assoziationen zusammenführen oder frühere Evidenz überschreiben. Der Farb-Bindungstest der Arbeit zeigt Kapazität innerhalb eines kontrollierten Bereichs, keine unbegrenzte Speicherung.

Langfristige Evaluation sollte daher Interferenz testen. Forschende müssen wissen, was geschieht, wenn Demonstrationen im Widerspruch stehen, in unterschiedlicher Reihenfolge eintreffen oder irrelevante Beispiele enthalten. Sie sollten auch messen, wie schnell alte Assoziationen verblassen.

Sicherheitstests sind aus demselben Grund wichtig. Wenn Inferenz-Eingaben den rekurrenten Zustand verändern, könnten bösartige Demonstrationen spätere Antworten beeinflussen. Ein Angriff auf latenten Speicher könnte schwieriger zu diagnostizieren sein, weil kein textuelles Scratchpad den Übergang dokumentiert.

Unternehmenseinsätze würden Reset-Grenzen und Speicherisolation erfordern. Ein temporärer Aufgabenstatus sollte nicht zwischen Nutzern oder unabhängigen Aufträgen durchsickern. Systeme benötigen zudem Möglichkeiten, beschädigten Kontext zu identifizieren, bevor er nachgelagerte Abfragen beeinträchtigt.

Für Wissensarbeit bleibt die zugrunde liegende Idee attraktiv. Menschen verbalisieren beim Lesen von Notizen, Vergleichen von Belegen und Bilden einer Schlussfolgerung nur selten jeden inneren Schritt. Sie entwickeln ein Arbeitsmodell, überarbeiten es und kommunizieren anschließend ausgewählte Teile ihrer Überlegungen.

Software, die Wissensverknüpfung unterstützt, behandelt das Sammeln von Kontext und die Generierung von Antworten bereits als miteinander verbundene Prozesse. BDH-CQ untersucht eine architektonische Variante dieser Verbindung auf niedrigerer Ebene.

Das Ergebnis wirft auch eine Produktfrage auf. Sollten Nutzer für Rechenaufwand für lesbare Gedankengänge bezahlen, die sie nie ansehen? Bei exakten und überprüfbaren Aufgaben könnten stille latente Iterationen ein besseres Gleichgewicht bieten.

Bei folgenreichen Entscheidungen fällt die Antwort anders aus. Nutzer benötigen möglicherweise zitierte Belege, explizite Annahmen oder eine nachvollziehbare Herleitung. Ein latenter Kern bräuchte eine externe Berichtsebene, die diese Elemente getreu vermittelt.

Der langfristige Wettbewerb lautet daher nicht versteckte Gedanken gegen sichtbare Gedanken. Es geht um starre Token-Serialisierung gegenüber Systemen, die für jeden Rechen- und Kommunikationsschritt die passende Repräsentation wählen.

BDH-CQ liefert frühe Hinweise für dieses umfassendere Design. Sein kompaktes ARC-Ergebnis macht die Frage schwerer abzutun. Seine Einschränkungen verhindern jede Erklärung, der Wettbewerb sei entschieden.

Drei Signale werden bestimmen, ob BDH-CQ von Bedeutung ist

Die nächste Phase muss Reproduzierbarkeit, breitere Domänen und Skalierung testen, bevor BDH-CQ weitergehende Aussagen stützen kann.

Das erste Signal ist ein unabhängig ausführbares Artefakt. Pathway hat Baseline-Code für Dragon Hatchling veröffentlicht, jedoch nicht das vollständige BDH-CQ-System, das für die berichtete Bewertung verwendet wurde.

Ein eingefrorener Container, ein Modell-Checkpoint oder ein gehostetes Bewertungsprotokoll würden es unabhängigen Forschenden ermöglichen, das Ergebnis von 400 Aufgaben zu reproduzieren. Sie würden außerdem verdeutlichen, wie Kandidatenkonstruktion und -bewertung zum Endergebnis beitragen.

Eine unabhängige Bewertung sollte die gemessene Hardwarezeit unter konsistenten Bedingungen vergleichen. Sie sollte neuronale Inferenz von Vorverarbeitung, Augmentierung, Kandidatenbewertung und Service-Overhead trennen. Vergleichbare Abrechnung würde die Effizienzbehauptung stärken oder schwächen.

Forschende sollten zudem Ausschlussgrenzen rund um die Bewertungsdaten überprüfen. Datensatzmanifeste, Hashes und Verfahren zur Checkpoint-Auswahl würden mehr Vertrauen schaffen als allgemeine Zusicherungen. Private Beispiele müssen nicht veröffentlicht werden, sofern ihre Herkunft prüfbar ist.

Wenn die Reproduzierbarkeit Bestand hat, wird BDH-CQ zu einem glaubwürdigen neuen Punkt auf der ARC-Effizienzkurve. Scheitert sie, verengt sich die Geschichte auf einen interessanten Architekturvorschlag mit einem unbestätigten Systemergebnis.

Das zweite Signal ist Leistung außerhalb visueller Raster. Die Arbeit nennt Sprachverarbeitung, Mathematik, Constraint Satisfaction und schwierigere ARC-Aufgaben als künftige Richtungen. Diese Bewertungen werden testen, ob sich die Architektur über ihre aktuelle Trainingsverteilung hinaus übertragen lässt.

Sprachliches Schlussfolgern schafft andere Anforderungen. Ein Modell muss mit Mehrdeutigkeit, Faktenwissen, langen Ausgaben und Anweisungen umgehen, die sich im Zeitverlauf ändern. Es muss zudem Belege vermitteln, nicht lediglich ein exaktes Raster ausgeben.

Mathematik würde eine stärkere Verifikation ermöglichen und zugleich die Problemstruktur erweitern. Formale Beweise, Programmsynthese und Theoremprüfung können latentes Schlussfolgern testen, ohne vollständig auf subjektive Bewertung angewiesen zu sein.

ARC-AGI-2 würde eine weitere nützliche Herausforderung bieten. Es wurde entwickelt, um Methoden zu widerstehen, die vertraute Aufgabenmuster ausnutzen, und um stärker kompositionelle Generalisierung zu verlangen. Ein starkes Ergebnis dort würde weitergehende Aussagen über Anpassungsfähigkeit stützen.

Ein Scheitern in diesen Domänen würde das aktuelle Ergebnis nicht entkräften. Es würde zeigen, dass BDH-CQ auf visuelle Transformationen im ARC-Stil spezialisiert ist. Auch dieses Ergebnis würde das Design effizienter Solver informieren.

Das dritte Signal sind transparente Belege für Skalierung. Die Arbeit behauptet, dass BDH-CQ skalieren kann, und erwähnt frühe Experimente zwischen einer Milliarde und 600 Milliarden Parametern. Sie liefert nicht genügend Belege, um diese Behauptungen zu bewerten.

Die Autoren erklären außerdem, dass die Architektur wesentlich größere Konfigurationen unterstützen könnte. Leser sollten dies als technische Projektion behandeln, bis Trainingskurven, Rechenbudgets und nachgelagerte Ergebnisse verfügbar sind.

Skalierung könnte schwierige Reihenfolgebildung und Komposition verbessern. Sie könnte aber auch Speicherinstabilität, Optimierungsprobleme oder abnehmende Erträge offenlegen. Das aktuelle Modell mit 150 Millionen Parametern kann nicht beantworten, welches Ergebnis überwiegt.

Eine besonders hilfreiche Veröffentlichung würde Modellgröße gegen Aufgabengenauigkeit, Inferenziterationen und Kapazität des rekurrenten Speichers auftragen. Das würde zeigen, ob größere Modelle die Abstraktion verbessern oder lediglich mehr Regularitäten im ARC-Stil auswendig lernen.

Forschende sollten außerdem testen, ob der Aufwand für Schlussfolgern gleichmäßig skaliert. Die aktuellen niedrigen, mittleren und hohen Einstellungen zeigen steigende Genauigkeit, jedoch nur über drei Datenpunkte. Feinere Kurven könnten Sättigung und Instabilität aufzeigen.

Diese drei Signale sollten in dieser Reihenfolge eintreffen: Reproduzierbarkeit, Domänenerweiterung, dann Skalierung. Eine größere proprietäre Behauptung bietet weniger wissenschaftlichen Wert als ein kleineres Ergebnis, das unabhängige Teams untersuchen können.

Entwickler sollten dabei ein praktisches Detail im Blick behalten. Verbessert rekurrenter Speicher die Anpassungsfähigkeit, ohne neue Fehler bei Kontextisolation und Sicherheit zu schaffen? Effizienz allein kann unzuverlässige Zustandsgrenzen nicht ausgleichen.

Vorerst etabliert BDH-CQ ein fokussiertes Ergebnis. Ein kompaktes rekurrentes System lernte visuelle Transformationen aus Demonstrationen, schloss über kontinuierliche Zustände und erzielte mit geringem gemessenem Rechenaufwand ein konkurrenzfähiges ARC-Ergebnis.

Es scheiterte außerdem erwartbar bei langen Reihenfolgen, inkonsistenter Regelausführung und bestimmten zusammengesetzten Operationen. Diese Fehler halten die Arbeit auf dem Boden der Tatsachen. Sie zeigen, wo umfangreichere Demonstrationen helfen und wo die interne Ausführung weiterhin versagt.

Die richtige Reaktion ist weder Ablehnung noch Feier. Verfolgen Sie die ARC-Bestenliste, prüfen Sie jedes veröffentlichte Bewertungsartefakt und vergleichen Sie Ergebnisse unter konsistenter Abrechnung.

Stellen Sie dann jedem Reasoning-Modell eine präzisere Frage: Welche Schritte brauchen wirklich Sprache, und welche verwenden nur Tokens, weil heutige Architekturen keinen besseren Arbeitsbereich bieten?