BDH-CQ kwestionuje token-po-tokenie rozumowanie AI dzięki rekurencyjnej pamięci ukrytej

BDH-CQ osiągnął 29,5% pass@2 w ARC-AGI-1 przy 150 milionach parametrów, mimo że nigdy nie wyrażał pośrednich etapów rozumowania w języku. Badacze z Pathway przedstawili system 10 sierpnia 2026 roku w preprincie łączącym pamięć rekurencyjną z iteracyjnym obliczaniem ukrytym. Wynik podważa powszechne założenie stojące za współczesnymi modelami rozumowania: trudniejsze problemy wymagają dłuższych strumieni generowanych tokenów rozumowania.

Zgłoszony wynik nie czyni BDH-CQ najdokładniejszym solverem ARC. Jego znaczenie wynika ze sposobu, w jaki model uczy się każdego zadania testowego, oraz z niewielkiej ilości obliczeń, których użycie raportują autorzy. Demonstracje aktualizują wewnętrzną pamięć podczas inferencji, podczas gdy stałe parametry modelu wielokrotnie przetwarzają zapytanie w ciągłej przestrzeni roboczej.

To podejście przeciwstawia BDH-CQ rozumowaniu token po tokenie, a nie konkretnej firmie czy flagowemu modelowi. Systemy chain-of-thought zamieniają pośrednie obliczenia w język, zanim ponownie odczytają te tokeny. BDH-CQ zachowuje te obliczenia wewnątrz modelu, co potencjalnie pozwala uniknąć opóźnień i narzutu dekodowania związanego z długimi śladami rozumowania.

Dowody pozostają węższe, niż sugeruje nagłówek. Ewaluacja obejmuje wizualne przekształcenia siatek, a nie otwarty język, programowanie czy badania naukowe. Istotne szczegóły architektury pozostają również własnościowe, ograniczając niezależne odtworzenie i analizę.

BDH-CQ uczy się zadania bez aktualizowania parametrów

BDH-CQ przekształca demonstracje w tymczasową pamięć rekurencyjną, a następnie używa tej pamięci do rozwiązania nowego zapytania.

Zespół kierowany przez Pathway przedstawił BDH-CQ w sierpniowym preprincie. Wśród autorów są badacze z Pathway, Bielik AI i New York University. Artykuł opisuje BDH-CQ jako rozszerzenie rodziny architektur Dragon Hatchling.

Każde zadanie ewaluacyjne zawiera kilka przykładów wejścia-wyjścia oraz nowe wejście wymagające odpowiedzi. BDH-CQ przetwarza te demonstracje sekwencyjnie. Każdy przykład zmienia stan rekurencyjny, który przenosi kontekst do kolejnych wejść.

Model następnie koduje zapytanie razem z tym zgromadzonym stanem. Wielokrotnie przekształca wysokowymiarową ukrytą przestrzeń roboczą, czyli ciągłą wewnętrzną reprezentację używaną do obliczeń. Dekodowana jest wyłącznie końcowa kandydacka odpowiedź.

W tym procesie nie zachodzi aktualizacja gradientowa. Wytrenowane parametry modelu pozostają stałe, podczas gdy jego stan rekurencyjny zmienia się wraz z dostarczonymi dowodami. To rozróżnienie oddziela pamięć w czasie inferencji od konwencjonalnego dostrajania.

Badacze twierdzą również, że identyfikatory zadań ewaluacyjnych i pary demonstracyjne ewaluacji wykluczono z treningu. Model trenowano natomiast na mieszance źródeł w stylu ARC i prywatnie dobranych przykładów. Publiczne źródła obejmowały dane treningowe ARC-AGI-1, RE-ARC, ConceptARC, ARC-Heavy i ARC-GEN100K.

Ta konfiguracja ma znaczenie, ponieważ wiele kompaktowych systemów ARC adaptuje się bezpośrednio do każdego zadania ewaluacyjnego. Optymalizują komponenty modelu, wykorzystują tożsamości specyficzne dla zagadki lub głosują między rozszerzonymi wersjami. BDH-CQ twierdzi, że wyciąga przekształcenie wyłącznie z demonstracji.

Środowiskiem testowym był publiczny podział ewaluacyjny ARC-AGI-1. Zadania ARC wykorzystują małe kolorowe siatki do wyrażania przekształceń obejmujących obiekty, symetrię, liczenie, topologię i relacje przestrzenne. Solver musi wywnioskować niewypowiedzianą regułę na podstawie kilku przykładów.

Publiczny podział zawiera 400 zadań. BDH-CQ rozwiązał 97 przy swoim pierwszym sklasyfikowanym kandydacie i 118, gdy liczył się którykolwiek z dwóch kandydatów. Wyniki te odpowiadają 24,25% pass@1 i 29,5% pass@2.

W 419 pojedynczych parach testowych osiągnął 25,78% pass@1 i 31,03% pass@2. Dokładność na poziomie zadań jest bardziej rygorystyczna, ponieważ każde wymagane wyjście testowe musi być poprawne. Jedna błędna siatka sprawia, że całe zadanie kończy się niepowodzeniem.

Badacze obliczyli koszty inferencji na podstawie zmierzonego czasu GPU H200. Ich domyślna konfiguracja wykorzystywała około 0,85 sekundy GPU H200 na zadanie. Twierdzą, że wynik ten wykracza poza wcześniej raportowaną granicę koszt-dokładność ARC-AGI-1.

To twierdzenie o efektywności jest centralną wartością informacyjną tego wydarzenia. BDH-CQ nie wygrywa dzięki najwyższemu łącznemu wynikowi. Twierdzi, że ustanawia nowy punkt działania, w którym znacząca wydajność wymaga wyjątkowo niewielkiej mocy obliczeniowej inferencji.

Artykuł raportuje również audyt black-box przeprowadzony przez współautorów powiązanych z Bielik AI i New York University. Odtworzyli oni wynik 29,5% bez dostępu do wag modelu. Stanowi to użyteczną kontrolę wdrożonej usługi, choć nie jest równoznaczne z replikacją przez niezależne podmioty.

Co najważniejsze, wynik łączy pamięć, adaptację i inferencję w jednym procesie rekurencyjnym. System nie potrzebuje osobnego optymalizatora dla każdej zagadki. Unika też zamieniania każdego stanu pośredniego w zdanie.

Dlaczego rozumowanie token po tokenie znajduje się pod presją

BDH-CQ celuje w format obliczeniowy rozumowania chain-of-thought, a nie wyłącznie w jego dokładność benchmarkową.

Duże modele rozumowania zwykle przydzielają więcej mocy obliczeniowej przez generowanie większej liczby tokenów. Tokeny te mogą dokumentować częściowe wnioski, testować alternatywy i poprawiać wcześniejsze błędy. Zmuszają jednak również wewnętrzną pracę do przejścia przez dyskretne słownictwo.

Każdy wygenerowany token rozumowania wymaga kolejnego autoregresyjnego kroku dekodowania. Model musi rzutować swój stan ukryty na prawdopodobieństwa słownictwa, wybrać token, a następnie ponownie przetworzyć ten token. Dłuższe ślady zwiększają zatem ilość obliczeń i opóźnienia.

Rozumowanie werbalne pozostaje użyteczne, ponieważ ludzie mogą je kontrolować. Może również wspierać wywołania narzędzi, współpracę i jawną weryfikację. Język staje się jednak ograniczeniem przepustowości, gdy stan pośredni nie wymaga ludzkiej interpretacji.

BDH-CQ testuje inny mechanizm przydzielania zasobów. Zamiast rozszerzać widoczny transkrypt, dodaje przekształcenia rekurencyjne wewnątrz stanu ciągłego. Jeden stan wewnętrzny może kodować kilka częściowych możliwości bez osobnego wypisywania każdej z nich.

Różnica przypomina pracę równoległą w porównaniu z szeregową. Ślad werbalny zwykle wybiera jeden token na każdej pozycji. Stan wysokowymiarowy może zachowywać wiele aktywnych cech i przekształcać je jednocześnie.

Pomysł nie jest unikalny dla BDH-CQ. Badania Meta nad Coconut przekazują ciągłe stany ukryte z powrotem do Transformera, umożliwiając rozumowanie bez dekodowania każdego kroku pośredniego. Modele o rekurencyjnej głębokości podobnie wykorzystują ponownie bloki obliczeniowe w wielu wewnętrznych iteracjach.

BDH-CQ dodaje odrębny element: demonstracje stale modyfikują rekurencyjną pamięć zadania. Zapytanie następnie korzysta z tej pamięci podczas ukrytej iteracji. System łączy więc adaptację w kontekście z niewerbalnym rozumowaniem w jednej architekturze.

To połączenie wywiera presję na dwie utrwalone ścieżki. Pierwszą jest konwencjonalny chain-of-thought, w którym przykłady określają zadanie, a tokeny dostarczają przestrzeni roboczej. Drugą jest optymalizacja specyficzna dla zadania, w której kompaktowy solver adaptuje się osobno do każdej zagadki.

System Pathway twierdzi, że zachowuje elastyczność pierwszej ścieżki bez obowiązkowej narracji. Twierdzi też, że zachowuje kompaktowe obliczenia drugiej ścieżki bez aktualizacji parametrów specyficznych dla zagadki.

Kontrast staje się wyraźniejszy w ARC. Systemy Hierarchical Reasoning Model i Tiny Recursive Model wykorzystują iteracyjne obliczenia ukryte, lecz ich procedury ARC obejmują adaptację transdukcyjną. Demonstracje ewaluacyjne uczestniczą w optymalizacji związanej z każdą zagadką.

Autorzy BDH-CQ twierdzą, że wcześniej niewidziane zadanie może zamiast tego wejść przez kontekst. Porównują ten układ do osoby uczącej się reguły z przykładów, a następnie stosującej ją bez przepisywania całego mechanizmu rozumowania.

Ta analogia powinna pozostać ograniczona. Aktualizacje stanu rekurencyjnego są operacjami matematycznymi, a nie dowodem rozumienia podobnego do ludzkiego. Artykuł nazywa projekt inspirowanym mózgiem, lecz wyraźnie unika twierdzenia o biologicznym naśladownictwie.

Podstawowa architektura Dragon Hatchling wykorzystuje rzadkie dodatnie aktywacje, komunikację niskiego rzędu i rekurencyjny stan asocjacyjny. Jej publiczne repozytorium architektury opisuje lokalnie współdziałające sztuczne neurony i pamięć roboczą w stylu Hebba.

Pamięć hebbowska wzmacnia skojarzenia między współaktywnymi cechami. W BDH-CQ praktyczny sens polega na tym, że kontekst może modyfikować trwały stan wewnętrzny. Stan nie musi rosnąć jako jawna lista każdego wcześniejszego klucza i wartości.

Ta właściwość mogłaby ostatecznie mieć znaczenie poza zagadkami wizualnymi. Długie ślady rozumowania zużywają pamięć, czas dekodera i przepustowość komunikacji. Stan rekurencyjny oferuje inny sposób zachowywania informacji przy kontrolowaniu tych kosztów.

Usunięcie języka usuwa jednak również wygodną powierzchnię inspekcji. Ukrytej trajektorii nie można ufać tylko dlatego, że jest efektywna. Twórcy potrzebują innych metod testowania, czy wewnętrzny proces jest stabilny, stronniczy lub podatny na manipulację.

Presja na rozumowanie oparte na tokenach ma zatem charakter warunkowy. BDH-CQ pokazuje, że widoczny tekst nie jest jedyną możliwą przestrzenią roboczą obliczeń. Nie pokazuje, że ukryte obliczenia mogą zastąpić język w każdym zadaniu.

Dyskusja Horizon MachineLearning wskazuje na głębszy mechanizm

Ważnym mechanizmem nie jest samo ciche rozumowanie; jest nim rozdzielenie pamięci kontekstowej i aktywnej przestrzeni roboczej rozumowania.

Szeroko udostępniana dyskusja MachineLearning pomogła nagłośnić artykuł, lecz podstawowe twierdzenia techniczne pochodzą z samych badań. BDH-CQ utrzymuje dwie wewnętrzne struktury o różnych zadaniach.

Rekurencyjny stan kontekstowy zmienia się, gdy model przyswaja demonstracje. Przechowuje skojarzenia istotne dla nowo przedstawionego zadania. Ukryta przestrzeń robocza rozumowania rozpoczyna działanie po wprowadzeniu tych przykładów do pamięci.

Podczas rozwiązywania zapytania przestrzeń robocza zmienia się w wielu krokach rozumowania. Stan kontekstowy pozostaje dostępny podczas tych przekształceń. Dekoder przekształca końcową przestrzeń roboczą w jednego lub dwóch sklasyfikowanych kandydatów siatki.

Podział ten zapobiega temu, by jeden wektor przenosił całą odpowiedzialność. Pamięć odpowiada na pytanie, co ustaliły demonstracje. Przestrzeń robocza obsługuje obliczenia, które pozostają niezbędne dla zapytania.

Autorzy opisują aktualizację pamięci na wysokim poziomie. Nowy stan zależy od poprzedniego stanu i kolejnej demonstracji. Wytrenowane parametry sterujące tą aktualizacją się nie zmieniają.

Podobnie opisują przestrzeń roboczą. Enkoder inicjalizuje ją na podstawie zapytania i zgromadzonego kontekstu. Funkcja rekurencyjna wielokrotnie ją aktualizuje, zanim dekoder utworzy odpowiedź.

Opis ten wyjaśnia koncepcję, lecz nie pełną implementację. Artykuł stwierdza, że dokładne wymiary, reguły aktualizacji i szczegóły wewnętrznego systemu pozostają własnościowe. Nie ujawnia także kompletnej receptury treningowej.

Oceniany produkt obejmuje więcej niż centralną architekturę neuronową. Wykorzystuje przekształcenia wejściowe, konstruowanie kandydatów, ranking i potok inferencyjny. Te otaczające komponenty mogą wpływać zarówno na dokładność, jak i na ilość obliczeń.

Nawet przy tym ograniczeniu kontrolowane eksperymenty dostarczają wskazówek, co faktycznie zachowuje pamięć rekurencyjna. Jeden test utworzył nowe mapowanie kolorów wewnątrz każdego zadania. Demonstracje określały, jak powinno zmieniać się kilka kolorów.

BDH-CQ rozwiązał wszystkie 96 niewidzianych wyników na pierwszej pozycji, gdy liczba równoczesnych powiązań wzrosła z dwóch do ośmiu. Wynik sugeruje, że pamięć kontekstowa może przechowywać i stosować gęste mapowania specyficzne dla zadania.

Inne testy zmieniały skalę demonstrowanej operacji. Propagacja granic pozostała poprawna we wszystkich 48 niewidzianych wcześniej wynikach dla odległości od dwóch do ośmiu. Kopiowanie motywów również pozostawało poprawne we wszystkich 48 wynikach wraz ze wzrostem liczby celów.

Są to sprzyjające przykłady, ponieważ podstawowa operacja pozostaje lokalna i regularna. Model może rozszerzać wyuczone działanie bez odtwarzania złożonej kolejności wyników.

Porządkowanie dało inną krzywą. Wyniki pozostawały bliskie nasyceniu do pięciu obiektów, a następnie spadały przy dłuższych sekwencjach. Przy ośmiu obiektach BDH-CQ rozwiązał tylko jeden z 24 niewidzianych wcześniej wyników w ramach pass@2.

Wzorzec błędów był szeroki, a nie lokalny. Tylko trzy wyniki na tej długości miały nawet poprawne wymiary. Sugeruje to wąskie gardło wykonawcze przy budowaniu uporządkowanego rezultatu, a nie wyłącznie niepewność co do reguły.

Zagnieżdżone zawieranie zawiodło w inny sposób. Wyniki pozostawały mocne do głębokości czterech, a następnie spadały na poziomie piątym. Te rezultaty zwykle zachowywały poprawne wymiary i przekraczały 99,9% średniej dokładności komórek dla swoich najlepszych kandydatów.

Pojedynczy błąd relacyjny często powodował niepowodzenie. Ten wzorzec sugeruje, że model niemal ukończył transformację, lecz stracił orientację w jednej decyzji dotyczącej zawierania. Ocena exact-match słusznie uznawała te wyniki za błędne.

Dodanie demonstracji o docelowej złożoności zmieniło rezultaty. Zagnieżdżanie na głębokości pięciu wzrosło z 19 poprawnych wyników na 24 do 24 na 24. Porządkowanie o długości ośmiu poprawiło się z zera do 13 na 24.

Ta interwencja wzmacnia tezę o uczeniu w kontekście. Wejścia testowe identyczne bajt po bajcie dawały inne wyniki, gdy demonstracje obejmowały wymaganą złożoność. Przykłady zmieniły efektywne zachowanie modelu bez aktualizacji parametrów.

Te same dowody wyznaczają również granicę. BDH-CQ nie ekstrapoluje niezawodnie każdej reguły poza zademonstrowaną złożoność. Jego pamięć może powiązać transformację, podczas gdy przestrzeń robocza nadal ma trudności z wykonaniem jej na większą skalę.

Nakład wysiłku rozumowania przyniósł kolejny przewidywalny kompromis. Ustawienie wysokie osiągnęło 29,5% pass@2, podczas gdy średnie osiągnęło 27%. Niski wysiłek uzyskał 21%, a autorzy raportują stopniowo mniejsze zużycie obliczeń.

Ta zależność przypomina skalowanie obliczeń w czasie testu w innych systemach rozumowania. Więcej kroków rekurencyjnych zwiększa prawdopodobieństwo uzyskania dokładnej odpowiedzi. Różnica polega na tym, że dodatkowy wysiłek zachodzi wewnątrz stanów ciągłych, a nie w rozrastającej się transkrypcji.

Mechanizm ten czyni BDH-CQ czymś więcej niż eksperymentem z kompresowanym łańcuchem myśli. Tworzy pamięć zadania na podstawie demonstracji, oddziela tę pamięć od obliczeń dla zapytania i skaluje wysiłek poprzez głębokość rekurencyjną.

Zwycięstwa w benchmarku ujawniają wyraźne tryby porażki

Najmocniejsze dowody na rzecz BDH-CQ pokazują również, że uczenie kontekstowe nie gwarantuje konsekwentnego wykonywania reguł.

Artykuł ocenia BDH-CQ na ConceptARC, który porządkuje zadania wizualne w 16 rodzin pojęć. Model osiągnął 59,38% ścisłego task pass@2 z identyfikatorami semantycznymi. Osiągnął 60% po tym, jak identyfikatory stały się nieprzejrzyste, a grupy pojęć zostały wymieszane.

Te podobne wyniki ograniczają jedną oczywistą obawę. Model najwyraźniej nie zależał od znaczących nazw zadań ani od partii pogrupowanych według pojęć. Obie wersje dały 374 poprawne wyniki wśród 480 pojedynczych par testowych.

Stabilność zbiorcza nie oznaczała jednak identycznego zachowania. Tylko 276 z 480 kompletnych rankingowych list kandydatów było zgodnych między dwoma uruchomieniami. Kontekst żądania lub wewnętrzne zachowanie wyszukiwania zmieniły wiele wyników, nie przesuwając ogólnego wyniku.

Co ważniejsze, dokładność par testowych osiągnęła 77,92%, podczas gdy ścisła dokładność zadań pozostała na poziomie 59,38%. Różnica 18,54 punktu pokazuje, że poprawna odpowiedź dla jednego wejścia często nie przenosiła się na wszystkie wejścia.

Pięćdziesiąt dwa ze 160 zadań ConceptARC miały jedno lub dwa poprawne wejścia testowe bez rozwiązania wszystkich trzech. W ścisłym ujęciu indukcji reguł takie częściowe sukcesy nie dowodzą konsekwentnego zastosowania wywnioskowanej reguły.

Wyniki również silnie różniły się zależnie od pojęcia. System rozwiązał dziewięć z dziesięciu zadań dotyczących rozróżnienia między wypełnionymi a niewypełnionymi elementami. Rozwiązał także dziewięć z dziesięciu zadań z rodziny TopBottom2D.

Copy i Order osiągnęły po zaledwie dwa z dziesięciu. Każda rodzina zawiera tylko dziesięć zadań, więc te liczby nie mogą ustalić trwałego rankingu. Nadal ujawniają jednak obszary, w których obecny system zasługuje na bardziej rygorystyczne testy.

Kompozycja stworzyła kolejną poważną słabość. BDH-CQ rozwiązał osobno rotację i relokację, a następnie rozwiązał ich połączenie we wszystkich 72 niewidzianych wcześniej wynikach. Odbicie połączone z relokacją udało się w 47 z 72 przypadków.

Zamiana kolorów wypadła znacznie gorzej. Udała się tylko w 26 z 72 wyników jako samodzielna operacja w połączonych rodzinach motywów. W połączeniu z relokacją zawiodła we wszystkich 72 przypadkach.

Układ miał duże znaczenie. Model łatwiej uczył się zamiany kolorów, gdy motywy dzieliły stałe rozmieszczenie. Wyniki niemal zniknęły w dwóch przetasowanych rodzinach, jeszcze zanim kompozycja stała się częścią problemu.

Rezultat ten ostrzega przed bezwarunkowym opisywaniem systemu jako uczącego się abstrakcyjnych operatorów. Czasami wiąże on transformację możliwą do ponownego użycia. W innych przypadkach sukces zależy od regularności reprezentacyjnych obecnych w demonstracjach.

Samo ARC również ogranicza wnioski, jakie można wyciągnąć. Jego siatki nie obejmują odwoływania się do faktów, dwuznaczności języka naturalnego, kontekstu społecznego, użycia narzędzi ani długofalowego planowania. Silna indukcja wizualna nie dowodzi szerokich kompetencji rozumowania.

Tytuł artykułu podkreśla uczenie w kontekście z rekurencyjnym ukrytym rozumowaniem. Nie twierdzi, że system o 150 milionach parametrów może zastąpić ogólny model językowy. W perspektywach wymieniono rozumowanie językowe i matematyczne jako przyszłe rozszerzenia.

Odtwarzalność pozostaje większym problemem. Kompletny oceniany system nie jest dostępny, a dokładne aktualizacje pamięci i szczegóły ukrytej przestrzeni roboczej pozostają nieujawnione. Badacze nie mogą jeszcze odtworzyć nagłówkowego wyniku na podstawie publicznego repozytorium Dragon Hatchling.

Raportowany audyt zapewnia pewną pewność, że usługa zwróciła deklarowany wynik. Jednak jego ewaluatorzy są współautorami artykułu i nie mieli wag modelu. Mocniejszy test obejmowałby niezależnych ewaluatorów uruchamiających zamrożony artefakt.

Zanieczyszczenie danych treningowych również wymaga ostrożnego języka. Według artykułu badacze wykluczyli publiczne demonstracje ewaluacyjne i identyfikatory zadań. Ich prywatne dane oraz pełny proces wyboru checkpointu pozostają niedostępne do inspekcji.

Eksperyment z nieprzejrzystymi identyfikatorami wyklucza wąski skrót po stronie żądania. Nie dowodzi, że żadne powiązane wzorce nie trafiły do treningu. Sam artykuł przyznaje, że ConceptARC nie jest świeżym benchmarkiem.

Porównania kosztów również wymagają ostrożności. Szacunek BDH-CQ pochodzi ze zmierzonego czasu sprzętowego przy założonej stawce za akcelerator. Inne pozycje w rankingu mogą odzwierciedlać ceny dostawców lub odrębne szacunki sprzętowe.

Oznacza to, że wartości na wykresie nie zawsze mierzą tę samą wielkość ekonomiczną. Krótki zmierzony czas działania modelu pozostaje godny uwagi, ale dokładny rozmiar jego przewagi zależy od metodologii porównania.

Ciche rozumowanie wprowadza kompromis w zakresie zarządzania. Użytkownicy nie mogą sprawdzić ścieżki pośredniej, ponieważ nie istnieje ścieżka językowa. Końcową odpowiedź można sprawdzić w ARC, gdzie każda komórka ma dokładnie określony cel.

Wiele rzeczywistych zastosowań nie zapewnia takiej weryfikacji. Podsumowanie medyczne, prognoza biznesowa czy synteza badań rzadko mają natychmiastowy wyrocznię. Ukryte rozumowanie wymagałoby kalibracji pewności, testów spójności i kontroli dowodów zewnętrznych.

Problem ten nie unieważnia obliczeń ukrytych. Łańcuchy czytelne dla człowieka również mogą zawierać wiarygodnie brzmiące wyjaśnienia wygenerowane po podjęciu właściwej decyzji. Widoczne rozumowanie nie ma gwarancji wierności.

Praktycznym wymogiem jest lepsza ewaluacja. System ukryty potrzebuje sond behawioralnych testujących pamięć, ekstrapolację, kompozycję, stabilność i odzyskiwanie po błędach. Kontrolowane eksperymenty BDH-CQ są użyteczne właśnie dlatego, że ujawniają te granice.

Rekurencyjne ukryte rozumowanie zmienia debatę o kosztach

BDH-CQ przesuwa uwagę z samego rozmiaru modelu na strukturę wnioskowania i adaptacji.

Model o 150 milionach parametrów jest niewielki w porównaniu z czołowymi systemami językowymi. Liczba parametrów nie wyjaśnia jednak w pełni jego raportowanej efektywności. Architektura unika również wielokrotnego dekodowania języka i optymalizacji specyficznej dla łamigłówek.

Tworzy to trzy różne budżety obliczeniowe. Trening buduje ogólną zdolność przetwarzania zadań w stylu ARC. Demonstracje aktualizują tymczasową pamięć rekurencyjną. Iteracje ukryte przydzielają wysiłek rozumowania specyficzny dla zapytania.

Utrzymywanie tych budżetów osobno może dać deweloperom dokładniejszą kontrolę. System mógłby przetwarzać więcej demonstracji bez zmiany parametrów. Mógłby też uruchamiać więcej wewnętrznych iteracji tylko wtedy, gdy zapytanie ich wymaga.

Współczesne modele językowe często łączą te funkcje w jednym strumieniu tokenów. Prompty przenoszą demonstracje, uwaga zachowuje kontekst, a generowane tokeny rozwijają rozumowanie. Powstały interfejs jest prosty, lecz obliczeniowo sekwencyjny.

BDH-CQ oferuje bardziej uporządkowany podział. Pamięć zapisuje dowody z kontekstu, podczas gdy głębokość rekurencyjna prowadzi aktywne wyszukiwanie. Dekoder pojawia się dopiero wtedy, gdy system potrzebuje zewnętrznej odpowiedzi.

Projekt ten przypomina pamięć szybkich wag, w której aktywacje tworzą tymczasowe skojarzenia w ustalonej sieci. Łączy się także z uwagą liniową, która może podsumowywać wcześniejsze informacje wewnątrz stanu rekurencyjnego.

Głębsze pytanie konkurencyjne dotyczy adaptacji. Rekurencyjne solvery specyficzne dla zadań mogą działać dobrze po optymalizacji na przykładach każdego problemu. Ogólne modele językowe adaptują się poprzez kontekst, lecz często zużywają wiele tokenów na rozumowanie.

BDH-CQ dąży do adaptacji kontekstowej bez rozwlekłego dekodowania ani optymalizacji z przebiegiem wstecznym. To połączenie jest główną alternatywą dla ugruntowanych metod, nawet jeśli jego bezwzględna dokładność pozostaje niższa od silniejszych systemów.

Deweloperzy nie powinni odczytywać tego wyniku jako dowodu, że tokeny są przestarzałe. Język pozostaje skutecznym interfejsem między modelami, użytkownikami, narzędziami i audytorami. Pozwala też systemowi komunikować niepewność i prosić o brakujące informacje.

Przyszła architektura może łączyć oba tryby. Ukryta rekurencja mogłaby obsługiwać wewnętrzne obliczenia o dużej przepustowości. Selektywne dekodowanie mogłoby ujawniać punkty kontrolne, gdy weryfikacja, współpraca lub użycie narzędzi wymagają języka.

Artykuł o BDH-CQ wskazuje na taką hybrydę. Zauważa, że stany ukryte i język mogą pełnić różne funkcje. Tekst pośredni nie musi znikać wszędzie tylko dlatego, że nie jest konieczny na każdym etapie.

Podejście może również zmienić projektowanie pamięci. Konwencjonalne modele o długim kontekście zachowują rosnące historie tokenów lub skompresowane cache’e. Pamięć rekurencyjna aktualizuje natomiast stan o stałym rozmiarze, gdy napływają nowe dowody.

Pamięć o stałym rozmiarze wprowadza własny kompromis. Kompresja może odrzucać informacje, łączyć skojarzenia lub nadpisywać wcześniejsze dowody. Test wiązania kolorów w artykule pokazuje pojemność w jednym kontrolowanym zakresie, a nie nieograniczone przechowywanie.

Dlatego ewaluacja długiego horyzontu powinna testować interferencję. Badacze muszą wiedzieć, co dzieje się, gdy demonstracje są sprzeczne, pojawiają się w innej kolejności lub zawierają nieistotne przykłady. Powinni też mierzyć, jak szybko zanikają stare skojarzenia.

Testy bezpieczeństwa są ważne z tego samego powodu. Jeśli wejścia wnioskowania modyfikują stan rekurencyjny, złośliwe demonstracje mogą kierować późniejszymi odpowiedziami. Atak na pamięć ukrytą może być trudniejszy do zdiagnozowania, ponieważ żaden tekstowy szkic roboczy nie rejestruje przejścia.

Zastosowania korporacyjne wymagałyby granic resetowania i izolacji pamięci. Tymczasowy stan zadania nie powinien przenikać między użytkownikami ani niepowiązanymi zadaniami. Systemy potrzebują także sposobów identyfikowania uszkodzonego kontekstu, zanim wpłynie on na zapytania dalszego etapu.

W przypadku pracy z wiedzą podstawowa idea pozostaje atrakcyjna. Ludzie rzadko opisują każdy wewnętrzny krok podczas czytania notatek, porównywania dowodów i formułowania wniosku. Tworzą model roboczy, korygują go, a następnie przekazują wybrane elementy rozumowania.

Oprogramowanie wspierające łączenie wiedzy już traktuje gromadzenie kontekstu i generowanie odpowiedzi jako powiązane procesy. BDH-CQ bada niższopoziomową, architektoniczną wersję tego połączenia.

Wynik rodzi też pytanie produktowe. Czy użytkownicy powinni ponosić koszty obliczeniowe za czytelne łańcuchy rozumowania, których nigdy nie sprawdzają? W zadaniach wymagających dokładności i weryfikowalności cicha iteracja ukryta może zapewniać lepszy kompromis.

W przypadku decyzji o istotnych konsekwencjach odpowiedź się zmienia. Użytkownicy mogą potrzebować cytowanych dowodów, jasno określonych założeń lub możliwego do przejrzenia wyprowadzenia. Ukryty rdzeń wymagałby zewnętrznej warstwy raportowania, która wiernie przekazuje te elementy.

Długoterminowa rywalizacja nie dotyczy więc ukrytych myśli kontra widocznych myśli. Chodzi o sztywną serializację tokenów kontra systemy, które wybierają właściwą reprezentację dla każdego etapu obliczeń i komunikacji.

BDH-CQ dostarcza wczesnych dowodów na poparcie tego szerszego projektu. Jego kompaktowy wynik w ARC sprawia, że trudniej zlekceważyć to pytanie. Jego ograniczenia nie pozwalają jednak ogłosić, że rywalizacja została rozstrzygnięta.

Trzy sygnały zdecydują, czy BDH-CQ ma znaczenie

Zanim BDH-CQ będzie mógł uzasadniać szersze twierdzenia, kolejna faza musi sprawdzić odtwarzalność, szersze domeny i skalowanie.

Pierwszym sygnałem będzie artefakt, który można niezależnie uruchomić. Pathway opublikowało bazowy kod Dragon Hatchling, lecz nie kompletny system BDH-CQ użyty w zgłoszonej ewaluacji.

Zamrożony kontener, checkpoint modelu lub hostowany protokół ewaluacyjny pozwoliłyby niezwiązanym z projektem badaczom odtworzyć wynik 400 zadań. Wyjaśniłyby też, jak konstrukcja i ranking kandydatów wpływają na końcowy wynik.

Niezależna ewaluacja powinna porównywać zmierzony czas sprzętowy w spójnych warunkach. Powinna oddzielać inferencję neuronową od wstępnego przetwarzania, augmentacji, rankingu kandydatów i narzutu usługowego. Porównywalne rozliczanie wzmocniłoby lub osłabiło twierdzenie o efektywności.

Badacze powinni również zweryfikować granice wykluczenia wokół danych ewaluacyjnych. Manifesty zbiorów danych, hashe i procedury wyboru checkpointów zapewniłyby większą pewność niż ogólne zapewnienia. Prywatne przykłady nie muszą być publikowane, jeśli można audytować ich pochodzenie.

Jeśli odtwarzalność się potwierdzi, BDH-CQ stanie się wiarygodnym nowym punktem na krzywej efektywności ARC. Jeśli nie, historia zawęzi się do interesującej propozycji architektonicznej z niepotwierdzonym wynikiem systemowym.

Drugim sygnałem będzie wydajność poza wizualnymi siatkami. Artykuł wskazuje rozumowanie językowe, matematykę, spełnianie ograniczeń i trudniejsze zadania ARC jako przyszłe kierunki. Te ewaluacje sprawdzą, czy architektura przenosi się poza obecny rozkład treningowy.

Rozumowanie językowe stawia inne wymagania. Model musi radzić sobie z niejednoznacznością, wiedzą faktograficzną, długimi wynikami i instrukcjami zmieniającymi się w czasie. Musi też komunikować dowody, a nie jedynie emitować dokładną siatkę.

Matematyka zapewniłaby silniejszą weryfikację, jednocześnie rozszerzając strukturę problemów. Dowody formalne, synteza programów i sprawdzanie twierdzeń mogą testować rozumowanie ukryte bez całkowitego polegania na subiektywnej ocenie.

ARC-AGI-2 stanowiłoby kolejne użyteczne wyzwanie. Zostało zaprojektowane tak, by opierać się metodom wykorzystującym znane wzorce zadań i wymagać bardziej kompozycyjnej generalizacji. Mocny wynik w tym teście wsparłby szersze twierdzenia dotyczące adaptacji.

Niepowodzenie w tych domenach nie unieważniłoby obecnego ustalenia. Pokazałoby, że BDH-CQ specjalizuje się w wizualnych transformacjach w stylu ARC. Taki wynik nadal dostarczyłby wskazówek dla projektowania efektywnych solverów.

Trzecim sygnałem będą przejrzyste dowody skalowania. Artykuł twierdzi, że BDH-CQ może się skalować, i wspomina o wczesnych eksperymentach z modelami od jednego miliarda do 600 miliardów parametrów. Nie przedstawia jednak wystarczających dowodów, by ocenić te twierdzenia.

Autorzy stwierdzają również, że architektura mogłaby obsługiwać znacznie większe konfiguracje. Czytelnicy powinni traktować to jako prognozę inżynieryjną, dopóki nie będą dostępne krzywe treningowe, budżety obliczeniowe i wyniki zadań końcowych.

Skalowanie może poprawić trudne porządkowanie i kompozycję. Może też ujawnić niestabilność pamięci, problemy z optymalizacją lub malejące korzyści. Obecny model o 150 milionach parametrów nie pozwala określić, który z tych efektów dominuje.

Szczególnie wartościowa publikacja przedstawiałaby wielkość modelu względem dokładności zadań, liczby iteracji inferencji i pojemności pamięci rekurencyjnej. Ujawniłoby to, czy większe modele poprawiają abstrakcję, czy jedynie zapamiętują więcej regularności w stylu ARC.

Badacze powinni także sprawdzić, czy wysiłek rozumowania skaluje się płynnie. Obecne ustawienia niskie, średnie i wysokie pokazują rosnącą dokładność, lecz tylko w trzech punktach. Bardziej szczegółowe krzywe mogłyby wskazać nasycenie i niestabilność.

Te trzy sygnały powinny pojawić się w tej kolejności: odtwarzalność, rozszerzenie domen, a następnie skalowanie. Większe zastrzeżone twierdzenie ma mniejszą wartość naukową niż mniejszy wynik, który niezależne zespoły mogą zbadać.

Programiści powinni przez cały czas obserwować jeden praktyczny szczegół. Czy pamięć rekurencyjna poprawia adaptację bez tworzenia nowych problemów z izolacją kontekstu i bezpieczeństwem? Sama efektywność nie może zrekompensować zawodnych granic stanu.

Na razie BDH-CQ ustanawia skoncentrowany wynik. Kompaktowy system rekurencyjny nauczył się wizualnych transformacji na podstawie demonstracji, rozumował poprzez stany ciągłe i osiągnął konkurencyjny wynik ARC przy niskim zmierzonym koszcie obliczeniowym.

Przewidywalnie zawiódł również przy długim porządkowaniu, niespójnym wykonywaniu reguł i pewnych operacjach złożonych. Te niepowodzenia utrzymują pracę w realistycznych ramach. Pokazują, gdzie bogatsze demonstracje pomagają i gdzie wewnętrzne wykonywanie wciąż się załamuje.

Właściwą reakcją nie jest ani lekceważenie, ani celebracja. Śledź ranking ARC, przeanalizuj każdy udostępniony artefakt ewaluacyjny i porównuj wyniki przy spójnym rozliczaniu.

Następnie zadaj ostrzejsze pytanie każdemu modelowi rozumującemu: które kroki rzeczywiście potrzebują języka, a które używają tokenów tylko dlatego, że dzisiejsze architektury nie oferują lepszej przestrzeni roboczej?