BDH-CQ sfida il ragionamento AI token per token con una memoria latente ricorrente
- Olivia Johnson

- 15 ore fa
- Tempo di lettura: 18 min
BDH-CQ ha raggiunto il 29,5% di pass@2 su ARC-AGI-1 con 150 milioni di parametri, pur senza mai verbalizzare il proprio ragionamento intermedio. I ricercatori di Pathway hanno presentato il sistema il 10 agosto 2026 attraverso un preprint che combina memoria ricorrente e calcolo latente iterativo. Il risultato mette in discussione un presupposto comune dei moderni modelli di ragionamento: i problemi più difficili richiedono flussi più lunghi di token di ragionamento generati.
Il punteggio riportato non rende BDH-CQ il risolutore ARC più accurato. La sua rilevanza deriva da come il modello apprende ogni compito di test e dalla quantità ridotta di calcolo che gli autori dichiarano di impiegare. Le dimostrazioni aggiornano una memoria interna durante l'inferenza, mentre parametri fissi del modello elaborano ripetutamente la query in uno spazio di lavoro continuo.
Questo approccio contrappone BDH-CQ al ragionamento token per token, non a una singola azienda o a un modello di punta. I sistemi chain-of-thought trasformano il calcolo intermedio in linguaggio prima di rileggere quei token. BDH-CQ mantiene quel calcolo interno, evitando potenzialmente la latenza e l'overhead di decodifica associati a lunghe tracce di ragionamento.
Le prove restano più circoscritte di quanto suggerisca il titolo. La valutazione copre trasformazioni di griglie visive, non linguaggio aperto, programmazione o ricerca scientifica. Anche importanti dettagli architetturali rimangono proprietari, limitando la riproduzione e l'analisi indipendenti.
BDH-CQ apprende un compito senza aggiornare i propri parametri
BDH-CQ trasforma le dimostrazioni in una memoria ricorrente temporanea, quindi usa quella memoria per risolvere una nuova query.
Il team guidato da Pathway ha presentato BDH-CQ in un preprint di agosto. Tra gli autori figurano ricercatori di Pathway, Bielik AI e New York University. L'articolo descrive BDH-CQ come un'estensione della famiglia architetturale Dragon Hatchling.
Ogni compito di valutazione fornisce diversi esempi input-output e un nuovo input che richiede una risposta. BDH-CQ elabora queste dimostrazioni in sequenza. Ogni esempio modifica uno stato ricorrente che trasferisce il contesto agli input successivi.
Il modello codifica quindi la query insieme a quello stato accumulato. Trasforma ripetutamente uno spazio di lavoro latente ad alta dimensionalità, ossia una rappresentazione interna continua usata per il calcolo. Viene decodificata soltanto la risposta candidata finale.
Durante questo processo non avviene alcun aggiornamento dei gradienti. I parametri addestrati del modello rimangono fissi, mentre il suo stato ricorrente cambia in base alle evidenze fornite. Questa distinzione separa la memoria in fase di inferenza dal fine-tuning convenzionale.
I ricercatori affermano inoltre che gli identificatori dei compiti di valutazione e le coppie dimostrative di valutazione sono stati esclusi dall'addestramento. Il loro modello è stato invece addestrato su una combinazione di fonti in stile ARC ed esempi selezionati privatamente. Le fonti pubbliche includevano i dati di addestramento ARC-AGI-1, RE-ARC, ConceptARC, ARC-Heavy e ARC-GEN100K.
Questa configurazione conta perché molti sistemi ARC compatti si adattano direttamente a ogni rompicapo di valutazione. Ottimizzano componenti del modello, usano identità specifiche del rompicapo o votano tra versioni aumentate. BDH-CQ afferma di dedurre la trasformazione soltanto dalle dimostrazioni.
Il banco di prova era la divisione di valutazione pubblica ARC-AGI-1. I compiti ARC usano piccole griglie colorate per esprimere trasformazioni che coinvolgono oggetti, simmetria, conteggio, topologia e relazioni spaziali. Un risolutore deve dedurre una regola non esplicitata a partire da pochi esempi.
La divisione pubblica contiene 400 compiti. BDH-CQ ne ha risolti 97 con il primo candidato classificato e 118 quando poteva contare uno dei due candidati. Questi risultati corrispondono al 24,25% di pass@1 e al 29,5% di pass@2.
Su 419 coppie di test individuali, ha raggiunto il 25,78% di pass@1 e il 31,03% di pass@2. L'accuratezza per compito è più rigorosa perché ogni output di test richiesto deve essere corretto. Una sola griglia errata rende l'intero compito non riuscito.
I ricercatori hanno calcolato l'inferenza a partire dal tempo misurato su GPU H200. La configurazione predefinita ha usato circa 0,85 secondi-GPU H200 per compito. Sostengono che questo risultato superi la frontiera costo-accuratezza ARC-AGI-1 riportata in precedenza.
Questa dichiarazione di efficienza è il valore informativo centrale dell'evento. BDH-CQ non vince producendo il punteggio aggregato più alto. Afferma di introdurre un nuovo punto operativo in cui prestazioni significative richiedono una quantità insolitamente ridotta di calcolo in inferenza.
L'articolo riporta anche un audit black-box condotto da coautori affiliati a Bielik AI e New York University. Hanno riprodotto il punteggio del 29,5% senza accesso ai pesi del modello. Ciò offre un utile controllo sul servizio distribuito, pur non equivalendo a una replica da parte di soggetti non affiliati.
Soprattutto, il risultato riunisce memoria, adattamento e inferenza in un unico processo ricorrente. Il sistema non necessita di un ottimizzatore separato per ogni rompicapo. Evita inoltre di trasformare ogni stato intermedio in una frase.
Perché il ragionamento token per token è sotto pressione
BDH-CQ prende di mira il formato computazionale del ragionamento chain-of-thought, non soltanto la sua accuratezza sui benchmark.
I grandi modelli di ragionamento allocano comunemente più calcolo generando più token. Questi token possono documentare deduzioni parziali, testare alternative e correggere errori precedenti. Tuttavia costringono anche il lavoro interno a passare attraverso un vocabolario discreto.
Ogni token di ragionamento generato richiede un ulteriore passaggio di decodifica autoregressiva. Il modello deve proiettare il proprio stato nascosto nelle probabilità del vocabolario, selezionare un token e consumare nuovamente quel token. Tracce più lunghe aumentano quindi calcolo e latenza.
Il ragionamento verbale resta utile perché le persone possono ispezionarlo. Può inoltre supportare chiamate a strumenti, collaborazione e verifica esplicita. Tuttavia, il linguaggio diventa una restrizione di larghezza di banda quando lo stato intermedio non necessita di interpretazione umana.
BDH-CQ mette alla prova un altro meccanismo di allocazione. Invece di estendere una trascrizione visibile, aggiunge trasformazioni ricorrenti all'interno di uno stato continuo. Un singolo stato interno può codificare diverse possibilità parziali senza esplicitarle una per una.
La differenza ricorda il lavoro parallelo rispetto a quello seriale. Una traccia verbale seleziona normalmente un token in ogni posizione. Uno stato ad alta dimensionalità può preservare più caratteristiche attive e trasformarle insieme.
L'idea non è esclusiva di BDH-CQ. La ricerca Coconut di Meta reimmette stati nascosti continui in un Transformer, consentendo il ragionamento senza decodificare ogni passaggio intermedio. I modelli a profondità ricorrente riutilizzano analogamente blocchi di calcolo in più iterazioni interne.
BDH-CQ aggiunge un elemento distintivo: le dimostrazioni modificano continuamente la memoria ricorrente del compito. La query usa poi quella memoria durante l'iterazione latente. Il sistema collega quindi l'adattamento in-context con il ragionamento non verbale all'interno di un'unica architettura.
Questo collegamento mette sotto pressione due percorsi consolidati. Il primo è il chain-of-thought convenzionale, in cui gli esempi specificano il compito e i token forniscono lo spazio di lavoro. Il secondo è l'ottimizzazione specifica per compito, in cui un risolutore compatto si adatta separatamente a ogni rompicapo.
Il sistema di Pathway afferma di preservare la flessibilità del primo percorso senza la sua narrazione obbligatoria. Afferma inoltre di preservare il calcolo compatto del secondo senza aggiornamenti dei parametri specifici per rompicapo.
Il contrasto diventa più netto su ARC. I sistemi Hierarchical Reasoning Model e Tiny Recursive Model usano calcolo latente iterativo, ma le loro procedure ARC includono un adattamento transduttivo. Le dimostrazioni di valutazione partecipano all'ottimizzazione associata a ciascun rompicapo.
Gli autori di BDH-CQ sostengono che un compito mai visto prima possa invece entrare attraverso il contesto. Confrontano questa configurazione con una persona che apprende una regola dagli esempi, per poi applicarla senza riscrivere l'intero meccanismo di ragionamento.
Questa analogia dovrebbe restare limitata. Gli aggiornamenti dello stato ricorrente sono operazioni matematiche, non prove di una comprensione simile a quella umana. L'articolo definisce il progetto ispirato al cervello, ma evita esplicitamente di rivendicare un'imitazione biologica.
L'architettura Dragon Hatchling sottostante usa attivazioni positive sparse, comunicazione a basso rango e stato associativo ricorrente. Il suo repository dell'architettura descrive neuroni artificiali a interazione locale e memoria di lavoro in stile hebbiano.
La memoria hebbiana rafforza le associazioni tra caratteristiche co-attive. In BDH-CQ, il punto pratico è che il contesto può modificare uno stato interno persistente. Lo stato non deve crescere come un elenco esplicito di ogni chiave e valore precedenti.
Questa proprietà potrebbe alla fine avere rilievo oltre i rompicapi visivi. Le lunghe tracce di ragionamento consumano memoria, tempo del decoder e larghezza di banda di comunicazione. Uno stato ricorrente offre un altro modo per conservare informazioni mantenendo sotto controllo questi costi.
Tuttavia, rimuovere il linguaggio elimina anche una comoda superficie di ispezione. Non ci si può fidare di una traiettoria nascosta soltanto perché è efficiente. Gli sviluppatori necessitano di altri metodi per verificare se il processo interno sia stabile, distorto o vulnerabile alla manipolazione.
La pressione sul ragionamento basato sui token è quindi condizionale. BDH-CQ dimostra che il testo visibile non è l'unico spazio di lavoro computazionale possibile. Non dimostra che il calcolo nascosto possa sostituire il linguaggio in ogni compito.
La discussione su Horizon MachineLearning indica un meccanismo più profondo
Il meccanismo importante non è soltanto il ragionamento silenzioso; è la separazione tra memoria contestuale e spazio di lavoro del ragionamento attivo.
Un'ampia discussione su MachineLearning ha contribuito a far emergere l'articolo, ma le affermazioni tecniche sottostanti provengono dalla ricerca stessa. BDH-CQ mantiene due strutture interne con funzioni diverse.
Lo stato contestuale ricorrente cambia mentre il modello acquisisce le dimostrazioni. Memorizza associazioni rilevanti per il compito appena presentato. Lo spazio di lavoro del ragionamento latente inizia dopo che quegli esempi sono entrati nella memoria.
Durante la risoluzione della query, lo spazio di lavoro cambia attraverso più passaggi di ragionamento. Lo stato contestuale rimane disponibile durante queste trasformazioni. Un decoder converte lo spazio di lavoro finale in uno o due candidati di griglia classificati.
Questa divisione evita che un singolo vettore debba sostenere ogni responsabilità. La memoria risponde a ciò che le dimostrazioni hanno stabilito. Lo spazio di lavoro gestisce il calcolo ancora necessario per la query.
Gli autori descrivono l'aggiornamento della memoria a un livello elevato. Un nuovo stato dipende dallo stato precedente e dalla dimostrazione successiva. I parametri addestrati che governano quell'aggiornamento non cambiano.
Descrivono in modo simile lo spazio di lavoro. Un encoder lo inizializza dalla query e dal contesto accumulato. Una funzione ricorrente lo aggiorna ripetutamente prima che un decoder produca la risposta.
Questa descrizione spiega il concetto, ma non l'implementazione completa. L'articolo afferma che dimensioni esatte, regole di aggiornamento e dettagli del sistema interno rimangono proprietari. Omette inoltre la ricetta completa di addestramento.
Il prodotto valutato include più della sola architettura neurale centrale. Usa trasformazioni dell'input, costruzione dei candidati, classificazione e una pipeline di inferenza. Questi componenti circostanti possono influenzare sia l'accuratezza sia il calcolo.
Anche con questa limitazione, gli esperimenti controllati offrono indizi su ciò che la memoria ricorrente conserva effettivamente. Un test ha creato una nuova mappatura dei colori all'interno di ciascun compito. Le dimostrazioni definivano come diversi colori dovessero cambiare.
BDH-CQ ha risolto tutti i 96 output esclusi a rango uno mentre i legami simultanei aumentavano da due a otto. Il risultato suggerisce che la memoria contestuale possa memorizzare e applicare dense mappature specifiche del compito.
Altri test hanno variato la scala di un’operazione dimostrata. La propagazione del confine è rimasta corretta in tutti i 48 output esclusi dalla valutazione, su distanze da due a otto. Anche la copia di motivi è rimasta corretta in tutti i 48 output con l’aumento dei target.
Questi sono esempi favorevoli perché l’operazione sottostante resta locale e regolare. Il modello può estendere un’azione appresa senza ricostruire un complesso ordine di output.
L’ordinamento ha prodotto una curva diversa. Le prestazioni sono rimaste prossime alla saturazione fino a cinque oggetti, poi sono calate con sequenze più lunghe. Con otto oggetti, BDH-CQ ha risolto solo uno dei 24 output esclusi dalla valutazione con pass@2.
Il pattern degli errori era ampio anziché locale. Solo tre output a quella lunghezza avevano persino le dimensioni corrette. Questo suggerisce un collo di bottiglia nell’esecuzione durante la costruzione del risultato ordinato, non soltanto incertezza sulla regola.
Il contenimento annidato è fallito in modo diverso. Le prestazioni sono rimaste solide fino alla profondità quattro, poi sono diminuite alla profondità cinque. Quegli output di solito mantenevano le dimensioni corrette e superavano il 99,9% di accuratezza media delle celle per i loro migliori candidati.
Un singolo errore relazionale spesso causava il fallimento. Questo pattern suggerisce che il modello quasi completasse la trasformazione, ma perdesse traccia di una decisione di contenimento. La valutazione per corrispondenza esatta ha giustamente considerato errati quegli output.
L’aggiunta di una dimostrazione alla complessità target ha cambiato i risultati. L’annidamento alla profondità cinque è salito da 19 output corretti su 24 a 24 su 24. L’ordinamento con lunghezza otto è migliorato da zero a 13 su 24.
Questo intervento rafforza l’affermazione sull’apprendimento in contesto. Input di test identici byte per byte hanno dato risultati diversi quando le dimostrazioni coprivano la complessità richiesta. Gli esempi hanno modificato il comportamento effettivo del modello senza aggiornamenti dei parametri.
La stessa evidenza definisce anche un limite. BDH-CQ non estrapola in modo affidabile ogni regola oltre la complessità dimostrata. La sua memoria può associare una trasformazione, mentre il suo spazio di lavoro continua a faticare nell’eseguire quella trasformazione su scala maggiore.
Lo sforzo di ragionamento ha prodotto un altro compromesso prevedibile. L’impostazione alta ha raggiunto il 29,5% pass@2, mentre quella media ha raggiunto il 27%. Lo sforzo basso ha raggiunto il 21%, con gli autori che riportano un calo progressivo della computazione.
Questa relazione ricorda la scalabilità della computazione in fase di test in altri sistemi di ragionamento. Più passaggi ricorrenti migliorano la probabilità di una risposta esatta. La differenza è che lo sforzo aggiuntivo avviene all’interno di stati continui anziché in una trascrizione in espansione.
Questo meccanismo rende BDH-CQ più di un esperimento di chain-of-thought compressa. Crea una memoria del compito dalle dimostrazioni, separa tale memoria dal calcolo sulla query e scala lo sforzo attraverso la profondità ricorrente.
Le vittorie nel benchmark rivelano chiare modalità di fallimento
Le prove più solide di BDH-CQ mostrano anche che l’apprendimento contestuale non garantisce un’esecuzione coerente delle regole.
Il paper valuta BDH-CQ su ConceptARC, che organizza i compiti visivi in 16 famiglie concettuali. Il modello ha raggiunto il 59,38% di strict task pass@2 con identificatori semantici. Ha raggiunto il 60% dopo che gli identificatori sono diventati opachi e i gruppi concettuali sono stati mescolati.
Quei punteggi simili riducono una preoccupazione evidente. Il modello non sembrava dipendere da nomi di compiti significativi o da batch raggruppati per concetto. Entrambe le versioni hanno prodotto 374 risultati corretti su 480 coppie di test individuali.
Tuttavia, la stabilità aggregata non significava comportamento identico. Solo 276 delle 480 liste complete classificate di candidati coincidevano tra le due esecuzioni. Il contesto della richiesta o il comportamento della ricerca interna ha modificato molti output senza spostare il punteggio complessivo.
Ancora più importante, l’accuratezza sulle coppie di test ha raggiunto il 77,92%, mentre l’accuratezza rigorosa sui compiti è rimasta al 59,38%. Il divario di 18,54 punti mostra che una risposta corretta su un input spesso non riusciva a trasferirsi a ogni input.
Cinquantadue dei 160 compiti di ConceptARC avevano uno o due input di test corretti senza risolvere tutti e tre. In una prospettiva rigorosa di induzione delle regole, questi successi parziali non dimostrano un’applicazione coerente della regola inferita.
Le prestazioni variavano inoltre nettamente a seconda del concetto. Il sistema ha risolto nove compiti su dieci che riguardavano distinzioni tra forme piene e non piene. Ha anche risolto nove compiti su dieci nella famiglia TopBottom2D.
Copy e Order hanno raggiunto solo due casi su dieci ciascuno. Ogni famiglia contiene appena dieci compiti, quindi questi conteggi non possono stabilire una graduatoria stabile. Rivelano comunque dove il sistema attuale meriti test di stress più approfonditi.
La composizione ha creato un’altra debolezza rilevante. BDH-CQ ha risolto rotazione e ricollocazione separatamente, poi ha risolto la loro combinazione in tutti i 72 output esclusi dalla valutazione. La riflessione combinata con la ricollocazione ha avuto successo in 47 casi su 72.
Lo scambio di colori ha ottenuto risultati molto peggiori. È riuscito solo in 26 output su 72 come operazione isolata nelle famiglie di motivi aggregate. Quando è stato combinato con la ricollocazione, ha fallito in tutti i 72 casi.
Il layout ha avuto un peso rilevante. Il modello ha appreso lo scambio di colori più facilmente quando i motivi condividevano una disposizione fissa. Le prestazioni sono quasi scomparse in due famiglie con disposizione casuale, ancora prima che la composizione entrasse nel problema.
Questo risultato invita alla cautela nel descrivere il sistema come capace di apprendere operatori astratti senza qualificazioni. Talvolta associa una trasformazione riutilizzabile. In altri casi, il successo dipende da regolarità rappresentazionali all’interno delle dimostrazioni.
Anche ARC limita ciò che si può concludere. Le sue griglie escludono il richiamo di conoscenze fattuali, l’ambiguità del linguaggio naturale, il contesto sociale, l’uso di strumenti e la pianificazione di lungo periodo. Una forte induzione visiva non dimostra una competenza di ragionamento generale.
Il titolo del paper sottolinea l’apprendimento in contesto con ragionamento latente ricorrente. Non sostiene che il sistema da 150 milioni di parametri possa sostituire un modello linguistico generale. Le prospettive indicano il ragionamento linguistico e matematico come estensioni future.
La riproducibilità resta la preoccupazione maggiore. Il sistema completo valutato non è disponibile, mentre gli aggiornamenti esatti della memoria e i dettagli dello spazio di lavoro latente restano non divulgati. I ricercatori non possono ancora riprodurre il risultato principale dal repository pubblico Dragon Hatchling.
L’audit riportato fornisce una certa garanzia che il servizio abbia restituito il punteggio dichiarato. Tuttavia, i suoi valutatori sono coautori del paper e non disponevano dei pesi del modello. Un test più solido coinvolgerebbe valutatori non affiliati che eseguano un artefatto congelato.
Anche la contaminazione dei dati di addestramento richiede un linguaggio prudente. Secondo il paper, i ricercatori hanno escluso le dimostrazioni della valutazione pubblica e gli identificatori dei compiti. I loro dati privati e il processo completo di selezione dei checkpoint restano indisponibili per l’ispezione.
L’esperimento con identificatori opachi esclude una scorciatoia circoscritta dal lato della richiesta. Non dimostra che nessun pattern correlato sia entrato nell’addestramento. Il paper stesso riconosce che ConceptARC non è un benchmark nuovo.
Anche i confronti sui costi richiedono cautela. La stima di BDH-CQ deriva dal tempo hardware misurato a una tariffa presunta per l’acceleratore. Altre voci della classifica possono riflettere i prezzi dei provider o stime hardware separate.
Ciò significa che i valori tracciati non misurano sempre la stessa quantità economica. Il breve tempo di esecuzione misurato del modello resta degno di nota, ma l’esatta entità del suo vantaggio dipende dalla metodologia di confronto.
Il ragionamento silenzioso introduce un compromesso di governance. Gli utenti non possono ispezionare il percorso intermedio perché non esiste un percorso linguistico. La risposta finale può essere verificata su ARC, dove ogni cella ha un target esatto.
Molte applicazioni reali non dispongono di questa verifica. Un riassunto medico, una previsione aziendale o una sintesi di ricerca raramente hanno un oracolo immediato. Il ragionamento nascosto richiederebbe calibrazione della confidenza, test di coerenza e controlli delle evidenze esterne.
Questo problema non invalida il calcolo latente. Anche catene leggibili dagli esseri umani possono contenere spiegazioni plausibili generate dopo la decisione sottostante. Il ragionamento visibile non è necessariamente fedele.
Il requisito pratico è una valutazione migliore. Un sistema latente necessita di sonde comportamentali che testino memoria, estrapolazione, composizione, stabilità e recupero dagli errori. Gli esperimenti controllati di BDH-CQ sono utili proprio perché espongono questi limiti.
Il ragionamento latente ricorrente cambia il dibattito sui costi
BDH-CQ sposta l’attenzione dalla sola dimensione del modello alla struttura dell’inferenza e dell’adattamento.
Un modello da 150 milioni di parametri è piccolo rispetto ai sistemi linguistici di frontiera. Eppure il numero di parametri non spiega pienamente la sua efficienza dichiarata. L’architettura evita inoltre la decodifica linguistica ripetuta e l’ottimizzazione specifica per i puzzle.
Questo crea tre budget computazionali distinti. L’addestramento costruisce la capacità generale di elaborare compiti in stile ARC. Le dimostrazioni aggiornano la memoria ricorrente temporanea. Le iterazioni latenti allocano lo sforzo di ragionamento specifico per la query.
Mantenere separati questi budget può offrire agli sviluppatori un controllo più fine. Un sistema potrebbe elaborare più dimostrazioni senza modificare i propri parametri. Potrebbe inoltre eseguire più iterazioni interne solo quando una query ne ha bisogno.
Gli attuali modelli linguistici spesso combinano queste funzioni in un unico flusso di token. I prompt trasportano le dimostrazioni, l’attenzione conserva il contesto e i token generati espandono il ragionamento. L’interfaccia risultante è semplice ma computazionalmente seriale.
BDH-CQ offre una divisione più strutturata. La memoria registra le evidenze del contesto, mentre la profondità ricorrente esegue la ricerca attiva. Il decoder compare soltanto quando il sistema necessita di una risposta esterna.
Questo design ricorda la memoria a pesi rapidi, in cui le attivazioni creano associazioni temporanee all’interno di una rete fissa. Si collega anche all’attenzione lineare, che può riassumere informazioni passate all’interno di uno stato ricorrente.
La questione competitiva più profonda riguarda l’adattamento. I risolutori ricorsivi specifici per compito possono ottenere buoni risultati dopo l’ottimizzazione sugli esempi di ogni puzzle. I modelli linguistici generali si adattano tramite il contesto, ma spesso consumano molti token nel ragionamento.
BDH-CQ mira a un adattamento contestuale senza decodifica verbosa né ottimizzazione tramite backward pass. Questa combinazione è il principale concorrente dei metodi consolidati, anche se la sua accuratezza assoluta resta inferiore a quella dei sistemi più forti.
Gli sviluppatori non dovrebbero leggere il risultato come prova che i token siano obsoleti. Il linguaggio resta un’interfaccia efficace tra modelli, utenti, strumenti e revisori. Permette inoltre a un sistema di comunicare l’incertezza e richiedere informazioni mancanti.
Un’architettura futura potrebbe combinare entrambe le modalità. La ricorrenza latente potrebbe gestire il calcolo interno ad alta larghezza di banda. La decodifica selettiva potrebbe esporre punti di controllo quando verifica, collaborazione o uso di strumenti richiedono il linguaggio.
Il paper su BDH-CQ indica questo modello ibrido. Osserva che stati latenti e linguaggio possono svolgere funzioni diverse. Il testo intermedio non deve scomparire ovunque soltanto perché non è necessario a ogni passaggio.
L’approccio potrebbe anche cambiare il design della memoria. I modelli convenzionali a contesto lungo conservano storie di token crescenti o cache compresse. La memoria ricorrente aggiorna invece uno stato a dimensione fissa man mano che arrivano nuove evidenze.
La memoria a dimensione fissa introduce il proprio compromesso. La compressione può scartare informazioni, fondere associazioni o sovrascrivere evidenze precedenti. Il test di associazione dei colori del paper mostra capacità entro un intervallo controllato, non una conservazione illimitata.
La valutazione a lungo orizzonte dovrebbe quindi testare l’interferenza. I ricercatori devono sapere cosa accade quando le dimostrazioni sono in conflitto, arrivano in ordini diversi o includono esempi irrilevanti. Dovrebbero inoltre misurare quanto rapidamente decadono le associazioni precedenti.
I test di sicurezza sono importanti per la stessa ragione. Se gli input di inferenza modificano lo stato ricorrente, dimostrazioni malevole potrebbero orientare le risposte successive. Un attacco alla memoria latente può essere più difficile da diagnosticare perché nessun taccuino testuale registra la transizione.
Gli usi aziendali richiederebbero confini di reset e isolamento della memoria. Uno stato temporaneo del compito non dovrebbe trapelare tra utenti o lavori non correlati. I sistemi necessitano inoltre di modi per identificare un contesto corrotto prima che influenzi le query a valle.
Per il lavoro della conoscenza, l'idea di fondo rimane interessante. Le persone raramente raccontano ogni passaggio interno mentre leggono appunti, confrontano prove e giungono a una conclusione. Costruiscono un modello operativo, lo rivedono e poi comunicano il ragionamento selezionato.
Il software che supporta il knowledge blending tratta già la raccolta del contesto e la generazione delle risposte come processi connessi. BDH-CQ esplora una versione architetturale di livello più basso di questa connessione.
Il risultato solleva anche una questione di prodotto. Gli utenti dovrebbero sostenere costi computazionali per catene di ragionamento leggibili che non esaminano mai? Per attività esatte e verificabili, un'iterazione latente silenziosa potrebbe offrire un equilibrio migliore.
Per decisioni con conseguenze rilevanti, la risposta cambia. Gli utenti potrebbero avere bisogno di prove citate, ipotesi esplicite o una derivazione riesaminabile. Un nucleo latente richiederebbe un livello esterno di reporting che comunichi fedelmente questi elementi.
La competizione di lungo periodo, quindi, non riguarda pensieri nascosti contro pensieri visibili. Riguarda la serializzazione rigida in token contro sistemi che scelgono la rappresentazione giusta per ogni fase computazionale e comunicativa.
BDH-CQ fornisce prime evidenze a sostegno di questo progetto più ampio. Il suo risultato compatto su ARC rende la questione più difficile da liquidare. I suoi limiti impediscono di dichiarare conclusa la competizione.
Tre segnali determineranno se BDH-CQ conta
La prossima fase dovrà testare riproducibilità, domini più ampi e scalabilità prima che BDH-CQ possa sostenere affermazioni più ambiziose.
Il primo segnale è un artefatto eseguibile in modo indipendente. Pathway ha rilasciato il codice di base di Dragon Hatchling, ma non il sistema BDH-CQ completo utilizzato per la valutazione riportata.
Un container congelato, un checkpoint del modello o un protocollo di valutazione ospitato consentirebbero a ricercatori non affiliati di riprodurre il risultato sulle 400 attività. Chiarirebbero inoltre in che modo la costruzione e il ranking dei candidati contribuiscono al punteggio finale.
La valutazione indipendente dovrebbe confrontare il tempo hardware misurato in condizioni coerenti. Dovrebbe separare l'inferenza neurale dal preprocessing, dall'aumento dei dati, dal ranking dei candidati e dall'overhead del servizio. Una rendicontazione comparabile rafforzerebbe o indebolirebbe l'affermazione sull'efficienza.
I ricercatori dovrebbero anche verificare i confini di esclusione intorno ai dati di valutazione. Manifest dei dataset, hash e procedure di selezione dei checkpoint offrirebbero maggiore fiducia rispetto ad assicurazioni di alto livello. Non è necessario pubblicare esempi privati se la loro provenienza può essere sottoposta ad audit.
Se la riproducibilità regge, BDH-CQ diventa un nuovo punto credibile sulla curva di efficienza di ARC. Se fallisce, la storia si riduce a un'interessante proposta architetturale con un risultato di sistema non confermato.
Il secondo segnale è la prestazione al di fuori delle griglie visive. L'articolo identifica il linguaggio, la matematica, la soddisfazione di vincoli e attività ARC più difficili come direzioni future. Queste valutazioni verificheranno se l'architettura si trasferisce oltre l'attuale distribuzione di addestramento.
Il ragionamento linguistico introduce requisiti diversi. Un modello deve gestire ambiguità, conoscenza fattuale, output lunghi e istruzioni che cambiano nel tempo. Deve inoltre comunicare prove, non limitarsi a produrre una griglia esatta.
La matematica offrirebbe una verifica più solida, ampliando al contempo la struttura dei problemi. Dimostrazioni formali, sintesi di programmi e verifica di teoremi possono testare il ragionamento latente senza dipendere interamente da valutazioni soggettive.
ARC-AGI-2 offrirebbe un'altra sfida utile. È stato progettato per resistere ai metodi che sfruttano schemi di attività familiari e per richiedere una generalizzazione più composizionale. Un risultato forte in quel contesto sosterrebbe affermazioni più ampie sull'adattamento.
Un fallimento in questi domini non cancellerebbe il risultato attuale. Mostrerebbe che BDH-CQ è specializzato nelle trasformazioni visive in stile ARC. Questo esito continuerebbe comunque a informare la progettazione di risolutori efficienti.
Il terzo segnale è costituito da evidenze trasparenti sulla scalabilità. L'articolo afferma che BDH-CQ può scalare e menziona esperimenti iniziali tra uno e 600 miliardi di parametri. Non fornisce prove sufficienti per valutare tali affermazioni.
Gli autori dichiarano inoltre che l'architettura potrebbe supportare configurazioni molto più grandi. I lettori dovrebbero considerarla una proiezione ingegneristica finché non saranno disponibili curve di addestramento, budget computazionali e risultati a valle.
La scalabilità può migliorare l'ordinamento e la composizione difficili. Può anche rivelare instabilità della memoria, problemi di ottimizzazione o rendimenti decrescenti. L'attuale modello da 150 milioni di parametri non può stabilire quale esito prevalga.
Una pubblicazione particolarmente utile tracciarebbe le dimensioni del modello rispetto all'accuratezza sulle attività, alle iterazioni di inferenza e alla capacità della memoria ricorrente. Ciò rivelerebbe se i modelli più grandi migliorano l'astrazione o si limitano a memorizzare più regolarità in stile ARC.
I ricercatori dovrebbero anche testare se lo sforzo di ragionamento scala in modo fluido. Le attuali impostazioni bassa, media e alta mostrano un aumento dell'accuratezza, ma soltanto su tre punti. Curve più granulari potrebbero identificare saturazione e instabilità.
Questi tre segnali dovrebbero arrivare in quest'ordine: riproducibilità, espansione dei domini, poi scalabilità. Un'affermazione proprietaria più ampia offre meno valore scientifico di un risultato più piccolo che team indipendenti possono esaminare.
Gli sviluppatori dovrebbero tenere d'occhio un dettaglio pratico. La memoria ricorrente migliora l'adattamento senza creare nuovi problemi di isolamento del contesto e di sicurezza? La sola efficienza non può compensare confini di stato inaffidabili.
Per ora, BDH-CQ stabilisce un risultato mirato. Un sistema ricorrente compatto ha appreso trasformazioni visive da dimostrazioni, ha ragionato attraverso stati continui e ha prodotto un punteggio ARC competitivo con un basso utilizzo computazionale misurato.
Ha anche fallito in modo prevedibile su ordinamenti lunghi, esecuzione incoerente delle regole e alcune operazioni composte. Questi fallimenti mantengono il lavoro con i piedi per terra. Mostrano dove dimostrazioni più ricche aiutano e dove l'esecuzione interna continua a interrompersi.
La risposta giusta non è né liquidarlo né celebrarlo. Seguite la classifica ARC, esaminate qualsiasi artefatto di valutazione rilasciato e confrontate i risultati con una rendicontazione coerente.
Poi ponete una domanda più precisa a ogni modello di ragionamento: quali passaggi hanno davvero bisogno del linguaggio, e quali usano i token solo perché le architetture di oggi non offrono uno spazio di lavoro migliore?


