top of page

think-graft testa l'uscita anticipata con una riga di pesi

7 minuti fa
Tempo di lettura: 14 min
Illustrative photograph. Photo: Bibek ghosh / Pexels.

L'uscita anticipata di think-graft modifica una riga del livello di output e riporta il 54% di token generati in meno su otto problemi matematici esclusi dall'addestramento. Entrambe le versioni del modello hanno risposto correttamente a tutti e otto. Il risultato solleva una domanda pratica: quanto ragionamento serve a un modello dopo aver già trovato la risposta?

Lo sviluppatore Vaibhav ha pubblicato l'esperimento il 15 novembre 2026, usando Qwen3.5-4B e DeepSeek V4.1 Flash. La modifica proposta aumenta la probabilità di terminare lo scratchpad di ragionamento di un modello quando il suo stato interno assomiglia a un lavoro completato. Il suo vantaggio è la semplicità di distribuzione: il meccanismo di arresto diventa parte del file dei pesi.

Il confronto centrale è tra arresto adattivo e limiti fissi al ragionamento. Un budget fisso può interrompere lavoro utile oppure consentire verifiche ripetitive. Ricerche precedenti, tra cui Thinkless e studi sulla verifica degli stati nascosti, affrontano già questo problema. L'esperimento esplora se un segnale di arresto possa risiedere nel modello stesso, senza un componente aggiuntivo in esecuzione accanto ad esso.

L'uscita anticipata di think-graft mira alla decisione di arresto

La modifica riportata riguarda il momento in cui il ragionamento termina, non il modo in cui il modello esegue ogni passaggio di ragionamento. Questa distinzione spiega sia la promessa dell'esperimento sia la sua portata limitata.

I modelli di ragionamento generano uno scratchpad, una sequenza di testo intermedia usata prima di produrre la risposta finale. Nelle configurazioni testate, il token speciale </think> indica il passaggio fuori da quello scratchpad. L'esperimento modifica i pesi responsabili dell'assegnazione del punteggio a quel token.

L'esperimento su una riga di Vaibhav descrive un modello ricorrente nelle risposte matematiche registrate. Il modello enuncia una risposta corretta, quindi continua a verificarla tramite derivazioni alternative e verifiche ripetute. Talvolta tali verifiche consumano il budget di generazione rimanente prima che compaia una risposta finale.

L'intervento proposto usa una sonda lineare, un calcolo ponderato che identifica un modello nella rappresentazione numerica interna del modello. Qui, tale modello rappresenta le conclusioni di paragrafo dopo la comparsa di una risposta corretta. Il comportamento previsto è selettivo: preservare la ricerca, quindi accorciare la coda ripetitiva.

Questa è un'importante precisazione dell'espressione “uscita anticipata”. Il modello non salta i propri livelli computazionali interni durante la generazione di ciascun token. Genera invece meno token di ragionamento prima di passare alla fase di risposta. Ogni token rimanente richiede comunque il normale calcolo del modello.

L'esperimento originale su Qwen usava Qwen3.5-4B in Q8_0, un formato di pesi a otto bit, in esecuzione su una GPU RTX 4060 Laptop con 8GB di memoria. Vaibhav riferisce di aver usato un motore di inferenza llama.cpp non modificato, il software che esegue il modello. L'aggiustamento di arresto era incorporato nel file del modello risultante.

La preparazione di quel file ha comunque richiesto un lavoro sperimentale sostanziale. L'autore ha generato tracce di ragionamento, registrato stati interni, assegnato etichette, adattato la sonda e calibrato la sua intensità. Di 24 problemi usati per l'adattamento, 22 hanno prodotto tracce utilizzabili in cui la risposta corretta compariva durante il ragionamento.

Definire il metodo privo di addestramento richiede quindi un significato preciso. L'autore non ha svolto addestramento del modello basato su gradienti, che aggiorna i pesi attraverso passaggi di ottimizzazione ripetuti. Tuttavia, il metodo apprende comunque una distinzione statistica da esempi etichettati. Non è né privo di dati né privo di calibrazione.

Questa distinzione conta per gli sviluppatori che confrontano i costi di implementazione. Un file modificato riutilizzabile può semplificare la distribuzione dopo la preparazione. Non elimina il lavoro necessario per stabilire che la modifica si comporti correttamente su un modello specifico.

La pubblicazione è inoltre un esperimento di uno sviluppatore individuale, non un annuncio di Qwen o DeepSeek. Le sue cifre sulle prestazioni restano riportate dall'autore. I materiali disponibili permettono di esaminare il meccanismo e tentare la replica, ma non stabiliscono un'affidabilità generale tra attività diverse.

I budget fissi lasciano incomplete risposte utili

L'affermazione pratica più chiara è un migliore completamento entro un budget fisso, piuttosto che un aumento generale della capacità di ragionamento. I risultati selezionati di matematica competitiva rendono questa distinzione particolarmente importante.

Su tre problemi AIME 2025 con un budget di 32.000 token, la configurazione Qwen originale non ha prodotto risposte finali corrette. La versione modificata ne ha risolti correttamente due. Secondo Vaibhav, le tracce originali contenevano già le risposte corrette prima che verifiche ripetute esaurissero i rispettivi budget.

Questo crea una modalità di errore specifica. Un modello può possedere un risultato intermedio utile senza riuscire a fornire una risposta completa. Con un limite rigido di generazione, verifiche aggiuntive possono ridurre il successo misurato se il modello non raggiunge mai la fase di risposta.

Il risultato non va interpretato come prova che il modello originale non avrebbe mai potuto risolvere quei problemi. Un budget maggiore cambia il confronto. L'autore presenta esplicitamente l'esperimento come un miglioramento del modo in cui un budget esistente si traduce in risposte completate.

Per gli sviluppatori che gestiscono assistenti locali, questa distinzione ha conseguenze pratiche. Gli utenti ricevono la risposta finale, non il merito per una risposta nascosta in uno scratchpad incompleto. Un meccanismo di arresto deve quindi preservare il ragionamento utile consentendo al modello di completare la risposta.

I limiti fissi offrono confini prevedibili per le risorse, ma non riconoscono ciò che accade all'interno di una risposta specifica. Lo stesso limite si applica quando un modello scopre una soluzione e quando la sta riformulando. Ridurre quel limite affronta il consumo senza distinguere tali situazioni.

Disattivare il ragionamento crea un'altra alternativa grossolana. Elimina lo scratchpad per l'intera risposta, comprese le situazioni in cui un ragionamento deliberato sarebbe utile. Un meccanismo adattivo cerca invece di riconoscere quando un'ulteriore generazione dello scratchpad ha smesso di apportare valore sufficiente.

Il contesto competitivo include approcci che apprendono questa scelta durante l'addestramento del modello. La selezione adattiva del ragionamento, descritta in Thinkless, addestra un modello a scegliere tra risposte più brevi e ragionamento esteso. I suoi autori usano l'apprendimento per rinforzo, un processo di ottimizzazione guidato da feedback basato sugli esiti.

Questo approccio e think-graft perseguono obiettivi di efficienza correlati attraverso interventi diversi. Thinkless modifica il comportamento tramite una procedura di addestramento dedicata. L'esperimento su una riga adatta una lettura di informazioni interne già esistenti e la inserisce nella decisione di arresto del modello.

Non si tratta di vittorie comparabili in benchmark. Usano modelli, condizioni di valutazione e definizioni di efficienza differenti. Il confronto utile riguarda dove risiede il controllo e quale preparazione richiede ciascun approccio.

La pressione immediata ricade sugli sviluppatori che scelgono controlli di ragionamento per modelli a pesi aperti. Se una piccola modifica dell'output supera test più ampi, avranno un'altra opzione oltre ai limiti fissi e alle varianti addestrate separatamente. Fino ad allora, impostazioni di budget prevedibili mantengono un importante vantaggio operativo.

Per gli acquirenti aziendali, la domanda rilevante resta la qualità delle attività completate sotto vincoli di risorse. Uno scratchpad più breve è utile solo quando la risposta finale rimane accurata, completa e utile. La sola riduzione dei token non può rispondere a questa domanda.

Un segnale adattato diventa parte dei pesi

L'idea di distribuzione è incorporare un rilevatore in un'operazione che il modello esegue già. Ciò elimina una decisione separata in fase di esecuzione, lasciando però la qualità del rilevatore dipendente dalla sua preparazione.

Uno stato nascosto è la rappresentazione numerica che il modello calcola dal testo elaborato fino a quel momento. Il livello di output converte quella rappresentazione in punteggi dei token. Ogni token del vocabolario ha una riga di pesi corrispondente che contribuisce al suo punteggio.

Un logit è il punteggio di un token prima della conversione in probabilità. Nell'esperimento, il logit di </think> riceve un contributo aggiuntivo dalla sonda adattata. Un segnale di completamento più forte aumenta la probabilità che il modello termini il proprio scratchpad.

L'algebra è semplice. Aggiungere il vettore della sonda alla riga di pesi del token di chiusura incorpora il suo calcolo nella moltiplicazione esistente del livello di output. Il motore di inferenza non deve richiamare un secondo classificatore né ispezionare i paragrafi generati tramite codice applicativo aggiuntivo.

L'autore adatta quel vettore usando l'analisi discriminante lineare con shrinkage, un metodo statistico che separa gruppi etichettati stabilizzando al contempo le proprie stime. Gli esempi positivi sono conclusioni di paragrafo selezionate dopo la prima comparsa della risposta corretta. Gli esempi negativi includono posizioni di risoluzione precedenti e altre posizioni all'interno dei paragrafi.

Quegli esempi negativi sostengono gran parte dell'onere pratico del metodo. Un rilevatore che riconoscesse soltanto la sicurezza matematica potrebbe attivarsi prima di una correzione necessaria. La distinzione desiderata è più ristretta: lavoro completato in un punto di arresto adeguato rispetto a tutto ciò che dovrebbe continuare.

Un'impostazione di intensità controlla quanto pesantemente il segnale adattato influenzi il token di chiusura. Vaibhav ha usato un valore di 14 negli esperimenti riportati. I risultati di calibrazione mostrano un rischio crescente di arresto prematuro man mano che quell'impostazione diventa più aggressiva.

Ciò rende l'arresto anticipato un problema di controllo, non una riduzione gratuita del calcolo. Un intervento più forte rimuove più verifiche, ma aumenta anche la probabilità di interrompere lavoro utile. L'impostazione selezionata riflette un giudizio su tale equilibrio nelle tracce disponibili.

C'è anche un dettaglio di packaging dietro la descrizione di una riga. Qwen3.5-4B condivide i pesi tra i propri embedding di input e la testa di output. Il file modificato aggiunge una testa di output separata affinché la rappresentazione di input del token di chiusura resti invariata.

Di conseguenza, “una riga” descrive la modifica comportamentale mirata. Non significa che ogni file di modello possa ricevere una patch identica a livello di byte. La condivisione dei pesi e la rappresentazione del file influenzano il modo in cui la modifica deve essere confezionata.

La premessa scientifica più ampia precede questa pubblicazione. La ricerca sulla autoverifica degli stati nascosti ha investigato se le rappresentazioni interne rivelino la correttezza delle risposte intermedie. Ha inoltre esaminato l'uso di tali segnali per terminare prima il ragionamento.

Un lavoro separato sulla pianificazione dell'intensità del ragionamento collega direzioni interne alla lunghezza del ragionamento e al punteggio del token di chiusura. Questi studi forniscono un contesto rilevante per il meccanismo. Non convalidano indipendentemente la particolare sonda di Vaibhav né i risultati riportati.

Anche l'affermazione di esattezza richiede cautela. A uno stato nascosto registrato fisso, il punteggio modificato del token di chiusura deriva direttamente dalla modifica dei pesi. Questa relazione matematica non stabilisce una riproduzione esatta di intere risposte generate.

Il 17 novembre, l'autore ha chiarito questa distinzione per i metodi di campionamento che limitano i token candidati. Tali cambiamenti di campionamento possono alterare quale continuazione viene selezionata. Una volta che il testo generato diverge, possono divergere anche gli stati nascosti successivi.

Comprendere il funzionamento di think-graft richiede quindi di separare un'equazione locale da una previsione comportamentale completa. L'equazione descrive una modifica specifica del punteggio. Una distribuzione affidabile richiede comunque test di generazione dal vivo che catturino le conseguenze di tale modifica.

I risparmi annunciati derivano da confronti ristretti

Le misurazioni iniziali giustificano ulteriori indagini, ma i loro denominatori impediscono affermazioni generali sulle prestazioni. Ogni risultato riportato risponde a una domanda più circoscritta di quanto potrebbe suggerire una percentuale in un titolo.

Per Qwen3.5-4B, il confronto principale copre otto problemi di test estratti da MATH-500, una raccolta di problemi di valutazione matematica. Non copre l'intero benchmark. Ogni configurazione del modello ha generato un campione per problema.

Entrambe le configurazioni hanno risposto correttamente a tutti e otto. Il totale dei token generati è sceso da 34.955 a 16.080, la riduzione riportata del 54%. I token di ragionamento sono scesi da 30.452 a 12.263, una riduzione separata di circa il 60%.

Questa distinzione è importante perché la chiusura dello scratchpad può spostare il lavoro nella risposta visibile. Misurare solo i token di ragionamento rischia di sovrastimare la riduzione della generazione totale. Il confronto Qwen riporta entrambe le categorie, consentendo ai lettori di distinguerle.

L'esperimento DeepSeek introduce una situazione hardware diversa. Vaibhav riferisce di aver eseguito DeepSeek V4.1 Flash, un modello da 763 miliardi di parametri, in un formato a due bit che occupa 243GB. Gli esperti del modello venivano caricati in streaming dall'archiviazione a stato solido tramite un motore modificato.

Il laptop disponeva di 30GB di memoria di sistema e di una GPU da 8GB. Ciò non significa che l'intero modello fosse contenuto in 8GB di memoria GPU. Lo streaming dallo storage è centrale per la configurazione e per la motivazione pratica a evitare token non necessari.

Tra sette problemi matematici evidenziati, la configurazione originale a massimo sforzo ha risposto correttamente a sei, mentre la versione modificata a sette. Tuttavia, altri due problemi di test hanno esaurito i rispettivi budget in entrambe le configurazioni. Includendoli, si ottengono sei risposte riuscite contro sette su nove problemi.

La riduzione riportata del 40% nei token usa un altro denominatore: i sei problemi risolti da entrambe le configurazioni. I loro totali sono scesi da 41.559 a 25.112 token. Il confronto isola i successi condivisi, invece di riportare una riduzione uniforme per tutti i problemi tentati.

L'esperimento con l'agente è ancora più ristretto. Un agente è un sistema guidato da un modello che esegue azioni tramite strumenti. Qui, il compito principale consisteva nella creazione di un sito web per una panetteria attraverso un flusso di lavoro di programmazione da terminale.

L'esecuzione DeepSeek modificata ha usato 2.062 token di ragionamento, contro i 13.106 dell'esecuzione originale a sforzo medio. Ciò supporta la riduzione riportata dell'84% nel ragionamento per questo compito. Non rappresenta una riduzione dell'84% del tempo di esecuzione totale.

Anche la valutazione della qualità necessita di attribuzione. ChatGPT ha valutato screenshot senza etichette del modello, assegnando all'output modificato 9,5 su 10 e all'originale 8,2. Si tratta di un giudizio automatizzato di preferenza, non di uno studio indipendente sull'usabilità condotto da persone.

L'autore descrive la stesura ripetuta all'interno dello scratchpad come fonte di lavoro sprecato. Un limite per passaggio ha interrotto tali bozze, dopo di che il modello talvolta ricominciava. La modifica avrebbe ridotto questo comportamento nel compito selezionato.

Queste osservazioni sono utili perché individuano comportamenti concreti da approfondire. Restano risultati di singole esecuzioni con una configurazione specifica di modello, motore e compito. Non possono stabilire che la stessa modifica migliori gli agenti di programmazione in generale.

Nel complesso, i risultati suggeriscono un'opportunità di efficienza con diversi confini di misurazione. Risposte completate, token totali, token di ragionamento, tempo di esecuzione e qualità dell'output descrivono esiti diversi. Una valutazione credibile deve preservare tali distinzioni invece di unirle in un'unica affermazione di miglioramento.

Un arresto anticipato può esporre diversi tipi di errore

Un modello che conclude prima il proprio scratchpad può comunque continuare a verificare, ripetere token speciali o fare affermazioni non supportate. La risposta visibile deve rimanere parte della valutazione.

Vaibhav riferisce token </think> aggiuntivi in alcune risposte matematiche DeepSeek modificate. La spiegazione proposta segue direttamente dal meccanismo. Se la verifica nella fase della risposta assomiglia a quella nello scratchpad, lo stesso segnale appreso può attivarsi dopo la transizione prevista.

Si tratta di una limitazione significativa per un intervento basato solo sui pesi. La riga di output modificata rimane presente per tutta la generazione. La sua influenza non scompare automaticamente quando il modello entra in una fase diversa.

L'autore riferisce che l'aggiunta del testo della risposta come esempio negativo rimuove questi tag indesiderati in una variante aggiuntiva. Il risultato suggerisce una possibile correzione, ma rafforza anche l'importanza dell'etichettatura. Il comportamento dipende da ciò che il processo di adattamento insegna alla sonda a ignorare.

Parte della verifica si è spostata anche nella risposta visibile. In un esempio DeepSeek riportato, la risposta stessa conteneva 3.611 token. La risposta complessiva è rimasta più breve, ma la riduzione dello scratchpad non ha eliminato tutte le verifiche successive.

Questo crea un compromesso percepibile dall'utente. Una fase di ragionamento nascosto più breve può produrre una risposta visibile più lunga o meno rifinita. Le applicazioni devono valutare se l'output diventi più facile da usare, invece di presumere che ogni token di chiusura anticipato migliori l'esperienza.

Il compito di analisi dei dati offre un'altra cautela. Secondo la valutazione dell'autore, la configurazione modificata ha identificato leggermente più risultati inseriti deliberatamente. Ha però formulato due affermazioni false, contro una dell'esecuzione originale usata per il confronto.

Quel confronto utilizzava impostazioni di sforzo diverse, aggiungendo un'altra limitazione. Non isola la modifica dei pesi come unica differenza significativa. Mostra comunque perché un risultato di risparmio di token non può sostituire una revisione della qualità fattuale.

L'esperimento affronta inoltre incertezza dovuta alla limitata ripetizione. Una sola esecuzione per cella non può caratterizzare la variabilità delle risposte campionate. Alcune misurazioni di base DeepSeek utilizzavano una versione precedente del motore, complicando ulteriormente l'attribuzione.

I dati di adattamento creano una preoccupazione distinta. Le etichette di correttezza provenivano da tracce matematiche in cui una risposta poteva essere identificata. Ricerca a risposta aperta, analisi documentale e pianificazione raramente offrono un confine di arresto così chiaro.

Un rilevatore adattato al completamento matematico potrebbe riconoscere schemi utili altrove, come suggeriscono gli esempi con gli agenti. Tuttavia, il trasferimento a pochi compiti non stabilisce un comportamento affidabile in domini non familiari. Un segnale di arresto sicuro può comunque accompagnare una conclusione errata.

Le precedenti ricerche sul probing forniscono un contesto per questa preoccupazione. I loro risultati includono limiti nella generalizzazione tra domini di compiti. Ciò supporta il test del rilevatore su nuove categorie, invece di presumere che un segnale di completamento sia universale.

Anche il seguito del 17 novembre richiede un trattamento separato. Il repository del progetto descrive un esperimento Qwen3.5-0.8B che modifica tre righe di output e valuta tutti i 500 problemi MATH-500. Riporta 276 risposte corrette, contro 261 in un campione di riferimento esterno selezionato.

Queste cifre appartengono a un modello e a un intervento diversi. Non possono estendere il risultato originale su otto problemi a una validazione dell'intero benchmark per il metodo a una riga. Anche il riferimento esterno richiede attenzione prima che i lettori lo considerino una baseline controllata.

Il seguito riporta esplicitamente un sostanziale looping nella fase della risposta e tag di chiusura ripetuti. La sua valutazione più ampia aggiunge quindi evidenza sui modi di errore oltre che sulle capacità. Una maggiore copertura del benchmark non elimina le differenze nel disegno sperimentale.

Lo stato attuale è di conseguenza specifico: un meccanismo ispezionabile, piccoli confronti incoraggianti e problemi comportamentali documentati. I risultati non sono stati riprodotti in modo indipendente per questo articolo. Un'affermazione generale di accuratezza preservata andrebbe oltre le prove disponibili.

Il prossimo test riguarda il completamento affidabile dei compiti

Il prossimo traguardo utile è un miglioramento ripetibile nei compiti completati, con la risposta finale e le condizioni di distribuzione pienamente considerate. Tre sviluppi chiarirebbero se ciò possa diventare un'opzione affidabile.

Innanzitutto, una replica indipendente dal vivo dovrebbe testare la configurazione Qwen originale a una riga su più problemi e campioni ripetuti. Corrispondere file del modello, prompt, budget e versioni del motore renderebbe il confronto più facile da interpretare. Riportare ogni errore sarebbe importante quanto riportare la riduzione media dei token.

Una riduzione ripetuta dei token totali senza una perdita significativa di accuratezza rafforzerebbe l'affermazione originale. Arresti prematuri frequenti o risultati instabili la indebolirebbero. Entrambi gli esiti sarebbero più informativi di un altro esempio isolato con un grande risparmio percentuale.

In secondo luogo, le valutazioni dovrebbero monitorare flussi di lavoro completi degli agenti e il comportamento nella fase della risposta. Le misure rilevanti includono successo del compito, affermazioni non supportate, token ripetuti, chiamate agli strumenti e tempo trascorso. I soli conteggi dei token di ragionamento lasciano una porzione eccessiva dell'esperienza utente non misurata.

Questo è particolarmente importante quando il modello legge informazioni in evoluzione o risponde agli errori. Il meccanismo di arresto deve preservare il lavoro deliberato quando un compito diventa più difficile. Deve inoltre evitare di spingere ragionamenti incompleti nella risposta o di aumentare l'uso correttivo degli strumenti.

Per gli sviluppatori che creano assistenti attorno a documenti tecnici, preservare le prove di valutazione rende i confronti più utili. Una base di conoscenza ricercabile può mantenere disponibili prompt, casi di errore e decisioni per revisioni successive. Tale documentazione supporta la valutazione senza fornire prove della qualità del modello in sé.

In terzo luogo, test più ampi dovrebbero stabilire quanto la modifica sia sensibile al packaging del modello e alle condizioni di esecuzione. Le differenze riportate nel percorso di acquisizione mostrano già che i dettagli implementativi possono essere rilevanti. Un artefatto riutilizzabile richiede verifiche che vadano oltre il caricamento riuscito in un solo motore.

Prove di un comportamento stabile tra configurazioni supportate rafforzerebbero l'argomento a favore della distribuzione. La ricalibrazione ripetuta per ciascuna configurazione restringerebbe questo vantaggio. Il nuovo esperimento a tre righe dovrebbe rimanere identificato separatamente in tutti questi confronti.

Per gli acquirenti, questi segnali si traducono in un requisito diretto: richiedere prove di compiti completati in condizioni simili all'uso effettivo. Chiedere se i risparmi includano risposte visibili e tentativi ripetuti. Chiedere se il confronto utilizzi lo stesso motore e se gli output errati ricevano pari attenzione.

L'idea originale resta degna di essere seguita perché rende l'arresto adattivo insolitamente facile da distribuire. Una volta preparato, il rilevatore viaggia con i pesi. La sfida rimanente consiste nello stabilire quando questa comodità produca risparmi affidabili.

Prima di adottare l'uscita anticipata think-graft, leggete gli errori registrati insieme alle tracce riuscite. Confrontate i modelli originali e modificati su compiti che già comprendete, inclusi casi che richiedono correzioni dopo una prima risposta plausibile. Mantenete nello stesso esame la generazione totale, la qualità del completamento e il tempo trascorso. Trattate l'artefatto a una riga e il seguito a tre righe come esperimenti separati con prove separate. La domanda utile è se una conclusione anticipata aiuti il modello a fornire un risultato corretto e utilizzabile entro i vostri vincoli. Seguite la prossima replica indipendente per avere quella risposta e giudicate il metodo dal lavoro che completa.

 
 

Inizia gratis

Un assistente IA local-first con gestione della conoscenza personale

Per una migliore esperienza con l’IA,

al momento remio supporta solo Windows 10+ (x64) e M-Chip Macs.

Il tuo partner AI al lavoro
Fai di più con remio

Pianifica. Crea. Consegna.
Tutto in un unico posto.

bottom of page