top of page

SALT recupera più memoria, ma i modelli più piccoli perdono accuratezza

Un post di horizon machinelearning ha evidenziato un netto conflitto nel retrieval: SALT cerca in modo efficiente un trie di memoria completo, ma i modelli più piccoli allucinano quando restituisce troppo materiale.

Lo sviluppatore afferma che SALT memorizza ogni input in un trie, una struttura ad albero che condivide i prefissi comuni per ridurre l’archiviazione ripetuta. Utilizza poi la dominanza tematica e la selezione CELF entro un budget di retrieval del 20 percento. Queste affermazioni implementative provengono dalla discussione sul retrieval dello sviluppatore, non da una valutazione sottoposta a revisione indipendente.

Secondo quanto riferito, il sistema funziona con un chatbot, ma ora gli agenti stanno entrando nell’architettura. Questo cambiamento alza la posta in gioco. Più moduli possono recuperare memorie sovrapposte, ripetere fatti solo marginalmente rilevanti e consumare l’attenzione limitata del generatore prima che compia qualsiasi azione.

Il problema centrale non è se SALT riesca a trovare frasi correlate. A quanto pare, ne trova troppe. La domanda più difficile è se una politica di retrieval possa preservare ogni dipendenza necessaria escludendo al contempo materiale plausibile ma distraente.

Questo pone due obiettivi in conflitto diretto. La copertura tematica premia un insieme per la rappresentazione di una porzione più ampia dell’argomento attivo. La precisione delle evidenze premia solo il materiale che modifica la risposta o l’azione corretta. Per i modelli più piccoli, il secondo obiettivo può essere più importante del primo.

La proposta SALT trasforma il richiamo della memoria in un problema di selezione

Il collo di bottiglia segnalato di SALT inizia dopo che l’archiviazione ha avuto successo, perché un accesso efficiente non garantisce un contesto utile.

Secondo il post, tutti gli input entrano in un trie in DRAM. La DRAM è la memoria di lavoro veloce del sistema, mentre un trie organizza le sequenze tramite prefissi condivisi. Questo design può rendere compatti e rapidamente indirizzabili i pattern di testo ripetuti.

Lo sviluppatore recupera poi le frasi attraverso un sistema di parole chiave e dominanza tematica. Una procedura CELF seleziona il materiale entro un budget fissato al 20 percento. CELF, ovvero Cost-Effective Lazy Forward selection, accelera l’ottimizzazione greedy evitando il ricalcolo non necessario del valore marginale di ogni candidato.

La proprietà interessante è quella dei rendimenti decrescenti. Una frase che copre un nuovo tema può inizialmente offrire un valore sostanziale. Un’altra frase che copre lo stesso tema dovrebbe contribuire meno una volta che la prima è entrata nell’insieme selezionato.

Questa logica si adatta al retrieval quando diversità e copertura sono importanti. Scoraggia un insieme di risultati pieno di quasi duplicati, consentendo comunque la comparsa di diverse parti di un argomento. Inoltre, rende gestibile una grande raccolta di memoria senza assegnare un punteggio a ogni possibile sottoinsieme.

Tuttavia, una percentuale fissa non rappresenta un fabbisogno informativo fisso. Il venti percento di una conversazione breve può produrre un prompt compatto. Il venti percento di una grande memoria persistente di un agente può produrre molto più materiale di quanto un modello piccolo possa usare in modo affidabile.

Il budget cresce inoltre con il pool di candidati, salvo l’intervento di un altro limite. Man mano che più moduli scrivono memorie, i candidati coerenti con il tema possono moltiplicarsi. Il selettore può rimanere computazionalmente efficiente mentre il suo output diventa cognitivamente costoso per il modello linguistico.

Questa distinzione è importante perché il retrieval comprende almeno tre fasi separate. Il sistema deve generare candidati, classificarli o selezionarli, quindi impacchettarli per un modello. La velocità nelle prime due fasi non può dimostrare l’accuratezza nella terza.

Il materiale pubblico non documenta ancora la rappresentazione tematica di SALT, i confini delle frasi, le regole di deduplicazione o il set di valutazione. Non chiarisce inoltre se il budget del 20 percento misuri frasi, token, nodi memorizzati o un’altra unità.

Questi dettagli cambiano la diagnosi. Un budget basato sulle frasi può nascondere ampie differenze nella lunghezza in token. Un budget in token può comunque ammettere proposizioni ripetute. Un budget di nodi in un trie potrebbe non corrispondere in modo netto a evidenze leggibili.

La posizione del repository segnalata, codice sorgente SALT, non è stata accessibile con continuità durante la ricerca. Pertanto, i dettagli architetturali oltre il post dovrebbero essere considerati provvisori finché non saranno disponibili codice e test riproducibili.

Ciò che è cambiato resta comunque chiaro. SALT sta passando da un contesto chatbot a un contesto di agenti, in cui il retrieval della memoria influenza le azioni attraverso più moduli. Questa transizione trasforma il richiamo eccessivo da inconveniente conversazionale a problema di affidabilità a livello di sistema.

Perché l’attenzione di Horizon MachineLearning si è concentrata su troppo contesto

La discussione di horizon machinelearning è importante perché aggiungere contesto dall’aspetto pertinente può ridurre l’accuratezza, anche quando ogni frase recuperata condivide il tema della query.

I modelli linguistici non trattano tutte le informazioni fornite come ugualmente utili. Una finestra di contesto stabilisce la dimensione massima dell’input, ma la capacità non garantisce un uso affidabile. Posizione, ripetizione, ambiguità e complessità del compito influenzano tutte ciò che il modello segue effettivamente.

Il classico studio sul contesto lungo ha testato la risposta a domande su più documenti e il recupero chiave-valore. I ricercatori hanno modificato la posizione delle evidenze rilevanti mantenendo invariata la risposta desiderata. Le prestazioni hanno spesso seguito una curva a U, favorendo le informazioni vicine all’inizio o alla fine.

In una configurazione riportata, GPT-3.5-Turbo ha ottenuto risultati peggiori della sua baseline closed-book del 56,1 percento quando il documento rilevante era collocato in una posizione sfavorevole all’interno di contesti più lunghi. I ricercatori hanno inoltre riscontrato rendimenti decrescenti dal recupero di documenti aggiuntivi.

Il passaggio da 20 a 50 documenti ha migliorato i risultati solo marginalmente nel loro caso di studio sulla risposta a domande in dominio aperto. Il maggiore richiamo del retrieval non si è tradotto in guadagni comparabili nelle risposte. Il generatore non riusciva a sfruttare efficacemente tutto il materiale aggiuntivo.

Evidenze più recenti rendono più netto questo avvertimento. Uno studio sulla lunghezza del contesto del 2025 ha rilevato che input più lunghi possono danneggiare le prestazioni anche quando il retrieval stesso è perfetto. Questo risultato separa due fonti di fallimento che i team spesso combinano.

La prima è l’errore di retrieval, in cui il sistema sceglie evidenze mancanti, fuorvianti o incomplete. La seconda è l’errore di utilizzo, in cui il modello riceve evidenze adeguate ma non riesce a ragionarci sopra in modo affidabile. Ridurre il primo non risolve automaticamente il secondo.

Questa distinzione spiega perché la copertura tematica possa apparire positiva in una dashboard di retrieval mentre le risposte peggiorano. Una frase può appartenere al tema corretto senza aiutare a risolvere la richiesta corrente. Può anche introdurre un valore obsoleto, un’eccezione o un concetto vicino.

Si consideri un agente che prepara il deployment di un software. Le memorie relative alla politica di deployment, agli incidenti precedenti, ai test, alle autorizzazioni e all’impatto sui clienti corrispondono tutte al tema generale. Eppure, solo l’ambiente corrente, la versione approvata, lo stato dell’incidente attivo e i controlli richiesti potrebbero governare l’azione di oggi.

Un obiettivo di copertura può premiare l’incidente storico perché aggiunge ampiezza tematica. Il generatore potrebbe quindi mescolare vincoli vecchi e attuali. Un modello più piccolo ha meno capacità residua per distinguere cronologia, autorità e applicabilità condizionale.

L’appartenenza a un tema è quindi un debole indicatore dell’utilità causale. Le migliori evidenze recuperate non sono semplicemente correlate alla domanda. Devono supportare, vincolare, contraddire o disambiguare materialmente la risposta.

Questa pressione cresce nei sistemi multi-turno. I ricercatori Microsoft hanno riportato un calo medio delle prestazioni del 39 percento in sei attività di generazione quando i modelli testati gestivano conversazioni su più turni. Il loro benchmark conversazionale ha rilevato che i principali modelli aperti e chiusi ottenevano risultati peggiori rispetto a impostazioni equivalenti a turno singolo.

Gli agenti aggiungono un ulteriore livello. Ogni modulo può creare riepiloghi, piani, risultati di strumenti, osservazioni e messaggi di stato. Un sistema di memoria condivisa si trova quindi di fronte a diverse versioni dello stesso fatto, ciascuna scritta per un diverso scopo locale.

La compressione aiuta l’archiviazione, ma non garantisce la rilevanza decisionale. Un distrattore compresso rimane un distrattore. Diversi riepiloghi compressi possono inoltre oscurare quale fonte originale fosse autorevole.

Per chi realizza una base di conoscenza ricercabile, questa è la lezione pratica. La qualità del retrieval deve essere valutata sulla risposta o azione finale, non solo a livello di indice o classificazione.

Copertura e precisione spingono il recupero delle frasi in direzioni opposte

Il principale conflitto progettuale di SALT è tra copertura e precisione, non tra trie e database vettoriali o tra CELF e un altro ottimizzatore.

La copertura chiede se l’insieme selezionato rappresenti un numero sufficiente di aspetti distinti di un argomento. La precisione chiede se ogni elemento selezionato meriti il limitato spazio nel prompt per questa specifica decisione. Entrambe sono utili, ma premiano comportamenti diversi.

Un ranker di pura rilevanza restituisce spesso frasi ridondanti. Gli elementi con il punteggio più alto possono ribadire lo stesso concetto prominente con piccole variazioni nella formulazione. La selezione submodulare può migliorare la diversità scontando i candidati che aggiungono poco oltre agli elementi già selezionati.

L’uso segnalato di CELF da parte di SALT sembra mirato a questo problema. Se l’obiettivo sottostante è submodulare, la selezione greedy lazy può approssimare in modo efficiente un insieme di alto valore. Tuttavia, un ottimizzatore può perseguire solo i valori codificati nel suo obiettivo.

Se la copertura tematica assegna valore a ogni nuovo sottotema, il sistema cercherà ampiezza. Non sa che un sottotema è solo di contesto, mentre un altro contiene il vincolo decisivo. Inoltre, non può dedurlo dalla sola efficienza computazionale.

L’unità di retrieval aggrava il problema. Le frasi sono facili da valutare e riordinare, ma i fatti non rispettano sempre i confini delle frasi. Una frase qualificante può dipendere da una definizione, un timestamp, un interlocutore o un’eccezione posti nelle vicinanze.

Recuperare soltanto la frase che sembra contenere la risposta può eliminare la provenienza necessaria. Recuperare l’intero vicinato tematico può ristabilire la provenienza ma aggiungere rumore. Il sistema ha bisogno di un’unità di evidenza che preservi le dipendenze senza importare un intero cluster tematico.

Un’opzione è il retrieval incentrato sulle affermazioni. Il sistema rappresenterebbe ogni memoria come un’affermazione più metadati, tra cui fonte, momento, ambito, confidenza e collegamenti ai qualificatori necessari. La selezione opererebbe su questi pacchetti di evidenze invece che su frasi isolate.

Un’altra opzione è il guadagno marginale condizionato dalla domanda. Il valore di un candidato dipenderebbe dal fatto che migliori una risposta, risolva un’ambiguità, fornisca un passaggio mancante o contraddica la bozza corrente. La novità tematica generale diventerebbe un segnale di supporto anziché l’obiettivo principale.

Nessuno dei due approcci elimina i compromessi. L’estrazione delle affermazioni può introdurre errori durante l’ingestione. Il punteggio condizionato dalla domanda può aggiungere latenza e dipendere da un altro modello con i propri bias.

Tuttavia, entrambi gli approcci espongono il reale obiettivo di ottimizzazione. Il livello di retrieval dovrebbe massimizzare l’utilità prevista per il compito entro un budget di token e latenza. Non dovrebbe massimizzare la copertura della memoria presumendo che il generatore scarti l’eccesso.

La politica fissa del 20 percento merita un esame particolare. Le percentuali sono pratiche per il campionamento dell’archiviazione, ma la capacità del prompt dipende dai token assoluti. L’affidabilità del modello varia inoltre in base alla complessità della query, alla struttura delle evidenze e al generatore utilizzato.

Un budget migliore dovrebbe adattarsi al fabbisogno di evidenze. Una ricerca diretta potrebbe richiedere una singola affermazione supportata. Un confronto potrebbe richiedere diverse alternative. Un piano di un agente in più passaggi potrebbe richiedere una catena di dipendenze più contraddizioni esplicite.

Questo suggerisce un processo di recupero a fasi. Il primo passaggio dovrebbe recuperare un nucleo piccolo e ad alta precisione. Un secondo passaggio dovrebbe espandere soltanto quando la risposta manca di supporto, contiene incertezza o richiede un ulteriore passaggio di ragionamento.

La decisione di espansione necessita di criteri misurabili. Un modello può identificare affermazioni non supportate, ma la fiducia dichiarata autonomamente da sola non è affidabile. Segnali più attendibili includono citazioni mancanti, entità non risolte, timestamp contraddittori e controlli di risposta falliti.

Il sistema dovrebbe inoltre separare la memoria stabile dalla memoria episodica. La memoria stabile contiene preferenze, policy e fatti verificati duraturi. La memoria episodica registra eventi, osservazioni transitorie e passaggi precedenti la cui rilevanza diminuisce nel tempo.

Senza questa separazione, un selettore di temi può mescolare regole permanenti e stato temporaneo. Un agente potrebbe seguire una vecchia soluzione alternativa dopo che l’incidente sottostante è terminato. I metadati temporali dovrebbero quindi influenzare la selezione prima che il testo raggiunga il modello.

L’autorità conta quanto la recenza. Un’istruzione dell’utente dovrebbe prevalere su un riepilogo di quell’istruzione generato da un agente. Il risultato verificato di uno strumento dovrebbe prevalere su un piano speculativo. La sola somiglianza tematica non può esprimere queste priorità.

Il miglior metodo di recupero delle frasi probabilmente combinerà diversi segnali. Tra questi figurano corrispondenza lessicale, somiglianza semantica, copertura delle dipendenze, tempo, autorità, contraddizione e utilità stimata per il compito. CELF può ancora eseguire la selezione finale dell’insieme se l’obiettivo incorpora queste distinzioni.

Questo non rende irrilevante il trie. La struttura di archiviazione determina la velocità di ricerca, l’overhead di memoria, il comportamento degli aggiornamenti e le relazioni disponibili. Significa semplicemente che l’efficienza di archiviazione e l’affidabilità delle risposte appartengono a livelli di valutazione diversi.

I modelli più piccoli rivelano per primi il fallimento del recupero

I modelli più piccoli non sono qui soltanto generatori più deboli; agiscono come stress test per verificare se il livello di recupero abbia separato le evidenze dal rumore tematico.

Un modello grande può talvolta riprendersi da un prompt affollato grazie a una migliore aderenza alle istruzioni e a una più efficace discriminazione contestuale. Questa tolleranza può nascondere le debolezze del recuperatore. Lo stesso contesto può invece sopraffare immediatamente un modello più piccolo.

L’osservazione dello sviluppatore sulle allucinazioni merita quindi un’interpretazione attenta. Un recupero eccessivo può correlare con risposte non supportate, ma il post non stabilisce una causalità. Altre fonti includono prompt deboli, evidenze mancanti, memorie contraddittorie, impostazioni di decodifica o limitazioni specifiche del modello.

Il termine allucinazione può anche raggruppare diversi fallimenti. Un modello potrebbe inventare un fatto, fondere due memorie, seguire istruzioni obsolete o scegliere l’alternativa recuperata sbagliata. Ogni fallimento richiede una misurazione diversa e potenzialmente una correzione diversa.

SALT necessita di una tassonomia degli errori prima di modificare il suo selettore. Ogni risposta fallita dovrebbe identificare se l’evidenza richiesta era assente, presente ma ignorata, contraddetta, incompleta o sopraffatta da elementi distraenti.

La valutazione dovrebbe confrontare almeno quattro condizioni di recupero. Una non dovrebbe fornire memoria esterna. Un’altra dovrebbe fornire soltanto un insieme di evidenze oracle selezionato da una persona. Una terza dovrebbe usare l’output attuale di SALT e una quarta dovrebbe usare un output potato in modo aggressivo.

Questo confronto separa il recupero dalla generazione. Se il modello piccolo fallisce con l’insieme oracle, modificare i pesi di CELF non risolverà il problema principale. Se ha successo con evidenze oracle ma fallisce con l’output di SALT, la precisione diventa l’obiettivo prioritario.

Il benchmark dovrebbe preservare categorie di compiti realistiche. Le domande fattuali dirette testano il richiamo esatto. Le domande multi-hop testano la completezza delle dipendenze. I compiti degli agenti verificano se la memoria recuperata conduce alla scelta corretta dello strumento, dei parametri e della condizione di arresto.

Ogni categoria necessita di casi negativi. Il corpus dovrebbe contenere frasi plausibili ma irrilevanti sullo stesso tema, versioni obsolete di fatti veri, contraddizioni esplicite e parafrasi duplicate. Elementi distraenti casuali e facili sovrastimeranno la qualità del sistema.

La valutazione deve inoltre variare la posizione dell’evidenza. I risultati sui limiti di contesto per Gemini 2.5 Flash mostrano che i modelli più recenti possono gestire il semplice recupero di un ago nel pagliaio in contesti lunghi molto meglio dei sistemi precedenti. Questa scoperta è un importante contrappeso alle affermazioni generalizzate sul fallimento universale del contesto.

Tuttavia, il semplice recupero di fatti non equivale al ragionamento su memorie concorrenti. Un modello può localizzare un singolo fatto inserito intenzionalmente e avere comunque difficoltà con diverse affermazioni correlate, eccezioni e cambiamenti temporali. Il caso d’uso agentico di SALT appartiene più alla seconda categoria.

I test dovrebbero quindi incrociare la dimensione del modello con la composizione del contesto. Lo stesso insieme recuperato dovrebbe essere inviato a un modello locale più piccolo, a un modello più potente e a un valutatore in stile oracle. Le differenze mostreranno se i miglioramenti derivano da una memoria più pulita o da una maggiore capacità del generatore.

La precisione dovrebbe essere riportata a più livelli. La precisione delle frasi conta quante frasi recuperate si dimostrano utili. La precisione delle affermazioni conta le proposizioni supportate. La precisione delle azioni misura se un agente sceglie l’operazione e i parametri corretti.

Il richiamo deve rimanere visibile. Potare tutto tranne una frase ovvia può aumentare la precisione distruggendo al contempo la completezza multi-hop. Un selettore sicuro dovrebbe identificare il più piccolo insieme di evidenze sufficiente, non semplicemente l’insieme più piccolo.

“Sufficiente” significa che l’insieme supporta il risultato corretto e conserva le qualificazioni necessarie. Dovrebbe inoltre includere le contraddizioni decisive quando la memoria contiene affermazioni in conflitto. Altrimenti, un prompt compatto può diventare erroneo con grande sicurezza.

I test di ablazione possono rivelare quali componenti di SALT aiutano. I ricercatori dovrebbero disabilitare la copertura dei temi, modificare il budget percentuale, limitare i token assoluti, rimuovere i duplicati, aggiungere la recenza e aggiungere separatamente la ponderazione dell’autorità.

Questi esperimenti dovrebbero usare memorie archiviate e query identiche. Cambiare il corpus tra un’esecuzione e l’altra renderebbe difficili i confronti. Anche ripetere le prove è importante quando la generazione usa il campionamento.

Latenza e uso della memoria dovrebbero rimanere metriche secondarie, non scomparire. Un reranker che migliora l’accuratezza ma aggiunge un ritardo inaccettabile può compromettere un agente interattivo. L’obiettivo è una frontiera operativa misurata tra accuratezza, token, latenza e DRAM.

Lo sviluppatore dovrebbe inoltre registrare ciò che ogni frase recuperata ha contribuito. Un codice motivo conciso può identificare corrispondenza lessicale, nuova affermazione, contraddizione, dipendenza temporale o autorità della fonte. Questi log rendono il recupero eccessivo diagnosticabile senza chiedere al generatore di spiegarsi.

Un rischio importante rimane non verificato. Non esiste un benchmark pubblico che stabilisca l’accuratezza attuale del chatbot di SALT, la compressione della memoria o le prestazioni degli agenti. L’architettura dovrebbe essere discussa come il resoconto di un progetto iniziale, non come un avanzamento convalidato.

Tre segnali mostreranno se SALT può scalare agli agenti

La prossima pietra miliare di SALT dovrebbe essere un risultato di precisione riproducibile, non un archivio di memoria più grande o un budget di contesto più generoso.

Il primo segnale è un benchmark del divario rispetto all’oracle. Lo sviluppatore dovrebbe confrontare il recupero attuale con un insieme minimo di evidenze selezionato da persone per compiti diretti, multi-hop e di azione degli agenti. I risultati dovrebbero essere suddivisi per dimensione del modello.

Se SALT si avvicina alle prestazioni oracle usando meno token, le evidenze sosterranno la sua strategia di selezione dei temi. Se il divario aumenta per i modelli più piccoli, l’obiettivo attuale sta selezionando un’ampiezza che il generatore non può utilizzare.

Il secondo segnale è il budgeting adattivo. Una policy fissa del 20 percento dovrebbe competere con limiti assoluti di token e recupero a fasi. Il confronto dovrebbe misurare accuratezza delle risposte, successo delle azioni, affermazioni recuperate, latenza e asserzioni non supportate.

Una policy adattiva vince soltanto se preserva catene di evidenze complete. Un numero inferiore di token da solo indebolirebbe il sistema se rimuovesse eccezioni o dipendenze. Il risultato più forte migliorerebbe la precisione senza ridurre il richiamo a livello di compito.

Il terzo segnale è la provenienza consapevole dei moduli durante le prove degli agenti. Ogni memoria dovrebbe identificare il modulo di origine, il timestamp, l’autorità e il materiale sorgente. I test dovrebbero includere memorie conflittuali e obsolete provenienti da agenti diversi.

Se la selezione consapevole della provenienza riduce le azioni errate, la memoria multi-agente necessita di qualcosa in più della dominanza tematica. Necessita di regole esplicite per autorità, freschezza e contraddizione. Se la provenienza ha poco effetto, il problema principale probabilmente risiede altrove, nel ranking o nella generazione.

Questi segnali dovrebbero comparire in un pacchetto di valutazione aperto. Il pacchetto necessita di query fisse, evidenze etichettate, log di recupero, output generati, impostazioni del modello e regole di valutazione. Senza questi artefatti, i contributori esterni non possono isolare il motivo per cui una modifica proposta funziona.

I suggerimenti della community possono comunque essere utili prima che esista un benchmark completo. Il progetto potrebbe testare la maximal marginal relevance, il reranking cross-encoder, il clustering delle affermazioni e la compressione focalizzata sulla query. Tuttavia, nessun metodo dovrebbe sostituire il selettore attuale basandosi soltanto su aneddoti.

Il design più solido nel breve termine è probabilmente conservativo. Recuperare un nucleo compatto di evidenze, preservare le qualificazioni associate ed espandere soltanto dopo aver rilevato una specifica lacuna informativa. Instradare le evidenze selezionate in base al compito di ciascun modulo anziché trasmettere un unico contesto ampio.

I sistemi agentici necessitano anche di igiene della memoria. Dovrebbero unire i duplicati, far scadere lo stato temporaneo, preservare le fonti originali e distinguere le osservazioni dalle conclusioni. Altrimenti, la qualità del recupero si degraderà man mano che gli agenti archiviano ripetutamente derivati di output precedenti.

Questo schema somiglia a una copia con perdita. Uno strumento produce un fatto, un agente lo riassume, un altro agente riassume quel riepilogo e il sistema di memoria archivia ogni versione. La copertura dei temi può premiare questi elementi come evidenze coerenti nonostante la loro origine comune.

La deduplicazione consapevole della provenienza può impedire che copie ripetute creino un consenso apparente. Il selettore dovrebbe raggruppare le memorie derivate sotto le loro evidenze originali. Può quindi evitare di spendere token del prompt su diverse parafrasi dello stesso fatto.

I team che costruiscono un sistema personale di conoscenza affrontano una sfida correlata. Catturare tutto è utile soltanto quando il richiamo preserva rilevanza, confini delle fonti e tempo. La memoria degli agenti amplifica il costo di sbagliare queste distinzioni.

Per il dibattito horizon machinelearning, questo è il punto decisivo. SALT non deve dimostrare che un trie possa archiviare una memoria conversazionale estesa. Deve dimostrare che il suo selettore può recuperare il più piccolo insieme di evidenze sufficiente man mano che crescono il numero di memorie e di moduli.

Il prossimo contributo utile è quindi misurabile: pubblicare un insieme di fallimenti, etichettare le evidenze richieste e confrontare le policy di recupero in condizioni di modello identiche. Quale policy mantiene accurati i modelli piccoli senza nascondere i fatti necessari?

 
 

Inizia gratis

Un assistente IA local-first con gestione della conoscenza personale

Per una migliore esperienza con l’IA,

al momento remio supporta solo Windows 10+ (x64) e M-Chip Macs.

​Aggiungi una barra di ricerca al tuo cervello

Basta chiedere a remio

Ricorda tutto

Non organizzare nulla

bottom of page