Sander Dieleman ha portato i modelli linguistici a diffusione continua su Hacker News, ma i token restano lo standard
- Ethan Carter

- 2 giorni fa
- Tempo di lettura: 14 min
Sander Dieleman ha presentato i modelli linguistici a diffusione continua alla community di Hacker News il 24 agosto, raccogliendo 42 punti e nove commenti attorno a un'insolita sfida alla generazione basata sui token. L'argomentazione non annuncia un modello completo né una vittoria nei benchmark. Chiede piuttosto se i modelli linguistici debbano sempre generare token discreti da sinistra a destra.
Questa distinzione conta. I modelli linguistici a diffusione continua, o CDLM, rappresentano il linguaggio attraverso stati continui che un modello affina gradualmente. I sistemi autoregressivi convenzionali selezionano invece un token dopo l'altro, rendendo ogni scelta precedente parte della previsione successiva.
La sfida centrale non riguarda dunque un modello contro un altro. Riguarda il raffinamento globale iterativo contrapposto alla previsione del token successivo, il meccanismo alla base dei modelli in stile GPT e della maggior parte degli assistenti con pesi aperti. I CDLM offrono una forma computazionale diversa, ma il loro valore pratico dipende ancora da velocità, controllabilità e qualità del testo al di fuori di dimostrazioni selezionate con cura.
Cosa ha davvero cambiato il post su Hacker News
Il post ha dato a una direzione di ricerca frammentata una chiara narrazione tecnica, ma non ha dimostrato che i modelli linguistici autoregressivi possano essere sostituiti.
Il saggio sui CDLM di Dieleman è arrivato come interpretazione di una famiglia di modelli emergente. Questo lo differenzia dal lancio di un'azienda, da un nuovo servizio commerciale o dalla pubblicazione di benchmark verificati. Il suo contributo immediato è l'organizzazione concettuale.
Il modello linguistico convenzionale parte da un testo suddiviso in token. Data una sequenza, stima una distribuzione di probabilità per il token successivo. Seleziona o campiona un risultato, lo aggiunge e ripete il processo fino al completamento.
Questo progetto ha prodotto scrittura fluida, codice utile e assistenti interattivi. Crea però anche una rigida catena di dipendenze. Il modello non può finalizzare il token 100 prima di aver generato i 99 token precedenti.
I modelli di diffusione partono da un'altra premessa. Durante l'addestramento corrompono i dati con rumore, quindi imparano a invertire quel processo. Durante la generazione, partono da uno stato rumoroso e lo denoizzano ripetutamente fino a ottenere un risultato strutturato.
I generatori di immagini hanno reso familiare questo processo. Un'intera immagine può evolvere attraverso diversi passaggi di raffinamento perché i pixel e le caratteristiche latenti dell'immagine vivono in spazi numerici continui. Il linguaggio pone un problema più difficile, perché parole e token sono simboli discreti.
Le precedenti ricerche sulla diffusione per il linguaggio hanno spesso affrontato questa incompatibilità corrompendo token, mascherandoli o definendo transizioni tra categorie discrete. Un CDLM lavora invece con rappresentazioni continue associate al linguaggio. Il modello può aggiornare queste rappresentazioni congiuntamente prima di decodificarle in testo.
Questa differenza crea la vera tensione dell'articolo. Uno stato continuo offre gradienti, interpolazione e aggiornamenti coordinati. Eppure, i lettori hanno infine bisogno di una sequenza esatta di parole discrete, segni di punteggiatura o simboli di codice.
La presenza su Hacker News è rilevante perché porta questo compromesso tecnico oltre gli articoli specialistici. Invita gli sviluppatori a valutare se la generazione da sinistra a destra sia una caratteristica permanente dei modelli linguistici o semplicemente il primo approccio ad aver ottenuto risultati su larga scala.
Anche le modeste metriche della discussione definiscono un limite appropriato. Quarantadue punti e nove commenti indicano un interesse tecnico mirato, non un'adozione ampia né un consenso scientifico. Il post è un segnale utile della curiosità degli sviluppatori, non la prova che i CDLM abbiano superato i sistemi esistenti.
Perché i modelli linguistici a diffusione continua sono importanti ora
I CDLM sono importanti perché la struttura dell'inferenza è diventata rilevante quanto la dimensione del modello, soprattutto quando ogni token generato aggiunge latenza.
La generazione autoregressiva ha una componente sequenziale inevitabile. I fornitori possono accelerare le operazioni matriciali, memorizzare nella cache i calcoli precedenti, anticipare token futuri ed elaborare insieme molte richieste. Questi metodi migliorano il throughput, ma la sequenza di output continua a svilupparsi attraverso decisioni dipendenti.
Questo diventa costoso quando gli utenti richiedono report lunghi, grandi patch di codice o molte risposte alternative. Un modello può valutare migliaia di token mentre l'utente osserva il testo arrivare progressivamente. Hardware più veloce aiuta, ma non elimina la dipendenza stessa.
La diffusione offre una pianificazione diversa. Il modello può riservare una regione di output e rivedere più posizioni durante ogni passaggio di denoising. In linea di principio, ciò consente un calcolo più parallelo lungo la sequenza.
L'espressione “in linea di principio” è essenziale. Il lavoro parallelo all'interno di un singolo passaggio di denoising non garantisce una minore latenza end-to-end. Un modello di diffusione può richiedere molti passaggi di raffinamento, e ogni passaggio consuma calcolo.
Il confronto rilevante non è tra un passaggio di diffusione e un token autoregressivo. È il costo complessivo di produrre una risposta accettabile. Questo include il numero di valutazioni del modello, la lunghezza della sequenza, il movimento della memoria, l'overhead di decodifica e qualsiasi passaggio di correzione.
La ricerca si sta muovendo verso questa domanda da diversi anni. L'originale paper Diffusion-LM ha esplorato la diffusione continua sugli embedding di parole e ha enfatizzato la generazione di testo controllabile. I suoi risultati hanno aperto una direzione di ricerca, ma non hanno reso la diffusione l'architettura predefinita per i modelli linguistici.
Altri lavori si sono spostati verso formulazioni discrete. La diffusione discreta score-entropy, descritta nel paper SEDD, ha sviluppato un obiettivo di addestramento per la diffusione su dati discreti. I modelli linguistici a diffusione mascherata hanno poi semplificato parti del framework, cercando al contempo likelihood e qualità generativa migliori.
Questi approcci non indicano tutti la stessa cosa. Alcuni diffondono embedding continui, mentre altri mascherano o corrompono token discreti. Alcuni puntano al controllo condizionale, altri alla modellazione linguistica generale.
L'inquadramento di Dieleman è tempestivo perché questi filoni producono sempre più risultati che meritano un confronto con le baseline autoregressive. La domanda di ricerca si è spostata dal chiedersi se la diffusione possa generare testo al chiedersi dove la sua struttura computazionale offra un vantaggio difendibile.
Questa pressione ricade su entrambi i fronti. I ricercatori della diffusione devono dimostrare che il raffinamento coordinato giustifichi i suoi passaggi ripetuti. Chi sviluppa modelli autoregressivi deve continuare a ridurre la latenza senza modificare il ciclo fondamentale del token successivo.
Il risultato è una competizione sull'architettura di inferenza. La qualità del modello resta importante, ma lo sono anche pianificazione, parallelismo, comportamento della cache e quantità di lavoro utile completato a ogni forward pass.
Diffusione continua contro previsione del token successivo
L'argomento più forte a favore dei CDLM non è che il denoising suoni più elegante. È che la revisione globale potrebbe gestire dipendenze che l'impegno sequenziale tratta in modo scomodo.
Si consideri un paragrafo la cui frase finale modifica la terminologia corretta nella riga iniziale. Un modello autoregressivo può pianificare internamente, ma il suo output visibile procede comunque da sinistra a destra. Una volta che un token è stato trasmesso, modificarlo richiede un'operazione di editing separata.
Un modello di diffusione può trattare la bozza come provvisoria. Le posizioni iniziali, le proposizioni centrali e la conclusione possono cambiare nei passaggi di raffinamento. Ciò crea un meccanismo per la coerenza globale, non semplicemente una differenza stilistica.
Il codice offre un esempio più netto. La firma di una funzione vincola le istruzioni successive, mentre l'implementazione può rivelare che la firma originale era errata. La revisione parallela potrebbe consentire a un modello di riconciliare queste posizioni prima di presentare il programma finale.
Anche i documenti strutturati creano dipendenze simili. I titoli influenzano le sezioni successive, i riepiloghi dovrebbero corrispondere alle prove a sostegno e i termini definiti dovrebbero restare coerenti. Un processo di raffinamento può aggiornare insieme diverse regioni correlate.
Questa è la promessa alla base dei modelli linguistici a diffusione continua, spiegata senza trasformarli in un tutorial. Il loro fascino deriva dal trattare la generazione come soddisfazione congiunta di vincoli, anziché come una catena permanente di impegni locali.
Tuttavia, i sistemi autoregressivi sono meno rigidi di quanto questa descrizione suggerisca. Possono generare ragionamenti nascosti, delineare una risposta prima di scriverla, chiamare strumenti di editing o eseguire ulteriori passaggi di verifica. Le applicazioni possono anche richiedere una bozza completa prima di mostrare qualsiasi cosa all'utente.
Queste tecniche spostano la revisione al di fuori della regola di decodifica centrale. Possono riprodurre alcuni vantaggi della diffusione mantenendo al contempo un'infrastruttura di addestramento matura e un efficiente caching chiave-valore.
I due percorsi ottimizzano inoltre diverse fattorizzazioni di probabilità. Un modello autoregressivo rappresenta direttamente una sequenza come prodotto di probabilità condizionate del token successivo. Questa fattorizzazione supporta una valutazione semplice della likelihood e il campionamento controllato.
La diffusione impara a invertire la corruzione lungo una pianificazione. La qualità del suo output dipende dal processo di rumore, dall'obiettivo di addestramento, dal campionatore, dal numero di passaggi e dal metodo utilizzato per ricondurre gli stati continui ai simboli.
La mappatura finale è particolarmente importante per i CDLM. I vettori continui possono trovarsi tra diversi token plausibili. Il linguaggio naturale, tuttavia, non permette a una frase di contenere il 40 per cento di una parola e il 60 per cento di un'altra.
Il modello deve infine scegliere. Se la decodifica avviene troppo presto, può perdere il valore del raffinamento continuo. Se avviene troppo tardi, il processo può spendere molto calcolo per rifinire rappresentazioni che si mappano ancora su token instabili.
Questo confine influenza anche il codice e il recupero esatto delle informazioni. Un identificatore semanticamente vicino può comunque essere sbagliato. Una sola cifra modificata può invalidare una data, mentre un simbolo fuori posto può compromettere un programma.
La previsione del token successivo gestisce questi casi in modo imperfetto, ma la sua interfaccia di output corrisponde all'oggetto discreto prodotto. I CDLM devono dimostrare che i benefici prima della discretizzazione superino l'incertezza introdotta a quel confine.
La promessa della generazione parallela ha un problema di calcolo
Generare molte posizioni insieme è utile solo quando un numero minore di dipendenze sequenziali compensa il raffinamento ripetuto dell'intera sequenza.
Il parallelismo è il vantaggio principale che più probabilmente attirerà i team infrastrutturali. Gli acceleratori moderni offrono le prestazioni migliori quando ricevono grandi blocchi di lavoro regolari. La decodifica token per token lascia spesso meno spazio all'esecuzione parallela all'interno di una singola richiesta.
Un modello di diffusione può elaborare un'intera sequenza candidata durante un passaggio di denoising. Se completa la generazione in un numero ridotto di passaggi, potrebbe ridurre il percorso seriale tra prompt e risposta.
Ma ogni passaggio può riesaminare tutte le posizioni di output. Un modello convenzionale generalmente aggiunge una posizione riutilizzando le rappresentazioni precedenti memorizzate nella cache. Un modello di diffusione può ricalcolare o rivedere ripetutamente uno stato molto più ampio.
Questo rende decisiva la progettazione dei benchmark. I ricercatori devono riportare latenza wall-clock, operazioni totali in virgola mobile, utilizzo degli acceleratori, consumo di memoria e qualità a parità di calcolo. I token al secondo da soli non possono descrivere in modo adeguato un processo di raffinamento iterativo.
Anche la dimensione del batch conta. Un metodo che funziona bene su un acceleratore completamente utilizzato potrebbe non offrire lo stesso tempo di risposta a un singolo utente interattivo. Al contrario, un metodo ad alta latenza potrebbe comunque essere interessante per carichi di lavoro offline se il suo throughput scala in modo efficiente.
Il numero di passaggi di denoising introduce un'altra variabile. Più passaggi possono migliorare la qualità, ma aumentano anche il costo. Una riduzione aggressiva dei passaggi può accelerare l'inferenza modificando però i pattern di errore.
Questo compromesso ricorda la storia della diffusione delle immagini. I primi sistemi richiedevano molti passaggi di campionamento. Sampler e tecniche di distillazione successivi hanno ridotto quel numero, rendendo i prodotti più reattivi.
Il testo impone requisiti di precisione più rigorosi. Un'immagine leggermente diversa può rimanere accettabile, mentre una clausola legale, un nome API o un calcolo anche solo leggermente diversi possono ribaltare il significato.
Anche la selezione della lunghezza richiede una soluzione credibile. Un modello autoregressivo si arresta naturalmente quando emette un marcatore di fine. Un sistema di diffusione spesso parte da una regione o rappresentazione la cui lunghezza finale deve essere gestita esplicitamente.
La generazione a lunghezza flessibile non è impossibile. I modelli possono prevedere la lunghezza, usare stati di padding o rivedere regioni mascherate. Ogni opzione aggiunge decisioni di addestramento e decodifica che incidono sull'efficienza.
Lo streaming crea uno svantaggio a livello di prodotto. Gli assistenti autoregressivi possono mostrare le parole man mano che arrivano, riducendo il tempo di attesa percepito. Un modello che rifinisce globalmente potrebbe preferire non mostrare il testo finché le sue posizioni iniziali non si stabilizzano.
Uno streaming parziale potrebbe esporre solo segmenti stabili, ma richiede una misura affidabile della stabilità. In caso contrario, gli utenti vedrebbero le parole sfarfallare o le frasi iniziali cambiare mentre leggono.
La questione pratica è quindi più circoscritta di “La diffusione può generare in parallelo?”. Sì, può farlo. La domanda è se produca una migliore latenza corretta per la qualità per uno specifico carico di lavoro su hardware reale.
Finché i ricercatori non pubblicheranno solidi confronti a parità di condizioni, la generazione parallela rimane un meccanismo con potenziale commerciale, non un vantaggio universale verificato.
Cosa il dibattito su Hacker News non può ancora dimostrare
L'interesse degli sviluppatori può individuare le domande giuste, ma solo valutazioni riproducibili possono stabilire dove i CDLM superano i sistemi autoregressivi maturi.
Un thread su Hacker News è prezioso perché i professionisti analizzano rapidamente costi di implementazione, ipotesi nascoste e terminologia confusa. Può rivelare quali affermazioni richiedono prove più chiare.
Non è una valutazione controllata. I voti misurano l'attenzione di una comunità in un determinato momento. Il numero di commenti può dipendere dal tempismo, dalla formulazione del titolo e dal fatto che i lettori abbiano accesso a sufficienti dettagli tecnici.
Il primo test mancante riguarda la qualità a parità di risorse. Un CDLM dovrebbe confrontarsi con una baseline autoregressiva con parametri, dati di addestramento, calcolo di addestramento e budget di inferenza comparabili. Senza questi controlli, i confronti tra architetture diventano ambigui.
Il secondo test riguarda la diversità dei compiti. La prosa aperta può nascondere piccoli errori perché molte risposte restano plausibili. Codice, ragionamento matematico, risposta a domande fattuali, estrazione strutturata e sintesi su contesti lunghi impongono vincoli più severi.
Il terzo test riguarda la lunghezza della generazione. Risposte brevi nei benchmark non dimostrano l'efficienza per migliaia di token. I documenti lunghi mettono in luce problemi di coerenza, costi di memoria e le conseguenze del rivedere ripetutamente l'intera sequenza.
Il quarto test riguarda la controllabilità. La diffusione promette da tempo una guida flessibile perché il processo generativo passa attraverso stati intermedi modificabili. I ricercatori dovrebbero verificare se tale controllo rimanga affidabile senza un costo di campionamento eccessivo.
Il quinto test riguarda la calibrazione. Le applicazioni devono sapere quando un output è incerto. I modelli autoregressivi espongono probabilità dei token, sebbene tali valori non siano stime perfette della confidenza. I CDLM necessitano di segnali altrettanto utili sia a livello continuo sia a livello decodificato.
La stabilità dell'addestramento presenta un'altra incertezza. I modelli linguistici beneficiano di obiettivi di cross-entropy ben compresi e di un'ampia pratica ingegneristica. La diffusione introduce schedule del rumore, condizionamento temporale e scelte del sampler che possono interagire con la scala.
Questo non rende l'approccio impraticabile. Alza la soglia delle prove richiesta per affermazioni su un'architettura sostitutiva.
La più ampia ricerca sulla diffusione mascherata offre un confronto importante perché affronta la generazione linguistica senza richiedere la stessa strategia di rappresentazione continua. Se la diffusione mascherata o discreta raggiunge benefici simili con un'interfaccia token più semplice, i CDLM dovranno giustificare la loro complessità aggiuntiva.
Nemmeno la ricerca autoregressiva resterà ferma. La decodifica speculativa consente a un modello più piccolo di proporre più token che un modello più grande verifica. La previsione multi-token addestra i modelli ad anticipare più di una posizione futura. Kernel e caching migliori continuano a ridurre i costi di serving.
Questi metodi preservano la semantica sequenziale accorciando al contempo il percorso critico pratico. Una valutazione equa dei CDLM deve confrontarli con questi sistemi migliorati, non con un decoder di base di diversi anni fa.
Esiste anche il rischio di confondere la generazione non autoregressiva con la generazione istantanea. Qualsiasi modello che riveda ripetutamente un'intera sequenza conserva comunque passaggi sequenziali nel tempo. Cambia il numero e la forma di tali passaggi, anziché eliminare del tutto la sequenza.
L'interpretazione più solida della discussione su Hacker News è quindi prudente. I CDLM espongono una vera scelta architetturale e questa scelta merita di essere misurata. Il thread non dimostra che la diffusione continua sia già più veloce, economica o accurata.
Chi subisce pressione se i CDLM funzionano
Un CDLM credibile a pochi passaggi eserciterebbe anzitutto pressione sull'architettura di inferenza, mentre i fornitori di modelli avrebbero tempo per adattare prodotti e stack di addestramento.
Il bersaglio immediato della pressione è l'assunto secondo cui la generazione linguistica di alta qualità debba esporre un ciclo next-token. Tale assunto determina l'utilizzo degli acceleratori, il software di serving, le interfacce utente e i modelli di prezzo in tutto il settore.
Le piattaforme di inferenza ottimizzano in modo intensivo attorno alle cache key-value. Queste cache preservano le informazioni di attenzione dei token precedenti, impedendo al modello di ricalcolare l'intero prefisso a ogni passaggio. Sono centrali per un serving autoregressivo efficiente.
Un CDLM utilizzerebbe un diverso pattern computazionale. L'infrastruttura potrebbe dover privilegiare il raffinamento dell'intera sequenza, la pianificazione dei time step e la memoria degli stati intermedi. Le ottimizzazioni esistenti non si trasferirebbero automaticamente.
I progettisti di applicazioni affronterebbero un'altra scelta. Le interfacce chat trattano attualmente il testo in streaming come normale. Un prodotto basato sulla diffusione potrebbe invece presentare una breve attesa seguita da un blocco coerente, oppure mostrare sezioni stabili mentre il raffinamento prosegue altrove.
Gli strumenti di scrittura e coding potrebbero trarne più beneficio della chat ordinaria. Operano già su documenti completi, accettano revisioni e spesso nascondono la generazione finché una bozza non è pronta. Il raffinamento globale si adatta al loro modello di interazione.
Il lavoro della conoscenza offre un altro contesto rilevante. Un sistema che produce un briefing di ricerca deve mantenere coerenza tra affermazioni, riassunti, citazioni e conclusioni. La revisione congiunta potrebbe ridurre le contraddizioni se il modello impara a coordinare passaggi distanti.
Gli utenti avrebbero comunque bisogno di tracciabilità. Una risposta globalmente coerente può restare coerentemente sbagliata. I team che gestiscono documenti tecnici necessitano di flussi di lavoro fondati sulle fonti, come una base di conoscenza ricercabile, indipendentemente dal generatore sottostante.
Anche i fornitori di modelli autoregressivi dispongono di grandi vantaggi. Hanno pipeline di addestramento consolidate, sistemi di distribuzione, dati di istruzione, valutazioni di sicurezza e cicli di feedback degli utenti. Un nuovo metodo di decodifica deve superare quell'investimento ingegneristico accumulato.
Potrebbero emergere progetti ibridi prima di una sostituzione netta. Un modello autoregressivo potrebbe creare un piano, mentre un modello di diffusione compila o rivede le sezioni. Un modello di diffusione potrebbe abbozzare candidati prima che un verificatore autoregressivo controlli i token esatti.
Tali sistemi renderebbero meno netto il confronto evocato dai titoli, ma convaliderebbero l'intuizione di fondo. La generazione linguistica non deve dipendere da un unico programma di decodifica per ogni fase.
I vincitori sarebbero determinati dal carico di lavoro. Il dialogo interattivo premia una rapida latenza del primo token e uno streaming fluido. La generazione di report offline premia il throughput e la coerenza a livello di documento. La generazione di codice premia precisione, test e revisione.
Un CDLM non deve dominare ogni categoria per avere importanza. Un vantaggio misurabile nella generazione long-form, nella riscrittura vincolata o nella produzione parallela di candidati potrebbe sostenere un ruolo specializzato duraturo.
La pressione ricade quindi sugli assunti infrastrutturali piuttosto che su una singola azienda. Se il raffinamento continuo diventa competitivo, gli stack di serving dovranno supportare più di un nastro trasportatore di token.
Tre segnali che stabiliranno se i CDLM dureranno
La fase successiva richiede prove sui passaggi di campionamento, sui compiti a output esatto e sulla riproduzione indipendente, non affermazioni più ampie sul potenziale della diffusione.
Il primo segnale è un benchmark di latenza a parità di condizioni. I ricercatori dovrebbero confrontare i CDLM con baseline autoregressive e di diffusione mascherata ottimizzate sullo stesso hardware. Il confronto dovrebbe dichiarare dimensione del modello, lunghezza della sequenza, dimensione del batch, passaggi di generazione e soglie di qualità.
Un risultato solido mostrerebbe una minore latenza in tempo reale senza trasferire costi eccessivi all'addestramento o sacrificare la precisione. Un risultato limitato a impostazioni di batch favorevoli restringerebbe l'affermazione senza invalidare l'approccio.
Il secondo segnale è la prestazione su output con poca tolleranza all'approssimazione. Completamento del codice, generazione JSON, espressioni matematiche, citazioni ed estrazione fattuale rivelano se il raffinamento continuo sopravvive alla discretizzazione.
Il successo in questi ambiti rafforzerebbe l'ipotesi che i CDLM possano supportare carichi di lavoro di produzione. Una persistente instabilità dei token suggerirebbe che l'architettura sia più adatta alla generazione creativa che ai compiti esatti.
Il terzo segnale è la riproduzione indipendente su scala significativa. Un metodo diventa più credibile quando team separati possono addestrarlo, riprodurne l'efficienza e individuare quali componenti contano. Implementazioni aperte e ablation dettagliate renderebbero questo processo più semplice.
Questo segnale protegge anche i lettori dal sovrainterpretare una singola dimostrazione rifinita. I risultati dei modelli linguistici possono dipendere da dati, prompt di valutazione, impostazioni di campionamento e post-elaborazione nascosta. La riproduzione separa un guadagno architetturale da una ricetta sperimentale favorevole.
La lezione più ampia della comparsa su Hacker News non è che la previsione del token successivo abbia raggiunto la propria data di scadenza. È che il settore dispone ormai di un numero sufficiente di meccanismi alternativi per mettere in discussione un assunto che un tempo appariva fisso.
I modelli linguistici a diffusione continua offrono un'alternativa coerente: rappresentare il linguaggio in uno spazio continuo modificabile, rifinire più posizioni insieme e poi tornare al testo discreto. Questo meccanismo potrebbe migliorare il parallelismo e il coordinamento globale.
Crea però anche difficili questioni ingegneristiche legate al calcolo ripetuto, alla lunghezza, alla decodifica esatta, al caching e allo streaming. Nessuna di esse scompare perché la diffusione ha funzionato bene per le immagini.
I lettori dovrebbero quindi osservare i benchmark, non l'etichetta. Un CDLM raggiunge una qualità competitiva in pochi passaggi? Rimane accurato su codice e testo strutturato? Un altro gruppo può riprodurre il risultato?
Le risposte determineranno se la prossima discussione su Hacker News riguarderà un'interessante direzione di ricerca o un'architettura in fase di reale distribuzione. Fino ad allora, la diffusione continua merita attenzione come esperimento serio, non come successore dichiarato del modello token-per-token.


