Simon Willison dice: non fare da tramite umano per l'AI

Simon Willison ha lanciato un avvertimento netto il 3 agosto: non diventare un “tramite umano” che inoltra ciecamente risposte generate dall'AI. L'espressione definisce con insolita precisione un fallimento comune sul posto di lavoro. Qualcuno pone una domanda, un'altra persona interroga un modello e la risposta prosegue senza un significativo controllo umano.

L'espressione viene da Niklas Gruhn, a cui Willison attribuisce il merito nel suo post del 3 agosto. Il consiglio di Willison non rifiuta il prompting o la scrittura assistita dall'AI. Richiede che gli utenti leggano, comprendano, convalidino e riscrivano il risultato prima di condividerlo.

Questa distinzione mette in discussione una promessa diffusa dell'AI sul lavoro. I sistemi generativi possono ridurre il tempo necessario per produrre testo, ma la velocità non equivale a un lavoro completato. Quando una persona si limita a trasportare l'output del modello, il destinatario eredita l'onere della verifica che il mittente ha evitato.

La vera sfida non è quindi tra esseri umani e AI. È tra assistenza responsabile e delega non esaminata. La prima strada usa un modello per accelerare il pensiero. La seconda traveste una risposta incerta del modello da giudizio ponderato di un collega.

Simon Willison dà un nome all'inoltro cieco dell'AI

“Tramite umano” descrive una persona che funge da livello di consegna tra un sistema AI e un altro essere umano.

Il breve post di Willison cristallizza un comportamento che si è diffuso nelle email, nelle chat, nei documenti, nelle revisioni del codice e nei sistemi di assistenza. Un utente riceve una domanda e la inserisce in un large language model. La risposta generata viene poi incollata nella conversazione originale con poca revisione o trasformazione.

L'espressione conta perché “contenuto generato dall'AI” è troppo ampia. Può descrivere qualsiasi cosa, da una bozza attentamente verificata a una risposta intatta. “Tramite umano” isola il fallimento al centro del secondo caso: l'autore nominale non contribuisce né con verifica né con giudizio responsabile.

Willison raccomanda un confine preciso. Interrogare un sistema AI è accettabile, ma la sua risposta dovrebbe restare un artefatto intermedio. L'utente deve leggerla, comprenderne il ragionamento, convalidarne le affermazioni e rispondere con parole proprie.

Riscrivere non è soltanto una preferenza stilistica. Fornisce prova che il mittente ha elaborato la risposta abbastanza a fondo da poterla spiegare. Questa prova è imperfetta, poiché una persona può parafrasare sciocchezze, ma crea un utile attrito prima della pubblicazione.

Si consideri un normale scambio ingegneristico. Un collega chiede perché un servizio restituisca errori di autenticazione intermittenti. Un altro ingegnere incolla la domanda in un assistente AI e inoltra una spiegazione rifinita sui token scaduti.

La spiegazione sembra plausibile, eppure la causa reale potrebbe essere una deriva dell'orologio, un deployment difettoso o una configurazione proxy non correlata. Inoltrare la risposta trasferisce un'ipotesi in un canale dove i lettori potrebbero trattarla come un fatto indagato.

Lo stesso schema compare nella gestione aziendale. Un dirigente chiede quali siano i rischi dell'ingresso in un nuovo mercato e un analista inoltra una valutazione generica generata da un modello. La risposta potrebbe omettere normative locali, contratti esistenti o informazioni detenute all'interno dell'azienda.

Il documento visibile sembra finito, ma il lavoro analitico resta incompiuto. La sua fluidità nasconde il divario tra produrre una risposta e stabilire che quella risposta sia adatta alla situazione.

“Tramite umano” offre ai team un modo conciso per individuare quel divario. Attribuisce inoltre la responsabilità alla persona che sceglie di inoltrare l'output, non soltanto al modello che lo ha prodotto.

Un output fluente sposta la verifica a valle

Un tramite umano non elimina il lavoro da una conversazione. Sposta il lavoro difficile alla persona successiva.

L'AI generativa rende la stesura economica, rapida e abbondante. La verifica richiede comunque controllo delle fonti, conoscenza del dominio, consapevolezza del contesto e decisioni sull'incertezza. Questi compiti spesso richiedono più tempo della generazione della prima risposta.

L'inoltro cieco crea uno scambio asimmetrico. Il mittente impiega pochi secondi per produrre vari paragrafi. Il destinatario deve esaminare ogni affermazione fattuale, ricostruire il contesto mancante, rilevare contraddizioni e decidere se il consiglio sia sicuro da usare.

Questo squilibrio peggiora con l'aumentare della risposta generata. Una risposta lunga può contenere molte affermazioni individualmente plausibili, ciascuna con una piccola probabilità di errore. Il destinatario non può dedurre l'affidabilità da un linguaggio sicuro o da un'organizzazione curata.

I ricercatori chiamano una parte di questo problema bias di automazione, ossia la tendenza a fare eccessivo affidamento sulle raccomandazioni automatizzate nonostante esistano ragioni per essere cauti. Una revisione di 35 studi peer-reviewed ha rilevato che l'eccessivo affidamento resta una sfida centrale nella collaborazione tra esseri umani e AI.

Il rischio precede i large language model. I sistemi automatizzati influenzano da decenni le decisioni nell'aviazione, nella medicina, nella pubblica amministrazione e in altri settori. L'AI generativa amplia la preoccupazione perché può produrre spiegazioni persuasive per quasi ogni argomento.

Il software tradizionale spesso rivela i propri limiti attraverso input strutturati e output prevedibili. Un modello conversazionale può rispondere a domande anche quando non dispone di prove pertinenti. Questa flessibilità è utile, ma rende anche più difficile riconoscere le risposte prive di fondamento.

Il destinatario si confronta con un segnale sociale oltre che tecnico. Un messaggio di un collega normalmente implica che quel collega ne abbia selezionato, compreso e sostenuto i contenuti. L'inoltro non dichiarato dell'AI indebolisce tale implicazione senza modificare l'aspetto del messaggio.

Ecco perché la sola dichiarazione non può risolvere l'intero problema. Etichettare un testo come generato dall'AI avverte i lettori, ma può anche annunciare che il mittente si aspetta che siano loro a effettuare la revisione. Il mittente deve comunque stabilire se il materiale meriti di essere trasmesso.

L'onere diventa particolarmente evidente nel codice. Una patch generata potrebbe compilare e superare test di base, introducendo però presupposti insicuri o sottili problemi di manutenzione. I revisori devono quindi ricostruire un approccio che lo sviluppatore che ha inviato il codice non ha mai compreso pienamente.

I team di assistenza incontrano un fallimento correlato. Un operatore può inoltrare una risposta che segue un modello familiare ma è in conflitto con l'account, il contratto o le precedenti attività di risoluzione dei problemi del cliente. Il cliente paga quindi il controllo contestuale mancante con ritardi e frustrazione.

Il problema non è che ogni messaggio assistito dall'AI richieda ricerca originale. Una nota di pianificazione o una semplice riscrittura comporta meno rischi di una consulenza legale o di una modifica in produzione. La revisione richiesta dovrebbe crescere in proporzione alle conseguenze di un errore.

Tuttavia, anche i messaggi a basso rischio influenzano la fiducia. I colleghi notano rapidamente risposte che ripetono la loro domanda, ignorano il contesto condiviso o offrono cinque opzioni generiche senza una raccomandazione. Questi schemi segnalano che nessuno ha realmente recepito la richiesta.

La formulazione di Willison trasforma quel fastidio in una questione di lavoro. Se il mittente non ha compreso né valutato la risposta, il contributo umano è soltanto trasporto. Il lavoro cognitivo rimanente non è scomparso.

La vera sfida è tra assistenza e delega

L'assistenza AI mantiene il giudizio nelle mani dell'utente, mentre la delega all'AI trasferisce silenziosamente il giudizio a un sistema probabilistico.

Un large language model, o LLM, genera testo prevedendo sequenze di token probabili a partire da schemi appresi e contesto fornito. Non verifica automaticamente ogni affermazione rispetto a prove autorevoli. Né conosce gli obblighi non dichiarati del mittente.

L'assistenza inizia quando un utente assegna al sistema un ruolo delimitato. Il modello potrebbe suggerire domande, riorganizzare appunti, individuare possibili controargomentazioni o redigere un testo a partire da fatti verificati. La persona resta responsabile della selezione e del controllo del risultato.

La delega inizia quando l'output del modello diventa la risposta semplicemente perché esiste. L'utente smette di trattare la generazione come una fase di un flusso di lavoro. La bozza aggira l'analisi ed entra in una conversazione umana come prodotto finito.

La differenza può essere sottile. Entrambi gli utenti possono partire dallo stesso prompt e ricevere un testo identico. Uno verifica le citazioni, rimuove le affermazioni non supportate, aggiunge contesto locale e modifica la conclusione. L'altro preme copia e incolla.

Solo il primo utente aggiunge valore difendibile. Tale valore emerge nelle omissioni tanto quanto nelle aggiunte. Un buon giudizio spesso significa eliminare speculazioni espresse con sicurezza, restringere una raccomandazione o riconoscere che le prove disponibili non possono risolvere la questione.

La ricerca nel settore pubblico mostra perché la sola presenza umana offra una protezione debole. In tre esperimenti, ricercatori che studiavano i consigli algoritmici hanno trovato prove di bias di automazione e di adesione selettiva alle raccomandazioni che corrispondevano agli stereotipi esistenti.

Una persona può quindi restare formalmente “nel circuito” pur offrendo poca supervisione. La domanda significativa è se la persona possa contestare il sistema, riconoscere una risposta sbagliata e assumersi la responsabilità di respingerla.

Questa distinzione mette sotto pressione le organizzazioni che adottano l'AI attraverso semplici obiettivi di output. Se i dirigenti misurano email inviate, ticket chiusi, rapporti prodotti o codice inviato, il volume generato sembra un successo. La metrica non rivela chi ha assorbito il costo della verifica.

Anche i dipendenti affrontano incentivi contrastanti. Sono incoraggiati a usare l'AI e a consegnare più rapidamente, ma potrebbero ricevere poco tempo per controllare il lavoro generato. In tali condizioni, il comportamento da tramite umano può diventare una risposta razionale a un flusso di lavoro irrazionale.

I manager non possono risolvere il problema ordinando a tutti di “usare il giudizio”. I team hanno bisogno di confini di responsabilità. Il mittente dovrebbe sapere quali affermazioni richiedono prove, quali decisioni necessitano di revisione e quale incertezza debba essere dichiarata.

Un flusso di lavoro pratico parte dal materiale sottostante, non dal prompt. Gli utenti dovrebbero raccogliere documenti pertinenti, decisioni precedenti, dati di origine e vincoli. Una base di conoscenza ricercabile può rendere quel contesto più facile da recuperare, ma il recupero richiede comunque valutazione.

Il modello può quindi aiutare a interrogare quel materiale. Potrebbe confrontare documenti, individuare divergenze, produrre una bozza o proporre domande mancanti. L'utente deve decidere se la risposta rifletta le prove e la richiesta effettiva.

Infine, il mittente dovrebbe riscrivere il risultato attorno a una conclusione chiara. La risposta necessita di una raccomandazione responsabile, prove a sostegno, incertezza visibile e qualsiasi azione successiva richiesta. Una risposta generica del modello di solito manca di almeno uno di questi elementi.

Questo approccio non richiede la riscrittura rituale di ogni frase innocua. Richiede titolarità intellettuale. Se il mittente non sa spiegare perché la risposta sia corretta, pertinente e adeguatamente qualificata, la risposta non è pronta per essere inviata.

Scrivere con parole proprie è un controllo, non una cura

Riscrivere aumenta il costo dell'inoltro negligente, ma una parafrasi ben rifinita non può rendere vera un'affermazione non supportata.

Willison definisce una risposta originale un discreto certificato del fatto che chi scrive abbia completato le fasi precedenti. La parola attenta è “discreto”. Scrivere con parole proprie crea una prova di coinvolgimento, non una dimostrazione di accuratezza fattuale.

Un utente può fraintendere il modello e riformularne elegantemente l'errore. Un altro può usare un parafrasatore AI per mascherare una risposta intatta. Le organizzazioni non dovrebbero confondere l'originalità superficiale con una verifica autentica.

La parte più solida della proposta è la sequenza alla base della riscrittura: leggere, comprendere, validare, poi rispondere. Ogni verbo affronta un diverso tipo di fallimento. La lettura intercetta l’irrilevanza più evidente. La comprensione verifica se l’utente sa spiegare il ragionamento.

La validazione confronta le affermazioni con prove, sistemi o competenze qualificate. La riscrittura costringe poi l’utente a scegliere ciò che conta e ad assumersene la paternità. Saltare la validazione trasforma l’ultimo passaggio in una ripulitura puramente cosmetica.

Gli esperimenti suggeriscono che un attrito deliberato può aiutare. In uno studio del 2025, i partecipanti che ricevevano supporto AI difettoso hanno risposto correttamente a meno della metà delle domande di riflessione rispetto a un gruppo di controllo. Un avviso di avvertimento ha quasi raddoppiato le prestazioni rispetto alla sola assistenza difettosa.

L’avviso non ha portato le prestazioni oltre il gruppo privo di supporto. Anche l’alfabetizzazione AI auto-riferita non ha prevenuto in modo significativo l’automation bias in quell’esperimento. La familiarità con il prompting, quindi, non dovrebbe essere scambiata per scetticismo affidabile.

Un processo di revisione utile deve verificare la sostanza. Per i testi fattuali, gli utenti possono identificare ogni affermazione rilevante e allegare una fonte autorevole. Per il codice, possono spiegare la modifica, eseguire i test pertinenti e ispezionare i comportamenti sensibili alla sicurezza.

Per l’analisi, gli utenti possono dichiarare le ipotesi che guidano la raccomandazione. Dovrebbero anche chiedersi quali prove ribalterebbero la loro conclusione. Questa domanda rivela se il testo contiene un’argomentazione o soltanto una narrazione plausibile.

Nella comunicazione esterna, chi scrive dovrebbe confrontare la bozza con le esigenze reali del destinatario. Un cliente che chiede se un incidente ha esposto dati non ha bisogno di una spiegazione generale della crittografia. Ha bisogno di una risposta supportata, dei limiti noti e dell’orario del prossimo aggiornamento.

La stessa disciplina vale per i riassunti. Un modello può comprimere accuratamente la trascrizione di una riunione, ma non cogliere il significato politico di una singola obiezione. Qualcuno presente deve decidere quali affermazioni fossero impegni, suggerimenti o controversie irrisolte.

Il contesto personale può migliorare la generazione, ma non può sostituire questa decisione. Un flusso di lavoro per la conoscenza personale può conservare fonti e ragionamenti precedenti. L’utente resta comunque responsabile dell’interpretazione condivisa con gli altri.

Vale la pena prendere sul serio l’argomentazione scettica contro la formulazione di Willison. “Meat proxy” può diventare un insulto rivolto a dipendenti junior, persone non madrelingua o persone che usano l’AI per l’accessibilità. Può anche premiare l’uso invisibile dell’AI quando una riscrittura ben levigata nasconde il ruolo del sistema.

I team dovrebbero usare il termine per diagnosticare un flusso di lavoro, non per umiliare una persona. Lo standard rilevante è la gestione responsabile dell’output. Dovrebbe applicarsi allo stesso modo a dirigenti, sviluppatori, analisti, collaboratori esterni e manager.

Nemmeno ogni frase assistita dall’AI richiede una dichiarazione. Le regole di divulgazione dipendono dal rischio, dalle policy e dal pubblico. L’obbligo centrale è più forte di un’etichetta: non far dipendere un’altra persona da materiale che nessuno ha verificato responsabilmente.

C’è anche il rischio di romanticizzare il lavoro umano non assistito. Le persone copiano consigli sbagliati, ricordano male i fatti e inoltrano documenti irrilevanti anche senza AI. L’autorialità umana non ha mai garantito la verità.

L’AI generativa cambia la scala e la presentazione di questo vecchio problema. Produce risposte rifinite più rapidamente di quanto gli esseri umani possano ispezionarle. L’etichetta meat-proxy è utile perché punta alla revisione mancante, invece di fingere che gli errori siano iniziati con l’AI.

I Meat Proxy Amplificano i Bias Insieme agli Errori

La trasmissione non verificata può diffondere il framing e le omissioni di un modello anche quando ogni singola frase sembra difendibile.

Le allucinazioni fattuali attirano l’attenzione perché sono facili da dimostrare. Un modello inventa una citazione, indica una data errata o attribuisce parole alla persona sbagliata. La verifica può spesso individuare questi fallimenti.

Gli errori di framing sono più difficili. Una risposta generata può enfatizzare una spiegazione, dare per scontato un determinato pubblico o omettere un gruppo interessato. Nessuna singola frase deve essere falsa perché la risposta orienti una conversazione in una direzione distorta.

I ricercatori descrivono il bias comunicativo come l’espressione o l’amplificazione di prospettive attraverso output generati. Un’analisi dei bias del 2026 sostiene che l’automation bias possa aumentarne l’effetto quando gli utenti accettano e agiscono su tale output senza un esame sufficiente.

Un meat proxy può diventare il meccanismo che trasferisce questo framing nelle decisioni istituzionali. La persona presta all’output la propria identità e posizione organizzativa. I destinatari potrebbero non vedere mai il prompt, gli output alternativi o le ipotesi che hanno plasmato la risposta.

Immaginate un responsabile delle assunzioni che chieda a un modello di riassumere gli appunti dei colloqui. Il modello potrebbe mettere in primo piano la sicurezza di sé, il linguaggio della leadership o percorsi professionali convenzionali. Se il responsabile inoltra quel riassunto, un framing soggettivo assume l’apparenza di una sintesi neutrale.

Un team di prodotto potrebbe chiedere le probabili ragioni di un calo nell’utilizzo. Il modello potrebbe produrre spiegazioni familiari su onboarding e prezzi, ignorando problemi di accessibilità descritti nella ricerca interna. Una risposta fluida può restringere prematuramente l’indagine.

Un briefing per dirigenti crea rischi analoghi. I modelli tendono a produrre una prosa equilibrata e ordinata, anche quando le prove sottostanti sono incomplete o contraddittorie. Questo stile può far sembrare l’incertezza reale un elenco consolidato di considerazioni gestibili.

Il prompting non elimina questi problemi. Un prompt migliore può richiedere controargomentazioni, citazioni o incertezza, ma il testo risultante richiede comunque valutazione. La tecnica di prompting controlla la richiesta, non la verità della risposta.

Qui la questione principale diventa organizzativa. L’assistenza responsabile crea una catena dalle prove, attraverso l’analisi, fino a un decisore nominato. La delega cieca crea testo il cui apparente proprietario non sa difenderne la costruzione.

La distinzione conta per le correzioni. Quando una risposta redatta e verificata da un umano si rivela errata, i colleghi possono esaminare le ipotesi e migliorare il processo. Quando fallisce una risposta incollata, il mittente può limitarsi a dire che l’ha prodotta il modello.

Quella risposta interrompe l’apprendimento organizzativo. Il team non può capire se il fallimento derivi da contesto mancante, fonti deboli, un prompt fuorviante, comportamento del modello o revisione negligente. La responsabilità si dissolve lungo il flusso di lavoro.

Anche i fornitori di AI subiscono pressioni. Interfacce ottimizzate per risposte immediate incoraggiano gli utenti a trattare l’output come completo. Citazioni, indicatori di incertezza, visualizzazioni delle fonti e prompt di verifica possono creare pause più sane, anche se nessuno garantisce un uso attento.

Le organizzazioni dovrebbero monitorare i propri sistemi per rilevare segnali a valle. Correzioni, ticket riaperti, codice annullato, domande ripetute e reclami dei destinatari possono rivelare lavoro che sembrava produttivo nella fase di generazione.

La metrica migliore potrebbe essere stabilire se l’output assistito dall’AI riduce lo sforzo totale per tutte le persone coinvolte. Se il mittente risparmia dieci minuti ma tre colleghi impiegano un’ora a verificare il risultato, il flusso di lavoro non ha creato efficienza.

Misurare lo sforzo totale è più difficile che contare i documenti generati. Ma è anche più vicino al valore che l’adozione dell’AI dovrebbe offrire.

Cosa Succede Dopo l’Avvertimento di Simon Willison

Il prossimo test è capire se i team trasformeranno una frase memorabile in standard osservabili per un uso responsabile dell’AI.

Tre segnali mostreranno se “meat proxy” diventerà qualcosa di più di una definizione arguta. Il primo è la comparsa di requisiti di revisione nei flussi di lavoro AI quotidiani. I team dovrebbero specificare cosa il mittente deve controllare prima che il contenuto generato raggiunga un’altra persona.

Questi requisiti devono essere proporzionati. Un appunto informale di brainstorming può tollerare un’incertezza che un deposito legale non può. Codice di produzione, impegni verso i clienti, analisi finanziarie e decisioni sul personale meritano prove esplicite e revisori nominati.

Se le organizzazioni adotteranno tali standard, l’argomentazione di Willison acquisterà forza come principio operativo. Se si affideranno soltanto a generici promemoria di “controllare l’output dell’AI”, il comportamento da meat proxy resterà facile da negare e difficile da misurare.

Il secondo segnale è il design del prodotto. Le interfacce AI possono mostrare le fonti, distinguere il materiale recuperato dall’interpretazione generata, segnalare affermazioni non supportate e chiedere agli utenti di confermare azioni ad alto impatto. Questi controlli aggiungono attrito dove altrimenti la fiducia viaggerebbe senza verifiche.

La ricerca sugli avvisi di avvertimento suggerisce che le scelte d’interfaccia possano migliorare la riflessione critica, anche se non possono ripristinare prestazioni pienamente indipendenti. Un’ondata di funzionalità orientate alla verifica rafforzerebbe l’idea che la revisione dell’output sia un problema di prodotto distinto.

La tendenza opposta la indebolirebbe. Se gli assistenti ottimizzano sempre più per l’invio con un clic, l’esecuzione autonoma e l’inserimento invisibile nei canali di lavoro, gli utenti avranno meno opportunità naturali di ispezionare ciò che li rappresenta.

Il terzo segnale è la qualità della misurazione sul posto di lavoro. I leader dovrebbero confrontare una produzione più rapida con correzioni, rilavorazioni, escalation e tempo di revisione dei destinatari. Questi costi a valle rivelano se l’assistenza AI abbia completato il lavoro o lo abbia semplicemente trasferito.

Un calo delle rilavorazioni insieme a consegne più rapide sosterrebbe un potenziamento responsabile. Un aumento dell’output con tassi di correzione stabili o in peggioramento suggerirebbe invece che le organizzazioni stanno premiando i meat proxy su larga scala.

La frase affronterà anche una prova sociale. Usata con attenzione, può aiutare i colleghi a stabilire un confine: portate l’AI nel processo, ma non trasferite al destinatario la vostra responsabilità. Usata con superficialità, può diventare una scorciatoia per sorvegliare lo stile o deridere le persone.

I lettori possono applicarne subito la versione utile. Prima di inviare un lavoro assistito dall’AI, chiedetevi se comprendete la risposta, se le sue affermazioni importanti sono supportate e se affronta la situazione reale di questo destinatario.

Poi ponetevi la domanda più difficile: cosa avete aggiunto? Un contributo utile potrebbe essere contesto, una decisione, una fonte verificata, una spiegazione più chiara o una dichiarazione onesta di incertezza. Non deve essere elaborato.

Se l’unico contributo è stato trasportare testo da una finestra a un’altra, il lavoro è incompleto. Conservate la bozza, ispezionate le prove e scrivete la risposta di cui siete pronti ad assumervi la responsabilità.

Questo è il punto duraturo dell’avvertimento di Simon Willison. L’AI può accelerare la produzione di linguaggio, ma la responsabilità non può essere generata e inoltrata. La prossima volta che una risposta fluida appare all’istante, fermatevi prima di farla verificare a qualcun altro.