Simon Willison individua la tokenpocalypse mentre i costi dell'AI aziendale infrangono il sogno dell'uso illimitato
Il 7 agosto Simon Willison ha evidenziato un significativo conflitto nell'AI aziendale: i dipendenti possono bruciare costosi token svolgendo attività che software più semplici gestiscono già. L'esempio riguardava la conversione di PDF in immagini, file markdown e materiale per presentazioni. Può sembrare banale, ma mette in luce un serio problema di budget.
Secondo un audio ottenuto da 404 Media, i dirigenti di Accenture hanno discusso del rapido aumento del consumo di token e della difficoltà di collegarlo al valore di business. Un dirigente avrebbe scherzato sul fatto che la conversione dei PDF fosse una grande “mangiatrice di token”. Lo scambio ha catturato il divario tra l'incoraggiare i dipendenti a usare l'AI e il controllare quanto costa quell'incoraggiamento.
La pressione ora va oltre Accenture. Le aziende hanno adottato Claude, ChatGPT, Copilot, Codex e gli agenti AI come sistemi di produttività ampiamente utili. Stanno scoprendo che la sperimentazione illimitata crea una spesa operativa variabile senza un limite naturale. La nuova sfida non è l'adozione dell'AI contro il suo rifiuto. È il massimo utilizzo contro il valore misurabile.
Simon Willison ha trovato la storia perfetta di spreco di token
Un'attività PDF ordinaria è diventata un esempio insolitamente chiaro di come la spesa aziendale per l'AI sfugga al controllo finanziario.
L'avvertimento sui PDF di Willison ha richiamato l'attenzione su un aneddoto emerso da un'inchiesta del 24 giugno di 404 Media. La testata ha dichiarato di aver ottenuto un audio di una discussione interna ad Accenture sul crescente consumo di AI.
Justice Kwak, responsabile della strategia per l'AI agentica di Accenture, avrebbe affermato che gli ingegneri non erano i principali responsabili di alcuni costosi modelli di utilizzo. I non ingegneri erano responsabili di molti dei comportamenti oggetto della discussione.
Stuart Henderson, responsabile di un gruppo clienti di Accenture, ha poi chiesto se Kwak avesse convertito un PDF in immagini prima di trasformare tali immagini in markdown. Henderson avrebbe definito quel processo una grande mangiatrice di token.
Lo scambio è divertente perché descrive una soluzione elaborata a un normale problema documentale. È importante perché quella soluzione può moltiplicare il lavoro in ogni fase.
Un PDF può contenere testo selezionabile, immagini di pagine, grafici, tabelle, intestazioni e istruzioni di layout. Un flusso di lavoro AI può estrarre ogni pagina, ispezionare le immagini, ricostruire il testo, interpretare il layout e produrre un nuovo formato. Ogni richiesta al modello aggiunge token di input e output.
Se un agente ripete un'estrazione fallita, verifica la propria risposta o chiama un altro modello, il consumo aumenta di nuovo. Un dipendente può vedere soltanto un elegante set di slide. L'azienda vede una catena di richieste di inferenza a consumo.
I token sono piccole unità di dati elaborate da un modello generativo. Rappresentano porzioni di testo e, a seconda del sistema, informazioni derivate da immagini o altri media. Le organizzazioni spesso pagano in base al numero di token che un modello legge e genera.
Questo modello a consumo differisce da una licenza tradizionale di software per ufficio. Aprire un altro documento in un elaboratore di testi di solito non genera un nuovo addebito. Chiedere a un agente AI di interpretare quel documento può attivare diverse operazioni a pagamento.
Il dipendente non deve comprendere quella catena. Le moderne interfacce AI ne nascondono deliberatamente gran parte. Una richiesta come “trasforma questo report in slide” può avviare estrazione, pianificazione, sintesi, formattazione, revisione e convalida.
Il risultato è un problema di visibilità. I lavoratori valutano il flusso di lavoro in base alla comodità e alla qualità dell'output. I responsabili tecnologici devono valutarlo in base a costi, accuratezza, sicurezza e al fatto che il risultato valesse la pena di essere prodotto.
L'inchiesta originale ha inquadrato l'esperienza di Accenture come parte di una più ampia correzione della spesa. Le aziende avevano spinto i dipendenti verso la sperimentazione con l'AI. Alcune stavano ora valutando controlli perché il consumo stava diventando imprevedibile.
Accenture non ha autenticato pubblicamente ogni dettaglio attribuito alla riunione privata. Il resoconto dell'audio trapelato dovrebbe quindi rimanere chiaramente attribuito a 404 Media. Tuttavia, le successive azioni dell'azienda sostengono la conclusione più ampia secondo cui la gestione dei token è diventata una questione aziendale formale.
Il 29 luglio Accenture ha annunciato un'offerta di tokenomics progettata per collegare il consumo a team, flussi di lavoro, prodotti, decisioni e risultati di business. Questa tempistica ha trasformato l'aneddoto sul PDF in qualcosa di più di una commedia da ufficio. Ha mostrato quanto rapidamente un problema interno di costi possa diventare una categoria di consulenza.
Il calo dei prezzi dei token non riduce il conto totale
L'AI diventa più costosa quando l'utilizzo cresce più rapidamente di quanto diminuisca il costo unitario.
La prima proposta per le imprese trattava l'AI generativa come un'altra distribuzione di software. Un'azienda avrebbe acquistato l'accesso, formato i dipendenti e diffuso l'utilizzo nell'organizzazione. Una maggiore adozione sembrava significare maggiore produttività.
L'AI agentica cambia questo calcolo. Un flusso di lavoro agentico è un sistema che pianifica passaggi, invoca strumenti e rivede il proprio lavoro con una direzione umana limitata. Una richiesta di un dipendente può trasformarsi in decine di interazioni con il modello.
Gartner prevede che l'inferenza su modelli linguistici estremamente grandi diventerà molto più efficiente entro il 2030. Tuttavia, la sua previsione sull'inferenza include un avvertimento cruciale. La riduzione dei costi per i fornitori non sarà necessariamente trasferita integralmente ai clienti aziendali.
Gartner stima inoltre che i modelli agentici richiedano da cinque a 30 volte più token per attività rispetto a un chatbot standard. Sistemi più capaci possono eseguire più azioni, usare contesti più lunghi e creare maggiore domanda.
Questo crea il ribaltamento centrale. Un'intelligenza meno costosa incoraggia le aziende ad applicare l'AI a più attività. Ogni flusso di lavoro si espande quindi da una risposta a una sequenza di ricerche, chiamate a strumenti, valutazioni e correzioni.
Lo stesso schema è apparso nel cloud computing. Prezzi inferiori per singole unità di calcolo o archiviazione non hanno garantito bollette aziendali più basse. Un accesso più facile ha incoraggiato i team a distribuire più servizi, conservare più dati e automatizzare più attività.
L'AI aggiunge un'altra complicazione perché il consumo può essere non deterministico. La stessa attività non segue sempre lo stesso percorso. Un agente può completarla dopo tre passaggi, mentre un altro riprova gli strumenti o esplora varie alternative.
McKinsey afferma che l'utilizzo dei token può variare fino a 30 volte per la stessa attività di coding agentico. La sua analisi della spesa aziendale descrive inoltre costi AI dispersi tra fornitori cloud, vendor di modelli, piattaforme software, esperimenti e unità aziendali.
Questa frammentazione ritarda il rilevamento. Un'azienda può approvare diversi acquisti ragionevoli senza vederne l'effetto combinato. Gli sforamenti di costo diventano visibili dopo che i token sono già stati consumati.
Il conto si estende anche oltre i token. Le aziende pagano per pipeline di dati, infrastrutture di retrieval, valutazioni, revisioni di sicurezza, monitoraggio e dipendenti che supervisionano output inaffidabili. Una risposta economica del modello può trovarsi all'interno di un costoso flusso di lavoro.
Le lunghe finestre di contesto rendono il problema più difficile. Una finestra di contesto è l'informazione che un modello riceve durante una singola interazione. Inviare documenti completi, lunghe cronologie di chat, descrizioni di strumenti e materiale di riferimento ripetuto aumenta il consumo prima che il modello produca qualsiasi cosa.
Il lavoro sui documenti lo illustra chiaramente. Un sistema potrebbe reinviare lo stesso report durante l'estrazione, l'analisi, la redazione e la revisione. Senza caching o un'attenta selezione del contesto, ogni fase elabora informazioni sovrapposte.
Ecco perché l'esempio di Simon Willison conta oltre i PDF. Trasforma una discussione astratta sui costi dei token AI in un flusso di lavoro riconoscibile. L'utente richiede un risultato, ma l'infrastruttura svolge molto più lavoro.
Le aziende non possono risolvere questo problema limitandosi a guardare la fattura del fornitore di modelli. Devono identificare il team, l'attività, il modello, l'agente e il risultato di business dietro ogni unità di consumo.
Questo requisito rende la gestione dei costi AI una disciplina operativa. Deve affiancare sicurezza, affidabilità e governance dei dati, non rientrare in una riunione annuale per il rinnovo del software.
Le persone sotto pressione non sono solo gli ingegneri
I budget per l'AI aziendale dipendono ora da migliaia di dipendenti che prendono decisioni tecniche sui costi attraverso normali prompt.
Gli ingegneri comprendono che una chiamata al modello consuma risorse. Possono ispezionare i log, accorciare i prompt, memorizzare nella cache i contenuti ripetuti e scegliere modelli più piccoli. Non ci si è mai aspettati che la maggior parte dei knowledge worker compisse queste scelte.
Vedono una chat box collegata al familiare lavoro d'ufficio. L'interfaccia incoraggia il linguaggio naturale, l'iterazione e la sperimentazione. Raramente spiega la differenza di costo tra riscrivere una frase e analizzare una raccolta di documenti scansionati.
Questo design crea un nuovo tipo di spesa sommersa. I dipendenti non devono inserire dati di pagamento né distribuire infrastrutture cloud. Possono aumentare il consumo aziendale semplicemente scegliendo un modello più potente o ripetendo una richiesta.
L'aneddoto di Accenture suggerisce che i non ingegneri possano generare un utilizzo sostanziale attraverso la conversione di documenti e il lavoro sulle presentazioni. Ciò non rende quei dipendenti irresponsabili. I loro datori di lavoro hanno detto loro di usare l'AI, mentre i fornitori hanno progettato i prodotti per rendere l'utilizzo privo di attriti.
Il conflitto inizia quando le aziende invertono la rotta. I lavoratori sentono dapprima che la competenza nell'AI è essenziale. In seguito ricevono limiti di token, restrizioni sui modelli o avvertimenti sulle richieste non necessarie.
Questo può produrre il comportamento sbagliato. I dipendenti potrebbero evitare flussi di lavoro preziosi perché le regole non sono chiare. Altri potrebbero continuare a usare modelli costosi perché nessuno ha definito cosa significhi “prezioso”.
Una politica migliore distingue le attività in base al risultato atteso. Redigere un'email di routine non richiede lo stesso modello della revisione di una complessa proposta ingegneristica. Estrarre testo selezionabile da un PDF non richiede sempre ragionamento visivo.
Il routing dei modelli può rendere automatica questa distinzione. Un sistema di routing invia le richieste semplici a modelli più piccoli e meno costosi, riservando i sistemi avanzati alle attività difficili. Può anche rifiutare richieste che il software tradizionale gestisce meglio.
Associated Press ha riferito che le aziende stanno esplorando sempre più questo tipo di routing mentre il tokenmaxxing perde favore. Il suo report sui costi del lavoro ha descritto imprese che esaminano i ritorni dall'uso dell'AI e scoraggiano i modelli avanzati per il lavoro di routine.
Il routing richiede comunque giudizio. Un prompt breve può nascondere un'attività ad alto rischio, mentre un documento lungo potrebbe richiedere soltanto un'estrazione di base. Le aziende necessitano di politiche basate su sensibilità, complessità, requisiti di accuratezza e valore atteso.
Anche i team di procurement affrontano pressione. Devono confrontare abbonamenti, contratti a consumo, servizi cloud e funzionalità AI integrate che misurano l'attività in modi diversi. Una prevedibile licenza per postazione può comunque contenere limiti o restrizioni d'uso.
I CIO ereditano il problema tecnico, ma i CFO determinano se la spesa merita un supporto continuativo. I responsabili delle unità aziendali devono spiegare cosa producono gli strumenti. I team di sicurezza devono monitorare quali informazioni i lavoratori inviano ai modelli esterni.
Quella responsabilità condivisa è una novità. Il budgeting del software tradizionale assegna spesso una licenza a un reparto. L'AI aziendale richiede alle organizzazioni di collegare ogni flusso di lavoro sia al consumo sia a un risultato.
Il risultato non può essere “i dipendenti hanno usato più AI”. Deve descrivere qualcosa a cui l'organizzazione attribuisce valore, come risoluzioni più rapide, meno difetti, ricavi aggiuntivi o una minore quantità di lavoro ripetitivo.
Anche i knowledge worker hanno bisogno di alternative. Una knowledge base ricercabile può ridurre i caricamenti ripetuti di documenti quando le informazioni esistono già localmente. Un recupero delle informazioni migliore può inviare soltanto i passaggi rilevanti anziché interi file.
Il cambiamento coinvolge quindi la progettazione dei flussi di lavoro tanto quanto le politiche di spesa. Le aziende che si limitano a imporre limiti ai token ridurranno il consumo. Non individueranno necessariamente quali attività dovrebbero proseguire.
Il massimo utilizzo dell'AI si scontra con il valore misurabile
Il sogno dell'uso illimitato fallisce quando l'attività diventa un sostituto delle prove di produttività.
Per diversi anni, i dirigenti hanno temuto che i dipendenti non adottassero l'AI abbastanza rapidamente. Le aziende hanno finanziato progetti pilota, distribuito assistenti, creato programmi di formazione e incoraggiato i team a trovare casi d'uso.
Quella strategia aveva senso quando l'adozione era il collo di bottiglia. Poche organizzazioni sapevano dove l'AI generativa avrebbe funzionato. La sperimentazione diffusa ha aiutato a far emergere modelli utili.
Il collo di bottiglia si è spostato. Quando migliaia di lavoratori possono invocare modelli avanzati, la sperimentazione diventa una spesa operativa ricorrente. La domanda passa da “Le persone usano l'AI?” a “Quali utilizzi meritano di essere scalati?”
La risposta di Accenture rende esplicita questa transizione. Il suo programma tokenomics promuove monitoraggio in tempo reale, responsabilità, abbinamento dei modelli e costo per transazione.
L'azienda descrive un approccio in tre fasi: vedere il consumo, correggere i progetti inefficienti e mantenere i controlli mentre i carichi di lavoro cambiano. Questa struttura ricorda le operazioni finanziarie del cloud, ma l'AI introduce maggiore incertezza sulla qualità delle attività e sul comportamento degli agenti.
L'avversario principale non è quindi Accenture contro un fornitore di modelli. È la promessa di abbondanza di AI senza attriti contro la realtà di una spesa aziendale responsabile.
Il massimo utilizzo produce entusiasmo visibile. Genera conteggi di prompt, documenti prodotti, esecuzioni di agenti e dashboard di adozione. Nessuna di queste metriche conferma che l'organizzazione abbia ottenuto un valore corrispondente.
Il valore misurabile è più lento e meno lusinghiero. Richiede un confronto con una base di riferimento. I team devono chiedersi quanto tempo richiedesse il lavoro prima dell'AI, se la qualità sia cambiata e quanto controllo umano resti necessario.
La conversione di PDF offre di nuovo il test giusto. Se un flusso di lavoro basato sull'AI trasforma un report in slide, l'azienda dovrebbe confrontarlo con strumenti convenzionali di estrazione e presentazione. Dovrebbe includere il tempo per le correzioni, gli errori fattuali, le riparazioni di formattazione e la revisione.
Il percorso AI può comunque vincere. Un modello può interpretare un report irregolare, identificare temi e redigere una narrazione utile più rapidamente di un software rigido. Il punto non è che l'AI non debba mai occuparsi di un PDF.
Il punto è che l'uso del modello deve meritarsi il proprio posto. Un agente che consuma più risorse può valerne la pena quando completa un lavoro di maggior valore. Un flusso di lavoro economico rimane uno spreco se nessuno ha bisogno del suo output.
Questa distinzione mette alla prova anche i fornitori di modelli. I loro prodotti beneficiano quando i clienti inviano contesti più lunghi, svolgono più ragionamento e delegano più passaggi. Gli acquirenti aziendali ne beneficiano soltanto quando quei passaggi migliorano un risultato.
I fornitori stanno aggiungendo caching, elaborazione batch, modelli più piccoli e funzionalità di routing. Questi strumenti riducono gli sprechi, ma non risolvono il disallineamento degli incentivi. I fornitori continuano a guadagnare dal consumo o da una più ampia adozione.
Le aziende hanno bisogno di un proprio livello di misurazione. Dovrebbe registrare richieste, selezione dei modelli, volume di token, latenza, tassi di errore, intervento umano e il processo aziendale coinvolto.
Hanno anche bisogno di una regola di arresto. Un agente non dovrebbe continuare a rivedere un documento di basso valore solo perché può farlo. Budget, limiti di passaggi, soglie di confidenza e passaggi di approvazione possono vincolare il lavoro aperto.
La stessa disciplina si applica ai flussi di lavoro personali con l'AI. Caricare ripetutamente le stesse fonti spreca tempo e contesto. I sistemi che supportano il knowledge blending possono recuperare informazioni selezionate senza ricostruire l'intero contesto per ogni richiesta.
Simon Willison si concentra da tempo sul comportamento pratico dei modelli linguistici, compresi i loro limiti, costi e implicazioni di sicurezza. La sua osservazione sui PDF si inserisce in questo approccio. I dettagli rivelatori compaiono spesso nelle scelte di implementazione quotidiane, non nei grandi annunci sui modelli.
I controlli sui token possono creare il proprio fallimento
Una stretta indiscriminata sulla spesa può distruggere sperimentazioni utili preservando al contempo le forme di spreco meno visibili.
Le ragioni a favore del controllo dei costi sono solide, ma le prove disponibili non dimostrano che i non ingegneri siano la causa centrale dell'eccessiva spesa aziendale per l'AI. I commenti di Accenture provenivano da una discussione privata riportata, non da un audit pubblicato sui consumi.
Una storia memorabile sui PDF può distorcere l'attenzione. È facile deridere la conversione dei documenti perché il flusso di lavoro suona eccessivo. Anche costosi agenti di ingegneria possono consumare grandi contesti, eseguire test, ispezionare repository e ritentare modifiche non riuscite.
Queste attività ingegneristiche possono produrre più valore, ma le aziende hanno comunque bisogno di prove. Un'etichetta tecnica non rende efficiente il consumo. Allo stesso modo, una richiesta non tecnica può sostenere importanti attività legali, commerciali o di ricerca.
Le organizzazioni dovrebbero evitare di trasformare la gestione dei token in sorveglianza dei dipendenti. I registri dei prompt possono contenere lavoro riservato, informazioni sul personale, record dei clienti e idee preliminari. Il monitoraggio dettagliato crea obblighi di sicurezza e privacy.
L'allocazione dei costi può anche scoraggiare la collaborazione. Se ogni reparto riceve un budget rigoroso di token, i team potrebbero nascondere gli esperimenti o spostare la spesa verso strumenti che restano fuori dalla dashboard centrale.
I limiti rigidi creano un altro rischio. Un agente potrebbe fermarsi prima di completare un'attività di valore, lasciando ai dipendenti un lavoro parziale che richiede comunque un recupero manuale. L'organizzazione risparmia token ma perde il beneficio atteso.
Il routing verso modelli economici può ridurre la spesa abbassando al contempo la qualità. I modelli più piccoli possono non cogliere i dettagli dei documenti, gestire male le istruzioni sugli strumenti o generare errori plausibili. Un flusso di lavoro che necessita di correzioni ripetute può costare di più nel complesso.
EY sostiene che i token sono soltanto la parte più visibile dell'economia degli agenti. La sua analisi dei costi degli agenti include infrastruttura, governance, cambiamento organizzativo, recupero dagli errori ed esposizione normativa.
Questa visione più ampia è importante perché l'ottimizzazione locale può spostare le spese altrove. Ridurre il consumo dei modelli potrebbe aumentare il tempo di revisione dei dipendenti. Ridurre le esecuzioni di valutazione può far arrivare in produzione errori costosi.
Le aziende dovrebbero misurare il costo totale del flusso di lavoro invece di celebrare totali di token più bassi. Dovrebbero inoltre confrontare qualità, velocità e rischio prima e dopo qualsiasi intervento.
È qui che l'etichetta “tokenpocalypse” può fuorviare. Il problema non è che i token siano improvvisamente diventati inaccessibili ovunque. Il problema è che la rapida adozione ha messo in luce misurazioni deboli e responsabilità poco chiare.
Alcune organizzazioni scopriranno che i loro programmi AI restano economicamente interessanti. Altre scopriranno che i dipendenti hanno automatizzato attività di scarso valore strategico. La maggior parte troverà entrambi i modelli all'interno della stessa azienda.
I costi unitari continueranno a diminuire e i modelli continueranno a migliorare. Queste tendenze indeboliscono le previsioni di un muro di spesa permanente. Rafforzano la necessità di governance, perché costi inferiori invitano a un consumo ancora maggiore.
La conclusione scettica è quindi più circoscritta. Le aziende non stanno necessariamente abbandonando l'AI. Stanno passando da obiettivi di adozione a decisioni di allocazione, e tali decisioni restano difficili da valutare.
I prossimi tre segnali mostreranno se la tokenomics funziona
La prossima fase sarà giudicata dai rendimenti a livello di flusso di lavoro, dal routing automatico dei modelli e dai cambiamenti nel comportamento di acquisto delle aziende.
Il primo segnale è se le aziende riportano il costo per processo aziendale completato anziché la riduzione totale dei token. Una metrica utile potrebbe tracciare un singolo caso di assistenza risolto, contratto revisionato, modifica software completata o attività di ricerca conclusa.
Questo rafforzerebbe l'argomento della tokenomics perché collega la spesa all'output. Se le aziende pubblicano soltanto consumi più bassi, potrebbero sopprimere l'uso senza migliorare la produttività.
Osservate come Accenture sviluppa la propria offerta. Il suo approccio promette visibilità su flussi di lavoro, responsabili, modelli e agenti. Prove di risultati ripetibili per i clienti mostrerebbero che la preoccupazione interna identificata da 404 Media è diventata una disciplina gestionale praticabile.
Il secondo segnale è il routing automatico diffuso. Attualmente i dipendenti effettuano molte scelte sui modelli tramite menu dei prodotti o impostazioni predefinite. Ciò pone una decisione tecnica sui costi davanti a utenti che non dispongono delle informazioni per valutarla.
Un routing efficace riserverebbe il ragionamento avanzato alle attività che lo richiedono. Invierebbe il lavoro semplice di estrazione, classificazione e riscrittura a sistemi più piccoli o a software convenzionale.
La misura cruciale non è la frequenza del routing. È se il routing preserva la qualità riducendo al contempo il costo totale del flusso di lavoro. Tassi elevati di correzione indebolirebbero la tesi di declassamenti aggressivi dei modelli.
Il terzo segnale è un cambiamento negli acquisti aziendali. Gli acquirenti potrebbero richiedere pool di utilizzo condivisi, telemetria dettagliata, budget applicabili, controlli del caching e contratti legati più strettamente ai risultati.
Potrebbero inoltre privilegiare prodotti che elaborano informazioni locali senza inviare ripetutamente interi documenti ai modelli frontier. Questo premierebbe una gestione efficiente del contesto anziché il massimo throughput di token.
Se i fornitori risponderanno con controlli più chiari e consumi prevedibili, l'attuale reazione negativa sembrerà un normale ciclo di maturazione. L'AI aziendale continuerà a espandersi con regole finanziarie più rigorose.
Se i costi resteranno opachi, le aziende imporranno restrizioni più ampie. Questo esito rallenterebbe la sperimentazione e aumenterebbe la domanda di modelli più piccoli, a pesi aperti o gestiti localmente.
L'osservazione di Simon Willison offre ai lettori una domanda pratica per valutare qualsiasi flusso di lavoro AI: quale lavoro sta effettivamente svolgendo il modello e perché quel lavoro richiede proprio questo modello?
Applicate questa domanda prima di inviare un altro documento di grandi dimensioni a un agente. Verificate se l'estrazione del testo, la ricerca, l'elaborazione locale o un modello più piccolo possano completare la prima fase. Riservate il ragionamento costoso alle parti che richiedono giudizio.
La tokenpocalypse non è la fine dell'AI aziendale. È la fine del trattare ogni output generato come prova di progresso. Le aziende che misurano i risultati, controllano il contesto e instradano le attività deliberatamente continueranno a sperimentare. Quelle che contano soltanto l'adozione continueranno a scoprire il conto in seguito.
