I fallimenti tecnici dell’IA non sono gli stessi dei suoi problemi di capitalismo

Bruce Schneier ha tracciato una netta linea di demarcazione nel dibattito sull’IA, dopo anni in cui ogni danno veniva trattato come un difetto tecnico. L’argomentazione di sicurezza di Schneier sostiene che i modelli inaffidabili siano problemi di ingegneria, mentre sorveglianza, perdita di posti di lavoro e potere concentrato derivino spesso dagli incentivi del capitalismo.

Schneier ha sviluppato questa argomentazione con il data scientist Nathan E. Sanders in un saggio pubblicato da Tech Policy Press. I due paragonano l’intelligenza artificiale alla prima Rivoluzione industriale, quando le macchine spostarono il lavoro fisico fuori dai corpi umani su una scala senza precedenti. L’IA ora promette di spostare su vasta scala il lavoro cognitivo fuori dai nostri corpi.

Quel paragone porta con sé tanto un avvertimento quanto una promessa. Le macchine a vapore non determinavano chi possedesse le fabbriche, come fossero retribuiti i lavoratori o dove si accumulasse l’inquinamento. Quelle scelte le facevano le istituzioni e i proprietari.

La stessa distinzione conta per l’IA. Un chatbot può inventare una citazione giuridica perché il suo processo predittivo resta inaffidabile. Un’azienda può usare quel chatbot per eliminare personale esperto perché i dirigenti vogliono ridurre il costo del lavoro.

Questi fallimenti richiedono rimedi diversi. Addestramento, test e progettazione dei sistemi migliori possono ridurre le risposte inventate. Non possono stabilire se i guadagni di produttività debbano andare a lavoratori, clienti, dirigenti o investitori.

Questo è il conflitto centrale del saggio. Il dibattito pubblico continua a trattare un problema di distribuzione economica come un incarico di ingegneria. Schneier e Sanders sostengono che così si proteggono le istituzioni che prendono le decisioni più rilevanti.

Il saggio di Schneier sulla sicurezza cambia l’unità di analisi

Il saggio sposta l’attenzione da ciò che un modello di IA può fare a chi ne controlla le capacità e ne cattura il valore.

Schneier e Sanders partono dalla capacità insolita dell’IA di svolgere compiti cognitivi al di fuori della mente umana. Il software automatizza i calcoli da decenni, ma i sistemi generativi possono ora redigere, classificare, riassumere, tradurre e raccomandare in ambiti molto diversi.

Gli autori non sostengono che i sistemi attuali equivalgano al giudizio umano. Il loro punto riguarda la scala e l’integrazione. Anche l’automazione cognitiva imperfetta può modificare le istituzioni quando diventa economica, rapida e disponibile attraverso software standard.

Le aziende stanno già integrando modelli generativi nella ricerca, nell’assistenza clienti, nella programmazione, nel marketing e nei flussi di lavoro amministrativi. I governi usano sistemi algoritmici per elaborare registri, stabilire priorità per le ispezioni e supportare decisioni che riguardano sussidi o servizi pubblici.

Queste implementazioni combinano almeno tre categorie distinte di rischio. I rischi tecnici derivano dal modo in cui operano i sistemi. I rischi istituzionali derivano da dove le organizzazioni li impiegano e da quanta autorità ricevono.

I rischi politico-economici riguardano la proprietà, il potere contrattuale e la distribuzione dei costi. Una singola implementazione può includere tutte e tre le categorie, ma ciascuna richiede un intervento diverso.

Si consideri un modello usato per selezionare le candidature di lavoro. Potrebbe classificare inaccuratamente i candidati perché i suoi dati di addestramento rappresentano male determinati gruppi. Questo è in parte un problema di dati e valutazione.

Il datore di lavoro potrebbe anche usare la selezione automatizzata per gestire più candidature senza assumere altri selezionatori. Questa scelta organizzativa modifica scala e velocità delle assunzioni. Può ridurre le opportunità di revisione umana.

Una terza questione riguarda la responsabilità. Se i candidati respinti non possono contestare il sistema, l’istituzione ha assegnato potere senza un ricorso significativo. Nessun benchmark di accuratezza può creare il mancante diritto di appello.

Questa separazione non assolve i fallimenti tecnici. Chiarisce quali strumenti possano affrontarli. Test di sicurezza, valutazioni indipendenti, segnalazione degli incidenti e regole di responsabilità restano necessari quando i modelli creano danni prevedibili.

Tuttavia, questi controlli non possono ridistribuire la proprietà né ripristinare il potere contrattuale. Un sistema perfettamente accurato può comunque sostenere sorveglianza invasiva, politiche discriminatorie o una divisione iniqua dei guadagni di produttività.

La distinzione ricorda l’analisi tradizionale della sicurezza. Una vulnerabilità descrive una debolezza che qualcuno può sfruttare. Gli incentivi circostanti determinano chi cerca quella debolezza, chi ne beneficia e chi assorbe il danno.

Schneier analizza da tempo i sistemi attraverso gli incentivi, non soltanto il codice. Il suo lavoro si chiede come vengano sfruttate le regole e perché i partecipanti più potenti possano plasmarle. L’IA estende questa preoccupazione perché l’automazione aumenta velocità e portata dello sfruttamento.

Questa impostazione rende il saggio più di un’altra lista di rischi dell’IA. Mette in dubbio che la categoria chiamata “AI safety” sia diventata troppo ampia. Quando ogni conflitto sociale riceve quell’etichetta, le istituzioni tecniche acquisiscono autorità su decisioni fondamentalmente politiche.

Questo trasferimento conta perché ingegneri, sviluppatori di modelli e team aziendali per la sicurezza operano all’interno delle strutture proprietarie esistenti. Possono migliorare i sistemi lasciando intatti gli obiettivi della loro implementazione.

Il saggio cambia quindi l’unità di analisi. L’oggetto rilevante non è soltanto il modello. È il modello, il suo proprietario, il suo modello di business, i suoi utenti e l’istituzione che gli concede autorità.

I problemi tecnici richiedono ancora risposte tecniche

Separare i problemi del capitalismo da quelli tecnici funziona solo se i veri fallimenti ingegneristici restano visibili e perseguibili.

Gli attuali sistemi di IA possono produrre informazioni false, esporre dati sensibili, riprodurre schemi dannosi e comportarsi in modo imprevedibile al di fuori delle condizioni testate. Non sono difetti immaginari creati da una cattiva analisi economica. Sono proprietà osservabili dei sistemi implementati.

Una risposta inventata viene spesso chiamata allucinazione, ossia un output plausibile ma non supportato da prove affidabili. Sistemi di recupero delle informazioni, citazioni, strumenti vincolati e revisione umana possono ridurre il pericolo. Nessuno garantisce la verità in ogni condizione.

Anche il bias ha una componente tecnica. I dati di addestramento possono sottorappresentare popolazioni, preservare discriminazioni storiche o codificare proxy fuorvianti. I set di valutazione possono non rilevare questi fallimenti quando misurano la performance media anziché le conseguenze per i gruppi interessati.

La sicurezza introduce un ulteriore livello. Gli aggressori possono manipolare gli input del modello, estrarre informazioni protette, avvelenare i dati di addestramento o abusare di sistemi capaci su vasta scala. Gli sviluppatori necessitano di modellazione delle minacce, controlli di accesso, monitoraggio e procedure di risposta.

Il rapporto internazionale sulla sicurezza distingue varie forme di danno derivanti dall’IA avanzata. La sua analisi copre usi malevoli, fallimenti dei sistemi e rischi sistemici più ampi.

Questa ampiezza è utile, ma può anche confondere le responsabilità. Un modello che fa trapelare credenziali richiede un rimedio diverso da una società che monitora i dipendenti tramite software legittimo. Entrambi incidono sulla sicurezza, ma solo uno dipende principalmente dalla correzione del modello.

La stessa regola vale per i sistemi autonomi. Un agente IA può eseguire azioni tramite strumenti esterni anziché limitarsi a generare testo. Gli sviluppatori devono vincolare i permessi, verificare le azioni importanti e mantenere registri utili alle indagini.

Eppure la progettazione dei permessi non può rispondere alla domanda se un datore di lavoro debba tracciare ogni interazione dei lavoratori. Può rendere il sistema di sorveglianza più difficile da compromettere. Non può rendere equo il rapporto di sorveglianza.

Un’IA affidabile dipende anche dal contesto di implementazione. Un errore di sintesi in una lista personale di letture ha conseguenze limitate. Lo stesso errore in una cartella clinica o in una decisione sui sussidi richiede test e supervisione più rigorosi.

La regolamentazione dovrebbe riflettere queste differenze. Gli usi ad alto rischio necessitano di prove proporzionate al loro potenziale danno. Le organizzazioni non dovrebbero trattare una dichiarazione di non responsabilità generica come autorizzazione a implementare ovunque un sistema incerto.

Schneier e Sanders hanno già sostenuto che la società regola le tecnologie quando gli errori possono uccidere persone o negare servizi essenziali. Questa logica non richiede di congelare lo sviluppo. Richiede di definire obblighi prima che i fallimenti prevedibili diventino routine.

Gli standard tecnici possono sostenere tali obblighi. Gli sviluppatori possono documentare i metodi di addestramento, valutare le prestazioni in condizioni realistiche e segnalare gli incidenti gravi. Revisori indipendenti possono verificare affermazioni che i team interni potrebbero trascurare.

Anche le regole di approvvigionamento possono modificare i comportamenti. Un ente governativo o una grande azienda può richiedere tracciabilità, meccanismi di appello e controlli minimi di sicurezza. I fornitori competono quindi all’interno di un insieme più chiaro di aspettative pubbliche.

Queste misure affrontano il comportamento della tecnologia. Restano insufficienti quando un’organizzazione sceglie un obiettivo dannoso. Un sistema ottimizzato per massimizzare l’output dei lavoratori potrebbe funzionare esattamente come progettato, pur erodendo l’autonomia.

Questa differenza è facile da non cogliere perché il software traduce le politiche in parametri tecnici. Una dashboard può far sembrare neutra una richiesta manageriale. Un punteggio può far apparire una valutazione contestata come una misurazione.

Modelli migliori potrebbero persino intensificare il problema. Una maggiore accuratezza rende le organizzazioni più fiduciose nell’automazione. Può espandere l’implementazione prima che le istituzioni stabiliscano limiti significativi su dove debba risiedere l’autorità automatizzata.

L’agenda tecnologica deve quindi includere incertezza, uso improprio e sicurezza dei sistemi. Non dovrebbe assorbire questioni che gli ingegneri non hanno la legittimità di risolvere. Confini chiari rendono più forti entrambe le forme di supervisione.

I problemi del capitalismo dell’IA iniziano dagli incentivi

Molti degli esiti temuti dell’IA derivano dai normali incentivi a ridurre i costi, conquistare mercati e trasferire i rischi sulle persone con minore potere contrattuale.

Un’azienda non ha bisogno di un modello malevolo per eliminare posti di lavoro. Le bastano dirigenti che si aspettano che l’automazione riduca le spese per il lavoro. Il sistema può funzionare in modo affidabile mentre i lavoratori coinvolti non ricevono alcun guadagno di produttività.

L’economista Daron Acemoglu opera una distinzione correlata nella sua ricerca sui danni dell’IA. Sostiene che gli esiti dannosi non siano necessariamente intrinseci alla tecnologia IA. Possono derivare da scelte di sviluppo che favoriscono aziende e governi rispetto a lavoratori e cittadini.

Questo è un problema di capitalismo perché il mercato premia i rendimenti privati, non ogni beneficio sociale. Un’azienda considera il minor costo del personale un risparmio. Non considera automaticamente il reddito perso da un lavoratore sostituito come un proprio costo.

Gli economisti chiamano questo fenomeno esternalità, ossia un costo o beneficio imposto a persone esterne a una transazione. L’inquinamento offre l’esempio più noto. Un gestore può trarre profitto mentre i residenti vicini assorbono danni sanitari e ambientali.

L’IA può generare esternalità attraverso sostituzione del lavoro, sorveglianza, disinformazione, discriminazione e consumo di risorse. I miglioramenti tecnici possono ridurre alcuni costi. Non possono costringere l’azienda che li genera a pagare il conto rimanente.

La concorrenza può rendere la pressione più forte. Un’azienda potrebbe preferire un’implementazione più lenta e incentrata sui lavoratori. Teme comunque che un concorrente automatizzi più rapidamente e operi con costi inferiori.

Questa dinamica trasforma la scelta dei dirigenti in un problema di coordinamento. Ogni impresa risponde razionalmente all’interno del mercato, ma l’esito combinato può ridurre la sicurezza dei lavoratori. I programmi etici volontari faticano a contrastare tale incentivo.

I mercati degli investimenti creano pressioni simili. La corsa agli investimenti nell’AI è diventata uno dei più grandi boom d’investimento guidati dalla tecnologia nella storia americana. I ricercatori della Banca dei regolamenti internazionali ne confrontano le dinamiche competitive con quelle delle precedenti manie infrastrutturali.

L’analisi descrive una competizione in cui il vincitore prende quasi tutto. Le aziende possono investire eccessivamente perché ciascuna teme di perdere un mercato strategicamente importante. Il valore privato della vittoria può superare il ritorno sociale più ampio del progetto.

Questo aiuta a spiegare perché la spesa aziendale non dimostra un valore pubblico proporzionale. Enormi data center, cicli di addestramento dei modelli e pacchetti retributivi per i talenti riflettono la competizione strategica. Non dimostrano di per sé una maggiore produttività nell’intera economia.

L’Organizzazione Internazionale del Lavoro descrive un “paradosso dell’aggregazione” attorno alla produttività dell’AI. Gli studi a livello di singola attività possono rilevare guadagni sostanziali, mentre i risultati a livello aziendale e dell’economia nel suo complesso restano contrastanti. L’adozione favorisce inoltre le organizzazioni più grandi e digitalmente avanzate.

Questa discrepanza è importante per la tesi di Schneier sulla sicurezza. Uno strumento può rendere un singolo dipendente più rapido senza migliorare un’intera istituzione. I dirigenti potrebbero comunque ridurre il personale prima di capire se le prestazioni organizzative migliorano.

L’automazione può anche creare lavoro nascosto. I dipendenti devono controllare l’output dei modelli, correggere errori, recuperare il contesto mancante e gestire le eccezioni. Questi compiti raramente compaiono nelle dimostrazioni di prodotto.

I lavoratori affrontano un ulteriore problema di incentivi quando l’AI diventa un livello di monitoraggio. I sistemi possono misurare battiture, messaggi, chiamate, posizione o sentiment dedotto. I datori di lavoro acquisiscono informazioni, mentre i lavoratori perdono il controllo su come viene interpretato il loro comportamento.

Un’analisi dell’ILO sul luogo di lavoro collega la sorveglianza supportata dall’AI all’intensificazione del lavoro, alla riduzione dell’autonomia, a preoccupazioni per la privacy e a rischi psicosociali. Questi danni non richiedono un’intelligenza sovrumana.

Un modesto sistema di classificazione può classificare i lavoratori o segnalare comportamenti. Il suo valore economico deriva dall’estendere il controllo manageriale a un’ampia forza lavoro. Migliorare l’accuratezza della classificazione non risolve lo squilibrio di potere alla base.

L’AI per i consumatori presenta un problema correlato. Un assistente personale diventa più utile quando accede a messaggi, documenti, calendari e attività di navigazione. Tale accesso crea anche preziosi dati comportamentali e maggiori costi di passaggio a un altro servizio.

Gli utenti dovrebbero considerare dove risiedono le informazioni, chi può riutilizzarle e se gli incentivi di un servizio sono allineati alle loro esigenze. Una base di conoscenza personale può ridurre la frammentazione, ma architettura e governance determinano comunque chi mantiene il controllo.

La stessa tensione emerge nel lavoro creativo. I sistemi generativi possono aiutare gli scrittori a esplorare idee o rivedere bozze. Possono anche sostenere piattaforme che sostituiscono il lavoro retribuito con output sintetici più economici.

Non sono descrizioni contraddittorie della tecnologia. Sono diversi assetti della stessa capacità. Proprietà, contratti, tutele del lavoro e struttura del mercato determinano quale assetto diventa dominante.

Un’AI Migliore Non Garantisce Istituzioni Migliori

L’implicazione più scomoda è che un’AI più sicura e capace può rafforzare istituzioni i cui obiettivi restano irresponsabili.

Il dibattito pubblico spesso presume che accuratezza, allineamento e trasparenza renderanno l’AI socialmente vantaggiosa. Queste qualità contano, ma riguardano il comportamento del sistema. Non stabiliscono fini legittimi né risultati equi.

Immaginate un ente che eroga prestazioni sociali e usa un modello accurato per identificare i casi da indagare. Lo strumento potrebbe ridurre gli errori burocratici e rilevare schemi complessi. Potrebbe anche sottoporre i richiedenti vulnerabili a controlli maggiori rispetto a quelli affrontati altrove dai cittadini più ricchi.

La precisione del modello non risolve la questione se la priorità data ai controlli sia equa. Né decide quante prove debbano far scattare un’indagine. Sono scelte politiche compiute attraverso le istituzioni.

Uno strumento di sorveglianza affidabile crea la stessa tensione. Un migliore riconoscimento facciale può ridurre le false corrispondenze. Rende anche il tracciamento persistente più economico e più attraente per le autorità o gli operatori privati.

Più la tecnologia diventa potente, più diventano importanti queste questioni di autorizzazione. I sistemi deboli talvolta limitano ambizioni dannose attraverso la semplice incompetenza. Migliorarli può rimuovere quel vincolo accidentale.

Per questo il principale antagonista del saggio non è il capitalismo contro la tecnologia. È la correzione tecnica contro la riforma istituzionale. Il primo approccio diventa fuorviante quando viene presentato come una risposta completa.

I team aziendali di sicurezza dell’AI possono indagare sui fallimenti dei modelli e ridurre gli abusi. Di solito non possono decidere che un’intera strategia di ricavi debba scomparire. I loro budget e la loro autorità restano controllati dall’organizzazione che beneficia della diffusione.

Le verifiche esterne affrontano limiti simili. Un revisore può testare se un sistema soddisfa uno standard definito. Qualcuno deve comunque decidere cosa protegga lo standard e quali usi debbano restare proibiti.

La trasparenza aiuta gli osservatori a vedere il comportamento di un sistema. Non produce automaticamente potere contrattuale. Un lavoratore che comprende un punteggio automatizzato potrebbe restare impossibilitato a rifiutarlo senza perdere l’impiego.

Anche il consenso dell’utente può diventare puramente cerimoniale. Le persone accettano abitualmente politiche lunghe perché i servizi essenziali non lasciano alcuna alternativa pratica. Il consenso offre poca protezione quando una parte controlla l’accesso e le condizioni.

La concentrazione del mercato accentua questa debolezza. Addestrare modelli di grandi dimensioni richiede un’ampia infrastruttura informatica, accesso ai dati, lavoro specializzato e canali di distribuzione. Un piccolo gruppo di aziende può influenzare sia lo sviluppo tecnico sia le politiche ritenute accettabili.

La concentrazione può restringere le priorità di ricerca. Le aziende investono naturalmente in applicazioni che probabilmente produrranno ricavi o vantaggio strategico. Gli usi di interesse pubblico dai ritorni incerti ricevono meno sostegno, anche quando il loro valore sociale è elevato.

Schneier e Sanders sostengono l’AI pubblica come possibile risposta. Un’opzione pubblica fornirebbe modelli o infrastrutture governati attraverso istituzioni pubbliche. Potrebbe stabilire una base di riferimento che i fornitori privati dovrebbero eguagliare.

Questa proposta comporta rischi propri. I governi possono abusare dei dati, perseguire la sorveglianza o operare senza un’adeguata competenza tecnica. La proprietà pubblica non produce automaticamente responsabilità democratica.

Tuttavia, un’opzione pubblica modifica la struttura degli incentivi. Il suo obiettivo formale non deve massimizzare i ricavi pubblicitari, i rendimenti per gli investitori o il lock-in dei fornitori. La supervisione può concentrarsi su accesso, trasparenza, continuità e valore pubblico.

La politica della concorrenza offre un’altra strada. Le autorità possono esaminare acquisizioni, dipendenze dal cloud, partnership esclusive e pratiche che impediscono agli utenti di cambiare servizio. Questi interventi affrontano la struttura del mercato anziché i pesi dei modelli.

La politica del lavoro conta altrettanto. La contrattazione collettiva può dare ai lavoratori influenza sul monitoraggio, sui calendari di implementazione, sull’organico e sui guadagni di produttività. I diritti di preavviso e ricorso possono limitare la gestione automatizzata.

La politica fiscale può attribuire un prezzo alle esternalità che i mercati ignorano. Le norme ambientali possono richiedere rendicontazione accurata e misure di mitigazione. La responsabilità legale può riportare il costo di un’implementazione negligente verso le organizzazioni che la controllano.

Nessuna di queste politiche sostituisce la sicurezza tecnica. Operano a un livello diverso. I test di sicurezza chiedono se un sistema si comporterà come previsto. La riforma istituzionale chiede chi ha scelto quel comportamento e chi può contestarlo.

I critici possono ragionevolmente mettere in dubbio che ogni danno dell’AI appartenga al capitalismo. I governi autoritari possono implementare la sorveglianza senza incentivi di mercato. Le agenzie pubbliche possono automatizzare politiche ingiuste e le organizzazioni non profit possono abusare dei dati personali.

Anche i fallimenti tecnici modellano gli esiti politico-economici. Un modello inaffidabile può danneggiare in modo sproporzionato le persone che non dispongono di tempo, denaro o sostegno legale. Tecnologia e istituzioni interagiscono, anziché occupare categorie separate.

La distinzione proposta dal saggio dovrebbe quindi funzionare come strumento diagnostico, non come divisione assoluta. Gli analisti dovrebbero chiedersi quale meccanismo domini ciascun danno. Dovrebbero poi abbinare il rimedio a quel meccanismo.

Cosa Rivela il Confronto con la Rivoluzione Industriale

L’analogia industriale conta perché la storia dimostra che i guadagni di produttività non si distribuiscono da soli.

La forza a vapore ha ampliato la capacità della società di svolgere lavoro meccanico. Ha sostenuto fabbriche, trasporti, estrazione e produzione di massa. Si è però sviluppata anche all’interno di istituzioni che tolleravano luoghi di lavoro pericolosi, inquinamento ed estrema disuguaglianza nel potere contrattuale.

Queste condizioni non erano proprietà inevitabili della macchina a vapore. Riflettevano regole giuridiche, proprietà, potere politico e tutele deboli. La tecnologia ha aumentato la posta in gioco di questi assetti.

I lavoratori hanno infine conquistato standard di sicurezza, limiti all’orario di lavoro, diritti di contrattazione collettiva e assicurazioni sociali. I governi hanno sviluppato controlli ambientali e infrastrutture pubbliche. Nulla di tutto questo è emerso automaticamente da macchinari più efficienti.

L’AI crea un problema distributivo comparabile attorno alla produzione cognitiva. Se i sistemi riducono il costo dell’analisi, della scrittura, del coordinamento e della creazione di software, qualcuno catturerà quel surplus. Le regole esistenti influenzano fortemente chi sarà.

Le aziende possono distribuire i guadagni attraverso salari più alti, settimane lavorative più brevi, servizi migliori o prezzi più bassi. Possono anche convertirli in compensi per i dirigenti, espansione del mercato o rendimenti per i proprietari di capitale.

La storia suggerisce che le imprese raramente scelgano la distribuzione più ampia senza pressioni. I mercati competitivi possono abbassare i prezzi, ma solo in condizioni che sostengano una concorrenza reale. I lavoratori guadagnano quando le istituzioni del lavoro forniscono potere contrattuale.

L’analogia ha dei limiti. I macchinari industriali erano costosi, fisici e geograficamente vincolati. Il software generativo può diffondersi con velocità insolita attraverso servizi cloud e dispositivi esistenti.

L’AI è anche generalista e adattabile. Un singolo modello può supportare molte attività senza ricostruire una fabbrica. Questa flessibilità può accelerarne la diffusione rendendo al contempo più difficile individuare le responsabilità.

L’automazione cognitiva riguarda professioni che le macchine precedenti sostenevano anziché sostituire. Avvocati, programmatori, insegnanti, analisti, designer e funzionari pubblici si trovano ora davanti a sistemi rivolti direttamente a parti del loro lavoro.

L’unità rilevante è spesso l’attività anziché l’occupazione. Un lavoro comprende giudizio, comunicazione, produzione ordinaria, responsabilità e conoscenza interpersonale. L’AI può automatizzare componenti selezionati aumentando al contempo la domanda di altri.

Questo processo può potenziare i lavoratori o degradarne i ruoli. Un’infermiera potrebbe dedicare meno tempo alla documentazione dell’assistenza. Lo stesso sistema potrebbe imporre rigidi obiettivi di produttività e ridurre il tempo trascorso con i pazienti.

Un insegnante potrebbe usare l’AI per preparare esercizi differenziati. Un’istituzione potrebbe invece aumentare le dimensioni delle classi e aspettarsi che il tutoraggio automatizzato colmi il divario. La capacità resta simile, ma cambia l’obiettivo organizzativo.

Per questo i problemi del capitalismo dell’AI non possono essere previsti soltanto dai punteggi dei benchmark. Le prestazioni indicano ciò che diventa tecnicamente fattibile. Non rivelano quali implementazioni i dirigenti finanzieranno né quali tutele i legislatori imporranno.

L’analogia industriale mette anche in guardia dall’attendere la certezza. Le norme sul lavoro e sull’ambiente sono spesso arrivate dopo danni visibili. A quel punto, infrastrutture e modelli di proprietà erano diventati difficili da cambiare.

L’infrastruttura dell’AI si sta ora radicando nelle piattaforme cloud, nel software aziendale, nelle scuole e nei sistemi governativi. Le prime scelte in materia di approvvigionamento e interoperabilità possono determinare la dipendenza futura.

Le organizzazioni dovrebbero preservare opzioni di uscita. Hanno bisogno di dati portabili, registri chiari, canali di ricorso umani e della possibilità di sostituire i fornitori. Queste tutele riducono il costo di correggere una cattiva scelta istituzionale.

Anche i lavoratori della conoscenza dovrebbero distinguere tra assistenza utile e autorità delegata. Un modello può aiutare a cercare documenti o a redigere opzioni. La responsabilità finale dovrebbe restare identificabile quando le decisioni incidono su diritti, occupazione, salute o sicurezza.

La lezione industriale non è che l’AI garantisca un altro secolo di sfruttamento. È che gli esiti sociali richiedono una costruzione istituzionale deliberata. Il progresso tecnico fornisce capacità, non giustizia.

Tre segnali metteranno alla prova l’argomento di Schneier sulla sicurezza

L’argomento si rafforzerà se le istituzioni regoleranno gli incentivi al deployment con la stessa serietà con cui regolano le prestazioni dei modelli.

Il primo segnale sarà se i governi adotteranno regole applicabili per gli usi ad alto impatto. Occorre osservare gli standard di approvvigionamento, i diritti di ricorso, la responsabilità legale e le restrizioni alla sorveglianza sul lavoro o nel settore pubblico.

I soli requisiti di test dei modelli indebolirebbero la risposta istituzionale. Implicherebbero che il deployment diventi accettabile una volta che un sistema supera una soglia prestazionale. Questo approccio lascia in gran parte intatti scopo, autorità e potere.

Le regole che disciplinano i diritti decisionali sosterrebbero Schneier e Sanders. Una persona colpita da un giudizio automatizzato dovrebbe sapere che è stata usata l’automazione. Dovrebbe inoltre avere accesso a un riesame significativo da parte di un’istituzione responsabile.

Il secondo segnale riguarda il modo in cui le aziende distribuiscono i guadagni di produttività misurabili. Occorre osservare le decisioni sul personale, l’intensità del lavoro, i salari, gli orari e i prezzi, insieme alle dichiarazioni su una produzione più rapida.

Un’azienda che usa l’AI per accorciare la settimana lavorativa senza ridurre la retribuzione propone un modello istituzionale. Un’azienda che riduce il personale aumentando al contempo il monitoraggio ne propone un altro. Entrambe potrebbero adottare software tecnicamente simile.

Restano essenziali prove affidabili. I miglioramenti di velocità a livello di singola attività non dovrebbero essere trattati come produttività dell’intera economia. Le organizzazioni devono conteggiare il lavoro di verifica, i costi di integrazione, gli errori e la perdita di competenze.

Il terzo segnale sarà se le alternative a un’infrastruttura aziendale concentrata diventeranno credibili. Modelli pubblici, standard aperti, servizi interoperabili e mercati cloud competitivi possono ridurre la dipendenza da pochi fornitori.

L’AI pubblica deve essere valutata con cautela. Governance, privacy, sicurezza, finanziamenti e supervisione indipendente contano più dell’etichetta pubblica. Un sistema statale mal governato può riprodurre la stessa concentrazione con una proprietà diversa.

Ciononostante, alternative credibili cambierebbero le dinamiche negoziali. I fornitori privati subirebbero pressioni per offrire maggiore trasparenza, portabilità e accesso nel lungo periodo. Gli utenti disporrebbero di opzioni diverse dall’accettare le condizioni in evoluzione di una sola azienda.

I prossimi mesi non risolveranno l’effetto dell’AI sulla società. L’integrazione nei luoghi di lavoro e nelle amministrazioni pubbliche si svilupperà nel corso degli anni. Le scelte iniziali stabiliranno comunque impostazioni predefinite che diventeranno costose da invertire.

I lettori dovrebbero applicare la distinzione di Schneier sulla sicurezza ogni volta che emerge una nuova controversia sull’AI. Dovrebbero prima chiedersi se il danno derivi dal comportamento tecnico, dall’autorità di deployment o dagli incentivi economici. Poi dovrebbero chiedersi chi trae vantaggio dal definirlo un problema di ingegneria.

Quest’ultima domanda conta perché le categorie distribuiscono la responsabilità. Se un conflitto di lavoro diventa una “questione di allineamento”, gli sviluppatori dei modelli sembrano possedere la soluzione. Datori di lavoro, investitori e legislatori passano in secondo piano.

Una risposta utile deve mantenere visibile ogni attore responsabile. Gli sviluppatori dovrebbero rendere i sistemi più sicuri e affidabili. Chi effettua il deployment dovrebbe giustificare i propri usi, e i governi dovrebbero stabilire diritti che i mercati non forniranno.

Il punto non è assolvere l’AI né condannare ogni mercato. È smettere di aspettarsi che un software migliore ripari una distribuzione contestata del potere. Le soluzioni tecniche possono migliorare le macchine, ma le persone devono comunque riformare le istituzioni che le dirigono.

Quale livello la vostra organizzazione considera oggi un problema di AI? Identificate un fallimento tecnico, una decisione di deployment e un incentivo che lo influenza. Assegnate ciascuno a un responsabile identificabile, poi verificate se il rimedio proposto raggiunge la causa reale.