La richiesta di Andy Burnham di vietare l'IA superintelligente mette alla prova il controllo della Gran Bretagna sui laboratori di frontiera

Andy Burnham affronta la richiesta di oltre 70 legislatori di vietare la superintelligenza artificiale, nonostante il limitato controllo della Gran Bretagna sulla corsa globale all'IA. La campagna per il divieto dell'IA superintelligente di Andy Burnham segue gli avvertimenti di ricercatori legati ad Anthropic e OpenAI. I suoi sostenitori affermano che i governi non possono aspettare che un sistema diventi incontrollabile prima di introdurre barriere legali.

La proposta prende di mira la superintelligenza artificiale, o ASI, ossia un sistema ipotetico che superi le capacità umane nella maggior parte dei compiti cognitivi importanti. Nessun modello disponibile pubblicamente soddisfa questa descrizione. Tuttavia, i promotori sostengono che attendere prove definitive lascerebbe i decisori politici a reagire dopo che gli sviluppatori hanno superato una soglia pericolosa.

Questa argomentazione pone il governo di Burnham davanti a una scelta insolitamente netta. Può considerare gli avvertimenti come motivo per un divieto, oppure continuare a costruire la supervisione attorno a valutazioni, controlli di sicurezza e distribuzioni limitate. La seconda strada somiglia ai quadri normativi favoriti dai laboratori di frontiera e dai regolatori europei. La prima presuppone che tali garanzie diventeranno inaffidabili una volta che l'IA potrà accelerare il proprio sviluppo.

Non si tratta semplicemente di un'altra disputa sull'accuratezza dei chatbot o sul diritto d'autore. Si chiede se i governi debbano regolamentare i rischi misurabili dei sistemi esistenti oppure vietare una capacità che non è stata ancora dimostrata. La risposta influenzerebbe sviluppatori, fornitori cloud, acquirenti aziendali e ogni organizzazione che pianifica attorno a un'IA più autonoma.

Cosa cambierebbe l'Artificial Superintelligence Bill

La proposta sostituirebbe una supervisione condizionale con un confine legale contro lo sviluppo, la distribuzione o l'operatività di sistemi superintelligenti.

Il deputato laburista Alex Sobel ha presentato l'Artificial Superintelligence Bill alla Camera dei Comuni l'8 settembre 2026. Il suo titolo lungo chiede di vietare lo sviluppo, la distribuzione e l'operatività dell'ASI. Propone inoltre poteri di monitoraggio e controllo relativi a tali sistemi.

Il registro parlamentare conferma che Sobel è il promotore del disegno di legge. La seconda lettura è prevista per il 13 novembre 2026. Il disegno di legge ha completato solo la prima lettura, quindi è ancora lontano dal diventare legge.

Secondo la lettera riportata, più di 70 parlamentari e membri della Camera dei Lord hanno successivamente chiesto a Burnham di sostenere la misura. Tra i firmatari figurerebbero 15 ex ministri del governo e l'ex capo della funzione pubblica Robin Butler. Provengono da Labour, Conservatori, Liberal Democratici e Scottish National Party.

Questa ampiezza conferisce alla campagna visibilità politica, ma non stabilisce una maggioranza parlamentare. Né risolve il problema definitorio centrale del disegno di legge. Un divieto richiede un criterio applicabile per decidere quando un sistema di IA avanzato diventa superintelligente.

La descrizione pubblica del disegno di legge identifica la destinazione vietata più chiaramente del confine che vi conduce. Gli sviluppatori non addestrano sistemi secondo etichette stabili quali IA ordinaria, IA avanzata e poi ASI. Migliorano i modelli attraverso combinazioni mutevoli di capacità di calcolo, dati, strumenti, memoria e accesso a sistemi esterni.

Un modello potrebbe rimanere al di sotto di una soglia di intelligenza generale pur diventando pericoloso in un singolo ambito. Potrebbe contribuire ad automatizzare operazioni informatiche, ricerca biologica o ingegneria dell'IA senza superare l'umanità in ogni campo. Al contrario, un modello dalle capacità ampie potrebbe restare limitato da scarsa affidabilità, accesso ristretto o costi operativi elevati.

Queste distinzioni contano perché una legge rivolta solo all'ASI potrebbe non cogliere rischi gravi posti da sistemi più circoscritti. Una legge con una definizione ampia potrebbe includere ricerca e applicazioni che i sostenitori non hanno mai inteso vietare. Il monitoraggio dello sviluppo solleva anche interrogativi sull'accesso a valutazioni private, pesi dei modelli, data center e infrastrutture di calcolo.

La proposta di Sobel modifica dunque la questione politica prima di modificare il comportamento dei laboratori. La supervisione attuale chiede quali prove e garanzie debbano accompagnare un modello più capace. Il disegno di legge chiede se esista una categoria di capacità che la società dovrebbe rifiutarsi di creare, indipendentemente dalle garanzie.

I suoi sostenitori vogliono che Burnham porti questo principio oltre la Gran Bretagna. Lo hanno esortato a usare la presidenza britannica del G20 del 2027 per riunire una coalizione internazionale. Questa ambizione diplomatica è essenziale perché un divieto nazionale non vincolerebbe i laboratori attivi negli Stati Uniti, in Cina o in altri mercati.

Il governo ha già segnalato la propria opposizione. Un portavoce ha dichiarato al Guardian che i ministri non ritenevano le misure del disegno di legge l'approccio giusto. Il portavoce ha aggiunto che il governo stava esplorando interventi mirati per rischi significativi per la sicurezza nazionale legati all'IA.

Questa risposta lascia spazio a controlli più rigorosi senza accettare un divieto. Inoltre prepara il conflitto principale dell'articolo. I legislatori vogliono un confine netto prima che esista l'ASI, mentre il governo preferisce interventi legati a rischi identificabili.

Perché il divieto dell'IA superintelligente di Andy Burnham arriva ora

La campagna ha acquisito urgenza perché gli avvertimenti provengono ora da persone vicine allo sviluppo di frontiera, non solo da gruppi di advocacy esterni.

L'intervento dei legislatori ha seguito affermazioni pubbliche di attuali ed ex dipendenti di laboratori di IA. Evan Hubinger, ricercatore senior di Anthropic, avrebbe stimato la probabilità che l'IA causi l'estinzione umana oltre il 10 per cento. Tale stima riflette un giudizio personale, non un tasso di fallimento misurato né un consenso scientifico.

Jacob Coxon, ricercatore di Anthropic di 28 anni che in precedenza aveva lavorato presso OpenAI, si è dimesso anch'egli nella stessa settimana. Ha affermato che nessuna delle due aziende agiva responsabilmente e ha descritto la competizione per un'IA avanzata come una scommessa con vite umane. Tali accuse non hanno dimostrato che uno dei due laboratori abbia creato un'ASI o perso il controllo di un modello distribuito.

Ciononostante, gli avvertimenti provenienti dall'interno hanno forza politica. Suggeriscono che le persone con accesso alla ricerca avanzata non ripongono uniformemente fiducia nella governance volontaria. Mettono inoltre in discussione un'argomentazione comune secondo cui le preoccupazioni sui rischi esistenziali derivino soprattutto da esterni che fraintendono la tecnologia attuale.

Anthropic riconosce pubblicamente categorie di rischio catastrofico, sebbene la sua politica non sostenga un divieto generale. Il suo quadro di rischio aggiornato collega capacità più forti a requisiti più rigorosi di valutazione, sicurezza e distribuzione. L'azienda pubblica inoltre rapporti sui rischi che coprono minacce chimiche, biologiche, di sabotaggio e di ricerca automatizzata.

Questo quadro illustra entrambi i lati del dibattito. I sostenitori del divieto possono indicarlo come prova che uno sviluppatore leader riconosce pericoli gravi. I sostenitori dello sviluppo regolamentato possono citare lo stesso quadro come prova che soglie di capacità e garanzie crescenti offrono un'alternativa.

La distinzione è importante. Una stima probabilistica sull'estinzione futura non dimostra che un sistema attuale presenti quella probabilità. Combina ipotesi su capacità future, velocità di sviluppo, comportamento competitivo, garanzie e risposte dei governi.

Queste ipotesi restano contestate. Andrew Rogoyski del Surrey Institute for People-Centred AI ha dichiarato al Guardian che i sistemi attuali restano molto meno versatili dei singoli esseri umani o dei gruppi. Ha sostenuto che l'IA avanzata potrebbe invece incontrare una delusione economica perché rimane costosa e non sufficientemente utile.

David Barber, direttore del laboratorio di ricerca Sofair sostenuto dallo Stato, ha inoltre messo in guardia dall'abbandonare applicazioni di IA di valore. La sua posizione si è concentrata sul controllo dell'accesso ai sistemi e sulla correzione delle vulnerabilità software. Rappresenta un approccio pratico alla sicurezza, anziché accettare uno sviluppo senza restrizioni o un divieto completo.

Questo disaccordo non è tra persone che riconoscono il rischio e persone che lo ignorano. Riguarda quali rischi meritino priorità politica e quali prove debbano attivare una restrizione. I ricercatori possono concordare sul fatto che i sistemi autonomi richiedano controlli più forti pur non essendo d'accordo sull'imminenza dell'ASI.

La tempistica ha amplificato la disputa. Gli sviluppatori descrivono sempre più spesso agenti IA in grado di usare strumenti, scrivere codice, condurre ricerche e completare flussi di lavoro più lunghi. Un agente è un sistema basato su modelli che agisce attraverso più passaggi anziché rispondere a un singolo prompt.

Un'autonomia più lunga crea ulteriori percorsi di fallimento. Un sistema può interpretare erroneamente un obiettivo, nascondere un errore, sfruttare autorizzazioni eccessive o continuare a operare dopo che il suo output diventa inaffidabile. Questi comportamenti non dimostrano la superintelligenza, ma rendono le questioni di controllo meno astratte.

La ricerca assistita dall'IA aggiunge un'altra preoccupazione. Se i sistemi migliorano sostanzialmente la produttività dei ricercatori di IA, i cicli di sviluppo potrebbero accorciarsi. I regolatori avrebbero quindi meno tempo per valutare ciascuna generazione prima dell'arrivo della successiva.

La politica di Anthropic monitora specificamente la ricerca e lo sviluppo automatizzati dell'IA come potenziale soglia di capacità. Afferma che le decisioni diventano più difficili quando i laboratori devono valutare modelli che contribuiscono alla costruzione di successori più potenti. Questo ciclo di feedback è centrale nell'urgenza dei legislatori.

La richiesta di Andy Burnham di vietare l'IA superintelligente risponde quindi a una finestra percepita come in chiusura. I sostenitori ritengono che la regolamentazione debba arrivare prima che la ricerca sull'IA inizi ad accelerare se stessa. I critici rispondono che l'accelerazione prevista resta incerta e non dovrebbe giustificare il divieto di una tecnologia non definita.

Il vero confronto è tra divieto e sviluppo condizionale

Lo scontro centrale riguarda se un'incertezza estrema giustifichi l'arresto dello sviluppo o la costruzione di controlli che si inaspriscono al mutare delle prove.

Un divieto applica il principio di precauzione nella sua forma più rigorosa. Se un sistema potrebbe diventare impossibile da controllare e il suo fallimento potrebbe essere irreversibile, i sostenitori sostengono che gli sviluppatori dovrebbero sostenere l'onere di dimostrarne la sicurezza. La società non dovrebbe sostenere l'onere di dimostrare una catastrofe dopo la distribuzione.

Lo sviluppo condizionale inverte questa logica. Consente la ricerca imponendo al contempo valutazioni, misure di sicurezza, segnalazione degli incidenti e restrizioni alla distribuzione a soglie definite. I governi possono intervenire quando le prove mostrano che un modello presenta un rischio inaccettabile.

Le istituzioni britanniche esistenti seguono la seconda strada. L'AI Security Institute studia capacità avanzate, conduce valutazioni e sviluppa mitigazioni. La sua agenda di ricerca pubblicata dà priorità alle minacce informatiche, ai rischi chimici e biologici, all'uso criminale improprio e ai sistemi autonomi.

L'istituto ha uno scopo che va oltre la mera consulenza. Fornisce al governo capacità tecniche per verificare le affermazioni degli sviluppatori. Può inoltre aiutare i funzionari a distinguere una plausibile minaccia alla sicurezza nazionale da uno scenario speculativo.

Tuttavia, le valutazioni dipendono dall'accesso. Un governo non può esaminare indipendentemente un sistema di frontiera quando il suo sviluppatore rifiuta di fornire il modello prima del rilascio. Il Guardian ha riportato preoccupazioni secondo cui Anthropic non avesse sottoposto un modello recente a test prima del rilascio, sebbene fosse disponibile solo un accesso esterno limitato.

Quell’episodio mette in luce una debolezza della cooperazione volontaria. Un laboratorio può sostenere in linea di principio la ricerca sulla sicurezza, limitando al contempo l’accesso a un modello commercialmente sensibile. I valutatori governativi ricevono quindi una visione incompleta di capacità in rapida evoluzione.

I sostenitori del divieto vedono questa dipendenza come una prova contro lo sviluppo condizionato. Se la supervisione si basa sul consenso degli sviluppatori, i regolatori potrebbero perdere visibilità proprio quando il controllo è più importante. La pressione competitiva potrebbe inoltre scoraggiare le aziende dal ritardare un modello che i rivali si stanno preparando a rilasciare.

Gli sviluppatori vedono un problema diverso. Gestiscono i pesi dei modelli, dettagli di sicurezza e valutazioni non pubblicate che potrebbero creare rischi se condivisi ampiamente. L’accesso prima del rilascio deve proteggere la proprietà intellettuale e impedire la fuga di informazioni sulle capacità sensibili.

Un sistema di supervisione praticabile deve affrontare entrambe le preoccupazioni. Deve garantire un accesso legittimo ai valutatori di fiducia e una sicurezza rigorosa attorno a ciò che esaminano. Deve inoltre prevedere conseguenze quando uno sviluppatore rifiuta i test obbligatori.

L’Unione europea offre una versione concreta della regolamentazione condizionata. Le sue norme sul rischio sistemico impongono ai fornitori di modelli avanzati di uso generale di valutare e mitigare i rischi. I fornitori interessati devono inoltre segnalare gli incidenti gravi e mantenere protezioni di cybersicurezza.

Il quadro europeo usa la potenza di calcolo per l’addestramento come uno dei criteri per identificare i modelli presumibilmente a rischio sistemico. Questo è amministrativamente più chiaro del concetto di superintelligenza. La potenza di calcolo può essere documentata, pur restando un indicatore imperfetto delle capacità.

Una soglia di calcolo può non rilevare modelli efficienti che raggiungono capacità pericolose con meno risorse. Può anche includere costosi cicli di addestramento che non producono rischi corrispondenti. I regolatori hanno quindi bisogno di valutazioni delle capacità accanto alle misurazioni dell’infrastruttura.

Il disegno di legge sull’ASI stabilirebbe un traguardo più assoluto. Tuttavia, anche il divieto richiede misurazioni intermedie. Le autorità dovrebbero identificare i progetti interessati prima che gli sviluppatori completino o distribuiscano il sistema proibito.

Ciò significa che entrambe le strade dipendono in ultima analisi dal monitoraggio dei laboratori e dell’infrastruttura di calcolo. La differenza riguarda ciò che accade dopo che i regolatori rilevano capacità in accelerazione. Lo sviluppo condizionato richiede salvaguardie più forti, mentre il divieto richiede che il lavoro si fermi prima di una soglia specificata.

Il dibattito riguarda anche le organizzazioni ordinarie che usano l’IA. Le aziende connettono sempre più spesso i modelli a repository, registri finanziari, dati dei clienti e comunicazioni interne. I loro rischi immediati riguardano autorizzazioni, privacy, output inaccurati e azioni automatizzate inaffidabili.

Questi rischi meritano controlli indipendentemente dalle tempistiche dell’ASI. I team dovrebbero registrare quali modelli gestiscono informazioni sensibili, a quali strumenti tali modelli possono accedere e chi esamina le azioni con conseguenze rilevanti. Una base di conoscenza IA consultabile può aiutare a preservare politiche, valutazioni e prove degli incidenti man mano che i requisiti cambiano.

Tuttavia, i controlli aziendali non possono risolvere la principale preoccupazione dei legislatori. Un’azienda può limitare le proprie distribuzioni, ma non può governare l’addestramento di frontiera altrove. Ciò richiede autorità statale e coordinamento internazionale.

Un divieto britannico non può fermare da solo una corsa globale

L’obiezione più forte non è che il rischio catastrofico sia impossibile, ma che un divieto nazionale potrebbe spostare lo sviluppo senza ridurre il pericolo globale.

La maggior parte dello sviluppo di modelli di frontiera avviene al di fuori della Gran Bretagna. Un divieto nel Regno Unito potrebbe impedire i progetti nazionali e limitare la distribuzione locale, ma i laboratori in altre giurisdizioni potrebbero continuare ad addestrare sistemi più capaci. Gli utenti britannici potrebbero infine accedere a quei modelli tramite servizi esteri o rilasci aperti.

I sostenitori conoscono questa limitazione. La loro lettera chiede a Burnham di trasformare la proposta in una campagna internazionale durante la presidenza britannica del G20. Il meccanismo previsto è il coordinamento diplomatico, non l’isolamento nazionale.

Questa strategia ricorda gli sforzi per il controllo degli armamenti, ma l’IA presenta problemi di verifica distinti. I programmi nucleari richiedono materiali specializzati e impianti industriali visibili. L’IA avanzata richiede anch’essa grandi data center e chip di fascia alta, ma i modelli possono essere copiati e utilizzati oltre confine.

Un trattato richiederebbe definizioni condivise, obblighi di segnalazione, diritti di ispezione e applicazione delle norme. Richiederebbe inoltre un accordo sulle attività che restano consentite. La scoperta medica, la cybersicurezza difensiva e la modellazione scientifica possono usare gli stessi metodi di ricerca sottostanti dei sistemi più preoccupanti.

I Paesi partecipanti affronterebbero un problema di incentivi. Ogni governo potrebbe preferire una limitazione collettiva, temendo però che i rivali continuino in segreto. Le aziende potrebbero fare lo stesso calcolo quando i concorrenti promettono prodotti più capaci.

Gli Stati Uniti e la Cina sarebbero particolarmente importanti. Una coalizione senza i maggiori fornitori di calcolo, le catene di fornitura dei chip e i laboratori di frontiera avrebbe una portata limitata. I controlli sulle esportazioni potrebbero rallentare l’accesso all’hardware, ma non sostituirebbero obblighi di sicurezza comuni.

Questo non rende priva di significato l’azione britannica. Il Regno Unito può influenzare gli standard tecnici, le pratiche di valutazione, gli appalti e l’accesso al proprio mercato. Può inoltre richiedere alle aziende che servono utenti britannici di segnalare gli incidenti e collaborare ai test autorizzati.

La Gran Bretagna ha svolto un ruolo iniziale di convocazione attraverso l’AI Safety Summit del 2023 a Bletchley Park. Da allora, il suo AI Security Institute ha sviluppato competenze tecniche e relazioni internazionali. Queste risorse conferiscono al governo un’influenza maggiore di quanto suggerisca la sua sola quota di addestramento di modelli di frontiera.

Tuttavia, il divieto sull’IA superintelligente proposto da Andy Burnham metterebbe alla prova la capacità dell’influenza diplomatica di sopravvivere a una politica assoluta. Alcuni governi potrebbero aderire a un divieto ristretto sui sistemi che soddisfano criteri di perdita di controllo chiaramente definiti. Meno governi potrebbero accettare un divieto definito da un’ampia superiorità rispetto agli esseri umani.

L’applicazione delle norme dovrebbe inoltre affrontare i modelli aperti. Una volta che i pesi dei modelli diventano pubblicamente disponibili, i regolatori non possono ritirarne ogni copia. Un divieto concentrato esclusivamente sulla distribuzione da parte di grandi aziende potrebbe lasciare intatta l’operatività decentralizzata.

I fornitori cloud potrebbero diventare punti di applicazione. Le autorità potrebbero richiedere la segnalazione di cicli di addestramento molto grandi e limitare i servizi di calcolo per progetti proibiti. Il tracciamento dei chip e le licenze per i data center potrebbero aggiungere ulteriore visibilità.

Tali controlli imporrebbero costi. Potrebbero concentrare lo sviluppo dell’IA tra le aziende consolidate in grado di gestire la conformità normativa. Ricercatori più piccoli potrebbero avere difficoltà con obblighi di segnalazione, sicurezza e autorizzazione anche quando il loro lavoro presenta rischi limitati.

Una legge ristretta può ridurre questo onere prendendo di mira soglie di capacità misurabili. Una legge ampia può ridurre l’elusione, ma rischia di includere troppo. L’avanzamento del disegno di legge dipenderà dalla capacità delle sue disposizioni dettagliate di risolvere questa tensione.

Esiste anche un argomento geopolitico contro l’interruzione. Alcuni decisori politici ritengono che l’IA avanzata migliorerà la difesa, la scienza, la produttività e l’analisi d’intelligence. Temono che una moderazione unilaterale trasferirebbe il vantaggio strategico a governi con salvaguardie più deboli.

I sostenitori del divieto rispondono che una corsa agli armamenti aumenta, anziché ridurre, l’insicurezza nazionale. Se ogni partecipante accelera perché gli altri potrebbero accelerare, tutti i laboratori subiscono pressioni per abbreviare i test e tollerare l’incertezza. Il risultato può essere collettivamente pericoloso anche quando ogni attore si comporta razionalmente.

Nessuna delle due parti dispone di prove decisive sulle tempistiche dell’ASI. Nessun sistema pubblico verificato attualmente supera gli esseri umani in praticamente tutto il lavoro cognitivo. I modelli esistenti continuano ad avere allucinazioni, falliscono nei compiti lunghi e richiedono un ampio supporto umano e computazionale.

Queste debolezze non garantiscono un progresso graduale. Né dimostrano che il rapido auto-miglioramento sia vicino. La politica deve operare tra queste due incertezze.

Ecco perché la questione nazionale contro globale conta più della previsione più drammatica. Un divieto britannico può affermare immediatamente un principio. Riduce il rischio mondiale solo se modifica il comportamento nelle giurisdizioni che costruiscono sistemi di frontiera.

Cosa non dimostrano gli avvertimenti sull’IA superintelligente

Avvertimenti gravi giustificano un’indagine, ma non dimostrano che l’ASI esista, che l’estinzione sia probabile o che il divieto sia applicabile.

La stima di probabilità riportata, superiore al 10 per cento, è notevole. Non dovrebbe essere interpretata come una previsione derivata da osservazioni ripetute. L’umanità non dispone di un insieme di dati storici sui sistemi superintelligenti da cui calcolare una frequenza empirica di estinzione.

Tali stime di solito riassumono le convinzioni di un esperto su diversi passaggi incerti. Questi passaggi includono il raggiungimento di capacità ampiamente sovrumane, la perdita di un controllo affidabile, l’ottenimento di accesso al mondo reale, la resistenza all’intervento e la causazione di danni irreversibili.

Ogni passaggio richiede prove. Un modello potrebbe diventare molto migliore nella programmazione senza acquisire autonomia strategica. Un sistema autonomo potrebbe pianificare efficacemente pur rimanendo limitato da autorizzazioni, infrastrutture o revisione umana.

L’errore opposto sarebbe liquidare un rischio perché privo di frequenza storica. I governi si preparano abitualmente a eventi rari quando il danno potenziale è enorme. La risposta appropriata dipende dalla capacità dei funzionari di identificare percorsi credibili e interventi utili.

Le prove attuali giustificano preoccupazione per pericoli più circoscritti. I modelli avanzati possono assistere nelle operazioni informatiche, abbassare le barriere per alcune conoscenze tecniche e agire tramite strumenti connessi. I ricercatori studiano inoltre se i modelli possano ingannare i valutatori o perseguire obiettivi non intenzionali in condizioni controllate.

I test di laboratorio non dimostrano direttamente che un sistema distribuito sfuggirà al controllo. Rivelano comportamenti che meritano indagini in condizioni sempre più realistiche. La comunicazione dovrebbe preservare questa distinzione.

Il dibattito rischia inoltre di trascurare i danni presenti. Le decisioni automatizzate possono discriminare, esporre informazioni private, produrre falsità persuasive o eliminare la responsabilità umana. Lavoratori e creatori affrontano già controversie economiche e legali legate all’IA generativa.

Una politica incentrata sull’estinzione futura potrebbe distogliere l’attenzione da questi problemi. Al contrario, i danni attuali non dovrebbero diventare un motivo per ignorare scenari catastrofici a bassa probabilità. I governi hanno bisogno di strumenti separati per diverse categorie di rischio.

Le definizioni presentano un’altra incertezza. “Superintelligenza” sembra precisa perché implica prestazioni superiori a quelle dell’umanità. In pratica, le prestazioni umane variano tra individui, team, istituzioni e compiti.

Un sistema potrebbe superare ogni individuo in benchmark selezionati pur restando peggiore di un’organizzazione coordinata di esperti. Potrebbe produrre piani migliori ma non riuscire a eseguirli in modo affidabile. Potrebbe anche superare tecnicamente gli esseri umani senza avere accesso indipendente a sistemi con conseguenze rilevanti.

I legislatori hanno quindi bisogno di test operativi, non soltanto di una definizione filosofica. Tali test potrebbero esaminare ricerca autonoma, capacità informatiche, assistenza biologica, pianificazione strategica, inganno, replicazione e resistenza allo spegnimento.

I test stessi possono essere manipolati o diventare obsoleti. Gli sviluppatori possono addestrarsi sui benchmark noti senza migliorare l’affidabilità generale. I regolatori hanno bisogno di valutazioni riservate, ricercatori esterni, dati sugli incidenti e autorità per aggiornare le soglie.

La posizione del governo sugli interventi mirati presenta qui un vantaggio. Può collegare i controlli a prove specifiche senza dichiarare in anticipo una categoria permanente. La sua debolezza è che l’azione incrementale può restare indietro rispetto a rapidi guadagni di capacità.

Il fronte proibizionista presenta il profilo opposto. Stabilisce una chiara presunzione contraria al superamento di una soglia pericolosa. La sua debolezza consiste nel tradurre quel principio in una definizione applicabile da tribunali, laboratori e ispettori.

Queste incertezze dovrebbero orientare il modo in cui i lettori interpretano la campagna. I legislatori hanno elevato una legittima questione di governance. Non hanno dimostrato che un evento di estinzione sia imminente entro una tempistica nota.

Non hanno nemmeno dimostrato che le attuali misure di sicurezza volontarie siano inutili. Le politiche di Anthropic includono soglie di capacità, rapporti sui rischi, controlli sul deployment e requisiti di sicurezza. La questione controversa è se un'azienda debba mantenere l'autorità finale sulle decisioni di sviluppo.

Questa distinzione conta per gli acquirenti aziendali. Un framework di sicurezza pubblicato offre informazioni utili, ma non equivale a una certificazione indipendente. Gli acquirenti dovrebbero chiedere quali valutazioni esterne siano state svolte, quali incidenti debbano essere segnalati e a quali accessi disponga un agente.

Dovrebbero inoltre evitare di trattare l'intelligenza dei modelli come un unico punteggio. Affidabilità, autonomia, sicurezza e capacità specifiche di dominio si sviluppano a velocità diverse. Un sistema che eccelle nei benchmark può comunque fallire all'interno di un flusso di lavoro lungo e basato su autorizzazioni.

Lo scetticismo dovrebbe applicarsi in entrambe le direzioni. Gli sviluppatori non dovrebbero insinuare che i controlli interni eliminino il rischio catastrofico. I promotori della campagna non dovrebbero presentare stime probabilistiche personali come prova dell'imminenza dell'ASI.

Tre segnali che mostreranno se l'approccio di Burnham è credibile

Il prossimo banco di prova sarà capire se la Gran Bretagna trasformerà gli avvertimenti contrastanti in politiche applicabili, supervisione misurabile e impegni internazionali.

Il primo segnale è la seconda lettura del disegno di legge, il 13 novembre 2026. I legislatori dovranno andare oltre il principio del divieto e difendere una definizione operativa. Il dibattito dovrebbe chiarire quali capacità attivano l'intervento e quale autorità prende tale decisione.

Definizioni dettagliate rafforzerebbero la campagna per il divieto. Un linguaggio vago incentrato sulla superiorità generale la indebolirebbe. Senza soglie misurabili, l'applicazione potrebbe diventare incoerente o vulnerabile a contestazioni legali.

Il secondo segnale è il lavoro promesso dal governo su interventi mirati per la sicurezza nazionale. I ministri hanno respinto l'attuale approccio del disegno di legge, ma non hanno chiuso la porta a controlli più rigorosi. Il contenuto di queste alternative mostrerà se il rifiuto significhi una diversa strategia di sicurezza o una continua dipendenza dalla cooperazione volontaria.

Un pacchetto credibile affronterebbe l'accesso obbligatorio alle valutazioni, la segnalazione degli incidenti, la sicurezza dei modelli e le conseguenze della non conformità. Dovrebbe inoltre spiegare come l'AI Security Institute ottenga un accesso tempestivo ai sistemi di frontiera.

Se il governo fornirà soltanto rassicurazioni generiche, i legislatori potranno sostenere che lo sviluppo condizionato non dispone di strumenti di applicazione. Se proporrà poteri vincolanti di accesso e intervento, offrirà un'alternativa concreta al divieto sull'IA superintelligente di Andy Burnham.

Il terzo segnale è l'agenda internazionale di Burnham per la presidenza del G20 del 2027. Un divieto nazionale non può raggiungere da solo i principali laboratori del mondo. Il governo deve decidere se perseguire un divieto, un trattato sullo sviluppo regolamentato o standard di valutazione interoperabili.

Il sostegno di diversi importanti Paesi produttori di IA rafforzerebbe l'affermazione che la Gran Bretagna possa plasmare le regole globali. Una coalizione limitata a Paesi privi di laboratori di frontiera avrebbe un effetto pratico minore.

I lettori dovrebbero anche osservare come rispondono gli sviluppatori prima dell'arrivo di una legislazione formale. I laboratori possono fornire a valutatori qualificati un accesso controllato, pubblicare soglie di capacità più chiare e segnalare incidenti gravi. Rifiuti o incoerenze aumenterebbero la pressione per una supervisione obbligatoria.

L'evidenza più informativa non sarà un'altra drammatica stima di probabilità. Sarà il comportamento osservabile. Le aziende sottopongono sistemi avanzati a test indipendenti? I governi stabiliscono un accesso previsto dalla legge? Le valutazioni individuano capacità che superano le misure di sicurezza esistenti?

Le organizzazioni che implementano l'IA dovrebbero seguire questi segnali perché la regolamentazione si sposterà a valle. Nuovi requisiti possono influenzare gli acquisti, la documentazione, le revisioni di sicurezza e l'uso di agenti con strumenti sensibili. Le politiche progettate per i laboratori di frontiera spesso influenzano le aspettative nell'intero mercato.

I team dovrebbero identificare quali flussi di lavoro dipendono da specifici fornitori di modelli. Dovrebbero conservare i risultati delle valutazioni, le decisioni di accesso e le regole di approvazione umana. Dovrebbero inoltre pianificare l'eventualità che i servizi diventino soggetti a restrizioni quando regolatori o sviluppatori scoprono un rischio grave.

La scelta politica non è semplicemente tra accelerazione e paura. È una scelta tra diversi oneri della prova. Il divieto richiede agli sviluppatori di dimostrare che il superamento di una soglia sia sicuro e pubblicamente accettabile. Lo sviluppo condizionato richiede ai regolatori di dimostrare che un determinato sistema sia sufficientemente pericoloso da dover essere fermato.

Burnham deve ora spiegare quale onere la Gran Bretagna adotterà. Sostenere il disegno di legge collocherebbe il Paese al fianco di una campagna internazionale per il divieto. Respingere il testo senza un'alternativa vincolante lascerebbe la governance volontaria dei laboratori al centro della politica nazionale.

I prossimi tre mesi dovrebbero rendere questa scelta più chiara. Seguite il dibattito di novembre, le proposte mirate del governo e i primi impegni sull'agenda del G20. Poi ponetevi una domanda pratica: la Gran Bretagna ha ottenuto visibilità applicabile sullo sviluppo di frontiera oppure ha soltanto cambiato il linguaggio che circonda la corsa?