Le barriere di sicurezza di Guterres per l'IA contrappongono la cooperazione globale alla corsa all'IA
António Guterres ha chiesto misure di sicurezza coordinate per l'IA il 16 settembre, avvertendo che pause volontarie non possono contenere rischi che si diffondono oltre i confini nazionali. La proposta sulle barriere di sicurezza per l'IA di Guterres colloca governi, sviluppatori di IA di frontiera e strategie nazionali concorrenti nello stesso conflitto. Le capacità dell'IA avanzano attraverso una corsa globale, mentre la maggior parte degli impegni sulla sicurezza resta locale, volontaria o difficile da verificare.
Il segretario generale delle Nazioni Unite ha lanciato l'appello prima della settimana ad alto livello dell'81ª Assemblea generale delle Nazioni Unite a New York. Ha sostenuto che i governi debbano proteggere i cittadini dai rischi dell'IA, preservandone al contempo i benefici per l'istruzione, la salute, lo sviluppo e la resilienza climatica.
Il suo intervento è stato più specifico di un generico appello all'innovazione responsabile. Guterres ha respinto le pause isolate come risposta adeguata e ha chiesto contatti, scambio di informazioni e misure di sicurezza comuni tra i Paesi dotati di capacità avanzate di IA. Questa posizione mette in discussione sia la concorrenza senza restrizioni sia l'idea che le singole aziende possano gestire da sole i rischi sistemici.
La questione centrale è l'applicazione delle regole. I governi concordano in generale sul fatto che l'IA debba essere sicura, trasparente e responsabile, ma divergono su chi debba fissarne i limiti. Non concordano nemmeno sul fatto che rallentare lo sviluppo protegga il pubblico o comporti la rinuncia a vantaggi economici e strategici.
Le barriere di sicurezza di Guterres per l'IA spostano il dibattito oltre le pause volontarie
Guterres chiede ai governi di sostituire promesse frammentarie con un sistema coordinato per individuare e gestire i rischi dell'IA di frontiera.
Durante la sua conferenza stampa di settembre, Guterres ha affermato che lo sviluppo dell'IA procedeva più rapidamente della comprensione sociale dei suoi pericoli. Ha osservato che alcuni sviluppatori avevano chiesto una pausa, mentre molti altri desideravano misure di sicurezza.
La sua risposta non è stata l'approvazione di un arresto immediato a livello mondiale. Ha invece affermato che le pause volontarie fallirebbero se isolate, non verificabili e applicate in modo disomogeneo. Un laboratorio che rallenta produce effetti limitati se i concorrenti continuano a sviluppare modelli più capaci altrove.
Questa distinzione definisce la proposta. Una pausa riguarda la velocità dello sviluppo, mentre una barriera di sicurezza stabilisce le condizioni alle quali sviluppo, test o distribuzione possono procedere. Tali condizioni potrebbero includere valutazioni indipendenti, segnalazione degli incidenti, controlli di accesso, requisiti di sicurezza o soglie che attivano ulteriore supervisione.
Guterres non ha presentato un quadro normativo definitivo. Ha chiesto una comprensione condivisa di quando sistemi sempre più capaci richiedano salvaguardie più rigorose. L'obiettivo immediato è quindi il coordinamento politico, non una singola legge globale dettagliata.
Ha inoltre attribuito la responsabilità principale ai governi. Le aziende di IA progettano e gestiscono i sistemi, ma i governi dispongono di autorità legale, canali diplomatici e responsabilità pubblica. La sua argomentazione è che gli impegni aziendali non possano sostituire tali funzioni quando i fallimenti colpiscono persone al di fuori del mercato interno di un'azienda.
La dimensione internazionale conta perché lo stesso modello può servire utenti in molti Paesi. Una capacità informatica offensiva, uno strumento di media sintetici ingannevoli o un sistema di ricerca automatizzato possono oltrepassare i confini attraverso l'accesso al software. Le norme nazionali possono vincolare un fornitore, ma non possono contenere pienamente i danni creati o distribuiti altrove.
Guterres ha definito l'IA una delle tre minacce esistenziali che il mondo deve affrontare, insieme alla crisi climatica e all'aggravarsi delle disuguaglianze. Questa descrizione colloca la governance dell'IA nella più ampia responsabilità dell'ONU per i rischi collettivi, pur non stabilendo che ogni attuale sistema di IA presenti un pericolo esistenziale.
Ha inoltre affermato che l'IA sarebbe stata un tema centrale nelle sue discussioni con i leader mondiali durante la settimana successiva. Tuttavia, ha respinto l'idea di convocare immediatamente un vertice sull'IA durante l'Assemblea generale. Un vertice serio richiederebbe preparazione e partecipazione di governi, aziende, scienziati e società civile.
Questa tempistica misurata è significativa. Evita di presentare un singolo incontro diplomatico come soluzione a un problema tecnico e geopolitico. Crea inoltre una prova più difficile: l'ONU deve trasformare l'attenzione della settimana ad alto livello in un processo che produca impegni specifici e verificabili.
La proposta sulle barriere di sicurezza per l'IA di Guterres modifica quindi la questione politica. Il dibattito non riguarda più semplicemente se l'IA avanzata debba rallentare. Riguarda se i governi possano stabilire soglie condivise, metodi di test e canali di comunicazione prima che la pressione competitiva renda la moderazione politicamente inaccettabile.
La pressione ricade sui governi e sui laboratori di IA di frontiera
I governi devono ora definire aspettative di sicurezza applicabili, mentre i laboratori di IA devono dimostrare che i loro controlli interni funzionano al di fuori di dimostrazioni attentamente gestite.
Guterres ha rivolto la sua affermazione istituzionale più netta ai governi nazionali. Ha descritto la protezione dei cittadini dalle minacce dell'IA come una responsabilità fondamentale dei governi. Questa posizione sfida i decisori politici che preferiscono lasciare le decisioni sulla sicurezza in larga misura agli sviluppatori.
Mette inoltre sotto pressione i laboratori di frontiera, ossia le organizzazioni che sviluppano i modelli general-purpose più capaci. Queste aziende pubblicano spesso quadri di sicurezza, valutazioni dei modelli e politiche di distribuzione. Tuttavia, ogni organizzazione definisce le proprie soglie, sceglie molti dei propri test e decide quante prove divulgare.
Un impegno volontario può essere sincero e fallire comunque come politica pubblica. I concorrenti possono misurare il rischio in modo diverso. I nuovi entranti possono scegliere di non partecipare. Governi e ricercatori esterni potrebbero non avere l'accesso tecnico necessario per verificare se un'azienda abbia seguito il processo dichiarato.
Gli incentivi competitivi intensificano questa debolezza. Un laboratorio che ritarda un modello per svolgere test aggiuntivi ne sostiene il costo, mentre un altro sviluppatore può conquistare utenti, ricavi, talenti e influenza strategica. La sicurezza diventa un problema di azione collettiva, in cui decisioni individualmente razionali producono un risultato complessivo meno sicuro.
Il recente dibattito nel settore illustra questo conflitto. Alcuni dirigenti di primo piano hanno sostenuto valutazioni dei modelli, monitoraggio e forme limitate di regolazione coordinata del ritmo di sviluppo. Altri avvertono che restrizioni ampie concentrerebbero il potere tra i laboratori già affermati o favorirebbero concorrenti stranieri.
La controversia non si limita al confronto tra sostenitori della sicurezza e aziende tecnologiche. Esiste anche tra gli sviluppatori di IA. Le aziende divergono sui pericoli cui attribuire priorità, sul modo in cui i valutatori dovrebbero operare e sulla possibilità che i governi supervisionino il lavoro tecnico senza congelare la concorrenza.
Una preoccupazione riguarda la cattura normativa. Se un piccolo gruppo di grandi laboratori contribuisce a definire soglie globali, tali regole potrebbero rispecchiare i loro sistemi, le loro risorse e i loro interessi commerciali. Costi di conformità apparentemente gestibili per gli sviluppatori affermati potrebbero escludere aziende più piccole e team accademici.
Il CEO di Cohere Aidan Gomez ha sollevato questa preoccupazione nel più ampio dibattito sulla regolazione coordinata del ritmo di sviluppo dell'IA. Ha sostenuto che le regole per una tecnologia dalle conseguenze rilevanti non dovrebbero essere scritte da una piccola cerchia di aziende commercialmente allineate. La sua obiezione non elimina la necessità di misure di sicurezza, ma mette in discussione chi debba progettarle.
Anche esperti indipendenti hanno messo in dubbio che i valutatori integrati sarebbero realmente indipendenti. Un revisore che dipende da un'azienda per l'accesso, i finanziamenti o la cooperazione continuativa può incontrare limiti nel segnalare risultati sfavorevoli. Gli standard condivisi contano soltanto quando soggetti esterni possono testare il loro funzionamento.
Allo stesso tempo, i governi non hanno una visibilità completa sullo sviluppo di frontiera. I funzionari potrebbero non sapere quando un modello acquisisce una capacità pericolosa, come siano state costruite le valutazioni interne o se una mitigazione segnalata resti efficace dopo la distribuzione. Le competenze sono distribuite in modo disomogeneo tra agenzie e Paesi.
Questa asimmetria conferisce ai laboratori influenza sulle prove utilizzate per regolamentarli. Spiega inoltre perché Guterres abbia collegato il coordinamento politico a una valutazione scientifica indipendente. I decisori politici necessitano di una base tecnica condivisa prima di poter concordare soglie o confrontare l'applicazione nazionale delle regole.
Gli acquirenti aziendali affrontano una pressione correlata. Utilizzano sempre più l'IA per sviluppo software, ricerca, assistenza clienti, assunzioni e lavoro basato sulla conoscenza. La frammentazione normativa globale può costringere tali organizzazioni a valutare requisiti diversi di divulgazione e conformità nei vari mercati.
Buoni registri interni aiutano i team a comprendere quali sistemi abbiano gestito informazioni sensibili, quali output abbiano influenzato le decisioni e quando siano cambiate le politiche. Una base di conoscenza sull'IA consultabile non può sostituire la regolamentazione, ma può preservare le prove necessarie per audit e revisioni degli incidenti.
La risposta richiesta è quindi duplice. I governi devono sviluppare requisiti applicabili che possano resistere alla concorrenza internazionale. I laboratori di IA devono accettare forme di test e divulgazione che non dipendano interamente dalla fiducia nelle loro stesse dichiarazioni di sicurezza.
Il coordinamento globale si scontra con la corsa all'IA
Il conflitto principale è tra sicurezza coordinata e una corsa strategica in cui ogni Paese teme che la moderazione favorisca i suoi rivali.
Guterres ha riconosciuto che le divisioni geopolitiche potrebbero spingere gli Stati principali a sviluppare l'IA il più rapidamente possibile. In tale contesto, un governo può considerare la proposta di sicurezza di un altro Paese come un tentativo di limitarne le capacità anziché di proteggere il pubblico.
Gli Stati Uniti e la Cina dominano questa tensione, ma Guterres ha dichiarato esplicitamente che il coordinamento dovrebbe estendersi oltre le due maggiori potenze. Altri Paesi ospitano laboratori avanzati, catene di approvvigionamento dei semiconduttori, data center, istituzioni di ricerca e significativi bacini di talenti tecnici.
Nessun quadro universale può funzionare se tratta quei governi soltanto come destinatari delle regole. Anche i Paesi con minore capacità di calcolo hanno interessi distinti. Vogliono accedere ai benefici economici dell'IA, essere rappresentati nella definizione degli standard e ottenere protezione dai sistemi sviluppati altrove.
Questo rende la governance dell'IA diversa da un semplice regime di sicurezza dei prodotti. La tecnologia sottostante influenza la ricerca scientifica, la pianificazione militare, le operazioni informatiche, la competitività industriale e i sistemi informativi. I governi vedono negli stessi modelli sia un'opportunità commerciale sia una fonte di potere nazionale.
Gli Stati Uniti hanno enfatizzato il mantenimento della leadership sulla Cina e l'evitare restrizioni che indeboliscano gli sviluppatori nazionali. La resistenza politica a misure ampie di regolazione del ritmo di sviluppo riflette preoccupazioni per occupazione, investimenti, difesa e vantaggio strategico. Riflette inoltre scetticismo verso un controllo internazionale centralizzato.
La Cina ha proprie priorità in materia di sicurezza, sviluppo e governance. Qualsiasi accordo globale significativo dovrebbe includere meccanismi che entrambe le parti considerino credibili. Dichiarazioni generali sull'IA responsabile non risolveranno le controversie sull'accesso ai modelli, i controlli sui semiconduttori, le ispezioni o le informazioni tecniche sensibili.
Guterres ha richiamato le comunicazioni della Guerra fredda come riferimento storico. Stati Uniti e Unione Sovietica mantennero contatti e negoziarono misure di riduzione del rischio nonostante una profonda ostilità. L'analogia sostiene un coordinamento limitato tra concorrenti senza richiedere allineamento politico.
Tuttavia, l'IA non è identica alle armi nucleari. Lo sviluppo di frontiera è distribuito tra aziende private, organizzazioni di ricerca, fornitori cloud e governi. I sistemi di IA vengono inoltre copiati, modificati e distribuiti più rapidamente delle principali piattaforme d'arma.
La lezione pertinente è più circoscritta. Le potenze rivali possono creare canali di comunicazione quando incidenti, errori di calcolo o una competizione senza freni minacciano entrambe le parti. Per l'IA, tali canali potrebbero sostenere la notifica degli incidenti, concetti di valutazione condivisi o consultazioni prima di distribuire sistemi con capacità insolitamente pericolose.
Un accordo utile dovrebbe identificare comportamenti osservabili. I governi potrebbero confrontare il modo in cui i laboratori valutano i rischi informatici o biologici, definire requisiti di segnalazione per incidenti gravi o riconoscere procedure di test equivalenti tra diverse giurisdizioni.
La verifica rimane difficile. Le capacità dei modelli possono emergere attraverso nuovi prompt, accesso agli strumenti, fine-tuning o interazione con sistemi esterni. Un modello che appare gestibile in un test controllato può comportarsi diversamente dopo la distribuzione o l'integrazione in un flusso di lavoro autonomo.
La condivisione delle informazioni crea un altro compromesso. Le autorità di regolamentazione necessitano di un accesso sufficiente per valutare la sicurezza, ma aziende e governi vogliono proteggere la proprietà intellettuale e la sicurezza nazionale. Un quadro che richiede una divulgazione illimitata incontrerà resistenza. Un quadro che accetta dichiarazioni riservate sarà privo di credibilità.
L'Unione europea dimostra un'alternativa regionale. Il suo AI Act crea obblighi giuridici per fornitori e utilizzatori, compresi requisiti che riguardano l'IA per finalità generali e i rischi sistemici. Le autorità europee hanno iniziato ad applicare le disposizioni pertinenti nell'agosto 2026 nel quadro ufficiale dell'AI Act framework.
Quel sistema offre un modello regolatorio concreto, ma non costituisce un coordinamento globale. Si applica attraverso l'autorità giuridica europea e l'accesso al mercato. Altre giurisdizioni possono adottare soglie, strutture di applicazione e definizioni diverse.
Il contrasto chiarisce lo scopo delle barriere di sicurezza per l'IA proposte da Guterres. Non sostituirebbero necessariamente le leggi regionali o nazionali. Il loro valore pratico deriverebbe dall'istituire un linguaggio comune minimo per rischi gravi che nessuna autorità nazionale può gestire da sola.
L'ONU dispone di una base scientifica, ma non di un regolatore globale
L'ONU ha creato istituzioni per prove condivise e dialogo, ma tali istituzioni non possono far rispettare le regole sull'IA né obbligare i laboratori a divulgare informazioni sensibili.
La proposta di Guterres non è emersa da un vuoto istituzionale. Nel settembre 2024, gli Stati membri dell'ONU hanno adottato il Global Digital Compact nell'ambito del Patto per il futuro. L'accordo ha chiesto cooperazione internazionale, supervisione umana, responsabilità e una governance dell'IA basata sulle evidenze.
Il Global Digital Compact ha inoltre impegnato i governi a creare un panel scientifico indipendente e un dialogo politico globale. Tali meccanismi sono stati progettati per collegare le evidenze tecniche ai negoziati tra Stati e altri soggetti interessati.
L'Assemblea generale ha portato avanti tale impegno il 26 agosto 2025. La risoluzione A/RES/79/325 ha istituito l'Independent International Scientific Panel on AI e il Global Dialogue on AI Governance. La risoluzione è stata adottata senza votazione, segnalando un ampio sostegno alle istituzioni.
Il panel è composto da 40 membri che operano a titolo personale. Provengono da tutte e cinque le regioni ONU e includono competenze dal mondo accademico, dall'industria, dalla società civile e dai settori tecnici. La selezione ha seguito un bando aperto che ha attirato oltre 2.600 candidature da più di 140 Paesi.
Il suo mandato consiste nel produrre valutazioni annuali basate sulle evidenze relative alle opportunità, ai rischi e agli effetti dell'IA. I rapporti sono destinati a informare il Global Dialogue, nel quale i governi possono discutere approcci di governance con industria, ricercatori, società civile e comunità tecnica.
Il rapporto preliminare del panel ha identificato rischi associati alla distribuzione dell'IA su larga scala, inclusi danni alla salute mentale, usi distruttivi, effetti sui sistemi sociali e ambientali e difficoltà nel controllare tecnologie avanzate. Queste categorie offrono ai diplomatici un punto di partenza per decidere quali rischi richiedono un trattamento collettivo.
La struttura affronta una debolezza ricorrente nei dibattiti internazionali sull'IA. I governi spesso negoziano facendo affidamento su definizioni incompatibili, evidenze private o affermazioni speculative. Una valutazione scientifica condivisa può chiarire dove gli esperti concordano, dove le evidenze restano limitate e quali metodi di valutazione necessitano di miglioramenti.
Tuttavia, il panel non è esplicitamente un regolatore. Secondo il mandato del panel, non può imporre regole, far rispettare standard o prescrivere politiche vincolanti. La sua influenza dipende dalla qualità del suo lavoro e dalla volontà dei governi di agire.
Il Global Dialogue presenta limiti analoghi. Può ampliare la partecipazione e sviluppare una comprensione condivisa, ma non può obbligare uno Stato ad adottare una legge. Non può neppure costringere uno sviluppatore di IA a fornire pesi dei modelli, dettagli sull'addestramento, risultati di test interni o accesso a valutatori esterni.
Questo crea il compromesso centrale dell'articolo. Le istituzioni inclusive migliorano la legittimità, soprattutto per i Paesi esclusi dai forum tecnologici più ristretti. Tuttavia, la partecipazione universale può rallentare gli accordi e produrre un linguaggio sufficientemente ampio da accogliere posizioni nazionali in conflitto.
Una coalizione più ristretta potrebbe muoversi più rapidamente. I Paesi con laboratori di frontiera e infrastrutture di calcolo avanzate potrebbero stabilire standard tecnici o meccanismi di comunicazione d'emergenza. Tuttavia, un gruppo di questo tipo potrebbe emarginare i Paesi che subiscono gli effetti dell'IA senza controllarne lo sviluppo.
Guterres sembra cercare entrambi i livelli. Il panel dell'ONU può fornire una valutazione scientifica globale, mentre gli Stati più capaci stabiliscono contatti più diretti e barriere di sicurezza comuni. I membri più ampi possono poi discutere legittimità, accesso, sviluppo e implicazioni per i diritti umani.
Questo approccio ricorda altri regimi internazionali di gestione del rischio, che separano valutazione scientifica, negoziato politico e applicazione nazionale. Evita di fingere che un'unica istituzione possa svolgere ogni funzione. Crea anche molteplici punti in cui i progressi possono bloccarsi.
Il consenso scientifico non produce automaticamente consenso politico. I governi possono concordare sul fatto che una capacità sia pericolosa pur divergendo su come misurarla. Possono accettare un test rifiutando le ispezioni. Possono sostenere la segnalazione trattenendo al contempo informazioni sugli incidenti per ragioni di sicurezza nazionale.
La base dell'ONU è quindi significativa ma incompleta. Può organizzare le evidenze e il negoziato. Non può ancora garantire che i laboratori o i governi più capaci seguano le stesse regole quando la competizione diventa intensa.
La questione più difficile è come verificare la moderazione
Una barriera di sicurezza senza soglie osservabili, test indipendenti e conseguenze per le violazioni resta un'altra promessa volontaria.
Guterres ha identificato la verifica come una debolezza centrale delle pause unilaterali. Lo stesso criterio si applica a qualunque alternativa egli sostenga. Una salvaguardia coordinata deve specificare cosa viene misurato, chi può ispezionare le evidenze e cosa accade quando un partecipante non rispetta gli impegni.
La prima sfida consiste nel definire la capacità regolamentata. Le dimensioni del modello e il calcolo impiegato nell'addestramento possono essere misurati più facilmente di molti comportamenti successivi, ma non prevedono perfettamente il rischio. Modelli più piccoli possono acquisire capacità significative attraverso strumenti, dati specializzati o fine-tuning.
Anche i test di capacità hanno limiti. Un laboratorio può valutare se un modello sia in grado di assistere in attacchi informatici o nella ricerca biologica, ma le prestazioni dipendono da prompt, accesso, strutture di supporto e competenza dei valutatori. Superare un benchmark non dimostra la sicurezza in tutte le distribuzioni reali.
La seconda sfida è l'indipendenza dei valutatori. Le aziende detengono conoscenze tecniche essenziali e accesso ai sistemi, quindi le valutazioni richiedono cooperazione. Tuttavia, una valutazione controllata dal fornitore non può avere la stessa credibilità di una progettata e riesaminata da un organismo esterno.
I governi potrebbero autorizzare valutatori accreditati, istituire ambienti di test sicuri o richiedere segnalazioni riservate alle autorità di regolamentazione. Queste opzioni proteggono le informazioni sensibili fornendo al tempo stesso supervisione. Dipendono comunque da chiare regole sui conflitti di interesse e da una capacità tecnica sufficiente.
La terza sfida è la comparabilità internazionale. Se un Paese valuta il rischio informatico e un altro si concentra sulla disinformazione, un'etichetta condivisa come “sicuro” rivela poco. Barriere di sicurezza comuni richiedono categorie minime di test, standard di documentazione e definizioni degli incidenti.
La quarta sfida è il tempismo. Le valutazioni prima del rilascio catturano solo il comportamento noto di un modello in condizioni di test. I rischi possono emergere dopo la distribuzione, quando gli utenti collegano i modelli a strumenti software, database sensibili, sistemi finanziari o apparecchiature fisiche.
Il monitoraggio successivo alla distribuzione deve quindi integrare la revisione prima del rilascio. Fornitori e utilizzatori necessitano di un processo per registrare guasti gravi, condividere risultati pertinenti e aggiornare le protezioni. Le autorità di regolamentazione necessitano inoltre dell'autorità per richiedere azioni correttive quando cambiano le evidenze.
La quinta sfida riguarda le conseguenze. Un accordo ha scarso valore quando un partecipante può ignorare una soglia senza perdere accesso al mercato, licenze, contratti pubblici, risorse di calcolo o un altro beneficio significativo. L'applicazione deve essere abbastanza credibile da modificare i comportamenti.
Tuttavia, un'applicazione aggressiva può produrre effetti indesiderati. Regole costruite attorno alle risorse dei principali laboratori potrebbero consolidare gli operatori già affermati. Restrizioni sui modelli aperti potrebbero limitare la ricerca indipendente lasciando ai fornitori chiusi un maggiore controllo.
La governance può anche diventare una copertura per il protezionismo. Un Paese può etichettare un modello straniero come non sicuro senza evidenze trasparenti. Un'azienda può sostenere una soglia che grava sui concorrenti più pesantemente della propria architettura.
Queste preoccupazioni sostengono un approccio graduale. I governi possono iniziare da ambiti ristretti in cui i danni sono gravi, i test sono fattibili e gli interessi si sovrappongono. Gli esempi includono restrizioni all'assistenza per la creazione di armi biologiche o requisiti di segnalazione dei principali incidenti informatici resi possibili dai modelli.
Possono inoltre costruire fiducia reciproca attraverso esercitazioni condivise. Team indipendenti potrebbero testare modelli comparabili rispetto alle stesse categorie di rischio in condizioni protette. Le autorità di regolamentazione potrebbero quindi confrontare i risultati senza richiedere la pubblicazione dei dettagli tecnici sensibili.
Nessuna di queste misure garantisce il controllo sui sistemi futuri. La studiosa di regolamentazione tecnologica di Oxford Sandra Wachter ha descritto un ampio coordinamento globale come altamente irrealistico nelle attuali condizioni geopolitiche. Tale scetticismo dovrebbe rimanere centrale anziché apparire come una nota a piè di pagina.
La proposta di barriere di sicurezza per l'IA di Guterres non dimostra quindi che esista già un sistema applicabile. È una richiesta ai governi affinché affrontino direttamente il problema della verifica. Il criterio di successo non è un'altra dichiarazione di principi. È una cooperazione osservabile che cambia il modo in cui i sistemi ad alto rischio vengono testati, rilasciati e monitorati.
Tre segnali mostreranno se la cooperazione diventa reale
Il prossimo test è stabilire se l'attenzione politica produrrà istituzioni specifiche, procedure tecniche e partecipazione dei Paesi e delle aziende che guidano lo sviluppo di frontiera.
Il primo segnale è il contenuto delle discussioni di Guterres durante la settimana di alto livello dell'Assemblea generale. Un'approvazione generica di un'IA sicura aggiungerebbe poco. Il segnale più forte sarebbe un accordo tra Stati capaci per stabilire contatti ricorrenti, scambiare informazioni su incidenti gravi o sviluppare categorie comuni di valutazione.
La partecipazione conta quanto il linguaggio. Un processo che escluda gli Stati Uniti o la Cina non può gestire la competizione strategica descritta da Guterres. Servirebbe inoltre il contributo di altri Paesi dotati di ricerca avanzata, infrastrutture di calcolo e capacità normative.
Se i governi annunceranno un canale continuativo, con partecipanti nominati e un ambito definito, l’argomento centrale acquisterà sostegno. Se produrranno soltanto dichiarazioni generiche, resterà il divario tra la preoccupazione diplomatica e il coordinamento operativo.
Il secondo segnale riguarda il modo in cui il Panel scientifico internazionale indipendente trasformerà il proprio lavoro preliminare in valutazioni ripetibili. Il suo mandato di rendicontazione annuale può creare una base fattuale condivisa, ma solo se spiega la qualità delle prove, i disaccordi irrisolti e i metodi pratici di valutazione.
Il panel dovrebbe essere giudicato in base alla possibilità per autorità di regolamentazione, ricercatori e aziende di utilizzare le sue categorie. Un rapporto che distingua i danni dimostrati dai rischi futuri incerti rafforzerebbe il dibattito sulle politiche. Metodi chiari renderebbero inoltre più difficile per i governi selezionare soltanto le conclusioni che sostengono posizioni già esistenti.
La sua indipendenza merita attenzione. I membri operano a titolo personale e devono dichiarare gli interessi rilevanti, ma il panel necessita comunque di accesso ai sistemi di frontiera e alle prove più aggiornate. La sua credibilità dipenderà da metodi trasparenti e da una visibile disponibilità a mettere in discussione sia le affermazioni allarmistiche sia quelle liquidatorie.
Se il panel pubblicherà concetti di test utili che i governi adotteranno, il processo ONU sarà andato oltre la semplice convocazione. Se resterà scollegato dalle autorità nazionali di regolamentazione e dalle valutazioni di laboratorio, la sua influenza sarà principalmente consultiva.
Il terzo segnale è se i governi assoceranno verifica e conseguenze a qualsiasi impegno comune. Occorre osservare valutazioni indipendenti, rapporti standardizzati sugli incidenti, accesso protetto per le autorità di regolamentazione e soglie chiaramente definite per misure di salvaguardia più rigorose.
Il dibattito sul rallentamento dell’AI mostra già un accordo provvisorio su test e monitoraggio. Mostra anche profonde divergenze sul rallentamento complessivo, sull’indipendenza degli auditor, sulla concorrenza e sul controllo della definizione degli standard.
Un accordo circoscritto e verificabile avrebbe più valore di una pausa ambiziosa ma inapplicabile. I governi potrebbero iniziare con valutazioni dei modelli per l’uso illecito catastrofico in ambito informatico o biologico, seguite da segnalazioni riservate e risposte coordinate agli incidenti gravi.
L’assenza di conseguenze indebolirebbe quel segnale. Un impegno che consenta ai partecipanti di trattenere prove o ridefinire le soglie dopo che un modello non le supera ricreerebbe il sistema volontario criticato da Guterres.
Le aziende dovrebbero seguire questi sviluppi perché una regolamentazione frammentata aumenta i costi di conformità e complica la distribuzione globale. Gli sviluppatori dovrebbero interessarsene perché le soglie di sicurezza possono influenzare l’accesso alle risorse di calcolo, i requisiti di test, i calendari di rilascio e l’esposizione legale.
Anche i lavoratori della conoscenza e gli utenti comuni sono coinvolti. Le misure di protezione possono influenzare se i contenuti generati dall’AI vengano etichettati, se le decisioni automatizzate ricevano una revisione umana e come i fornitori rispondano quando i modelli causano danni gravi. Regole mal progettate possono inoltre limitare strumenti utili senza intervenire sui sistemi a più alto rischio.
La questione non è se ogni Paese adotterà leggi identiche sull’AI. Un simile esito non è né realistico né necessario. La domanda immediata è se governi rivali possano concordare su un piccolo insieme di rischi che nessuno vuole affrontare da solo.
Guterres ha formulato chiaramente la scelta: una moderazione isolata non può controllare una tecnologia senza confini, mentre una concorrenza senza restrizioni invita a una corsa al ribasso. Ora i governi devono dimostrare se le misure di protezione sull’AI di Guterres possano diventare obblighi misurabili anziché un’altra aspirazione diplomatica.
Osservate le prossime tre mosse: una comunicazione formale tra gli Stati che guidano l’AI, un lavoro tecnicamente utile del panel scientifico ONU e impegni sostenuti da verifiche indipendenti. Questi segnali riveleranno se la cooperazione globale sta iniziando a limitare la competizione, oppure si limita a descriverne i pericoli.
