L'appello di Altman e Amodei per la sicurezza dell'AI arriva all'ONU, ma i governi continuano a respingere un unico quadro normativo
Sam Altman e Dario Amodei hanno portato la loro campagna per la sicurezza dell'AI davanti ai 15 membri del Consiglio di Sicurezza, nonostante il profondo disaccordo su chi debba governare i modelli avanzati. La riunione del 23 settembre ha portato OpenAI e Anthropic nell'organo delle Nazioni Unite responsabile della pace e della sicurezza internazionali. Ha inoltre messo in luce l'ostacolo che l'appello di Altman e Amodei per la sicurezza dell'AI deve affrontare: i governi concordano sul fatto che i rischi attraversino i confini, ma respingono un'autorità comune.
I dirigenti non chiedevano ai diplomatici di regolamentare i normali chatbot. Si sono concentrati sull'AI di frontiera, ovvero i sistemi general-purpose più capaci attualmente in fase di sviluppo. La loro preoccupazione riguarda modelli in grado di contribuire alla creazione di armi biologiche, condurre attacchi informatici o accelerare la ricerca sull'AI oltre un'efficace supervisione umana.
Questa distinzione alza la posta in gioco per sviluppatori, imprese e agenzie pubbliche. Uno standard globale di sicurezza potrebbe cambiare il modo in cui i modelli vengono testati, rilasciati, monitorati e collegati a sistemi sensibili. Tuttavia, la riunione non ha prodotto alcun accordo vincolante e gli Stati Uniti hanno esplicitamente resistito al controllo internazionale centralizzato.
Gli avvertimenti di Altman e Amodei sulla sicurezza dell'AI arrivano al Consiglio di Sicurezza
La riunione ha cambiato la sede del dibattito sulla sicurezza dell'AI, ma non ancora le regole che la disciplinano.
Altman, amministratore delegato di OpenAI, ha partecipato alla riunione del Consiglio di Sicurezza a New York. Amodei, amministratore delegato di Anthropic, si è rivolto al consiglio da remoto. Hanno partecipato anche il CEO di Hugging Face Clément Delangue e l'informatico Yoshua Bengio.
La partecipazione è stata insolita perché il Consiglio di Sicurezza si concentra normalmente su guerre, sanzioni, proliferazione nucleare e minacce tra Stati. Il suo coinvolgimento ha inquadrato l'AI avanzata come un possibile problema di sicurezza internazionale, anziché soltanto come una questione di politica tecnologica.
Il briefing dell'ONU ha descritto la preoccupazione come un pericolo che nessun Paese potrebbe contenere da solo. Bengio, co-presidente del panel scientifico indipendente dell'ONU sull'AI, ha avvertito che sistemi oltre il controllo umano non rispetterebbero i confini nazionali.
Amodei ha presentato due principali categorie di rischio. La prima era l'uso deliberato improprio, compresa la possibilità che un bioterrorista possa utilizzare un modello avanzato per sostenere lo sviluppo di armi biologiche. La seconda era la perdita di controllo, man mano che le capacità dei modelli avanzano più rapidamente di quanto gli sviluppatori riescano a comprenderle o limitarle.
“Se gestita male, credo persino che l'AI potrebbe rappresentare un rischio per l'intera umanità”, ha dichiarato Amodei al consiglio, secondo l'Associated Press. Altman ha lanciato un avvertimento altrettanto diretto: “Potremmo perdere il controllo del futuro a favore dell'AI.”
Queste dichiarazioni contano perché entrambe le aziende continuano a sviluppare e rilasciare sistemi sempre più capaci. I loro leader non descrivevano una tecnologia lontana costruita da concorrenti sconosciuti. Discutevano di rischi connessi alla stessa corsa allo sviluppo di frontiera che le loro organizzazioni contribuiscono a guidare.
Le aziende hanno inoltre indicato gli standard internazionali come punto di partenza pratico. Valutazioni condivise potrebbero misurare capacità pericolose prima del rilascio. Una segnalazione comune degli incidenti potrebbe avvertire i governi quando un modello si comporta in modo inatteso o quando attori malevoli compromettono un sistema.
Un altro tema centrale è stata la supervisione umana della ricerca automatizzata sull'AI. Per ricerca automatizzata sull'AI si intende l'uso di modelli per svolgere parti del lavoro necessario a progettare, addestrare o migliorare altri modelli. Questo processo può accelerare lo sviluppo riducendo al contempo il tempo disponibile per la revisione umana.
OpenAI ha affermato di aspettarsi che la ricerca assistita dall'AI diventi un importante motore di progresso. Nel suo piano di coordinamento, l'azienda ha sostenuto che un'organizzazione internazionale dovrebbe contribuire a coordinare gli sforzi AI di punta e ridurre il rischio catastrofico. Ha inoltre sostenuto rallentamenti coordinati quando la sicurezza e le difese sociali restano indietro rispetto alle capacità.
La proposta non stabilisce chi dovrebbe attivare un rallentamento, quali modelli vi rientrerebbero o come i Paesi verificherebbero la conformità. Questi dettagli irrisolti distinguono una dichiarazione generale di preoccupazione da un sistema internazionale applicabile.
La sessione del Consiglio di Sicurezza ha quindi rappresentato un riconoscimento istituzionale, non un accordo normativo. I dirigenti dell'AI hanno ottenuto una piattaforma normalmente riservata a minacce con conseguenze geopolitiche. I governi hanno mantenuto piena discrezionalità su come agire di fronte ai loro avvertimenti.
Perché la cooperazione globale sulla sicurezza dell'AI è improvvisamente urgente
La preoccupazione immediata è che i cicli di sviluppo dell'AI ora procedano più rapidamente di quanto le istituzioni diplomatiche riescano a negoziare e applicare tutele condivise.
La riunione ha fatto seguito a una serie di appelli pubblici per regolare il ritmo dello sviluppo di frontiera. Amodei aveva recentemente sostenuto che aziende e governi dovrebbero rallentare l'aumento delle capacità quando le misure di sicurezza non riescono a tenere il passo. Altman e altri leader del settore hanno espresso sostegno a un maggiore coordinamento.
Regolare il ritmo non significa necessariamente interrompere la ricerca sull'AI. Significa limitare la velocità del miglioramento delle capacità in condizioni di rischio definite. Una politica credibile richiederebbe soglie misurabili, valutazioni esterne e conseguenze per gli sviluppatori che le ignorano.
Anthropic afferma che i modelli attuali restano gestibili con le misure di sicurezza esistenti. Tuttavia, l'azienda prevede rischi più seri man mano che i sistemi migliorano. Il suo approccio combina test pre-rilascio, valutazioni esterne, controlli specifici per capacità e una Responsible Scaling Policy volontaria.
Questa politica collega protezioni più forti alle prove che un modello possieda capacità pericolose. Anthropic riconosce inoltre che le valutazioni non possono rilevare in modo affidabile ogni fallimento prima della distribuzione. I modelli talvolta riconoscono le condizioni di test, il che può rendere le valutazioni controllate meno rappresentative del comportamento reale.
Il rilascio di Claude Opus 5.5 ha illustrato questa tensione. Anthropic ha descritto test comportamentali ampliati e misure di sicurezza per la cybersicurezza e la biologia. Tuttavia, l'azienda ha anche affermato che il rilevamento affidabile di ogni fallimento resta un problema irrisolto nella sua valutazione di sicurezza.
OpenAI affronta la stessa sfida fondamentale. Sistemi più capaci possono assistere i ricercatori della sicurezza, ma possono anche comprimere i tempi di sviluppo. Un modello che automatizza la ricerca può contribuire a scoprire tecniche di allineamento, accelerando contemporaneamente il successivo ciclo di addestramento.
Questo circuito di retroazione preoccupa i responsabili politici perché la normale regolamentazione dei prodotti presuppone una tecnologia relativamente stabile. I legislatori possono studiare una categoria di prodotti, definire standard e verificare la conformità. La ricerca automatizzata può modificare la capacità di base prima che quel processo sia concluso.
Il rischio si estende anche oltre un laboratorio. Le aziende collegano sempre più spesso agenti AI a repository di codice, documenti interni, browser e software operativo. Un fallimento del modello diventa più rilevante quando il sistema può eseguire azioni anziché limitarsi a generare testo.
Un agente con accesso all'infrastruttura di un'organizzazione potrebbe modificare il codice, recuperare documenti sensibili o avviare transazioni. Questi sistemi richiedono controlli delle autorizzazioni, registri di audit e un'affidabile escalation umana. Richiedono inoltre che i team mantengano una base di conoscenza AI accurata per riesaminare decisioni e prove a sostegno.
La dimensione internazionale emerge quando un modello serve utenti in molte giurisdizioni. Una grave vulnerabilità scoperta in un Paese può colpire clienti altrove. Un modello sottratto può inoltre essere modificato e ridistribuito al di fuori delle protezioni dello sviluppatore originario.
L'uso improprio in ambito biologico presenta un problema di coordinamento ancora più difficile. Le restrizioni di accesso in un mercato hanno valore limitato se un sistema comparabile rimane senza restrizioni altrove. Controlli efficaci richiedono un accordo su valutazioni, utenti fidati e obblighi di segnalazione.
La cybersicurezza produce un conflitto simile legato al duplice uso. I sistemi avanzati possono aiutare i difensori a individuare vulnerabilità software e correggerle più rapidamente. La stessa capacità può aiutare gli aggressori a scoprire obiettivi, generare exploit o automatizzare campagne di intrusione.
I Paesi subiscono quindi pressioni da due direzioni. Muoversi troppo lentamente può lasciare capacità pericolose senza gestione. Agire da soli può svantaggiare le imprese nazionali o spingere lo sviluppo verso giurisdizioni con controlli più deboli.
Questa pressione spiega perché Altman e Amodei abbiano enfatizzato la cooperazione anziché divieti nazionali isolati. Il loro argomento è che i rischi di frontiera sono condivisi anche quando i governi competono sul piano economico e militare.
La proposta diventa molto più difficile quando la cooperazione richiede di rivelare informazioni sensibili. I governi resisteranno alla condivisione di intelligence su operazioni informatiche, difese biologiche o sistemi militari. Le aziende resisteranno all'esposizione di dettagli sui modelli che rivelano tecniche proprietarie.
Un sistema praticabile deve coordinare la sicurezza senza distribuire le conoscenze necessarie per costruire modelli più pericolosi. Questo equilibrio non ha una configurazione consolidata e la riunione del Consiglio di Sicurezza non ne ha fornita una.
Il vero scontro è tra standard globali e controllo nazionale
Il conflitto centrale non riguarda se l'AI avanzata presenti rischi, ma se i governi cederanno abbastanza controllo da gestire insieme tali rischi.
Gli Stati Uniti hanno respinto una struttura centralizzata di governance globale durante la riunione. Il consigliere scientifico della Casa Bianca Michael Kratsios ha affermato che le preoccupazioni sul controllo non erano un motivo per fermare lo sviluppo o creare una nuova autorità internazionale.
Questa posizione sostiene la responsabilità nazionale e la cooperazione tecnica senza collocare il potere finale nell'ONU. Riflette inoltre il valore strategico che Washington attribuisce alla leadership americana nell'AI.
La Cina ha favorito un ruolo più ampio per le Nazioni Unite e ha messo in guardia dalla concentrazione di capacità avanzate in pochi Paesi o aziende. Tuttavia, il sostegno al coinvolgimento dell'ONU non garantisce un accordo su ispezioni, accesso ai modelli o applicazione delle regole.
La disputa produce una difficile asimmetria. I governi possono approvare principi generali come controllo umano, trasparenza e segnalazione degli incidenti. Diventano più cauti quando tali principi richiedono ispettori esterni o restrizioni ai laboratori nazionali.
Un vocabolario tecnico condiviso offre un possibile ponte. I Paesi potrebbero definire le capacità ad alto rischio senza concordare su un unico regolatore. Potrebbero anche stabilire metodi di test compatibili mantenendo l'applicazione delle regole nei sistemi nazionali.
Le valutazioni di frontiera verificherebbero se i modelli possono supportare operazioni informatiche avanzate, ricerca biologica, replica autonoma o sviluppo dell'AI. Gli sviluppatori potrebbero segnalare i risultati in formati standardizzati alle autorità nazionali designate.
La notifica degli incidenti offre un'altra forma limitata di cooperazione. Secondo alcune indiscrezioni, Stati Uniti e Cina hanno discusso un meccanismo per eventi AI che incidono sulla sicurezza nazionale. Un canale simile potrebbe richiamare le comunicazioni di crisi esistenti senza creare un organismo globale di licenze.
Queste misure lascerebbero comunque senza risposta importanti interrogativi. I governi dovrebbero definire quali incidenti richiedono notifica e con quale rapidità le aziende debbano segnalarli. Avrebbero inoltre bisogno di protezioni contro segnalazioni false, occultamento strategico e accuse motivate politicamente.
La verifica è il problema più difficile. Un Paese può promettere che i propri sviluppatori rispettino soglie di sicurezza, ma i concorrenti hanno bisogno di prove. L’accesso completo ai sistemi di addestramento esporrebbe segreti commerciali e informazioni di sicurezza nazionale.
Valutatori terzi possono ridurre questa tensione se tutte le parti si fidano di loro. Organizzazioni indipendenti di testing potrebbero esaminare capacità specifiche in condizioni sicure. Potrebbero pubblicare risultati sui rischi senza rilasciare i pesi dei modelli o dettagli tecnici pericolosi.
Eppure, la fiducia nei valutatori è di per sé politica. Un laboratorio accettato dagli Stati Uniti potrebbe non essere accettato dalla Cina o dalla Russia. Un organismo di testing collegato all’ONU potrebbe incontrare resistenza da parte di governi che respingono una supervisione centralizzata.
Il Consiglio di Sicurezza ha inoltre limiti strutturali. I suoi cinque membri permanenti dispongono del potere di veto e competono direttamente per l’influenza militare e tecnologica. Un regime vincolante sull’IA richiederebbe cooperazione tra Stati che già divergono su conflitti armati, sanzioni e operazioni informatiche.
Questo non rende inutile la diplomazia. La riduzione del rischio nucleare si è sviluppata attraverso accordi incrementali, sistemi di ispezione e canali di comunicazione. La governance dell’IA può seguire un percorso simile senza replicare esattamente il controllo degli armamenti nucleari.
L’IA è diversa perché la tecnologia sottostante è in larga misura commerciale e basata sul software. I modelli possono essere copiati, modificati o accessibili tramite servizi cloud. L’infrastruttura di addestramento è visibile su larga scala, ma il software distribuito può diffondersi più rapidamente del materiale nucleare.
I modelli a pesi aperti aggiungono un altro conflitto. I loro parametri possono essere scaricati e modificati, sostenendo la ricerca e un accesso più ampio. La stessa apertura rende difficile il ritiro centralizzato o il monitoraggio continuo dopo il rilascio.
La partecipazione di Delangue ha affiancato questa questione all’agenda di sicurezza dei modelli chiusi. Hugging Face rappresenta un ecosistema che valorizza l’accesso, la ricerca e lo sviluppo distribuito. La sua presenza ha messo in discussione l’idea che concentrare il controllo in alcuni grandi laboratori produca automaticamente l’esito più sicuro.
La scelta politica risultante non è semplicemente IA aperta contro chiusa. I governi devono confrontare il rischio di uso improprio di modelli ampiamente disponibili con il rischio di concentrazione creato da pochi guardiani privati.
Ecco perché la proposta sulla sicurezza dell’IA di Altman e Amodei mette sotto pressione sia i governi sia gli sviluppatori. Gli Stati devono decidere quanta sovranità scambiare in cambio del coordinamento. Le aziende devono accettare una supervisione che possa vincolare prodotti, tempistiche e strategia competitiva.
Le aziende che chiedono regole controllano ancora la corsa
Gli appelli alla supervisione pubblica sono credibili solo se OpenAI e Anthropic accettano vincoli che si applicano anche quando diventano commercialmente scomodi.
Entrambe le aziende hanno investito massicciamente nello sviluppo di modelli più capaci. Competono per clienti aziendali, sviluppatori, ricercatori, capacità di calcolo e relazioni strategiche con i governi. Un rallentamento volontario può fallire se una delle due organizzazioni ritiene che un rivale continuerà.
Questo problema di incentivi va oltre OpenAI e Anthropic. Google DeepMind, Meta, xAI, laboratori cinesi e nuovi sviluppatori operano con strutture diverse. Alcuni rilasciano i pesi dei modelli, mentre altri limitano l’accesso attraverso prodotti ospitati.
Un accordo di sicurezza che coprisse solo due aziende avrebbe quindi una portata limitata. Potrebbe migliorare le loro pratiche, spostando però il vantaggio verso imprese esterne all’accordo. Un quadro credibile richiede regole basate sulle capacità, applicabili indipendentemente dall’identità societaria.
La normativa antitrust introduce un’ulteriore complicazione. Il coordinamento diretto tra concorrenti di primo piano può sollevare preoccupazioni di collusione. Potrebbero essere necessarie la supervisione governativa o un’esenzione legale formale affinché le aziende discutano limiti allo sviluppo e calendari di rilascio.
Anche in quel caso, il coordinamento sulla sicurezza può proteggere le aziende consolidate dalla concorrenza. I grandi laboratori possono assorbire più facilmente di quelli minori i costi di valutazione, sicurezza e rendicontazione. Regole scritte dagli operatori storici potrebbero diventare barriere che preservano la loro posizione di mercato.
I critici mettono quindi in dubbio che le aziende di frontiera debbano contribuire a progettare la propria supervisione. La loro competenza tecnica è necessaria, ma i loro interessi finanziari sono inevitabili. I governi devono coinvolgere nel processo scienziati indipendenti, gruppi della società civile, specialisti della sicurezza e sviluppatori più piccoli.
Anche le affermazioni di sicurezza delle aziende richiedono un trattamento prudente. Anthropic afferma che i suoi test rilevano molti rischi gravi, ma ammette che il quadro è incompleto. OpenAI sostiene un accesso ampio e benefici distribuiti, pur gestendo una delle piattaforme di modelli più influenti al mondo.
La valutazione esterna può verificare affermazioni specifiche, ma nessun benchmark può dimostrare che un sistema resterà sicuro in ogni ambiente. Le implementazioni reali comportano prompt inattesi, accesso agli strumenti, comportamento degli utenti e interazioni con altro software.
La difficoltà aumenta con gli agenti a esecuzione prolungata. Una breve valutazione in laboratorio potrebbe non rivelare come un modello si comporta durante un’attività di più giorni. Piccoli errori possono accumularsi quando un agente scrive codice, chiama servizi esterni e delega lavoro.
Le organizzazioni dovrebbero quindi considerare le valutazioni dei modelli come un livello di controllo, non come un certificato di sicurezza. Limiti di autorizzazione, revisione umana, monitoraggio e procedure di spegnimento restano essenziali. I team hanno inoltre bisogno di registri che mostrino cosa un agente ha tentato di fare e a quali dati ha avuto accesso.
La controversia sull’uso militare aggiunge un’altra verifica. I governi vogliono modelli avanzati per analisi di intelligence, operazioni informatiche, pianificazione e sistemi autonomi. Le aziende possono imporre restrizioni che i funzionari della difesa considerano incompatibili con le esigenze operative.
Anthropic si è pubblicamente opposta all’uso dei propri modelli per la sorveglianza interna di massa e per armi completamente autonome prive di adeguate garanzie. L’azienda afferma che gli attuali sistemi di frontiera non sono abbastanza affidabili da selezionare e colpire obiettivi senza un controllo umano significativo.
Questa posizione dimostra come i principi di sicurezza possano entrare in conflitto con gli appalti governativi. Un’agenzia di sicurezza nazionale può richiedere un ampio uso lecito, mentre uno sviluppatore insiste sul fatto che alcune applicazioni restino inaccettabili.
Gli standard internazionali moltiplicherebbero questi disaccordi. I Paesi non condividono un’unica definizione di sorveglianza lecita, azione militare legittima o supervisione umana sufficiente. Una regola che tutela le libertà civili in una giurisdizione può essere respinta altrove come interferenza straniera.
Le aziende devono inoltre spiegare cosa significhi un rallentamento in termini operativi. Ritarderebbero un ciclo di addestramento, rinvierebbero il rilascio, limiterebbero gli strumenti o restringerebbero l’accesso a un modello completato? Ogni scelta incide sul rischio in modo diverso.
Rallentare il rilascio pubblico non rallenta necessariamente lo sviluppo interno. Limitare un prodotto ospitato non impedisce il furto o la replica indipendente. Mettere in pausa una capacità può reindirizzare la ricerca verso un’altra strada con conseguenze simili.
Un impegno significativo richiede un fattore scatenante, una risposta misurabile e una verifica indipendente. Richiede anche una condizione di uscita che spieghi quando lo sviluppo possa riprendere. Senza questi elementi, il ritmo resta un principio anziché un meccanismo di sicurezza applicabile.
Lo scetticismo è quindi giustificato, ma non invalida l’avvertimento. Un’azienda può avere incentivi finanziari e al tempo stesso individuare un autentico rischio tecnico. La sfida politica consiste nel trasformare la conoscenza interna in regole che gli insider non possano controllare da soli.
Di cosa avrebbe bisogno la cooperazione sulla sicurezza dell’IA per funzionare
Un accordo pratico dovrebbe iniziare con obblighi tecnici circoscritti che i governi possano verificare senza creare un regolatore universale dell’IA.
Il primo obbligo dovrebbe essere una valutazione standardizzata delle capacità. I Paesi non hanno bisogno di sistemi politici identici per testare se un modello supporti sofisticati attacchi informatici, usi impropri biologici o ricerca automatizzata sull’IA.
I test dovrebbero utilizzare definizioni comuni e procedure sicure. I risultati dovrebbero identificare i livelli di rischio senza pubblicare istruzioni che consentano usi impropri. I valutatori indipendenti dovrebbero ricevere accesso sufficiente per mettere in discussione le affermazioni degli sviluppatori.
Il secondo obbligo dovrebbe essere la segnalazione obbligatoria degli incidenti. Gli sviluppatori dovrebbero divulgare entro un periodo definito i furti gravi di modelli, la replica non autorizzata, i fallimenti di contenimento e i comportamenti pericolosi.
Le regole di segnalazione devono distinguere i normali errori di prodotto dagli eventi con implicazioni per la sicurezza internazionale. Una risposta errata di un chatbot per consumatori non equivale a un sistema che sfrutta autonomamente un’infrastruttura.
Una tassonomia condivisa degli incidenti aiuterebbe i regolatori a confrontare gli eventi tra aziende e Paesi. Potrebbe descrivere gravità, capacità interessate, accesso al modello, intervento umano e potenziale di danno transfrontaliero.
Il terzo obbligo dovrebbe riguardare la ricerca automatizzata sull’IA. Gli sviluppatori dovrebbero documentare quando i modelli contribuiscono alla progettazione dei modelli, alla generazione di valutazioni, al codice di addestramento o alla pianificazione della ricerca. L’approvazione umana dovrebbe restare obbligatoria per azioni che accelerano materialmente le capacità di frontiera.
Questo requisito affronta il ciclo di retroazione che preoccupa Altman e Amodei. Non vieterebbe la ricerca assistita dall’IA. Renderebbe visibile l’accelerazione prima che le aziende diventino dipendenti da processi che gli esseri umani non possono verificare adeguatamente.
Il quarto obbligo dovrebbe proteggere l’infrastruttura dei modelli. Una politica di sicurezza ha scarso valore se gli aggressori possono rubare i pesi, compromettere i sistemi di distribuzione o estrarre capacità tramite query su larga scala.
I requisiti di sicurezza potrebbero coprire l’accesso dei dipendenti, la gestione delle credenziali, gli ambienti di calcolo, i test esterni e la pianificazione della risposta. I controlli più rigorosi dovrebbero applicarsi ai modelli che superano soglie di capacità definite.
Il quinto obbligo dovrebbe istituire canali di comunicazione fidati tra le grandi potenze. I governi hanno bisogno di un modo per notificarsi reciprocamente incidenti gravi legati all’IA senza divulgare pubblicamente dettagli operativi sensibili.
Tali canali non risolverebbero le controversie politiche. Potrebbero impedire che un evento informatico abilitato dall’IA o un guasto di un modello venga interpretato erroneamente come aggressione deliberata di uno Stato.
Un accordo limitato costruito attorno a questi obblighi sarebbe diverso dall’autorità globale respinta da Washington. I regolatori nazionali potrebbero imporre la conformità interna usando al contempo standard tecnici condivisi.
Questo modello federato deve comunque affrontare l’elusione. Gli sviluppatori potrebbero addestrare modelli in giurisdizioni con regole più deboli o dividere il lavoro tra affiliate. I fornitori cloud potrebbero contribuire applicando requisiti di sicurezza e segnalazione ai grandi clienti di addestramento.
La governance del calcolo offre leva perché l’addestramento di frontiera richiede un’infrastruttura significativa. Tuttavia, le soglie di calcolo possono diventare obsolete con il miglioramento degli algoritmi. Le regole devono tenere conto delle capacità, non basarsi solo sull’uso dell’hardware.
I modelli aperti richiedono un trattamento separato. Limitare ogni forma di sviluppo aperto soffocherebbe la ricerca legittima e concentrerebbe il potere. Ignorare i rilasci ad alta capacità renderebbe impossibile aggiornare le garanzie dopo la distribuzione.
Un approccio a livelli potrebbe distinguere i modelli ampiamente utili dai sistemi con capacità pericolose dimostrate. L’onere dovrebbe crescere con le prove del rischio, non con le dimensioni o il modello di business dello sviluppatore.
Questo principio protegge anche le aziende più piccole. I requisiti di conformità dovrebbero concentrarsi sulle azioni che creano gravi rischi esterni. I prodotti software ordinari non dovrebbero ereditare gli stessi obblighi dei laboratori di frontiera.
Conta anche la rappresentanza globale. Molti Paesi utilizzano servizi di IA senza controllare i modelli leader o la principale infrastruttura di calcolo. Affrontano comunque perturbazioni del lavoro, manipolazione dell’informazione, rischio informatico e dipendenza da fornitori stranieri.
Questi Paesi devono partecipare alle discussioni sugli standard, anche se non gestiscono laboratori di frontiera. Altrimenti, la governance dell’IA diventa un accordo tra alcune aziende e Stati potenti i cui sistemi influenzano tutti gli altri.
Le Nazioni Unite possono offrire quel foro senza diventare l’unico regolatore. I loro panel scientifici possono sintetizzare le evidenze e i loro organismi diplomatici possono stabilire norme di comunicazione. Le istituzioni nazionali possono mantenere l’autorità di applicazione.
Questo assetto è meno spettacolare di un’agenzia globale per le licenze. È anche più plausibile nel breve periodo. La riunione del Consiglio di Sicurezza ha mostrato che i governi discuteranno dei rischi condivisi prima di accettare un controllo condiviso.
Tre segnali indicheranno se l’appello dell’ONU conta
Il prossimo banco di prova sarà capire se i discorsi producono impegni verificabili anziché un altro ciclo di avvertimenti seguito da rilasci di modelli più rapidi.
Il primo segnale è un accordo scritto tra i laboratori di frontiera. Dovrebbe definire una soglia di capacità, una valutazione indipendente e la risposta richiesta quando un modello supera tale soglia.
Una dichiarazione a sostegno di un’AI responsabile aggiungerebbe poco. Un patto utile specificherebbe se le aziende ritardano l’addestramento, limitano il deployment o ampliano i test esterni. Dovrebbe inoltre indicare chi verifica la conformità.
Se OpenAI, Anthropic, Google DeepMind, xAI, Meta e i principali sviluppatori cinesi adottano impegni compatibili, l’appello del Consiglio di Sicurezza acquisterà credibilità. Un accordo limitato a formule volontarie indebolirebbe l’idea che il settore possa coordinarsi autonomamente.
Il secondo segnale è l’azione dei governi in materia di segnalazione degli incidenti e standard di valutazione. Gli Stati Uniti non devono approvare un regolatore globale per imporre ai laboratori nazionali di segnalare eventi ad alta gravità.
La Cina, l’Unione europea, il Regno Unito e altri centri dell’AI possono adottare requisiti compatibili. L’allineamento tra i loro sistemi creerebbe uno standard internazionale pratico senza un’unica autorità centralizzata.
Norme nazionali incompatibili produrrebbero il risultato opposto. Gli sviluppatori potrebbero spostare il lavoro verso giurisdizioni meno restrittive, mentre i governi riceverebbero informazioni diverse su rischi simili.
Il terzo segnale è un canale formale di sicurezza tra Stati Uniti e Cina. Le due principali potenze dell’AI competono su chip, talenti, modelli e applicazioni militari. La loro partecipazione è necessaria per qualsiasi sistema che affronti il rischio di frontiera transfrontaliero.
Un meccanismo di notifica per incidenti gravi legati all’AI sarebbe un inizio modesto ma significativo. Mostrerebbe che concorrenti strategici possono separare alcuni pericoli condivisi dalla più ampia competizione tecnologica.
Il mancato avvio di quel canale metterebbe in luce il limite della campagna per la sicurezza dell’AI di Altman e Amodei. Le aziende potrebbero migliorare le proprie salvaguardie interne, ma non potrebbero risolvere da sole il problema del coordinamento geopolitico.
I lettori dovrebbero anche osservare come si comportano le aziende dopo i loro avvertimenti. Una rapida sequenza di rilasci di capacità senza soglie più chiare accrescerebbe lo scetticismo. Più valutazioni esterne e una segnalazione trasparente degli incidenti sosterrebbero la loro tesi.
Le imprese non devono aspettare un trattato. Possono censire le autorizzazioni degli agenti, conservare i registri delle decisioni, richiedere la revisione umana per le azioni ad alto impatto e testare il recupero dai guasti. Questi passaggi riducono l’esposizione anche quando la politica globale rimane incerta.
Gli sviluppatori dovrebbero seguire gli standard di valutazione e le proposte di segnalazione perché possono rimodellare la progettazione dei prodotti. I requisiti introdotti per i laboratori di frontiera influenzano spesso le piattaforme cloud, gli acquisti aziendali, le assicurazioni e gli audit dei clienti.
I lavoratori della conoscenza dovrebbero interessarsene perché le norme di sicurezza determinano a quali informazioni i sistemi di AI possono accedere e cosa possono fare. Controlli rigorosi possono limitare alcuni compiti, ma possono anche rendere più sicuro collegare gli agenti a informazioni sensibili sul posto di lavoro.
L’apparizione all’ONU ha dato alla sicurezza dell’AI un profilo politico più elevato. Non ha risolto chi scrive le regole, chi ispeziona i modelli o chi può ordinare un rallentamento.
Questa autorità irrisolta è la tensione centrale della storia. Altman e Amodei hanno chiesto ai governi di cooperare prima che i sistemi avanzati superino i controlli esistenti. I governi hanno risposto riconoscendo il pericolo, pur difendendo il proprio potere.
I prossimi uno-tre mesi dovrebbero rivelare se questo divario si riduce. Osservate la presenza di un patto tra laboratori, norme nazionali compatibili per la segnalazione e un canale per gli incidenti tra Stati Uniti e Cina. Se non emergerà nulla, i discorsi rimarranno avvertimenti rivolti a un’istituzione priva dell’accordo necessario per agire.
