USA e Russia hanno indebolito un patto sulle armi IA eliminando la revisione umana dei bersagli

Secondo quanto riportato, Stati Uniti e Russia hanno indebolito un patto delle Nazioni Unite sulle armi IA durante i negoziati di settembre, eliminando diverse garanzie nonostante le crescenti preoccupazioni sulla guerra automatizzata.

Il linguaggio eliminato imponeva agli esseri umani di esaminare i bersagli militari generati dall'IA prima di un attacco, secondo tre persone citate nelle revisioni riportate. I negoziatori hanno inoltre eliminato i requisiti secondo cui l'IA militare dovesse operare in modo prevedibile e affidabile. È stata rimossa anche una clausola che richiamava considerazioni etiche.

Il Dipartimento di Stato, il Ministero degli Esteri russo e le Nazioni Unite non hanno risposto alle richieste di commento della testata. Questo silenzio lascia importanti dettagli non confermati al di fuori dei negoziati riservati.

Tuttavia, le modifiche riportate evidenziano una netta divisione. Molti governi e gruppi umanitari chiedono restrizioni applicabili che preservino il controllo umano. Stati Uniti e Russia preferiscono una maggiore discrezionalità nazionale sul modo in cui l'IA militare viene progettata e impiegata.

Questo patto USA-Russia sulle armi IA non è un trattato e il suo linguaggio attuale non crea norme vincolanti. Rappresenta però il punto più avanzato raggiunto da anni di negoziati delle Nazioni Unite verso regole condivise.

Il conflitto è quindi più ampio di una singola bozza contestata. È uno scontro tra requisiti vincolanti di controllo umano e principi volontari modellati da potenze militari che cercano flessibilità operativa.

Cosa è cambiato nel patto USA-Russia sulle armi IA

La bozza ha perso garanzie rivolte al momento in cui la raccomandazione di un algoritmo diventa una decisione di attaccare.

I negoziati si sono svolti a Ginevra all'inizio di settembre, secondo il resoconto del Washington Post. Le sessioni riguardavano i sistemi d'arma autonomi letali, ossia armi in grado di selezionare o ingaggiare bersagli con diversi livelli di coinvolgimento umano.

Tre persone a conoscenza dei colloqui hanno dichiarato che le delegazioni americana e russa hanno promosso modifiche durante una sessione a porte chiuse. Le telecamere delle Nazioni Unite sarebbero state spente e gli osservatori della società civile allontanati dalla sala.

Ciascuna delle due delegazioni ha portato circa dieci avvocati, quasi il doppio della presenza diplomatica degli altri partecipanti, secondo il rapporto. Le modifiche proposte sono arrivate abbastanza rapidamente da rendere difficile per le delegazioni più piccole seguire l'evoluzione del testo.

L'eliminazione più rilevante riguardava la revisione dei bersagli. Una disposizione precedente richiedeva che un essere umano esaminasse i bersagli militari prodotti dall'IA prima che un attacco potesse procedere.

Quel requisito riguardava sia i sistemi IA di supporto alle decisioni sia le armi più autonome. Un sistema di supporto alle decisioni potrebbe analizzare la sorveglianza, ordinare bersagli sospetti per priorità, stimare i rischi o raccomandare un attacco senza lanciare fisicamente un'arma.

La rimozione della clausola sulla revisione non autorizza automaticamente le macchine a uccidere senza supervisione. Il diritto internazionale umanitario esistente continua a vincolare gli Stati e il personale militare indipendentemente dalla tecnologia utilizzata.

Tuttavia, l'eliminazione rimuove una garanzia procedurale proposta. Non afferma più che una persona debba ispezionare autonomamente un bersaglio generato dall'IA prima dell'uso della forza.

Secondo quanto riportato, le delegazioni hanno eliminato il linguaggio che richiedeva un funzionamento prevedibile e affidabile. Questi termini sono importanti perché i sistemi di apprendimento automatico possono comportarsi diversamente quando le condizioni sul campo divergono dagli ambienti di addestramento e test.

Hanno inoltre rimosso una clausola che invitava le forze armate a considerare l'etica nell'uso di armi abilitate dall'IA. Il linguaggio etico può essere difficile da applicare, ma la sua eliminazione restringe le aspettative dichiarate dalla bozza.

Questi cambiamenti contano nel loro insieme. Revisione umana, affidabilità e valutazione etica riguardano fasi diverse della stessa catena, dalla progettazione del sistema fino alla selezione dei bersagli e all'autorizzazione dell'attacco.

La bozza resta parte di un processo basato sul consenso. Decine di Stati partecipanti devono concordare prima che regole più stringenti possano avanzare, attribuendo ai principali oppositori un notevole potere di blocco.

I governi dovrebbero tornare a Ginevra a novembre. Valuteranno se il processo debba ricevere un mandato formale e se i negoziati possano avanzare verso norme giuridicamente vincolanti.

Quell'incontro verificherà se le disposizioni eliminate resteranno fuori, torneranno in forma rivista o diventeranno oggetto di un accordo separato. Mostrerà inoltre quanta resistenza gli Stati più piccoli siano in grado di sostenere.

La regola mancante sulla revisione umana è la più importante

Un passaggio di approvazione umana ha scarso valore se il revisore non dispone di informazioni, autorità e tempo sufficienti per respingere la raccomandazione della macchina.

Il requisito eliminato andava oltre la mera collocazione di una persona nella catena di comando. Riguardava la necessità che gli esseri umani esaminassero bersagli specifici generati da un sistema IA prima del rilascio delle armi.

Questa distinzione è centrale per la governance dell'IA militare. Il controllo umano può descrivere qualsiasi cosa, dalla definizione di ampi parametri di missione all'ispezione di ogni bersaglio raccomandato immediatamente prima di un attacco.

Questi assetti producono garanzie molto diverse. Un comandante che approva una zona operativa generale non valuta necessariamente ogni persona, veicolo o edificio identificato da un algoritmo.

La selezione dei bersagli implica inoltre giudizi giuridici e contestuali che i sistemi di riconoscimento dei modelli non possono risolvere con le sole statistiche. Gli operatori devono distinguere gli obiettivi militari dai civili e valutare il danno collaterale previsto.

L'IA può combinare ad alta velocità flussi di sensori, comunicazioni, immagini, cronologie delle posizioni e altri dati. Può quindi assegnare punteggi a oggetti o persone in base a correlazioni apprese da esempi precedenti.

Questa velocità offre un vantaggio militare. Può però anche creare un bias di automazione, che si verifica quando le persone accettano una raccomandazione informatizzata senza esercitare un giudizio indipendente significativo.

Un revisore di fronte a centinaia di bersagli proposti in pochi minuti potrebbe approvare gli output meccanicamente. L'essere umano resta formalmente coinvolto, ma il processo operativo ha già spostato la decisione verso la macchina.

Un briefing sull'IA militare di Human Rights Watch del giugno 2026 ha identificato questo rischio. Ha avvertito che velocità e scala possono rendere le precauzioni richieste difficili o impossibili.

L'organizzazione ha sostenuto che gli output probabilistici non possono sostituire i giudizi qualitativi richiesti dal diritto internazionale umanitario. Ha inoltre raccomandato una moratoria sull'uso dell'IA come base per le decisioni di selezione dei bersagli.

Questa posizione va oltre la bozza delle Nazioni Unite riportata. Tuttavia, illustra perché il linguaggio eliminato sulla revisione avesse più peso di una generica promessa di uso responsabile.

Una garanzia utile definirebbe cosa ricevono i revisori, comprese le prove del sistema, l'incertezza, le limitazioni dei dati e le ragioni della raccomandazione di un bersaglio. Preserverebbe inoltre il tempo per la deliberazione.

I revisori avrebbero bisogno dell'autorità per ritardare o annullare un attacco senza subire pressioni per adeguarsi alla velocità della macchina. Avrebbero bisogno di formazione sia sul diritto militare sia sulle modalità di guasto dei sistemi.

Anche la decisione finale dovrebbe essere registrata. Senza registri che mostrino la raccomandazione, i dati di supporto, la risposta umana e l'autorizzazione di comando, la responsabilità diventa difficile da accertare dopo danni ai civili.

Nessuno di questi dettagli di supporto è garantito dall'espressione “human in the loop”. Un pulsante di approvazione nominale può mascherare un processo automatizzato anziché limitarlo.

La disposizione eliminata era quindi necessaria, ma non sufficiente. Ripristinarla stabilirebbe un'aspettativa minima, mentre standard dettagliati determinerebbero se la revisione sia significativa.

La velocità militare si scontra con il giudizio umano

L'incentivo operativo alla base di regole più deboli è la velocità, mentre la preoccupazione giuridica e umanitaria è che la velocità sostituisca il giudizio.

Le organizzazioni militari utilizzano sempre più l'IA per l'analisi dell'intelligence, la logistica, la sorveglianza, le operazioni informatiche e la pianificazione sul campo di battaglia. Queste applicazioni non comportano tutte lo stesso rischio.

Automatizzare i programmi di manutenzione è fondamentalmente diverso dal classificare le persone come potenziali bersagli. Il primo può migliorare l'efficienza, mentre il secondo può influenzare decisioni irreversibili di vita o di morte.

I funzionari americani hanno apertamente sottolineato l'importanza di una selezione più rapida dei bersagli. Un funzionario del Pentagono ha dichiarato all'Associated Press che l'IA potrebbe aiutare le truppe a identificare i bersagli più rapidamente e ad accelerare gli attacchi successivi.

Altri leader militari hanno sottolineato la cautela. L'ammiraglio Frank Bradley, che guida lo U.S. Special Operations Command, ha affermato che gli esseri umani devono fidarsi del fatto che l'IA diriga la violenza solo dove previsto.

I funzionari di comando hanno inoltre descritto l'IA come uno strumento per ridurre il lavoro amministrativo di routine. Un responsabile degli acquisti ha affermato che l'obiettivo era migliorare il giudizio degli operatori, anziché sostituirlo.

Queste posizioni rivelano una tensione interna, non una semplice scelta tra adozione e rifiuto. I leader militari desiderano velocità computazionale mantenendo al contempo fiducia, controllo e responsabilità giuridica.

La tensione diventa più acuta durante operazioni ad alto volume. Il Washington Post ha riferito che l'esercito statunitense ha usato un chatbot di Anthropic per contribuire a identificare quasi 1.000 bersagli nelle prime 24 ore di una guerra.

Quella notizia non dimostra che il chatbot abbia selezionato autonomamente bersagli o autorizzato attacchi. Mostra però perché le procedure di revisione debbano tenere conto della scala oltre che dell'autorità formale.

Una persona non può valutare in modo significativo un'ondata di raccomandazioni quando le tempistiche operative consentono solo pochi secondi per ciascuna decisione. Un output più rapido può ridurre la deliberazione anche quando l'approvazione resta umana.

Gli scambi di Ginevra delle Nazioni Unite di giugno hanno riunito oltre 100 Stati, organizzazioni internazionali e gruppi della società civile.

Austria, Brasile, Cile, Messico, Sierra Leone, Costa Rica e Cuba figuravano tra i governi che hanno sottolineato giudizio umano e responsabilità durante quelle discussioni.

La Russia si è opposta a nuove restrizioni e ha descritto alcune proposte come iniziative guidate dall'Occidente. Ha sostenuto che l'IA militare dovrebbe rimanere nell'ambito dell'attuale processo governativo di esperti sulle armi convenzionali.

Stati Uniti e Israele hanno partecipato ma non hanno presentato dichiarazioni formali in plenaria, secondo il resoconto dell'incontro. La loro presenza non ha chiarito le garanzie minime da loro preferite.

L'argomento pratico a favore della flessibilità nazionale è diretto. I comandanti non vogliono che una formulazione internazionale ampia vieti l'automazione difensiva o rallenti operazioni lecite.

L'argomento opposto è altrettanto concreto. Se ogni Stato definisce autonomamente un giudizio umano “appropriato”, l'espressione offre poca protezione contro una revisione minima o puramente cerimoniale.

Ecco perché anche prevedibilità e affidabilità sono state contestate. Tali requisiti possono limitare l'impiego quando i sistemi non sono stati convalidati in condizioni realistiche sul campo di battaglia.

I campi di battaglia contengono sensori danneggiati, segnali ingannevoli, intelligence incompleta, ambienti sconosciuti e avversari che cercano di manipolare gli algoritmi. Le prestazioni misurate in test controllati potrebbero non reggere in tali condizioni.

La rimozione di un linguaggio esplicito sull'affidabilità attribuisce ai governi maggiore discrezionalità sulle prestazioni accettabili. Rende inoltre più difficile stabilire una soglia condivisa prima che i sistemi influenzino decisioni letali.

Le norme volontarie competono con limiti vincolanti

Il nodo centrale dello scontro diplomatico riguarda se le forze armate più potenti debbano promettere moderazione o accettare regole che altri Stati possano invocare contro di loro.

Gli Stati Uniti avevano in precedenza promosso principi volontari per un’IA militare responsabile. La loro dichiarazione politica del 2023 chiedeva impieghi ben definiti, catene di comando responsabili, test e un adeguato giudizio umano.

Più di 50 Stati hanno aderito a tale quadro. Ha stabilito un linguaggio comune, ma non ha creato un trattato, un sistema di applicazione o un processo di ispezione indipendente.

Le dichiarazioni volontarie possono comunque influenzare gli appalti, l’addestramento e la dottrina militare. Possono aiutare i governi a convergere sulle aspettative prima che esista sostegno politico per una normativa vincolante.

La loro debolezza emerge quando cambiano gli incentivi strategici. Uno Stato può reinterpretare formulazioni flessibili, rivedere la propria politica interna o ritirare tutele pratiche senza violare alcun obbligo giuridico.

Le modifiche di Ginevra riportate dalla stampa riflettono questa divisione. Stati Uniti e Russia sono concorrenti geopolitici, ma entrambi dispongono di forze armate avanzate e attribuiscono valore alla libertà nello sviluppo delle armi.

Nessuno dei due Paesi sostiene un trattato internazionale vincolante che limiti le armi autonome secondo l’approccio favorito dai sostenitori della campagna. Il loro interesse comune consiste nell’impedire ad altri Stati di fissare regole restrittive.

Questo allineamento non significa che le loro dottrine militari siano identiche. Significa che entrambi i governi traggono vantaggio dal preservare la discrezionalità nazionale mentre la tecnologia e le applicazioni sul campo di battaglia si sviluppano.

Le regole basate sul consenso amplificano la loro influenza. Nicole van Rooijen di Stop Killer Robots ha sostenuto che Washington e Mosca possono bloccare progressi appoggiati da una larga maggioranza degli Stati.

I Paesi più piccoli possono sostenere tutele rigorose, ma non dispongono di team legali e pressione diplomatica equivalenti. Le sessioni di redazione a porte chiuse possono accentuare questo squilibrio quando le modifiche arrivano rapidamente.

I sostenitori di un trattato indicano le armi chimiche, le armi biologiche, le mine antipersona e le munizioni a grappolo come precedenti. Questi regimi differiscono per adesione e applicazione, ma ciascuno ha contribuito a stigmatizzare determinate condotte.

Richard Lennane, consulente per il disarmo del Comitato Internazionale della Croce Rossa, ha sostenuto che i trattati contano perché plasmano norme e comportamenti, non solo attraverso le sanzioni.

Le Nazioni Unite e la Croce Rossa hanno rinnovato il loro appello congiunto ad agosto. Hanno chiesto divieti per alcune armi autonome e restrizioni per altre.

La loro proposta vieterebbe sistemi i cui effetti non possano essere sufficientemente compresi, previsti o spiegati. Vieterebbe inoltre sistemi progettati o utilizzati per colpire direttamente esseri umani.

Altri sistemi autonomi rimarrebbero consentiti con restrizioni relative ai tipi di bersaglio, alla durata, all’ambito geografico e alla supervisione umana. Questa struttura evita di trattare ogni funzione automatizzata come ugualmente pericolosa.

Il patto USA-Russia sulle armi IA si colloca tra questi approcci. Può rimanere una dichiarazione politica volontaria, diventare la base per negoziati su un trattato oppure bloccarsi a causa del consenso.

Questo incerto status giuridico spiega perché la formulazione conta ora. I compromessi iniziali diventano spesso punti di riferimento per accordi successivi, politiche nazionali, contratti di appalto e manuali militari.

Se la revisione umana dei bersagli scompare dalla base di riferimento condivisa, i sostenitori dovranno lottare per ripristinarla in ogni fase successiva. L’omissione può gradualmente diventare il punto di partenza diplomatico accettato.

La bozza lascia ancora senza risposta questioni cruciali

Il rapporto identifica le tutele eliminate, ma non rivela la bozza completa, la proposta di ciascuna delegazione o il significato giuridico finale delle formulazioni contestate.

Il Washington Post ha basato il proprio resoconto su tre persone a conoscenza di negoziati riservati. I governi nominati e le Nazioni Unite non hanno fornito risposte da includere.

I lettori dovrebbero quindi distinguere i dettagli riportati dalla stampa dai documenti diplomatici confermati pubblicamente. Le eliminazioni sono informazioni credibili, ma la cronologia completa dei negoziati non è ancora disponibile.

Non è chiaro se Stati Uniti e Russia abbiano proposto modifiche identiche o si siano sostenuti a vicenda in modo selettivo. Le ragioni delle loro obiezioni a ciascuna clausola non sono state pubblicate.

Al pubblico manca anche un testo comparativo che mostri ogni revisione. Un confronto di questo tipo rivelerebbe se le tutele siano state eliminate del tutto, spostate altrove o sostituite da formulazioni più ampie.

Anche l’espressione “revisione umana” necessita di una definizione. Un requisito può applicarsi a ogni bersaglio, a determinate categorie di bersagli o soltanto alle situazioni in cui un sistema di IA fornisce informazioni decisive.

Allo stesso modo, “bersaglio generato dall’IA” può riferirsi all’identificazione originaria effettuata da una macchina, a una raccomandazione ordinata per priorità o a un pacchetto di bersagli assemblato da molteplici input umani e automatizzati.

Queste distinzioni incidono sulle conseguenze operative. Una definizione restrittiva potrebbe consentire ai governi di classificare molte decisioni assistite da algoritmi come generate dall’uomo, aggirando la tutela.

Il rapporto non stabilisce neppure che uno dei due Paesi attualmente consenta alle armi di attaccare persone senza autorizzazione umana. Opporsi a una clausola nei negoziati non prova una specifica politica di impiego.

Questa incertezza non dovrebbe ridurre al minimo la preoccupazione. La resistenza diplomatica segnala comunque quali vincoli i governi non sono disposti ad accettare a livello internazionale.

La politica interna aggiunge un ulteriore livello irrisolto. Il Pentagono sta rivedendo la Direttiva 3000.09, la propria politica che disciplina l’autonomia nei sistemi d’arma.

Secondo quanto riportato, un memorandum sulla sicurezza nazionale di giugno ha ordinato un aggiornamento entro 90 giorni. Entro la fine di settembre non era apparsa alcuna versione pubblica rivista.

La direttiva del 2023 richiedeva un adeguato giudizio umano sull’uso della forza. Includeva inoltre requisiti di revisione per alcuni sistemi d’arma autonomi e semiautonomi.

Rimane ignota la relazione tra la revisione interna in sospeso e la posizione negoziale di Ginevra. Eliminazioni analoghe indicherebbero un cambiamento coordinato verso una maggiore discrezionalità operativa.

Una formulazione diversa mostrerebbe che Washington accetta tutele internamente mentre resiste agli impegni internazionali. Questa posizione potrebbe proteggere la flessibilità militare, ma indebolirebbe la diplomazia statunitense all’estero.

La politica russa è più difficile da valutare perché la trasparenza pubblica su sviluppo, test e dispiegamento resta limitata. Le affermazioni dal campo di battaglia spesso non possono essere verificate in modo indipendente.

Anche i gruppi umanitari affrontano una lacuna nelle prove. Le Nazioni Unite e la Croce Rossa hanno affermato che le armi autonome stanno avanzando rapidamente, evitando però dichiarazioni definitive su specifici impieghi sul campo di battaglia.

Il supporto decisionale abilitato dall’IA è più facile da documentare rispetto a un’operazione letale pienamente autonoma. Tuttavia, gli strumenti di supporto decisionale possono comunque influenzare chi viene attaccato, soprattutto in tempistiche ristrette.

La conclusione responsabile è più circoscritta dell’interpretazione più allarmistica. La bozza avrebbe perso importanti barriere, mentre l’impatto operativo esatto dipende da definizioni e attuazione.

Tre segnali da osservare prima dei colloqui di novembre

I negoziati di novembre, la direttiva rivista del Pentagono e le richieste di rendere pubblico il testo della bozza determineranno se questo episodio diventerà un’inversione duratura della politica.

Il primo segnale è se i governi ripristineranno un requisito esplicito di revisione dei bersagli prima o durante l’incontro di Ginevra. La sua formulazione dovrebbe richiedere una valutazione umana informata prima di qualsiasi attacco.

Una clausola ripristinata rafforzerebbe l’ipotesi che le eliminazioni di settembre fossero mosse negoziali provvisorie. La persistente esclusione confermerebbe una base internazionale più debole.

I dettagli conteranno più dell’etichetta. Una revisione significativa richiede tempo sufficiente, prove pertinenti, informazioni sull’incertezza e l’autorità di respingere una raccomandazione dell’IA.

Il secondo segnale è la direttiva rivista del Pentagono sulle armi autonome. Dovrebbe mostrare se gli Stati Uniti mantengono impegni interni simili a quelli rimossi a livello internazionale.

Occorre osservare le formulazioni relative al giudizio umano, ai test, all’affidabilità, alle revisioni legali, all’autorizzazione di alto livello e ai fallimenti in condizioni avversariali. Definizioni ed esenzioni saranno particolarmente importanti.

Se la direttiva preserva forti controlli interni, Washington dovrà affrontare domande sul perché abbia respinto un linguaggio internazionale analogo. Se li indebolisce, il cambiamento di politica sarà più ampio.

Il terzo segnale è la trasparenza sul testo negoziale. Stati, giornalisti e gruppi della società civile hanno bisogno di un confronto pubblico tra le bozze contestate e gli emendamenti proposti.

La trasparenza consentirebbe a esperti indipendenti di verificare le affermazioni di ogni parte. Mostrerebbe inoltre se le delegazioni più piccole abbiano ricevuto tempo e risorse sufficienti per valutare revisioni rapide.

Il processo internazionale rimarrà fragile anche se tutti e tre i segnali miglioreranno. I negoziati basati sul consenso consentono a pochi Stati influenti di ritardare i mandati o restringere le regole proposte.

Ciononostante, ripristinare la revisione umana stabilirebbe una soglia chiara. Direbbe che la selezione dei bersagli generata dalle macchine non può passare direttamente a un attacco senza un giudizio umano responsabile.

Per gli sviluppatori, questo dibattito va oltre l’hardware militare. I sistemi di IA militare dipendono da modelli commerciali, piattaforme cloud, pipeline di dati, strumenti di valutazione e fornitori di software.

Agli ingegneri potrebbe essere chiesto di documentare l’incertezza, preservare registri di audit, limitare l’autonomia dei sistemi o progettare interfacce che contrastino l’accettazione automatica. La formulazione delle politiche può diventare un requisito di prodotto.

Gli acquirenti aziendali dovrebbero osservare le stesse questioni di responsabilità. L’IA ad alta posta in gioco richiede registri che mostrino ciò che il sistema ha raccomandato, le prove utilizzate e chi ha approvato il risultato.

I knowledge worker che seguono un processo politico in rapida evoluzione possono mantenere una base di conoscenza personale contenente formulazioni delle bozze, dichiarazioni ufficiali e revisioni datate. Questa pratica rende più facili da rilevare i cambiamenti silenziosi.

Il patto USA-Russia sulle armi IA sarà significativo solo se le sue tutele resisteranno agli incentivi militari. Novembre mostrerà se la revisione umana rimane negoziabile o diventa una regola minima.

La domanda immediata è semplice: i governi pubblicheranno il testo e richiederanno che una persona esamini i bersagli generati dall’IA prima dell’uso della forza?