La guerra con l’IA di Project Maven accelera l’identificazione dei bersagli e riduce il tempo per intercettare gli errori

La guerra con l’IA di Project Maven può generare liste di potenziali bersagli nel giro di pochi minuti, nonostante un processo di revisione in cui un singolo errore trascurato può diventare irreversibile. Questa velocità sta spostando l’intelligenza artificiale da strumento di supporto verso il centro del processo decisionale militare.

Il cambiamento va oltre i droni autonomi. Le forze armate usano oggi l’IA per interpretare la sorveglianza, tradurre comunicazioni intercettate, collegare persone a luoghi, stabilire le priorità tra le minacce e raccomandare bersagli. Ciascuna funzione può accorciare il percorso dai dati grezzi a una decisione operativa.

Il conflitto centrale non è più quello tra esseri umani e armi autonome. È quello tra la generazione di bersagli alla velocità delle macchine e il più lento giudizio umano che dovrebbe verificare ogni raccomandazione. Project Maven, i sistemi di intelligence israeliani supportati dall’IA e i droni autonomi in Ucraina mostrano tutti versioni della stessa pressione.

La guerra con l’IA di Project Maven passa dall’analisi alle operazioni

L’IA militare sta diventando parte della catena operativa di targeting, anziché restare un livello sperimentale di analisi.

Il Financial Times ha riferito il 17 settembre che i sistemi autonomi vengono rapidamente integrati nelle operazioni sul campo di battaglia. La sua inchiesta si apriva con lo Saker Scout, un drone ucraino simile a molti altri velivoli impiegati sopra la linea del fronte.

A distinguere i sistemi di questa categoria è la loro crescente capacità di navigare, identificare oggetti o proseguire le missioni con un minore intervento dell’operatore. Il livello preciso di autonomia varia a seconda del sistema e del suo impiego. Tuttavia, la direzione è coerente: oggi il software svolge più compiti tra l’osservazione di un campo di battaglia e l’uso della forza.

Project Maven rappresenta la stessa transizione all’interno dell’esercito degli Stati Uniti. Il Pentagono lo ha avviato nel 2017 per applicare il machine learning alle immagini provenienti da droni e satelliti. Da allora il sistema è cresciuto fino a diventare un ambiente più ampio per dati e targeting, usato per organizzare le informazioni destinate ai comandanti.

Il machine learning indica software che apprende schemi dai dati di addestramento e li applica a nuovi input. Nelle immagini militari, ciò può comportare la distinzione di veicoli, strutture, movimenti o altri oggetti all’interno di grandi raccolte di dati dei sensori.

Questo non significa necessariamente che il software spari autonomamente un’arma. Project Maven viene generalmente descritto come un sistema di supporto alle decisioni, nel quale le persone sono tenute a convalidare gli output e autorizzare l’azione.

Questa distinzione conta sul piano legale e operativo. Un sistema di supporto alle decisioni basato sull’IA raccomanda o assegna priorità alle informazioni, mentre un’arma autonoma può selezionare e colpire un bersaglio dopo l’attivazione senza ulteriore intervento umano.

Eppure, la separazione diventa meno rassicurante quando le raccomandazioni generate dalla macchina arrivano più rapidamente di quanto le persone possano indagarle. Un essere umano può restare formalmente responsabile pur avendo solo una finestra ristretta per mettere in discussione le prove sottostanti.

I funzionari militari attribuiscono a Project Maven la riduzione del tempo necessario per identificare potenziali bersagli. La revisione sull’IA militare pubblicata dal Brennan Center afferma che il sistema può interpretare rapidamente immagini provenienti da droni e satelliti.

L’attrattiva è evidente. Un esercito può raccogliere più dati dai sensori di quanti i suoi analisti possano esaminare manualmente. L’IA può filtrare quel volume, collegare informazioni provenienti da fonti diverse e far emergere potenziali minacce prima che l’intelligence diventi obsoleta.

La velocità favorisce anche il coordinamento. Un veicolo in movimento, un sistema radar o un lanciatore mobile possono restare visibili solo per un breve periodo. Un processo di targeting che richiede ore può far perdere l’opportunità prima che una decisione raggiunga il comandante appropriato.

Tuttavia, un’analisi più rapida non produce automaticamente prove migliori. Può invece far circolare l’incertezza nel sistema a una velocità maggiore.

L’evento riportato dal Financial Times non è quindi un singolo annuncio di dispiegamento. È una soglia operativa. Le forze armate stanno adottando l’IA lungo tutta la catena che trasforma l’osservazione in decisioni letali, anche se il comportamento dei modelli può restare difficile da prevedere.

Una generazione più rapida dei bersagli cambia chi controlla il ritmo

Il vantaggio strategico deriva dalla compressione dei tempi decisionali, ma la stessa compressione sottopone i revisori umani a una pressione maggiore.

Il targeting tradizionale richiede molto lavoro. Gli analisti confrontano fonti di intelligence, valutano se le informazioni siano ancora aggiornate, identificano la presenza di civili, stimano i possibili danni e sottopongono raccomandazioni attraverso una struttura di comando.

La generazione di bersagli assistita dall’IA automatizza parti di questo lavoro. Un modello può cercare simultaneamente tra immagini, testi, comunicazioni, registri di localizzazione e altri database. Può quindi classificare gli schemi che corrispondono a un profilo di bersaglio.

Un profilo di bersaglio è un insieme di attributi usati per identificare un oggetto o una persona di interesse. Tali attributi possono includere forma, movimento, posizione, schemi di comunicazione o relazioni con entità identificate in precedenza.

Il guadagno apparente è la scala. Un sistema di IA può far emergere centinaia di candidati laddove un team umano potrebbe averne esaminato un numero molto minore. I militari possono quindi indirizzare i limitati analisti disponibili verso i risultati più rilevanti.

Questo modifica il ritmo del campo di battaglia. Le forze che utilizzano l’IA possono potenzialmente osservare, stabilire priorità e agire prima che un avversario completi lo stesso ciclo. La guerra con l’IA di Project Maven è costruita attorno a questa compressione del processo che va dal sensore alla decisione.

Se progettata correttamente, la velocità può anche favorire la protezione dei civili. Il software può combinare informazioni su ospedali, scuole, vie di evacuazione e movimenti della popolazione civile. Può avvisare gli operatori quando le condizioni sono cambiate da quando un bersaglio è stato inizialmente proposto.

Il Comitato Internazionale della Croce Rossa riconosce questa possibilità. Le sue linee guida sull’IA militare affermano che gli strumenti di supporto alle decisioni possono aiutare a sintetizzare le informazioni e raccomandare metodi concepiti per ridurre i danni incidentali.

Tuttavia, la scala crea un problema di secondo ordine. Se il numero di bersagli generati cresce più rapidamente del numero di revisori qualificati, il processo di revisione diventa un collo di bottiglia.

I comandanti devono quindi affrontare una scelta scomoda. Possono rallentare il sistema e preservare un esame dettagliato, oppure accelerare le approvazioni e cedere parte della presunta salvaguardia umana.

Le prove relative all’uso israeliano di intelligence supportata dall’IA illustrano tale tensione. Un’indagine dell’Associated Press ha rilevato che l’esercito israeliano ha utilizzato servizi commerciali di cloud e IA per elaborare sorveglianza, comunicazioni, traduzioni e altri dati dopo il 7 ottobre 2023.

I funzionari israeliani hanno dichiarato all’AP che gli analisti valutano autonomamente i bersagli supportati dall’IA e che rimangono coinvolti diversi livelli di personale. Hanno inoltre affermato che gli strumenti producono bersagli più rapidamente senza sacrificare l’accuratezza.

Queste affermazioni sono difficili da valutare dall’esterno del sistema. I dati sul targeting militare, i tassi di errore, le configurazioni dei modelli e le indagini successive alle azioni sono raramente disponibili per un esame indipendente.

L’indagine ha comunque documentato quanto sia cambiato il carico di lavoro. L’ex funzionario legale militare Tal Mimran ha dichiarato che una revisione di un attacco aereo coinvolgeva in precedenza fino a 20 persone e poteva richiedere un giorno o più. I processi supportati dall’IA hanno consentito di approvare centinaia di bersagli ogni settimana.

Questo confronto non dimostra che gli attacchi risultanti fossero illegali o imprecisi. Mostra però che il rapporto tra l’output delle macchine e l’attenzione umana è cambiato in modo sostanziale.

Un revisore che esamina un singolo dossier di bersaglio accuratamente assemblato può ricostruirne le ipotesi. Un revisore che affronta una coda di raccomandazioni in rapido aggiornamento subisce una pressione cognitiva molto diversa.

Questa pressione riguarda i leader militari, i fornitori di software, gli analisti dell’intelligence e i consulenti legali. Ogni gruppo dipende dagli altri, ma nessun singolo partecipante vede necessariamente l’intera catena.

Gli sviluppatori dei modelli possono comprendere l’addestramento e la valutazione, ma non avere accesso alle condizioni sul campo di battaglia. Gli operatori comprendono la missione, ma potrebbero non sapere perché un modello abbia assegnato un determinato punteggio. I comandanti vedono le raccomandazioni, ma potrebbero non conoscere i limiti di ogni fonte di dati.

Il risultato è una responsabilità distribuita. Tutti contribuiscono alla decisione, mentre l’attribuzione delle responsabilità diventa più difficile da individuare dopo un fallimento.

Il controllo umano può trasformarsi in una casella procedurale da spuntare

Il fatto che una persona approvi una raccomandazione dell’IA non garantisce un giudizio umano significativo.

Le politiche militari descrivono spesso un sistema human-in-the-loop. L’espressione indica che una persona deve intervenire prima che un sistema completi un’azione rilevante, come colpire un bersaglio.

Questa salvaguardia appare chiara a livello di diagramma. I dati dei sensori entrano in un modello, il modello produce una raccomandazione e un operatore addestrato la accetta o la respinge.

Le operazioni reali sono meno ordinate. Le raccomandazioni possono arrivare durante missioni sensibili al fattore tempo, interruzioni delle comunicazioni, carenze di personale o attacchi contro forze amiche. L’operatore potrebbe inoltre esaminare gli output di diversi sistemi automatizzati.

Questo contesto favorisce il bias dell’automazione, ovvero la tendenza a fidarsi di una raccomandazione generata da una macchina anche quando le prove disponibili dovrebbero richiedere ulteriori verifiche. Il bias diventa più forte quando il sistema sembra di solito accurato o quando respingerlo richiede lavoro aggiuntivo.

Il CICR avverte che gli operatori sotto pressione temporale possono approvare meccanicamente gli output dell’IA anziché applicare un giudizio indipendente. Le sue linee guida affermano che l’IA militare richiede un coinvolgimento umano significativo e la capacità di contestare le raccomandazioni.

La parola “significativo” sostiene gran parte dell’onere. Una decisione umana non è significativa semplicemente perché qualcuno preme un pulsante di approvazione.

Il revisore necessita di tempo sufficiente, informazioni contestuali e autorità per respingere l’output. Deve inoltre comprendere i limiti noti del sistema e la qualità delle prove alla base di quella specifica raccomandazione.

Si consideri un modello che associa una persona a un’organizzazione ostile utilizzando metadati delle comunicazioni. Il collegamento potrebbe essere accurato, obsoleto, indiretto o prodotto da dati di origine errati.

Il modello può assegnare un punteggio all’associazione senza comprendere perché quella persona abbia chiamato un numero, raggiunto un luogo o usato una particolare espressione. Un essere umano deve fornire quel contesto.

La traduzione introduce un ulteriore punto di fallimento. L’inchiesta dell’AP sull’IA sul campo di battaglia ha descritto un termine arabo che poteva riferirsi sia a un componente di un’arma sia a un pagamento.

Una traduzione automatizzata ha selezionato l’interpretazione pericolosa. Un revisore umano inizialmente non ha rilevato l’errore, secondo un ufficiale dell’intelligence israeliana intervistato dall’AP.

Lo stesso ufficiale ha descritto un foglio di calcolo contenente almeno 1.000 studenti delle scuole superiori, i cui nomi erano stati secondo quanto riferito allegati a profili di potenziali militanti. Il file riguardava gli esami finali, ma il contesto circostante è stato interpretato erroneamente.

Questi esempi dimostrano perché un errore non può essere isolato nell’“IA”. Il modello elabora dati forniti da persone, sensori, database e altri software. Gli esseri umani interpretano poi il suo output attraverso interfacce progettate da un altro gruppo.

Un inserimento errato può attraversare questa catena acquisendo un’apparente credibilità. Quando diversi sistemi lo ripetono o vi fanno riferimento, i revisori possono scambiare la correlazione per una conferma indipendente.

Anche gli esseri umani faticano a calibrare la fiducia quando i modelli cambiano. Un sistema può funzionare bene con immagini familiari e fallire quando cambiano meteo, terreno, mimetizzazione, qualità dei sensori o tattiche nemiche.

Gli avversari provocano attivamente questi cambiamenti. Usano esche, interferenze elettroniche, occultamento, segnali manipolati e movimenti ingannevoli. I dati del campo di battaglia non sono semplicemente rumorosi; gli avversari li rendono deliberatamente fuorvianti.

Questo distingue l’IA militare da molte applicazioni commerciali. Un motore di raccomandazione incontra utenti che cercano di influenzarlo, mentre un modello impiegato sul campo di battaglia affronta avversari organizzati che tentano di provocare errori letali.

Il controllo umano deve quindi comprendere più dell’autorizzazione finale. Richiede test in condizioni pertinenti, accesso a prove contrarie, chiari indicatori di incertezza e tempo sufficiente per riconsiderare la raccomandazione.

Richiede inoltre un’autorizzazione istituzionale a dissentire dal sistema. Un analista punito per aver rallentato un’operazione imparerà ad approvare risultati discutibili, indipendentemente dalle regole formali.

La guerra dell’IA di Project Maven sottopone questa progettazione organizzativa a pressione. Il valore del sistema dipende dalla velocità, mentre una verifica significativa richiede tempo. Questo è il compromesso centrale, non un dettaglio di implementazione.

Gli errori nel targeting con IA aumentano in velocità e scala

L’IA non deve fallire spesso per causare gravi danni, quando un singolo errore può propagarsi attraverso migliaia di raccomandazioni.

I sistemi di machine learning sono statistici. Deducono modelli probabili dai dati anziché applicare una conoscenza perfetta del mondo.

Ciò crea diverse categorie di fallimento. Un modello può classificare erroneamente un oggetto, basarsi su dati distorti, non cogliere un contesto in evoluzione, generare una traduzione inaccurata o attribuire troppo peso a un’associazione debole.

Gli errori possono anche iniziare al di fuori del modello. Un database di localizzazione può contenere un indirizzo non aggiornato. Un sensore può produrre un’immagine distorta. Una fonte umana può fornire informazioni false.

L’IA può combinare rapidamente questi input, ma non può garantire che rappresentino la realtà. Un risultato espresso con sicurezza può nascondere una fragile catena di prove.

La scala rende tutto questo pericoloso. Quando un’ipotesi errata interessa un singolo dossier revisionato manualmente, gli investigatori possono talvolta identificarla e contenerla. Quando quell’ipotesi è inserita in una pipeline automatizzata, può influenzare molte raccomandazioni prima che qualcuno se ne accorga.

Il CICR afferma che i sistemi militari di supporto alle decisioni possono amplificare gli errori sia in velocità sia in scala. Avverte inoltre che questi sistemi possono accelerare un’escalation involontaria quando gli utenti non esercitano un giudizio indipendente.

L’escalation è rilevante perché i sistemi di IA militare non operano in isolamento. Una forza modifica il proprio assetto in risposta ai movimenti di un’altra. Raccomandazioni più rapide incoraggiano reazioni più rapide da entrambe le parti.

Un falso allarme su un attacco imminente può quindi fare più che produrre un singolo attacco errato. Può innescare dispersione, ritorsioni o una sequenza più ampia di allarmi automatizzati.

I responsabili della sicurezza hanno iniziato a descrivere questo fenomeno come una compressione dei tempi decisionali. Al Beijing Xiangshan Forum del settembre 2026, i partecipanti hanno avvertito che l’IA stava accorciando le tempistiche strategiche, mentre la disinformazione indeboliva la capacità dei governi di stabilire cosa fosse accaduto.

Rappresentanti di circa 100 Paesi hanno partecipato all’evento di tre giorni. Il vicepresidente del CICR Jürg Lauber ha sostenuto che preservare il giudizio umano diventa più importante man mano che le armi acquisiscono autonomia.

Gli avvertimenti del forum sulla sicurezza mostrano che la preoccupazione non è limitata ai gruppi di advocacy. Funzionari militari e diplomatici riconoscono che la velocità può indebolire il controllo tra gli Stati.

La sfida tecnica va inoltre oltre i prevedibili errori di classificazione. Gli sviluppatori non riescono sempre a spiegare perché modelli avanzati si comportino diversamente dopo piccole modifiche ai prompt, agli input, agli strumenti o alle condizioni operative.

Questa imprevedibilità non significa che ogni sistema di IA sia incontrollabile. Significa che le prestazioni misurate durante i test non possono coprire ogni ambiente, tipo di bersaglio, tattica avversaria o interazione con altri software.

Le armi autonome rendono la questione più preoccupante. Questi sistemi possono selezionare e applicare la forza dopo l’attivazione senza che una persona scelga ogni bersaglio specifico.

Alcuni sistemi autonomi hanno funzioni ristrette e ambienti operativi definiti. Le armi difensive possono ingaggiare automaticamente missili in arrivo perché il tipo di bersaglio e la finestra di risposta sono strettamente delimitati.

Il rischio cambia quando l’autonomia si estende alle aree popolate o coinvolge le persone. Una macchina può identificare movimento, abbigliamento, calore o la forma di un veicolo, ma questi segnali non rivelano l’intenzione o lo status giuridico.

Un combattente ferito, un combattente che si arrende e un civile possono produrre schemi simili nei sensori. Il loro status dipende da un contesto che cambia nel giro di pochi secondi.

Per questo motivo, la posizione del CICR sulle armi autonome chiede il divieto dei sistemi imprevedibili e delle armi autonome progettate per colpire persone. Sostiene inoltre restrizioni per altre armi autonome.

Le istituzioni militari rispondono spesso che gli esseri umani restano responsabili e che il diritto internazionale umanitario si applica già. Entrambe le affermazioni sono corrette, ma nessuna delle due risolve il problema operativo.

La responsabilità dopo un attacco non ripristina un bersaglio identificato erroneamente. Il diritto esistente fornisce standard essenziali, ma i comandanti necessitano comunque di sistemi tecnici e organizzativi capaci di applicare tali standard sotto pressione.

La valutazione indipendente rimane particolarmente difficile. I fornitori proteggono modelli, dati e progettazioni dei sistemi come informazioni proprietarie. Le forze armate proteggono le procedure di targeting per ragioni di sicurezza.

Queste restrizioni possono impedire agli avversari di sfruttare un sistema. Possono anche rendere più difficile per legislatori, tribunali, investigatori e pubblico valutare se le salvaguardie funzionino.

La mancanza di trasparenza non va confusa con la prova di un fallimento. Crea un vuoto di evidenze. Forti affermazioni su precisione, sicurezza o riduzione dei danni ai civili rimangono difficili da verificare senza dati operativi.

Tre segnali mostreranno se la supervisione può tenere il passo

La prossima fase della guerra con IA sarà definita da salvaguardie misurabili, non da promesse più ampie secondo cui un essere umano resta coinvolto.

Il primo segnale riguarda la divulgazione da parte delle forze armate di come testano i sistemi di IA per il targeting in condizioni di campo di battaglia. Prove utili includerebbero le prestazioni su terreni variabili, con sensori degradati, guerra elettronica, inganno avversario e classi di bersagli non familiari.

L’accuratezza in laboratorio non basta. I valutatori devono sapere quando il modello fallisce, se gli operatori possono riconoscere tali fallimenti e con quale rapidità un risultato difettoso può essere ritirato.

La pubblicazione resterà limitata da preoccupazioni di sicurezza. Tuttavia, i governi possono comunque istituire organismi di revisione indipendenti, report standardizzati sugli incidenti e accesso protetto per la supervisione legislativa.

Se tali meccanismi si espandessero, sosterrebbero l’affermazione secondo cui l’adozione operativa è accompagnata da una verifica rigorosa. Se i test rimanessero quasi interamente segreti, il divario nelle garanzie si amplierebbe.

Il secondo segnale è la quantità di tempo e di prove disponibili per ogni revisione umana. Le forze armate dovrebbero misurare se la produzione di bersagli stia crescendo più rapidamente del personale qualificato e dei controlli indipendenti.

Un conteggio formale delle approvazioni, da solo, rivela poco. La supervisione dipende dal fatto che i revisori esaminino l’intelligence originale, consultino fonti in conflitto, comprendano i limiti di confidenza e mantengano l’autorità di ritardare l’azione.

Le indagini successive all’azione dovrebbero inoltre esaminare il bias di automazione. Un sistema può soddisfare i requisiti ingegneristici pur incoraggiando errori umani prevedibili attraverso la sua interfaccia o il suo flusso di lavoro.

Se il tempo di revisione si riduce mentre aumenta il volume dei bersagli, “human in the loop” descriverà sempre più una procedura anziché un giudizio. Se personale, progettazione dell’interfaccia e regole di escalation si adattano al carico di lavoro, il controllo umano diventa più credibile.

Il terzo segnale è l’azione internazionale sulle armi autonome e sui sistemi militari di supporto alle decisioni. La Settima Conferenza di revisione della Convenzione su certe armi convenzionali è prevista dal 16 al 20 novembre 2026.

La riunione offre agli Stati l’opportunità di perseguire restrizioni più chiare. Tra le questioni importanti vi sono se le regole distinguano il supporto alle decisioni dall’ingaggio autonomo e se affrontino comportamenti imprevedibili abilitati dall’IA.

Un accordo su limiti giuridicamente vincolanti rafforzerebbe l’idea che i governi possano preservare il controllo prima che l’impiego si consolidi. Un persistente stallo lascerebbe l’adozione militare avanzare più rapidamente della governance internazionale.

Anche sviluppatori e acquirenti aziendali di IA dovrebbero osservare questi segnali. I problemi di fondo sono familiari oltre il settore della difesa: modelli opachi, dati di origine inaffidabili, bias di automazione, piste di audit deboli e decisioni prese più rapidamente di quanto le persone possano convalidarle.

Le conseguenze differiscono nettamente, ma la lezione di governance è trasferibile. Le organizzazioni necessitano di accesso al materiale di origine, alle prove contrarie, ai limiti dei modelli e a una registrazione di come raccomandazioni rilevanti siano diventate decisioni.

Mantenere una base di conoscenza ricercabile può aiutare i team tecnici a preservare quella pista probatoria. Non può sostituire decisori responsabili o una revisione specifica per il dominio.

La guerra dell’IA di Project Maven rende impossibile evitare la questione più ampia. Se l’IA genera raccomandazioni più rapidamente di quanto gli esseri umani possano indagarle, quale parte del processo è effettivamente sotto controllo?

La risposta dovrebbe essere visibile nei test, nei tempi di revisione, nei tassi di rifiuto, nelle indagini sugli incidenti e nelle regole applicabili. I lettori dovrebbero valutare il prossimo annuncio sull’IA militare alla luce di queste misure, non di un’ulteriore rassicurazione che una persona resti da qualche parte nel ciclo.