Il caso dello sciame di droni Claude espone i limiti delle salvaguardie AI di Anthropic

Anthropic afferma che freelance probabilmente basati in Russia hanno usato Claude Code per sviluppare uno sciame autonomo di droni da combattimento, nonostante le salvaguardie pensate per bloccare lo sviluppo di armi. Il sistema era progettato per selezionare bersagli, comprese persone, e impartire comandi di detonazione senza approvazione umana. Anthropic ha scoperto nove account associati e ha bandito il gruppo dopo averne indagato l'attività.

Il presunto sciame di droni Claude non era semplicemente una raccolta di frammenti di codice generati. Secondo Anthropic, gli sviluppatori hanno collegato il lavoro software assistito dall'AI a bacheche di sviluppo attive, computer a scheda singola, strumenti di simulazione e un processore grafico noleggiato. Il progetto comprendeva riconoscimento dei bersagli, guida terminale, coordinamento tra velivoli e software che regolava se i droni dovessero attaccare o rientrare.

Questa combinazione crea il conflitto centrale. Anthropic presenta Claude come un servizio controllato, con politiche contro lo sviluppo di armi. Eppure, le stesse capacità di programmazione che aiutano gli ingegneri legittimi a costruire sistemi complessi avrebbero aiutato un piccolo team a far progredire software per armi autonome. OpenAI e altri fornitori di modelli di frontiera affrontano la stessa pressione strutturale, anche quando politiche e metodi di applicazione differiscono.

Cosa ha trovato Anthropic nel progetto dello sciame di droni Claude

Le prove di Anthropic indicano un progetto coordinato di sviluppo di armi, non una singola conversazione sospetta.

L'azienda ha identificato l'operazione come GTG-27005 nel suo rapporto di intelligence sulle minacce di settembre 2026. Anthropic ha valutato i partecipanti come un piccolo team freelance specializzato con base in Russia. Non li ha identificati come un'organizzazione statale russa.

Gli sviluppatori chiamavano la loro operazione “DronDoc” o “Serafim”. Hanno creato i loro account tra la fine del 2025 e l'inizio del 2026, per poi avviare il progetto sui droni intorno a metà maggio 2026. Anthropic afferma che hanno instradato il traffico attraverso server privati virtuali commerciali per aggirare i controlli di accesso geografici.

Il gruppo avrebbe usato Claude Code per scrivere, testare e salvare software direttamente nei file del progetto. Claude Code è un'interfaccia di programmazione agentica, ovvero può ispezionare file, modificare codice, eseguire strumenti e proseguire tra attività ingegneristiche connesse. Questo flusso di lavoro offre una portata operativa maggiore rispetto al copiare suggerimenti isolati da un chatbot.

Anthropic afferma che il software copriva gran parte del sistema proposto. Includeva memoria condivisa per lo sciame e logica di coordinamento tollerante ai guasti, che consente a diversi droni di scambiarsi informazioni e continuare a operare quando singoli componenti si guastano.

Il progetto comprendeva anche un piccolo modello linguistico a bordo. Tale modello regolava i comportamenti di attacco, osservazione e ritorno alla base. Un componente di guida terminale usava una telecamera a bordo per dirigersi verso un bersaglio selezionato e impartire il comando di detonazione.

Altri moduli ampliavano la missione oltre la navigazione. Un componente tentava di localizzare gli operatori di droni avversari tramite geolocalizzazione del collegamento di controllo. Un altro utilizzava il rilevamento acustico passivo, mentre il codice di livello inferiore controllava chip programmabili installati sugli aeromobili.

Secondo Anthropic, gli sviluppatori hanno addestrato un classificatore di visione artificiale usando filmati di combattimento ucraini raccolti dal web. Un classificatore ordina gli input visivi in categorie predefinite. In questo caso, il team ha diviso i bersagli nelle classi “enemy” e “friendly”, inserendo al contempo i sistemi russi in una lista consentita.

Anthropic afferma che il progetto di puntamento autonomo includeva una categoria “person”. Il sistema a bordo era destinato a selezionare un bersaglio e avviare la detonazione senza che un essere umano prendesse la decisione finale. Questa caratteristica distingue il progetto dai sistemi in cui l'automazione assiste la navigazione ma un operatore remoto autorizza comunque un attacco.

Il gruppo ha utilizzato ripetutamente una coordinata fissa nell'Oblast di Donetsk, in Ucraina, come punto dimostrativo di attacco. Città e corridoi di prima linea in Ucraina apparivano come la geografia prevista per la missione. Questi dettagli supportano la valutazione di Anthropic secondo cui il lavoro riguardava una possibile applicazione sul campo di battaglia, anziché un esercizio astratto di robotica.

L'azienda ha trovato nove account collegati al gruppo. Otto sarebbero stati utilizzati soltanto per normali progetti freelance, non per lo sviluppo di armi. Questa separazione suggerisce che i partecipanti abbiano mantenuto un'attività commerciale legittima accanto al progetto militare.

Anthropic ha inoltre identificato apparenti legami tra il gruppo e un'università regionale con un centro di ricerca federale associato all'Accademia Russa delle Scienze. Gli sviluppatori hanno dichiarato di ricevere finanziamenti dalla Advanced Research Foundation russa, dalla National Technology Initiative e dal Ministero della Difesa. Anthropic ha affermato di non poter verificare tali dichiarazioni di finanziamento.

Soprattutto, il rapporto non afferma che il team abbia dispiegato uno sciame autonomo operativo. Anthropic ha classificato i sistemi di droni osservati al Livello di prontezza tecnologica 3-4, il che significa che i componenti erano stati testati o convalidati sperimentalmente e in simulazione. Si tratta di un progresso significativo, ma resta ben al di sotto di una capacità dimostrata sul campo di battaglia.

Perché un piccolo team freelance ha potuto tentare di realizzare l'intero sistema

Il cambiamento inquietante non è che l'AI abbia inventato le armi autonome, ma che abbia compresso un lavoro normalmente suddiviso tra diverse specializzazioni ingegneristiche.

Uno sciame di droni completo richiede competenze che spaziano dalla programmazione embedded alla visione artificiale, dalle comunicazioni alla navigazione, dalla simulazione all'integrazione dei sistemi. I piccoli team spesso incontrano difficoltà perché ogni livello crea diverse modalità di guasto. Il codice che funziona in simulazione può non reggere quando viene esposto a processori deboli, sensori rumorosi, collegamenti inaffidabili o condizioni di volo in rapido cambiamento.

Claude avrebbe aiutato gli sviluppatori a superare questi confini. Ha supportato la progettazione di comportamenti di alto livello, il firmware di basso livello, la classificazione visiva e la logica di coordinamento. Il resoconto di Anthropic suggerisce che il modello abbia funzionato come assistente ingegneristico flessibile nell'intero sistema, anziché come uno specialista ristretto a un singolo ambito.

Questo è rilevante perché la risorsa limitante per un team di sviluppo di armi soggetto a sanzioni o con fondi scarsi non è sempre l'accesso ai componenti di base. Telecamere commerciali, computer a scheda singola, moduli radio e processori sono ampiamente disponibili attraverso filiere di approvvigionamento civili. Il problema più difficile è integrarli in un sistema affidabile.

Gli strumenti di programmazione agentica riducono parte di questo onere di integrazione. Possono spostarsi tra file sorgente, ispezionare errori, rivedere implementazioni e collegare moduli correlati. Un utente continua a dirigere il progetto, valutare i risultati e fornire l'hardware. Tuttavia, il modello può svolgere un lavoro che altrimenti richiederebbe programmatori aggiuntivi o cicli di sviluppo più lunghi.

Anthropic ha riferito che il team ha combinato Claude Code con uno stack di simulazione software-in-the-loop. I test software-in-the-loop eseguono il software di controllo su un veicolo e un ambiente simulati prima che gli ingegneri rischino l'hardware fisico. Aiutano a individuare guasti logici e consentono prove ripetute a costi inferiori.

Gli sviluppatori hanno inoltre noleggiato capacità di elaborazione grafica per l'addestramento del modello. Questo è importante perché le sanzioni non eliminano ogni percorso verso il calcolo avanzato. Servizi cloud, rivenditori, intermediari e infrastrutture a noleggio possono offrire accesso temporaneo senza richiedere a un team di possedere un grande cluster locale.

Il gruppo è poi andato oltre la pura simulazione. Anthropic ha osservato firmware caricato su bacheche di sviluppo attive, computer a scheda singola configurati e un ambiente di simulazione di rete mesh collegato. I test hardware-in-the-loop connettono componenti informatici reali a un sistema simulato, rivelando problemi di tempistica e di interfaccia che i test esclusivamente software possono non cogliere.

Questi passaggi mostrano una pipeline di sviluppo che procede verso l'integrazione fisica. Non dimostrano che un drone abbia volato, localizzato una persona, coordinato altri velivoli o detonando con successo. Mostrano però che gli attori stavano testando codice su hardware coerente con il loro obiettivo dichiarato.

Il significato più ampio risiede nella sostituzione del lavoro umano. Un piccolo gruppo può chiedere a un sistema AI di aiutare in diverse discipline, quindi riutilizzare l'output in simulazioni e prototipi fisici. Il codice risultante può restare utile anche dopo la perdita dell'accesso al modello ospitato.

Questa persistenza indebolisce l'applicazione delle regole a livello di account. Bloccare un account interrompe le richieste future attraverso quell'account, ma non cancella codice scaricato, classificatori addestrati, ambienti di simulazione o conoscenze di progettazione. Quando un progetto diventa riproducibile localmente, la capacità di influenza del fornitore diminuisce drasticamente.

I vincoli bellici della Russia aggiungono contesto, anche se non spiegano completamente il progetto. I controlli sulle esportazioni e le sanzioni possono limitare l'accesso a chip avanzati, elettronica specializzata, software e partnership formali. Inoltre, incoraggiano gli sviluppatori a combinare servizi stranieri, hardware di massa e strumenti gestiti localmente.

Il caso dello sciame di droni Claude illustra quindi un modello di approvvigionamento più ampio. Un attore soggetto a restrizioni non ha bisogno di possedere senza limitazioni ogni tecnologia avanzata. Può assemblare un accesso temporaneo all'AI, al calcolo noleggiato, ai dati raccolti dal web, all'elettronica commerciale e alle risorse tecniche aperte.

Questo approccio continua comunque a incontrare limiti ingegneristici. Un modello linguistico può generare codice convincente che contiene difetti sottili. Il volo autonomo dipende anche dalla qualità dei sensori, dai dati di addestramento, dalla resilienza delle comunicazioni e da test estesi. L'AI riduce il costo di tentare il progetto, ma non elimina la difficoltà fisica di rendere affidabile il sistema.

La vera sfida è tra la capacità dell'AI e il controllo del fornitore

Anthropic può limitare l'accesso a Claude, ma l'utilità del modello deriva dalle stesse capacità ingegneristiche generali che rendono difficile classificare precocemente gli usi impropri.

L'avversario centrale in questa vicenda non è Anthropic contro la Russia. È la capacità del modello contro un controllo applicabile. I fornitori vogliono agenti di programmazione in grado di risolvere problemi tecnici sconosciuti, coordinare strumenti e lavorare sull'intero progetto. Questi stessi tratti rendono più difficile contenere intenti dannosi quando un utente nasconde l'applicazione finale.

Una richiesta di classificazione delle immagini, rete mesh o debug di dispositivi embedded può sostenere la robotica pacifica. Può anche diventare un componente di un'arma autonoma. Le singole richieste possono apparire ordinarie quando gli utenti suddividono un progetto tra sessioni, account o flussi di lavoro.

Anthropic afferma di indagare sui modelli che vanno oltre un singolo scambio. Il suo rapporto collega attività degli account, artefatti tecnici, nomi dei progetti, località, categorie di bersagli e comportamenti di sviluppo. Questa visione più ampia ha aiutato l'azienda a ricostruire l'apparente scopo dell'operazione russa.

Tuttavia, il rilevamento avviene spesso dopo che il modello ha già fornito una qualche assistenza. Anthropic ha bandito gli account associati e incorporato le proprie conclusioni in salvaguardie aggiornate. L'azienda afferma inoltre di aver condiviso informazioni sulle minacce con partner pubblici e privati pertinenti.

Questa risposta dimostra una visibilità utile. Un fornitore di AI ospitata può osservare attività che un compilatore, un manuale di riferimento offline o un ambiente di sviluppo installato localmente non possono rilevare. Può collegare richieste insolite e intervenire mentre un progetto è ancora in fase di sviluppo.

Lo stesso caso rivela il limite di tale visibilità. Anthropic poteva osservare l’attività svolta attraverso il proprio servizio, ma non poteva verificare in modo indipendente le affermazioni degli sviluppatori sui finanziamenti. Non poteva inoltre osservare il lavoro completato tramite modelli non correlati, strumenti locali, collaboratori umani o software copiato dopo il divieto.

Questo crea una scomoda equazione per la sicurezza. Un monitoraggio rigoroso può intercettare alcuni abusi coordinati, ma attori capaci possono celare le proprie intenzioni dietro una terminologia civile. Possono distribuire le attività tra più account, instradare le connessioni attraverso altre regioni e conservare localmente ogni risultato utile.

Gli incentivi commerciali complicano la questione. I modelli per la programmazione vengono valutati in base alla loro efficacia nel completare flussi di lavoro lunghi e tecnici. Una maggiore autonomia li rende preziosi per team software, ricercatori e singoli sviluppatori. Riduce però anche il numero di occasioni in cui una persona deve esplicitare lo scopo completo del progetto.

Il problema va oltre Claude. OpenAI ha reso nota una distinta attività di influenza russa che coinvolgeva ChatGPT poco prima del rapporto di Anthropic, secondo notizie della stampa specializzata nella difesa. I fornitori di modelli devono affrontare utilizzi sovrapposti nella propaganda, nella sorveglianza, nelle operazioni informatiche, negli approvvigionamenti e nella ricerca sulle armi.

Le sole policy non possono risolvere il conflitto. Un divieto sullo sviluppo di armi crea una base per l’applicazione delle regole, ma non distingue automaticamente una richiesta dannosa relativa al controllo di volo da un lavoro aerospaziale legittimo. Limitare ogni argomento a duplice uso bloccherebbe inoltre ricerca, istruzione, test di sicurezza e ingegneria civile.

I fornitori si affidano quindi a più livelli di protezione. Tra questi vi sono rifiuti a livello di richiesta, monitoraggio comportamentale, indagini sugli account, controlli geografici, intelligence sulle minacce e condivisione delle informazioni. Ogni livello aggiunge attrito, ma nessuno garantisce che un attore determinato non riceva alcuna assistenza utile.

L’indagine sullo sciame di droni Claude mette inoltre in discussione l’idea che solo il modello più recente crei rischi seri. L’uso improprio dipende dall’interazione tra capacità del modello, competenza dell’utente, strumenti disponibili e durata del progetto. Un team specializzato può ricavare un valore considerevole da un modello che appare meno pericoloso in una valutazione standardizzata.

Anthropic ha riconosciuto questa incertezza anche altrove nella propria documentazione. Le sue conclusioni più recenti descrivono usi impropri osservati tra dicembre 2025 e agosto 2026 nella ricerca sulle armi, nelle attività informatiche, nella sorveglianza e nelle operazioni di influenza. L’azienda presenta questi casi come rilevanti e nuovi, non come rappresentativi dell’uso tipico di Claude.

Questa precisazione è importante. Il rapporto non dimostra che i progetti di armamenti assistiti dall’AI siano comuni. Mostra che almeno un gruppo oggetto di indagine avrebbe usato un modello generalista per la programmazione lungo un ampio flusso di lavoro relativo a droni autonomi.

Il puntamento autonomo solleva rischi che un codice migliore non può risolvere

Anche software tecnicamente riuscito lascerebbe irrisolte questioni relative a errori di identificazione, danni ai civili, responsabilità e controllo umano.

Il sistema segnalato classificava i bersagli visivi come amici o ostili utilizzando filmati di combattimento raccolti online. Questo approccio solleva immediate preoccupazioni sulla qualità dei dati. I video online possono essere compressi, etichettati in modo errato, inscenati, caricati selettivamente o ripresi da angolazioni diverse da quelle incontrate durante una missione.

Un classificatore può apprendere correlazioni che non rappresentano distinzioni militari legittime. Terreno, forme dei veicoli, abbigliamento, qualità delle riprese e fonti di registrazione possono trasformarsi in scorciatoie. Le prestazioni misurate su un set di dati preparato possono crollare in presenza di fumo, oscurità, mimetizzazione, equipaggiamenti danneggiati o interferenze elettroniche.

La classe di bersaglio “persona” presenta un problema ancora più netto. Rilevare che un’immagine contiene una persona non equivale a stabilire se quella persona sia un bersaglio militare legittimo. Un modello visivo non può dedurre in modo affidabile resa, ferimento, status civile, detenzione o il contesto più ampio che regola un ingaggio.

Il coordinamento di uno sciame crea ulteriori percorsi di guasto. La memoria condivisa e una logica tollerante ai guasti possono aiutare i droni a proseguire quando le comunicazioni peggiorano. Queste caratteristiche possono anche propagare classificazioni errate o informazioni obsolete tra più velivoli.

Le reti mesh sono particolarmente vulnerabili a stati incoerenti. Un drone può perdere il contatto, ricevere aggiornamenti ritardati o agire sulla base di dati di localizzazione corrotti. Un protocollo di coordinamento che si comporta correttamente in una simulazione controllata può produrre risultati inattesi quando i nodi scompaiono o i sensori sono in disaccordo.

La guerra elettronica aumenta l’incertezza. Russia e Ucraina operano entrambe in ambienti caratterizzati da disturbi, spoofing, collegamenti di controllo intercettati e contromisure adattate rapidamente. La guida autonoma può ridurre la dipendenza dal controllo remoto continuo, ma trasferisce anche una maggiore capacità di giudizio al software di bordo.

La ricerca sull’autonomia sul campo di battaglia ha ripetutamente avvertito che i sistemi attuali restano meno capaci di quanto lascino intendere le affermazioni promozionali. Una valutazione dell’Institute for the Study of War ha concluso che la trasformazione dell’AI sul campo di battaglia non era ancora completa, citando limitazioni tecniche e operative che incidono sugli sforzi russi e ucraini.

La valutazione di maturità di Anthropic è coerente con tale cautela. Il Technology Readiness Level 3 o 4 descrive una validazione sperimentale, non un sistema dispiegato con prestazioni affidabili. L’azienda non ha pubblicato alcuna prova di un attacco autonomo completato da GTG-27005.

Questa distinzione dovrebbe orientare ogni interpretazione del rapporto. Gli sviluppatori avrebbero perseguito capacità pericolose e collegato il loro codice a hardware reale di sviluppo. Ciò è diverso dal dimostrare che lo sciame funzionasse in condizioni di combattimento.

Le prove provengono inoltre principalmente da Anthropic. L’azienda ha una visibilità insolitamente dettagliata sulle sessioni di Claude, ma ricercatori esterni non possono ispezionare in modo indipendente l’intera cronologia dell’account né riprodurne l’attribuzione. Il resoconto pubblico dipende quindi in larga misura dalla selezione e dall’interpretazione delle prove interne da parte di Anthropic.

Gli incentivi di Anthropic operano in due direzioni. L’azienda trae vantaggio dal mostrare che il suo monitoraggio rileva gli abusi, mentre l’uso improprio segnalato dimostra anche che Claude ha fornito assistenza significativa prima dell’intervento. Entrambi gli aspetti possono essere veri, ma i lettori dovrebbero considerare il rapporto una valutazione aziendale della minaccia, non un’indagine indipendente conclusa.

Le azioni dell’azienda riducono l’accesso immediato, ma non rispondono alla questione della responsabilità. Se il codice generato dall’AI contribuisce a un futuro attacco autonomo, la responsabilità potrebbe essere distribuita tra operatori, comandanti, sviluppatori, fornitori e provider di modelli. I quadri giuridici e istituzionali esistenti non sono stati concepiti per catene tecniche così frammentate.

Un’analisi dell’Associated Press sul rapporto più ampio ha rilevato richieste di supervisione pubblica, anziché lasciare alle aziende dei modelli il compito di formulare giudizi sulla sicurezza sociale. Questa critica diventa più urgente quando i sistemi possono assistere sia la ricerca ordinaria sia lo sviluppo letale.

Un provider può decidere quali account violino i propri termini. Non può definire il diritto internazionale umanitario, autorizzare l’uso della forza militare o stabilire uno standard globalmente accettato per un controllo umano significativo. Queste decisioni richiedono governi, tribunali, forze armate, ricercatori e società civile.

Il caso dello sciame di droni Claude rappresenta quindi più di un fallimento o di un successo della moderazione. Mostra come l’applicazione privata delle regole sull’AI intersechi ora lo sviluppo sul campo di battaglia. I fornitori possono diventare osservatori precoci di programmi d’armamento, fornendo al tempo stesso le capacità tecniche ricercate da tali programmi.

Il progetto russo si inserisce in un cambiamento più ampio nel lavoro sulle armi assistito dall’AI

Il rapporto di Anthropic colloca l’operazione russa in un modello più vasto di piccoli gruppi che usano l’AI generalista come forza lavoro ingegneristica.

Lo stesso rapporto descrive una cellula nello Yemen settentrionale che utilizzava Claude Code per lo sviluppo di armi guidate. Anthropic afferma che gli attori hanno lavorato a un razzo guidato, a una simulazione di missile balistico multistadio e a diverse varianti correlate di missili.

Quegli utenti avrebbero eseguito più istanze di Claude con ruoli separati. Una generava codice, un’altra svolgeva ricerche e una terza esaminava l’output del primo modello. Questa struttura somigliava a un piccolo team ingegneristico diretto da una guida umana.

Anthropic afferma che molte richieste sono state bloccate, ma non tutte. Gli utenti hanno nascosto il proprio obiettivo, separato il lavoro tra sessioni ed evitato di presentare in un unico luogo l’intero contesto delle armi. Alla fine hanno testato un razzo guidato, sebbene il test apparentemente sia fallito.

Quel test fallito offre un utile confronto con il progetto di droni basato in Russia. Mostra che l’assistenza ingegneristica generata dall’AI può arrivare alla sperimentazione fisica senza produrre un’arma affidabile. Hardware, integrazione e test restano colli di bottiglia decisivi.

Un attore con base in Cina avrebbe usato Claude per redigere una specifica di controllo del fuoco anti-siluro e una proposta tecnica di oltre 200 pagine. Un’altra operazione collegata alla Cina ha usato Claude per sviluppare circa 16 moduli software relativi alla guerra elettronica e alla soppressione delle difese aeree.

Questi casi differiscono per maturità, attribuzione e finalità. Condividono comunque un modello comune: gli utenti hanno trattato un modello AI generalista come un collaboratore flessibile nello sviluppo tecnico, nella documentazione, nella simulazione, nell’analisi e nella revisione.

I freelance russi operavano inoltre all’interno di una guerra dei droni in corso. Sia la Russia sia l’Ucraina hanno adattato velivoli senza pilota a basso costo per ricognizione, intercettazione, logistica e attacco. Entrambe le parti hanno perseguito una maggiore autonomia poiché la guerra elettronica rende meno affidabile il controllo continuo.

La guida terminale autonoma non è identica a uno sciame autonomo coordinato. Un drone che aggancia un bersaglio selezionato in precedenza svolge un compito più circoscritto rispetto a diversi velivoli che condividono osservazioni e scelgono bersagli. Il dibattito pubblico spesso confonde queste categorie, il che può esagerarne il grado di maturità.

Le campagne ucraine con droni offrono un importante riferimento storico. Team distribuiti hanno combinato componenti commerciali, rapida iterazione del software e feedback dal campo di battaglia. La Russia ha sviluppato strutture di adattamento simili, comprese organizzazioni specializzate pensate per sistematizzare le operazioni con droni.

I sistemi di programmazione AI accelerano questo ciclo già esistente. Possono aiutare gli utenti a tradurre requisiti sul campo in software, diagnosticare guasti e rivedere prototipi. Il loro contributo va inteso soprattutto come accelerazione dello sviluppo, non come sostituzione di test, produzione, logistica o pianificazione militare.

Le sanzioni restano rilevanti perché aumentano i costi e limitano l’accesso formale. Non creano un ambiente tecnologico sigillato. Un piccolo team può utilizzare server virtuali, capacità di calcolo in affitto, elettronica di largo consumo, componenti open source e servizi AI esteri senza controllare l’infrastruttura sottostante.

Questo modello di accesso frammentato è difficile da fermare soltanto tramite restrizioni sui chip. I controlli sulle esportazioni possono limitare l’infrastruttura di addestramento di fascia alta o componenti specializzati. Sono meno efficaci contro l’accesso cloud a breve termine, carichi di inferenza modesti e hardware civile ampiamente distribuito.

I fornitori di AI occupano quindi un nuovo punto nella catena di approvvigionamento. Non producono droni né esplosivi, ma i loro servizi possono contribuire al lavoro di progettazione. Tale contributo può essere copiato nei repository di codice e trasferito nelle fasi successive dello sviluppo.

Il risultato mette sotto pressione sia le aziende tecnologiche sia i governi. I fornitori hanno bisogno di metodi migliori per rilevare progetti dannosi senza bloccare ampie aree dell’ingegneria legittima. I governi hanno bisogno di regole che affrontino accesso, segnalazione, responsabilità e coordinamento internazionale, senza presumere che ogni progetto sospetto nasca all’interno di un tradizionale appaltatore della difesa.

Anche sviluppatori e acquirenti aziendali dovrebbero prestare attenzione. Lo stesso accesso a livello di progetto che rende produttivi gli agenti di coding può esporre file sensibili, intenzioni operative e flussi di lavoro tecnici al monitoraggio del fornitore. Le organizzazioni hanno bisogno di policy chiare su ciò che gli agenti possono ispezionare, modificare, eseguire e conservare.

Per i team che documentano incidenti sensibili legati all’AI, una base di conoscenza ingegneristica ricercabile può conservare decisioni, risultati dei test e revisioni dei rischi. La documentazione non previene gli abusi, ma migliora la tracciabilità quando un agente modifica codice in molti file.

Cosa osservare dopo il ban dell’account da parte di Anthropic

Il prossimo banco di prova sarà capire se controlli più rigorosi interromperanno progetti simili prima, prima che codice utile e strumenti locali escano dalla portata del fornitore.

Il primo segnale riguarda nuove prove tecniche su GTG-27005. Una conferma indipendente di test di volo, hardware recuperato, software distribuito o legami con un cliente governativo russo rafforzerebbe la valutazione di Anthropic. La persistente assenza di tali prove manterrebbe invece la distinzione tra un prototipo serio e un’arma operativa.

La verifica dovrebbe concentrarsi sulle capacità, non soltanto sui nomi dei progetti. Repository di codice, firme del firmware, artefatti di modelli addestrati, acquisti di componenti e comportamenti di volo ripetibili offrirebbero prove più solide rispetto a dichiarazioni promozionali o screenshot. Le riprese dal campo di battaglia richiederebbero un’attenta autenticazione e geolocalizzazione.

Il secondo segnale riguarda il modo in cui Anthropic modifica l’applicazione delle regole. L’azienda afferma di aver integrato le lezioni dell’indagine nelle proprie misure di sicurezza. Indicatori utili includono l’individuazione più precoce di flussi di lavoro distribuiti per lo sviluppo di armi, una maggiore resistenza alle richieste mascherate e meno casi in cui gli attori riescono a mantenere uno stack di sviluppo locale funzionante prima della rimozione.

La trasparenza sarà importante. Un fornitore può annunciare misure di sicurezza migliorate senza rivelare metodi di rilevamento che gli avversari potrebbero aggirare. Tuttavia, valutazioni indipendenti, dati aggregati sull’applicazione delle regole e studi di caso accuratamente documentati possono mostrare se i controlli funzionano oltre un singolo incidente.

Il terzo segnale riguarda l’azione coordinata tra l’industria dell’AI e i governi. Gli utenti dannosi possono spostarsi da un servizio all’altro quando un fornitore li esclude. Indicatori condivisi, canali di segnalazione coerenti e uno scambio lecito di informazioni renderebbero più difficile questa migrazione.

Questa cooperazione necessita anche di limiti. Le informazioni sulle minacce possono includere dati sensibili degli account, attività tecniche ambigue e attribuzioni errate. La supervisione è necessaria per impedire che i programmi di sicurezza trasformino ricercatori, giornalisti o ingegneri legittimi in bersagli.

Le autorità di regolamentazione dovrebbero evitare di considerare ogni richiesta relativa al controllo di volo o alla computer vision come sviluppo di armi. L’approccio più solido combina comportamento, contesto del progetto, geografia, artefatti tecnici e intenzionalità ripetuta. L’indagine di Anthropic sembra essersi basata su questo schema più ampio.

I lettori dovrebbero inoltre resistere a due conclusioni premature. Il rapporto non dimostra che gli sciami autonomi di droni siano diventati facili da costruire. Non dimostra nemmeno che le misure di sicurezza attuali impediscano in modo affidabile agli utenti capaci di ottenere assistenza pericolosa.

Ciò che stabilisce, secondo Anthropic, è che un piccolo team ha utilizzato Claude lungo un flusso di lavoro insolitamente completo per lo sviluppo di armi. Gli sviluppatori sono passati dalla generazione del codice alla simulazione e all’integrazione hardware prima che il fornitore revocasse il loro accesso.

Questo è l’avvertimento pratico. Lo sciame di droni di Claude è rimasto sperimentale, ma il modello di sviluppo è riutilizzabile. Altri attori possono combinare AI ospitata, modelli locali, componenti aperti, capacità di calcolo a noleggio e codice salvato, nascondendo al contempo lo scopo complessivo di ciascun progetto.

La domanda più importante è quindi concreta: i fornitori rileveranno il prossimo progetto di armi autonome prima che il codice diventi portabile e inizino i test hardware? Seguite le comunicazioni di Anthropic sull’applicazione delle regole, le prove indipendenti dall’Ucraina e gli accordi di segnalazione tra fornitori. Insieme, questi segnali mostreranno se questo caso ha prodotto una difesa duratura o ha soltanto documentato la rapidità con cui il rischio si sta diffondendo.