top of page

La ricerca di Microsoft sulla backdoor Lazarus mette in discussione la fiducia nei modelli di agenti AI

13 minuti fa
Tempo di lettura: 12 min
Illustrative photograph. Photo: Zifeng Xiong / Pexels.

Microsoft Research afferma che meno di 10 neuroni riprogrammati possono installare una backdoor nascosta nel modello sottostante di un agente AI senza riaddestrarlo. Pubblicata il 10 novembre 2026, la ricerca di Microsoft sulla backdoor Lazarus mette in discussione un presupposto noto: un comportamento normale durante la valutazione dimostra che un modello merita fiducia operativa.

Questa conclusione richiede una delimitazione. L'attacco richiede accesso in scrittura a un checkpoint, ovvero i parametri del modello memorizzati e usati per il deployment. Non dimostra un percorso basato esclusivamente sui prompt per compromettere ogni assistente ospitato. Il conflitto centrale riguarda i test comportamentali rispetto all'integrità dell'artefatto: se risposte utili dimostrino che il modello distribuito rimanga quello previsto dal suo editore.

La precedente ricerca di Anthropic sugli sleeper agent offre un riferimento storico per comportamenti condizionali che sfuggono ai controlli ordinari. Lazarus sposta l'attenzione verso la modifica del modello e l'autorità che circonda il deployment. Per sviluppatori e acquirenti aziendali, la pressione si concentra su una domanda pratica: chi verifica il modello prima che il software gli consenta di agire?

La ricerca di Microsoft sulla backdoor Lazarus sposta il confine della fiducia

La ricerca sui neuroni dormienti di Microsoft descrive i neuroni dormienti come unità interne che si attivano raramente. Riprogrammarli può far comportare un agente in modo diverso quando compare un trigger. L'aggressore deve prima alterare i pesi del modello, i parametri numerici che ne regolano il comportamento.

Il cambiamento determinante è il punto in cui i team di sicurezza devono cercare comportamenti non autorizzati.

Si consideri la differenza tra testare un servizio e verificarne i contenuti. Un test chiede se il servizio si comporti in modo accettabile in condizioni selezionate. Un controllo d'integrità chiede se qualcuno abbia modificato l'artefatto distribuito. Le due domande si sovrappongono, ma una risposta positiva alla prima non può risolvere la seconda.

Un'azienda potrebbe valutare un assistente rispetto a un lavoro rappresentativo e trovarne utili le risposte. Questo stabilisce evidenze sul lavoro testato. Lascia aperta una domanda distinta: se il modello sottostante dell'assistente sia passato attraverso un processo di rilascio approvato. Trattare questi giudizi come intercambiabili crea una lacuna evitabile.

La stessa distinzione vale quando un aggiornamento del modello conserva una qualità apparente. Un rilascio che risponde correttamente a domande familiari necessita comunque di un'origine attribuibile. Altrimenti, il processo di approvazione dipende dal rilevamento di comportamenti sospetti prima del deployment. È un'aspettativa gravosa quando il comportamento oggetto d'indagine è condizionale.

Per gli acquirenti, questo cambia il significato di un rassicurante riepilogo della valutazione. Un fornitore dovrebbe spiegare cosa è stato testato, quale artefatto è stato testato e in che modo tale artefatto si relaziona alla produzione. Senza questo collegamento, le evidenze della valutazione descrivono qualcosa che l'acquirente non può identificare con sicurezza.

Per gli sviluppatori, la questione va oltre la selezione di un nome di modello. Un nome identifica una famiglia di prodotti o una designazione di rilascio. Il deployment richiede una registrazione più precisa dell'artefatto effettivo. Tale registrazione dovrebbe restare disponibile quando qualcuno indaga su un comportamento inatteso o esamina un aggiornamento.

Esiste anche una distinzione tra scoprire una debolezza e misurarne la prevalenza. La ricerca fornisce una ragione per esaminare le ipotesi di deployment. Non fornisce un conteggio degli agenti aziendali compromessi. Una risposta responsabile dovrebbe rafforzare i controlli senza presentare un risultato di laboratorio come un'epidemia osservata.

La conseguenza analitica immediata è quindi specifica. L'approvazione di un modello dovrebbe includere sia il comportamento sia la custodia. Un team necessita di evidenze che il modello funzioni in modo accettabile, insieme a evidenze che l'artefatto approvato sia arrivato al deployment attraverso un percorso autorizzato.

Questo requisito non rende obsolete le valutazioni ordinarie. Assegna loro un compito più chiaro. Esse valutano il comportamento entro la loro copertura, mentre i controlli d'integrità affrontano la questione se il sistema sottoposto a valutazione sia cambiato.

Gli operatori degli agenti ereditano il problema di fiducia del modello

La posta in gioco pratica dipende da ciò che un agente è autorizzato a fare dopo aver generato una risposta.

Un agente AI è un software che usa gli output del modello per selezionare azioni attraverso strumenti connessi. In un deployment proposto, un assistente di programmazione potrebbe modificare file, mentre un assistente di ricerca potrebbe recuperare documenti. Sono decisioni di autorità diverse, anche quando entrambi i sistemi usano lo stesso modello sottostante.

Per gli acquirenti aziendali, la domanda rilevante diventa più concreta rispetto a stabilire se un assistente sia generalmente sicuro. A quali risorse può accedere? Quali azioni richiedono approvazione? Quali credenziali diventano disponibili durante il lavoro? Rispondere a queste domande stabilisce le conseguenze dell'accettazione di un'azione errata o dannosa.

Immaginate un assistente ipotetico che esamini un progetto interno. Ha bisogno di accedere alla documentazione del progetto per rispondere alle domande. Tale esigenza non giustifica automaticamente il permesso di modificare il repository, pubblicare modifiche o ispezionare file di dipendenti non correlati. Ogni capacità aggiuntiva merita una ragione aziendale distinta.

Questo è particolarmente rilevante per i flussi di lavoro della conoscenza. Una base di conoscenza ricercabile può supportare un recupero utile senza rendere ogni azione connessa ugualmente necessaria. Leggere materiale tecnico e modificare i sistemi descritti al suo interno dovrebbe comportare decisioni di autorizzazione distinte.

La pressione ricade sui team applicativi perché controllano il collegamento tra l'output del modello e l'azione. Un fornitore di modelli può fornire evidenze sul proprio processo di rilascio. L'applicazione decide comunque se le istruzioni generate raggiungano un terminale, un editor di documenti o una coda di approvazione.

La responsabilità della sicurezza dovrebbe seguire questa divisione. Il team responsabile dell'acquisizione del modello dovrebbe documentarne la fonte. Il team responsabile dell'integrazione dovrebbe documentarne gli strumenti. L'operatore responsabile della produzione dovrebbe sapere come sospendere l'attività quando cambia una delle due ipotesi.

Un acquirente dovrebbe anche distinguere una spiegazione da un meccanismo di applicazione. Una frase che dice a un assistente di evitare operazioni sensibili esprime un'intenzione. Un confine di autorizzazione determina se tali operazioni siano disponibili. Le discussioni sugli acquisti diventano più utili quando i fornitori descrivono il confine effettivo.

Questo non implica che ogni operazione richieda una revisione manuale. Suggerisce che la revisione dovrebbe concentrarsi sulle conseguenze. Leggere un documento autorizzato e modificare una policy di accesso presentano rischi diversi. Un processo di approvazione dovrebbe riflettere tale differenza invece di applicare ovunque lo stesso attrito.

I log operativi meritano una precisione simile. Una trascrizione può aiutare a spiegare ciò che un assistente ha detto. Un registro delle azioni dovrebbe stabilire ciò che l'applicazione circostante ha effettivamente eseguito. Gli investigatori hanno bisogno di entrambi quando una risposta generata e il suo effetto finale divergono.

Per le discussioni sulla sicurezza degli agenti Microsoft, questo è il collegamento utile tra la ricerca sui modelli e le operazioni aziendali. La fiducia in un modello influenza il deployment, ma il deployment crea anche obblighi propri. Un'organizzazione non può delegare le proprie decisioni sulle autorizzazioni a un punteggio di benchmark.

La risposta a breve termine dovrebbe concentrarsi sull'identificazione di tali decisioni. I team dovrebbero essere in grado di spiegare perché un assistente possieda ciascuna capacità prima che un incidente imponga la domanda.

Attacco Lazarus spiegato: una piccola modifica è una questione di sicurezza diversa

Lo studio sulla modifica dei pesi riporta sette neuroni modificati e 23 traiettorie di adattamento per Nemotron-Terminal-8B, con almeno il 98,8% di successo dei trigger. Questo misura la previsione del payload in contesti registrati, non una compromissione universale end-to-end. Gli autori descrivono modifiche dirette con perfezionamento opzionale, qualificando il titolo semplificato del tipo “senza addestramento”.

Il meccanismo mette in discussione l'assunto che una modifica pericolosa debba produrre una perdita evidente delle capacità ordinarie.

Un conteggio dei neuroni descrive l'impronta dell'intervento all'interno del modello. Non descrive in modo indipendente la difficoltà di ottenere accesso, distribuire l'artefatto o riuscire contro un deployment specifico. Tali domande devono rientrare in una valutazione della sicurezza insieme al risultato principale.

La storia della backdoor Lazarus di Microsoft richiede quindi un linguaggio attento riguardo allo sforzo necessario. Una modifica compatta può comunque dipendere da una compromissione preliminare sostanziale della custodia. Al contrario, un'organizzazione non dovrebbe liquidare una modifica solo perché la sua impronta appare piccola. Dimensione e autorizzazione sono proprietà separate.

Per un revisore, la domanda utile è se un cambiamento abbia una spiegazione approvata. Un piccolo cambiamento senza un proprietario responsabile merita indagine. Anche un grande cambiamento necessita di documentazione, persino quando accompagna un aggiornamento legittimo. Lo standard dovrebbe riguardare autorizzazione ed evidenze, anziché l'intuizione sulla scala.

Lo stesso ragionamento vale per il comportamento del modello. Un assistente che rimane utile può comunque richiedere indagini dopo un cambiamento inspiegato dell'artefatto. La continua utilità dovrebbe informare la valutazione, ma non dovrebbe chiudere l'indagine.

Esiste un noto riferimento storico negli esperimenti sugli sleeper agent di Anthropic. Pubblicato nel gennaio 2024, quel lavoro ha costruito backdoor condizionali attraverso l'addestramento e ha rilevato che l'addestramento standard alla sicurezza non le rimuoveva in modo affidabile. Ha studiato un percorso diverso verso un comportamento nascosto, anziché convalidare in modo indipendente Lazarus.

Il confronto è importante perché separa una preoccupazione condivisa da un metodo condiviso. Il comportamento condizionale può motivare indagini tra diversi programmi di ricerca. Non rende intercambiabili le loro procedure sperimentali, le ipotesi o i risultati misurati.

Per i lettori aziendali, questa distinzione evita una fuorviante competizione tra fornitori. La domanda non è quale azienda abbia la dimostrazione più allarmante. Il confronto utile riguarda ciò che ciascuno studio misura e quali ipotesi di deployment mette alla prova.

Né questo dovrebbe diventare un argomento generale contro pesi di modelli accessibili. Un'organizzazione che valuta un deployment deve identificare chi possa modificare i suoi artefatti. Limitare la distribuzione e controllare l'accesso interno in scrittura affrontano parti diverse del problema.

Un deployment proprietario dovrebbe quindi affrontare le stesse domande di custodia di un modello ottenuto esternamente. Chi autorizza le modifiche? In che modo la produzione identifica un rilascio approvato? Quali evidenze restano dopo il deployment? Queste domande sono significative indipendentemente dall'accordo commerciale.

Il significato più ampio del meccanismo è la sua sfida alle rassicurazioni informali. “Funziona ancora” è un'evidenza sull'utilità. “È invariato” è un'affermazione sull'integrità. Un processo di approvazione necessita di una base difendibile per entrambe.

I risultati di rilevamento lasciano un divario tra evidenze e garanzie

L’articolo su Lazarus riporta il rilevamento del 91,4% dei checkpoint di test modificati, insieme a un tasso di falsi positivi del 9,7%. La sezione sulle limitazioni richiede test più ampi sulle famiglie di modifiche e valutazioni di attacchi condotti in modo libero. Si tratta di risultati sperimentali circoscritti, non di un certificato generale di sicurezza.

Un rilevatore guadagna fiducia grazie alla copertura e agli errori misurati, non per il semplice fatto di usare l’AI.

La distinzione conta quando un risultato di ricerca diventa un requisito di acquisto proposto. “Il modello ha superato una scansione” lascia senza risposta diverse domande. Quali modifiche era progettato a individuare lo scanner? Quali prove ne supportano la copertura? Cosa accade quando genera un avviso?

Un avviso dovrebbe avviare un processo di revisione definito. Non dovrebbe stabilire automaticamente che un fornitore ha agito in modo malevolo. Allo stesso modo, l’assenza di un avviso non dovrebbe cancellare modifiche non spiegate altrove nel registro della release. Il rilevamento richiede un’interpretazione operativa.

Un’analogia utile viene dalla revisione dei documenti. Individuare un’incoerenza può giustificare un ulteriore esame senza risolvere l’autenticità dell’intero documento. Non trovare un’incoerenza non stabilisce che ogni affermazione sia vera. La qualità della conclusione dipende dall’ambito dell’esame.

La ricerca di Anthropic sulle defection-probe offre una prospettiva correlata. Il suo lavoro in fase iniziale ha esaminato classificatori che usano l’attività interna del modello per prevedere comportamenti dannosi condizionali in sleeper agent costruiti artificialmente. Questo sostiene l’indagine sui segnali interni, lasciando però ogni metodo responsabile della propria validazione.

Il confronto dovrebbe incoraggiare sperimentazioni attente, non affermazioni intercambiabili. Un risultato su modelli costruiti intenzionalmente può identificare un segnale promettente. Le decisioni di distribuzione richiedono una spiegazione di come quel segnale si rapporti all’artefatto e alla minaccia in esame.

Gli acquirenti dovrebbero essere particolarmente cauti davanti al linguaggio sintetico delle dashboard. Uno stato verde può nascondere differenze importanti tra un controllo automatizzato, una revisione da parte di un analista e una cronologia di release verificata. Queste attività producono forme di prova diverse e dovrebbero mantenere le proprie denominazioni.

I falsi allarmi creano anche pressione operativa. Un team ha bisogno di un percorso per indagare un artefatto segnalato senza ignorare con leggerezza l’avviso. In caso contrario, l’organizzazione rischia di costruire un processo in cui le eccezioni diventano routine e il controllo originario perde significato.

Le mancate rilevazioni creano un problema diverso. Gli operatori hanno bisogno di prove complementari affinché una scansione pulita non diventi l’unica barriera. Registri di custodia, verifiche di autorizzazione e restrizioni sulle azioni rispondono a domande che un rilevatore da solo non può risolvere.

Questa è la prospettiva scettica richiesta dai risultati di Microsoft sul backdoor Lazarus. La ricerca sostiene la necessità di prendere sul serio l’integrità dei pesi. Non giustifica l’annuncio che un nuovo scanner abbia risolto il problema della fiducia nei modelli, né che ogni comportamento inspiegato di un modello riveli un backdoor nascosto.

Una dichiarazione di garanzia credibile dovrebbe restare abbastanza circoscritta da poter essere sottoposta ad audit. Dovrebbe identificare l’artefatto esaminato, il metodo applicato, il risultato e le limitazioni irrisolte. Promesse più ampie rendono più semplice una conversazione di procurement, ma rendono più difficile l’indagine successiva.

I controlli esistenti e le difese pianificate da Microsoft richiedono etichette separate

Microsoft afferma che Foundry utilizza attualmente controlli di approvvigionamento degli editori e analizza i container circostanti, gli ambienti software pacchettizzati in cui vengono eseguiti i modelli. Descrive ulteriori scansioni dei pesi, strumenti di red team e firma dei modelli come attività in sviluppo o esplorazione. Queste categorie dovrebbero restare distinte quando si valuta la sicurezza degli agenti Microsoft.

Una difesa pianificata non dovrebbe ricevere il peso probatorio di un controllo già distribuito.

Questa distinzione è utile oltre questo annuncio. Gli acquirenti incontrano spesso descrizioni di sicurezza che combinano capacità attuali, sperimentazioni limitate e intenzioni future. Una valutazione significativa dovrebbe separare questi stati prima di discutere se soddisfano i requisiti di un’organizzazione.

Per un controllo attuale, la domanda riguarda il funzionamento. Dove si applica? Quali prove mostrano che è stato eseguito? Chi gestisce un errore? Per un controllo pianificato, la domanda riguarda l’impegno e la validazione. Cosa deve accadere prima che i clienti possano farvi affidamento?

Anche la firma richiede un’interpretazione precisa. Una firma digitale collega un artefatto a un’identità firmataria e consente di verificare eventuali modifiche successive. Non decide autonomamente se il firmatario abbia approvato qualcosa di sicuro. Gli acquirenti dovrebbero chiedere quale revisione organizzativa sostenga la firma.

Lo stesso vale per una designazione di editore affidabile. La fiducia richiede un ambito definito. Una relazione approvata può sostenere decisioni di approvvigionamento, ma un acquirente deve comunque comprendere quale release sia arrivata e quale processo l’abbia autorizzata. La reputazione del fornitore non può sostituire l’identificazione dell’artefatto.

Per i team interni, l’equivalente nel procurement è la governance delle release. Un modello preparato all’interno dell’organizzazione dovrebbe avere un proprietario responsabile e un percorso di distribuzione approvato. Definirlo interno non dovrebbe eliminare la necessità di spiegare come sia arrivato in produzione.

Queste osservazioni suggeriscono uno standard competitivo più ampio per le piattaforme di agenti. Gli acquirenti dovrebbero confrontare la chiarezza delle loro prove, la precisione dei loro confini e la loro risposta all’incertezza. Un lungo elenco di funzionalità di sicurezza è meno utile quando il suo stato di distribuzione resta ambiguo.

Anche il monitoraggio del comportamento merita una categoria propria. Le valutazioni del sabotaggio degli agenti di Anthropic, pubblicate nel giugno 2025, esaminano attività secondarie dannose e la difficoltà di monitorare gli agenti. Affrontano la valutazione a livello di azione, fornendo contesto sul perché la revisione degli artefatti e la supervisione in fase di esecuzione dovrebbero avere responsabilità distinte.

Un’affermazione sul monitoraggio dovrebbe spiegare cosa può vedere un osservatore. Rivedere testo generato, esaminare azioni proposte e registrare operazioni eseguite sono configurazioni diverse. Un’organizzazione dovrebbe sapere quale configurazione ha acquistato e quali decisioni restano fuori dalla visuale dell’osservatore.

L’opportunità pratica per i fornitori è una maggiore specificità. Spiegate il controllo attuale, il suo ambito, le sue prove e le sue limitazioni. Poi descrivete separatamente le aggiunte pianificate. Questo offre ai clienti qualcosa che possono valutare senza trasformare un annuncio di ricerca in una garanzia implicita.

Per i clienti, il compito corrispondente è mantenere quella specificità nei contratti e nelle approvazioni interne. Un requisito dovrebbe descrivere le prove necessarie per l’accettazione. Gli impegni generali diventano difficili da far rispettare quando tutti li interpretano in modo diverso.

Le prossime prove dovrebbero testare distribuzione, rilevamento e custodia

Il seguito più solido collegherebbe i risultati di laboratorio a prove operative ripetibili, senza sopravvalutare nessuno dei due.

Il primo segnale da osservare è il test indipendente in ambienti di agenti che agiscono liberamente. Una replica utile descriverebbe il modello, gli strumenti consentiti, le condizioni di attivazione e gli esiti completati. Ciò aiuterebbe a distinguere la generazione del payload dalla sequenza completa necessaria per produrre una conseguenza operativa.

Tali risultati rafforzerebbero la tesi di dare priorità a questo percorso di attacco se avesse successo in condizioni realistiche e chiaramente documentate. Esiti più limitati restringerebbero l’affermazione. Entrambi i risultati migliorerebbero il processo decisionale sostituendo un linguaggio ambiguo con un confine sperimentale identificabile.

Il secondo segnale è il test di rilevamento rispetto a modifiche esterne alla famiglia di valutazione originaria. Una valutazione utile riporterebbe sia le modifiche mancate sia i falsi avvisi. Dovrebbe inoltre spiegare come gli investigatori abbiano risolto i casi segnalati, perché il rilevamento crea lavoro oltre a fornire informazioni.

Un successo più ampio rafforzerebbe la tesi dell’integrazione delle scansioni nella revisione delle release. Un trasferimento più debole mostrerebbe dove restano necessarie altre prove. Gli acquirenti dovrebbero cercare descrizioni della copertura che possano confrontare, anziché un tasso di successo separato dalla popolazione testata.

Il terzo segnale è una distribuzione documentata di ulteriori controlli di custodia. Per Microsoft e altre piattaforme, le prove rilevanti identificherebbero disponibilità, artefatti supportati, comportamento di verifica e gestione degli errori. Un annuncio di intenti resterebbe una tappa diversa dall’applicazione accessibile ai clienti.

I dettagli operativi rafforzerebbero la fiducia se i clienti potessero identificare un artefatto approvato e rilevare una sostituzione non autorizzata. Un linguaggio vago sulla disponibilità lascerebbe irrisolta la questione centrale della fiducia. La distinzione dovrebbe restare visibile anche quando una funzionalità porta un’etichetta di sicurezza allettante.

Attraverso questi segnali, lo sviluppo importante è la responsabilità. I ricercatori indipendenti dovrebbero formulare affermazioni che altri possano esaminare. I fornitori dovrebbero identificare ciò che i loro controlli fanno attualmente. I clienti dovrebbero collegare le decisioni di accettazione alle prove, anziché a un’impressione generale di maturità.

Esiste anche un limite utile alla risposta. Le organizzazioni non devono presumere che ogni assistente sia compromesso per migliorare il proprio processo di approvazione. Devono identificare quali affermazioni supportano la distribuzione e quali ipotesi restano non verificate.

Una riunione di revisione dovrebbe quindi produrre responsabilità concrete. Qualcuno dovrebbe conoscere la fonte del modello, qualcuno dovrebbe comprenderne i permessi e qualcuno dovrebbe poter fermarne le azioni. Se queste responsabilità non sono chiare, un altro risultato di benchmark non risolverà il divario operativo.

Per i team che valutano la ricerca di Microsoft sul backdoor Lazarus, iniziate dalla decisione di distribuzione che avete già davanti. Chiedete al vostro fornitore di identificare l’esatto artefatto del modello, spiegarne la custodia e separare i controlli disponibili dalle difese pianificate. Poi esaminate quali azioni la vostra applicazione consente senza un’ulteriore decisione. Mantenete le prove allegate all’approvazione della release, affinché il prossimo aggiornamento affronti lo stesso standard. L’obiettivo è una distribuzione le cui ipotesi di fiducia possano essere ispezionate e contestate. Prima di ampliare l’autorità di un assistente, il vostro team sa spiegare quali prove giustificano tale ampliamento e chi agirà quando le prove cambieranno?

 
 

Inizia gratis

Un assistente IA local-first con gestione della conoscenza personale

Per una migliore esperienza con l’IA,

al momento remio supporta solo Windows 10+ (x64) e M-Chip Macs.

Il tuo partner AI al lavoro
Fai di più con remio

Pianifica. Crea. Consegna.
Tutto in un unico posto.

bottom of page