Il NOC di Black Hat rivela i limiti umani della sicurezza AI

Il NOC di Black Hat è approdato su Google News dopo aver elaborato 285 milioni di avvisi, ma la sua conclusione più netta ha messo in discussione la promessa di una sicurezza AI autonoma. Agenti personalizzati hanno accelerato le indagini, ma sono rimasti gli analisti esperti a decidere quali minacce contassero e quando le conclusioni automatizzate richiedessero prudenza.

Il network operations center, o NOC, ha protetto oltre 23.000 partecipanti a Black Hat USA 2026 a Las Vegas. Il suo ambiente combinava traffico di ricerca ostile, esercitazioni formative dal vivo, dispositivi infetti e attacchi reali. Questa combinazione rendeva i normali conteggi degli avvisi quasi inutili senza contesto.

Il conflitto non era tra AI e analisti umani. Era tra la promessa dell'automazione e il giudizio necessario all'interno di una rete insolitamente ambigua. L'esperienza del NOC ha mostrato dove gli agenti aiutano, dove i prodotti commerciali non bastano e perché l'autorità umana resta centrale.

Cosa ha realmente affrontato il NOC di Black Hat

La rete di Black Hat ha trasformato il rilevamento delle minacce in un problema di classificazione, in cui quasi ogni segnale appariva sospetto.

Black Hat USA si è svolta dal 1° al 6 agosto presso il Mandalay Bay Convention Center. La conferenza principale ha occupato gli ultimi due giorni, dopo quattro giorni di formazione specializzata. Il programma comprendeva oltre 200 sessioni su malware, detection engineering, privacy, crittografia, agenti AI e exploit autonomi.

Il team del NOC non si è limitato a monitorare l'infrastruttura già presente nella sede. Ha sostituito ogni router, switch, firewall e punto di accesso wireless con apparecchiature selezionate per l'evento. Questo controllo ha consentito al team di rispondere immediatamente quando il traffico richiedeva indagini o misure di mitigazione.

Oltre 100 persone hanno supportato l'operazione, secondo il rapporto sul campo del NOC. Analisti, ricercatori, ingegneri e threat hunter hanno lavorato insieme a tecnologie di Palo Alto Networks, Corelight, Cisco, Arista, Lumen e Jamf.

La portata dell'evento era cambiata drasticamente. Una versione precedente del NOC coinvolgeva tre persone impegnate a proteggere una conferenza con 1.500 partecipanti. Nel 2026, le presenze hanno superato le 23.000 unità, mentre i corsi di formazione hanno superato quota 100.

Il problema più grande non era soltanto il volume. Black Hat consente attività che nella maggior parte delle reti aziendali attiverebbero un'escalation immediata. I partecipanti eseguono strumenti di sicurezza, studiano malware, riproducono attacchi e testano tecniche apprese durante la formazione.

Questa attività autorizzata crea ciò che il team definisce “positivi Black Hat”. Si tratta di rilevamenti accurati di comportamenti previsti e consentiti dalla conferenza. Non sono falsi positivi, ma bloccarli sarebbe comunque la risposta sbagliata.

La distinzione è importante perché l'automazione di sicurezza convenzionale spesso presuppone che un'attività sospetta meriti il contenimento. A Black Hat, questa ipotesi può interrompere una lezione o interferire con una ricerca legittima. Un avviso necessita di contesto prima di diventare un incidente.

Una persona ha attaccato server interni entro 15 minuti dalla disponibilità della rete. Questa attività iniziale ha illustrato perché il team necessitasse di un controllo immediato sull'infrastruttura. Ha anche mostrato che minacce reali emergono accanto a esperimenti autorizzati.

Alla fine della conferenza, il team aveva ricevuto 285 milioni di avvisi informativi. Ha ridotto questi segnali a 17,1 milioni di minacce identificate, bloccandone poi soltanto 383. Questa enorme riduzione mostra quanto poco il volume grezzo degli avvisi dica sul rischio operativo.

Il divario tra 17,1 milioni di minacce e 383 eventi bloccati è il numero centrale della storia. Gli strumenti automatizzati hanno individuato attività, ma l'analisi guidata dagli esseri umani ha determinato quali richiedessero un intervento. Il NOC non cercava di massimizzare i blocchi.

Neil “Grifter” Wyler, responsabile senior delle operazioni di rete di Black Hat, ha descritto il lavoro come la ricerca di un ago in una pila di aghi. Ogni candidato appariva già pericoloso. Il vero compito era identificare il gruppo più ristretto che violava i limiti dell'evento.

Questo ambiente rende il NOC un test impegnativo per i fallimenti della sicurezza AI. Un modello non può fare affidamento su semplici etichette quali malevolo, benigno o anomalo. Deve interpretare intenzione, posizione, tempistica, identità e regole della conferenza.

Il risultato ha attirato Google News perché offre qualcosa che le dimostrazioni dei fornitori raramente forniscono. Gli agenti hanno operato su traffico in tempo reale, sotto pressione temporale, con conseguenze in caso di decisioni errate. Il loro valore dipendeva da evidenze e supervisione, non da risposte rifinite.

Perché gli strumenti commerciali di sicurezza AI non sono bastati

Il NOC ha sviluppato agenti personalizzati perché i prodotti disponibili non potevano soddisfare le sue esigenze di velocità, carico e contesto.

Il team ha iniziato a usare il machine learning dove cominciano molte organizzazioni di sicurezza: nella generazione degli avvisi. Questo approccio può identificare comportamenti insoliti o schemi in una quantità di dati superiore a quella che gli analisti possono esaminare manualmente. Non spiega automaticamente se il comportamento meriti un'azione.

Il personale del NOC ha valutato diversi strumenti disponibili, ma ha scoperto che molti non riuscivano a gestire il loro carico di traffico. Altri prodotti non rispondevano abbastanza rapidamente al cambiare della rete. Il team ha quindi sviluppato software attorno ai propri flussi di lavoro.

Questa decisione mette in luce una debolezza comune nell'acquisto di soluzioni di sicurezza AI. Gli acquirenti spesso confrontano funzionalità dei modelli, qualità dell'interfaccia o numero di integrazioni supportate. Il successo operativo dipende molto di più dalla qualità della telemetria, dal tempo di risposta e da quanto bene il sistema rappresenti le regole locali.

Le regole di Black Hat sono particolarmente difficili da codificare. Una scansione delle vulnerabilità può essere normale in un'aula e inaccettabile contro l'infrastruttura della conferenza. Lo stesso schema di pacchetti può avere significati diversi a seconda della sua origine e destinazione.

Il NOC utilizza un chatbot AI chiamato Trevor con la piattaforma per le operazioni di sicurezza di Palo Alto Networks. Gli analisti possono chiedere informazioni su un indirizzo e l'assistente recupera dati pertinenti dai log. Questo riduce il lavoro meccanico necessario per avviare un'indagine.

Il recupero delle informazioni è prezioso perché accorcia la distanza tra un avviso e le evidenze che lo supportano. È anche più circoscritto della risposta autonoma agli incidenti. Trevor assiste l'analista senza ricevere un'ampia autorità per contenere dispositivi o accusare utenti.

Il team ha introdotto un sistema più ampio chiamato NOCgentic durante l'evento del 2026. Questa piattaforma multiagente instrada le domande verso componenti specializzati, interroga la telemetria e restituisce risposte con i passaggi successivi suggeriti. Un repository NOCgentic pubblico documenta ora il progetto.

Una piattaforma multiagente utilizza diversi componenti AI focalizzati su compiti specifici, invece di chiedere a un unico modello di gestire ogni fase. Un componente può recuperare evidenze di rete, mentre un altro interpreta la domanda o prepara una risposta. L'instradamento può migliorare la focalizzazione, ma crea anche più connessioni che richiedono controlli di sicurezza.

Il NOC ha presentato NOCgentic come assistente per threat hunter meno esperti. L'effetto previsto era affiancare un supporto analitico più approfondito a un operatore di primo livello. Questa impostazione è importante perché considera l'esperienza come qualcosa che il sistema aiuta a distribuire.

Il team ha inoltre sviluppato SOCgentic, una versione con meno restrizioni. La sua interfaccia, Postcog, funziona con sensori chiamati Precogs. I nomi fanno riferimento al film Minority Report, in cui le previsioni arrivano prima dei crimini.

L'umorismo rendeva l'interfaccia più tollerabile durante il lavoro stressante, ma il design sottostante restava serio. Gli analisti affrontano la fatica durante l'indagine su avvisi ripetitivi. Un assistente utile può recuperare il contesto, proporre domande e mantenere organizzate le evidenze senza possedere la decisione finale.

L'esperienza del NOC ha incluso anche lo sviluppo software assistito dall'AI. Nel 2024, il team ha creato FragglePacket, uno strumento diagnostico di rete basato su Rust, perché i prodotti esistenti non disponevano delle capacità necessarie. Durante Black Hat USA 2026, l'AI ha aiutato gli sviluppatori ad aggiungere 71 funzionalità.

Queste aggiunte comprendevano il probing dei percorsi di attacco, il packet fuzzing, il replay delle catture di pacchetti, l'analisi HTTPS a fasi e un motore diagnostico basato su regole. Il packet fuzzing invia input alterati per identificare guasti. Il replay delle catture di pacchetti riproduce traffico registrato per test controllati.

Il numero di funzionalità non deve essere confuso con una validazione indipendente. L'AI può accelerare la generazione di codice introducendo al contempo difetti, assunzioni non sicure o complessità non necessaria. Le modifiche generate richiedono comunque test e revisione.

È qui che spesso iniziano i fallimenti della sicurezza AI. I team misurano la velocità con cui un modello produce codice o indagini, poi trascurano se il risultato resti corretto in condizioni non familiari. La velocità aumenta sia l'output utile sia gli obblighi di revisione.

L'approccio personalizzato di Black Hat ha avuto successo perché era legato alla sua telemetria e alle sue procedure operative. La maggior parte delle imprese non può replicare direttamente quell'ambiente. Dispongono di team più piccoli, budget limitati, log frammentati e minore controllo sull'infrastruttura.

Secondo quanto riportato, il NOC opera con risorse donate da partner tecnologici selezionati. I suoi responsabili hanno descritto queste aziende come partner operativi, piuttosto che sponsor che hanno acquistato l'accesso. Questa distinzione offre al team accesso a strumenti che molti gruppi di sicurezza aziendale non possono combinare.

Le organizzazioni che leggono del progetto tramite Google News dovrebbero quindi resistere a una conclusione superficiale. La lezione non è che ogni security operations center necessiti di più agenti sviluppati internamente. È che l'automazione deve adattarsi alle evidenze, all'autorità e al processo di risposta già in essere.

Google News mette in evidenza il divario tra automazione e giudizio

La salvaguardia AI più forte del NOC era la sua capacità di rifiutare una raccomandazione automatizzata.

Il team ha ripetutamente sottolineato che gli esseri umani restano nel ciclo decisionale. Questa espressione può diventare un vago linguaggio di marketing, ma Black Hat le ha attribuito un significato concreto. Una persona manteneva l'autorità di interpretare il contesto e dire no.

Questa autorità era essenziale perché la rete conteneva attività offensive autorizzate. Un agente poteva rilevare correttamente uno sfruttamento, fraintendendo però perché fosse avvenuto. Agire sul rilevamento senza contesto avrebbe potuto interrompere una ricerca anziché fermare un attacco.

Il problema ricorda una sfida di lunga data nelle operazioni di sicurezza. I sistemi di rilevamento riconoscono schemi tecnici, mentre i responsabili della risposta agli incidenti determinano l'impatto aziendale. L'AI cambia la velocità e la presentazione di questo lavoro, ma non elimina la distinzione.

Black Hat ha usato l'AI per raccogliere evidenze, cercare nella telemetria, costruire profili e suggerire i passaggi successivi. Non ha considerato una risposta fluente come prova definitiva. Gli analisti potevano ispezionare i dati di rete sottostanti prima di intervenire.

Questo approccio incentrato sulle evidenze contrasta una debolezza dei modelli linguistici di grandi dimensioni. I modelli generano linguaggio probabile, non fatti garantiti. Quando sono collegati a strumenti, possono anche selezionare dati errati, fraintendere una query o produrre una conclusione ingiustificata.

Il precedente lavoro del NOC in Asia ha fornito un esempio utile. Un agente ha segnalato comunicazioni in chiaro contenenti quelli che sembravano identificatori di account utente. Un analista ha continuato a indagare invece di accettare la prima spiegazione.

Il traffico proveniva da un'applicazione associata alla registrazione di riunioni. Una richiesta successiva ha esposto una chiave dell'interfaccia di programmazione delle applicazioni Tencent, secondo un'indagine di rete. Il team non ha utilizzato la credenziale, quindi le sue autorizzazioni sono rimaste sconosciute.

Quella prudenza faceva parte dell’analisi. Le prove supportavano l’affermazione che una credenziale fosse esposta, ma non quella su ciò a cui un attaccante avrebbe potuto accedere. Un flusso di lavoro responsabile ha preservato quell’incertezza invece di colmarla con speculazioni.

Lo stesso evento ha prodotto un altro caso che coinvolgeva un dispositivo che ha attivato rilevamenti per due Trojan ad accesso remoto. Un Trojan ad accesso remoto, o RAT, consente a un attaccante di controllare un sistema compromesso. Molteplici rilevamenti indipendenti hanno reso meno probabile una classificazione errata accidentale.

Un componente AI chiamato The Profiler ha analizzato le prove di rete e dedotto che il dispositivo appartenesse probabilmente a un giornalista tecnologico. Il personale umano ha poi utilizzato informazioni di registrazione e contatti interni con la stampa per restringere la ricerca.

Il giornalista ha ricevuto un avviso e gli è stato consigliato di spegnere il dispositivo prima di contattare il personale di sicurezza aziendale. L’agente ha accelerato l’identificazione, ma le persone hanno verificato la conclusione e gestito l’interazione delicata.

Questa sequenza dimostra un modello pratico di supervisione umana. L’AI ha ridotto i tempi di ricerca, gli analisti ne hanno valutato le prove e il personale autorizzato ha deciso come rispondere. Ogni fase aveva una responsabilità definita.

Evidenzia anche un compromesso in materia di privacy. Dedurre l’identità di una persona dal traffico può proteggere chi possiede un dispositivo infetto. La stessa capacità può diventare invasiva se un’organizzazione la utilizza senza regole chiare, proporzionalità o responsabilità.

L’ambiente insolito di Black Hat non elimina questa preoccupazione. I partecipanti alla conferenza si connettono a una rete fortemente monitorata, gestita a fini difensivi. Dipendenti aziendali, clienti e visitatori possono avere aspettative e tutele legali diverse.

I responsabili della sicurezza dovrebbero definire cosa un agente possa dedurre prima di distribuirlo. Servono inoltre limiti di conservazione, controlli di accesso e regole di escalation per conclusioni legate all’identità. Un’inferenza corretta può comunque creare rischi di governance.

Un’altra preoccupazione è il bias di automazione, ovvero la tendenza a fidarsi di una raccomandazione della macchina perché appare sicura o dettagliata. I riepiloghi delle indagini generati dall’AI spesso sembrano completi anche quando omettono prove contraddittorie. I nuovi analisti possono essere particolarmente vulnerabili a questa presentazione.

Il NOC ha cercato di utilizzare gli agenti come estensione dell’esperienza senior. Questo può migliorare la formazione quando le risposte mostrano le proprie prove e i limiti del ragionamento. Diventa pericoloso quando il personale junior impara ad approvare raccomandazioni senza verifiche indipendenti.

Un separato avvertimento sulla risposta agli incidenti rafforza questo punto. L’analista Gartner Craig Porter ha affermato che gli agenti AI interni possono creare eventi involontari pur operando entro le autorizzazioni loro assegnate.

Porter ha sostenuto che la risposta tradizionale agli incidenti non copre pienamente i sistemi che producono esiti dannosi senza un attaccante malevolo. I team di sicurezza devono indagare comportamento, progettazione e processo decisionale. Ciò amplia la responsabilità oltre il normale contenimento del malware.

Il NOC di Black Hat ha incontrato lo stesso confine concettuale dal lato difensivo. Un agente autorizzato può recuperare dati, raccomandare azioni o generare software pur continuando a produrre rischi. L’autorizzazione non equivale alla correttezza.

La distribuzione tramite Google News può portare la storia a lettori esterni alle operazioni di sicurezza. Per loro, il punto importante è semplice. La sicurezza AI non fallisce solo quando gli attaccanti aggirano le protezioni di un modello.

Fallisce anche quando i difensori concedono a un agente autorità eccessiva, prove deboli o un obiettivo poco chiaro. Il modello può seguire le istruzioni e produrre comunque l’esito sbagliato. La revisione umana deve essere progettata nel flusso di lavoro, non aggiunta dopo un incidente.

Il NOC ha rivelato anche i limiti offensivi dell’AI

Gli attacchi basati sull’AI erano rapidi e rumorosi nel 2026, ma i difensori non possono presumere che questo vantaggio durerà.

Il team di Black Hat ha ritenuto gli attuali attacchi guidati dall’AI relativamente facili da rilevare. Wyler ha affermato che si muovevano rapidamente ma mancavano di furtività. Il loro comportamento ha attivato molti sensori, inclusi canary, honeypot e altri sistemi di inganno.

Un canary è una risorsa monitorata progettata per rivelare accessi non autorizzati. Un honeypot presenta un’esca attraente affinché i difensori possano osservare comportamenti sospetti. Entrambi funzionano bene quando gli attaccanti automatizzati toccano indiscriminatamente molti sistemi.

Questa scoperta complica le previsioni più allarmistiche sui cyberattacchi autonomi. Uno sfruttamento più rapido non produce automaticamente una migliore evasione. Un agente che testa tutto può esporsi attraverso volume, ripetizione e schemi di accesso insoliti.

Questa limitazione non dovrebbe rassicurare a lungo i team di sicurezza. I modelli e i framework per agenti stanno migliorando, mentre gli attaccanti possono affinare prompt e accesso agli strumenti. Possono anche utilizzare il feedback dei tentativi falliti per ridurre il rumore.

L’agenda ufficiale di Black Hat per il 2026 rifletteva questo cambiamento. Un keynote si è concentrato sulla difesa dei sistemi quando l’AI rende più economiche le capacità offensive. Un altro ha esaminato la ricerca sulle vulnerabilità in un’era agentica, secondo il programma dei keynote.

La preoccupazione va oltre il malware generato dall’AI. Gli agenti possono automatizzare la ricognizione, testare vulnerabilità, combinare informazioni pubbliche e utilizzare strumenti di sicurezza consolidati. Il loro vantaggio deriva spesso dal coordinamento e dalla persistenza, più che da un nuovo exploit.

Questo rende le prove di rete sempre più importanti. I controlli sugli endpoint possono registrare ciò che è accaduto su un dispositivo, mentre la telemetria di rete mostra quali sistemi hanno comunicato. Nessuna delle due prospettive è sufficiente da sola.

Il NOC ha potuto distinguere l’attività perché controllava l’infrastruttura e combinava più fonti. Molte imprese non dispongono di questa visibilità. Servizi cloud, dispositivi remoti, applicazioni di terze parti e traffico cifrato dividono le prove tra diversi proprietari.

Un’organizzazione con telemetria incompleta fornirà ai propri agenti difensivi un contesto incompleto. I riepiloghi risultanti possono apparire certi pur basandosi su dati mancanti. Questo è un problema di osservabilità prima ancora di diventare un problema del modello.

Le imprese affrontano anche limiti operativi più rigorosi. Black Hat può tollerare un monitoraggio aggressivo e un intervento rapido perché i partecipanti entrano in un ambiente di sicurezza specializzato. Un ospedale, una banca o un produttore devono proteggere disponibilità, privacy e processi regolamentati.

Le 383 minacce bloccate dal NOC illustrano una prudenza attenta. Bloccarne di più non avrebbe necessariamente migliorato la sicurezza. Avrebbe potuto interrompere attività legittime e ridurre la fiducia nel team di risposta.

Questo compromesso si applica direttamente al contenimento autonomo. Un agente di sicurezza che disabilita account o isola sistemi può fermare rapidamente un attacco. La stessa azione può interrompere ricavi, assistenza ai pazienti, produzione o un’indagine in corso.

L’approvazione umana introduce ritardi, ma eliminarla trasferisce l’autorità operativa a un software che può interpretare erroneamente il contesto. La progettazione corretta dipende da reversibilità e impatto. Le azioni a basso rischio possono ricevere maggiore automazione rispetto alle decisioni ad alto impatto.

Per esempio, un agente può arricchire in sicurezza un avviso con dati di proprietà o attività di rete recenti. Può preparare una raccomandazione di contenimento. Isolare un database di produzione richiede una soglia più alta e un’autorizzazione più solida.

Il NOC ha inoltre beneficiato di personale insolitamente esperto. I suoi operatori comprendevano l’aspetto della normalità all’interno di un ambiente anomalo. I modelli non possono sostituire questa conoscenza istituzionale semplicemente leggendo ticket storici.

I team necessitano di un contesto operativo curato che gli agenti possano recuperare. Ciò include proprietà degli asset, finestre di test approvate, dipendenze aziendali e contatti di escalation. Una base di conoscenza ricercabile può aiutare a preservare questo materiale per indagini autorizzate.

La documentazione da sola non è sufficiente. I team di sicurezza devono verificare se un agente recupera la regola corretta sotto pressione. Dovrebbero inoltre registrare quali prove hanno influenzato ogni raccomandazione.

Rimane necessaria una visione scettica, perché la maggior parte dei risultati riportati proveniva da partecipanti che operavano nel NOC. Le loro affermazioni descrivono una seria distribuzione in ambiente reale, ma non costituiscono un benchmark indipendente. Altre organizzazioni potrebbero ottenere risultati diversi.

Le 71 aggiunte a FragglePacket sembrano impressionanti, ma il volume delle funzionalità non misura l’affidabilità. Il rilascio di NOCgentic offre una trasparenza utile, ma il codice pubblico non dimostra che ogni risposta del modello fosse accurata.

I lettori dovrebbero distinguere tre affermazioni. L’AI ha chiaramente aiutato il team a recuperare e organizzare informazioni. Secondo quanto riportato, ha accelerato lo sviluppo software e la ricerca delle minacce. Non ha eliminato la necessità di verifica da parte di esperti.

Questa distinzione mantiene la storia con i piedi per terra. Black Hat ha dimostrato un uso produttivo degli agenti senza mostrare che le operazioni di sicurezza autonome siano pronte. Il suo successo più credibile è derivato dalla collaborazione controllata tra software e persone.

Cosa dovrebbero osservare i team di sicurezza

Il prossimo test sarà capire se il modello evidence-first di Black Hat resiste ad attacchi più silenziosi, budget ordinari e una più ampia autorità degli agenti.

Il primo segnale sarà la furtività degli attacchi a Black Hat USA 2027. Nel 2026, secondo quanto riportato, l’attività guidata dall’AI ha attivato molti controlli difensivi. Un cambiamento significativo apparirebbe quando gli agenti riducessero il rumore delle scansioni e si adattassero dopo aver incontrato sistemi di inganno.

Se ciò accadrà, il NOC avrà bisogno di analisi comportamentali più solide e di una migliore correlazione tra sistemi. Sosterrebbe la preoccupazione che l’attuale vantaggio nel rilevamento sia temporaneo. Il persistere di un comportamento rumoroso indebolirebbe le affermazioni sull’offensiva autonoma nel breve termine.

Il secondo segnale è l’adozione indipendente di NOCgentic. Il rilascio pubblico del progetto consente ad altri team di ispezionarne l’architettura, testarne i flussi di lavoro e segnalare i fallimenti. Le prove provenienti da normali centri operativi di sicurezza conteranno più di ulteriori dimostrazioni a Black Hat.

L’adozione dovrebbe essere misurata attraverso indagini documentate, tempi di revisione, tassi di correzione e incidenti operativi. Il numero di download o l’attenzione al repository rivelano interesse, non valore per la sicurezza. Valutazioni utili devono confrontare gli analisti assistiti con flussi di lavoro consolidati.

Il terzo segnale riguarda quanta autorità le organizzazioni concedono agli agenti difensivi. Recupero e riepilogo presentano rischi diversi dalla sospensione degli account, dall’isolamento degli endpoint, dalle modifiche ai firewall o dalla rotazione delle credenziali. I prodotti confondono sempre più queste categorie sotto l’etichetta dell’automazione.

I team di sicurezza dovrebbero pretendere confini chiari per ogni azione. Dovrebbero sapere se un agente raccomanda, prepara o esegue una modifica. I log devono conservare la richiesta, le prove, la risposta del modello, l’approvazione umana e l’esito finale.

Questi controlli aiutano anche quando un agente si comporta come autorizzato ma provoca danni. Gli investigatori devono ricostruire perché il sistema ha agito, quali informazioni ha utilizzato e chi ha approvato le sue autorizzazioni. I normali playbook contro il malware non possono rispondere da soli a queste domande.

I risultati di Black Hat suggeriscono che il ruolo più sicuro degli agenti nel breve termine sia l’accelerazione analitica. Possono raccogliere prove, collegare log, identificare domande mancanti e redigere un piano di risposta. Gli esseri umani dovrebbero mantenere l’autorità sulle decisioni conseguenziali.

Questa configurazione crea comunque un valore sostanziale. Gli analisti dedicano meno tempo a spostarsi tra console e a formattare query. Il personale senior può codificare schemi investigativi che aiutano i colleghi junior a lavorare in modo più coerente.

Tuttavia, i team dovrebbero evitare di trattare le spiegazioni generate come prove. Il pacchetto, la voce di log, il record di identità o la configurazione sottostanti restano le prove. Il riepilogo dell’agente è un’interfaccia a quel materiale.

I lettori di Google News dovrebbero anche osservare come i fornitori descrivono la supervisione umana. “Human in the loop” significa poco se l’organizzazione non definisce il ciclo. Una persona che approva abitualmente azioni opache offre una protezione limitata.

Una supervisione efficace richiede tempo, accesso a informazioni contraddittorie e il permesso di respingere il modello. I revisori necessitano inoltre di una formazione che copra il bias dell’automazione e i limiti del modello. Altrimenti, l’approvazione umana diventa cerimoniale.

Il NOC di Black Hat ha offerto un modello più solido perché gli analisti comprendevano sia la rete sia le regole dell’evento. Potevano riconoscere quando un traffico tecnicamente dannoso apparteneva a un’esercitazione autorizzata. Questa autorità contestuale è difficile da automatizzare.

La lezione finale non è che l’AI abbia fallito al Black Hat. La tecnologia ha svolto un lavoro significativo in uno degli ambienti più impegnativi della sicurezza. I suoi limiti sono diventati visibili proprio perché il team l’ha utilizzata di fronte a un’ambiguità reale.

L’esperienza del NOC sostituisce una semplice narrazione sull’automazione con una più utile dal punto di vista operativo. L’AI ha aumentato la velocità, ampliato l’accesso alle competenze e contribuito a organizzare una mole di prove schiacciante. Ha anche richiesto ingegneria personalizzata, telemetria estesa e moderazione umana.

I responsabili della sicurezza dovrebbero ora esaminare un singolo flusso di lavoro, invece di acquistare una promessa astratta. Scegliete un’indagine ricorrente, definite le sue prove, limitate i permessi degli agenti e misurate le correzioni insieme alla velocità. Ampliate l’autorità solo quando i dati lo giustificano.

Il prossimo titolo di Google News probabilmente si concentrerà su un agente più veloce o su un attacco più grande. La domanda più importante è se le organizzazioni possano ricostruire e contestare ciò che tali agenti fanno. La risposta di Black Hat è stata sì, perché le persone sono rimaste responsabili.

Questo standard dovrebbe guidare ogni implementazione. Gli analisti possono esaminare le prove, rifiutare la raccomandazione e annullare l’azione senza creare danni maggiori? Se una qualsiasi risposta non è chiara, l’agente non è pronto per un’autorità più ampia.