La California mette la difesa informatica con l’AI di fronte ai propri rischi

Il 10 agosto la California ha trasformato un titolo di Google News in un impegno senza precedenti negli Stati Uniti, creando un AI Cyber Defense Program mentre gli attacchi diventano più rapidi ed economici. Lo Stato intende usare l’intelligenza artificiale per individuare vulnerabilità, rafforzare le reti e sostenere la risposta agli incidenti. Ora deve dimostrare che questi strumenti proteggeranno le infrastrutture critiche senza introdurre nuove debolezze.

Il governatore Gavin Newsom ha incaricato le agenzie di istituire il programma all’interno del California Cybersecurity Integration Center, noto come Cal-CSIC. Ogni agenzia statale dovrà inoltre designare un AI Cybersecurity Officer. I governi locali e gli operatori delle infrastrutture critiche dovrebbero ottenere un accesso più ampio a capacità difensive avanzate.

Il conflitto centrale non oppone la California a un singolo fornitore tecnologico. Contrappone la difesa automatizzata ai rischi operativi introdotti dall’automazione. L’AI può aiutare team di sicurezza sovraccarichi a elaborare gli avvisi e indagare attività sospette. Gli stessi sistemi possono però produrre conclusioni errate, esporre informazioni sensibili o ampliare le opzioni di un attaccante se impiegati senza controlli rigorosi.

La California compie questo passo mentre il sostegno federale alla cybersecurity affronta tagli e incertezza sui finanziamenti. Ciò mette pressione sulle agenzie statali affinché assumano responsabilità in precedenza condivise con programmi nazionali. Trasforma inoltre la California in un primo banco di prova per capire se istituzioni pubbliche decentralizzate possano adottare strumenti di sicurezza basati sull’AI in modo sicuro e coerente.

Il titolo di Google News segna un cambiamento operativo su scala statale

La California sta portando la cybersecurity con l’AI da esperimenti frammentati a un programma statale denominato, con funzionari responsabili.

L’annuncio dello Stato stabilisce tre direttive immediate. Cal-CSIC deve istituire l’AI Cyber Defense Program. Lo Stato deve ampliare le capacità difensive per i governi locali e i partner infrastrutturali. Ogni agenzia deve designare un AI Cybersecurity Officer.

Quest’ultimo requisito è rilevante perché i programmi di sicurezza spesso falliscono nel passaggio tra politica e attuazione. Una strategia statale può descrivere obiettivi comuni, ma le singole agenzie continuano a gestire sistemi con dati, fornitori, budget e profili di rischio diversi. Un funzionario designato crea un punto di responsabilità identificabile all’interno di ciascuna organizzazione.

Il programma copre più dei siti web statali e dei dispositivi dei dipendenti. La California identifica specificamente acqua, energia, trasporti e comunicazioni di emergenza come servizi esposti a incidenti informatici dirompenti. Un attacco riuscito contro tali sistemi può avere conseguenze fisiche, anche quando l’intrusione inizia con credenziali rubate o software compromesso.

Cal-CSIC costituisce il centro organizzativo di questo lavoro. Il centro coordina intelligence sulle minacce, risposta agli incidenti e supporto per gli operatori delle infrastrutture critiche. Collocare il nuovo programma al suo interno collega la sperimentazione con l’AI a una struttura operativa già esistente, anziché creare un ufficio politico separato.

Lo Stato afferma che l’AI sosterrà il rilevamento delle vulnerabilità, il rafforzamento delle reti e la risposta agli incidenti. Il rilevamento delle vulnerabilità individua debolezze che gli attaccanti potrebbero sfruttare. Il rafforzamento delle reti riduce i servizi raggiungibili e le configurazioni non sicure. La risposta agli incidenti comprende il lavoro di contenimento, indagine e ripristino dopo un attacco.

Queste applicazioni sono plausibili, ma l’annuncio non identifica modelli specifici, fornitori, standard di valutazione o date di implementazione. Non fornisce neppure una cifra di bilancio dedicata. Il programma è quindi un mandato operativo, non un’architettura tecnica completata.

Questa distinzione può scomparire quando una notizia circola attraverso Google News e i feed social. “AI cyber defense” evoca uno scudo autonomo già implementato. La California ha invece annunciato una struttura per selezionare, governare e applicare strumenti difensivi in molte organizzazioni.

Il risultato immediato dello Stato è l’allineamento amministrativo. Cal-CSIC riceve una missione AI definita, le agenzie ricevono un requisito di responsabilità e i partner più piccoli ricevono la promessa di un maggiore accesso. L’efficacia operativa dipenderà da ciò che seguirà queste direttive.

Le prime domande sono pratiche. Le agenzie devono sapere quali sistemi possono inviare informazioni agli strumenti di AI, chi può esaminarne gli output e come verranno documentati gli errori. Devono inoltre disporre di procedure per far escalare un avviso generato da un modello senza consentire all’automazione di attivare modifiche non sicure.

La California ha definito il quadro decisionale. Non ha ancora dimostrato che ogni agenzia possa eseguirlo secondo lo stesso standard.

Il ridimensionamento federale aumenta la posta in gioco per la California

Il programma arriva mentre i difensori statali e locali affrontano maggiori responsabilità con minore certezza sul sostegno federale.

L’Ufficio del Governatore ha collegato l’iniziativa a tre cambiamenti nel contesto nazionale della cybersecurity. La proposta di bilancio federale per l’anno fiscale 2027 ridurrebbe la Cybersecurity and Infrastructure Security Agency di circa 707 milioni di dollari. Lo Stato descrive tale riduzione come circa il 30 percento rispetto ai precedenti livelli di finanziamento.

Il sostegno federale al Multi-State Information Sharing and Analysis Center è terminato alla fine del 2025. MS-ISAC aveva fornito monitoraggio continuo, intelligence sulle minacce e coordinamento degli incidenti a governi statali, locali, tribali e territoriali. Il suo passaggio verso servizi a pagamento esercita ulteriore pressione sulle giurisdizioni più piccole.

Lo State and Local Cybersecurity Grant Program affronta un’altra scadenza. Il Congresso ha creato il programma con uno stanziamento di 1 miliardo di dollari attraverso la Bipartisan Infrastructure Law. La sua attuale fase di finanziamento si avvicina al completamento, sebbene i legislatori abbiano valutato di estenderne l’autorizzazione.

Questi sviluppi cambiano il significato dell’iniziativa californiana. Un programma di sicurezza basato sull’AI sarebbe degno di nota durante un periodo di crescente assistenza federale. Diventa più rilevante quando contee, città e operatori infrastrutturali potrebbero perdere servizi o assorbire nuovi costi.

Le piccole agenzie pubbliche affrontano un’equazione particolarmente difficile. Gestiscono dati personali di valore e servizi essenziali, ma raramente possono competere con le aziende tecnologiche per assumere personale di sicurezza esperto. Possono anche dipendere da applicazioni più datate, incapaci di produrre la telemetria pulita prevista dai moderni strumenti di sicurezza.

L’AI può aiutare a compensare questo squilibrio quando riduce il lavoro analitico ripetitivo. Un sistema potrebbe riassumere avvisi correlati, spiegare script sospetti o identificare risorse vulnerabili esposte a Internet. Un analista umano può quindi concentrarsi sulla verifica e sulla correzione.

Tuttavia, l’accesso a un modello non sostituisce le operazioni di sicurezza fondamentali. Le agenzie necessitano comunque di inventari accurati delle risorse, software supportato, backup testati, controlli delle identità e procedure chiare per gli incidenti. Un assistente AI non può proteggere un server di cui gli amministratori non sapevano l’esistenza.

Per questo la direttiva californiana sulla forza lavoro affianca i piani tecnologici. Il programma ha bisogno di persone che comprendano sia la sicurezza sia il comportamento dei modelli. Devono sapere quando un output riflette prove, quando riflette un’ipotesi e quando dati sensibili non dovrebbero mai lasciare un ambiente controllato dall’agenzia.

La pressione raggiunge anche gli operatori privati. Sistemi idrici, fornitori di energia, reti di trasporto e organizzazioni di comunicazione si collegano alle strutture governative di risposta durante incidenti gravi. Se la California amplia i servizi abilitati dall’AI attraverso Cal-CSIC, tali operatori avranno bisogno di procedure compatibili per condividere prove e agire sugli avvisi.

Il cambiamento federale impone dunque una scelta. La California può riprodurre servizi selezionati a livello statale, oppure può consentire che i divari di capacità si amplino tra organizzazioni ben finanziate e giurisdizioni più piccole. L’AI Cyber Defense Program rappresenta un tentativo di seguire la prima strada.

Il denaro rimane un vincolo irrisolto. L’annuncio promette un accesso ampliato ma non spiega come saranno finanziati strumenti, formazione, archiviazione, valutazioni dei modelli e supporto agli incidenti. Senza risorse sostenute, il programma rischia di essere più forte dove le agenzie possiedono già team di sicurezza maturi.

Difesa AI e rischio AI condividono ora lo stesso piano di controllo

La strategia della California usa l’AI per rispondere a una minaccia amplificata dall’AI, creando un compromesso tra velocità operativa e controllo affidabile.

Gli attaccanti possono usare i modelli per redigere messaggi di phishing convincenti, tradurre truffe, analizzare codice rubato e accelerare la ricerca di vulnerabilità. I difensori possono usare capacità simili per classificare gli avvisi, ispezionare software e cercare in grandi raccolte di dati di sicurezza.

Questa simmetria spiega il tempismo della California. Lo Stato afferma che i principali sviluppatori di AI hanno divulgato test controllati nei quali sistemi avanzati hanno completato autonomamente sofisticate operazioni informatiche. Tali test non dimostrano che i modelli possano compromettere autonomamente le infrastrutture californiane. Mostrano però che il costo e le competenze richieste per alcune attività di attacco stanno cambiando.

I team difensivi non possono rispondere ignorando la tecnologia. Un centro operativo di sicurezza può ricevere più avvisi di quanti i suoi analisti riescano a esaminare manualmente. L’AI può collegare eventi correlati e presentare un percorso investigativo più breve. Può anche aiutare personale meno esperto a comprendere codice o tecniche di attacco poco familiari.

Tuttavia, la stessa integrazione crea nuovi percorsi sensibili. Un modello usato per la risposta agli incidenti potrebbe elaborare registri di autenticazione, diagrammi di rete, codice sorgente o dettagli sui sistemi non ancora corretti. L’invio di tale materiale a un servizio inadeguato potrebbe trasformare un flusso di lavoro difensivo in un’esposizione di dati.

Anche l’output dei modelli comporta incertezza. L’AI generativa produce risposte plausibili anziché recuperare fatti garantiti. Nella cybersecurity, una spiegazione sicura ma errata può sprecare tempo di risposta scarso. Una raccomandazione falsa potrebbe persino disabilitare un servizio legittimo durante un incidente.

Per questo motivo la California necessita di controlli di approvazione a più livelli. L’AI può raccomandare una misura di contenimento, ma un operatore qualificato dovrebbe convalidare le prove e l’impatto previsto. L’azione automatizzata dovrebbe iniziare da attività ristrette e reversibili, con soglie chiaramente definite.

L’iniezione di prompt rappresenta un’altra preoccupazione. Questo attacco inserisce istruzioni malevole all’interno di contenuti che un sistema AI analizza in seguito. Un modello che esamina un documento o repository compromesso potrebbe seguire indicazioni fornite dall’attaccante, a meno che l’applicazione circostante non isoli i dati non attendibili dai comandi di sistema.

I team di sicurezza devono inoltre proteggere i modelli stessi. Credenziali di accesso, dati di addestramento, sistemi di retrieval, plugin e log di audit creano tutti superfici di attacco. Aggiungere uno strumento AI senza mappare queste dipendenze può aumentare la complessità più rapidamente di quanto aumenti la difesa.

La precedente roadmap Cal-Secure della California fornisce una base utile. Il piano originale organizzava la cybersecurity attorno a persone, processi e tecnologia. Identificava inoltre capacità quali autenticazione a più fattori, gestione delle patch, protezione degli endpoint, intelligence sulle minacce e gestione della supply chain del software.

Cal-Secure 2.0 mantiene l’enfasi su forza lavoro, coordinamento e modernizzazione, offrendo alle agenzie maggiore flessibilità. Il programma AI verifica ora se tale flessibilità possa coesistere con garanzie coerenti. Lo strumento sperimentale di un’agenzia non dovrebbe diventare il rischio condiviso di un’altra agenzia.

Il National Institute of Standards and Technology offre un riferimento più ampio attraverso il suo framework sui rischi dell'IA. Organizza il lavoro sui rischi dell'IA attorno alla governance, alla mappatura, alla misurazione e alla gestione dei sistemi. La California può tradurre queste funzioni in revisioni degli appalti, test tecnici, approvazioni per la distribuzione e monitoraggio continuo.

Il programma dovrebbe inoltre documentare la provenienza dei risultati più importanti. Quando l'IA segnala attività dannose, gli analisti necessitano dei log sottostanti, degli indicatori e del percorso logico. Una conclusione che non può essere riprodotta sarà difficile da difendere durante un audit o un'indagine successiva a un incidente.

Una buona documentazione diventa parte del controllo di sicurezza. I team di ingegneria necessitano di registri ricercabili delle versioni dei modelli, dei prompt, delle approvazioni, delle eccezioni e dei guasti osservati. Una base di conoscenza tecnica strutturata può aiutare i team a collegare questi registri senza trattare l'output del modello come una verità indiscutibile.

Il compromesso centrale per lo Stato è quindi gestibile ma inevitabile. Un'analisi più rapida è utile solo quando le agenzie possono spiegare come è stata raggiunta una conclusione, proteggere i dati coinvolti e fermare comportamenti automatizzati non sicuri.

Un Mandato per Responsabili a Livello Statale Non Garantisce la Preparazione dell'Intero Stato

I titoli di responsabilità conteranno solo se la California definirà l'autorità, le qualifiche e le responsabilità misurabili che li accompagnano.

La designazione di un AI Cybersecurity Officer in ogni agenzia statale crea visibilità. Non crea automaticamente competenze né potere decisionale. Un responsabile privo di autorità di bilancio, accesso ai team tecnici o una chiara linea di riporto potrebbe diventare un contatto per la conformità anziché un leader operativo.

La California deve decidere se le agenzie possano assegnare il ruolo ai responsabili della sicurezza già in carica. L'unificazione delle responsabilità può ridurre le duplicazioni, ma può anche sovraccaricare team già al limite. Una nomina separata potrebbe offrire maggiore focalizzazione, creando però confusione con il chief information security officer dell'agenzia.

Il ruolo necessita di un mandato minimo comune. I responsabili dovrebbero mantenere un inventario dei casi d'uso dell'IA per la sicurezza, approvare le condizioni di gestione dei dati, monitorare le modifiche a modelli e fornitori e riesaminare gli incidenti che coinvolgono sistemi di IA. Dovrebbero inoltre coordinarsi con i team responsabili di privacy, appalti, aspetti legali e diritti civili.

Queste responsabilità vanno oltre gli strumenti acquistati per la cybersicurezza. Le agenzie incontrano sempre più spesso funzionalità di IA integrate in piattaforme cloud, software per ufficio, sistemi di assistenza clienti e prodotti per sviluppatori. Un responsabile della sicurezza che esamini solo un programma di IA nominato esplicitamente non coglierà le capacità introdotte tramite normali aggiornamenti software.

Le pratiche di appalto della California influenzeranno questo lavoro. L'ordine esecutivo statale del marzo 2026 ha richiesto standard più rigorosi in materia di privacy, diritti civili e sicurezza per i fornitori di IA che cercano contratti pubblici. La nuova iniziativa di difesa deve tradurre tali standard in requisiti tecnici.

I contratti dovrebbero affrontare la conservazione dei dati, l'addestramento dei modelli, i subappaltatori, la notifica degli incidenti, i log di accesso e le procedure di uscita. Le agenzie devono inoltre poter verificare se un prodotto offre le prestazioni dichiarate. Le sole assicurazioni dei fornitori non possono stabilire l'idoneità per servizi critici.

La valutazione indipendente è importante perché le dimostrazioni di sicurezza utilizzano spesso dati controllati. Gli ambienti reali delle agenzie contengono inventari incompleti, protocolli legacy, regole operative insolite e avvisi in conflitto. Uno strumento che funziona bene in un test del fornitore può produrre risultati diversi quando è collegato a sistemi operativi rumorosi.

Lo Stato ha già pubblicato obiettivi misurabili attraverso la sua roadmap tecnologica Envision 2026. Tali obiettivi includono la creazione di linee guida per un'adozione responsabile dell'IA, briefing per i dirigenti delle agenzie ad alto rischio, il completamento di controlli sullo stato di salute della sicurezza e il miglioramento dei punteggi di maturità dopo le valutazioni. Queste metriche offrono un punto di partenza per valutare il nuovo programma.

Tuttavia, i punteggi di maturità sono misure indirette. La California necessita anche di risultati operativi. Indicatori utili includono il tempo richiesto per convalidare un avviso ad alta priorità, la percentuale di raccomandazioni dell'IA respinte dagli analisti e il numero di vulnerabilità corrette prima dello sfruttamento.

I falsi positivi meritano particolare attenzione. Un modello che genera migliaia di avvisi deboli può rallentare gli analisti, anche se rileva alcune minacce autentiche. Riportare soltanto il numero di risultati generati dall'IA premierebbe l'attività anziché la riduzione del rischio.

I falsi negativi sono più difficili da misurare perché i team non sanno immediatamente cosa uno strumento abbia mancato. La California può affrontare questo problema attraverso esercitazioni controllate, revisioni umane parallele e test di red team. I red team imitano gli attaccanti affinché i difensori possano osservare se persone, processi e tecnologie rispondono come previsto.

Lo Stato dovrebbe pubblicare informazioni aggregate sulle prestazioni sufficienti a creare fiducia pubblica senza rivelare dettagli sfruttabili. Potrebbero includere il numero di implementazioni, i metodi di valutazione, il completamento della formazione e miglioramenti generali nella risposta agli incidenti.

La trasparenza aiuterà inoltre i partner locali a valutare cosa offre il programma. Un piccolo distretto idrico deve sapere se la California fornisce accesso al software, monitoraggio gestito, consulenza di esperti o risposta alle emergenze. “Difese abilitate dall'IA” può descrivere diversi modelli di servizio molto differenti.

Il primo ciclo di Google News ha stabilito l'ambizione. La fase più difficile inizia quando le agenzie traducono un mandato statale in autorizzazioni, flussi di lavoro e prove che gli auditor possano esaminare.

Cosa Deve Dimostrare Ora la California

Tre segnali mostreranno se l'iniziativa diventerà un programma di difesa operativo o resterà un impegno politico.

Il primo segnale è un quadro di attuazione pubblicato. La California dovrebbe definire casi d'uso approvati, flussi di dati vietati, requisiti di revisione umana, standard di test e regole per la segnalazione degli incidenti. Un quadro dimostrerebbe che lo Stato è passato dall'annunciare obiettivi al governare implementazioni reali.

Queste linee guida dovrebbero distinguere l'assistenza a basso rischio dall'automazione ad alto impatto. Riassumere rapporti pubblici sulle minacce è diverso dall'analizzare log riservati. Raccomandare una modifica al firewall è diverso dall'effettuare automaticamente tale modifica.

Se la California pubblicherà standard chiari e le agenzie inizieranno a riferire in base a essi, la credibilità del programma si rafforzerà. Se ogni agenzia inventerà regole separate, lo Stato avrà difficoltà a fornire una protezione coerente o a confrontare i risultati.

Il secondo segnale è la prova che le capacità raggiungono i governi locali e gli operatori di infrastrutture. La California ha promesso un accesso ampliato, ma non ha ancora specificato livelli di servizio, criteri di ammissibilità o finanziamenti. I dettagli su iscrizione e supporto riveleranno se il programma può ridurre il divario tra le grandi agenzie e le organizzazioni più piccole.

La prova più convincente includerebbe un catalogo di servizi definito. Potrebbe comprendere revisioni delle vulnerabilità, accesso all'intelligence sulle minacce, supporto agli incidenti, analisi assistita dall'IA e formazione. I dati sulla partecipazione mostrerebbero quindi se l'offerta corrisponde alle esigenze locali.

Un accesso più ampio rafforzerebbe la finalità statale del programma. Una partecipazione limitata tra organizzazioni già mature indebolirebbe l'affermazione secondo cui la California sta compensando il ridotto supporto federale.

Il terzo segnale è costituito da prove indipendenti sulle prestazioni. La California necessita di valutazioni controllate che misurino accuratezza, carico di lavoro degli analisti, tempi di risposta e fallimenti della sicurezza. Lo Stato dovrebbe testare i flussi di lavoro assistiti dall'IA rispetto ai metodi convenzionali, anziché presumere che strumenti più recenti producano risultati migliori.

Il framework di cybersicurezza NIST offre alle agenzie una struttura comune per governare, identificare, proteggere, rilevare, rispondere e recuperare. La California può utilizzare queste funzioni per collegare le valutazioni dei modelli a risultati di sicurezza consolidati.

I test indipendenti dovrebbero esaminare prompt injection, fuga di dati, raccomandazioni fuorvianti, aggiornamenti dei modelli e interruzioni dei fornitori. Dovrebbero inoltre registrare quando gli analisti umani prevalgono sul sistema. Le deroghe non sono necessariamente fallimenti, ma schemi inspiegati possono rivelare problemi di progettazione.

Questi tre segnali devono comparire in questo ordine. La governance stabilisce i confini. L'accesso verifica se il programma raggiunge gli utenti a cui è destinato. Le prove sulle prestazioni determinano se la tecnologia migliora le loro difese.

La California dovrebbe resistere alla tentazione di misurare il successo attraverso il numero di responsabili nominati o licenze attivate. Si tratta di input di implementazione. I residenti hanno bisogno di prove che i servizi essenziali affrontino meno rischi prevenibili e si riprendano più rapidamente quando si verificano incidenti.

Il prossimo titolo di Google News probabilmente si concentrerà su un nuovo strumento, una partnership o un evento di sicurezza. I lettori dovrebbero guardare oltre l'annuncio e porsi tre domande: quale autorità governa il sistema, chi può realmente utilizzarlo e quale risultato misurabile è cambiato?

La California ha scelto di costruire difese assistite dall'IA anziché attendere che il panorama delle minacce si stabilizzi. Questa scelta è comprensibile perché gli attaccanti non si fermeranno mentre il governo completa un processo politico perfetto.

Il vantaggio dello Stato è la sua capacità di coordinare agenzie, operatori di infrastrutture, ricercatori e aziende tecnologiche. Il rischio è confondere tale coordinamento con la prontezza operativa.

L'AI Cyber Defense Program si guadagnerà la definizione di primo nella nazione attraverso l'esecuzione, non la cronologia. La California deve dimostrare che la responsabilità umana rimane intatta, i dati sensibili restano protetti e le raccomandazioni automatizzate resistono a un controllo indipendente. Fino ad allora, l'iniziativa è un quadro serio sottoposto al suo test più importante.