La Californie met la cyberdéfense par l’IA face à ses propres risques

Le 10 août, la Californie a transformé un titre de Google News en un engagement inédit aux États-Unis, en créant un programme de cyberdéfense par l’IA alors que les attaques deviennent plus rapides et moins coûteuses. L’État veut utiliser l’intelligence artificielle pour détecter les vulnérabilités, renforcer les réseaux et soutenir la réponse aux incidents. Il doit désormais démontrer que ces outils protégeront les infrastructures critiques sans introduire de nouvelles faiblesses.

Le gouverneur Gavin Newsom a demandé aux agences de mettre en place ce programme au sein du California Cybersecurity Integration Center, connu sous le nom de Cal-CSIC. Chaque agence de l’État devra également désigner un responsable de la cybersécurité liée à l’IA. Les collectivités locales et les exploitants d’infrastructures critiques sont censés bénéficier d’un accès élargi à des capacités de défense avancées.

Le conflit central n’oppose pas la Californie à un fournisseur technologique en particulier. Il oppose la défense automatisée aux risques opérationnels qu’entraîne l’automatisation. L’IA peut aider des équipes de sécurité débordées à traiter les alertes et à enquêter sur des activités suspectes. Ces mêmes systèmes peuvent toutefois produire des conclusions erronées, exposer des informations sensibles ou élargir les possibilités d’action des attaquants lorsqu’ils sont déployés sans contrôles stricts.

La Californie prend cette mesure alors que le soutien fédéral à la cybersécurité fait face à des réductions et à des incertitudes de financement. Cela accentue la pression sur les agences de l’État pour qu’elles assument des responsabilités auparavant partagées avec des programmes nationaux. Cela fait aussi de la Californie l’un des premiers tests de la capacité d’institutions publiques décentralisées à adopter des outils de sécurité basés sur l’IA de manière sûre et cohérente.

Le titre de Google News marque un changement opérationnel à l’échelle de l’État

La Californie fait passer la cybersécurité par l’IA d’expérimentations dispersées à un programme officiel à l’échelle de l’État, assorti de responsables identifiés.

L’annonce de l’État énonce trois directives immédiates. Cal-CSIC doit établir le programme de cyberdéfense par l’IA. L’État doit étendre les capacités de défense offertes aux collectivités locales et aux partenaires d’infrastructure. Chaque agence doit désigner un responsable de la cybersécurité liée à l’IA.

Cette dernière exigence est importante, car les programmes de sécurité échouent souvent dans le passage de la politique à l’exécution. Une stratégie à l’échelle de l’État peut définir des objectifs communs, mais chaque agence contrôle encore des systèmes aux données, fournisseurs, budgets et profils de risque différents. La désignation d’un responsable crée un point de responsabilité identifiable au sein de chaque organisation.

Le programme couvre davantage que les sites web de l’État et les appareils des employés. La Californie identifie spécifiquement l’eau, l’électricité, les transports et les communications d’urgence comme des services exposés à des cyberincidents perturbateurs. Une attaque réussie contre ces systèmes peut avoir des conséquences physiques, même si l’intrusion commence par des identifiants volés ou des logiciels compromis.

Cal-CSIC constitue le centre organisationnel de ce travail. Le centre coordonne le renseignement sur les menaces, la réponse aux incidents et le soutien aux exploitants d’infrastructures critiques. Installer le nouveau programme à cet endroit relie l’expérimentation autour de l’IA à une structure opérationnelle existante, plutôt que de créer un bureau politique distinct.

L’État indique que l’IA soutiendra la détection des vulnérabilités, le renforcement des réseaux et la réponse aux incidents. La détection des vulnérabilités identifie les faiblesses que les attaquants pourraient exploiter. Le renforcement des réseaux réduit les services accessibles et les configurations non sûres. La réponse aux incidents comprend le travail de confinement, d’enquête et de rétablissement après une attaque.

Ces usages sont plausibles, mais l’annonce ne précise ni les modèles, ni les fournisseurs, ni les normes d’évaluation, ni les dates de déploiement. Elle ne fournit pas non plus de budget dédié. Le programme constitue donc un mandat opérationnel, et non une architecture technique achevée.

Cette distinction peut disparaître lorsqu’une information circule via Google News et les réseaux sociaux. La « cyberdéfense par l’IA » évoque un bouclier autonome déjà déployé. La Californie a en réalité annoncé une structure destinée à sélectionner, gouverner et appliquer des outils défensifs au sein de nombreuses organisations.

La réussite immédiate de l’État est administrative : Cal-CSIC reçoit une mission claire liée à l’IA, les agences reçoivent une obligation de responsabilité et les partenaires plus modestes une promesse d’accès accru. L’efficacité opérationnelle dépendra de la suite donnée à ces directives.

Les premières questions sont pratiques. Les agences doivent savoir quels systèmes peuvent transmettre des informations à des outils d’IA, qui peut examiner leurs résultats et comment les erreurs seront documentées. Elles ont aussi besoin de procédures permettant de remonter une alerte générée par un modèle sans laisser l’automatisation déclencher des changements dangereux.

La Californie a défini le cadre décisionnel. Elle n’a pas encore démontré que chaque agence peut l’exécuter selon le même niveau d’exigence.

Le repli fédéral augmente les enjeux pour la Californie

Le programme arrive alors que les défenseurs des États et des collectivités locales doivent assumer davantage de responsabilités avec moins de certitudes quant au soutien fédéral.

Le bureau du gouverneur a lié l’initiative à trois évolutions de l’environnement national de la cybersécurité. Le projet de budget fédéral pour l’exercice 2027 réduirait l’Agence de cybersécurité et de sécurité des infrastructures d’environ 707 millions de dollars. L’État estime que cela représente une baisse d’environ 30 % par rapport aux niveaux de financement précédents.

Le soutien fédéral au Multi-State Information Sharing and Analysis Center a également pris fin à la fin de 2025. Le MS-ISAC fournissait une surveillance continue, du renseignement sur les menaces et une coordination des incidents aux gouvernements des États, locaux, tribaux et territoriaux. Sa transition vers des services payants exerce une pression supplémentaire sur les petites juridictions.

Le State and Local Cybersecurity Grant Program fait face à une autre échéance. Le Congrès a créé ce programme avec une enveloppe de 1 milliard de dollars dans le cadre de la Bipartisan Infrastructure Law. Sa phase de financement actuelle approche de son terme, bien que des législateurs aient envisagé de prolonger son autorisation.

Ces évolutions modifient la portée de l’initiative californienne. Un programme de sécurité fondé sur l’IA serait déjà notable durant une période d’aide fédérale croissante. Il devient plus déterminant lorsque les comtés, les villes et les exploitants d’infrastructures risquent de perdre des services ou d’absorber de nouveaux coûts.

Les petites agences publiques font face à une équation particulièrement difficile. Elles gèrent des données personnelles précieuses et des services essentiels, mais elles rivalisent rarement avec les entreprises technologiques pour recruter du personnel de sécurité expérimenté. Elles peuvent également dépendre d’applications anciennes incapables de produire la télémétrie fiable attendue par les outils de sécurité modernes.

L’IA peut contribuer à corriger ce déséquilibre lorsqu’elle réduit le travail analytique répétitif. Un système pourrait résumer des alertes liées, expliquer des scripts suspects ou identifier des ressources vulnérables exposées sur Internet. Un analyste humain peut alors se concentrer sur la vérification et la remédiation.

Cependant, l’accès à un modèle ne remplace pas les opérations de sécurité de base. Les agences ont toujours besoin d’inventaires exacts de leurs ressources, de logiciels pris en charge, de sauvegardes testées, de contrôles d’identité et de procédures d’incident claires. Un assistant d’IA ne peut pas protéger un serveur dont les administrateurs ignoraient l’existence.

C’est pourquoi la directive californienne sur les effectifs accompagne ses plans technologiques. Le programme a besoin de personnes qui comprennent à la fois la sécurité et le comportement des modèles. Elles doivent savoir quand un résultat s’appuie sur des preuves, quand il reflète une hypothèse et quand des données sensibles ne doivent jamais quitter un environnement contrôlé par l’agence.

La pression s’étend également aux exploitants privés. Les réseaux d’eau, les fournisseurs d’énergie, les réseaux de transport et les organisations de communication se connectent aux structures publiques de réponse lors d’incidents majeurs. Si la Californie étend les services soutenus par l’IA via Cal-CSIC, ces exploitants devront disposer de procédures compatibles pour partager des éléments de preuve et agir sur les alertes.

Le changement fédéral impose donc un choix. La Californie peut reproduire certains services à l’échelle de l’État, ou laisser les écarts de capacité se creuser entre les organisations bien financées et les petites juridictions. Le programme de cyberdéfense par l’IA représente une tentative de suivre la première voie.

Le financement reste une contrainte non résolue. L’annonce promet un accès élargi, mais n’explique pas comment les outils, la formation, le stockage, les évaluations de modèles et le soutien aux incidents seront financés. Sans ressources durables, le programme risque d’être le plus solide là où les agences disposent déjà d’équipes de sécurité matures.

La défense par l’IA et le risque lié à l’IA partagent désormais le même plan de contrôle

La stratégie californienne utilise l’IA pour répondre à une menace amplifiée par l’IA, créant un arbitrage entre vitesse opérationnelle et contrôle fiable.

Les attaquants peuvent utiliser des modèles pour rédiger des messages d’hameçonnage convaincants, traduire des escroqueries, analyser du code volé et accélérer la recherche de vulnérabilités. Les défenseurs peuvent employer des capacités similaires pour classifier les alertes, inspecter des logiciels et explorer de vastes ensembles de données de sécurité.

Cette symétrie explique le calendrier de la Californie. L’État affirme que les principaux développeurs d’IA ont divulgué des tests contrôlés dans lesquels des systèmes avancés ont mené de manière autonome des opérations cyber sophistiquées. Ces tests ne prouvent pas que des modèles peuvent compromettre de façon autonome les infrastructures californiennes. Ils montrent que le coût et l’expertise nécessaires pour certaines tâches d’attaque évoluent.

Les équipes de défense ne peuvent pas répondre en ignorant la technologie. Un centre d’opérations de sécurité peut recevoir plus d’alertes que ses analystes ne peuvent en examiner manuellement. L’IA peut relier des événements connexes et présenter un parcours d’enquête plus court. Elle peut aussi aider du personnel moins expérimenté à comprendre du code ou des techniques d’attaque inconnus.

Cette intégration crée toutefois de nouvelles voies sensibles. Un modèle utilisé pour la réponse aux incidents pourrait traiter des journaux d’authentification, des schémas de réseau, du code source ou des informations sur des systèmes non corrigés. Transmettre ces éléments à un service inadapté pourrait transformer un processus défensif en exposition de données.

Les résultats des modèles comportent également une part d’incertitude. L’IA générative prédit des réponses plausibles plutôt qu’elle ne récupère des faits garantis. En cybersécurité, une explication assurée mais erronée peut gaspiller un temps de réponse rare. Une recommandation incorrecte pourrait même désactiver un service légitime pendant un incident.

La Californie a donc besoin de contrôles d’approbation à plusieurs niveaux. L’IA peut recommander une mesure de confinement, mais un opérateur qualifié devrait valider les éléments de preuve et l’impact attendu. Les actions automatisées devraient commencer par des tâches limitées, réversibles et soumises à des seuils clairement définis.

L’injection de prompt constitue une autre préoccupation. Cette attaque place des instructions malveillantes dans un contenu qu’un système d’IA analyse ensuite. Un modèle examinant un document ou un dépôt compromis pourrait suivre des directives fournies par l’attaquant, à moins que l’application environnante n’isole les données non fiables des commandes système.

Les équipes de sécurité doivent également protéger les modèles eux-mêmes. Les identifiants d’accès, les données d’entraînement, les systèmes de récupération, les plugins et les journaux d’audit constituent tous des surfaces d’attaque. Ajouter un outil d’IA sans cartographier ces dépendances peut accroître la complexité plus rapidement que la défense.

La précédente feuille de route Cal-Secure de la Californie fournit une base utile. Le plan initial organisait la cybersécurité autour des personnes, des processus et de la technologie. Il identifiait également des capacités telles que l’authentification multifacteur, la gestion des correctifs, la protection des terminaux, le renseignement sur les menaces et la gestion de la chaîne d’approvisionnement logicielle.

Cal-Secure 2.0 conserve l’accent mis sur les effectifs, la coordination et la modernisation, tout en accordant davantage de flexibilité aux agences. Le programme d’IA teste désormais si cette flexibilité peut coexister avec des garanties cohérentes. L’outil expérimental d’une agence ne devrait pas devenir le risque partagé d’une autre agence.

Le National Institute of Standards and Technology propose une référence plus large avec son cadre de gestion des risques liés à l’IA. Il organise le travail sur les risques de l’IA autour de la gouvernance, de la cartographie, de la mesure et de la gestion des systèmes. La Californie peut traduire ces fonctions en examens des achats, tests techniques, autorisations de déploiement et surveillance continue.

Le programme devrait également documenter la provenance des conclusions importantes. Lorsqu’une IA signale une activité malveillante, les analystes ont besoin des journaux sous-jacents, des indicateurs et du cheminement de raisonnement. Une conclusion impossible à reproduire sera difficile à défendre lors d’un audit ou d’une enquête post-incident.

Une bonne documentation devient elle-même un élément du contrôle de sécurité. Les équipes d’ingénierie ont besoin de dossiers consultables sur les versions de modèles, les prompts, les approbations, les exceptions et les défaillances observées. Une base de connaissances technique structurée peut aider les équipes à relier ces dossiers sans considérer les résultats des modèles comme des vérités incontestables.

Le compromis central de l’État est donc gérable, mais inévitable. Une analyse plus rapide n’a de valeur que lorsque les agences peuvent expliquer comment une conclusion a été atteinte, protéger les données concernées et interrompre les comportements automatisés dangereux.

Un mandat de responsables à l’échelle de l’État ne garantit pas une préparation à l’échelle de l’État

Les intitulés de responsabilité ne compteront que si la Californie définit l’autorité, les qualifications et les responsabilités mesurables qui les accompagnent.

La désignation d’un responsable de la cybersécurité de l’IA dans chaque agence de l’État améliore la visibilité. Elle ne crée pas automatiquement d’expertise ni de pouvoir décisionnel. Un responsable sans autorité budgétaire, sans accès aux équipes techniques ou sans ligne hiérarchique claire pourrait devenir un simple interlocuteur de conformité plutôt qu’un dirigeant opérationnel.

La Californie doit décider si les agences peuvent confier ce rôle à des responsables de sécurité déjà en poste. La combinaison des responsabilités peut réduire les doublons, mais elle peut aussi surcharger des équipes déjà très sollicitées. Une nomination distincte pourrait apporter davantage de clarté, tout en créant une confusion avec le responsable de la sécurité des systèmes d’information de l’agence.

Le rôle doit s’appuyer sur un mandat minimal commun. Les responsables devraient tenir un inventaire des cas d’usage de l’IA en matière de sécurité, approuver les conditions de traitement des données, suivre les évolutions des modèles et des fournisseurs, et examiner les incidents impliquant des systèmes d’IA. Ils devraient également coordonner leurs actions avec les équipes chargées de la confidentialité, des achats, du droit et des droits civiques.

Ces responsabilités dépassent les outils achetés spécifiquement pour la cybersécurité. Les agences rencontrent de plus en plus de fonctions d’IA intégrées aux plateformes cloud, aux logiciels bureautiques, aux systèmes de service client et aux produits destinés aux développeurs. Un responsable de la sécurité qui n’examine qu’un programme d’IA explicitement nommé passera à côté de capacités introduites par de simples mises à jour logicielles.

Les pratiques d’achat de la Californie façonneront ce travail. Le décret exécutif de l’État de mars 2026 appelait à renforcer les normes de confidentialité, de droits civiques et de sécurité applicables aux fournisseurs d’IA recherchant des contrats publics. La nouvelle initiative de défense doit transformer ces normes en exigences techniques.

Les contrats devraient traiter de la conservation des données, de l’entraînement des modèles, des sous-traitants, de la notification des incidents, des journaux d’accès et des procédures de sortie. Les agences doivent également être en mesure de vérifier qu’un produit fonctionne comme annoncé. Les garanties des fournisseurs ne suffisent pas à établir l’adéquation d’un outil aux services critiques.

Une évaluation indépendante est importante, car les démonstrations de sécurité utilisent souvent des données contrôlées. Les environnements réels des agences comportent des inventaires incomplets, des protocoles anciens, des règles opérationnelles inhabituelles et des alertes contradictoires. Un outil performant lors d’un test fournisseur peut produire des résultats différents une fois connecté à des systèmes opérationnels bruyants.

L’État a déjà publié des objectifs mesurables dans sa feuille de route technologique Envision 2026. Ces objectifs comprennent la création de lignes directrices pour une adoption responsable de l’IA, l’information des dirigeants des agences à haut risque, la réalisation de bilans de santé de la sécurité et l’amélioration des scores de maturité après les évaluations. Ces indicateurs offrent un point de départ pour évaluer le nouveau programme.

Toutefois, les scores de maturité sont des mesures indirectes. La Californie a également besoin de résultats opérationnels. Parmi les indicateurs utiles figurent le temps nécessaire pour valider une alerte hautement prioritaire, le pourcentage de recommandations de l’IA rejetées par les analystes et le nombre de vulnérabilités corrigées avant toute exploitation.

Les faux positifs méritent une attention particulière. Un modèle qui génère des milliers d’avertissements peu pertinents peut ralentir les analystes, même s’il détecte certaines menaces réelles. Ne rapporter que le nombre de conclusions générées par l’IA récompenserait l’activité plutôt que la réduction des risques.

Les faux négatifs sont plus difficiles à mesurer, car les équipes ne savent pas immédiatement ce qu’un outil a manqué. La Californie peut traiter ce problème grâce à des exercices contrôlés, à une revue humaine parallèle et à des tests de red team. Les red teams imitent les attaquants afin que les défenseurs puissent observer si les personnes, les processus et les technologies réagissent comme prévu.

L’État devrait publier suffisamment d’informations agrégées sur les performances pour établir la confiance du public sans révéler de détails exploitables. Cela pourrait inclure le nombre de déploiements, les méthodes d’évaluation, l’achèvement des formations et de larges améliorations de la réponse aux incidents.

La transparence aidera également les partenaires locaux à comprendre ce que le programme offre. Un petit district de distribution d’eau doit savoir si la Californie fournit un accès à des logiciels, une surveillance gérée, des conseils d’experts ou une réponse d’urgence. « Défenses activées par l’IA » peut désigner plusieurs modèles de service très différents.

Le premier cycle de Google News a établi l’ambition. La phase la plus difficile commence lorsque les agences traduisent un mandat à l’échelle de l’État en autorisations, flux de travail et preuves que les auditeurs peuvent examiner.

Ce que la Californie doit désormais démontrer

Trois signaux montreront si l’initiative devient un programme de défense opérationnel ou reste un engagement politique.

Le premier signal est la publication d’un cadre de mise en œuvre. La Californie devrait définir les cas d’usage autorisés, les flux de données interdits, les exigences de revue humaine, les normes de test et les règles de signalement des incidents. Un tel cadre montrerait que l’État est passé de l’annonce d’objectifs à la gouvernance de déploiements réels.

Ces lignes directrices devraient distinguer l’assistance à faible risque de l’automatisation à fort impact. Résumer des rapports publics sur les menaces est différent d’analyser des journaux restreints. Recommander une modification du pare-feu est différent d’appliquer automatiquement cette modification.

Si la Californie publie des normes claires et que les agences commencent à rendre compte de leur application, la crédibilité du programme se renforcera. Si chaque agence invente ses propres règles, l’État aura du mal à assurer une protection cohérente ou à comparer les résultats.

Le deuxième signal est la preuve que les capacités atteignent les administrations locales et les opérateurs d’infrastructures. La Californie a promis un accès élargi, mais n’a pas encore précisé les niveaux de service, les critères d’éligibilité ou le financement. Les détails concernant l’inscription et l’assistance révéleront si le programme peut réduire l’écart entre les grandes agences et les petites organisations.

La preuve la plus convaincante inclurait un catalogue de services défini. Il pourrait couvrir les examens de vulnérabilités, l’accès au renseignement sur les menaces, l’assistance en cas d’incident, l’analyse assistée par l’IA et la formation. Les chiffres de participation montreraient alors si l’offre répond aux besoins locaux.

Un accès plus large renforcerait la vocation du programme à l’échelle de l’État. Une participation limitée à des organisations déjà matures affaiblirait l’affirmation selon laquelle la Californie compense une réduction du soutien fédéral.

Le troisième signal est l’existence de preuves de performance indépendantes. La Californie a besoin d’évaluations contrôlées mesurant la précision, la charge de travail des analystes, le temps de réponse et les défaillances de sécurité. L’État devrait comparer les flux de travail assistés par l’IA aux méthodes conventionnelles plutôt que de supposer que les outils plus récents produisent de meilleurs résultats.

Le cadre de cybersécurité du NIST donne aux agences une structure commune pour gouverner, identifier, protéger, détecter, répondre et rétablir. La Californie peut utiliser ces fonctions pour relier les évaluations de modèles à des résultats de sécurité établis.

Les tests indépendants devraient examiner l’injection de prompts, les fuites de données, les recommandations trompeuses, les mises à jour de modèles et les pannes de fournisseurs. Ils devraient également consigner les cas où les analystes humains outrepassent le système. Les interventions humaines ne constituent pas nécessairement des échecs, mais des schémas inexpliqués peuvent révéler des problèmes de conception.

Ces trois signaux doivent apparaître dans cet ordre. La gouvernance établit les limites. L’accès vérifie si le programme atteint ses utilisateurs visés. Les preuves de performance déterminent si la technologie améliore leurs défenses.

La Californie devrait résister à la tentation de mesurer le succès au nombre de responsables nommés ou de licences activées. Ce sont des intrants de déploiement. Les résidents ont besoin de preuves que les services essentiels font face à moins de risques évitables et se rétablissent plus rapidement lorsque des incidents surviennent.

Le prochain titre de Google News portera probablement sur un nouvel outil, un partenariat ou un événement de sécurité. Les lecteurs devraient regarder au-delà de l’annonce et poser trois questions : quelle autorité régit le système, qui peut réellement l’utiliser et quel résultat mesurable a changé ?

La Californie a choisi de construire des défenses assistées par l’IA plutôt que d’attendre que l’environnement de menaces se stabilise. Ce choix est compréhensible, car les attaquants ne marqueront pas de pause pendant que le gouvernement achève un processus politique parfait.

L’avantage de l’État réside dans sa capacité à coordonner les agences, les opérateurs d’infrastructures, les chercheurs et les entreprises technologiques. Son danger est de confondre cette coordination avec une préparation opérationnelle.

Le programme AI Cyber Defense gagnera son label de premier du pays par son exécution, non par sa chronologie. La Californie doit montrer que la responsabilité humaine demeure intacte, que les données sensibles restent protégées et que les recommandations automatisées résistent à un examen indépendant. D’ici là, l’initiative constitue un cadre sérieux confronté à son test le plus important.