L’ordonnance de divulgation de l’IA de National Grid place l’automatisation des services publics sous contrôle de l’État

National Grid doit divulguer, sous 60 jours, chaque système d’intelligence artificielle utilisé par ses services publics à New York, alors même que l’IA a déjà gagné les opérations courantes du secteur. L’ordonnance du 17 septembre fait de cette divulgation de l’IA de National Grid bien plus qu’un inventaire technologique. Elle pose la question de savoir si les services publics peuvent expliquer les systèmes qui influencent le service client, la maintenance, les inspections et, potentiellement, d’autres activités réglementées.

La New York Public Service Commission a ouvert le dossier 26-M-0552 afin d’examiner l’IA au sein des services publics et d’autres entités réglementées. Son enquête couvre les filiales de National Grid ainsi que d’autres fournisseurs d’électricité, de gaz et d’eau. Les entreprises doivent identifier leurs usages de l’IA, ainsi que les politiques, procédures et protocoles qui les encadrent.

Le conflit est simple. Les services publics veulent une automatisation capable de détecter les défaillances, de hiérarchiser les réparations et de traiter plus rapidement les demandes des clients. Les régulateurs ont besoin de preuves que ces systèmes restent sécurisés, contrôlables et responsables lorsque leurs résultats affectent des services essentiels. La commission commence par la divulgation, car aucune des deux parties ne peut évaluer ce compromis sans un inventaire crédible.

New York veut un inventaire, pas une promesse sur l’IA

L’ordonnance fait passer la supervision de l’IA d’une gouvernance volontaire à un examen réglementaire formel.

Le dossier sur l’utilisation de l’IA de la commission porte un intitulé large. Il examine l’intelligence artificielle dans les opérations des services publics et d’autres entités réglementées. Cette portée est importante, car l’IA peut entrer dans un service public par de nombreuses voies, et pas seulement via un modèle approuvé au niveau central.

Un service public peut développer un système de machine learning en interne. Il peut acheter un logiciel qui ajoute discrètement une fonctionnalité d’IA lors d’une mise à jour. Un prestataire peut utiliser une analyse automatisée pour inspecter des équipements. Des fournisseurs de service client peuvent résumer des appels ou recommander des réponses à l’aide de modèles que le service public réglementé n’exploite pas directement.

L’approche de New York commence donc par « tous les usages », selon l’exigence de 60 jours. Les services publics doivent également décrire les contrôles entourant ces usages. Une liste de noms de produits n’indiquerait pas qui a approuvé chaque système, quelles données il traite, ni à quel moment une personne examine ses résultats.

La commission a identifié le service client, la maintenance prédictive et les inspections de sécurité des installations comme applications actuelles de l’IA dans les services publics. Il s’agit de catégories de risques sensiblement différentes.

Un assistant de service client peut fournir une réponse erronée concernant la facturation ou l’aide au paiement. Un modèle de maintenance prédictive peut mal classer le risque associé à un équipement et influencer les priorités de travail. Un système d’inspection peut manquer des dommages visibles ou générer une fausse alerte qui envoie des équipes vers le mauvais actif.

Les conséquences dépendent également de la façon dont chaque résultat est utilisé. Un modèle qui se contente de mettre en évidence une image pour examen humain présente un risque différent d’un logiciel qui modifie automatiquement un calendrier de maintenance. Un chatbot qui rédige une réponse diffère d’un chatbot autorisé à initier une action sur le compte d’un client.

Cette distinction explique pourquoi l’enquête ne doit pas être interprétée comme une interdiction de l’IA dans les services publics. La commission n’a pas déclaré que les systèmes d’IA étaient intrinsèquement inacceptables. Elle demande où ils opèrent, quelle autorité ils détiennent et quelles garanties les accompagnent.

Le calendrier impose une mission exigeante aux services publics. Soixante jours suffisent pour recenser les déploiements connus, mais sont assez courts pour révéler les faiblesses du suivi interne. Les grandes organisations répartissent souvent l’achat de logiciels, l’expérimentation et la gestion des fournisseurs entre de nombreuses unités opérationnelles.

National Grid revêt une importance particulière, car son nom couvre plusieurs entités réglementées à New York. L’examen de l’État peut donc vérifier si la gouvernance de l’IA fonctionne de manière cohérente entre les structures d’entreprise, les territoires de desserte et les fonctions opérationnelles.

Les autres services publics font face au même défi de fond. Con Edison, Central Hudson, National Fuel Gas, New York State Electric and Gas, Rochester Gas and Electric, Orange and Rockland, ainsi que les fournisseurs d’eau réglementés, dépendent tous de chaînes d’approvisionnement technologiques complexes.

Le premier résultat ne sera pas un classement démontrant quelle entreprise utilise le mieux l’IA. Ce sera une base de référence montrant si chaque service public peut localiser et décrire les systèmes qui fonctionnent sous sa responsabilité.

Pourquoi la divulgation de l’IA de National Grid dépasse les chatbots

Les systèmes les plus difficiles à divulguer seront les modèles intégrés que les employés ne reconnaissent plus comme des produits d’IA distincts.

L’expression « intelligence artificielle » peut désigner des assistants génératifs, des modèles de prévision, la vision par ordinateur, la détection d’anomalies et des logiciels d’optimisation. Ces technologies ne partagent ni une architecture unique ni un mode de défaillance unique. Un inventaire utile doit les classer selon leur fonction et leurs conséquences.

Les projets publics de National Grid illustrent cette diversité, même si des projets annoncés ailleurs ne permettent pas d’établir ce que ses filiales new-yorkaises utilisent actuellement. Au Royaume-Uni, l’entreprise a décrit des inspections autonomes par drones qui capturent des images d’infrastructures de transport d’électricité. Une analyse assistée par IA peut ensuite contribuer à évaluer l’état des équipements.

Un projet de National Grid utilise l’imagerie par drone et le machine learning pour identifier la corrosion sur les pylônes de transport en acier. Son programme d’inspection utilise également des données historiques pour prévoir l’évolution possible de la corrosion. L’entreprise estime que ce processus peut réduire l’examen manuel des images et améliorer la planification de la maintenance.

Il s’agit d’un scénario opérationnel concret, mais il démontre aussi pourquoi la divulgation nécessite du contexte. Les régulateurs devraient savoir si un modèle se contente de classer les images ou s’il détermine un niveau d’état. Ils auraient également besoin de connaître ses seuils d’erreur, son processus de contrôle, la traçabilité de ses données et ses règles d’escalade.

La traçabilité des données décrit leur provenance et leurs transformations avant qu’elles n’atteignent un modèle. Pour un système d’inspection, cela peut inclure les spécifications des caméras, les horodatages des images, les identifiants des actifs, les dossiers de maintenance antérieurs et les annotations humaines utilisées pendant l’entraînement.

Un modèle entraîné sur un type de pylône, un climat ou un processus d’imagerie donné peut fonctionner différemment ailleurs. Une moyenne apparemment précise peut aussi masquer des performances plus faibles sur des défauts rares. Or ces défauts peuvent être les plus importants, car ils entraînent des conséquences plus graves pour la sécurité.

Le service client soulève un ensemble différent de questions. L’IA générative peut résumer des appels, rédiger des réponses pour les agents ou retrouver des informations relatives aux politiques. Elle peut également produire une réponse assurée qui ne correspond ni au tarif du client, ni à l’état de son compte, ni aux protections réglementaires dont il bénéficie.

Dans ce contexte, la divulgation devrait identifier les sources mises à la disposition du modèle. Elle devrait expliquer si les réponses s’appuient sur des documents approuvés, si les données client entrent dans un service externe et si les employés peuvent voir des signaux d’incertitude.

Un registre interne fiable est important, car les politiques, prompts, résultats de tests et rapports d’incidents risquent sinon de se disperser entre les départements. Une base de connaissances sur l’IA organisée peut soutenir ce travail, à condition de ne pas remplacer les systèmes formels de conformité.

La maintenance prédictive introduit un autre mécanisme. Les modèles peuvent utiliser les données de capteurs et les défaillances historiques pour estimer quels actifs requièrent une attention. Leur valeur vient de leur capacité à orienter des équipes et des budgets de maintenance limités vers les équipements les plus risqués.

Cependant, une recommandation peut exercer une influence opérationnelle avant même que quelqu’un ne lui délègue officiellement une autorité. Les employés peuvent apprendre à faire confiance à un classement constamment utile. Avec le temps, un modèle nominalement consultatif peut orienter les décisions de manière presque automatique.

C’est ce qu’on appelle le biais d’automatisation, soit la tendance à privilégier une recommandation automatisée même lorsqu’il existe des éléments contraires. Ce risque ne suppose pas des employés imprudents. Il peut apparaître lorsque les équipes font face à des contraintes de temps, à des données complexes et à des objectifs de performance.

Une divulgation adéquate de l’IA de National Grid devrait donc distinguer l’autorisation technique de l’influence pratique. Un modèle peut ne pas avoir l’autorité nécessaire pour approuver des travaux, tout en déterminant les options que les employés voient en premier. La conception de l’interface peut rendre difficile la remise en cause d’une recommandation « facultative ».

Les logiciels de fournisseurs ajoutent une autre complication. Les services publics peuvent connaître le nom d’une plateforme d’entreprise sans connaître chaque modèle qu’elle utilise en interne. Des mises à jour peuvent introduire des fonctionnalités automatisées, tandis que des sous-traitants peuvent s’appuyer sur leurs propres outils d’IA.

L’ordonnance de l’État replace la responsabilité sur l’entreprise réglementée. Un service public ne peut pas évaluer pleinement les risques pour les clients, la sécurité ou la cybersécurité si son inventaire s’arrête aux systèmes développés par ses propres data scientists.

L’innovation dans les services publics doit désormais composer avec un contrôle responsable

New York contraint les services publics à concilier les bénéfices opérationnels de l’IA avec les preuves requises pour la responsabilité publique.

Les arguments en faveur de l’IA dans les services publics sont faciles à comprendre. Les réseaux électriques, gaziers et hydrauliques génèrent de grandes quantités de données sur les équipements, la météo, les clients et les opérations. Les modèles peuvent aider à identifier des schémas que les personnes auraient du mal à examiner à la même vitesse.

Les outils d’inspection peuvent réduire les ascensions dangereuses et concentrer les spécialistes sur les cas incertains. Les systèmes de prévision peuvent appuyer la planification des effectifs et des équipements. Les outils de service client peuvent aider les agents à retrouver des informations complexes pendant un appel.

Les services publics font également face à une demande croissante et à des conditions de réseau plus complexes. Une enquête de National Grid Partners publiée parallèlement à l’enquête a indiqué que 78 % des responsables de l’innovation dans les services publics interrogés déployaient ou opérationnalisaient au moins une application d’IA pour répondre à la demande de raccordements. Puisque l’entreprise a financé cette recherche, ce chiffre doit être considéré comme un signal sectoriel plutôt que comme un recensement indépendant.

Ces bénéfices potentiels expliquent pourquoi une interdiction générale créerait ses propres risques. Refuser des outils de détection utiles peut laisser un service public dépendre de processus plus lents. La question pertinente est de savoir si un système particulier améliore les décisions dans le cadre de contrôles adaptés à son rôle.

La commission de New York a déjà montré qu’elle considère les systèmes numériques sous l’angle des infrastructures critiques. En avril, elle a adopté des règles contraignantes de cybersécurité pour les services publics réglementés dans les secteurs de l’électricité, du gaz, de la vapeur et de l’eau.

Ces règles imposent des programmes de cybersécurité fondés sur les risques, des contrôles d’accès, des pratiques d’authentification, une détection des intrusions et une planification de la réponse. Elles sont entrées en vigueur le 1er juin 2026. L’enquête sur l’IA intervient moins de quatre mois plus tard.

Les deux actions sont liées, mais elles ne sont pas interchangeables. La cybersécurité conventionnelle demande si un attaquant peut compromettre un système ou ses données. La gouvernance de l’IA doit aussi demander si un système autorisé se comporte de manière inexacte, opaque ou incohérente dans le cadre d’une utilisation normale.

Un modèle peut échouer sans être piraté. Ses données d’entraînement peuvent omettre des situations importantes. Ses résultats peuvent changer après une mise à jour du fournisseur. Les employés peuvent l’utiliser en dehors de l’objectif pour lequel il a été testé. Une prédiction statistiquement correcte peut tout de même produire un résultat injuste lorsqu’elle est intégrée à un processus défaillant.

La commission a précisément mis en avant les hallucinations, les biais algorithmiques, les problèmes de transparence, les risques pour la vie privée, les erreurs de configuration, les cyberattaques et la fragilité fonctionnelle. La fragilité fonctionnelle signifie qu’un système fonctionne de manière acceptable dans des conditions familières, mais échoue brutalement lorsque les circonstances changent.

Ces préoccupations s’alignent sur le cadre fédéral de gestion des risques liés à l’IA. Le NIST organise la gestion des risques liés à l’IA autour de la gouvernance, de la cartographie, de la mesure et de la gestion. Il considère la validité, la sécurité, la transparence, la vie privée et l’équité comme des caractéristiques liées, plutôt que comme des cases isolées à cocher.

Le cadre du NIST reste volontaire, tandis que l’enquête de New York émane d’un régulateur sectoriel. Cette différence est importante. Une déclaration réglementaire d’un service public peut relier des principes généraux de risque à des systèmes nommément désignés, à des dirigeants responsables, à des procédures opérationnelles et à des obligations de service public.

Les infrastructures critiques modifient également le niveau de preuve acceptable. Une recommandation de filtre photo et un modèle d’inspection peuvent recourir à des techniques connexes, mais un résultat erroné n’a pas les mêmes conséquences. Les régulateurs attendent raisonnablement une validation plus rigoureuse lorsqu’un système influence la sécurité, la fiabilité, la facturation ou l’accès à un service essentiel.

Le gouvernement fédéral a établi une distinction similaire. Le cadre relatif aux infrastructures critiques du Department of Homeland Security appelle à des contrôles de cybersécurité, à la protection des données clients, à l’évaluation des modes de défaillance et à une transparence significative.

L’enquête de New York peut traduire ces principes en supervision spécifique aux services publics. Elle peut demander qui approuve un modèle, à quelle fréquence ses performances sont testées et ce qui se produit lorsque le système génère un résultat inacceptable.

La tension principale n’oppose donc pas National Grid à un autre service public. Elle oppose l’innovation des services publics à un contrôle responsable.

Les services publics tirent de la valeur des modèles lorsqu’ils opèrent sur davantage de données et de décisions. Les régulateurs gagnent en confiance lorsque l’autorité est limitée, que les dossiers restent disponibles et que les défaillances déclenchent des mesures correctives. Ces objectifs peuvent coexister, mais seulement lorsqu’une entreprise peut démontrer comment.

Ce processus de divulgation mettra autant de pression sur les équipes de gouvernance que sur les équipes d’ingénierie. Les juristes devront interpréter l’ordonnance. Les équipes achats devront identifier les fonctionnalités des fournisseurs. Les spécialistes de la sécurité devront cartographier les flux de données. Les responsables métiers devront expliquer les usages réels plutôt que les usages prévus.

Une réponse solide reliera ces perspectives. Une réponse faible présentera une politique d’IA soignée à côté d’un inventaire opérationnel incomplet.

La divulgation seule ne peut pas prouver qu’un système d’IA est sûr

Un inventaire crée de la visibilité, mais il ne valide pas les performances d’un modèle et n’empêche pas un déploiement préjudiciable.

L’ordonnance de la commission constitue une première étape nécessaire, car des systèmes inconnus ne peuvent pas être supervisés. Pourtant, une liste complète peut encore masquer des contrôles insuffisants. L’État devra distinguer une gouvernance documentée d’une gouvernance réellement testée.

Une politique peut exiger une revue humaine des résultats à fort impact. Cette affirmation ne révèle pas si les examinateurs disposent de suffisamment de temps, d’expertise ou d’informations pour contester le modèle. Elle ne montre pas non plus si ce désaccord affecte les évaluations de performance.

De même, un fournisseur peut vanter sa précision sans tester le système sur les données et dans les conditions opérationnelles d’un service public. Des résultats moyens de référence ne démontrent pas la fiabilité lors de tempêtes, de dégradations d’équipements, de litiges inhabituels sur des comptes ou d’une couverture incomplète des capteurs.

La commission devrait donc examiner l’objectif prévu de chaque système et les usages abusifs raisonnablement prévisibles. Elle devrait demander quels résultats ont été testés, quels groupes ou quelles conditions opérationnelles étaient sous-représentés, et qui est responsable de la remédiation.

Les systèmes génératifs exigent une attention particulière, car un langage fluide peut dissimuler des erreurs factuelles. Le NIST qualifie ces erreurs de confabulations, c’est-à-dire de contenus faux ou erronés présentés avec assurance. Dans le service client d’un service public, une formulation soignée peut rendre une réponse incorrecte sur une politique plus persuasive.

Les systèmes de vision par ordinateur présentent une autre forme d’incertitude. Leurs défaillances peuvent dépendre de l’éclairage, de l’angle de la caméra, des conditions météorologiques, du type d’équipement ou de la compression de l’image. Un examinateur humain doit avoir accès aux éléments de preuve originaux, et pas seulement à une étiquette générée par un modèle.

Les systèmes prédictifs peuvent se dégrader à mesure que changent les équipements, les régimes climatiques, les pratiques de travail ou les réseaux de capteurs. Il s’agit de la dérive du modèle, soit une baisse des performances lorsque les conditions réelles s’éloignent des données utilisées durant le développement.

L’ordonnance soulève également un problème de confidentialité. Des schémas système détaillés et des informations sur les vulnérabilités peuvent créer des risques de sécurité s’ils sont divulgués sans discernement. Les fournisseurs peuvent aussi affirmer que la documentation des modèles contient des informations propriétaires.

La commission aura besoin de suffisamment de détails pour évaluer les risques sans fournir une feuille de route aux attaquants. Cela exigera probablement une séparation prudente entre les déclarations publiques et les soumissions protégées. Un secret excessif empêcherait toutefois les clients et les experts indépendants d’évaluer les usages ayant des conséquences importantes.

La transparence publique est particulièrement importante lorsque l’IA affecte directement les personnes. Les clients devraient savoir lorsqu’un système automatisé façonne l’assistance à la facturation, le routage des réclamations, l’éligibilité au service ou les communications de sécurité. Ils ont également besoin d’un moyen pratique de joindre une personne qualifiée.

L’ampleur de l’enquête crée une autre incertitude. « Toute l’IA » semble clair jusqu’à ce que les services publics l’appliquent à des décennies de logiciels analytiques. Les modèles statistiques traditionnels, l’automatisation fondée sur des règles, l’apprentissage automatique et l’IA générative peuvent se chevaucher.

Une définition trop étroite omettrait des systèmes influents. Une définition illimitée pourrait submerger les régulateurs de nombreux outils à faible risque, y compris les filtres antispam ou les fonctionnalités bureautiques ordinaires. Une classification fondée sur les risques offre une meilleure voie après l’inventaire initial.

L’État peut regrouper les systèmes selon leurs conséquences et leur autonomie. Un assistant de rédaction à faible impact ne devrait pas faire l’objet du même examen qu’un logiciel connecté aux opérations sur le terrain. Un système de sécurité devrait être soumis à des exigences de preuve plus élevées qu’un outil qui met en forme une présentation interne.

National Grid et d’autres services publics pourraient également identifier des systèmes expérimentaux qui ne sont jamais entrés en production. Ces pilotes restent pertinents parce que leurs modalités de données et d’accès peuvent créer des risques. Les régulateurs devraient toutefois distinguer les tests contrôlés des systèmes de décision actifs.

Le point sceptique le plus important est que la divulgation mesure la conscience organisationnelle, et non la sécurité elle-même. Un service public peut savoir exactement ce qu’il utilise tout en appliquant des tests inadéquats. À l’inverse, une première déclaration incomplète peut révéler des faiblesses dans l’inventaire sans prouver que les systèmes déployés ont causé un préjudice.

New York devrait éviter de transformer le nombre de systèmes divulgués en classement simpliste. Un nombre plus élevé de systèmes déclarés peut refléter une adoption plus large, une meilleure gouvernance, ou les deux. Un nombre plus faible peut indiquer de la retenue, une mauvaise découverte ou une interprétation étroite de l’ordonnance.

La comparaison utile portera sur la qualité des contrôles. Les régulateurs devraient rechercher des responsables désignés, des objectifs clairs, des sources de données approuvées, des résultats de tests, des calendriers de surveillance, des obligations fournisseurs, des procédures de dérogation humaine et des registres d’incidents.

Ils devraient également examiner les plans de retrait. La gouvernance de l’IA est incomplète lorsque les entreprises peuvent approuver un système, mais ne disposent d’aucun processus pour le désactiver après des performances inacceptables.

L’enquête n’a pas encore établi que National Grid ou un autre service public nommé a fait un usage abusif de l’IA. Elle a établi que la commission considère l’adoption actuelle suffisamment étendue pour justifier une supervision structurée. La couverture médiatique devrait préserver cette distinction à mesure que les déclarations émergent.

Trois signaux montreront si l’enquête de New York a réellement du poids

La prochaine étape révélera si la divulgation sur l’IA de National Grid devient un modèle de supervision exécutoire ou reste un exercice ponctuel d’inventaire.

Le premier signal sera la qualité des déclarations des services publics après le délai de 60 jours. Les soumissions les plus solides classeront les systèmes selon leur objectif, leurs données, leur autonomie et leurs conséquences. Elles identifieront à la fois les modèles développés en interne et l’IA intégrée dans les produits des fournisseurs.

Il faudra observer si les services publics décrivent les flux de travail réels. Une déclaration affirmant que l’IA « soutient la maintenance » apporte peu de valeur. Une divulgation utile explique quelles données entrent dans le modèle, quels résultats il produit, qui les examine et quelle action peut suivre.

La déclaration de National Grid sera particulièrement instructive, car l’entreprise a publiquement promu des technologies d’infrastructure liées à l’IA. Les régulateurs et les clients pourront comparer ce discours sur l’innovation avec les pratiques de gouvernance divulguées pour ses opérations à New York.

Une déclaration détaillée renforcerait l’idée que les grands services publics peuvent retracer l’IA à travers des organisations complexes. Des catégories générales et des revendications répétées de confidentialité l’affaibliraient.

Le deuxième signal sera le traitement des niveaux de risque par la commission. Le régulateur devra décider si chaque système reçoit un examen similaire ou si le contrôle s’intensifie avec le préjudice potentiel.

Un modèle de risque crédible placerait les droits des clients, la sécurité publique, la fiabilité du réseau et les données sensibles parmi les priorités. Il tiendrait également compte de l’autonomie. Un logiciel qui recommande une action présente moins de risques directs qu’un logiciel autorisé à l’exécuter sans approbation.

Il faudra surveiller les exigences relatives à la validation indépendante, au signalement des incidents, à la gestion des changements et aux tests récurrents de performance. Ces mesures montreraient que New York entend superviser l’IA tout au long de son cycle de vie.

La supervision du cycle de vie est importante parce que les modèles et les fournisseurs changent. Un inventaire déposé en novembre 2026 peut devenir obsolète après une mise à jour logicielle, une acquisition, une nouvelle source de données ou un usage métier élargi. La commission devra établir des règles pour signaler les changements significatifs.

Le troisième signal sera de savoir si l’enquête produit des garanties exécutoires. La commission a déclaré qu’elle évaluerait les divulgations et déterminerait si des protections et politiques supplémentaires sont nécessaires. Plusieurs résultats restent donc possibles.

Elle pourrait publier des orientations générales, instaurer des déclarations récurrentes, ajouter des contrôles d’IA aux examens de cybersécurité ou proposer des règles contraignantes. Elle pourrait également fixer des attentes spécifiques pour les systèmes destinés aux clients et liés à la sécurité.

Une évolution vers des rapports récurrents et des contrôles fondés sur les risques renforcerait le jugement central de l’article. Elle transformerait la divulgation en mécanisme permanent de responsabilisation. Un rapport résumant les pratiques du secteur sans obligations de suivi affaiblirait cette conclusion.

L’État devrait également clarifier les recours. Les régulateurs ont besoin d’options lorsqu’un système ne dispose pas de preuves suffisantes, expose des données clients ou fonctionne en dehors des limites approuvées. Ces options pourraient inclure des plans correctifs, des tests supplémentaires, un usage restreint ou une suspension.

Les services publics, quant à eux, ne devraient pas attendre la politique finale de la commission. L’échéance de divulgation fournit une raison immédiate d’établir un inventaire unique et responsable, puis de le rapprocher des dossiers d’achats, de cybersécurité, de confidentialité, d’exploitation et de service client.

Pour les équipes technologiques, la leçon pratique dépasse les services publics de New York. L’adoption de l’IA devient plus difficile à défendre lorsqu’une organisation ne peut pas indiquer où les modèles opèrent ni qui accepte leurs risques. La documentation doit suivre le déploiement, y compris pour les fonctionnalités fournies par des tiers.

Pour les acheteurs d’entreprise, l’enquête met en évidence des questions qui devraient figurer dans tout achat d’IA. Quelles données quittent l’organisation ? Le fournisseur peut-il expliquer les changements apportés au modèle ? Le client reçoit-il des notifications d’incident ? Les résultats peuvent-ils être audités, contestés et reproduits ?

Pour les clients, la question clé est le recours. L’automatisation ne devrait pas rendre plus difficile la correction d’une facture, le signalement d’une condition dangereuse ou la contestation d’une décision. La revue humaine n’a de valeur que lorsqu’elle est accessible et dotée d’un réel pouvoir.

L’ordonnance de divulgation de l’IA de National Grid commence par une exigence simple : indiquer au régulateur où l’IA est utilisée. Son importance durable dépendra de ce que New York fera de la réponse.

Au cours des trois prochains mois, surveillez l’exhaustivité des inventaires des entreprises de services publics, les classifications des risques de la commission et toute proposition de contrôles récurrents. Posez ensuite une question plus difficile à chaque organisation déployant l’IA dans des activités aux conséquences importantes : si un régulateur exigeait une cartographie complète et défendable sous 60 jours, l’organisation serait-elle capable de la produire ?