L’alerte de Letitia James pour les lanceurs d’alerte sur l’IA met les laboratoires de pointe en garde
La procureure générale de New York, Letitia James, a publié le 17 septembre une alerte destinée aux lanceurs d’alerte sur l’IA, orientant les professionnels du secteur vers un canal de signalement confidentiel de l’État. Cette initiative vise les informations concernant des développements d’IA dangereux ou illégaux susceptibles de mettre les New-Yorkais en danger.
L’annonce apporte une précision importante. James n’a pas lancé un nouveau site web exclusivement consacré à l’intelligence artificielle. Son bureau invite les initiés du secteur de l’IA à utiliser un système chiffré de signalement que New York a mis en place en 2019.
Cette distinction rend la mesure plus importante, et non moins. New York relie un canal d’enquête établi à un nouveau cadre d’application de la loi, plusieurs mois avant l’entrée en vigueur du RAISE Act.
L’enjeu immédiat oppose les enquêteurs de l’État, qui cherchent des éléments de preuve, aux entreprises d’IA qui contrôlent encore l’essentiel des informations concernant leurs modèles. Ces entreprises publient des rapports de sécurité et disposent de systèmes internes de signalement, mais les régulateurs n’ont que rarement accès à chaque test, incident ou mesure de protection abandonnée.
New York souhaite désormais que les employés, prestataires et autres initiés contribuent à combler cette lacune. La question centrale est de savoir s’ils feront confiance au canal de l’État.
L’alerte de Letitia James pour les lanceurs d’alerte sur l’IA utilise un portail existant
New York a modifié l’objectif et l’urgence d’un canal de signalement existant, plutôt que de créer un système de plaintes réservé à l’IA.
L’alerte sectorielle de la procureure générale invite les professionnels disposant d’informations sur des entreprises d’IA à signaler des comportements potentiellement illégaux. Elle cite explicitement les risques liés à la cybersécurité, à l’économie et à d’autres domaines de sécurité comme faisant l’objet d’une attention particulière.
La demande ne se limite pas aux scandales publics ou aux plaintes de consommateurs. Elle vise les informations détenues par les personnes qui peuvent voir comment un modèle a été développé, testé, sécurisé ou déployé.
Ce groupe peut inclure des chercheurs ayant évalué des capacités dangereuses. Des ingénieurs en sécurité peuvent détenir des preuves d’une violation non signalée ou de contrôles d’accès insuffisants. Des équipes produit peuvent savoir si une entreprise a ignoré des risques documentés avant une mise sur le marché.
L’alerte ne désigne aucune entreprise et n’allègue pas qu’un développeur particulier ait enfreint la loi. Elle n’annonce pas non plus d’enquête, de poursuite ou de règlement d’application de la loi.
Elle fonctionne plutôt comme une invitation à fournir des éléments de preuve. James indique aux initiés que New York dispose déjà d’un canal pour les informations qui, autrement, pourraient rester au sein des systèmes de l’entreprise.
Le portail sécurisé sous-jacent permet les soumissions anonymes et une communication bidirectionnelle. L’utilisateur reçoit un code secret qui permet des échanges ultérieurs sans révéler son identité.
Les personnes recherchant un anonymat renforcé doivent installer Tor Browser et consulter l’adresse onion du portail. Tor fait transiter le trafic par plusieurs relais, ce qui contribue à masquer la localisation et les informations réseau d’un utilisateur.
Un formulaire de soumission demande l’objet, une description et tout fichier justificatif. Ce format simple permet à un professionnel de fournir des documents tout en maintenant une conversation suivie avec les enquêteurs.
Toutefois, les propres instructions de la procureure générale contiennent un avertissement crucial. La transmission peut être anonyme, mais le contenu soumis n’est pas garanti de rester anonyme ou confidentiel.
Un document peut révéler son auteur par ses métadonnées, sa formulation, les traces d’accès ou des détails connus de quelques employés seulement. Les enquêteurs peuvent aussi devoir utiliser des informations dans le cadre d’une procédure judiciaire.
Les lanceurs d’alerte potentiels font donc face à deux questions distinctes. Ils doivent évaluer la sécurité du canal de communication et les indices permettant de les identifier dans leurs preuves.
L’État a annoncé pour la première fois le système de signalement le 2 octobre 2019. À l’époque, le bureau l’avait présenté comme une plateforme open source de transfert chiffré de documents et de communication anonyme bidirectionnelle.
L’alerte de 2026 réutilise cette infrastructure pour un défi d’application de la loi bien plus précis. Les systèmes d’IA avancés sont difficiles à inspecter pour les personnes extérieures, tandis que les employés peuvent observer directement les tests, les incidents et les décisions internes.
Le changement est donc institutionnel plutôt que technique. New York a placé le développement de l’IA dans le champ d’application du portail et a publiquement demandé aux initiés de se manifester.
Pourquoi New York sollicite maintenant les professionnels de l’IA
Le calendrier relie les signalements volontaires d’aujourd’hui à des pouvoirs de divulgation et d’application de la loi plus étendus qui arriveront le 1er janvier 2027.
Le Responsible AI Safety and Education Act de New York, couramment appelé RAISE Act, s’applique aux grands développeurs de modèles de pointe. Un modèle de pointe est un système généraliste très performant dont l’échelle peut engendrer des préoccupations inhabituelles en matière de sécurité.
La loi impose aux développeurs concernés de publier des informations sur leurs cadres de sécurité. Elle établit également des obligations de signalement d’incidents pour certaines formes de préjudice critique.
La gouverneure Kathy Hochul a promulgué la loi le 19 décembre 2025. Le résumé du RAISE Act publié par l’État indique que les développeurs concernés doivent signaler les incidents admissibles dans les 72 heures après avoir déterminé qu’un incident s’est produit.
La loi crée également un bureau de supervision au sein du New York Department of Financial Services. Ce bureau évaluera les grands développeurs de modèles de pointe et publiera des rapports annuels.
James pourra engager des actions civiles lorsqu’un développeur concerné ne soumet pas les rapports requis ou fait de fausses déclarations. Les documents de l’État indiquent des amendes pouvant atteindre 1 million de dollars pour une première infraction.
Les infractions ultérieures peuvent entraîner des amendes allant jusqu’à 3 millions de dollars. Ces montants concernent les violations du RAISE Act, et non le simple fait de recevoir une plainte d’un lanceur d’alerte.
L’alerte de septembre intervient environ trois mois et demi avant l’entrée en vigueur de la loi. Cet intervalle donne au bureau de la procureure générale le temps d’attirer des preuves, de comprendre les tendances de signalement et de se préparer à l’application de la loi.
Les lois existantes offrent déjà au bureau d’autres voies d’action. L’alerte cite le SHIELD Act de New York, qui exige des garanties raisonnables de sécurité des données pour les informations privées.
Le bureau mentionne aussi des protections de la vie privée et des lois visant l’utilisation abusive d’ordinateurs, le piratage et la fraude. Par conséquent, une plainte n’a pas besoin d’attendre le RAISE Act si elle décrit des faits déjà couverts par d’autres textes.
Cela crée deux calendriers pour les entreprises d’IA.
Le premier concerne les obligations légales actuelles. Une défaillance de sécurité, une violation de la vie privée, une pratique trompeuse ou une infraction informatique peuvent déjà attirer l’attention.
Le second concerne le nouveau cadre applicable aux modèles de pointe. À partir de janvier, les développeurs concernés devront respecter des règles plus explicites de transparence et de signalement des incidents.
Les documents d’un initié peuvent relier ces deux calendriers. Des messages internes pourraient montrer quand les dirigeants ont eu connaissance d’un incident, comment ils l’ont classé et si un rapport requis a suivi.
Ces éléments comptent, car la règle de signalement sous 72 heures dépend de la détermination par l’entreprise qu’un incident s’est produit. Des litiges peuvent surgir quant à ce que les employés savaient, au moment où l’organisation l’a su et à la manière dont les décideurs ont caractérisé l’événement.
L’alerte place les professionnels au sein de ce mécanisme d’application de la loi. Les régulateurs ne s’appuient pas uniquement sur le rapport public final d’une entreprise ou sur un cadre de sécurité soigneusement présenté.
Ils demandent des preuves sur le processus qui les sous-tend.
Les systèmes internes de sécurité de l’IA font désormais l’objet d’un contrôle externe
La tension principale ne porte plus sur l’existence de canaux de signalement au sein des entreprises d’IA, mais sur la capacité des systèmes internes à révéler suffisamment d’informations pour satisfaire les régulateurs externes.
Plusieurs grands développeurs d’IA disposent d’équipes de sécurité, de procédures de gestion des incidents, de programmes d’évaluation et de canaux internes de signalement. Ces systèmes peuvent identifier des problèmes avant le déploiement et transmettre les préoccupations à des spécialistes techniques ou juridiques.
OpenAI, par exemple, indique que ses employés peuvent s’adresser à leurs responsables, aux ressources humaines, aux équipes de conformité, au personnel juridique ou à une ligne d’intégrité disponible 24 heures sur 24. L’entreprise affirme également interdire les représailles pour les préoccupations couvertes par ces mécanismes.
Ces systèmes remplissent un objectif opérationnel légitime. Un signalement technique nécessite souvent un contexte dont un enquêteur externe ne dispose pas, et une équipe interne peut parfois réagir rapidement.
Cependant, l’examen interne et la divulgation aux régulateurs résolvent des problèmes différents. L’entreprise décide de la composition de son mécanisme interne, des conclusions qui sont transmises à un niveau supérieur et des informations rendues publiques.
Un portail d’État retire ce contrôle à l’employeur. Il offre aux professionnels une autre voie lorsqu’ils estiment que l’examen interne a échoué, que des représailles sont possibles ou qu’une violation de la loi s’est produite.
La pression est particulièrement forte dans le développement d’IA de pointe. Une entreprise peut détenir des informations exclusives sur le processus d’entraînement d’un modèle, ses évaluations, ses contrôles de sécurité et ses capacités dangereuses.
Les chercheurs externes ne peuvent généralement pas reproduire chaque test. Les clients ne peuvent pas examiner les journaux internes d’incidents. Les régulateurs dépendent souvent des divulgations effectuées par la même organisation soumise à des pressions commerciales.
Ce déséquilibre d’information façonne depuis des années le débat sur les lanceurs d’alerte dans l’IA.
En juin 2024, 13 employés actuels et anciens, principalement associés à OpenAI et Google DeepMind, ont signé un appel public en faveur de protections renforcées. Un récit indépendant a indiqué que le groupe demandait le droit d’alerter les régulateurs, les conseils d’administration et le public.
Les signataires ont soutenu que les employés peuvent détenir des informations importantes sur les risques, indisponibles pour les gouvernements et la société civile. Ils ont également averti que les incitations financières peuvent décourager une supervision significative.
OpenAI a répondu qu’elle proposait déjà aux employés des moyens d’exprimer leurs préoccupations, notamment une ligne d’intégrité anonyme. L’entreprise a également souligné l’importance d’un débat rigoureux.
Ces positions ne sont pas totalement incompatibles. Une entreprise peut maintenir des contrôles internes crédibles tandis qu’un gouvernement offre également un canal de signalement externe.
Le conflit apparaît lorsque les conclusions internes et les preuves externes divergent. Un employé peut considérer le résultat d’un test comme un avertissement grave, tandis que la direction estime le risque maîtrisable.
Un régulateur peut alors avoir besoin des évaluations brutes, des dossiers de décision et des communications afin de déterminer si l’entreprise a respecté le droit applicable. Les assurances de l’entreprise ne suffisent pas, à elles seules, à résoudre ce différend factuel.
La mesure de New York indique aux développeurs d’IA qu’ils doivent s’attendre à ce que les dossiers internes puissent parvenir indépendamment à la procureure générale. Elle donne aussi aux équipes de conformité une raison supplémentaire de documenter la manière dont les préoccupations ont été reçues et résolues.
Cette pression dépasse les chercheurs travaillant directement sur les modèles. Les employés des services juridiques, de sécurité, des politiques publiques, des opérations et des produits peuvent tous observer des décisions pertinentes pour une enquête.
Les prestataires peuvent également détenir des dossiers importants. Toutefois, l’étendue de toute protection juridique dépend de la situation de la personne et de la loi régissant la divulgation.
Le portail lui-même ne transforme pas chaque conflit professionnel en action protégée de lanceur d’alerte. Il n’établit pas non plus que chaque désaccord sur la sécurité de l’IA implique un comportement illégal.
Il crée une voie pour présenter des preuves. Les enquêteurs doivent encore déterminer si les faits relèvent de leur autorité.
La Californie montre à quoi ressemble un système de signalement dédié à l’IA
New York associe un large portail pour lanceurs d’alerte à de nouvelles règles sur l’IA, tandis que la Californie a mis en place une voie de signalement légale plus spécialisée.
La Transparency in Frontier Artificial Intelligence Act de Californie offre la comparaison entre États la plus claire. La loi oblige les grands développeurs d’IA de pointe à publier des cadres décrivant leurs approches des risques catastrophiques et des incidents critiques de sécurité.
La Californie identifie également les employés concernés qui évaluent, gèrent ou traitent les risques liés aux modèles fondamentaux. Ces travailleurs peuvent divulguer certains dangers ou violations de la loi à des destinataires désignés, dont le procureur général de l’État.
Le California Department of Justice propose une catégorie de signalement dédiée à ces employés. Ses directives sur les risques liés à l’IA indiquent que les développeurs d’IA de pointe ne peuvent ni empêcher les divulgations couvertes ni exercer de représailles contre les employés qui les effectuent.
La Californie doit aussi publier chaque année des informations anonymisées et agrégées sur les signalements des employés. Cette exigence pourrait donner au public une certaine visibilité sur la fréquence d’utilisation de ce canal.
L’alerte de septembre de New York est plus large dans son invitation, mais moins spécialisée dans sa présentation. Elle oriente les travailleurs vers l’infrastructure générale du procureur général pour les lanceurs d’alerte, plutôt que vers une catégorie de dépôt spécifique à l’IA.
Cette approche offre de la souplesse. Une plainte portant sur la vie privée, la cybersécurité, la fraude ou une autre loi existante n’a pas besoin d’entrer dans une définition étroite du risque lié à l’IA de pointe.
Cependant, cette ampleur peut créer de l’incertitude pour les travailleurs. Ils peuvent ne pas savoir immédiatement si une préoccupation technique de sécurité constitue un comportement illégal ou relève d’une autre autorité de régulation.
La page du portail explique elle-même comment transmettre des informations, mais elle ne fournit pas de taxonomie spécifique à l’IA. Elle ne répertorie ni exemples de risques liés aux modèles, ni fonctions professionnelles couvertes, ni norme de preuve pour chaque préoccupation.
Le système californien offre des instructions plus explicites pour une catégorie définie de travailleurs et de risques. Le système new-yorkais peut recevoir un éventail plus large d’allégations et laisser les enquêteurs les classifier.
Aucune de ces conceptions n’élimine la difficulté centrale. Un canal de signalement n’est utile que si les initiés le comprennent, lui font confiance et pensent que son utilisation mènera à un examen significatif.
Les deux États créent également des attentes qui se chevauchent pour les entreprises opérant à l’échelle nationale. Un développeur d’IA de pointe peut être soumis à un cadre là où ses modèles sont conçus et à un autre là où ses produits affectent des résidents.
Ce chevauchement peut encourager les entreprises à adopter une norme nationale commune de conformité. Maintenir des processus d’incident entièrement distincts pour chaque État devient difficile à mesure que les obligations de signalement s’étendent.
Il peut aussi engendrer des litiges sur les définitions et la compétence territoriale. Une entreprise peut contester qu’elle soit qualifiée de développeur couvert ou qu’un événement atteigne le seuil applicable.
Pour les responsables de la conformité, la réponse opérationnelle la plus sûre consiste en une documentation rigoureuse. Les équipes ont besoin de dossiers montrant quelles évaluations ont eu lieu, qui a examiné les résultats, comment les incidents ont été classés et pourquoi une divulgation a été effectuée ou retenue.
Ces dossiers peuvent soutenir l’entreprise si les régulateurs remettent ultérieurement sa décision en question. Ils peuvent également soutenir un lanceur d’alerte qui estime que le processus documenté a été ignoré.
Il en résulte une évolution discrète de la responsabilité. Les cadres de sécurité de l’IA passent de déclarations volontaires à des documents susceptibles d’être examinés lors d’une enquête.
Un canal anonyme n’élimine pas le risque lié aux lanceurs d’alerte
Le portail réduit le risque de communication, mais il ne peut garantir l’anonymat, la protection juridique ou le succès d’une enquête.
Tor peut rendre plus difficile la remontée d’un dépôt jusqu’à son origine réseau. Il ne peut pas supprimer les détails permettant d’identifier une personne, intégrés à un document ou au contexte factuel.
Un rapport de test peut contenir un champ auteur, un horodatage, un historique des révisions ou une mise en forme inhabituelle. Des captures d’écran peuvent révéler des noms de comptes, des détails du navigateur, des identifiants internes de projet ou des bannières de notification.
Même une simple description peut identifier sa source. Si seulement trois personnes ont assisté à une réunion, un récit détaillé peut immédiatement réduire les possibilités.
Le procureur général avertit explicitement que le contenu n’est pas garanti de rester anonyme et confidentiel. Les travailleurs ne devraient pas interpréter une transmission sécurisée comme une promesse absolue concernant chaque utilisation ultérieure.
Les protections juridiques varient également. Les lois traditionnelles sur les lanceurs d’alerte se concentrent souvent sur des violations présumées de la loi, la fraude, la sécurité publique ou des obligations réglementaires précises.
Les employés du secteur de l’IA peuvent plutôt être en désaccord sur un risque qui n’a pas causé de préjudice et n’est pas clairement réglementé. Une évaluation de modèle peut révéler un comportement préoccupant sans démontrer une conduite illégale.
Cette lacune est apparue lors de la campagne de 2024 sur le droit d’alerte. Ses signataires ont soutenu que les règles ordinaires relatives aux lanceurs d’alerte peuvent être insuffisantes lorsque les employés s’inquiètent de risques émergents qui ne sont pas encore couverts par la loi.
La RAISE Act réduit une partie de cette lacune en créant des obligations concrètes de transparence et de signalement. La loi californienne définit de même les divulgations relatives à certains risques associés aux modèles d’IA de pointe.
Toutefois, aucun portail ne peut trancher à l’avance chaque cas limite. Les faits, le statut professionnel, les contrats, les règles relatives aux secrets d’affaires et les lois applicables comptent tous.
Les lanceurs d’alerte potentiels font également face à un problème de vérification. Les documents internes peuvent être authentiques alors que la conclusion qu’on en tire demeure contestée.
Une évaluation de sécurité échouée peut indiquer une faiblesse grave. Elle peut aussi refléter un test délibérément sévère qui ne représente pas un déploiement ordinaire.
Les enquêteurs ont besoin d’éléments contextuels pour distinguer ces possibilités. Cela inclut la méthodologie de test, les mesures d’atténuation ultérieures, les dossiers de décision et les conditions réelles de mise sur le marché du système.
Les entreprises méritent la possibilité de répondre aux allégations. La préoccupation d’un employé devrait déclencher un examen attentif, et non une présomption automatique d’acte répréhensible.
Inversement, le rapport public de sécurité d’une entreprise ne devrait pas régler la question lorsque des éléments internes indiquent le contraire. Le rôle de l’État est de confronter les deux récits aux dossiers et à la loi.
L’alerte laisse également plusieurs questions pratiques sans réponse.
New York n’a pas indiqué combien de plaintes liées à l’IA le bureau prévoit de recevoir. L’État n’a pas identifié d’unité d’examen dédiée, d’objectif de délai de traitement ou de calendrier de publication pour les dépôts effectués via le portail.
L’annonce n’explique pas comment les enquêteurs distingueront les éléments urgents liés à la cybersécurité d’une critique plus générale des politiques. Elle ne promet pas non plus de retour à chaque personne qui dépose un signalement.
Ces omissions ne rendent pas le portail inefficace. Elles signifient que son impact ne peut pas être évalué à partir de la seule annonce.
Un système de signalement efficace nécessite une réception sécurisée, des examinateurs techniquement informés, un tri cohérent et une application crédible de la loi. Il doit également disposer de procédures empêchant les plaintes de faible qualité de submerger les éléments exploitables.
L’État doit équilibrer ces exigences sans exposer les sources ni des informations sensibles sur les modèles. Ce défi opérationnel est plus difficile que de publier un lien vers un portail.
Ce que les développeurs et travailleurs de l’IA devraient surveiller ensuite
Trois signaux montreront si l’alerte devient un outil d’application de la loi ou reste une invitation publique à l’impact visible limité.
Le premier signal sera les directives publiées avant l’entrée en vigueur de la RAISE Act, le 1er janvier 2027.
Les développeurs concernés ont besoin de clarté sur les divulgations liées aux cadres de sécurité, la classification des incidents, les procédures de signalement et les attentes du bureau de surveillance. Des règles détaillées réduiront l’ambiguïté sur ce que les entreprises doivent documenter.
Les directives aideront aussi les travailleurs à distinguer un désaccord de politique interne d’informations indiquant une violation potentielle. Des obligations plus claires facilitent l’évaluation d’un signalement externe.
Si New York publie des documents détaillés de mise en œuvre, l’alerte apparaîtra comme la couche de réception d’un système plus vaste d’application de la loi. Des directives limitées laisseraient entreprises et initiés interpréter eux-mêmes les principales limites.
Le deuxième signal sera la première mesure publique d’application de la loi ou enquête reconnue liée au développement de l’IA.
New York n’a pas besoin de révéler l’identité d’un lanceur d’alerte pour démontrer que les signalements font l’objet d’un examen sérieux. Une plainte peut conduire à des demandes de documents, des entretiens, un accord transactionnel ou un contentieux au titre des lois existantes.
Une telle action avertirait les développeurs que des éléments techniques internes peuvent devenir des preuves réglementaires. Elle encouragerait aussi les équipes de conformité à examiner les préoccupations non résolues avant qu’elles n’atteignent l’État.
L’absence d’une affaire rapide ne prouverait pas un échec. Les enquêtes techniques complexes prennent du temps, et la confidentialité peut tenir les affaires en cours hors de la vue du public.
Néanmoins, une action visible fournirait la preuve la plus forte que le portail a modifié les incitations des entreprises.
Le troisième signal sera de savoir si New York publie des informations agrégées sur les plaintes liées à l’IA.
Le cadre dédié de la Californie exige un rapport annuel anonymisé sur les soumissions des employés concernés. L’alerte de New York n’annonce pas d’engagement de publication équivalent.
Des chiffres agrégés pourraient révéler combien de signalements arrivent, quelles catégories dominent et combien font l’objet d’un examen approfondi. L’État devrait publier ces informations sans exposer les plaignants ni les éléments confidentiels.
Un tel rapport permettrait aux décideurs politiques d’évaluer si les travailleurs font confiance au canal. Il pourrait aussi révéler des faiblesses dans les définitions, la sensibilisation ou les capacités d’enquête.
Les entreprises d’IA devraient surveiller ces signaux, car ils influent sur davantage que leur exposition juridique. La confiance dans les processus internes de sécurité dépend de la conviction des employés que les préoccupations bénéficient d’un traitement équitable.
Un canal externe crédible peut renforcer les systèmes internes en donnant à la direction une raison de résoudre les problèmes avec soin. Il peut aussi révéler les points où l’escalade interne a échoué.
Les travailleurs devraient distinguer transmission sécurisée et protection garantie. Avant de soumettre des dossiers sensibles, ils devraient prendre en compte les métadonnées des documents, les schémas d’accès, les règles de confidentialité et des conseils juridiques appropriés.
L’alerte de Letitia James destinée aux lanceurs d’alerte dans l’IA doit donc être comprise comme un pont réglementaire. Elle relie un portail anonyme existant, l’autorité actuelle de l’État et l’approche de la RAISE Act.
Le portail seul ne rendra pas transparent le développement de l’IA de pointe. Sa valeur dépendra des éléments que les initiés fourniront et de la capacité de l’État à les examiner.
Les prochains mois montreront si New York transforme ces éléments en règles claires et en responsabilité juridiquement applicable. Pour les développeurs, la question pratique est immédiate : leur dossier interne de sécurité résisterait-il aujourd’hui à un examen extérieur ?
