Un projet de loi du Sénat américain sur les risques liés à l’IA met les créateurs de modèles en garde

Des négociateurs du Sénat américain envisagent une obligation inédite qui imposerait aux principaux développeurs d’IA de réduire les risques catastrophiques connus avant de mettre en circulation des modèles avancés. Le projet émergent du Sénat américain sur les risques liés à l’IA prévoit également une intervention fédérale lorsque les autorités estiment qu’un modèle est trop dangereux pour être lancé.

La proposition reste en cours de négociation, sans texte de loi public ni structure définitive d’application. Pourtant, son architecture rapportée marque un changement important. Washington irait au-delà des tests volontaires et demanderait aux développeurs d’assumer une responsabilité juridique face aux dangers prévisibles liés à des menaces biologiques, nucléaires et autres menaces extrêmes.

Ce changement place OpenAI, Anthropic et Google au cœur d’un compromis difficile. Les développeurs souhaitent des règles nationales qui remplaceraient un ensemble croissant de réglementations État par État. Toutefois, l’uniformité fédérale devient bien plus déterminante lorsqu’elle inclut une obligation de diligence et un éventuel pouvoir public sur les mises en circulation de modèles.

La proposition transfère la responsabilité aux développeurs d’IA

Le changement central est une obligation juridique proposée de traiter les risques catastrophiques connus, et non un nouvel engagement volontaire en matière de sécurité.

Selon les premières négociations rapportées, deux assistants du Sénat ont décrit une « obligation de diligence » proposée pour les développeurs d’IA avancée. Une obligation de diligence est une obligation juridique de prendre des mesures raisonnables contre des préjudices prévisibles.

Cette formulation est importante, car elle modifie la question réglementaire fondamentale. Les autorités ne demanderaient plus seulement si une entreprise a respecté son cadre de sécurité publié. Elles pourraient examiner si l’entreprise a conçu, testé et mis en circulation son produit en accordant une attention suffisante aux principaux risques connus.

La proposition viserait les modèles aux capacités les plus avancées. Elle n’imposerait pas automatiquement les mêmes obligations à tous les moteurs de recommandation, assistants professionnels ou petits projets open source.

Le seuil exact reste à définir. Les négociateurs doivent encore établir quelles capacités, méthodes d’entraînement, conditions de déploiement ou indicateurs de risque feraient entrer un modèle dans le champ de la loi.

Cette limite déterminera si la législation reste étroitement ciblée. Une norme fondée sur les capacités peut viser les systèmes capables d’aider à des activités dangereuses. Une définition trop large pourrait au contraire englober de nombreux produits ne présentant aucune menace catastrophique plausible.

Les exemples rapportés comprennent l’assistance de l’IA pour concevoir des armes biologiques ou nucléaires. Ces cas diffèrent des préjudices connus des consommateurs, tels que la publicité trompeuse, les processus de sélection biaisés ou les réponses inexactes des chatbots.

Ils concernent des événements peu fréquents aux conséquences potentiellement considérables. Ils nécessitent également des compétences que les autorités de régulation ordinaires des produits ne possèdent peut-être pas, notamment en biosécurité, sécurité nucléaire, cybersécurité et évaluation avancée des modèles.

Le projet émergent du Sénat américain sur les risques liés à l’IA impliquerait, selon les informations disponibles, des experts gouvernementaux dans la vérification et les tests des systèmes couverts. La sénatrice Amy Klobuchar a déclaré qu’elle cherchait à instaurer une supervision bipartisane des plus grands risques posés par les modèles d’IA.

Klobuchar a également décrit une exigence selon laquelle les développeurs travailleraient avec des experts gouvernementaux sur la vérification et les tests. Sa déclaration indique que les législateurs envisagent davantage que de simples formalités administratives déposées après qu’un produit a atteint les utilisateurs.

Le sénateur Ted Cruz a déclaré séparément qu’il travaillait avec Klobuchar et le chef de la majorité au Sénat John Thune sur les menaces biologiques et nucléaires. La sénatrice Maria Cantwell, principale démocrate de la commission du Commerce, participe également aux discussions plus larges.

La commission sénatoriale du Commerce est compétente pour le département du Commerce. Ce département abrite des chercheurs fédéraux spécialisés dans la sécurité de l’IA, ce qui en ferait probablement un centre des évaluations techniques si le Congrès établit un tel système.

La proposition n’est toutefois pas un projet de loi finalisé. Les négociateurs n’ont pas résolu publiquement l’autorité précise du gouvernement, le seuil applicable aux modèles couverts, les recours disponibles ni la norme que les tribunaux appliqueraient.

Ces précisions manquantes empêchent de tirer des conclusions définitives sur les coûts de conformité ou les retards de mise en circulation. Elles expliquent aussi pourquoi cette histoire est importante maintenant, avant que le texte législatif ne se fixe autour d’un modèle d’application unique.

Pourquoi le projet de loi du Sénat américain sur les risques liés à l’IA modifie le débat sur les mises en circulation

La proposition traite le lancement d’un modèle de pointe comme une décision de sécurité pouvant exiger un examen externe, et non uniquement comme une décision privée relative à un produit.

Les négociateurs envisageraient d’accorder au gouvernement fédéral le pouvoir de bloquer certaines mises en circulation jugées dangereuses. Un développeur pourrait contester cette décision devant un tribunal fédéral, donnant ainsi aux juges un rôle dans les litiges sur le risque technique.

Cette structure tente de répondre à deux préoccupations opposées. Les défenseurs de la sécurité souhaitent un moyen crédible d’arrêter une mise en circulation exceptionnellement dangereuse. Les développeurs ont besoin d’être protégés contre une décision arbitraire ou non étayée d’une agence.

Le contrôle juridictionnel offre un garde-fou possible, mais ne résout pas tous les problèmes. Les tribunaux ont encore besoin de normes légales, d’un dossier probatoire et d’un accès à l’expertise pour juger des affirmations hautement techniques.

Un développeur de modèles pourrait soutenir que ses protections ramènent une capacité dangereuse sous un seuil acceptable. Le gouvernement pourrait répondre que ces contrôles échouent face à des utilisateurs déterminés, à des poids de modèles volés ou à des déploiements modifiés.

Les juges devraient alors examiner des éléments relatifs aux évaluations, aux modèles de menace, aux restrictions d’accès, à la cybersécurité et à des prévisions incertaines. Certaines informations pourraient relever du secret des affaires ou de préoccupations de sécurité nationale.

La charge de la preuve aura donc autant d’importance que l’autorité publique mise en avant. Le Congrès devra décider qui doit établir la sûreté, le danger ou l’erreur de procédure lors d’un litige sur une mise en circulation.

Le calendrier pose un autre défi. Une procédure judiciaire qui commence après la diffusion en ligne de poids de modèles sans restriction ne peut pas rétablir un contrôle réel. Une procédure qui débute trop tôt pourrait retarder des systèmes utiles sur la base d’évaluations encore immatures.

Cela crée un problème central de conception pour le projet de loi du Sénat américain sur les risques liés à l’IA. L’intervention doit avoir lieu avant une mise en circulation irréversible, tout en reposant sur des éléments suffisamment solides pour justifier une action gouvernementale.

La proposition soulève aussi des questions concernant les mises à jour de modèles. Les développeurs améliorent aujourd’hui leurs services en continu, en modifiant parfois les outils, les protections, les niveaux d’accès ou les versions sous-jacentes des modèles sans lancer un produit entièrement distinct.

La législation doit distinguer les ajustements de routine des changements nécessitant un nouvel examen. Dans le cas contraire, les régulateurs pourraient soit manquer une hausse significative des capacités, soit inspecter à répétition des révisions mineures de produits.

OpenAI, Anthropic et Google effectuent déjà différentes formes de tests internes. Toutefois, les cadres des entreprises diffèrent quant à leur terminologie, leurs seuils, leurs pratiques de divulgation et les conséquences associées à une évaluation défavorable.

Une obligation fédérale pourrait transformer certaines pratiques sélectionnées en un socle commun minimal. Elle pourrait également contraindre les développeurs à documenter pourquoi ils ont mis en circulation un modèle après avoir identifié un danger grave mais incertain.

Ce dossier serait important pour les clients professionnels. Les acheteurs reçoivent souvent des fiches de modèle, une documentation de sécurité et des garanties contractuelles, mais disposent d’une visibilité limitée sur les évaluations les plus sensibles menées avant la mise en circulation.

Les tests gouvernementaux ne garantiraient pas qu’un modèle est sûr. Ils pourraient fournir une source supplémentaire d’examen et créer une responsabilité plus claire lorsque les entreprises ont connaissance d’un risque majeur.

Cantwell a soutenu que les agences fédérales et les laboratoires nationaux devraient diriger les tests des systèmes de pointe. Sa position sur les tests souligne l’expertise en cybersécurité, biodéfense et sécurité nucléaire.

Cette approche diffère de l’attribution de toutes les questions à un seul régulateur généraliste. Des laboratoires spécialisés pourraient tester des trajectoires de menace concrètes, tandis qu’une agence coordinatrice gérerait les procédures et l’application.

La difficulté consiste à transformer les résultats de recherche en une décision défendable de mise en circulation. Les évaluations peuvent identifier des capacités dans des conditions contrôlées, mais les abus dans le monde réel dépendent de l’accès, des compétences des utilisateurs, des protections et du contexte de déploiement.

Un modèle performant derrière des contrôles d’accès surveillés présente une menace différente de celle de poids téléchargeables. La loi devra traiter cette distinction sans créer une voie facile pour contourner la supervision.

Les règles fédérales et la préemption des États constituent le principal compromis

Le compromis politique de la proposition associe des obligations nationales de sécurité à des limites sur l’application des règles par les États, opposant l’uniformité à l’autonomie réglementaire locale.

La mesure rapportée empêcherait les États d’appliquer certaines lois concernant les risques couverts par le cadre fédéral. Cette disposition pourrait aider à attirer le soutien de l’industrie en faveur d’une supervision nationale.

Les développeurs font face à une complexité croissante, alors que les États réglementent les modèles de pointe, les décisions automatisées, les deepfakes, la confidentialité et la sécurité des chatbots au moyen de structures juridiques différentes. Des règles nationales pourraient réduire les définitions conflictuelles et les obligations de signalement.

Toutefois, la préemption modifie les enjeux pour les États et les consommateurs. Une loi fédérale qui évince des protections plus strictes peut affaiblir la supervision, même si elle crée une nouvelle obligation nationale.

Le Sénat s’est déjà heurté à une forte résistance face à une préemption large en matière d’IA. En 2025, les sénateurs ont voté par 99 voix contre 1 pour supprimer d’une mesure budgétaire une restriction proposée de dix ans sur la réglementation de l’IA par les États.

Ce vote sur le moratoire a montré que les législateurs peuvent soutenir une politique fédérale sur l’IA tout en rejetant un gel généralisé de l’action des États. Les négociations actuelles semblent plus ciblées, car elles concernent des risques précis liés aux modèles de pointe.

Même une disposition limitée exigera une rédaction minutieuse. Le Congrès doit définir si les États perdent leur autorité uniquement sur les obligations liées aux risques catastrophiques ou sur toute loi concernant un modèle couvert.

La différence est importante. Une règle d’un État sur les évaluations de modèles de pointe est proche du régime fédéral proposé. Une loi sur la confidentialité, l’emploi, la protection des consommateurs ou les droits civils concerne une catégorie de préjudice différente.

La préemption pourrait également affecter le calendrier de l’application. Les États agissent souvent pendant que le Congrès débat d’une législation nationale, en particulier lorsque des résidents signalent des préjudices immédiats ou que de nouvelles technologies révèlent une lacune juridique.

Les partisans de l’uniformité peuvent soutenir que la supervision des risques catastrophiques exige un système national unique. Les menaces biologiques et nucléaires franchissent les frontières des États, tandis que les laboratoires nationaux offrent une expertise que les États ne peuvent pas facilement reproduire.

Les détracteurs peuvent répondre que les normes fédérales stagnent parfois. L’expérimentation des États peut révéler des faiblesses, tester des approches d’application et pousser les autorités nationales à actualiser des règles devenues obsolètes.

La Californie offre l’exemple récent le plus clair. Le gouverneur Gavin Newsom a opposé son veto au SB 1047 en 2024, après avoir averti que ses seuils axés sur les modèles pouvaient réglementer des usages élémentaires sans prendre en compte le contexte de déploiement.

Son message de veto critiquait un cadre fortement lié à l’échelle de calcul. Il reconnaissait également la nécessité d’une protection efficace contre les graves menaces liées à l’IA.

La Californie a ensuite adopté une loi révisée sur l’IA de pointe, incluant des divulgations de protocoles de sécurité et des seuils pour les systèmes de premier plan. Cette histoire montre comment les propositions des États peuvent évoluer après des critiques techniques et politiques.

Un compromis fédéral pourrait s’inspirer de ces leçons. Il pourrait cibler un petit groupe de modèles très performants tout en tenant compte des contrôles d’accès, des environnements de déploiement et des voies de menace documentées.

Le cadre politique plus large de Cruz a privilégié une réglementation plus légère et une flexibilité dans les tests. Son cadre de politique sur l’IA proposait des bacs à sable réglementaires et des garde-fous contre les risques liés à la santé, à la sécurité et à la fraude.

Les propos de Klobuchar soulignent la nécessité d’une coopération obligatoire avec les experts gouvernementaux. Combiner ces positions nécessiterait probablement des obligations strictes face aux risques extrêmes, tout en préservant un espace pour le développement ordinaire de l’IA.

Le principal débat n’oppose donc pas simplement le gouvernement au secteur privé. Il porte sur l’arbitrage entre la responsabilité fédérale et la suppression de réglementations étatiques qui se chevauchent.

Les développeurs ne gagnent en prévisibilité que s’ils acceptent de véritables obligations nationales. Les États ne renoncent à leur autorité que si l’alternative fédérale est précise, applicable et capable de s’adapter.

Cet échange déterminera les perspectives du projet de loi. Une obligation faible assortie d’une large préemption susciterait l’opposition des responsables des États et des défenseurs de la sécurité.

Une obligation forte sans limites claires pourrait faire perdre le soutien des élus préoccupés par l’innovation ou la capture réglementaire. Les négociateurs doivent faire en sorte que les deux volets paraissent proportionnés.

Les questions les plus difficiles restent sans réponse

Une obligation de diligence ne fonctionne que lorsque les législateurs définissent les risques connus, les mesures d’atténuation raisonnables et les éléments de preuve nécessaires pour interrompre une mise en circulation.

L’expression « risques majeurs connus » semble précise, mais chaque mot crée une incertitude juridique. Un risque peut être documenté sans être mesurable, et une capacité peut être préoccupante sans établir une probabilité de préjudice catastrophique.

Les législateurs doivent décider quelles connaissances comptent. La norme pourrait prendre en considération les recherches publiées, les tests internes des entreprises, les renseignements gouvernementaux, les incidents ou les alertes lancées par des employés qualifiés.

Un dossier exclusivement public ignorerait les informations classifiées sur les menaces et les évaluations propriétaires. Un dossier contrôlé exclusivement par le gouvernement pourrait empêcher les développeurs de contester facilement une décision.

La signification de l’atténuation est tout aussi importante. Une entreprise pourrait ajouter un entraînement au refus, surveiller les usages suspects, restreindre les outils, retarder la publication des poids ouverts ou limiter l’accès aux clients vérifiés.

Chaque contrôle répond à une voie de défaillance différente. Aucun n’offre une protection complète contre le vol d’identifiants, l’extraction de modèles, le réglage fin, les attaques par prompts ou une infrastructure compromise.

La législation doit également distinguer la capacité de l’intention. Un modèle généraliste peut aider à mener des recherches biologiques légitimes tout en fournissant des informations qui deviennent dangereuses dans le cadre d’un processus malveillant.

Le simple blocage de thèmes ne résoudra pas ce problème. Les évaluateurs doivent tester si un système réduit réellement l’expertise, le temps ou les ressources nécessaires pour causer un préjudice grave.

Les faux positifs ont aussi des conséquences. Surestimer une capacité dangereuse pourrait encourager les abus, gaspiller les ressources gouvernementales et avantager les développeurs établis face aux concurrents plus petits.

Un régime de conformité peut favoriser les grandes entreprises lorsque des tests approfondis, un examen juridique et une infrastructure sécurisée deviennent des conditions préalables. OpenAI, Anthropic et Google peuvent absorber des exigences que les petits laboratoires ne peuvent pas assumer.

Une couverture limitée aux modèles les plus performants réduit cette pression, mais introduit des effets de seuil. Un développeur approchant du seuil pourrait modifier l’entraînement, retarder la publication ou diviser un système pour éviter la réglementation.

Les seuils de calcul fixes sont relativement faciles à administrer, mais vieillissent rapidement. Les seuils fondés sur les capacités s’adaptent mieux, mais exigent des évaluations fiables et davantage de jugement réglementaire.

L’Union européenne est déjà confrontée à des questions similaires. Ses règles imposent des obligations supplémentaires aux modèles généralistes classés comme présentant un risque systémique, notamment des évaluations, des signalements d’incidents, des mesures de cybersécurité et d’atténuation des risques.

Les obligations liées au risque systémique de la Commission européenne offrent au Congrès un point de comparaison concret. Elles montrent également l’ampleur des orientations nécessaires après que les législateurs ont adopté un large cadre législatif.

La proposition américaine diffère sur un point potentiellement important. Les négociations rapportées incluent une possible voie d’action gouvernementale contre la mise en circulation d’un modèle spécifique, suivie d’une contestation devant une juridiction fédérale.

Cela pourrait entraîner une confrontation plus directe qu’un régime de conformité fondé principalement sur la documentation et les sanctions administratives. Cela rend également la régularité de la procédure essentielle.

Une autre incertitude concerne la capacité réglementaire. Les experts gouvernementaux doivent suivre le rythme de systèmes propriétaires, de méthodes de menace en évolution et d’un secteur qui offre une rémunération plus élevée aux rares talents techniques.

Les agences auront besoin d’un accès sécurisé aux ressources de calcul et de procédures pour traiter les poids des modèles. Elles auront aussi besoin de l’autorité nécessaire pour protéger les secrets d’entreprise sans soustraire chaque décision réglementaire au regard du public.

La capture réglementaire constitue un risque supplémentaire. Si seuls les plus grands développeurs possèdent les outils et les équipes nécessaires pour définir les méthodes d’évaluation, les normes fédérales pourraient refléter leurs pratiques préférées.

Les chercheurs indépendants, les laboratoires nationaux, les organisations de la société civile et les experts sectoriels doivent jouer des rôles significatifs. Leur participation peut remettre en cause les hypothèses partagées par les responsables gouvernementaux et les entreprises de modèles.

Les entreprises peuvent aussi être en désaccord les unes avec les autres. Anthropic a souvent mis l’accent sur la politique de sécurité des modèles de pointe, tandis que d’autres développeurs ont averti que des règles mal conçues peuvent freiner la concurrence ou le développement ouvert.

Ces différences ne doivent pas être exagérées avant l’apparition du texte du projet de loi. La position d’aucune entreprise sur cet ensemble précis ne devrait être déduite uniquement de sa position sur des propositions antérieures.

Le Congrès a également besoin d’une structure de signalement des incidents. Les tests avant mise en circulation ne peuvent pas prévoir tous les comportements qui apparaissent avec de nouveaux outils, des populations d’utilisateurs plus larges ou des expérimentations adverses.

Une obligation significative devrait se poursuivre après le déploiement. Les développeurs ont besoin de processus permettant de détecter les incidents graves, de réévaluer les garde-fous, d’informer les autorités et de restreindre l’accès lorsque les éléments de preuve évoluent.

La législation devrait éviter de traiter une certification comme une approbation permanente. Un modèle jugé gérable le jour de sa mise en circulation peut devenir plus risqué après de nouvelles intégrations ou découvertes externes.

Dans le même temps, les régulateurs devraient éviter de faire de chaque résultat inattendu un cas de risque catastrophique. La légitimité de la loi dépend du maintien de ses interventions exceptionnelles face à des menaces exceptionnelles.

Ces choix non résolus ne sont pas des notes techniques secondaires. Ils déterminent si la proposition devient une loi de sécurité ciblée, une conformité symbolique ou un vaste système d’autorisation.

Trois signaux indiqueront si la proposition peut avancer

Le prochain test consistera à voir si les négociateurs transforment un concept marquant en un texte législatif précis, capable de résister à un examen technique, politique et judiciaire.

Le premier signal sera la publication du texte effectif du projet de loi. Les lecteurs devraient examiner comment le texte définit les modèles concernés, les risques catastrophiques, la connaissance des développeurs, l’atténuation raisonnable et l’autorité gouvernementale.

Un seuil clair fondé sur les capacités ou les risques renforcerait l’idée que les négociateurs recherchent une supervision ciblée des modèles de pointe. Une couverture vague accentuerait les inquiétudes concernant une application imprévisible et des contraintes pesant sur les applications ordinaires.

Le deuxième signal sera la clause finale de préemption. Sa portée révélera si l’uniformité fédérale sert de complément limité aux obligations liées aux risques catastrophiques ou de restriction plus large des lois étatiques sur l’IA.

Un langage préservant les protections relatives à la vie privée, aux droits civiques, aux consommateurs, à l’emploi et aux élections appuierait l’interprétation plus étroite. Une éviction générale relancerait le débat politique qui a fait échouer le précédent moratoire.

Le troisième signal sera le processus d’application. Le Congrès doit identifier l’agence responsable, le rôle des experts techniques, la norme de preuve et la voie vers un contrôle judiciaire rapide.

Un processus comportant des conclusions écrites, un accès sécurisé aux preuves, des délais et des droits de recours rendrait une intervention sur une mise en circulation plus crédible. Un pouvoir discrétionnaire de l’exécutif non précisé affaiblirait le soutien et susciterait des contestations juridiques immédiates.

Le calendrier crée sa propre pression. Reuters a rapporté que la Chambre n’avait qu’une semaine de session prévue avant les élections de mi-mandat du 3 novembre, tandis que le Sénat en attendait trois.

Ce calendrier rend l’adoption difficile, même si les négociateurs parviennent à un accord. L’examen en commission, le temps de séance, l’adoption par la Chambre et la conciliation de textes différents exigent tous une coordination politique.

L’échec à adopter rapidement un projet de loi n’effacerait pas le changement sous-jacent. Les négociations bipartites sur une obligation juridique et l’intervention dans la mise en circulation des modèles établissent un point de référence pour le prochain Congrès.

Le débat donne aussi aux développeurs une raison immédiate d’améliorer leur documentation. Les entreprises qui identifient un risque majeur ont besoin de dossiers montrant comment elles l’ont testé, choisi des mesures d’atténuation et surveillé le déploiement.

Les acheteurs en entreprise devraient surveiller ces pratiques, car la réglementation peut affecter la disponibilité des modèles, les obligations contractuelles, les preuves d’audit et les calendriers de mise en circulation. Les équipes dépendantes d’un seul fournisseur ont besoin de plans de continuité pour les modèles retardés ou restreints.

Les développeurs qui s’appuient sur des modèles externes devraient également suivre la question de savoir si les obligations se répercutent en aval. Une entreprise de modèles fondamentaux peut modifier les contrôles d’accès, les conditions d’utilisation acceptable, les exigences de journalisation ou les autorisations d’outils pour satisfaire aux obligations fédérales.

Les travailleurs du savoir font face à une conséquence plus discrète. Les organisations auront besoin de dossiers fiables sur les versions des modèles, les politiques, les évaluations et les décisions internes à mesure que les règles évoluent.

Une base de connaissances sur l’IA consultable peut aider les équipes à préserver ce contexte. Toutefois, la tenue de dossiers ne peut remplacer une évaluation technique ou un conseil juridique.

Le projet de loi du Sénat américain sur les risques liés à l’IA reste une proposition négociée, et non une restriction adoptée. Son importance réside dans la responsabilité qu’il attribue avant que les législateurs ne règlent chaque détail procédural.

Washington examine si les créateurs de modèles de pointe devraient assumer une obligation exécutoire de réduire les dangers catastrophiques prévisibles. Il examine également dans quelles circonstances le gouvernement peut interrompre une décision privée de mise en circulation.

Surveillez le texte du projet de loi, la limite de la préemption et le processus de contrôle judiciaire. Ensemble, ces éléments montreront si le Congrès a conçu une supervision ciblée ou s’il a simplement ouvert un nouveau front non résolu dans la politique de l’IA.