La position de Jensen Huang sur la régulation de l’IA rejette de nouvelles règles et fait confiance aux fabricants de produits

Jensen Huang a rejeté de nouvelles règles sur l’IA lors de la conférence Dreamforce de Salesforce le 15 septembre, créant un conflit direct sur la question de savoir qui doit contrôler la sécurité de l’IA. Le PDG de Nvidia a soutenu que l’intelligence artificielle reste un système informatique conçu par des humains. Les entreprises peuvent donc développer des produits sûrs et retenir les systèmes auxquels elles ne font pas confiance. La position de Jensen Huang sur la régulation de l’IA repose sur la discipline du marché, le droit existant et l’autorégulation des fabricants de produits.

Cet argument est intervenu au cours d’un différend particulièrement vif sur la sécurité. OpenAI, Anthropic et d’autres grandes entreprises d’IA ont averti que des systèmes de plus en plus autonomes nécessitent des garde-fous plus solides. Certains dirigeants du secteur soutiennent des évaluations indépendantes, une coordination gouvernementale et un rythme plus lent pour les modèles les plus capables. Huang a au contraire exhorté les entreprises à avancer vite, en ne s’arrêtant que lorsque leur propre confiance fait défaut.

Cette distinction est importante, car Nvidia fournit une grande partie de l’infrastructure informatique qui alimente la course à l’IA. Un développement plus rapide des modèles accroît la demande en accélérateurs, systèmes de réseau et logiciels associés. Mais Huang remet également en cause une hypothèse plus profonde qui sous-tend les réglementations émergentes. Si l’IA n’est qu’un produit d’ingénierie parmi d’autres, des lois spécifiques pourraient créer des obstacles inutiles. Si son comportement reste difficile à prévoir, le seul jugement des entreprises laisse un sérieux déficit de responsabilité.

Ce que Jensen Huang a réellement dit sur la régulation de l’IA

L’argument de Huang part d’une affirmation simple : la sécurité de l’IA relève des équipes d’ingénierie, car l’IA reste un logiciel exécuté sur des systèmes informatiques.

Lors de son intervention à Dreamforce, Huang a rejeté l’image d’une IA comme intelligence insondable opérant hors du contrôle humain. Il l’a décrite comme de l’informatique complexe, construite par des personnes et donc maîtrisable par des processus d’ingénierie ordinaires. Son argument ramène la question réglementaire à des décisions produits familières.

Une entreprise teste un produit, étudie son comportement et décide s’il est prêt. Si elle n’a pas confiance dans ses fonctionnalités ou sa sécurité, a déclaré Huang, elle ne devrait pas le commercialiser. Une fois cette confiance suffisante, l’entreprise devrait avancer rapidement.

Huang a résumé sa position par une phrase qui définit l’ensemble du débat : « La sécurité est un problème d’ingénierie, pas un problème juridique. » Son argument plus large sur la sécurité de l’IA présentait également vitesse et sécurité comme des objectifs compatibles.

Ce cadrage ne nie pas que les produits d’IA puissent causer des préjudices. Il confie plutôt la première et la plus importante décision de sécurité à l’entreprise qui construit chaque système. La pression du marché pénalise ensuite les produits peu fiables, tandis que les règles existantes en matière de responsabilité, de protection des consommateurs et de réglementation sectorielle traitent les conséquences nuisibles.

Cette approche ressemble à la gestion classique des mises en production de logiciels. Les développeurs effectuent des tests internes, limitent l’accès, surveillent les incidents et corrigent les défauts. Les équipes de déploiement peuvent procéder par lancements progressifs, ce qui signifie qu’un produit atteint un petit public avant une diffusion plus large. Elles peuvent également désactiver des fonctionnalités ou révoquer l’accès à un modèle après avoir découvert un comportement inacceptable.

Cependant, l’IA avancée complique ce processus familier. Une application conventionnelle suit généralement des règles écrites directement par les développeurs. Un modèle d’apprentissage automatique apprend des schémas à partir de données et peut produire des comportements que ses créateurs n’ont pas explicitement spécifiés.

Cette différence ne fait pas de l’IA une intelligence extraterrestre. Elle rend toutefois les tests plus difficiles. Les équipes ne peuvent pas énumérer manuellement chaque réponse qu’un modèle polyvalent pourrait générer dans des millions de conversations, outils, langues et environnements possibles.

La solution de Huang reste fondée sur la confiance. Les développeurs devraient créer des évaluations, des contrôles de sécurité et des systèmes de surveillance suffisamment robustes pour justifier une décision de lancement. Le marché récompense ensuite les entreprises qui fournissent des produits utiles et fiables.

La question non résolue est de savoir qui mesure cette confiance. La réponse de Huang confie principalement cette mesure au fabricant du produit. Les évaluateurs indépendants, les autorités publiques, les clients et les communautés affectées ne reçoivent aucun rôle garanti dans ce modèle.

Ses commentaires allaient également au-delà de l’opposition à un projet de loi particulier. Il a déclaré que le secteur n’avait pas besoin de nouvelles lois ou réglementations. Cette position générale place Nvidia en opposition avec les cadres réglementaires conçus spécifiquement pour l’IA généraliste et à haut risque.

Elle distingue aussi Huang des dirigeants qui souhaitent des règles limitées pour les modèles les plus importants. Ces responsables ne prônent pas nécessairement l’arrêt du développement de l’IA. Beaucoup souhaitent plutôt des exigences de test partagées qui empêchent une entreprise d’obtenir un avantage en acceptant davantage de risques.

La position de Jensen Huang sur la régulation de l’IA déplace donc le centre du débat. La question centrale n’est plus de savoir si la sécurité compte. Presque tous les participants affirment que oui. Le différend porte sur la capacité des décisions volontaires d’ingénierie à fournir une protection suffisante lorsque la concurrence récompense la rapidité.

Pourquoi le débat sur la sécurité de l’IA s’intensifie maintenant

Huang s’est exprimé alors que d’autres dirigeants de l’IA s’orientaient vers des évaluations externes et des limites coordonnées, rendant son rejet de nouvelles règles particulièrement lourd de conséquences.

Le contexte immédiat était une nouvelle série d’avertissements émis par des chercheurs et dirigeants travaillant sur l’IA de pointe. L’IA de pointe désigne les systèmes généralistes les plus capables disponibles ou en cours de développement. Ces systèmes peuvent accomplir de nombreuses tâches et peuvent utiliser des outils logiciels avec une supervision humaine décroissante.

Le directeur scientifique d’OpenAI, Jakub Pachocki, avait récemment décrit l’IA avancée comme un intellect que les chercheurs ne comprennent pas entièrement. Dans son essai sur l’esprit extraterrestre, il soutenait que la croissance rapide des capacités exige une prudence extrême et une intervention plus large.

La préoccupation de Pachocki porte sur l’auto-amélioration récursive. Ce terme décrit un système utilisant ses capacités pour aider à concevoir des successeurs plus capables. OpenAI n’a pas établi qu’un cycle incontrôlé se produise aujourd’hui. Ses chercheurs avertissent que les futurs systèmes pourraient contribuer de plus en plus à leur propre développement.

Huang rejette le vocabulaire entourant cette inquiétude. Il estime que décrire l’IA comme un esprit étranger ou indépendant est trompeur, car ces systèmes dépendent encore du matériel, des logiciels, des processus d’entraînement et des choix de déploiement conçus par des humains.

Les deux camps identifient des caractéristiques réelles de la même technologie. Les systèmes d’IA fonctionnent physiquement sur une infrastructure contrôlée, et les entreprises peuvent restreindre leur accès. Pourtant, les développeurs ne peuvent souvent pas fournir une explication complète et intelligible par des humains de chaque sortie du modèle ou comportement appris.

Le désaccord s’est élargi lorsque le PDG d’Anthropic, Dario Amodei, a proposé de maintenir l’accès des évaluateurs indépendants. Dans ce cadre, des spécialistes externes bénéficieraient d’une visibilité durable sur les pratiques de sécurité plutôt que de recevoir des démonstrations ponctuelles. Le PDG d’OpenAI, Sam Altman, a soutenu cette proposition et approuvé un cadre fédéral pour les normes de sécurité de l’IA avancée.

Ces propositions reconnaissent un problème d’action collective. Une entreprise qui retarde un modèle pour effectuer des tests supplémentaires pourrait perdre des clients, des talents ou le soutien d’investisseurs. Un concurrent prêt à lancer plus tôt peut capter ces avantages tout en transférant une partie du risque aux utilisateurs et à la société.

La retenue volontaire fonctionne mieux lorsque tous les participants importants font face à des incitations comparables. Le marché de l’IA n’offre aucune telle garantie. Les laboratoires privés, les grandes entreprises technologiques, les développeurs de modèles à poids ouverts et les projets soutenus par des États évoluent sous des pressions commerciales et politiques différentes.

La concurrence internationale ajoute un autre obstacle. Les décideurs américains craignent de perdre leur leadership technologique face à la Chine. Les entreprises redoutent également que les restrictions nationales contraignent les développeurs respectueux des règles sans affecter leurs concurrents étrangers.

Huang utilise cette réalité concurrentielle pour soutenir un déploiement rapide. Sa position est que l’adoption d’une IA utile renforce les économies et les institutions. La retarder en raison de dangers hypothétiques peut aussi imposer des coûts, notamment une productivité plus faible et des progrès scientifiques plus lents.

En juillet, Huang a également déclaré à Axios que les décideurs ne devraient pas laisser des scénarios de science-fiction guider leurs décisions. Sa position anti-catastrophisme suggérait que certaines entreprises pourraient soutenir une réglementation protégeant leur position sur le marché.

Cette critique mérite d’être prise en compte. Les grands laboratoires peuvent absorber plus facilement que les petits développeurs les coûts de test, de documentation et de conformité. Des réglementations mal conçues peuvent consolider les positions des acteurs établis en faisant des ressources juridiques un avantage concurrentiel.

Cependant, la capture réglementaire n’est pas un argument contre toute règle. C’est un argument en faveur d’obligations ciblées, d’une conformité proportionnée et de normes accessibles. La même préoccupation de concentration s’applique lorsqu’un petit nombre d’entreprises dominantes définissent la sécurité sans contrôle public.

Le calendrier revêt également une importance politique. Le président Donald Trump s’est fortement opposé à un ralentissement de l’IA et a qualifié les avertissements catastrophistes de conspiration. Cela donne à l’approche de Huang, centrée sur l’ingénierie, une audience influente au sein de l’administration.

Le résultat est une division inhabituelle. Plusieurs dirigeants de l’IA de pointe réclament davantage de coordination, tandis qu’un fournisseur majeur d’infrastructures rejette toute nouvelle réglementation. Le désaccord n’oppose pas des technologues à des acteurs extérieurs. Il traverse le cœur même du secteur de l’IA.

Le véritable arbitrage oppose le contrôle des entreprises à la responsabilité externe

L’ingénierie peut réduire les risques liés à l’IA, mais laisser les fournisseurs définir le risque acceptable leur permet aussi de juger leurs propres incitations commerciales.

Huang a raison sur un point essentiel. Une loi ne peut pas, à elle seule, rendre un modèle sûr. La sécurité dépend d’un travail technique réalisé tout au long du développement, des tests, du déploiement et de la réponse aux incidents.

Les ingénieurs peuvent restreindre les outils dangereux, tester les modèles face à des requêtes adversariales et surveiller les activités inhabituelles. Le red teaming, qui consiste à sonder intentionnellement un système à la recherche de défaillances, peut révéler des faiblesses avant le lancement. Les environnements isolés peuvent séparer un agent d’IA de systèmes de production sensibles.

Les fabricants de produits détiennent également des informations que les régulateurs ne peuvent pas facilement reproduire. Ils connaissent leurs processus d’entraînement, l’architecture de leurs modèles, leurs évaluations internes et leurs contrôles de déploiement. Des règles externes qui ignorent ces détails peuvent devenir obsolètes ou contre-productives.

Cependant, l’ingénierie et le droit résolvent des problèmes différents. L’ingénierie réduit la probabilité ou la gravité des défaillances. Le droit attribue des obligations, établit des normes minimales, crée des exigences de divulgation et détermine qui assume la responsabilité après un préjudice.

Une entreprise pourrait construire des systèmes de sécurité compétents tout en choisissant un calendrier de lancement agressif. Elle pourrait accepter un taux de défaillance qui semble commercialement raisonnable, mais qui impose des coûts à des personnes n’ayant jamais choisi le produit. Elle peut aussi limiter les divulgations afin de protéger sa propriété intellectuelle ou sa réputation.

La discipline du marché présente des limites similaires. Les clients peuvent sanctionner un produit de consommation défectueux après avoir découvert le défaut. Ce processus devient moins efficace lorsque les défaillances sont difficiles à retracer, retardées ou réparties entre de nombreuses parties.

Prenons le cas d’une vulnérabilité de sécurité générée par l’IA qui atteint des logiciels en aval. Le fournisseur du modèle, le développeur de l’application, le client entreprise et l’opérateur humain peuvent chacun contrôler une partie du résultat. Les utilisateurs lésés ultérieurement peuvent avoir du mal à déterminer quelle décision a causé la défaillance.

Un problème similaire se pose avec les décisions automatisées en matière d’emploi, de prêt, d’assurance ou de santé. L’acheteur sélectionne le système, mais une autre personne en subit les conséquences. Cette personne peut ne pas avoir accès au modèle, à ses résultats d’évaluation ou aux éléments justifiant une décision.

Les lois existantes peuvent couvrir certains résultats. La responsabilité du fait des produits peut s’appliquer aux produits défectueux, les règles de confidentialité peuvent limiter le traitement des données et les lois anti-discrimination peuvent s’appliquer aux décisions automatisées. Les régulateurs sectoriels peuvent également superviser la santé, la finance, les transports et les infrastructures critiques.

Pourtant, ces systèmes n’ont pas toujours été conçus autour de modèles à usage général dont le comportement varie selon les contextes. Les litiges surviennent également après qu’un préjudice a été causé. Les tribunaux peuvent créer un effet dissuasif, mais ils ne peuvent remplacer les tests préalables à la mise sur le marché lorsque les défaillances risquent de se propager rapidement.

C’est pourquoi le débat sur la réglementation de l’IA se concentre souvent sur les obligations de processus. Les gouvernements n’ont pas besoin d’imposer l’architecture des modèles. Ils peuvent exiger de la documentation, le signalement d’incidents, des évaluations externes ou la preuve que les déploiements à haut risque ont passé des tests définis.

L’approche de Huang considère la décision de mise sur le marché d’une entreprise comme le point de contrôle critique. L’approche opposée ajoute un contrôle indépendant lorsqu’un système atteint des seuils déterminés de capacité ou de risque.

Aucun de ces modèles n’élimine la nécessité d’exercer un jugement. Les régulateurs doivent décider quels systèmes sont concernés, et les évaluateurs doivent sélectionner des tests pertinents. L’avantage d’une responsabilité externe n’est pas une prévision parfaite. C’est que le succès commercial ne reste pas la seule incitation forte à orienter une mise sur le marché.

Pour les acheteurs en entreprise, cette distinction affecte dès aujourd’hui les processus d’approvisionnement. Lorsqu’un fournisseur affirme que son système est sûr, il fournit un type de preuve. Des résultats d’évaluation détaillés, un accès aux audits, des procédures d’incident et une responsabilité contractuelle constituent des preuves plus solides.

Les équipes doivent documenter ce à quoi un modèle peut accéder, quelles décisions exigent une approbation humaine et comment les défaillances seront examinées. Conserver cet historique dans une base de connaissances consultable peut aider les équipes d’ingénierie, juridiques et de sécurité à examiner les mêmes éléments.

Ce travail de gouvernance n’exige pas d’attendre une législation. Les entreprises peuvent dès maintenant demander des fiches de modèles, des synthèses de tests et des détails sur le traitement des données. Elles peuvent aussi exiger une notification lorsqu’un fournisseur modifie un modèle ou ses contrôles de sécurité.

L’accent mis par Huang sur l’ingénierie est utile à ce niveau opérationnel. La faiblesse apparaît lorsque l’ingénierie devient une raison de rejeter une supervision indépendante, plutôt que l’activité principale que cette supervision devrait vérifier.

L’Europe teste déjà le modèle opposé

L’Union européenne a rejeté la simple autorégulation en associant des obligations d’ingénierie au niveau des produits à des règles applicables pour l’IA à plus haut risque.

L’AI Act de l’UE adopte une structure fondée sur les risques. Il n’impose pas les mêmes obligations à tous les systèmes. Les applications considérées comme présentant un risque minimal ne font généralement l’objet d’aucune nouvelle exigence, tandis que les usages définis comme à haut risque reçoivent un traitement plus strict.

Les modèles d’IA à usage général constituent une autre catégorie. Les fournisseurs sont soumis à des obligations de transparence et de droit d’auteur, tandis que les modèles associés à un risque systémique doivent faire l’objet d’une évaluation et d’une atténuation des risques. Le risque systémique désigne un préjudice susceptible de se propager largement parce qu’un modèle est très capable ou largement déployé.

Les obligations de la loi relatives aux modèles à usage général sont devenues applicables en août 2025. Des responsabilités plus larges en matière de gouvernance et d’application sont entrées en vigueur en août 2026. L’Office européen de l’IA peut demander de la documentation, évaluer des modèles, exiger des mesures correctives et imposer des sanctions en cas de non-conformité.

Le cadre de l’AI Act de l’UE utilise également des codes volontaires pour aider les entreprises à satisfaire leurs obligations légales. Cette structure hybride est importante, car elle associe l’expertise du secteur à l’application publique des règles.

Il ne s’agit pas d’une opposition nette entre ingénieurs et juristes. Les régulateurs européens dépendent toujours de normes techniques, de la documentation des entreprises et d’évaluations d’experts. Les entreprises choisissent toujours nombre des méthodes utilisées pour maîtriser les risques.

La différence réside dans le socle qui encadre ces choix. Un fournisseur ne peut pas s’appuyer uniquement sur sa conviction privée qu’un système couvert est sûr. Il doit respecter les obligations applicables et fournir des éléments que les autorités peuvent examiner.

Les critiques affirment que ce cadre entraîne des coûts de conformité et une incertitude juridique. Les normes peuvent prendre du retard sur l’évolution des modèles. Les petites entreprises peuvent ne pas disposer du personnel nécessaire pour interpréter des obligations complexes, même lorsque les législateurs proposent des exigences simplifiées.

Ces préoccupations renforcent l’avertissement de Huang concernant une réglementation mal conçue. Une règle qui privilégie la documentation au détriment de la sécurité mesurable peut créer un théâtre de la conformité. Un développeur pourrait produire une documentation abondante sans identifier les défaillances les plus importantes.

La réglementation peut également fragmenter les marchés. Si les juridictions imposent des exigences incompatibles en matière de tests, de divulgation ou d’étiquetage des contenus, les développeurs doivent maintenir différents processus de mise sur le marché. Cela augmente les coûts et peut réduire l’accès dans les marchés plus petits.

Cependant, l’approche européenne remet en cause l’affirmation selon laquelle la réglementation de l’IA doit prescrire l’ingénierie. Un régulateur peut définir des résultats attendus, des obligations de signalement et des droits d’inspection tout en laissant les détails de mise en œuvre aux équipes techniques.

La loi reconnaît également que les catégories de produits comptent. Un filtre anti-spam n’implique pas les mêmes enjeux qu’un système de sélection des candidats à l’emploi ou qu’un modèle contrôlant une infrastructure critique. Une réglementation fondée sur les risques cherche à cibler la supervision là où une défaillance entraîne des conséquences plus graves.

Huang pourrait répondre que les règles sectorielles existantes fournissent déjà cette structure. Un hôpital reste soumis à la réglementation de la santé, et une banque reste soumise au droit financier. Ajouter une loi horizontale sur l’IA peut dupliquer les responsabilités.

Cette objection devient particulièrement forte lorsque les régulateurs traitent l’« IA » comme un seul type de produit. La technologie va des systèmes de recommandation aux agents autonomes. Des définitions larges peuvent englober des fonctionnalités logicielles ordinaires sans améliorer la sécurité.

L’argument opposé est que les modèles à usage général traversent les frontières sectorielles. Un même modèle sous-jacent peut prendre en charge des applications dans la santé, la finance, l’éducation et la sécurité. Son fournisseur peut influer sur les risques en aval sans exercer dans un secteur réglementé particulier.

L’expérience européenne fournira donc des éléments aux deux camps. Les résultats de l’application pourront montrer si la supervision externe détecte des risques significatifs. Les charges de conformité pourront révéler si le cadre ralentit les petites entreprises sans contraindre les plus grands fournisseurs.

Pour le débat sur la réglementation de l’IA selon Jensen Huang, l’Europe n’est pas un exemple théorique. C’est un test actif de la possibilité de faire coexister les règles publiques et les pratiques d’ingénierie. Les résultats compteront bien au-delà de l’UE, car les fournisseurs mondiaux standardisent souvent certaines parties de leurs opérations.

La position de Nvidia soulève une question incontournable d’incitations

Nvidia possède une crédibilité technique en matière de sécurité de l’IA, mais bénéficie aussi lorsque ses clients construisent des systèmes plus vastes et les déploient plus rapidement.

Nvidia occupe une position distincte dans ce débat. L’entreprise n’est pas principalement un fournisseur de chatbots destinés aux consommateurs. Elle vend des processeurs, des produits de mise en réseau, des systèmes et des logiciels utilisés pour entraîner et exécuter des modèles d’IA.

Cette distance peut renforcer la perspective de Huang. Nvidia travaille avec des fournisseurs de cloud, des développeurs de modèles, des entreprises, des institutions de recherche et des gouvernements. Elle observe les besoins d’infrastructure sur un marché plus large que celui de n’importe quel laboratoire de modèles pris isolément.

L’entreprise développe également des outils logiciels, des modèles, des composants d’agents et des systèmes de déploiement. Huang peut raisonnablement soutenir que les contrôles de sécurité doivent exister dans toute la pile informatique, et pas seulement dans l’interface visible d’un chatbot.

Pourtant, l’exposition commerciale de Nvidia crée un conflit évident. Le développement rapide de l’IA stimule la demande en capacité de calcul. Des modèles plus ambitieux exigent une infrastructure d’entraînement, tandis qu’un déploiement plus large génère une demande continue d’inférence, c’est-à-dire du calcul utilisé après l’entraînement d’un modèle.

De nouvelles barrières réglementaires pourraient retarder les centres de données, l’entraînement des modèles ou l’adoption par les entreprises. Même des règles étroitement ciblées peuvent accroître l’incertitude pour les clients de Nvidia. Huang a donc de solides raisons de privilégier un déploiement plus rapide et un droit existant prévisible.

Une incitation financière n’invalide pas un argument technique. Chaque participant majeur a ses propres incitations. Les laboratoires de pointe peuvent soutenir des règles qui pénalisent leurs petits concurrents. Les organisations de sécurité peuvent souligner des risques qui attirent l’attention et les financements. Les gouvernements peuvent invoquer la sécurité pour étendre leur autorité.

La réponse appropriée est la transparence et les tests indépendants, non le rejet automatique. Les affirmations de Huang devraient faire l’objet du même examen que les avertissements d’OpenAI, d’Anthropic et d’autres parties intéressées.

Sa position soutient également les modèles à poids ouverts. Les poids ouverts permettent aux développeurs de télécharger ou de modifier les principaux paramètres d’un modèle, bien que les licences et le code d’accompagnement varient. Huang considère un accès plus large comme un contrepoids à un marché dominé par quelques laboratoires propriétaires.

Les modèles ouverts compliquent la réglementation, car aucun fournisseur unique ne contrôle chaque déploiement en aval. Ils peuvent améliorer la transparence, le contrôle local et l’accès à la recherche. Ils peuvent aussi rendre certaines protections plus difficiles à appliquer une fois que les poids circulent.

Des règles strictes sur la distribution des modèles pourraient consolider le marché autour de fournisseurs fermés. À l’inverse, laisser des modèles ouverts capables entièrement à l’appréciation volontaire peut affaiblir les contrôles qui reposent sur la révocation des accès ou le suivi de l’utilisation.

Cette tension montre pourquoi le « fabricant de produits d’IA » n’est pas une catégorie stable. Un fournisseur de puces, un développeur de modèles, un hébergeur cloud, un fournisseur d’applications et une entreprise qui déploie l’IA prennent des décisions de sécurité différentes. Attribuer toute la responsabilité au fabricant du produit soulève une autre question : quel fabricant ?

Un fournisseur de modèles fondamentaux peut tester des capacités générales, mais ne peut pas prévoir chaque contexte d’utilisation en aval. Une entreprise d’applications comprend ses utilisateurs, mais peut ne pas connaître les détails de l’entraînement du modèle. Les fournisseurs cloud peuvent surveiller l’infrastructure tout en n’ayant pas de visibilité sur chaque tâche.

Une gouvernance efficace doit répartir les responsabilités tout au long de cette chaîne. Les fournisseurs de modèles peuvent divulguer leurs évaluations et leurs limites connues. Les développeurs d’applications peuvent tester leurs usages spécifiques. Les déployeurs peuvent contrôler les données, les accès et la révision humaine.

Les régulateurs peuvent alors se concentrer sur les lacunes de responsabilité entre ces parties. Cette approche est plus précise que de traiter tous les systèmes d’IA de la même manière. Elle est également plus exigeante que de faire confiance à la certitude d’une entreprise quant à sa mise sur le marché.

Les événements récents montrent pourquoi la confiance seule doit être mise à l’épreuve. Des entreprises de logiciels dotées d’équipes d’ingénierie expérimentées livrent encore des défauts dommageables. Les délais concurrentiels, les tests incomplets, les silos organisationnels et les interactions imprévues peuvent déjouer les meilleures intentions.

L’IA accroît cette difficulté, car son comportement varie selon les prompts, les outils connectés, les données récupérées et le contexte utilisateur. Un agent peut agir de manière sûre dans un environnement de test, mais échouer après avoir obtenu l’accès aux e-mails, aux dépôts de code, aux systèmes de paiement ou aux contrôles administratifs.

La critique essentielle de Huang n’est donc pas que les ingénieurs ne peuvent pas construire des systèmes sûrs. Ils le doivent. Elle est que les entreprises ne peuvent pas garantir que leurs incitations internes produiront systématiquement le niveau de risque que la société choisirait.

L’évaluation indépendante offre une réponse sans exiger une large pause dans le développement. Les évaluateurs peuvent tester des risques définis, examiner les processus et signaler les limites. Le gouvernement peut créer une protection juridique pour la coordination et définir des exigences minimales d’accès.

Le débat sur le ralentissement du secteur montre combien la coordination reste difficile. La concurrence nationale, la rivalité internationale et les incitations au profit découragent toutes la retenue unilatérale.

Huang considère cette pression comme une discipline de marché utile. Ses détracteurs y voient la raison pour laquelle l’autorégulation échouera précisément au moment où la prudence deviendra coûteuse. C’est le compromis central de l’article, et aucun camp ne peut le trancher par la seule rhétorique.

Trois signaux mettront à l’épreuve la position de Jensen Huang sur la réglementation de l’IA

La prochaine phase sera déterminée par des preuves mesurables issues d’évaluations indépendantes, de l’application de la réglementation et d’échecs concrets de déploiement.

Le premier signal sera de savoir si les laboratoires à la pointe accordent un accès durable à des évaluateurs indépendants. Un test de référence ponctuel n’offre qu’une garantie limitée, car les modèles, les prompts système, les outils et les paramètres de déploiement peuvent évoluer.

Un accès continu permettrait d’évaluer la capacité du secteur à instaurer une supervision crédible sans attendre une législation détaillée. Il révélerait également si les grandes entreprises acceptent un examen critique lorsque les évaluateurs identifient des résultats susceptibles de retarder une mise sur le marché.

Si plusieurs laboratoires adoptent des modalités d’accès comparables et publient des conclusions substantielles, l’argument de Huang en faveur d’une sécurité pilotée par les entreprises gagnera en force. Ces entreprises démontreraient que des actions volontaires peuvent produire des éléments de preuve indépendants.

Si l’accès reste sélectif ou disparaît lors de lancements concurrentiels, la conclusion inverse s’impose. Les décideurs publics auraient davantage de raisons d’exiger des évaluations plutôt que de se fier à des engagements facultatifs.

Le deuxième signal concernera les premiers résultats de l’application des règles par le Bureau européen de l’IA. Les autorités disposent désormais de pouvoirs couvrant les obligations relatives à l’IA à usage général, la documentation, les mesures correctives et les sanctions.

L’indicateur important n’est pas le nombre d’enquêtes. Il s’agit de savoir si l’application des règles permet d’identifier des risques substantiels, d’améliorer les pratiques des fournisseurs ou de créer une transparence utile pour les clients et les chercheurs.

Une application claire et techniquement éclairée affaiblirait l’affirmation de Huang selon laquelle une nouvelle réglementation apporte peu de valeur. Elle montrerait que l’autorité juridique peut compléter l’ingénierie sans dicter chaque décision technique.

Une application confuse ou purement procédurale renforcerait sa critique. Si les entreprises dépensent beaucoup pour remplir des formulaires tandis que les résultats en matière de sécurité restent inchangés, le camp privilégiant l’ingénierie gagnerait des arguments convaincants.

Le troisième signal sera le prochain incident sérieux impliquant une action autonome de l’IA ou un déploiement à forts enjeux. Les questions décisives porteront sur la détection, le confinement, la divulgation et la responsabilité.

Si une entreprise détecte le problème lors de tests internes et retire le système, cela soutient le modèle de confiance défendu par Huang. Si la surveillance limite un incident en production et que le fournisseur partage rapidement des informations utiles, l’ingénierie volontaire y trouvera également un appui.

Une défaillance découverte par des acteurs extérieurs raconterait une histoire différente. Il en irait de même d’un incident dans lequel les parties affectées ne peuvent obtenir de documents, identifier le fournisseur responsable ou obtenir une indemnisation en vertu du droit existant.

Le public devrait observer la manière dont les entreprises réagissent, et pas seulement la survenue de défaillances. Aucune technologie complexe n’atteint zéro défaut. L’aviation, la médecine et la cybersécurité recourent toutes à des systèmes à plusieurs niveaux, car les contrôles individuels peuvent échouer.

La gouvernance de l’IA a besoin du même pragmatisme. Le choix pertinent n’est pas entre innovation et sécurité. Il porte sur la combinaison d’ingénierie, de pression du marché, d’examen indépendant et de droit qui crée des incitations fiables.

Les développeurs devraient vérifier si les normes d’évaluation deviennent interopérables entre les fournisseurs. Les acheteurs d’entreprise devraient exiger des preuves liées à leur contexte de déploiement. Les travailleurs du savoir devraient demander quand un modèle peut agir, à quelles informations il peut accéder et comment contester ses résultats.

La position de Jensen Huang sur la réglementation de l’IA formule une proposition claire et vérifiable. Les entreprises connaissent le mieux leurs systèmes, les marchés pénalisent les produits dangereux et le droit existant peut traiter les préjudices restants.

Sa faiblesse est tout aussi claire. Les entreprises qui décident de ralentir sont souvent les mêmes que celles récompensées pour avoir avancé les premières. Leur confiance peut être sincère sans refléter la tolérance au risque des utilisateurs ou du public.

Huang a raison sur un point : les législateurs ne peuvent pas déléguer la sécurité technique à la législation. Ses détracteurs ont raison sur un autre : les décisions d’ingénierie ne déterminent pas qui supporte le risque ni qui peut examiner les preuves.

Les trois prochains mois devraient produire davantage que des discours. Surveillez l’accès des évaluateurs, l’application des règles par l’UE et la responsabilité en cas d’incident. Ensemble, ces signaux montreront si une sécurité pilotée par les entreprises peut gagner la confiance ou si des contrôles externes contraignants deviennent inévitables.