Les garde-fous de Guterres pour l'IA opposent la coopération mondiale à la course à l'IA
António Guterres a appelé à des garanties coordonnées pour l'IA le 16 septembre, avertissant que des pauses volontaires ne peuvent pas contenir des risques qui se propagent au-delà des frontières nationales. La proposition de garde-fous de Guterres pour l'IA place les gouvernements, les développeurs d'IA de pointe et des stratégies nationales concurrentes au cœur d'un même conflit. Les capacités de l'IA progressent dans le cadre d'une course mondiale, tandis que la plupart des engagements de sécurité restent locaux, volontaires ou difficiles à vérifier.
Le secrétaire général des Nations unies a lancé cet appel avant la semaine de haut niveau de la 81e Assemblée générale de l'ONU à New York. Il a soutenu que les gouvernements doivent protéger les citoyens des risques liés à l'IA tout en préservant les bénéfices de cette technologie pour l'éducation, la santé, le développement et la résilience climatique.
Son intervention était plus précise qu'un simple appel général en faveur d'une innovation responsable. Guterres a rejeté les pauses isolées comme réponse suffisante et a appelé à des contacts, à l'échange d'informations et à des garanties communes entre les pays disposant de capacités avancées en IA. Cette position remet en cause à la fois la concurrence sans restriction et l'idée selon laquelle les entreprises individuelles peuvent seules gérer les risques systémiques.
La question centrale est celle de l'application. Les gouvernements conviennent largement que l'IA doit être sûre, transparente et responsable, mais ils divergent sur l'entité qui doit fixer les limites. Ils ne s'accordent pas non plus sur le fait de savoir si ralentir le développement protégerait le public ou sacrifierait des avantages économiques et stratégiques.
Les garde-fous de Guterres pour l'IA déplacent le débat au-delà des pauses volontaires
Guterres demande aux gouvernements de remplacer des promesses dispersées par un système coordonné de détection et de gestion des risques liés à l'IA de pointe.
Lors de sa conférence de presse de septembre, Guterres a déclaré que le développement de l'IA avançait plus vite que la compréhension qu'a la société de ses dangers. Il a noté que certains développeurs avaient appelé à une pause, tandis que beaucoup d'autres souhaitaient des garde-fous.
Sa réponse ne constituait pas un soutien à un arrêt mondial immédiat. Il a plutôt affirmé que les pauses volontaires échoueraient lorsqu'elles seraient isolées, invérifiables et appliquées de manière inégale. Un laboratoire qui ralentit a peu d'effet si ses concurrents continuent de développer ailleurs des modèles plus performants.
Cette distinction définit la proposition. Une pause porte sur la vitesse du développement, tandis qu'un garde-fou établit les conditions dans lesquelles le développement, les tests ou le déploiement peuvent se poursuivre. Ces conditions pourraient inclure des évaluations indépendantes, le signalement des incidents, des contrôles d'accès, des exigences de sécurité ou des seuils déclenchant une supervision supplémentaire.
Guterres n'a pas présenté de cadre réglementaire achevé. Il a appelé à une compréhension commune des situations dans lesquelles des systèmes toujours plus capables nécessitent des garanties renforcées. L'objectif immédiat est donc la coordination politique, et non une loi mondiale unique et détaillée.
Il a également attribué la responsabilité principale aux gouvernements. Les entreprises d'IA conçoivent et exploitent les systèmes, mais les gouvernements disposent de l'autorité juridique, des canaux diplomatiques et de la responsabilité publique. Son argument est que les engagements des entreprises ne peuvent pas se substituer à ces fonctions lorsque les défaillances touchent des personnes en dehors du marché domestique d'une entreprise.
La dimension internationale est importante, car un même modèle peut servir des utilisateurs dans de nombreux pays. Une capacité cyber, un outil de médias synthétiques trompeurs ou un système de recherche automatisé peuvent traverser les frontières via l'accès aux logiciels. Les règles nationales peuvent contraindre un fournisseur, mais elles ne peuvent pas contenir entièrement les préjudices créés ou diffusés ailleurs.
Guterres a qualifié l'IA de l'une des trois menaces existentielles auxquelles le monde est confronté, aux côtés de la crise climatique et de l'aggravation des inégalités. Cette description inscrit la gouvernance de l'IA dans la responsabilité plus large de l'ONU face aux risques collectifs, sans pour autant établir que chaque système d'IA actuel présente un danger existentiel.
Il a également déclaré que l'IA serait un sujet majeur de ses discussions avec les dirigeants mondiaux au cours de la semaine suivante. Il a toutefois rejeté l'idée d'organiser un sommet immédiat sur l'IA lors du rassemblement de l'Assemblée générale. Un sommet sérieux nécessiterait une préparation et la participation des gouvernements, des entreprises, des scientifiques et de la société civile.
Ce calendrier mesuré est significatif. Il évite de présenter une réunion diplomatique unique comme la solution à un problème technique et géopolitique. Il crée également une épreuve plus difficile : l'ONU doit transformer l'attention suscitée pendant la semaine de haut niveau en un processus produisant des engagements précis et vérifiables.
La proposition de garde-fous de Guterres pour l'IA modifie donc la question de politique publique. Le débat ne porte plus simplement sur la nécessité de ralentir l'IA avancée. Il porte sur la capacité des gouvernements à établir des seuils communs, des méthodes de test et des canaux de communication avant que la pression concurrentielle ne rende la retenue politiquement inacceptable.
La pression s'exerce sur les gouvernements et les laboratoires d'IA de pointe
Les gouvernements sont désormais poussés à définir des exigences de sécurité applicables, tandis que les laboratoires d'IA doivent démontrer que leurs contrôles internes fonctionnent au-delà de démonstrations soigneusement encadrées.
Guterres a adressé son affirmation institutionnelle la plus incisive aux gouvernements nationaux. Il a décrit la protection des citoyens contre les menaces de l'IA comme une responsabilité fondamentale des gouvernements. Cette position remet en cause les décideurs qui préfèrent laisser les décisions de sécurité largement aux développeurs.
Elle met également sous pression les laboratoires de pointe, c'est-à-dire les organisations qui développent les modèles généralistes les plus capables. Ces entreprises publient fréquemment des cadres de sécurité, des évaluations de modèles et des politiques de déploiement. Pourtant, chaque organisation définit ses propres seuils, choisit une grande partie de ses propres tests et décide de la quantité d'éléments probants à divulguer.
Un engagement volontaire peut être sincère tout en échouant comme politique publique. Les concurrents peuvent mesurer le risque différemment. Les nouveaux entrants peuvent refuser de participer. Les gouvernements et les chercheurs externes peuvent ne pas disposer de l'accès technique nécessaire pour vérifier qu'une entreprise a suivi le processus qu'elle a déclaré.
Les incitations concurrentielles renforcent cette faiblesse. Un laboratoire qui retarde un modèle pour effectuer des tests supplémentaires en assume le coût, tandis qu'un autre développeur peut capter utilisateurs, revenus, talents et influence stratégique. La sécurité devient un problème d'action collective, dans lequel des décisions individuellement rationnelles produisent un résultat globalement moins sûr.
Le récent débat industriel illustre ce conflit. Certains dirigeants de premier plan ont soutenu les évaluations de modèles, la surveillance et des formes limitées de rythme de développement coordonné. D'autres avertissent que de vastes restrictions concentreraient le pouvoir entre les mains des laboratoires établis ou avantageraient les concurrents étrangers.
Le différend ne se limite pas à opposer les défenseurs de la sécurité et les entreprises technologiques. Il existe également parmi les développeurs d'IA. Les entreprises divergent sur les dangers à prioriser, le fonctionnement des évaluateurs et la capacité des gouvernements à superviser le travail technique sans figer la concurrence.
Une préoccupation concerne la captation réglementaire. Si un petit groupe de grands laboratoires contribue à définir des seuils mondiaux, ces règles pourraient refléter leurs systèmes, leurs ressources et leurs intérêts commerciaux. Des coûts de conformité apparemment gérables pour les développeurs établis pourraient exclure les petites entreprises et les équipes universitaires.
Le PDG de Cohere, Aidan Gomez, a soulevé cette préoccupation dans le cadre du débat plus large sur un rythme de développement de l'IA coordonné. Il a soutenu que les règles applicables à une technologie aux conséquences importantes ne devraient pas être écrites par un petit groupe d'entreprises aux intérêts commerciaux alignés. Son objection n'élimine pas la nécessité de garanties, mais elle remet en cause qui peut les concevoir.
Des experts indépendants ont également mis en doute la véritable indépendance d'évaluateurs intégrés. Un auditeur qui dépend d'une entreprise pour l'accès, le financement ou la poursuite de la coopération peut être limité lorsqu'il doit signaler des résultats défavorables. Les normes communes ne comptent que lorsque des acteurs extérieurs peuvent tester leur fonctionnement.
Dans le même temps, les gouvernements ne disposent pas d'une visibilité complète sur le développement de l'IA de pointe. Les responsables peuvent ne pas savoir à quel moment un modèle acquiert une capacité dangereuse, comment les évaluations internes ont été construites ou si une mesure d'atténuation déclarée demeure efficace après le déploiement. L'expertise est inégalement répartie entre les agences et les pays.
Cette asymétrie donne aux laboratoires une influence sur les éléments probants utilisés pour les réglementer. Elle explique également pourquoi Guterres a lié la coordination politique à une évaluation scientifique indépendante. Les décideurs ont besoin d'une base technique commune avant de pouvoir convenir de seuils ou comparer l'application nationale des règles.
Les acheteurs d'entreprise font face à une pression connexe. Ils utilisent de plus en plus l'IA pour le développement logiciel, la recherche, le support client, le recrutement et le travail de connaissance. La fragmentation réglementaire mondiale peut obliger ces organisations à évaluer différentes exigences de divulgation et de conformité selon les marchés.
De bons registres internes aident les équipes à comprendre quels systèmes ont traité des informations sensibles, quels résultats ont influencé les décisions et quand les politiques ont changé. Une base de connaissances IA consultable ne peut pas remplacer la réglementation, mais elle peut conserver les éléments probants nécessaires aux audits et aux examens d'incidents.
La réponse imposée est donc double. Les gouvernements doivent élaborer des exigences applicables capables de résister à la concurrence internationale. Les laboratoires d'IA doivent accepter des formes de tests et de divulgation qui ne reposent pas entièrement sur la confiance accordée à leurs propres affirmations en matière de sécurité.
La coordination mondiale se heurte à la course à l'IA
Le conflit principal oppose la sécurité coordonnée à une course stratégique dans laquelle chaque pays craint que la retenue ne profite à ses rivaux.
Guterres a reconnu que les divisions géopolitiques pourraient pousser les principaux États à développer l'IA aussi rapidement que possible. Dans cet environnement, un gouvernement peut considérer la proposition de sécurité d'un autre pays comme une tentative de limiter ses capacités plutôt que de protéger le public.
Les États-Unis et la Chine dominent cette tension, mais Guterres a explicitement déclaré que la coordination devrait s'étendre au-delà des deux plus grandes puissances. D'autres pays accueillent des laboratoires avancés, des chaînes d'approvisionnement en semi-conducteurs, des centres de données, des institutions de recherche et d'importants viviers de talents techniques.
Aucun cadre universel ne peut fonctionner s'il ne considère ces gouvernements que comme des destinataires de règles. Les pays disposant de moins de capacités de calcul ont également des intérêts distincts. Ils veulent accéder aux bénéfices économiques de l'IA, être représentés dans l'élaboration des normes et être protégés contre des systèmes construits ailleurs.
Cela différencie la gouvernance de l'IA d'un simple régime de sécurité des produits. La technologie sous-jacente affecte la recherche scientifique, la planification militaire, les opérations cyber, la compétitivité industrielle et les systèmes d'information. Les gouvernements voient à la fois une opportunité commerciale et une source de puissance nationale dans les mêmes modèles.
Les États-Unis ont mis l'accent sur le maintien de leur leadership face à la Chine et sur l'évitement de restrictions qui affaibliraient les développeurs nationaux. La résistance politique aux vastes mesures de ralentissement reflète des préoccupations liées à l'emploi, à l'investissement, à la défense et à l'avantage stratégique. Elle reflète également le scepticisme à l'égard d'un contrôle international centralisé.
La Chine a ses propres priorités en matière de sécurité, de développement et de gouvernance. Tout accord mondial significatif nécessiterait des mécanismes que les deux parties jugeraient crédibles. Des déclarations générales sur une IA responsable ne résoudront pas les différends concernant l'accès aux modèles, les contrôles sur les semi-conducteurs, les inspections ou les informations techniques sensibles.
Guterres a évoqué les communications de la guerre froide comme référence historique. Les États-Unis et l'Union soviétique ont maintenu le contact et négocié des mesures de réduction des risques malgré une profonde hostilité. Cette analogie soutient une coordination limitée entre concurrents sans exiger d'alignement politique.
Cependant, l’IA n’est pas identique aux armes nucléaires. Son développement de pointe est réparti entre entreprises privées, organismes de recherche, fournisseurs cloud et gouvernements. Les systèmes d’IA sont également copiés, modifiés et déployés plus rapidement que les grandes plateformes d’armement.
La leçon pertinente est plus restreinte. Des puissances rivales peuvent créer des canaux de communication lorsque les accidents, les erreurs de calcul ou une concurrence sans garde-fous menacent les deux parties. Pour l’IA, ces canaux pourraient soutenir la notification d’incidents, des concepts d’évaluation communs ou des consultations avant le déploiement de systèmes aux capacités particulièrement dangereuses.
Un accord utile devrait identifier des comportements observables. Les gouvernements pourraient comparer la manière dont les laboratoires évaluent les risques cybernétiques ou biologiques, définir des exigences de signalement pour les incidents graves, ou reconnaître des procédures de test équivalentes entre juridictions.
La vérification reste difficile. Les capacités des modèles peuvent émerger grâce à de nouveaux prompts, à l’accès à des outils, au fine-tuning ou à l’interaction avec des systèmes externes. Un modèle qui semble maîtrisable lors d’un test contrôlé peut se comporter différemment après son déploiement ou son intégration dans un flux de travail autonome.
Le partage d’informations crée un autre compromis. Les régulateurs ont besoin d’un accès suffisant pour évaluer la sécurité, mais les entreprises et les gouvernements souhaitent protéger la propriété intellectuelle et la sécurité nationale. Un cadre exigeant une divulgation sans restriction suscitera des résistances. Un cadre acceptant des affirmations confidentielles manquera de crédibilité.
L’Union européenne illustre une alternative régionale. Son AI Act impose des obligations légales aux fournisseurs et aux déployeurs, notamment des exigences concernant l’IA à usage général et les risques systémiques. Les autorités européennes ont commencé à appliquer les dispositions pertinentes en août 2026 dans le cadre officiel de l’AI Act.
Ce système offre un modèle réglementaire concret, mais il ne constitue pas une coordination mondiale. Il s’applique par l’autorité juridique européenne et l’accès au marché. D’autres juridictions peuvent adopter des seuils, des structures d’application et des définitions différents.
Ce contraste éclaire l’objectif des garde-fous pour l’IA proposés par Guterres. Ils ne remplaceraient pas nécessairement les lois régionales ou nationales. Leur valeur pratique viendrait de l’établissement d’un langage commun minimal pour les risques graves qu’aucun régulateur national ne peut gérer seul.
L’ONU dispose d’une base scientifique, mais pas d’un régulateur mondial
L’ONU a mis en place des institutions pour partager les preuves et dialoguer, mais ces institutions ne peuvent pas faire appliquer des règles sur l’IA ni contraindre les laboratoires à divulguer des informations sensibles.
La proposition de Guterres n’est pas née dans un vide institutionnel. En septembre 2024, les États membres de l’ONU ont adopté le Pacte numérique mondial dans le cadre du Pacte pour l’avenir. L’accord appelait à la coopération internationale, à la supervision humaine, à la responsabilité et à une gouvernance de l’IA fondée sur des données probantes.
Le Pacte numérique mondial engageait également les gouvernements à créer un panel scientifique indépendant et un dialogue mondial sur les politiques publiques. Ces mécanismes ont été conçus pour relier les preuves techniques aux négociations entre États et autres parties prenantes.
L’Assemblée générale a fait avancer cet engagement le 26 août 2025. La résolution A/RES/79/325 a créé le Panel scientifique international indépendant sur l’IA et le Dialogue mondial sur la gouvernance de l’IA. La résolution a été adoptée sans vote, signalant un large soutien à ces institutions.
Le panel compte 40 membres exerçant à titre personnel. Ils viennent des cinq régions de l’ONU et apportent une expertise issue du monde universitaire, de l’industrie, de la société civile et des domaines techniques. Leur sélection a suivi un appel ouvert ayant attiré plus de 2 600 candidatures dans plus de 140 pays.
Son mandat consiste à produire des évaluations annuelles fondées sur des données probantes concernant les opportunités, les risques et les effets de l’IA. Ces rapports doivent éclairer le Dialogue mondial, au sein duquel les gouvernements peuvent débattre des approches de gouvernance avec l’industrie, les chercheurs, la société civile et la communauté technique.
Le rapport préliminaire du panel a identifié des risques liés au déploiement de l’IA à grande échelle, notamment des préjudices à la santé mentale, des usages destructeurs, des effets sur les systèmes sociaux et environnementaux, ainsi que les difficultés de contrôle des technologies avancées. Ces catégories offrent aux diplomates un point de départ pour déterminer les risques exigeant une réponse collective.
Cette structure répond à une faiblesse récurrente des débats internationaux sur l’IA. Les gouvernements négocient souvent en s’appuyant sur des définitions incompatibles, des preuves privées ou des affirmations spéculatives. Une évaluation scientifique partagée peut clarifier les points d’accord entre experts, les domaines où les preuves restent limitées et les méthodes d’évaluation à améliorer.
Pourtant, le panel n’est explicitement pas un régulateur. Selon le mandat du panel de l’ONU, il ne peut ni imposer de règles, ni faire appliquer des normes, ni prescrire des politiques contraignantes. Son influence dépend de la qualité de ses travaux et de la volonté des gouvernements d’agir.
Le Dialogue mondial présente des limites similaires. Il peut élargir la participation et développer une compréhension commune, mais ne peut contraindre un État à adopter une loi. Il ne peut pas non plus forcer un développeur d’IA à fournir les poids de ses modèles, les détails de l’entraînement, les résultats de tests internes ou un accès à des évaluateurs externes.
Cela crée le compromis central de l’article. Des institutions inclusives renforcent la légitimité, en particulier pour les pays exclus des forums technologiques plus restreints. Toutefois, une participation universelle peut ralentir les accords et produire des formulations suffisamment larges pour accommoder des positions nationales contradictoires.
Une coalition plus restreinte pourrait avancer plus rapidement. Des pays disposant de laboratoires de pointe et d’infrastructures de calcul avancées pourraient établir des normes techniques ou des mécanismes de communication d’urgence. Toutefois, un tel groupe risquerait de marginaliser les pays qui subissent les effets de l’IA sans en maîtriser le développement.
Guterres semble rechercher ces deux niveaux. Le panel de l’ONU peut fournir une évaluation scientifique mondiale, tandis que les États capables peuvent établir des contacts plus directs et des garde-fous communs. Les membres plus largement représentés peuvent ensuite débattre de légitimité, d’accès, de développement et d’implications pour les droits humains.
Cette approche rappelle d’autres régimes internationaux de gestion des risques, qui séparent l’évaluation scientifique, la négociation politique et l’application nationale. Elle évite de prétendre qu’une seule institution peut remplir toutes les fonctions. Elle crée aussi plusieurs points où les progrès peuvent se bloquer.
Le consensus scientifique ne produit pas automatiquement un consensus politique. Les gouvernements peuvent convenir qu’une capacité est dangereuse tout en divergeant sur la manière de la mesurer. Ils peuvent accepter un test tout en rejetant les inspections. Ils peuvent soutenir le signalement tout en dissimulant des incidents pour des raisons de sécurité nationale.
La base de l’ONU est donc significative, mais incomplète. Elle peut organiser les preuves et les négociations. Elle ne peut pas encore garantir que les laboratoires ou gouvernements les plus capables respecteront les mêmes règles lorsque la concurrence s’intensifiera.
La question la plus difficile est celle de la vérification de la retenue
Un garde-fou sans seuils observables, tests indépendants et conséquences en cas de violation reste une promesse volontaire de plus.
Guterres a identifié la vérification comme une faiblesse centrale des pauses unilatérales. Le même critère s’applique à toute alternative qu’il soutient. Une protection coordonnée doit préciser ce qui est mesuré, qui peut examiner les preuves et ce qui se passe lorsqu’un participant échoue.
Le premier défi consiste à définir la capacité réglementée. La taille des modèles et la puissance de calcul d’entraînement sont plus faciles à mesurer que de nombreux comportements en aval, mais elles ne prédisent pas parfaitement le risque. Des modèles plus petits peuvent acquérir des capacités importantes grâce aux outils, à des données spécialisées ou au fine-tuning.
Les tests de capacité ont également leurs limites. Un laboratoire peut évaluer si un modèle peut aider à mener des cyberattaques ou des recherches biologiques, mais les performances dépendent des prompts, de l’accès, de l’échafaudage logiciel et de la compétence de l’évaluateur. Réussir un benchmark ne démontre pas la sécurité dans tous les déploiements réels.
Le deuxième défi est l’indépendance des évaluateurs. Les entreprises détiennent des connaissances techniques essentielles et l’accès aux systèmes, de sorte que les évaluations exigent leur coopération. Pourtant, une évaluation contrôlée par le fournisseur ne peut avoir la même crédibilité qu’une évaluation conçue et examinée par un organisme externe.
Les gouvernements pourraient autoriser des évaluateurs accrédités, établir des environnements de test sécurisés ou exiger des rapports confidentiels aux régulateurs. Ces options protègent les informations sensibles tout en assurant une supervision. Elles dépendent néanmoins de règles claires sur les conflits d’intérêts et de capacités techniques suffisantes.
Le troisième défi est la comparabilité internationale. Si un pays évalue le risque cybernétique et qu’un autre se concentre sur la désinformation, un label commun tel que « sûr » révèle peu de chose. Des garde-fous communs exigent des catégories de test minimales, des normes de documentation et des définitions d’incident.
Le quatrième défi est le calendrier. Les évaluations avant publication ne saisissent que le comportement connu d’un modèle dans des conditions de test. Des risques peuvent apparaître après le déploiement lorsque des utilisateurs connectent des modèles à des outils logiciels, des bases de données sensibles, des systèmes financiers ou des équipements physiques.
La surveillance après déploiement doit donc compléter l’examen avant publication. Les fournisseurs et les déployeurs ont besoin d’un processus pour consigner les défaillances graves, partager les conclusions pertinentes et mettre à jour les protections. Les régulateurs ont aussi besoin de l’autorité nécessaire pour exiger des mesures correctives lorsque les preuves évoluent.
Le cinquième défi concerne les conséquences. Un accord a peu de valeur lorsqu’un participant peut ignorer un seuil sans perdre l’accès au marché, des licences, des contrats publics, des ressources de calcul ou un autre avantage significatif. L’application doit être suffisamment crédible pour modifier les comportements.
Toutefois, une application agressive peut produire des effets involontaires. Des règles conçues autour des ressources des grands laboratoires peuvent consolider les acteurs établis. Des restrictions sur les modèles ouverts peuvent limiter la recherche indépendante tout en laissant aux fournisseurs fermés un contrôle accru.
La gouvernance peut aussi servir de couverture au protectionnisme. Un pays peut qualifier un modèle étranger de dangereux sans preuves transparentes. Une entreprise peut soutenir un seuil qui pèse davantage sur ses concurrents que sur sa propre architecture.
Ces préoccupations plaident pour une approche progressive. Les gouvernements peuvent commencer par des domaines restreints où les préjudices sont graves, les tests réalisables et les intérêts convergents. Parmi les exemples figurent les restrictions à l’assistance pour créer des armes biologiques ou les exigences de signalement des incidents cybernétiques majeurs facilités par un modèle.
Ils peuvent également renforcer la confiance mutuelle par des exercices communs. Des équipes indépendantes pourraient tester des modèles comparables selon les mêmes catégories de risque, dans des conditions protégées. Les régulateurs pourraient ensuite comparer les résultats sans exiger la publication des détails techniques sensibles.
Aucune de ces mesures ne garantit le contrôle des systèmes futurs. Sandra Wachter, spécialiste de la régulation technologique à Oxford, a qualifié une coordination mondiale étendue de très irréaliste dans les conditions géopolitiques actuelles. Ce scepticisme doit rester central plutôt que d’apparaître comme une note de bas de page.
La proposition de garde-fous pour l’IA de Guterres ne prouve donc pas qu’un système applicable existe déjà. Elle exige que les gouvernements affrontent directement le problème de la vérification. Le critère de réussite n’est pas une nouvelle déclaration de principes. C’est une coopération observable qui modifie la manière dont les systèmes à haut risque sont testés, publiés et surveillés.
Trois signaux montreront si la coopération devient réelle
Le prochain test consiste à déterminer si l’attention politique produit des institutions précises, des procédures techniques et la participation des pays et des entreprises qui font avancer le développement de pointe.
Le premier signal est le contenu des discussions de Guterres durant la semaine de haut niveau de l’Assemblée générale. Une approbation générale d’une IA sûre apporterait peu. Un signal plus fort serait un accord entre États capables visant à établir des contacts récurrents, à échanger des informations sur les incidents graves ou à élaborer des catégories d’évaluation communes.
La participation compte autant que la langue. Un processus qui exclut soit les États-Unis, soit la Chine ne peut pas gérer la course stratégique décrite par Guterres. Il aurait également besoin de la contribution d’autres pays disposant de capacités avancées en recherche, d’infrastructures de calcul et de moyens réglementaires.
Si les gouvernements annoncent un canal durable avec des participants nommés et un périmètre défini, l’argument central gagne en crédibilité. S’ils ne produisent que de larges déclarations, l’écart entre préoccupation diplomatique et coordination opérationnelle subsiste.
Le deuxième signal concerne la manière dont le Groupe scientifique international indépendant transforme ses travaux préliminaires en évaluations reproductibles. Son mandat de rapport annuel peut créer une base factuelle commune, mais seulement s’il explique la qualité des preuves, les désaccords non résolus et les méthodes d’évaluation pratiques.
Le groupe devrait être jugé à l’aune de la capacité des régulateurs, chercheurs et entreprises à utiliser ses catégories. Un rapport qui distingue les préjudices démontrés des risques futurs incertains renforcerait le débat politique. Des méthodes claires rendraient également plus difficile pour les gouvernements de ne retenir que les conclusions qui confortent leurs positions existantes.
Son indépendance mérite un examen attentif. Les membres siègent à titre personnel et doivent déclarer leurs intérêts pertinents, mais le groupe a tout de même besoin d’accéder aux systèmes de pointe et aux éléments de preuve actuels. Sa crédibilité dépendra de méthodes transparentes et d’une volonté manifeste de contester à la fois les affirmations alarmistes et les discours qui minimisent les risques.
Si le groupe publie des concepts de test utiles que les gouvernements adoptent, le processus de l’ONU aura dépassé le stade de la simple concertation. S’il reste déconnecté des régulateurs nationaux et des évaluations en laboratoire, son influence sera principalement consultative.
Le troisième signal est de savoir si les gouvernements associent vérification et conséquences à tout engagement commun. Il faut surveiller les évaluations indépendantes, les rapports d’incidents standardisés, l’accès protégé des régulateurs et des seuils clairement définis pour des garanties renforcées.
Le débat sur le ralentissement de l’IA montre déjà un accord prudent autour des tests et de la surveillance. Il révèle également de profondes divergences sur le rythme global, l’indépendance des auditeurs, la concurrence et le contrôle de l’élaboration des normes.
Un accord restreint et vérifiable aurait plus de poids qu’une pause ambitieuse mais impossible à faire respecter. Les gouvernements pourraient commencer par des évaluations de modèles concernant les usages catastrophiques à des fins de cybercriminalité ou de biologie, puis instaurer des signalements confidentiels et des réponses coordonnées aux incidents graves.
L’absence de conséquences affaiblirait ce signal. Un engagement permettant aux participants de retenir des éléments de preuve ou de redéfinir les seuils après l’échec d’un modèle recréerait le système volontaire critiqué par Guterres.
Les entreprises devraient suivre ces évolutions, car une réglementation fragmentée accroît les coûts de conformité et complique le déploiement mondial. Les développeurs devraient s’y intéresser, car les seuils de sécurité peuvent façonner l’accès aux ressources de calcul, les exigences de test, les calendriers de mise sur le marché et l’exposition juridique.
Les travailleurs du savoir et les utilisateurs ordinaires sont également concernés. Les garde-fous peuvent déterminer si les contenus générés par l’IA sont étiquetés, si les décisions automatisées font l’objet d’un examen humain et comment les fournisseurs réagissent lorsque les modèles causent des préjudices graves. Des règles mal conçues peuvent aussi restreindre des outils utiles sans traiter les systèmes les plus à risque.
La question n’est pas de savoir si chaque pays adoptera des lois identiques sur l’IA. Un tel résultat n’est ni réaliste ni nécessaire. La question immédiate est de savoir si des gouvernements rivaux peuvent s’entendre sur un petit ensemble de risques auxquels aucun ne souhaite faire face seul.
Guterres a clairement formulé le choix : une retenue isolée ne peut pas contrôler une technologie sans frontières, tandis qu’une concurrence sans restriction invite à une course vers le bas. Les gouvernements doivent désormais montrer si les garde-fous de Guterres pour l’IA peuvent devenir des obligations mesurables plutôt qu’une nouvelle aspiration diplomatique.
Surveillez les trois prochaines étapes : une communication formelle entre les États à la pointe de l’IA, des travaux techniquement utiles du groupe scientifique de l’ONU et des engagements soutenus par une vérification indépendante. Ces signaux montreront si la coopération mondiale commence à limiter la course, ou se contente d’en décrire les dangers.
