L’appel d’Altman et d’Amodei pour la sécurité de l’IA atteint l’ONU, mais les gouvernements rejettent toujours un corpus de règles unique

Sam Altman et Dario Amodei ont porté leur campagne pour la sécurité de l’IA devant les 15 membres du Conseil de sécurité, malgré de profondes divergences sur l’autorité qui devrait gouverner les modèles avancés. La réunion du 23 septembre a placé OpenAI et Anthropic au sein de l’organe des Nations unies chargé de la paix et de la sécurité internationales. Elle a également mis en évidence l’obstacle auquel se heurte l’appel d’Altman et d’Amodei pour la sécurité de l’IA : les gouvernements s’accordent sur le fait que les risques dépassent les frontières, mais refusent une autorité commune.

Les dirigeants ne demandaient pas aux diplomates de réglementer les chatbots ordinaires. Ils se sont concentrés sur l’IA de pointe, c’est-à-dire les systèmes généralistes les plus capables actuellement en développement. Leur préoccupation porte sur les modèles susceptibles d’aider à créer des armes biologiques, à mener des cyberattaques ou à accélérer la recherche en IA au-delà d’une supervision humaine effective.

Cette distinction accroît les enjeux pour les développeurs, les entreprises et les organismes publics. Une norme mondiale de sécurité pourrait modifier la manière dont les modèles sont testés, publiés, surveillés et connectés à des systèmes sensibles. Pourtant, la réunion n’a abouti à aucun accord contraignant, et les États-Unis ont explicitement rejeté un contrôle international centralisé.

Les avertissements d’Altman et d’Amodei sur la sécurité de l’IA arrivent au Conseil de sécurité

La réunion a changé le cadre de discussion sur la sécurité de l’IA, mais pas encore les règles qui la régissent.

Altman, directeur général d’OpenAI, a assisté à la réunion du Conseil de sécurité à New York. Amodei, directeur général d’Anthropic, s’est adressé au conseil à distance. Clément Delangue, PDG de Hugging Face, et l’informaticien Yoshua Bengio ont également participé.

Cette intervention était inhabituelle, car le Conseil de sécurité se concentre habituellement sur les guerres, les sanctions, la prolifération nucléaire et les menaces entre États. Son implication a présenté l’IA avancée comme un possible enjeu de sécurité internationale, plutôt que comme une simple question de politique technologique.

Le briefing de l’ONU a décrit cette préoccupation comme un danger qu’aucun pays ne pourrait contenir seul. Bengio, coprésident du panel scientifique indépendant de l’ONU sur l’IA, a averti que des systèmes échappant au contrôle humain ne respecteraient pas les frontières nationales.

Amodei a présenté deux grandes catégories de risques. La première était l’usage délibérément malveillant, notamment la possibilité qu’un bioterroriste utilise un modèle avancé pour faciliter le développement d’armes biologiques. La seconde était la perte de contrôle à mesure que les capacités des modèles progressent plus vite que les développeurs ne peuvent les comprendre ou les contenir.

« Si elle est mal gérée, je crois même que l’IA pourrait représenter un risque pour l’humanité dans son ensemble », a déclaré Amodei au conseil, selon l’Associated Press. Altman a formulé un avertissement tout aussi direct : « Nous pourrions perdre le contrôle de l’avenir au profit de l’IA. »

Ces déclarations comptent parce que les deux entreprises continuent de développer et de publier des systèmes toujours plus capables. Leurs dirigeants ne décrivaient pas une technologie lointaine construite par des concurrents inconnus. Ils évoquaient des risques liés à la même course au développement de pointe que leurs organisations contribuent à mener.

Les entreprises ont également identifié les normes internationales comme point de départ concret. Des évaluations communes pourraient mesurer les capacités dangereuses avant la publication. Un signalement commun des incidents pourrait alerter les gouvernements lorsqu’un modèle se comporte de manière inattendue ou lorsque des acteurs malveillants compromettent un système.

La supervision humaine de la recherche automatisée en IA constituait un autre point d’attention. La recherche automatisée en IA désigne les modèles qui réalisent une partie du travail nécessaire pour concevoir, entraîner ou améliorer d’autres modèles. Ce processus peut accélérer le développement tout en réduisant le temps disponible pour l’examen humain.

OpenAI a déclaré s’attendre à ce que la recherche assistée par l’IA devienne un moteur majeur de progrès. Dans son plan de coordination, l’entreprise a soutenu qu’une organisation internationale devrait aider à coordonner les principaux efforts en IA et à réduire les risques catastrophiques. Elle a également approuvé des ralentissements coordonnés lorsque les mesures de sécurité et les défenses sociétales ne suivent plus les capacités.

La proposition ne précise pas qui déclencherait un ralentissement, quels modèles y seraient soumis ni comment les pays vérifieraient le respect des règles. Ces détails non résolus distinguent une déclaration générale de préoccupation d’un système international applicable.

La session du Conseil de sécurité a donc marqué une reconnaissance institutionnelle, et non un règlement réglementaire. Les dirigeants de l’IA ont obtenu une tribune habituellement réservée aux menaces ayant des conséquences géopolitiques. Les gouvernements ont conservé toute latitude quant à la suite à donner à leurs avertissements.

Pourquoi la coopération mondiale sur la sécurité de l’IA est soudainement urgente

La préoccupation immédiate est que les cycles de développement de l’IA progressent désormais plus vite que les institutions diplomatiques ne peuvent négocier et appliquer des garanties communes.

La réunion faisait suite à une série d’appels publics à modérer le développement de pointe. Amodei avait récemment soutenu que les entreprises et les gouvernements devraient ralentir les gains de capacité lorsque les mesures de sécurité ne peuvent plus suivre. Altman et d’autres dirigeants du secteur ont exprimé leur soutien à une coordination accrue.

Modérer le rythme ne signifie pas nécessairement mettre fin à la recherche en IA. Cela signifie limiter la vitesse d’amélioration des capacités dans des conditions de risque définies. Une politique crédible nécessiterait des seuils mesurables, une évaluation externe et des conséquences pour les développeurs qui les ignorent.

Anthropic affirme que les modèles actuels restent gérables avec les protections existantes. L’entreprise s’attend toutefois à des risques plus sérieux à mesure que les systèmes s’améliorent. Son approche combine des tests avant publication, des évaluations externes, des contrôles propres aux capacités et une Responsible Scaling Policy volontaire.

Cette politique associe des protections renforcées aux éléments indiquant qu’un modèle possède des capacités dangereuses. Anthropic reconnaît également que les évaluations ne peuvent pas détecter de manière fiable chaque défaillance avant le déploiement. Les modèles reconnaissent parfois les conditions de test, ce qui peut rendre les évaluations contrôlées moins représentatives de leur comportement réel.

La publication de Claude Opus 5.5 a illustré cette tension. Anthropic a décrit des tests comportementaux élargis et des protections pour la cybersécurité et la biologie. L’entreprise a toutefois aussi déclaré que la détection fiable de chaque défaillance restait un problème non résolu dans son évaluation de sécurité.

OpenAI fait face au même défi fondamental. Des systèmes plus capables peuvent aider les chercheurs en sécurité, mais ils peuvent également raccourcir les calendriers de développement. Un modèle qui automatise la recherche peut contribuer à découvrir des techniques d’alignement tout en accélérant simultanément le cycle d’entraînement suivant.

Cette boucle de rétroaction préoccupe les décideurs, car la réglementation ordinaire des produits suppose une technologie relativement stable. Les législateurs peuvent étudier une catégorie de produits, définir des normes et contrôler leur respect. La recherche automatisée peut modifier la capacité sous-jacente avant que ce processus ne soit achevé.

Le risque s’étend aussi au-delà d’un laboratoire. Les entreprises connectent de plus en plus des agents d’IA à des dépôts de code, des documents internes, des navigateurs et des logiciels opérationnels. Une défaillance de modèle devient plus lourde de conséquences lorsque le système peut exécuter des actions au lieu de se limiter à générer du texte.

Un agent ayant accès à l’infrastructure d’une organisation pourrait modifier du code, récupérer des dossiers sensibles ou initier des transactions. Ces systèmes exigent des contrôles d’autorisation, des journaux d’audit et une escalade humaine fiable. Ils exigent également que les équipes maintiennent une base de connaissances sur l’IA précise afin d’examiner les décisions et les éléments probants.

La dimension internationale apparaît lorsqu’un même modèle sert des utilisateurs dans de nombreuses juridictions. Une vulnérabilité grave découverte dans un pays peut affecter des clients ailleurs. Un modèle volé peut également être modifié et redéployé en dehors des protections du développeur d’origine.

L’utilisation abusive en biologie pose un problème de coordination encore plus difficile. Les restrictions d’accès sur un marché ont une valeur limitée si un système comparable demeure sans restriction ailleurs. Des contrôles efficaces exigent un accord sur les évaluations, les utilisateurs de confiance et les obligations de signalement.

La cybersécurité produit un conflit similaire lié au double usage. Les systèmes avancés peuvent aider les défenseurs à trouver les vulnérabilités logicielles et à les corriger plus rapidement. La même capacité peut aider les attaquants à identifier des cibles, générer des exploits ou automatiser des campagnes d’intrusion.

Les pays subissent donc une pression dans deux directions. Avancer trop lentement peut laisser des capacités dangereuses sans gestion. Agir seuls peut désavantager les entreprises nationales ou pousser le développement vers des juridictions aux contrôles plus faibles.

Cette pression explique pourquoi Altman et Amodei ont mis l’accent sur la coopération plutôt que sur des interdictions nationales isolées. Leur argument est que les risques de pointe sont partagés, même lorsque les gouvernements sont en concurrence sur les plans économique et militaire.

La proposition devient beaucoup plus difficile lorsque la coopération exige de révéler des informations sensibles. Les gouvernements résisteront au partage de renseignements sur les cyberopérations, les défenses biologiques ou les systèmes militaires. Les entreprises résisteront à l’exposition de détails sur les modèles qui révèlent des techniques propriétaires.

Un système viable doit coordonner la sécurité sans diffuser les connaissances nécessaires pour construire des modèles plus dangereux. Cet équilibre ne dispose d’aucune conception établie, et la réunion du Conseil de sécurité n’en a pas fourni.

Le véritable affrontement oppose les normes mondiales au contrôle national

Le conflit central ne porte pas sur l’existence de risques liés à l’IA avancée ; il porte sur la volonté des gouvernements de céder suffisamment de contrôle pour gérer ces risques ensemble.

Les États-Unis ont rejeté, lors de la réunion, une structure centralisée de gouvernance mondiale. Michael Kratsios, conseiller scientifique de la Maison-Blanche, a déclaré que les préoccupations liées au contrôle ne justifiaient ni de suspendre le développement ni de créer une nouvelle autorité internationale.

Cette position soutient la responsabilité nationale et la coopération technique sans placer le pouvoir final entre les mains de l’ONU. Elle reflète également la valeur stratégique que Washington attribue au leadership américain en IA.

La Chine a plaidé pour un rôle plus important des Nations unies et mis en garde contre la concentration des capacités avancées entre les mains d’un petit nombre de pays ou d’entreprises. Toutefois, le soutien à l’implication de l’ONU ne garantit pas un accord sur les inspections, l’accès aux modèles ou l’application des règles.

Le différend crée une asymétrie difficile. Les gouvernements peuvent approuver de grands principes tels que le contrôle humain, la transparence et le signalement des incidents. Ils deviennent plus prudents lorsque ces principes exigent des inspecteurs externes ou des restrictions sur les laboratoires nationaux.

Un vocabulaire technique commun offre une passerelle possible. Les pays pourraient définir les capacités à haut risque sans s’accorder sur un régulateur unique. Ils pourraient également établir des méthodes de test compatibles tout en conservant l’application des règles dans les systèmes nationaux.

Les évaluations de pointe testeraient si les modèles peuvent soutenir des cyberopérations avancées, la recherche biologique, la réplication autonome ou le développement de l’IA. Les développeurs pourraient communiquer les résultats dans des formats standardisés à des autorités nationales désignées.

La notification des incidents offre une autre forme limitée de coopération. Les États-Unis et la Chine auraient discuté d’un mécanisme pour les événements liés à l’IA affectant la sécurité nationale. Un tel canal pourrait s’apparenter aux communications de crise existantes sans créer d’organisme mondial d’octroi de licences.

Ces mesures laisseraient toutefois d’importantes questions sans réponse. Les gouvernements devraient définir les incidents nécessitant une notification et le délai dans lequel les entreprises doivent les signaler. Ils auraient aussi besoin de protections contre les signalements mensongers, la dissimulation stratégique et les accusations motivées politiquement.

La vérification est le problème le plus difficile. Un pays peut promettre que ses développeurs respectent des seuils de sécurité, mais ses concurrents ont besoin de preuves. Un accès complet aux systèmes d’entraînement exposerait des secrets commerciaux et des informations relevant de la sécurité nationale.

Des évaluateurs tiers peuvent réduire cette tension si toutes les parties leur font confiance. Des organismes de test indépendants pourraient examiner des capacités précises dans des conditions sécurisées. Ils pourraient publier des conclusions sur les risques sans divulguer les poids des modèles ni des détails techniques dangereux.

Pourtant, la confiance envers les évaluateurs est elle-même politique. Un laboratoire accepté par les États-Unis pourrait ne pas l’être par la Chine ou la Russie. Un organisme de test lié à l’ONU pourrait se heurter à la résistance de gouvernements qui rejettent une supervision centralisée.

Le Conseil de sécurité a également des limites structurelles. Ses cinq membres permanents disposent d’un droit de veto et se concurrencent directement pour l’influence militaire et technologique. Un régime d’IA contraignant exigerait la coopération d’États qui sont déjà en désaccord sur les conflits armés, les sanctions et les opérations cybernétiques.

Cela ne rend pas la diplomatie inutile. La réduction du risque nucléaire s’est développée grâce à des accords progressifs, des systèmes d’inspection et des canaux de communication. La gouvernance de l’IA peut suivre une voie similaire sans reproduire exactement le contrôle des armements nucléaires.

L’IA diffère parce que la technologie sous-jacente est largement commerciale et fondée sur des logiciels. Les modèles peuvent être copiés, modifiés ou accessibles via des services cloud. L’infrastructure d’entraînement est visible à grande échelle, mais les logiciels déployés peuvent se diffuser plus vite que les matières nucléaires.

Les modèles à poids ouverts ajoutent un autre conflit. Leurs paramètres peuvent être téléchargés et modifiés, ce qui soutient la recherche et élargit l’accès. Cette même ouverture rend difficile un retrait centralisé ou une surveillance continue après leur publication.

La participation de Delangue a placé cette question aux côtés du programme de sécurité des modèles fermés. Hugging Face représente un écosystème qui valorise l’accès, la recherche et le développement distribué. Sa présence a remis en question l’idée selon laquelle concentrer le contrôle au sein de plusieurs grands laboratoires produit automatiquement l’issue la plus sûre.

Le choix de politique publique qui en résulte ne se résume donc pas à une opposition entre IA ouverte et fermée. Les gouvernements doivent comparer le risque d’usage abusif de modèles largement disponibles au risque de concentration créé par quelques gardiens privés.

C’est pourquoi la proposition d’Altman et Amodei sur la sécurité de l’IA met sous pression à la fois les gouvernements et les développeurs. Les États doivent décider quelle part de souveraineté échanger contre de la coordination. Les entreprises doivent accepter une supervision susceptible de contraindre leurs produits, leurs calendriers et leur stratégie concurrentielle.

Les entreprises qui réclament des règles contrôlent toujours la course

Les appels à une supervision publique ne sont crédibles que si OpenAI et Anthropic acceptent des contraintes qui s’appliquent même lorsque celles-ci deviennent commercialement gênantes.

Les deux entreprises ont investi massivement dans le développement de modèles plus performants. Elles se disputent les clients entreprises, les développeurs, les chercheurs, la capacité de calcul et des relations stratégiques avec les gouvernements. Un ralentissement volontaire peut échouer si l’une ou l’autre estime qu’un rival poursuivra ses efforts.

Ce problème d’incitation dépasse OpenAI et Anthropic. Google DeepMind, Meta, xAI, les laboratoires chinois et de nouveaux développeurs opèrent selon des structures différentes. Certains publient les poids de leurs modèles, tandis que d’autres limitent l’accès via des produits hébergés.

Un accord de sécurité ne couvrant que deux entreprises aurait donc une portée limitée. Il pourrait améliorer leurs pratiques tout en déplaçant l’avantage vers des entreprises extérieures à l’arrangement. Un cadre crédible nécessite des règles fondées sur les capacités, applicables indépendamment de l’identité de l’entreprise.

Le droit de la concurrence introduit une autre complication. Une coordination directe entre principaux concurrents peut soulever des inquiétudes de collusion. Une supervision gouvernementale ou une exemption juridique formelle pourrait être nécessaire pour permettre aux entreprises de discuter des limites de développement et des calendriers de publication.

Même dans ce cas, la coordination en matière de sécurité peut protéger les entreprises établies contre la concurrence. Les grands laboratoires peuvent absorber plus facilement que les petits développeurs les coûts d’évaluation, de sécurité et de reporting. Des règles écrites par les acteurs en place pourraient devenir des barrières préservant leur position sur le marché.

Les critiques se demandent donc si les entreprises de pointe devraient aider à concevoir leur propre supervision. Leur expertise technique est nécessaire, mais leurs intérêts financiers sont inévitables. Les gouvernements doivent intégrer au processus des scientifiques indépendants, des groupes de la société civile, des spécialistes de la sécurité et de plus petits développeurs.

Les propres affirmations de sécurité des entreprises exigent aussi un traitement prudent. Anthropic affirme que ses tests couvrent de nombreux risques graves, mais reconnaît que le tableau reste incomplet. OpenAI soutient un large accès et une distribution des bénéfices tout en exploitant l’une des plateformes de modèles les plus influentes au monde.

Une évaluation externe peut tester des affirmations précises, mais aucun benchmark ne peut prouver qu’un système restera sûr dans tous les environnements. Les déploiements réels impliquent des requêtes imprévues, l’accès à des outils, le comportement des utilisateurs et des interactions avec d’autres logiciels.

La difficulté s’accroît avec les agents de longue durée. Une brève évaluation en laboratoire peut ne pas révéler comment un modèle se comporte durant une tâche de plusieurs jours. De petites erreurs peuvent s’accumuler lorsqu’un agent écrit du code, appelle des services externes et délègue du travail.

Les organisations devraient donc considérer les évaluations de modèles comme une couche de contrôle, et non comme un certificat de sécurité. Les limites de permission, la revue humaine, la surveillance et les procédures d’arrêt restent essentielles. Les équipes ont également besoin de registres indiquant ce qu’un agent a tenté de faire et aux données auxquelles il a accédé.

Le différend sur l’usage militaire constitue un autre test. Les gouvernements souhaitent utiliser des modèles avancés pour l’analyse du renseignement, les opérations cybernétiques, la planification et les systèmes autonomes. Les entreprises peuvent imposer des restrictions que les responsables de la défense jugent incompatibles avec les besoins opérationnels.

Anthropic s’est publiquement opposée à l’utilisation de ses modèles pour la surveillance intérieure de masse et les armes entièrement autonomes sans garanties adéquates. L’entreprise affirme que les systèmes de pointe actuels ne sont pas assez fiables pour sélectionner et engager des cibles sans contrôle humain significatif.

Cette position montre comment les principes de sécurité peuvent entrer en conflit avec les marchés publics gouvernementaux. Une agence de sécurité nationale peut exiger une utilisation légale étendue, tandis qu’un développeur insiste pour que certaines applications restent inacceptables.

Les normes internationales multiplieraient ces désaccords. Les pays ne partagent pas une même définition de la surveillance légale, de l’action militaire légitime ou d’une supervision humaine suffisante. Une règle protégeant les libertés civiles dans une juridiction peut être rejetée ailleurs comme une ingérence étrangère.

Les entreprises doivent aussi expliquer ce qu’un ralentissement signifie en termes opérationnels. Retarderaient-elles un entraînement, reporteraient-elles un déploiement, restreindraient-elles les outils ou limiteraient-elles l’accès à un modèle achevé ? Chaque choix affecte le risque différemment.

Ralentir la publication publique ne ralentit pas nécessairement le développement interne. Restreindre un produit hébergé n’empêche ni le vol ni la reproduction indépendante. Suspendre une capacité peut rediriger la recherche vers une autre voie aux conséquences similaires.

Un engagement significatif nécessite un déclencheur, une réponse mesurable et une vérification indépendante. Il exige aussi une condition de sortie expliquant à quel moment le développement peut reprendre. Sans ces éléments, le rythme reste un principe plutôt qu’un mécanisme de sécurité applicable.

Le scepticisme est donc justifié, mais il n’invalide pas l’avertissement. Une entreprise peut avoir des incitations financières tout en identifiant un risque technique réel. Le défi politique consiste à transformer les connaissances internes en règles que les initiés ne peuvent pas contrôler seuls.

Ce dont la coopération sur la sécurité de l’IA aurait besoin pour fonctionner

Un accord pratique devrait commencer par des obligations techniques ciblées que les gouvernements peuvent vérifier sans créer un régulateur universel de l’IA.

La première obligation devrait être une évaluation standardisée des capacités. Les pays n’ont pas besoin de systèmes politiques identiques pour tester si un modèle facilite des cyberattaques sophistiquées, des usages abusifs en biologie ou la recherche automatisée en IA.

Les tests devraient utiliser des définitions communes et des procédures sécurisées. Les résultats devraient identifier les niveaux de risque sans publier d’instructions permettant des usages abusifs. Les évaluateurs indépendants devraient recevoir un accès suffisant pour contester les affirmations des développeurs.

La deuxième obligation devrait être le signalement obligatoire des incidents. Les développeurs devraient divulguer, dans un délai défini, les vols graves de modèles, les reproductions non autorisées, les défaillances de confinement et les comportements dangereux.

Les règles de signalement doivent distinguer les erreurs ordinaires de produit des événements ayant des implications pour la sécurité internationale. Une réponse erronée d’un chatbot grand public n’est pas équivalente à un système exploitant de manière autonome une infrastructure.

Une taxonomie commune des incidents aiderait les régulateurs à comparer les événements entre entreprises et pays. Elle pourrait décrire la gravité, les capacités concernées, l’accès au modèle, l’intervention humaine et le potentiel de préjudice transfrontalier.

La troisième obligation devrait couvrir la recherche automatisée en IA. Les développeurs devraient documenter lorsque des modèles contribuent à la conception de modèles, à la génération d’évaluations, au code d’entraînement ou à la planification de la recherche. L’approbation humaine devrait rester obligatoire pour les actions qui accélèrent matériellement les capacités de pointe.

Cette exigence traite la boucle de rétroaction qui inquiète Altman et Amodei. Elle n’interdirait pas la recherche assistée par IA. Elle rendrait l’accélération visible avant que les entreprises ne deviennent dépendantes de processus que les humains ne peuvent pas auditer de manière adéquate.

La quatrième obligation devrait protéger l’infrastructure des modèles. Une politique de sécurité a peu de valeur si des attaquants peuvent voler des poids, compromettre des systèmes de déploiement ou extraire des capacités par le biais de requêtes à grande échelle.

Les exigences de sécurité pourraient couvrir l’accès des employés, la gestion des identifiants, les environnements de calcul, les tests externes et la planification des réponses. Les contrôles les plus stricts devraient s’appliquer aux modèles qui franchissent des seuils de capacité définis.

La cinquième obligation devrait établir des canaux de communication fiables entre les grandes puissances. Les gouvernements ont besoin d’un moyen de se notifier mutuellement les incidents graves liés à l’IA sans divulguer publiquement des détails opérationnels sensibles.

Ces canaux ne résoudraient pas les différends politiques. Ils pourraient empêcher qu’un événement cybernétique facilité par l’IA ou une défaillance de modèle soit interprété à tort comme une agression délibérée d’un État.

Un accord limité construit autour de ces obligations différerait de l’autorité mondiale rejetée par Washington. Les régulateurs nationaux pourraient faire respecter la conformité intérieure tout en utilisant des normes techniques communes.

Ce modèle fédéré reste toutefois exposé au contournement. Des développeurs pourraient entraîner des modèles dans des juridictions aux règles plus faibles ou répartir le travail entre des affiliés. Les fournisseurs cloud pourraient contribuer en appliquant des exigences de sécurité et de signalement aux grands clients d’entraînement.

La gouvernance du calcul offre un levier parce que l’entraînement de pointe exige une infrastructure importante. Toutefois, les seuils de calcul peuvent devenir obsolètes à mesure que les algorithmes progressent. Les règles doivent tenir compte des capacités, et ne pas reposer uniquement sur l’usage du matériel.

Les modèles ouverts exigent un traitement distinct. Restreindre tout développement ouvert supprimerait des recherches légitimes et concentrerait le pouvoir. Ignorer les publications de modèles très capables rendrait impossible la mise à jour des garanties après leur diffusion.

Une approche à plusieurs niveaux pourrait distinguer les modèles largement utiles des systèmes aux capacités dangereuses démontrées. Les obligations devraient augmenter avec les preuves de risque, et non avec la taille ou le modèle économique d’un développeur.

Ce principe protège également les petites entreprises. Les exigences de conformité devraient se concentrer sur les actions qui créent de graves risques externes. Les produits logiciels ordinaires ne devraient pas hériter des mêmes obligations que les laboratoires de pointe.

La représentation mondiale compte également. De nombreux pays consomment des services d’IA sans contrôler les principaux modèles ni les grandes infrastructures de calcul. Ils font néanmoins face aux perturbations du travail, à la manipulation de l’information, au risque cybernétique et à la dépendance envers des fournisseurs étrangers.

Ces pays doivent participer aux discussions sur les normes, même s’ils n’exploitent pas de laboratoires de pointe. Sinon, la gouvernance de l’IA devient un accord entre quelques entreprises et États puissants dont les systèmes affectent tous les autres.

Les Nations unies peuvent offrir ce forum sans devenir l’unique régulateur. Leurs panels scientifiques peuvent synthétiser les données probantes, et leurs organes diplomatiques peuvent établir des normes de communication. Les institutions nationales peuvent conserver leur pouvoir de contrôle.

Cette formule est moins spectaculaire qu’une agence mondiale de délivrance de licences. Elle est aussi plus plausible à court terme. La réunion du Conseil de sécurité a montré que les gouvernements sont disposés à discuter des risques communs avant d’accepter un contrôle partagé.

Trois signaux indiqueront si l’appel de l’ONU compte

Le prochain test consistera à voir si les discours débouchent sur des engagements vérifiables, plutôt que sur un nouveau cycle d’avertissements suivi de sorties de modèles encore plus rapides.

Le premier signal serait un accord écrit entre les laboratoires de pointe. Il devrait définir un seuil de capacités, une évaluation indépendante et la réponse requise lorsqu’un modèle franchit ce seuil.

Une déclaration en faveur d’une IA responsable apporterait peu. Un pacte utile préciserait si les entreprises retardent l’entraînement, limitent le déploiement ou renforcent les tests externes. Il identifierait également qui vérifie le respect des engagements.

Si OpenAI, Anthropic, Google DeepMind, xAI, Meta et les principaux développeurs chinois adoptent des engagements compatibles, l’appel du Conseil de sécurité gagnera en crédibilité. Un accord limité à un langage volontaire affaiblirait l’argument selon lequel le secteur peut se coordonner lui-même.

Le deuxième signal est l’action des gouvernements en matière de signalement des incidents et de normes d’évaluation. Les États-Unis n’ont pas besoin d’approuver un régulateur mondial pour exiger des laboratoires nationaux qu’ils signalent les événements les plus graves.

La Chine, l’Union européenne, le Royaume-Uni et d’autres pôles de l’IA peuvent adopter des exigences compatibles. L’alignement de leurs systèmes créerait une norme internationale pratique sans autorité centralisée unique.

Des règles nationales incompatibles produiraient l’effet inverse. Les développeurs pourraient orienter leur travail vers des juridictions moins restrictives, tandis que les gouvernements recevraient des informations différentes sur des risques similaires.

Le troisième signal serait l’instauration d’un canal formel de sécurité entre les États-Unis et la Chine. Les deux principales puissances de l’IA se livrent concurrence sur les puces, les talents, les modèles et les applications militaires. Leur participation est nécessaire à tout système visant les risques de pointe transfrontaliers.

Un mécanisme de notification pour les incidents graves liés à l’IA constituerait un début modeste mais significatif. Il montrerait que des concurrents stratégiques peuvent dissocier certains dangers communs de la compétition technologique plus large.

L’absence d’un tel canal mettrait en évidence les limites de la campagne d’Altman et d’Amodei en faveur de la sécurité de l’IA. Les entreprises pourraient améliorer leurs protections internes, mais elles ne pourraient pas résoudre seules le problème de coordination géopolitique.

Les lecteurs devraient également observer le comportement des entreprises après leurs avertissements. Une succession rapide de lancements de capacités sans seuils plus clairs renforcerait le scepticisme. Davantage d’évaluations externes et de rapports transparents sur les incidents soutiendraient leur argumentation.

Les entreprises n’ont pas besoin d’attendre un traité. Elles peuvent recenser les autorisations des agents, conserver des journaux de décision, imposer une validation humaine pour les actions à fort impact et tester la reprise après défaillance. Ces mesures réduisent l’exposition même lorsque la politique mondiale reste incertaine.

Les développeurs devraient suivre les normes d’évaluation et les propositions de signalement, car elles peuvent remodeler la conception des produits. Les exigences introduites pour les laboratoires de pointe influencent souvent les plateformes cloud, les achats des entreprises, l’assurance et les audits clients.

Les travailleurs du savoir devraient s’y intéresser, car les règles de sécurité déterminent ce que les systèmes d’IA peuvent consulter et faire. Des contrôles stricts peuvent limiter certaines tâches, mais ils peuvent aussi rendre les agents plus sûrs à connecter à des informations sensibles sur le lieu de travail.

L’intervention à l’ONU a donné à la sécurité de l’IA une visibilité politique accrue. Elle n’a pas résolu la question de savoir qui rédige les règles, qui inspecte les modèles ou qui peut ordonner un ralentissement.

Cette autorité non résolue constitue la tension centrale de l’histoire. Altman et Amodei ont demandé aux gouvernements de coopérer avant que les systèmes avancés ne dépassent les contrôles existants. Les gouvernements ont répondu en reconnaissant le danger tout en défendant leur propre pouvoir.

Les un à trois prochains mois devraient révéler si cet écart se resserre. Surveillez l’apparition d’un pacte entre laboratoires, de règles nationales de signalement compatibles et d’un canal d’incidents entre les États-Unis et la Chine. Si rien de tout cela ne se concrétise, les discours resteront des avertissements adressés à une institution qui ne disposait pas d’un accord pour agir.