Les États-Unis et la Russie ont affaibli un accord sur les armes IA en supprimant l’examen humain des cibles

Les États-Unis et la Russie auraient affaibli un accord des Nations unies sur les armes IA lors de négociations en septembre, en supprimant plusieurs garde-fous malgré les inquiétudes croissantes suscitées par la guerre automatisée.

Le texte supprimé exigeait qu’un humain examine les cibles militaires générées par l’IA avant une frappe, selon trois personnes citées dans les révisions rapportées. Les négociateurs ont également supprimé les exigences selon lesquelles l’IA militaire devait fonctionner de manière prévisible et fiable. Une clause appelant à prendre en compte des considérations éthiques a elle aussi été abandonnée.

Le département d’État, le ministère russe des Affaires étrangères et les Nations unies n’ont pas répondu aux demandes de commentaires de la publication. Ce silence laisse d’importants détails non confirmés en dehors des négociations confidentielles.

Pourtant, les changements rapportés révèlent une nette division. De nombreux gouvernements et groupes humanitaires souhaitent des restrictions contraignantes qui préservent le contrôle humain. Les États-Unis et la Russie privilégient une plus grande latitude nationale dans la conception et le déploiement de l’IA militaire.

Cet accord américano-russe sur les armes IA n’est pas un traité et son libellé actuel ne crée pas de droit contraignant. Il représente toutefois l’avancée la plus importante réalisée au cours d’années de négociations aux Nations unies vers des règles communes.

Le conflit dépasse donc un seul projet contesté. Il oppose des exigences contraignantes de contrôle humain à des principes volontaires façonnés par des puissances militaires recherchant une flexibilité opérationnelle.

Ce qui a changé dans l’accord américano-russe sur les armes IA

Le projet a perdu des garde-fous visant le moment où la recommandation d’un algorithme devient une décision d’attaquer.

Les négociations se sont déroulées à Genève début septembre, selon le récit du Washington Post. Les séances portaient sur les systèmes d’armes létales autonomes, c’est-à-dire des armes capables de sélectionner ou d’engager des cibles avec des degrés variables d’intervention humaine.

Trois personnes au fait des discussions ont indiqué que les délégations américaine et russe avaient exigé des modifications au cours d’une séance à huis clos. Les caméras des Nations unies auraient été éteintes, tandis que les observateurs de la société civile étaient exclus de la salle.

Chacune des deux délégations comptait environ dix juristes, soit près de deux fois la présence diplomatique des autres participants, selon le rapport. Leurs modifications proposées sont arrivées si rapidement que les petites délégations ont eu du mal à suivre l’évolution du texte.

La suppression la plus lourde de conséquences concernait l’examen des cibles. Une disposition antérieure exigeait qu’un humain examine les cibles militaires produites par l’IA avant qu’une frappe puisse avoir lieu.

Cette exigence concernait les systèmes d’aide à la décision par IA autant que les armes plus autonomes. Un système d’aide à la décision pourrait analyser la surveillance, classer des cibles présumées, estimer les risques ou recommander une attaque sans lancer physiquement une arme.

La suppression de la clause d’examen n’autorise pas automatiquement les machines à tuer sans supervision. Le droit international humanitaire existant continue de lier les États et le personnel militaire, quelle que soit la technologie utilisée.

Cependant, cette suppression retire une garantie procédurale proposée. Le texte n’affirme plus qu’une personne doit examiner de manière indépendante une cible générée par l’IA avant l’emploi de la force.

Les délégations auraient supprimé le libellé imposant un fonctionnement prévisible et fiable. Ces termes sont importants, car les systèmes d’apprentissage automatique peuvent se comporter différemment lorsque les conditions du champ de bataille s’écartent des environnements d’entraînement et de test.

Elles ont également supprimé une clause demandant aux militaires de prendre en compte l’éthique lors de l’utilisation d’armes équipées d’IA. Le langage éthique peut être difficile à faire respecter, mais sa suppression restreint les attentes énoncées dans le projet.

Ces changements comptent ensemble. L’examen humain, la fiabilité et l’évaluation éthique concernent différentes étapes d’une même chaîne, de la conception du système au ciblage et à l’autorisation de l’attaque.

Le projet reste inscrit dans un processus fondé sur le consensus. Des dizaines d’États participants doivent être d’accord avant que des règles plus strictes puissent avancer, ce qui donne aux opposants majeurs un pouvoir de blocage considérable.

Les gouvernements devraient retourner à Genève en novembre. Ils examineront si le processus doit recevoir un mandat formel et si les négociations peuvent progresser vers des règles juridiquement contraignantes.

Cette réunion testera si les dispositions supprimées restent écartées, reviennent sous une forme révisée ou deviennent l’objet d’un accord distinct. Elle montrera également jusqu’où les petits États peuvent maintenir leur résistance.

La règle d’examen humain manquante est la plus importante

Une étape d’approbation humaine a peu de valeur si l’examinateur ne dispose pas d’assez d’informations, d’autorité et de temps pour rejeter la recommandation de la machine.

L’exigence supprimée allait au-delà de la présence d’une personne quelque part dans la chaîne de commandement. Elle portait sur l’obligation pour les humains d’examiner des cibles précises générées par un système d’IA avant le lancement d’armes.

Cette distinction est centrale dans la gouvernance de l’IA militaire. Le contrôle humain peut décrire n’importe quelle situation, depuis la définition de paramètres généraux de mission jusqu’à l’examen de chaque cible recommandée immédiatement avant une attaque.

Ces dispositifs produisent des garde-fous très différents. Un commandant qui approuve une zone d’opération générale n’évalue pas nécessairement chaque personne, véhicule ou bâtiment identifié par un algorithme.

Le ciblage implique aussi des jugements juridiques et contextuels que les systèmes de reconnaissance de formes ne peuvent résoudre par les seules statistiques. Les opérateurs doivent distinguer les objectifs militaires des civils et évaluer les dommages collatéraux attendus.

L’IA peut combiner à grande vitesse des flux de capteurs, des communications, des images, des historiques de localisation et d’autres données. Elle peut ensuite attribuer un score à des objets ou à des personnes selon des corrélations apprises à partir d’exemples antérieurs.

Cette rapidité offre un avantage militaire. Elle peut également engendrer un biais d’automatisation, lorsque des personnes acceptent une recommandation informatique sans exercer un jugement indépendant réel.

Un examinateur confronté à des centaines de cibles proposées en quelques minutes pourrait approuver les résultats de manière mécanique. L’humain reste formellement impliqué, mais le processus opérationnel a déjà déplacé la décision vers la machine.

Une note sur l’IA militaire publiée en juin 2026 par Human Rights Watch a identifié ce risque. Elle avertissait que la vitesse et l’ampleur peuvent rendre les précautions requises difficiles, voire impossibles.

L’organisation a soutenu que les résultats probabilistes ne peuvent remplacer les jugements qualitatifs exigés par le droit international humanitaire. Elle a également recommandé un moratoire sur l’utilisation de l’IA comme fondement des décisions de ciblage.

Cette position va plus loin que le projet des Nations unies rapporté. Elle illustre néanmoins pourquoi le langage supprimé sur l’examen avait davantage de poids qu’une promesse générale d’utilisation responsable.

Un garde-fou utile définirait ce que reçoivent les examinateurs, notamment les éléments de preuve du système, son incertitude, les limites des données et les raisons de recommander une cible. Il préserverait également du temps pour la délibération.

Les examinateurs devraient pouvoir retarder ou annuler une frappe sans subir de pression pour suivre la vitesse de la machine. Ils auraient besoin d’une formation tant au droit militaire qu’aux modes de défaillance des systèmes.

La décision finale devrait aussi être consignée. Sans journaux montrant la recommandation, les données à l’appui, la réponse humaine et l’autorisation du commandement, il devient difficile d’établir les responsabilités après des dommages causés à des civils.

Aucun de ces détails d’accompagnement n’est garanti par l’expression « humain dans la boucle ». Un simple bouton d’approbation peut masquer un processus automatisé plutôt que le contraindre.

La disposition supprimée était donc nécessaire, mais insuffisante. La rétablir fixerait une attente minimale, tandis que des normes détaillées détermineraient si l’examen est réellement significatif.

La vitesse militaire entre en collision avec le jugement humain

L’incitation opérationnelle derrière des règles plus faibles est la vitesse, tandis que la préoccupation juridique et humanitaire est de savoir si cette vitesse évince le jugement.

Les organisations militaires utilisent de plus en plus l’IA pour l’analyse du renseignement, la logistique, la surveillance, les opérations cybernétiques et la planification sur le champ de bataille. Ces applications ne comportent pas toutes le même risque.

Automatiser les calendriers de maintenance diffère fondamentalement du classement de personnes comme cibles potentielles. La première pratique peut améliorer l’efficacité, tandis que la seconde peut influencer des décisions irréversibles de vie ou de mort.

Des responsables américains ont ouvertement mis l’accent sur un ciblage plus rapide. Un responsable du Pentagone a déclaré à l’Associated Press que l’IA pourrait aider les troupes à identifier plus rapidement les cibles et à accélérer les frappes ultérieures.

D’autres chefs militaires ont insisté sur la prudence. L’amiral Frank Bradley, qui dirige le U.S. Special Operations Command, a déclaré que les humains devaient avoir confiance dans le fait que l’IA ne dirige la violence que là où cela est prévu.

Des responsables du commandement ont également décrit l’IA comme un outil de réduction des tâches administratives routinières. Un responsable des acquisitions a affirmé que l’objectif était d’améliorer le jugement des opérateurs plutôt que de le remplacer.

Ces positions révèlent une tension interne, et non un simple choix entre adoption et rejet. Les chefs militaires souhaitent la vitesse de calcul tout en conservant confiance, contrôle et responsabilité juridique.

La tension s’accentue lors d’opérations à fort volume. Le Washington Post a rapporté que l’armée américaine avait utilisé un chatbot Anthropic pour aider à identifier près de 1 000 cibles au cours des premières 24 heures d’une guerre.

Ce reportage n’établit pas que le chatbot a sélectionné les cibles de manière indépendante ou autorisé les frappes. Il montre pourquoi les procédures d’examen doivent tenir compte de l’échelle autant que de l’autorité formelle.

Une personne ne peut évaluer de manière significative un flot de recommandations lorsque les délais opérationnels n’accordent que quelques secondes à chaque décision. Une production plus rapide peut réduire la délibération même si l’approbation reste humaine.

Les échanges de Genève des Nations unies en juin ont réuni plus de 100 États, organisations internationales et groupes de la société civile.

L’Autriche, le Brésil, le Chili, le Mexique, la Sierra Leone, le Costa Rica et Cuba figuraient parmi les gouvernements qui ont mis l’accent sur le jugement humain et la responsabilité pendant ces discussions.

La Russie s’est opposée à de nouvelles restrictions et a décrit certaines propositions comme des initiatives menées par l’Occident. Elle a soutenu que l’IA militaire devait rester dans le cadre du processus gouvernemental d’experts existant pour les armes conventionnelles.

Les États-Unis et Israël ont participé, mais n’ont pas présenté de déclarations formelles en séance, selon le compte rendu de la réunion. Leur présence n’a pas clarifié les garanties minimales qu’ils privilégient.

L’argument pratique en faveur de la flexibilité nationale est simple. Les commandants ne veulent pas qu’un libellé international général interdise l’automatisation défensive ou ralentisse des opérations légales.

L’argument opposé est tout aussi concret. Si chaque État définit lui-même le jugement humain « approprié », l’expression offre peu de protection contre un examen minimal ou purement cérémoniel.

C’est pourquoi la prévisibilité et la fiabilité ont également été contestées. Ces exigences peuvent limiter le déploiement lorsque les systèmes n’ont pas été validés dans des conditions réalistes de champ de bataille.

Les champs de bataille comportent des capteurs endommagés, des signaux trompeurs, des renseignements incomplets, des environnements inconnus et des adversaires cherchant à manipuler les algorithmes. Les performances mesurées dans des tests contrôlés peuvent ne pas résister à ces conditions.

La suppression d’un langage explicite sur la fiabilité donne aux gouvernements davantage de latitude quant au niveau de performance acceptable. Elle rend également plus difficile l’établissement d’un seuil commun avant que les systèmes n’influencent des décisions létales.

Les normes volontaires sont en concurrence avec les limites contraignantes

Le conflit diplomatique central porte sur la question de savoir si les armées les plus puissantes doivent promettre de faire preuve de retenue ou accepter des règles que d’autres États peuvent leur opposer.

Les États-Unis avaient auparavant promu des principes volontaires pour une IA militaire responsable. Leur déclaration politique de 2023 appelait à des usages clairement définis, à des chaînes de commandement responsables, à des tests et à un jugement humain approprié.

Plus de 50 États ont approuvé ce cadre. Il a établi un langage commun, mais n’a créé ni traité, ni mécanisme d’application, ni procédure d’inspection indépendante.

Les déclarations volontaires peuvent néanmoins influencer les achats, la formation et la doctrine militaire. Elles peuvent aider les gouvernements à converger vers des attentes communes avant qu’un soutien politique n’existe en faveur d’un droit contraignant.

Leur faiblesse apparaît lorsque les incitations stratégiques évoluent. Un État peut réinterpréter un langage souple, réviser sa politique intérieure ou abandonner des garde-fous pratiques sans violer d’obligation légale.

Les modifications signalées à Genève reflètent cette division. Les États-Unis et la Russie sont des concurrents géopolitiques, mais tous deux disposent d’armées avancées et accordent de l’importance à leur liberté en matière de développement des armes.

Aucun des deux pays ne soutient un traité international contraignant limitant les armes autonomes selon l’approche privilégiée par les militants. Leur intérêt commun consiste à empêcher d’autres États d’imposer des règles restrictives.

Cet alignement ne signifie pas que leurs doctrines militaires sont identiques. Il signifie que les deux gouvernements tirent profit de la préservation de leur marge de manœuvre nationale pendant que la technologie et ses applications sur le champ de bataille évoluent.

Les règles adoptées par consensus amplifient leur influence. Nicole van Rooijen, de Stop Killer Robots, a fait valoir que Washington et Moscou peuvent bloquer des avancées soutenues par une large majorité d’États.

Les petits pays peuvent soutenir des garde-fous stricts, mais ne disposent pas d’équipes juridiques ni d’une capacité de pression diplomatique équivalentes. Les séances de rédaction à huis clos peuvent renforcer ce déséquilibre lorsque les modifications arrivent rapidement.

Les défenseurs d’un traité citent les armes chimiques, les armes biologiques, les mines antipersonnel et les armes à sous-munitions comme précédents. Ces régimes diffèrent par leur adhésion et leur application, mais chacun a contribué à stigmatiser certains comportements.

Richard Lennane, conseiller en désarmement auprès du Comité international de la Croix-Rouge, a soutenu que les traités comptent parce qu’ils façonnent les normes et les comportements, et pas uniquement par la sanction.

Les Nations unies et la Croix-Rouge ont renouvelé leur appel conjoint en août. Elles demandaient l’interdiction de certaines armes autonomes et des restrictions sur d’autres.

Leur proposition interdirait les systèmes dont les effets ne peuvent pas être suffisamment compris, prédits ou expliqués. Elle interdirait également les systèmes conçus ou utilisés pour cibler directement des êtres humains.

D’autres systèmes autonomes resteraient autorisés sous réserve de restrictions concernant les types de cibles, la durée, la portée géographique et la supervision humaine. Cette structure évite de traiter chaque fonction automatisée comme étant également dangereuse.

Le pacte américano-russe sur les armes d’IA se situe entre ces approches. Il peut rester une déclaration politique volontaire, devenir une base pour des négociations de traité ou être bloqué par le consensus.

Ce statut juridique incertain explique pourquoi la formulation importe dès maintenant. Les premiers compromis deviennent souvent des points de référence pour des accords ultérieurs, des politiques nationales, des contrats d’acquisition et des manuels militaires.

Si l’examen humain des cibles disparaît de la base commune, les défenseurs devront se battre pour le rétablir à chaque étape ultérieure. L’omission peut progressivement devenir le point de départ diplomatique accepté.

Le projet laisse toujours des questions essentielles sans réponse

Le rapport identifie des garde-fous supprimés, mais ne révèle ni le projet complet, ni la proposition de chaque délégation, ni la portée juridique finale du langage contesté.

The Washington Post a fondé son récit sur trois personnes au fait de négociations confidentielles. Les gouvernements cités et les Nations unies n’ont pas fourni de réponse à inclure.

Les lecteurs doivent donc distinguer les détails rapportés des archives diplomatiques confirmées publiquement. Les suppressions constituent un reportage crédible, mais l’historique complet des négociations n’est pas encore disponible.

On ignore si les États-Unis et la Russie ont proposé des modifications identiques ou s’ils se sont soutenus de manière sélective. Leurs raisons de s’opposer à chaque clause n’ont pas été publiées.

Le public ne dispose pas non plus d’un texte comparatif montrant chaque révision. Une telle comparaison révélerait si les garde-fous ont été purement et simplement supprimés, déplacés ailleurs ou remplacés par un langage plus général.

L’expression « examen humain » doit également être définie. Une exigence peut s’appliquer à chaque cible, à certaines catégories de cibles ou uniquement aux situations dans lesquelles un système d’IA fournit une information déterminante.

De même, une « cible générée par l’IA » peut désigner une identification originale par une machine, une recommandation classée ou un dossier de ciblage constitué à partir de multiples données humaines et automatisées.

Ces distinctions ont des conséquences opérationnelles. Une définition étroite pourrait permettre aux gouvernements de qualifier de nombreuses décisions assistées par algorithme de décisions produites par des humains, contournant ainsi le garde-fou.

Le rapport n’établit pas non plus que l’un ou l’autre pays autorise actuellement des armes à attaquer des personnes sans autorisation humaine. S’opposer à une clause dans une négociation ne prouve pas une politique de déploiement précise.

Cette incertitude ne doit pas minimiser l’inquiétude. La résistance diplomatique indique néanmoins quelles contraintes les gouvernements ne sont pas disposés à accepter sur le plan international.

La politique intérieure ajoute une autre dimension non résolue. Le Pentagone révisait la Directive 3000.09, sa politique encadrant l’autonomie dans les systèmes d’armes.

Une note de sécurité nationale publiée en juin aurait ordonné une mise à jour dans les 90 jours. Aucune version publique révisée n’était apparue à la fin septembre.

La directive de 2023 exigeait un jugement humain approprié sur le recours à la force. Elle prévoyait également des exigences d’examen pour certains systèmes d’armes autonomes et semi-autonomes.

Le lien entre la révision nationale en attente et la position de négociation à Genève demeure inconnu. Des suppressions similaires suggéreraient un changement coordonné vers une plus grande latitude opérationnelle.

Un langage différent montrerait que Washington accepte des garde-fous à l’intérieur du pays tout en résistant aux engagements internationaux. Cette position pourrait préserver la flexibilité militaire, mais elle affaiblirait le plaidoyer américain à l’étranger.

La politique de la Russie est plus difficile à évaluer, car la transparence publique concernant le développement, les essais et le déploiement reste limitée. Les affirmations relatives au champ de bataille ne peuvent souvent pas être vérifiées de manière indépendante.

Les groupes humanitaires font également face à un déficit de preuves. Les Nations unies et la Croix-Rouge ont déclaré que les armes autonomes progressent rapidement, tout en évitant des affirmations définitives sur des usages précis sur le champ de bataille.

L’aide à la décision activée par l’IA est plus facile à documenter qu’une opération létale entièrement autonome. Pourtant, les outils d’aide à la décision peuvent encore influencer les personnes attaquées, particulièrement dans des délais comprimés.

La conclusion responsable est plus nuancée que l’interprétation la plus alarmante. Le projet aurait perdu d’importantes barrières, tandis que l’impact opérationnel exact dépend des définitions et de la mise en œuvre.

Trois signaux à surveiller avant les négociations de novembre

Les négociations de novembre, la directive révisée du Pentagone et les demandes de texte de projet public détermineront si cet épisode devient un revirement politique durable.

Le premier signal sera de savoir si les gouvernements rétablissent une exigence explicite d’examen des cibles avant ou pendant la réunion de Genève. Sa formulation devrait exiger une évaluation humaine éclairée avant toute frappe.

Une clause rétablie renforcerait l’idée que les suppressions de septembre étaient des manœuvres de négociation provisoires. Une exclusion persistante confirmerait une base internationale plus faible.

Les détails compteront davantage que l’étiquette. Un examen significatif nécessite suffisamment de temps, des éléments de preuve pertinents, des informations sur l’incertitude et l’autorité de rejeter une recommandation de l’IA.

Le deuxième signal sera la directive révisée du Pentagone sur les armes autonomes. Elle devrait montrer si les États-Unis conservent des engagements nationaux semblables à ceux supprimés à l’échelle internationale.

Surveillez le langage couvrant le jugement humain, les tests, la fiabilité, les examens juridiques, l’autorisation de hauts responsables et les défaillances dans des conditions adverses. Les définitions et les exemptions seront particulièrement importantes.

Si la directive préserve de solides contrôles nationaux, Washington devra répondre aux questions sur les raisons de son rejet d’un langage international similaire. Si elle les affaiblit, le changement de politique sera plus large.

Le troisième signal concerne la transparence autour du texte négocié. Les États, les journalistes et les groupes de la société civile ont besoin d’une comparaison publique des projets contestés et des amendements proposés.

La transparence permettrait à des experts indépendants de vérifier les affirmations de chaque partie. Elle montrerait également si les petites délégations ont reçu suffisamment de temps et de ressources pour évaluer des révisions rapides.

Le processus international restera fragile même si les trois signaux s’améliorent. Les négociations par consensus permettent à quelques États influents de retarder des mandats ou de restreindre les règles proposées.

Néanmoins, le rétablissement de l’examen humain établirait un seuil clair. Il indiquerait que le ciblage généré par machine ne peut pas mener directement à une frappe sans jugement humain responsable.

Pour les développeurs, ce débat dépasse le matériel militaire. Les systèmes d’IA militaire dépendent de modèles commerciaux, de plateformes cloud, de pipelines de données, d’outils d’évaluation et de sous-traitants logiciels.

On peut demander aux ingénieurs de documenter l’incertitude, de conserver des journaux d’audit, de limiter l’autonomie des systèmes ou de concevoir des interfaces qui résistent à l’acceptation automatique. La formulation des politiques peut devenir une exigence produit.

Les acheteurs d’entreprise devraient surveiller les mêmes questions de responsabilité. L’IA à haut risque exige des registres montrant ce que le système a recommandé, quelles preuves il a utilisées et qui a approuvé le résultat.

Les travailleurs du savoir qui suivent un processus politique en évolution rapide peuvent maintenir une base de connaissances personnelle contenant le texte des projets, les déclarations officielles et les révisions datées. Cette pratique rend les modifications discrètes plus faciles à détecter.

Le pacte américano-russe sur les armes d’IA n’aura de sens que si ses garde-fous résistent aux incitations militaires. Novembre montrera si l’examen humain demeure négociable ou devient une règle minimale.

La question immédiate est simple : les gouvernements publieront-ils le texte et exigeront-ils qu’une personne examine les cibles générées par l’IA avant le recours à la force ?