La guerre par IA de Project Maven accélère le ciblage et réduit le temps disponible pour détecter les erreurs

La guerre par IA de Project Maven peut générer des listes de cibles potentielles en quelques minutes, malgré un processus d’examen dans lequel une seule erreur négligée peut devenir irréversible. Cette rapidité fait passer l’intelligence artificielle d’un outil de soutien au centre de la prise de décision militaire.

Ce changement va au-delà des drones autonomes. Les armées utilisent désormais l’IA pour interpréter la surveillance, traduire les communications interceptées, relier des personnes à des lieux, hiérarchiser les menaces et recommander des cibles. Chaque fonction peut raccourcir le chemin entre les données brutes et une décision opérationnelle.

Le conflit central n’oppose plus les humains aux armes autonomes. Il met en concurrence la génération de cibles à la vitesse des machines et le jugement humain, plus lent, censé vérifier chaque recommandation. Project Maven, les systèmes de renseignement israéliens assistés par IA et les drones autonomes en Ukraine révèlent tous différentes facettes de cette même pression.

La guerre par IA de Project Maven passe de l’analyse aux opérations

L’IA militaire devient un élément de la chaîne opérationnelle de ciblage, au lieu de rester une couche expérimentale d’analyse.

Le Financial Times a rapporté le 17 septembre que les systèmes autonomes sont rapidement intégrés aux opérations sur le champ de bataille. Son enquête s’ouvrait sur le Saker Scout, un drone ukrainien qui ressemble à de nombreux autres appareils opérant au-dessus de la ligne de front.

Ce qui distingue les systèmes de cette catégorie est leur capacité croissante à naviguer, identifier des objets ou poursuivre des missions avec une intervention réduite de l’opérateur. Le niveau précis d’autonomie varie selon les systèmes et les déploiements. Toutefois, la tendance reste cohérente : les logiciels accomplissent désormais davantage de tâches entre l’observation d’un champ de bataille et le recours à la force.

Project Maven représente la même transition au sein de l’armée américaine. Le Pentagone l’a lancé en 2017 afin d’appliquer l’apprentissage automatique aux images de drones et de satellites. Le système est depuis devenu un environnement plus large de données et de ciblage, utilisé pour organiser les informations destinées aux commandants.

L’apprentissage automatique désigne des logiciels qui apprennent des schémas à partir de données d’entraînement et les appliquent à de nouvelles données. Dans l’imagerie militaire, cela peut consister à distinguer des véhicules, des structures, des mouvements ou d’autres objets au sein de vastes ensembles de données issues de capteurs.

Cela ne signifie pas nécessairement que le logiciel tire de manière indépendante une arme. Project Maven est généralement présenté comme un système d’aide à la décision, les humains étant censés valider ses résultats et autoriser l’action.

Cette distinction est importante sur les plans juridique et opérationnel. Un système d’aide à la décision par IA recommande ou hiérarchise des informations, tandis qu’une arme autonome peut sélectionner et engager une cible après son activation sans nouvelle intervention humaine.

Pourtant, cette séparation devient moins rassurante lorsque les recommandations générées par les machines arrivent plus vite que les personnes ne peuvent les examiner. Un humain peut rester formellement responsable tout en ne disposant que d’un délai très limité pour questionner les éléments de preuve sous-jacents.

Les responsables militaires attribuent à Project Maven une réduction du temps nécessaire pour identifier des cibles potentielles. L’examen de l’IA militaire publié par le Brennan Center indique que le système peut interpréter rapidement les images de drones et de satellites.

L’intérêt est évident. Une armée peut recueillir davantage de données issues de capteurs que ses analystes ne peuvent en examiner manuellement. L’IA peut filtrer ce volume, relier des informations provenant de différentes sources et faire remonter des menaces potentielles avant que le renseignement ne devienne obsolète.

La rapidité favorise aussi la coordination. Un véhicule en mouvement, un système radar ou un lanceur mobile peut ne rester visible que durant une courte période. Un processus de ciblage qui prend des heures peut faire perdre l’occasion avant qu’une décision ne parvienne au commandant compétent.

Cependant, une analyse plus rapide ne produit pas automatiquement de meilleures preuves. Elle peut au contraire faire circuler l’incertitude dans le système à une vitesse accrue.

L’événement rapporté par le Financial Times n’est donc pas une simple annonce de déploiement. Il constitue un seuil opérationnel. Les armées adoptent l’IA tout au long de la chaîne qui transforme l’observation en décisions létales, alors même que le comportement des modèles peut rester difficile à prévoir.

Une génération de cibles plus rapide modifie qui contrôle le rythme

L’avantage stratégique vient de la compression du temps de décision, mais cette même compression soumet les examinateurs humains à une pression accrue.

Le ciblage traditionnel exige beaucoup de travail. Les analystes comparent les sources de renseignement, évaluent si les informations sont toujours à jour, identifient la présence de civils, estiment les dommages possibles et transmettent leurs recommandations à travers une structure de commandement.

La génération de cibles assistée par IA automatise certaines parties de ce travail. Un modèle peut rechercher simultanément dans des images, des textes, des communications, des données de localisation et d’autres bases de données. Il peut ensuite classer les schémas correspondant à un profil de cible.

Un profil de cible est un ensemble d’attributs utilisé pour identifier un objet ou une personne d’intérêt. Ces attributs peuvent inclure la forme, le mouvement, le lieu, les schémas de communication ou les relations avec des entités déjà identifiées.

Le gain apparent est celui de l’échelle. Un système d’IA peut faire remonter des centaines de candidats là où une équipe humaine n’aurait pu examiner qu’un ensemble beaucoup plus restreint. L’armée peut alors orienter ses analystes, dont le nombre est limité, vers les résultats les plus pertinents.

Cela modifie le rythme du champ de bataille. Les forces utilisant l’IA peuvent potentiellement observer, hiérarchiser et agir avant qu’un adversaire n’achève le même cycle. La guerre par IA de Project Maven repose sur cette compression du processus allant des capteurs à la décision.

La rapidité peut également soutenir la protection des civils lorsqu’elle est correctement conçue. Les logiciels peuvent combiner des informations sur les hôpitaux, les écoles, les itinéraires d’évacuation et les déplacements de civils. Ils peuvent avertir les opérateurs lorsque les conditions ont changé depuis qu’une cible a été proposée pour la première fois.

Le Comité international de la Croix-Rouge reconnaît cette possibilité. Ses orientations sur l’IA militaire indiquent que les outils d’aide à la décision peuvent aider à synthétiser les informations et recommander des méthodes destinées à réduire les dommages incidentels.

Toutefois, l’échelle crée un problème de second ordre. Si le nombre de cibles générées augmente plus rapidement que le nombre d’examinateurs qualifiés, le processus d’examen devient un goulet d’étranglement.

Les commandants font alors face à un choix inconfortable. Ils peuvent ralentir le système et préserver un examen détaillé, ou accélérer les validations et abandonner une partie de la prétendue protection humaine.

Les éléments issus de l’utilisation par Israël de renseignements assistés par IA illustrent cette tension. Une enquête de l’Associated Press a révélé que l’armée israélienne utilisait des services commerciaux de cloud et d’IA pour traiter des données de surveillance, des communications, des traductions et d’autres informations après le 7 octobre 2023.

Des responsables israéliens ont déclaré à l’AP que les analystes évaluent indépendamment les cibles assistées par IA et que plusieurs niveaux d’intervention humaine restent impliqués. Ils ont également affirmé que ces outils produisent des cibles plus rapidement sans sacrifier la précision.

Ces affirmations sont difficiles à évaluer depuis l’extérieur du système. Les données de ciblage militaire, les taux d’erreur, les configurations des modèles et les enquêtes après action sont rarement accessibles à un examen indépendant.

L’enquête a néanmoins documenté l’ampleur de l’évolution de la charge de travail. Tal Mimran, ancien conseiller juridique militaire, a déclaré qu’un examen de frappe aérienne impliquait auparavant jusqu’à 20 personnes et pouvait prendre une journée ou davantage. Les processus assistés par IA ont permis à des centaines de cibles de recevoir une approbation chaque semaine.

Cette comparaison ne prouve pas que les frappes qui en ont résulté étaient illégales ou imprécises. Elle montre que le rapport entre la production des machines et l’attention humaine a considérablement changé.

Un examinateur confronté à un dossier de cible soigneusement constitué peut en retracer les hypothèses. Un examinateur confronté à une file de recommandations rapidement actualisée fait face à une pression cognitive très différente.

Cette pression touche les dirigeants militaires, les fournisseurs de logiciels, les analystes du renseignement et les conseillers juridiques. Chaque groupe dépend des autres, mais aucun participant ne voit nécessairement l’ensemble de la chaîne.

Les développeurs de modèles peuvent comprendre l’entraînement et l’évaluation, mais ne pas avoir accès aux conditions du champ de bataille. Les opérateurs comprennent la mission, mais peuvent ignorer pourquoi un modèle a attribué un score particulier. Les commandants voient les recommandations, mais peuvent ne pas connaître les limites de chaque source de données.

Il en résulte une responsabilité distribuée. Tout le monde contribue à la décision, tandis que la responsabilité devient plus difficile à situer après une défaillance.

Le contrôle humain peut devenir une simple case procédurale à cocher

Le fait qu’une personne approuve une recommandation de l’IA ne garantit pas l’existence d’un jugement humain réel.

Les politiques militaires décrivent souvent un système avec un humain dans la boucle. L’expression signifie qu’une personne doit intervenir avant qu’un système n’accomplisse une action importante, telle que l’engagement d’une cible.

Cette protection semble claire sur un schéma. Les données des capteurs entrent dans un modèle, le modèle produit une recommandation et un opérateur formé l’accepte ou la rejette.

Les opérations réelles sont moins ordonnées. Les recommandations peuvent arriver lors de missions sensibles au facteur temps, de perturbations des communications, de pénuries de personnel ou d’attaques contre des forces amies. L’opérateur peut également examiner les résultats de plusieurs systèmes automatisés.

Cet environnement favorise le biais d’automatisation, c’est-à-dire la tendance à faire confiance à une recommandation produite par une machine, même lorsque les éléments disponibles devraient susciter un examen plus approfondi. Ce biais s’intensifie lorsque le système semble habituellement exact ou lorsque le rejeter exige un travail supplémentaire.

Le CICR avertit que les opérateurs soumis à une pression temporelle peuvent approuver machinalement les résultats de l’IA au lieu d’exercer un jugement indépendant. Ses orientations indiquent que l’IA militaire exige une implication humaine significative et la capacité de contester les recommandations.

Le mot « significative » porte l’essentiel de la charge. Une décision humaine n’est pas significative simplement parce qu’une personne appuie sur un bouton d’approbation.

L’examinateur doit disposer de suffisamment de temps, d’informations contextuelles et d’autorité pour rejeter le résultat. Il doit aussi comprendre les limites connues du système ainsi que la qualité des preuves qui sous-tendent cette recommandation précise.

Prenons le cas d’un modèle qui associe une personne à une organisation hostile à partir de métadonnées de communication. Le lien peut être exact, obsolète, indirect ou produit par des données sources erronées.

Le modèle peut attribuer un score à cette association sans comprendre pourquoi la personne a appelé un numéro, s’est rendue dans un lieu ou a utilisé une expression particulière. Un humain doit fournir ce contexte.

La traduction introduit un autre point de défaillance. L’enquête de l’AP sur l’IA sur le champ de bataille a décrit un terme arabe pouvant désigner soit un composant d’arme, soit un paiement.

Une traduction automatisée a retenu l’interprétation dangereuse. Un examinateur humain a initialement manqué l’erreur, selon un officier du renseignement israélien interrogé par l’AP.

Le même officier a décrit une feuille de calcul contenant au moins 1 000 lycéens dont les noms auraient été associés à des profils de militants potentiels. Le fichier concernait des examens de fin d’études, mais le contexte environnant a été mal interprété.

Ces exemples montrent pourquoi une erreur ne peut pas être attribuée isolément à « l’IA ». Le modèle traite des données fournies par des personnes, des capteurs, des bases de données et d’autres logiciels. Les humains interprètent ensuite ses résultats par l’intermédiaire d’interfaces conçues par un autre groupe.

Une entrée erronée peut parcourir cette chaîne tout en acquérant une apparente crédibilité. Une fois que plusieurs systèmes la répètent ou y font référence, les examinateurs peuvent prendre une corrélation pour une confirmation indépendante.

Les humains ont également du mal à calibrer leur confiance lorsque les modèles évoluent. Un système peut être performant sur des images familières et échouer lorsque la météo, le terrain, le camouflage, la qualité des capteurs ou les tactiques ennemies changent.

Les adversaires provoquent activement ces changements. Ils utilisent des leurres, des brouillages électroniques, des techniques de dissimulation, des signaux manipulés et des mouvements trompeurs. Les données du champ de bataille ne sont pas simplement bruitées ; les opposants les rendent délibérément trompeuses.

C’est ce qui distingue l’IA militaire de nombreuses applications commerciales. Un moteur de recommandation fait face à des utilisateurs qui tentent de l’influencer, mais un modèle utilisé sur le champ de bataille fait face à des adversaires organisés cherchant à provoquer des erreurs létales.

Le contrôle humain doit donc aller au-delà de l’autorisation finale. Il exige des tests dans des conditions pertinentes, l’accès à des éléments de preuve contradictoires, des indicateurs d’incertitude clairs et suffisamment de temps pour réexaminer la recommandation.

Il exige également que l’institution autorise la contradiction du système. Un analyste sanctionné pour avoir ralenti une opération apprendra à approuver des résultats douteux, quelles que soient les règles formelles.

La guerre par IA du Project Maven met cette conception organisationnelle sous pression. La valeur du système dépend de la vitesse, tandis qu’une vérification significative demande du temps. C’est le compromis central, et non un simple détail de mise en œuvre.

Les erreurs de ciblage par IA gagnent en vitesse et en ampleur

L’IA n’a pas besoin d’échouer souvent pour causer de graves dommages lorsqu’une seule erreur peut se propager à des milliers de recommandations.

Les systèmes d’apprentissage automatique sont statistiques. Ils déduisent des schémas probables à partir des données plutôt que d’appliquer une connaissance parfaite du monde.

Cela crée plusieurs catégories de défaillances. Un modèle peut mal classer un objet, s’appuyer sur des données biaisées, manquer un changement de contexte, générer une traduction inexacte ou accorder trop de poids à une association faible.

Les erreurs peuvent également commencer en dehors du modèle. Une base de données de localisation peut contenir une adresse obsolète. Un capteur peut produire une image déformée. Une source humaine peut fournir de fausses informations.

L’IA peut combiner ces données rapidement, mais elle ne peut pas garantir qu’elles représentent la réalité. Un résultat affiché avec assurance peut masquer une chaîne de preuves fragile.

L’échelle rend cette situation dangereuse. Lorsqu’une hypothèse erronée affecte un dossier examiné manuellement, les enquêteurs peuvent parfois l’identifier et la contenir. Lorsque cette hypothèse se trouve au sein d’un pipeline automatisé, elle peut influencer de nombreuses recommandations avant que quiconque ne s’en aperçoive.

Le CICR affirme que les systèmes militaires d’aide à la décision peuvent amplifier les erreurs à la fois en vitesse et en ampleur. Il avertit également que ces systèmes peuvent accélérer une escalade involontaire lorsque les utilisateurs n’exercent pas un jugement indépendant.

L’escalade compte, car les systèmes d’IA militaire ne fonctionnent pas de manière isolée. Une force modifie sa posture en réponse aux mouvements d’une autre force. Des recommandations plus rapides encouragent des réactions plus rapides des deux côtés.

Une fausse alerte concernant une attaque imminente peut donc faire plus que provoquer une frappe erronée. Elle peut déclencher une dispersion, des représailles ou une séquence plus large d’alertes automatisées.

Des responsables de la sécurité ont commencé à qualifier ce phénomène de compression du temps de décision. Lors du Forum Xiangshan de Pékin de septembre 2026, des participants ont averti que l’IA raccourcissait les délais stratégiques tandis que la désinformation affaiblissait la capacité des gouvernements à établir ce qui s’était produit.

Des représentants d’environ 100 pays ont participé à cet événement de trois jours. Le vice-président du CICR, Jürg Lauber, a soutenu que la préservation du jugement humain devient plus importante à mesure que les armes gagnent en autonomie.

Les avertissements du forum sur la sécurité montrent que cette préoccupation ne se limite pas aux groupes de défense des droits. Les responsables militaires et les diplomates reconnaissent que la vitesse peut affaiblir le contrôle entre les États.

Le défi technique dépasse également les erreurs de classification prévisibles. Les développeurs ne peuvent pas toujours expliquer pourquoi des modèles avancés se comportent différemment après de petits changements dans les prompts, les entrées, les outils ou les conditions d’exploitation.

Cette imprévisibilité ne signifie pas que chaque système d’IA est incontrôlable. Elle signifie que les performances mesurées lors des tests ne peuvent pas couvrir chaque environnement, type de cible, tactique adverse ou interaction avec d’autres logiciels.

Les armes autonomes approfondissent cette préoccupation. Ces systèmes peuvent sélectionner et appliquer la force après leur activation sans qu’une personne ne choisisse chaque cible spécifique.

Certains systèmes autonomes ont des fonctions limitées et des environnements d’exploitation définis. Des armes défensives peuvent engager automatiquement des missiles entrants parce que le type de cible et la fenêtre de réponse sont étroitement circonscrits.

Le risque change lorsque l’autonomie s’étend aux zones peuplées ou concerne des personnes. Une machine peut identifier un mouvement, des vêtements, de la chaleur ou la forme d’un véhicule, mais ces signaux ne révèlent ni l’intention ni le statut juridique.

Un combattant blessé, un combattant qui se rend et un civil peuvent produire des schémas de capteurs similaires. Leur statut dépend d’un contexte qui évolue en quelques secondes.

Pour cette raison, la position du CICR sur les armes autonomes appelle à interdire les systèmes imprévisibles et les armes autonomes conçues pour cibler des personnes. Elle soutient également des restrictions sur d’autres armes autonomes.

Les institutions militaires répondent souvent que les humains demeurent responsables et que le droit international humanitaire s’applique déjà. Ces deux affirmations sont exactes, mais aucune ne résout le problème opérationnel.

La responsabilité après une frappe ne rétablit pas une cible identifiée à tort. Le droit existant fournit des normes essentielles, mais les commandants ont encore besoin de systèmes techniques et organisationnels capables d’appliquer ces normes sous pression.

L’évaluation indépendante reste particulièrement difficile. Les fournisseurs protègent les modèles, les données et les conceptions de systèmes en tant qu’informations propriétaires. Les armées protègent les procédures de ciblage pour des raisons de sécurité.

Ces restrictions peuvent empêcher les adversaires d’exploiter un système. Elles peuvent également compliquer l’évaluation, par les législateurs, les tribunaux, les enquêteurs et le public, de l’efficacité des garde-fous.

Le manque de transparence ne doit pas être confondu avec une preuve d’échec. Il crée un déficit de preuves. Les fortes affirmations concernant la précision, la sécurité ou la réduction des dommages aux civils restent difficiles à vérifier sans données opérationnelles.

Trois signaux montreront si la supervision peut suivre le rythme

La prochaine phase de la guerre par IA sera définie par des garde-fous mesurables, et non par de plus larges promesses selon lesquelles un humain reste impliqué.

Le premier signal est de savoir si les armées divulguent la manière dont elles testent les systèmes d’IA de ciblage dans des conditions de champ de bataille. Des éléments utiles incluraient les performances sur des terrains changeants, avec des capteurs dégradés, dans le cadre de la guerre électronique, face à la tromperie adverse et pour des catégories de cibles inconnues.

La précision en laboratoire ne suffit pas. Les évaluateurs doivent savoir quand le modèle échoue, si les opérateurs peuvent reconnaître ces défaillances et à quelle vitesse un résultat défectueux peut être retiré.

La publication restera limitée par des préoccupations de sécurité. Toutefois, les gouvernements peuvent encore mettre en place des organes d’examen indépendants, des rapports d’incident standardisés et un accès protégé pour le contrôle législatif.

Si de tels mécanismes se développent, ils étayeraient l’affirmation selon laquelle l’adoption opérationnelle s’accompagne d’une vérification sérieuse. Si les tests restent presque entièrement secrets, le déficit d’assurance se creusera.

Le deuxième signal est le volume de temps et de preuves disponible pour chaque examen humain. Les armées devraient mesurer si la production de cibles augmente plus vite que les effectifs qualifiés et les vérifications indépendantes.

Un nombre formel d’approbations révèle peu de choses à lui seul. La supervision dépend de la capacité des examinateurs à consulter le renseignement d’origine, à examiner des sources contradictoires, à comprendre les limites de confiance et à conserver le pouvoir de retarder l’action.

Les enquêtes après action devraient également examiner le biais d’automatisation. Un système peut satisfaire à ses exigences d’ingénierie tout en encourageant des erreurs humaines prévisibles par son interface ou son flux de travail.

Si le temps d’examen se réduit tandis que le volume de cibles augmente, « l’humain dans la boucle » décrira de plus en plus une procédure plutôt qu’un jugement. Si les effectifs, la conception de l’interface et les règles d’escalade s’adaptent à la charge de travail, le contrôle humain devient plus crédible.

Le troisième signal est l’action internationale concernant les armes autonomes et les systèmes militaires d’aide à la décision. La septième Conférence d’examen de la Convention sur certaines armes classiques est prévue du 16 au 20 novembre 2026.

La réunion offre aux États l’occasion de rechercher des restrictions plus claires. Les questions importantes consistent notamment à déterminer si les règles distinguent l’aide à la décision de l’engagement autonome et si elles traitent les comportements imprévisibles activés par l’IA.

Un accord sur des limites juridiquement contraignantes renforcerait l’idée que les gouvernements peuvent préserver le contrôle avant que le déploiement ne se consolide. La poursuite de l’impasse laisserait l’adoption militaire progresser plus vite que la gouvernance internationale.

Les développeurs et les acheteurs d’IA en entreprise devraient également surveiller ces signaux. Les problèmes sous-jacents sont familiers au-delà de la défense : modèles opaques, données sources peu fiables, biais d’automatisation, pistes d’audit insuffisantes et décisions prises plus vite que les personnes ne peuvent les valider.

Les conséquences diffèrent fortement, mais la leçon de gouvernance se transpose. Les organisations ont besoin d’accéder aux sources, aux preuves contradictoires, aux limites du modèle et à une trace de la manière dont des recommandations importantes sont devenues des décisions.

Le maintien d’une base de connaissances consultable peut aider les équipes techniques à préserver cette piste de preuves. Il ne peut pas remplacer des décideurs responsables ni un examen propre au domaine.

La guerre par IA du Project Maven rend impossible d’éviter la question plus vaste. Si l’IA génère des recommandations plus vite que les humains ne peuvent les examiner, quelle partie du processus contrôle réellement la situation ?

La réponse devrait être visible dans les tests, le temps d’examen, les taux de rejet, les enquêtes sur les incidents et les règles applicables. Les lecteurs devraient évaluer la prochaine annonce d’IA militaire à l’aune de ces mesures, et non d’une nouvelle assurance selon laquelle une personne reste quelque part dans la boucle.