Les documents du contrat d’OpenAI avec le Pentagone révèlent une exigence contestée pour une IA qui refuse rarement

OpenAI fait l’objet d’un nouvel examen après que des documents du Pentagone ont décrit des modèles militaires affichant des « taux de refus minimaux », alors que les deux parties nient que cette exigence ait été intégrée à leur accord signé. Le langage contesté figure dans la version P00003 d’un contrat entre OpenAI et le Pentagone obtenu dans le cadre d’une action fondée sur la loi sur la liberté d’information. Il décrit des systèmes spécialisés destinés à rejeter les demandes liées à la sécurité nationale aussi rarement que possible.

Cette formulation ne prouve pas que le Pentagone ait reçu un modèle sans restrictions. OpenAI affirme avoir rejeté cette disposition, tandis que le ministère de la Défense assure qu’aucun contrat actif ne l’inclut. Pourtant, le gouvernement a publié P00003 en réponse à une demande qui excluait explicitement les brouillons, selon l’enquête sur le contrat.

Les documents ont également créé un problème de vérification inhabituel. Un avocat du Pentagone a d’abord confirmé que le document publié était le contrat final, avant de retirer cette confirmation après que des journalistes ont contacté OpenAI. Parallèlement, des documents distincts indiquent que les deux parties ont signé un accord P00003 élargi le 6 février, avant qu’un autre accord n’autorise un déploiement sur des réseaux classifiés le 27 février.

La controverse dépasse donc une seule phrase contestée. Elle met à l’épreuve la possibilité d’auditer les promesses contractuelles, les restrictions au niveau des modèles et les assurances publiques lorsque des IA avancées entrent dans des systèmes militaires secrets.

Anthropic offre le point de comparaison immédiat. Son différend avec le Pentagone portait sur des restrictions relatives à la surveillance intérieure de masse et aux armes autonomes. OpenAI a ensuite annoncé un déploiement dans des environnements classifiés, tout en affirmant que son propre accord préservait des protections dans ces domaines.

Le conflit central est clair : le gouvernement veut des modèles qui restent utiles pour l’ensemble des missions militaires légales, tandis que les fournisseurs d’IA estiment que certains usages exigent toujours des limites fermes. Un modèle optimisé pour refuser moins souvent peut aider les analystes à accomplir un travail légitime. Le même objectif de conception peut aussi affaiblir une couche de protection importante lorsque les requêtes concernent la surveillance, le ciblage ou l’usage de la force létale.

Le contrat entre OpenAI et le Pentagone présente deux historiques contradictoires

Les documents publiés et les explications officielles ne constituent pas encore un récit cohérent de ce que les parties ont signé.

La controverse commence avec un accord de prototype attribué à OpenAI Public Sector en 2025. Un avis de contrat fédéral décrit un accord de prototype à montant fixe, d’une valeur pouvant atteindre 200 millions de dollars. Son objectif déclaré était de développer des capacités d’IA de pointe répondant à des défis critiques de sécurité nationale.

OpenAI n’était pas seule. Le Pentagone a également établi des relations avec Anthropic, Google et xAI pour des prototypes d’IA militaire. Les cas d’usage rapportés comprenaient la logistique, l’aide à la décision en matière de renseignement et des activités de combat plus larges.

P00003 a élargi l’accord antérieur avec OpenAI. La version publiée dans le cadre du litige FOIA définissait les « OpenAI Mission Models » comme des systèmes conçus pour des applications de sécurité nationale. Elle indiquait que ces modèles auraient des « taux de refus minimaux » et offriraient des capacités opérationnelles adaptées aux utilisateurs militaires.

Un refus survient lorsqu’un modèle décline une demande parce que des règles, des mesures de sécurité ou des contrôles techniques identifient la tâche comme inadmissible. Les taux de refus peuvent aussi augmenter lorsque des garde-fous bloquent à tort un travail légitime. Réduire les refus inutiles constitue donc un objectif produit raisonnable dans de nombreux contextes.

Le contexte militaire change les enjeux. Un refus concernant la mise en forme inoffensive d’un document est gênant. Un refus concernant la sélection de cibles, la surveillance de populations ou l’utilisation d’armes peut constituer une limite de sécurité délibérée.

Nate Evans, porte-parole d’OpenAI, a déclaré à The Intercept que l’entreprise n’avait jamais accepté un langage imposant des taux de refus minimaux. Il a qualifié le texte publié de proposition gouvernementale antérieure rejetée par OpenAI. Selon Evans, l’accord final signé ne comportait pas cette exigence.

Jacob Bliss, porte-parole du Pentagone, a lui aussi indiqué que cette expression ne figurait dans aucun accord actuel entre le département et OpenAI. Ces démentis remettent directement en cause le statut du document P00003, mais n’expliquent pas pourquoi il a été inclus dans une production de documents présentée comme finale.

The Intercept et Legal Advocates for Safe Science and Technology avaient demandé les contrats signés, les modifications et les documents finaux connexes. La demande aurait expressément demandé au département de ne pas inclure de brouillons. Cette distinction compte, car les productions au titre de la FOIA peuvent contenir des documents préliminaires, mais le demandeur avait précisément cherché à éviter cette ambiguïté.

Un avocat du Pentagone a d’abord déclaré à la publication que P00003 était le contrat final. Après qu’OpenAI a reçu des questions sur ce langage, l’avocat est revenu sur cette réponse et a demandé aux journalistes de l’ignorer. Le département a ensuite affirmé avoir besoin de plus de temps pour déterminer ce qui avait été publié.

Cette séquence laisse plusieurs possibilités ouvertes. Le gouvernement a peut-être produit un brouillon par erreur. Le document peut combiner des conditions acceptées avec un langage retiré ultérieurement par un autre instrument. Il peut aussi représenter une modification signée qui a été remplacée avant le déploiement.

Aucune de ces possibilités ne peut être retenue avec certitude sans les pages de signature, l’historique des révisions ou le texte de remplacement en vigueur. Le fait critique n’est pas qu’OpenAI ait certainement fourni un modèle à faible taux de refus. Le fait critique est que les documents publics ne permettent pas encore d’établir quelle version régissait le travail.

Pourquoi les « taux de refus minimaux » modifient la question de la sécurité

Un objectif de faible taux de refus mesure la disponibilité, mais ne révèle pas si le modèle reste encadré dans les situations à haut risque.

Les produits d’IA destinés au grand public refusent fréquemment des requêtes liées aux logiciels malveillants, à l’utilisation abusive de données personnelles, à la fabrication d’armes ou à la violence ciblée. Ces contrôles sont imparfaits. Ils rejettent parfois des recherches bénignes, de la fiction, des tests de cybersécurité ou des demandes ne présentant aucune intention dangereuse.

Les utilisateurs gouvernementaux ont des raisons légitimes de rechercher un comportement différent. Un analyste du renseignement peut devoir résumer de la propagande extrémiste sans l’approuver. Une équipe de cybersécurité peut demander à un modèle d’expliquer du code malveillant afin que les défenseurs puissent l’identifier. Les planificateurs militaires peuvent avoir besoin d’analyses portant sur des armes, des adversaires et des conditions de combat.

Une politique standard destinée au grand public pourrait bloquer ces tâches simplement parce qu’elle reconnaît un vocabulaire dangereux. Des modèles spécialisés peuvent réduire ces faux positifs en prenant en compte l’autorité de l’utilisateur, l’environnement opérationnel et la mission prévue.

La clause contestée va plus loin que la simple description d’un accès spécifique à une mission. Les « taux de refus minimaux » présentent la réussite des performances sous l’angle de la rareté avec laquelle le système dit non. Sans métriques, exceptions ou règles d’évaluation associées, la formulation révèle peu de choses sur les refus qui devraient subsister.

Un modèle peut réduire les refus en devenant meilleur pour distinguer les demandes légitimes des demandes interdites. Un autre peut obtenir le même résultat chiffré en supprimant des garde-fous. Il s’agit de systèmes fondamentalement différents, même si leurs taux globaux de refus paraissent identiques.

Heidy Khlaaf, scientifique en chef de l’AI Now Institute et ancienne ingénieure en sécurité des systèmes chez OpenAI, a déclaré à The Intercept que ce langage renvoie probablement à un nombre réduit, voire nul, de garde-fous au niveau du modèle. Elle a également remis en question le principe de créer des garde-fous propres à la sécurité nationale sans limites transparentes.

Cette interprétation demeure une évaluation d’experte plutôt qu’une preuve de la configuration déployée. La phrase du contrat ne divulgue ni les données d’entraînement, ni les instructions système, ni les contrôles d’accès, ni les résultats d’évaluation, ni les conditions déclenchant un examen humain.

Ces détails manquants sont déterminants. Un modèle militaire pourrait répondre largement tout en restant incapable d’initier des actions. Il pourrait fonctionner dans un environnement cloud contrôlé avec des utilisateurs authentifiés, des requêtes consignées et des systèmes d’autorisation distincts. À l’inverse, ses résultats pourraient alimenter des flux de travail opérationnels où la rapidité réduit les possibilités d’examen.

La distinction entre conseil et action peut également s’estomper. Un modèle n’a pas besoin d’appuyer sur une gâchette pour influencer une issue létale. Il pourrait classer des cibles potentielles, recouper des rapports de renseignement, recommander des priorités de surveillance ou résumer des éléments de preuve pour un commandant.

Chaque étape peut influencer la décision finale. Une signature humaine à la fin ne garantit pas automatiquement une supervision significative si la personne ne dispose ni du temps, ni des informations, ni de l’autorité nécessaires pour contester le système.

Le comportement de refus n’est qu’un contrôle parmi d’autres dans cette chaîne. Les restrictions d’approvisionnement définissent les finalités autorisées. Les politiques des modèles déterminent quelles demandes reçoivent des réponses. L’architecture technique contrôle l’accès aux données et les actions externes. La doctrine militaire attribue les responsabilités lorsque des personnes agissent à partir des résultats.

Une affirmation crédible en matière de sécurité doit expliquer comment ces couches se renforcent mutuellement. Elle doit aussi identifier ce qui se passe lorsqu’une couche échoue.

OpenAI affirme que son déploiement comporte des garde-fous techniques et exige une responsabilité humaine pour les décisions impliquant l’usage de la force létale. Sa description publique interdit également la surveillance intérieure de masse. Ces engagements sont importants, mais l’accord non divulgué limite l’évaluation indépendante de leur fonctionnement.

La formulation contestée compte donc même si OpenAI est parvenue à la faire retirer. Elle montre ce qu’au moins un projet gouvernemental privilégiait lors des négociations. La clause plaçait la disponibilité des réponses au centre, tout en laissant non précisées, dans le langage publié, les limites d’un refus acceptable.

Les garde-fous publics d’OpenAI se heurtent à la norme de mission étendue du Pentagone

La tension principale oppose les lignes rouges promises par OpenAI à un modèle d’approvisionnement militaire fondé sur tous les usages légaux.

Le 27 février, OpenAI a conclu un accord permettant à ses modèles de fonctionner dans des environnements militaires classifiés. Ce calendrier a suivi l’échec des négociations entre Anthropic et le Pentagone sur des restrictions acceptables.

OpenAI a publié son récit le lendemain. Dans sa déclaration sur l’accord, l’entreprise a affirmé que l’armée avait besoin d’une IA avancée alors que des adversaires potentiels intègrent des technologies similaires à leurs systèmes.

OpenAI a également présenté plusieurs garde-fous. Elle a déclaré que sa technologie ne pouvait pas servir à la surveillance intérieure de masse. Elle exigeait une responsabilité humaine pour les décisions impliquant l’usage de la force létale, y compris les armes autonomes. L’entreprise a en outre indiqué que du personnel d’OpenAI participerait au déploiement et surveillerait le fonctionnement des systèmes.

Ces engagements ressemblent aux préoccupations soulevées par Anthropic. Anthropic a résisté aux demandes visant à rendre Claude disponible pour toutes les finalités militaires légales sans les restrictions contractuelles qu’elle réclamait. Le Pentagone a ensuite désigné l’entreprise comme un risque pour la chaîne d’approvisionnement, tandis que l’administration a ordonné aux agences fédérales de mettre fin à l’utilisation de ses produits.

L’expression « toutes les finalités légales » semble exhaustive, mais la légalité ne constitue pas une spécification complète de sécurité. Les lois peuvent changer, différer selon les juridictions ou laisser des questions opérationnelles non résolues. Les juristes gouvernementaux et les fournisseurs de technologies peuvent également interpréter différemment une même autorité.

OpenAI affirme que ses conditions ajoutent des protections au-delà du droit existant. Des critiques se sont demandé si ces conditions créent des interdictions applicables ou se contentent principalement de reformuler la politique actuelle du gouvernement. Le contrat opérationnel complet aiderait à trancher cette question, mais il n’a pas été rendu public sous une forme pouvant faire l’objet d’un examen indépendant.

La formulation relative à un taux minimal de refus accentue cette incertitude. Si l’accord final l’a supprimée, OpenAI a réussi à repousser au moins une vaste exigence du gouvernement. Si des exigences similaires ont subsisté sous une autre formulation, les descriptions publiques pourraient ne pas refléter la norme opérationnelle.

La position du gouvernement crée une autre tension. Les responsables veulent que les systèmes d’IA commerciaux soutiennent des missions auxquelles les produits grand public ne peuvent répondre. Ils s’opposent également à ce que des fournisseurs privés exercent un contrôle sans limite sur la politique militaire.

Cette préoccupation n’est pas dénuée de fondement. Une entreprise non élue ne devrait pas déterminer la politique de sécurité nationale en modifiant simplement les règles d’utilisation d’un modèle. L’autorité militaire doit relever d’une chaîne de commandement légale et démocratique.

Les fournisseurs contrôlent toutefois des systèmes présentant des limites connues. Les modèles peuvent générer des informations erronées, suivre des instructions adverses, exposer des données sensibles ou produire des réponses convaincantes non étayées par des preuves. Une clause d’acquisition ne peut éliminer ces risques techniques.

La solution exige davantage que de décider si OpenAI ou le Pentagone a le dernier mot. Les contrats doivent prévoir des usages interdits précis, des garanties mesurables, des exigences de journalisation, des procédures d’escalade et des conséquences en cas de violation.

Une supervision indépendante est importante, car les deux parties ont intérêt à mettre l’accent sur leur compatibilité. Le Pentagone veut des systèmes performants avec moins d’obstacles opérationnels. OpenAI veut accéder à un client influent tout en maintenant sa position publique en matière de sécurité.

Le différend avec Anthropic illustre ce qui se produit lorsque ces incitations divergent. Le refus d’Anthropic d’accepter les conditions privilégiées par le gouvernement a entraîné des représailles politiques et une exclusion opérationnelle. Ce résultat exerce une pression sur chaque fournisseur concurrent pour paraître plus accommodant.

OpenAI est entrée dans l’environnement classifié pendant ce conflit. L’entreprise affirme avoir conservé des garanties plus strictes, et non plus faibles. Le dossier P00003 contesté rend désormais les preuves documentaires essentielles pour évaluer cette affirmation.

Le déploiement classifié soulève des risques au-delà des refus du modèle

Même un modèle soigneusement encadré peut créer de graves risques lorsque le secret limite les tests externes, le signalement des incidents et la responsabilité publique.

Les réseaux classifiés empêchent les renseignements sensibles de parvenir à des utilisateurs non autorisés. Ils empêchent aussi les chercheurs, les journalistes et le grand public d’examiner le comportement d’un modèle déployé.

Ce secret est nécessaire à de nombreuses opérations militaires. Il crée néanmoins un déficit de vérification. Les observateurs externes ne peuvent pas effectuer de tests, comparer les comportements de refus, examiner les journaux ou déterminer si les garanties ont changé après le déploiement.

Le gouvernement peut réaliser des évaluations internes, mais ces examens doivent répondre à davantage de questions que celle de savoir si le modèle accomplit des tâches. Ils devraient mesurer les hallucinations, le biais d’automatisation, les fuites de données, l’injection de prompts et les performances dans des conditions adverses.

Une hallucination survient lorsqu’un modèle produit un contenu non étayé ou faux sous une forme assurée. Dans un flux de travail de bureau ordinaire, un utilisateur pourrait repérer une citation inventée. Dans une opération évoluant rapidement, une synthèse plausible mais incorrecte peut influencer une décision lourde de conséquences.

Le biais d’automatisation crée un problème distinct. Les personnes accordent souvent une confiance excessive aux recommandations générées par machine, surtout lorsque le système traite davantage d’informations qu’elles ne peuvent en examiner. Un modèle qui refuse rarement peut aggraver cette tendance en produisant une réponse même lorsque les preuves sont incomplètes.

Le modèle peut également rencontrer des documents classifiés contenant des instructions malveillantes. L’injection de prompts est une attaque qui dissimule des commandes dans les données que le système a été invité à analyser. Un document compromis pourrait demander au modèle de révéler des informations, d’ignorer les règles ou de manipuler ses conclusions.

Ces modes de défaillance ne nécessitent pas d’intention malveillante de la part du gouvernement. Ils découlent des limites de la technologie et de la complexité des systèmes d’information militaires.

OpenAI indique que son déploiement utilise un environnement cloud plutôt que de placer les modèles directement sur des plateformes d’armes. Cette séparation peut réduire les risques d’action immédiate. Elle n’élimine pas l’influence du modèle sur l’analyse du renseignement, la planification, la logistique ou le soutien au ciblage.

Le Pentagone a décrit l’IA comme un moyen d’augmenter la prise de décision dans des environnements opérationnels complexes. En mai, le département avait annoncé des dispositifs sur réseaux classifiés avec Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection et SpaceX. L’expansion de l’IA classifiée montre que la question de politique dépasse largement un seul fournisseur.

Le recours à plusieurs fournisseurs peut réduire la dépendance envers une seule entreprise. Il peut également créer des garanties incohérentes, des responsabilités qui se chevauchent et une pression pour s’aligner sur le concurrent le moins restrictif.

Un modèle qui refuse plus souvent pourrait perdre des évaluations axées sur l’exécution des tâches. Un modèle qui répond plus librement pourrait sembler opérationnellement supérieur jusqu’à ce qu’une grave défaillance survienne. Les indicateurs d’acquisition peuvent donc façonner le comportement de sécurité même sans demande explicite de suppression des garde-fous.

Le débat public ne devrait pas considérer les refus comme intrinsèquement positifs. Des refus excessifs peuvent rendre un système peu fiable et encourager les utilisateurs à rechercher des alternatives moins contrôlées. La question pertinente est de savoir si les refus interviennent à la bonne frontière.

Répondre à cette question exige des tests fondés sur des scénarios. Les évaluateurs devraient examiner si les modèles refusent la surveillance illégale, l’identification de cibles non étayée, les actions létales autonomes et les tentatives de contourner l’autorisation. Ils devraient également vérifier que les modèles peuvent accomplir des tâches légitimes de renseignement et de défense.

Les résultats peuvent rester classifiés lorsque cela est nécessaire, mais les organes de contrôle doivent y avoir accès. Les inspecteurs généraux, les commissions parlementaires et des experts indépendants disposant des habilitations appropriées peuvent évaluer les contrôles sans publier de secrets opérationnels.

La controverse sur le contrat entre OpenAI et le Pentagone révèle ce qui se produit lorsque ni le contrat ni le cadre d’évaluation ne peuvent être examinés. Le public reçoit des assurances du fournisseur et du client, mais ne dispose pas des preuves nécessaires pour les vérifier.

Le déficit documentaire constitue désormais le risque central

La conclusion la plus solide n’est pas qu’OpenAI a supprimé ses garanties, mais que la tenue des dossiers du gouvernement a rendu impossible l’audit d’un accord lourd de conséquences.

Les documents publiés contiennent une clause que les deux parties affirment avoir rejetée. La demande FOIA visait les documents définitifs et excluait les brouillons. Un avocat du gouvernement a d’abord considéré P00003 comme définitif, avant de retirer cette conclusion.

Chaque fait peut avoir une explication administrative innocente. Ensemble, ils sapent la confiance dans l’historique officiel du contrat.

Le contrôle des versions devrait être élémentaire dans une acquisition impliquant une IA de pointe classifiée. Les examinateurs doivent savoir qui a proposé une condition, quand elle a changé, qui a approuvé la révision et quel document régit le déploiement.

La chronologie de février ajoute de la complexité. Un document distinct indiquerait qu’OpenAI a accepté une version élargie de P00003 le 6 février. Le 27 février, les parties ont finalisé le dispositif de réseau classifié.

La relation entre ces accords reste incertaine. Le document du 27 février pourrait remplacer la modification antérieure. Il pourrait la compléter. Il pourrait aussi régir un déploiement distinct tout en laissant active une partie de l’accord de prototype.

Le démenti d’OpenAI est précis : l’entreprise affirme que le contrat exécuté n’exige pas de taux de refus minimal. Cette affirmation mérite d’être consignée clairement. Elle ne devrait pas être étendue en preuve que le document publié n’a jamais été exécuté ou qu’aucune exigence de performance comparable n’existe ailleurs.

Le démenti du Pentagone est tout aussi limité. Affirmer que l’expression n’apparaît dans aucun contrat actuel ne permet pas d’établir si elle a un jour figuré dans une modification exécutée. Une condition peut disparaître d’un accord actif après modification ou remplacement.

Le gouvernement peut résoudre une grande partie du différend sans exposer les opérations classifiées. Il pourrait publier les pages de signature pertinentes, la chronologie des modifications, le langage de remplacement et les parties non classifiées des exigences opérationnelles.

OpenAI pourrait également publier le texte contractuel exact étayant ses garanties publiques, sous réserve des caviardages nécessaires. L’entreprise a déjà communiqué son interprétation de l’accord ; confirmer les clauses opérationnelles donnerait davantage de substance à ce récit.

Les critiques doivent également éviter les exagérations. « Taux de refus minimal » n’établit pas qu’un modèle contrôle des armes, mène une surveillance ou ignore toute restriction. Le document décrit une caractéristique souhaitée, et non la preuve d’un déploiement interdit précis.

L’expression ne révèle pas non plus le taux de refus réel. Aucun pourcentage vérifié, benchmark ou comparaison avec ChatGPT grand public n’apparaît dans les informations disponibles. Les affirmations selon lesquelles l’armée aurait reçu un modèle totalement dépourvu de restrictions vont donc au-delà des preuves.

L’incertitude elle-même a des conséquences. Les développeurs travaillant sur des systèmes de sécurité doivent avoir confiance dans le fait que les engagements de déploiement résistent à la pression des acquisitions. Les acheteurs d’entreprise ont besoin d’une documentation précise lorsque différentes configurations de modèles fonctionnent selon des règles différentes.

Les travailleurs du savoir doivent également comprendre qu’un nom de modèle familier ne garantit pas un comportement familier. Une configuration militaire, un déploiement d’entreprise et un chatbot public peuvent utiliser des instructions, des outils, des autorisations et des seuils de refus différents.

Maintenir un registre consultable des politiques, des évaluations et des révisions est essentiel à une gouvernance responsable de l’IA. Une base de connaissances bien gérée ne peut pas se substituer au contrôle public, mais le même principe s’applique : les décisions lourdes de conséquences exigent des sources traçables et un historique des versions.

Le différend devrait donc être traité comme une défaillance documentaire jusqu’à ce que des preuves plus solides établissent davantage. Ce cadrage reste prudent quant à l’allégation sous-jacente tout en reconnaissant que l’ambiguïté contractuelle est inacceptable à ce niveau de risque.

Ce qu’il faut surveiller après la divulgation sur le taux minimal de refus

Trois signaux détermineront si cet épisode devient un différend corrigible sur les dossiers ou la preuve d’un problème de responsabilité plus profond.

Le premier signal est la publication de la chaîne contractuelle opérationnelle réelle. Le Pentagone devrait indiquer si P00003 a été signé, remplacé ou produit par erreur. Il devrait également montrer comment la modification du 6 février se rapporte à l’accord de déploiement classifié du 27 février.

Une chronologie claire étayerait l’explication des parties si elle démontrait que la clause contestée est restée uniquement dans un brouillon rejeté. Un refus persistant ou des réponses contradictoires renforceraient les préoccupations selon lesquelles la description publique omet des conditions pertinentes.

Le deuxième signal est un cadre d’évaluation concret pour les refus de l’IA militaire. Les responsables n’ont pas besoin de divulguer des prompts sensibles ni des données de renseignement. Ils peuvent néanmoins publier les catégories d’usage interdit, les méthodes de test, les obligations de signalement et l’autorité chargée d’enquêter sur les défaillances.

Un tel cadre devrait distinguer les faux refus des refus nécessaires. Il devrait également tester les hallucinations, l’utilisation non autorisée d’outils, l’injection de prompts et la supervision humaine sous la pression du temps opérationnel.

La publication de normes d’évaluation significatives renforcerait l’argument d’OpenAI selon lequel un modèle militaire plus utile peut conserver des limites fermes. Un programme de performance axé uniquement sur les taux de réponse l’affaiblirait.

Le troisième signal concerne la manière dont le Pentagone applique les garanties auprès de fournisseurs concurrents. Google, Microsoft, Amazon, Nvidia, Reflection, SpaceX, OpenAI et les autres sous-traitants ne devraient pas être soumis à des règles sensiblement différentes en matière de surveillance ou de décisions létales sans raison documentée.

L’affrontement avec Anthropic rend cette comparaison particulièrement importante. Avant son effondrement, les négociations avec le Pentagone auraient porté sur la question de savoir si l’entreprise autoriserait un usage militaire plus étendu. OpenAI a ensuite annoncé un accord maintenant des restrictions qui semblaient similaires dans leurs descriptions publiques.

Si des garanties communes émergent entre les fournisseurs, cet épisode ressemblera davantage à une négociation difficile suivie d’une convergence des politiques. Si les fournisseurs obtiennent des conditions différentes selon leur disposition à réduire les refus, la pression concurrentielle pourrait progressivement abaisser le niveau minimal de sécurité.

L’histoire du contrat entre OpenAI et le Pentagone porte au fond sur la question de savoir qui définit ce niveau et comment il peut être vérifié. Ni le refus généralisé ni la conformité sans restriction ne constituent une norme adéquate pour l’IA militaire.

Les lecteurs devraient surveiller les documents, les contrôles mesurables et des règles cohérentes entre fournisseurs, plutôt qu’une nouvelle série d’assurances. Tant qu’ils n’apparaîtront pas, la clause des « taux de refus minimaux » restera contestée, et le système qui aurait été livré en vertu de celle-ci demeurera non vérifié. La prochaine divulgation devrait répondre à une question simple : quelles garanties contraignent le modèle déployé lorsqu’une demande militaire légale crée néanmoins un risque inacceptable ?