Le plan d’Anthropic pour des évaluateurs IA indépendants obtient le soutien d’OpenAI, mais l’accès sera déterminant

Les évaluateurs IA indépendants d’Anthropic sont passés d’une idée de politique publique à un engagement public le 12 septembre 2026, malgré une concurrence féroce entre les laboratoires de pointe. Le PDG Dario Amodei a déclaré que des équipes externes devraient bénéficier d’un accès continu, comparable à celui des employés, aux pratiques de sécurité, aux incidents, aux processus d’entraînement et aux systèmes avancés. Le PDG d’OpenAI, Sam Altman, a rapidement indiqué que son entreprise prendrait le même engagement.

Cet accord est plus conséquent qu’une nouvelle promesse de tester les modèles avant leur lancement. Anthropic propose que des observateurs externes restent suffisamment proches pour examiner la manière dont les décisions de sécurité émergent au sein d’un laboratoire. Des bureaux, des badges d’accès, des ordinateurs portables fournis par l’entreprise et un contact direct avec les chercheurs remplaceraient les brèves fenêtres de test qui définissent souvent les évaluations externes.

La proposition constitue également un test de crédibilité immédiat pour les deux entreprises. Un accès comparable à celui des employés paraît substantiel, mais aucune des deux n’a publié de règles complètes sur la sélection des évaluateurs, la confidentialité, les droits de publication ou les conclusions contestées. Le modèle d’évaluation IA indépendante ne comptera que si les évaluateurs peuvent examiner des éléments dérangeants et communiquer des conclusions significatives.

Les évaluateurs IA indépendants d’Anthropic examineraient davantage que les modèles finis

Anthropic propose une observation continue du processus de développement, et non une nouvelle évaluation ponctuelle avant le lancement.

Amodei a présenté cet engagement dans son essai sur le rythme à adopter de septembre 2026. Il a affirmé que les capacités des modèles progressaient plus vite que les contrôles d’alignement, de surveillance et de sécurité. Dans sa formulation, réguler le rythme ne signifie pas mettre fin au développement des modèles. Cela signifie laisser suffisamment de temps aux garanties et aux vérifications avant de faire progresser des capacités plus puissantes.

La première étape de sa proposition en trois volets concerne les évaluateurs intégrés. Chaque développeur de systèmes de pointe accorderait à une équipe indépendante un accès continu semblable à celui des employés. Cette équipe vérifierait le respect des engagements de sécurité, signalerait les incidents et évaluerait à la fois les modèles achevés et les processus qui les produisent.

Cette portée représente le changement important. Les évaluations externes de modèles se concentrent généralement sur un système particulier durant une période limitée avant sa sortie. Les évaluateurs obtiennent un accès, effectuent des tests convenus, documentent les résultats, puis rendent le contrôle au développeur. Leur travail peut révéler des capacités dangereuses, mais n’offre qu’un instantané.

L’accès intégré élargirait le périmètre de l’examen. Les évaluateurs pourraient vérifier si les équipes internes ont respecté les règles de test, réagi correctement aux signaux d’alerte et documenté les exceptions. Ils pourraient observer l’évolution des garanties à mesure que l’entraînement se poursuit, au lieu de juger uniquement le système final présenté à l’évaluation.

Amodei a indiqué qu’Anthropic prévoit de fournir des bureaux, des badges, des ordinateurs portables et un accès aux employés concernés. L’engagement rapporté couvre également la surveillance des pratiques de sécurité et le signalement des incidents. Ces éléments suggèrent une présence physique et organisationnelle, sans pour autant établir un accès technique sans restriction.

Cette distinction est importante, car les modèles de pointe fonctionnent de plus en plus au sein de systèmes complexes. Ils utilisent des outils logiciels, conservent du contexte sur plusieurs étapes et agissent dans des environnements contrôlés. Le comportement d’un modèle peut dépendre de son prompt système, de ses autorisations, de son échafaudage logiciel, de ses outils de surveillance et des ressources de calcul disponibles.

Un évaluateur qui ne teste qu’une interface publique ne voit que la couche finale. Un évaluateur intégré peut examiner comment les développeurs ont configuré cette couche et ce qui s’est produit lors des tests internes. Cette vision plus large peut révéler des défaillances absentes d’une démonstration soignée ou d’un benchmark standard.

OpenAI a déjà reconnu ce problème d’évaluation. Son guide d’évaluation de mai 2026 indique que les évaluations modernes doivent prendre en compte les environnements, les outils et les flux de travail. Traiter un agent avancé comme un chatbot ordinaire peut produire des résultats qui ne reflètent pas ses conditions de fonctionnement réelles.

L’accord d’OpenAI s’aligne donc sur ses principes d’évaluation précédemment énoncés. Toutefois, soutenir ce concept ne revient pas à mettre en place un programme opérationnel. Les entreprises doivent encore définir quels systèmes, dossiers, employés et environnements internes les équipes indépendantes pourront inspecter.

La proposition doit également être distinguée de l’appel plus large à ralentir les progrès à la frontière. L’évaluation intégrée est un engagement concret que chaque entreprise peut mettre en œuvre indépendamment. La coordination sectorielle, les protections antitrust et les accords internationaux exigent que les gouvernements et les concurrents agissent ensemble.

Cela fait de l’accès des évaluateurs la partie la plus rapidement vérifiable du programme d’Amodei. Anthropic et OpenAI n’ont pas besoin d’un traité avant de publier des critères de sélection ou des règles d’accès. Elles peuvent commencer par nommer des évaluateurs, établir des protections en matière de signalement et publier le périmètre du programme.

Pourquoi l’accord d’OpenAI fait monter les enjeux

Le soutien d’OpenAI transforme la proposition d’Anthropic en une norme concurrentielle que les autres laboratoires de pointe doivent désormais accepter, égaler ou rejeter publiquement.

Altman a déclaré être d’accord avec Amodei sur la nécessité de réguler le rythme à la frontière. Selon l’Associated Press, il a également engagé OpenAI à fournir aux évaluateurs indépendants un accès comparable à celui des employés. La réponse est arrivée assez rapidement pour faire passer le sujet d’une déclaration de politique d’Anthropic à un défi pour l’industrie.

Les deux entreprises rivalisent pour attirer les chercheurs, les clients professionnels, la capacité de calcul et le leadership dans les modèles avancés. Cette rivalité rend leur accord remarquable. Les engagements en matière de sécurité s’affaiblissent souvent lorsqu’un participant estime qu’un autre peut gagner en vitesse en les ignorant.

Une promesse équivalente d’OpenAI réduit cette objection immédiate. Anthropic ne peut plus être présentée comme le seul grand développeur acceptant un contrôle continu. OpenAI, de son côté, subit une pression pour traduire l’approbation d’Altman en conditions au moins aussi précises que le dispositif proposé par Anthropic.

Les autres développeurs font désormais face à une question plus claire. Google DeepMind, Meta, xAI et d’autres laboratoires de pointe doivent décider si l’accès intégré deviendra une attente commune. Le silence les place en dehors d’une norme soutenue par deux concurrents étroitement observés.

Cette pression affectera plus que la communication publique. Les clients professionnels ont de plus en plus besoin de preuves concernant la gouvernance des modèles, la réponse aux incidents et les contrôles de déploiement. Un développeur bénéficiant d’un examen externe crédible peut offrir aux acheteurs une source d’assurance supplémentaire, au-delà de ses propres fiches système et rapports de sécurité.

Les développeurs font aussi face à une pression interne de la part de chercheurs qui identifient des risques graves. Les évaluateurs intégrés peuvent fournir un canal pour des éléments de preuve qui ne dépend pas entièrement d’une publication contrôlée par la direction. Ce canal ne compte que si les employés peuvent s’adresser aux évaluateurs sans représailles ni obstruction procédurale.

Le bénéfice potentiel s’étend aux régulateurs. Les agences gouvernementales disposent rarement du personnel, de l’infrastructure ou de l’accès immédiat nécessaires pour reproduire chaque évaluation de systèmes de pointe. Des organisations externes qualifiées peuvent assurer un examen technique entre le contrôle interne et l’application formelle de la réglementation.

Un évaluateur ne doit toutefois pas devenir un substitut à l’autorité publique. Une équipe d’évaluation privée ne peut imposer de sanctions contraignantes que si la loi ou un contrat lui accorde ce pouvoir. Elle ne peut pas non plus trancher, au nom de la société, les choix politiques plus vastes portant sur le niveau de risque acceptable.

L’engagement d’OpenAI accroît les attentes, car l’entreprise a déjà soutenu des mesures politiques liées aux évaluations indépendantes de sécurité. Sa position sur la politique de l’IA du 9 septembre a soutenu des propositions californiennes portant sur les évaluations de sécurité, les normes d’audit, la protection des jeunes et les risques biologiques. L’entreprise a également déclaré qu’elle poursuivrait des normes volontaires de pointe avec d’autres laboratoires.

La nouvelle promesse relie ces positions publiques aux propres opérations d’OpenAI. Soutenir une législation sur l’audit est plus facile que de permettre à des spécialistes externes d’observer les désaccords internes. Un accès comparable à celui des employés permettra de vérifier si l’entreprise accepte l’examen lorsque les conclusions retardent une sortie concurrentielle.

Anthropic fait face au même test. Son identité met depuis longtemps l’accent sur la sécurité, l’interprétabilité et une montée en puissance responsable. Les évaluateurs intégrés peuvent renforcer cette affirmation, mais une mise en œuvre insuffisante créerait une contradiction plus nette entre le positionnement de l’entreprise et ses contrôles réels.

La cible immédiate de la pression n’est donc pas le gouvernement. Ce sont les laboratoires qui prennent cet engagement. Ils ont volontairement relevé le niveau à partir duquel journalistes, chercheurs, clients, employés et décideurs politiques peuvent juger leur conduite.

Le véritable arbitrage oppose l’indépendance à l’accès interne

Les évaluateurs ont besoin d’un accès approfondi pour comprendre les systèmes de pointe, mais leur dépendance envers un laboratoire peut affaiblir l’indépendance qui donne de la valeur à leurs conclusions.

L’évaluation externe a toujours posé un problème d’accès. Un accès limité protège la propriété intellectuelle, les données des utilisateurs, les poids des modèles et les contrôles de sécurité. Il peut aussi empêcher les examinateurs de voir les mécanismes exacts à l’origine de comportements dangereux ou trompeurs.

Un accès comparable à celui des employés se rapproche de l’autre extrême. Les évaluateurs pourraient observer les tests internes et échanger régulièrement avec les équipes de sécurité. Ils pourraient recevoir un contexte technique rendant leurs conclusions plus précises. Ils pourraient aussi devenir dépendants, financièrement, socialement ou opérationnellement, de l’entreprise évaluée.

Cette tension ne peut pas être résolue en qualifiant simplement une équipe d’indépendante. La relation nécessite des garanties applicables. Les évaluateurs devraient disposer d’un financement protégé, de droits de publication fixes, de canaux de communication sécurisés et d’une autorité claire pour préserver les éléments de preuve pertinents.

Les procédures de sélection exigent également un examen attentif. Une entreprise ne devrait pas pouvoir choisir uniquement des examinateurs susceptibles d’accepter ses hypothèses. Une rotation entre organisations qualifiées pourrait réduire les risques de familiarité, tandis que des règles de qualification transparentes pourraient décourager les nominations complaisantes.

Le financement présente un autre défi. L’évaluation de systèmes de pointe exige du personnel technique, des environnements informatiques sécurisés et des outils de test spécialisés. Si un laboratoire assume l’intégralité des coûts, les observateurs peuvent se demander si les évaluateurs sont capables de publier des conclusions nuisant à cette relation.

Un financement gouvernemental ou mutualisé à l’échelle du secteur pourrait réduire la dépendance directe. Toutefois, un financement mutualisé nécessite des contrôles empêchant les entreprises dominantes de façonner le marché des évaluateurs. Les subventions publiques peuvent introduire d’autres pressions, notamment l’influence politique et la lenteur des procédures d’achat.

Les droits de publication sont tout aussi importants. Les évaluateurs rencontreront des informations confidentielles qui ne peuvent pas être publiées en toute sécurité dans un rapport public. Les vulnérabilités des modèles, les détails de capacités dangereuses, les informations privées des utilisateurs et l’architecture de sécurité exigent une gestion prudente.

La confidentialité ne peut pas devenir une raison universelle de se taire. Un cadre crédible devrait distinguer les détails techniques sensibles des conclusions générales sur la conformité, les risques non résolus et la réponse aux incidents. Les évaluateurs ont besoin d’un moyen de signaler des préoccupations graves au-delà de la direction de l’entreprise.

Le laboratoire a également besoin d’un processus équitable pour corriger les erreurs factuelles. Les évaluations techniques peuvent produire des faux positifs, négliger des hypothèses environnementales ou mal interpréter des données incomplètes. Un processus de réponse améliore l’exactitude, mais il ne doit pas donner à l’entreprise un droit de veto sur la publication.

Un cadre d’accès sécurisé de 2026 a décrit le dilemme de sécurité sous-jacent. Les développeurs détiennent des informations sensibles sur les modèles, tandis que les évaluateurs ont besoin d’un accès suffisant pour mener des évaluations pertinentes. Les évaluateurs doivent aussi protéger leurs méthodologies privées afin que les laboratoires ne puissent pas optimiser les modèles en fonction de tests connus.

L’évaluation intégrée intensifie ces deux risques. Un évaluateur disposant d’un accès interne peut exposer accidentellement des informations propriétaires. Un développeur ayant une visibilité sur les méthodes d’évaluation peut s’entraîner directement pour le test, obtenant des scores élevés sans amélioration plus large de la sécurité.

La séparation technique peut aider. Des environnements d’évaluation sécurisés peuvent limiter les mouvements de données, enregistrer les accès et séparer les matériaux de test des équipes de développement. Ces contrôles devraient protéger les deux parties sans permettre au laboratoire de surveiller chaque décision d’enquête.

Le meilleur dispositif ne ressemblera ni à celui d’un sous-traitant ordinaire ni à celui d’un employé sans restriction. Il exige un accès comparable à celui des initiés, assorti d’une gouvernance qui préserve un jugement extérieur. Cette combinaison est difficile, mais toute solution plus faible risque de produire une supervision purement cérémonielle.

Un accès comparable à celui d’un employé nécessite toujours un règlement détaillé

La proposition reste incomplète tant qu’Anthropic et OpenAI n’auront pas défini, en termes opérationnels, l’accès, l’autorité, la gestion des incidents et la divulgation publique.

L’expression « accès comparable à celui d’un employé » a une force persuasive parce qu’elle suggère une proximité. Elle ne précise pas quel employé, quels systèmes ou quelles autorisations. Un chercheur travaillant sur le comportement des modèles dispose d’un accès différent de celui d’un employé des communications ou d’un sous-traitant en visite.

L’accès technique devrait couvrir davantage que le point de terminaison public du modèle. Selon l’évaluation, les examinateurs peuvent avoir besoin des invites système, des autorisations d’outils, des versions du modèle, des résultats de surveillance et des dossiers issus de tests sur les capacités dangereuses. Les données d’entraînement et les poids du modèle soulèvent des préoccupations de sécurité et juridiques plus importantes.

L’accès aux processus compte tout autant. Les évaluateurs doivent comprendre qui peut approuver le déploiement, ce qui se passe lorsque des seuils sont franchis et comment la direction résout les désaccords. Sinon, ils risquent d’observer les tests sans voir comment ceux-ci influencent les décisions.

L’accès aux incidents mérite une règle distincte. Un laboratoire doit définir ce qui constitue un incident, à quel moment les évaluateurs sont informés et si un examen rétrospectif est autorisé. Une notification tardive peut empêcher les examinateurs de préserver les journaux ou d’interroger les employés concernés.

Les évaluateurs ont aussi besoin d’une protection contre le retrait de leur accès. Une entreprise ne devrait pas pouvoir écarter une équipe immédiatement après une conclusion critique. Les contrats devraient définir les conditions de résiliation, le règlement des différends et les droits continus de signaler les travaux achevés avant le retrait.

Les programmes nécessitent des normes relatives aux conflits d’intérêts. Les évaluateurs peuvent conseiller plusieurs laboratoires concurrents, rechercher un emploi futur ou dépendre du financement des développeurs. La divulgation publique de relations importantes peut aider les lecteurs à évaluer l’indépendance qui sous-tend chaque rapport.

Le cadre de risque plus large d’Anthropic soutient déjà que les développeurs de systèmes de pointe devraient faire appel à des évaluateurs indépendants qualifiés. Il appelle aussi à publier des examens des évaluations réalisées par les entreprises et des rapports sur les risques. L’accès intégré étendrait cette approche, d’un examen périodique vers une supervision institutionnelle continue.

Cependant, les modalités de communication publique restent incertaines. Un évaluateur pourrait publier un rapport détaillé, une déclaration d’assurance limitée, ou ne rien publier à moins qu’un incident grave ne survienne. Ces formats offrent des niveaux de responsabilité très différents.

Une déclaration d’assurance limitée pourrait confirmer qu’un processus a eu lieu sans révéler ce que les évaluateurs ont constaté. Un examen détaillé pourrait décrire les risques testés, les limites, les désaccords et les mesures correctives. La seconde option offre davantage de valeur, mais soulève de plus grandes préoccupations en matière de sécurité et de responsabilité.

Les procédures de désaccord révéleront le sérieux de l’engagement. Supposons que les évaluateurs recommandent de retarder un déploiement tandis que la direction estime les contrôles suffisants. Les lecteurs doivent savoir qui décide, si la dissidence devient publique et quelle documentation subsiste.

Aucun évaluateur privé ne peut garantir qu’un modèle est sûr. Les systèmes de pointe fonctionnent dans des environnements changeants et interagissent avec des utilisateurs qui découvrent de nouveaux modes de défaillance. L’évaluation peut réduire l’incertitude, identifier les dangers et tester les contrôles, mais elle ne peut pas éliminer le risque.

Cette limite devrait figurer dans toute description publique du programme. Une entreprise ne doit pas utiliser la présence d’un évaluateur comme une certification générale. L’affirmation doit rester spécifique aux systèmes, conditions, tests et dates effectivement examinés.

Les normes de compétence des évaluateurs doivent également être définies. Les équipes peuvent nécessiter une expertise en cybersécurité, risques biologiques, agents autonomes, interprétabilité et gouvernance organisationnelle. Aucune organisation unique ne couvrira nécessairement tous les domaines de risque.

Un modèle à plusieurs évaluateurs pourrait offrir une couverture plus solide. Une organisation pourrait tester les capacités dangereuses, tandis qu’une autre examinerait la gouvernance et la réponse aux incidents. Les vérifications croisées peuvent réduire la dépendance à une méthodologie ou à un jugement institutionnel unique.

La prochaine publication utile de l’une ou l’autre entreprise n’est donc pas une nouvelle déclaration de soutien. C’est une charte de programme avec des responsabilités nommées, des niveaux d’accès définis, des canaux de signalement protégés et une date de lancement.

Une supervision volontaire peut renforcer la confiance sans mettre fin à la course à l’IA

La proposition d’Anthropic peut révéler des défaillances de sécurité, mais elle ne supprime pas les incitations commerciales et géopolitiques qui poussent les laboratoires vers un développement plus rapide.

L’argument plus large d’Amodei commence par l’accélération des capacités. Il affirme que les systèmes d’IA contribuent de plus en plus à la création de systèmes ultérieurs, une dynamique appelée amélioration récursive de soi. Dans ce contexte, les modèles assistent la recherche, le codage, les tests et l’optimisation, qui alimentent ensuite le développement.

Cette affirmation ne signifie pas qu’une machine autonome se redessine indépendamment sans contrôle humain. Elle décrit une boucle de développement dans laquelle l’IA accroît la productivité de la recherche. Une recherche plus rapide peut réduire le temps disponible pour l’évaluation, la surveillance et les travaux de sécurité.

Amodei a également cité des défaillances impliquant des agents autonomes et des tests cybernétiques. Son essai avertit qu’un essaim mal aligné plus capable pourrait causer de graves dommages à l’échelle d’Internet. Cette prévision relève de son évaluation, et non d’un calendrier établi de manière indépendante.

La distinction importe, car les prédictions extrêmes peuvent détourner l’attention des questions de gouvernance immédiates. Les évaluateurs n’ont pas besoin de s’accorder sur une prévision précise de catastrophe pour examiner les incidents actuels, les contrôles d’accès et les procédures de déploiement. L’incertitude existante justifie déjà de meilleures preuves.

L’objection critique porte sur la coordination volontaire. Les entreprises peuvent promettre de modérer le rythme du développement tout en interprétant différemment cette modération. Un laboratoire pourrait retarder le déploiement, un autre poursuivre l’entraînement interne, et un troisième considérer qu’une surveillance accrue est suffisante.

Amodei reconnaît le problème concurrentiel. Sa deuxième mesure proposée exige une coordination de sécurité à l’échelle du secteur, potentiellement soutenue par des dérogations au droit de la concurrence. Sa troisième dépend de la coopération entre les gouvernements démocratiques et les concurrents géopolitiques.

Ces étapes font face à des obstacles bien plus importants que l’évaluation intégrée. Les gouvernements peuvent rejeter des restrictions qu’ils estiment affaiblir la compétitivité nationale. Les laboratoires rivaux peuvent soupçonner que les normes de sécurité protègent les acteurs établis en augmentant les coûts pour les petits développeurs.

Les critiques peuvent raisonnablement se demander si les entreprises établies bénéficient d’une réglementation que les concurrents plus petits ne peuvent pas se permettre. L’évaluation indépendante exige des talents spécialisés, une infrastructure sécurisée et du temps. Des obligations mal conçues pourraient renforcer les laboratoires qui détiennent déjà le plus de capital et de ressources de calcul.

Cette préoccupation n’invalide pas la supervision. Elle signifie que les normes devraient être proportionnées au risque et fournir, lorsque cela est approprié, une infrastructure d’évaluation partagée. La qualification devrait dépendre de la compétence technique, non de la relation commerciale d’un évaluateur avec le plus grand développeur.

Une autre préoccupation est la capture réglementaire. Un petit groupe de laboratoires et d’évaluateurs favorisés pourrait définir le risque acceptable sans une participation publique plus large. Leurs normes pourraient devenir influentes avant que les législateurs n’établissent une responsabilité démocratique.

La transparence peut réduire ce danger. Les gouvernements, les universitaires, les groupes de la société civile et les secteurs concernés devraient participer à la définition des qualifications des évaluateurs et des attentes en matière de communication. Les désaccords publiés révéleraient également où s’arrête le consensus privé.

La proposition rencontre aussi une limite géopolitique. Un ralentissement limité à certaines entreprises américaines ne contraindrait pas nécessairement les développeurs ailleurs. Amodei soutient que les pays démocratiques doivent se coordonner avec des gouvernements autoritaires, mais une telle vérification serait difficile.

OpenAI et Anthropic peuvent néanmoins améliorer leurs propres pratiques sans résoudre la coordination internationale. Des évaluateurs intégrés peuvent détecter des défaillances de processus et documenter si chaque entreprise suit ses règles déclarées. Ils ne peuvent pas vérifier les travaux non divulgués dans des laboratoires sans lien entre eux.

Le résultat est une intervention utile mais limitée. Des évaluateurs indépendants de l’IA peuvent améliorer la responsabilité au sein des entreprises participantes. Ils ne peuvent pas régler la course à l’IA, déterminer la politique mondiale ni garantir que chaque concurrent accepte les mêmes contraintes.

Les lecteurs devraient donc résister à deux interprétations exagérées. La proposition n’est pas un ralentissement contraignant à l’échelle du secteur. Elle est aussi plus substantielle qu’un message ordinaire sur la sécurité si l’accès promis devient réel et durable.

Pour les clients d’entreprise, la question pratique concerne les preuves. Les acheteurs qui évaluent des systèmes avancés devraient demander quels risques ont été testés de manière externe, quel accès les examinateurs ont reçu et si les préoccupations non résolues ont été divulguées. Une étiquette de sécurité sans périmètre d’évaluation offre peu d’orientation.

Les équipes devraient conserver la même rigueur dans leurs propres déploiements. Elles ont besoin de dossiers sur les versions de modèles, les invites, les autorisations, les résultats de tests et les décisions d’approbation. Une base de connaissances consultable peut soutenir cette piste d’audit sans remplacer les contrôles formels des risques.

Trois signaux montreront si l’engagement est réel

Le prochain test est celui de la mise en œuvre : des évaluateurs nommés, des droits de signalement exécutoires et une adoption au-delà d’Anthropic et d’OpenAI.

Le premier signal est une charte de programme publique. Anthropic et OpenAI devraient identifier les évaluateurs participants, définir l’accès comparable à celui d’un employé et fournir une date de mise en œuvre. Une charte devrait également expliquer quelles étapes du développement des modèles entrent dans le périmètre.

Cette publication renforcerait l’engagement, car des observateurs extérieurs pourraient comparer les opérations aux promesses définies. Un mémorandum vague ou un projet pilote non identifié l’affaiblirait. Sans dates ni périmètre, ni les employés ni le public ne peuvent identifier les manquements.

Le deuxième signal est la preuve d’un signalement indépendant. Les évaluateurs devraient publier leurs méthodes, leurs limites, les principales conclusions et tout désaccord non résolu pouvant être divulgué en toute sécurité. Les rapports devraient préciser quels systèmes et quelles périodes de développement ils ont couverts.

Un rapport produit entièrement par les canaux de communication de l’entreprise offrirait de faibles garanties. La capacité d’un évaluateur à décrire les désaccords est essentielle à son indépendance. Même un compte rendu soigneusement expurgé peut distinguer un véritable examen critique d’un soutien orchestré.

Le test le plus révélateur viendra lorsqu’un évaluateur recommandera des travaux supplémentaires ou un report. Si l’entreprise documente sa réponse et préserve la dissidence de l’évaluateur, le dispositif gagnera en crédibilité. Si l’accès disparaît ou que les conclusions restent cachées, l’engagement perdra de sa valeur.

Le troisième signal sera l’adoption de dispositifs comparables par d’autres développeurs de pointe. Le soutien de Google DeepMind, Meta, xAI ou d’un autre grand laboratoire ferait de l’évaluation intégrée une norme sectorielle. Un rejet mettrait en lumière les limites concurrentielles de la coordination volontaire.

Comparable ne signifie pas gouvernance identique. Les entreprises utilisent des infrastructures et des méthodes de développement différentes. Cela exige toutefois suffisamment de transparence commune pour comparer l’accès, l’indépendance, le reporting et l’autorité en cas d’incident.

Une adoption au-delà de deux entreprises renforcerait l’argument d’Amodei en faveur d’une course vers le sommet. Une fragmentation persistante montrerait que la coordination en matière de sécurité reste subordonnée aux incitations stratégiques. Les gouvernements subiraient alors une pression accrue pour établir des exigences minimales.

Les trois prochains mois devraient fournir les premiers éléments de preuve. Les deux entreprises peuvent publier des principes d’accès sans attendre une législation ou des négociations internationales. Les organisations d’évaluateurs peuvent également préciser les conditions qu’elles exigent avant d’accepter un rôle intégré.

Les développeurs et les acheteurs en entreprise devraient examiner attentivement le vocabulaire employé. « Consultation », « accès au modèle » et « accès de type employé » ne sont pas interchangeables. Le premier peut désigner un conseil, le deuxième une interface temporaire, et le troisième devrait impliquer une visibilité opérationnelle continue.

Ils devraient également rechercher les indices négatifs. L’absence de dates de début, l’identité non divulguée des évaluateurs, de larges clauses de confidentialité ou des synthèses contrôlées par l’entreprise réduiraient la valeur de la proposition. Une supervision indépendante devient crédible grâce à des droits qui subsistent malgré les désaccords.

Les évaluateurs indépendants d’Anthropic bénéficient désormais d’un soutien inhabituellement visible de la part d’OpenAI. Cet accord relève les attentes, mais ne répond pas à la question de savoir qui aura accès aux systèmes ni à ce qu’ils pourront révéler. La preuve décisive viendra de la première conclusion contestée, et non de la première annonce de coopération.

Pour toute personne qui sélectionne ou déploie une IA avancée, c’est le moment de poser des questions de gouvernance plus exigeantes. Qui a testé le système, à quoi ces personnes ont-elles eu accès et quelles limites restent non résolues ? Si les laboratoires attendent de leurs clients qu’ils fassent confiance à une supervision intégrée, ces clients devraient-ils exiger suffisamment de transparence pour évaluer les évaluateurs eux-mêmes ?