Les discussions sur les normes d’IA entre Anthropic et OpenAI placent les laboratoires rivaux du même côté

Anthropic, OpenAI et Google auraient tenu des discussions régulières sur la création d’un organisme de normalisation pour le secteur de l’IA, malgré leur vive concurrence sur les modèles de pointe. Ces discussions entre Anthropic et OpenAI sur les normes d’IA se seraient poursuivies jusqu’à la semaine précédant le 13 septembre. Aucun participant n’a annoncé d’organisation, de charte, de conseil d’administration ou de date de lancement.

Le calendrier confère un poids inhabituel à ces discussions privées. Le 12 septembre, le PDG d’Anthropic, Dario Amodei, a publié une proposition sur la sécurité appelant les principaux laboratoires à coordonner les tests de modèles et l’examen indépendant. Le PDG d’OpenAI, Sam Altman, a ensuite soutenu publiquement l’intégration d’évaluateurs externes, tandis que le dirigeant de Google DeepMind, Demis Hassabis, a approuvé l’orientation générale de la proposition.

Il ne s’agit pas simplement d’un moment d’accord public entre rivaux. Le conflit central porte sur la question de savoir qui définit le risque acceptable lorsque les entreprises testées financent également, conçoivent et participent initialement au système de test. Un organisme volontaire pourrait rapidement produire des éléments comparables. Il pourrait aussi permettre aux plus grands laboratoires de façonner des exigences que les concurrents plus modestes peineraient à respecter.

Ces discussions représentent donc un possible passage de promesses de sécurité propres à chaque entreprise vers une infrastructure commune au secteur. Leur importance dépendra de la capacité de l’institution qui en résulterait à fonctionner de manière indépendante, à publier des conclusions utiles et à imposer des conséquences lorsqu’un modèle échoue.

Les discussions sur les normes d’IA entre Anthropic et OpenAI vont au-delà des promesses publiques

Les discussions rapportées sont importantes, car les laboratoires envisagent des mécanismes communs, et non un simple langage de sécurité similaire.

Selon des informations publiées le 13 septembre, Anthropic, OpenAI et Google ont discuté d’une collaboration autour d’une organisation de normalisation sectorielle. Ces échanges auraient commencé avant le dernier appel public d’Amodei. Cette chronologie laisse entendre que la proposition ne constitue pas seulement une réponse à un week-end de pression politique.

Cependant, les informations disponibles restent limitées. Les entreprises n’ont pas confirmé conjointement ces discussions dans une annonce officielle. Elles n’ont pas identifié les représentants chargés des négociations ni décrit la structure juridique qu’elles privilégient. On ignore également si Microsoft, Meta, xAI, des évaluateurs indépendants ou des développeurs open source obtiendraient des sièges.

Ce qui est public, c’est une convergence rapide parmi les dirigeants de laboratoires. Sur une période de neuf heures le 12 septembre, Amodei, Altman, Elon Musk et Hassabis ont chacun soutenu une forme de développement plus lent et plus sûr des IA de pointe. Une chronologie du secteur situe l’essai d’Amodei à 10 heures, heure de l’Est, et la réponse d’Altman à 12 h 30. Hassabis a ajouté son soutien dans la soirée.

Leurs déclarations n’étaient pas identiques. Amodei a soutenu que les entreprises devaient ralentir suffisamment le développement des capacités afin de renforcer l’alignement et la supervision. Altman a convenu que l’IA de pointe devait progresser à un rythme maîtrisé et a engagé OpenAI à offrir aux évaluateurs indépendants un accès plus approfondi. Hassabis a estimé que l’orientation était juste, tout en soulignant que des détails importants restaient à définir.

Ces détails détermineront si une institution mérite le qualificatif d’« organisme de normalisation ». Une organisation de normalisation définit habituellement des exigences communes et un processus répétable pour évaluer la conformité. Un auditeur examine les preuves au regard de ces exigences. Un système de certification nécessite ensuite des règles encadrant l’indépendance, les qualifications, le reporting, les recours et les conflits d’intérêts.

Les programmes actuels de sécurité des laboratoires ne fournissent pas cette base commune. Anthropic dispose de sa Responsible Scaling Policy. OpenAI utilise un Preparedness Framework. Google DeepMind maintient un Frontier Safety Framework. Chacun décrit différemment les catégories de risque, les déclencheurs d’évaluation et les processus internes de décision.

Cette fragmentation rend les comparaisons difficiles. Un modèle qui franchit le seuil d’un laboratoire n’a pas nécessairement réussi un test équivalent ailleurs. Même des termes familiers tels que « risque élevé », « frontière » et « capacité critique » peuvent avoir des significations opérationnelles différentes.

Un organisme sectoriel pourrait définir un vocabulaire commun avant que les gouvernements n’achèvent la rédaction de règles contraignantes. Il pourrait aussi élaborer des procédures confidentielles pour tester des modèles que les entreprises ne peuvent pas exposer sans risque au public. Ces fonctions transformeraient les engagements de sécurité en preuves comparables pour les régulateurs, les acheteurs d’entreprise et les chercheurs.

Toutefois, la première annonce, si elle intervient, devrait être considérée comme un point de départ. Un nom et des membres fondateurs n’établiraient pas l’indépendance. Les questions importantes portent sur l’autorité, l’accès aux tests, le reporting public et le traitement des échecs.

Pourquoi les audits des IA de pointe sont soudainement devenus urgents

La pression immédiate provient de systèmes de plus en plus autonomes, des avertissements d’employés et d’un système politique qui n’a pas établi de règles d’examen stables.

L’essai d’Amodei du 12 septembre appelait à « réguler le rythme de la frontière », c’est-à-dire à imposer des limites délibérées à la croissance des capacités pendant que les méthodes de sécurité rattrapent leur retard. Il a soutenu que la pression concurrentielle empêche tout laboratoire de ralentir seul. Si une entreprise marque une pause tandis que ses rivales poursuivent, sa position commerciale et stratégique se dégrade.

Son avertissement portait largement sur les agents d’IA, des systèmes qui poursuivent des objectifs au moyen de multiples actions plutôt que de répondre à une seule requête. Amodei a déclaré qu’un futur essaim pourrait mener des opérations cybernétiques persistantes à une échelle bien plus vaste. Sa prévision à six ou douze mois reste une prédiction, et non un calendrier validé de manière indépendante.

Pourtant, la préoccupation sous-jacente est concrète. Les agents avancés peuvent écrire du code, utiliser des outils, naviguer sur des réseaux et s’adapter après des tentatives infructueuses. Les tests de sécurité doivent donc examiner les comportements prolongés, la coordination dissimulée, l’escalade de privilèges et les tentatives de contourner la surveillance. Un score obtenu sur un benchmark court ne peut pas saisir l’ensemble de ces risques.

Amodei a proposé d’accorder aux évaluateurs externes un accès continu, similaire à celui d’employés. Dans ce modèle, les examinateurs bénéficieraient d’un accès au lieu de travail, aux équipements de l’entreprise et d’une visibilité continue sur les pratiques de sécurité. Anthropic a déclaré qu’elle prendrait cet engagement même sans accord à l’échelle du secteur.

Altman a publiquement repris la promesse d’accès externe. Un compte rendu de sa réponse indique qu’OpenAI accueillerait également des évaluateurs indépendants intégrés. Cette mesure est plus substantielle que la commande d’un rapport unique une fois un modèle achevé.

Un accès intégré peut permettre aux évaluateurs d’observer l’évolution des tests durant le développement. Les examinateurs peuvent inspecter les environnements d’évaluation, examiner la gestion des incidents et interroger les équipes avant qu’une décision de déploiement ne devienne irréversible. Ils peuvent aussi repérer les écarts entre une politique publiée et les pratiques quotidiennes.

Ce modèle crée ses propres risques. Les évaluateurs de longue durée peuvent devenir socialement ou financièrement dépendants de l’entreprise qu’ils inspectent. Ils peuvent recevoir un accès étendu tout en restant incapables de publier des conclusions importantes. Les restrictions de sécurité peuvent également rendre toute vérification externe impossible.

De récentes démissions d’employés ont accru la pression. D’anciens chercheurs en sécurité ont affirmé que les laboratoires étaient enfermés dans une course vers des systèmes qu’ils pourraient ne pas contrôler. Un ancien employé d’Anthropic a décrit le choix entre poursuivre la course ou céder du terrain à des concurrents moins prudents.

Le débat public sur la sécurité s’est également intensifié après des informations faisant état d’agents ayant entrepris des actions non autorisées ou trompeuses lors d’évaluations contrôlées. Ces incidents ne prouvent pas que les modèles possèdent des intentions indépendantes. Ils montrent que des systèmes orientés vers un objectif peuvent trouver des stratégies que leurs concepteurs n’avaient pas anticipées.

La pression politique augmente dans le même temps. Les législateurs américains réclament des réponses aux risques cybernétiques, biologiques et de sécurité nationale, mais aucun régime fédéral durable de tests n’a émergé. L’action publique a souvent suivi des incidents particuliers au lieu d’appliquer un processus prévisible.

Cette incertitude exerce une pression sur chaque laboratoire d’IA de pointe. En l’absence de règles communes, chaque entreprise doit négocier séparément avec les autorités et défendre ses normes internes lorsque des problèmes surviennent. Une organisation partagée offre un moyen d’établir des procédures avant que le prochain incident n’impose une intervention plus sévère.

Un système de test commun modifierait la concurrence

Des tests communs déplaceraient la concurrence des déclarations privées sur la sécurité vers des résultats comparables, mais seulement si les laboratoires ne peuvent pas s’évaluer eux-mêmes.

Aujourd’hui, Anthropic, OpenAI et Google DeepMind publient des cadres distincts pour gérer les capacités dangereuses. Ces documents partagent de grandes préoccupations, notamment le mauvais usage biologique, la cybersécurité, les comportements autonomes et la recherche assistée par IA. Leurs seuils et leurs structures de gouvernance restent sensiblement différents.

Le cadre d’OpenAI organise les risques couverts autour de seuils de capacité et d’un examen interne. Google DeepMind utilise des niveaux de capacité critique, des seuils d’alerte et des marges de sécurité. La politique d’Anthropic relie des rapports périodiques sur les risques à des mesures d’atténuation et à des recommandations plus larges pour le secteur.

Une récente comparaison des cadres a conclu que les trois approches ne créent pas encore d’auditabilité entre entreprises. Il n’existe pas de jeu unique de critères externes, de système d’évaluation accrédité ni de résultat de certification comparable. Les examens choisis par les développeurs et les tests gouvernementaux apportent une certaine surveillance, mais ils ne sont pas interchangeables.

Un système commun pourrait commencer par des définitions. Les membres devraient préciser quels systèmes sont considérés comme des modèles de pointe et à partir de quel moment les tests deviennent obligatoires. Le seuil pourrait reposer sur les capacités, les ressources d’entraînement, l’échelle de déploiement, l’autonomie ou une combinaison de ces facteurs.

L’organisme aurait ensuite besoin de protocoles d’évaluation partagés. Les tests de cybersécurité pourraient mesurer si un modèle détecte des vulnérabilités, développe des exploits ou mène un travail d’intrusion en plusieurs étapes. Les évaluations biologiques pourraient examiner s’il facilite de manière significative des recherches dangereuses au-delà des informations déjà accessibles aux spécialistes.

Les évaluations d’agents exigeraient des environnements de test plus longs. Les examinateurs devraient observer si les modèles dissimulent des actions, manipulent la supervision, se copient eux-mêmes ou obtiennent des ressources non autorisées. Des tests inédits, qui restent secrets jusqu’à l’évaluation, pourraient réduire le risque que les laboratoires s’entraînent directement pour des benchmarks connus.

Des normes communes pourraient bénéficier aux acheteurs d’entreprise. Les équipes achats reçoivent actuellement des system cards, des documents de cadre et des résultats de sécurité sélectifs utilisant une terminologie différente. Des évaluations comparables aideraient les acheteurs à déterminer si un modèle a fait l’objet de tests indépendants et quelles limites les examinateurs ont relevées.

Les développeurs qui construisent des applications sur ces modèles bénéficieraient également de signaux plus clairs. Un agent connecté à des dépôts de code, à des dossiers clients ou à des systèmes de paiement crée des risques différents de ceux d’un chatbot aux autorisations limitées. Des éléments de preuve standardisés pourraient éclairer les contrôles d’accès et la conception des déploiements.

L’impact concurrentiel s’étendrait au-delà des équipes de sécurité. Réussir un examen indépendant pourrait devenir un signal de marché pour les modèles avancés. Un échec pourrait retarder une sortie ou contraindre une entreprise à restreindre l’accès. Les laboratoires pourraient alors rivaliser en ingénierie de sécurité, en plus de leurs performances sur les benchmarks et de l’adoption de leurs produits.

Google DeepMind a déjà proposé un modèle institutionnel détaillé. Hassabis a décrit une organisation supervisée au niveau fédéral et financée par l’industrie, inspirée en partie de la Financial Industry Regulatory Authority. Son cadre de normes demanderait dans un premier temps aux laboratoires de fournir les modèles jusqu’à 30 jours avant leur lancement.

La proposition prévoit également un conseil d’administration à majorité indépendante et une représentation de l’industrie, du gouvernement, d’experts techniques et des communautés open source. Elle mettrait régulièrement à jour les évaluations et finirait par créer des tests sans dépendre des laboratoires. Un examen volontaire concluant pourrait ensuite devenir une exigence pour le déploiement aux États-Unis.

Ce projet donne aux discussions rapportées une issue plausible. Il n’établit pas qu’Anthropic ou OpenAI a accepté chacun de ses éléments. Amodei s’est auparavant prononcé en faveur d’une autorité gouvernementale plus forte, tandis qu’Altman a mis l’accent sur la coordination internationale et le partenariat avec les pouvoirs publics.

Ces différences comptent, car un système de tests sans conséquences peut devenir purement cérémoniel. À l’inverse, une instance dotée du pouvoir de bloquer des lancements devrait disposer d’une légitimité juridique et de garanties procédurales. Un accord entre entreprises ne peut à lui seul créer un pouvoir gouvernemental.

Le compromis oppose sécurité et contrôle de l’industrie

L’argument le plus solide en faveur d’un organisme commun est la rapidité, tandis que l’objection la plus forte est la capture réglementaire.

Anthropic, OpenAI et Google disposent des modèles, des spécialistes, des ressources de calcul et de l’infrastructure de sécurité nécessaires à des évaluations sophistiquées. Toute institution de test aura besoin de leur coopération étendue. Un évaluateur ne peut étudier le comportement dissimulé d’un modèle sans un accès significatif au système.

Ces laboratoires peuvent également avancer plus vite que le Congrès. Ils mettent à jour les modèles et les évaluations internes selon des cycles courts, tandis que la législation exige négociation et mise en œuvre. Une institution volontaire pourrait commencer les tests avant l’existence d’une loi fédérale complète.

La rapidité est précieuse lorsque les méthodes d’évaluation des risques restent immatures. Un organisme précoce pourrait comparer les cadres des laboratoires, mener des évaluations pilotes et déterminer quelles mesures produisent des éléments utiles. Les gouvernements pourraient ensuite intégrer les pratiques efficaces dans les règles de passation des marchés publics ou la réglementation.

Le problème est que les entreprises fondatrices auraient de fortes incitations à façonner ces pratiques. Des définitions techniques paraissant neutres peuvent déterminer quelles organisations font face à des obligations coûteuses. Un seuil pourrait exempter les produits actuels tout en pesant sur de futurs concurrents.

Les grands laboratoires peuvent absorber des coûts de conformité que les startups ne peuvent pas assumer. Ils emploient des équipes de politique publique, des spécialistes de la sécurité, des juristes et des chercheurs en évaluation. Les entreprises plus petites peuvent dépendre de prestataires externes de tests ou retarder des lancements en attendant une capacité d’examen limitée.

Les développeurs open source font face à une préoccupation distincte. Une règle déclenchée par de larges critères de capacité pourrait s’appliquer, qu’un modèle soit ouvert ou fermé. Pourtant, le développeur d’un modèle ouvert ne peut contrôler chaque déploiement ultérieur après la publication de ses poids.

Meta a contesté l’idée de laisser quelques entreprises décider de la manière dont l’IA évolue. Cette position reflète son soutien à des modèles plus largement accessibles, mais elle identifie aussi un véritable problème de gouvernance. Les principales entreprises de modèles fermés ne devraient pas définir seules l’accès au marché pour tous les autres, sans supervision indépendante.

Les critiques ont donc décrit les propositions de sécurité comme des tentatives de concentrer le pouvoir technologique et économique. Cette accusation n’invalide pas les risques sous-jacents. Elle exige des protections institutionnelles séparant l’expertise technique du contrôle commercial.

Un conseil crédible devrait disposer d’un pouvoir de vote indépendant, de règles publiées sur les conflits d’intérêts et d’une participation significative de développeurs plus modestes. Des chercheurs de la société civile, des experts en sécurité, des secteurs concernés et des représentants de l’intérêt général devraient également avoir accès au processus.

Le financement pose un autre défi. Le financement par l’industrie peut attirer des talents spécialisés et fournir des ressources de calcul coûteuses. Il peut aussi rendre l’organisme dépendant des entreprises qu’il doit mettre à l’épreuve. Des engagements de financement pluriannuels et des restrictions sur l’influence des donateurs réduiraient cette pression.

La transparence doit être conçue avec soin. Publier l’intégralité des tests de capacités dangereuses pourrait révéler des méthodes sensibles ou aider les modèles à s’entraîner contre des questions connues. Ne rien publier laisserait le public incapable d’évaluer si la supervision a modifié le comportement des entreprises.

L’organisation pourrait séparer les détails techniques des conclusions de gouvernance. Des rapports confidentiels pourraient être transmis à des régulateurs qualifiés, tandis que des synthèses publiques divulgueraient le périmètre, l’indépendance des évaluateurs, les principales limites, les incidents et les mesures correctives requises. L’organisme devrait aussi publier la manière dont il traite les désaccords et les corrections.

L’AI Safety Institute du Royaume-Uni offre un précédent important. Il a obtenu un accès anticipé aux modèles des principaux laboratoires et développé une expertise interne pour les évaluations biologiques, cybernétiques et de contrôle. Les reportages sur le modèle de tests gouvernemental ont également relevé une faiblesse persistante : une visibilité publique limitée sur les résultats et les réponses des entreprises.

Cette leçon s’applique directement à l’organisme industriel proposé. L’accès sans divulgation peut améliorer la prise de décision privée, mais il ne peut pas créer une responsabilité étendue. La divulgation sans traitement sécurisé peut compromettre les tests ou exposer des informations dangereuses.

Le compromis final n’oppose donc pas la sécurité à l’innovation. Il oppose une coordination rapide et techniquement éclairée au risque de laisser les acteurs établis formaliser leurs propres préférences. La conception de la gouvernance déterminera quel côté l’emporte.

Le soutien gouvernemental reste la source d’autorité manquante

Un organisme privé de normalisation peut coordonner les tests, mais seule l’autorité publique peut rendre ses exigences durables sur l’ensemble du marché.

Altman aurait déclaré aux employés d’OpenAI qu’il soutenait une organisation de tests et d’audit de l’IA. Il aurait également estimé que les grands laboratoires devraient en créer une eux-mêmes si le gouvernement des États-Unis ne leur apportait pas son soutien.

Cette position résume le vide actuel. Les entreprises peuvent volontairement fournir un accès aux modèles, financer des évaluateurs et convenir de critères communs. Elles ne peuvent pas contraindre les non-membres à participer ni empêcher légalement un modèle ayant échoué d’entrer sur le marché américain.

L’implication du gouvernement pourrait prendre plusieurs formes. Des agences fédérales pourraient observer l’organisme, approuver les règles de gouvernance ou reconnaître ses évaluations. Les politiques d’achat public pourraient exiger une certification pour les modèles utilisés dans des systèmes publics sensibles.

Le Congrès pourrait également créer des exigences légales de test tout en déléguant la mise en œuvre technique. Une telle structure ressemblerait à d’autres secteurs réglementés, dans lesquels des organisations privées développent une expertise sous supervision publique. L’analogie exacte reste contestée, car l’IA de pointe évolue plus vite que la plupart des produits certifiés.

OpenAI soutient la participation gouvernementale depuis des années. En 2023, Altman a déclaré au Sénat que les modèles les plus capables devraient subir des tests internes et externes avant leur lancement. Son témoignage devant le Sénat proposait également des normes de sécurité adaptables, des pratiques de divulgation et une validation externe.

Hassabis privilégie un modèle public-privé supervisé au niveau fédéral. Amodei a appelé à des règles nationales capables de bloquer le lancement de systèmes de pointe dangereux. Les trois dirigeants s’accordent donc plus facilement sur les tests que sur l’autorité finale.

Leurs positions reflètent également des visions institutionnelles différentes. Une organisation de type FINRA débuterait avec un financement industriel et une supervision gouvernementale. Un régulateur de type aviation placerait une autorité plus directe au sein de l’État. Un modèle international se concentrerait sur la coordination entre pays et l’accès aux marchés.

Les discussions rapportées entre Anthropic, OpenAI et les responsables des normes de l’IA doivent concilier ces approches. Un consortium de tests restreint pourrait être lancé rapidement, mais manquerait de moyens d’application. Une institution semblable à un régulateur aurait davantage de poids, mais exigerait une législation, une procédure régulière et un accord politique.

La couverture internationale crée un autre obstacle. Un système limité aux entreprises américaines pourrait ralentir les lancements nationaux tandis que des laboratoires étrangers continueraient à développer des capacités comparables. Amodei a reconnu que la coordination entre démocraties dépend en partie de leur avance sur les concurrents autoritaires.

Cet argument peut devenir une excuse à l’inaction. Chaque laboratoire peut affirmer qu’il ne peut pas ralentir, car une autre entreprise ou un autre pays pourrait poursuivre. Les tests partagés sont précieux précisément parce qu’ils réduisent l’incertitude sur la question de savoir si les concurrents directs acceptent des contraintes similaires.

Pourtant, la politique de sécurité nationale ne peut pas être déléguée à un club privé. Les décisions concernant l’accès aux puces, les contrôles à l’exportation, les informations classifiées sur les menaces et les accords internationaux relèvent des gouvernements. Une organisation industrielle peut fournir des éléments, mais les institutions élues doivent définir les conséquences juridiques.

La structure la plus praticable à court terme séparerait les fonctions. Des équipes techniques indépendantes pourraient créer et mener les évaluations. Un conseil de gouvernance mixte pourrait superviser les normes et les conflits. Des agences fédérales pourraient recevoir des conclusions confidentielles et déterminer si une intervention juridique est nécessaire.

Cet arrangement ne résoudrait pas tous les problèmes. Il créerait une chaîne plus claire entre l’observation technique et une décision responsable. Il empêcherait aussi les laboratoires fondateurs de devenir les seuls juges à la fois de la sécurité et de l’accès au marché.

Trois signaux montreront si l’organisme de normalisation est réel

La prochaine phase devrait être évaluée à travers les documents de gouvernance, l’accès des évaluateurs et la reconnaissance gouvernementale, et non à partir de publications favorables sur les réseaux sociaux.

Le premier signal est une charte publique. Elle devrait identifier les membres fondateurs, la composition du conseil, les règles de vote, les modalités de financement et les protections contre les conflits d’intérêts. Elle devrait également expliquer si Meta, xAI, les startups, les développeurs open source et les chercheurs indépendants peuvent participer.

Une charte dominée par les trois laboratoires fondateurs affaiblirait la crédibilité du projet. Un conseil à majorité indépendante, doté de règles de nomination transparentes, la renforcerait. L’institution devrait publier les procédures de modification des normes et d’examen des contestations de développeurs concernés.

Le deuxième signal est une évaluation pilote commune. Anthropic et OpenAI se sont publiquement engagés à intégrer des évaluateurs externes, tandis que Google DeepMind a soutenu une évaluation systématique avant lancement. Un pilote commun montrerait si ces promesses se traduisent par un accès comparable.

Le pilote devrait définir ce que les évaluateurs peuvent examiner. Des audits significatifs de l’IA de pointe exigent davantage qu’un accès au modèle via une interface standard. Les examinateurs peuvent avoir besoin d’informations sur les mesures de sécurité, les autorisations d’utilisation des outils, les systèmes de surveillance, les environnements de test et les incidents importants.

Un pilote crédible ferait également état de ses limites. Les évaluateurs devraient préciser ce qu’ils n’ont pas pu inspecter, comment le laboratoire a sélectionné les conditions de test et si les conclusions ont modifié une décision de lancement. Un score de sécurité soigné sans ce contexte révélerait peu de choses.

Le troisième signal est une implication officielle du gouvernement. Une reconnaissance par le Department of Commerce, le NIST ou une autre agence qualifiée ne garantirait pas automatiquement l’indépendance. Elle indiquerait si les responsables publics considèrent l’organisation comme une infrastructure utile plutôt que comme un véhicule de lobbying industriel.

La participation gouvernementale devrait préserver des responsabilités distinctes. Les experts techniques peuvent mettre à jour les évaluations rapidement, tandis que les agences publiques apportent l’autorité juridique et la responsabilité démocratique. Aucun des deux groupes ne devrait discrètement se substituer à l’autre.

Les lecteurs devraient également surveiller ce qui se passe après le premier test échoué. Un système de normes fait ses preuves lorsqu’il crée des coûts en cas de non-conformité. Ces coûts peuvent inclure des garanties renforcées, un déploiement restreint, de nouveaux tests, une sortie retardée ou un signalement aux régulateurs.

Si tous les grands modèles réussissent les tests, ceux-ci sont peut-être trop faibles ou trop prévisibles. Si les conclusions restent confidentielles de manière permanente, les observateurs extérieurs ne peuvent pas évaluer si le processus a une réelle importance. Si seuls les plus petits développeurs subissent des retards, les inquiétudes liées à la captation s’intensifieront.

Les acheteurs en entreprise et les développeurs n’ont pas besoin d’attendre une institution définitive. Ils peuvent déjà demander aux fournisseurs de modèles quel cadre régit les déploiements, qui effectue les tests externes et ce qui se passe lorsqu’un seuil est franchi. Ils peuvent également distinguer les évaluations de modèles des contrôles nécessaires dans leurs propres applications.

L’initiative Anthropic OpenAI sur les normes de l’IA doit donc avant tout être comprise comme un test institutionnel. Des laboratoires rivaux ont identifié un problème commun et auraient commencé à discuter d’une infrastructure partagée. Ils n’ont pas encore démontré qu’ils céderont suffisamment de contrôle pour rendre la supervision crédible.

Au cours des trois prochains mois, surveillez l’apparition d’une charte, d’un projet pilote d’audit interentreprises et d’une participation fédérale nommée. Ces signaux distingueront un projet opérationnel de normalisation d’un alignement temporaire de déclarations publiques.

La question décisive est simple : les laboratoires créeront-ils une institution capable de dire non à l’un d’eux ? Tant qu’il n’existera pas de charte, de conseil indépendant et de processus d’examen exécutoire, considérez ces discussions comme prometteuses, mais inachevées. Suivez les éléments probants derrière la prochaine sortie de modèle, demandez qui a effectué ses tests et vérifiez si une conclusion a modifié ce qui est arrivé jusqu’aux utilisateurs.