Le projet de normes de sécurité de Google, Anthropic et OpenAI met à l’épreuve l’autorégulation

Google, Anthropic et OpenAI se seraient rapprochés de la création de normes privées de sécurité d’OpenAI, malgré des années d’appels en faveur d’un contrôle public plus strict. L’organisation proposée établirait des règles communes pour les développeurs d’IA de pointe sans agir comme un régulateur public. Son nom de travail est Standards Authority for Frontier AI, ou SAFA.

L’initiative reste une proposition, et non une autorité établie. Les entreprises n’ont pas annoncé conjointement SAFA, publié ses documents de gouvernance ni expliqué comment ses décisions seraient appliquées. La plupart des détails proviennent de personnes au fait des discussions.

Ce manque de vérification crée la tension centrale. Les entreprises qui développent certains des systèmes d’IA les plus performants souhaitent contribuer à définir la manière dont ces systèmes devraient être testés. Leurs connaissances techniques leur donnent de solides raisons de participer. Leurs intérêts commerciaux donnent à tous les autres de solides raisons d’exiger leur indépendance.

L’organisme de normes de sécurité d’OpenAI évoqué prend forme

Le changement immédiat est organisationnel : des discussions privées sur la sécurité de l’IA deviendraient un projet d’autorité permanente de normalisation.

The Information rapporte que Google, OpenAI et Anthropic développent une organisation dirigée par l’industrie et centrée sur la sécurité de l’IA de pointe. L’IA de pointe désigne des modèles très performants et polyvalents qui se rapprochent des capacités des principaux systèmes actuels, voire les dépassent.

Le nom provisoire de l’organisation est Standards Authority for Frontier AI. L’acronyme SAFA pourrait encore changer, car le groupe n’a pas été officiellement lancé. Les entreprises espéreraient l’établir d’ici la fin 2026 ou le début 2027.

Ce calendrier compte, car une date de lancement transforme un vaste débat politique en projet opérationnel. Une véritable autorité aurait besoin de dirigeants, de financements, de règles d’adhésion, de procédures techniques et d’une structure décisionnelle crédible.

Les entreprises auraient approché Sriram Krishnan pour devenir directeur général. Krishnan a auparavant travaillé comme capital-risqueur et occupé le poste de conseiller principal en politique de l’IA dans l’administration Trump. Sa candidature présumée suggère que l’organisation recherche une crédibilité politique en plus de l’expertise technique.

D’autres dirigeants potentiels et conseillers scientifiques auraient également été évoqués. Toutefois, aucune nomination ne semble avoir été confirmée publiquement. Les entreprises n’ont pas indiqué si les candidats avaient accepté, refusé ou restaient à l’étude.

Un rapport distinct a montré que cette coordination n’était pas simplement spéculative. Chris Lehane, responsable de la politique mondiale d’OpenAI, a déclaré que l’entreprise discutait depuis plusieurs semaines de sécurité de l’IA avec Anthropic et Google DeepMind. Ses commentaires ont confirmé les échanges, sans toutefois confirmer tous les détails rapportés sur SAFA.

Les discussions sur la sécurité porteraient notamment sur les risques catastrophiques, les évaluations par des tiers et la coopération entre développeurs concurrents. Elles soulèvent aussi des préoccupations liées au droit de la concurrence lorsque des concurrents directs coordonnent leurs pratiques.

Cette distinction est essentielle. La coopération sur les tests de sécurité peut créer des protections partagées, mais la coordination peut aussi influencer la concurrence. Un organisme de normalisation a besoin de limites permettant de réduire les risques sans laisser ses membres contrôler les marchés ou exclure de plus petits concurrents.

Aucun document public n’explique encore comment SAFA résoudrait ce problème. L’objectif de fin d’année évoqué laisse aussi peu de temps pour concevoir des garde-fous concernant le financement, les droits de vote, les conflits d’intérêts et les recours.

Pour l’instant, les lecteurs devraient considérer SAFA comme une proposition en développement appuyée par des informations crédibles. Elle ne devrait pas être décrite comme un régulateur opérationnel, un auditeur certifié ou un accord finalisé.

Pourquoi les trois laboratoires souhaitent désormais des règles communes

Google, OpenAI et Anthropic font face à un problème de coordination que les politiques de sécurité individuelles ne peuvent résoudre.

Chaque entreprise peut publier son propre cadre de risque, commander des évaluations et limiter la diffusion d’un modèle. Ces mesures ne créent pas de seuil commun à l’échelle du secteur. Une entreprise qui retarde un déploiement peut perdre des utilisateurs, des revenus ou l’attention des développeurs tandis qu’un concurrent continue d’avancer.

Des normes communes de sécurité d’OpenAI pourraient réduire cette pression si chaque développeur participant accepte des tests comparables. Elles pourraient aussi aider les clients à comparer des affirmations en matière de sécurité qui reposent actuellement sur des définitions et des formats de reporting différents.

Le calendrier reflète un virage plus large, des principes abstraits vers des contrôles opérationnels. Les développeurs ont désormais besoin de procédures pour les évaluations de capacités, les tests de sécurité, le signalement d’incidents, l’accès externe et le suivi après déploiement.

Le cadre de gouvernance d’OpenAI couvre les risques liés aux cyberattaques offensives, aux menaces biologiques, à la manipulation nuisible et à la perte de contrôle. Il décrit également le reporting des modèles, la réponse aux incidents, la gestion de la sécurité et la contribution d’experts externes.

Anthropic maintient sa propre approche de mise à l’échelle responsable, tandis que Google DeepMind utilise des cadres de sécurité internes et des programmes d’évaluation. Ces systèmes partagent de grands thèmes, mais ils ne produisent pas automatiquement des décisions de mise à disposition identiques.

Un organisme commun pourrait définir des exigences minimales d’évaluation avant qu’un modèle de pointe n’atteigne les utilisateurs. Il pourrait préciser qui effectue les tests, quelles preuves les développeurs doivent fournir et comment des conclusions graves affectent le déploiement.

L’autorité pourrait également faciliter le partage confidentiel d’informations. Les laboratoires d’IA de pointe découvrent parfois des capacités dangereuses, des faiblesses de sécurité ou des modes d’utilisation abusive que les concurrents doivent comprendre. La divulgation publique peut révéler des détails sensibles ; un mécanisme d’échange fiable présente donc une valeur pratique.

Toutefois, des procédures communes ne sont utiles que si les entreprises participantes les suivent sous pression. Les cas difficiles concernent des lancements retardés, des fonctionnalités limitées, des changements de sécurité coûteux ou des éléments qui fragilisent les affirmations publiques d’une entreprise.

Les normes volontaires sont plus faciles à suivre lorsqu’elles valident une sortie prévue. Leur crédibilité est mise à l’épreuve lorsque leur respect menace les revenus ou l’avantage stratégique.

L’action publique reste fragmentée selon les juridictions. La Californie et l’Union européenne ont élaboré des obligations concernant l’IA avancée, tandis que la politique fédérale aux États-Unis continue d’évoluer. Les entreprises opérant à l’échelle mondiale doivent traduire des exigences qui se chevauchent en contrôles techniques.

Une autorité sectorielle pourrait faciliter cette traduction. Elle pourrait produire des méthodes d’évaluation comprises par les régulateurs, les auditeurs, les clients et les développeurs. Elle pourrait aussi devenir une couche supplémentaire de politique privée sans responsabilité juridique.

C’est pourquoi la proposition évoquée dépasse la seule création d’un comité. L’influence réelle de l’organisation dépendrait de la question de savoir si ses normes affectent les décisions de déploiement concrètes.

Si SAFA se contente de publier des recommandations, elle ressemblera à de nombreux forums de politique existants. Si elle peut exiger des preuves, révéler les manquements et imposer des conséquences significatives, elle occuperait un rôle bien plus déterminant.

Le Frontier Model Forum couvre déjà un terrain similaire

SAFA doit expliquer pourquoi une autre organisation sectorielle est nécessaire alors que les mêmes entreprises ont déjà créé un forum sur l’IA de pointe.

Anthropic, Google, Microsoft et OpenAI ont lancé le Frontier Model Forum en 2023. Ses objectifs déclarés comprennent l’avancement de la recherche en sécurité, l’élaboration de bonnes pratiques, le soutien aux évaluations et le partage d’informations avec les gouvernements et la société civile.

L’annonce conjointe initiale du Forum décrivait une bibliothèque publique d’évaluations techniques et de benchmarks. Elle promettait également des évaluations standardisées et un partage sécurisé d’informations sur les risques liés à l’IA.

Ces objectifs recoupent largement le programme de SAFA évoqué. Tous deux concernent des normes communes, des évaluations de modèles de pointe, une expertise partagée et une coordination entre les principaux développeurs.

Ce chevauchement soulève une question fondamentale de gouvernance : quelle autorité SAFA posséderait-elle que le Forum n’a pas ?

Une réponse possible est l’application des règles. Le Frontier Model Forum fonctionne principalement comme un groupe sectoriel collaboratif. SAFA pourrait être conçue davantage comme une autorité d’autorégulation, avec des règles et des procédures de conformité définies.

Cette distinction devrait apparaître dans des documents contraignants. Un nouveau nom et une nouvelle équipe dirigeante ne créeraient pas à eux seuls une autorité significative. L’organisation aurait besoin d’un mandat clair distinguant l’établissement de normes de la coordination habituelle des politiques.

L’adhésion est une autre question ouverte. Le Frontier Model Forum a été établi par quatre entreprises puis a élargi sa portée. Les discussions rapportées autour de SAFA se concentrent sur Google, OpenAI et Anthropic, laissant le rôle de Microsoft incertain.

Les petits développeurs de modèles, les projets open source, les chercheurs universitaires, les clients d’entreprise et les groupes de la société civile ont également des intérêts en jeu. Des normes conçues par trois laboratoires dominants pourraient imposer des exigences que seules les grandes entreprises peuvent financer.

Tester des modèles sophistiqués nécessite des chercheurs spécialisés, des environnements informatiques sécurisés et un accès contrôlé à des systèmes sensibles. Les coûts de conformité pourraient devenir un obstacle pour les petits développeurs, même lorsque les règles améliorent la sécurité.

Les grands laboratoires disposent du personnel et de l’infrastructure nécessaires pour répondre à des exigences complexes de certification. Ils disposent aussi des équipes de politique publique nécessaires pour influencer la manière dont ces exigences sont rédigées.

Cette combinaison crée un risque de capture réglementaire. La capture réglementaire survient lorsqu’un système d’élaboration des règles sert de plus en plus les intérêts des entités qu’il est censé contraindre.

Ce risque ne prouve pas que SAFA serait capturée. Il signifie que l’organisation a besoin de garanties institutionnelles avant que des acteurs extérieurs puissent se fier à ses jugements.

Ces garanties devraient inclure un pouvoir de vote indépendant, des politiques transparentes sur les conflits d’intérêts, des méthodologies publiées et des procédures permettant de contester les décisions. Les normes d’adhésion devraient être proportionnées au risque plutôt qu’à la taille de l’entreprise.

L’organisme devrait également se coordonner avec les institutions publiques existantes plutôt que de présenter une certification privée comme un substitut. Les administrations publiques disposent d’une autorité démocratique qu’un groupe financé par des entreprises ne peut reproduire.

OpenAI a lui-même précédemment reconnu cette limite. Un document sur la réglementation de l’IA de pointe qualifiait l’autorégulation sectorielle de première étape importante, tout en soutenant qu’une intervention publique resterait nécessaire.

Cette position antérieure fournit un test utile. SAFA peut compléter la réglementation publique en produisant des normes techniques et des éléments probants. Elle ne devrait pas transformer discrètement une première étape reconnue en système final.

Le véritable arbitrage oppose l’expertise à l’indépendance

L’argument le plus solide en faveur de SAFA est sa compétence technique, tandis que l’argument le plus solide contre elle est sa dépendance institutionnelle.

Les évaluations de modèles de pointe sont difficiles à concevoir. Un test doit examiner des capacités dangereuses sans apprendre à un modèle à échapper au contrôle. Il doit aussi distinguer les comportements reproductibles des résultats isolés.

Les évaluateurs externes ont souvent besoin d’accéder aux poids des modèles, aux protections internes, aux journaux système et aux capacités non publiées. Les entreprises ont des raisons légitimes de protéger ces informations contre les concurrents et les acteurs malveillants.

Une autorité spécialisée pourrait créer des canaux sécurisés permettant d’examiner des éléments de preuve confidentiels. Elle pourrait appliquer des méthodes cohérentes d’une version à l’autre et préserver les connaissances institutionnelles entre les incidents.

Ce modèle rappelle l’audit dans d’autres secteurs à haut risque. Des spécialistes indépendants obtiennent accès à des dossiers confidentiels, confrontent les affirmations à des normes définies et rendent leurs conclusions sans publier chaque détail sensible.

Toutefois, l’accès seul ne garantit pas l’indépendance. Un évaluateur peut comprendre un système en profondeur tout en restant financièrement ou professionnellement dépendant de son développeur.

Un article de recherche de 2026 sur l’audit de l’IA de frontière soutient que les acteurs externes ne disposent toujours pas de moyens fiables pour vérifier les affirmations de sécurité des principaux développeurs. Ses auteurs proposent des niveaux d’assurance allant d’examens limités à une vérification continue.

Ce cadre met en lumière une distinction importante. Un benchmark mesure les performances dans des conditions sélectionnées. Un audit évalue si les affirmations plus larges d’un développeur, ses contrôles et ses pratiques méritent confiance.

SAFA devrait déterminer quelle fonction elle exerce. Un organisme de normalisation, un laboratoire d’essais, un auditeur et une autorité de contrôle sont des institutions différentes. Les combiner sans frontières claires concentrerait trop de pouvoir discrétionnaire.

Le financement est une préoccupation immédiate. Si les entreprises membres financent l’organisation, le public doit savoir si leurs contributions influencent les nominations, les priorités ou l’accès aux conclusions.

La sélection de la direction pose le même défi. Un dirigeant disposant de liens politiques pourrait aider le groupe à travailler avec les gouvernements. Cette personne devrait néanmoins rester indépendante des entreprises qui lui ont proposé le poste.

Les conseillers techniques doivent également déclarer leurs conflits d’intérêts. La communauté de la sûreté de l’IA de frontière est restreinte, et les experts passent fréquemment d’un laboratoire à une organisation à but non lucratif, une université ou une administration publique.

Ces relations ne disqualifient personne automatiquement. Elles rendent toutefois essentielles des règles de récusation transparentes.

Des reportages récents illustrent les tensions entourant les évaluateurs externes. Certains responsables et dirigeants du secteur souhaitent des experts disposant d’une expérience directe en laboratoire, tandis que des critiques interrogent la proximité des liens personnels et professionnels.

Une évaluation indépendante a relevé que de nombreuses évaluations de l’IA privilégient encore les performances plutôt que les comportements en matière de sécurité. Le même rapport cite Henry Papadatos, de SaferAI, selon qui l’action volontaire des entreprises demeure insuffisante sans transparence publique.

Une autorité crédible devrait donc publier davantage que des conclusions rassurantes. Elle devrait préciser la norme utilisée, l’indépendance de l’évaluateur, la catégorie de preuves examinée et toute limite affectant le résultat.

Elle devrait également divulguer les désaccords. Si un évaluateur recommande de retarder un modèle et qu’un membre le publie malgré tout, les utilisateurs et les régulateurs devraient savoir que le processus n’a pas réussi à encadrer le déploiement.

Les options d’application pourraient aller d’exigences de remédiation privées à des avis publics et à la suspension de l’adhésion. Chaque option implique des arbitrages liés à la confidentialité, à l’exposition juridique et à la sécurité publique.

Un organisme sans conséquences risque de devenir un service de réputation. Un organisme doté d’un pouvoir important mais d’une faible redevabilité risque de devenir un régulateur privé contrôlé par les leaders du marché.

C’est le compromis central de SAFA. Les laboratoires détiennent des informations dont les acteurs externes ont besoin, mais ils ne devraient pas recevoir une autorité sans contrôle du seul fait qu’ils les possèdent.

Les développeurs et les acheteurs d’entreprise en ressentiront les effets

Le premier impact concret apparaîtra dans les procédures d’achat, l’accès aux modèles et les processus de publication, plutôt que sur les étiquettes de produits destinées aux consommateurs.

Les acheteurs d’entreprise interrogent déjà les fournisseurs sur les contrôles de sécurité, la confidentialité, la réponse aux incidents et la conformité réglementaire. Les normes pour l’IA de frontière pourraient ajouter des preuves propres aux modèles à ces évaluations.

Une entreprise déployant un agent de codage IA pourrait vouloir la preuve que le modèle a été testé pour la création de vulnérabilités, le vol d’identifiants et les actions non autorisées. Un client du secteur de la santé pourrait prioriser la confidentialité, les risques de manipulation et la fiabilité face à des prompts inhabituels.

Des normes communes pourraient rendre ces questions plus faciles à comparer. Les acheteurs recevraient des preuves organisées selon des catégories partagées plutôt que des rapports fournisseurs incompatibles.

Cet avantage dépend de l’accès. Un badge de certification sans documentation à l’appui laisserait aux équipes d’approvisionnement peu de moyens d’évaluer la qualité d’une analyse.

Les développeurs pourraient aussi faire face à de nouvelles restrictions. Les fournisseurs de modèles pourraient exiger des vérifications d’identité plus robustes, une surveillance accrue ou un accès progressif lorsque les évaluations identifient des capacités dangereuses.

Ces contrôles peuvent réduire les abus, mais ils peuvent aussi limiter l’expérimentation. Les chercheurs et les petites entreprises pourraient avoir du mal à obtenir le même accès que les grands clients.

Les développeurs open source font face à un problème différent. Des normes conçues autour des pratiques de laboratoires fermés peuvent supposer qu’une seule organisation contrôle les poids des modèles, l’infrastructure de déploiement et l’accès des utilisateurs.

Les modèles ouverts répartissent ces responsabilités. Un cadre utile doit distinguer les risques créés pendant l’entraînement de ceux créés par le déploiement, la modification et la distribution en aval.

Si SAFA ignore cette distinction, ses normes pourraient favoriser par conception les services centralisés. Cela transformerait un cadre de sécurité en décision sur la structure du marché.

Les fournisseurs de cloud subiraient également une pression. Google exploite à la fois un laboratoire de modèles de frontière et une importante infrastructure informatique. Microsoft et Amazon entretiennent des relations étroites avec les principaux développeurs d’IA.

Les normes relatives à l’entraînement sécurisé, à l’accès aux modèles, à la journalisation et à la réponse aux incidents affecteraient ces plateformes. Leur participation ou leur exclusion déterminerait si l’autorité couvre l’ensemble de la chaîne d’approvisionnement de l’IA.

Les travailleurs du savoir pourraient rencontrer ces règles indirectement. Un modèle pourrait refuser davantage de demandes, exiger une confirmation avant d’agir ou perdre des capacités après une évaluation des risques.

Ces changements peuvent ressembler à des décisions produit même lorsqu’ils proviennent de la gouvernance de la sécurité. Une communication claire aiderait les utilisateurs à comprendre pourquoi leur accès a changé et si la restriction s’applique chez tous les fournisseurs.

Les organisations qui suivent ces décisions ont besoin d’éléments provenant de rapports sur les modèles, de mises à jour de politiques et d’avis d’incident. Une base de connaissances consultable peut aider les équipes à relier l’évolution des normes aux évaluations des fournisseurs et aux dossiers internes de déploiement.

Le résultat le plus précieux serait la comparabilité. Les clients devraient pouvoir déterminer si deux fournisseurs ont passé des tests équivalents dans des conditions équivalentes.

Le résultat le moins précieux serait une certification symbolique. Si chaque membre fondateur réussit chaque examen, quels que soient les incidents ou les conclusions contestées, le label communiquera peu de choses.

Les développeurs et les acheteurs devraient donc examiner la méthode qui sous-tend toute future marque SAFA. Ils devraient demander qui a testé le modèle, quel accès ces personnes ont reçu et quels risques sont restés hors du périmètre.

Trois signaux montreront si SAFA détient une véritable autorité

SAFA devrait être jugée sur sa gouvernance, ses conséquences et sa relation avec les régulateurs publics.

Le premier signal est une charte formelle. Le nom rapporté, la fenêtre de lancement et les discussions sur la direction ne révèlent pas comment l’organisation fonctionnerait réellement.

Une charte crédible devrait identifier les membres, les sources de financement, la structure de vote, les règles de conflit d’intérêts et le processus de nomination. Elle devrait aussi expliquer si des experts indépendants détiennent un pouvoir de décision.

Surveillez les dispositions empêchant les entreprises fondatrices de passer outre les évaluateurs. Sans ces protections, l’autorité resterait dépendante des laboratoires qu’elle évalue.

Le deuxième signal est un processus publié d’évaluation et d’application. L’organisation devrait définir quels modèles sont soumis à examen, à quel moment les tests commencent et quelles preuves les évaluateurs reçoivent.

Elle devrait indiquer ce qui se passe après une conclusion grave. Les résultats possibles comprennent la remédiation, un déploiement restreint, une publication retardée, une notification publique ou l’exclusion de l’organisation.

Le processus devrait également inclure des recours. Les entreprises ont besoin d’un moyen de contester des erreurs techniques, tandis que les évaluateurs doivent être protégés des représailles commerciales.

Une promesse vague de promouvoir les meilleures pratiques affaiblirait l’argument en faveur d’une nouvelle organisation. Le Frontier Model Forum exerce déjà des fonctions de recherche et de coordination.

Le troisième signal est une reconnaissance formelle par les régulateurs, sans abandon de leur pouvoir réglementaire. Les agences publiques pourraient utiliser les méthodes de SAFA, participer en tant qu’observatrices ou intégrer des travaux techniques dans les normes juridiques.

Cette coopération renforcerait la proposition si les gouvernements conservent leur pouvoir de supervision et d’application. Elle l’affaiblirait si les décideurs délèguent simplement leur jugement aux plus grands développeurs.

La sélection rapportée d’un directeur général expérimenté sur le plan politique conforterait l’idée que les relations avec les gouvernements sont au cœur du projet. Elle n’établirait pas à elle seule la redevabilité publique.

Le calendrier de lancement constitue un autre test. Un démarrage à la fin de 2026 ou au début de 2027 laisse peu de place à une consultation approfondie si l’organisme veut débuter avec une autorité substantielle.

Un lancement précipité pourrait produire de grands principes avant des contrôles détaillés. Cette séquence est compréhensible, mais l’organisation ne devrait pas présenter des règles ambitieuses comme des garanties déjà achevées.

Les lecteurs devraient aussi observer quelles entreprises restent en dehors. Microsoft, Meta, Amazon, xAI, les principaux développeurs de modèles ouverts et les laboratoires internationaux influencent tous les marchés de l’IA de frontière.

Une norme suivie par seulement trois entreprises peut tout de même compter. Sa légitimité restera limitée si d’autres grands développeurs rejettent ses méthodes ou sa gouvernance.

Il en va de même pour la société civile et les chercheurs. Leur participation doit aller au-delà de réunions consultatives organisées après que les entreprises fondatrices ont pris les décisions essentielles.

L’organisme proposé de normes de sécurité d’OpenAI pourrait devenir une infrastructure utile pour tester des modèles de plus en plus capables. Il pourrait aussi faire doublon avec des groupes existants tout en donnant aux décisions privées une apparence réglementaire.

La différence sera visible dans les documents, pas dans les promesses. Recherchez des votes indépendants, des conséquences applicables, des méthodes transparentes et un rôle défini pour la supervision publique.

À l’approche de la fenêtre de lancement rapportée de SAFA, les développeurs et les acheteurs d’entreprise devraient conserver les affirmations des fournisseurs et les comparer aux règles ultérieures. Quelles protections deviennent mesurables, et lesquelles restent de simples formulations volontaires ? Cette comparaison montrera si l’initiative modifie les comportements de déploiement ou seulement la manière dont les principaux laboratoires les décrivent.