Anthropic et Google examinent le cadre IA de Trump, mais les modèles ouverts échappent au filet

Anthropic et Google ont examiné un cadre fédéral de sécurité de l’IA qui instaure une étape de contrôle de 30 jours avant que certains modèles de pointe ne soient rendus publics. Pourtant, ce cadre exclurait les modèles ouverts, créant un écart majeur entre les systèmes que Washington inspecte et les risques qu’il cherche à maîtriser.

Les discussions entre Anthropic et Google ne constituent pas simplement une nouvelle série d’engagements volontaires en matière de sécurité. Elles marquent la tentative de l’administration Trump de mettre en place un processus fédéral d’examen après avoir démantelé une grande partie de la structure de supervision de l’IA établie par son prédécesseur.

Cette politique intervient également après un conflit remarquable entre Anthropic et le gouvernement fédéral. Les systèmes les plus récents d’Anthropic auraient identifié en quelques heures des vulnérabilités dans des réseaux gouvernementaux sensibles. Washington a ensuite restreint l’accès à ces systèmes, avant de ramener Anthropic à la table des négociations sur les règles.

Cette histoire transforme un processus d’examen technique en lutte pour le contrôle. Les développeurs de modèles fermés font face à un contrôle gouvernemental confidentiel avant leur publication. Les développeurs de modèles ouverts, y compris des entreprises concurrentes de Google et Anthropic, semblent rester en dehors du même processus.

La question centrale n’est donc pas de savoir si l’IA avancée mérite d’être testée. Elle est de savoir si un cadre axé sur des laboratoires américains coopératifs peut traiter des capacités comparables diffusées via des poids ouverts, des développeurs étrangers ou des fournisseurs moins coopératifs.

Le cadre instaure un contrôle de sécurité de 30 jours

Le changement immédiat est une période confidentielle d’examen fédéral des modèles fermés avancés avant leur publication.

Le président Donald Trump a signé le décret sous-jacent le 2 juin 2026. Il charge le gouvernement de créer un processus volontaire visant à examiner les risques pour la sécurité nationale posés par des systèmes d’IA très performants.

Le décret accorde aux examinateurs jusqu’à 30 jours. Cette période doit permettre à des spécialistes fédéraux de tester les capacités cyber avant qu’un modèle ne soit accessible à un large public.

Un modèle de pointe est un système d’IA proche de la frontière des capacités générales. Dans le cadre présenté aux représentants de l’industrie, la couverture dépendrait du fait qu’un modèle soit fermé, très performant et pertinent au regard des risques pour la sécurité nationale.

Cette formulation laisse des termes importants non définis. Il n’existe pas de seuil public établissant ce qui relève de l’état de l’art. L’administration n’a pas non plus publié de norme claire pour déterminer à quel moment une capacité cyber devient une préoccupation de sécurité nationale.

Selon le cadre d’examen rapporté, les entreprises participantes soumettraient des modèles proches de leur sortie publique. Les examinateurs gouvernementaux les étudieraient dans des environnements hautement sécurisés.

Les accès seraient consignés, et les employés pourraient être soumis à des restrictions pendant l’examen. Plusieurs bureaux de l’administration participeraient, plutôt que de laisser l’évaluation à une seule agence.

Le calendrier du modèle importe. Un laboratoire ne fournirait pas un système de recherche à moitié terminé des mois avant son lancement. Il livrerait, selon les informations rapportées, une version proche de celle destinée aux clients.

Cette approche offre aux examinateurs une cible plus réaliste. Elle place aussi l’examen directement sur le parcours de publication, où des retards ou des conclusions contestées peuvent affecter les plans produits.

Le décret présidentiel décrit la participation comme volontaire. Il se concentre sur les systèmes dotés de capacités cyber avancées plutôt que sur chaque nouveau modèle commercial.

Toutefois, le caractère « volontaire » n’élimine pas le levier gouvernemental. Les laboratoires de pointe vendent aux agences, dépendent de l’accès aux puces avancées et travaillent avec des fournisseurs d’infrastructures soumis à des règles fédérales.

Une entreprise peut, en principe, refuser de participer. En pratique, ce refus pourrait compliquer les contrats, les habilitations de sécurité, les décisions d’exportation ou les relations avec les clients du secteur de la sécurité nationale.

Anthropic a salué le décret de juin et indiqué s’attendre à soutenir sa mise en œuvre. Google et OpenAI ont également réagi positivement, présentant l’évaluation fédérale comme compatible avec la poursuite du développement de l’IA.

Le cadre commence donc par la coopération, et non par une obligation légale universelle. Sa portée dépend largement des développeurs qui participent et des systèmes que le gouvernement définit comme concernés.

C’est là que réside la tension centrale de l’article. Washington construit un contrôle significatif autour d’entreprises déjà disposées à discuter de sécurité, tout en laissant largement intactes d’autres voies de publication.

Pourquoi les discussions entre Anthropic et Google pèsent davantage aujourd’hui

Anthropic et Google sont sous pression parce que leurs modèles associent un vaste usage commercial à des capacités cyber de plus en plus lourdes de conséquences.

L’administration n’a pas créé ce processus à l’issue d’un débat politique abstrait. Elle a agi après que des modèles avancés ont démontré une capacité à identifier des faiblesses logicielles à une vitesse qui a alarmé des responsables gouvernementaux.

Un modèle d’Anthropic appelé Mythos aurait participé à des tests impliquant des systèmes gouvernementaux hautement sensibles. Un responsable américain a déclaré à l’Associated Press que le modèle avait découvert des vulnérabilités en quelques heures.

Découvrir une faille ne revient pas à l’exploiter. Cette distinction est importante, car la découverte de vulnérabilités peut aider les défenseurs à corriger les systèmes avant qu’un attaquant ne les atteigne.

Le sénateur Mark Warner a livré un récit plus spectaculaire lors d’une audition de juin. Il a déclaré que le système avait pénétré presque tous les environnements classifiés testés en quelques heures, attribuant cette information aux dirigeants de la NSA et du Cyber Command.

Le compte rendu officiel était plus restreint. Il confirmait que des vulnérabilités avaient été trouvées, mais n’établissait pas que Mythos avait réussi à exploiter chaque système concerné.

Cet écart de vérification illustre la difficulté à laquelle sont confrontés les décideurs politiques. Un modèle peut être utile à la défense, dangereux entre des mains hostiles et difficile à évaluer à partir d’un seul résultat médiatisé.

Les tests gouvernementaux rapportés ont eu lieu dans le cadre de Project Glasswing, une initiative d’Anthropic impliquant des entreprises technologiques et d’autres partenaires. Le projet se concentre sur les risques logiciels graves que les modèles avancés peuvent révéler ou amplifier.

Ces capacités exercent une pression sur Anthropic dans deux directions. Les clients veulent de meilleurs outils de sécurité automatisés, tandis que les agences gouvernementales veulent l’assurance que ces mêmes outils n’accéléreront pas les opérations offensives.

Google fait face à un défi connexe. Ses systèmes Gemini servent les consommateurs, les développeurs, les clients cloud et les institutions publiques. Google DeepMind maintient également son propre cadre pour détecter les capacités graves avant le déploiement.

Le lien entre Anthropic et Google importe parce que les deux entreprises exploitent déjà des systèmes internes d’évaluation. Washington leur demande de transposer des pratiques de test privées dans un processus contrôlé par le gouvernement.

Pour Anthropic, cette demande intervient après des mois de conflit direct avec l’administration. L’entreprise avait imposé des limites concernant les armes autonomes et la surveillance de masse intérieure dans ses accords gouvernementaux.

Le Pentagone demandait un accès à toutes fins légales. Anthropic soutenait que l’autorisation légale ne suffisait pas, à elle seule, à résoudre toutes les préoccupations en matière de sécurité ou de libertés civiles.

Ce désaccord a fini par dépasser le cadre contractuel. L’administration considérait Anthropic comme un risque pour les marchés publics, tandis que des critiques se demandaient si le gouvernement utilisait son autorité en matière de sécurité nationale pour régler un différend politique.

La relation a ensuite évolué vers la coopération. Anthropic a travaillé avec des agences sur des tests cyber, a restreint l’accès à des modèles avancés après une intervention gouvernementale et a participé aux discussions sur des règles d’évaluation communes.

Google rejoint le cadre sans avoir connu la même confrontation publique. Sa participation confère au processus une légitimité plus large et empêche que les règles paraissent être un accord spécifique à Anthropic.

OpenAI, Microsoft, Meta, Nvidia et de plus petites entreprises auraient également participé aux discussions d’août. Leur présence montre que le cadre devient une politique sectorielle plutôt qu’un accord bilatéral.

Anthropic demeure toutefois le cas test le plus important. L’entreprise est à la fois l’un des principaux défenseurs de la sécurité et celle dont les avertissements ont contribué à déclencher l’action gouvernementale.

Si Anthropic accepte le cadre, Washington pourra soutenir que les tests externes complètent les garde-fous privés. Si la relation se détériore de nouveau, le processus ressemblera davantage à un levier qu’à une collaboration.

La supervision d’Anthropic et Google s’arrête à la frontière des modèles ouverts

Le compromis déterminant du cadre est qu’il examine les modèles américains fermés tout en excluant, selon les informations rapportées, les publications ouvertes aux capacités similaires.

Les modèles fermés conservent leurs poids sous-jacents, c’est-à-dire les paramètres numériques appris, sous le contrôle du développeur. Les utilisateurs y accèdent par des produits hébergés ou des interfaces de programmation.

Les modèles à poids ouverts distribuent ces paramètres plus largement. Les développeurs peuvent les télécharger, les modifier et les exécuter sans faire transiter chaque requête par le fournisseur d’origine.

Le processus proposé par le gouvernement se concentre sur la première catégorie. Cela se justifie sur le plan opérationnel, car une entreprise de modèles fermés peut fournir un accès contrôlé et différer une publication pendant les tests.

Les développeurs de modèles à poids ouverts posent un problème d’application plus difficile. Une fois les poids d’un modèle publics, aucun fournisseur central ne peut retirer de façon fiable chaque copie ou restreindre chaque utilisateur.

Le cadre rapporté répond à ce problème en laissant les modèles ouverts en dehors de son système d’examen. Il précise aussi que les règles ne doivent pas être interprétées comme les restreignant après leur publication.

Ce choix réduit les frictions pour le développement ouvert. Il crée aussi un problème d’incitations évident.

Une entreprise qui conserve un contrôle étroit sur son modèle doit se soumettre à des tests confidentiels. Un développeur publiant des poids comparables pourrait ne faire face à aucun contrôle fédéral équivalent.

Cette distinction ne correspond pas toujours au risque. Les modes de distribution influencent la facilité avec laquelle les garde-fous peuvent être retirés, mais ils ne déterminent pas la capacité fondamentale d’un modèle à découvrir des vulnérabilités.

Google montre pourquoi cette frontière est complexe. L’entreprise développe des systèmes Gemini fermés parallèlement à la famille ouverte Gemma. Une même organisation peut donc opérer des deux côtés de la limite politique.

Anthropic ne publie pas les poids de Claude. Ses systèmes restent sous contrôle centralisé, ce qui rend l’entreprise plus facile à réguler par des accords d’accès et des examens avant publication.

Cette asymétrie peut récompenser le fournisseur de modèles qui laisse au gouvernement moins de contrôle après publication. Elle peut aussi désavantager en matière de vitesse les laboratoires américains de modèles fermés.

Un examen de 30 jours est court selon les normes réglementaires. Il est long dans un secteur où le calendrier de lancement façonne les engagements clients, l’attention portée aux benchmarks et l’adoption par les développeurs.

Si OpenAI, Anthropic ou Google retarde un modèle pour examen, un concurrent ouvert peut utiliser cet intervalle pour attirer des développeurs. Un laboratoire étranger pourrait également publier des poids comparables sans participer.

L’administration semble accepter ce compromis parce qu’elle veut préserver le développement américain de l’IA. Trump a reporté une version antérieure du décret après avoir exprimé la crainte de ralentir les États-Unis par rapport à la Chine.

L’approche finale cible donc un ensemble restreint de systèmes contrôlables. Elle cherche à obtenir une visibilité en amont sans instaurer un régime complet de licences.

Le propre cadre de sécurité de Google DeepMind montre comment une gouvernance privée peut couvrir plus d’un format de publication. Il suit les niveaux de capacité et exige des examens de sécurité lorsque certains risques spécifiés apparaissent.

Son cadre le plus récent couvre des risques tels que la manipulation nuisible, les capacités avancées de recherche en IA et les modèles qui résistent au contrôle de l’opérateur. Google affirme que ses évaluations combinent des tests de capacités avec des décisions explicites sur le niveau de risque acceptable.

Anthropic utilise une structure interne différente, mais évalue lui aussi les capacités graves et publie une documentation sur les risques. Les deux entreprises disposent de processus institutionnels dont les développeurs plus modestes peuvent ne pas bénéficier.

Le cadre fédéral pourrait standardiser certaines parties de ces pratiques. Pourtant, il ne s’applique pas automatiquement aux développeurs en dehors du groupe participant.

Cela signifie que le principal antagonisme n’oppose pas Anthropic à Google. Il oppose le développement fermé examiné par le gouvernement à une distribution ouverte moins supervisée.

La politique peut réduire le risque parmi les laboratoires de pointe qui s’y conforment tout en laissant intact le canal de distribution le plus rapide. Ces deux constats peuvent être vrais simultanément.

Une norme secrète crée son propre risque de sécurité

Le cadre demande aux entreprises et au public de faire confiance à un système d’évaluation dont les principaux seuils et procédures restent cachés.

Une part de secret est inévitable. Publier un benchmark détaillé sur les capacités cyber offensives pourrait aider des attaquants à optimiser des modèles pour réussir le test.

Le décret présidentiel autorise le processus de benchmarking à rester classifié. Les conclusions sensibles doivent également rester dans des environnements protégés lorsqu’elles concernent des réseaux gouvernementaux ou des logiciels exploitables.

Toutefois, le secret entourant le contenu des tests diffère du secret entourant la gouvernance. Le public peut comprendre qui prend les décisions, quelles preuves sont prises en compte et comment les entreprises peuvent faire appel sans voir chaque exploit.

L’administration ne prévoirait pas de publier le cadre complet. Les entreprises exclues des réunions d’août pourraient donc disposer de peu d’indications sur la question de savoir si leurs futurs systèmes sont concernés.

Cette incertitude touche plus que les spécialistes des politiques publiques. Les clients d’entreprise élaborent leurs feuilles de route autour de la disponibilité des modèles, de l’accès régional et des contrôles de sécurité attendus.

Un modèle retardé peut perturber des lancements de logiciels ou des examens d’achats. Un modèle restreint peut contraindre des équipes à changer de fournisseur après avoir intégré une interface de programmation particulière.

Les organisations ont déjà besoin d’un moyen fiable de conserver leurs évaluations internes, les déclarations de fournisseurs et les mises à jour de politiques. Une base de connaissances IA interrogeable peut maintenir ces éléments connectés à mesure que les règles évoluent.

La préoccupation de gouvernance plus large concerne le pouvoir discrétionnaire. Le gouvernement semble en mesure de décider quels systèmes sont admissibles, qui reçoit un accès anticipé et quelle réponse suit une conclusion défavorable.

Juan Londoño, du Cato Institute, a salué la préparation aux risques liés aux modèles avancés, mais a mis en cause le flou de la politique. Il a averti qu’un large pouvoir discrétionnaire pourrait être utilisé contre une entreprise déjà en conflit avec l’administration.

Cette possibilité ne peut être écartée, car la relation entre Anthropic et Washington a déjà oscillé entre partenariat et confrontation.

Le différend de sécurité nationale soulève également une question plus profonde d’autorité. Un fournisseur de modèles peut vouloir limiter la surveillance ou l’utilisation d’armes autonomes, même lorsqu’un client gouvernemental affirme que l’activité est légale.

L’administration Trump a soutenu que les systèmes déployés devraient rester sous le contrôle opérationnel du gouvernement. Anthropic a considéré certaines restrictions d’usage comme une frontière de sécurité essentielle.

Une analyse de sécurité nationale du Council on Foreign Relations décrit cela comme une question de savoir qui contrôle un système déployé sur le terrain. Contrats, garanties techniques et autorité gouvernementale se croisent tous.

L’examen avant publication ne règle pas ce conflit. Il peut révéler ce que fait un modèle, mais ne peut pas décider qui devrait contrôler chaque usage autorisé.

Le cadre risque aussi de confondre capacité et intention. Un modèle qui détecte de graves vulnérabilités peut renforcer les défenseurs lorsqu’il est déployé dans le cadre d’un programme de sécurité surveillé.

La même capacité peut aider un attaquant lorsque les garde-fous échouent. Les évaluateurs doivent donc tester à la fois les performances techniques et les contrôles d’accès qui les entourent.

L’expérience d’Anthropic montre pourquoi de simples étiquettes sont insuffisantes. Son modèle aurait découvert de sérieuses faiblesses, mais des responsables externes de la sécurité ont fait valoir que d’autres modèles disponibles disposaient de capacités similaires.

Plus de 100 spécialistes de la cybersécurité se seraient opposés au retrait des capacités défensives d’Anthropic sans raison claire. Leur argument n’était pas que Mythos ne présentait aucun risque.

Ils ont demandé si restreindre un fournisseur américain réduirait ce risque alors que des substituts restaient accessibles. C’est la même faiblesse créée par l’exclusion des publications ouvertes.

Un cadre secret peut tout de même fonctionner si ses résultats sont cohérents et si son autorité est limitée. Sans ces qualités, un examen volontaire peut devenir un filtrage imprévisible.

L’administration n’a pas encore fourni suffisamment d’éléments publics pour distinguer ces issues. Cette incertitude devrait rester centrale dans toute évaluation de la politique.

La politique inverse le message déréglementaire de Washington

Le cadre de Trump rétablit une forme de supervision avant publication après que son administration a passé des mois à soutenir que les règles fédérales sur l’IA menaçaient la compétitivité américaine.

Trump a abrogé des éléments majeurs de la politique de l’administration Biden en matière d’IA après son retour au pouvoir. Son programme plus large mettait l’accent sur un déploiement rapide, une réglementation réduite et la concurrence avec la Chine.

Le nouveau processus d’examen ne recrée pas l’ancien cadre. L’approche de Biden reposait largement sur des obligations de déclaration, un travail sur les normes et une évaluation par des institutions civiles telles que le NIST.

Le système de Trump rapproche les tests cyber avancés des agences de sécurité nationale. Il limite aussi la couverture et présente la participation comme une collaboration avec l’industrie.

Pourtant, l’orientation a changé. Washington considérait autrefois l’examen préalable comme un obstacle. Il considère désormais que la visibilité préalable sur certains modèles est nécessaire à la sécurité nationale.

Le déclencheur était la capacité, non un changement général de philosophie réglementaire. Les modèles d’Anthropic ont concrétisé le débat sur la sécurité en réalisant des tâches associées à des opérateurs cyber qualifiés.

Ce revirement reflète aussi la dépendance fédérale envers les laboratoires privés. Les agences gouvernementales utilisent des infrastructures et des modèles qu’elles n’ont pas construits et ne peuvent pas remplacer rapidement.

Cette dépendance donne aux entreprises un contrôle technique. L’autorité en matière d’achats, les contrôles à l’exportation et les classifications de sécurité donnent à Washington un autre type de levier.

Le cadre tente de combiner ces atouts. Les laboratoires fournissent des systèmes proches de leur publication et un soutien technique, tandis que les agences apportent des environnements classifiés, des informations sur les menaces et une expertise en sécurité nationale.

Cet arrangement peut produire de meilleures évaluations que celles que chaque partie pourrait réaliser seule. Une entreprise ne peut pas reproduire pleinement les renseignements que les agences gouvernementales détiennent sur les adversaires actifs.

Les évaluateurs gouvernementaux ont également besoin des ingénieurs d’un laboratoire pour comprendre le comportement des modèles, les contrôles des systèmes et les limites d’un test particulier. La coopération est donc plus utile qu’une simple liste de contrôle de conformité.

Pourtant, la coopération devient fragile lorsque les parties ne s’accordent pas sur les usages acceptables. Le différend entre Anthropic et le Pentagone montre que des objectifs de sécurité communs ne garantissent pas des limites politiques partagées.

Google a évité une rupture publique équivalente, mais fait face à la même question structurelle. Un laboratoire privé peut identifier un risque inacceptable tandis qu’un acheteur gouvernemental privilégie la flexibilité opérationnelle.

OpenAI y est également confronté. Il en va de même pour les fournisseurs de cloud qui hébergent des modèles et les clients d’entreprise qui dépendent d’un accès stable.

Le contexte concurrentiel ajoute une autre complication. Anthropic a révisé sa politique phare de sécurité au début de 2026, supprimant un engagement catégorique qui aurait pu interrompre l’entraînement en l’absence de garanties adéquates.

Les dirigeants de l’entreprise ont soutenu que des pauses unilatérales n’amélioreraient pas la sécurité si les concurrents continuaient de progresser. La politique révisée met l’accent sur des feuilles de route, des rapports de risque récurrents et des efforts pour égaler ou dépasser les protections des pairs.

Ce changement a rendu des règles coordonnées plus importantes. Une entreprise ne peut pas maintenir indéfiniment des limites strictes lorsque ses rivaux supportent des coûts moindres pour avancer plus vite.

Le cadre de Trump tente de fournir cette coordination, mais uniquement aux participants sélectionnés. Il n’établit pas un seuil contraignant unique applicable à Anthropic, Google, OpenAI, aux développeurs de modèles ouverts et aux laboratoires étrangers.

Cela laisse le gouvernement dans une position hybride. Il a réintroduit une supervision tout en préservant une forte présomption contre une réglementation étendue.

Le résultat n’est ni une déréglementation pure ni un régime de sécurité complet. C’est un point de contrôle négocié construit autour des entreprises que Washington peut atteindre.

Cette approche peut répondre rapidement à une menace cyber précise. Elle est moins adaptée à la gouvernance de capacités qui se diffusent entre les formats de modèles et les frontières nationales.

L’examen d’Anthropic et Google constitue donc une expérience de politique publique. Son succès dépend de la capacité d’une coopération étroite à produire une sécurité réelle sans simplement déplacer le développement risqué ailleurs.

Trois signaux montreront si le cadre fonctionne

Le prochain test consiste à déterminer si Washington peut transformer un accord à huis clos en résultats de sécurité cohérents entre les publications, les entreprises et les formats de modèles.

Le premier signal sera le traitement du prochain lancement de modèle fermé avancé. Un laboratoire participant devrait soumettre un système proche de sa publication, achever l’examen et expliquer les restrictions qui en résultent.

Le gouvernement n’a pas besoin de révéler des exploits classifiés. Il devrait indiquer si le processus a modifié les contrôles d’accès, le calendrier de publication ou les capacités disponibles du modèle.

Un résultat clair renforcerait les arguments en faveur de tests ciblés avant publication. Un retard inexpliqué ou une restriction soudaine renforcerait les préoccupations concernant une application discrétionnaire.

Le deuxième signal sera la manière dont l’administration traite un modèle ouvert doté de capacités cyber comparables. Il s’agit de la plus grande faiblesse non résolue de la conception actuelle.

Washington pourrait créer des outils d’évaluation volontaires pour les développeurs ouverts, établir des garanties de distribution ou se concentrer sur les fournisseurs d’infrastructure en aval. Chaque voie comporte des coûts techniques et politiques.

Ne rien faire affaiblirait la logique de sécurité du cadre. Cela suggérerait que le format de publication compte davantage que la capacité que les responsables disent redouter.

Le troisième signal sera de savoir si Anthropic et l’administration maintiennent leur coopération lors du prochain désaccord. Leur relation est déjà passée d’un conflit contractuel à des restrictions sur les modèles, puis de nouveau vers une élaboration conjointe des règles.

Un processus stable permettrait aux conclusions techniques de survivre aux tensions politiques. Une rupture montrerait que le cadre dépend trop de la confiance informelle entre les responsables actuels et les dirigeants de l’entreprise.

Le comportement de Google offrira une comparaison utile. Si les deux entreprises reçoivent un traitement similaire pour des systèmes similaires, la politique ressemblera davantage à une norme.

Si Anthropic subit des conséquences différentes en raison de son différend antérieur, les critiques considéreront l’examen comme un outil de levier exécutif.

Les acheteurs d’entreprise devraient surveiller ces signaux plutôt que de supposer que « volontaire » signifie sans conséquence. L’accès aux modèles, les dates de lancement et la disponibilité régionale peuvent changer lorsque des examens de sécurité nationale interviennent.

Les développeurs devraient également suivre les capacités qui attirent l’attention. La découverte automatisée de vulnérabilités, la génération d’exploits, l’action autonome et la résistance au contrôle de l’opérateur devraient faire l’objet d’un examen attentif.

Les travailleurs du savoir sont confrontés à un problème connexe. Un modèle peut rester disponible tandis que certains outils, connecteurs ou modes avancés font l’objet de limitations.

Les équipes devraient documenter quelle version du modèle prend en charge chaque flux de travail et prévoir des alternatives pour les tâches critiques. Elles devraient également distinguer les affirmations des fournisseurs des conclusions des autorités publiques et des éléments de preuve indépendants.

Les discussions entre Anthropic et Google ont instauré un véritable point de contrôle fédéral, mais elles n’ont pas créé un système de sécurité complet. Les examens des modèles fermés ne couvrent qu’une seule voie par laquelle des capacités avancées parviennent aux utilisateurs.

Un cadre crédible devra à terme expliquer pourquoi des capacités similaires reçoivent des traitements différents. Il devra aussi distinguer le secret nécessaire de la prise de décision sans responsabilité.

Pour l’instant, les lecteurs devraient se poser trois questions pratiques chaque fois qu’un modèle majeur approche de sa sortie. Était-il couvert, qu’est-ce qui a changé après les tests, et un système ouvert équivalent pourrait-il contourner le processus ?

Les réponses à ces questions montreront si le cadre Anthropic Google réduit le risque national ou s’il concentre simplement la supervision sur les entreprises les plus coopératives. Continuez de suivre le prochain lancement de modèle, la prochaine publication ouverte et le prochain différend entre un laboratoire de pointe et Washington.