top of page

Les évaluations intégrées d’OpenAI font entrer quatre équipes

il y a 4 heures
13 min de lecture
Illustrative photograph. Photo: Daniil Komov / Pexels.

OpenAI a annoncé le 16 novembre 2026 des accords avec quatre organisations externes d’évaluation, ouvrant certains systèmes internes à un examen allant au-delà des tests classiques de modèles. Les évaluations intégrées d’OpenAI associeront Apollo Research, METR, Transluce et Goodfire. Leurs travaux cibleront le comportement des modèles et les garde-fous pendant l’entraînement et l’utilisation interne. La question centrale est de savoir dans quelle mesure cet accès permettra un jugement indépendant.

Les accords donnent aux évaluateurs accès à des éléments que les tests publics de chatbots ne peuvent fournir. Selon leur mission, les équipes peuvent examiner des dossiers d’entraînement, la surveillance interne, la documentation technique et certains modèles. Toutefois, l’accès reste négocié et OpenAI conserve des protections de confidentialité. La profondeur de l’enquête et la responsabilité publique dépendront donc de différentes composantes de l’accord.

Anthropic offre une comparaison utile, car l’entreprise a elle aussi intégré des évaluateurs à ses opérations. L’annonce d’aucune des deux entreprises ne doit être interprétée comme une évaluation de sécurité achevée. Pour les développeurs et les acheteurs en entreprise, la distinction utile est celle entre autoriser une enquête et publier des éléments qui modifient une décision.

Les évaluations intégrées d’OpenAI vont au-delà des modèles publics

Le changement concret réside dans l’accès à des éléments internes, avec une mission différente pour chaque équipe d’évaluation.

Dans le cadre des protocoles d’évaluation intégrée publiés, les chercheurs externes reçoivent des ressources adaptées aux enquêtes convenues. Celles-ci peuvent inclure des points de contrôle de modèles, c’est-à-dire des versions sauvegardées de modèles à certaines étapes de l’entraînement. Les autres ressources comprennent le code source, les données d’entraînement, les résultats d’évaluation, les dossiers de surveillance et des échanges avec les employés concernés.

Cette organisation diffère du test d’un chatbot commercialisé via son interface habituelle. Les tests publics peuvent révéler des réponses problématiques, mais ils montrent rarement comment l’entraînement les a façonnées. Les dossiers internes peuvent aider les évaluateurs à déterminer si une défaillance apparente reflète une interaction isolée ou une tendance plus large.

Apollo Research examinera la subversion dissimulée, c’est-à-dire un comportement de modèle qui agit secrètement à l’encontre des intentions des développeurs. Sa mission relie les incitations à l’entraînement, les tests adversariaux, les comportements internes observés et la capacité à détecter des raisonnements suspects. Il s’agit d’affirmations à examiner, plutôt que de conclusions établies par la signature de l’accord.

Goodfire intégrera au programme des chercheurs spécialisés dans l’interprétabilité. L’interprétabilité étudie les mécanismes internes des modèles afin d’examiner comment ils produisent leurs comportements. Sa mission met l’accent sur la surveillance de l’entraînement, le débogage et l’alignement, c’est-à-dire un comportement conforme aux objectifs visés. OpenAI indique que les chercheurs internes sont le principal public visé, bien que Goodfire prévoie également de publier ses résultats et enseignements.

L’évaluation initiale de l’alignement par METR porte sur la plus importante session d’apprentissage par renforcement menée par OpenAI à ce jour. L’apprentissage par renforcement ajuste le comportement d’un modèle à l’aide de retours ou de récompenses. Dans le cadre de cette session sélectionnée, METR étudiera des défaillances que les tests ou systèmes de surveillance existants n’ont pas détectées. Ses priorités demeurent indépendantes dans le cadre des modalités négociées d’accès, de ressources et de sécurité.

Transluce examinera la qualité et la couverture des évaluations d’alignement après entraînement. L’après-entraînement désigne le travail qui ajuste un modèle après son entraînement initial. La mission vise à déterminer si les tests eux-mêmes examinent de façon adéquate les comportements qu’ils sont censés évaluer.

Les quatre missions couvrent donc des éléments et des questions différents. Elles ne doivent pas être présentées comme des audits interchangeables de l’ensemble des activités d’OpenAI. Une conclusion sur la couverture des évaluations répondrait à une question différente d’une conclusion sur des défaillances de surveillance.

OpenAI évoque également une possible évaluation de suivi avec Transluce au début de 2027. L’engagement envisagé durerait environ huit semaines et inclurait un accès plus large. Cela reste une intention déclarée, plutôt qu’un élément indiquant que l’enquête élargie a déjà eu lieu.

Pour les lecteurs, l’annonce établit un programme et ses limites initiales. Elle n’établit pas le résultat d’une enquête. Maintenir clairement cette distinction évite que la présence d’organisations d’évaluation reconnues ne devienne un substitut à leurs conclusions futures.

L’utilisation interne de l’IA augmente l’enjeu des affirmations de sécurité

La pression porte sur les affirmations de sécurité d’OpenAI, car les évaluateurs examineront les éléments qui les étayent, plutôt que leur seule présentation publique.

La réponse d’un modèle ne constitue qu’une partie du tableau des risques lorsque des logiciels peuvent agir. Un agent d’IA, c’est-à-dire un logiciel qui utilise des outils pour accomplir une tâche, dépend aussi des autorisations et de l’infrastructure qui l’entoure. La surveillance doit capter l’activité pertinente, reconnaître les comportements préoccupants et permettre une réponse efficace.

Prenons l’exemple illustratif d’un assistant de programmation opérant dans un environnement de recherche. Les contrôles qui l’entourent importent s’il modifie des fichiers, lance des processus ou interagit avec d’autres services. Une explication convaincante de l’assistant ne peut établir que chaque action a été autorisée ou observée.

Cet exemple ne décrit pas un incident signalé dans le cadre du nouveau programme d’évaluation. Il montre pourquoi l’examen des systèmes internes répond à des questions que les tests ordinaires de chatbots laissent ouvertes. L’évaluation doit distinguer ce que le modèle a tenté de faire de ce que son environnement lui a permis de faire.

L’évaluation de la surveillance des agents antérieure de METR constitue un précédent concret. Des chercheurs de METR et de Redwood Research ont examiné l’infrastructure historique de surveillance d’OpenAI lors d’un exercice de trois semaines. Ils ont fait état de vulnérabilités et de lacunes dans le système évalué.

Le calendrier a son importance. Cet exercice concernait un système historique, sans établir la couverture de la surveillance qu’OpenAI a ensuite élargie. METR a également distingué les déclarations d’OpenAI concernant les remédiations des correctifs que METR avait évalués de manière indépendante.

Cette distinction doit guider la couverture des nouveaux accords. Identifier une faiblesse, signaler un correctif et vérifier indépendamment ce correctif sont des événements distincts. Les fusionner dans une seule affirmation d’amélioration de la sécurité masquerait ce que les éléments établissent réellement.

Les équipes internes d’OpenAI font face à une exigence pratique : fournir des explications que des spécialistes externes peuvent examiner. Si un évaluateur identifie une lacune, la réponse doit aller au-delà de la confiance dans les procédures existantes. Les dossiers pertinents, le raisonnement technique et les éléments de suivi deviennent partie intégrante de la discussion.

Les évaluateurs sont également soumis à une pression. L’accès offre la possibilité de produire des conclusions utiles, mais leurs rapports doivent expliquer ce qu’ils ont pu examiner. Les lecteurs doivent comprendre si une conclusion repose sur des tests directs, des dossiers sélectionnés, des entretiens ou une lacune d’information reconnue.

Les acheteurs en entreprise ont un intérêt connexe, bien que ces engagements ne remplacent pas leurs propres évaluations. L’évaluation interne d’un fournisseur peut éclairer une décision d’achat sans couvrir le flux de travail particulier d’un client. Le lien entre le système évalué et le produit acheté reste essentiel.

Pour les travailleurs du savoir, l’importance est moins immédiate qu’un lancement de fonctionnalité. Ces accords ne modifient pas en eux-mêmes un résumé de document ou une note de réunion. Ils concernent les éléments disponibles pour évaluer les systèmes auxquels sont de plus en plus confiés des travaux sensibles.

Un accès plus approfondi ne signifie pas automatiquement une indépendance plus large

Le compromis central consiste à obtenir des éléments sensibles tout en préservant une liberté suffisante pour contester l’organisation qui les fournit.

OpenAI indique que les évaluateurs traitant des informations confidentielles sensibles travailleront dans ses bureaux à l’aide d’appareils fournis par l’entreprise. Ce cadre peut rendre accessibles à l’enquête des documents autrement inaccessibles. Il place aussi le travail au sein de procédures de sécurité contrôlées par l’entreprise évaluée.

La protection des informations sensibles se justifie légitimement. La publication sans restrictions de détails techniques peut exposer des informations confidentielles ou créer des risques de sécurité supplémentaires. Un programme d’évaluation n’a pas besoin d’une divulgation publique sans limites pour produire un examen utile.

Toutefois, la liberté d’enquête dépend de davantage que de l’entrée dans un bureau ou de la réception d’un appareil. Les évaluateurs ont besoin d’un accès opérationnel aux éléments requis par leurs questions. Une autorisation nominale a une valeur limitée si des obstacles techniques empêchent l’analyse pertinente.

OpenAI reconnaît que l’accès direct aux informations particulièrement sensibles peut nécessiter des solutions alternatives. Celles-ci comprennent le fait de demander aux évaluateurs de travailler avec des chercheurs d’OpenAI pour exécuter des analyses. De tels dispositifs peuvent soutenir une enquête, mais les rapports devraient expliquer leurs limites lorsque celles-ci influent sur la conclusion.

La distinction entre l’échantillonnage d’un modèle et la possession de ses poids sous-jacents est également importante. Les poids d’un modèle sont les paramètres numériques appris qui déterminent son comportement. Les accords annoncés ne constituent pas un accès sans restriction aux poids ou à l’architecture de chaque modèle.

La même prudence s’applique à l’ampleur d’une mission. L’enquête initiale de METR concerne une session d’entraînement sélectionnée. Une évaluation bien menée de cette session peut fournir des éléments précieux sans établir l’état de tous les autres modèles ou déploiements internes.

La proposition d’évaluation de l’alignement de METR décrit une approche d’enquête plus large. Elle comprend l’étude des incidents observés et l’examen de la possibilité que ces observations sous-estiment les risques dans d’autres situations. OpenAI reconnaît explicitement que l’engagement initial est plus restreint que la proposition de METR.

Cet écart n’établit pas que le travail initial manque de valeur. Il établit que les lecteurs ont besoin du périmètre réel avant d’interpréter une conclusion rassurante. Une évaluation peut être rigoureuse dans ses limites tout en laissant en dehors de son champ des questions importantes.

L’accès des évaluateurs indépendants d’Anthropic offre une comparaison. Dans sa communication du 15 octobre, Anthropic a décrit un accès de type employé pour une équipe METR intégrée. L’entreprise a également décrit des exclusions et des règles de publication, notamment des suppressions pour des catégories confidentielles définies.

Les deux entreprises cherchent à réduire l’écart d’information entre chercheurs internes et évaluateurs externes. Leurs dispositifs exigent néanmoins un examen de l’accès, des exclusions et des droits de publication. Une appellation commune n’établit pas que les engagements sous-jacents offrent une indépendance identique.

La comparaison concurrentielle doit donc se situer au niveau des conditions et des éléments. Compter les partenaires d’évaluation serait un substitut insuffisant. L’essentiel est de savoir si chaque équipe peut suivre une conclusion importante suffisamment loin pour étayer un jugement clair.

Les règles de publication détermineront ce que les observateurs externes pourront évaluer

La capacité d’un évaluateur à enquêter en privé et la capacité du public à évaluer ses conclusions sont liées, mais constituent des questions distinctes.

OpenAI indique que les évaluateurs conservent leur indépendance pour publier leurs évaluations. L’entreprise se réserve également le droit de supprimer des informations confidentielles et de demander des délais de divulgation responsable. Ces dispositions font des rapports futurs, y compris de leurs limites déclarées, l’élément central pour évaluer le programme.

Une suppression n’est pas automatiquement la preuve d’une ingérence. Retirer un détail exploitable peut protéger les systèmes tout en laissant intacte la conclusion de fond. La question plus difficile est de savoir si les lecteurs conservent suffisamment d’informations pour comprendre l’importance de la découverte.

Un rapport peut expliquer qu’une protection a échoué sans publier d’instructions permettant de reproduire l’échec. Il peut également préciser si l’évaluateur a vérifié une correction. C’est dans ces distinctions que réside la valeur publique, même lorsque certains éléments de preuve techniques restent confidentiels.

Les délais exigent une prudence similaire. Donner à une entreprise le temps de traiter une vulnérabilité peut favoriser une divulgation responsable. Cependant, les lecteurs doivent pouvoir distinguer une enquête encore inachevée d’un travail terminé en attente de publication.

L’annonce n’établit pas comment se déroulera chaque futur désaccord sur la divulgation. Ces cas fourniront des éléments sur la solidité pratique de l’accord. Le langage contractuel fixe des attentes ; son application révèle si ces attentes résistent à la pression.

Les échanges avec les employés créent une autre limite. OpenAI indique que ces discussions peuvent éclairer les évaluations, mais ne peuvent pas être publiées ni attribuées à des membres individuels du personnel. Les évaluateurs peuvent demander des déclarations attestées par l’entreprise, c’est-à-dire des déclarations qu’OpenAI vérifie officiellement, corrige ou clarifie.

Ce processus peut protéger la vie privée des employés tout en permettant l’intégration de certaines informations dans un rapport public. Il modifie aussi ce que les lecteurs peuvent examiner directement. Une déclaration attestée par l’entreprise et un entretien attribuable de manière indépendante constituent des formes de preuve différentes.

OpenAI indique que les évaluateurs peuvent signaler lorsque l’entreprise refuse d’attester une déclaration. Cette disposition donne aux lecteurs une certaine visibilité sur les questions factuelles non résolues. Elle ne révèle pas la conversation sous-jacente et ne tranche pas l’interprétation correcte.

Le comité de sûreté et de sécurité recevra les rapports non expurgés, selon OpenAI. Les évaluateurs peuvent communiquer avec le comité en privé, et les différends non résolus peuvent lui être transmis. Cela crée une voie de supervision interne au-delà des équipes de recherche directement concernées.

Cette voie ne doit pas être confondue avec un accès public ou une enquête réglementaire. Le comité appartient à la structure de gouvernance de l’OpenAI Foundation. Son accès peut soutenir la supervision tout en laissant les lecteurs extérieurs dépendre de ce qui devient finalement public.

Les informations financières méritent le même traitement précis. Apollo Research et Goodfire reçoivent une rémunération qui ne dépend pas des résultats des évaluations. METR et Transluce n’acceptent pas d’honoraires d’évaluation, bien qu’ils puissent accepter des crédits de calcul ou d’API.

Ces arrangements créent des relations différentes avec l’entreprise évaluée. Ni le paiement ni son absence ne règle à lui seul la question de l’indépendance. Les éléments les plus solides viendront de la capacité des évaluateurs à publier des conclusions défavorables, à expliquer les restrictions et à conserver la possibilité d’être en désaccord.

Une évaluation de sûreté ne constitue pas une garantie produit

Le programme peut améliorer les éléments de preuve disponibles sur des risques précis sans certifier que chaque produit OpenAI est sûr.

Cette distinction importe, car le langage des évaluations se propage souvent plus loin que les conclusions qui le sous-tendent. Une conclusion étroite peut devenir une assurance générale lorsqu’elle est répétée dans les discussions sur les produits. Les lecteurs devraient préserver le lien entre l’affirmation, le système testé et les éléments de preuve.

Par exemple, examiner les incitations liées à l’entraînement traite d’une question différente de la vérification des autorisations d’une application déployée. Examiner la couverture des évaluations n’établit pas que les contrôles des données d’un client fonctionnent comme prévu. Ces questions peuvent se recouper sans devenir interchangeables.

Il en va de même pour l’analyse interne de Goodfire. Comprendre le comportement d’un modèle peut aider au débogage et aux enquêtes. Cela n’établit pas automatiquement à quel point l’application environnante empêche de manière fiable une action non autorisée.

Une évaluation utile explique ce que ses méthodes peuvent détecter et ce qu’elles laissent incertain. C’est particulièrement important lorsque le sujet inclut un comportement susceptible d’échapper aux tests ordinaires. Le fait qu’un modèle réussisse des évaluations familières constitue une preuve concernant ces évaluations, plutôt qu’une preuve qu’aucune défaillance pertinente ne subsiste.

Les recherches sur l’audit des IA de pointe présentent l’évaluation par des tiers comme reposant sur un accès approfondi et la vérification des affirmations des développeurs. Ce cadre aide à comprendre l’importance de ces accords. L’objectif est d’obtenir des preuves plus solides sur les systèmes et les pratiques, plutôt qu’un label rassurant détaché d’une question définie.

Pour les acheteurs d’entreprise, cela modifie la manière dont une annonce devrait intervenir dans un examen. L’existence d’une équipe intégrée constitue un contexte pertinent. Un rapport achevé, avec un périmètre et des conclusions clairs, fournit une base plus solide pour une décision.

Une autre distinction concerne la relation entre les modèles évalués et les produits disponibles. Les points de contrôle internes de l’entraînement ne sont pas nécessairement les mêmes systèmes que ceux utilisés par les clients. Les rapports doivent fournir suffisamment de contexte pour expliquer cette relation sans divulguer d’informations techniques protégées.

Un résultat défavorable nécessite également du contexte. Une défaillance identifiée lors d’une enquête volontairement exigeante n’établit pas, à elle seule, la fréquence de cette défaillance dans l’usage par les clients. À l’inverse, un test limité qui ne détecte rien n’établit pas que le risque est absent ailleurs.

Cet équilibre est particulièrement important pour les développeurs qui décident du degré d’autonomie à accorder à un logiciel. Les conclusions d’évaluation peuvent éclairer ces décisions, mais l’application concernée doit toujours disposer d’autorisations et d’une supervision adaptées. Une évaluation externe n’assume pas la responsabilité de chaque configuration en aval.

Les équipes qui maintiennent une base de connaissances IA ont une raison pratique de préserver ces distinctions. Un accord initial, un rapport d’évaluation et une mise à jour de remédiation représentent des éléments de preuve différents. Les traiter comme interchangeables peut transformer une conclusion nuancée en une conviction institutionnelle obsolète.

Le bénéfice immédiat des évaluations intégrées d’OpenAI est donc la possibilité de porter un jugement mieux fondé. La question de savoir si cette possibilité produira une assurance plus solide dépend des enquêtes qui en résulteront. L’annonce ouvre le processus ; elle ne clôt pas le débat.

Trois signaux montreront si le programme gagne en substance

Les prochains éléments à surveiller sont la qualité des rapports, l’élargissement du périmètre et des changements vérifiés de manière indépendante à la suite des conclusions des évaluations.

Le premier signal réside dans le contenu des premiers rapports publics. Les lecteurs devraient rechercher une présentation claire des systèmes évalués, des méthodes, des limites d’accès et des questions non résolues. Un rapport qui identifie ces limites donne à ses conclusions un sens qu’une annonce seule ne peut fournir.

La distinction importante se situe entre les mises à jour descriptives et les conclusions évaluables. Affirmer que les équipes ont étroitement collaboré ne dit guère de chose sur le résultat de l’enquête. Expliquer ce qui a été testé, ce qui a échoué et ce qui est resté incertain donne aux observateurs extérieurs quelque chose de concret à évaluer.

La publication peut également révéler comment les dispositions de confidentialité fonctionnent dans la pratique. Les rapports devraient rester utiles même lorsque des détails sensibles ne peuvent être partagés. Si les conclusions centrales deviennent impossibles à comprendre, l’argument en faveur de la responsabilité publique s’affaiblit malgré un accès privé étendu.

Le deuxième signal est de savoir si les travaux de suivi envisagés deviennent une mission définie. OpenAI et METR ont conclu un accord préliminaire sur une autre évaluation de suivi, mais son périmètre plus large exige encore un accord mutuel. Cela établit une limite précise entre une intention annoncée et un travail convenu.

Le suivi proposé avec Transluce fournit un autre point de contrôle à court terme. OpenAI décrit un accès élargi au début de 2027, y compris à des informations sur la manière dont les résultats des évaluations éclairent les décisions de mise à disposition. La confirmation de ce périmètre renforcerait l’idée que le programme initial devient plus substantiel.

Aucune de ces évolutions ne devrait être réduite à la simple apparition d’une autre annonce de partenariat. La question pertinente est de savoir quels éléments de preuve supplémentaires l’évaluateur peut examiner. Davantage de temps ou de participants peut aider, mais aucun de ces facteurs ne résout automatiquement une restriction d’accès importante.

Le troisième signal est de savoir si les conclusions des évaluations entraînent des changements qu’une personne vérifie ensuite. Une entreprise peut reconnaître une faiblesse et décrire une correction sans établir que celle-ci fonctionne. Des tests de suivi fourniraient une base de confiance plus solide.

L’exercice de suivi antérieur rend cette distinction particulièrement pertinente. Les conclusions historiques, les remédiations déclarées par l’entreprise et les conditions actuelles vérifiées de manière indépendante nécessitent un traitement distinct. Les rapports futurs devraient préserver ces catégories plutôt que de laisser une annonce de correction clore implicitement la question.

L’annonce de lancement ne permet pas de promettre que les trois signaux arriveront selon un calendrier fixe. Certaines enquêtes nécessitent davantage de temps, et certaines divulgations exigent de la prudence. Le test utile consiste à déterminer si chaque mise à jour réduit une incertitude identifiée.

Pour OpenAI, l’enjeu dépasse la démonstration d’une ouverture envers les chercheurs externes. Le programme doit produire des preuves capables de remettre en question les hypothèses internes et d’étayer les décisions. Pour les évaluateurs, leur crédibilité dépendra en partie de leur capacité à expliquer où s’arrêtent ces preuves.

Lisez les premières évaluations intégrées d’OpenAI comme des enquêtes aux limites définies, plutôt que comme un verdict associé à une marque. Suivez les rapports sous-jacents lorsqu’ils paraîtront et comparez leurs affirmations avec l’accès reçu par chaque équipe. Accordez une attention particulière à la question de savoir si une conclusion concerne un système historique, un modèle actuel ou un suivi proposé. Distinguez les correctifs déclarés par l’entreprise des corrections vérifiées de manière indépendante. Si votre organisation utilise ces rapports dans ses examens d’achat ou de déploiement, préservez ces distinctions dans ses dossiers partagés. La question pratique est simple : la prochaine divulgation apporte-t-elle des preuves qui modifient votre jugement, ou laisse-t-elle subsister la même incertitude ?

 
 

Commencez pour Gratuit

Un premier assistant IA local avec gestion des connaissances personnelles

Pour une meilleure expérience IA,

remio ne supporte que Windows 10+ (x64) et M-Chip Macs actuellement.

Votre partenaire IA au travail
Faites-en plus avec remio

Planifiez. Créez. Livrez.
Tout au même endroit.

bottom of page