Le contrat FDA de Cognita Imaging teste si des jurys de LLM peuvent évaluer l’IA en radiologie en toute sécurité

Cognita Imaging a obtenu un contrat de 1,29 million de dollars de la FDA afin de tester des jurys de LLM sur environ un million d’examens de patients. Ce projet de 18 mois vise un problème réglementaire complexe : évaluer des systèmes d’IA qui génèrent des comptes rendus radiologiques complets sans confier chaque cas à des évaluateurs humains.

Le contrat entre Cognita Imaging et la FDA n’autorise pas un dispositif médical et n’approuve pas la technologie de l’entreprise. Il finance plutôt des travaux de science réglementaire visant à déterminer si plusieurs grands modèles de langage peuvent évaluer les comptes rendus de manière cohérente. Des radiologues examineront les désaccords cliniquement importants au lieu de revoir manuellement l’ensemble du jeu de données.

Cette distinction résume la tension centrale. L’évaluation automatisée rend envisageables des études portant sur un million de cas, mais elle introduit une autre couche d’IA faillible entre le générateur de comptes rendus et l’expert humain. Le projet doit donc évaluer à la fois le modèle de rédaction et les modèles qui jugent son travail.

Cognita prévoit de fournir son code logiciel, des recommandations pour constituer des jurys de LLM, des comparaisons avec des cohortes de validation et des études d’écarts revues par des radiologues. La FDA recevra également des rapports couvrant les résultats et les limites du projet.

L’issue importe au-delà de Cognita. Les développeurs d’IA médicale souhaitent de plus en plus générer des textes cliniques complets, tandis que les autorités de régulation doivent décider quelles preuves peuvent étayer ces systèmes plus larges. Le contrat testera si l’automatisation peut étendre cette base probante sans en affaiblir la portée clinique.

Ce que finance réellement le contrat FDA de Cognita Imaging

Le contrat finance une méthode d’évaluation, et non l’autorisation de commercialiser un produit de radiologie autonome.

La FDA a attribué à Cognita Imaging un contrat à prix fixe d’une valeur de 1 294 042 dollars. Les registres fédéraux des contrats l’identifient comme l’attribution 75F40126C00035, couvrant des agents virtuels experts du domaine fondés sur l’IA pour l’évaluation des comptes rendus de radiologie.

Le contrat est entré en vigueur le 22 juin 2026 et court jusqu’au 21 décembre 2027. Cognita a annoncé publiquement le projet le 16 septembre. L’entreprise a obtenu cette attribution dans le cadre du programme Broad Agency Announcement de la FDA consacré à la recherche en science réglementaire.

Le projet s’intitule « Virtual Subject Matter Expert Agents for Radiology Report Evaluation ». Cognita développera et validera un cadre dans lequel plusieurs LLM évaluent des comptes rendus radiologiques rédigés par des humains et générés par l’IA.

Un jury de LLM est un groupe de modèles de langage qui évaluent indépendamment la même sortie. Leurs jugements combinés peuvent révéler des désaccords qu’un seul évaluateur automatisé pourrait masquer.

La méthode sera ensuite appliquée à environ un million d’examens de patients issus d’une vaste cohorte américaine. La recherche examinera les performances selon les populations de patients, les contextes de soins, les équipements d’imagerie, les maladies et les observations rares.

Cette échelle est au cœur de la proposition. Les études conventionnelles de lecture demandent aux radiologues de comparer les sorties de modèles à des cas de référence. Ces études restent essentielles, mais le temps des experts limite le nombre et la diversité des cas qu’elles peuvent couvrir.

Les comptes rendus complets créent également une surface d’évaluation plus vaste que les systèmes de détection étroitement ciblés. Un modèle de triage peut identifier un caillot sanguin suspecté ou un poumon affaissé. Sa sortie est contrainte et peut être comparée à une référence définie.

Un compte rendu généré peut contenir de nombreuses observations, nuances, comparaisons et recommandations. Il peut omettre une anomalie, en inventer une, en mal énoncer la gravité ou décrire de façon ambiguë une observation correcte.

L’approche de Cognita demande à plusieurs LLM de classer ces différences à grande échelle. Des radiologues interviendront lorsque le jury identifiera un désaccord cliniquement important.

Selon l’annonce du contrat de l’entreprise, les évaluateurs détermineront si le problème provient du compte rendu généré, du jury de LLM ou du compte rendu du radiologue d’origine. Cette adjudication à trois voies est essentielle, car un compte rendu de référence n’est pas automatiquement parfait.

La recherche sera dirigée par Akshay Chaudhari, cofondateur de Cognita. Il est également professeur associé de radiologie et de science des données biomédicales à Stanford University. Louis Blankemeier, PDG et cofondateur de Cognita, sera co-investigateur.

Cognita est une filiale détenue à 100 % par Mosaic Clinical Technologies, elle-même détenue par Radiology Partners. Cette relation donne à l’équipe de recherche accès à une infrastructure clinique et à une expertise radiologique dans divers environnements de pratique.

Radiology Partners indique que son réseau élargi comprend plus de 4 000 radiologues au service de plus de 3 400 établissements de santé. L’entreprise affirme interpréter plus de 55 millions d’examens d’imagerie par an.

Ces chiffres d’entreprise décrivent un contexte opérationnel potentiel, et non les résultats de validation du contrat. La cohorte d’un million d’examens doit encore être définie, testée et documentée avec suffisamment de détails pour que d’autres puissent évaluer sa représentativité.

Les livrables contractuels rendent le projet plus substantiel qu’un benchmark privé. Cognita doit fournir du code, des recommandations de mise en œuvre, des analyses de grandes et petites cohortes, des études d’écarts arbitrées et des limites documentées.

Cependant, la FDA n’a pas promis d’adopter ce cadre comme norme réglementaire. La recherche peut éclairer de futures politiques sans devenir une voie obligatoire pour chaque produit de radiologie générative.

Cette limite est importante, car le financement contractuel et l’autorisation de produit poursuivent des objectifs différents. Le modèle distinct de radiographie thoracique de Cognita a obtenu la désignation de dispositif révolutionnaire, mais n’a pas reçu d’autorisation de commercialisation.

Le reportage original confirme également que le contrat de recherche et la désignation de dispositif révolutionnaire sont des initiatives distinctes. Aucun des deux ne remplace les preuves nécessaires à l’appui d’une future soumission de dispositif.

Pourquoi les comptes rendus complets mettent à mal l’ancien modèle d’évaluation

Les systèmes de radiologie générative transforment l’évaluation, qui passe d’un test de précision ciblé à un problème de comparaison clinique ouvert.

La plupart des IA de radiologie autorisées ont historiquement exécuté des tâches circonscrites. Un système peut segmenter un organe, signaler un examen urgent, mesurer une structure ou détecter une anomalie spécifiée.

Ces fonctions peuvent elles aussi exiger des tests complexes. Toutefois, les développeurs peuvent généralement définir la sortie attendue, l’étalon de référence et la population cible avant de mener une étude.

La génération de comptes rendus complets est différente. Le modèle reçoit des images et, éventuellement, un contexte clinique, puis produit un récit couvrant tout ce qu’il considère comme pertinent.

Un même examen peut comporter plusieurs anomalies ayant des priorités cliniques différentes. Un autre peut être normal tout en comprenant des changements postopératoires qui ne doivent pas être confondus avec une maladie.

Un compte rendu généré peut être factuellement exact tout en hiérarchisant mal les informations. Il peut mentionner l’observation correcte, mais la formuler d’une manière qui modifie son degré d’urgence. Il peut aussi produire une phrase plausible que l’image ne justifie pas.

Les hallucinations décrivent des informations qui semblent crédibles, mais ne reposent pas sur les éléments sous-jacents. Les omissions surviennent lorsqu’un compte rendu ne mentionne pas une observation qui devrait être documentée.

Ces deux types d’erreurs résistent à une simple comparaison textuelle. Deux radiologues compétents peuvent décrire différemment la même image, tandis que deux comptes rendus similaires peuvent avoir des implications cliniques sensiblement différentes.

Les mesures linguistiques traditionnelles récompensent souvent les mots ou expressions communs. Elles ne distinguent pas de manière fiable un changement de formulation sans conséquence d’une erreur qui modifie la prise en charge du patient.

Cognita a précédemment contribué au développement de GREEN, acronyme de Generative Radiology Report Evaluation and Error Notation. GREEN utilise un modèle de langage pour identifier, catégoriser et expliquer les différences cliniquement significatives entre des comptes rendus générés et des comptes rendus de référence.

L’article évalué par les pairs sur GREEN a fait état d’un meilleur alignement avec les évaluations d’experts que plusieurs mesures textuelles conventionnelles. Il produisait également des explications et des décomptes d’erreurs, plutôt qu’un simple score de similarité.

Le contrat FDA élargit cette idée de base de deux façons. Il utilise plusieurs modèles juges au lieu de s’appuyer sur un seul, et il fait intervenir des radiologues dans les cas où les jugements automatisés ont une importance clinique.

Un jury peut réduire la dépendance aux préférences d’un seul modèle, mais seulement si ses membres apportent des jugements réellement différents. Plusieurs modèles peuvent partager des sources d’entraînement, des échecs de raisonnement ou une sensibilité aux mêmes formulations.

Le consensus n’est donc pas synonyme d’exactitude. Cinq modèles commettant la même erreur peuvent accroître la confiance sans apporter de preuve valide.

Le processus proposé pour les écarts répond à une partie de ce risque. Lorsque les juges divergent sur une question cliniquement significative, un radiologue peut examiner les comptes rendus et déterminer ce qui a échoué.

Mais l’accord mérite aussi d’être testé. Si chaque membre du jury ignore la même omission, l’escalade fondée sur le désaccord ne transmettra pas ce cas à un évaluateur humain.

Le projet nécessite donc un ensemble distinct d’examens humains échantillonnés. Cet ensemble peut estimer les erreurs au sein des décisions de jury tant unanimes que partagées.

Les comparaisons entre grandes et petites cohortes seront également importantes. L’entreprise doit montrer quels schémas de défaillance supplémentaires deviennent visibles lorsque l’évaluation dépasse quelques centaines de cas sélectionnés.

Un million d’examens devrait inclure davantage de pathologies rares et de combinaisons inhabituelles. Cela peut aussi révéler des variations de performance liées aux scanners, aux établissements, aux populations de patients et aux environnements cliniques.

Toutefois, l’échelle seule ne garantit pas la couverture. Un vaste jeu de données peut encore sous-représenter des populations importantes, des équipements peu courants ou des environnements extérieurs à son réseau source.

C’est pourquoi la composition de la cohorte devrait rester intégrée à l’analyse finale. Les lecteurs auront besoin de plus que du chiffre phare pour déterminer si la méthode reflète la pratique réelle aux États-Unis.

La FDA a besoin de preuves adaptées à l’IA générative

Le contrat intervient alors que la FDA détermine comment les règles existantes sur les dispositifs doivent s’appliquer à des systèmes aux sorties plus larges et moins prévisibles.

Le 18 août, la FDA a publié un document de discussion sur les dispositifs médicaux intégrant l’IA générative. L’agence a sollicité des retours sur l’évaluation des risques, l’évaluation préalable à la commercialisation, la surveillance après commercialisation et la gestion du cycle de vie.

Ce calendrier rend le contrat entre Cognita Imaging et la FDA particulièrement pertinent. L’agence ne se contente pas d’examiner des produits individuels. Elle étudie aussi si ses méthodes d’évaluation conviennent à des dispositifs qui créent de nouveaux contenus.

Le document de discussion de la FDA soulève des questions sur la mesure des performances lorsque les sorties sont variables ou ouvertes. Il demande également comment les développeurs devraient détecter les confabulations, évaluer la supervision humaine et surveiller les produits après leur déploiement.

Un compte rendu de radiologie généré par IA touche à chacune de ces questions. Sa sortie peut varier d’une exécution à l’autre, contenir plusieurs affirmations cliniques et influencer les décisions, même lorsqu’un radiologue signe le compte rendu final.

Les études préalables à la commercialisation doivent établir la sécurité et l’efficacité avant l’autorisation. Toutefois, des ensembles de tests limités peuvent ne pas détecter des combinaisons rares qui apparaîtront plus tard en pratique clinique.

La surveillance après commercialisation offre des preuves plus larges, mais l’examen de chaque compte rendu déployé imposerait une lourde charge opérationnelle. Des juges automatisés pourraient aider à identifier les cas qui méritent l’attention d’un expert.

Cela crée un pont potentiel entre la validation avant commercialisation et la surveillance en conditions réelles. Le même cadre d’évaluation pourrait tester un modèle avant son lancement et surveiller certaines sorties après son déploiement.

Le cadre nécessiterait néanmoins des seuils clairs. Un écart qui modifie un traitement mérite une réponse différente d’un désaccord stylistique ou d’une variation de formulation sans conséquence.

Il exige également des dossiers traçables. Les régulateurs et les hôpitaux doivent pouvoir reconstituer pourquoi un juge automatisé a attribué une catégorie d’erreur et pourquoi un cas a été transmis à un examinateur humain.

Les mises à jour de modèles ajoutent une autre difficulté. Si le générateur de rapports évolue, sa distribution d’erreurs peut changer. Si un membre du jury évolue, les jugements du système d’évaluation peuvent également se déplacer.

Cela crée deux systèmes évolutifs plutôt qu’un seul. Un générateur de rapports validé pourrait sembler meilleur ou moins bon simplement parce que ses évaluateurs ont été mis à jour.

Le contrôle des versions, des jeux de tests verrouillés et des prompts reproductibles seront donc nécessaires. Les développeurs devront documenter à la fois le produit examiné et chaque juge utilisé pour l’évaluer.

La FDA maintient déjà une liste de dispositifs d’IA couvrant des produits autorisés dans diverses spécialités médicales. La radiologie continue de représenter une part importante des dispositifs répertoriés.

L’agence indique vouloir identifier plus clairement, dans les prochaines mises à jour de la liste, les dispositifs intégrant des fonctionnalités fondées sur des LLM. Cela signale la nécessité d’une visibilité réglementaire plus précise à mesure que des fonctions génératives entrent dans les produits médicaux.

Le marché établi de l’IA en radiologie accentue également la pression concurrentielle. Des entreprises telles qu’Aidoc, Viz.ai, Lunit, Annalise.ai, Rad AI et DeepHealth ont développé différentes combinaisons d’outils de détection, de triage, de flux de travail et de génération de rapports.

Une méthode évolutive d’évaluation des rapports ne favoriserait pas automatiquement Cognita. Les concurrents pourraient adopter des stratégies de preuve similaires si la FDA publie des recommandations largement applicables.

La pression s’exerce plutôt sur chaque développeur formulant de vastes allégations de performance à partir d’études limitées de lecteurs. Les régulateurs et les acheteurs peuvent se demander si quelques centaines d’exemples sélectionnés révèlent le comportement du modèle face à la diversité clinique réelle.

Les hôpitaux pourraient poser la même question lors des achats. Ils ont besoin de preuves qu’un modèle fonctionne avec les scanners, protocoles, groupes de patients et conventions de compte rendu locaux.

Si le contrat aboutit à une méthodologie crédible, des cohortes de validation plus vastes pourraient devenir un élément attendu du dossier de preuve. Cela accroîtrait les exigences de test tout en rendant plus difficile l’étayage de larges affirmations génératives par des cas sélectionnés.

Le jury de LLM doit lui aussi être jugé

Le compromis central est simple : les juges LLM offrent une capacité de mise à l’échelle, mais leurs propres erreurs peuvent fausser les preuves reçues par les régulateurs.

Les LLM n’évaluent pas les rapports depuis une position neutre. Leurs jugements dépendent des données d’entraînement, des prompts, des versions de modèle, de l’ordre d’évaluation et de la formulation de chaque rapport candidat.

Un juge pourrait préférer des réponses plus longues même lorsque le texte supplémentaire crée un risque clinique. Il pourrait favoriser un style d’écriture familier ou attribuer de meilleures notes à des sorties ressemblant à ses propres réponses.

Un modèle peut aussi produire des décisions incohérentes au fil d’évaluations répétées. Cela crée un problème de reproductibilité lorsque les développeurs ont besoin de mesures stables pour leurs soumissions réglementaires.

Les enjeux sont plus élevés dans le domaine de la santé, car les différences subtiles comptent. Un évaluateur performant sur des questions médicales générales peut néanmoins mal gérer l’incertitude, la latéralité, les comparaisons temporelles ou la terminologie propre à l’imagerie.

Une récente revue du secteur de la santé consacrée aux systèmes de juges LLM décrit l’évaluation automatisée comme prometteuse, tout en soulignant la nécessité de validation, de transparence et de supervision humaine.

Le projet Cognita est structuré pour examiner plusieurs de ces préoccupations. Plusieurs juges peuvent révéler une instabilité, tandis que l’arbitrage par des radiologues peut déterminer si les points de désaccord révèlent une incertitude cliniquement pertinente.

Toutefois, une architecture de jury n’élimine pas automatiquement les biais. Ses membres doivent être sélectionnés et testés pour leurs performances complémentaires, plutôt que réunis en fonction du seul nombre de modèles.

La recherche devrait indiquer si les juges proviennent de familles de modèles différentes. Elle devrait également expliquer si l’un des juges partage une technologie, des données ou des méthodes d’optimisation avec le générateur de rapports.

L’auto-préférence constitue une préoccupation particulière. Une famille de modèles peut favoriser des sorties qui ressemblent à sa propre structure, à son niveau de détail ou à ses schémas de raisonnement.

Ce problème devient plus grave si un développeur évalue son générateur à l’aide de modèles apparentés. Des scores apparemment élevés pourraient refléter une affinité stylistique plutôt qu’une exactitude clinique.

La sensibilité aux prompts doit également être examinée. De petits changements dans les instructions peuvent modifier la manière dont un juge pondère les omissions, l’incertitude et l’importance clinique.

Un cadre réglementaire ne peut pas dépendre d’un prompt qui ne fonctionne que dans une configuration non documentée. Le prompt, la température, la version du modèle et les règles de décision devraient être reproductibles.

Le jury doit aussi distinguer la qualité du rapport de la vérité de l’image. Un juge fondé uniquement sur le texte peut comparer deux rapports, mais il ne peut pas confirmer indépendamment quelle description correspond au scanner.

Si le rapport d’origine omet une anomalie, le rapport généré pourrait être pénalisé pour l’avoir correctement ajoutée. L’inverse peut se produire lorsque les deux textes s’accordent sur une erreur.

L’examen proposé par Cognita, réalisé par des radiologues, peut résoudre certains de ces conflits en revenant aux images. La méthodologie finale devrait préciser quand l’examen des images est obligatoire plutôt que facultatif.

Un évaluateur pleinement conscient des images présente ses propres complications. Les modèles vision-langage peuvent examiner les images et le texte, mais leur interprétation visuelle doit alors elle aussi être validée.

Cela crée un problème d’assurance à plusieurs niveaux. Chaque modèle ajouté étend les capacités tout en introduisant un composant supplémentaire susceptible d’échouer silencieusement.

Les désaccords cliniquement importants ne constituent pas non plus une catégorie fixe. Une légère différence de formulation pour un patient peut devenir significative lorsqu’elle affecte le suivi, l’urgence ou le traitement.

Le cadre devra prévoir des catégories d’erreurs explicites et des définitions de gravité. Les radiologues devraient démontrer un accord significatif lors de l’application de ces règles.

Les divergences entre lecteurs ne doivent pas être considérées comme du bruit à éliminer. Elles peuvent révéler une véritable ambiguïté dans l’image, le rapport ou le contexte clinique.

L’issue la plus utile pourrait donc être une incertitude calibrée plutôt qu’un score universel unique. Un système qui identifie de manière fiable les cas incertains peut soutenir la supervision sans prétendre remplacer le jugement d’experts.

Le coût et la latence influenceront également l’adoption. Faire fonctionner plusieurs modèles propriétaires sur un million de rapports peut exiger des ressources de calcul importantes et des traitements répétés.

Ces considérations économiques n’invalident pas l’approche, mais elles influent sur la capacité des petits développeurs à la reproduire. Une méthode réglementaire devient moins utile si seules les grandes organisations peuvent se permettre l’infrastructure d’évaluation.

Le code et les recommandations d’implémentation de Cognita pourraient aider. Les livrables finaux devraient néanmoins expliquer les exigences matérielles, l’accès aux modèles, le temps de traitement et la sensibilité aux mises à jour de modèles fermés.

Le succès du contrat devrait donc être jugé sur la transparence et la reproductibilité, et pas seulement sur l’accord global avec les radiologues. Un résultat négatif crédible fournirait également des preuves réglementaires utiles.

Si les jurys de LLM échouent pour certaines catégories d’erreurs, la FDA pourra restreindre leur rôle en conséquence. La recherche n’a pas besoin de démontrer une fiabilité universelle pour améliorer les pratiques d’évaluation.

Ce que signifierait le succès sur un million d’examens

Un résultat concluant rendrait l’examen humain plus ciblé, sans rendre les radiologues facultatifs.

Le modèle opérationnel central du projet repose sur une escalade sélective. Les juges automatisés traitent l’ensemble du vaste jeu de données, tandis que les spécialistes se concentrent sur les cas présentant une incertitude ou un désaccord significatif.

Cette conception peut étendre la portée d’un temps d’expertise limité. Elle peut également concentrer les examinateurs sur les cas les plus susceptibles de révéler les faiblesses du modèle.

Le bénéfice dépend de la sensibilité du triage. Le jury doit transmettre aux radiologues suffisamment de rapports réellement problématiques sans les submerger de différences sans conséquence.

Les faux négatifs présentent la plus grande préoccupation en matière de sécurité. Ils surviennent lorsque le jury accepte une erreur de compte rendu cliniquement importante et ne demande jamais d’examen humain.

Les faux positifs créent une charge différente. Si trop de rapports sûrs sont transmis, l’efficacité promise disparaît et le système se rapproche d’une autre étude complète de lecteurs.

La recherche devrait présenter les deux résultats selon différents niveaux de gravité des erreurs. Un pourcentage d’accord unique masquerait le compromis opérationnel.

Les performances devraient également être ventilées selon la maladie, la modalité, les caractéristiques des patients, le type d’établissement et l’équipement. Les résultats agrégés peuvent masquer de faibles performances dans de petits groupes.

Les constatations rares méritent une attention particulière. Un modèle peut atteindre une forte exactitude globale tout en échouant sur des affections peu fréquentes mais urgentes.

Un million d’examens rend l’analyse des événements rares plus plausible, mais les effectifs réels restent déterminants. Un sous-groupe rare ne comptant que quelques exemples ne peut étayer une conclusion stable.

La comparaison entre les petites et les grandes cohortes de validation sera particulièrement instructive. Elle peut montrer si les conclusions tirées d’études conventionnelles restent stables lorsque la diversité des cas s’élargit.

Si les classements ou les taux d’erreur évoluent sensiblement, les développeurs et les régulateurs disposeront de preuves que les évaluations de moindre ampleur manquent des comportements importants. Ce résultat pourrait remodeler la conception des études même si le jury lui-même nécessite des améliorations.

Le succès influencerait également la surveillance après commercialisation. Les hôpitaux pourraient échantillonner les rapports de production, appliquer une méthode d’évaluation approuvée et transmettre les écarts à haut risque aux équipes qualité.

Une telle surveillance exigerait une gouvernance locale. Les systèmes de santé auraient besoin de responsabilités claires concernant les alertes, les délais d’examen, les actions correctives et la communication avec les fournisseurs.

L’évaluation automatisée ne peut pas devenir un substitut au signalement des problèmes de sécurité liés aux rapports. Elle devrait générer des preuves soutenant les processus existants de qualité et de réglementation.

La méthode pourrait également aider à comparer les versions de produits. Les développeurs pourraient évaluer si une mise à jour corrige des erreurs connues sans en introduire de nouvelles ailleurs.

Cet usage requiert un référentiel stable et une configuration de l’évaluateur figée. Dans le cas contraire, des changements du jury peuvent être confondus avec des changements du produit.

L’effet concurrentiel plus large pourrait être important. Les développeurs de radiologie générative affirment de plus en plus que leurs systèmes peuvent rédiger ou produire des rapports complets.

Ces affirmations deviennent plus vérifiables lorsque les évaluateurs peuvent examiner de grandes cohortes diversifiées. Les entreprises disposant de preuves limitées pourraient subir une pression pour publier des résultats par sous-groupe et des taux d’erreur arbitrés.

Néanmoins, le contrat de la FDA confère à Cognita un rôle précoce dans l’élaboration de la méthodologie. L’entreprise développe sa propre IA de radiologie ; la gestion des conflits et la reproductibilité externe auront donc leur importance.

Des équipes indépendantes devraient pouvoir tester le cadre sur d’autres générateurs de rapports. Elles devraient également pouvoir reproduire ses principales conclusions sans dépendre des systèmes privés de Cognita.

Le code ouvert peut soutenir ce processus, mais le code seul ne suffit pas. La validation externe exige des jeux de données accessibles, des prompts documentés, des définitions d’erreurs et des enregistrements des versions de modèles.

La confidentialité des patients limitera la quantité de données sources pouvant être publiée. Le projet peut y répondre au moyen d’un accès contrôlé, de référentiels désidentifiés ou d’environnements de validation indépendants.

Le résultat le plus solide combinerait l’échelle et l’auditabilité. Les régulateurs pourraient alors examiner la manière dont un résultat a été produit plutôt que d’accepter un score opaque.

Cette norme bénéficierait également aux acheteurs du secteur de la santé. Un hôpital pourrait comparer les affirmations à l’aide de catégories d’erreurs liées aux conséquences cliniques plutôt qu’à des chiffres d’exactitude définis par les fournisseurs.

Trois signaux montreront si les jurys de LLM sont prêts

Les prochaines preuves devraient révéler si le cadre de Cognita mesure la sécurité clinique ou s’il automatise simplement l’accord entre modèles de langage.

Le premier signal sera un protocole de validation détaillé. Il devra identifier les membres du jury, les prompts, les versions des modèles, la composition de la cohorte, la taxonomie des erreurs et les règles d’escalade.

Ces détails détermineront si l’approche est reproductible. Ils révéleront également si le jury réunit des évaluateurs réellement différents ou des modèles étroitement apparentés.

Un protocole solide préciserait comment les chercheurs échantillonnent les décisions unanimes pour une revue humaine. Ce test est essentiel, car l’accord peut masquer des erreurs communes.

Le deuxième signal sera l’analyse des divergences arbitrée par des radiologues. Les chercheurs devraient indiquer où le rapport généré, le rapport original et le jury de LLM ont chacun échoué.

Cette analyse devrait distinguer les hallucinations, les omissions, les erreurs de gravité, les erreurs de latéralité, les recommandations non étayées et les différences de formulation moins conséquentes.

Elle devrait aussi présenter les résultats par sous-groupes. Des résultats globaux stables ne peuvent compenser une évaluation insuffisante pour les maladies rares, les populations sous-représentées ou certains contextes de soins.

Si le jury détecte des divergences cliniquement importantes tout en maintenant une charge de revue gérable, la thèse principale du contrat gagne en crédibilité. Des taux élevés d’erreurs non détectées ou une escalade excessive l’affaibliraient.

Le troisième signal sera la réponse de la FDA une fois la recherche arrivée à maturité. L’agence pourrait faire référence à la méthodologie dans des recommandations, des ateliers publics, des évaluations de dispositifs ou des propositions de surveillance après commercialisation.

La FDA n’a pas besoin d’imposer les jurys de LLM pour que le projet soit important. Même une acceptation limitée pourrait établir des attentes en matière d’évaluation sur de larges cohortes et d’arbitrage humain.

Le silence serait également révélateur. Il pourrait indiquer que la méthode nécessite une validation supplémentaire ou que les régulateurs privilégient des preuves propres à chaque produit.

Le public ne devrait pas interpréter le contrat FDA de Cognita Imaging comme la preuve que l’IA peut se contrôler elle-même en toute sécurité. Le projet existe parce que cette question reste sans réponse.

Son postulat le plus défendable est plus limité. Des juges automatisés pourraient aider les radiologues à examiner beaucoup plus de preuves, à condition que leurs propres performances soient mesurées avec une rigueur équivalente.

Les développeurs, les cliniciens et les acheteurs de solutions de santé devraient surveiller si le travail final expose les modes de défaillance au lieu de les condenser en un seul score. Ils devraient également se demander si des équipes indépendantes peuvent reproduire les conclusions.

La question décisive n’est pas de savoir si plusieurs LLM peuvent s’accorder sur un rapport. Elle est de savoir si leurs accords et désaccords orientent de manière fiable l’attention humaine vers les cas les plus importants.