UPMC constate que l’adoption de l’IA hospitalière dépasse les capacités de test et de supervision

UPMC a identifié un décalage marqué dans l’adoption de l’IA à l’hôpital : plus de 90 % des systèmes de santé interrogés utilisent des outils tiers, mais seuls 44 % disposent d’environnements de test dédiés.

Ces résultats ont touché un public plus large via Google News après leur publication par MedCity News le 30 août 2026. Pourtant, l’enjeu de fond n’est pas un nouveau jalon de l’adoption de l’IA. C’est la preuve que les déploiements ont progressé plus vite que la capacité des hôpitaux à valider ce qu’ils achètent.

Les hôpitaux intègrent l’IA à la documentation, à la facturation, à la planification et à l’aide à la décision clinique. Beaucoup ne disposent toujours pas de méthodes reproductibles pour tester ces systèmes sur leurs propres patients, processus de travail et données. Les dirigeants hospitaliers, les cliniciens, les fournisseurs et les autorités de régulation doivent donc négocier les responsabilités une fois que la technologie est déjà entrée dans les soins.

Le conflit central oppose la vitesse de déploiement au contrôle institutionnel. Un déploiement logiciel classique cherche à savoir si un produit fonctionne comme prévu. La supervision de l’IA clinique doit aussi déterminer s’il fonctionne pour cette population, reste précis au fil du temps, traite les groupes de manière équitable et améliore les soins sans créer de nouveaux risques.

Les chiffres d’adoption masquent un déficit d’infrastructure

L’IA hospitalière est entrée dans les opérations courantes, mais les systèmes nécessaires pour la valider restent inégaux.

Les résultats de l’enquête UPMC proviennent d’une étude menée par le Center for Connected Medicine d’UPMC et KLAS Research. Les organisations ont interrogé plus de deux douzaines de dirigeants de systèmes de santé sur leur stratégie en matière d’IA, les tests, la gouvernance et le déploiement.

Plus de 90 % des répondants ont déclaré que leurs organisations avaient déployé des solutions d’IA tierces. La documentation clinique était le domaine de déploiement le plus fréquemment cité, mentionné par 52 % des répondants. La gestion du cycle de revenus, le codage et la facturation suivaient à 36 %.

Ces chiffres montrent que l’IA hospitalière ne se limite plus à des projets de recherche isolés. Elle rédige désormais des notes cliniques, soutient des décisions administratives et influence des processus qui affectent les patients et le personnel.

Les tests semblent également répandus à première vue. L’enquête a révélé que 92 % des organisations évaluent les outils d’IA tiers avant leur déploiement. Cependant, ce chiffre englobe des méthodes allant de protocoles de validation formels à des projets pilotes limités et à des examens informels.

Seuls 44 % ont déclaré disposer d’une plateforme de données ou d’un environnement de test dédié. Sans cela, un hôpital a moins d’occasions d’examiner les performances à partir de ses propres données avant de connecter un modèle aux processus opérationnels en direct.

Cette distinction est importante, car mener à bien un projet pilote ne revient pas à valider un système clinique. Un pilote peut confirmer qu’un logiciel s’intègre à un dossier de santé électronique. Il peut ne pas révéler si le modèle fonctionne différemment selon l’âge, l’origine raciale, la langue, le handicap ou l’assurance des patients.

Un pilote court apporte aussi des preuves limitées concernant les événements rares. Ces cas peuvent avoir les conséquences cliniques les plus importantes, en particulier lorsqu’un algorithme prédit une détérioration, une réadmission ou des besoins de traitement.

La stratégie n’a pas mûri au même rythme. Le rapport a constaté que 63 % des organisations interrogées qualifiaient leur approche de l’IA d’en cours de développement ou ponctuelle. Les répondants ont également indiqué qu’aucun solide consensus n’existait sur les indicateurs qui devraient définir le succès.

Cette incertitude dépasse les seules questions de sécurité. Un hôpital peut mesurer le temps gagné, l’acceptation par les cliniciens, le rendement financier, les performances diagnostiques, les résultats pour les patients, ou les cinq à la fois. Sans objectif convenu, une mise en œuvre réussie peut signifier des choses très différentes pour les dirigeants et les cliniciens.

L’enquête est de petite taille et ne doit pas être considérée comme un recensement des hôpitaux américains. Sa valeur réside dans le décalage qu’elle révèle. Le déploiement est courant, tandis que les tests structurés, la maturité stratégique et la mesure cohérente ne le sont pas.

L’attention de Google News s’inscrit dans une tendance hospitalière bien plus large

Les résultats d’UPMC reflètent un modèle d’adoption déjà visible dans des milliers d’hôpitaux américains.

Les données fédérales fournissent une base plus large que la nouvelle enquête sectorielle. Une analyse de l’Office of the National Coordinator a révélé que 71 % des hôpitaux de soins aigus non fédéraux utilisaient, en 2024, une IA prédictive intégrée aux dossiers de santé électroniques. Ce taux était de 66 % en 2023.

L’IA prédictive utilise des modèles statistiques pour estimer un résultat, comme le risque de réadmission ou la détérioration de l’état d’un patient. Elle diffère de l’IA générative, qui produit du texte, des images ou d’autres contenus à partir d’une invite.

Les données fédérales sur les hôpitaux ont couvert 2 080 réponses hospitalières informatives en 2024. Elles ont montré que l’adoption variait fortement selon la taille de l’hôpital, sa localisation, son affiliation à un système et son environnement technologique.

En 2024, 96 % des hôpitaux de plus de 400 lits ont déclaré utiliser l’IA prédictive. Le taux était de 59 % parmi les hôpitaux de moins de 100 lits.

L’affiliation à un système a créé un autre écart important. L’adoption de l’IA prédictive a atteint 86 % parmi les membres de systèmes multi-hôpitaux, contre 37 % parmi les hôpitaux indépendants. Les hôpitaux urbains ont déclaré un taux d’adoption de 81 %, contre 56 % pour les hôpitaux ruraux.

Ces écarts compliquent toute affirmation selon laquelle les hôpitaux seraient uniformément « à fond » dans l’IA. Les grands systèmes peuvent répartir l’ingénierie des données, l’examen juridique, la cybersécurité et l’expertise clinique entre de nombreux établissements. Un petit hôpital indépendant peut ne disposer d’aucune équipe comparable.

Les fournisseurs technologiques façonnent également le marché. L’analyse fédérale a révélé que 90 % des hôpitaux utilisant le fournisseur leader du marché des dossiers de santé électroniques disposaient d’IA prédictive. Seuls 50 % des hôpitaux utilisant d’autres fournisseurs ont déclaré la même chose.

Les hôpitaux acquièrent souvent l’IA comme fonctionnalité intégrée aux logiciels qu’ils utilisent déjà. Cela réduit les obstacles liés aux achats et à l’intégration, mais peut aussi rendre un algorithme moins visible. Le personnel peut rencontrer un score ou une recommandation sans savoir dans quelle mesure son organisation l’a évalué.

La croissance la plus rapide a concerné les applications administratives. De 2023 à 2024, l’utilisation de l’IA prédictive pour la facturation a augmenté de 25 points de pourcentage. La planification a progressé de 16 points, tandis que l’identification des patients ambulatoires à haut risque a augmenté de neuf points.

Les déploiements administratifs peuvent toujours affecter les soins aux patients. Un modèle de planification peut influencer les délais d’attente, l’accès aux spécialistes et les rendez-vous manqués. Un système de facturation peut façonner les autorisations préalables, les litiges de codage et la charge financière imposée aux patients.

Les résultats fédéraux contiennent aussi un signal plus encourageant. En 2024, 82 % des hôpitaux utilisant l’IA prédictive ont déclaré évaluer les modèles pour leur précision. Soixante-quatorze pour cent ont indiqué évaluer les biais, et 79 % ont effectué un certain suivi après mise en œuvre.

Cependant, moins d’hôpitaux appliquaient ces pratiques à tous ou à la plupart des modèles. Entre 15 % et 21 % ont répondu « ne sait pas » lorsqu’ils étaient interrogés sur l’évaluation de la précision, les tests de biais ou le suivi.

Cette différence étaye la préoccupation soulevée par le rapport UPMC. Un hôpital peut disposer d’une politique d’évaluation tout en l’appliquant de façon incohérente à un portefeuille croissant de modèles.

La visibilité sur Google News peut faire apparaître la plus récente enquête comme un avertissement soudain. Les éléments nationaux suggèrent au contraire un problème structurel plus ancien. L’adoption de l’IA progresse dans des organisations aux ressources, modèles de gouvernance et capacités techniques profondément différents.

Acheter de l’IA est plus simple que prouver son efficacité locale

Les éléments fournis par les fournisseurs ne peuvent pas répondre à toutes les questions sur le comportement d’un outil d’IA dans un hôpital donné.

Les performances d’un algorithme dépendent de la population, des données, des équipements, du processus de travail et des décisions qui l’entourent. Un modèle développé dans un centre universitaire urbain peut ne pas se transférer facilement à un hôpital rural ou à une clinique communautaire.

Les populations de patients diffèrent par la prévalence des maladies, la langue, l’accès aux soins et les pratiques de documentation. Les dossiers de santé électroniques encodent également les informations différemment. Un champ manquant peut signifier « non mesuré » dans un contexte et « non présent » dans un autre.

Ces différences créent un décalage de distribution des données, qui survient lorsque les données d’entrée du monde réel ne ressemblent plus aux informations utilisées lors du développement. Elles créent aussi une dérive du modèle, c’est-à-dire une baisse ou une évolution des performances après le déploiement.

La validation locale teste un modèle à l’aide des données et des conditions de l’organisation qui prévoit de l’utiliser. Elle peut révéler si les performances annoncées par un fournisseur résistent à la confrontation avec les patients et les processus de travail d’un hôpital.

UPMC indique utiliser Ahavi, une plateforme de données du monde réel, afin de tester l’IA tierce sur des données de patients désidentifiées avant son déploiement. Les tests « in silico » consistent à évaluer un système par calcul, sans exposer les patients à ses recommandations.

Cette approche peut comparer les prédictions aux résultats connus. Elle peut aussi évaluer les performances par sous-groupes, identifier des problèmes de données inattendus et estimer si un modèle proposé apporte une valeur au-delà des pratiques existantes.

Le directeur médical de l’information d’UPMC, Rob Bart, a déclaré à MedCity News que l’organisation surveille également les algorithmes cliniques déployés à intervalles réguliers. Parmi les exemples figurent les modèles qui prédisent la durée d’hospitalisation ou le risque de réadmission.

Selon le rapport hospitalier original, UPMC maintient une structure formelle de gouvernance de l’IA depuis plus de deux ans. Son processus reflète un principe essentiel : la validation n’est pas un événement ponctuel d’approvisionnement.

Un modèle peut réussir les tests locaux puis se dégrader ultérieurement. Les pratiques cliniques évoluent, les populations changent et les fournisseurs mettent à jour leurs logiciels. Les hôpitaux modifient également leurs pipelines de données, leurs normes de codage et les configurations de leurs dossiers de santé électroniques.

L’IA générative ajoute une incertitude supplémentaire, car sa sortie est probabiliste. Un même modèle peut produire des formulations différentes à partir d’invites similaires, et une mise à jour du fournisseur peut modifier son comportement sans changer le processus de travail de l’hôpital.

Un système de documentation ambiante fournit un exemple concret. Il écoute une consultation clinique et rédige une note que le médecin examine. Le bénéfice immédiat est de réduire la saisie, mais la surface de risque va bien au-delà de la précision de la transcription.

Le système pourrait omettre une incertitude, confondre les interlocuteurs, insérer des détails non étayés ou transformer une discussion hypothétique en diagnostic définitif. L’examen par le clinicien apporte une protection, mais seulement si les utilisateurs disposent de suffisamment de temps et d’attention pour examiner chaque affirmation générée.

Le biais d’automatisation crée un autre problème. Les personnes peuvent être davantage enclines à accepter une recommandation parce qu’elle a été produite par un ordinateur. Une obligation nominale d’examen humain offre une protection limitée lorsque les charges de travail encouragent une approbation rapide.

Les tests hospitaliers doivent donc examiner le système humain et technique dans son ensemble. Un modèle affichant de solides performances de référence peut tout de même échouer si les alertes arrivent trop souvent, si les explications déroutent les utilisateurs ou si le personnel comprend mal son rôle prévu.

C’est pourquoi la mise en œuvre classique des technologies de l’information ne suffit pas. Elle se concentre sur la disponibilité, l’accès, la sécurité et l’intégration. La validation clinique doit également aborder l’efficacité, l’équité, l’utilisabilité et les résultats pour les patients.

La gouvernance est le produit que les hôpitaux n’ont pas encore fini de construire

La partie la plus difficile de l’IA clinique consiste à attribuer l’autorité avant qu’un algorithme ne commette une erreur aux conséquences importantes.

L’analyse fédérale des hôpitaux a révélé que 74 % des hôpitaux confiaient l’évaluation de l’IA prédictive à plusieurs entités. Des comités ou groupes de travail spécifiques ont été cités par 66 %, tandis que les responsables de service ont été cités par 60 %.

La responsabilité partagée peut apporter des perspectives précieuses. Les cliniciens comprennent la prise en charge des patients, les data scientists évaluent les modèles, les équipes de sécurité examinent les risques techniques et les équipes juridiques interprètent les obligations en matière de confidentialité et de responsabilité.

Mais la responsabilité partagée peut aussi devenir une responsabilité fragmentée. Si quatre groupes participent mais qu’aucun ne détient la décision finale, des problèmes critiques peuvent rester sans solution.

Chaque modèle déployé doit avoir un responsable clairement identifié. Cette personne ou ce groupe doit connaître l’objectif prévu du modèle, les utilisateurs autorisés, les seuils de performance, l’historique des mises à jour et les conditions de suspension.

La gouvernance doit également distinguer les niveaux de risque. Un outil qui résume une réunion interne ne devrait pas faire l’objet du même examen qu’un modèle qui priorise des patients en urgence. Toutefois, des libellés administratifs ne devraient pas automatiquement impliquer un faible risque.

Un modèle de dotation en personnel peut affecter la charge de travail des infirmiers. Un algorithme de planification peut modifier l’accès aux soins. Un outil de gestion du cycle de revenus peut influer sur le règlement ou la contestation d’une demande de remboursement.

Des chercheurs internationaux ont proposé une approche fondée sur le cycle de vie. Les lignes directrices FUTURE-AI appellent à une validation locale, un contrôle qualité continu, une traçabilité, l’attribution de rôles de gouvernance et une gestion permanente des risques.

La traçabilité consiste à conserver des dossiers sur la manière dont un modèle a été développé, validé, déployé, utilisé et surveillé. Les hôpitaux ont besoin de cet historique lorsque les performances évoluent ou qu’un patient conteste une décision influencée par l’IA.

Les contrats d’approvisionnement font partie de ce dossier. Les hôpitaux ont besoin d’être informés des mises à jour des modèles, d’accéder à des informations significatives sur les performances, de disposer de procédures de signalement des incidents et de savoir clairement qui peut enquêter sur une défaillance.

Les fournisseurs peuvent hésiter à divulguer des détails propriétaires. Un accès complet au code source n’est pas toujours nécessaire, mais les hôpitaux ont tout de même besoin de suffisamment d’informations pour évaluer les limites et les changements.

La gouvernance nécessite aussi un processus de retrait. Les organisations se concentrent habituellement sur l’approbation de nouveaux outils tout en négligeant les critères de retrait de ceux qui ne sont plus performants, n’attirent plus d’utilisateurs ou ne produisent pas de valeur mesurable.

Les contraintes de ressources restent l’obstacle central. L’enquête de l’UPMC cite le manque de temps, l’insuffisance des ressources et la pénurie de talents spécialisés parmi les principaux freins.

Ken Howard, d’UPMC Enterprises, a clairement décrit la pression opérationnelle. Les hôpitaux identifient souvent un problème et passent directement à la mise en œuvre, faute de capacité pour créer d’abord un environnement de test structuré.

Ce choix peut créer une fausse économie. MedCity News a rapporté qu’une mise en œuvre conventionnelle peut prendre six mois ou plus avant qu’un hôpital ne découvre qu’un produit ne fournit pas la valeur attendue.

Les grands systèmes peuvent investir dans des plateformes de validation partagées. Les petits hôpitaux peuvent avoir besoin de partenariats régionaux, de services de test indépendants, de protocoles d’évaluation communs ou du soutien d’institutions publiques.

Sans infrastructure partagée, les hôpitaux disposant des ressources techniques les plus limitées font face à un choix difficile. Ils peuvent retarder l’adoption d’outils utiles ou accepter des preuves fournies par les fournisseurs qui ne représentent pas pleinement leurs patients.

La réglementation laisse toujours les hôpitaux porter le risque

L’autorisation réglementaire ne remplace pas les preuves locales, et de nombreux outils d’IA hospitaliers ne font l’objet d’aucun examen fédéral spécifique au produit.

La Food and Drug Administration réglemente les logiciels lorsqu’ils répondent à la définition légale d’un dispositif médical. Certaines fonctions d’aide à la décision clinique échappent à cette définition, selon leurs utilisateurs, leur objectif et la manière dont les recommandations sont présentées.

Les outils administratifs et de nombreuses applications d’IA générative peuvent également entrer dans les hôpitaux sans autorisation de la FDA. Leurs fournisseurs doivent toujours respecter les lois applicables, les contrats, les règles de confidentialité et les protections des consommateurs, mais aucun régulateur unique n’évalue chaque déploiement.

Même un dispositif autorisé par la FDA n’arrive pas avec une garantie d’efficacité locale. L’autorisation porte sur un produit défini et un usage prévu. Elle ne reproduit pas la population, les flux de travail, le modèle de personnel ou l’environnement de données de chaque hôpital.

Une communication spéciale publiée dans JAMA en 2025 a soutenu que l’IA dans la santé et les soins de santé exige une gouvernance capable de protéger les patients tout en mesurant les bénéfices réels. Elle a également averti que la supervision existante est répartie entre agences et institutions.

L’évaluation de JAMA a identifié un défi structurel. Les outils d’IA peuvent évoluer, fonctionner différemment selon le contexte et s’avérer difficiles à évaluer complètement avant leur entrée dans la pratique.

Le rapport a cité la préoccupation de l’ancien commissaire de la FDA, Robert Califf, selon laquelle aucun système de santé américain n’avait la capacité de valider chaque algorithme d’IA clinique qu’il déployait. Sa déclaration était volontairement générale, mais elle reflète l’ampleur de la tâche.

Les hôpitaux n’installent pas un seul modèle statique. Ils gèrent des portefeuilles de systèmes fournis par des éditeurs, de fonctionnalités de dossiers de santé électroniques, de modèles développés en interne et de services d’IA à usage général.

Chaque produit peut évoluer par l’ajout de nouvelles données, des mises à jour logicielles, des modifications des flux de travail ou des changements de comportement des utilisateurs. La supervision doit donc s’exercer en continu sur l’ensemble du portefeuille.

La sécurité n’est qu’une dimension. Les hôpitaux doivent aussi déterminer si un outil améliore les résultats, fait gagner du temps, réduit les coûts ou crée des charges ailleurs.

Un assistant de documentation peut réduire le temps consacré à la rédaction des notes, mais augmenter celui nécessaire pour corriger les erreurs. Un modèle de réadmission peut identifier les patients à haut risque, mais submerger une équipe de coordination des soins avec davantage de cas qu’elle ne peut traiter.

Les tests de biais exigent également davantage qu’une comparaison de l’exactitude globale. Un modèle peut être globalement performant tout en produisant davantage de faux négatifs pour un groupe ou davantage de faux positifs pour un autre.

Les conséquences dépendent du cas d’usage. Un faux négatif dans un modèle de dégradation de l’état clinique peut retarder une intervention. Un faux positif peut déclencher des examens inutiles, une fatigue liée aux alertes ou un détournement des ressources.

Une lecture sceptique des résultats de l’UPMC est que l’enquête reflète des pratiques autodéclarées par un groupe limité. Une plateforme de test dédiée ne garantit pas non plus que les responsables choisiront des critères d’évaluation appropriés ou agiront face à des résultats défavorables.

La gouvernance formelle peut se réduire à de la paperasse. Les comités peuvent approuver des outils sans obtenir suffisamment de preuves, tandis que les tableaux de bord peuvent surveiller des indicateurs pratiques plutôt que les résultats pour les patients.

L’approche de l’UPMC constitue donc un exemple utile, et non la preuve que le problème de gouvernance a été résolu. Ses méthodes doivent encore démontrer que les tests locaux modifient les décisions de déploiement et améliorent les résultats.

Trois signaux montreront si la supervision rattrape son retard

La prochaine phase de l’IA hospitalière sera jugée à l’aune des preuves, de la responsabilité et de la capacité à arrêter les systèmes défaillants.

Le premier signal sera de voir si les hôpitaux publient des pratiques d’évaluation spécifiques à chaque modèle. Les affirmations générales sur une IA responsable révèlent peu de choses. Des informations utiles indiquent l’usage prévu, la population locale de test, les seuils de performance, les résultats par sous-groupe, le calendrier de surveillance et le responsable désigné.

Des rapports standardisés faciliteraient les comparaisons sans obliger les hôpitaux à révéler des données permettant d’identifier les patients. Ils aideraient aussi les conseils d’administration à distinguer un déploiement techniquement achevé d’un déploiement validé sur le plan clinique.

Une recherche publiée dans Nature Health a constaté que la mise en œuvre de l’IA hospitalière était géographiquement concentrée et fortement dépendante des conditions locales. L’analyse de mise en œuvre a porté sur 3 560 hôpitaux américains et a appelé à des indicateurs standardisés, spécifiques à chaque modèle.

Si les rapports au niveau des modèles deviennent habituels, cela renforcerait l’idée que la gouvernance gagne en maturité. Si les hôpitaux continuent de ne communiquer que le nombre d’outils déployés, l’adoption restera plus facile à mesurer que la sécurité ou la valeur.

Le deuxième signal concernera la manière dont les fournisseurs gèrent les mises à jour et l’examen externe. Les hôpitaux ont besoin de notifications de changement fiables, d’historiques de versions, de canaux de signalement des incidents et de possibilités de tester les nouvelles versions avant leur utilisation en conditions réelles.

Un fournisseur qui modifie un modèle sous-jacent peut changer l’exactitude, les biais, le ton ou les schémas de défaillance. Un hôpital ne peut maintenir un état validé s’il ne sait pas quand le produit a subi une modification substantielle.

L’évaluation indépendante sera particulièrement importante pour les systèmes largement déployés. Des benchmarks communs ne peuvent pas remplacer la validation locale, mais ils peuvent révéler des faiblesses récurrentes et réduire les efforts redondants.

Le troisième signal sera de savoir si les organisations créent des règles d’arrêt exécutoires. Un programme de surveillance a une valeur limitée si aucun seuil ne déclenche une enquête, une suspension ou un retrait.

Les règles d’arrêt peuvent couvrir une baisse de l’exactitude, des disparités entre sous-groupes, des taux inhabituels de contournement, des hallucinations répétées, des incidents de sécurité ou l’incapacité à fournir la valeur clinique attendue.

Les hôpitaux devraient également suivre si les cliniciens utilisent réellement un système comme prévu. Une faible adoption peut indiquer une formation insuffisante, une conception faible ou un produit qui ne répond pas à un besoin réel.

Les conclusions d’UPMC et de KLAS chiffrent de manière mesurable le déficit d’infrastructure, mais elles n’établissent pas à quelle vitesse les hôpitaux le combleront. Construire un environnement de données n’est qu’une étape.

Les systèmes de santé doivent financer des équipes pluridisciplinaires, définir des normes de preuve, négocier des conditions plus solides avec les fournisseurs, surveiller les performances en conditions réelles et donner à quelqu’un l’autorité d’intervenir.

L’article a émergé via Google News comme un avertissement sur des hôpitaux qui avancent trop vite. Sa leçon la plus durable est que la gouvernance de l’IA doit devenir une capacité opérationnelle, et non un document de politique.

Les dirigeants d’hôpitaux devraient poser une question directe à propos de chaque modèle déjà utilisé : quelles preuves nous convaincraient de le désactiver ?

Cette question oblige une organisation à définir la performance, la responsabilité et le risque acceptable avant qu’une défaillance ne prenne la décision à sa place. Les lecteurs qui suivent l’IA clinique devraient surveiller l’apparition de normes publiques de validation, de contrôles transparents des mises à jour et d’exemples concrets d’hôpitaux retirant des outils peu performants. Ces signaux montreront si la supervision finit par suivre l’adoption, ou si le secteur continue de compter les déploiements tout en laissant patients et cliniciens absorber l’incertitude.