Plaignant du Connecticut sanctionné après une invite IA cachée dans des documents judiciaires

Matthew Elliott a fait les gros titres de Google News après qu’un tribunal du Connecticut a, selon certaines informations, découvert des instructions IA cachées dans deux de ses documents, transformant une tentative d’avantage en sanction.

Elliott, un plaignant non représenté, avait poursuivi New York Bariatric Group devant la Cour supérieure du Connecticut. Fin juillet 2026, il a déposé des actes contenant un texte presque invisible pour les lecteurs humains, mais toujours accessible aux logiciels de traitement de documents.

Le langage dissimulé ordonnait à tout modèle d’IA examinant le dépôt d’adhérer à la position d’Elliott. Pourtant, le personnel du tribunal l’aurait découvert sans recourir à un détecteur d’IA. Il a remarqué que l’espacement différait des soumissions antérieures d’Elliott, a examiné les documents de plus près et a trouvé un minuscule texte blanc.

Cette découverte rend l’affaire plus importante qu’une nouvelle histoire de mauvaise utilisation de ChatGPT. Cette fois, l’IA n’était pas accusée d’avoir inventé des autorités juridiques ou rédigé un mémoire médiocre. Le document déposé est lui-même devenu un canal d’instructions tenté, visant tout modèle susceptible de le traiter.

Le résultat expose un conflit fondamental dans l’examen de documents assisté par IA. Les tribunaux, cabinets d’avocats, assureurs, employeurs et éditeurs veulent des logiciels capables de tout lire. Les attaquants en bénéficient lorsque ces logiciels lisent des éléments invisibles aux humains.

Le dépôt dissimulait des instructions à la vue de tous

L’acte central était simple : Elliott aurait inséré des instructions lisibles par machine dans des documents présentés comme des dépôts judiciaires ordinaires.

Le litige est Elliott v. New York Bariatric Group, numéro de dossier AAN-CV-25-6066141-S. Les informations publiques du rôle indiquent qu’Elliott a engagé l’action en octobre 2025 dans le district judiciaire de Fairfield, au Connecticut.

Selon le reportage original, Elliott alléguait des violations de la vie privée, de la discrimination et d’autres griefs. Ces allégations font toujours partie du litige civil sous-jacent et ne doivent pas être confondues avec la question de l’injection d’invite.

Les éléments cachés figuraient dans les entrées au rôle 177.00 et 178.00, déposées fin juillet 2026. Les reportages décrivent le texte comme blanc et en police de trois points, ce qui le rendait difficile à repérer pour une personne sur une page blanche.

Une instruction demandait à un modèle d’IA de veiller à ce que sa sortie soit conforme au dépôt. Une autre orientait le modèle vers une « remédiation », un terme qui semblait conçu pour façonner toute analyse ou recommandation générée.

Une injection d’invite est une instruction intégrée à un contenu non fiable qui tente de supplanter la tâche réelle d’un système d’IA. Ici, le contenu non fiable était un dépôt judiciaire plutôt qu’une page web, un e-mail ou un ticket d’assistance.

La distinction compte. Un lecteur humain interpréterait le document comme une argumentation juridique. Un modèle mal conçu pourrait traiter chaque phrase extraite comme une instruction tout aussi valide, y compris la demande dissimulée d’adhésion.

L’invite n’avait pas besoin de mentionner un produit précis. Elle pouvait théoriquement viser tout système utilisé pour résumer, classifier, rechercher ou analyser le PDF. Cela pourrait inclure des logiciels exploités par l’avocat adverse, le personnel du tribunal, un fournisseur de recherche ou un journaliste.

Toutefois, les archives publiques n’établissent pas que le tribunal du Connecticut ait utilisé un modèle d’IA pour statuer sur les requêtes d’Elliott. Le fait que quelqu’un ait tenté une injection ne prouve pas l’existence d’un système décisionnel automatisé vulnérable.

Cette incertitude sépare le comportement établi des spéculations qui l’entourent. Le problème connu est le texte dissimulé. Les affirmations selon lesquelles un juge IA aurait secrètement tranché l’affaire vont au-delà des éléments disponibles.

Le tribunal aurait trouvé le texte parce que les dépôts contenaient des zones blanches inhabituelles. Comparé aux documents précédents d’Elliott, l’espacement paraissait erroné. Quelqu’un a inspecté le contenu sous-jacent et découvert un langage qui restait lisible par les logiciels.

Ce détail apporte le premier renversement. L’invite cachée était conçue pour exploiter la lecture automatisée, mais des artefacts de mise en page visibles l’ont révélée à un examinateur humain.

Les reportages indiquent que des soumissions ultérieures contenaient d’autres messages dissimulés, dont des blagues et un lien vidéo. Ces détails suggèrent que les lecteurs ordinaires n’étaient pas censés voir ces éléments.

Le 6 août, le tribunal a rendu une ordonnance d’inscription concernant l’utilisation par Elliott de l’injection d’invite. Les reportages indiquent qu’elle a restreint son accès au dépôt électronique et imposé un contrôle plus étroit de ses futures soumissions.

Le litige lui-même n’a pas nécessairement été réglé par cette ordonnance. La sanction visait la conduite de dépôt, et non chacun des griefs contestés contre New York Bariatric Group.

Cette différence est importante, car les sanctions ne doivent pas être décrites comme une décision sur l’ensemble du procès. L’épisode a plutôt modifié la manière dont Elliott pouvait participer à l’affaire, tout en soumettant sa crédibilité à une nouvelle pression.

Pourquoi le titre de Google News minimise le risque

Les étranges espaces blancs font un titre Google News mémorable, mais le problème plus vaste est que les documents portent désormais à la fois des éléments de preuve et un langage semblable à du code exécutable.

Les PDF paraissaient autrefois passifs. Les lecteurs les ouvraient, y effectuaient des recherches ou copiaient des passages dans un autre programme. Les systèmes d’IA ont changé cette relation, car ils peuvent ingérer des documents entiers et agir sur le texte extrait.

Un modèle ne peut pas déduire de manière fiable l’autorité à partir de la couleur de police. L’extraction de documents élimine souvent les distinctions visuelles, convertissant titres, notes de bas de page, texte blanc et arguments visibles en un seul flux de jetons.

Ce processus crée une injection d’invite indirecte. Au lieu de saisir une commande malveillante dans un chatbot, un attaquant la plante dans un contenu qu’une autre personne transmettra ultérieurement au modèle.

La technique est déjà apparue en dehors des litiges américains. Dans un conflit de travail au Brésil, des avocats auraient inséré des instructions blanc sur blanc dans un acte visant à influencer un flux de travail juridique assisté par IA.

Un tribunal a sanctionné les avocats après la détection du texte caché. L’incident brésilien a démontré que l’injection d’invite était sortie des tests de laboratoire et des exercices de sécurité adversariale.

L’affaire Elliott a fait entrer le même risque dans une procédure judiciaire américaine rapportée. Elle a également montré que des plaideurs non représentés peuvent tenter des techniques autrefois évoquées surtout par des chercheurs en sécurité.

D’autres secteurs font face au même problème données contre instructions. Un CV peut dire à un modèle de recrutement de classer son candidat en premier. Une page produit peut demander à un agent d’achat d’ignorer les offres concurrentes. Un e-mail peut demander à un assistant de divulguer des informations internes.

Un contrat pourrait cacher un texte indiquant à un outil de révision que chaque clause est standard. Un article de recherche pourrait ordonner à un évaluateur automatisé de recommander son acceptation. Un ticket d’assistance pourrait tenter de rediriger un agent vers une action non autorisée sur un compte.

Ces exemples partagent un même mécanisme. Le modèle reçoit des instructions fiables de son opérateur, puis rencontre un texte non fiable qui imite une commande.

Les systèmes modernes utilisent des hiérarchies d’instructions, des filtres, des outils isolés et d’autres défenses. Ces contrôles peuvent réduire l’exposition, mais l’injection d’invite reste difficile parce que le langage naturel sert à la fois de donnée et de surface de contrôle.

Le risque augmente lorsque le logiciel peut agir plutôt que simplement résumer. Un mauvais résumé fait perdre du temps. Un agent ayant accès aux e-mails, aux fichiers, aux paiements ou aux logiciels de gestion des dossiers peut produire des conséquences directes.

Microsoft a reconnu cette catégorie plus large dans sa discussion de l’injection inter-invites, où du contenu malveillant dans des documents ou des interfaces peut supplanter les instructions prévues d’un agent. La réponse de l’entreprise comprend des espaces de travail restreints, des privilèges limités et des journaux d’activité.

Ces contrôles illustrent un principe de sécurité pratique. Les organisations devraient supposer que des instructions malveillantes atteindront un modèle, puis limiter ce que le modèle peut faire lorsque cela arrive.

Les documents judiciaires exigent un traitement encore plus rigoureux. Un dépôt provient d’une partie ayant un intérêt dans l’issue. Chaque déclaration qu’il contient est un argument, un élément de preuve ou une allégation, et non une commande fiable pour le système d’examen.

Un flux de travail IA devrait donc établir une frontière stricte autour du document. Le système peut résumer son contenu, identifier des citations ou comparer des arguments. Il ne devrait jamais accepter des instructions opérationnelles trouvées dans le document.

Le rendu visuel compte également. Un pipeline d’examen qui n’extrait que du texte brut peut perdre les indices qui ont permis de découvrir l’invite d’Elliott. Il peut ne pas savoir si une phrase apparaissait en blanc, mesurait trois points ou se trouvait en dehors du flux de lecture normal.

Cela signifie que l’extraction de texte doit être associée à une analyse de mise en page. Les systèmes peuvent signaler des polices inhabituellement petites, des couleurs de premier plan et d’arrière-plan identiques, des calques invisibles, des objets hors page et des espacements suspects.

La reconnaissance optique de caractères offre un autre point de comparaison. Un système peut évaluer ce qui apparaît dans une image rendue par rapport à ce que contient le calque de texte interne du PDF. Les éléments présents dans une seule représentation méritent un examen.

L’objectif n’est pas de déclarer malveillante chaque anomalie de formatage. Les PDF juridiques comportent des erreurs de numérisation, des formulaires inaccessibles, des occultations, des artefacts de conversion et des calques de texte mal générés.

Les organisations ont plutôt besoin d’un parcours d’examen pour les anomalies. Le système de sécurité devrait préserver le fichier original, identifier le contenu dissimulé et montrer à un humain ce qu’il a trouvé avant que toute action automatisée ne se poursuive.

Le véritable enjeu oppose la responsabilité humaine à la commodité automatisée

Cette affaire oppose l’examen humain responsable à des flux de travail qui invitent les logiciels à lire des documents adversariaux sans préserver leur contexte visuel et juridique.

L’adversaire n’est pas Elliott face à un chatbot. Ce n’est pas non plus un concours entre New York Bariatric Group et un fournisseur d’IA. Le conflit central porte sur la personne qui reste responsable lorsque des logiciels assistent l’examen de documents aux conséquences importantes.

Les tribunaux utilisent déjà la technologie pour rechercher dans les dossiers, gérer les dépôts, transcrire les audiences et organiser les preuves. Les avocats utilisent chaque jour des systèmes d’examen de documents et des bases de données juridiques. Rejeter tout outil automatisé ignorerait des décennies de pratique juridique.

L’IA générative introduit un mode de défaillance différent. La recherche traditionnelle récupère les documents correspondant à une requête. Un modèle linguistique peut synthétiser une réponse qui paraît complète tout en masquant la source ayant façonné chaque conclusion.

Lorsque des instructions cachées entrent dans cette synthèse, l’utilisateur peut recevoir un résultat biaisé sans voir la tentative de manipulation. La sortie fluide du modèle peut rendre l’interférence plus difficile à reconnaître.

C’est pourquoi les orientations judiciaires insistent de plus en plus sur la responsabilité personnelle. Les orientations judiciaires sur l’IA actualisées du Royaume-Uni identifient explicitement le texte blanc comme un contenu visible par les ordinateurs mais caché aux lecteurs humains.

Ces orientations indiquent que les juges doivent lire les documents sous-jacents et rester responsables des éléments publiés en leur nom. Elles autorisent l’IA comme outil secondaire tout en rejetant l’idée que les logiciels puissent remplacer l’implication judiciaire directe.

Cette approche offre une référence utile au-delà d’une seule juridiction. Elle ne repose pas sur l’affirmation que les modèles sont inutiles. Elle définit plutôt une frontière entre assistance et jugement délégué.

Le Connecticut avait également renforcé ses propres règles avant l’ordonnance Elliott. Une modification de juin 2026 aurait exigé des avocats et des parties se représentant elles-mêmes qu’ils vérifient les citations, les autorités juridiques et les éléments de preuve produits avec une IA générative.

La nouvelle section 4-9 portait principalement sur les éléments inexacts ou fabriqués. L’injection présumée d’Elliott présente le problème inverse. Plutôt que de faire confiance à une sortie erronée du modèle, un déposant a tenté d’influencer tout modèle susceptible de traiter son document.

Ces deux problèmes renvoient à la même chaîne de responsabilité. Les déposants restent responsables de ce qu’ils soumettent. Les avocats doivent vérifier leur travail. Les tribunaux doivent examiner les preuves. Les fournisseurs de technologie doivent considérer les documents externes comme des entrées hostiles.

Le système judiciaire de l’État de New York est parvenu à une conclusion connexe dans son rapport annuel sur l’IA. Ses recommandations autorisent un usage contrôlé de l’IA tout en mettant l’accent sur l’exactitude, la confidentialité, la supervision et les obligations professionnelles existantes.

Ces obligations ne peuvent pas être externalisées vers le filtre de sécurité d’un fournisseur. Un produit peut avertir d’un texte suspect, mais un juge ou un avocat doit toujours évaluer le dépôt réel et le droit faisant autorité.

Les organisations qui conçoivent des flux documentaires devraient rendre cette séparation visible. Un résumé généré par IA devrait identifier ses sources, exposer les passages cités et préserver un chemin de retour vers le document rendu.

Les utilisateurs ont également besoin d’un historique de ce que le système a reçu. Cela inclut le fichier original, le texte extrait, les instructions système, la version du modèle, la sortie, l’activité des outils et tout avertissement de sécurité.

Sans cet historique, une organisation ne peut pas reconstituer si une instruction cachée a influencé le résultat. Elle pourrait ne voir qu’une réponse soignée, sans disposer d’un compte rendu fiable de la façon dont le modèle l’a produite.

Cette exigence relie l’injection de prompt à la gestion des connaissances. Les équipes ont besoin d’une séparation fiable entre les documents sources, les interprétations générées et les conclusions vérifiées.

Une base de connaissances IA structurée peut aider à préserver la provenance, mais le stockage seul ne neutralise pas les contenus malveillants. La couche de récupération et de raisonnement doit continuer à traiter le texte importé comme non fiable.

L’aspect pratique du conflit reste séduisant. Les tribunaux font face à des rôles chargés, les cabinets traitent de vastes ensembles de documents dans le cadre de la discovery, et les justiciables individuels peinent à naviguer dans des procédures complexes.

La synthèse promet de réduire le temps de lecture. L’extraction des citations promet une vérification plus rapide. La génération de brouillons promet un accès plus large à l’information juridique.

Pourtant, chaque minute économisée augmente la pression à faire confiance au résultat généré. Dès que le personnel cesse de vérifier le document original, un assistant devient discrètement une couche de décision.

Le dépôt rapporté d’Elliott a rendu visible cette transition cachée. Le prompt supposait que quelqu’un pourrait soumettre l’acte de procédure à un modèle et se fier à sa sortie. Que cette hypothèse ait été correcte importe moins que la vulnérabilité qu’elle visait.

La tentative a échoué, mais la défense n’est pas démontrée

Le prompt signalé n’a pas permis à Elliott d’obtenir gain de cause, mais une injection ratée ne suffit pas à établir que les systèmes d’IA juridique sont sûrs.

Selon 404 Media, des journalistes ont testé le dépôt avec ChatGPT et demandé au modèle de rendre une décision. Le chatbot aurait statué contre la requête d’Elliott et déclaré avoir remarqué puis ignoré l’injection.

Ce résultat est rassurant dans un sens limité. Un modèle contemporain, soumis à une consigne de test, n’a pas suivi l’exigence cachée.

Il ne reproduit pas tous les flux de travail possibles. Un système judiciaire pourrait extraire le texte différemment, utiliser un autre modèle, ajouter de la jurisprudence récupérée, diviser le document en fragments ou poser une question plus ciblée.

L’injection de prompt est sensible au contexte. La même charge utile peut échouer sous une instruction et en influencer une autre. De petits changements dans le prétraitement, le texte environnant, les prompts système ou les versions de modèle peuvent modifier le résultat.

Le test rapporté a également eu lieu après que les journalistes ont su qu’une injection existait. Un utilisateur ordinaire pourrait demander uniquement un résumé, ne jamais examiner la mise en forme originale et ne jamais recevoir d’avertissement explicite.

La sécurité ne peut pas dépendre du fait que chaque attaquant rédige une instruction évidente. Le langage rapporté d’Elliott faisait directement référence à un modèle d’IA et exigeait son accord, ce qui rendait son intention relativement facile à classifier.

De futures charges utiles peuvent imiter des métadonnées de document, des citations, des annotations, du texte d’accessibilité ou des instructions provenant d’une application de confiance. Elles peuvent répartir la commande sur plusieurs pages ou l’encoder dans des images.

Les défenseurs doivent également éviter de surestimer ce qui s’est passé au tribunal. Il n’existe aucune preuve publique vérifiée qu’un système d’IA ait adopté l’argument d’Elliott ou influencé une décision judiciaire.

Qualifier cette affaire de jugement compromis par l’IA serait donc inexact. Il s’agissait d’une tentative rapportée de manipuler un éventuel examen par IA, suivie d’une détection humaine et d’une action du tribunal.

Cette limite ne rend pas l’incident inoffensif. Une intrusion tentée peut révéler une faiblesse architecturale même lorsqu’elle échoue.

La question de sécurité est de savoir si une organisation aurait détecté la même technique à grande échelle. Un greffier a repéré un espacement inhabituel dans deux dépôts, mais les systèmes automatisés de réception peuvent traiter des milliers de documents sans une attention comparable.

L’examen humain a également ses limites. Un document mieux mis en forme pourrait ne pas créer d’espace blanc visible. Du texte blanc peut se trouver derrière des caractères visibles ou dans une couche d’image.

Les organisations ont besoin de contrôles à plusieurs niveaux, car ni les personnes ni les classificateurs ne détecteront tout. Le balayage initial devrait identifier les objets dissimulés et les styles anormaux avant que le contenu n’atteigne un modèle.

Le modèle devrait ensuite recevoir une instruction claire indiquant que le document constitue une preuve, et non une autorité. Ses outils devraient fonctionner avec des privilèges minimaux, et les actions ayant des conséquences devraient nécessiter une approbation humaine.

Les sorties générées devraient afficher l’incertitude et la provenance. Si le système rencontre des formulations qui ressemblent à des commandes, il devrait faire apparaître le passage concerné plutôt que de décider silencieusement s’il doit les suivre.

Un moniteur de sécurité distinct peut comparer la sortie au contenu source. Un accord soudain avec la conclusion demandée par un document, particulièrement sans analyse à l’appui, devrait déclencher un examen.

Le modèle sous-jacent ne devrait pas être autorisé à approuver sa propre sécurité. Un modèle influencé par une injection pourrait aussi affirmer qu’aucune injection n’a eu lieu.

Les vérifications indépendantes peuvent inclure une inspection déterministe des PDF, des classificateurs spécialisés, des comparaisons entre texte et rendu, ainsi qu’un échantillonnage manuel. Chacune détecte un schéma d’échec différent.

Cette affaire soulève aussi un problème d’équité. Les parties sophistiquées peuvent disposer d’équipes de sécurité et de logiciels juridiques contrôlés. Les justiciables se représentant eux-mêmes, les petits cabinets et les tribunaux locaux peuvent s’appuyer sur des outils généralistes à la gouvernance plus faible.

Des restrictions qui se contentent d’interdire l’IA peuvent pousser son usage hors de vue. Des règles claires, des systèmes approuvés, de la formation et des flux de travail auditables offrent une réponse plus réaliste.

Dans le même temps, les préoccupations d’accès ne peuvent excuser des instructions dissimulées. Une partie qui utilise l’IA pour rédiger est différente d’une partie qui tente de manipuler le modèle d’un autre utilisateur.

Cette frontière devrait rester facile à comprendre. L’assistance aide une personne à formuler ou examiner un argument. L’injection tente de contrôler le système qui examine le contenu d’une partie adverse.

Ce que les tribunaux et les équipes IA devraient surveiller ensuite

Le prochain test déterminera si les institutions traitent cette affaire comme une simple mise en scène isolée ou repensent leurs pipelines documentaires autour d’entrées adversariales.

Le premier signal sera le traitement final des privilèges de dépôt d’Elliott et de l’affaire sous-jacente. L’ordonnance du 6 août aurait imposé des restrictions, mais l’activité ultérieure au rôle montrera comment le tribunal les applique.

Un dossier public plus solide pourrait également préciser quelle autorité procédurale a soutenu la sanction. Cela importe pour les tribunaux confrontés à un comportement similaire dans d’autres juridictions.

Le différend Elliott pourrait ne pas créer de précédent contraignant en dehors du Connecticut. Toutefois, une ordonnance détaillée peut encore offrir aux juges et administrateurs judiciaires un modèle pratique pour identifier les prompts dissimulés et y répondre.

Le deuxième signal est l’adoption d’une désinfection obligatoire des documents. Les tribunaux et les cabinets devraient commencer à indiquer si les PDF téléversés sont inspectés pour détecter des couches cachées, des couleurs de texte et d’arrière-plan identiques ou des tailles de police anormales.

La désinfection ne peut pas signifier modifier silencieusement des preuves. Les systèmes doivent conserver le document original, enregistrer chaque transformation et présenter toute différence suspecte à l’examen.

Un processus sûr pourrait convertir le dépôt original en une représentation contrôlée pour l’analyse par IA tout en préservant la source pour l’examen juridique. Le modèle ne recevrait que le contenu visible et des métadonnées fiables.

Cette approche crée des compromis. Le rendu peut supprimer des informations d’accessibilité utiles, endommager des tableaux ou introduire des erreurs de reconnaissance optique. Chaque version transformée doit donc pouvoir être retracée jusqu’à l’original.

Le troisième signal est de savoir si les fournisseurs d’IA exposent les événements d’injection de prompt aux utilisateurs. Un filtre silencieux peut protéger une réponse, mais il fournit à une organisation peu d’éléments pour enquêter sur une campagne répétée.

Les systèmes d’entreprise devraient identifier quel passage a déclenché un avertissement, quelle action a été bloquée et si des outils ou des données externes ont été consultés. Les journaux doivent également respecter les règles de confidentialité régissant les documents juridiques.

Des références publiques aideront les acheteurs à comparer les défenses. Les tests devraient inclure des PDF adversariaux, des images, des couches cachées, des prompts multilingues, des instructions fragmentées et des charges utiles déguisées en mise en forme juridique.

Un fournisseur ne devrait pas revendiquer une immunité parce qu’un test direct de type « ignorer les instructions précédentes » a échoué. Les attaquants adaptent leur langage au modèle, au flux de travail et à la cible.

Les tribunaux peuvent s’inspirer de la conception de logiciels sécurisés. Ils devraient valider les entrées non fiables, séparer les données des commandes, minimiser les privilèges, exiger une approbation pour les actions importantes et conserver des traces d’audit utiles.

Les professionnels du droit ont également besoin d’une méthode fiable pour comparer un résumé IA à la source. C’est là qu’un mélange des connaissances rigoureux peut soutenir l’examen en maintenant les passages récupérés liés à l’analyse qui en résulte.

Le réviseur humain reste responsable de la conclusion. Un logiciel peut organiser des arguments concurrents, repérer des formulations répétées ou signaler des citations manquantes. Il ne peut pas déterminer que sa propre interprétation mérite une autorité judiciaire.

Les lecteurs arrivant via Google News devraient résister à la conclusion la plus facile. Il ne s’agissait pas d’une preuve qu’un juge IA dirigeait secrètement un tribunal du Connecticut. C’était la preuve qu’au moins un justiciable s’attendait à un examen automatique quelque part dans la chaîne juridique.

Cette attente, à elle seule, modifie le modèle de menace. Chaque document soumis à un flux de travail ayant des conséquences peut contenir un langage destiné à deux publics : le lecteur visible et l’analyseur invisible.

Le tribunal aurait repéré Elliott parce que la présentation semblait anormale. Le prochain attaquant pourrait mieux comprendre la mise en page des PDF, et la prochaine cible pourrait traiter des documents sans qu’un greffier examine chaque page.

Les organisations devraient tester leurs propres systèmes dès maintenant. Soumettez à un flux de travail d’IA contrôlé un document inoffensif contenant des instructions dissimulées, puis examinez s’il les suit, les ignore, les signale ou les consigne.

La réponse devrait déterminer la suite. Un système qui suit la commande a besoin de confinement. Un système qui l’ignore sans la consigner a besoin d’observabilité. Un système qui signale tout a besoin d’une meilleure précision.

Plus important encore, les institutions doivent décider quels jugements ne peuvent pas être délégués. Les résumés peuvent soutenir le travail juridique, mais l’évaluation des preuves et les décisions finales exigent des personnes responsables qui lisent le dossier sous-jacent.

Le cycle de l’actualité Google passera vite à autre chose. Le problème du texte caché, lui, restera présent dans les contrats, CV, documents réglementaires, articles de recherche, e-mails et tous les autres documents que les systèmes d’IA sont appelés à interpréter.

Les tribunaux et les fournisseurs mettront-ils en place ces garde-fous avant qu’une instruction plus discrète n’atteigne un modèle davantage digne de confiance, ou attendront-ils qu’une décision automatisée change réellement ?