Les sanctions contre Stephen Aarons liées à ChatGPT transforment de faux témoins en crise judiciaire

Stephen Aarons a été sanctionné à hauteur de 5 000 dollars après que son mémoire d’appel préparé avec l’aide de ChatGPT a présenté de faux témoignages et des témoins qui n’ont jamais comparu au procès. La New Mexico Supreme Court a également déclaré cet avocat de la défense chevronné coupable d’outrage direct à la cour. Les sanctions contre Stephen Aarons liées à ChatGPT révèlent un échec bien plus grave qu’une nouvelle citation juridique inventée.

Aarons représentait Oscar Renee Sandoval, condamné à la réclusion à perpétuité après une condamnation pour meurtre. Selon la cour, le mémoire d’appel déformait à la fois le dossier du procès et les autorités juridiques. Certains passages décrivaient des témoignages de témoins fabriqués, y compris de supposées observations sur les vêtements et l’apparence du tireur.

Cette différence change l’enjeu. Les précédentes sanctions liées à l’IA concernaient souvent des affaires ou des citations inexistantes. Ce document aurait modifié le récit factuel d’un procès pénal, dans lequel la liberté du client dépendait d’un dossier exact. Il a transformé un résumé peu fiable en prétendue preuve et introduit ce contenu devant la plus haute juridiction de l’État.

Les sanctions contre Stephen Aarons liées à ChatGPT sont allées au-delà d’une amende

La cour a considéré ce document comme une menace pour l’appel lui-même, et non comme une simple erreur de recherche embarrassante.

La New Mexico Supreme Court a prononcé les sanctions le 9 septembre 2026. Les juges ont déclaré Aarons coupable d’outrage direct à la cour et lui ont ordonné de verser 5 000 dollars au State Bar of New Mexico Client Protection Fund.

La cour a également renvoyé l’affaire en vue de mesures disciplinaires contre l’avocat. Aarons ne peut pas comparaître devant la Cour suprême de l’État tant que cette procédure est en cours. Cette restriction distingue l’affaire des incidents réglés par des avertissements ou des formations continues.

Les mémoires d’appel existants ont été annulés. L’appel de Sandoval a été confié à l’avocate Kim Chavez Cook par l’intermédiaire du système de défense publique du Nouveau-Mexique. L’appel de fond reste pendant, selon un article sur l’affaire publié par Reuters.

Ces mesures reconnaissent deux préjudices distincts. Le premier concerne la cour, qui a reçu un document contenant des éléments ne correspondant pas au dossier. Le second concerne Sandoval, dont l’appel direct a été retardé et a dû reprendre avec un nouvel avocat.

Sandoval avait plaidé non coupable du meurtre de la mère de ses enfants. Il a été reconnu coupable et condamné à la réclusion à perpétuité en 2025. Son appel capital soulevait des questions relatives aux preuves, à la communication des témoins, aux témoignages d’experts, aux droits de confrontation et à l’efficacité de l’avocat au procès.

La liste des affaires de la session de la justice du Nouveau-Mexique confirme ces questions d’appel. Elles exigeaient des comparaisons minutieuses entre le dossier du procès, les objections préservées et le droit applicable.

La cour a plutôt indiqué que le mémoire déposé contenait de faux témoignages de policiers et des déclarations attribuées à des personnes qui ne les avaient pas fournies. Il incluait également des descriptions inexactes des autorités juridiques.

La distinction entre preuve et argument est essentielle. Un précédent fabriqué peut déformer la règle de droit applicable à une affaire. Un témoignage fabriqué peut réécrire ce que les jurés ont entendu, les témoins qui existaient et les raisons pour lesquelles un verdict devrait être annulé.

Un faux résumé factuel peut ensuite contaminer chaque argument construit sur cette base. Une demande fondée sur l’inefficacité de l’avocat, par exemple, dépend de ce que l’avocat a fait et de ce que contenait réellement le dossier. Un témoin inventé peut créer une défaillance qui n’a jamais eu lieu.

La réponse de la cour a donc visé le document, l’avocat et la représentation. L’annulation des mémoires a supprimé ce travail contaminé. La désignation d’un nouvel avocat a offert à l’accusé une voie claire pour poursuivre. Le renvoi disciplinaire a déplacé les questions professionnelles au-delà de l’appel.

Cette structure explique pourquoi les sanctions contre Stephen Aarons liées à ChatGPT méritent l’attention au-delà du Nouveau-Mexique. La cour n’a pas annoncé que les avocats devaient éviter l’IA générative. Elle a appliqué la règle plus ancienne selon laquelle un avocat reste responsable de chaque affirmation déposée.

L’épisode met aussi à l’épreuve une défense familière face aux erreurs de l’IA. Aarons a qualifié l’incident d’erreur honnête et a déclaré ne pas avoir compris à quel point ChatGPT pouvait inventer des faits. La cour s’est plutôt concentrée sur le document non vérifié portant sa signature.

Un mémoire signé n’est pas une note de réflexion. C’est une déclaration formelle aux juges, à la partie adverse et à un client. Dès lors qu’un texte généré entre dans ce document, son origine ne réduit pas la responsabilité de l’avocat.

Un résumé d’IA est devenu une fausse version du procès

L’échec central s’est produit lorsque du texte généré a été traité comme un dossier fidèle sans vérification ligne par ligne.

Lors d’une audience le 21 août, Aarons a expliqué avoir fourni à ChatGPT une transcription générée par ordinateur et d’autres éléments du dossier. Il attendait du système qu’il produise ce qu’il a appelé un « résumé inattaquable ».

Cette attente inversait la charge de la preuve appropriée. Un modèle génératif produit un texte plausible à partir de modèles et de contexte. Il ne certifie pas que chaque phrase figure dans une transcription téléversée.

Une hallucination d’IA est une sortie assurée qui n’est étayée ni par les preuves pertinentes ni par la source. Le terme peut sembler inoffensif, mais ses conséquences dépendent de l’endroit où le résultat est utilisé. Un mauvais résumé dans des notes privées crée de la confusion. Le même résumé dans un mémoire d’appel devient une déclaration adressée à une cour.

Le mémoire aurait attribué des déclarations à Danny Stanton et Linda Stanton que la cour a jugées fausses. Il faisait aussi référence à Mariah Chavez et Teresa Marquez dans des descriptions concernant les vêtements et l’apparence du tireur. La cour a identifié Marquez comme un témoin fabriqué.

Un passage aurait apparemment indiqué que le tireur portait un pantalon sombre et une chemise blanche. La déclaration ressemblait à un détail factuel ordinaire, ce qui facilitait son intégration au récit global. Pourtant, la cour n’a relevé aucun fondement valable dans le dossier.

Le problème est plus difficile que la détection d’une réponse manifestement absurde. La prose juridique générée emploie souvent le ton adéquat, le vocabulaire attendu et une structure argumentative familière. Ces qualités donnent aux détails non étayés une apparence établie.

Un avocat qui lit rapidement peut reconnaître l’histoire générale et manquer les éléments de liaison inventés. Les noms, descriptions de vêtements, menaces et observations de témoins peuvent paraître cohérents avec les éléments environnants. La fluidité masque l’absence de provenance.

Le processus a également brouillé deux documents distincts. Une transcription consigne les témoignages et les événements de l’audience. Un résumé généré par un modèle est un nouveau texte créé à partir de cette source. Il doit être traité comme une interprétation jusqu’à ce que chaque affirmation importante soit retracée.

Le téléversement de documents source n’élimine pas les hallucinations. Les longs dossiers peuvent dépasser la capacité d’attention effective d’un système, contenir des erreurs de transcription ou inviter à une synthèse non étayée. Un modèle peut aussi combiner des détails voisins dans une déclaration qu’aucun témoin n’a faite.

Ce risque augmente lorsque les instructions demandent un récit définitif. Des termes comme « complet », « inattaquable » ou « exhaustif » peuvent récompenser l’apparente exhaustivité plutôt que l’incertitude explicite. Le résultat peut combler les lacunes au lieu de les signaler.

Un processus juridique fiable exige une provenance au niveau de chaque affirmation. Chaque phrase factuelle doit renvoyer à une page de transcription, une pièce, une entrée au registre, ou une constatation judiciaire. Chaque citation doit correspondre exactement à la source. Chaque affaire citée doit exister et étayer la proposition énoncée.

Ce processus ne peut pas se terminer en demandant au même chatbot si son résumé est exact. Un générateur peut défendre sa propre sortie non étayée avec d’autres explications inventées. La vérification exige de revenir à des documents source indépendants.

La leçon s’applique au-delà du droit. Les chercheurs, analystes, consultants et dirigeants utilisent de plus en plus l’IA pour condenser de longs dossiers. Le danger augmente lorsqu’un résumé devient la seule version consultée ultérieurement par les examinateurs.

Les équipes doivent conserver les preuves originales à côté de la synthèse générée. Un processus structuré de knowledge blending peut aider à relier les notes aux documents source. Cependant, la récupération d’informations ne prouve pas à elle seule que chaque affirmation générée est correcte.

La protection décisive reste l’examen humain par rapport aux dossiers faisant autorité. L’IA peut aider à repérer des passages, organiser des questions et rédiger des notes de travail. Elle ne devrait pas transformer une inférence non vérifiée en affirmation factuelle.

La signature de l’avocat, et non ChatGPT, portait cette obligation

Le conflit principal oppose la rédaction déléguée à une responsabilité professionnelle non délégable.

Aarons a déclaré à Reuters qu’il exerçait en défense pénale depuis plus de 40 ans. Il a dit ne pas connaître l’ampleur des hallucinations d’IA lorsqu’il a accepté l’appel de Sandoval en 2025.

« Je regrette profondément, mais j’espère que la commission disciplinaire tiendra compte du fait qu’il s’agissait d’une erreur honnête », a-t-il déclaré. Il a présenté l’épisode comme une leçon pour les professionnels utilisant une technologie instable.

La cour a porté une appréciation plus sévère. Son ordonnance indiquait qu’Aarons avait admis ne pas avoir vérifié les affirmations factuelles ou les autorités juridiques avant de signer et de déposer le mémoire. Elle indiquait également qu’il n’avait pas informé son client de ces lacunes.

Les juges ont estimé qu’il avait fait preuve d’un remords et d’une préoccupation insuffisants pour Sandoval. La juge C. Shannon Bacon a contesté l’affirmation selon laquelle un avocat pouvait rester ignorant des défaillances de l’IA largement relayées. Ses questions ont souligné que les contenus juridiques hallucinés étaient déjà devenus un problème public récurrent.

Cette tension n’exige pas de considérer ChatGPT comme irréprochable. Le système a produit un langage qui, selon Aarons et la cour, incluait des éléments non étayés. OpenAI n’a pas fourni à Reuters de réponse immédiate aux sanctions.

Cependant, un chatbot ne peut pas se constituer avocat, signer un mémoire, conseiller un client ou répondre à une ordonnance pour outrage. Ces obligations relèvent d’un avocat habilité. Le système juridique attribue la responsabilité à la personne autorisée à agir.

L’American Bar Association était parvenue à la même conclusion fondamentale avant cette affaire. Son avis éthique sur l’IA indique que les avocats doivent comprendre les avantages et les risques d’un outil génératif.

L’Avis formel 512 relie l’utilisation de l’IA aux obligations existantes en matière de compétence, de confidentialité, de communication avec le client, de supervision, de franchise, de demandes fondées et d’honoraires raisonnables. Il ne crée aucune exception liée à l’IA à ces obligations.

Les orientations décrivent également les systèmes de texte génératif comme des outils de prédiction. Ils produisent des résultats statistiquement probables à partir de modèles présents dans les données. Cette conception diffère d’une base de données qui renvoie un document judiciaire authentifié.

Un avocat peut déléguer la recherche ou la rédaction à des collaborateurs, des assistants juridiques, des prestataires et des logiciels. La délégation modifie la personne qui effectue le premier examen. Elle ne modifie pas la personne qui doit superviser le travail ou vérifier le document déposé.

Cette affaire montre pourquoi la seule divulgation ne résoudrait pas le problème. Une mention indiquant « assisté par IA » pourrait alerter la cour, mais elle ne rendrait pas exact un témoignage fabriqué. Les juges ne peuvent pas devenir des vérificateurs de faits pour chaque document produit avec un logiciel.

Les interdictions d’outils présentent des limites similaires. Un avocat peut introduire de fausses informations par mauvaise mémoire, dictée négligente, personnel insuffisamment formé ou simples erreurs de copier-coller. Les cours s’intéressent à l’exactitude du document signé, quelle que soit sa méthode de production.

La meilleure ligne de démarcation concerne la vérification. L’assistance par IA peut rester utile lorsque chaque affirmation importante est contrôlée au regard du dossier. Elle devient dangereuse lorsque la fluidité du texte se substitue à ce contrôle.

La communication avec le client ajoute une dimension supplémentaire. Un appelant condamné au pénal devrait comprendre lorsqu’un mémoire défaillant met son recours en péril. Selon le tribunal, Aarons n’a pas informé Sandoval des fausses déclarations factuelles et juridiques contenues dans le mémoire.

Cette omission importe, car le client en subit les conséquences concrètes. L’avocat s’expose à des sanctions et à des mesures disciplinaires, mais l’appelant endure les retards, l’incertitude et la rupture de sa relation avec son conseil.

La responsabilité professionnelle doit donc couvrir l’ensemble du processus. Elle commence par le choix d’un outil adapté et la protection des informations confidentielles. Elle se poursuit par la validation des sources, l’examen au fond, la communication avec le client et la certification finale.

Les faux témoins de ChatGPT franchissent une ligne plus dangereuse

Des témoignages inventés font passer les hallucinations de l’IA de la recherche défaillante à la contamination du dossier de preuve.

L’une des premières affaires de sanctions les plus connues concernait Mata v. Avianca. Des avocats avaient produit, dans un litige fédéral relatif à un préjudice corporel, des décisions judiciaires inexistantes générées via ChatGPT. Un juge a infligé une sanction de 5 000 dollars en 2023.

Cette affaire a établi un avertissement durable. Un chatbot peut inventer des noms d’affaires, des citations, des numéros de dossier et des raisonnements juridiques. Les tribunaux attendent des avocats qu’ils confirment ces autorités au moyen de systèmes de recherche reconnus.

L’épisode du Nouveau-Mexique élargit le problème. Le mémoire d’Aarons aurait inclus des témoins fabriqués et de fausses descriptions de témoignages. Ces erreurs ne déformaient pas seulement la décision rendue par un autre tribunal. Elles créaient des faits au sein même de l’affaire de son client.

Les juridictions d’appel examinent généralement un dossier existant. Elles ne conduisent pas un nouveau procès et n’acceptent pas les ajouts factuels d’un avocat comme éléments de preuve. Les mémoires doivent ancrer leur récit dans les transcriptions, les pièces, les décisions et les objections régulièrement préservées.

Un détail factuel inventé peut influencer la manière dont les juges apprécient le préjudice. Il peut faire paraître une preuve écartée plus importante, renforcer un argument relatif à une identification ou modifier la valeur apparente d’un contre-interrogatoire. Ces effets peuvent perdurer même après correction.

Le problème impose aussi une charge à la partie adverse. Les procureurs doivent comparer le mémoire au dossier et relever les divergences. Les juges et les greffiers doivent déterminer si une déclaration inhabituelle reflète un véritable passage de transcription ou une fiction générée.

Ce coût de vérification se diffuse dans tout le système. Un avocat peut gagner du temps de rédaction tout en transférant le travail de contrôle au tribunal, à la partie adverse, à l’avocat remplaçant et au client. Les sanctions cherchent à faire retomber ce coût sur le professionnel responsable.

Un appel pour meurtre en Géorgie en 2026 a montré une autre voie de contamination. Dans Payne v. State, des citations fictives ou attribuées à tort sont apparues dans un acte de procédure du ministère public et dans une ordonnance proposée, signée par le tribunal de première instance.

La décision Payne a annulé l’ordonnance du tribunal de première instance et renvoyé l’affaire afin qu’une nouvelle ordonnance soit rendue. Cet épisode a montré comment des erreurs générées peuvent migrer du projet d’un avocat vers un document judiciaire.

Ce risque de migration rend la traçabilité essentielle. Les documents juridiques sont fréquemment réutilisés entre requêtes, projets d’ordonnance, notes internes et mémoires d’appel. Une fois qu’un passage non étayé entre dans la chaîne, les auteurs ultérieurs peuvent supposer que quelqu’un l’a déjà vérifié.

Le mémoire du Nouveau-Mexique semble avoir suivi un raccourci de confiance similaire. Aarons a utilisé ChatGPT pour créer une représentation condensée de la procédure. Il s’est ensuite appuyé sur cette représentation sans revenir pleinement à la transcription.

Le document qui en a résulté avait l’apparence d’un mémoire d’appel. Il identifiait des témoins, décrivait des témoignages, invoquait des précédents et reliait les faits à des arguments juridiques. Cette forme donnait l’impression que le contenu avait été examiné de manière professionnelle.

C’est pourquoi l’expression « humain dans la boucle » offre à elle seule peu de garanties. Une personne peut survoler un projet, corriger la grammaire et pourtant ne pas repérer une fabrication factuelle. L’expression n’a de sens que si le relecteur dispose du temps, de l’expertise et d’un accès direct aux sources.

Un examen efficace exige également des frontières visibles entre le texte source et le texte généré. Les passages cités de transcriptions devraient conserver leurs références de page. Les synthèses devraient indiquer les plages qui les étayent. Les commentaires non étayés du modèle devraient rester en dehors de l’exposé des faits.

Dans les dossiers à forts enjeux, un second relecteur devrait vérifier le document de manière indépendante. Ce relecteur devrait échantillonner les sources en fonction du risque, puis élargir le contrôle dès qu’une divergence apparaît. Des noms fabriqués devraient déclencher l’examen de chaque affirmation factuelle.

Le même principe s’applique aux autorités juridiques. Les relecteurs doivent ouvrir chaque décision citée et confirmer la formulation citée, la solution retenue, la compétence et la pertinence. Une affaire réelle citée à l’appui d’une proposition erronée demeure une erreur grave.

Les sanctions liées à ChatGPT dans l’affaire Stephen Aarons montrent que les tribunaux dépassent désormais la curiosité quant à l’outil ayant produit une erreur. La question opérationnelle est de savoir si l’avocat a mis en place des contrôles suffisamment solides pour empêcher qu’une fiction générée ne devienne un fait déposé auprès du tribunal.

Les sanctions ne prouvent pas que l’IA n’a pas sa place dans le travail juridique

La critique la plus solide vise la confiance non contrôlée, et non chaque usage de l’IA générative par les avocats.

Il serait facile de considérer cette affaire comme la preuve que les professionnels du droit ne devraient jamais utiliser ChatGPT. Cette conclusion dépasse les constatations du tribunal et ignore l’éventail des tâches regroupées sous l’expression « utilisation de l’IA ».

Un modèle peut aider à établir des listes de questions, à réorganiser des notes rédigées par un avocat, à comparer des structures de documents ou à suggérer des termes de recherche. Ces usages exigent toujours du discernement, mais ils ne comportent pas tous le même risque que la synthèse de la transcription d’un procès pour meurtre.

Le risque dépend de l’objectif et de la destination du résultat. Un plan privé est provisoire. Une lettre au client exige une relecture attentive. Un exposé factuel dans un appel pénal requiert une vérification au regard du dossier officiel.

Les outils diffèrent également. Un chatbot généraliste produit du texte ouvert, tandis que certains systèmes juridiques interrogent des bases de données délimitées et affichent les autorités à l’appui. Même les systèmes comportant des citations peuvent mal citer, mal interpréter ou sélectionner des éléments non pertinents.

Le tribunal du Nouveau-Mexique n’a pas mené une évaluation scientifique de la fiabilité de ChatGPT. Il a examiné la conduite d’un avocat et un mémoire défaillant. Les lecteurs ne devraient pas transformer cette conclusion en un taux d’erreur universel.

L’affaire ne prouve pas non plus que l’IA a causé chaque défaut de manière indépendante. Aarons a sélectionné les documents, formulé les requêtes au système, utilisé sa production et signé le résultat. Les informations publiques ne fournissent pas l’historique complet des requêtes ni tous les projets intermédiaires.

Cette incertitude importe. Sans l’intégralité des interactions, les observateurs ne peuvent reconstituer quelles affirmations le modèle a générées, quels passages Aarons a modifiés ni si des défauts de transcription ont contribué au problème. L’ordonnance du tribunal établit une responsabilité, non une autopsie technique complète.

Ces lacunes n’excusent toutefois pas les inexactitudes déposées. Elles précisent les questions de produit et de processus qui demeurent ouvertes. Une meilleure journalisation pourrait aider les cabinets à déterminer comment une affirmation non étayée est entrée dans un document.

Les fournisseurs d’IA juridique peuvent réduire le risque en associant des références sources à chaque phrase factuelle. Ils peuvent avertir lorsqu’une réponse ne contient pas de preuve, séparer les citations des synthèses et bloquer les exportations comportant des citations non résolues.

Ces contrôles seraient utiles, mais ils ne peuvent remplacer l’examen au fond. Un lien source peut renvoyer vers un document réel qui ne soutient pas l’affirmation générée. L’automatisation peut faciliter la vérification sans la rendre facultative.

Les cabinets d’avocats ont aussi besoin de politiques fondées sur la sensibilité des tâches. Résumer des informations générales publiques n’entraîne pas les mêmes conséquences qu’interpréter des éléments de preuve protégés par le secret professionnel. Rédiger une liste de contrôle de routine diffère de la description de témoignages contestés.

Une politique pratique devrait identifier les données interdites, les systèmes approuvés, les règles de conservation, les normes de relecture et les points d’escalade. Elle devrait préciser qui vérifie les citations et qui confirme les affirmations factuelles au regard du dossier.

La formation doit aller au-delà de l’apprentissage de la rédaction de prompts. Les utilisateurs doivent comprendre les erreurs formulées avec assurance, les limites de contexte, la récupération incomplète, l’exposition des données et le biais d’automatisation. Le biais d’automatisation survient lorsque les personnes accordent une confiance excessive à un résultat parce qu’un système l’a produit.

La pression du temps mérite également de l’attention. L’IA promet une rédaction plus rapide, mais la vérification peut effacer une partie de ce gain. Les cabinets doivent prévoir honnêtement du temps de relecture au lieu de supposer que le premier projet fluide est presque achevé.

Les superviseurs devraient aussi éviter de mesurer la réussite uniquement par la vitesse. Cette incitation encourage les équipes à dissimuler l’incertitude et à ignorer les contrôles de source. Le travail d’IA à haut risque exige des indicateurs d’exactitude liés aux éléments de preuve.

La conclusion sceptique est donc plus restreinte et plus forte. L’IA générative peut assister le travail juridique, mais seulement lorsque les cabinets traitent sa production comme un projet non vérifié. La personne qui dépose le document doit encore se prouver à elle-même chaque affirmation importante.

Ce que les tribunaux et les équipes juridiques devraient surveiller ensuite

Le prochain test consistera à déterminer si les sanctions entraînent des changements vérifiables dans les processus de travail de la pratique juridique.

Le premier signal viendra de la procédure disciplinaire impliquant Aarons. L’instance disciplinaire du Nouveau-Mexique peut examiner la compétence, la franchise, la communication avec le client et les circonstances entourant le dépôt du mémoire.

Une décision disciplinaire publique préciserait si le tribunal considère l’incident comme une négligence isolée ou comme une faute professionnelle plus large. Une sanction plus sévère renforcerait l’ordonnance d’outrage direct. Une mesure limitée mettrait l’accent sur la réparation et l’intention.

La procédure pourrait également révéler des informations absentes des articles de presse. Les enquêteurs peuvent examiner le processus de rédaction, les communications avec Sandoval, le traitement de la transcription et le moment où Aarons a découvert le problème. Ces faits définiront la valeur de l’affaire comme précédent.

Le deuxième signal sera l’appel repris par Sandoval avec un nouvel avocat. Le nouveau conseil devra reconstruire les arguments à partir du dossier réel après que les mémoires antérieurs ont été écartés. Ce processus montrera l’ampleur du préjudice matériel causé par le contenu fabriqué.

Si le mémoire corrigé soulève des arguments juridiques similaires à l’aide de preuves authentiques, l’épisode apparaîtra comme une grave défaillance de processus, avec un appel récupérable. Si les arguments changent sensiblement, le résumé par IA aura probablement déformé la théorie de l’affaire.

Le traitement final de Sandoval par le tribunal est tout aussi important. Sanctionner le conseil protège l’intégrité institutionnelle, mais le système doit éviter de punir le client pour le mémoire défaillant de son avocat. Une nouvelle représentation répond à ce risque sans résoudre tous les retards.

Le troisième signal sera l’adoption de contrôles de rédaction liés aux preuves. Les tribunaux peuvent exiger des certifications, tandis que les cabinets peuvent imposer des citations de transcription pour chaque affirmation factuelle. Les fournisseurs peuvent afficher la source derrière chaque passage généré.

Les contrôles les plus utiles seront auditables. Une case à cocher indiquant qu’une personne a relu le projet offre une protection limitée. Une cartographie des affirmations reliant chaque assertion à une page de transcription apporte la preuve d’une véritable vérification.

Les tribunaux devront aussi décider si les règles professionnelles existantes offrent suffisamment de moyens d’action. Le cadre de l’ABA couvre déjà la compétence, la franchise, la supervision et la confidentialité. L’ordonnance du Nouveau-Mexique suggère que les juges peuvent agir sans créer d’obligations spécifiques à l’IA.

De nouvelles règles conservent néanmoins une valeur potentielle lorsqu’elles définissent des procédures. Elles peuvent exiger la divulgation de certains usages, la conservation des projets générés ou la certification personnelle des citations et références. Toutefois, la divulgation devrait soutenir la vérification plutôt que la remplacer.

Le secteur dans son ensemble devrait surveiller la répétition de fabrications factuelles dans les affaires pénales. Les précédents fictifs sont désormais connus. Les témoignages inventés constituent un défi plus direct pour l’intégrité des dossiers d’appel.

Pour les travailleurs du savoir, l’action immédiate est simple mais exigeante. Identifiez chaque affirmation factuelle générée, rouvrez la source de référence et consignez où se trouve l’élément étayant cette affirmation. Signalez toute divergence avant que le texte ne parvienne à un client, un régulateur, un dirigeant ou un tribunal.

Les sanctions infligées à Stephen Aarons concernant ChatGPT ne constituent pas un avertissement sur une prose imparfaite. Elles montrent ce qui se produit lorsqu’un résumé généré par l’IA devient un substitut non documenté aux preuves.

Posez-vous une question avant de vous fier à tout compte rendu généré : un autre examinateur peut-il relier chaque phrase ayant des conséquences importantes à une source faisant autorité ? Si la réponse est non, le brouillon n’est pas terminé. Constituez dès maintenant la piste de vérification, préservez les documents originaux et accordez aux examinateurs suffisamment de temps pour contester un langage fluide. La prochaine défaillance grave liée à l’IA paraîtra probablement plausible avant de sembler fausse.