Stephen Aarons’ ChatGPT-Schriftsatz erfand Zeugen, und das Gericht verhängte eine Geldstrafe von 5.000 US-Dollar
Stephen Aarons reichte eine mit ChatGPT erstellte Berufung in einem Mordfall ein, die erfundene Zeugen enthielt. Der Oberste Gerichtshof von New Mexico reagierte mit einer Missachtungsentscheidung und einer Sanktion von 5.000 US-Dollar. Das Gericht schloss Aarons zudem vom Berufungsverfahren aus, verwies ihn zur disziplinarrechtlichen Prüfung und strich jeden in dem Fall eingereichten Schriftsatz.
Der ChatGPT-Schriftsatz von Stephen Aarons steht für mehr als einen weiteren peinlichen Fehler bei Quellenangaben. Nach Angaben des Gerichts schrieb der Schriftsatz Personen Aussagen zu, die nie im Prozess aufgetreten waren. Er veränderte außerdem Aussagen realer Zeugen und stellte bestehende Rechtsquellen falsch dar.
Dieser Unterschied verschärft die Lage. Frühere Fehler juristischer KI betrafen oft nicht existierende Fälle, die Anwälte durch routinemäßige Überprüfung der Zitate hätten finden können. Dieser Schriftsatz soll den tatsächlichen Sachverhalt verändert haben, auf dem eine Mordverurteilung beruhte, während der Mandant eine lebenslange Freiheitsstrafe verbüßte.
Der Fall stellt nun einen klaren Konflikt in den Mittelpunkt der Einführung juristischer KI: automatisierte Entwurfsgeschwindigkeit gegen die persönliche Pflicht eines Anwalts, die Aktenlage zu überprüfen. Gerichte behandeln Softwareausgaben nicht als eigenständige Beteiligte. Sie machen den Anwalt verantwortlich, der den Schriftsatz unterzeichnet.
Das Gericht fand erfundene Zeugen in einer Mordberufung
Der Sanktion lagen eingeräumte faktische Erfindungen zugrunde, nicht unterschiedliche Auffassungen darüber, wie ein Anwalt die Beweise auslegte.
Der Oberste Gerichtshof von New Mexico erließ seine abschließende Verfügung am 9. September 2026 in State v. Sandoval. Der Fall betrifft die Berufung von Oscar Renee Sandoval gegen eine Mordverurteilung und trägt das Aktenzeichen S-1-SC-40845.
Aarons räumte ein, bei der Erstellung des einleitenden Berufungsschriftsatzes ChatGPT verwendet zu haben. Er gab außerdem zu, dessen Tatsachenbehauptungen oder Rechtsquellen vor der Unterzeichnung und Einreichung nicht überprüft zu haben.
Das Gericht identifizierte vier vollständig erfundene Zeugen: Officer Michelle Amarillo, Officer Sanchez, Manal Al-Jibury und Teresa Marquez. Dabei handelte es sich nicht um geringfügige Schreibfehler oder unsichere Identifizierungen. Laut Verfügung waren die Zeugen selbst erfunden.
Der Schriftsatz schrieb auch tatsächlichen Zeugen erfundene Aussagen zu. Er behauptete, Danny Stanton habe Drohungen von Sandoval erhalten und diese ernst genommen. Außerdem enthielt er falsche Angaben zu Drohungen, die der Ehemann von Linda Stanton erhalten haben soll.
Andere Passagen stellten Aussagen über Kleidung und Erscheinung des Schützen offenbar falsch dar. Die Verfügung brachte diese Angaben mit Mariah Chavez und der erfundenen Teresa Marquez in Verbindung.
Die Fehler erstreckten sich auch auf die Rechtsrecherche. Das Gericht erklärte, der Schriftsatz habe die Rechtsprechung aus State v. Lopez und State v. Manus falsch dargestellt. Diese Fälle existieren, was das Problem von der bloßen Zitierung einer imaginären Entscheidung unterscheidet.
Ein erfundener Fall lässt sich manchmal durch die Suche nach einem Zitat aufdecken. Eine verzerrte tatsächliche Entscheidung verlangt einen genaueren Vergleich zwischen der Behauptung und der Quelle. Veränderte Zeugenaussagen erfordern einen weiteren Abgleich mit Protokollen und Beweisstücken.
Die Missachtungsverfügung dokumentiert Aarons’ Eingeständnis, keine dieser Überprüfungen vorgenommen zu haben. Sie besagt außerdem, dass er seinen Mandanten nicht über die tatsächlichen und rechtlichen Falschdarstellungen im Schriftsatz informierte.
Das Gericht hatte Aarons angewiesen, am 21. August zu erscheinen und zu erläutern, warum gegen ihn keine Missachtungsentscheidung und disziplinarrechtliche Verweisung ergehen sollte. Er reichte eine schriftliche Stellungnahme ein und trug vor allen fünf Richtern mündlich vor.
Nach dieser Anhörung kamen die Richter zu dem Schluss, dass Aarons mangelnde Reue und Sorge für seinen Mandanten gezeigt habe. Die endgültige Verfügung stellte eine unmittelbare Missachtung fest und verwies die Angelegenheit an das Disciplinary Board von New Mexico.
Aarons muss innerhalb von 30 Tagen 5.000 US-Dollar an den Client Protection Fund der State Bar of New Mexico zahlen. Nach der Zahlung muss er zudem das Gericht benachrichtigen.
Die praktischen Folgen gehen über die Geldstrafe hinaus. Aarons darf nicht vor dem Obersten Gerichtshof des Bundesstaates auftreten, solange das Disziplinarverfahren anhängig ist. Das Gericht behielt sich vor, nach Abschluss dieses Verfahrens weitere Entscheidungen zu treffen.
Es bestellte das Law Office of the Public Defender als neue Vertretung für Sandoval. Alle bestehenden Schriftsätze wurden gestrichen; ein neuer Zeitplan für die Schriftsätze folgt.
Das Gericht beabsichtigt, die neu aufgerollte Berufung in seiner Amtsperiode 2026–2027 zu verhandeln. Der Mandant steht daher vor einer weiteren Schriftsatzrunde, weil sein bisheriger Anwalt ungeprüfte KI-Ausgaben eingereicht hatte.
Dieser prozessuale Neustart schafft die zentrale Spannung des Artikels. ChatGPT versprach eine schnellere Prüfung umfangreicher Akten, doch ungeprüfte Ausgaben erhöhten den Arbeitsaufwand für alle Beteiligten.
Der ChatGPT-Schriftsatz von Stephen Aarons brachte den Mandanten in Gefahr
Eine halluzinierte Antwort erhält eine grundlegend andere Bedeutung, wenn sie mit der Unterschrift eines Anwalts Teil einer Gerichtsakte wird.
Generative KI erzeugt Text, indem sie plausible Wortfolgen vorhersagt. Sie garantiert nicht eigenständig, dass eine Aussage mit einem Prozessprotokoll, einer zitierten Entscheidung oder der Beweislage übereinstimmt.
Diese Einschränkung wird weithin als Halluzination bezeichnet. In diesem Kontext ist eine KI-Halluzination eine selbstsichere Aussage, die in den verfügbaren Rechtsquellen nicht belegt ist.
Der Begriff kann harmlos wirken, weil er ursprünglich als technische Kurzform entstand. In einer Strafberufung kann das Ergebnis jedoch fälschlich beschreiben, wer ausgesagt hat und was diese Personen einer Jury mitgeteilt haben.
Eine Mordberufung beruht auf einer abgeschlossenen Aktenlage. Berufungsrichter prüfen, was vor dem erstinstanzlichen Gericht geschehen ist, statt einen neuen Prozess zu führen oder Ersatzzeugen anzuhören.
Ein Anwalt kann Beweisentscheidungen, Anweisungen an die Jury, verfassungsrechtliche Fragen oder die ausreichende Beweislage anfechten. Dieser Anwalt darf die Akte jedoch nicht um zusätzliche Personen ergänzen oder Aussagen umschreiben, um ein Argument zu stärken.
Der ChatGPT-Schriftsatz von Stephen Aarons soll diese Grenze wiederholt überschritten haben. Seine Fehler betrafen die Grundlagen, anhand derer Berufungsrichter rechtliche Ansprüche bewerten.
Die Folgen für den Mandanten sind wichtiger als das Aufsehen um den Chatbot. Durch die Missachtungsverfügung erhielt Sandoval keine nachteilige Entscheidung in seiner Berufung. Dennoch verzögerte und erschwerte der Schriftsatz seinen Weg zur Überprüfung.
Das Gericht erklärte, Aarons habe Sandoval nicht über die Ungenauigkeiten informiert. Es stellte außerdem fest, dass er seinen Mandanten weder über das Verfahren zur Rechtfertigung noch über die damit verbundenen Schriftsätze in Kenntnis gesetzt habe.
Diese Unterlassungen nahmen dem Mandanten Informationen über eine schwerwiegende Störung seiner Vertretung. Sie zwangen das Gericht außerdem dazu, nach der Entdeckung des Problems eine Ersatzvertretung zu organisieren.
Die Pflichtverteidigung muss nun die Prozessakte prüfen, tragfähige Punkte bewerten und neue Schriftsätze vorbereiten. Staatsanwälte und Gerichtsmitarbeiter müssen eine Berufung erneut bearbeiten, deren Bearbeitung bereits begonnen hatte.
So kann ein scheinbares Effizienzinstrument Arbeit verlagern, statt sie zu beseitigen. Ein Nutzer spart zunächst Zeit, während mehrere andere Beteiligte die Kosten für das Erkennen und Korrigieren unbelegter Ausgaben tragen.
Laut Reuters-Berichterstattung scheint der Schriftsatz über frühere Vorfälle hinauszugehen, die sich auf fiktive Präzedenzfälle konzentrierten. Er fügte einer Strafberufung erfundene Aussagen hinzu.
Diese Eskalation erklärt die Härte der Reaktion des Gerichts. Ein falscher Präzedenzfall kann einen Richter über die Rechtslage täuschen. Ein falscher Zeuge kann den Richter darüber täuschen, was im Fall selbst geschehen ist.
Beide Fehler verletzen die Erwartung, dass ein Rechtsbeistand einen Schriftsatz überprüft. Tatsächliche Erfindungen können jedoch schwerer zu entdecken sein, weil Prozessakten lang, fallspezifisch und oft nicht über gewöhnliche Websuchen verfügbar sind.
Die gegnerische Partei könnte ein falsches Zitat aus einer veröffentlichten Entscheidung schnell entdecken. Die Erkennung erfundener Aussagen kann die Durchsuchung Tausender Protokollseiten und den Vergleich mehrerer Zeugenaussagen erfordern.
Diese Belastung macht Nachvollziehbarkeit unverzichtbar. Ein Entwurfssystem sollte die Quelle hinter jeder Tatsachenbehauptung bewahren und zeigen, wo sich die stützende Formulierung findet.
Selbst dann können Quellenlinks kein juristisches Urteil ersetzen. Ein menschlicher Prüfer muss bestätigen, dass die zitierte Passage vom richtigen Zeugen stammt und die umgebende Behauptung stützt.
Dieselbe Sorgfalt gilt außerhalb des Rechts. Teams, die KI zur Zusammenfassung technischer Dokumente einsetzen, benötigen eine durchsuchbare Wissensdatenbank, die Schlussfolgerungen mit den Originalmaterialien verknüpft hält.
Gerichtliche Einreichungen machen die Pflicht besonders sichtbar, weil Richter Sanktionen verhängen können. Die zugrunde liegende Lehre gilt ebenso für Compliance-Berichte, medizinische Zusammenfassungen, Prüfungen und andere beweissensible Arbeiten.
Schnelleres Entwerfen traf auf persönliche Verantwortung
Das Gericht behandelte ChatGPT als ein Werkzeug unter Aufsicht, während die Verantwortung vollständig bei dem Anwalt blieb, der dessen Ausgabe einreichte.
Aarons nutzte Berichten zufolge ChatGPT, um Prozessprotokolle zusammenzufassen und den Berufungsschriftsatz vorzubereiten. Dieser Anwendungsfall wirkt attraktiv, weil Strafakten umfangreiche Aussagen, Beweisstücke, Anträge und Verfahrensabläufe enthalten können.
Zusammenfassungen können einem Anwalt helfen, Themen zu erkennen und Notizen zu ordnen. Sie können Sprache aber auch so stark verdichten, dass Einschränkungen, Widersprüche und Sprecheridentitäten verschwinden.
Ein allgemeiner Chatbot bringt eine weitere Gefahr mit sich. Kann er eine angeforderte Tatsache nicht abrufen, kann er einen plausiblen Ersatz erzeugen, statt die Lücke klar zu benennen.
Die Gefahr steigt, wenn die Ausgabe den Konventionen juristischen Schreibens entspricht. Erfundenen Namen, Zitate und Quellenangaben können in ausgefeilter Prosa erscheinen, die einreichungsbereit wirkt.
Professionelle Formatierung ist kein Beweis für faktische Zuverlässigkeit. Flüssigkeit beschreibt nur, wie natürlich die Ausgabe klingt, nicht ob jede Behauptung durch die Akte gestützt wird.
Aarons’ Erklärung, die vor Erscheinen der schriftlichen Verfügung berichtet wurde, konzentrierte sich auf übermäßiges Vertrauen. Er sagte, er habe nicht erwartet, dass das Werkzeug fiktive Zeugen, Aussagen, Zitate und Rechtsquellen in kohärenter Form erzeugen würde.
Diese Erklärung legt den genauen Fehlermodus offen. Ein Nutzer, der eine extraktive Zusammenfassung erwartet, erkennt möglicherweise nicht, dass ein generatives Modell Material erzeugen kann, das in der Quelle nicht vorhanden ist.
Die beruflichen Regeln übertragen die Überprüfungspflicht jedoch dem Rechtsbeistand. Das Modell hat weder Zulassung noch Mandatsverhältnis, Wahrheitspflicht oder das Risiko berufsrechtlicher Disziplinarmaßnahmen.
Die American Bar Association behandelte diese Aufteilung in Formal Opinion 512. Ihre KI-Ethikleitlinien besagen, dass bestehende Pflichten für Anwälte gelten, die generative Systeme nutzen.
Diese Pflichten umfassen Kompetenz, Vertraulichkeit, Kommunikation, Aufsicht, Offenheit gegenüber dem Gericht und angemessene Abrechnung. Anwälte müssen die Fähigkeiten und Grenzen eines Werkzeugs ausreichend verstehen, um es verantwortungsvoll einzusetzen.
Die State Bar of New Mexico hatte vor dieser Einreichung ebenfalls konkrete Leitlinien herausgegeben. Ihre Ethikstellungnahme erlaubt Anwälten den Einsatz generativer KI, jedoch nur unter Einhaltung bestehender Berufspflichten.
Die Stellungnahme hebt Offenheit gegenüber Gerichten und Wahrhaftigkeit hervor. Sie behandelt außerdem Vertraulichkeit, Interessenkonflikte, Aufsicht sowie den Umgang mit Gebühren und Kosten.
Das Problem war daher nicht das Fehlen einer landesweiten Regel, die ChatGPT namentlich verboten hätte. Die bestehenden Pflichten verlangten bereits zutreffende Tatsachenbehauptungen und ehrliche Rechtsquellen.
Das Gericht stützte seine Anordnung auf diese vertrauten Pflichten. Es verwies auf Regeln für Schriftsätze, die Sanktionen einschließlich Missachtung des Gerichts zulassen, wenn Anwälte Vorgaben nicht einhalten.
Es berief sich außerdem auf die Befugnis der Justiz, Verfahren zu regeln und Anwälte zu disziplinieren. Der erklärte Zweck umfasst den Schutz der Öffentlichkeit, des Ansehens des Berufsstands und der geordneten Rechtspflege.
Dieser Ansatz verhindert, dass Gerichte von einem bestimmten Modell oder einer Softwareversion abhängig werden. Ein Anwalt bleibt verantwortlich, unabhängig davon, ob ein Fehler von ChatGPT, einem anderen Assistenten, einer Suchplattform oder nachlässiger manueller Ausarbeitung stammt.
Dieses Prinzip setzt sowohl Kanzleien als auch Anbieter juristischer Technologie unter Druck. Kanzleien benötigen Prüfverfahren, die dem Risiko jeder Aufgabe entsprechen. Anbieter brauchen Schnittstellen, die das ungestützte Übernehmen in endgültige Arbeiten erschweren.
Eine risikoarme Brainstorming-Sitzung erfordert nicht dieselben Schutzvorkehrungen wie eine Tatsachenbehauptung in einer Mordberufung. Der Arbeitsablauf sollte strenger werden, je gravierender die Folgen eines Fehlers sind.
Bei der Arbeit mit Transkripten bedeutet das: Jede Tatsachenbehauptung braucht eine Quelle auf Seitenebene. Jedes Zitat muss mit dem Originalprotokoll abgeglichen werden. Jede namentlich genannte Person muss anhand der Zeugenliste oder des Transkripts bestätigt werden.
Bei Rechtsquellen müssen Prüfer die Entscheidung öffnen und die maßgebliche Passage lesen. Zu bestätigen, dass ein Fall existiert, reicht nicht aus, wenn die KI seine Kernaussage falsch dargestellt hat.
Diese Prüfungen verringern einen Teil der Zeitersparnis, die generative KI verspricht. Das ist kein Beleg dafür, dass die Technologie keinen Wert hat. Es bedeutet, dass eine verlässliche Einführung die Arbeit zur Verifizierung berücksichtigen muss.
Der zentrale Zielkonflikt ist daher messbar. Automatisierung kann den ersten Entwurf beschleunigen, doch der Berufsträger trägt weiterhin die Kosten dafür, dessen Richtigkeit nachzuweisen.
Legal-AI-Tools Haben Halluzinationen Nicht Beseitigt
Speziell entwickelte juristische Systeme können ungestützte Antworten verringern, aber keine Schnittstelle entbindet Prüfer von der Pflicht, das Ergebnis zu überprüfen.
Der Stephen-Aarons-ChatGPT-Schriftsatz betraf einen KI-Dienst für allgemeine Zwecke. Er belegte nicht, dass jedes Legal-AI-Produkt identisch funktioniert oder dasselbe Risiko birgt.
Einige Plattformen für juristische Recherche nutzen Retrieval-Augmented Generation. RAG ist eine Methode, die generierte Antworten mit einer ausgewählten Sammlung von Quelldokumenten verbindet.
Theoretisch grenzt Retrieval die Evidenzbasis des Modells ein und liefert Zitate zur Prüfung. Es kann die Verifizierung erleichtern, weil Nutzer die zitierte Quelle neben der generierten Antwort öffnen können.
Retrieval garantiert jedoch nicht, dass eine Antwort ihre Quellen getreu wiedergibt. Ein Modell kann ein echtes Dokument zitieren, das die danebenstehende Behauptung nicht stützt.
Forscher an der Stanford University bewerteten KI-gestützte Produkte für juristische Recherche von LexisNexis und Thomson Reuters. Ihre Studie verglich diese Systeme auch mit einem GPT-Modell für allgemeine Zwecke.
Die Forscher berichteten bei den getesteten Spezialprodukten von Halluzinationsraten zwischen 17 und 33 Prozent. Die Systeme schnitten besser ab als Modelle für allgemeine Zwecke, doch ungestützte oder falsch fundierte Antworten blieben bestehen.
Die Studie zu Legal AI argumentierte, dass Halluzinationen nicht gelöst seien. Sie forderte öffentliche Benchmarks und strengere Bewertungen.
Diese Ergebnisse sagen weder die Genauigkeit jedes aktuellen Produkts noch jeder juristischen Aufgabe voraus. Modelle, Retrieval-Systeme, Prompts und zugrunde liegende Datenbanken verändern sich fortlaufend.
Der Benchmark konzentrierte sich außerdem auf Recherchefragen, nicht auf die Zusammenfassung eines Transkripts in einem bestimmten Strafverfahren. Die Leistung eines Produkts bei veröffentlichten Entscheidungen belegt nicht seine Zuverlässigkeit bei hochgeladenen Beweismitteln.
Diese Unterscheidung ist bei der Bewertung juristischer Fehler von ChatGPT wichtig. Forschungsdatenbanken enthalten in der Regel strukturierte Rechtsquellen mit erkennbaren Zitaten. Gerichtsakten enthalten häufig unvollständige Transkripte, Abkürzungen, sich überschneidende Namen und fragmentarische Aussagen.
Ein System kann einen Fall korrekt finden und zugleich zwei Zeugen in einer Akte verwechseln. Es kann auch ein Transkript korrekt zitieren, aber nahegelegene Formulierungen auslassen, die die Bedeutung verändern.
Die angemessene Skepsis gilt in beide Richtungen. Ein Gerichtsversagen zeigt nicht, dass Anwälte KI aufgeben müssen. Zusicherungen von Anbietern rechtfertigen ebenso wenig, generierten Text als verifiziert zu behandeln.
Die relevante Frage lautet, ob ein Arbeitsablauf ungestützte Behauptungen vor der Einreichung leicht erkennbar macht. Ein nützliches System sollte Unsicherheit offenlegen, Zitate bewahren und den Quellenvergleich vereinfachen.
Es sollte außerdem verhindern, dass ein Modell Lücken stillschweigend füllt. Wenn die Akte keine Antwort enthält, ist „nicht gefunden“ sicherer als eine glatt formulierte Rekonstruktion.
Kanzleien können diese Kontrollen durch die Gestaltung von Aufgaben stärken. Sie können Brainstorming von der Extraktion von Tatsachen trennen und sensible Dokumente auf genehmigte Systeme beschränken.
Sie können von Anwälten verlangen, ein Behauptungsverzeichnis zu führen. Jede Tatsachenbehauptung würde auf eine Transkriptseite, ein Beweisstück, einen Registereintrag oder eine veröffentlichte Rechtsquelle verweisen.
Vorgesetzte können dann risikoreiche Behauptungen prüfen, statt jeden generierten Satz ohne Kontext erneut zu lesen. Dieser Prozess schafft Nachweise dafür, dass eine Verifizierung erfolgte, auch wenn Dokumentation allein keine sorgfältige Prüfung beweisen kann.
Die Schulung muss sich auf Verhalten konzentrieren, nicht auf allgemeine Warnungen. Anwälten zu sagen, dass KI manchmal halluziniert, bietet während einer tatsächlichen Einreichungsfrist wenig Orientierung.
Ein praktischer Standard fragt, ob ein weiterer Prüfer jede Behauptung anhand der zitierten Quelle nachvollziehen kann. Wenn die Antwort nein lautet, ist die Passage nicht bereit für das Gericht.
Neben der Genauigkeit gibt es ein separates Vertraulichkeitsproblem. Das Hochladen einer Gerichtsakte in einen Dienst eines Dritten kann geschützte Mandanteninformationen offenlegen, abhängig von den Bedingungen und Kontrollen des Produkts.
Die Anordnung aus New Mexico entschied diese Frage nicht. Sie konzentrierte sich auf sachliche und rechtliche Falschdarstellungen, die Kommunikation mit dem Mandanten und Aarons’ Verhalten vor Gericht.
Leser sollten daraus keine gesonderte Vertraulichkeitsfeststellung ableiten, die die Richter nicht getroffen haben. Ebenso stellt die Anordnung nicht fest, dass ChatGPT jede falsche Passage ohne Änderungen durch den Nutzer erstellt hat.
Was sie feststellt, ist enger gefasst und dennoch schwerwiegend. Aarons räumte ein, das Tool genutzt, ungeprüfte Ausgaben eingereicht und seinen Mandanten nicht über die daraus resultierenden Probleme informiert zu haben.
KI-Halluzinationen Vor Gericht Haben Nun Vorhersehbare Folgen
Der Fall aus New Mexico gehört zu einem etablierten Muster von Sanktionen, doch seine erfundenen Prozessfakten führen dieses Muster in gefährlicheres Terrain.
Im Jahr 2023 reichten Anwälte in Mata v. Avianca nicht existierende, durch ChatGPT generierte Gerichtsentscheidungen ein. Ein Bundesrichter verhängte nach der Prüfung ihres Verhaltens und ihrer späteren Reaktionen eine Sanktion von 5.000 US-Dollar.
Der Fall wurde zu einer frühen Warnung vor KI-Halluzinationen vor Gericht. Er zeigte, dass ein plausibles Zitat die Ausarbeitung, interne Prüfung und Einreichung überstehen kann, wenn niemand die zugrunde liegende Entscheidung öffnet.
Der Vorfall in New Mexico ereignete sich, nachdem diese Warnung weithin bekannt geworden war. Er folgte zudem auf bundesweite und einzelstaatliche ethische Leitlinien zur Nutzung generativer KI durch Anwälte.
Gerichte können daher erwarten, dass Anwälte das grundlegende Risiko verstehen. Eine Behauptung, überrascht worden zu sein, wirkt weniger überzeugend, wenn öffentliche Sanktionen, Stellungnahmen von Anwaltskammern und berufliche Schulungen das Problem bereits beschreiben.
Auch der sachliche Umfang änderte sich. Mata betraf fiktive Präzedenzfälle in einem zivilrechtlichen Luftfahrtstreit. Der Stephen-Aarons-ChatGPT-Schriftsatz erfand Berichten zufolge Beteiligte und Aussagen innerhalb einer Mordakte.
Ein australisches Mordverfahren lieferte 2025 eine weitere Warnung. Verteidigungsschriftsätze enthielten erfundene Zitate und nicht existierende Fälle, was zu einer Verzögerung führte, während das Gericht ermittelte.
Der dortige Anwalt entschuldigte sich und übernahm die Verantwortung. Der Richter erklärte, eine unabhängige und gründliche Verifizierung sei erforderlich, bevor Anwälte KI-generiertes Material nutzten.
Die australische Einreichung zeigt, dass das Risiko nicht auf ein amerikanisches Gericht oder einen Tätigkeitsbereich begrenzt ist. Ähnliche Fehler treten überall dort auf, wo flüssige Ausgaben die Quellenprüfung überholen.
Sanktionen erfolgen dennoch nicht automatisch, sobald ein Schriftsatz einen Fehler enthält. Gerichte berücksichtigen das Verhalten des Anwalts, seine Reaktion, Offenheit, Korrekturmaßnahmen und die anwendbaren Verfahrensregeln.
Ein Tippfehler unterscheidet sich davon, erfundene Aussagen als Teil der Akte vorzulegen. Eine unverzügliche Korrektur unterscheidet sich davon, ein Problem zu verbergen oder einen Mandanten uninformiert zu lassen.
Der Supreme Court von New Mexico betonte Aarons’ Eingeständnisse und seine Reaktion auf das Verfahren. Seine Feststellung zu Reue und Sorge um seinen Mandanten half dabei, die Angelegenheit von einem versehentlichen, rasch behobenen Fehler abzugrenzen.
Die Anordnung ist nicht präzedenzbildend, das heißt, das Gericht erließ sie nicht als förmliche Entscheidung, die spätere Fälle regelt. Dieser Status begrenzt, wie Anwälte sie als Rechtsquelle zitieren sollten.
Ihre praktische Wirkung bleibt real. Aarons drohen Missachtung des Gerichts, eine Geldsanktion, der Ausschluss aus der Berufung, ein Verbot, vor dem Gericht aufzutreten, sowie eine disziplinarische Überprüfung.
Die öffentliche Akte schafft zudem eine Rufschädigung, die die Zahlung überdauern kann. Suchen nach dem Namen des Anwalts werden ihn mit erfundenen Zeugen in einer Mordberufung verknüpfen.
Für Kanzleien verändert diese Folge die Risikobewertung bei der Einführung. Die Kosten einer mangelhaften Prüfung können Ersatzanwälte, doppelte Arbeit, disziplinarische Risiken und Schäden am Vertrauen der Mandanten umfassen.
Für Gerichte erzeugen wiederholte Vorfälle Druck, Zertifizierungen oder Offenlegungen zu verlangen. Einige Richter fordern bereits Erklärungen, die bestätigen, dass KI-generierter Text und Zitate einer menschlichen Prüfung unterzogen wurden.
Solche Regeln können Anwälte an ihre Pflichten erinnern, doch sie können nicht prüfen, ob die Verifizierung substanziell war. Ein angekreuztes Kästchen zeigt nicht, ob jemand das Transkript geöffnet hat.
Technische Kontrollen stoßen an dieselbe Grenze. Ein System könnte jedem Satz ein Zitat beifügen und Behauptungen dennoch mit irrelevanten oder widersprüchlichen Passagen verbinden.
Der stärkste Schutz kombiniert Produktbeschränkungen mit professioneller Prüfung. Software sollte Belege sichtbar machen, während Anwälte die Belege mit der einzureichenden Behauptung vergleichen müssen.
Diese Kombination bewahrt nützliche Automatisierung, ohne einem probabilistischen Modell Urteilsvermögen zuzuweisen. Sie gibt Vorgesetzten außerdem einen konkreten Prozess zur Prüfung.
Der Fall sollte daher nicht auf „ChatGPT hat etwas erfunden“ reduziert werden. Generative Systeme erzeugen bekanntermaßen ungestützten Text, insbesondere wenn sie gebeten werden, fehlende Details zu ergänzen.
Die folgenreiche Entscheidung fiel, als ungeprüfte Ausgaben in einen unterzeichneten Gerichtsschriftsatz gelangten. Das Gericht sanktionierte den menschlichen Berufsträger, der für diesen Übergang verantwortlich war.
Worauf Gerichte, Kanzleien und KI-Anbieter Als Nächstes Achten Sollten
Drei Entwicklungen werden zeigen, ob dieser Fall dauerhafte Schutzvorkehrungen hervorbringt oder zu einer weiteren Warnung wird, die juristische Arbeitsabläufe nicht aufnehmen.
Das erste Signal ist das Disziplinarverfahren in New Mexico. Der Supreme Court verwies Aarons an das Disciplinary Board, doch die Anordnung vom September verkündete keine endgültige berufsrechtliche Sanktion.
Ermittler können Fragen über das Missachtungsverfahren hinaus untersuchen und nach den Disziplinarregeln eine angemessene Reaktion empfehlen. Das Gericht erklärte, es werde nach diesem Prozess weitere Entscheidungen treffen, falls es zu einem Verfahren komme.
Eine erhebliche zusätzliche Sanktion würde die Botschaft stärken, dass ungeprüfte KI-Inhalte einen Verstoß gegen berufliche Verhaltenspflichten darstellen. Eine begrenzte Reaktion würde nahelegen, dass Missachtung und Ausschluss für den Schriftsatz selbst als ausreichend angesehen wurden.
Das zweite Signal ist die wiederaufgenommene Sandoval-Berufung. Neue Anwälte müssen ihr Auftreten anzeigen, die Schriftsätze neu aufbauen und Argumente ermitteln, die von der tatsächlichen Prozessakte gestützt werden.
Dieser Prozess wird den praktischen Schaden offenlegen, der durch den falschen Schriftsatz verursacht wurde. Das Gericht beabsichtigt, die Berufung in seinen Kalender für 2026–2027 aufzunehmen, doch ein konkreter Verhandlungstermin wurde nicht genannt.
Ein geordneter, zügiger Neustart würde den Schaden für den Mandanten begrenzen. Weitere Verzögerungen oder Streitigkeiten über die Aktenlage würden zeigen, wie lange eine fehlerhafte KI-gestützte Einreichung ein Strafverfahren beeinflussen kann.
Das dritte Signal ist die Reaktion von Gerichten und Anbietern von Legal-Tech-Lösungen. Gerichte können Verifizierungszertifikate einführen, während Anbieter Kontrollen auf Quellenebene für die Arbeit mit Transkripten und Zitaten ergänzen können.
Die sinnvollste Produktänderung wäre nicht eine weitere allgemeine Behauptung zur Genauigkeit. Es wäre ein Workflow, der nicht belegte faktische Ergänzungen verweigert und die Belege hinter jeder Antwort offenlegt.
Unabhängige Tests werden weiterhin wichtig bleiben. Jeder Anbieter kann ein vorteilhaftes Beispiel vorführen, doch Nutzer benötigen Bewertungen, die die Leistung anhand unbekannter Akten und gegnerischer Fragestellungen messen.
Kanzleien sollten zudem beobachten, ob ihre eigenen Prüfverfahren unter Zeitdruck funktionieren. Eine Richtlinie, die eine Überprüfung vorschreibt, bedeutet wenig, wenn Anwälten Zeit, Schulung oder Zugang zu Quellen fehlen.
Die unmittelbare Lehre ist eindeutig. KI kann beim Ordnen einer Akte, beim Strukturieren eines Arguments oder beim Auffinden möglicher Probleme helfen. Sie kann jedoch nicht die anwaltliche Pflicht zur Wahrhaftigkeit übernehmen.
Jede Tatsachenbehauptung in einem Gerichtsschriftsatz braucht einen nachvollziehbaren Weg zurück zu zulässigem Beweismaterial. Jede Rechtsaussage braucht die Stützung durch eine Autorität, die tatsächlich besagt, was der Schriftsatz behauptet.
Dieser Maßstab ist anspruchsvoll, weil Berufungsverfahren schon immer anspruchsvoll waren. Generative KI verändert die Oberfläche des Entwurfsprozesses, senkt jedoch nicht die Anforderungen an die Genauigkeit.
Der ChatGPT-Schriftsatz von Stephen Aarons verwandelte eine versprochene Abkürzung in Missachtung, Ersatzvertretung und einen vollständig neuen Schriftsatzzyklus. Juristische Fachleute haben nun eine weitere dokumentierte Warnung – diesmal zu erfundenen Zeugen statt nur zu erfundenen Fällen.
Die nächste Frage ist, ob Organisationen ihre Workflows neu gestalten, bevor ein weiterer Mandant die Folgen tragen muss. Anwälte, die KI einsetzen, sollten vor der Einreichung eines prüfen: Lässt sich jeder wichtige Satz anhand der Originalakte belegen?
