Arun Subramanians Warnung zu Legal AI: Effizienz kann die Anwälte schwächen, die sie überprüfen müssen
Arun Subramanian sprach eine Warnung zu Legal AI aus, nachdem in einer Eingabe bei einem Bundesgericht unzutreffende Zitate auftauchten – trotz der Richtlinien und Schulungen der Kanzlei. Der Richter in Manhattan sah davon ab, die beteiligten Anwälte zu sanktionieren. Dennoch stellte seine Entscheidung den Vorfall als mehr dar als einen isolierten Fehler bei der Erstellung eines Schriftsatzes.
Das unmittelbare Problem betraf ungeprüfte Ergebnisse eines KI-Tools. Das größere Problem betrifft die Frage, wer künftig qualifiziert sein wird, solche Ergebnisse zu überprüfen. Wenn KI die Recherche und Entwurfsarbeit übernimmt, durch die Nachwuchsanwälte traditionell ausgebildet wurden, riskieren Kanzleien, ihr eigenes Kontrollsystem zu schwächen.
Diese Spannung macht das Urteil über eine einzelne Urheberrechtsklage hinaus bedeutsam. Legal AI verspricht schnellere Recherche, kürzere Entwurfszyklen und niedrigere Kosten. Diese Vorteile werden zu Belastungen, wenn Kanzleien genau jene Arbeit abschaffen, durch die Anwälte lernen, falsche Quellen, schwache Argumentation oder fehlenden Kontext zu erkennen.
Subramanians Warnung stellt zudem eine verbreitete Annahme über menschliche Aufsicht infrage. Eine Kanzlei kann nicht einfach einen Anwalt hinter das Modell setzen und den Prozess damit für sicher erklären. Die prüfende Person braucht ausreichend Erfahrung, Zeit und Unabhängigkeit, um die Arbeit der Maschine kritisch zu testen.
Der zentrale Konflikt lautet daher nicht Anwälte gegen KI. Es geht um unmittelbare Effizienz gegenüber der langsameren Ausbildungspraxis, aus der kompetente Anwälte hervorgehen. Mandanten erhalten heute möglicherweise schnellere Arbeit, erben morgen jedoch einen weniger verlässlichen Berufsstand.
Was Arun Subramanians Warnung zu Legal AI tatsächlich verändert hat
Das Gericht wertete einen KI-bedingten Zitierfehler als Hinweis auf ein tiefer liegendes Ausbildungs- und Aufsichtsproblem, obwohl es keine Sanktionen verhängte.
Der Streit entstand in Hill v. Foundation Media LLC, einem Urheberrechtsfall im Southern District of New York. Lawand Hill, die sich selbst vertrat, warf Foundation Media vor, Urheberrechte im Zusammenhang mit verbreiteten Musikwerken verletzt zu haben.
Subramanian wies die Klage ab, nachdem er die Empfehlung eines Magistrate Judge übernommen hatte. In seiner Anordnung vom 22. September stellte er jedoch gesondert Zitate und eine Quellenangabe in der Erwiderung von Foundation Media auf Hills Einwände infrage.
Der Richter ordnete an, dass der leitende Rechtsbeistand erklären müsse, ob KI bei der Erstellung der Erwiderung eingesetzt worden war. Zudem fragte er, ob die fraglichen Inhalte durch ungeprüfte KI-Nutzung entstanden seien. Die öffentliche court order benennt die strittigen Verweise und legt diese Offenlegungspflicht dar.
Dieses Verfahrensdetail ist wichtig. Foundation Media gewann den zugrunde liegenden Fall, dennoch untersuchte das Gericht weiterhin die Verlässlichkeit der erfolgreichen Eingabe. Ein günstiges Ergebnis entband den Rechtsbeistand nicht von seiner Verantwortung dafür, wie das Dokument erstellt wurde.
Cynthia Arato, eine Anwältin von Foundation Media, entschuldigte sich und führte die Fehler auf einen anderen Anwalt bei Shapiro Arato Bach zurück. Laut der Erklärung der Kanzlei erstellte dieser Anwalt den ersten Entwurf und finalisierte das Dokument vor dessen Einreichung.
In der Erklärung hieß es, der Anwalt habe gegen die Richtlinien und Schulungen der Kanzlei gehandelt. Die unterlassene Überprüfung KI-generierter Zitate wurde als Einzelfall beschrieben, der nicht darauf abgezielt habe, das Gericht irrezuführen.
Eine spätere Eingabe nannte laut dem reported case account Tools des Legal-AI-Unternehmens Harvey als Teil des Entwurfsprozesses. Harvey und Foundation Media reagierten nicht umgehend auf von Reuters berichtete Anfragen nach Stellungnahme.
Die verfügbaren Unterlagen belegen nicht, dass Harvey allein die Fehler verursacht hat. Sie belegen, dass KI-gestützte Arbeit ohne ausreichende menschliche Überprüfung in die Einreichung gelangte. Diese Unterscheidung belässt die Verantwortung dort, wo die Berufsregeln sie verorten: bei den Anwälten, die das Dokument einreichen.
Subramanian lehnte nach Prüfung der Erklärung Sanktionen ab. Seine Zurückhaltung sollte nicht mit Zustimmung verwechselt werden. Er bezeichnete den Vorfall als Warnung und betonte, dass KI-generierte juristische Arbeit sorgfältige Genauigkeitsprüfungen erfordert.
Die Entscheidung veränderte damit den Rahmen für Fehler durch Legal AI. Gerichte konzentrierten sich häufig auf erfundene Fälle, Geldstrafen oder berufsrechtliche Maßnahmen gegen Anwälte. Subramanian verband den unmittelbaren Fehler mit der Fähigkeit des Berufsstands, künftige Prüfer auszubilden.
Er regte an, dass Kanzleien erste Entwürfe ohne KI-Unterstützung verlangen sollten. Der Vorschlag ist bewusst unbequem, weil ein Teil des wertvollen Lernens gerade während jener Arbeit stattfindet, die KI abschaffen soll.
Diese Idee macht aus einem Zitierfehler eine organisatorische Frage. Wenn eine Richtlinie besteht, aber ein ungeprüfter Schriftsatz dennoch das Gericht erreicht, müssen Kanzleien ihr Workflow-Design, ihre Aufsicht und ihre Anreizstrukturen prüfen. Eine schriftliche Regel allein kann diese Last nicht tragen.
Arun Subramanians Warnung zu Legal AI handelt letztlich von institutionellem Gedächtnis. Kanzleien brauchen Fachleute, die verstehen, warum ein Argument trägt – nicht nur, ob Software es überzeugend formatiert hat.
Ein Zitierfehler legte die Aufsichtslücke offen
Menschliche Prüfung scheitert, wenn Verantwortung breit zugewiesen wird, die Verifikation aber nicht in jeden Schritt des Workflows eingebaut ist.
Generative KI erzeugt Text, indem sie auf Grundlage von Mustern in Daten wahrscheinliche Fortsetzungen vorhersagt. Sie ruft nicht standardmäßig Wahrheit ab – selbst dann nicht, wenn ihre Antwort geschliffene Zitate, Fallnamen und formale Quellenangaben enthält.
Eine Halluzination ist eine selbstsicher wirkende Ausgabe ohne verlässliche faktische Grundlage. In der juristischen Praxis kann sie die Form eines nicht existierenden Falls, eines veränderten Zitats oder einer realen Entscheidung annehmen, die für die falsche Aussage herangezogen wird.
Diese Fehler sind gefährlich, weil sie professioneller Arbeit ähneln. Ein erfundenes Zitat kann einen plausiblen Gerichtsnamen, ein Datum, eine Fundstelle und einen Rechtsgrundsatz enthalten. Die oberflächliche Qualität kann eine unzureichende Prüfung ausreichend erscheinen lassen.
Der Vorfall um Foundation Media veranschaulicht, wie Aufsicht zerfallen kann. Ein Anwalt nutzt das Tool, ein anderer prüft möglicherweise den Entwurf, und der leitende Rechtsbeistand unterzeichnet oder reicht das Ergebnis ein. Jede Person kann annehmen, dass jemand anderes die Quellenprüfung abgeschlossen hat.
Diese Struktur schafft eine Verifikationslücke. Richtlinien mögen Genauigkeit verlangen, doch niemand ist für einen dokumentierten Prozess verantwortlich, bei dem jede zitierte Quelle geöffnet und jedes Zitat mit seiner Ursprungsquelle verglichen wird.
Die American Bar Association befasste sich bereits vor Subramanians Entscheidung mit diesem Problem. Ihre AI ethics opinion besagt, dass Anwälte Kompetenz, Vertraulichkeit, Kommunikation, Aufsicht, Offenheit und angemessene Honorare berücksichtigen müssen.
Diese Pflichten verschwinden nicht, wenn Software den ersten Entwurf erstellt. Ein Anwalt bleibt für Angaben gegenüber einem Gericht und für die Beratung eines Mandanten verantwortlich.
Verifikation erfordert zudem mehr als die Bestätigung, dass ein Fall existiert. Ein Prüfer muss feststellen, ob die Entscheidung weiterhin geltendes Recht ist, in der relevanten Gerichtsbarkeit anwendbar ist und die konkrete Behauptung stützt.
Der Prozess wird schwieriger, wenn ein Modell zutreffendes Material mit subtilen Erfindungen vermischt. Ein Schriftsatz mit überwiegend korrekter Recherche kann die Wachsamkeit des Prüfers verringern. Die wenigen falschen Elemente können sich in ansonsten glaubwürdiger Arbeit verbergen.
Unternehmenslösungen für den juristischen Bereich können einige Risiken durch kontrollierte Datenquellen, Verweise auf Rechtsquellen, Sicherheitseinstellungen oder integrierte Recherchesysteme mindern. Produktgestaltung kann die berufliche Verantwortung jedoch nicht vom Rechtsbeistand auf einen Anbieter übertragen.
Die entscheidende Frage lautet nicht, ob ein Tool ein Label für die Rechtsbranche trägt. Entscheidend ist, ob der Workflow einem kompetenten Anwalt ermöglicht, die daraus resultierende Analyse zu reproduzieren, zu prüfen und zu verteidigen.
Auch erfahrene Anwälte müssen sich gegen Automatisierungsbias wehren – die Neigung, einem System zu vertrauen, weil es anspruchsvoll oder beständig nützlich wirkt. Wiederholt gute Ergebnisse können den Ausnahmefehler schwerer erkennbar machen.
Ein solider Prozess sollte einen Prüfpfad bewahren. Er sollte festhalten, welches Tool eingesetzt wurde, welche Aufgabe es erfüllte, wer die Ausgabe überprüfte und welche Primärquellen das endgültige Dokument stützten.
Kanzleien können für unterschiedliche Aufgaben unterschiedliche Kontrollen anwenden. Die Zusammenfassung eines internen Meetings birgt andere Risiken als die Ausarbeitung eines entscheidungserheblichen Antrags. Die erforderliche Prüfung sollte mit den Folgen eines Fehlers zunehmen.
Arbeit mit hohem Risiko benötigt Prüfungen auf Quellenebene, klare Prüferzuweisungen und ausreichend Zeit, den Entwurf kritisch zu hinterfragen. Sie kann zudem erfordern, dass ein Anwalt die Argumentation rekonstruiert, ohne sich auf den generierten Text zu stützen.
Dieser letzte Schritt ist wichtig, weil die Prüfung von Zitaten allein nicht jeden Fehler erkennen kann. Ein Schriftsatz kann reale Fälle korrekt zitieren und dennoch entgegenstehende Rechtsprechung auslassen, die Aktenlage missverstehen oder eine Strategie verfolgen, die dem Mandanten schadet.
Subramanians Reaktion stellt Aufsicht vor Bestrafung. Das Gericht akzeptierte die Erklärung der Kanzlei und zusätzliche Schutzvorkehrungen, doch seine Warnung fragt, ob diese Schutzvorkehrungen bei der nächsten eiligen Einreichung funktionieren werden.
Der Test ist operativ. Eine Richtlinie hat nur dann Wert, wenn Anwälte sie unter Fristen, Mandantendruck und Forderungen nach niedrigeren Kosten befolgen können.
Das Effizienzversprechen bedroht die juristische Ausbildungspraxis
KI kann Nachwuchsarbeit schneller beseitigen, als Kanzleien das Urteilsvermögen ersetzen können, das diese Arbeit einst entwickelte.
Nachwuchsanwälte lernen traditionell durch Wiederholung. Sie lesen Akten, verfolgen Rechtsquellen, vergleichen Entwürfe, erhalten Korrekturen und beobachten, wie erfahrene Anwälte juristische Doktrin in Mandantenberatung übersetzen.
Ein Großteil dieser Arbeit ist langsam. Im traditionellen Kanzleimodell ist sie zudem kostspielig. Generative KI zielt genau auf diese Aufgaben in Recherche, Prüfung und Entwurf ab.
Das Effizienzargument ist leicht zu verstehen. Ein System kann in Minuten eine Chronologie erstellen, Dokumente zusammenfassen, Vertragssprache vergleichen oder einen Entwurf produzieren. Anwälte können dann mehr Zeit für Strategie und Mandantenbeziehungen aufwenden.
Dieses Ergebnis ist möglich, aber nicht automatisch. Das Wegfallen von Routinearbeit garantiert nicht, dass Nachwuchsanwälte bessere Aufgaben erhalten. Kanzleien können schlicht ihre Arbeitsstunden reduzieren, ihre Rollen einengen oder von ihnen erwarten, Ergebnisse zu überwachen, für deren Bewertung ihnen die Erfahrung fehlt.
Die juristische Ausbildung enthält das, was Pädagogen bisweilen kognitive Reibung nennen. Ein Lernender kämpft sich durch Unsicherheit, trifft Entscheidungen, gerät in Sackgassen und erhält Rückmeldung. Diese Anstrengung bildet ein mentales Modell des Problems.
KI verkürzt den Kampf ebenso wie die Aufgabe. Ein ausgefeilter Entwurf trifft ein, bevor der Nachwuchsanwalt eine eigene Einschätzung entwickelt hat. Das Überarbeiten ersetzt dann die Ausarbeitung als Standardlernaktivität.
Überarbeiten kann wertvolle Fähigkeiten vermitteln, aber nur, wenn der Bearbeiter erkennt, was fehlt oder falsch ist. Ein Anfänger verbessert möglicherweise die Formulierung, übersieht jedoch eine fehlerhafte Prämisse, einen nachteiligen Präzedenzfall oder ein strategisches Zugeständnis.
Darin liegt das Paradox der Risiken von KI für die Anwaltsausbildung. Kanzleien erwarten von Nachwuchsanwälten, dass sie maschinelle Ausgaben überprüfen, während Automatisierung genau die Erfahrungen verringert, die diese Überprüfung lehren.
Subramanians Vorschlag, dass Kanzleien einige erste Entwürfe ohne KI verlangen sollten, geht dieses Paradox direkt an. Er schafft ein geschütztes Übungsumfeld, in dem Anwälte recherchieren, strukturieren und argumentieren müssen, bevor sie ihre Arbeit mit generierten Ergebnissen vergleichen.
Dieser Ansatz ist mit Kosten verbunden. Mandanten möchten möglicherweise keine manuelle Arbeit finanzieren, wenn Software schneller einen Entwurf erzeugen kann. Partner könnten sich während anspruchsvoller Mandate zudem gegen nicht abrechenbare Ausbildung sträuben.
Doch diese Kosten bestehen bereits. Die traditionelle Ausbildungspraxis integrierte Lernen in die Mandantenarbeit, oft ohne es als Bildung zu bezeichnen. KI macht die Subvention sichtbar, indem sie Produktion von beruflicher Entwicklung trennt.
Unternehmen benötigen nun gezielte Ausbildungsbudgets und messbare Kompetenzen. Sie können nicht davon ausgehen, dass junge Anwältinnen und Anwälte Urteilsvermögen durch Arbeit entwickeln, die sie nicht mehr erreicht.
Die breitere Rechtsprofession ist zu ähnlichen Schlussfolgerungen gelangt. Eine Analyse der Entwicklung von Urteilsvermögen aus dem Jahr 2026 argumentiert, dass KI verändert, welche Arbeit überhaupt anfällt und wie künftige Anwältinnen und Anwälte treuhänderische Sorgfalt, geschäftliches Urteilsvermögen und das Vertrauen von Mandanten entwickeln.
Die Analyse unterscheidet zwischen prozeduraler Produktion und kontextbezogenem Urteilsvermögen. KI kann Dokumente zusammenstellen und Muster erkennen. Anwältinnen und Anwälte müssen entscheiden, welche Fakten relevant sind, welche Risiken ein Mandant tragen kann und wer die Verantwortung für den Rat übernimmt.
Der Oberste Richter Singapurs, Sundaresh Menon, äußerte 2026 eine ähnliche Sorge. Er warnte, dass die Verdrängung grundlegender Recherche- und Analysearbeit die Fähigkeit von Juristinnen und Juristen schwächen könnte, KI-generierte Arbeit zu überprüfen.
In seiner späteren Ansprache zur Ausbildung beschrieb er juristische Aufgaben, die KI erheblich beschleunigen kann, sowie den Beschäftigungsdruck auf jüngere Anwältinnen und Anwälte. Zugleich forderte er eine stärkere Betonung von Urteilsvermögen, ethischem Handeln, Verantwortung, Unterscheidungsvermögen und Integrität.
Diese Warnungen verlangen nicht, jede ineffiziente Praxis zu bewahren. Die Dokumentenprüfung sollte nicht langsam bleiben, nur weil frühere Generationen durch Masse gelernt haben.
Stattdessen müssen Kanzleien ermitteln, was jede Aufgabe vermittelt hat, und dieses Lernen gezielt neu aufbauen. Rechercheaufgaben vermittelten die Bewertung von Quellen. Das Verfassen von Schriftsätzen vermittelte Struktur. Mandantenkontakt vermittelte Urteilsvermögen unter unvollständigen Informationen.
Eine neu gestaltete Ausbildung könnte eigenständige Erstentwürfe, betreute KI-Vergleiche, Simulationen, Übungen zur Quellenprüfung und direkten Mandantenkontakt verbinden. Jedes Element sollte auf eine klar definierte berufliche Kompetenz ausgerichtet sein.
Auch die Prüfung durch erfahrene Anwältinnen und Anwälte muss sichtbarer werden. Ein Partner, der einen KI-gestützten Entwurf stillschweigend korrigiert, schützt möglicherweise den Mandanten, vermittelt dem jungen Anwalt jedoch nichts. Rückmeldungen sollten erklären, warum das Ergebnis fehlerhaft war und wie die prüfende Person das Problem erkannt hat.
Kanzleien sollten die Entwicklung anhand nachgewiesener Kompetenzen messen, nicht nur anhand abrechenbarer Stunden oder der Nutzung von Tools. Eine junge Anwältin oder ein junger Anwalt sollte in der Lage sein, eigenständig zu recherchieren, KI-Ergebnisse zu prüfen, Unsicherheit zu erläutern und eine Empfehlung zu begründen.
Ein durchsuchbares internes Wissenssystem kann diesen Prozess unterstützen, wenn es verifizierte Präzedenzfälle, Prüfnotizen und die Begründungen hinter Entscheidungen bewahrt. Ziel ist keine passive Ablage, sondern eine durchsuchbare Wissensdatenbank, die betreutes Lernen stärkt.
Der stärkste KI-Workflow im Rechtsbereich umfasst daher auch Phasen, in denen das Tool geschlossen bleibt. Anwältinnen und Anwälte brauchen Gelegenheiten zu beweisen, dass sie ohne generierte Gerüste schlussfolgern können, bevor sie diese überwachen sollen.
Mandanten tragen die Risiken, die Kanzleien zu kontrollieren versprechen
Die Risiken von Legal AI für Mandanten gehen über falsche Zitate hinaus und betreffen Vertraulichkeit, Strategie, Kosten und die Qualität künftiger Vertretung.
Mandanten haben oft nachvollziehbare Gründe, den Einsatz von KI zu verlangen. Sie wünschen schnellere Bearbeitung, niedrigere Rechnungen, klarere Dokumente und weniger Stunden für repetitive Arbeit.
Subramanian erkannte diesen Druck an. Er warnte jedoch auch, dass Mandanten nachteilige Folgen tragen können, wenn etwas schiefläuft. Niedrigere Kosten für einen Entwurf bieten wenig Trost, wenn ein fehlerhafter Schriftsatz einen Anspruch schwächt oder die Glaubwürdigkeit beschädigt.
Das sichtbare Risiko ist ein erfundenes Zitat. Weniger sichtbar ist ein Rat, der plausibel klingt, aber einen entscheidenden Sachverhalt, eine verfahrensrechtliche Frage oder eine geschäftliche Konsequenz übersieht.
Juristische Vertretung erfordert mehr als die Erstellung von Text. Anwältinnen und Anwälte müssen das Ziel des Mandanten verstehen, Annahmen hinterfragen, vertrauliche Informationen schützen und manchmal von der bevorzugten Handlung des Mandanten abraten.
Ein Modell kann für diese Entscheidungen keine berufliche Verantwortung übernehmen. Die Anwältin oder der Anwalt, die oder der es nutzt, bleibt verantwortlich – selbst wenn der Mandant die Technologie verlangt oder ein Anbieter das System für juristische Arbeit vermarktet hat.
Mandanten sollten daher fragen, wie KI eingesetzt wird, nicht nur, ob eine Kanzlei sie nutzt. Recherche, Zusammenfassung, Entwurf, Vertragsprüfung und strategische Beratung haben unterschiedliche Folgen.
Sie sollten auch fragen, welche Informationen in das System eingegeben werden. Vertrauliche Fakten, privilegierte Kommunikation, personenbezogene Daten und geschäftlich sensible Dokumente erfordern Schutzmaßnahmen, die zu den Aufbewahrungs- und Zugriffskontrollen des Produkts passen.
Die Leitlinien der ABA besagen, dass Anwältinnen und Anwälte die Fähigkeiten und Grenzen eines Tools verstehen müssen. Sie verknüpfen den KI-Einsatz außerdem mit Pflichten zur Mandantenkommunikation und Vertraulichkeit.
Diese Verpflichtung erschwert allgemeine Einwilligungsklauseln. Ein Mandant kann den Einsatz von KI nicht sinnvoll bewerten, ohne die Aufgabe, die betroffenen Daten, den erwarteten Nutzen und die verfügbare Alternative zu kennen.
Kosten erzeugen eine weitere Spannung. Wenn KI die für eine Aufgabe benötigte Zeit reduziert, erwarten Mandanten, dass die Einsparungen bei ihnen ankommen. Kanzleien müssen weiterhin Prüfung, Ausbildung, Sicherheit und die Steuerung von Anbietern finanzieren.
Diese Ausgaben sind real, sollten jedoch transparent sein. Ein Mandant sollte keine fiktiven manuellen Stunden für automatisierte Produktion bezahlen. Ebenso sollte eine Kanzlei keine wesentliche Prüfung streichen, um Margen zu sichern.
Das Modell der abrechenbaren Stunden kann Kanzleien in beide Richtungen drängen. Es kann Automatisierung hemmen, wenn Effizienz die Einnahmen senkt. Es kann auch übermäßige Automatisierung fördern, wenn Mandanten strenge Budgets vorgeben.
Alternative Honorarstrukturen lösen das Qualitätsproblem nicht von selbst. Ein Pauschalhonorar kann Effizienz belohnen, aber auch minimale Prüfung, sofern das Mandat Leistungen und Kontrollen nicht klar definiert.
Der bessere Vertrag regelt den Prozess. Er kann zugelassene Nutzungen, Vertraulichkeitsschutz, Prüfpflichten, Offenlegungserwartungen und die Frage festlegen, ob für bestimmte Aufgaben die Einwilligung des Mandanten erforderlich ist.
Mandanten sollten auch wissen, wer die Arbeit ausgeführt hat. Eine erfahrene Anwältin oder ein erfahrener Anwalt sollte nicht den Eindruck erwecken, eine Frage persönlich recherchiert zu haben, wenn ein Modell die Grundlage erstellt und ein junger Anwalt nur begrenzt geprüft hat.
All dies bedeutet nicht, dass Mandanten Legal AI ablehnen sollten. Verantwortungsvolle Nutzung kann den Zugang verbessern, Routinearbeit beschleunigen und Anwältinnen und Anwälten helfen, große Aktenbestände zu prüfen, die Budgets sonst überfordern würden.
Das Gegengewicht ist der Zugang zum Recht. Ein striktes Verbot nützlicher Tools kann teure Verfahren bewahren, die sich viele Einzelpersonen und kleine Organisationen nicht leisten können.
Gerichtliche Diskussionen erkennen diesen Zielkonflikt zunehmend an. Die Herausforderung besteht darin, KI-gestützte Dienstleistungen breiter verfügbar zu machen, ohne ungeprüfte Ergebnisse als professionelles Urteilsvermögen darzustellen.
Das System der Bundesverfahrensregeln prüft, ob bestehende Pflichten erfundene KI-Quellen ausreichend erfassen. Eine Tagesordnung des Regelungsausschusses vom Oktober 2026 erörtert, ob die aktuellen Standards von Rule 11 das Problem bereits abdecken oder eine spezifischere Reaktion erfordern.
Diese Debatte ist wichtig, weil uneinheitliche Gerichtspraxis Unsicherheit schafft. Einige Richter verlangen Offenlegungen oder Zertifizierungen zum KI-Einsatz. Andere stützen sich auf bestehende Pflichten zu Genauigkeit, Kompetenz und angemessener Prüfung.
Eine nationale Regel könnte Konsistenz schaffen, doch Offenlegung allein kann Qualität nicht garantieren. Ein als KI-gestützt gekennzeichneter Schriftsatz kann weiterhin falsch sein, während ein sorgfältig verifizierter KI-gestützter Schriftsatz berufliche Pflichten vollständig erfüllen kann.
Der nützlichste Schutz für Mandanten bleibt verantwortliches menschliches Urteilsvermögen. Offenlegung, Sicherheit und Verifizierung sollten dieses Urteilsvermögen unterstützen, nicht ersetzen.
Worauf Kanzleien und Mandanten als Nächstes achten sollten
Der nächste Test besteht darin, ob die Profession gerichtliche Warnungen in messbare Ausbildungs- und Verifizierungssysteme überführt.
Das erste Signal wird von gerichtlichen Anordnungen und Sanktionsentscheidungen kommen. Richterinnen und Richter entscheiden, ob bestehende Berufsregeln ausreichen und welche Fehler Geldstrafen, Verweise oder öffentliche Rügen rechtfertigen.
Ein Anstieg toolspezifischer Zertifizierungen würde zeigen, dass Gerichte Offenlegung und dokumentierte Verifizierung bevorzugen. Eine anhaltende Orientierung an gewöhnlichen Genauigkeitspflichten würde Kanzleien mehr Verantwortung dafür übertragen, eigene Kontrollen zu gestalten.
Keiner der beiden Wege beseitigt die zugrunde liegende Verpflichtung. Gerichte werden weiterhin erwarten, dass Anwältinnen und Anwälte Quellen, Zitate, Tatsachenbehauptungen und die Verbindung zwischen Präzedenzfall und Argument überprüfen.
Das zweite Signal wird zeigen, wie Kanzleien die Ausbildung junger Juristinnen und Juristen neu gestalten. Die Ankündigung von KI-Ausbildung genügt nicht, wenn das Programm Prompting lehrt, aber keine eigenständige Recherche, Entwurfsarbeit und Quellenbewertung.
Aussagekräftige Belege wären geschützte Aufgaben ohne KI, betreute Vergleichsübungen, Simulationsprogramme und Kompetenztests. Kanzleien sollten außerdem erläutern, wie erfahrene Anwältinnen und Anwälte Rückmeldungen zu KI-gestützter Arbeit geben.
Auch Einstellungsmuster verdienen Aufmerksamkeit. Wenn Kanzleien Einstiegspositionen abbauen, ohne neue Ausbildungsmodelle zu schaffen, verengt sich die Pipeline für Urteilsvermögen. Die Folgen könnten erst nach Jahren sichtbar werden.
Das dritte Signal wird das Verhalten der Mandanten sein. Rechtsabteilungen von Unternehmen legen zunehmend Richtlinien für externe Kanzleien fest, die zugelassene Tools, Datenverarbeitung, Personalbesetzung, Abrechnung und Offenlegung abdecken.
Wenn Mandanten sowohl Effizienz als auch überprüfbare Schutzmaßnahmen verlangen, haben Kanzleien einen kommerziellen Grund, disziplinierte Systeme aufzubauen. Konzentrieren sich Mandanten nur auf Geschwindigkeit und Kosten, könnten Verifizierung und Ausbildung unterfinanziert bleiben.
Auch Anbieter von Legal AI stehen unter Druck, diese Verantwortlichkeit zu unterstützen. Käufer werden nachvollziehbare Quellen, Berechtigungskontrollen, Prüfprotokolle, sichere Datenverarbeitung und Integrationen mit maßgeblicher Recherche erwarten.
Diese Funktionen können die Prüfung erleichtern. Sie können jedoch nicht bestimmen, ob eine Anwältin oder ein Anwalt das Ziel des Mandanten verstanden oder fundiertes Urteilsvermögen ausgeübt hat.
Der Schriftsatz von Hill bietet einen nützlichen Maßstab. Die Kanzlei verfügte Berichten zufolge über Richtlinien und Schulungen, dennoch gelangte fragwürdiges Material vor Gericht. Künftige Schutzmaßnahmen müssen den Weg zwischen formellen Regeln und tatsächlichem Verhalten berücksichtigen.
Kanzleien können mit klaren Zuständigkeiten beginnen. Jedes KI-gestützte Dokument sollte eine benannte Anwältin oder einen benannten Anwalt haben, die oder der für Quellenvalidierung, Prüfung der Begründung, Vertraulichkeit und endgültige Freigabe verantwortlich ist.
Anschließend sollten sie Nachweise dieser Arbeit bewahren. Eine Checkliste ist nur hilfreich, wenn sie eine tatsächliche Prüfung widerspiegelt und nicht lediglich ein vor der Einreichung gesetztes Kästchen ist.
Die Ausbildung sollte Fehler mit beruflichen Folgen verknüpfen. Junge Anwältinnen und Anwälte müssen sehen, wie ein erfundenes Zitat die Glaubwürdigkeit, die Mandantenstrategie und die Bereitschaft des Gerichts beeinflussen kann, späteren Schriftsätzen zu vertrauen.
Auch erfahrene Anwältinnen und Anwälte benötigen Ausbildung. Ihre Erfahrung mit Rechtsdogmatik vermittelt nicht automatisch Wissen über Modellverhalten, Datenkontrollen oder die Fehlermuster generativer Systeme.
Mandanten können vor der Beauftragung KI-gestützter Arbeit mehrere direkte Fragen stellen:
Für welche Aufgaben wird KI eingesetzt, und welche bleiben von Menschen geführt?
Wer überprüft jede Quelle und jedes Zitat?
Welche Mandanteninformationen werden in das System eingegeben?
Wie speichert oder verwendet der Anbieter diese Informationen erneut?
Wie wirkt sich KI auf Besetzung, Zeitplan und Honorare aus?
Was geschieht, wenn das Tool einen Fehler erzeugt?
Diese Fragen verlangen nicht, dass Mandanten zu KI-Spezialisten werden. Sie verlangen von Kanzleien, ihren Prozess in Begriffen zu erklären, die ein Mandant bewerten kann.
Subramanians Warnung prognostiziert nicht das Ende von Legal AI. Sie geht von einer fortgesetzten Einführung aus und fordert die Profession auf, sich mit ihren verborgenen Kosten auseinanderzusetzen.
Das Effizienzversprechen bleibt attraktiv. KI kann repetitive Arbeit reduzieren und Anwältinnen und Anwälten mehr Zeit für höherwertige Arbeit geben. Dieser Nutzen bleibt nur erhalten, wenn Kanzleien einen Teil der eingesparten Zeit wieder in Aufsicht und Lernen investieren.
Die schwierigere Frage ist, ob sie das tun werden. Eine Profession, die die Ausbildung automatisiert, ohne sie zu ersetzen, wird letztlich nicht über das Urteilsvermögen verfügen, das zur Überwachung der Automatisierung nötig ist.
Die Warnung des Legal-AI-Experten Arun Subramanian bietet Kanzleien, Mandanten, Gerichten und Anbietern einen praktischen Maßstab: Erzeugen ihre Systeme schnellere Dokumente – oder Anwälte, die bereit sind, für diese Dokumente einzustehen?
Bevor Sie KI-gestützte Rechtsarbeit beauftragen, sollten Sie fragen, wer sie überprüft und wie diese Person gelernt hat, Fehler zu erkennen. Für Kanzleien ist der nächste Schritt ebenso konkret: unabhängige Recherche, strukturiertes Feedback und die Prüfung auf Quellenebene schützen. Effizienz sollte diese Schutzmaßnahmen finanzieren, nicht abschaffen.
