Brief Stephena Aaronsa z ChatGPT wymyślił świadków, a sąd nałożył grzywnę w wysokości 5000 dolarów

Stephen Aarons złożył wspomaganą przez ChatGPT apelację od wyroku za zabójstwo, zawierającą wymyślonych świadków, a Sąd Najwyższy Nowego Meksyku odpowiedział stwierdzeniem obrazy sądu i sankcją w wysokości 5000 dolarów. Sąd usunął także Aaronsa ze sprawy apelacyjnej, skierował go do postępowania dyscyplinarnego i wykreślił każdy brief złożony w tej sprawie.

Brief Stephena Aaronsa z ChatGPT to coś więcej niż kolejna kompromitująca porażka związana z cytowaniem źródeł. Według sądu pismo przypisywało zeznania osobom, które nigdy nie wystąpiły w procesie. Zmieniało również wypowiedzi rzeczywistych świadków i błędnie przedstawiało istniejące źródła prawa.

To rozróżnienie podnosi stawkę. Wcześniejsze porażki prawniczej AI często dotyczyły nieistniejących spraw, które prawnicy mogli odnaleźć podczas rutynowej weryfikacji cytatów. To pismo miało natomiast zmieniać faktyczny zapis leżący u podstaw wyroku skazującego za zabójstwo, podczas gdy klient odbywał karę dożywotniego pozbawienia wolności.

Sprawa wyraźnie stawia w centrum wdrażania prawniczej AI dwa przeciwstawne elementy: szybkość automatycznego sporządzania pism i osobisty obowiązek prawnika do weryfikacji akt. Sądy nie traktują wyników oprogramowania jako niezależnego uczestnika postępowania. Pociągają do odpowiedzialności prawnika, który podpisuje pismo, za każde zdanie.

Sąd stwierdził obecność sfabrykowanych świadków w apelacji od wyroku za zabójstwo

Sankcja wynikała z przyznanych zmyśleń faktycznych, a nie ze sporu o sposób interpretacji dowodów przez prawnika.

Sąd Najwyższy Nowego Meksyku wydał postanowienie rozstrzygające 9 września 2026 r. w sprawie State v. Sandoval. Sprawa dotyczy apelacji Oscara Renee Sandovala od wyroku za zabójstwo i ma sygnaturę S-1-SC-40845.

Aarons przyznał, że korzystał z ChatGPT podczas przygotowywania otwierającego briefu apelacyjnego. Przyznał również, że przed podpisaniem i złożeniem pisma nie zweryfikował jego twierdzeń faktycznych ani źródeł prawnych.

Sąd wskazał czterech całkowicie sfabrykowanych świadków: funkcjonariuszkę Michelle Amarillo, funkcjonariusza Sancheza, Manala Al-Jibury’ego i Teresę Marquez. Nie były to drobne błędy w pisowni ani niepewne identyfikacje. Postanowienie stwierdza, że sami świadkowie byli nieprawdziwi.

Pismo przypisywało też wymyślone zeznania rzeczywistym świadkom. Twierdziło, że Danny Stanton otrzymał groźby od Sandovala i potraktował je poważnie. Zawierało fałszywe stwierdzenia dotyczące gróźb otrzymanych przez męża Lindy Stanton.

Inne fragmenty miały błędnie przedstawiać zeznania dotyczące ubioru i wyglądu strzelca. Postanowienie powiązało te stwierdzenia z Mariah Chavez i sfabrykowaną Teresą Marquez.

Błędy obejmowały także badanie prawa. Sąd stwierdził, że pismo błędnie przedstawiało stanowisko wynikające ze spraw State v. Lopez oraz State v. Manus. Te sprawy istnieją, co odróżnia problem od zwykłego cytowania wyimaginowanego orzeczenia.

Sfabrykowaną sprawę można czasem ujawnić, wyszukując cytat. Zniekształcone rzeczywiste orzeczenie wymaga bliższego porównania twierdzenia ze źródłem. Zmienione zeznania wymagają kolejnego procesu weryfikacji z wykorzystaniem protokołów i materiałów dowodowych.

Postanowienie w sprawie obrazy sądu odnotowuje przyznanie przez Aaronsa, że nie przeprowadził żadnej z tych weryfikacji. Wskazuje też, że nie poinformował klienta o faktycznych i prawnych przeinaczeniach zawartych w piśmie.

Sąd nakazał Aaronsowi stawienie się 21 sierpnia i wyjaśnienie, dlaczego nie powinien ponieść odpowiedzialności za obrazę sądu oraz zostać skierowany do postępowania dyscyplinarnego. Złożył pisemną odpowiedź i przedstawił argumentację ustną przed wszystkimi pięcioma sędziami.

Po tym posiedzeniu sędziowie uznali, że Aarons wykazał brak skruchy i troski o klienta. Końcowe postanowienie stwierdziło bezpośrednią obrazę sądu i skierowało sprawę do Rady Dyscyplinarnej Nowego Meksyku.

Aarons musi wpłacić 5000 dolarów do Funduszu Ochrony Klientów State Bar of New Mexico w ciągu 30 dni. Musi również powiadomić sąd po dokonaniu płatności.

Praktyczne konsekwencje wykraczają poza grzywnę. Aarons nie może występować przed stanowym Sądem Najwyższym, dopóki trwa postępowanie dyscyplinarne. Sąd zastrzegł sobie prawo do podjęcia dalszych decyzji po zakończeniu tego postępowania.

Wyznaczył Biuro Obrońcy Publicznego do zapewnienia Sandovalowi nowego pełnomocnika. Wszystkie istniejące briefy wykreślono, a następnie zostanie ustalony nowy harmonogram składania pism.

Sąd zamierza rozpoznać wznowioną apelację w kadencji 2026–2027. Klientowi czeka więc kolejna runda pism, ponieważ jego poprzedni prawnik złożył niezweryfikowany wynik AI.

To proceduralne cofnięcie sprawy tworzy główne napięcie artykułu. ChatGPT obiecywał szybszy przegląd obszernego materiału, lecz niezweryfikowany wynik zwiększył nakład pracy wszystkich zaangażowanych osób.

Brief Stephena Aaronsa z ChatGPT naraził klienta na ryzyko

Halucynacyjna odpowiedź staje się czymś zasadniczo innym, gdy trafia do akt sądowych opatrzona podpisem prawnika.

Generatywna AI tworzy tekst, przewidując prawdopodobne sekwencje słów. Nie gwarantuje niezależnie, że dane stwierdzenie odpowiada protokołowi rozprawy, cytowanemu orzeczeniu lub materiałowi dowodowemu.

To ograniczenie jest powszechnie określane jako halucynacja. W tym kontekście halucynacja AI to pewne siebie stwierdzenie, które nie ma oparcia w dostępnych źródłach prawnych.

Termin może brzmieć niewinnie, ponieważ powstał jako techniczny skrót. W apelacji karnej jego skutkiem może jednak być fałszywy opis tego, kto zeznawał i co te osoby powiedziały ławie przysięgłych.

Apelacja od wyroku za zabójstwo opiera się na zamkniętym materiale sprawy. Sędziowie apelacyjni analizują to, co wydarzyło się w sądzie pierwszej instancji, zamiast prowadzić nowy proces lub przesłuchiwać zastępczych świadków.

Prawnik może zakwestionować rozstrzygnięcia dowodowe, instrukcje dla ławy przysięgłych, kwestie konstytucyjne lub wystarczalność dowodów. Nie może jednak uzupełniać akt o dodatkowe osoby ani przepisywać zeznań, aby wzmocnić argumentację.

Brief Stephena Aaronsa z ChatGPT miał wielokrotnie przekroczyć tę granicę. Jego błędy dotknęły podstawowego materiału, którego sędziowie apelacyjni używają do oceny twierdzeń prawnych.

Konsekwencje dla klienta mają większe znaczenie niż zamieszanie wokół chatbota. Sandoval nie otrzymał niekorzystnego rozstrzygnięcia apelacji wskutek postanowienia o obrazie sądu. Mimo to pismo opóźniło i skomplikowało jego drogę do kontroli sprawy.

Sąd stwierdził, że Aarons nie poinformował Sandovala o nieścisłościach. Ustalił także, że nie powiedział klientowi o postępowaniu wzywającym do wykazania przyczyny ani nie przekazał związanych z nim pism.

Te zaniechania pozbawiły klienta informacji o poważnym zakłóceniu jego reprezentacji. Pozostawiły też sądowi konieczność zorganizowania zastępczego pełnomocnika po wykryciu problemu.

Obrońca publiczny musi teraz przeanalizować akta procesu, ocenić możliwe zarzuty i przygotować nowe pisma. Prokuratorzy oraz pracownicy sądu muszą wrócić do apelacji, którą zaczęli już rozpatrywać.

W ten sposób pozorne narzędzie zwiększające efektywność może przenosić pracę zamiast ją eliminować. Jeden użytkownik początkowo oszczędza czas, podczas gdy kilku innych uczestników ponosi koszt wykrycia i naprawienia niepopartych materiałów.

Według relacji Reutersa pismo zdaje się wykraczać poza wcześniejsze incydenty skupione na fikcyjnym precedensie. Wprowadzało sfabrykowane zeznania do apelacji karnej.

Ta eskalacja wyjaśnia stanowczość reakcji sądu. Fałszywy precedens może wprowadzić sędziego w błąd co do prawa. Fałszywy świadek może wprowadzić sędziego w błąd co do tego, co wydarzyło się w samej sprawie.

Oba uchybienia naruszają oczekiwanie, że pełnomocnik zweryfikuje pismo. Jednak faktyczne zmyślenia mogą być trudniejsze do wykrycia, ponieważ akta procesu są obszerne, specyficzne dla danej sprawy i często niedostępne w zwykłym wyszukiwaniu internetowym.

Strona przeciwna może szybko wychwycić nieprawidłowy cytat z opublikowanego orzeczenia. Wykrycie wymyślonych zeznań może wymagać przeszukania tysięcy stron protokołów i porównania relacji kilku świadków.

To obciążenie sprawia, że identyfikowalność źródeł jest niezbędna. System tworzący projekty pism powinien zachowywać źródło stojące za każdym twierdzeniem faktycznym oraz wskazywać, gdzie znajduje się wspierający je fragment.

Nawet wtedy linki do źródeł nie mogą zastąpić oceny prawniczej. Człowiek dokonujący przeglądu musi potwierdzić, że cytowany fragment pochodzi od właściwego świadka i potwierdza otaczające go twierdzenie.

Ta sama dyscyplina obowiązuje poza prawem. Zespoły używające AI do streszczania dokumentów technicznych potrzebują przeszukiwalnej bazy wiedzy, która utrzymuje wnioski w powiązaniu z oryginalnymi materiałami.

Pisma sądowe szczególnie wyraźnie uwidaczniają ten obowiązek, ponieważ sędziowie mogą nakładać sankcje. Podstawowa lekcja dotyczy także raportów zgodności, podsumowań medycznych, audytów i innej pracy wrażliwej na dowody.

Szybsze tworzenie pism zderzyło się z osobistą odpowiedzialnością

Sąd potraktował ChatGPT jako narzędzie podlegające nadzorowi, podczas gdy odpowiedzialność w całości pozostała po stronie prawnika, który złożył jego wynik.

Aarons miał korzystać z ChatGPT, aby pomóc w streszczaniu protokołów rozpraw i przygotowaniu briefu apelacyjnego. Ten przypadek użycia brzmi atrakcyjnie, ponieważ akta karne mogą zawierać obszerne zeznania, materiały dowodowe, wnioski i historię postępowania.

Streszczanie może pomóc prawnikowi odnaleźć główne wątki i uporządkować notatki. Może też zbyt agresywnie skracać treść, przez co znikają zastrzeżenia, sprzeczności i tożsamości mówców.

Chatbot ogólnego przeznaczenia niesie dodatkowe zagrożenie. Jeśli nie potrafi odnaleźć żądanego faktu, może wygenerować wiarygodnie brzmiący substytut, zamiast wyraźnie wskazać lukę.

Ryzyko rośnie, gdy wynik odpowiada konwencjom pisma prawniczego. Wymyślone nazwiska, cytaty i przypisy mogą pojawić się w dopracowanej prozie, która wygląda na gotową do złożenia.

Profesjonalne formatowanie nie jest dowodem wiarygodności faktycznej. Płynność języka opisuje jedynie, jak naturalnie brzmi wynik, a nie to, czy każde twierdzenie znajduje oparcie w aktach.

Wyjaśnienie Aaronsa, przedstawione przed pojawieniem się pisemnego postanowienia, koncentrowało się na nadmiernym poleganiu na narzędziu. Powiedział, że nie spodziewał się, iż narzędzie stworzy spójne, fikcyjne zeznania, cytaty i źródła.

To wyjaśnienie ujawnia dokładny mechanizm porażki. Użytkownik, który oczekuje streszczenia opartego na ekstrakcji treści, może nie rozpoznać, że model generatywny potrafi tworzyć materiał nieobecny w źródle.

Jednak zasady zawodowe nakładają obowiązek weryfikacji na pełnomocnika. Model nie ma licencji, relacji z klientem, obowiązku szczerości wobec sądu ani odpowiedzialności dyscyplinarnej.

American Bar Association omówiło ten podział w Formal Opinion 512. Jego wytyczne etyczne dotyczące AI wskazują, że istniejące obowiązki regulują działania prawników korzystających z systemów generatywnych.

Obowiązki te obejmują kompetencje, poufność, komunikację, nadzór, szczerość oraz rozsądne rozliczanie kosztów. Prawnicy muszą wystarczająco dobrze rozumieć możliwości i ograniczenia narzędzia, aby korzystać z niego odpowiedzialnie.

State Bar of New Mexico wydała również szczegółowe wytyczne przed złożeniem tego pisma. Jej opinia etyczna zezwala prawnikom na korzystanie z generatywnej AI, lecz wyłącznie przy zachowaniu istniejących obowiązków zawodowych.

Opinia podkreśla obowiązek szczerości wobec organów orzekających i prawdomówność. Obejmuje także poufność, konflikty interesów, nadzór oraz traktowanie honorariów i kosztów.

Problem nie polegał zatem na braku stanowej reguły zakazującej ChatGPT z nazwy. Ustanowione obowiązki już wymagały dokładnych twierdzeń faktycznych i rzetelnego przedstawiania źródeł prawa.

Sąd oparł swoje postanowienie na tych powszechnie znanych obowiązkach. Przywołał zasady dotyczące pism procesowych, które zezwalają na nakładanie sankcji, w tym za obrazę sądu, gdy prawnicy nie przestrzegają wymogów.

Odwołał się także do uprawnienia sądownictwa do regulowania postępowań i dyscyplinowania adwokatów. Wskazany cel obejmuje ochronę społeczeństwa, reputacji zawodu oraz prawidłowego wymiaru sprawiedliwości.

Takie podejście sprawia, że sądy nie są uzależnione od konkretnego modelu ani wersji oprogramowania. Prawnik nadal ponosi odpowiedzialność niezależnie od tego, czy błąd pochodził z ChatGPT, innego asystenta, platformy wyszukiwawczej czy niestarannego ręcznego redagowania.

Zasada ta wywiera presję zarówno na kancelarie prawne, jak i dostawców technologii prawniczych. Kancelarie potrzebują procedur kontroli odpowiadających ryzyku każdego zadania. Dostawcy potrzebują interfejsów, które zniechęcają do bezpodstawnego kopiowania treści do gotowej pracy.

Sesja burzy mózgów o niskim ryzyku nie wymaga takich samych zabezpieczeń jak twierdzenie faktyczne w apelacji w sprawie o zabójstwo. Proces powinien stawać się bardziej rygorystyczny wraz ze wzrostem konsekwencji błędu.

W przypadku pracy z transkrypcjami oznacza to, że każde twierdzenie faktyczne wymaga źródła na poziomie konkretnej strony. Każdy cytat wymaga porównania z oryginalnym zapisem. Każda wymieniona z nazwiska osoba wymaga potwierdzenia na liście świadków lub w transkrypcji.

W przypadku podstaw prawnych recenzenci muszą otworzyć orzeczenie i przeczytać odpowiedni fragment. Potwierdzenie, że dana sprawa istnieje, nie wystarcza, gdy AI błędnie przedstawiła jej rozstrzygnięcie.

Kontrole te zmniejszają część oszczędności czasu obiecywanych przez generatywną AI. Nie jest to dowód, że technologia nie ma wartości. Oznacza to, że jej niezawodne wdrożenie wymaga uwzględnienia pracy weryfikacyjnej.

Kluczowy kompromis jest zatem mierzalny. Automatyzacja może przyspieszyć przygotowanie pierwszego szkicu, ale profesjonalista nadal ponosi koszt udowodnienia jego poprawności.

Narzędzia Legal AI Nie Wyeliminowały Halucynacji

Systemy prawnicze stworzone do konkretnych celów mogą ograniczać niepoparte źródłami odpowiedzi, ale żaden interfejs nie zwalnia recenzenta z obowiązku sprawdzenia wyniku.

Pismo Stephena Aaronsa przygotowane z użyciem ChatGPT dotyczyło ogólnego narzędzia AI. Nie wykazało ono, że każdy produkt legal AI działa identycznie ani że wiąże się z takim samym ryzykiem.

Niektóre platformy badań prawniczych korzystają z generowania wspomaganego wyszukiwaniem. RAG to metoda łącząca generowane odpowiedzi z wybranym zbiorem dokumentów źródłowych.

Teoretycznie wyszukiwanie zawęża bazę dowodową modelu i dostarcza cytowania do weryfikacji. Może ułatwiać sprawdzanie, ponieważ użytkownik może otworzyć przywołane źródło obok wygenerowanej odpowiedzi.

Jednak wyszukiwanie nie gwarantuje, że odpowiedź wiernie przedstawia źródła. Model może zacytować prawdziwy dokument, który nie potwierdza twierdzenia umieszczonego obok niego.

Badacze ze Stanfordu ocenili produkty do badań prawniczych wspomaganych przez AI firm LexisNexis i Thomson Reuters. W ich badaniu porównano także te systemy z ogólnym modelem GPT.

Badacze zgłosili wskaźniki halucynacji od 17 do 33 procent dla testowanych specjalistycznych produktów. Systemy radziły sobie lepiej niż modele ogólnego przeznaczenia, lecz odpowiedzi niepoparte źródłami lub błędnie ugruntowane nadal występowały.

Badanie legal AI wskazywało, że problem halucynacji nie został rozwiązany. Wezwało do publicznych benchmarków i bardziej rygorystycznych ocen.

Ustalenia te nie przewidują dokładności każdego obecnego produktu ani każdego zadania prawniczego. Modele, systemy wyszukiwania, prompty i bazowe bazy danych nadal się zmieniają.

Benchmark koncentrował się również na pytaniach badawczych, a nie na streszczaniu transkrypcji w konkretnej sprawie karnej. Wyniki produktu w odniesieniu do opublikowanych orzeczeń nie potwierdzają jego niezawodności wobec przesłanych dowodów.

To rozróżnienie ma znaczenie przy ocenie błędów prawnych ChatGPT. Bazy danych badań prawniczych zwykle zawierają ustrukturyzowane źródła z rozpoznawalnymi cytowaniami. Akta procesowe często obejmują niedoskonałe transkrypcje, skróty, nakładające się nazwiska i fragmentaryczne zeznania.

System może poprawnie odnaleźć sprawę, a jednocześnie pomylić dwóch świadków w aktach. Może też prawidłowo przytoczyć transkrypcję, lecz pominąć sąsiedni fragment, który zmienia znaczenie.

Właściwy sceptycyzm działa w obu kierunkach. Jedna porażka sądowa nie dowodzi, że prawnicy muszą porzucić AI. Zapewnienia dostawców również nie uzasadniają traktowania wygenerowanego tekstu jako zweryfikowanego.

Istotne pytanie brzmi, czy proces pracy ułatwia wykrycie niepopartych twierdzeń przed złożeniem pisma. Przydatny system powinien ujawniać niepewność, zachowywać cytowania i upraszczać porównywanie ze źródłem.

Powinien również zapobiegać cichemu wypełnianiu luk przez model. Gdy w aktach brakuje odpowiedzi, „nie znaleziono” jest bezpieczniejsze niż dopracowana rekonstrukcja.

Kancelarie mogą wzmocnić te zabezpieczenia poprzez projektowanie zadań. Mogą oddzielić burzę mózgów od ekstrakcji faktów oraz ograniczyć wrażliwe dokumenty do zatwierdzonych systemów.

Mogą wymagać od prawników prowadzenia rejestru twierdzeń. Każde twierdzenie faktyczne wskazywałoby stronę transkrypcji, załącznik dowodowy, wpis w rejestrze sprawy lub opublikowane źródło prawne.

Nadzorujący mogą następnie audytować twierdzenia wysokiego ryzyka zamiast ponownie czytać każde wygenerowane zdanie bez kontekstu. Taki proces tworzy dowody, że weryfikacja się odbyła, choć sama dokumentacja nie może dowieść starannej kontroli.

Szkolenia muszą skupiać się na zachowaniu, a nie na ogólnych ostrzeżeniach. Powiedzenie prawnikom, że AI czasami halucynuje, daje niewiele wskazówek podczas rzeczywistego terminu złożenia pisma.

Praktyczny standard pyta, czy inny recenzent może odtworzyć każde twierdzenie na podstawie przywołanego źródła. Jeśli odpowiedź brzmi nie, fragment nie jest gotowy dla sądu.

Istnieje również kwestia poufności odrębna od dokładności. Przesłanie akt sprawy do usługi zewnętrznej może ujawnić chronione informacje klienta, zależnie od warunków i mechanizmów kontroli danego produktu.

Postanowienie z Nowego Meksyku nie rozstrzygnęło tej kwestii. Koncentrowało się na fałszywych przedstawieniach faktów i prawa, komunikacji z klientem oraz zachowaniu Aaronsa przed sądem.

Czytelnicy nie powinni wyciągać wniosku o odrębnym ustaleniu dotyczącym poufności, którego sędziowie nie dokonali. Postanowienie nie ustala również, że ChatGPT stworzył każdy fałszywy fragment bez modyfikacji ze strony użytkownika.

Ustala coś węższego, lecz nadal poważnego. Aarons przyznał, że użył narzędzia, złożył niezweryfikowany wynik i nie poinformował klienta o wynikających z tego problemach.

Halucynacje AI w Sądzie Mają Teraz Przewidywalne Konsekwencje

Sprawa z Nowego Meksyku wpisuje się w utrwalony schemat sankcji, lecz sfabrykowane fakty dotyczące procesu przenoszą ten schemat na bardziej niebezpieczny poziom.

W 2023 roku prawnicy w sprawie Mata v. Avianca złożyli nieistniejące orzeczenia sądowe wygenerowane przez ChatGPT. Sędzia federalny nałożył sankcję w wysokości 5 000 USD po zbadaniu ich postępowania i późniejszych odpowiedzi.

Sprawa ta stała się wczesnym ostrzeżeniem przed halucynacjami AI w sądzie. Pokazała, że pozornie wiarygodne cytowanie może przejść przez redagowanie, wewnętrzną kontrolę i złożenie pisma, gdy nikt nie otwiera źródłowego orzeczenia.

Incydent w Nowym Meksyku nastąpił, gdy ostrzeżenie to było już powszechnie znane. Nastąpił także po wydaniu krajowych i stanowych wytycznych etycznych dotyczących korzystania przez prawników z generatywnej AI.

Sądy mogą zatem oczekiwać, że prawnicy rozumieją podstawowe ryzyko. Twierdzenie o zaskoczeniu staje się mniej przekonujące, gdy publiczne sankcje, opinie izb adwokackich i szkolenia zawodowe już opisują problem.

Zmienił się także zakres faktyczny. Mata dotyczyła fikcyjnych precedensów w cywilnym sporze lotniczym. Pismo Stephena Aaronsa przygotowane z użyciem ChatGPT miało rzekomo wymyślić uczestników i zeznania w aktach sprawy o zabójstwo.

Australijskie postępowanie w sprawie o zabójstwo przyniosło kolejne ostrzeżenie w 2025 roku. Pisma obrony zawierały sfabrykowane cytaty i nieistniejące sprawy, powodując opóźnienie, podczas gdy sąd prowadził dochodzenie.

Tamtejszy prawnik przeprosił i przyjął odpowiedzialność. Sędzia stwierdził, że niezależna i dokładna weryfikacja jest konieczna, zanim prawnicy wykorzystają materiały wygenerowane przez AI.

Australijskie pismo pokazuje, że ryzyko nie ogranicza się do jednego amerykańskiego sądu ani jednej dziedziny praktyki. Podobne błędy pojawiają się wszędzie tam, gdzie płynność generowanego tekstu wyprzedza sprawdzanie źródeł.

Mimo to sankcje nie są automatyczne za każdym razem, gdy pismo zawiera błąd. Sądy biorą pod uwagę zachowanie prawnika, jego reakcję, szczerość, działania naprawcze i obowiązujące zasady proceduralne.

Błąd typograficzny różni się od przedstawienia wymyślonych zeznań jako części akt. Szybka korekta różni się od ukrywania problemu lub pozostawienia klienta bez informacji.

Sąd Najwyższy Nowego Meksyku podkreślił przyznanie się Aaronsa do winy i jego reakcję na postępowanie. Ustalenie dotyczące jego skruchy i troski o klienta pomogło odróżnić tę sprawę od przypadkowego błędu szybko naprawionego.

Postanowienie nie ma charakteru precedensowego, co oznacza, że sąd nie wydał go jako formalnej opinii wiążącej w późniejszych sprawach. Status ten ogranicza sposób, w jaki prawnicy powinni przywoływać je jako źródło.

Jego praktyczny skutek pozostaje realny. Aaronsowi grozi kara za obrazę sądu, sankcja finansowa, usunięcie z apelacji, zakaz występowania przed sądem oraz postępowanie dyscyplinarne.

Publiczny zapis rodzi także konsekwencję reputacyjną, która może przetrwać płatność. Wyszukiwania nazwiska prawnika będą łączyć go z wymyślonymi świadkami w apelacji dotyczącej zabójstwa.

Dla kancelarii ta konsekwencja zmienia kalkulację ryzyka związaną z wdrażaniem technologii. Koszt niedostatecznej kontroli może obejmować zastępczego pełnomocnika, powieloną pracę, ryzyko dyscyplinarne i utratę zaufania klienta.

Dla sądów powtarzające się incydenty tworzą presję, by wymagać oświadczeń lub ujawnień. Niektórzy sędziowie już wymagają deklaracji potwierdzających, że tekst i cytowania wygenerowane przez AI zostały poddane kontroli człowieka.

Takie reguły mogą przypominać prawnikom o ich obowiązkach, ale nie mogą sprawdzić, czy weryfikacja była rzeczywiście znacząca. Zaznaczone pole nie ujawnia, czy ktokolwiek otworzył transkrypcję.

Kontrole techniczne napotykają to samo ograniczenie. System może dołączyć cytowanie do każdego zdania, a mimo to łączyć twierdzenia z nieistotnymi lub sprzecznymi fragmentami.

Najsilniejsza ochrona łączy ograniczenia produktu z profesjonalną kontrolą. Oprogramowanie powinno czynić dowody widocznymi, podczas gdy prawnicy muszą porównywać dowody z twierdzeniem zawartym w składanym piśmie.

To połączenie zachowuje użyteczną automatyzację bez przypisywania osądu modelowi probabilistycznemu. Daje też nadzorującym konkretny proces do skontrolowania.

Sprawy tej nie należy zatem sprowadzać do stwierdzenia: „ChatGPT coś wymyślił”. Systemy generatywne są znane z tworzenia tekstu niepopartego źródłami, zwłaszcza gdy prosi się je o uzupełnienie brakujących szczegółów.

Decydujący moment nastąpił, gdy niezweryfikowany wynik trafił do podpisanego pisma sądowego. Sąd ukarał ludzkiego profesjonalistę odpowiedzialnego za to przejście.

Na Co Sądy, Kancelarie i Dostawcy AI Powinni Zwracać Uwagę Następnie

Trzy wydarzenia pokażą, czy ta sprawa przyniesie trwałe zabezpieczenia, czy stanie się kolejnym ostrzeżeniem, którego procesy prawne nie potrafią przyswoić.

Pierwszym sygnałem jest postępowanie dyscyplinarne w Nowym Meksyku. Sąd Najwyższy skierował Aaronsa do Komisji Dyscyplinarnej, lecz wrześniowe postanowienie nie ogłosiło ostatecznej sankcji zawodowej.

Śledczy mogą zbadać kwestie wykraczające poza postępowanie dotyczące obrazy sądu i zalecić odpowiednią reakcję zgodnie z zasadami dyscyplinarnymi. Sąd stwierdził, że po tym procesie podejmie dalsze ustalenia, jeśli dojdzie do postępowania.

Znaczna dodatkowa sankcja wzmocniłaby przekaz, że niezweryfikowane treści AI stanowią naruszenie zasad wykonywania zawodu. Ograniczona reakcja sugerowałaby, że za samo złożenie pisma uznano za wystarczające ukaranie za obrazę sądu i usunięcie z apelacji.

Drugim sygnałem jest wznowiona apelacja Sandovala. Nowy pełnomocnik musi zgłosić swoje wystąpienie, odtworzyć argumentację w pismach i wskazać argumenty poparte rzeczywistymi aktami procesu.

Proces ten ujawni praktyczną szkodę spowodowaną przez fałszywe pismo. Sąd zamierza umieścić apelację w kalendarzu na lata 2026–2027, lecz nie podano konkretnej daty rozprawy.

Szybki, uporządkowany restart ograniczyłby szkodę dla klienta. Dalsze opóźnienia lub spory dotyczące akt pokazałyby, jak długo jedno wadliwe pismo przygotowane z pomocą AI może wpływać na sprawę karną.

Trzecim sygnałem jest reakcja sądów i dostawców technologii prawniczych. Sądy mogą wprowadzać poświadczenia weryfikacji, a dostawcy mogą dodać mechanizmy kontroli na poziomie źródeł dla pracy z transkrypcjami i cytowaniami.

Najbardziej znaczącą zmianą produktu nie byłoby kolejne ogólne zapewnienie o dokładności. Byłby nią przepływ pracy, który odmawia uzupełniania niepopartych faktów i ujawnia dowody stojące za każdą odpowiedzią.

Niezależne testowanie pozostanie ważne. Każdy dostawca może zaprezentować korzystny przykład, ale użytkownicy potrzebują ocen mierzących działanie w odniesieniu do nieznanych akt i pytań o charakterze konfrontacyjnym.

Kancelarie powinny również monitorować, czy ich własne procedury kontroli działają pod presją terminów. Polityka wymagająca weryfikacji niewiele znaczy, jeśli prawnicy nie mają czasu, przeszkolenia lub dostępu do źródeł.

Bezpośrednia lekcja jest prosta. AI może pomagać w porządkowaniu akt, tworzeniu zarysu argumentacji lub wskazywaniu możliwych problemów. Nie może jednak przejąć obowiązku prawnika dotyczącego rzetelności wobec sądu.

Każde stwierdzenie faktyczne w piśmie sądowym musi mieć ścieżkę prowadzącą z powrotem do dopuszczalnego materiału dowodowego. Każda teza prawna musi być poparta źródłem, które mówi to, co twierdzi pismo.

Ten standard jest wymagający, ponieważ praca apelacyjna zawsze była wymagająca. Generatywna AI zmienia interfejs redagowania, ale nie obniża wymogu dokładności.

Pismo Stephen Aarons przygotowane z użyciem ChatGPT zmieniło obiecaną drogę na skróty w zarzut obrazy sądu, zastępczego pełnomocnika i całkowicie nowy cykl składania pism. Specjaliści z branży prawniczej mają teraz kolejne udokumentowane ostrzeżenie — tym razem dotyczące wymyślonych świadków, a nie tylko wymyślonych spraw.

Kolejne pytanie brzmi, czy organizacje przeprojektują swoje przepływy pracy, zanim następny klient poniesie konsekwencje. Prawnicy korzystający z AI powinni przed złożeniem pisma sprawdzić jedną rzecz: czy każde ważne zdanie można udowodnić na podstawie oryginalnych akt?