Sankcje wobec Stephena Aaronsa za ChatGPT zamieniają fałszywych świadków w kryzys prawny

Stephen Aarons otrzymał karę w wysokości 5 000 dolarów po tym, jak jego pismo apelacyjne przygotowane z pomocą ChatGPT przedstawiało fałszywe zeznania i świadków, którzy nigdy nie wystąpili w procesie. Sąd Najwyższy Nowego Meksyku uznał także doświadczonego obrońcę za winnego bezpośredniej obrazy sądu. Sankcje wobec Stephena Aaronsa za ChatGPT ujawniają porażkę znacznie poważniejszą niż kolejny zmyślony cytat z orzecznictwa.

Aarons reprezentował Oscara Renee Sandovala, który po skazaniu za zabójstwo otrzymał wyrok dożywotniego pozbawienia wolności. Według sądu pismo apelacyjne błędnie przedstawiało zarówno zapis procesu, jak i źródła prawne. Niektóre fragmenty opisywały zeznania sfabrykowanych świadków, w tym rzekome obserwacje dotyczące ubrania i wyglądu strzelca.

Ta różnica zmienia wagę sprawy. Wcześniejsze sankcje związane z AI często dotyczyły nieistniejących spraw lub cytatów. To pismo miało natomiast zmienić faktyczną historię procesu karnego, w którym wolność klienta zależała od rzetelnego zapisu. Przekształciło niewiarygodne podsumowanie w rzekomy dowód i wprowadziło ten materiał przed najwyższy sąd stanowy.

Sankcje wobec Stephena Aaronsa za ChatGPT wykraczały poza grzywnę

Sąd potraktował pismo jako zagrożenie dla samej apelacji, a nie jedynie kompromitujący błąd badawczy.

Sąd Najwyższy Nowego Meksyku nałożył sankcje 9 września 2026 r. Sędziowie uznali Aaronsa za winnego bezpośredniej obrazy sądu i nakazali mu wpłatę 5 000 dolarów do Funduszu Ochrony Klientów Izby Adwokackiej Nowego Meksyku.

Sąd skierował również sprawę do postępowania dyscyplinarnego wobec adwokata. Aarons nie może występować przed Sądem Najwyższym stanu, dopóki postępowanie pozostaje w toku. To ograniczenie odróżnia tę sprawę od incydentów kończących się ostrzeżeniem lub obowiązkowym szkoleniem.

Istniejące pisma apelacyjne zostały wykreślone. Apelację Sandovala przekazano adwokat Kim Chavez Cook za pośrednictwem systemu obrony publicznej Nowego Meksyku. Zgodnie z relacją ze sprawy opublikowaną przez Reuters, postępowanie apelacyjne pozostaje w toku.

Środki te uwzględniają dwie odrębne szkody. Pierwsza dotyczy sądu, który otrzymał pismo zawierające materiał niezgodny z zapisem sprawy. Druga dotyczy Sandovala, którego bezpośrednia apelacja została opóźniona i musiała rozpocząć się od nowa z nowym obrońcą.

Sandoval nie przyznał się do zabójstwa matki swoich dzieci. Został skazany i otrzymał wyrok dożywotniego pozbawienia wolności w 2025 r. Jego apelacja w sprawie zagrożonej najsurowszą karą podnosiła kwestie dotyczące dowodów, ujawniania świadków, zeznań biegłych, prawa do konfrontacji oraz skuteczności obrony na etapie procesu.

Lista spraw na kadencję nowomeksykańskiego sądownictwa potwierdza te zagadnienia apelacyjne. Wymagały one starannego porównania zapisu procesu, zachowanych zastrzeżeń oraz wiążącego prawa.

Sąd stwierdził jednak, że złożone pismo zawierało fałszywe zeznania policji i wypowiedzi przypisane osobom, które ich nie złożyły. Zawierało też niedokładne opisy źródeł prawnych.

Rozróżnienie między dowodem a argumentem ma znaczenie. Sfabrykowany precedens może zniekształcić regułę prawną rządzącą sprawą. Sfabrykowane zeznania mogą przepisać to, co usłyszeli przysięgli, którzy świadkowie istnieli i dlaczego wyrok powinien zostać uchylony.

Fałszywe podsumowanie faktów może następnie skazić każdy argument zbudowany na jego podstawie. Roszczenie dotyczące nieskutecznej pomocy prawnej zależy na przykład od tego, co zrobił obrońca i co faktycznie zawierał materiał sprawy. Wymyślony świadek może stworzyć uchybienie, które nigdy nie nastąpiło.

Reakcja sądu objęła więc pismo, prawnika i reprezentację klienta. Wykreślenie pism usunęło skażony rezultat pracy. Wyznaczenie nowego obrońcy zapewniło oskarżonemu czystą drogę naprzód. Skierowanie sprawy do postępowania dyscyplinarnego przeniosło kwestie zawodowe poza samą apelację.

Ta struktura wyjaśnia, dlaczego sankcje wobec Stephena Aaronsa za ChatGPT zasługują na uwagę także poza Nowym Meksykiem. Sąd nie ogłosił, że prawnicy muszą unikać generatywnej AI. Wyegzekwował starszą zasadę, zgodnie z którą prawnik nadal odpowiada za każde twierdzenie zawarte w złożonym piśmie.

Incydent podważa również znaną linię obrony przed błędami AI. Aarons nazwał zdarzenie uczciwym błędem i stwierdził, że nie rozumiał, jak szeroko ChatGPT może wymyślać fakty. Sąd skupił się natomiast na niezweryfikowanym dokumencie opatrzonym jego podpisem.

Podpisane pismo nie jest notatką do burzy mózgów. To formalne oświadczenie składane sędziom, stronie przeciwnej i klientowi. Gdy wygenerowany tekst trafia do takiego dokumentu, jego pochodzenie nie zmniejsza odpowiedzialności prawnika.

Podsumowanie AI stało się fałszywą wersją procesu

Kluczowa porażka nastąpiła, gdy wygenerowaną prozę potraktowano jako wierny zapis bez weryfikacji linijka po linijce.

Podczas rozprawy 21 sierpnia Aarons opisał, że przekazał ChatGPT transkrypcję wygenerowaną komputerowo i inne materiały ze sprawy. Oczekiwał, że system stworzy, jak to określił, „kuloodporne podsumowanie”.

To oczekiwanie odwracało właściwy ciężar dowodu. Model generatywny tworzy wiarygodnie brzmiący tekst na podstawie wzorców i kontekstu. Nie poświadcza, że każde zdanie występuje w przesłanej transkrypcji.

Halucynacja AI to pewna siebie odpowiedź, która nie znajduje potwierdzenia w istotnych dowodach lub źródłach. Termin może brzmieć niewinnie, lecz jego konsekwencje zależą od miejsca, do którego trafia wynik. Błędne podsumowanie w prywatnych notatkach wywołuje zamieszanie. To samo podsumowanie w piśmie apelacyjnym staje się oświadczeniem złożonym sądowi.

Pismo miało przypisywać wypowiedzi Danny’emu Stantonowi i Lindzie Stanton, które sąd uznał za fałszywe. Odnosiło się także do Mariah Chavez i Teresy Marquez w opisach dotyczących ubrania i wyglądu strzelca. Sąd wskazał Marquez jako sfabrykowanego świadka.

Jeden z fragmentów najwyraźniej stwierdzał, że strzelec miał na sobie ciemne spodnie i białą koszulę. Brzmiało to jak zwyczajny szczegół faktyczny, przez co łatwo było włączyć go do szerszej narracji. Sąd nie znalazł jednak dla tego twierdzenia żadnego ważnego potwierdzenia w materiale sprawy.

To trudniejszy problem niż wykrycie oczywiście absurdalnej odpowiedzi. Wygenerowana proza prawnicza często wykorzystuje właściwy ton, oczekiwane słownictwo i znajomą strukturę argumentacji. Te cechy sprawiają, że niepoparte szczegóły wyglądają na ustalone.

Prawnik czytający pobieżnie może rozpoznać ogólną historię, ale przeoczyć wymyśloną tkankę łączną. Nazwiska, opisy ubioru, groźby i obserwacje świadków mogą wydawać się zgodne z otaczającym materiałem. Płynność języka maskuje brak pochodzenia informacji.

Proces pracy zacierał również granicę między dwoma różnymi dokumentami. Transkrypcja rejestruje zeznania i wydarzenia na sali sądowej. Podsumowanie wygenerowane przez model jest nowym tekstem utworzonym na podstawie tego źródła. Musi być traktowane jako interpretacja, dopóki każde istotne twierdzenie nie zostanie prześledzone do źródła.

Przesłanie materiału źródłowego nie eliminuje halucynacji. Długie akta mogą przekraczać efektywną uwagę systemu, zawierać błędy transkrypcji lub zachęcać do niepopartej syntezy. Model może także połączyć sąsiadujące szczegóły w wypowiedź, której żaden świadek nie złożył.

Ryzyko rośnie, gdy instrukcje wymagają ostatecznej narracji. Określenia takie jak „kompletne”, „kuloodporne” lub „wyczerpujące” mogą premiować pozorną kompletność zamiast wyraźnej niepewności. Wynik może wypełniać luki, zamiast je sygnalizować.

Rzetelny proces pracy prawniczej wymaga pochodzenia informacji na poziomie poszczególnych twierdzeń. Każde zdanie dotyczące faktów powinno wskazywać stronę transkrypcji, eksponat, wpis w aktach lub ustalenie sądu. Każdy cytat powinien dokładnie odpowiadać źródłu. Każda przywołana sprawa powinna istnieć i potwierdzać wskazaną tezę.

Proces ten nie może kończyć się na zapytaniu tego samego chatbota, czy jego podsumowanie jest dokładne. Generator może bronić własnego niepopartego wyniku kolejnymi zmyślonymi wyjaśnieniami. Weryfikacja wymaga powrotu do niezależnego materiału źródłowego.

Wniosek wykracza poza prawo. Badacze, analitycy, konsultanci i kadra zarządzająca coraz częściej używają AI do skracania długich zbiorów informacji. Zagrożenie rośnie, gdy podsumowanie staje się jedyną wersją, którą widzą późniejsi recenzenci.

Zespoły muszą zachowywać oryginalne dowody obok wygenerowanej syntezy. Ustrukturyzowany proces knowledge blending może pomóc połączyć notatki z dokumentami źródłowymi. Samo wyszukiwanie nie dowodzi jednak, że każde wygenerowane twierdzenie jest poprawne.

Decydującym zabezpieczeniem pozostaje ludzka weryfikacja względem autorytatywnych materiałów. AI może pomagać w znajdowaniu fragmentów, organizowaniu zagadnień i tworzeniu roboczych notatek. Nie powinna przekształcać niezweryfikowanego wniosku w twierdzenie faktyczne.

Obowiązek wynikał z podpisu prawnika, a nie z ChatGPT

Główny konflikt dotyczy delegowanego redagowania i odpowiedzialności zawodowej, której nie można delegować.

Aarons powiedział Reutersowi, że przez ponad 40 lat praktykował obronę w sprawach karnych. Stwierdził, że kiedy w 2025 r. przyjął apelację Sandovala, nie znał skali halucynacji AI.

„Żałuję tego, ale mam nadzieję, że komisja dyscyplinarna uwzględni, iż był to uczciwy błąd” — powiedział. Scharakteryzował ten epizod jako lekcję dla profesjonalistów korzystających z niestabilnej technologii.

Sąd dokonał surowszej oceny. W postanowieniu wskazano, że Aarons przyznał, iż nie zweryfikował twierdzeń faktycznych ani źródeł prawnych przed podpisaniem i złożeniem pisma. Stwierdzono także, że nie poinformował klienta o tych uchybieniach.

Sędziowie uznali, że wykazał niewystarczającą skruchę i troskę o Sandovala. Sędzia C. Shannon Bacon zakwestionowała twierdzenie, że prawnik mógł nie wiedzieć o szeroko opisywanych porażkach AI. Jej pytania podkreślały, że halucynowany materiał prawny stał się już powracającym problemem publicznym.

To napięcie nie wymaga traktowania ChatGPT jako narzędzia bez winy. System wygenerował język, który według Aaronsa i sądu zawierał niepoparty materiał. OpenAI nie przekazało Reutersowi natychmiastowej odpowiedzi na temat sankcji.

Chatbot nie może jednak zgłosić udziału w sprawie, podpisać pisma, doradzać klientowi ani odpowiadać na postanowienie o obrazie sądu. Obowiązki te należą do licencjonowanego pełnomocnika. System prawny przypisuje odpowiedzialność osobie uprawnionej do działania.

American Bar Association doszło do tego samego podstawowego wniosku przed tą sprawą. Jego opinia etyczna dotycząca AI stanowi, że prawnicy muszą rozumieć korzyści i ryzyka związane z narzędziem generatywnym.

Formal Opinion 512 łączy wykorzystanie AI z istniejącymi obowiązkami dotyczącymi kompetencji, poufności, komunikacji z klientem, nadzoru, szczerości, zasadności roszczeń i rozsądnych honorariów. Nie tworzy wyjątku dotyczącego AI od tych obowiązków.

Wytyczne opisują również generatywne systemy tekstowe jako narzędzia predykcyjne. Tworzą one statystycznie prawdopodobne wyniki na podstawie wzorców w danych. Taka konstrukcja różni się od bazy danych zwracającej uwierzytelniony dokument sądowy.

Prawnik może delegować badania lub redagowanie współpracownikom, asystentom prawnym, wykonawcom i oprogramowaniu. Delegowanie zmienia osobę wykonującą pierwszy etap pracy. Nie zmienia jednak tego, kto musi nadzorować pracę lub zweryfikować złożone pismo.

Ta sprawa pokazuje, dlaczego samo ujawnienie użycia AI nie rozwiązałoby problemu. Oznaczenie „z pomocą AI” mogłoby zaalarmować sąd, ale nie uczyniłoby sfabrykowanych zeznań prawdziwymi. Sędziowie nie mogą stawać się weryfikatorami faktów dla każdego pisma przygotowanego z użyciem oprogramowania.

Zakazy używania narzędzi napotykają podobne ograniczenia. Prawnik może wprowadzić fałszywe informacje przez zawodną pamięć, niedbałe dyktowanie, nieprzeszkolony personel lub zwykłe błędy kopiowania i wklejania. Sądy interesuje dokładność podpisanego pisma, niezależnie od metody jego przygotowania.

Lepsza granica podziału dotyczy weryfikacji. Pomoc AI może pozostać użyteczna, gdy każde istotne twierdzenie jest sprawdzane z aktami. Staje się niebezpieczna, gdy płynność językowa zastępuje tę kontrolę.

Komunikacja z klientem dodaje kolejną warstwę. Osoba skarżąca wyrok w sprawie karnej powinna rozumieć, kiedy wadliwe pismo procesowe naraziło apelację na ryzyko. Według sądu Aarons nie poinformował Sandovala o faktycznych i prawnych nieprawdziwych przedstawieniach zawartych w piśmie.

To zaniechanie ma znaczenie, ponieważ klient ponosi praktyczne konsekwencje. Pełnomocnikowi grożą sankcje i postępowanie dyscyplinarne, lecz to skarżący doświadcza opóźnienia, niepewności i zakłócenia relacji z prawnikiem.

Odpowiedzialność zawodowa musi zatem obejmować cały proces pracy. Zaczyna się od wyboru odpowiedniego narzędzia i ochrony informacji poufnych. Następnie obejmuje walidację źródeł, merytoryczną kontrolę, komunikację z klientem i końcowe poświadczenie.

Fałszywi świadkowie ChatGPT przekroczyli bardziej niebezpieczną granicę

Zmyślone zeznania przesuwają halucynacje AI z obszaru błędnych badań w stronę skażenia materiału dowodowego.

Najbardziej znana wczesna sprawa dotycząca sankcji dotyczyła Mata v. Avianca. Prawnicy przedstawili nieistniejące orzeczenia sądowe wygenerowane przez ChatGPT w federalnym sporze o odszkodowanie za uszczerbek na zdrowiu. Sędzia nałożył w 2023 roku karę w wysokości 5 000 dolarów.

Sprawa ta ustanowiła trwałe ostrzeżenie. Chatbot może wymyślać nazwy spraw, cytaty, numery spraw i uzasadnienia prawne. Sądy oczekują, że adwokaci potwierdzą takie źródła za pomocą uznanych systemów wyszukiwania prawniczego.

Epizod z Nowego Meksyku rozszerza ten problem. Pismo Aaronsa miało podobno zawierać sfabrykowanych świadków i fałszywe opisy zeznań. Błędy te nie tylko błędnie przedstawiały rozstrzygnięcia innego sądu. Tworzyły fakty w sprawie własnego klienta.

Sądy apelacyjne co do zasady badają istniejące akta. Nie przeprowadzają nowego procesu ani nie traktują faktycznych uzupełnień prawnika jako dowodów. Pisma muszą opierać swoją narrację na protokołach, załącznikach, orzeczeniach i skutecznie zgłoszonych zastrzeżeniach.

Zmyślony szczegół faktyczny może wpłynąć na to, jak sędziowie rozumieją szkodę procesową. Może sprawić, że wyłączony dowód wyda się ważniejszy, wzmocnić argument dotyczący identyfikacji lub zmienić pozorną wartość przesłuchania krzyżowego. Skutki te mogą utrzymywać się nawet po korekcie.

Problem obciąża również pełnomocników strony przeciwnej. Prokuratorzy muszą porównać pismo z aktami i wskazać rozbieżności. Sędziowie oraz urzędnicy sądowi muszą ustalić, czy nietypowe stwierdzenie odzwierciedla autentyczny fragment protokołu, czy wygenerowaną fikcję.

Koszt tej weryfikacji rozprzestrzenia się na cały system. Jeden prawnik może zaoszczędzić czas na redagowaniu, jednocześnie przenosząc pracę kontrolną na sąd, stronę przeciwną, zastępczego pełnomocnika i klienta. Sankcje mają na celu przenieść ten koszt z powrotem na odpowiedzialnego profesjonalistę.

Apelacja w sprawie o zabójstwo w Georgii z 2026 roku pokazała inną drogę skażenia. W sprawie Payne v. State fikcyjne lub błędnie przypisane cytaty pojawiły się w piśmie oskarżenia i projekcie postanowienia podpisanym przez sąd pierwszej instancji.

Orzeczenie w sprawie Payne uchyliło postanowienie sądu pierwszej instancji i przekazało sprawę do wydania nowego. Epizod pokazał, jak wygenerowane błędy mogą przeniknąć z projektu pełnomocnika do dokumentu sądowego.

Ryzyko takiej migracji sprawia, że pochodzenie treści jest kluczowe. Dokumenty prawne są często wykorzystywane ponownie w pismach procesowych, projektach orzeczeń, wewnętrznych notatkach i pismach apelacyjnych. Gdy niepoparty źródłami fragment wejdzie do tego łańcucha, późniejsi autorzy mogą założyć, że ktoś już go zweryfikował.

Pismo z Nowego Meksyku wydaje się podążać podobnym skrótem opartym na zaufaniu. Aarons użył ChatGPT do stworzenia skróconego przedstawienia przebiegu postępowania. Następnie polegał na tym przedstawieniu, nie wracając w pełni do protokołu.

Powstały dokument miał zewnętrzną formę argumentacji apelacyjnej. Wskazywał świadków, opisywał zeznania, przywoływał precedensy i łączył fakty z twierdzeniami prawnymi. Ta forma sprawiała, że treść wyglądała na profesjonalnie zweryfikowaną.

Dlatego samo określenie „człowiek w pętli” daje niewielką gwarancję. Człowiek może pobieżnie przejrzeć projekt, poprawić gramatykę, a mimo to przeoczyć fałszerstwa faktyczne. To sformułowanie ma znaczenie tylko wtedy, gdy recenzent ma czas, kompetencje i bezpośredni dostęp do źródeł.

Skuteczna kontrola wymaga także widocznych granic między tekstem źródłowym a tekstem wygenerowanym. Cytowane fragmenty protokołu powinny zachowywać odniesienia do stron. Streszczenia powinny wskazywać zakresy, które je potwierdzają. Niepoparte komentarze modelu powinny pozostawać poza stwierdzeniami faktycznymi.

W sprawach o wysokiej stawce drugi recenzent powinien niezależnie sprawdzić dokument. Powinien on pobierać próbki źródeł w oparciu o ryzyko, a następnie rozszerzać kontrolę, gdy pojawi się jakakolwiek rozbieżność. Sfabrykowane nazwiska powinny uruchomić przegląd każdego twierdzenia faktycznego.

Ta sama zasada dotyczy źródeł prawnych. Recenzenci muszą otworzyć każde cytowane orzeczenie i potwierdzić przytoczone sformułowanie, rozstrzygnięcie, jurysdykcję oraz istotność. Prawdziwa sprawa przywołana dla fałszywej tezy nadal stanowi poważny błąd.

Sankcje wobec Stephena Aaronsa za użycie ChatGPT pokazują, że sądy wychodzą poza ciekawość dotyczącą tego, które narzędzie spowodowało błąd. Pytanie operacyjne brzmi, czy prawnik zbudował wystarczająco silne mechanizmy kontroli, aby wygenerowana fikcja nie stała się faktem złożonym w aktach.

Sankcje nie dowodzą, że AI nie ma miejsca w pracy prawniczej

Najsilniejsza krytyka dotyczy niekontrolowanego polegania na AI, a nie każdego użycia generatywnej AI przez prawników.

Łatwo byłoby potraktować tę sprawę jako dowód, że prawnicy nigdy nie powinni używać ChatGPT. Taki wniosek wykracza poza ustalenia sądu i ignoruje różnorodność zadań objętych pojęciem „użycia AI”.

Model może pomóc w tworzeniu list zagadnień, reorganizacji notatek sporządzonych przez prawnika, porównywaniu struktur dokumentów lub proponowaniu terminów wyszukiwania. Zastosowania te nadal wymagają osądu, ale nie wszystkie niosą takie samo ryzyko jak streszczanie protokołu rozprawy w sprawie o zabójstwo.

Ryzyko zależy od celu i przeznaczenia wyniku. Prywatny konspekt ma charakter wstępny. List do klienta wymaga starannej kontroli. Stwierdzenie faktyczne w apelacji karnej wymaga weryfikacji z oficjalnymi aktami.

Narzędzia także się różnią. Ogólny chatbot tworzy tekst otwarty, podczas gdy niektóre systemy prawnicze wyszukują w ograniczonych bazach danych i pokazują źródła wspierające. Nawet systemy zawierające cytowania mogą błędnie cytować, błędnie odczytywać lub wybierać nieistotne materiały.

Sąd w Nowym Meksyku nie przeprowadził naukowej oceny niezawodności ChatGPT. Zbadał zachowanie jednego prawnika i jedno wadliwe pismo. Czytelnicy nie powinni przekształcać tego ustalenia w uniwersalny wskaźnik błędów.

Sprawa nie dowodzi też, że AI niezależnie spowodowała każdą wadę. Aarons wybrał materiały, sformułował polecenia dla systemu, wykorzystał jego wynik i podpisał rezultat. Publiczne relacje nie zawierają pełnej historii poleceń ani wszystkich wersji pośrednich.

Ta niepewność ma znaczenie. Bez pełnego zapisu interakcji obserwatorzy nie mogą odtworzyć, które twierdzenia wygenerował model, które fragmenty Aarons edytował ani czy wady protokołu przyczyniły się do problemu. Postanowienie sądu ustanawia odpowiedzialność, a nie pełną techniczną analizę przyczyn.

Mimo to te luki nie usprawiedliwiają nieścisłości zawartych w złożonym piśmie. Wyjaśniają, gdzie pytania dotyczące produktu i procesu pozostają otwarte. Lepsze rejestrowanie mogłoby pomóc kancelariom ustalić, jak niepoparte twierdzenie trafiło do dokumentu.

Dostawcy prawniczych systemów AI mogą ograniczać ryzyko, dołączając odniesienia do źródeł do każdego zdania faktycznego. Mogą ostrzegać, gdy odpowiedź nie ma podstaw dowodowych, oddzielać cytaty od streszczeń i blokować eksporty zawierające nierozstrzygnięte cytowania.

Takie mechanizmy pomogłyby, lecz nie mogą zastąpić merytorycznej kontroli. Łącze do źródła może prowadzić do prawdziwego dokumentu, który nie potwierdza wygenerowanego twierdzenia. Automatyzacja może ułatwiać weryfikację, nie czyniąc jej opcjonalną.

Kancelarie potrzebują też polityk opartych na wrażliwości zadania. Streszczanie publicznie dostępnych materiałów tła nie niesie takich samych konsekwencji jak interpretowanie uprzywilejowanych dowodów. Sporządzenie rutynowej listy kontrolnej różni się od opisywania spornych zeznań.

Praktyczna polityka powinna określać zakazane dane wejściowe, zatwierdzone systemy, zasady retencji, standardy kontroli i punkty eskalacji. Powinna wskazywać, kto sprawdza cytowania i kto potwierdza twierdzenia faktyczne na podstawie akt.

Szkolenie musi wykraczać poza pokazywanie prawnikom, jak pisać polecenia. Użytkownicy muszą rozumieć pewnie formułowane błędy, ograniczenia kontekstu, niepełne wyszukiwanie, ujawnianie danych i uprzedzenie automatyzacji. Uprzedzenie automatyzacji występuje wtedy, gdy ludzie nadmiernie ufają wynikowi, ponieważ został wygenerowany przez system.

Na uwagę zasługuje również presja czasu. AI obiecuje szybsze redagowanie, lecz weryfikacja może zniwelować część tej korzyści. Kancelarie muszą uczciwie uwzględniać czas kontroli, zamiast zakładać, że pierwszy płynny projekt jest niemal gotowy.

Przełożeni powinni także unikać mierzenia sukcesu wyłącznie szybkością. Taka zachęta skłania personel do ukrywania niepewności i pomijania kontroli źródeł. Praca z AI o wysokim ryzyku wymaga wskaźników dokładności powiązanych z dowodami.

Sceptyczny wniosek jest zatem węższy i mocniejszy. Generatywna AI może wspierać pracę prawniczą, ale tylko wtedy, gdy kancelarie traktują jej wyniki jako niezweryfikowane projekty. Osoba składająca dokument musi nadal udowodnić sobie każde istotne twierdzenie.

Na co sądy i zespoły prawne powinny zwracać uwagę dalej

Kolejnym sprawdzianem będzie to, czy sankcje doprowadzą do weryfikowalnych zmian procesów pracy w praktyce prawniczej.

Pierwszy sygnał nadejdzie z postępowania dyscyplinarnego dotyczącego Aaronsa. Rada Nowego Meksyku może zbadać kompetencje, szczerość, komunikację z klientem oraz okoliczności związane ze złożeniem pisma.

Publiczna decyzja dyscyplinarna wyjaśniłaby, czy sąd postrzega incydent jako odosobnione niedbalstwo czy szersze przewinienie zawodowe. Surowsza kara wzmocniłaby nakaz za bezpośrednią obrazę sądu. Ograniczony środek podkreślałby naprawę szkody i zamiar.

Postępowanie może również ujawnić informacje nieobecne w doniesieniach prasowych. Śledczy mogą zbadać proces redagowania, komunikację z Sandovalem, sposób obchodzenia się z protokołem i moment odkrycia problemu przez Aaronsa. Fakty te określą wartość sprawy jako precedensu.

Drugim sygnałem będzie apelacja Sandovala prowadzona przez zastępczego pełnomocnika. Nowy prawnik musi odbudować argumentację na podstawie rzeczywistych akt po wykreśleniu wcześniejszych pism. Proces ten pokaże, jak dużą merytoryczną szkodę spowodował sfabrykowany materiał.

Jeżeli skorygowane pismo podniesie podobne twierdzenia prawne, wykorzystując autentyczne dowody, epizod będzie wyglądał na poważną awarię procesu pracy z możliwą do uratowania apelacją. Jeżeli twierdzenia zmienią się istotnie, streszczenie AI prawdopodobnie zniekształciło teorię sprawy.

Równie ważne jest ostateczne potraktowanie Sandovala przez sąd. Ukaranie pełnomocnika chroni integralność instytucjonalną, lecz system musi unikać karania klienta za wadliwe pismo prawnika. Nowa reprezentacja ogranicza to ryzyko, nie rozwiązując jednak wszystkich problemów związanych z opóźnieniem.

Trzecim sygnałem będzie wdrażanie mechanizmów redagowania powiązanych z dowodami. Sądy mogą wymagać poświadczeń, a kancelarie mogą żądać cytowań z protokołu dla każdego twierdzenia faktycznego. Dostawcy mogą ujawniać źródło stojące za każdym wygenerowanym fragmentem.

Najbardziej użyteczne mechanizmy będą możliwe do audytowania. Pole wyboru stwierdzające, że ktoś przejrzał projekt, oferuje ograniczoną ochronę. Mapa twierdzeń łącząca każde stwierdzenie ze stroną protokołu tworzy dowód rzeczywistej weryfikacji.

Sądy rozstrzygną także, czy istniejące zasady zawodowe zapewniają wystarczające możliwości egzekwowania. Ramy ABA już obejmują kompetencje, szczerość, nadzór i poufność. Postanowienie z Nowego Meksyku sugeruje, że sędziowie mogą działać bez tworzenia obowiązków specyficznych dla AI.

Nowe zasady nadal mogą mieć wartość, gdy definiują procedury. Mogą wymagać ujawnienia określonych zastosowań, zachowania wygenerowanych projektów lub osobistego poświadczenia cytatów i przywołań. Ujawnienie powinno jednak wspierać weryfikację, a nie ją zastępować.

Szersza branża powinna obserwować powtarzające się fałszowanie faktów w sprawach karnych. Fałszywe precedensy są już znane. Zmyślone zeznania stanowią bardziej bezpośrednie wyzwanie dla integralności akt apelacyjnych.

Dla pracowników umysłowych natychmiastowe działanie jest proste, lecz wymagające. Zidentyfikuj każde wygenerowane twierdzenie faktyczne, ponownie otwórz źródło nadrzędne i odnotuj, gdzie znajduje się potwierdzenie. Eskaluj każdą rozbieżność, zanim tekst trafi do klienta, regulatora, kadry zarządzającej lub sądu.

Sankcje wobec Stephena Aaronsa związane z ChatGPT nie są ostrzeżeniem przed niedoskonałą prozą. Pokazują, co dzieje się, gdy podsumowanie wygenerowane przez AI staje się nieudokumentowanym substytutem dowodów.

Zadaj jedno pytanie, zanim oprzesz się na jakimkolwiek wygenerowanym opisie: Czy inny recenzent może prześledzić każde istotne zdanie do autorytatywnego źródła? Jeśli odpowiedź brzmi „nie”, szkic jest nieukończony. Zbuduj teraz ścieżkę weryfikacji, zachowaj oryginalne materiały i daj recenzentom wystarczająco dużo czasu, by mogli zakwestionować płynnie brzmiący język. Kolejna poważna porażka AI prawdopodobnie będzie wyglądać wiarygodnie, zanim okaże się fałszywa.