Orzeczenie Fair Work Commission dotyczące AI trafia na Hacker News, a prawdziwą porażką jest weryfikacja

Fair Work Commission obciążyła byłego pracownika ALDI kosztami po tym, jak wadliwa porada prawna wygenerowana przez AI pomogła podtrzymać sprawę, przed której przegraną urzędnicy wielokrotnie ostrzegali. Orzeczenie trafiło następnie na Hacker News, gdzie ponownie rozgorzała szersza dyskusja o wykorzystywaniu chatbotów ogólnego przeznaczenia w sporach o wysokiej stawce.

Sadnan Khan został zobowiązany do pokrycia 1 230 dolarów australijskich kosztów prawnych ALDI. Zastępca przewodniczącego Michael Easton stwierdził, że Khan korzystał z AI jako „quasi-prawnego doradcy” podczas kwestionowania zwolnienia. Według orzeczenia komisji, wygenerowane materiały koncentrowały się na niewłaściwym zagadnieniu prawnym i nie odnosiły się w istotny sposób do powtarzanych ostrzeżeń.

Sprawa nie uzasadnia prostego wniosku, że AI i prawo powinny pozostać rozdzielone. Ten sam materiał opisuje innego pracownika działającego bez pełnomocnika, który użył kilku agentów AI, weryfikacji źródeł i uporządkowanego procesu przeglądu, aby wygrać inną sprawę pracowniczą. Główny konflikt nie przebiega więc między ludzkim osądem a pomocą maszyny. Chodzi o wygodne odpowiedzi kontra zweryfikowaną pracę.

To rozróżnienie ma znaczenie, ponieważ Fair Work Commission już obserwuje więcej wnioskodawców wspieranych przez AI. Jej odpowiedź nie zakazuje generatywnej AI. Zamiast tego nowe wymogi zobowiążą użytkowników do ujawniania wsparcia AI, weryfikowania materiałów i przyjmowania odpowiedzialności za to, co składają.

Co Fair Work Commission faktycznie potępiła

Komisja ukarała nierozsądne działanie oparte na niesprawdzonych wynikach, a nie samo korzystanie z AI.

Khan, były pracownik ALDI, próbował zakwestionować swoje zwolnienie przed australijskim krajowym trybunałem pracy. Powiedział reporterom, że korzystał z płatnej wersji ChatGPT, aby zrozumieć sprawy przywoływane przez ALDI i komisję.

To zrozumiały przypadek użycia. Pracownik działający bez pełnomocnika może mierzyć się z nieznanymi przepisami, terminami proceduralnymi, autorytetami prawnymi i argumentami przygotowanymi przez doświadczonych prawników. System konwersacyjny może w ciągu kilku minut przełożyć trudny język na prostszy i pomóc uporządkować dokumenty.

Problem zaczął się, gdy pomoc stała się zastępstwem. Wygenerowane odpowiedzi Khana dotyczyły momentu, w którym jego zwolnienie stało się skuteczne, zamiast prawnie istotnej daty zwolnienia. To rozróżnienie podważyło podstawę jurysdykcyjną jego wniosku.

Pracownicy komisji nie pozostawili go samego z odkryciem tego problemu. Easton miał podobno wielokrotnie ostrzegać Khana, że jego sprawa nie ma istotnych szans powodzenia. Wyjaśnił również problem bezpośrednim językiem i uprzedził, że kontynuowanie postępowania może narazić Khana na koszty.

Khan kontynuował. Jego pisma nadal opierały się na wadliwym rozumowaniu, a niektóre materiały miały rzekomo zachować instrukcje, które powinny zostać usunięte z wygenerowanego tekstu. Te pozostałości stanowiły widoczny znak, że pismo nie przeszło starannej ludzkiej weryfikacji.

Easton podjął następnie, jak to określił, rzadki krok i nakazał Khanowi pokrycie części wydatków prawnych ALDI. Kwota nie została przedstawiona jako kara za otwarcie ChatGPT. Dotyczyła kosztów spowodowanych kontynuowaniem sprawy po wskazaniu jej zasadniczej wady.

Ta granica jest ważna. Komisja przyznała, że AI może poprawić dostęp do wymiaru sprawiedliwości dla osób z uzasadnionymi roszczeniami, które w innym przypadku mogłyby z nich zrezygnować. Stwierdziła również, że doświadczeni wnioskodawcy mogą krytycznie wykorzystywać AI jako jedno z kilku narzędzi.

Decyzja dotyczy innego schematu. Użytkownik zadaje ogólne pytanie, otrzymuje pewnie brzmiącą odpowiedź i myli płynny język z wiarygodną analizą prawną. Ostrzeżenia trybunału konkurują następnie z bez końca przytakującym systemem, który może na żądanie wygenerować kolejny argument.

Deklarowana odpowiedź Khana ilustruje to zagrożenie. Powiedział, że rozważa odwołanie i planuje skonsultować się z Claude, ChatGPT oraz kilkoma innymi agentami, aby uzyskać różne perspektywy.

Korzystanie z kilku modeli może ujawnić rozbieżności, lecz zgodność między modelami nie potwierdza poprawności odpowiedzi. Mogą one powielać to samo błędne założenie, czerpać z podobnych publicznie dostępnych materiałów lub wzmacniać sformułowania już zawarte w zapytaniu użytkownika.

Kwestii prawnej nie rozstrzyga też głosowanie większościowe wśród chatbotów. Odpowiedź wyznaczają właściwa ustawa, wiążące orzecznictwo, fakty, jurysdykcja i reguły proceduralne. Wiele dopracowanych odpowiedzi nie może zastąpić tego łańcucha weryfikacji.

Dyskusja na HN przyciągnęła uwagę, ponieważ programiści rozpoznają ten tryb porażki. Zespoły programistyczne nie uznałyby trzech zgodnych wyników modelu za dowód, że kod jest bezpieczny. Użytkownicy prawa potrzebują równie jednoznacznego procesu walidacji.

Dlaczego spraw wspieranych przez AI przybywa właśnie teraz

Generatywna AI obniżyła wysiłek potrzebny do stworzenia pisma wyglądającego jak dokument prawny, nie obniżając wysiłku koniecznego, by było ono poprawne.

Badanie zlecone przez Fair Work Commission wykazało, że liczba jej spraw wzrosła o 40 procent między latami 2023-24 a 2024-25. Badanie przypisało część tego wzrostu wnioskodawcom korzystającym z generatywnej AI.

Czterdzieści procent badanych spraw obejmowało stronę postępowania, która korzystała z AI. Adaptacja była bardziej skoncentrowana wśród młodszych osób i wnioskodawców działających bez pełnomocnika. Ponad trzy czwarte tej grupy używało ChatGPT, a 60 procent tych użytkowników korzystało z jego darmowej wersji.

Badanie wykazało również, że osoby, dla których angielski nie jest językiem ojczystym, były dwukrotnie bardziej skłonne korzystać z AI niż osoby anglojęzyczne od urodzenia. To ustalenie nadaje sprawie wymiar dostępności, którego nie uchwyciłaby wąska opowieść o halucynacjach.

Ludzie sięgają po AI, ponieważ uzyskanie tradycyjnej pomocy prawnej może być trudne. Mogą potrzebować zinterpretować nieznaną terminologię, odpowiedzieć w wyznaczonym terminie lub zrozumieć dokumenty napisane dla specjalistów. Bariery językowe i finansowe mogą wzajemnie się potęgować.

Generatywna AI eliminuje problem pustej strony. Może zaproponować strukturę, podsumować decyzję, przekształcić notatki w formalny tekst lub symulować pytania, które mogą paść na rozprawie. Takie funkcje mogą pomóc osobie zakomunikować istniejący już argument.

Jednak ten sam interfejs może wytworzyć argument, którego użytkownik nigdy nie miał. Może przywołać nieistotną doktrynę, pominąć ograniczenia jurysdykcyjne lub potraktować sporny fakt jako ustalony. Wynik wciąż może wyglądać bardziej profesjonalnie niż leżące u podstaw rozumowanie użytkownika.

Tworzy to asymetryczne obciążenie. Wygenerowanie dziesięciu stron zajmuje dziś kilka minut. Sprawdzenie każdego twierdzenia faktycznego, cytowania, cytatu, daty i tezy prawnej może nadal wymagać godzin.

Obciążenie nie pozostaje po stronie wnioskodawcy. Pracodawcy muszą odpowiadać, pracownicy trybunału muszą wyodrębniać rzeczywiste kwestie, a osoby podejmujące decyzje muszą odróżniać błędy od istotnych pism. Wniosek tani w wygenerowaniu może stać się kosztowny w przetworzeniu dla wszystkich pozostałych.

Komisja zidentyfikowała tę presję przed decyzją o kosztach w sprawie Khana. Projekt wytycznych AI z marca 2026 r. wskazywał, że narzędzia generatywne mogą zachęcać do bezzasadnych wniosków przez nierealistycznie optymistyczne prognozy.

Ostrzegał również, że wygenerowane materiały mogą zawierać nieistniejące lub nieistotne przepisy, sprawy, odniesienia i fakty. Takie błędy nakładają koszty czasowe i finansowe na inne strony oraz samą komisję.

Dlatego 40-procentowego wzrostu nie można interpretować wyłącznie jako rozszerzenia dostępu. Więcej wniosków może oznaczać, że ludzie znajdują praktyczną drogę do sprawiedliwości. Może też odzwierciedlać niższy koszt tarcia przy składaniu roszczeń o słabych podstawach.

Oba skutki występują jednocześnie. Reguła zaprojektowana wyłącznie po to, by zniechęcać do składania wniosków, grozi wykluczeniem osób z rzeczywiście uzasadnionymi sprawami. Polityka ignorująca dokładność przenosi wynikające z tego koszty weryfikacji na pracodawców i system publiczny.

Wyzwaniem dla komisji jest oddzielenie dostępnej pomocy od zautomatyzowanej nadmiernej pewności siebie. Nie może wiarygodnie dokonać tego rozróżnienia, wykrywając, czy zdanie brzmi jak wygenerowane przez maszynę. Pisanie ludzi i AI coraz bardziej się przenikają.

Jej nowe podejście koncentruje się natomiast na odpowiedzialności. Użytkownicy mogą korzystać z AI, lecz muszą ujawnić to użycie i odpowiadać za powstały dokument. Zmienia to istotne pytanie z „Czy napisała to maszyna?” na „Kto to sprawdził i czy to prawda?”.

Polityka pośrednio wywiera również presję na dostawców AI. Chatboty ogólnego przeznaczenia często udzielają jednej ciągłej odpowiedzi, nawet gdy zadanie obejmuje kilka odrębnych kwestii prawnych. Ich interfejsy rzadko zmuszają użytkowników do wskazania jurysdykcji, poziomu autorytetu, terminów składania pism lub statusu dowodowego.

Osoba otrzymuje więc wygodę w chwili, gdy dyscyplina proceduralna ma największe znaczenie. Interfejs zachęca do ukończenia zadania, podczas gdy system prawny wymaga niepewności, zastrzeżeń i dowodów.

Hacker News dostrzegł awarię narzędzia, lecz głębszym problemem jest proces

Debata na Hacker News staje się bardziej użyteczna, gdy porady prawne AI traktuje się jak niezaufaną zależność programistyczną.

Programiści rutynowo korzystają z komponentów, których sami nie napisali. Nie zakładają, że pakiet jest bezpieczny tylko dlatego, że instaluje się pomyślnie lub daje wiarygodnie brzmiący wynik. Sprawdzają jego pochodzenie, testują jego zachowanie i ograniczają obszary, w których może działać.

Wygenerowana analiza prawna wymaga porównywalnego modelu zaufania. Odpowiedź powinna zaczynać jako niezweryfikowany szkic, niezależnie od tego, jak precyzyjny wydaje się jej język. Każda ważna teza powinna następnie mieć źródło, które użytkownik może otworzyć i przeanalizować.

Sprawa Khana zawiodła właśnie na tym rozdzieleniu. Wynik AI najwyraźniej stał się autorytetem, a nie szkicem. Gdy do tego doszło, każda nowa odpowiedź mogła wzmacniać jego pewność siebie, nie wzmacniając jego pozycji prawnej.

Efekt ten jest szczególnie niebezpieczny, gdy chatbot odzwierciedla sposób ujęcia sprawy przez użytkownika. Jeśli zapytanie zakłada, że pracodawca zastosował niewłaściwą datę zwolnienia, model może pomóc zbudować argument wokół tego założenia. Może nigdy nie wskazać, że właściwe prawo stawia inne pytanie.

Profesor prawa Genevieve Grant opisała powiązane ryzyko jako skłonność do pochlebstw. Model może zachęcać użytkowników do przekonania, że roszczenie ma podstawy, choć ich nie ma. Niedoświadczone zapytania mogą więc przynosić niedoświadczone wyniki, które mimo to brzmią rozstrzygająco.

Problemu nie rozwiązuje lepsza proza. Rozwiązuje go proces, który oddziela fakty, pytania prawne, autorytety i wnioski.

Odpowiedzialny użytkownik najpierw stworzyłby chronologię faktów na podstawie oryginalnych dokumentów. Każda data wskazywałaby na zawiadomienie, e-mail, umowę lub zapis trybunału. Wszelkie spory dotyczące chronologii pozostałyby widoczne.

Następnie użytkownik sformułowałby pytanie prawne bez zakładania odpowiedzi. W sprawie Khana oznaczało to ustalenie, którą datę obowiązujące prawo uznaje za datę zwolnienia. Nie oznaczało pytania modelu, jak bronić daty najlepiej chroniącej wniosek.

Kolejno należałoby otworzyć każde przywołane orzeczenie i każdy przepis. Użytkownik potwierdziłby, że dany autorytet istnieje, ma zastosowanie w odpowiedniej jurysdykcji i rzeczywiście wspiera przedstawioną tezę.

Na koniec użytkownik przetestowałby argument wobec najsilniejszej przeciwnej interpretacji. Narzędzie, które jedynie rozwija preferowane stanowisko wnioskodawcy, staje się generatorem pewności siebie. Narzędzie, które wskazuje fatalne słabości, może wspierać lepsze decyzje, w tym decyzję o zaprzestaniu działania.

Przypomina to udokumentowany workflow wiedzy, w którym generowane podsumowania pozostają połączone z materiałem źródłowym. Wartość wynika z możliwości prześledzenia pochodzenia informacji, a nie wyłącznie z szybszego tworzenia tekstu.

Kontrastujący przypadek Gregory'ego Bakera czyni tę kwestię bardziej namacalną. Baker, wykładowca informatyki na Macquarie University, miał zostać pierwszą osobą, która skutecznie zakwestionowała nowe zasady dotyczące zatrudnienia dorywczego z pomocą zespołu agentów AI.

Nie opisywał ChatGPT jako zastępczego prawnika. Przedstawił tę pracę jako projekt tworzenia oprogramowania. Jego pisma do trybunału działały jak kod źródłowy w repozytorium, a proces budowania sprawdzał cytowania i spójność logiczną.

Baker wykorzystywał także ChatGPT do przygotowania się do przesłuchania krzyżowego. Przyznał jednak, że postępowanie ustne pozostawało trudne i nie przebiegało zgodnie z oczekiwaniami. AI pomogła w przygotowaniach, nie eliminując jednak niekorzystnej sytuacji związanej z występowaniem przeciwko wyszkolonym pełnomocnikom.

Jego ostrzeżenie było jednoznaczne. Prośba, by ChatGPT działał jak wyrocznia, bez odpowiedniego kontekstu lub informacji, przyniosła fatalny rezultat. Ta obserwacja jest bliższa decyzji w sprawie Khana, niż sugerowałoby proste zestawienie sukcesu z porażką.

Obie sprawy dotyczyły osób reprezentujących się samodzielnie, które korzystały z systemów generatywnych. Ich wyniki się różniły, ponieważ w jednym workflow potraktowano wynik jako materiał wymagający weryfikacji. W drugim polegano na wygenerowanych odpowiedziach już po wyjaśnieniu rozstrzygającej kwestii.

Nawet metody Bakera nie należy romantyzować. Użytkownik o wysokich kompetencjach technicznych może stworzyć rozbudowane mechanizmy kontroli, które nadal opierają się na błędnych założeniach prawnych. Zautomatyzowana walidacja cytowań potwierdza, że źródło istnieje, a nie że sąd zaakceptuje oparty na nim argument.

Podobnie agent wyznaczony do krytykowania innego agenta może dzielić z nim podobne dane treningowe i martwe punkty. Pozorna niezależność modeli nie gwarantuje niezależnego rozumowania.

Użyteczna lekcja dla czytelników Hacker News jest zatem węższa niż „używaj agentów, a nie chatbotów”. AI w sprawach wysokiej stawki wymaga architektury dowodowej, wyraźnych kontroli błędów oraz osoby zdolnej rozpoznać, kiedy konieczna jest specjalistyczna porada.

Zasady ujawniania przerzucają odpowiedzialność z powrotem na wnioskodawcę

Fair Work Commission dopuszcza pomoc AI, jednocześnie utrudniając użytkownikom zaprzeczanie odpowiedzialności za wygenerowane błędy.

24 sierpnia 2026 r. komisja opublikowała nowe wymagania regulujące wykorzystanie generatywnej AI w swoich postępowaniach. Zasady wejdą w życie 20 października, a formularze wniosków i odpowiedzi zostaną do tego dnia zaktualizowane.

Oficjalne zasady korzystania z AI ustanawiają trzy podstawowe obowiązki. Osoba musi wyjaśnić, kiedy i w jaki sposób generatywna AI pomogła w przygotowaniu dokumentu. Musi także sprawdzić, czy dokument jest poprawny i istotny.

Oświadczenia świadków i deklaracje otrzymują dodatkowe zabezpieczenie. Użytkownicy muszą potwierdzić, że materiał pochodzi z ich własnej wiedzy, odzwierciedla ich własne słowa i jest zgodny z prawdą według ich najlepszej wiedzy.

Wymagania te unikają dwóch skrajności polityki. Komisja nie zakazuje technologii, która może pomóc osobom reprezentującym się samodzielnie zrozumieć procedurę. Nie akceptuje też użycia AI jako wymówki dla sfabrykowanych lub nieistotnych materiałów.

Ujawnienie dostarcza decydentom użytecznego kontekstu, ale nie stanowi gwarancji poprawności. Wnioskodawca może uczciwie ujawnić użycie AI, a mimo to złożyć błędny argument. Obowiązek weryfikacji ma większe znaczenie praktyczne.

Zasady uznają również, że różne rodzaje dokumentów stwarzają różne ryzyka. Wspomagany przez AI zarys pisma nie jest równoważny wygenerowanemu zeznaniu świadka. Oświadczenie świadka przedstawia osobistą wiedzę, więc szczegóły stworzone przez maszynę mogą bezpośrednio zniekształcić materiał dowodowy.

Prywatność rodzi kolejne obawy. Użytkownicy mogą wklejać do publicznych systemów AI umowy o pracę, informacje medyczne, skargi dotyczące miejsca pracy lub dane o współpracownikach. Wytyczne komisji ostrzegają przed przekazywaniem osobistych lub poufnych informacji dotyczących sprawy narzędziom, które mogą nie zapewniać ich bezpieczeństwa.

Wywiera to presję na dostawców technologii prawniczych. Użyteczny produkt musi robić więcej niż wyświetlać zastrzeżenie pod polem tekstowym. Potrzebuje mechanizmów kontroli danych poufnych, pochodzenia źródeł, jurysdykcji oraz statusu każdego twierdzenia.

Asystent prawny powinien odróżniać fakty dostarczone przez użytkownika od wniosków modelu. Powinien zachowywać linki do każdego cytowanego źródła i ostrzegać, gdy źródła nie można pobrać. Powinien ujawniać niepewność, zanim stworzy dopracowane pismo.

Produkt powinien także rozpoznawać zagrożenia proceduralne. Jeśli trybunał wydał ostrzeżenie, system nie powinien po prostu generować bardziej stanowczej wersji tego samego argumentu. Powinien zapytać, czy ostrzeżenie przekreśla roszczenie, oraz w odpowiednich przypadkach zalecić skorzystanie z wykwalifikowanej pomocy prawnej.

Żaden interfejs nie może jednak wyeliminować odpowiedzialności użytkownika. Ludzie mogą ignorować ostrzeżenia, ukrywać użycie AI lub tak długo kierować systemem za pomocą promptów, aż uzyskają odpowiedź, której chcą. Komisja potrzebuje więc egzekwowania zasad obok edukacji.

Orzeczenie o kosztach w sprawie Khana stanowi jeden z sygnałów egzekwowania. Koszty nadal są rzadkością w wielu sprawach Fair Work Commission, więc orzeczenie pokazuje, że uporczywe, nierozsądne postępowanie może pociągać za sobą konsekwencje nawet dla wnioskodawcy reprezentującego się samodzielnie.

Stwierdzenie, że decyzja tworzy automatyczną odpowiedzialność za błędy AI, byłoby przesadą. Przedstawione uzasadnienie podkreślało kontynuowanie przez Khana działań mimo jasnych ostrzeżeń. Pojedynczy poprawiony błąd różni się od wielokrotnego forsowania beznadziejnej sprawy.

Przedwczesne byłoby również traktowanie ujawnienia jako pełnego rozwiązania. Komisja musi zdecydować, jak szczegółowe informacje wnioskodawcy powinni przekazywać o korzystaniu z AI. Musi też radzić sobie z sytuacjami, w których modele przyczyniły się do burzy mózgów, lecz nie do ostatecznego brzmienia tekstu.

Istnieje także problem równości. Zaawansowani użytkownicy mogą utrzymywać repozytoria źródeł, uruchamiać kontrole i korzystać z kilku sprawnych systemów. Inni mogą polegać na darmowych narzędziach oraz mieć ograniczoną znajomość angielskiego lub wiedzę techniczną.

Baker oszacował, że istnieje znacząca przepaść między wykorzystaniem najnowocześniejszych systemów przy dobrym ukierunkowaniu a doświadczeniem dostępnym za pośrednictwem mniej zaawansowanych modeli. Ta różnica może odtwarzać istniejące nierówności, zamiast je usuwać.

Osoby najbardziej zainteresowane zautomatyzowaną pomocą prawną mogą być najsłabiej przygotowane do jej audytowania. Jeśli ujawnienie stanie się kolejną złożoną formalnością, może obciążyć tych samych wnioskodawców, którym komisja chce pomóc.

Z tego powodu komisja wprowadziła również szablony i zasoby edukacyjne. Celem jest przekształcenie abstrakcyjnych ostrzeżeń w konkretne działania, które wnioskodawcy mogą wykonać przed złożeniem pisma.

Sukces polityki będzie zależał od tego, czy te zasoby zmienią zachowania. Pole wyboru może udokumentować użycie AI. Nie może nauczyć nikogo odróżniać wiążącego autorytetu od wiarygodnie brzmiącego cytatu.

Co wydarzy się dalej po zainteresowaniu Hacker News

Kolejnym testem będzie to, czy ujawnianie i weryfikacja ograniczą wadliwe pisma bez tłumienia uzasadnionych roszczeń.

Pierwszy sygnał pojawi się 20 października, gdy Fair Work Commission zaktualizuje swoje formularze i uruchomi nowe wytyczne. Obserwatorzy powinni sprawdzić, czy ujawnienia zapewniają istotne szczegóły, czy też staną się rutynowymi deklaracjami, które niewiele mówią o sposobie tworzenia dokumentów.

Użyteczne ujawnienia wskazywałyby zadanie powierzone AI. Streszczanie, tłumaczenie, redagowanie, badanie cytowań i przygotowywanie oświadczeń świadków wiążą się z różnymi ryzykami. Traktowanie ich jako jednej kategorii ograniczałoby wartość tej polityki.

Drugi sygnał to obciążenie pracą komisji po wdrożeniu. Wcześniejsze badanie powiązało generatywną AI z częścią 40-procentowego wzrostu liczby spraw, ale sama liczba nie może mierzyć szkody.

Spadek liczby wadliwych pism wzmocniłby podejście komisji. Szeroki spadek liczby zgłoszeń od osób, dla których angielski nie jest językiem ojczystym, lub od pracowników reprezentujących się samodzielnie rodziłby inną obawę. Mógłby wskazywać, że koszty zgodności z wymogami zniechęcają uprawnionych wnioskodawców.

Lepsze wskaźniki obejmowałyby żądane poprawki, zidentyfikowane nieistniejące cytowania, sprawy oddalone z powodu wad jurysdykcyjnych oraz orzeczenia o kosztach powiązane z niesprawdzonym wynikiem. Wskaźniki te pokazałyby, czy jakość dokumentów się zmienia.

Trzeci sygnał nadejdzie wraz z kolejnymi decyzjami. Trybunały będą musiały wyjaśnić, co oznacza rozsądna weryfikacja i jak traktują niepełne ujawnienie. Decyzje te wyznaczą praktyczną granicę wyraźniej, niż mogą to zrobić ogólne wytyczne.

Wnioskodawca używający AI do korekty gramatyki nie znajduje się w takiej samej sytuacji jak ktoś, kto generuje dowody faktyczne. Użytkownik sprawdzający każde cytowanie różni się od osoby składającej wymyślone źródła. Przyszłe orzeczenia powinny zachować te rozróżnienia.

Możliwe odwołanie Khana jest kolejnym bezpośrednim testem. Jego termin na odwołanie ma podobno upłynąć przed wejściem w życie październikowych zasad, więc nowy reżim ujawniania nie rozstrzygnie jego istniejącej sprawy. Każde odwołanie może jednak wyjaśnić, dlaczego pierwotny argument zawiódł i dlaczego koszty były uzasadnione.

Na uwagę zasługuje również odpowiedź Macquarie University na skuteczne roszczenie Bakera. Jego sprawa sugeruje, że uporządkowana pomoc AI może pomóc osobie reprezentującej się samodzielnie zidentyfikować i dochodzić zasadnego roszczenia. Każde odwołanie lub późniejsza interpretacja mogłyby przetestować ten wynik.

Razem te dwie sprawy uniemożliwiają wyciągnięcie prostego morału. Khan pokazuje, że płynnie działająca AI może utrzymywać użytkownika przy wadliwym założeniu. Baker pokazuje, że zdyscyplinowane użycie może pomóc uporządkować merytoryczne zakwestionowanie wobec reprezentowanej strony przeciwnej.

Szerszy rynek również zareaguje. Dostawcy prawnej AI stoją przed wyborem między silnikami odpowiedzi a weryfikowalnymi przestrzeniami roboczymi. Pierwsze optymalizują pod kątem natychmiastowego ukończenia zadania. Drugie zachowują niepewność, dowody i historię przeglądu.

Systemy ogólnego przeznaczenia również odczuwają presję, by zmienić swoje zachowanie wobec pytań prawnych. Silniejsze ostrzeżenia pomagają, lecz ostrzeżenia wyświetlane po szczegółowej odpowiedzi mogą mieć niewielką wagę. Sama odpowiedź może budować pewność siebie, którą zastrzeżenie próbuje osłabić.

Skuteczniejsze systemy pytałyby o jurysdykcję, wskazywały brakujące dokumenty, oddzielały informacje od porad i odmawiały wymyślania uzasadnienia. Ułatwiałyby sprawdzanie źródeł bardziej niż generowanie kolejnego pewnie brzmiącego akapitu.

Żadna z tych zmian nie czyni chatbota prawnikiem. Spory prawne zależą od faktów, dopuszczalnych dowodów, wyborów proceduralnych, lokalnych zasad i zawodowego osądu. Wynik modelu może wspierać część tej pracy, nie przejmując odpowiedzialności za całość.

To jest trwały sens zainteresowania Hacker News. Fair Work Commission nie odkryła, że AI czasem popełnia błędy. Zmierzyła się z tym, co dzieje się, gdy tanie generowanie treści spotyka instytucję, w której każdy błąd pochłania czas drugiej strony.

Użytkownicy powinni więc zadać trudniejsze pytanie, zanim polegają na AI w jakimkolwiek piśmie o wysokiej stawce: jaki proces wykryłby przekonujący, lecz fatalny błąd? Jeśli odpowiedzią jest kolejny chatbot, luka w weryfikacji pozostaje otwarta. Jeśli odpowiedź obejmuje oryginalne dokumenty, wiążące autorytety, kontradyktoryjny przegląd i odpowiedzialny ludzki osąd, AI może pozostać narzędziem zamiast stać się wyrocznią.