Ostrzeżenie Aruna Subramaniana dotyczące AI w prawie: efektywność może osłabić prawników, którzy muszą ją weryfikować

Arun Subramanian wydał ostrzeżenie dotyczące AI w prawie po tym, jak w federalnym piśmie procesowym pojawiły się nieprawidłowe cytowania — mimo polityk i szkoleń obowiązujących w kancelarii. Sędzia z Manhattanu odmówił nałożenia sankcji na zaangażowanych prawników. Jego decyzja przedstawia jednak ten epizod jako coś więcej niż odosobnioną porażkę przy sporządzaniu dokumentu.

Bezpośrednim problemem był niezweryfikowany wynik narzędzia sztucznej inteligencji. Szersza kwestia dotyczy tego, kto w przyszłości będzie miał kwalifikacje, aby sprawdzać takie wyniki. Jeśli AI wykonuje badania i przygotowuje projekty pism — zadania, które tradycyjnie szkoliły młodszych prawników — kancelarie ryzykują osłabieniem własnego systemu weryfikacji.

To napięcie sprawia, że orzeczenie ma znaczenie wykraczające poza jeden pozew o naruszenie praw autorskich. AI w prawie obiecuje szybsze badania, krótsze cykle przygotowywania pism i niższe koszty. Korzyści te stają się obciążeniem, gdy kancelarie eliminują pracę uczącą prawników rozpoznawania fałszywych źródeł, słabego rozumowania lub brakującego kontekstu.

Ostrzeżenie Subramaniana podważa również powszechne założenie dotyczące ludzkiego nadzoru. Kancelaria nie może po prostu postawić prawnika za modelem i uznać procesu za bezpieczny. Osoba dokonująca kontroli musi mieć wystarczające doświadczenie, czas i niezależność, by sprawdzić pracę maszyny.

Centralny konflikt nie dotyczy więc prawników przeciwko AI. Chodzi o natychmiastową efektywność kontra wolniejszą praktykę zawodową, która tworzy kompetentnych prawników. Klienci mogą dziś otrzymywać pracę szybciej, jednocześnie dziedzicząc jutro mniej rzetelny zawód.

Co faktycznie zmieniło ostrzeżenie Aruna Subramaniana dotyczące AI w prawie

Sąd potraktował błąd w cytowaniu wygenerowanym przez AI jako dowód głębszego problemu ze szkoleniem i nadzorem, choć nie nałożył sankcji.

Spór powstał w sprawie Hill v. Foundation Media LLC, dotyczącej praw autorskich w Południowym Dystrykcie Nowego Jorku. Lawand Hill, reprezentująca samą siebie, oskarżyła Foundation Media o naruszenie praw autorskich związanych z rozpowszechnianymi utworami muzycznymi.

Subramanian oddalił sprawę po przyjęciu rekomendacji sędziego pomocniczego. Jednak w postanowieniu z 22 września osobno zakwestionował cytaty i jedno cytowanie w odpowiedzi Foundation Media na zastrzeżenia Hill.

Sędzia nakazał głównemu pełnomocnikowi oświadczyć, czy AI pomogła w przygotowaniu odpowiedzi. Zapytał również, czy niezweryfikowane użycie AI doprowadziło do powstania wątpliwych treści. Publiczne postanowienie sądu wskazuje kwestionowane odwołania i określa ten wymóg ujawnienia informacji.

Ten szczegół proceduralny ma znaczenie. Foundation Media wygrała sprawę główną, a mimo to sąd zbadał wiarygodność jej skutecznego pisma. Korzystny wynik nie zwolnił pełnomocników z odpowiedzialności za sposób sporządzenia dokumentu.

Cynthia Arato, prawniczka Foundation Media, przeprosiła i przypisała błędy innemu prawnikowi z Shapiro Arato Bach. Według oświadczenia kancelarii prawnik ten przygotował pierwszy projekt i sfinalizował dokument przed jego złożeniem.

W oświadczeniu wskazano, że prawnik działał wbrew politykom i szkoleniom kancelarii. Opisano brak weryfikacji cytowań wygenerowanych przez AI jako odosobniony przypadek, bez zamiaru wprowadzenia sądu w błąd.

W późniejszym piśmie jako element procesu przygotowywania dokumentu wskazano narzędzia firmy Harvey zajmującej się AI dla branży prawniczej, zgodnie z opisem sprawy. Harvey i Foundation Media nie odpowiedziały od razu na prośby Reutersa o komentarz.

Dostępne akta nie dowodzą, że same Harvey spowodowało błędy. Ustalają, że praca wspomagana przez AI trafiła do pisma bez odpowiedniej ludzkiej weryfikacji. To rozróżnienie pozostawia odpowiedzialność tam, gdzie lokują ją zasady zawodowe: po stronie prawników składających dokument.

Subramanian odmówił nałożenia sankcji po przeanalizowaniu wyjaśnienia. Jego powściągliwości nie należy mylić z aprobatą. Opisał incydent jako ostrzeżenie i podkreślił, że praca prawnicza wygenerowana przez AI wymaga starannej kontroli dokładności.

Decyzja zmieniła więc sposób postrzegania błędów AI w prawie. Sądy często koncentrowały się na sfabrykowanych sprawach, karach finansowych lub odpowiedzialności dyscyplinarnej prawników. Subramanian powiązał bezpośredni błąd ze zdolnością zawodu do szkolenia przyszłych osób weryfikujących.

Zasugerował, aby kancelarie rozważyły wymóg przygotowywania pierwszych projektów bez pomocy AI. Propozycja jest celowo niewygodna, ponieważ część wartościowej nauki odbywa się podczas pracy, którą AI ma eliminować.

Pomysł ten przekształca incydent związany z cytowaniem w pytanie organizacyjne. Jeśli polityka istnieje, lecz niezweryfikowane pismo mimo to trafia do sądu, kancelarie muszą przeanalizować projekt procesu pracy, nadzór i system zachęt. Sama pisemna zasada nie udźwignie tego ciężaru.

Ostrzeżenie Aruna Subramaniana dotyczące AI w prawie dotyczy ostatecznie pamięci instytucjonalnej. Kancelarie potrzebują specjalistów, którzy rozumieją, dlaczego argument działa, a nie tylko tego, czy oprogramowanie przekonująco go sformatowało.

Błąd w cytowaniu ujawnił lukę w nadzorze

Ludzka kontrola zawodzi, gdy odpowiedzialność jest przypisana szeroko, ale weryfikacja nie jest wbudowana w każdy etap procesu pracy.

Generatywna AI tworzy tekst, przewidując prawdopodobne kontynuacje na podstawie wzorców w danych. Domyślnie nie wyszukuje prawdy, nawet gdy jej odpowiedź zawiera dopracowane cytaty, nazwy spraw i formalne przypisy.

Halucynacja to pewnie sformułowany wynik pozbawiony wiarygodnego oparcia w faktach. W praktyce prawniczej może przyjąć formę nieistniejącej sprawy, zmienionego cytatu lub rzeczywistego orzeczenia popierającego niewłaściwą tezę.

Błędy te są niebezpieczne, ponieważ przypominają profesjonalną pracę. Sfabrykowane cytowanie może zawierać wiarygodnie brzmiącą nazwę sądu, datę, odwołanie do publikacji prawniczej i zasadę prawną. Powierzchowna jakość może sprawić, że słaba kontrola wyda się wystarczająca.

Epizod z Foundation Media pokazuje, jak nadzór może się rozproszyć. Jeden prawnik korzysta z narzędzia, inny może sprawdzać projekt, a główny pełnomocnik podpisuje lub składa wynik. Każda z tych osób może zakładać, że ktoś inny przeprowadził kontrolę źródeł.

Taka struktura tworzy lukę w weryfikacji. Polityki mogą wymagać dokładności, lecz nikt nie odpowiada za udokumentowany proces otwierania każdego cytowanego źródła i porównywania każdego cytatu z jego źródłem.

American Bar Association zajęła się tym problemem przed orzeczeniem Subramaniana. Jej opinia etyczna dotycząca AI wskazuje, że prawnicy muszą uwzględniać kompetencję, poufność, komunikację, nadzór, szczerość i rozsądne honoraria.

Obowiązki te nie znikają, gdy oprogramowanie tworzy pierwszy projekt. Prawnik nadal odpowiada za oświadczenia składane sądowi oraz porady przekazywane klientowi.

Weryfikacja wymaga również czegoś więcej niż potwierdzenia, że sprawa istnieje. Osoba dokonująca kontroli musi ustalić, czy orzeczenie nadal jest aktualne, czy ma zastosowanie w danej jurysdykcji oraz czy potwierdza dokładnie sformułowane twierdzenie.

Proces staje się trudniejszy, gdy model miesza poprawne materiały z subtelnymi zmyśleniami. Pismo zawierające w większości prawidłowe badania może osłabić czujność osoby sprawdzającej. Nieliczne fałszywe elementy mogą ukryć się wśród skądinąd wiarygodnej pracy.

Korporacyjne produkty prawnicze mogą ograniczać część ryzyk dzięki kontrolowanym źródłom danych, linkom do materiałów źródłowych, ustawieniom bezpieczeństwa lub zintegrowanym systemom badawczym. Projekt produktu nie może jednak przenieść odpowiedzialności zawodowej z pełnomocnika na dostawcę.

Istotne pytanie nie brzmi, czy narzędzie nosi etykietę branży prawniczej. Chodzi o to, czy proces pracy pozwala kompetentnemu prawnikowi odtworzyć, sprawdzić i obronić wynikającą z niego analizę.

Starsi prawnicy muszą również przeciwstawiać się uprzedzeniu wobec automatyzacji — skłonności do ufania systemowi, ponieważ wydaje się zaawansowany lub konsekwentnie użyteczny. Wielokrotnie dobre wyniki mogą utrudniać wykrycie wyjątkowego błędu.

Solidny proces powinien zachowywać ślad audytowy. Powinien rejestrować, jakiego narzędzia użyto, jakie zadanie wykonało, kto zweryfikował wynik oraz które źródła pierwotne wspierały końcowy dokument.

Kancelarie mogą stosować różne mechanizmy kontroli do różnych zadań. Podsumowanie wewnętrznego spotkania niesie inne ryzyko niż przygotowanie wniosku rozstrzygającego sprawę. Wymagany poziom kontroli powinien rosnąć wraz z konsekwencjami błędu.

Praca wysokiego ryzyka wymaga kontroli na poziomie źródeł, jasnego przypisania osób sprawdzających oraz wystarczającej ilości czasu na zakwestionowanie projektu. Może też wymagać, aby prawnik odtworzył tok rozumowania bez polegania na wygenerowanym tekście.

Ten ostatni krok jest ważny, ponieważ sama kontrola cytowań nie pozwala wykryć każdego błędu. Pismo może prawidłowo cytować rzeczywiste sprawy, a jednocześnie pomijać niekorzystne orzecznictwo, błędnie rozumieć materiał dowodowy lub realizować strategię szkodzącą klientowi.

Reakcja Subramaniana stawia nadzór przed karą. Sąd przyjął wyjaśnienie kancelarii i dodatkowe zabezpieczenia, lecz jego ostrzeżenie pyta, czy środki te zadziałają przy kolejnym pilnym złożeniu pisma.

Sprawdzian ma charakter operacyjny. Polityka ma wartość tylko wtedy, gdy prawnicy potrafią jej przestrzegać w warunkach terminów, presji ze strony klientów i żądań niższych kosztów.

Kompromis na rzecz efektywności zagraża prawniczej praktyce zawodowej

AI może eliminować pracę młodszych prawników szybciej, niż kancelarie potrafią zastąpić osąd, który ta praca wcześniej rozwijała.

Młodsi prawnicy tradycyjnie uczą się poprzez powtarzanie. Czytają akta, śledzą źródła, porównują projekty, otrzymują poprawki i obserwują, jak doświadczeni prawnicy przekształcają doktrynę prawną w porady dla klientów.

Znaczna część tej pracy jest powolna. W tradycyjnym modelu kancelarii jest też kosztowna. Generatywna AI celuje właśnie w te zadania badawcze, kontrolne i związane z przygotowywaniem projektów.

Argument za efektywnością jest łatwy do zrozumienia. System może w kilka minut stworzyć chronologię, podsumować dokumenty, porównać język umowy lub przygotować projekt. Prawnicy mogą następnie poświęcić więcej czasu na strategię i relacje z klientami.

Taki rezultat jest możliwy, ale nie następuje automatycznie. Usunięcie rutynowej pracy nie gwarantuje, że młodsi prawnicy otrzymają lepsze zadania. Kancelarie mogą po prostu ograniczyć ich godziny, zawęzić ich role lub oczekiwać, że będą nadzorować wyniki, których nie mają doświadczenia oceniać.

Praktyka prawnicza obejmuje to, co edukatorzy czasem nazywają tarciem poznawczym. Uczący się zmaga się z niepewnością, podejmuje decyzje, napotyka ślepe uliczki i otrzymuje informację zwrotną. Ten wysiłek buduje mentalny model problemu.

AI skraca zmaganie wraz z samym zadaniem. Dopracowany projekt pojawia się, zanim młodszy prawnik zdąży wyrobić sobie niezależny pogląd. Redagowanie zastępuje wtedy tworzenie jako domyślną aktywność edukacyjną.

Redagowanie może uczyć cennych umiejętności, ale tylko wtedy, gdy redaktor rozpoznaje, czego brakuje lub co jest błędne. Nowicjusz może poprawić sformułowania, jednocześnie nie dostrzegając wadliwego założenia, niekorzystnego precedensu lub strategicznego ustępstwa.

To paradoks stojący za ryzykiem AI dla szkolenia prawników. Kancelarie chcą, aby młodsi prawnicy weryfikowali wyniki maszyn, podczas gdy automatyzacja ogranicza doświadczenia uczące weryfikacji.

Sugestia Subramaniana, aby kancelarie wymagały przygotowywania części pierwszych projektów bez AI, bezpośrednio odpowiada na ten paradoks. Tworzy chronione środowisko praktyki, w którym prawnicy muszą przeprowadzić badania, uporządkować materiał i rozumować, zanim porównają swoją pracę z wygenerowanym wynikiem.

Takie podejście wiąże się z kosztem. Klienci mogą nie chcieć finansować ręcznej pracy, gdy oprogramowanie potrafi szybciej przygotować projekt. Partnerzy mogą też sprzeciwiać się nieodpłatnemu szkoleniu podczas wymagających spraw.

Koszt ten już jednak istnieje. Tradycyjna praktyka zawodowa wbudowywała szkolenie w pracę dla klienta, często bez nazywania go edukacją. AI czyni tę subsydiowaną część widoczną, oddzielając produkcję od rozwoju zawodowego.

Firmy muszą obecnie świadomie planować budżety szkoleniowe i definiować mierzalne kompetencje. Nie mogą zakładać, że młodzi prawnicy przyswoją umiejętność osądu dzięki pracy, która przestała trafiać na ich biurka.

Szersze środowisko prawnicze doszło do podobnych wniosków. Analiza dotycząca pipeline’u osądu z 2026 r. przekonuje, że AI zmienia zarówno zakres istniejącej pracy, jak i sposób, w jaki przyszli prawnicy rozwijają staranność powierniczą, osąd biznesowy i zaufanie klientów.

Analiza rozróżnia proceduralną produkcję od osądu uwzględniającego kontekst. AI może tworzyć dokumenty i rozpoznawać wzorce. Prawnicy muszą zdecydować, które fakty mają znaczenie, jakie ryzyko klient może zaakceptować oraz kto ponosi odpowiedzialność za poradę.

Prezes Sądu Najwyższego Singapuru Sundaresh Menon poruszył powiązaną kwestię w 2026 r. Ostrzegł, że wyparcie podstawowych badań i analiz może osłabić zdolność prawników do sprawdzania pracy wygenerowanej przez AI.

W swoim późniejszym wystąpieniu na temat szkolenia opisał zadania prawne, które AI może znacząco przyspieszyć, oraz presję zatrudnieniową dotykającą młodszych prawników. Wezwał również do większego nacisku na osąd, etyczność, odpowiedzialność, rozeznanie i uczciwość.

Te ostrzeżenia nie oznaczają konieczności zachowania każdej nieefektywnej praktyki. Przegląd dokumentów nie powinien pozostawać powolny tylko dlatego, że wcześniejsze pokolenia uczyły się poprzez pracę na dużej liczbie spraw.

Zamiast tego firmy muszą ustalić, czego uczyło każde zadanie, i celowo odtworzyć ten proces nauki. Zadania badawcze uczyły oceny źródeł. Sporządzanie projektów uczyło struktury. Kontakt z klientem uczył osądu przy niepełnych informacjach.

Przeprojektowany model aplikacji mógłby łączyć samodzielne pierwsze wersje projektów, nadzorowane porównania z AI, symulacje, ćwiczenia weryfikacji źródeł oraz bezpośredni kontakt z klientem. Każdy element powinien rozwijać jasno określoną kompetencję zawodową.

Nadzór starszych prawników również musi stać się bardziej widoczny. Partner, który po cichu poprawia projekt wspomagany przez AI, może chronić klienta, lecz nie uczy młodszego prawnika niczego. Informacja zwrotna powinna wyjaśniać, dlaczego wynik okazał się wadliwy i jak recenzent wykrył problem.

Firmy powinny mierzyć rozwój poprzez wykazane kompetencje, a nie wyłącznie liczbę godzin rozliczalnych lub wykorzystanie narzędzi. Młodszy prawnik powinien umieć samodzielnie prowadzić badania, testować wyniki AI, wyjaśniać niepewność i uzasadniać rekomendację.

Przeszukiwalny wewnętrzny system wiedzy może wspierać ten proces, jeśli zachowuje zweryfikowane precedensy, notatki z przeglądów oraz uzasadnienie decyzji. Celem nie jest bierne przechowywanie, lecz przeszukiwalna baza wiedzy, która wzmacnia naukę pod nadzorem.

Najsilniejszy proces pracy z prawniczą AI obejmuje zatem okresy, w których narzędzie pozostaje zamknięte. Prawnicy potrzebują okazji, aby wykazać, że potrafią rozumować bez wygenerowanego rusztowania, zanim zostaną poproszeni o nadzorowanie go.

Klienci przejmują ryzyko, które firmy obiecują kontrolować

Ryzyka dla klientów związane z prawniczą AI wykraczają poza fałszywe cytowania i obejmują poufność, strategię, koszty oraz jakość przyszłej reprezentacji.

Klienci często mają racjonalne powody, by prosić o wykorzystanie AI. Chcą szybszej realizacji spraw, niższych rachunków, jaśniejszych dokumentów i mniejszej liczby godzin poświęcanych na powtarzalną pracę.

Subramanian dostrzegł tę presję. Ostrzegł również, że klienci mogą ponieść niekorzystne konsekwencje, gdy coś pójdzie nie tak. Niższy koszt przygotowania projektu daje niewielkie pocieszenie, jeśli wadliwe pismo osłabia roszczenie lub szkodzi wiarygodności.

Widocznym ryzykiem jest zmyślone cytowanie. Mniej widoczne ryzyko stanowi porada brzmiąca rozsądnie, lecz pomijająca decydujący fakt, kwestię proceduralną albo konsekwencję biznesową.

Reprezentacja prawna wymaga czegoś więcej niż tworzenia tekstu. Prawnicy muszą rozumieć cel klienta, podważać założenia, chronić poufne informacje, a czasem doradzać przeciwko preferowanemu przez klienta działaniu.

Model nie może przyjąć zawodowej odpowiedzialności za takie wybory. Prawnik, który z niego korzysta, pozostaje odpowiedzialny, nawet gdy klient zażądał użycia tej technologii lub dostawca promował system do pracy prawniczej.

Klienci powinni zatem pytać, jak AI będzie wykorzystywana, a nie tylko czy firma jej używa. Badania, streszczanie, sporządzanie projektów, analiza umów i doradztwo strategiczne niosą odmienne konsekwencje.

Powinni również zapytać, jakie informacje trafiają do systemu. Poufne fakty, komunikacja objęta tajemnicą zawodową, dane osobowe i dokumenty wrażliwe handlowo wymagają zabezpieczeń dopasowanych do mechanizmów przechowywania i kontroli dostępu danego produktu.

Wytyczne ABA wskazują, że prawnicy muszą rozumieć możliwości i ograniczenia narzędzia. Łączą one również wykorzystanie AI z obowiązkami dotyczącymi komunikacji z klientem i poufności.

Obowiązek ten komplikuje ogólne klauzule zgody. Klient nie może w sposób świadomy ocenić wykorzystania AI, jeśli nie zna zadania, danych objętych procesem, oczekiwanej korzyści i dostępnej alternatywy.

Koszt tworzy kolejne napięcie. Jeśli AI skraca czas potrzebny na wykonanie zadania, klienci będą oczekiwać, że oszczędności trafią do nich. Firmy nadal muszą finansować weryfikację, szkolenia, bezpieczeństwo i nadzór nad dostawcami.

Wydatki te są realne, lecz powinny być przejrzyste. Klient nie powinien płacić za fikcyjne ręczne godziny przy zautomatyzowanej produkcji. Firma nie powinna też rezygnować z niezbędnej kontroli, aby zachować marże.

Model rozliczeń godzinowych może popychać firmy w obu kierunkach. Może zniechęcać do automatyzacji, gdy efektywność zmniejsza przychody. Może też zachęcać do nadmiernej automatyzacji, gdy klienci narzucają ścisłe budżety.

Alternatywne struktury wynagrodzeń same w sobie nie rozwiązują problemu jakości. Stała opłata może premiować efektywność, lecz może również premiować minimalną kontrolę, jeśli zlecenie nie określa rezultatów i mechanizmów kontroli.

Lepsza umowa dotyczy procesu. Może określać zatwierdzone zastosowania, ochronę poufności, obowiązki weryfikacyjne, oczekiwania dotyczące ujawniania informacji oraz to, czy dla konkretnych zadań wymagana jest zgoda klienta.

Klienci powinni także wiedzieć, kto wykonał pracę. Starszy prawnik nie powinien sugerować, że doświadczony specjalista osobiście zbadał zagadnienie, gdy model wygenerował podstawę, a młodszy prawnik przeprowadził ograniczoną kontrolę.

Nie oznacza to, że klienci powinni odrzucać prawniczą AI. Odpowiedzialne użycie może poprawić dostęp do pomocy prawnej, przyspieszyć rutynową pracę i pomóc prawnikom analizować obszerne akta, które w innym przypadku nadmiernie obciążałyby budżety.

Przeciwwagą jest dostęp do wymiaru sprawiedliwości. Ścisłe zakazy używania przydatnych narzędzi mogą utrwalać kosztowne procesy, na które wielu osób i małych organizacji nie stać.

Dyskusje sądowe coraz częściej uznają ten kompromis. Wyzwaniem jest zwiększenie dostępności usług wspomaganych przez AI bez przedstawiania niezweryfikowanych wyników jako zawodowego osądu.

Federalny system zasad rozważa, czy istniejące obowiązki odpowiednio regulują problem sfabrykowanych źródeł wygenerowanych przez AI. Program komitetu ds. zasad z października 2026 r. omawia, czy obecne standardy Rule 11 już obejmują ten problem, czy też wymagają bardziej szczegółowej reakcji.

Debata ta ma znaczenie, ponieważ niespójne praktyki sądowe tworzą niepewność. Niektórzy sędziowie wymagają ujawniania użycia AI lub składania poświadczeń. Inni opierają się na istniejących obowiązkach dotyczących dokładności, kompetencji i rozsądnego dochodzenia.

Ogólnokrajowa zasada mogłaby zapewnić spójność, lecz samo ujawnienie nie może zagwarantować jakości. Pismo oznaczone jako wspomagane przez AI nadal może być błędne, podczas gdy starannie zweryfikowane pismo wspomagane przez AI może w pełni spełniać obowiązki zawodowe.

Najbardziej użyteczną ochroną klienta pozostaje odpowiedzialny ludzki osąd. Ujawnianie informacji, bezpieczeństwo i weryfikacja powinny wspierać ten osąd, a nie go zastępować.

Na co powinny zwracać uwagę firmy prawnicze i klienci

Kolejnym sprawdzianem będzie to, czy środowisko prawnicze przełoży ostrzeżenia sądów na mierzalne systemy szkolenia i weryfikacji.

Pierwszy sygnał nadejdzie wraz z postanowieniami sądów i decyzjami w sprawach sankcji. Sędziowie rozstrzygają, czy istniejące zasady zawodowe są wystarczające oraz które uchybienia uzasadniają kary pieniężne, skierowania do odpowiednich organów lub publiczne nagany.

Wzrost liczby certyfikacji dotyczących konkretnych narzędzi wskazywałby, że sądy preferują ujawnianie informacji i udokumentowaną weryfikację. Dalsze poleganie na zwykłych obowiązkach dotyczących dokładności nakładałoby na firmy większą odpowiedzialność za projektowanie własnych mechanizmów kontroli.

Żadna z tych ścieżek nie usuwa podstawowego obowiązku. Sądy nadal będą oczekiwać od prawników weryfikowania źródeł, cytatów, twierdzeń faktycznych oraz związku między precedensem a argumentacją.

Drugim sygnałem będzie sposób, w jaki firmy przeprojektują szkolenie młodszych prawników. Ogłoszenie edukacji dotyczącej AI nie wystarczy, jeśli program uczy tworzenia promptów bez samodzielnych badań, sporządzania projektów i oceny źródeł.

Przydatnymi dowodami byłyby chronione zadania wykonywane bez AI, nadzorowane ćwiczenia porównawcze, programy symulacyjne oraz testowanie kompetencji. Firmy powinny także wyjaśniać, jak starsi prawnicy przekazują informacje zwrotne na temat pracy wspomaganej przez AI.

Na uwagę zasługują również wzorce zatrudnienia. Jeśli firmy ograniczą liczbę stanowisk dla osób na poziomie podstawowym bez tworzenia nowych programów aplikacyjnych, pipeline osądu się zawęzi. Konsekwencje mogą stać się widoczne dopiero po latach.

Trzecim sygnałem będzie zachowanie klientów. Korporacyjne działy prawne coraz częściej ustalają wytyczne dla zewnętrznych kancelarii obejmujące zatwierdzone narzędzia, przetwarzanie danych, obsadę spraw, rozliczenia i ujawnianie informacji.

Jeśli klienci będą wymagać zarówno efektywności, jak i weryfikowalnych zabezpieczeń, firmy zyskają handlowy powód do budowania zdyscyplinowanych systemów. Jeśli klienci skupią się wyłącznie na szybkości i kosztach, weryfikacja oraz szkolenia mogą pozostać niedofinansowane.

Dostawcy prawniczej AI również są pod presją, aby wspierać tę odpowiedzialność. Nabywcy będą szukać identyfikowalnych źródeł, kontroli uprawnień, dzienników audytowych, bezpiecznego przetwarzania danych oraz integracji z autorytatywnymi narzędziami badawczymi.

Funkcje te mogą ułatwić kontrolę. Nie mogą jednak rozstrzygnąć, czy prawnik zrozumiał cel klienta lub wykazał się właściwym osądem.

Pismo Hilla stanowi użyteczny punkt odniesienia. Firma miała podobno polityki i szkolenia, a mimo to wątpliwe materiały trafiły do sądu. Przyszłe zabezpieczenia muszą uwzględniać drogę między formalnymi zasadami a rzeczywistym zachowaniem.

Firmy mogą zacząć od jasnego przypisania odpowiedzialności. Każdy dokument wspomagany przez AI powinien mieć wskazanego prawnika odpowiedzialnego za walidację źródeł, przegląd rozumowania, poufność i ostateczne zatwierdzenie.

Powinny następnie zachowywać dowody tej pracy. Lista kontrolna jest przydatna tylko wtedy, gdy odzwierciedla rzeczywistą analizę, a nie pole zaznaczone przed złożeniem pisma.

Szkolenie powinno łączyć błędy z konsekwencjami zawodowymi. Młodsi prawnicy muszą zobaczyć, jak sfabrykowany cytat może wpłynąć na wiarygodność, strategię klienta i gotowość sądu do zaufania późniejszym pismom.

Starsi prawnicy również potrzebują szkolenia. Ich doświadczenie w zakresie doktryny nie zapewnia automatycznie wiedzy o zachowaniu modeli, kontrolach danych ani wzorcach błędów systemów generatywnych.

Klienci mogą zadać kilka bezpośrednich pytań przed zleceniem pracy wspomaganej przez AI:

• Które zadania będą wykorzystywać AI, a które pozostaną prowadzone przez ludzi?

• Kto zweryfikuje każde źródło i każdy cytat?

• Jakie informacje klienta trafią do systemu?

• W jaki sposób dostawca przechowuje lub ponownie wykorzystuje te informacje?

• Jak AI wpłynie na obsadę sprawy, harmonogram i opłaty?

• Co stanie się, gdy narzędzie wygeneruje błąd?

Pytania te nie wymagają od klientów, by stali się specjalistami od AI. Wymagają od firm wyjaśnienia procesu w kategoriach, które klient może ocenić.

Ostrzeżenie Subramaniana nie przewiduje końca prawniczej AI. Zakłada dalsze wdrażanie i wzywa środowisko prawnicze do zmierzenia się z jej ukrytymi kosztami.

Korzyść wynikająca z efektywności pozostaje atrakcyjna. AI może ograniczyć powtarzalny wysiłek i dać prawnikom więcej czasu na pracę o wyższej wartości. Korzyść ta przetrwa tylko wtedy, gdy firmy zainwestują część zaoszczędzonego czasu w nadzór i naukę.

Trudniejsze pytanie brzmi, czy to zrobią. Zawód, który automatyzuje aplikację bez jej zastąpienia, z czasem nie będzie dysponował osądem potrzebnym do nadzorowania automatyzacji.

Ostrzeżenie Aruna Subramaniana dotyczące AI w prawie stanowi praktyczny sprawdzian dla kancelarii, klientów, sądów i dostawców. Czy ich systemy tworzą szybsze dokumenty, czy też prawników zdolnych wziąć za te dokumenty odpowiedzialność?

Przed zleceniem pracy prawniczej wspomaganej przez AI warto zapytać, kto ją zweryfikuje i w jaki sposób nauczył się rozpoznawać błędy. Dla kancelarii kolejny krok jest równie konkretny: chronić niezależne badania, ustrukturyzowaną informację zwrotną oraz weryfikację na poziomie źródeł. Efektywność powinna finansować te zabezpieczenia, a nie je eliminować.