Redakcje FOIA DHS z użyciem AI obiecują szybkość, ale grożą pogłębieniem tajności
DHS planuje wykorzystywać AI do rekomendowania redakcji w ramach od 100 000 do 140 000 dorocznych wniosków o dostęp do dokumentów publicznych, mimo ograniczonych dowodów na to, że maszyny potrafią podejmować wiarygodne decyzje dotyczące ujawniania informacji. Inicjatywa DHS AI FOIA redactions obiecuje skrócenie czasu przetwarzania. Grozi jednak także tym, że nadmierne utajnianie stanie się szybsze, tańsze i trudniejsze do zakwestionowania przez wnioskodawców.
Department of Homeland Security twierdzi, że pracownicy będą weryfikować rekomendacje, zanim dokumenty opuszczą agencję. To zabezpieczenie ma znaczenie, ponieważ Freedom of Information Act, czyli FOIA, wymaga kontekstowej oceny prawnej. Model może rozpoznawać nazwiska lub numery identyfikacyjne. Nie potrafi jednak samodzielnie ocenić, czy ujawnienie dyskusji dotyczącej polityki spowodowałoby szkodę rozpoznawalną w świetle prawa.
Nie jest to rywalizacja między technologią a papierową biurokracją. Rzeczywisty konflikt dotyczy efektywności przetwarzania i rzeczywistego dostępu publicznego. Federalne agencje mierzą się z liczbą wniosków o dokumenty, której ludzcy recenzenci z trudem są w stanie sprostać. Rząd nie wykazał jednak, że zautomatyzowane rekomendacje będą konsekwentnie sprzyjać ujawnianiu informacji, gdy zezwala na to prawo.
To pytanie ma szczególne znaczenie w DHS. Według federalnych danych cytowanych w federal redaction plan departament przetworzył niemal milion wniosków w roku budżetowym 2025. Jedynie 2,3 procent z nich zakończyło się udostępnieniem dokumentów bez redakcji. Jeśli automatyzacja wpłynie choćby na część tego obciążenia, jej założenia ukształtują to, czego dziennikarze, badacze, prawnicy i zwykli obywatele mogą dowiedzieć się o działalności federalnej.
Co faktycznie zrobią redakcje FOIA DHS z użyciem AI
Bezpośrednią zmianą nie jest autonomiczna cenzura, lecz zautomatyzowane rekomendacje wchodzące do procesu kontroli prawnej na ogromną skalę.
U.S. Customs and Border Protection, agencja wchodząca w skład DHS, planuje wykorzystywać narzędzia Google do sztucznej inteligencji i uczenia maszynowego podczas przetwarzania FOIA. System będzie identyfikował treści, które mogą kwalifikować się do utajnienia, oraz rekomendował redakcje pracownikom administracji.
Redakcja polega na usunięciu części dokumentu przed jego udostępnieniem, zwykle poprzez zasłonięcie tekstu, obrazów, dźwięku lub wideo. Agencje stosują redakcje, gdy informacje podlegają wyjątkowi FOIA albo inne prawo zakazuje ich ujawnienia. Typowe przykłady obejmują dane osobowe, materiały tajne, informacje dotyczące egzekwowania prawa oraz niektóre wewnętrzne deliberacje.
Opis DHS wskazuje, że automatyzacja ma skrócić czas przetwarzania. Departament stwierdził również, że pracownicy będą analizować każdą sprawę i zapewniać wnioskodawcom otrzymanie dokładnych i kompletnych informacji. Te deklaracje wskazują, że człowiek pozostanie odpowiedzialny za ostateczną decyzję.
Planowana skala zmienia jednak praktyczne znaczenie takiej kontroli. DHS oczekuje zastosowania AI do kategorii wniosków stanowiących ponad 10 procent wszystkich zgłoszeń. Departament szacuje ten zakres na około 100 000–140 000 wniosków.
Weryfikacja sugestii maszyny nie musi być równoznaczna z podjęciem decyzji od podstaw. Zapracowany pracownik może zacząć od fragmentów wyróżnionych przez model i skupić się na ich potwierdzeniu. Taki proces może wywołać stronniczość automatyzacji — skłonność do akceptowania wyniku systemu, ponieważ wydaje się on systematyczny lub autorytatywny.
Rozróżnienie staje się kluczowe, gdy model wychodzi poza oczywiste dane osobowe. Wykrycie numeru Social Security opiera się na względnie stabilnym wzorcu. Zastosowanie wyjątku wobec e-maila dotyczącego niedokończonej polityki wymaga zrozumienia autora dokumentu, jego celu, czasu powstania, odbiorców i związku z ostateczną decyzją.
DHS nie określił publicznie, jak często jego system będzie wykonywać proste dopasowywanie wzorców zamiast takich kontekstowych ocen. Nie ujawnił kompleksowych wyników działania, wskaźników błędów, dokumentacji testów, przykładów treningowych ani wskaźników odrzucania rekomendacji.
Inne departamenty także eksperymentują. Department of the Interior podobno wykorzystuje technologię Microsoft do lokalizowania materiałów, które mogą podlegać ochronie tajemnicy adwokacko-klienckiej. Department of Health and Human Services opisał system proof of concept służący do przeglądania i redagowania dużych zbiorów dokumentów. Justice Department twierdzi, że kilka jego jednostek już korzysta z funkcji automatycznego wyszukiwania i przeglądu.
Ruch ten jest zatem szerszy niż jedno wdrożenie DHS. Federalne agencje tworzą warstwę wsparcia maszynowego między dokumentami rządowymi a osobami, które o nie wnioskują. Nadal nierozstrzygnięte pozostaje, czy warstwa ta pomoże recenzentom odnajdywać informacje możliwe do ujawnienia, czy zachęci ich do usuwania większej ich części.
Ta niepewność zmienia usprawnienie operacyjne w test przejrzystości administracji.
Dlaczego federalne agencje automatyzują FOIA właśnie teraz
AI trafia do FOIA, ponieważ liczba wniosków i zbiory dokumentów przerosły istniejące systemy kontroli w wielu agencjach.
FOIA daje społeczeństwu prawo do wnioskowania o dokumenty od agencji władzy wykonawczej. Nie obejmuje Kongresu, sądów federalnych ani większości biur bezpośrednio doradzających prezydentowi. Każda objęta ustawą agencja musi odnaleźć odpowiednie dokumenty, zbadać je, zastosować wszelkie zgodne z prawem wyjątki i udostępnić wszystkie rozsądnie wydzielalne materiały nieobjęte wyjątkami.
Proces ten staje się powolny, gdy jeden wniosek obejmuje tysiące e-maili, załączników, wiadomości, nagrań wideo, arkuszy kalkulacyjnych i zeskanowanych dokumentów. Recenzenci muszą wykrywać duplikaty, identyfikować odpowiednie materiały, konsultować się z innymi biurami, chronić uzasadnione tajemnice oraz zachowywać wszystko, co może zostać legalnie ujawnione.
W całym rządzie federalnym agencje przetworzyły rekordowe 1,6 mln wniosków w roku budżetowym 2025. Według annual FOIA data Justice Department oznaczało to wzrost o 9 procent w porównaniu z poprzednim rokiem.
Technologia może rozwiązać kilka mechanicznych elementów tego obciążenia. Optyczne rozpoznawanie znaków przekształca zeskanowane strony w tekst z możliwością wyszukiwania. Deduplikacja usuwa powtarzające się łańcuchy e-maili. Rozpoznawanie encji lokalizuje nazwiska, numery telefonów, adresy i inne powtarzalne wzorce. Systemy klasyfikacji mogą nadawać priorytet dokumentom, które wydają się istotne dla danego wniosku.
Zastosowania te nie niosą takiego samego ryzyka. Przeszukiwanie zbioru w poszukiwaniu odpowiednich dokumentów może poszerzać dostęp, jeśli alternatywą jest niepełne wyszukiwanie ręczne. Automatyczne ukrywanie języka wpływa na treść publicznego ujawnienia.
Federalni urzędnicy od lat analizują to rozróżnienie. W maju 2026 roku Chief FOIA Officers Council, Office of Government Information Services przy National Archives oraz Justice Department zorganizowały trzeci NexGen FOIA Tech Showcase.
Rządowy technology showcase poszukiwał narzędzi do elektronicznego ujawniania dokumentów, obsługi spraw, dostępnych publikacji, publicznych czytelni i automatycznej redakcji. Proponowane systemy obejmowały dokumenty papierowe, treści cyfrowe, wideo, dźwięk i dane ustrukturyzowane.
Wydarzenie było kontynuacją podobnych prezentacji z 2022 i 2024 roku. Odzwierciedlało również rekomendację federalnego FOIA Advisory Committee, który zachęcał agencje do pozyskiwania od branży informacji na temat przetwarzania wspomaganego przez AI.
Wdrożenia nadal są ograniczone, ale rosną. Najnowsza FOIA assessment National Archives wykazała, że 20,6 procent odpowiadających federalnych agencji wykorzystywało AI lub uczenie maszynowe do pomocy w wyszukiwaniu albo porządkowaniu dokumentów w 2025 roku. To wzrost z 18,6 procent w poprzedniej ocenie.
Ten sam raport wykazał, że 80 procent korzystało z narzędzi do elektronicznego ujawniania dokumentów w wyszukiwaniach FOIA, wobec 72 procent w 2020 roku. Dane te pokazują, że agencje automatyzowały pracę z dokumentami jeszcze przed tym, gdy generatywna AI stała się dominującym tematem technologicznym.
Problem zaległości jest realny. Opóźniony dostęp może sprawić, że rzetelna informacja stanie się bezużyteczna. Dokument ujawniony po wyborach, sporze sądowym, debacie nad polityką lub sytuacji kryzysowej może pojawić się zbyt późno, by służyć rozliczalności.
Automatyzacja może więc wspierać otwartość, gdy pomaga pracownikom odnajdywać dokumenty, usuwać duplikaty lub identyfikować wyraźnie chronione dane osobowe. Szybsze przetwarzanie nie jest pozorną korzyścią.
Niebezpieczeństwo pojawia się, gdy agencje uznają szybkość za podstawową miarę sukcesu. Zamknięty wniosek nie musi oznaczać wniosku zrealizowanego. Szybka odpowiedź wypełniona niepotrzebnymi czarnymi polami może mieć mniejszą wartość publiczną niż wolniejsze, starannie zweryfikowane ujawnienie.
Dlatego kluczowym pytaniem dotyczącym działania systemu nie może być liczba stron przetwarzanych na godzinę. Musi nim być to, ile zgodnych z prawem informacji trafia do społeczeństwa, z iloma błędami i po jakim poziomie ludzkiej kontroli.
Obietnica efektywności zderza się z problemem ujawniania informacji
Ten sam system, który może przyspieszać uzasadnione redakcje, może również zwiększać skalę istniejącej skłonności rządu do nadmiernego utajniania.
DHS przetworzył 994 992 wnioski FOIA w roku budżetowym 2025. Dokumenty bez redakcji udostępnił jedynie w 2,3 procent zakończonych spraw. Około 40 procent zakończyło się częściowo zredagowanymi ujawnieniami.
Pozostałe wnioski zakończono z kilku powodów. Niektóre otrzymały pełną odmowę na podstawie ustawowych wyjątków. W wielu przypadkach departament stwierdził, że nie znalazł żadnych odpowiednich dokumentów. Inne wnioski zostały wycofane, przekazane gdzie indziej lub zamknięte z przyczyn proceduralnych.
Kategorie te nie dowodzą niewłaściwego postępowania. DHS zajmuje się imigracją, egzekwowaniem prawa na granicach, cyberbezpieczeństwem, zarządzaniem kryzysowym, bezpieczeństwem transportu i działaniami ochronnymi. Jego dokumenty rutynowo zawierają dane osobowe oraz informacje związane z egzekwowaniem prawa lub bezpieczeństwem narodowym.
Punkt wyjścia nadal ma jednak znaczenie. DHS nie wprowadza zautomatyzowanych rekomendacji do systemu znanego z szerokiego, nieocenzurowanego ujawniania informacji. Wprowadza je do systemu, w którym pełne ujawnienia już teraz należą do rzadkości.
AI może popchnąć ten system w obu kierunkach. Dobrze zaprojektowany model mógłby pomóc pracownikom wyodrębnić chronione nazwisko, jednocześnie ujawniając resztę akapitu. Wspierałoby to ustawowy wymóg oddzielania informacji objętych wyjątkami od materiałów, które społeczeństwo może otrzymać.
Źle skalibrowany model może oznaczyć cały akapit, ponieważ jedno zdanie przypomina chroniony język. Jeśli pracownicy zaakceptują rekomendację, system ukryje kontekst nieobjęty wyjątkiem wraz z potencjalnie wrażliwym tekstem.
Modele popełniają też dwa różne rodzaje błędów. Fałszywie negatywny wynik pomija informacje, które powinny być chronione, co może prowadzić do ujawnienia prywatnych lub tajnych materiałów. Fałszywie pozytywny wynik oznacza zgodne z prawem informacje do usunięcia.
Zachęty po stronie rządu nie traktują tych błędów jednakowo. Przypadkowe ujawnienie może wywołać natychmiastowy incydent bezpieczeństwa, skargę dotyczącą prywatności lub problem dyscyplinarny. Niepotrzebna redakcja zwykle obciąża wnioskodawcę, który musi złożyć odwołanie lub pozew, aby ją zakwestionować.
Ta nierównowaga sprzyja konserwatywnym ustawieniom. System zoptymalizowany pod kątem unikania przypadkowego ujawnienia prawdopodobnie oznaczy więcej materiałów. Ludzcy recenzenci pracujący pod presją czasu mogą następnie zatwierdzać te sugestie, ponieważ utajnienie wydaje się instytucjonalnie bezpieczniejsze.
Rezultatem może być mechanizm zapadkowy prowadzący ku tajności. Każda rekomendacja modelu z osobna wydaje się ostrożna. W skali setek tysięcy wniosków skumulowany efekt może usunąć duże ilości informacji, które bardziej wnikliwa kontrola ujawniłaby.
Automatyzacja umożliwia również spójność, lecz spójność nie oznacza automatycznie sprawiedliwości. Model może stosować wąską interpretację prawa w całej agencji. Może też odtwarzać niespójne decyzje na podstawie zapisów wykorzystanych do jego skonfigurowania lub wytrenowania.
Decyzje dotyczące FOIA często zależą od historii instytucjonalnej. Jeśli wcześniejsi recenzenci regularnie zatajali określony rodzaj dyskusji, system uczący się na ich pracy może przedstawiać tę praktykę jako standardową odpowiedź. Model nie wie, czy wcześniejsze decyzje odzwierciedlały staranną analizę prawną, nieaktualne wytyczne czy nawykową nadmierną redakcję.
Tworzy to pętlę sprzężenia zwrotnego. Wcześniejsze zatajenia wpływają na zautomatyzowane rekomendacje. Recenzenci akceptują te rekomendacje. Zatwierdzony wynik staje się następnie dowodem wspierającym przyszłe zautomatyzowane decyzje.
Rząd może przerwać tę pętlę wyłącznie poprzez celową ocenę. Agencje potrzebują zbiorów testowych zawierających zarówno materiały wyłączone z ujawnienia, jak i możliwe do udostępnienia. Niezależni recenzenci powinni mierzyć liczbę wyników fałszywie dodatnich, fałszywie ujemnych oraz ilość informacji nieobjętych wyłączeniem utraconych w pobliżu zasadnych redakcji.
Znaczenie mają również dane o uchyleniach rekomendacji. Jeśli pracownicy niemal nigdy nie odrzucają sugestii modelu, nadzór może być jedynie pozorny. Jeśli recenzenci często dodają lub usuwają redakcje, system może nie oszczędzać tyle pracy, ile obiecywano.
DHS oświadczył, że ludzie pozostaną zaangażowani w proces. Nie wykazał jeszcze, czy to zaangażowanie będzie niezależne, odpowiednio obsadzone kadrowo, udokumentowane i objęte kontrolą jakości. Dopóki te szczegóły nie staną się publiczne, twierdzenie o efektywności pozostaje niepełne.
AI Nie Może Samodzielnie Decydować o Przewidywalnej Szkodzie na Podstawie Wzorców
Model może wykrywać wzorce językowe, lecz FOIA wymaga od agencji powiązania każdej decyzji o zatajeniu z konkretną, racjonalnie przewidywalną szkodą.
Kongres wzmocnił ten wymóg poprzez FOIA Improvement Act z 2016 roku. Agencja zasadniczo może zatajać informacje objęte wyłączeniem tylko wtedy, gdy racjonalnie przewiduje, że ujawnienie zaszkodzi interesowi chronionemu przez dane wyłączenie. Może również zatajać informacje, gdy ich udostępnienia zabrania inne prawo.
Standard przewidywalnej szkody uniemożliwia agencjom traktowanie każdego technicznie dostępnego wyłączenia jako automatycznego nakazu. Dokument może mieścić się w granicach wyłączenia, a mimo to nie dawać istotnego powodu do zachowania tajemnicy.
Wytyczne dotyczące ujawniania Departamentu Sprawiedliwości nakazują agencjom uwzględniać kontekst. Istotne czynniki mogą obejmować wiek zapisu, wcześniejsze oficjalne ujawnienia, jego wrażliwy charakter i cel. Agencje powinny konsultować się z kompetentnymi pracownikami, gdy możliwa szkoda nie jest jasna.
Praca ta zasadniczo różni się od wykrywania encji. Model może znaleźć nazwisko osoby. Nie może jednak na podstawie samego nazwiska ustalić, czy ujawnienie naruszyłoby prywatność, zidentyfikowało poufne źródło, ujawniło działania urzędowe czy powtórzyło informacje już podane do publicznej wiadomości.
Ten sam problem dotyczy przywileju procesu decyzyjnego. Ochrona ta może obejmować określoną komunikację poprzedzającą decyzję, odzwierciedlającą konsultacje agencji. Nie pozwala jednak agencji ukrywać każdego projektu, zalecenia ani wewnętrznego e-maila.
Badacze testowali uczenie maszynowe pod kątem tego problemu. Jason R. Baron, Mahmoud F. Sayed i Douglas W. Oard zebrali materiały z archiwów prezydentury Clintona i wytrenowali klasyfikatory do identyfikowania potencjalnie deliberatywnych fragmentów.
Ich badanie dotyczące uczenia maszynowego wykazało, że systemy działały najlepiej, gdy trening i ocena opierały się na spójnych interpretacjach recenzentów. Wyniki pogarszały się, gdy zmieniali się recenzenci, opiekunowie dokumentacji lub zakres tematyczny.
W późniejszej publicznej dyskusji Baron opisał te metody jako skuteczne w około 70 procentach przypadków przy rozróżnianiu materiałów związanych z przywilejem procesu decyzyjnego. Opublikowane wyniki uzyskane w spójnych warunkach wskazywały miary F1 od 70 do 83 procent. Wynik F1 łączy liczbę trafnych fragmentów odnalezionych przez model z częstotliwością poprawności jego pozytywnych klasyfikacji.
Wyniki te są przydatne do wstępnej selekcji. Nie są wystarczająco mocne, by uzasadniać nienadzorowane decyzje prawne. Przy skuteczności na poziomie 70 procent istotna część fragmentów zostanie sklasyfikowana nieprawidłowo.
Badanie ujawnia też głębszy problem. Ludzcy recenzenci nie zawsze zgadzają się, czy ten sam język kwalifikuje się do zatajenia. System wytrenowany na interpretacji jednego recenzenta może mieć trudności, gdy inny stosuje prawo odmiennie.
Ta rozbieżność nie jest wyłącznie technicznym szumem. Odzwierciedla kontekstowy charakter FOIA. Oceny prawne zależą od tego, co reprezentuje dany zapis, co rząd już ujawnił oraz jaka konkretna szkoda wynikałaby z publikacji.
DHS potrzebuje zatem czegoś więcej niż człowieka umieszczonego na końcu zautomatyzowanego procesu. Rzetelna kontrola wymaga wystarczającego czasu, uprawnień i informacji, aby odrzucić rekomendację modelu. Pracownik musi też zbadać, czy węższa redakcja chroniłaby uzasadniony interes.
Agencje powinny zachowywać ślad audytowy dla każdej zautomatyzowanej sugestii. Zapis ten powinien wskazywać, które fragmenty system oznaczył, z jakim wyłączeniem je powiązał, co pracownik zmienił oraz dlaczego ostateczna decyzja spełnia standard przewidywalnej szkody.
Wnioskodawcy nie potrzebują dostępu do wrażliwych danych treningowych ani szczegółów zabezpieczeń systemu. Potrzebują natomiast zrozumiałych informacji o tym, jak zautomatyzowane narzędzia wpłynęły na ich dokumenty. Bez tej przejrzystości odwołanie staje się trudniejsze, ponieważ wnioskodawca nie może odróżnić oceny prawnika od domyślnego rozstrzygnięcia wspieranego przez model.
Rekomendacja czarnej skrzynki nie powinna nigdy zamieniać się w czarną skrzynkę na stronie tylko dlatego, że człowiek kliknął „zatwierdź”.
Kontrola Człowieka Jest Zabezpieczeniem Tylko Wtedy, Gdy Zmienia Wyniki
Określenie „człowiek w pętli” zapewnia niewielką ochronę, jeśli agencje nie mierzą, czy ludzie rzeczywiście kwestionują zautomatyzowane rekomendacje.
DHS twierdzi, że pracownicy będą przeglądać sprawy wspierane przez AI. Federalne biuro rzecznika FOIA podobnie ostrzega, że AI i uczenie maszynowe nie mogą zastąpić profesjonalnej oceny dotyczącej wyłączeń i przewidywalnej szkody.
To właściwe stanowisko formalne. Jego skuteczność będzie zależeć od projektu procesu pracy.
Jeśli recenzent widzi kompletny dokument, zanim pojawią się jakiekolwiek proponowane oznaczenia, może wyrobić sobie niezależną opinię. Jeśli system prezentuje stronę już pokrytą sugerowanymi redakcjami, oznaczenia te tworzą punkt odniesienia. Recenzent musi wtedy uzasadniać usunięcie ochrony, zamiast decydować, czy ją dodać.
Różnica może wydawać się proceduralna, ale zmienia kierunek wątpliwości. W pierwszym procesie niepewność może sprzyjać ujawnieniu. W drugim niepewność sprzyja zachowaniu czarnej skrzynki modelu.
Kolejne ograniczenie tworzy obsada kadrowa. Agencja może wdrożyć automatyzację właśnie dlatego, że nie ma wystarczającej liczby osób do obsługi swojego obciążenia pracą. Jeśli ten sam niedobór pozostawia recenzentom tylko kilka minut na sprawdzenie każdego wyniku, formalna ludzka akceptacja staje się punktem kontrolnym przepustowości.
Cele wydajnościowe mogą wzmacniać tę presję. Menedżerowie mogą mierzyć liczbę zamkniętych wniosków, przetworzonych stron lub zmniejszenie zaległości. Te liczby łatwo policzyć. Trudniej zaobserwować ilość informacji nieobjętych wyłączeniem zachowanych dzięki starannej kontroli.
Skuteczny program nadzoru wykorzystywałby kilka miar. Agencje powinny porównywać decyzje wspierane przez maszyny z niezależnymi próbkami kontroli. Powinny śledzić, jak często pracownicy usuwają proponowane redakcje, zawężają je lub dodają ochronę pominiętą przez system.
Powinny też testować wyniki w różnych typach dokumentów. Narzędzie, które niezawodnie wykrywa numery paszportów w ustandaryzowanych formularzach, może słabo działać w przypadku e-maili dotyczących polityki, odręcznych notatek, arkuszy kalkulacyjnych, nagranych wywiadów lub dokumentów historycznych.
Testy muszą uwzględniać konsekwencje obu rodzajów błędów. Wyniki fałszywie ujemne mogą ujawnić chronione informacje. Wyniki fałszywie dodatnie mogą ograniczyć dostęp publiczny. Traktowanie błędów dotyczących prywatności i bezpieczeństwa jako jedynych istotnych niepowodzeń wbudowałoby nadmierną redakcję w proces oceny.
Agencje powinny publikować zbiorcze wyniki. Przydatne informacje obejmowałyby liczbę wniosków przetworzonych z użyciem AI, zastosowane wyłączenia, próbne wskaźniki błędów, wskaźniki uchyleń przez recenzentów oraz zmiany czasu przetwarzania.
Publiczne raportowanie nie ujawniłoby wrażliwej treści indywidualnych wniosków. Ustaliłoby, czy narzędzie działa jako asystent, czy jako nieujawniony decydent.
Odwołania oferują kolejne źródło dowodów. Jeśli sprawy wspierane przez AI prowadzą do większej liczby skutecznych odwołań administracyjnych, trend ten sugerowałby, że system lub jego proces kontroli zataja informacje zbyt szeroko. Agencje powinny porównywać te wyniki ze sprawami ocenianymi konwencjonalnie.
Sądy ostatecznie również odegrają rolę. Spory sądowe dotyczące FOIA często wymagają od agencji wyjaśnienia podstaw redakcji poprzez oświadczenia lub indeks Vaughna, dokument łączący zatajony materiał z powołanymi wyłączeniami. Zautomatyzowane narzędzia nie zmniejszają tego obowiązku prawnego.
Jeśli agencja nie potrafi wyjaśnić, dlaczego ujawnienie spowodowałoby szkodę, bez ogólnego odwołania się do modelu, jej uzasadnienie powinno zostać odrzucone. Rząd pozostaje odpowiedzialny za ostateczną decyzję, niezależnie od tego, który dostawca dostarczył oprogramowanie.
Nadzór nad dostawcami jest zatem częścią publicznej odpowiedzialności. Umowy powinny umożliwiać rządowe testowanie, zachowywać logi, dokumentować zmiany modelu i uniemożliwiać ponowne wykorzystywanie wrażliwych dokumentów do niezwiązanego z nimi treningu. Agencje muszą również rozumieć, czy aktualizacje zmieniają zachowanie systemu po jego wdrożeniu produkcyjnym.
Najsilniejsza wersja rządowej redakcji wspieranej przez AI pomagałaby pracownikom lokalizować możliwe wrażliwe informacje, zachowując ich niezależną ocenę prawną. Najsłabsza wersja przekształciłaby nadmierną redakcję w powtarzalny proces pracy z ludzkim podpisem na końcu.
DHS opisał pierwszą wersję. Dowody potrzebne do odróżnienia jej od drugiej nie zostały jeszcze upublicznione.
Trzy Sygnały Pokażą, Czy System Służy Otwartości
Kolejnym testem nie jest to, czy DHS wdroży AI, lecz czy departament udowodni, że technologia ujawnia więcej zgodnych z prawem informacji bez narażania chronionych materiałów.
Pierwszym sygnałem jest przejrzystość operacyjna. DHS powinien opublikować jasny opis tego, które kategorie wniosków wykorzystują zautomatyzowane rekomendacje, które modele wykonują pracę oraz które wyłączenia obsługują.
Opis ten powinien rozróżniać podstawowe rozpoznawanie wzorców od kontekstowej klasyfikacji prawnej. Zlokalizowanie numeru identyfikacyjnego stwarza inne ryzyko niż ocena wewnętrznych dyskusji dotyczących polityki. Połączenie ich pod jedną etykietą „AI” uniemożliwiłoby rzetelną kontrolę.
Departament powinien również ujawniać zbiorcze miary skuteczności. Wskaźniki wyników fałszywie dodatnich pokażą, jak często system rekomenduje ukrywanie informacji możliwych do ujawnienia. Wskaźniki wyników fałszywie ujemnych wskażą, jak często pomija on chronione informacje.
Wskaźniki uchyleń przez recenzentów pokażą, czy ludzie korzystają z niezależnej oceny. Wskaźnik bliski zeru może oznaczać, że narzędzie jest wyjątkowo dokładne. Bardziej prawdopodobne jest jednak, że wzbudzi pytania o uprzedzenia automatyzacji, ograniczony czas kontroli lub zachęty zniechęcające pracowników do zmieniania sugestii.
Drugim sygnałem jest jakość ujawnionych dokumentów. Czas przetwarzania powinien spaść, lecz zakres ujawniania nie powinien się kurczyć. Badacze mogą porównać odsetek pełnych ujawnień, częściowych ujawnień i całkowitych odmów przed wdrożeniem i po nim.
Kategorie te są niedoskonałe. Jedno usunięte słowo i dziesięć stron czarnych skrzynek mogą być uznane za częściowe ujawnienie. DHS powinien zatem zbadać udział ujawnionego tekstu odpowiadającego na wniosek w reprezentatywnych próbkach dokumentów.
Odwołania administracyjne zapewnią kolejną miarę. Wzrost liczby skutecznych zaskarżeń dotyczących redakcji wspieranych przez maszyny osłabiłby argumentację departamentu. Stabilne lub lepsze wyniki ujawniania, połączone z krótszymi opóźnieniami, wspierałyby jego argument o efektywności.
Trzecim sygnałem jest egzekwowalna odpowiedzialność. Wnioskodawcy muszą wiedzieć, kiedy automatyzacja miała istotny wpływ na odpowiedź. Pracownicy rozpatrujący odwołania w agencji oraz sądy potrzebują zapisów pokazujących, w jaki sposób każda rekomendacja trafiła do ostatecznej decyzji.
Kongres, inspektorzy generalni i National Archives powinni zbadać, czy DHS niezależnie stosuje standard przewidywalnej szkody po tym, jak model oznaczy fragment. Powinni także ocenić mechanizmy kontroli dostawców, bezpieczeństwo danych, aktualizacje modeli oraz zabezpieczenia przed pętlami sprzężenia zwrotnego.
Żadne z tych zabezpieczeń nie wymaga odrzucenia automatyzacji. Biura FOIA potrzebują lepszych narzędzi do wyszukiwania, deduplikacji, konwersji dokumentów i ich przeglądu. Dostęp publiczny nie poprawia się, gdy responsywne dokumenty przez lata pozostają nietknięte w zaległościach.
Jednak szybsza redakcja nie jest tym samym co szybsze ujawnianie informacji. Pierwsza usuwa informacje. Druga zapewnia społeczeństwu terminowy dostęp do wszystkiego, na co zezwala prawo.
To rozróżnienie powinno kierować każdą oceną redakcji dokumentów FOIA przez AI w DHS. Departament może potwierdzić zasadność swojego podejścia, publikując metody audytu, miary błędów, dane o nadpisywaniu rekomendacji oraz wyniki ujawniania informacji przed i po wdrożeniu.
Dziennikarze, badacze, prawnicy i inni wnioskodawcy powinni śledzić te wskaźniki, zamiast uznawać krótszy czas przetwarzania za dowód sukcesu. Powinni też korzystać z odwołań administracyjnych, gdy agencja przedstawia ogólnikowe wyjaśnienia lub wydaje się wstrzymywać więcej informacji, niż jest to konieczne.
AI może pomóc wyznaczyć granicę między informacjami publicznymi a chronionymi. Nie powinna jednak po cichu przesuwać tej granicy w stronę tajności. Decydujące pytanie jest proste: czy po przyspieszeniu procesu przez DHS Amerykanie otrzymają więcej użytecznych informacji, czy jedynie szybciej dostaną zaczernione strony?
