System monitoringu ICE oparty na AI umieszcza miliardy rekordów za jednym polem wyszukiwania
System monitoringu ICE oparty na AI umożliwiłby federalnym agentom przeszukiwanie miliardów zapisów komunikacji za pomocą jednego pola wyszukiwania, mimo nierozwiązanych kwestii dotyczących prywatności i dostępu.
Zawiadomienie Departamentu Bezpieczeństwa Krajowego opublikowane 14 października wskazuje, że Immigration and Customs Enforcement zamierza prowadzić wyłączne negocjacje z Pen-Link. Proponowana platforma łączyłaby aktywne podsłuchy, rejestry telefoniczne, dane lokalizacyjne, e-maile, dane finansowe, informacje z mediów społecznościowych oraz dane wyodrębnione z zajętych urządzeń.
Spór nie dotyczy wyłącznie tego, czy AI może pomóc śledczym znaleźć istotne dowody. Chodzi o to, czy jeden przeszukiwalny system może zachować granice prawne przypisane wielu różnym kategoriom wrażliwych informacji.
Granice te są istotne, ponieważ Homeland Security Investigations, czyli HSI, działa jako pion dochodzeniowo-śledczy ICE. Może prowadzić sprawy dotyczące poważnych przestępstw, ale ICE zajmuje się również cywilnym egzekwowaniem prawa imigracyjnego. Dokumenty nie wyjaśniają w pełni, którzy pracownicy mogliby przeszukiwać połączony system ani jak izolowane byłyby zapisy dotyczące osób niezaangażowanych.
System monitoringu ICE oparty na AI scentralizowałby rozproszone dowody
Zamówienie połączyłoby kilka prawnie odrębnych źródeł danych w jednym środowisku technicznym dla tysięcy śledczych.
Zawiadomienie o zamówieniu opisuje System Analizy Telekomunikacyjnej dla HSI. ICE twierdzi, że Pen-Link jest jedyną rozsądnie dostępną firmą ze względu na jej możliwości i usługi własnościowe.
Planowana umowa rozpoczynałaby się od roku pracy i obejmowałaby cztery jednoroczne opcje. Taka struktura pozwoliłaby na kontynuowanie współpracy przez pięć lat. Publiczne zawiadomienie nie podaje wartości kontraktu.
Chociaż ICE określa planowane zamówienie jako działanie z jednym źródłem dostaw, proces nadal daje innym dostawcom wąskie okno na zakwestionowanie decyzji. Zainteresowane firmy mają czas do 26 października na złożenie jednostronicowej odpowiedzi wyjaśniającej ich zdolność do spełnienia wymogów.
Ta możliwość nie jest tożsama ze zwykłym konkurencyjnym postępowaniem przetargowym. ICE już wskazało Pen-Link jako planowanego dostawcę. Podmiot kwestionujący decyzję musi podważyć wniosek agencji, że tylko jeden dostawca może zapewnić wymagany system.
Wymagania opisują możliwości dla tysięcy użytkowników w biurach krajowych i zagranicznych. Co najmniej 500 agentów musi mieć możliwość jednoczesnego korzystania z systemu. Musi on przechowywać co najmniej 10 terabajtów informacji, obejmujących miliardy zapisów komunikacji.
Sama pojemność pamięci masowej nie oddaje znaczenia systemu. Większa zmiana polega na tym, że śledczy mogliby przeszukiwać źródła, które obecnie mają różne formaty techniczne i podlegają odmiennym kontrolom prawnym.
Wymienione dane wejściowe obejmują aktywne przechwytywanie rozmów telefonicznych i bieżące sygnały lokalizacyjne. Obejmują również szczegółowe rejestry połączeń, informacje o abonentach, e-maile, historię przeglądania, dane finansowe i zapisy z mediów społecznościowych.
System pobierałby informacje z usług takich jak Google, Facebook, Snapchat i WhatsApp. Przyjmowałby również materiały skopiowane z zajętych telefonów i innych urządzeń elektronicznych.
Kolejnym wymienionym źródłem jest zrzut danych z masztu. Zrzut danych z masztu identyfikuje urządzenia, które połączyły się z wybranymi masztami sieci komórkowej w określonym okresie. Może obejmować wiele osób niemających żadnego związku z podejrzewanym przestępstwem.
Śledczy mogliby mapować przemieszczanie się telefonów, tworzyć alerty, gdy urządzenia wchodzą do oznaczonych obszarów, oraz przeglądać bieżące informacje za pośrednictwem aplikacji mobilnej. Platforma łączyłaby się również z usługą Homeland Security Task Force identyfikującą nakładające się dochodzenia.
Takie połączenie może ograniczyć dublowanie pracy. Może też rozszerzać wiedzę o danym celu na różne agencje, przez co zasady dostępu i ścieżki audytu stają się ważniejsze.
Komponent AI działałby w środowisku Microsoft Azure ICE. Agenci mogliby używać zwykłego języka angielskiego, aby żądać podsumowań, wykresów, map, transkrypcji lub tłumaczeń.
Wymagania stanowią, że zewnętrzne modele nie mogą trenować na informacjach ICE ani pytaniach agentów. Wymagają też rejestrowania każdej interakcji z asystentem.
Kontrole te odnoszą się do dwóch bezpośrednich zagrożeń: ujawnienia danych zewnętrznym dostawcom modeli oraz nierejestrowanego użycia. Nie odpowiadają jednak na pytanie, czy uprawniony użytkownik powinien otrzymać każdy wynik, który system może technicznie pobrać.
DHS osobno wymienił projekt wyszukiwania i podsumowywania przetłumaczonego dźwięku z podsłuchów za pomocą dużego modelu językowego. Jego publiczny rejestr AI opisywał ten przypadek użycia jako niewdrożony, gdy został przeanalizowany przez Project Salt Box.
To rozróżnienie ma znaczenie. Zawiadomienie opisuje planowane zamówienie, a nie dowód, że ukończona platforma DHS wiretap AI działa już na wskazaną skalę.
Dlaczego ICE chce jednej platformy analizy telekomunikacyjnej
Agencja próbuje skrócić czas między gromadzeniem dowodów a odnajdywaniem relacji w ich obrębie.
Złożone dochodzenie może generować nagrania, metadane połączeń, historię lokalizacji, zapisy kont, dokumenty transakcyjne i dane wyodrębnione z zajętych urządzeń. Analitycy muszą łączyć nazwiska, identyfikatory, lokalizacje i zdarzenia w różnych zbiorach.
Tradycyjne wyszukiwania często wymagają od śledczych wiedzy, gdzie dany zapis jest przechowywany. Mogą też wymagać specjalistycznej składni zapytań lub odrębnych narzędzi dla różnych typów dowodów.
Asystent konwersacyjny zmienia ten przepływ pracy. Śledczy mógłby zapytać o kontakty powiązane z numerem telefonu, przemieszczanie się wokół określonego zdarzenia albo związki między wieloma kontami.
Oprogramowanie mogłoby następnie podsumować zapisy, umieścić zdarzenia na osi czasu lub utworzyć wykres powiązań. Tłumaczenia i transkrypcje mogłyby włączyć nagrania w językach obcych do tego samego widoku śledczego.
Na poziomie technicznym takie podejście przypomina przeszukiwalną bazę wiedzy. Konsekwencje są jednak wyraźnie inne niż w przypadku zwykłego wyszukiwania w miejscu pracy, gdzie ludzie porządkują dokumenty, do których używania mają już uprawnienia.
System śledczy musi egzekwować ograniczenia przypisane samym zapisom. Ważny nakaz podsłuchu nie upoważnia automatycznie do nieograniczonego wykorzystania komunikacji każdej innej osoby zarejestrowanej podczas obserwacji.
Proponowana platforma musi również przyjmować formaty utworzone zgodnie z Communications Assistance for Law Enforcement Act. Ustawa ta wymaga od objętych nią dostawców usług komunikacyjnych wspierania prawnie autoryzowanego przechwytywania.
Standaryzowane pobieranie danych może przyspieszyć udostępnianie dowodów. Standaryzacja może jednak również zacierać istotne różnice między treścią, metadanymi, zakupionymi danymi i zapisami uzyskanymi na podstawie nakazów.
Nagranie rozmowy na żywo zawiera to, co ludzie powiedzieli. Szczegółowe rejestry połączeń zwykle opisują powiązania między urządzeniami bez ujawniania treści rozmowy. Zakupiony zapis reklamowy może pokazywać lokalizację urządzenia bez identyfikowania jego użytkownika z imienia i nazwiska.
Kategorie te nie stają się prawnie identyczne tylko dlatego, że oprogramowanie umieszcza je na jednym ekranie. Interfejs musi zachować ich pochodzenie, ograniczenia i dozwolone zastosowania.
Wymóg ten staje się trudniejszy, gdy AI tworzy syntetyczną odpowiedź. Podsumowanie może łączyć fakty z kilku baz danych bez wskazania, jakie uprawnienie stanowiło podstawę każdego zapisu źródłowego.
Dobre oprogramowanie do wyszukiwania może wyświetlać cytowania, znaczniki czasu, systemy źródłowe i wskaźniki pewności. Publiczne dokumenty nie opisują w pełni, jak proponowany asystent przedstawiałby te szczegóły.
Nie określają też, jak system radziłby sobie ze sprzecznymi tożsamościami. Jedna osoba może korzystać z kilku urządzeń, podczas gdy jedno urządzenie może przechodzić między wieloma osobami.
Bazy danych śledczych już mierzą się z tym problemem. Wyszukiwanie w języku naturalnym może sprawiać, że niepewne powiązania wydają się bardziej jednoznaczne, ponieważ zwraca płynną narrację zamiast rozproszonych zapisów.
Wartość systemu zależy zatem od czegoś więcej niż szybkości wyszukiwania. Zależy od tego, czy agenci mogą sprawdzić dowody stojące za każdym wygenerowanym stwierdzeniem.
Kontrakt Pen-Link bez przetargu rodzi własną sprzeczność
ICE chce, aby asystent zapobiegał uzależnieniu od dostawcy, jednocześnie twierdząc, że tylko Pen-Link może dostarczyć podstawową platformę.
To główne napięcie w tym zamówieniu. Wymagania wyraźnie przewidują ochronę przed zależnością od jednego dostawcy. Zawiadomienie o zamówieniu jednocześnie opiera się na własnościowych możliwościach Pen-Link, aby uzasadnić umowę z jednym źródłem dostaw.
Pen-Link od dziesięcioleci dostarcza organom ścigania oprogramowanie do nadzoru i prowadzenia dochodzeń. Jego platforma PLX pomaga agencjom organizować przechwyconą komunikację oraz zapisy uzyskane od firm telekomunikacyjnych i technologicznych.
Ta obecna pozycja daje Pen-Link praktyczne przewagi. Dostawca zastępczy musiałby obsłużyć utrwalone formaty dowodowe, procesy śledcze, mechanizmy kontroli dostępu i integracje.
Ciągłość może ograniczyć ryzyko migracji. Może również utrudnić konkurencję, ponieważ lata zgromadzonych danych i projektowania przepływów pracy stają się częścią przewagi obecnego dostawcy.
ICE przeprowadziło badanie rynku przed opublikowaniem zawiadomienia. Sierpniowe zapytanie o informacje opisywało System Analizy Telekomunikacyjnej o podobnych możliwościach. Agencja stwierdziła, że zapytanie to nie zobowiązuje jej do dokonania zakupu.
Październikowe zawiadomienie wskazuje, że przegląd rynku nie zmienił planowanego przez ICE wyboru dostawcy. Nie przedstawia publicznie szczegółowego porównania Pen-Link z każdym podmiotem, który odpowiedział.
Określenie „bez przetargu” może nadmiernie upraszczać ten proces. Agencja ogłasza swój zamiar i dopuszcza oświadczenia dotyczące możliwości. Nie zaprasza jednak dostawców do rywalizacji w ramach standardowej oceny z opublikowanymi kryteriami punktacji.
Ma to znaczenie, ponieważ planowany Pen-Link no-bid contract wykracza poza zwykłe odnowienie licencji na oprogramowanie. Dodaje interfejs AI obejmujący wysoce wrażliwe zapisy i obsługuje dużą, rozproszoną geograficznie bazę użytkowników.
Wybrany dostawca wpłynąłby na sposób indeksowania, łączenia, podsumowywania i wyświetlania dowodów. Te decyzje projektowe mogą kształtować to, co śledczy zauważają, i to, co przeoczają.
Szersze portfolio produktów Pen-Link dodaje kolejną warstwę obaw. Firma sprzedaje także Tangles, platformę do dochodzeń internetowych i w mediach społecznościowych, oraz Webloc, produkt analizy danych lokalizacyjnych.
Webloc wykorzystuje sygnały lokalizacyjne powiązane z aplikacjami mobilnymi i reklamą cyfrową. Informacje te pochodzą z komercyjnego rynku danych, a nie bezpośrednio od operatora telefonicznego odpowiadającego na nakaz.
Kwietniowa analiza Webloc University of Toronto’s Citizen Lab wykazała, że system może obejmować do 500 milionów urządzeń. Przeanalizowane materiały opisywały historie sięgające do trzech lat wstecz.
Citizen Lab wskazał ICE jako jednego z rządowych klientów produktu. Ustalono również, że Webloc opiera się na mobilnych identyfikatorach reklamowych, których branża reklamowa używa do rozróżniania urządzeń.
Pen-Link przekazał Citizen Lab, że jego dostawcy uzyskują zgodę użytkowników za pośrednictwem aplikacji i usuwają wrażliwe lokalizacje. Firma stwierdziła, że klienci wykorzystują jej produkty do odnajdywania porwanych dzieci i zwalczania handlu ludźmi.
Są to istotne zastosowania w egzekwowaniu prawa. Nie rozstrzygają jednak, czy ludzie rzeczywiście rozumieli, że dane z aplikacji mogą później wspierać nadzór rządowy.
ICE już zakupiło dostęp do Webloc i Tangles na potrzeby działań wywiadowczych HSI. Nowe zawiadomienie nie mówi, czy zapisy Webloc trafiłyby do Systemu Analizy Telekomunikacyjnej.
To ważne pytanie bez odpowiedzi. Połączenie podsłuchów zatwierdzonych przez sąd z komercyjnie kupowanymi danymi o lokalizacji umieściłoby źródła podlegające bardzo różnym standardom pozyskiwania w jednym środowisku wyszukiwania.
Dokumenty nie wyjaśniają również, czy asystenta zapewnią produkty AI firmy Pen-Link. Określają wymagane funkcje i warunki hostingu, lecz publicznie dostępne informacje nie ustalają precyzyjnej architektury modelu.
System ICE AI surveillance system należy zatem rozumieć jako wymóg zakupowy, a nie w pełni udokumentowaną premierę produktu. Ostateczna implementacja Pen-Link może różnić się od założeń opartych na jej obecnych narzędziach.
Jeden interfejs nie oznacza jednego standardu prawnego
Główne ryzyko systemu wynika z zacierania rozróżnień prawnych szybciej, niż nadzór jest w stanie je odtworzyć.
Podsłuchy federalne działają na podstawie Title III, potocznej nazwy ustaw regulujących przechwytywanie komunikacji przewodowej, ustnej i elektronicznej. Śledczy nie mogą uruchomić podsłuchu w sprawie karnej na podstawie zwykłego wniosku administracyjnego.
Prokuratorzy zazwyczaj potrzebują zgody wysokiego rangą urzędnika Departamentu Sprawiedliwości, zanim wystąpią o nakaz. Sędzia federalny musi stwierdzić istnienie uzasadnionego podejrzenia dotyczącego kwalifikującego się przestępstwa.
Rząd musi także wykazać konieczność. Śledczy zwykle muszą wyjaśnić, dlaczego inne metody zawiodły, prawdopodobnie nie przyniosą rezultatu lub byłyby zbyt niebezpieczne.
Nakazy podsłuchu zwykle obowiązują nie dłużej niż 30 dni bez przedłużenia. Śledczy muszą ograniczać przechwytywanie rozmów niezwiązanych z zatwierdzonym dochodzeniem.
Nagrania podlegają dodatkowym wymogom dotyczącym postępowania z nimi. Prawo obejmuje przepisy o zapieczętowaniu, przechowywaniu, ujawnianiu i powiadamianiu, mające ograniczać niewłaściwe wykorzystanie przechwyconych treści.
Naruszenia przepisów cywilnego prawa imigracyjnego same w sobie nie kwalifikują do zastosowania podsłuchów karnych. HSI bada przestępstwa takie jak przemyt ludzi, handel ludźmi, przestępczość finansowa i inne działania transgraniczne, które mogą uruchamiać uprawnienia karne.
Nierozstrzygniętą kwestią pozostaje dostęp po zebraniu danych. Zawiadomienie nie wskazuje jasno, czy personel zajmujący się cywilnymi sprawami imigracyjnymi mógłby przeszukiwać informacje uzyskane w ramach dochodzeń karnych HSI.
Nie wyjaśnia również okresów retencji. Publiczne wymagania nie określają, jak długo system przechowywałby zapisy dotyczące świadków, osób powiązanych lub osób zarejestrowanych przypadkowo.
Metadane telefoniczne podlegają innym zasadom. Nakaz pen register lub trap-and-trace może identyfikować informacje o routingu, takie jak numery, z którymi się kontaktowano, bez ujawniania treści rozmów.
Przechowywane wiadomości e-mail, dane abonentów i dane kont mogą wymagać wezwań, nakazów sądowych lub nakazów przeszukania. Właściwy instrument zależy od poszukiwanej informacji i okoliczności.
Historyczne dane o lokalizacji telefonów komórkowych podlegają jeszcze innemu standardowi. W orzeczeniu Carpenter z 2018 roku Sąd Najwyższy uznał, że policja co do zasady potrzebuje nakazu, aby uzyskać od operatora historyczne informacje o lokalizacji na podstawie stacji bazowych.
Kupowane dane o lokalizacji stanowią sporną alternatywę. Agencje twierdziły, że komercyjnie dostępne zapisy nie wymagają tej samej procedury, ponieważ prywatni sprzedawcy oferują je do zakupu.
Obrońcy prywatności odpowiadają, że transakcja handlowa nie powinna znosić ochrony konstytucyjnej. Spór staje się ostrzejszy, gdy kupowane dane mogą odtworzyć wizyty w domach, miejscach pracy, klinikach, miejscach kultu religijnego lub na wydarzeniach politycznych.
Zrzuty danych z masztów stwarzają pokrewny problem. Identyfikują każde urządzenie łączące się z masztem w wybranym okresie, zamiast rozpoczynać od wskazanego podejrzanego.
Sędzia federalny w Mississippi orzekł 5 sierpnia, że nakazy dotyczące zrzutów danych z masztów działają jak zakazane nakazy ogólne. We wrześniu rząd odwołał się od tej decyzji do Piątego Okręgu.
Inne sądy doszły do odmiennych wniosków. Sąd Najwyższy nie rozstrzygnął, czy wszystkie zrzuty danych z masztów naruszają Czwartą Poprawkę.
Proponowana platforma nie rozstrzygnęłaby tego sporu. Ułatwiłaby łączenie zapisów ze zrzutów danych z masztów z innymi danymi, podczas gdy sędziowie nadal określają obowiązujące granice.
W tym miejscu DHS wiretap AI tworzy nowe pytanie operacyjne. Model mógłby wywnioskować relację na podstawie legalnie pozyskanych zapisów, nie wyjaśniając, że część danych źródłowych obejmowała dużą liczbę urządzeń osób niezaangażowanych.
Wynik AI nie tworzy nowych uprawnień prawnych. Może jednak zmienić szybkość, z jaką wniosek przechodzi od surowych dowodów do teorii śledczej.
Każda wygenerowana odpowiedź wymaga zatem możliwych do prześledzenia zapisów źródłowych. Dzienniki powinny wskazywać użytkownika składającego zapytanie, zapytanie, zwrócone źródła, przekształcenia, eksporty i dalsze udostępnianie.
Ludzka weryfikacja również wymaga jasnego celu. Agent powinien porównać podsumowanie z dowodami źródłowymi, a nie jedynie zatwierdzić płynny tekst po jego przeczytaniu.
Wymagania wspominają o rejestrowaniu interakcji i ochronie przed zewnętrznym trenowaniem modeli. Są to użyteczne mechanizmy kontrolne, lecz nie ustanawiają zasad retencji ani ograniczeń dostępu między jednostkami.
Nie wyjaśniają także sposobu korekty. Błędna identyfikacja może rozprzestrzenić się na mapach, wykresach, raportach i skierowaniach do grup zadaniowych, zanim ktokolwiek zakwestionuje pierwotne powiązanie.
Wcześniejsze problemy z danymi lokalizacyjnymi podnoszą stawkę nadzoru
DHS otrzymał już formalne ostrzeżenie dotyczące wdrażania komercyjnych narzędzi lokalizacyjnych przed ukończeniem wymaganych ocen prywatności.
W 2023 roku inspektor generalny Departamentu Bezpieczeństwa Wewnętrznego zbadał zakupy danych o lokalizacji dokonywane przez ICE, Customs and Border Protection oraz Secret Service.
Kontrola inspektora generalnego wykazała, że te jednostki nie zawsze przestrzegały polityk prywatności DHS przed wykorzystaniem komercyjnie dostępnych danych telemetrycznych.
Wymagane dokumenty dotyczące prywatności nie zawsze były najpierw kompletowane. Raport zalecił zawieszenie korzystania z tych danych do czasu wdrożenia niezbędnych ocen i zatwierdzeń.
ICE nie zgodziło się na wstrzymanie korzystania z danych, gdy oceny pozostawały nieukończone. Twierdziło, że dostęp wspiera dochodzenia HSI oraz misje związane z bezpieczeństwem publicznym.
ICE poinformowało później, że pod koniec 2023 roku zaprzestało korzystania z takich danych lokalizacyjnych. Późniejszy zakup dostępu do Webloc ponownie stawia pod lupą adekwatność zaktualizowanych mechanizmów kontrolnych.
W marcu 2026 roku 72 członków Kongresu wysłało zapytanie dotyczące danych lokalizacyjnych, domagając się zbadania zakupów dokonywanych przez agencje federalne. Ustawodawcy scharakteryzowali te transakcje jako dostęp bez nakazu do informacji o przemieszczaniu się Amerykanów.
Ich wniosek nie przesądzał, że każde użycie było niezgodne z prawem. Pokazał, że spór prawny i polityczny pozostaje aktywny w Kongresie.
Proponowany Telecommunications Analysis System podnosi stawkę, ponieważ został zaprojektowany do agregacji. Punkt lokalizacyjny staje się bardziej ujawniający po połączeniu z komunikacją, aktywnością finansową, kontami internetowymi i mapami relacji.
Agregacja danych może ujawnić wzorce, których nie pokazuje żaden pojedynczy zapis. Może identyfikować powtarzające się spotkania, wspólne podróże, transfery lub komunikację wokół wybranego wydarzenia.
Ta zdolność wspiera uzasadnione dochodzenia. Oznacza także, że dostępu do każdego źródła nie można traktować jako drobnego szczegółu administracyjnego.
Dokumenty publiczne zawierają kilka zapewnień dotyczących bezpieczeństwa. Asystent działałby w środowisku Azure ICE. Zewnętrzne modele nie mogłyby wykorzystywać informacji agencji do trenowania, a interakcje byłyby rejestrowane.
Środki te dotyczą przede wszystkim wycieku danych i rozliczalności po uzyskaniu dostępu. Nadzór nad prywatnością musi również pytać, czy początkowy dostęp był uzasadniony i czy wynikające z niego wyszukiwanie było proporcjonalne.
Kolejne ryzyko dotyczy dokładności. Komercyjne zapisy lokalizacyjne mogą zawierać luki, zduplikowane identyfikatory, wnioskowane pozycje lub urządzenia, które nie należą już do domniemanego użytkownika.
Transkrypcja wnosi własną niepewność. Hałas w tle, akcenty, przełączanie kodów językowych, specjalistyczna terminologia i nagrania niskiej jakości mogą zmienić wynikowy tekst.
Tłumaczenie pogłębia ten problem. Podsumowanie stworzone na podstawie automatycznie transkrybowanego i automatycznie tłumaczonego dźwięku opiera się na kilku etapach interpretacji.
Pewnie sformułowana odpowiedź może zatem zawierać kruchy łańcuch dowodowy. Śledczy i prokuratorzy potrzebują wglądu w każdą transformację, zanim oprą się na jej wynikach.
Ta sama obawa dotyczy analizy relacji. Wspólna lokalizacja lub kontakt nie dowodzą istnienia związku przestępczego. Kontekst może odróżnić współpracownika, usługodawcę, członka rodziny, dziennikarza lub przypadkowego świadka.
Duże zbiory danych zwiększają liczbę przypadkowych nakładek. Jeśli śledczy prowadzą wystarczająco szerokie wyszukiwanie, niektóre niewinne relacje będą wyglądały na godne uwagi.
Dokumenty zakupowe nie publikują zmierzonych wskaźników błędów proponowanego asystenta. Nie wskazują niezależnego procesu testowania ani nie wyjaśniają, jak ICE oceniałoby fałszywe powiązania.
Nie dowodzi to, że system zawiedzie. Oznacza to, że twierdzenia dotyczące jego działania pozostają niezweryfikowane, dopóki ICE nie opublikuje kryteriów oceny lub organy nadzorcze nie zbadają rzeczywistego wdrożenia.
Sprzeczność dotycząca uzależnienia od dostawcy również wpływa na nadzór. Jeśli Pen-Link kontroluje kluczowe formaty, integracje lub logikę analityczną, niezależny audyt może stać się trudniejszy.
ICE może ograniczyć to ryzyko dzięki eksportowalnym zapisom, udokumentowanym interfejsom, dziennikom niezależnym od modelu oraz odtwarzalnym wyszukiwaniom. Publiczne zawiadomienie nie zapewnia wystarczających szczegółów, aby ustalić, czy te zabezpieczenia są kompletne.
Trzy sygnały pokażą, czy zabezpieczenia są realne
Kolejnym testem nie będzie demonstracja produktu. Będzie nim to, czy zakupy, postępowania sądowe i nadzór zapewnią egzekwowalne ograniczenia przed szerokim wdrożeniem.
Pierwszym sygnałem jest termin odpowiedzi upływający 26 października. Wiarygodny alternatywny dostawca mógłby zakwestionować twierdzenie ICE, że Pen-Link jest jedynym racjonalnie dostępnym dostawcą.
Taka odpowiedź nie stworzyłaby automatycznie konkurencji. Zmusiłaby agencję do oceny, czy jej uzasadnienie zakupu z jednego źródła nadal da się obronić.
Jeśli nie odpowie żadna kwalifikująca się firma, pozycja Pen-Link stanie się łatwiejsza do obrony. Taki rezultat nie rozstrzygnie sprzeczności między zastrzeżonym zamówieniem a deklarowanym celem zapobiegania uzależnieniu od dostawcy.
Drugim sygnałem będzie ostateczna umowa i jej dokumentacja wdrożeniowa. Kluczowe szczegóły obejmują uprawnione grupy użytkowników, harmonogramy retencji, ocenę modelu, cytowania źródeł, separację danych i dostęp audytowy.
Na szczególną uwagę zasługuje traktowanie komercyjnie kupowanych danych o lokalizacji. Zawiadomienie nie wskazuje, czy informacje Webloc trafią do nowej platformy.
Ostateczny projekt powinien odróżniać kupowane dane od zapisów uzyskanych na podstawie nakazów, wezwań lub nakazów podsłuchu. Powinien także zachować ograniczenia przypisane do każdego dochodzenia.
Niezależne testy powinny mierzyć błędy transkrypcji i tłumaczenia. Powinny badać rozpoznawanie tożsamości, przypisywanie źródeł, zmyślone twierdzenia oraz postępowanie ze sprzecznymi dowodami.
Testy powinny obejmować realistyczne zaszumione nagrania i niekompletne zapisy. Dopracowana demonstracja z czystymi danymi przykładowymi ujawniłaby niewiele na temat działania w spornych sprawach.
Trzecim sygnałem będzie nadzór prawny i kongresowy. Sposób, w jaki Piąty Okręg rozpatrzy odwołanie dotyczące zrzutów danych z masztów, może przekształcić jedną z kategorii danych wymienionych w wymaganiach systemu.
Orzeczenie przeciwko szerokim zrzutom danych z masztów osłabiłoby założenie, że takie zapisy mogą pozostać rutynowym źródłem danych wejściowych. Węższe rozstrzygnięcie pozostawiłoby nierozwiązaną znaczną część ogólnokrajowego sporu.
Kongres i inspektor generalny DHS mogą również zbadać, czy zakupy danych lokalizacyjnych spełniają obecne obowiązki dotyczące prywatności. Ich ustalenia wpłynęłyby na sposób, w jaki ICE łączy informacje komercyjne z informacjami zatwierdzonymi przez sąd.
Żaden z tych sygnałów nie wymaga odrzucenia oprogramowania analitycznego jako kategorii. Śledczy potrzebują użytecznych narzędzi do przeglądania dużych zbiorów dowodów, zwłaszcza gdy komunikacja odbywa się w różnych językach i na różnych platformach.
Pytanie brzmi, czy system nadzoru ICE AI sprawi, że ograniczenia prawne będą równie łatwe do wyszukania i widoczne jak same dowody. Szybsze wyszukiwanie bez porównywalnej kontroli przesunęłoby równowagę sił w stronę gromadzenia danych, a z dala od rozliczalności.
Czytelnicy powinni śledzić ostateczny zakres projektu, a nie tylko etykietę AI. To, które biura uzyskają dostęp, jakie zbiory danych zostaną połączone oraz które rejestry pozostaną przeszukiwalne, określi rzeczywisty zasięg systemu.
Najbardziej użyteczne publiczne dowody będą pochodzić z umów, ocen wpływu na prywatność, ustaleń audytowych, orzeczeń sądowych i udokumentowanych testów wydajności. Twierdzenia marketingowe nie odpowiedzą na te pytania.
Dopóki te dokumenty się nie pojawią, projekt pozostaje planowaną umową Pen-Link bez przetargu o wyjątkowo szerokich wymaganiach. Nie jest jeszcze dowodem wdrożonego systemu, który może niezawodnie przeszukiwać miliardy rekordów.
Czy ICE opublikuje wystarczająco dużo szczegółów technicznych i prawnych, aby wykazać, że każdy wynik zachowuje ograniczenia dotyczące swojego źródła? Takie ujawnienie powinno nastąpić, zanim pojedyncze pole wyszukiwania stanie się bramą do lat danych o komunikacji i przemieszczaniu się.
