Wojna AI w ramach Project Maven przyspiesza namierzanie celów i skraca czas na wychwycenie błędów
Wojna AI w ramach Project Maven może generować listy potencjalnych celów w ciągu kilku minut, mimo że w procesie weryfikacji jeden przeoczony błąd może stać się nieodwracalny. Ta szybkość przesuwa sztuczną inteligencję z roli narzędzia wspierającego do centrum wojskowego procesu decyzyjnego.
Zmiana wykracza poza autonomiczne drony. Armie wykorzystują obecnie AI do interpretowania danych rozpoznawczych, tłumaczenia przechwyconej komunikacji, łączenia osób z lokalizacjami, priorytetyzowania zagrożeń i rekomendowania celów. Każda z tych funkcji może skrócić drogę od surowych danych do decyzji operacyjnej.
Główny konflikt nie dotyczy już ludzi kontra broń autonomiczna. Chodzi o generowanie celów w tempie maszyny kontra wolniejszy ludzki osąd, który ma zweryfikować każdą rekomendację. Project Maven, izraelskie systemy wywiadowcze wspierane przez AI oraz autonomiczne drony na Ukrainie ujawniają różne wersje tej samej presji.
Wojna AI w ramach Project Maven przechodzi od analizy do operacji
Wojskowa AI staje się częścią operacyjnego łańcucha namierzania celów, zamiast pozostawać eksperymentalną warstwą analityczną.
Financial Times podał 17 września, że systemy autonomiczne są szybko integrowane z operacjami na polu walki. Dochodzenie gazety otwierał przykład Saker Scout — ukraińskiego drona przypominającego wiele innych statków powietrznych działających nad linią frontu.
Systemy tej kategorii wyróżnia rosnąca zdolność do nawigacji, identyfikowania obiektów lub kontynuowania misji przy ograniczonym udziale operatora. Dokładny poziom autonomii różni się w zależności od systemu i sposobu użycia. Kierunek jest jednak stały: oprogramowanie wykonuje obecnie więcej zadań między obserwacją pola walki a użyciem siły.
Project Maven reprezentuje tę samą transformację w siłach zbrojnych Stanów Zjednoczonych. Pentagon uruchomił go w 2017 roku, aby stosować uczenie maszynowe do obrazów z dronów i satelitów. Od tego czasu system rozwinął się w szersze środowisko danych i namierzania celów, wykorzystywane do organizowania informacji dla dowódców.
Uczenie maszynowe oznacza, że oprogramowanie uczy się wzorców z danych treningowych i stosuje je do nowych danych wejściowych. W obrazowaniu wojskowym może to obejmować rozróżnianie pojazdów, struktur, ruchów i innych obiektów w dużych zbiorach danych z czujników.
Nie musi to oznaczać, że oprogramowanie samodzielnie odpala broń. Project Maven jest zazwyczaj opisywany jako system wspomagania decyzji, w którym ludzie mają weryfikować wyniki i autoryzować działania.
To rozróżnienie ma znaczenie prawne i operacyjne. System wspomagania decyzji oparty na AI rekomenduje lub priorytetyzuje informacje, podczas gdy broń autonomiczna może po aktywacji wybrać i zaatakować cel bez dalszej interwencji człowieka.
Rozdzielenie to staje się jednak mniej uspokajające, gdy rekomendacje generowane przez maszyny napływają szybciej, niż ludzie są w stanie je zbadać. Człowiek może pozostawać formalnie odpowiedzialny, mając jedynie wąskie okno czasowe na zakwestionowanie dowodów leżących u podstaw decyzji.
Urzędnicy wojskowi przypisują Project Maven skrócenie czasu potrzebnego do identyfikacji potencjalnych celów. Opublikowany przez Brennan Center przegląd wojskowej AI wskazuje, że system może szybko interpretować obrazy z dronów i satelitów.
Atrakcyjność tego rozwiązania jest oczywista. Wojsko może zbierać więcej danych z czujników, niż jego analitycy są w stanie ręcznie przejrzeć. AI może filtrować tę skalę danych, łączyć informacje z różnych źródeł i wskazywać potencjalne zagrożenia, zanim dane wywiadowcze się zdezaktualizują.
Szybkość wspiera także koordynację. Poruszający się pojazd, system radarowy lub mobilna wyrzutnia mogą pozostawać widoczne tylko przez krótki czas. Proces namierzania celu trwający godziny może stracić taką okazję, zanim decyzja dotrze do właściwego dowódcy.
Szybsza analiza nie tworzy jednak automatycznie lepszych dowodów. Może jedynie przenosić niepewność przez system z większą prędkością.
Opisane przez Financial Times wydarzenie nie jest więc pojedynczym komunikatem o wdrożeniu. To próg operacyjny. Armie wdrażają AI w całym łańcuchu przekształcającym obserwację w śmiercionośne decyzje, mimo że zachowanie modeli może pozostawać trudne do przewidzenia.
Szybsze generowanie celów zmienia, kto kontroluje tempo
Strategiczna przewaga wynika ze skrócenia czasu podejmowania decyzji, lecz to samo skrócenie zwiększa presję na osoby dokonujące ludzkiej weryfikacji.
Tradycyjne namierzanie celów jest pracochłonne. Analitycy porównują źródła wywiadowcze, oceniają, czy informacje pozostają aktualne, identyfikują obecność ludności cywilnej, szacują możliwe szkody i przekazują rekomendacje przez strukturę dowodzenia.
Generowanie celów wspomagane przez AI automatyzuje część tej pracy. Model może jednocześnie przeszukiwać obrazy, teksty, komunikację, rejestry lokalizacji i inne bazy danych. Następnie może klasyfikować wzorce odpowiadające profilowi celu.
Profil celu to zbiór cech wykorzystywanych do identyfikacji obiektu lub osoby będącej przedmiotem zainteresowania. Cechy te mogą obejmować kształt, ruch, lokalizację, wzorce komunikacji lub relacje z wcześniej zidentyfikowanymi podmiotami.
Pozorna korzyść polega na skali. System AI może wskazać setki kandydatów tam, gdzie zespół ludzi zbadałby znacznie mniejszy zbiór. Wojsko może następnie skierować ograniczone zasoby analityczne do najbardziej istotnych wyników.
Zmienia to tempo działań na polu walki. Siły korzystające z AI mogą potencjalnie obserwować, priorytetyzować i działać, zanim przeciwnik ukończy ten sam cykl. Wojna AI w ramach Project Maven opiera się na takim skracaniu procesu od czujnika do decyzji.
Szybkość może również wspierać ochronę ludności cywilnej, jeśli system jest właściwie zaprojektowany. Oprogramowanie może łączyć informacje o szpitalach, szkołach, trasach ewakuacyjnych i ruchu cywilów. Może ostrzegać operatorów, gdy warunki zmieniły się od czasu pierwszego wskazania celu.
Międzynarodowy Komitet Czerwonego Krzyża uznaje tę możliwość. Jego wytyczne dotyczące wojskowej AI wskazują, że narzędzia wspomagania decyzji mogą pomagać w syntezie informacji i rekomendowaniu metod mających ograniczać szkody uboczne.
Skala tworzy jednak problem drugiego rzędu. Jeśli liczba wygenerowanych celów rośnie szybciej niż liczba wykwalifikowanych osób weryfikujących, proces kontroli staje się wąskim gardłem.
Dowódcy stają wtedy przed niewygodnym wyborem. Mogą spowolnić system i zachować szczegółową kontrolę albo przyspieszyć zatwierdzenia i zrezygnować z części rzekomego ludzkiego zabezpieczenia.
Dowody z wykorzystania przez Izrael wywiadu wspieranego przez AI ilustrują to napięcie. Dochodzenie Associated Press wykazało, że izraelskie wojsko korzystało po 7 października 2023 roku z komercyjnych usług chmurowych i AI do przetwarzania danych obserwacyjnych, komunikacji, tłumaczeń i innych informacji.
Izraelscy urzędnicy powiedzieli AP, że analitycy niezależnie oceniają cele wspierane przez AI i że w proces nadal zaangażowanych jest kilka warstw ludzi. Stwierdzili również, że narzędzia generują cele szybciej bez uszczerbku dla dokładności.
Ocena tych twierdzeń z zewnątrz jest trudna. Dane dotyczące wojskowego namierzania celów, wskaźniki błędów, konfiguracje modeli i dochodzenia pooperacyjne rzadko są dostępne do niezależnej analizy.
Dochodzenie udokumentowało jednak skalę zmiany obciążenia pracą. Były wojskowy prawnik Tal Mimran powiedział, że ocena nalotu wcześniej angażowała do 20 osób i mogła trwać dzień lub dłużej. Procesy wspierane przez AI umożliwiły zatwierdzanie setek celów tygodniowo.
To porównanie nie dowodzi, że wynikające z niego ataki były niezgodne z prawem lub niedokładne. Pokazuje jednak, że stosunek między wynikiem pracy maszyny a ludzką uwagą znacząco się zmienił.
Osoba weryfikująca pojedynczy, starannie przygotowany pakiet celu może prześledzić jego założenia. Osoba stająca przed szybko aktualizującą się kolejką rekomendacji doświadcza zupełnie innej presji poznawczej.
Presja ta dotyka dowódców wojskowych, dostawców oprogramowania, analityków wywiadu i doradców prawnych. Każda z tych grup zależy od pozostałych, lecz żaden pojedynczy uczestnik nie musi widzieć całego łańcucha.
Twórcy modeli mogą rozumieć trening i ewaluację, ale nie mieć dostępu do warunków na polu walki. Operatorzy rozumieją misję, lecz mogą nie wiedzieć, dlaczego model przypisał konkretną ocenę. Dowódcy widzą rekomendacje, ale mogą nie dostrzegać ograniczeń każdego źródła danych.
Rezultatem jest rozproszona odpowiedzialność. Wszyscy uczestniczą w decyzji, podczas gdy po błędzie coraz trudniej wskazać, kto ponosi odpowiedzialność.
Ludzka kontrola może stać się proceduralnym polem wyboru
Osoba zatwierdzająca rekomendację AI nie gwarantuje, że zastosowano rzeczywisty ludzki osąd.
Polityki wojskowe często opisują system z człowiekiem w pętli decyzyjnej. Określenie to oznacza, że osoba musi interweniować, zanim system wykona działanie o istotnych konsekwencjach, takie jak zaatakowanie celu.
To zabezpieczenie wydaje się jasne na diagramie. Dane z czujników trafiają do modelu, model tworzy rekomendację, a wyszkolony operator ją akceptuje lub odrzuca.
Rzeczywiste operacje są mniej uporządkowane. Rekomendacje mogą napływać podczas misji wrażliwych na czas, zakłóceń komunikacji, niedoborów personelu lub ataków na własne siły. Operator może również analizować wyniki kilku zautomatyzowanych systemów.
Takie środowisko sprzyja stronniczości automatyzacji — skłonności do ufania rekomendacji wygenerowanej przez maszynę, nawet gdy dostępne dowody powinny skłaniać do dalszego dochodzenia. Ta stronniczość nasila się, gdy system zazwyczaj wydaje się dokładny lub gdy jego odrzucenie wymaga dodatkowej pracy.
ICRC ostrzega, że operatorzy działający pod presją czasu mogą mechanicznie zatwierdzać wyniki AI zamiast stosować niezależny osąd. Jego wytyczne wskazują, że wojskowa AI wymaga znaczącego zaangażowania człowieka i zdolności do kwestionowania rekomendacji.
Słowo „znaczące” niesie tu większość ciężaru. Ludzka decyzja nie jest znacząca tylko dlatego, że ktoś naciska przycisk zatwierdzenia.
Osoba weryfikująca potrzebuje wystarczająco dużo czasu, informacji kontekstowych i uprawnień, aby odrzucić wynik. Musi również rozumieć znane ograniczenia systemu oraz jakość dowodów stojących za konkretną rekomendacją.
Weźmy model, który łączy daną osobę z wrogą organizacją na podstawie metadanych komunikacyjnych. Powiązanie może być trafne, nieaktualne, pośrednie lub wynikać z błędnych danych źródłowych.
Model może ocenić takie powiązanie bez zrozumienia, dlaczego dana osoba zadzwoniła pod określony numer, znalazła się w danej lokalizacji lub użyła konkretnego wyrażenia. Człowiek musi dostarczyć ten kontekst.
Tłumaczenie wprowadza kolejny punkt możliwej awarii. Dochodzenie AP dotyczące AI na polu walki opisało arabski termin, który mógł oznaczać zarówno komponent broni, jak i płatność.
Automatyczne tłumaczenie wybrało niebezpieczną interpretację. Według izraelskiego oficera wywiadu, z którym rozmawiała AP, ludzki recenzent początkowo przeoczył błąd.
Ten sam oficer opisał arkusz kalkulacyjny zawierający co najmniej 1 000 uczniów szkół średnich, których nazwiska miały być dołączone do profili jako potencjalnych bojowników. Plik dotyczył egzaminów końcowych, lecz otaczający go kontekst został błędnie odczytany.
Przykłady te pokazują, dlaczego błędu nie można przypisać wyłącznie „AI”. Model przetwarza dane dostarczane przez ludzi, czujniki, bazy danych i inne oprogramowanie. Następnie ludzie interpretują jego wyniki za pośrednictwem interfejsów zaprojektowanych przez inną grupę.
Wadliwy wpis może przechodzić przez ten łańcuch, zyskując pozorną wiarygodność. Gdy kilka systemów go powtarza lub się do niego odwołuje, osoby weryfikujące mogą uznać korelację za niezależne potwierdzenie.
Ludzie również mają trudności z właściwym kalibrowaniem zaufania, gdy modele się zmieniają. System może dobrze działać na znanych obrazach, a zawodzić, gdy zmieniają się pogoda, teren, kamuflaż, jakość czujników lub taktyka przeciwnika.
Przeciwnicy aktywnie wywołują takie zmiany. Stosują wabiki, zakłócenia elektroniczne, ukrywanie, manipulowane sygnały i pozorowane ruchy. Dane z pola walki nie są po prostu zaszumione; przeciwnicy celowo czynią je mylącymi.
To odróżnia wojskową AI od wielu zastosowań komercyjnych. Silnik rekomendacji spotyka użytkowników próbujących na niego wpływać, lecz model używany na polu walki mierzy się ze zorganizowanymi przeciwnikami, którzy dążą do wywołania śmiertelnych błędów.
Kontrola człowieka musi więc obejmować więcej niż ostateczną autoryzację. Wymaga testów w odpowiednich warunkach, dostępu do dowodów przeczących, jasnych wskaźników niepewności oraz wystarczającego czasu na ponowne rozważenie rekomendacji.
Wymaga także instytucjonalnego przyzwolenia na sprzeciw wobec systemu. Analityk karany za spowalnianie operacji nauczy się zatwierdzać wątpliwe wyniki niezależnie od formalnych zasad.
Wojna AI Project Maven poddaje ten projekt organizacyjny presji. Wartość systemu zależy od szybkości, podczas gdy rzetelna weryfikacja wymaga czasu. To zasadniczy kompromis, a nie szczegół implementacyjny.
Błędy AI w namierzaniu celów zyskują szybkość i skalę
AI nie musi często zawodzić, by wyrządzić poważną szkodę, gdy jeden błąd może rozprzestrzenić się na tysiące rekomendacji.
Systemy uczenia maszynowego są statystyczne. Wnioskują o prawdopodobnych wzorcach na podstawie danych, zamiast stosować doskonałą wiedzę o świecie.
Powoduje to kilka kategorii błędów. Model może błędnie sklasyfikować obiekt, opierać się na stronniczych danych, nie uwzględnić zmieniającego się kontekstu, wygenerować niedokładne tłumaczenie lub przypisać zbyt dużą wagę słabemu powiązaniu.
Błędy mogą też powstawać poza modelem. Baza lokalizacji może zawierać nieaktualny adres. Czujnik może wygenerować zniekształcony obraz. Źródło ludzkie może przekazać fałszywe informacje.
AI może szybko łączyć te dane wejściowe, lecz nie może zagwarantować, że odzwierciedlają one rzeczywistość. Pewny siebie wynik może ukrywać kruchy łańcuch dowodowy.
Skala czyni to niebezpiecznym. Gdy błędne założenie wpływa na jeden pakiet analizowany ręcznie, śledczy mogą czasem je zidentyfikować i ograniczyć jego skutki. Gdy to założenie znajduje się w zautomatyzowanym procesie, może wpłynąć na wiele rekomendacji, zanim ktokolwiek je zauważy.
MKCK twierdzi, że wojskowe systemy wspomagania decyzji mogą wzmacniać błędy zarówno pod względem szybkości, jak i skali. Ostrzega również, że systemy te mogą przyspieszać niezamierzoną eskalację, gdy użytkownicy nie korzystają z niezależnego osądu.
Eskalacja ma znaczenie, ponieważ wojskowe systemy AI nie działają w izolacji. Jedna strona zmienia swoją postawę w odpowiedzi na ruchy drugiej. Szybsze rekomendacje sprzyjają szybszym reakcjom po obu stronach.
Fałszywe ostrzeżenie o nadchodzącym ataku może zatem zrobić więcej niż doprowadzić do jednego błędnego uderzenia. Może wywołać rozproszenie sił, odwet lub szerszą sekwencję zautomatyzowanych alarmów.
Urzędnicy odpowiedzialni za bezpieczeństwo zaczęli określać to mianem skróconego czasu decyzyjnego. Podczas wrześniowego Beijing Xiangshan Forum w 2026 roku uczestnicy ostrzegali, że AI skraca strategiczne ramy czasowe, podczas gdy dezinformacja osłabia zdolność rządów do ustalenia, co się wydarzyło.
W trzydniowym wydarzeniu uczestniczyli przedstawiciele około 100 państw. Wiceprezydent MKCK Jürg Lauber argumentował, że zachowanie ludzkiego osądu staje się ważniejsze wraz ze wzrostem autonomii broni.
Ostrzeżenia forum bezpieczeństwa pokazują, że obawy nie ograniczają się do grup rzeczniczych. Wojskowi i dyplomaci dostrzegają, że szybkość może podważać kontrolę między państwami.
Wyzwanie techniczne wykracza także poza przewidywalne błędy klasyfikacji. Twórcy nie zawsze potrafią wyjaśnić, dlaczego zaawansowane modele zachowują się inaczej po niewielkich zmianach w promptach, danych wejściowych, narzędziach lub warunkach działania.
Ta nieprzewidywalność nie oznacza, że każdy system AI jest niekontrolowalny. Oznacza, że wyniki mierzone podczas testów nie mogą objąć każdego środowiska, typu celu, taktyki przeciwnika ani interakcji z innym oprogramowaniem.
Autonomiczna broń pogłębia te obawy. Systemy te mogą wybierać i używać siły po aktywacji, bez człowieka wybierającego każdy konkretny cel.
Niektóre systemy autonomiczne mają wąskie funkcje i określone środowiska działania. Broń obronna może automatycznie zwalczać nadlatujące pociski, ponieważ typ celu i okno czasowe reakcji są ściśle ograniczone.
Ryzyko zmienia się, gdy autonomia rozszerza się na obszary zaludnione lub dotyczy ludzi. Maszyna może rozpoznać ruch, ubiór, ciepło lub kształt pojazdu, ale te sygnały nie ujawniają intencji ani statusu prawnego.
Ranny bojownik, kombatant poddający się i cywil mogą generować podobne wzorce czujnikowe. Ich status zależy od kontekstu, który zmienia się w ciągu sekund.
Z tego powodu stanowisko MKCK w sprawie broni autonomicznej wzywa do zakazu systemów nieprzewidywalnych oraz broni autonomicznej zaprojektowanej do atakowania ludzi. Popiera również ograniczenia dotyczące innej broni autonomicznej.
Instytucje wojskowe często odpowiadają, że ludzie nadal ponoszą odpowiedzialność, a międzynarodowe prawo humanitarne już obowiązuje. Oba stwierdzenia są prawdziwe, ale żadne nie rozwiązuje problemu operacyjnego.
Odpowiedzialność po uderzeniu nie przywraca błędnie wybranego celu. Istniejące prawo zapewnia niezbędne standardy, lecz dowódcy nadal potrzebują systemów technicznych i organizacyjnych zdolnych stosować te standardy pod presją.
Niezależna ocena pozostaje szczególnie trudna. Dostawcy chronią modele, dane i projekty systemów jako informacje zastrzeżone. Wojska chronią procedury namierzania celów ze względów bezpieczeństwa.
Ograniczenia te mogą uniemożliwiać przeciwnikom wykorzystanie systemu. Mogą też utrudniać ustawodawcom, sądom, śledczym i opinii publicznej ocenę, czy zabezpieczenia działają.
Braku przejrzystości nie należy mylić z dowodem porażki. Tworzy on lukę dowodową. Silne twierdzenia o precyzji, bezpieczeństwie lub ograniczaniu szkód dla ludności cywilnej pozostają trudne do zweryfikowania bez danych operacyjnych.
Trzy sygnały pokażą, czy nadzór zdoła dotrzymać kroku
Kolejny etap wojny AI zostanie określony przez mierzalne zabezpieczenia, a nie przez szersze obietnice, że człowiek nadal uczestniczy w procesie.
Pierwszym sygnałem będzie to, czy armie ujawnią, jak testują systemy AI do namierzania celów w warunkach pola walki. Użyteczne dowody obejmowałyby wyniki w zmiennym terenie, przy zdegradowanych czujnikach, w warunkach walki elektronicznej, wobec wrogiego podstępu oraz nieznanych klas celów.
Dokładność laboratoryjna nie wystarcza. Oceniający muszą wiedzieć, kiedy model zawodzi, czy operatorzy potrafią rozpoznać te błędy oraz jak szybko można wycofać wadliwy wynik.
Publikowanie informacji pozostanie ograniczone przez względy bezpieczeństwa. Rządy mogą jednak nadal powoływać niezależne organy przeglądowe, ujednolicone systemy zgłaszania incydentów oraz zapewniać chroniony dostęp na potrzeby nadzoru legislacyjnego.
Jeśli takie mechanizmy będą się rozszerzać, wesprą twierdzenie, że wdrażaniu operacyjnemu towarzyszy poważna weryfikacja. Jeśli testy pozostaną niemal całkowicie tajne, luka w zapewnieniach będzie się pogłębiać.
Drugim sygnałem będzie ilość czasu i dowodów dostępnych przy każdym przeglądzie dokonywanym przez człowieka. Armie powinny mierzyć, czy liczba wyników dotyczących celów rośnie szybciej niż liczba wykwalifikowanego personelu i niezależnych kontroli.
Formalna liczba zatwierdzeń sama w sobie niewiele ujawnia. Nadzór zależy od tego, czy osoby dokonujące przeglądu analizują pierwotny wywiad, konsultują sprzeczne źródła, rozumieją ograniczenia poziomu pewności i zachowują uprawnienie do opóźnienia działania.
Dochodzenia pooperacyjne powinny również badać błąd automatyzacji. System może spełniać wymagania inżynieryjne, a jednocześnie sprzyjać przewidywalnym ludzkim błędom poprzez interfejs lub przepływ pracy.
Jeśli czas przeglądu będzie się skracał, podczas gdy liczba celów będzie rosła, „człowiek w pętli” będzie coraz częściej opisywać procedurę, a nie osąd. Jeśli obsada, projekt interfejsu i zasady eskalacji dostosują się do obciążenia pracą, kontrola człowieka stanie się bardziej wiarygodna.
Trzecim sygnałem będą działania międzynarodowe dotyczące broni autonomicznej i wojskowych systemów wspomagania decyzji. Siódma Konferencja Przeglądowa Konwencji o niektórych broniach konwencjonalnych jest zaplanowana na 16–20 listopada 2026 roku.
Spotkanie daje państwom możliwość dążenia do jaśniejszych ograniczeń. Ważne pytania obejmują to, czy zasady rozróżniają wspomaganie decyzji od autonomicznego użycia siły oraz czy odnoszą się do nieprzewidywalnego zachowania wspieranego przez AI.
Porozumienie w sprawie prawnie wiążących ograniczeń wzmocniłoby pogląd, że rządy mogą zachować kontrolę, zanim wdrożenia staną się utrwalone. Utrzymujący się impas oznaczałby, że wojskowe wdrażanie postępuje szybciej niż międzynarodowe zarządzanie.
Twórcy i przedsiębiorstwa kupujące AI również powinny obserwować te sygnały. Podstawowe problemy są znane także poza obronnością: nieprzejrzyste modele, niewiarygodne dane źródłowe, błąd automatyzacji, słabe ścieżki audytowe oraz decyzje podejmowane szybciej, niż ludzie mogą je zweryfikować.
Konsekwencje wyraźnie się różnią, ale lekcja dotycząca zarządzania jest przenośna. Organizacje potrzebują dostępu do materiałów źródłowych, dowodów przeciwnych, ograniczeń modelu oraz zapisu tego, jak istotne rekomendacje stały się decyzjami.
Utrzymywanie przeszukiwalnej bazy wiedzy może pomóc zespołom technicznym zachować ten ślad dowodowy. Nie może zastąpić odpowiedzialnych decydentów ani przeglądu specyficznego dla danej dziedziny.
Wojna AI Project Maven sprawia, że większego pytania nie da się uniknąć. Jeśli AI generuje rekomendacje szybciej, niż ludzie mogą je zbadać, która część procesu faktycznie sprawuje kontrolę?
Odpowiedź powinna być widoczna w testach, czasie przeglądu, wskaźnikach odrzuceń, dochodzeniach dotyczących incydentów i egzekwowalnych zasadach. Czytelnicy powinni oceniać kolejne ogłoszenia dotyczące wojskowej AI według tych miar, a nie według kolejnego zapewnienia, że człowiek pozostaje gdzieś w pętli.
