Boko Haram wykorzystuje frontier AI w operacjach, ujawniając słabe ogniwo w zabezpieczeniach modeli

Członkowie Boko Haram mieli wykorzystywać co najmniej sześć usług frontier AI podczas rzeczywistych operacji, mimo zabezpieczeń zaprojektowanych, by blokować pomoc w działaniach z użyciem przemocy. To ustalenie przenosi problem z obszaru teoretycznego ryzyka modeli do udokumentowanego, codziennego wykorzystania. Podważa też uspokajający obraz bezpieczeństwa AI, często przedstawiany w politykach firm i nagłówkach Google News.

Dowody pochodzą od badaczki z Cambridge, Antonii Juelich, która w latach 2025 i 2026 przeprowadziła wywiady z 27 byłymi członkami Boko Haram w północno-wschodniej Nigerii. Jej badanie koncentrowało się głównie na działaniach wspieranych przez AI w 2024 roku. Uczestnicy opisywali korzystanie z ChatGPT, Claude, Gemini, Grok, Meta AI i DeepSeek do zadań związanych z walką i codziennymi operacjami.

Główny problem nie polega na tym, że chatbot samodzielnie zaplanował atak. Chodzi o to, że bojownicy mieli przemieszczać się między kilkoma usługami, przeformułowywać pytania i łączyć przydatne odpowiedzi. Bezpieczeństwo zależy więc od czegoś więcej niż od odmowy jednego modelu na jeden prompt. Zależy od tego, czy każdy dostępny system potrafi oprzeć się wytrwałym użytkownikom działającym na rozproszonym rynku.

Dowody wykraczają poza propagandę

Istotna zmiana ma charakter operacyjny: AI miała stać się rutynowym asystentem, a nie jedynie narzędziem do tworzenia propagandy.

Wcześniejsze publicznie dostępne dowody w dużej mierze koncentrowały się na syntetycznych mediach. Sieci ekstremistyczne wykorzystywały narzędzia generatywne do tłumaczenia przekazów, tworzenia plakatów, modyfikowania obrazów i zwiększania skali propagandy internetowej. Działania te są istotne, ale pozostają zbliżone do znanych problemów moderacji treści.

Badania terenowe Juelich opisują szerszy wzorzec. Według badania Cambridge byli członkowie twierdzili, że obie główne frakcje Boko Haram wykorzystywały modele frontier do wspierania walki i codziennych decyzji. Zgłaszane zastosowania obejmowały planowanie ataków, rozwiązywanie problemów z bronią, analizę obserwacji, nawigację, pytania medyczne oraz ocenę po misji.

Badanie wskazuje, że chatboty były konsultowane podczas przygotowania misji, aktywnych operacji i późniejszej analizy. Ta sekwencja ma znaczenie, ponieważ umieszcza AI w całym cyklu operacyjnym. Nie ogranicza się już ona do tworzenia plakatu przed lub po wydarzeniu.

Uczestnicy opisywali też tę technologię jako sposób na ograniczenie niepewności. Jeden z byłych bojowników powiedział Juelich, że metoda prób i błędów może być śmiertelna, podczas gdy AI oferowała większą dokładność. To postrzeganie uczestnika, a nie niezależny dowód, że odpowiedzi modeli poprawiały skuteczność ataków.

Mimo to takie postrzeganie ma znaczenie strategiczne. Użytkownicy wdrażają narzędzia, ponieważ uważają, że zmniejszają one nakład pracy, oszczędzają czas lub wypełniają lukę w wiedzy. System nie musi udzielać idealnych odpowiedzi, by stać się wartościowy operacyjnie. Wystarczy, że wydaje się bardziej użyteczny niż alternatywy dostępne w terenie.

Ustalenie to rozwija dowody wskazujące, że społeczności ekstremistyczne już eksperymentowały z systemami generatywnymi. W 2023 roku badanie wczesnego wdrażania udokumentowało ponad 5 000 elementów treści wygenerowanych przez AI w przestrzeniach terrorystycznych i związanych z brutalnym ekstremizmem.

Zbiór obejmował propagandę powiązaną z ideologiami brutalnego islamizmu i neonazizmu. Badacze zidentyfikowali również proizlamistowską grupę technologiczną, która doradzała zwolennikom w kwestii korzystania z ChatGPT przy jednoczesnej ochronie tożsamości.

Przykłady te pokazywały intencję i eksperymentowanie. Wywiady z członkami Boko Haram sugerują późniejszy etap, w którym użytkownicy traktują konwersacyjną AI jak dostępnego doradcę technicznego. Opisywane zachowanie przypomina zwykłe wdrażanie technologii w miejscu pracy, z tą różnicą, że cele mogą obejmować przemoc.

To stanowi główne odwrócenie perspektywy w tym artykule. Najbardziej bezpośrednim zagrożeniem nie jest w pełni autonomiczna broń ani patogen zaprojektowany przez AI. Jest nim asystent ogólnego przeznaczenia, który zmniejsza tarcie przy wielu drobnych decyzjach.

To rozróżnienie zmienia to, co muszą wykrywać obrońcy. Zapytanie o egzotyczną broń może uruchomić wyraźną granicę bezpieczeństwa. Sekwencję pozornie zwyczajnych pytań o teren, elektronikę, pogodę, medycynę lub naprawę sprzętu może być trudniej sklasyfikować.

Każda odpowiedź osobno może wydawać się nieszkodliwa. Połączone w rzeczywistym kontekście bojownika odpowiedzi mogą jednak wspierać niebezpieczny cel. Znaczenie operacyjne rozciąga się na całą rozmowę, sytuację użytkownika i potencjalnie kilka różnych platform.

Pierwotne opisane dochodzenie przedstawiło wniosek Juelich wprost. Stwierdziła ona, że wdrażanie było szybsze, szersze i bardziej systematyczne, niż oczekiwała.

Jej próba pozostaje ograniczona, a wywiady z byłymi członkami wiążą się ze znanymi trudnościami weryfikacyjnymi. Wspomnienia mogą być niepełne, motywacje mogą wpływać na zeznania, a badacze nie mogą niezależnie odtworzyć każdej interakcji. Badanie powinno zatem informować analizę ryzyka, ale nie być traktowane jako pełny spis wykorzystania AI przez bojowników.

Nawet przy tych ograniczeniach 27 szczegółowych relacji dostarcza więcej dowodów operacyjnych niż same hipotetyczne testy modeli. Wskazują one, jak ludzie mieli wybierać usługi, formułować pytania, reagować na odmowy i stosować wyniki w warunkach terenowych.

Ten ostatni punkt jest kluczowy. Benchmark może sprawdzić, czy jeden model udostępnia zakazane informacje po wystandaryzowanym prompcie. Nie jest jednak w stanie w pełni odtworzyć zachowania wytrwałych użytkowników, którzy zmieniają język, dzielą zadania, konsultują inne systemy i łączą wyniki AI z posiadaną wiedzą.

Dlaczego rutynowa pomoc AI zmienia charakter zagrożenia

AI może zwiększać możliwości grupy, nie tworząc całkowicie nowego rodzaju terroryzmu.

Boko Haram nie potrzebowało sztucznej inteligencji, by przeprowadzać ataki, rozpowszechniać propagandę lub podtrzymywać powstanie. Jego frakcje już dysponowały lokalną wiedzą, doświadczeniem organizacyjnym, bronią i sieciami ludzi. AI weszła do tego środowiska jako narzędzie zwiększające efektywność.

To sprawia, że wkład tej technologii łatwo zlekceważyć. Analitycy często szukają spektakularnej zdolności, która przed AI była niemożliwa. Bardziej prawdopodobnym efektem w krótkiej perspektywie jest zbiór drobniejszych usprawnień w badaniach, tłumaczeniach, rozwiązywaniu problemów, planowaniu i komunikacji.

Chatbot może skrócić czas potrzebny na wyszukiwanie informacji. Może przekształcić niejasne pytanie w listę kontrolną, przetłumaczyć nieznaną terminologię, streścić materiał techniczny lub zasugerować możliwe przyczyny awarii sprzętu. Może także generować odpowiedzi niepoprawne, wprowadzające w błąd lub niebezpieczne.

Dla legalnego użytkownika takie błędy powodują niedogodności lub straty finansowe. W warunkach konfliktu niedokładna odpowiedź może zranić użytkownika lub osoby postronne. Technologia pozostaje atrakcyjna, ponieważ bojownicy mogą zadawać pytania wielokrotnie i porównywać odpowiedzi bez konieczności znalezienia zaufanego specjalisty.

Ten wzorzec odpowiada szerszej ocenie przedstawionej w analizie West Point. Jej autorzy stwierdzili, że generatywna AI poprawia efektywność, dostępność i skalę niektórych działań terrorystycznych. Uznali również, że istnieją ograniczone dowody na to, iż fundamentalnie zmienia ona naturę terroryzmu.

Wniosek ten nie jest uspokajający. Technologia może zwiększać ryzyko, nie zmieniając podstawowej misji przeciwnika. Tanie drony komercyjne nie wynalazły konfliktu zbrojnego, ale zmieniły obserwację, namierzanie celów i taktykę na polu walki.

Wsparcie AI może podążać tą samą stopniową ścieżką. Lepsze tłumaczenia mogą poszerzyć dostęp do materiałów technicznych. Szybsze badania mogą rozszerzyć zbiór rozważanych opcji. Syntetyczne media mogą wspierać rekrutację, podczas gdy zapytania operacyjne dotyczą praktycznych problemów.

Mechanizm ma charakter kumulacyjny. Pojedyncza odpowiedź może zapewniać niewielką przewagę. Setki wymian między członkami, misjami i modelami mogą jednak podnieść podstawowy poziom kompetencji organizacji.

Byli członkowie Boko Haram mieli rozumieć AI jako technologię ogólnego przeznaczenia. Nie ograniczali jej do wyspecjalizowanego zespołu medialnego ani jednego eksperymentalnego projektu. Stosowali ją, gdy pojawiały się pytania.

Takie zachowanie odzwierciedla wdrażanie technologii w legalnych organizacjach. Pracownicy najpierw używają chatbotów do tworzenia szkiców i streszczeń. Później narzędzia rozprzestrzeniają się na analizę, programowanie, obsługę klienta i decyzje wewnętrzne. Nieformalne wdrażanie często postępuje szybciej niż polityka.

Grupy bojownicze napotykają mniej barier zgodności niż korporacje. Nie potrzebują przeglądu zakupowego, oceny prywatności ani zgody zarządu przed otwarciem publicznego chatbota. Mogą też porzucić konto i przejść do innego dostawcy po interwencji egzekwującej zasady.

Dostęp pozostaje nierówny. Użytkownicy potrzebują urządzenia, łączności, umiejętności językowych i wystarczającego osądu, by rozpoznać przydatne wyniki. Niektóre usługi wymagają kont, metod płatności lub weryfikacji tożsamości. Warunki sieciowe mogą również ograniczać dostępność w odległych obszarach.

Ograniczenia te pomagają wyjaśnić, dlaczego AI nie zastąpiła doświadczonych operatorów. Bardziej realistyczną rolą jest współpraca człowieka z maszyną. Ludzie określają cele, dzielą je na mniejsze pytania, oceniają odpowiedzi i działają w świecie fizycznym.

Raport bezpieczeństwa z 2026 roku opisuje podobne ograniczenie w operacjach cybernetycznych. Nie zgłoszono, by systemy ogólnego przeznaczenia prowadziły niezawodne, kompleksowe ataki bez kierownictwa człowieka.

Modele mogą tracić orientację w stanie zadania, wykonywać nieistotne kroki i nie radzić sobie z prostymi błędami. Ludzie pozostają odpowiedzialni za strategię i interwencję, podczas gdy AI wykonuje węższe zadania techniczne.

Ograniczenie to zawęża tezę, ale nie eliminuje ryzyka. Zgłaszane wykorzystanie przez Boko Haram nie pokazuje autonomicznego terroryzmu. Pokazuje AI rozszerzającą możliwości ludzkich operatorów, którzy już mają intencję, kontekst i pewną wiedzę.

Presja spada więc na organizacje antyterrorystyczne, które tradycyjnie oceniają ludzi, finansowanie, broń, podróże i komunikację. Muszą one teraz rozumieć cyfrową warstwę wsparcia, która może obejmować kilku komercyjnych dostawców.

Prawdziwym przeciwnikiem jest najsłabsze zabezpieczenie

Główny konflikt to wytrwałe korzystanie z wielu platform kontra zabezpieczenia egzekwowane przez pojedyncze firmy.

OpenAI i Anthropic poinformowały Washington Examiner, że ich systemy zabraniają działalności terrorystycznej i niebezpiecznej pomocy. Obie firmy opisały mechanizmy kontroli mające odmawiać odpowiedzi na brutalne prośby, identyfikować nadużycia i zakłócać działanie kont naruszających zasady.

Polityki te wyznaczają konieczne granice. Nie dowodzą jednak, że każda szkodliwa interakcja zostanie wykryta. Byli członkowie Boko Haram mieli znajdować sposoby na uzyskiwanie przydatnych materiałów poprzez zmianę promptów, dzielenie zapytań lub przechodzenie między usługami.

Praktykę tę czasem opisuje się jako model shopping. Użytkownik przesyła powiązane pytania do kilku systemów i zachowuje te odpowiedzi, które wydają się najbardziej użyteczne. Metoda ta ogranicza ochronną wartość pojedynczej odmowy.

Struktura rynku utrudnia rozwiązanie tego problemu. Duzi dostawcy utrzymują odrębne polityki, klasyfikatory, systemy kont, zespoły ds. zagrożeń i progi egzekwowania zasad. Zakres ich ochrony różni się zależnie od modelu, języka, regionu i kanału dostępu.

Jedna firma może zablokować konto, nie wiedząc, czy użytkownik przeniósł się na inną platformę. Inny dostawca może zaobserwować powiązany wzorzec, lecz nie mieć kontekstu potrzebnego do jego sklasyfikowania. Badacze i agencje wywiadowcze mogą dysponować dodatkowymi fragmentami.

Problem przypomina rozproszzony incydent bezpieczeństwa. Każdy uczestnik widzi fragment łańcucha, lecz żaden nie dysponuje pełną osią czasu.

Google, OpenAI, Anthropic, xAI, Meta i DeepSeek działają także w odmiennych jurysdykcjach i kierują się różnymi bodźcami instytucjonalnymi. Niektóre oferują zamknięte usługi z monitorowaniem na poziomie konta. Inne udostępniają modele, które można uruchamiać za pośrednictwem podmiotów trzecich lub na lokalnym sprzęcie.

Modele lokalne tworzą trudniejszą granicę egzekwowania zasad. Gdy wagi modelu są dostępne poza środowiskiem hostowanym przez dostawcę, scentralizowane blokady kont i klasyfikatory po stronie serwera mają ograniczony zasięg. Modyfikacje bezpieczeństwa mogą też zostać zmienione przez dalszych deweloperów.

Nie oznacza to, że otwarte modele automatycznie prowadzą do większej skali nadużyć. Zamknięte systemy można obejść, skradzione dane logowania mogą ukrywać tożsamość, a zdeterminowani użytkownicy mogą rozdzielać zadania między pozornie nieszkodliwe prompty.

Kluczowym problemem jest nierówny poziom odporności. Juelich argumentowała, że społeczeństwo pozostaje narażone, gdy jeden dostawca utrzymuje silne zabezpieczenia, a inny ich nie zapewnia. Jej argument ujmuje bezpieczeństwo jako właściwość systemu, a nie cechę produktu.

Współpraca branżowa może pomóc identyfikować powtarzające się taktyki, ryzykowne wzorce zachowań i pojawiające się nadużycia. Udostępnianie informacji na poziomie użytkowników rodzi jednak poważne pytania dotyczące prywatności, prawa i swobód obywatelskich.

Szeroki filtr słów kluczowych lub zachowań może błędnie klasyfikować dziennikarzy, badaczy, pracowników organizacji humanitarnych i specjalistów ds. bezpieczeństwa. Osoba badająca neutralizację materiałów wybuchowych może używać słownictwa podobnego do osoby planującej wyrządzenie szkody. Kontekst odróżnia te przypadki, ale jego wiarygodne wywnioskowanie jest trudne.

Automatyczna moderacja działa też nierównomiernie w różnych językach i dialektach. Grupy działające w północno-wschodniej Nigerii mogą komunikować się po angielsku, arabsku, hausa, kanuri lub w formach mieszanych. Kontrola testowana głównie na standardowym angielskim może przeoczyć zakodowane lub przetłumaczone zapytania.

Fałszywie negatywne wyniki umożliwiają niebezpieczną pomoc. Fałszywie pozytywne mogą odmawiać legalnego dostępu i prowadzić do inwazyjnej inwigilacji. Dostawcy muszą zarządzać obu rodzajami błędów, podczas gdy przeciwnicy celowo poszukują granicy systemu.

Odpowiedzią nie może być publiczna lista promptów omijających systemy bezpieczeństwa. Publikowanie szczegółowych metod obchodzenia zabezpieczeń pomogłoby podmiotom, które te zabezpieczenia mają ograniczać.

Obrońcy potrzebują natomiast kontrolowanych środowisk ewaluacyjnych. Zespoły red team mogą testować modele pod kątem realistycznych zachowań wieloturowych, wielojęzycznych promptów, dekompozycji między dziedzinami oraz użytkowników przechodzących między pozornie łagodnymi zadaniami.

Obecne ewaluacje często dają jednoznaczny wynik zaliczenia lub niezaliczenia dla pojedynczej interakcji. Nadużycia operacyjne rzadko pojawiają się w tak uporządkowanej formie. Mogą narastać przez dni, konta, urządzenia i modele.

Silniejsza ewaluacja badałaby, czy system rozpoznaje rozwijający się wzorzec. Mierzyłaby też, co dzieje się po odmowie. Czy model proponuje bezpieczniejsze alternatywy, nadal dostarcza sąsiednich szczegółów, czy ujawnia wystarczająco wiele fragmentów, by pozostać użytecznym?

Dlatego pojedyncza firma nie może rozstrzygnąć tego problemu samym językiem polityk. Rywalizacja toczy się między skoordynowanymi, adaptacyjnymi użytkownikami a strukturą obronną podzieloną między produkty i instytucje.

Fragmentaryczne dane wywiadowcze tworzą niebezpieczną lukę

Organizacje najlepiej przygotowane do rozpoznania zagrożenia dysponują różnymi fragmentami dowodów i nie mogą ich łatwo połączyć.

Firmy AI mogą obserwować prompty, aktywność kont, automatyczne alerty bezpieczeństwa i próby obejścia kontroli. Ich widoczność kończy się poza ich usługami, a obowiązki dotyczące prywatności ograniczają zakres, w jakim mogą udostępniać informacje o użytkownikach.

Agencje wywiadowcze mogą wiedzieć, które grupy poszukują nowych możliwości. Mogą dysponować utajnioną komunikacją, informacjami ze źródeł osobowych lub dowodami z pola walki. Informacji tych często nie można bezpośrednio przekazywać prywatnym firmom ani badaczom akademickim.

Badacze mogą prowadzić wywiady, których ani firmy, ani agencje nie są zorganizowane, by pozyskiwać. Praca Juelich ilustruje tę przewagę. Byli członkowie mogli opisać, jak narzędzia trafiały do organizacji i jak operatorzy je oceniali.

Grupy społeczeństwa obywatelskiego dodają kolejną warstwę. Monitorują społeczności ekstremistyczne i śledzą publiczną propagandę na mniejszych platformach. Ich zbiory danych mogą ujawniać zachowania, których dostawca modelu czołowego nigdy nie zobaczy.

Rebecca Hersman, ekspertka ds. bezpieczeństwa narodowego, zaproponowała centrum fuzji informacji o zagrożeniach AI, które łączyłoby te fragmenty. Koncepcja zakładałaby wprowadzenie urzędników z odpowiednimi poświadczeniami oraz wyznaczonych przedstawicieli firm do kontrolowanej struktury wymiany informacji.

Centrum fuzji mogłoby wspierać oceny modeli uwzględniające informacje o zagrożeniach. Zamiast testować abstrakcyjne najgorsze scenariusze, ewaluatorzy mogliby analizować zachowania wywiedzione z zaobserwowanych taktyk przeciwników, bez publicznego ujawniania wrażliwych szczegółów.

Mogłoby też ograniczyć powielające się martwe punkty. Dostawca może wykryć podejrzane pytania techniczne, ale nie mieć dowodów na powiązanie organizacyjne. Agencja może znać to powiązanie, lecz nie wiedzieć o aktywności na danej platformie.

Łączenie tych sygnałów brzmi prosto. Zarządzanie czyni to trudnym.

Uczestnicy potrzebowaliby zasad dotyczących dostępu, retencji, nadzoru, klasyfikacji i dozwolonych zastosowań. Firmy potrzebowałyby ochrony informacji dotyczących ich własnościowych mechanizmów bezpieczeństwa. Użytkownicy potrzebowaliby zabezpieczeń przed nieuzasadnioną inwigilacją.

Zasięg międzynarodowy stanowi kolejną przeszkodę. Boko Haram działa głównie wokół basenu Jeziora Czad, ponad granicami i sieciami komunikacyjnymi. Odpowiedni dostawcy, rządy, badacze i dotknięte społeczności nie funkcjonują w jednym systemie prawnym.

Organizacja skoncentrowana na Stanach Zjednoczonych mogłaby poprawić koordynację między amerykańskimi firmami i agencjami. Nie zapewniłaby jednak automatycznie wglądu w każdą zagraniczną usługę, otwarty model, odsprzedawcę czy wdrożenie hostowane lokalnie.

System musi również odróżniać dowody od wnioskowania. Relacje z wywiadów mogą wskazywać wzorce warte przetestowania, ale nie dowodzą, że każdy dostawca zawiódł w ten sam sposób. Logi dostawców mogą ujawniać zachowania kont bez udowadniania, jak wykorzystano wynik modelu.

Odpowiedzialna fuzja danych wywiadowczych zachowuje te rozróżnienia. Nie powinna przekształcać niepewnych sygnałów w stanowcze oskarżenia tylko dlatego, że kilka instytucji przekazało dane.

Organizacja Narodów Zjednoczonych osobno zwróciła uwagę na rosnące wykorzystanie systemów cyfrowych przez terrorystów. Briefing CTED z maja 2026 r. opisał, jak Tehrik-i-Taliban Pakistan wykorzystuje narzędzia generatywne do tworzenia propagandy oraz ulepszania obrazów, filmów i tłumaczeń.

Przykład ten wzmacnia potrzebę szerszego monitorowania, jednocześnie pokazując różnorodność zastosowań. Produkcja propagandy, porady dotyczące pola walki, pomoc cybernetyczna i finansowanie nie stwarzają identycznych problemów z wykrywaniem.

Wspólne centrum potrzebowałoby kategorii zagrożeń wystarczająco precyzyjnych, by ukierunkowywać działania. Musi unikać sprowadzania każdego ekstremistycznego użycia technologii do jednego, niezróżnicowanego zagrożenia AI.

Luka informacyjna ma zatem dwa wymiary. Organizacjom brakuje pełnego obrazu zachowań użytkowników, a także wspólnych metod oceny znaczenia tego, co widzą.

Zamknięcie pierwszej luki wymaga bezpiecznego udostępniania informacji. Zamknięcie drugiej wymaga zweryfikowanych standardów analitycznych, realistycznych ewaluacji i ostrożnego języka opisującego niepewność.

Czego dowody wciąż nie potwierdzają

Wywiady stanowią poważny sygnał ostrzegawczy, ale nie mierzą netto wpływu AI na zdolności terrorystyczne.

Badanie Cambridge koncentruje się na byłych członkach Boko Haram. Nie reprezentuje wszystkich aktywnych członków, frakcji ani organizacji terrorystycznych. Wzorce wdrażania mogą różnić się zależnie od przywództwa, łączności, języka i umiejętności technicznych.

Byli uczestnicy mogą zapewnić rzadki dostęp do wewnętrznych praktyk. Mogą też błędnie pamiętać daty, zawyżać skalę sukcesu lub przedstawiać wyjątkowe przypadki jako rutynę. Badacze muszą porównywać relacje między wywiadami i, tam gdzie to możliwe, szukać dowodów potwierdzających.

Publiczne relacje nie zawierają pełnych transkrypcji każdej wymiany z chatbotem. Niezależni ewaluatorzy nie mogą więc potwierdzić, który model wygenerował każdą odpowiedź, jakie zabezpieczenia były aktywne ani czy odpowiedź bezpośrednio usprawniła operację.

Zachowanie modeli również szybko się zmienia. Odmowa zaobserwowana w jednym miesiącu może wyglądać inaczej po aktualizacji systemu. Produkty o podobnych nazwach mogą używać różnych modeli bazowych, warstw bezpieczeństwa i konfiguracji regionalnych.

Fakt, że bojownicy prosili o pomoc, nie dowodzi, że wynik był poprawny. Duże modele językowe generują wiarygodnie brzmiący tekst na podstawie wzorców statystycznych i mogą wymyślać szczegóły. Błędy techniczne mogą być szczególnie niebezpieczne, gdy użytkownikom brakuje wiedzy specjalistycznej.

Mimo to niedokładność nie jest pełną linią obrony. Użytkownicy mogą porównywać kilka odpowiedzi, testować sugestie lub wydobywać ogólne wskazówki, odrzucając oczywiste błędy. Doświadczeni operatorzy mogą też rozpoznać, które fragmenty pasują do ich istniejącej wiedzy.

Dowody nie wspierają twierdzeń, że AI samodzielnie dowodziła siłami, wybierała cele bez ludzkiego osądu lub przeprowadzała autonomiczne ataki. Nie wykazują też, że AI stworzyła zdolności strategiczne niedostępne z konwencjonalnych źródeł.

Informacje publiczne już zawierają obszerny materiał na temat elektroniki, dronów, broni, chemii i historii wojskowości. Wyszukiwarki i sieci komunikatorów od dawna pomagają złośliwym aktorom znajdować i rozpowszechniać takie treści.

Generatywna AI zmienia interfejs. Może podsumowywać rozproszone informacje, odpowiadać na pytania uzupełniające, tłumaczyć terminologię i dostosowywać wyjaśnienia do użytkownika. Te udogodnienia mogą zmniejszać wysiłek potrzebny do poruszania się po istniejącej wiedzy.

Określenie dodatkowego zagrożenia wymaga porównań. Badacze muszą testować, co użytkownicy mogą osiągnąć z chatbotem, konwencjonalnym wyszukiwaniem w sieci, statycznymi dokumentami lub wskazówkami od innej osoby.

Potrzebują również miar rezultatów. Czy AI skróciła czas planowania, poprawiła niezawodność, zwiększyła liczbę kompetentnych uczestników lub zmieniła wybór celów? Relacje mogą sugerować takie skutki, nie pozwalając jednak na ich precyzyjne ilościowe określenie.

Analiza West Point stanowi ważną sceptyczną przeciwwagę. Jej autorzy stwierdzili, że generatywna AI obecnie wydaje się raczej przyspieszać utrwalone działania niż przekształcać zdolności terrorystyczne.

Ta ocena może współistnieć z ustaleniami Juelich. Wdrożenie operacyjne może być realne i niepokojące, nawet jeśli technologia nie zmieniła podstawowego charakteru terroryzmu.

Rozróżnienie to zapobiega dwóm błędom analitycznym. Odrzucenie dowodów jako zwykłego korzystania z internetu ignorowałoby wartość interaktywnej pomocy. Traktowanie każdego zgłoszonego użycia jako strategicznej transformacji wyolbrzymiałoby to, co pokazują badania.

Agregacja medialna dodaje kolejny problem. Wynik Google News może skompresować zniuansowane badanie do alarmującego nagłówka, pomijając ograniczenia próby i niepewność. Czytelnicy powinni śledzić łańcuch źródeł od nagłówka, przez relację, aż do badania źródłowego.

Najsilniej potwierdzony wniosek jest węższy. Niektórzy byli członkowie Boko Haram twierdzą, że ich frakcje włączyły kilka czołowych systemów AI do rutyn operacyjnych i czasami obchodziły zabezpieczenia.

To ustalenie wystarcza, by domagać się lepszych ewaluacji i koordynacji. Nie wystarcza, by twierdzić, że AI niezależnie przekształciła wyniki działań na polu walki.

Trzy sygnały pokażą, czy mechanizmy obronne nadrabiają zaległości

Kolejny etap będzie mierzony zakłócaniem działań między platformami, operacyjnie realistycznym testowaniem oraz niezależnymi dowodami pochodzącymi od dodatkowych grup.

Pierwszym sygnałem jest sformalizowana wymiana informacji o zagrożeniach między rządami, dostawcami modeli i wykwalifikowanymi badaczami. Centrum fuzji to jedna z propozycji, lecz jego nazwa ma mniejsze znaczenie niż jego uprawnienia, zabezpieczenia i udział uczestników.

Wiarygodna struktura umożliwiłaby tworzenie cyklicznych ocen zagrożeń opartych na rzeczywistych zachowaniach przeciwników. Pozwoliłaby wykorzystywać sklasyfikowane i zastrzeżone dowody w testach modeli bez publicznego ujawniania wrażliwych metod.

Jej brak sprawiłby, że każdy dostawca broniłby jedynie częściowego obrazu sytuacji. Jej stworzenie wzmocniłoby argument, że instytucje traktują nadużycia międzyplatformowe jako wspólny problem bezpieczeństwa.

Drugim sygnałem jest zmiana w raportowaniu bezpieczeństwa. Dostawcy często publikują polityki i przykłady udaremnionych nadużyć, jednak najbardziej użyteczne raporty dotyczyłyby uporczywych działań prowadzonych w wielu językach i z użyciem wielu kont.

Oceny powinny badać wybieranie modeli, rozkładanie zadań na etapy oraz długie rozmowy, w których szkodliwy zamiar ujawnia się stopniowo. Wyniki powinny rozróżniać pełne odmowy, częściowe ujawnienie informacji, egzekwowanie zasad wobec kont oraz skuteczne przekazanie sprawy do oceny przez człowieka.

Niezależny dostęp ma tu znaczenie. Testy prowadzone przez firmy mogą szybko ujawniać podatności, lecz zewnętrzni ewaluatorzy zapewniają metodologiczne wyzwanie i wiarygodność publiczną. Obie grupy potrzebują bezpiecznych sposobów obsługi ustaleń, które nie powinny być szeroko publikowane.

Postęp byłby widoczny jako mniejsza liczba użytecznych fragmentów informacji w kolejnych próbach, a nie jedynie silniejsze odmowy wobec oczywiście niebezpiecznych zapytań. Mechanizmy obronne powinny także działać konsekwentnie w językach używanych przez dotknięte społeczności.

Trzecim sygnałem są potwierdzające badania terenowe. Badania obejmujące inne organizacje terrorystyczne, regiony i byłych uczestników pokazałyby, czy Boko Haram stanowi szerszy wzorzec, czy też jest nietypowym wczesnym użytkownikiem.

Badacze powinni dokumentować, kiedy AI weszła do procesów działania, kto ją wprowadził, które zadania pozostały stałym elementem pracy oraz gdzie wyniki zawiodły. Powinni również oddzielać propagandę, logistykę, działalność cybernetyczną i operacje fizyczne.

Dowody podobnych praktyk w niepowiązanych ze sobą grupach wzmocniłyby wniosek, że AI ogólnego przeznaczenia staje się zwykłym elementem infrastruktury bojowników. Brak możliwości odtworzenia tego wzorca zawęziłby ocenę ryzyka.

Działania rządowe będą kolejną wskazówką w ramach tych sygnałów. Kongres Stanów Zjednoczonych rozważał wymogi dotyczące cyklicznych ocen wykorzystania generatywnej AI przez terrorystów. Użyteczne wdrożenie połączyłoby te oceny z ewaluacjami dostawców i mierzalnymi działaniami ograniczającymi ryzyko.

Czytelnicy powinni zachować sceptycyzm wobec ogłoszeń, które liczą polityki zamiast rezultatów. Zakaz opisuje regułę. Nie pokazuje, jak często przeciwnicy otrzymywali użyteczne informacje, jak szybko zakłócano działanie kont ani dokąd użytkownicy przenosili się później.

Ta sama ostrożność dotyczy alarmujących twierdzeń. Raport, że bojownicy uzyskali dostęp do modelu czołowej klasy, nie dowodzi automatycznie udanego ataku umożliwionego przez AI. Łańcuch od dostępu przez pomoc i działanie po mierzalny efekt wymaga dowodów na każdym etapie.

Ostatecznie jest to rywalizacja o tarcie. Grupy terrorystyczne chcą narzędzi, które ułatwiają badania, planowanie, komunikację i rozwiązywanie problemów. Obrońcy chcą przywrócić tarcie wokół niebezpiecznej działalności, nie blokując przy tym legalnych poszukiwań informacji.

Wywiady dotyczące Boko Haram wskazują, że zdeterminowani użytkownicy znajdowali wartość mimo istniejących zabezpieczeń. Reakcja musi teraz wyjść poza pojedyncze odmowy i publiczne zapewnienia.

W nadchodzących miesiącach warto obserwować wspólne oceny zagrożeń, realistyczne ewaluacje międzyplatformowe oraz niezależne dowody terenowe. Sygnały te pokażą, czy instytucje uczą się szybciej niż przeciwnicy.

Dla każdego, kto śledzi tę historię przez Google News lub inny agregator, następny krok jest prosty: przeanalizować źródłowe badania, odnotować, co pozostaje niezweryfikowane, i obserwować, czy dostawcy publikują mierzalne wyniki. Kluczowe pytanie nie brzmi, czy jeden chatbot potrafi odrzucić jeden niebezpieczny prompt. Chodzi o to, czy szerszy rynek AI potrafi rozpoznać skoordynowany wzorzec, zanim fragmentaryczna pomoc stanie się przewagą operacyjną.