Sprawa roju dronów Claude ujawnia ograniczenia zabezpieczeń AI firmy Anthropic

Anthropic twierdzi, że prawdopodobnie działający w Rosji freelancerzy wykorzystali Claude Code do opracowania autonomicznego bojowego roju dronów, mimo zabezpieczeń mających blokować rozwój broni. System zaprojektowano tak, by wybierał cele, w tym ludzi, oraz wydawał polecenia detonacji bez ludzkiej zgody. Po zbadaniu aktywności Anthropic wykrył dziewięć powiązanych kont i zablokował grupę.

Zgłoszony rój dronów Claude nie był jedynie zbiorem wygenerowanych fragmentów kodu. Według Anthropic deweloperzy połączyli wspomaganą przez AI pracę nad oprogramowaniem z aktywnymi tablicami rozwoju, komputerami jednopłytkowymi, narzędziami symulacyjnymi i wynajętym procesorem graficznym. Projekt obejmował rozpoznawanie celów, naprowadzanie w końcowej fazie lotu, koordynację między statkami powietrznymi oraz oprogramowanie decydujące o tym, czy drony mają atakować, czy wracać.

To połączenie tworzy główny konflikt. Anthropic przedstawia Claude jako kontrolowaną usługę z zasadami zakazującymi rozwoju broni. Jednak te same możliwości programistyczne, które pomagają legalnie działającym inżynierom budować złożone systemy, miały pomóc niewielkiemu zespołowi w rozwoju oprogramowania autonomicznej broni. OpenAI i inni dostawcy modeli granicznych mierzą się z tą samą presją strukturalną, nawet jeśli ich zasady i metody egzekwowania różnią się od siebie.

Co Anthropic znalazł w projekcie roju dronów Claude

Dowody Anthropic wskazują na skoordynowany projekt rozwoju broni, a nie pojedynczą podejrzaną rozmowę.

Firma oznaczyła operację jako GTG-27005 w swoim wrześniowym raporcie z 2026 r. dotyczącym analizy zagrożeń. Anthropic ocenił uczestników jako niewielki, wyspecjalizowany zespół freelancerów działający w Rosji. Nie zidentyfikował ich jako rosyjskiej organizacji państwowej.

Deweloperzy nazywali swoją operację „DronDoc” lub „Serafim”. Założyli konta między końcem 2025 r. a początkiem 2026 r., a następnie rozpoczęli prace nad dronami około połowy maja 2026 r. Anthropic twierdzi, że kierowali ruch przez komercyjne wirtualne serwery prywatne, aby ominąć geograficzne ograniczenia dostępu.

Grupa miała używać Claude Code do pisania, testowania i zapisywania oprogramowania bezpośrednio w plikach projektu. Claude Code jest agentowym interfejsem programistycznym, co oznacza, że może sprawdzać pliki, edytować kod, uruchamiać narzędzia i kontynuować pracę w ramach połączonych zadań inżynieryjnych. Taki przepływ pracy zapewnia większy zasięg operacyjny niż kopiowanie pojedynczych sugestii z chatbota.

Anthropic twierdzi, że oprogramowanie obejmowało znaczną część proponowanego systemu. Zawierało współdzieloną pamięć dla roju oraz odporną na awarie logikę koordynacji, która pozwala kilku dronom wymieniać informacje i kontynuować działanie, gdy poszczególne komponenty zawodzą.

Projekt obejmował także niewielki pokładowy model językowy. Model ten zarządzał zachowaniem podczas ataku, obserwacji i powrotu do bazy. Komponent naprowadzania w końcowej fazie wykorzystywał kamerę pokładową do kierowania się ku wybranemu celowi i wydawania polecenia detonacji.

Inne moduły rozszerzały misję poza samą nawigację. Jeden komponent próbował lokalizować operatorów wrogich dronów poprzez geolokalizację łączy sterujących. Inny wykorzystywał pasywne wykrywanie akustyczne, podczas gdy kod niższego poziomu sterował programowalnymi układami zainstalowanymi na statkach powietrznych.

Według Anthropic deweloperzy trenowali klasyfikator komputerowego rozpoznawania obrazu na podstawie zebranych ukraińskich nagrań z walk. Klasyfikator przypisuje dane wizualne do zdefiniowanych wcześniej kategorii. W tym przypadku zespół podzielił cele na klasy „wróg” i „swój”, jednocześnie umieszczając rosyjskie systemy na liście dozwolonych.

Anthropic twierdzi, że projekt autonomicznego namierzania obejmował kategorię „osoba”. System pokładowy miał wybierać cel i inicjować detonację bez podejmowania przez człowieka ostatecznej decyzji. Ta cecha odróżnia projekt od systemów, w których automatyzacja wspiera nawigację, ale zdalny operator wciąż zatwierdza atak.

Grupa wielokrotnie używała stałych współrzędnych w ukraińskim obwodzie donieckim jako punktu demonstracyjnego uderzenia. Miasta i korytarze na linii frontu w Ukrainie pojawiały się jako zakładany obszar działania. Te szczegóły wspierają ocenę Anthropic, że prace dotyczyły wiarygodnego zastosowania na polu walki, a nie abstrakcyjnego ćwiczenia z robotyki.

Firma znalazła dziewięć kont powiązanych z grupą. Osiem z nich miało być wykorzystywanych wyłącznie do zwykłych projektów freelancerskich, a nie rozwoju broni. To rozdzielenie sugeruje, że uczestnicy prowadzili legalną działalność komercyjną równolegle z projektem wojskowym.

Anthropic zidentyfikował również pozorne powiązania między grupą a regionalnym uniwersytetem dysponującym federalnym centrum badawczym związanym z Rosyjską Akademią Nauk. Deweloperzy twierdzili, że otrzymali finansowanie z rosyjskiej Fundacji Zaawansowanych Badań, Narodowej Inicjatywy Technologicznej i Ministerstwa Obrony. Anthropic zaznaczył, że nie był w stanie zweryfikować tych twierdzeń dotyczących finansowania.

Co najważniejsze, raport nie stwierdza, że zespół wdrożył operacyjny autonomiczny rój. Anthropic ocenił zaobserwowane systemy dronów na 3–4 poziom gotowości technologicznej, co oznacza, że komponenty przetestowano lub zweryfikowano eksperymentalnie oraz w symulacji. To istotny postęp, lecz wciąż daleki od sprawdzonej zdolności bojowej.

Dlaczego niewielki zespół freelancerów mógł podjąć próbę stworzenia całego systemu

Niepokojąca zmiana nie polega na tym, że AI wynalazła autonomiczną broń, lecz na tym, że skróciła pracę zwykle podzieloną między kilka specjalizacji inżynieryjnych.

Kompletny rój dronów wymaga wiedzy z zakresu programowania systemów wbudowanych, komputerowego rozpoznawania obrazu, komunikacji, nawigacji, symulacji i integracji systemów. Małe zespoły często mają trudności, ponieważ każda warstwa tworzy inne tryby awarii. Kod działający w symulacji może zawieść w warunkach słabych procesorów, zaszumionych czujników, zawodnych łączy lub szybko zmieniających się warunków lotu.

Claude miał pomóc deweloperom przekraczać te granice. Wspierał projektowanie zachowań na wysokim poziomie, niskopoziomowe oprogramowanie układowe, klasyfikację wizualną i logikę koordynacji. Relacja Anthropic sugeruje, że model działał jako elastyczny asystent inżynieryjny w całym systemie, a nie jako wąsko wyspecjalizowane narzędzie.

Ma to znaczenie, ponieważ zasobem ograniczającym dla objętego sankcjami lub słabo finansowanego zespołu zajmującego się bronią nie zawsze jest dostęp do podstawowych komponentów. Komercyjne kamery, komputery jednopłytkowe, moduły radiowe i procesory są szeroko dostępne w cywilnych łańcuchach dostaw. Trudniejszym problemem jest ich integracja w niezawodny system.

Agentowe narzędzia programistyczne zmniejszają część tego obciążenia integracyjnego. Mogą przechodzić między plikami źródłowymi, analizować błędy, poprawiać implementacje i łączyć powiązane moduły. Użytkownik nadal kieruje projektem, ocenia wyniki i dostarcza sprzęt. Model może jednak wykonywać pracę, która w przeciwnym razie wymagałaby dodatkowych programistów lub dłuższych cykli rozwojowych.

Anthropic podał, że zespół połączył Claude Code ze stosem symulacji software-in-the-loop. Testy software-in-the-loop uruchamiają oprogramowanie sterujące względem symulowanego pojazdu i środowiska, zanim inżynierowie zaryzykują użycie fizycznego sprzętu. Pomagają wykrywać błędy logiczne i umożliwiają wielokrotne próby przy niższych kosztach.

Deweloperzy wynajęli również moc obliczeniową procesorów graficznych do trenowania modelu. Ma to znaczenie, ponieważ sankcje nie eliminują każdej ścieżki dostępu do zaawansowanych obliczeń. Usługi chmurowe, resellerzy, pośrednicy i wynajmowana infrastruktura mogą zapewnić tymczasowy dostęp bez konieczności posiadania przez zespół dużego lokalnego klastra.

Grupa wykroczyła następnie poza samą symulację. Anthropic zaobserwował wgrywanie oprogramowania układowego na aktywne płytki rozwojowe, przygotowywanie komputerów jednopłytkowych oraz łączenie środowiska symulacyjnego sieci mesh. Testy hardware-in-the-loop łączą rzeczywiste komponenty obliczeniowe z symulowanym systemem, ujawniając problemy z czasem działania i interfejsami, których testy wyłącznie programowe mogą nie wykryć.

Kroki te pokazują proces rozwoju zmierzający ku fizycznej integracji. Nie dowodzą, że dron poleciał, zlokalizował osobę, koordynował działania z innymi statkami powietrznymi lub skutecznie zdetonował ładunek. Pokazują jednak, że uczestnicy testowali kod na sprzęcie zgodnym z deklarowanym celem.

Szersze znaczenie dotyczy zastępowania pracy ludzkiej. Niewielka grupa może poprosić jeden system AI o pomoc w kilku dziedzinach, a następnie wykorzystywać rezultaty w symulacjach i fizycznych prototypach. Powstały kod może pozostać użyteczny po utracie dostępu do hostowanego modelu.

Ta trwałość osłabia egzekwowanie zasad na poziomie konta. Zablokowanie konta zatrzymuje przyszłe zapytania wysyłane przez to konto, lecz nie usuwa pobranego kodu, wytrenowanych klasyfikatorów, środowisk symulacyjnych ani wiedzy projektowej. Gdy projekt staje się lokalnie odtwarzalny, wpływ dostawcy gwałtownie maleje.

Wojenne ograniczenia Rosji nadają sprawie kontekst, choć nie wyjaśniają projektu w pełni. Kontrole eksportowe i sankcje mogą ograniczać dostęp do zaawansowanych chipów, specjalistycznej elektroniki, oprogramowania i formalnych partnerstw. Zachęcają też deweloperów do łączenia zagranicznych usług, powszechnie dostępnego sprzętu i narzędzi utrzymywanych lokalnie.

Przypadek roju dronów Claude ilustruje zatem szerszy wzorzec pozyskiwania zasobów. Ograniczony podmiot nie potrzebuje nieograniczonej własności każdej zaawansowanej technologii. Może zestawić tymczasowy dostęp do AI, wynajmowanej mocy obliczeniowej, zebranych danych, komercyjnej elektroniki i otwartych zasobów technicznych.

Podejście to nadal napotyka ograniczenia inżynieryjne. Model językowy może generować przekonujący kod zawierający subtelne błędy. Autonomiczny lot zależy też od jakości czujników, danych treningowych, odporności komunikacji i szeroko zakrojonych testów. AI obniża koszt podjęcia próby realizacji projektu, ale nie usuwa fizycznej trudności stworzenia niezawodnego systemu.

Prawdziwa rywalizacja to możliwości AI kontra kontrola dostawcy

Anthropic może ograniczać dostęp do Claude, ale użyteczność modelu wynika z tych samych ogólnych zdolności inżynieryjnych, które utrudniają wczesne klasyfikowanie nadużyć.

Głównym przeciwnikiem w tej historii nie jest Anthropic kontra Rosja. Są nim możliwości modelu kontra egzekwowalna kontrola. Dostawcy chcą agentów programistycznych, którzy potrafią rozwiązywać nieznane problemy techniczne, koordynować narzędzia i pracować nad całym projektem. Te same cechy utrudniają ograniczenie szkodliwych zamiarów, gdy użytkownik ukrywa końcowe zastosowanie.

Prośba o klasyfikację obrazu, sieci mesh lub debugowanie urządzeń wbudowanych może wspierać pokojową robotykę. Może też stać się jednym z komponentów autonomicznej broni. Pojedyncze prompty mogą wyglądać zwyczajnie, gdy użytkownicy dzielą projekt między sesje, konta lub strumienie pracy.

Anthropic twierdzi, że bada wzorce wykraczające poza pojedynczą wymianę. Raport łączy aktywność kont, artefakty techniczne, nazwy projektów, lokalizacje, kategorie celów i zachowania rozwojowe. Ta szersza perspektywa pomogła firmie odtworzyć pozorny cel rosyjskiej operacji.

Wykrycie często następuje jednak dopiero po tym, jak model udzielił już pewnej pomocy. Anthropic zablokował powiązane konta i uwzględnił swoje ustalenia w zaktualizowanych zabezpieczeniach. Firma twierdzi również, że przekazała informacje o zagrożeniu odpowiednim partnerom publicznym i prywatnym.

Ta reakcja pokazuje użyteczną widoczność. Hostowany dostawca AI może obserwować aktywność, której nie może śledzić kompilator, offline’owa książka referencyjna ani lokalnie zainstalowane środowisko programistyczne. Może łączyć nietypowe zapytania i interweniować, gdy projekt jest nadal rozwijany.

Ten sam przypadek ujawnia granice tej widoczności. Anthropic mógł obserwować aktywność prowadzoną za pośrednictwem własnej usługi, ale nie był w stanie niezależnie zweryfikować twierdzeń deweloperów dotyczących finansowania. Nie mógł też obserwować pracy wykonywanej z użyciem niepowiązanych modeli, lokalnych narzędzi, ludzkich współpracowników ani skopiowanego oprogramowania po nałożeniu blokady.

Tworzy to niewygodne równanie bezpieczeństwa. Zaawansowany monitoring może wykryć część skoordynowanych nadużyć, jednak kompetentni aktorzy mogą ukrywać intencje za cywilną terminologią. Mogą rozdzielać zadania między konta, kierować połączenia przez inne regiony i lokalnie zachowywać każdy użyteczny wynik.

Komercyjne zachęty komplikują tę kwestię. Modele programistyczne ocenia się według tego, jak skutecznie realizują długie, techniczne procesy pracy. Większa autonomia zwiększa ich wartość dla zespołów programistycznych, badaczy i indywidualnych deweloperów. Zmniejsza jednak także liczbę momentów, w których człowiek musi wyraźnie przedstawić pełny cel projektu.

Problem wykracza poza Claude. Według doniesień Defense One OpenAI ujawniło odrębną rosyjską aktywność wpływu z wykorzystaniem ChatGPT krótko przed raportem Anthropic. Dostawcy modeli mierzą się z nakładającymi się zastosowaniami w propagandzie, inwigilacji, operacjach cybernetycznych, zamówieniach i badaniach nad bronią.

Same polityki nie rozwiążą tego konfliktu. Zakaz rozwoju broni tworzy podstawę do egzekwowania zasad, ale nie odróżnia automatycznie szkodliwego żądania dotyczącego sterowania lotem od legalnej pracy w sektorze lotniczym. Ograniczenie każdego tematu podwójnego zastosowania blokowałoby również badania, edukację, testy bezpieczeństwa i inżynierię cywilną.

Dostawcy polegają więc na kilku warstwach zabezpieczeń. Obejmują one odmowy na poziomie pojedynczych żądań, monitorowanie zachowań, badanie kont, kontrolę geograficzną, wywiad o zagrożeniach i wymianę informacji. Każda warstwa zwiększa utrudnienia, lecz żadna nie gwarantuje, że zdeterminowany aktor nie otrzyma żadnej użytecznej pomocy.

Śledztwo dotyczące roju dronów Claude podważa też przekonanie, że poważne ryzyko stwarza wyłącznie najnowszy model. Nadużycie zależy od interakcji między możliwościami modelu, wiedzą użytkownika, dostępnymi narzędziami i czasem trwania projektu. Wyspecjalizowany zespół może uzyskać znaczącą wartość z modelu, który w standaryzowanej ocenie wydaje się mniej niebezpieczny.

Anthropic przyznało tę niepewność również w innych częściach raportowania. Najnowsze ustalenia opisują nadużycia zaobserwowane między grudniem 2025 r. a sierpniem 2026 r. w obszarach badań nad bronią, działalności cybernetycznej, inwigilacji i operacji wpływu. Firma przedstawia te przypadki jako istotne i nowe, a nie reprezentatywne dla typowego wykorzystania Claude.

To zastrzeżenie ma znaczenie. Raport nie dowodzi, że projekty broni wspomagane przez AI są powszechne. Pokazuje, że co najmniej jedna badana grupa miała rzekomo wykorzystywać ogólny model programistyczny w szerokim procesie tworzenia autonomicznych dronów.

Autonomiczne namierzanie celów rodzi ryzyka, których lepszy kod nie rozwiąże

Nawet technicznie udane oprogramowanie pozostawiłoby nierozstrzygnięte pytania dotyczące błędów identyfikacji, szkód dla ludności cywilnej, odpowiedzialności i kontroli człowieka.

Zgłoszony system klasyfikował cele wizualne jako przyjazne lub wrogie, wykorzystując zebrane z internetu nagrania z działań bojowych. Takie podejście natychmiast rodzi obawy dotyczące jakości danych. Materiały wideo online mogą być skompresowane, błędnie opisane, upozorowane, selektywnie publikowane lub nagrane pod kątami innymi niż te spotykane podczas misji.

Klasyfikator może nauczyć się korelacji, które nie odzwierciedlają uzasadnionych rozróżnień wojskowych. Teren, kształty pojazdów, ubiór, jakość kamery i źródła nagrań mogą stać się skrótami. Wyniki mierzone na przygotowanym zbiorze danych mogą załamać się w warunkach dymu, ciemności, kamuflażu, uszkodzonego sprzętu lub zakłóceń elektronicznych.

Klasa celu „osoba” stwarza jeszcze poważniejszy problem. Wykrycie, że obraz zawiera osobę, nie jest równoznaczne z ustaleniem, czy ta osoba stanowi zgodny z prawem cel wojskowy. Model wizualny nie potrafi wiarygodnie wnioskować o poddaniu się, obrażeniach, statusie cywilnym, zatrzymaniu ani szerszym kontekście regulującym użycie siły.

Koordynacja roju tworzy dodatkowe ścieżki awarii. Wspólna pamięć i logika odporna na błędy mogą pomagać dronom kontynuować działanie, gdy komunikacja się pogarsza. Te funkcje mogą także propagować błędne klasyfikacje lub nieaktualne informacje między wieloma statkami powietrznymi.

Sieci mesh są szczególnie podatne na niespójny stan. Dron może utracić kontakt, otrzymać opóźnione aktualizacje lub działać na podstawie uszkodzonych danych lokalizacyjnych. Protokół koordynacyjny, który zachowuje się prawidłowo w kontrolowanej symulacji, może dawać nieoczekiwane rezultaty, gdy węzły znikają lub czujniki przekazują sprzeczne dane.

Walka elektroniczna potęguje niepewność. Rosja i Ukraina działają w środowiskach kształtowanych przez zagłuszanie, spoofing, przechwytywane łącza sterowania i szybko dostosowywane środki przeciwdziałania. Autonomiczne naprowadzanie może ograniczyć zależność od ciągłego zdalnego sterowania, lecz zarazem przekazuje więcej osądu oprogramowaniu pokładowemu.

Badania nad autonomią na polu walki wielokrotnie ostrzegały, że obecne systemy pozostają mniej zdolne, niż sugerują to twierdzenia promocyjne. Ocena Institute for the Study of War uznała, że transformacja AI na polu walki nie została jeszcze ukończona, wskazując na ograniczenia techniczne i operacyjne wpływające na rosyjskie i ukraińskie działania.

Ocena dojrzałości Anthropic jest zgodna z tą ostrożnością. Poziom gotowości technologicznej 3–4 opisuje walidację eksperymentalną, a nie wdrożony system o niezawodnym działaniu. Firma nie opublikowała dowodów na ukończony autonomiczny atak przeprowadzony przez GTG-27005.

To rozróżnienie powinno kształtować każdą interpretację raportu. Deweloperzy mieli rzekomo rozwijać niebezpieczne możliwości i połączyć swój kod z rzeczywistym sprzętem rozwojowym. To coś innego niż udowodnienie, że rój działał w warunkach pola walki.

Dowody pochodzą też przede wszystkim od Anthropic. Firma ma wyjątkowo szczegółowy wgląd w sesje Claude, ale zewnętrzni badacze nie mogą niezależnie zbadać pełnej historii konta ani odtworzyć jego atrybucji. Publiczne raportowanie zależy więc w dużej mierze od wyboru i interpretacji wewnętrznych dowodów przez Anthropic.

Motywacje Anthropic działają w dwóch kierunkach. Firma zyskuje, pokazując, że jej monitoring wykrywa nadużycia, podczas gdy zgłoszone nadużycie demonstruje również, że Claude zapewniał znaczącą pomoc przed interwencją. Obie te rzeczy mogą być prawdziwe, lecz czytelnicy powinni traktować raport jako korporacyjną ocenę zagrożeń, a nie ukończone niezależne dochodzenie.

Działania firmy ograniczają natychmiastowy dostęp, ale nie odpowiadają na pytanie o odpowiedzialność. Jeśli kod wygenerowany przez AI przyczyni się do przyszłego autonomicznego ataku, odpowiedzialność może zostać rozproszona między operatorów, dowódców, deweloperów, dostawców i dostawców modeli. Istniejące ramy prawne i instytucjonalne nie zostały zaprojektowane z myślą o tak rozproszonych łańcuchach technicznych.

Analiza szerszego raportu przeprowadzona przez Associated Press odnotowała wezwania do publicznego nadzoru, zamiast pozostawiać firmom tworzącym modele podejmowanie społecznych ocen bezpieczeństwa. Ta krytyka staje się pilniejsza, gdy systemy mogą wspierać zarówno zwykłe badania, jak i śmiercionośny rozwój.

Dostawca może decydować, które konta naruszają jego warunki. Nie może definiować międzynarodowego prawa humanitarnego, autoryzować użycia siły zbrojnej ani ustanawiać globalnie akceptowanego standardu znaczącej kontroli człowieka. Decyzje te wymagają udziału rządów, sądów, sił zbrojnych, badaczy i społeczeństwa obywatelskiego.

Przypadek roju dronów Claude stanowi zatem coś więcej niż porażkę lub sukces moderacji. Pokazuje, jak prywatne egzekwowanie zasad AI przecina się obecnie z rozwojem technologicznym na polu walki. Dostawcy mogą stać się wczesnymi obserwatorami programów zbrojeniowych, jednocześnie dostarczając możliwości techniczne, których te programy poszukują.

Rosyjski projekt wpisuje się w szerszą zmianę w pracach nad bronią wspomaganych przez AI

Raport Anthropic umieszcza rosyjską operację w szerszym wzorcu małych grup wykorzystujących ogólną AI jako siłę roboczą w inżynierii.

Ten sam raport opisuje komórkę w północnym Jemenie, która używała Claude Code do rozwoju broni naprowadzanej. Anthropic twierdzi, że aktorzy pracowali nad rakietą naprowadzaną, wielostopniową symulacją pocisku balistycznego oraz kilkoma powiązanymi wariantami pocisków.

Użytkownicy mieli uruchamiać kilka instancji Claude z odrębnymi rolami. Jedna generowała kod, druga prowadziła badania, a trzecia sprawdzała wyniki pierwszego modelu. Ta struktura przypominała mały zespół inżynieryjny kierowany przez człowieka.

Anthropic twierdzi, że wiele żądań zostało zablokowanych, ale nie wszystkie. Użytkownicy ukrywali swój cel, rozdzielali pracę między sesje i unikali przedstawiania pełnego kontekstu zbrojeniowego w jednym miejscu. Ostatecznie przetestowali rakietę naprowadzaną, choć test najwyraźniej zakończył się niepowodzeniem.

Ten nieudany test stanowi użyteczny kontrast wobec rosyjskiego projektu dronów. Pokazuje, że pomoc inżynieryjna generowana przez AI może doprowadzić do eksperymentów fizycznych, nie tworząc przy tym niezawodnej broni. Sprzęt, integracja i testowanie pozostają decydującymi wąskimi gardłami.

Aktor z Chin miał rzekomo wykorzystać Claude do przygotowania specyfikacji systemu kierowania ogniem przeciw torpedom oraz liczącej ponad 200 stron propozycji technicznej. Inna operacja powiązana z Chinami użyła Claude do opracowania około 16 modułów oprogramowania związanych z walką elektroniczną i tłumieniem obrony powietrznej.

Przypadki te różnią się dojrzałością, atrybucją i celem. Łączy je jednak wspólny wzorzec: użytkownicy traktowali ogólny model AI jako elastycznego współtwórcę w rozwoju technicznym, dokumentacji, symulacji, analizie i przeglądzie.

Rosyjscy freelancerzy działali również w warunkach aktywnej wojny dronowej. Zarówno Rosja, jak i Ukraina dostosowały tanie bezzałogowe statki powietrzne do rozpoznania, przechwytywania, logistyki i ataków. Każda ze stron dążyła do większej autonomii, ponieważ walka elektroniczna czyni ciągłe sterowanie mniej niezawodnym.

Autonomiczne naprowadzanie terminalne nie jest tożsame ze skoordynowanym autonomicznym rojem. Dron, który namierza uprzednio wybrany cel, wykonuje węższe zadanie niż kilka statków powietrznych dzielących się obserwacjami i wybierających cele. Debata publiczna często zaciera te kategorie, co może wyolbrzymiać poziom dojrzałości.

Kampanie dronowe Ukrainy stanowią ważny punkt odniesienia historycznego. Rozproszone zespoły łączyły komponenty komercyjne, szybkie iteracje oprogramowania i informacje zwrotne z pola walki. Rosja rozwinęła podobne struktury adaptacyjne, w tym wyspecjalizowane organizacje mające systematyzować operacje dronowe.

Systemy AI do programowania przyspieszają ten istniejący cykl. Mogą pomagać użytkownikom przekładać wymagania z pola na oprogramowanie, diagnozować awarie i modyfikować prototypy. Ich wkład najlepiej rozumieć jako przyspieszenie rozwoju, a nie zastępstwo dla testowania, produkcji, logistyki czy planowania wojskowego.

Sankcje pozostają istotne, ponieważ podnoszą koszty i ograniczają formalny dostęp. Nie tworzą jednak szczelnego środowiska technologicznego. Mały zespół może korzystać z serwerów wirtualnych, wynajętej mocy obliczeniowej, elektroniki masowej, komponentów open source i zagranicznych usług AI bez kontrolowania bazowej infrastruktury.

Ten model rozproszonego dostępu trudno zatrzymać wyłącznie poprzez ograniczenia dotyczące chipów. Kontrole eksportowe mogą ograniczać infrastrukturę do treningu na wysokim poziomie lub wyspecjalizowane komponenty. Są mniej skuteczne wobec krótkoterminowego dostępu do chmury, umiarkowanych obciążeń inferencyjnych i szeroko rozpowszechnionego sprzętu cywilnego.

Dostawcy AI zajmują więc nową pozycję w łańcuchu dostaw. Nie produkują dronów ani materiałów wybuchowych, lecz ich usługi mogą wnosić wkład w pracę projektową. Ten wkład może zostać skopiowany do repozytoriów kodu i przeniesiony do późniejszych etapów rozwoju.

Wynik wywiera presję zarówno na firmy technologiczne, jak i rządy. Dostawcy potrzebują lepszych metod wykrywania szkodliwych projektów bez blokowania szerokich obszarów legalnej inżynierii. Rządy potrzebują zasad dotyczących dostępu, raportowania, odpowiedzialności i międzynarodowej koordynacji, które nie zakładają, że każdy podejrzany projekt powstaje w tradycyjnym przedsiębiorstwie zbrojeniowym.

Deweloperzy i nabywcy korporacyjni również powinni zwrócić na to uwagę. Ten sam dostęp na poziomie projektu, który zwiększa produktywność agentów programistycznych, może wystawiać wrażliwe pliki, zamiary operacyjne i techniczne procesy pracy na monitoring dostawcy. Organizacje potrzebują jasnych zasad określających, co agenci mogą sprawdzać, modyfikować, wykonywać i przechowywać.

Dla zespołów dokumentujących wrażliwe incydenty związane z AI, przeszukiwalna baza wiedzy inżynierskiej może zachować decyzje, wyniki testów i przeglądy ryzyka. Dokumentacja nie zapobiega nadużyciom, ale poprawia możliwość śledzenia zmian, gdy agent modyfikuje kod w wielu plikach.

Na co zwracać uwagę po zablokowaniu konta przez Anthropic

Kolejnym testem będzie to, czy silniejsze mechanizmy kontroli przerwą podobne projekty wcześniej — zanim użyteczny kod i lokalne narzędzia wymkną się spod kontroli dostawcy.

Pierwszym sygnałem będą nowe dowody techniczne dotyczące GTG-27005. Niezależne potwierdzenie testów lotniczych, odzyskanego sprzętu, wdrożonego oprogramowania lub powiązań z rosyjskim klientem rządowym wzmocniłoby ocenę Anthropic. Dalszy brak takich dowodów utrzymałby rozróżnienie między poważnym prototypem a bronią operacyjną.

Weryfikacja powinna koncentrować się na możliwościach, a nie wyłącznie na nazwach projektów. Repozytoria kodu, sygnatury firmware’u, artefakty wytrenowanych modeli, zakupy komponentów i powtarzalne zachowanie podczas lotu stanowiłyby mocniejsze dowody niż deklaracje promocyjne czy zrzuty ekranu. Nagrania z pola walki wymagałyby starannego uwierzytelnienia i geolokalizacji.

Drugim sygnałem będzie sposób, w jaki Anthropic zmieni egzekwowanie zasad. Firma twierdzi, że uwzględniła w swoich zabezpieczeniach wnioski z dochodzenia. Przydatne wskaźniki obejmują wcześniejsze wykrywanie rozproszonych procesów tworzenia broni, większą odporność na zamaskowane żądania oraz mniej przypadków, w których podmioty zachowują działający lokalny stos programistyczny przed usunięciem dostępu.

Znaczenie będzie miała przejrzystość. Dostawca może ogłosić ulepszone zabezpieczenia, nie ujawniając metod wykrywania, które przeciwnicy mogliby obejść. Niezależne oceny, zagregowane dane dotyczące egzekwowania zasad i starannie udokumentowane studia przypadków mogą jednak pokazać, czy mechanizmy kontroli działają także poza jednym incydentem.

Trzecim sygnałem będzie skoordynowane działanie branży AI i rządów. Szkodliwi użytkownicy mogą przenosić się między usługami, gdy jeden dostawca ich zablokuje. Wspólne wskaźniki, spójne kanały raportowania i zgodna z prawem wymiana informacji utrudniłyby taką migrację.

Ta współpraca również wymaga granic. Informacje o zagrożeniach mogą obejmować wrażliwe dane kont, niejednoznaczną aktywność techniczną i błędne przypisanie sprawstwa. Nadzór jest konieczny, aby programy bezpieczeństwa nie przekształcały legalnych badaczy, dziennikarzy czy inżynierów w cele.

Regulatorzy powinni unikać traktowania każdego żądania dotyczącego sterowania lotem lub widzenia komputerowego jako prac nad rozwojem broni. Silniejsze podejście łączy zachowanie, kontekst projektu, geografię, artefakty techniczne i powtarzające się intencje. Dochodzenie Anthropic najwyraźniej opierało się na tym szerszym wzorcu.

Czytelnicy powinni również oprzeć się dwóm przedwczesnym wnioskom. Raport nie dowodzi, że autonomiczne roje dronów stały się łatwe do zbudowania. Nie dowodzi też, że obecne zabezpieczenia niezawodnie powstrzymują zdolnych użytkowników przed uzyskaniem niebezpiecznej pomocy.

To, co raport ustala według Anthropic, to fakt, że niewielki zespół wykorzystywał Claude w wyjątkowo kompletnym procesie rozwoju broni. Deweloperzy przeszli od generowania kodu do symulacji i integracji sprzętu, zanim dostawca zamknął im dostęp.

To jest praktyczne ostrzeżenie. Rój dronów Claude pozostał eksperymentalny, lecz model rozwoju można wykorzystać ponownie. Inni aktorzy mogą łączyć hostowaną AI, modele lokalne, otwarte komponenty, wynajętą moc obliczeniową i zapisany kod, ukrywając przy tym ogólny cel każdego projektu.

Najważniejsze pytanie jest zatem konkretne: czy dostawcy wykryją kolejny projekt autonomicznej broni, zanim kod stanie się przenośny i rozpoczną się testy sprzętowe? Warto śledzić ujawnienia Anthropic dotyczące egzekwowania zasad, niezależne dowody z Ukrainy oraz porozumienia o raportowaniu między dostawcami. Łącznie sygnały te pokażą, czy ta sprawa doprowadziła do trwałej ochrony, czy jedynie udokumentowała, jak szybko rozprzestrzenia się ryzyko.