NOC Black Hat ujawnia ludzkie ograniczenia zabezpieczeń AI

NOC Black Hat trafił do Google News po przetworzeniu 285 milionów alertów, lecz jego najważniejszy wniosek podważał obietnicę autonomicznego bezpieczeństwa AI. Niestandardowi agenci przyspieszyli dochodzenia, ale to doświadczeni analitycy nadal decydowali, które zagrożenia mają znaczenie i kiedy automatyczne wnioski wymagają powściągliwości.

Centrum operacji sieciowych, czyli NOC, chroniło podczas Black Hat USA 2026 w Las Vegas ponad 23 000 uczestników. Jego środowisko łączyło ruch związany z badaniami ofensywnymi, ćwiczenia szkoleniowe na żywo, zainfekowane urządzenia i rzeczywiste ataki. Ta mieszanka sprawiała, że zwykła liczba alertów była niemal bezużyteczna bez kontekstu.

Nie chodziło o konflikt AI z analitykami. Stawką było zderzenie obietnicy automatyzacji z osądem wymaganym w wyjątkowo niejednoznacznej sieci. Doświadczenia NOC pokazały, gdzie agenci pomagają, gdzie produkty komercyjne nie wystarczają i dlaczego ludzka decyzyjność pozostaje kluczowa.

Z czym faktycznie mierzył się NOC Black Hat

Sieć Black Hat zmieniła wykrywanie zagrożeń w problem klasyfikacji, w którym niemal każdy sygnał wyglądał podejrzanie.

Black Hat USA odbywał się od 1 do 6 sierpnia w Mandalay Bay Convention Center. Główna konferencja zajmowała ostatnie dwa dni, po czterech dniach specjalistycznych szkoleń. Program obejmował ponad 200 sesji dotyczących złośliwego oprogramowania, inżynierii detekcji, prywatności, kryptografii, agentów AI i autonomicznych exploitów.

Zespół NOC nie ograniczył się do monitorowania istniejącej infrastruktury obiektu. Wymienił każdy router, przełącznik, firewall i bezprzewodowy punkt dostępowy na sprzęt wybrany na potrzeby wydarzenia. Ta kontrola pozwalała zespołowi reagować natychmiast, gdy ruch wymagał zbadania lub ograniczenia.

Według raportu terenowego NOC operację wspierało ponad 100 osób. Analitycy, badacze, inżynierowie i łowcy zagrożeń pracowali wraz z technologiami firm Palo Alto Networks, Corelight, Cisco, Arista, Lumen i Jamf.

Skala wydarzenia zmieniła się dramatycznie. Wcześniejsza wersja NOC obejmowała trzy osoby chroniące konferencję z 1 500 uczestnikami. W 2026 roku frekwencja przekroczyła 23 000 osób, a liczba klas szkoleniowych wzrosła powyżej 100.

Większy problem nie polegał wyłącznie na wolumenie. Black Hat dopuszcza działania, które w większości sieci korporacyjnych wywołałyby natychmiastową eskalację. Uczestnicy uruchamiają narzędzia bezpieczeństwa, analizują malware, odtwarzają ataki i testują techniki poznane podczas szkoleń.

Ta autoryzowana aktywność tworzy to, co zespół nazywa „pozytywami Black Hat”. Są to trafne wykrycia zachowań, których konferencja oczekuje i które dopuszcza. Nie są fałszywymi alarmami, lecz ich blokowanie nadal byłoby niewłaściwą reakcją.

Rozróżnienie ma znaczenie, ponieważ konwencjonalna automatyzacja bezpieczeństwa często zakłada, że podejrzana aktywność zasługuje na powstrzymanie. Na Black Hat takie założenie może przerwać zajęcia albo zakłócić legalne badania. Alert potrzebuje kontekstu, zanim stanie się incydentem.

Jedna osoba zaatakowała wewnętrzne serwery w ciągu 15 minut od udostępnienia sieci. Ta wczesna aktywność pokazała, dlaczego zespół potrzebował natychmiastowej kontroli nad infrastrukturą. Uwidoczniła również, że prawdziwe zagrożenia pojawiają się obok autoryzowanych eksperymentów.

Do końca konferencji zespół otrzymał 285 milionów alertów informacyjnych. Zredukował te sygnały do 17,1 miliona zidentyfikowanych zagrożeń, a następnie zablokował zaledwie 383. Tak ogromna redukcja pokazuje, jak niewiele sam wolumen alertów mówi o ryzyku operacyjnym.

Różnica między 17,1 miliona zagrożeń a 383 zablokowanymi zdarzeniami jest kluczową liczbą tej historii. Zautomatyzowane narzędzia wykrywały aktywność, ale analiza prowadzona przez ludzi określała, która z nich wymaga interwencji. NOC nie próbował maksymalizować liczby blokad.

Neil „Grifter” Wyler, starszy lider operacji sieciowych Black Hat, opisał tę pracę jako szukanie igły w stosie igieł. Każdy kandydat już wyglądał niebezpiecznie. Prawdziwym zadaniem było wskazanie mniejszego zbioru działań, które naruszały granice wydarzenia.

Takie środowisko czyni NOC wymagającym testem dla porażek bezpieczeństwa AI. Model nie może polegać na prostych etykietach, takich jak złośliwy, łagodny czy anomalny. Musi interpretować intencję, lokalizację, czas, tożsamość i zasady konferencji.

Wynik przyciągnął uwagę Google News, ponieważ oferuje coś, czego demonstracje dostawców rzadko dostarczają. Agenci działali na ruchu na żywo, pod presją czasu, z konsekwencjami błędnych decyzji. Ich wartość zależała od dowodów i nadzoru, a nie od dopracowanych odpowiedzi.

Dlaczego komercyjne narzędzia bezpieczeństwa AI nie wystarczyły

NOC stworzył niestandardowych agentów, ponieważ dostępne produkty nie spełniały jego wymagań dotyczących szybkości, obciążenia i kontekstu.

Zespół zaczął wykorzystywać uczenie maszynowe tam, gdzie zaczyna wiele organizacji bezpieczeństwa: przy generowaniu alertów. Takie podejście może identyfikować nietypowe zachowania lub wzorce w większej ilości danych, niż analitycy są w stanie ręcznie sprawdzić. Nie wyjaśnia jednak automatycznie, czy dane zachowanie wymaga działania.

Pracownicy NOC ocenili kilka dostępnych narzędzi, lecz stwierdzili, że wiele z nich nie radzi sobie z obciążeniem generowanym przez ich ruch. Inne produkty nie reagowały wystarczająco szybko wraz ze zmianami w sieci. Zespół opracował więc oprogramowanie wokół własnych procesów pracy.

Ta decyzja ujawnia powszechną słabość w zakupach rozwiązań bezpieczeństwa AI. Kupujący często porównują funkcje modeli, jakość interfejsu lub liczbę obsługiwanych integracji. Sukces operacyjny zależy jednak bardziej od jakości telemetrii, czasu reakcji oraz tego, jak dobrze system odwzorowuje lokalne zasady.

Zasady Black Hat są szczególnie trudne do zakodowania. Skanowanie podatności może być normalne w jednej sali szkoleniowej, a nieakceptowalne wobec infrastruktury konferencji. Ten sam wzorzec pakietów może mieć różne znaczenie zależnie od źródła i celu.

NOC korzysta z chatbota AI o nazwie Trevor wraz z platformą operacji bezpieczeństwa Palo Alto Networks. Analitycy mogą zapytać o adres, a asystent pobiera odpowiednie informacje z logów. Zmniejsza to zakres mechanicznej pracy potrzebnej do rozpoczęcia dochodzenia.

Pobieranie informacji jest wartościowe, ponieważ skraca dystans między alertem a wspierającymi go dowodami. Jest też węższe niż autonomiczna reakcja na incydent. Trevor wspiera analityka, nie otrzymując szerokich uprawnień do izolowania urządzeń ani oskarżania użytkowników.

Podczas wydarzenia w 2026 roku zespół wdrożył większy system o nazwie NOCgentic. Ta wieloagentowa platforma kieruje pytania do wyspecjalizowanych komponentów, odpytuje telemetrię i zwraca odpowiedzi wraz z sugerowanymi kolejnymi krokami. Publiczne repozytorium NOCgentic dokumentuje obecnie projekt.

Platforma wieloagentowa wykorzystuje kilka skupionych na zadaniach komponentów AI, zamiast prosić jeden model o obsługę każdego etapu. Jeden komponent może pobierać dowody sieciowe, podczas gdy inny interpretuje pytanie albo przygotowuje odpowiedź. Routing może poprawić skupienie, ale tworzy też więcej połączeń wymagających kontroli bezpieczeństwa.

NOC przedstawił NOCgentic jako asystenta dla mniej doświadczonych łowców zagrożeń. Zamierzonym efektem było umieszczenie głębszego wsparcia analitycznego obok operatora pierwszej linii. To ujęcie ma znaczenie, ponieważ traktuje wiedzę ekspercką jako coś, co system pomaga rozpowszechniać.

Zespół opracował również SOCgentic, wersję z mniejszą liczbą ograniczeń. Jej interfejs, Postcog, współpracuje z sensorami nazwanymi Precogs. Nazwy nawiązują do filmu Minority Report, w którym przewidywania pojawiają się przed popełnieniem przestępstw.

Humor ułatwiał znoszenie interfejsu podczas stresującej pracy, lecz stojący za nim projekt pozostawał poważny. Analitycy odczuwają zmęczenie podczas badania powtarzalnych alertów. Przydatny asystent może pobierać kontekst, proponować pytania i utrzymywać porządek w dowodach, nie przejmując ostatecznej decyzji.

Doświadczenia NOC obejmowały również wspomagane przez AI tworzenie oprogramowania. W 2024 roku zespół stworzył FragglePacket, oparte na Rust narzędzie diagnostyki sieciowej, ponieważ istniejącym produktom brakowało potrzebnych funkcji. Podczas Black Hat USA 2026 AI pomogła programistom dodać 71 funkcji.

Obejmowały one sondowanie ścieżek ataku, fuzzing pakietów, odtwarzanie przechwyconych pakietów, etapową analizę HTTPS oraz oparty na regułach silnik diagnostyczny. Fuzzing pakietów wysyła zmienione dane wejściowe, aby wykrywać błędy. Odtwarzanie przechwyconych pakietów reprodukuje zarejestrowany ruch na potrzeby kontrolowanych testów.

Liczby funkcji nie należy mylić z niezależną walidacją. AI może przyspieszać generowanie kodu, jednocześnie wprowadzając defekty, niebezpieczne założenia lub zbędną złożoność. Wygenerowane zmiany nadal wymagają testowania i przeglądu.

W tym miejscu często zaczynają się porażki bezpieczeństwa AI. Zespoły mierzą, jak szybko model tworzy kod lub analizy, a następnie pomijają pytanie, czy wynik pozostaje poprawny w nieznanych warunkach. Szybkość zwiększa zarówno użyteczny rezultat, jak i obowiązki związane z przeglądem.

Niestandardowe podejście Black Hat odniosło sukces, ponieważ było powiązane z jego telemetrią i procedurami operacyjnymi. Większość przedsiębiorstw nie może bezpośrednio skopiować tego środowiska. Mają mniejsze zespoły, ograniczone budżety, rozproszone logi i mniejszą kontrolę nad infrastrukturą.

NOC podobno działa dzięki zasobom przekazanym przez wybranych partnerów technologicznych. Jego liderzy opisywali te firmy jako partnerów operacyjnych, a nie sponsorów, którzy kupili dostęp. To rozróżnienie daje zespołowi dostęp do narzędzi, których wiele korporacyjnych grup bezpieczeństwa nie może połączyć.

Organizacje czytające o projekcie w Google News powinny więc oprzeć się powierzchownemu wnioskowi. Lekcja nie polega na tym, że każde centrum operacji bezpieczeństwa potrzebuje wielu własnoręcznie tworzonych agentów. Chodzi o to, że automatyzacja musi pasować do już istniejących dowodów, uprawnień i procesu reakcji.

Google News zwraca uwagę na lukę między automatyzacją a osądem

Najsilniejszym zabezpieczeniem AI w NOC była zdolność do odrzucenia automatycznej rekomendacji.

Zespół wielokrotnie podkreślał, że ludzie pozostają w procesie decyzyjnym. To sformułowanie może stać się niejasnym językiem marketingowym, ale Black Hat nadał mu konkretne znaczenie. Człowiek zachowywał uprawnienia do interpretowania kontekstu i powiedzenia „nie”.

Te uprawnienia były niezbędne, ponieważ sieć zawierała autoryzowaną aktywność ofensywną. Agent mógł prawidłowo wykryć wykorzystanie exploita, jednocześnie błędnie rozumiejąc, dlaczego do niego doszło. Działanie na podstawie wykrycia bez kontekstu mogłoby zakłócić badania zamiast powstrzymać atak.

Problem przypomina wieloletnie wyzwanie w operacjach bezpieczeństwa. Systemy detekcji rozpoznają wzorce techniczne, natomiast osoby reagujące na incydenty określają wpływ na biznes. AI zmienia szybkość i sposób prezentacji tej pracy, lecz nie usuwa tego rozróżnienia.

Black Hat wykorzystywał AI do gromadzenia dowodów, przeszukiwania telemetrii, budowania profili i sugerowania kolejnych kroków. Nie traktował płynnej odpowiedzi jako ostatecznego dowodu. Analitycy mogli sprawdzić bazowe dane sieciowe przed interwencją.

Podejście stawiające dowody na pierwszym miejscu przeciwdziała słabości dużych modeli językowych. Modele generują prawdopodobny język, a nie gwarantowane fakty. Po połączeniu z narzędziami mogą też wybrać niewłaściwe dane, źle zrozumieć zapytanie lub sformułować nieuzasadniony wniosek.

Wcześniejsze działania NOC w Azji dostarczyły użytecznego przykładu. Agent oznaczył nieszyfrowaną komunikację zawierającą coś, co wyglądało na identyfikatory kont użytkowników. Analityk kontynuował dochodzenie, zamiast przyjąć pierwsze wyjaśnienie.

Ruch pochodził z aplikacji związanej z nagrywaniem spotkań. Późniejsze żądanie ujawniło klucz interfejsu programowania aplikacji Tencent, według dochodzenia sieciowego. Zespół nie użył poświadczenia, więc jego uprawnienia pozostały nieznane.

Ta powściągliwość była częścią analizy. Dowody potwierdzały twierdzenie, że dane uwierzytelniające zostały ujawnione, ale nie to, do czego atakujący mógł uzyskać dostęp. Odpowiedzialny proces zachował tę niepewność, zamiast wypełniać ją spekulacjami.

To samo zdarzenie ujawniło kolejny przypadek dotyczący urządzenia, które wywołało detekcje dwóch trojanów zdalnego dostępu. Trojan zdalnego dostępu, czyli RAT, pozwala atakującemu przejąć kontrolę nad skompromitowanym systemem. Wiele niezależnych detekcji zmniejszało prawdopodobieństwo przypadkowej błędnej klasyfikacji.

Komponent AI o nazwie The Profiler przeanalizował dowody sieciowe i wywnioskował, że urządzenie prawdopodobnie należało do dziennikarza technologicznego. Pracownicy następnie wykorzystali informacje rejestracyjne i wewnętrzne kontakty prasowe, aby zawęzić poszukiwania.

Dziennikarz otrzymał ostrzeżenie oraz zalecenie wyłączenia urządzenia przed skontaktowaniem się z zespołem bezpieczeństwa firmy. Agent przyspieszył identyfikację, ale ludzie zweryfikowali wniosek i przeprowadzili wrażliwą interakcję.

Ta sekwencja pokazuje praktyczny model human-in-the-loop. AI skróciła czas wyszukiwania, analitycy ocenili jej dowody, a upoważnieni pracownicy zdecydowali o reakcji. Każdy etap miał jasno określoną odpowiedzialność.

Ujawnia też kompromis dotyczący prywatności. Wnioskowanie o tożsamości osoby na podstawie ruchu sieciowego może chronić kogoś, kto korzysta z zainfekowanego urządzenia. Ta sama możliwość może stać się inwazyjna, jeśli organizacja używa jej bez jasnych zasad, proporcjonalności i rozliczalności.

Nietypowe środowisko Black Hat nie eliminuje tego problemu. Uczestnicy konferencji łączą się z intensywnie monitorowaną siecią działającą w celach obronnych. Pracownicy przedsiębiorstw, klienci i goście mogą mieć inne oczekiwania oraz inną ochronę prawną.

Liderzy bezpieczeństwa powinni określić, co agent może wnioskować, zanim zostanie wdrożony. Potrzebują też limitów retencji, kontroli dostępu oraz zasad eskalacji dla wniosków związanych z tożsamością. Nawet trafny wniosek może tworzyć ryzyko zarządcze.

Kolejną obawą jest bias automatyzacji, czyli skłonność do ufania rekomendacji maszyny, ponieważ wydaje się pewna siebie lub szczegółowa. Podsumowania dochodzeń generowane przez AI często wyglądają na kompletne, nawet gdy pomijają sprzeczne dowody. Nowi analitycy mogą być szczególnie podatni na taki sposób prezentacji.

NOC próbował wykorzystywać agentów jako rozszerzenie doświadczenia starszych specjalistów. Może to poprawiać szkolenie, gdy odpowiedzi pokazują swoje dowody i ograniczenia rozumowania. Staje się to niebezpieczne, gdy młodsi pracownicy uczą się zatwierdzać rekomendacje bez niezależnej weryfikacji.

Osobne ostrzeżenie dotyczące reagowania na incydenty wzmacnia ten argument. Analityk Gartnera Craig Porter stwierdził, że wewnętrzni agenci AI mogą wywoływać niezamierzone zdarzenia, działając w granicach swoich upoważnionych uprawnień.

Porter argumentował, że tradycyjne reagowanie na incydenty nie obejmuje w pełni systemów, które powodują szkodliwe skutki bez udziału złośliwego atakującego. Zespoły bezpieczeństwa muszą badać zachowanie, projekt i podejmowanie decyzji. Rozszerza to odpowiedzialność poza zwykłe powstrzymywanie złośliwego oprogramowania.

Black Hat NOC napotkał tę samą granicę pojęciową od strony obronnej. Upoważniony agent może pobierać dane, rekomendować działania lub generować oprogramowanie, a mimo to stwarzać ryzyko. Uprawnienie nie jest tym samym co poprawność.

Dystrybucja przez Google News może dotrzeć z tą historią do czytelników spoza obszaru operacji bezpieczeństwa. Dla nich najważniejszy punkt jest prosty. Bezpieczeństwo AI nie zawodzi wyłącznie wtedy, gdy atakujący przełamują zabezpieczenia modelu.

Zawodzi także wtedy, gdy obrońcy dają agentowi nadmierne uprawnienia, słabe dowody lub niejasny cel. Model może realizować swoje instrukcje i mimo to doprowadzić do niewłaściwego rezultatu. Ludzki przegląd musi być zaprojektowany jako część procesu, a nie dodawany dopiero po incydencie.

NOC Ujawnił Również Ofensywne Ograniczenia AI

Ataki wspierane przez AI były w 2026 roku szybkie i hałaśliwe, ale obrońcy nie mogą zakładać, że ta przewaga utrzyma się.

Zespół Black Hat uznał obecne ataki napędzane przez AI za stosunkowo łatwe do wykrycia. Wyler powiedział, że poruszały się szybko, ale brakowało im skrytości. Ich zachowanie uruchamiało wiele sensorów, w tym kanarki, honeypoty i inne systemy oszustwa.

Kanarek to monitorowany zasób zaprojektowany tak, by ujawniać nieuprawniony dostęp. Honeypot przedstawia atrakcyjną przynętę, dzięki której obrońcy mogą obserwować podejrzane zachowanie. Oba rozwiązania działają dobrze, gdy zautomatyzowani atakujący bez rozróżnienia dotykają wielu systemów.

To ustalenie komplikuje najbardziej alarmistyczne prognozy dotyczące autonomicznych cyberataków. Szybsze wykorzystanie podatności nie przekłada się automatycznie na lepsze unikanie wykrycia. Agent, który testuje wszystko, może ujawnić się przez skalę, powtarzalność i nietypowe wzorce dostępu.

To ograniczenie nie powinno jednak na długo uspokajać zespołów bezpieczeństwa. Modele i frameworki agentowe się rozwijają, a atakujący mogą udoskonalać prompty i dostęp do narzędzi. Mogą też wykorzystywać informacje zwrotne z nieudanych prób, by ograniczać hałas.

Oficjalna agenda Black Hat 2026 odzwierciedlała tę zmianę. Jedno z wystąpień programowych koncentrowało się na obronie systemów, gdy AI obniża koszt możliwości ofensywnych. Inne, zgodnie z harmonogramem wystąpień, analizowało badanie podatności w erze agentowej.

Obawy wykraczają poza złośliwe oprogramowanie generowane przez AI. Agenci mogą automatyzować rozpoznanie, testować podatności, łączyć informacje publiczne i uruchamiać uznane narzędzia bezpieczeństwa. Ich przewaga często wynika z koordynacji i wytrwałości, a nie z nowego exploitu.

To sprawia, że dowody sieciowe stają się coraz ważniejsze. Kontrole punktów końcowych mogą rejestrować, co wydarzyło się na jednym urządzeniu, podczas gdy telemetria sieciowa pokazuje, które systemy się komunikowały. Żadna z tych perspektyw nie wystarcza samodzielnie.

NOC mógł rozróżniać aktywność, ponieważ kontrolował infrastrukturę i łączył wiele źródeł. Wiele przedsiębiorstw nie ma takiej widoczności. Usługi chmurowe, urządzenia zdalne, aplikacje firm trzecich i szyfrowany ruch rozdzielają dowody między różnych właścicieli.

Organizacja z niepełną telemetrią zapewni swoim agentom obronnym niepełny kontekst. Powstałe podsumowania mogą sprawiać wrażenie pewnych, mimo że opierają się na brakujących danych. To problem obserwowalności, zanim stanie się problemem modelu.

Przedsiębiorstwa mierzą się też z surowszymi ograniczeniami operacyjnymi. Black Hat może tolerować agresywne monitorowanie i szybką interwencję, ponieważ uczestnicy wchodzą do wyspecjalizowanego środowiska bezpieczeństwa. Szpital, bank lub producent musi chronić dostępność, prywatność i regulowane procesy.

383 zablokowane zagrożenia przez NOC ilustrują ostrożną powściągliwość. Zablokowanie większej liczby niekoniecznie poprawiłoby bezpieczeństwo. Mogłoby zakłócić legalną pracę i zmniejszyć zaufanie do zespołu reagowania.

Ten kompromis bezpośrednio dotyczy autonomicznego powstrzymywania zagrożeń. Agent bezpieczeństwa, który wyłącza konta lub izoluje systemy, może szybko zatrzymać atak. To samo działanie może jednak zakłócić przychody, opiekę nad pacjentami, produkcję lub aktywne dochodzenie.

Ludzka akceptacja wprowadza opóźnienie, ale jej usunięcie przekazuje władzę operacyjną oprogramowaniu, które może błędnie odczytać kontekst. Właściwy projekt zależy od odwracalności i wpływu. Działania niskiego ryzyka mogą otrzymać więcej automatyzacji niż decyzje o dużym wpływie.

Przykładowo agent może bezpiecznie wzbogacić alert danymi o właścicielu zasobu lub ostatnią aktywnością sieciową. Może przygotować rekomendację powstrzymania zagrożenia. Izolowanie produkcyjnej bazy danych wymaga wyższego progu i silniejszego upoważnienia.

NOC skorzystał również z wyjątkowo doświadczonego personelu. Jego operatorzy rozumieli, jak wygląda norma w nienormalnym środowisku. Modele nie zastąpią tej wiedzy instytucjonalnej wyłącznie przez czytanie historycznych zgłoszeń.

Zespoły potrzebują uporządkowanego kontekstu operacyjnego, który agenci mogą pobierać. Obejmuje on własność zasobów, zatwierdzone okna testowe, zależności biznesowe i kontakty eskalacyjne. Przeszukiwalna baza wiedzy może pomóc zachować ten materiał na potrzeby upoważnionych dochodzeń.

Sama dokumentacja nie wystarcza. Zespoły bezpieczeństwa muszą testować, czy agent pobiera właściwą regułę pod presją. Powinny też rejestrować, które dowody wpłynęły na każdą rekomendację.

Sceptyczne spojrzenie pozostaje konieczne, ponieważ większość zgłoszonych wyników pochodziła od uczestników obsługujących NOC. Ich twierdzenia opisują poważne wdrożenie na żywo, ale nie stanowią niezależnego benchmarku. Inne organizacje mogą uzyskać inne wyniki.

71 dodatków do FragglePacket brzmi imponująco, jednak liczba funkcji nie mierzy niezawodności. Wydanie NOCgentic zapewnia użyteczną przejrzystość, ale publiczny kod nie dowodzi, że każda odpowiedź modelu była trafna.

Czytelnicy powinni rozdzielić trzy twierdzenia. AI wyraźnie pomogła zespołowi w wyszukiwaniu i organizowaniu informacji. Według doniesień przyspieszyła tworzenie oprogramowania i polowanie na zagrożenia. Nie wyeliminowała potrzeby eksperckiej weryfikacji.

To rozróżnienie utrzymuje historię w realistycznych ramach. Black Hat zademonstrował produktywne wykorzystanie agentów, nie pokazując jednak, że autonomiczne operacje bezpieczeństwa są gotowe. Jego najbardziej wiarygodny sukces wynikał z kontrolowanej współpracy oprogramowania i ludzi.

Na Co Zespoły Bezpieczeństwa Powinny Zwracać Uwagę Dalej

Kolejnym testem będzie to, czy oparty na dowodach model Black Hat przetrwa bardziej skryte ataki, zwykłe budżety i szersze uprawnienia agentów.

Pierwszym sygnałem będzie skrytość ataków na Black Hat USA 2027. W 2026 roku aktywność napędzana przez AI miała według doniesień uruchamiać wiele mechanizmów obronnych. Istotna zmiana będzie widoczna, gdy agenci ograniczą hałas skanowania i dostosują się po napotkaniu systemów oszustwa.

Jeśli tak się stanie, NOC będzie potrzebował silniejszej analizy behawioralnej i lepszej korelacji między systemami. Potwierdziłoby to obawę, że dzisiejsza przewaga w wykrywaniu jest tymczasowa. Utrzymujące się hałaśliwe zachowanie osłabiłoby twierdzenia o bliskiej autonomicznej ofensywie.

Drugim sygnałem będzie niezależne wdrażanie NOCgentic. Publiczne wydanie projektu pozwala innym zespołom sprawdzić jego architekturę, przetestować procesy pracy i zgłaszać błędy. Dowody z typowych centrów operacji bezpieczeństwa będą ważniejsze niż kolejne demonstracje na Black Hat.

Wdrożenie należy mierzyć udokumentowanymi dochodzeniami, czasem przeglądu, wskaźnikami korekt i incydentami operacyjnymi. Liczba pobrań lub zainteresowanie repozytorium ujawniają zainteresowanie, a nie wartość dla bezpieczeństwa. Użyteczne oceny muszą porównywać analityków wspieranych przez AI z ugruntowanymi procesami pracy.

Trzecim sygnałem jest zakres uprawnień, jakie organizacje przyznają agentom obronnym. Pobieranie danych i tworzenie podsumowań wiążą się z innym ryzykiem niż zawieszanie kont, izolowanie punktów końcowych, zmiany reguł zapory sieciowej czy rotacja danych uwierzytelniających. Produkty coraz częściej zacierają te kategorie pod etykietą automatyzacji.

Zespoły bezpieczeństwa powinny wymagać jasnych granic dla każdego działania. Powinny wiedzieć, czy agent rekomenduje, przygotowuje czy wykonuje zmianę. Dzienniki muszą zachowywać żądanie, dowody, odpowiedź modelu, ludzką akceptację i ostateczny rezultat.

Te mechanizmy kontrolne pomagają również wtedy, gdy agent działa zgodnie z uprawnieniami, ale powoduje szkody. Osoby prowadzące dochodzenie muszą odtworzyć, dlaczego system zadziałał, jakich informacji użył i kto zatwierdził jego uprawnienia. Zwykłe procedury dotyczące złośliwego oprogramowania nie odpowiadają samodzielnie na te pytania.

Wyniki Black Hat sugerują, że najbezpieczniejszą krótkoterminową rolą agentów jest przyspieszanie analityczne. Mogą zbierać dowody, łączyć logi, wskazywać brakujące pytania i przygotowywać plan reakcji. Ludzie powinni zachować uprawnienia do podejmowania decyzji o istotnych konsekwencjach.

Taki układ nadal tworzy znaczącą wartość. Analitycy spędzają mniej czasu na przechodzeniu między konsolami i formatowaniu zapytań. Starsi specjaliści mogą zakodować wzorce dochodzeń, które pomagają młodszym członkom zespołu pracować bardziej konsekwentnie.

Zespoły powinny jednak unikać traktowania wygenerowanych wyjaśnień jako dowodów. Dowodem pozostaje bazowy pakiet, wpis logu, rekord tożsamości lub konfiguracja. Podsumowanie agenta jest interfejsem do tego materiału.

Czytelnicy Google News powinni również zwracać uwagę na to, jak dostawcy opisują nadzór człowieka. „Human in the loop” niewiele znaczy, jeśli organizacja nie definiuje, na czym ten udział polega. Osoba, która rutynowo zatwierdza nieprzejrzyste działania, zapewnia ograniczoną ochronę.

Skuteczny nadzór wymaga czasu, dostępu do sprzecznych informacji oraz uprawnienia do odrzucenia decyzji modelu. Osoby dokonujące przeglądu potrzebują też szkolenia obejmującego uprzedzenia wobec automatyzacji i ograniczenia modeli. W przeciwnym razie ludzka akceptacja staje się ceremonialna.

Black Hat NOC zaprezentował silniejszy model, ponieważ analitycy rozumieli zarówno sieć, jak i zasady wydarzenia. Potrafili rozpoznać, kiedy technicznie złośliwy ruch należał do autoryzowanego ćwiczenia. Taką władzę kontekstową trudno zautomatyzować.

Ostateczna lekcja nie polega na tym, że AI zawiodła na Black Hat. Technologia wykonała wartościową pracę w jednym z najbardziej wymagających środowisk bezpieczeństwa. Jej ograniczenia stały się widoczne właśnie dlatego, że zespół wykorzystał ją wobec rzeczywistej niejednoznaczności.

Doświadczenie NOC zastępuje prostą opowieść o automatyzacji bardziej użyteczną perspektywą operacyjną. AI zwiększyła szybkość, poszerzyła dostęp do wiedzy eksperckiej i pomogła uporządkować przytłaczającą ilość dowodów. Wymagała też niestandardowej inżynierii, rozbudowanej telemetrii i ludzkiej powściągliwości.

Liderzy bezpieczeństwa powinni teraz przeanalizować jeden proces roboczy, zamiast kupować abstrakcyjną obietnicę. Wybierz powtarzalne dochodzenie, określ jego materiał dowodowy, ogranicz uprawnienia agentów i mierz korekty obok szybkości. Rozszerzaj uprawnienia tylko wtedy, gdy potwierdza to dokumentacja.

Kolejny nagłówek Google News prawdopodobnie skupi się na szybszym agencie lub większym ataku. Ważniejsze pytanie brzmi, czy organizacje potrafią odtworzyć i zakwestionować działania tych agentów. Odpowiedź Black Hat brzmiała: tak, ponieważ ludzie pozostali odpowiedzialni.

Ten standard powinien kierować każdym wdrożeniem. Czy analitycy mogą sprawdzić dowody, odrzucić rekomendację i cofnąć działanie bez powodowania większej szkody? Jeśli którakolwiek odpowiedź jest niejasna, agent nie jest gotowy na szersze uprawnienia.