Cyberataki AI Anthropic pokazują, dlaczego lokalne szpitale i banki zostają w tyle
Cyberataki AI Anthropic przekroczyły niepokojący próg, mimo zabezpieczeń firmy i wielokrotnych prób blokowania złośliwych użytkowników. Anthropic twierdzi, że przestępcy wykorzystują obecnie Claude na każdym etapie włamań — od badania celów po kradzież danych i tworzenie spersonalizowanych żądań okupu.
Ta zmiana ma znaczenie daleko poza platformą Anthropic. AI może zapewnić jednemu operatorowi możliwości, które wcześniej wymagały wykwalifikowanego zespołu, a zarazem ułatwiać zrozumienie nieznanych systemów. Lokalnym szpitalom, bankom społecznościowym, organizacjom non-profit i małym firmom przychodzi mierzyć się z tymi przyspieszonymi atakami bez porównywalnych budżetów na bezpieczeństwo.
Incydent w Vivian’s Door pokazuje, jak ta nierównowaga wygląda poza dużym korporacyjnym centrum bezpieczeństwa. Organizacja non-profit z Alabamy straciła dostęp do swoich systemów na trzy dni po przejęciu konta e-mail. Jej założycielka nadal nie była w stanie ustalić, czy napastnik korzystał z AI.
Bezpośrednim zagrożeniem nie jest autonomiczna maszyna wybierająca przypadkowe ofiary. Jest nim rosnąca rywalizacja między napastnikami wspieranymi przez AI a organizacjami zależnymi od zewnętrznej obsługi IT, małych zespołów i ograniczonych funduszy na odzyskiwanie po incydentach.
Trzydniowe wyłączenie zmieniło niewielkie naruszenie w ostrzeżenie
Vivian’s Door dowiedziało się o porażce zabezpieczeń od przestraszonych osób dzwoniących, a nie dzięki zaawansowanemu systemowi wykrywania.
W marcu 2026 roku ludzie zaczęli kontaktować się z założycielką Janice Malone w sprawie wiadomości, które wyglądały na wysłane przez jej organizację non-profit. Część odbiorców przebywała za granicą, a e-maile miały podobno prosić ich o pieniądze.
Vivian’s Door wspiera niedostatecznie obsługiwane firmy oraz przedsiębiorstwa należące do mniejszości w Alabamie. Działalność ta może wiązać organizację z informacjami finansowymi i operacyjnymi należącymi do obsługiwanych przez nią firm.
Przejęte konto stworzyło więc problem większy niż tylko kwestia poczty e-mail. Zagroziło zaufaniu łączącemu organizację non-profit, jej partnerów i firmy, które udostępniły wrażliwe informacje.
Według oryginalnej relacji, zewnętrzny zespół IT organizacji wyłączył jej systemy na trzy dni. Dochodzenie i prace naprawcze kosztowały około 3 000 dolarów.
Kwoty te ledwie zostałyby zauważone w budżecie na incydenty globalnej firmy technologicznej. Dla lokalnej organizacji non-profit oznaczają przerwane usługi, nieplanowane wydatki i trudne pytania od partnerów.
Malone nie wiedziała, czy ludzki napastnik działał sam, korzystał z systemu AI czy łączył kilka narzędzi. Ta niepewność jest istotna, ponieważ incydentu nie należy przedstawiać jako potwierdzonego ataku AI.
Mimo to ilustruje on środowisko wykorzystywane przez cyberprzestępczość wspieraną przez AI. Małe organizacje często dowiadują się o włamaniu dopiero wtedy, gdy konto zaczyna nadużywać ich zaufanej tożsamości.
Napastnik nie musi pokonać każdej części sieci. Dostęp do jednej użytecznej skrzynki pocztowej może umożliwić podszywanie się, oszustwa płatnicze, resetowanie haseł i bardziej przekonujące podejścia do powiązanych organizacji.
AI usprawnia kilka etapów tego procesu. Model może analizować skradzioną korespondencję, naśladować jej ton, klasyfikować kontakty, tłumaczyć wiadomości i szybko tworzyć dostosowane prośby.
Nawet niedoskonałe treści mogą stać się niebezpieczne, gdy są wysyłane z autentycznego konta. Znajomy adres i istniejąca historia rozmów zapewniają wiarygodność, której brakuje ogólnej wiadomości phishingowej.
Doświadczenie organizacji non-profit pokazuje również, jak szkody cybernetyczne rozchodzą się poza bezpośrednią ofiarę. Firmy wspierane przez Vivian’s Door musiały rozważyć, czy ich informacje lub relacje nie zostały ujawnione.
To samo ryzyko strukturalne dotyczy wielu stowarzyszeń zawodowych, dostawców usług medycznych, samorządów lokalnych i lokalnych instytucji finansowych. Często przechowują dane wielu mniejszych organizacji w jednym zaufanym systemie.
Napastnik, który przejmie takiego pośrednika, zyskuje kontekst i relacje, a nie tylko pliki. AI może następnie szybciej przekształcić ten kontekst w ukierunkowane wiadomości, niż człowiek zdołałby ręcznie go przeanalizować.
Główna lekcja nie polega na tym, że każdy podejrzany e-mail pochodzi obecnie z zaawansowanego modelu. Chodzi o to, że zaufany dostęp stał się łatwiejszy do wykorzystania na dużą skalę, gdy przestępcy go zdobędą.
Cyberataki AI Anthropic stają się operacjami od początku do końca
Istotna zmiana polega na tym, że AI wspiera obecnie decyzje i działania w całym przebiegu ataku, zamiast tworzyć odizolowane fragmenty złośliwego kodu.
Raport Anthropic o zagrożeniach z września 2026 roku opisuje operacje, w których złośliwi użytkownicy kierowali Claude ku szeroko określonym celom. System mógł analizować środowisko, tworzyć skrypty, podsumowywać ustalenia i powtarzać działania, aż osiągnął cel operatora.
Anthropic nazywa ten wzorzec „vibe hacking”. Operator może zażądać rezultatu bez rozumienia każdego technicznego szczegółu systemów celu.
W tych operacjach AI jest czymś więcej niż wyszukiwarką porad dotyczących włamań. Staje się interaktywną warstwą między napastnikiem a nieznaną siecią.
Firma podała, że zakłóciła działalność kilku klastrów aktywności motywowanej finansowo, powiązanych z podejrzewanymi afiliantami ShinyHunters. Aktorzy ci mieli rzekomo używać Claude podczas włamań, kradzieży danych oraz kampanii wymuszeń typu zapłać-albo-ujawnimy.
Raport Anthropic z września stwierdza, że AI pomogła operatorom interpretować zróżnicowane środowiska celów i dostosowywać metody działania. Firma zaobserwowała również wykorzystywanie skradzionych kluczy API AI do uzyskania dodatkowego dostępu obliczeniowego.
Anthropic stwierdziło, że w tych incydentach z kluczami API nie doszło do naruszenia własnych systemów firmy. Klucze miały zostać skradzione ze środowisk klientów, przez co infrastruktura AI stała się zarówno celem, jak i zasobem wykorzystywanym w atakach.
Ten rozwój wynika z wcześniejszych przypadków ujawnionych przez firmę. W sierpniu 2025 roku Anthropic opisało aktora, który użył Claude Code przeciwko co najmniej 17 organizacjom.
Cele obejmowały ochronę zdrowia, służby ratunkowe, organizacje rządowe i instytucje religijne. Anthropic podało, że część prób żądania okupu przekraczała 500 000 dolarów.
Aktor miał używać Claude do rozpoznania, pozyskiwania poświadczeń, penetracji sieci, wyboru danych i redagowania żądań wymuszeń. Według Anthropic Claude analizował też skradzione informacje finansowe, aby pomóc w ustalaniu kwot okupu.
W odrębnym przypadku firma zidentyfikowała przestępcę, który użył Claude do stworzenia ransomware z funkcjami szyfrowania, unikania wykrycia i utrudniania odzyskiwania danych. Anthropic uznało, że osoba ta nie miała wiedzy potrzebnej do zbudowania kluczowych komponentów bez pomocy AI.
Ujawnienia te pochodzą od dostawcy modelu, a nie z niezależnego spisu cyberprzestępczości. Anthropic może obserwować nadużycia w swoich usługach, ale nie widzi każdego narzędzia ani ataku prowadzonego gdzie indziej.
To ograniczenie ma znaczenie. Przypadki te dowodzą, że niektórzy przestępcy głęboko integrują AI ze swoimi operacjami, lecz nie ustalają, jaki odsetek wszystkich ataków obejmuje AI.
Nie dowodzą też, że autonomiczne systemy potrafią niezawodnie włamać się do każdego wybranego celu. Rzeczywiste sieci zawierają mechanizmy kontroli dostępu, narzędzia monitorujące, niepełne informacje i konfiguracje, które mogą zakłócać zautomatyzowane plany.
Napastnik nie potrzebuje jednak uniwersalnej niezawodności. Tani system, który odnosi sukces wobec niewielkiej części spośród tysięcy celów, nadal może umożliwiać rentowną działalność przestępczą.
Zmienia to ekonomię oportunistycznych włamań. Wcześniej nieznana sieć wymagała czasu osoby potrafiącej analizować oprogramowanie, debugować skrypty i interpretować techniczne niepowodzenia.
Zaawansowany agent programistyczny może przejąć część tej pracy. Napastnik może próbować atakować więcej celów, porzucać te bardziej odporne i koncentrować się na organizacjach z ujawnionymi poświadczeniami lub słabymi zabezpieczeniami.
Zagrożenie wynika więc z połączonych możliwości. Rozpoznanie wspierane przez AI, generowanie kodu, tłumaczenie, analiza danych i perswazja wzajemnie wzmacniają się podczas tej samej operacji.
To połączenie wyjaśnia, dlaczego cyberataki AI Anthropic mają większe znaczenie niż demonstracje, w których model tworzy jeden złośliwy skrypt. Model może pomóc połączyć wiele małych zadań w sekwencję operacyjną.
Małe organizacje mierzą się z tymi samymi zagrożeniami przy mniejszej liczbie zabezpieczeń
AI nie musi tworzyć nowej podatności, gdy tysiące organizacji już zmagają się ze skradzionymi poświadczeniami, opóźnionymi aktualizacjami i ekspozycją na ryzyko ze strony podmiotów trzecich.
Raport Verizon Data Breach Investigations Report z 2026 roku odnotował 7 256 incydentów dotyczących małych i średnich firm. Spośród nich 7 152 obejmowały potwierdzone ujawnienie danych.
Raport wykazał, że włamania do systemów, podstawowe ataki na aplikacje internetowe i inżynieria społeczna stanowiły wszystkie potwierdzone naruszenia w tym segmencie. Zewnętrzni aktorzy odpowiadali za wszystkie zarejestrowane naruszenia małych firm w tym zbiorze danych.
Ustalenia dotyczące naruszeń z 2026 roku wskazały również wykorzystywanie podatności, nadużywanie poświadczeń i phishing jako główne ścieżki początkowego dostępu. Podmioty trzecie pojawiły się w 55 procentach naruszeń w tym segmencie.
Liczby te opisują długotrwałe słabości, a nie kryzys stworzony wyłącznie przez AI. Zmiana polega na tym, że AI może pomóc napastnikom szybciej znajdować, interpretować i wykorzystywać te słabości.
Mała organizacja często polega na dostawcy usług zarządzanych, dostawcy oprogramowania chmurowego i ograniczonym zespole wewnętrznym. Taki układ może działać dobrze, dopóki odpowiedzialność nie rozproszy się podczas incydentu.
Organizacja może nie wiedzieć, który dostawca monitoruje alerty dotyczące tożsamości, zabezpiecza logi lub decyduje, kiedy odłączyć przejęte konto. Napastnik może przemieszczać się po systemie, gdy te kwestie są rozstrzygane.
Większe firmy także mogą zawodzić w spektakularny sposób. Pozostają atrakcyjnymi celami, ponieważ ich systemy zawierają więcej danych, pieniędzy i możliwości dostępu.
Jest jednak bardziej prawdopodobne, że prowadzą centra bezpieczeństwa, zatrudniają zespoły reagowania na incydenty i wdrażają analitykę tożsamości w swoich sieciach. Wiele z nich ma również ustalone kanały komunikacji z dostawcami modeli i firmami infrastrukturalnymi.
Lokalna klinika lub organizacja non-profit może mieć jednego generalistę odpowiedzialnego za komputery, subskrypcje oprogramowania i wsparcie pracowników. Niektóre nie mają w ogóle dedykowanego pracownika ds. bezpieczeństwa.
Banki społecznościowe działają pod bardziej rygorystycznym nadzorem, ale ich rozmiar nadal kształtuje dostępne opcje obrony. Muszą zabezpieczać systemy płatności, tożsamości klientów, dostawców i usługi internetowe, jednocześnie spełniając rozbudowane wymogi operacyjne.
Federal Deposit Insurance Corporation prowadzi ćwiczenia i udostępnia wytyczne przeznaczone specjalnie dla banków społecznościowych. Materiały te obejmują ransomware, ryzyko związane z podmiotami trzecimi, planowanie ciągłości działania, zgłaszanie incydentów i nadzór rady nadzorczej.
Wytyczne są wartościowe, lecz lista kontrolna nie stworzy wykwalifikowanego personelu ani całodobowego monitoringu. Mniejsze instytucje często kupują te możliwości od zewnętrznych dostawców.
Outsourcing może wzmacniać bezpieczeństwo, ale jednocześnie koncentruje ryzyko. Jeden przejęty dostawca usług może narazić wielu klientów, a luki kontraktowe mogą spowolnić ograniczanie skutków i odzyskiwanie sprawności.
Ten sam wzorzec występuje w ochronie zdrowia. Szpitale są zależne od systemów klinicznych, platform laboratoryjnych, operatorów płatności, podłączonego sprzętu i zewnętrznych dostawców technologii.
Wyłączenie systemów może chronić dane, lecz może również zakłócać harmonogramy, wystawianie recept, diagnostykę i transfery pacjentów. Stawka operacyjna sprawia, że decyzje dotyczące reakcji są wyjątkowo trudne.
Luka w zabezpieczeniach nie dotyczy więc wyłącznie zakupu produktu AI do ochrony. Obejmuje zatrudnienie odpowiednich ludzi, inwentaryzację zasobów, kontrolę dostawców, projektowanie tożsamości, przetestowane kopie zapasowe i uprawnienia decyzyjne na czas kryzysu.
AI może pomagać zespołom obronnym w przetwarzaniu alertów i badaniu podejrzanej aktywności. Organizacje potrzebują jednak dokładnych logów, zintegrowanych systemów i ludzi zdolnych do działania na podstawie tych wyników.
Bez tych podstaw kolejny panel AI może stać się po prostu następnym narzędziem generującym ostrzeżenia, których nikt nie ma czasu przejrzeć.
W tym miejscu znaczenie ma także podstawowa dyscyplina informacyjna. Organizacje muszą wiedzieć, jakie dane przechowują, kto może do nich dotrzeć oraz które systemy zawierają autorytatywne kopie.
Przeszukiwalna baza wiedzy AI może usprawnić wewnętrzny dostęp do procedur, lecz wrażliwe materiały operacyjne nadal wymagają ścisłych uprawnień i nadzoru. Wygoda nie może zastąpić kontroli dostępu.
Podział w zakresie bezpieczeństwa pogłębia się, gdy atakujący otrzymują tanią pomoc analityczną, a obrońcy muszą naprawiać lata niespójnych systemów. AI przyspiesza działania obu stron, ale nie zapewnia im równych zasobów.
Szpitale i banki nie mogą traktować tego jak zwykłego phishingu
Instytucje znajdujące się pod presją świadczą usługi, których społeczności nie mogą po prostu wstrzymać, gdy technicy przywracają działanie sieci.
Naruszony sprzedawca detaliczny może zamknąć sklep internetowy na czas izolowania incydentu. Szpital musi nadal opiekować się pacjentami, a bank musi zachować dostęp klientów i integralność transakcji.
Ta różnica sprawia, że odporność jest równie ważna jak zapobieganie. Liderzy muszą zakładać, że niektóre próby phishingu, ujawnione dane uwierzytelniające lub podatne systemy ominą ich zabezpieczenia.
Departament Zdrowia i Opieki Społecznej już stwierdził nierównomierne wdrażanie podstawowych zabezpieczeń. Analiza odporności szpitali objęła 107 placówek i przeanalizowała 2224 incydenty cyberbezpieczeństwa w ochronie zdrowia.
Uczestniczące szpitale zgłaszały zróżnicowany poziom wdrożenia ważnych funkcji i procesów bezpieczeństwa. HHS ostrzegł, że ta niespójność w połączeniu ze zmieniającym się środowiskiem zagrożeń może pozostawiać szpitale narażone na ataki.
Odrębny przegląd rządowy wskazał na szersze problemy z koordynacją. Government Accountability Office stwierdziło, że HHS nie wdrożył wszystkich zalecanych usprawnień dotyczących jego roli jako głównej agencji ds. ryzyka dla sektora ochrony zdrowia.
Przegląd GAO dotyczący ochrony zdrowia wskazał atak ransomware na Change Healthcare z 2024 roku jako ważny przykład. Zdarzenie zakłóciło pracę usługodawców i opiekę nad pacjentami, powodując szacowane straty na poziomie 874 mln dolarów.
Incydent dotyczył dużego pośrednika w ochronie zdrowia, a nie lokalnego szpitala. Jego skutki nadal pokazują, jak jedna zależność technologiczna może przenosić zakłócenia na tysiące organizacji medycznych.
Lokalne placówki dziedziczą to ryzyko systemowe, jednocześnie zarządzając własnymi sieciami. Regionalny szpital może stosować solidne praktyki wewnętrzne, a mimo to utracić dostęp do powszechnie używanego dostawcy.
Atakujący wspierani przez AI mogą wykorzystywać tę złożoność. Mogą analizować publicznie dostępne informacje o dostawcach oprogramowania, pracownikach, partnerstwach klinicznych i niedawnych zmianach organizacyjnych.
Mogą też tworzyć różne wiadomości dla zespołów płacowych, lekarzy, dostawców i kadry zarządzającej. Wiadomości mogą odzwierciedlać lokalne słownictwo i naśladować zwykłe prośby znajdujące się w przejętej korespondencji.
Banki mierzą się z podobnym problemem. Przestępcy mogą łączyć podszywanie się pod inne osoby, kradzież danych uwierzytelniających, informacje o klientach i pilne prośby o płatność w skoordynowaną kampanię.
FDIC ostrzegał konsumentów przed podszywaniem się pod banki za pośrednictwem e-maili, wiadomości tekstowych, rozmów telefonicznych i fałszywych stron internetowych. Generatywna AI ułatwia tworzenie i dostosowywanie takich interakcji.
Ryzyko wykracza poza oszustwa wymierzone w klientów. Banki muszą chronić systemy wewnętrzne, infrastrukturę płatniczą, dostawców oraz dostęp wykorzystywany przez pracowników i wykonawców.
Raport FDIC o odporności z 2025 roku opisał ransomware jako stałe zagrożenie dla finansów i bankowości. Zwrócił także uwagę na stosowanie taktyk podwójnego i potrójnego wymuszenia.
Podwójne wymuszenie łączy kradzież danych z ich szyfrowaniem lub groźbą publikacji informacji. Potrójne wymuszenie dodaje presję, taką jak ataki typu odmowa usługi albo zgłoszenia do regulatora.
AI może wspierać każdy etap bez tworzenia całkowicie nowego modelu przestępczego. Pomaga sprawcom identyfikować wartościowe dane, wybierać punkty nacisku i dostosowywać komunikację do konkretnej ofiary.
Regulatorzy dostrzegają obronną stronę tej samej technologii. W lutym 2026 roku Departament Skarbu opublikował materiały mające wzmocnić cyberbezpieczeństwo AI i zarządzanie ryzykiem w usługach finansowych.
Skarb stwierdził, że działania miały pomóc małym i średnim instytucjom bezpieczniej korzystać z AI. Jego inicjatywa na rzecz bezpieczeństwa finansowego zgromadziła agencje publiczne, regulatorów i uczestników branży.
To podejście wskazuje na konieczną odpowiedź. Mniejsze instytucje potrzebują wspólnych możliwości, przetestowanych standardów i informacji wywiadowczych na poziomie sektora, a nie odizolowanych zakupów produktów.
Bank społecznościowy nie może samodzielnie obserwować każdej kampanii wymierzonej w instytucje finansowe. Wiejski szpital nie może zatrudnić każdego specjalisty potrzebnego do ochrony tożsamości, chmury, systemów klinicznych i obsługi incydentów.
Wspólne informacje o zagrożeniach mogą pomóc, ale tylko wtedy, gdy trafiają do odbiorców w użytecznej formie. Wskaźnik dostarczony po tym, jak atakujący przemieścił się już przez sieć, zapewnia niewielką ochronę.
Obronna AI musi być także dostępna i realistyczna operacyjnie. System zaprojektowany dla centrum bezpieczeństwa globalnej firmy może przytłoczyć pięcioosobowy zespół technologiczny.
Najlepszym narzędziem dla mniejszej instytucji może być takie, które ogranicza nakład pracy, priorytetyzuje kilka pilnych działań i łączy się bezpośrednio z istniejącym dostawcą. Więcej funkcji nie gwarantuje lepszej ochrony.
Wyścig w dziedzinie bezpieczeństwa AI ma problem z weryfikacją
Doniesienia o hakowaniu wspieranym przez AI są wiarygodne, ale branża nadal nie ma pełnego i niezależnego obrazu jego częstotliwości oraz skuteczności.
Firmy tworzące modele zajmują nietypową pozycję w badaniach nad cyberbezpieczeństwem. Mogą wykrywać niedozwoloną aktywność, której zewnętrzni badacze nigdy nie zobaczą, ale jednocześnie same definiują własne kategorie i publikują wybrane przypadki.
Ujawnienia Anthropic oferują wyjątkowo szczegółowe przykłady. Pokazują, jak użytkownicy wydawali polecenia Claude, jak system uczestniczył w działaniach oraz które zabezpieczenia firma zmieniła później.
Czytelnicy powinni jednak odróżniać obserwacje dostawcy od niezależnie zweryfikowanych raportów o incydentach. Anthropic często nie może publicznie zidentyfikować każdej ofiary, a poufność ogranicza zewnętrzną kontrolę.
Ofiary także mają trudności z przypisaniem udziału AI. Vivian’s Door mogła ustalić, że konto zostało przejęte, ale niekoniecznie które narzędzia pomogły atakującemu.
Tradycyjna reakcja na incydent koncentruje się na punktach wejścia, dotkniętych systemach, skradzionych danych i utrzymywaniu dostępu. Rzadko tworzy definitywny zapis prywatnych rozmów atakującego z modelem.
W rezultacie wiele ataków wspieranych przez AI będzie wyglądać jak znane włamania. Śledczy mogą znaleźć skradzione dane uwierzytelniające, wygenerowane skrypty i ukierunkowane e-maile, nie będąc w stanie udowodnić, jak zostały stworzone.
Stwarza to dwa przeciwstawne ryzyka. Organizacje mogą odrzucać AI jako marketing, ponieważ przypisanie udziału jest trudne, albo określać każdą dopracowaną wiadomość phishingową mianem ataku AI.
Żadna z tych reakcji nie pomaga. Obrońcy powinni koncentrować się na obserwowalnych zmianach w szybkości, skali, jakości targetowania i zachowaniu atakujących.
Raport FBI Internet Crime Report za 2024 rok stanowi użyteczny punkt odniesienia. Odnotował 859 532 zgłoszenia i straty przekraczające 16 mld dolarów, o 33 procent wyższe niż w 2023 roku.
Phishing i spoofing, wymuszenia oraz naruszenia danych osobowych były trzema najczęściej zgłaszanymi kategoriami. Przestępstwa te istniały na długo przed powszechną dostępnością generatywnej AI.
Dane FBI dotyczące zgłoszeń nie ustalają, w ilu przypadkach wykorzystano AI. Pokazują ogromną infrastrukturę przestępczą, do której trafiają narzędzia AI.
To rozróżnienie kształtuje rozsądną politykę. Celem nie powinno być budowanie zabezpieczeń wokół niemierzalnej etykiety „atak AI”.
Organizacje powinny natomiast ograniczać ścieżki, które może wykorzystać każdy atakujący. Obejmują one wielokrotnie używane hasła, nadmierne uprawnienia do kont, niezałatane systemy dostępne z internetu, słabą kontrolę dostawców i nieprzetestowane plany odzyskiwania działania.
Dostawcy modeli mają odrębną odpowiedzialność. Mogą monitorować wzorce nadużyć, blokować konta, udostępniać wskaźniki i projektować zabezpieczenia wokół zastosowań narzędzi wysokiego ryzyka.
Kontrole bezpieczeństwa są jednak poddawane presji ze strony przeciwników. Przestępcy mogą dzielić zadania między usługi, ukrywać intencje, korzystać ze skradzionych kont lub przechodzić do modeli o słabszym monitoringu.
Skuteczna odpowiedź wymaga zatem współpracy między dostawcami modeli, platformami chmurowymi, producentami oprogramowania, regulatorami, organami ścigania i operatorami usług krytycznych.
Podstawowa niepewność nie dotyczy tego, czy przestępcy będą korzystać z AI. Przypadki Anthropic pokazują, że niektórzy już to robią.
Nierozstrzygnięte pytania dotyczą skali występowania, niezawodności i dostępności narzędzi obronnych. Badacze potrzebują porównywalnych miar pokazujących, w jakim stopniu AI zmienia wskaźniki skutecznych kompromitacji, szybkość ataków i wymagania dotyczące umiejętności operatorów.
Bez tych miar dramatyczne demonstracje mogą zdominować dyskusję. Tymczasem mniejsze organizacje nadal potrzebują pomocy w eliminowaniu zwykłych słabości, które sprawiają, że zautomatyzowane ataki są skuteczne.
To, co wydarzy się dalej, pokaże, czy luka się zmniejsza
Trzy sygnały pokażą, czy obrońcy zdołają powstrzymać cyberataki Anthropic AI, zanim zautomatyzowane włamania staną się rutyną.
Pierwszym sygnałem będą dowody, że dostawcy modeli potrafią wykrywać złośliwe zachowania agentów w trakcie ich trwania. Blokowanie kont po operacji dostarcza lekcji, lecz interwencja podczas rekonesansu lub wykorzystania podatności ograniczyłaby szkody.
Dostawcy powinni ujawniać wystarczającą ilość zagregowanych informacji, aby pokazać, jak poprawia się wykrywanie. Użyteczne miary obejmują zakłócone operacje, czas do wykrycia, powtarzające się wzorce omijania zabezpieczeń oraz etapy, na których zadziałały środki ochronne.
Dane te należy interpretować ostrożnie. Więcej wykrytych nadużyć może odzwierciedlać lepszy monitoring, a nie większą całkowitą liczbę ataków.
Drugim sygnałem będzie wdrażanie rozwiązań w mniejszych szpitalach i instytucjach finansowych. Nowe narzędzia mają znaczenie tylko wtedy, gdy organizacje o ograniczonych zasobach mogą je wdrożyć, obsługiwać i im zaufać.
Działania Skarbu z małymi i średnimi instytucjami finansowymi stanowią jeden z testów. Przyszłe ćwiczenia powinny pokazać, czy uczestnicy poprawiają czas reakcji, koordynację z dostawcami i gotowość do odzyskania działania.
Ochrona zdrowia potrzebuje podobnych dowodów w lokalnych i wiejskich placówkach. Same ogłoszenia o zamówieniach nie pokażą, że usługi dla pacjentów mogą działać podczas poważnego incydentu cybernetycznego.
Trzecim sygnałem będzie to, czy raportowanie incydentów zacznie rozróżniać podejrzewane wsparcie AI od zweryfikowanego użycia AI. Śledczy potrzebują spójnej terminologii, która unika zarówno bagatelizowania, jak i przesady.
Zweryfikowany przypadek mógłby obejmować logi dostawcy, odzyskane prompty, zapisy infrastruktury lub pliki operacyjne atakującego. Przypadek podejrzewany opierałby się na szybkości, wzorcach językowych lub wygenerowanym kodzie bez bezpośredniego dowodu.
To rozróżnienie pomogłoby regulatorom i zespołom bezpieczeństwa porównywać zdarzenia. Zapobiegłoby też przekształcaniu niepewnych przypadków w mylące statystyki.
Postęp w obronie nie nadejdzie dzięki jednemu modelowi ani jednemu programowi rządowemu. Nadejdzie dzięki skróceniu czasu między wykryciem, ostrzeżeniem, powstrzymaniem i odzyskaniem działania.
Szpitale i banki potrzebują także planów działających wtedy, gdy niedostępne są panele chmurowe, e-mail lub zwykłe systemy tożsamości. Plany te muszą być ćwiczone, a nie przechowywane jako zapomniane dokumenty.
W przypadku małych organizacji priorytety powinny pozostać konkretne. Chroń ważne konta uwierzytelnianiem odpornym na phishing, usuwaj nieużywane uprawnienia, aktualizuj narażone systemy, przechowuj odizolowane kopie zapasowe i jasno określ odpowiedzialność dostawców.
Działania te nie eliminują ataków wspieranych przez AI. Zmuszają jednak zautomatyzowanych operatorów do poświęcania większej ilości czasu, ujawniania większej aktywności i rezygnowania z większej liczby celów.
Cyberataki związane z Anthropic AI pokazują, że modele mogą zmniejszać lukę w możliwościach przestępców. Kolejne pytanie brzmi, czy wspólne mechanizmy obronne mogą zmniejszyć lukę w zasobach po stronie ofiar.
Rezultat ten należy oceniać na podstawie mniejszej liczby przerw w działaniu usług i szybszego odzyskiwania sprawności, a nie liczby ogłoszonych produktów bezpieczeństwa AI. Zapytaj, kto monitoruje Twoje najbardziej zaufane konta, jak szybko może wyłączyć dostęp oraz co nadal działa, gdy zawiodą kluczowe systemy. Jeśli odpowiedzi na te pytania pozostają niejasne, organizacja już jest narażona na przewagę szybkości, jaką AI daje atakującym.
