Phishing z użyciem AI sprawia, że znane sygnały ostrzegawcze są mniej wiarygodne

Google News zwróciło uwagę na jednoznaczne ostrzeżenie dotyczące bezpieczeństwa: phishing z użyciem AI wygląda dziś na tyle zwyczajnie, że przechodzi szybkie kontrole, którym wiele osób nadal ufa. Konflikt nie rozgrywa się już między dopracowanym biznesowym e-mailem a oczywiście nieporadnym oszustwem. Dotyczy wiarygodnej prośby i celowo stworzonej imitacji, która wygląda równie rutynowo.

To rozróżnienie ma znaczenie, ponieważ generatywna AI eliminuje kilka słabości, które kiedyś zdradzały phishing. Atakujący mogą tworzyć płynne językowo wiadomości, dostosowywać je do celu i tłumaczyć bez typowych błędów znanych ze starszych kampanii. Mogą także automatyzować infrastrukturę działającą w tle za wiadomością.

Badacze zagrożeń Google stanowią istotną przeciwwagę dla najbardziej dramatycznych twierdzeń. Zaobserwowali oni grupy wspierane przez państwa, które wykorzystują duże modele językowe do badań, wybierania celów i tworzenia dopracowanych przynęt phishingowych. Nie opisali jednak każdej kampanii wspieranej przez AI jako nowego przełomu technicznego.

Bardziej uzasadniony wniosek jest też bardziej użyteczny. AI nie musi wymyślać nowej formy hakowania, aby phishing stał się groźniejszy. Wystarczy, że poprawia wiarygodność języka, zmniejsza nakład pracy atakujących i łączy sprawdzone techniki w szybsze przepływy pracy.

Ta zmiana wywiera jednocześnie presję na pracowników, zespoły bezpieczeństwa, dostawców poczty e-mail, banki i firmy AI. Podważa również programy uświadamiające oparte na wychwytywaniu błędów ortograficznych, niezręcznych powitań i nieprawdopodobnych historii.

Co ostrzeżenie Google News faktycznie zmienia

Phishing z użyciem AI przeszedł od nietypowej taktyki do zwykłego narzędzia produkcyjnego dla atakujących.

Nagłówek BankInfoSecurity, który pojawił się w Google News, zawierał dosadne stwierdzenie: phishing z użyciem AI staje się przerażająco normalny i trudny do wykrycia. Najmocniejsze dostępne dowody potwierdzają szerszy kierunek tej zmiany, choć nie oznacza to, że każdy phishingowy e-mail jest równie zaawansowany.

Google Threat Intelligence Group podała, że aktorzy wspierani przez rządy używali dużych modeli językowych do badań technicznych, wybierania celów i szybkiego tworzenia przynęt. Jej AI threat tracker opisał aktywność powiązaną z aktorami z Korei Północnej, Iranu, Chin i Rosji.

Przynęta phishingowa to wiadomość lub scenariusz zaprojektowany tak, by skłonić cel do niebezpiecznego działania. Może ono polegać na otwarciu dokumentu, wprowadzeniu danych uwierzytelniających, zatwierdzeniu logowania lub zainicjowaniu płatności.

AI usprawnia etap tworzenia przynęt na kilka praktycznych sposobów. Może przeredagować wiadomość dla konkretnej roli, imitować oczekiwany ton i szybko tworzyć zlokalizowane wersje. Potrafi także podsumować publicznie dostępne informacje o celu przed wygenerowaniem wiarygodnego podejścia.

Funkcje te nie wymagają od modelu łamania szyfrowania ani odkrywania luki w oprogramowaniu. Sprawiają natomiast, że komponent socjotechniczny jest tańszy i bardziej spójny. Atakujący może poświęcać mniej czasu na redagowanie każdej wiadomości, a jednocześnie unikać oczywistych błędów językowych.

Rezultatem jest przede wszystkim zmiana ekonomiczna, a dopiero potem techniczna. Dobre pisanie, tłumaczenie i personalizacja wcześniej zwiększały koszt kampanii. Narzędzia generatywne kompresują te zadania do powtarzalnego przepływu pracy.

Nie oznacza to, że każdy dopracowany e-mail został wygenerowany przez AI. Atrybucja pozostaje trudna, ponieważ ludzie potrafią pisać poprawne wiadomości, a starsza automatyzacja może wstawiać nazwiska i dane firmowe. Sam tekst rzadko dowodzi, które narzędzie go stworzyło.

Wersja „wyjaśnienia phishingu AI” jest więc węższa niż alarmistyczna narracja. AI pomaga atakującym tworzyć, różnicować i prowadzić znane oszustwa z większą szybkością. Złośliwy cel nadal często opiera się na rozpoznawalnej infrastrukturze, w tym fałszywych stronach logowania i przejętych sesjach.

Badacze Google wykryli także istotne ograniczenia. Stwierdzili, że obserwowani zaawansowani aktorzy nie osiągnęli przełomowych możliwości, które fundamentalnie zmieniłyby krajobraz zagrożeń w ich obserwacjach z końca 2025 roku. Zyskali produktywność, a nie automatyczną drogę przez każdą obronę.

To zastrzeżenie wzmacnia główne ostrzeżenie. Organizacje nie muszą przygotowywać się na ataki rodem z science fiction, zanim podejmą działania. Istniejący system phishingu staje się groźniejszy, gdy wiarygodny język i automatyzacja operacyjna są dostępne razem.

Zwyczajny wygląd tych wiadomości tworzy prawdziwe napięcie opisane w artykule. Użytkownik może otrzymać poprawną gramatycznie prośbę powiązaną z rzeczywistym projektem, usługą lub członkiem kierownictwa. Widoczna wiadomość może wyglądać rozsądnie, podczas gdy ścieżka uwierzytelniania za nią jest wroga.

Dlatego tradycyjne porady wydają się coraz bardziej niepełne. „Szukaj literówek” dotyczy jakości prezentacji. Nie weryfikuje, kto kontroluje nadawcę, cel, sesję logowania ani żądaną transakcję.

Google AI Phishing to coś więcej niż lepsze pisanie

Największa zmiana to automatyzacja całego łańcucha ataku, a nie jedynie lepiej napisane e-maile.

Obserwacje Google dotyczące phishingu AI pokazują, że atakujący wykorzystują modele w rozpoznaniu, tworzeniu treści, lokalizacji, programowaniu i wsparciu operacyjnym. Według badaczy Google firma zakłóciła również działanie kont i projektów powiązanych ze złośliwą aktywnością.

OpenAI zgłosiło podobny wzorzec w badanych przez siebie przypadkach nadużyć. Jego badania nad złośliwym wykorzystaniem wskazują, że aktorzy zagrożeń zazwyczaj łączą modele AI ze stronami internetowymi, kontami społecznościowymi i innymi konwencjonalnymi narzędziami.

To połączenie jest istotne. Przekonująca wiadomość otwiera drogę, ale reszta operacji pozwala osiągnąć korzyść. Atakujący nadal potrzebują infrastruktury, która kradnie dane uwierzytelniające, przechwytuje uwierzytelnianie, wdraża złośliwe oprogramowanie lub nakłania kogoś do wysłania pieniędzy.

Phishing-as-a-service obniża tę barierę operacyjną. Usługi te oferują infrastrukturę i funkcje kampanii klientom, którzy nie muszą samodzielnie budować każdego komponentu. AI może pomóc operatorom usprawniać wsparcie, przetwarzać skradzione informacje i szybciej różnicować kampanie.

Phishing z użyciem kodu urządzenia pokazuje, jak atak wykroczył poza wyłudzanie haseł. Metoda ta nadużywa legalnego procesu logowania zaprojektowanego dla urządzeń, na których nie można łatwo wprowadzić hasła.

Cel otrzymuje prawdziwy proces logowania urządzenia i wprowadza kod dostarczony przez atakującego. Jeśli zatwierdzi prośbę, atakujący może uzyskać uwierzytelnioną sesję bez przedstawiania tradycyjnego fałszywego formularza hasła.

Badacze Huntress zaobserwowali 1 380-procentowy wzrost phishingu z użyciem kodów urządzeń w pierwszych czterech miesiącach 2026 roku. Porównanie obejmowało drugą połowę 2025 roku, zgodnie z ustaleniami dotyczącymi automatyzacji ataków opisanymi przez Axios.

Tego wzrostu nie należy interpretować jako tempa wzrostu całego phishingu. Dotyczy on jednego zaobserwowanego typu ataku w telemetrii jednej firmy. Mimo to pokazuje, jak szybko przepływ pracy może się skalować, gdy narzędzia stają się łatwiejsze w obsłudze.

Ta sama zasada dotyczy personalizacji. Atakujący może zebrać z publicznych źródeł komunikat firmy, stanowisko, relację z dostawcą i nazwisko członka kierownictwa. Model może przekształcić te fragmenty w wiadomość odpowiadającą wiarygodnemu wydarzeniu biznesowemu.

Weźmy pod uwagę pracownika działu finansowego, który regularnie obsługuje zmiany danych bankowych dostawców. Przestępca nie potrzebuje bezbłędnego podszycia się pod dyrektora finansowego. Potrzebuje wiarygodnej prośby dostarczonej w chwili, gdy pracownik spodziewa się tego rodzaju zadania.

Wiadomość może wspominać rzeczywistego dostawcę i używać utrwalonego wewnętrznego sformułowania. Może nadejść z przejętej skrzynki pocztowej, eliminując kolejny powszechny sygnał ostrzegawczy. Ocena pracownika zostaje wtedy wystawiona na próbę przez legalnie wyglądający kontekst.

Generowanie głosu dodaje kolejny kanał. Telefon uzupełniający może wzmocnić przekaz e-maila, a wiadomość tekstowa może wywołać poczucie pilności poza zarządzanymi urządzeniami firmowymi. Atakujący może przenosić cel między kanałami, zanim obrońcy połączą aktywność.

W tym miejscu Google AI phishing staje się problemem tożsamości, a nie problemem pisania. Jakość języka rozpoczyna interakcję. Decydujący etap dotyczy uwierzytelniania, autoryzacji i kontroli nad kontem lub transakcją.

Obrońcy muszą zatem badać pełną sekwencję. Muszą korelować nadawcę, cel, urządzenie, żądanie logowania, zachowanie sesji i działanie finansowe. Filtr wiadomości widzi tylko część tej sekwencji.

Statyczna reguła może mieć również trudności, gdy atakujący rotują domeny, załączniki i metody dostarczania. Automatyzacja pozwala operatorom szybko testować warianty i porzucać infrastrukturę po jej zidentyfikowaniu przez obrońców.

Przewaga produktywności nie jest nieograniczona. Modele mogą generować nieprecyzyjne szczegóły, ujawniać błędy operacyjne lub uruchamiać zabezpieczenia dostawców. Atakujący nadal potrzebują dostępu, infrastruktury i sposobu na przekształcenie skradzionych danych uwierzytelniających w użyteczną kontrolę.

Mimo to wydajność ma znaczenie nawet bez perfekcji. Kampania nie wymaga, aby każdy cel się podporządkował. Wymaga wystarczającej liczby wiarygodnych interakcji, by operacja była opłacalna.

Stary model wykrywania przez ludzi się załamuje

Szkolenie ludzi w rozpoznawaniu złej prozy nie może ochronić ich przed wiadomościami zaprojektowanymi tak, by wyglądały profesjonalnie i zwyczajnie.

Przez lata materiały dotyczące świadomości bezpieczeństwa podkreślały błędy ortograficzne, dziwne powitania, podejrzaną pilność i niedopasowane elementy marki. Te sygnały nadal są przydatne, ale atakujący nie muszą już ich zachowywać.

Generatywna AI może natychmiast poprawiać gramatykę. Może przeredagować prośbę w stylu zespołu zakupowego lub działu wsparcia technicznego. Może także usuwać błędy kulturowe i językowe, które wcześniej zdradzały kampanie transgraniczne.

Powstała wiadomość nie musi być wyjątkowa. Musi przypominać strumień zwykłych próśb, które już konkurują o uwagę. Spieszący się pracownik może przetworzyć ją przy użyciu tych samych nawyków, co w przypadku legalnej pracy.

Europejski sondaż ISACA z czerwca 2026 roku wykazał, że 71 procent respondentów uznało phishing i inżynierię społeczną wspierane przez AI za trudniejsze do zauważenia. Kolejne 58 procent stwierdziło, że AI utrudniła uwierzytelnianie informacji cyfrowych, zgodnie z badaniem bezpieczeństwa AI.

Badanie wykazało również korzyść po stronie obrony. Czterdzieści trzy procent respondentów stwierdziło, że AI poprawiła zdolność ich organizacji do wykrywania cyberzagrożeń i reagowania na nie. Wynik ten trafniej oddaje wyłaniającą się rywalizację niż prosta opowieść o atakujących kontra ludzie.

AI może pomagać obrońcom klasyfikować język, łączyć sygnały behawioralne i podsumowywać podejrzaną aktywność. Może identyfikować wzorce w wiadomościach, których żaden pojedynczy pracownik nie jest w stanie dostrzec.

Modele defensywne stoją jednak przed trudną asymetrią. Atakujący może wypróbować wiele wariantów i od czasu do czasu odnieść sukces. Kontrola korporacyjna musi blokować złośliwą aktywność, nie przerywając przy tym dużych wolumenów legalnej komunikacji.

Fałszywie pozytywne wyniki mają znaczenie, ponieważ firmowa poczta e-mail zawiera nietypowe, ale prawidłowe prośby. Nowy dostawca może zmienić dane płatnicze. Członek kierownictwa może niespodziewanie skontaktować się z pracownikiem. Klient może wysłać nieznany dokument.

Filtr blokujący każdą anomalię szkodzi pracy. Filtr ufający każdej dopracowanej wiadomości pomija ataki. Użyteczna decyzja zależy od kontekstu wykraczającego poza same słowa.

Kontekst obejmuje to, czy nadawca zwykle kontaktuje się z odbiorcą, czy domena została zaobserwowana po raz pierwszy oraz czy żądane działanie odpowiada wcześniejszym zachowaniom. Obejmuje też urządzenie i lokalizację użyte po przesłaniu danych uwierzytelniających.

Zgłoszenia od ludzi wciąż dostarczają cennych informacji. Jeden pracownik może rozpoznać, że prośba stoi w sprzeczności z rozmową przeprowadzoną poza siecią. Inny może zauważyć, że proces u dostawcy zmienił się bez wyjaśnienia.

Zespoły bezpieczeństwa powinny ułatwiać takie zgłoszenia i nie stosować sankcji. Przycisk zgłoszenia ukryty za kilkoma menu marnuje chwilę wahania pracownika. Karanie za błędne zgłoszenia uczy ludzi milczenia.

Szkolenia również muszą odejść od wyszukiwania śladów w artefaktach na rzecz weryfikacji działań. Pytanie nie brzmi po prostu: „Czy ten e-mail wygląda podejrzanie?”. Brzmi: „Jakie uprawnienia ta wiadomość prosi mnie przyznać?”.

Prośba o przejrzenie publicznego dokumentu wiąże się z innym ryzykiem niż prośba o zatwierdzenie logowania na urządzeniu. Zmiana danych bankowych wymaga silniejszej weryfikacji niż potwierdzenie godziny spotkania.

To podejście oparte na ryzyku daje pracownikom trwałą zasadę, nawet gdy język staje się bezbłędny. Wrażliwe działania wymagają niezależnej ścieżki potwierdzenia. Potwierdzenie nie powinno wykorzystywać danych kontaktowych podanych w podejrzanej wiadomości.

W przypadku zmian finansowych pracownik może zadzwonić na znany numer zapisany już w danych dostawcy. Przy odzyskiwaniu konta użytkownik może przejść bezpośrednio do usługi zamiast korzystać z linku w wiadomości.

Phishing wspierany przez AI, wyjaśniony z tej perspektywy, jest mniej tajemniczy. Treść się poprawiła, ale atakujący nadal chce uzyskać zgodę na działanie o istotnych skutkach. Obrońcy zyskują przewagę, kontrolując sposób zatwierdzania takiego działania.

Atakujący również projektują kampanie z myślą o obronie maszynowej

Współczesne kampanie phishingowe ukrywają złośliwe miejsca docelowe za obrazami, przekierowaniami, stronami CAPTCHA i legalnymi przepływami uwierzytelniania.

Dane Microsoft dotyczące poczty e-mail z pierwszego kwartału 2026 r. pokazują, dlaczego jakość wiadomości jest tylko częścią problemu. Firma zaobserwowała wzrost phishingu z użyciem kodów QR z 7,6 mln ataków w styczniu do 18,7 mln w marcu.

Oznaczało to wzrost o 146 procent w ciągu kwartału. Microsoft ustalił również, że liczba kodów QR osadzanych bezpośrednio w treści e-maili wzrosła w marcu o 336 procent, choć nadal stanowiły one 5 procent zaobserwowanego wolumenu.

Przynęta z kodem QR przenosi miejsce docelowe poza zwykły tekst. Często kieruje ofiarę na prywatny telefon, gdzie firmowe mechanizmy kontroli przeglądarki i monitorowanie punktów końcowych mogą mieć mniejszą widoczność.

W marcowym zbiorze danych Microsoftu za 70 procent dostarczania kodów QR odpowiadały załączniki PDF. Atakujący nie polegali wyłącznie na prozie. Umieszczali linki w formatach, które utrudniają automatyczną inspekcję.

Phishing chroniony CAPTCHA również gwałtownie wzrósł. CAPTCHA to test mający odróżniać ludzi od systemów automatycznych. Atakujący wykorzystują fałszywe lub wiarygodnie wyglądające testy, aby opóźniać skanery i nadać złośliwej stronie pozory legalności.

Microsoft odnotował w marcu 11,9 mln ataków chronionych CAPTCHA, ponad dwukrotnie więcej niż miesiąc wcześniej. Jego analiza zagrożeń e-mailowych opisuje szybką rotację metod dostarczania za pośrednictwem plików PDF, HTML, SVG, dokumentów i osadzonych linków.

Liczby te wynikają z widoczności Microsoftu i nie powinny być traktowane jako pełna miara globalnego phishingu. Pokazują jednak, że atakujący eksperymentują z różnymi formatami na znaczną skalę.

Google udokumentował inny wariant, nazwany ClickFix. Technika ta nakłania użytkownika do skopiowania i uruchomienia złośliwego polecenia pod pozorem rozwiązania problemu z przeglądarką, dokumentem lub weryfikacją.

W jednej zaobserwowanej kampanii aktorzy zagrożeń nadużyli funkcji publicznego udostępniania w usługach generatywnej AI, aby hostować zwodnicze treści. Zaufana usługa zapewniała powierzchnię, podczas gdy instrukcje kierowały ofiarę do uruchomienia złośliwego oprogramowania.

Metody te wywierają presję na filtry poczty e-mail, ponieważ niebezpieczny element może pozostać ukryty aż do momentu po dostarczeniu wiadomości. Skaner może zobaczyć plik PDF, obraz kodu QR, udostępnioną stronę lub legalną usługę uwierzytelniania zamiast oczywistego złośliwego pliku wykonywalnego.

Czas również działa na korzyść atakującego. Miejsce docelowe może zachowywać się bezpiecznie podczas automatycznej inspekcji, a po dostarczeniu wiadomości się zmienić. Łańcuchy przekierowań mogą różnić się zależnie od lokalizacji, urządzenia lub przeglądarki.

Tworzy to ruchomą granicę między bezpieczeństwem poczty e-mail a bezpieczeństwem tożsamości. Wiadomość może przejść przez skrzynkę odbiorczą bez wykrywalnego ładunku. Atak ujawnia dopiero późniejszy wzorzec logowania.

Obrońcy potrzebują mechanizmów kontrolnych, które działają także po dostarczeniu wiadomości. Mogą usuwać nowo zidentyfikowaną wiadomość z wielu skrzynek odbiorczych, unieważniać podejrzane sesje i blokować miejsca docelowe wraz ze zmianą danych wywiadowczych.

Systemy tożsamości powinny również oceniać nietypowe zgody, żądania kodów urządzeń, nieznane logowania i zachowanie sesji. Uwierzytelnianie wieloskładnikowe pozostaje ważne, ale atakujący coraz częściej projektują przepływy, które nakłaniają użytkowników do przyznania uwierzytelnionego dostępu.

Uwierzytelnianie odporne na phishing ogranicza tę możliwość. Passkeys i poświadczenia wspierane sprzętowo wiążą uwierzytelnianie ściślej z legalną usługą, zmniejszając narażenie na fałszywe strony logowania.

Nie rozwiązują one każdego scenariusza inżynierii społecznej. Pracownik nadal może zatwierdzić oszukańczą płatność lub ujawnić wrażliwe informacje podczas przekonującej rozmowy. Kontrole techniczne muszą odpowiadać żądanemu działaniu.

Banki mierzą się ze szczególnie trudną wersją tego problemu. Klienci oczekują ostrzeżeń o oszustwach, kontroli tożsamości i pilnych wiadomości dotyczących kont. Atakujący naśladują te same komunikaty, ponieważ pilność wydaje się wiarygodna w kontekście finansowym.

Najbezpieczniejsze zalecenie pozostaje celowo niewygodne. Klienci powinni otworzyć znaną aplikację banku lub wpisać bezpośrednio jego ustalony adres. Powinni kontaktować się z instytucją, używając numeru z istniejącego wyciągu lub karty płatniczej.

Ta rada dotyczy kanału transakcji, a nie jakości wiadomości. Pozostaje użyteczna niezależnie od tego, czy treść pochodziła z modelu, od przestępczego copywritera, czy ze skompromitowanej skrzynki bankowej.

Czego narracja o phishingu z użyciem AI wciąż nie może udowodnić

Dowody z obszaru bezpieczeństwa pokazują rosnące wykorzystanie AI, ale nie dowodzą, że AI sprawiła, iż każda kampania phishingowa jest nieodróżnialna od legalnej komunikacji.

Twierdzenia dotyczące wykrywania zasługują na sceptycyzm, ponieważ identyfikowanie tekstu wygenerowanego przez AI nadal jest niewiarygodne. Dopracowany e-mail nie stanowi dowodu użycia modelu. Niezgrabny e-mail nie jest dowodem autorstwa człowieka.

Badacze i dostawcy często mierzą różne rzeczy. Jeden zbiór danych może liczyć złośliwe wiadomości, a inny incydenty, domeny, użytkowników lub zablokowane żądania. Procenty wzrostu mogą gwałtownie się zmieniać w zależności od okresu porównawczego.

Dane Microsoftu opisują ataki widoczne w ekosystemie Microsoftu. Odsetek Huntress obejmuje phishing z użyciem kodów urządzeń zaobserwowany przez Huntress. ISACA przedstawia profesjonalne opinie z ankiety.

Łącznie źródła te pokazują spójny kierunek. Nie tworzą jednak jednego globalnego oszacowania skali ani skuteczności phishingu z użyciem AI.

Ustalenia Google stanowią kolejne potrzebne zastrzeżenie. Badacze zagrożeń tej firmy zaobserwowali wzrost produktywności i rzeczywiste nadużycia, lecz nie stwierdzili, by śledzeni zaawansowani aktorzy osiągnęli fundamentalny przełom pod koniec 2025 r.

Wniosek ten przeczy najmocniejszej wersji narracji nagłówkowej. AI zmieniła koszt, szybkość i prezentację. Nie wyeliminowała błędów operacyjnych ani nie uczyniła każdej obrony przestarzałą.

Atakujący mogą halucynować fakty, użyć niewłaściwego stanowiska lub wymyślić projekt. Mogą dobrać język nieadekwatny do relacji. Kampania generowana na dużą skalę nadal może ujawniać wzorce widoczne u wielu odbiorców.

Dostawcy modeli również zachowują punkty interwencji. Google twierdzi, że wyłącza złośliwe zasoby i ulepsza klasyfikatory, gdy dochodzenia wykryją nadużycia. OpenAI twierdzi, że wykrywa i zakłóca konta powiązane ze szkodliwymi operacjami.

Zabezpieczenia te tworzą tarcie, lecz aktorzy zagrożeń mogą zmieniać modele, korzystać z otwartych systemów lub dzielić zadania między usługi. OpenAI zauważa, że szkodliwe operacje rzadko ograniczają się do jednej platformy.

Defensywna AI niesie własną niepewność. System może z dużą pewnością przypisać błędną interpretację. Może przeoczyć nową taktykę lub nadmiernie zareagować na nietypową, ale legalną wiadomość.

Organizacje powinny unikać zastępowania słabej ludzkiej intuicji nieprzejrzystą intuicją maszyny. Wynik AI powinien być jednym z sygnałów w ramach udokumentowanego procesu reagowania.

Użyteczny system może wyjaśnić, dlaczego zdarzenie zostało eskalowane. Może wskazać nieznaną relację z nadawcą, nową domenę, nietypowe żądanie uwierzytelnienia oraz wrażliwe działanie.

Takie dowody dają analitykowi coś konkretnego do zbadania. Ogólna etykieta, taka jak „prawdopodobnie wygenerowane przez AI”, ma mniejszą wartość operacyjną, ponieważ autorstwo nie przesądza o tym, czy wiadomość jest złośliwa.

Prywatność wprowadza kolejny kompromis. Wykrywanie kontekstowe działa lepiej, gdy systemy mogą analizować komunikację, rejestry tożsamości i historie zachowań. Taka widoczność może ujawnić wrażliwe informacje o pracownikach i klientach.

Zespoły bezpieczeństwa potrzebują limitów retencji, kontroli dostępu i jasnego zarządzania tymi zbiorami danych. W przeciwnym razie program antyphishingowy tworzy kolejne skoncentrowane źródło ryzyka.

Ujęcie Google News jest najbardziej użyteczne, gdy kieruje uwagę na weryfikację. Staje się mniej użyteczne, gdy traktuje AI jako magiczne wyjaśnienie każdego skutecznego oszustwa.

Praktycznym standardem powinny nadal być dowody złośliwego zamiaru, infrastruktury lub żądanego działania. Udział AI zmienia priorytetyzację i skalę. Nie eliminuje potrzeby starannej analizy incydentów.

Co zespoły bezpieczeństwa powinny obserwować w następnej kolejności

Kolejny etap będzie mierzony przez zautomatyzowane nadużycia tożsamości, jakość reakcji obronnej oraz wdrażanie mechanizmów odpornych na phishing.

Pierwszym sygnałem jest wzrost phishingu opartego na kodach urządzeń i sesjach. Ataki te są istotne, ponieważ celują w legalne przepływy uwierzytelniania, a nie w proste formularze haseł.

Zespoły bezpieczeństwa powinny śledzić, jak często użytkownicy otrzymują nieoczekiwane kody urządzeń, zatwierdzają nieznane sesje lub przyznają dostęp za pośrednictwem nietypowych przepływów. Utrzymujący się wzrost wzmocniłby argument, że atakujący automatyzują działania wykraczające poza tworzenie wiadomości.

Spadek po wdrożeniu silniejszych kontroli osłabiłby argument, że technika ta może skalować się bez oporu. Pokazałby również, że telemetria tożsamości może przerwać ataki po dotarciu e-maila do skrzynki odbiorczej.

Drugim sygnałem jest to, czy systemy obronne skracają czas reakcji bez przytłaczania analityków. Narzędzia wspierane przez AI mogą łączyć sygnały z wiadomości, tożsamości, punktów końcowych i transakcji, ale tylko wtedy, gdy organizacje spójnie je integrują.

Zespoły powinny mierzyć czas od pierwszego zgłoszenia użytkownika do usunięcia wiadomości, unieważnienia sesji i identyfikacji dotkniętych użytkowników. Powinny również monitorować wyniki fałszywie dodatnie i powtarzające się korekty dokonywane przez analityków.

Szybsze ograniczanie skutków przy stabilnych wskaźnikach błędów wspierałoby argument za defensywnym wykorzystaniem AI. Rosnąca kolejka alertów pokazałaby, że sama klasyfikacja nie rozwiązuje problemu operacyjnego.

Trzecim sygnałem jest wdrażanie uwierzytelniania odpornego na phishing oraz niezależnej weryfikacji transakcji. Mechanizmy te przenoszą ochronę z umiejętności użytkownika w zakresie oceny stylu pisania.

Google, Microsoft, banki i dostawcy tożsamości dla przedsiębiorstw wpływają na tę transformację. Organizacje powinny obserwować liczbę wdrożonych passkeys, zakres uwierzytelniania wspieranego sprzętowo oraz wyjątki zachowujące słabsze ścieżki logowania.

Powinny również mierzyć, ile wrażliwych działań finansowych lub administracyjnych wymaga potwierdzenia poza kanałem komunikacji. Kontrola poza kanałem wykorzystuje oddzielny, wcześniej zaufany kanał zamiast danych podanych przez osobę zgłaszającą żądanie.

Szersze przyjęcie takich rozwiązań zmniejszyłoby wartość dopracowanych przynęt. Powolna adaptacja pozostawiłaby pracowników odpowiedzialnych za rozróżnienia, które systemy generatywne są coraz częściej projektowane tak, by zacierać.

Najbliższa rywalizacja nie toczy się więc między atakującym wykorzystującym AI a ludzkim odbiorcą. Chodzi o zautomatyzowaną perswazję kontra wielowarstwową weryfikację.

Dobra obrona zakłada, że część złośliwych wiadomości będzie wyglądać normalnie i dotrze do swoich celów. Ogranicza ona to, co może spowodować jedna wiadomość, jedno kliknięcie lub jedno zatwierdzenie.

Organizacje mogą zacząć od ukierunkowanego przeglądu. Należy zidentyfikować działania powodujące największe straty, w tym zmiany płatności, odzyskiwanie haseł, zatwierdzanie tokenów i dostęp administracyjny.

Następnie warto sprawdzić, w jaki sposób autoryzowane jest każde z tych działań. Jeśli wiarygodnie wyglądający e-mail może samodzielnie je uruchomić, proces ma słabość, której lepsze szkolenia podnoszące świadomość nie są w stanie naprawić.

Google News będzie nadal prezentować alarmujące przykłady, ponieważ zagrożenie jest widoczne, łatwe do zrozumienia i szybko się zmienia. Czytelnicy powinni traktować te doniesienia jako zachętę do weryfikacji, a nie dowód na to, że wykrywanie stało się niemożliwe.

Dla liderów bezpieczeństwa najpilniejsze pytanie jest konkretne: które wrażliwe działanie nadal zależy od tego, czy pracownik uzna, że dopracowana wiadomość „wygląda właściwie”? Zastąp ten punkt oceny zaufaną kontrolą, zmierz rezultat i przetestuj proces, zanim zrobi to atakujący.