Raport IBM wskazuje podszywanie się z użyciem deepfake’ów jako jedno z głównych zagrożeń związanych z atakami AI

IBM odnotował 56% wzrost liczby złośliwych naruszeń wykorzystujących AI, co sprawiło, że podszywanie się z użyciem deepfake’ów znalazło się w centrum dyskusji o bezpieczeństwie w google news. Według firmy sztuczna inteligencja była wykorzystywana w co czwartym złośliwym naruszeniu analizowanym w jej badaniu z 2026 roku. Deepfake’i i złośliwe oprogramowanie generowane przez AI były najczęściej stosowanymi technikami w tej grupie.

Ustalenie to zmienia sposób, w jaki przedsiębiorstwa powinny rozumieć ryzyko związane z AI. Bezpośrednie zagrożenie nie ogranicza się do ataków na modele lub prompty. Atakujący wykorzystują syntetyczne głosy, twarze, tożsamości i wiadomości, aby nadużywać zaufania towarzyszącego zwykłym procesom biznesowym.

Ostrzeżenie IBM podważa również znane założenie dotyczące bezpieczeństwa. Organizacje przez lata uczyły pracowników sprawdzania podejrzanych wiadomości, linków i załączników. Przekonujący członek zarządu podczas rozmowy na żywo może ominąć te nawyki, ponieważ prośba wydaje się pochodzić z zaufanego, ludzkiego kanału.

Główną rywalizacją nie jest więc już wykrywanie deepfake’ów kontra ich generowanie. To weryfikacja tożsamości kontra syntetyczne zaufanie. Narzędzia wykrywające pozostają przydatne, lecz przedsiębiorstwa potrzebują także procesów, które uniemożliwią jednemu przekonującemu głosowi, obrazowi lub komunikatowi autoryzowanie wrażliwego działania.

Liczby IBM stawiają podszywanie się przed hype’em wokół AI

Najważniejsze ustalenie IBM jest takie, że AI przestała być eksperymentalnym narzędziem pomocniczym dla atakujących i stała się mierzalną częścią rzeczywistych naruszeń.

IBM i Ponemon Institute oparły raport o naruszeniach z 2026 roku na incydentach, których doświadczyły 602 organizacje między marcem 2025 a lutym 2026 roku. Badacze ustalili, że w co czwartym złośliwym naruszeniu atakujący wykorzystywali AI. Oznaczało to wzrost o 56% względem poprzedniego badania.

Podszywanie się z użyciem deepfake’ów i złośliwe oprogramowanie generowane przez AI były najczęściej identyfikowanymi technikami w tych atakach. Pierwsza kategoria obejmuje syntetyczne nagrania audio, materiały wideo, obrazy i komunikację zaprojektowane tak, by atakujący wyglądał na zaufaną osobę.

Raport nie stwierdza, że każda próba wykorzystania deepfake’a kończy się sukcesem. Analizuje organizacje, które doświadczyły naruszeń danych, tworząc próbę skoncentrowaną na szkodliwych incydentach, a nie na całej populacji prób ataku. To rozróżnienie ma znaczenie przy interpretacji nagłówka.

Mimo to zmianę względem poprzedniego roku trudno zlekceważyć. Badanie IBM z 2025 roku wykazało użycie AI przez atakujących w 16% analizowanych naruszeń. W tej grupie phishing generowany przez AI stanowił 37%, a podszywanie się z użyciem deepfake’ów — 35%.

Wyniki z 2026 roku sugerują, że podszywanie się stało się bardziej centralne wraz z uzyskaniem przez atakujących dostępu do lepszych narzędzi do generowania głosu, obrazu i wideo. Wskazują także, że włączają oni syntetyczne media do sprawdzonych metod włamań, zamiast traktować deepfake’i jako odizolowane sztuczki.

To rozróżnienie wyjaśnia, dlaczego zagrożenie deepfake’ami wskazane przez IBM zasługuje na większą uwagę niż wirusowe fałszywe nagranie wideo. Deepfake polityczny ma na celu wpłynięcie na odbiorców. Atak polegający na podszywaniu się w przedsiębiorstwie często jest wymierzony w jednego pracownika, który może zresetować konto, udostępnić poświadczenia, otworzyć plik lub zatwierdzić transakcję.

IBM ustalił również, że 62% ataków wykorzystujących AI w jego badaniu było wymierzonych w organizacje infrastruktury krytycznej. Najwyższe koncentracje odnotowano w usługach finansowych i energetyce. Sektory te zależą od złożonych systemów tożsamości, dostawców, komunikacji zdalnej i decyzji podejmowanych pod presją czasu.

To samo badanie wykazało, że ponad 20% organizacji doświadczyło naruszenia z udziałem modelu lub aplikacji AI. Naruszone API, aplikacje lub wtyczki stanowiły 27% tych incydentów. Błędy konfiguracji chmury wpływające na aplikacje AI odpowiadały za kolejne 27%.

Liczby te pokazują dwie powiązane powierzchnie ataku. Przestępcy mogą atakować system AI bezpośrednio przez jego otaczającą infrastrukturę. Mogą też wykorzystać AI do podszycia się pod zaufaną osobę i uzyskać dostęp do konwencjonalnych systemów.

Druga droga może być łatwiejsza, ponieważ celuje w zachowania organizacyjne. Atakujący nie muszą pokonać zaawansowanego modelu, gdy przekonująca rozmowa może nakłonić kogoś do wyłączenia zabezpieczenia.

Dla czytelników trafiających na tę historię przez google news jest to rzeczywiste znaczenie tego wydarzenia. IBM nie prognozuje przyszłego problemu z deepfake’ami. Jego badanie umieszcza syntetyczne podszywanie się wśród technik już pojawiających się w badanych naruszeniach.

Dlaczego ataki deepfake działają bez perfekcyjnego wideo

Deepfake musi przetrwać tylko wystarczająco długo, by uruchomić kolejny krok ataku.

Deepfake’i to syntetyczne lub zmanipulowane media naśladujące wygląd, głos, styl pisania lub zachowanie danej osoby. Termin ten często przywodzi na myśl dopracowane fałszywe nagrania wideo. Ataki na przedsiębiorstwa mogą jednak odnieść sukces przy znacznie mniejszych wymaganiach.

Dzwoniący może naśladować głos członka zarządu i poprosić pracownika, by oczekiwał pilnego dokumentu. Fałszywy uczestnik wideorozmowy może potwierdzić instrukcje przekazane wcześniej przez przejęte konto e-mail. Syntetyczna tożsamość może przejść wstępną rozmowę rekrutacyjną zdalnie, zanim poprosi o dostęp do wewnętrznych narzędzi.

Żaden z tych scenariuszy nie wymaga bezbłędnej, pełnowymiarowej symulacji. Atakujący potrzebuje jedynie wystarczającej wiarygodności, by skłonić cel do zresetowania poświadczeń, instalacji oprogramowania, ujawnienia danych lub zatwierdzenia działania.

Osobna analiza deepfake’ów IBM opisuje kampanię przypisywaną BlueNoroff, która ilustruje to warstwowe podejście. Pracownik firmy kryptowalutowej otrzymał link do spotkania, a następnie dołączył do rozmowy wideo, w której uczestniczyły deepfake’owe wersje wyższych rangą liderów.

Gdy pojawił się problem z dźwiękiem, atakujący polecili pracownikowi zainstalować coś, co przedstawili jako rozszerzenie Zoom. IBM twierdzi, że plik był w rzeczywistości złośliwym skryptem przeznaczonym do naruszenia portfeli kryptowalutowych.

Syntetyczni członkowie zarządu nie musieli sami przeprowadzać technicznego włamania. Ich rolą było nadanie wiarygodności prośbie o instalację. Konwencjonalne złośliwe oprogramowanie dokończyło atak po tym, jak deepfake zbudował zaufanie.

Mechanizm ten wyjaśnia, dlaczego ataki deepfake stają się coraz istotniejsze dla zespołów bezpieczeństwa przedsiębiorstw. Syntetyczne media mogą wzmacniać phishing, business email compromise, oszustwa wobec help desku, oszustwa rekrutacyjne i dostarczanie złośliwego oprogramowania. Dodają pozorne ludzkie potwierdzenie do istniejącego schematu działania.

Atakujący może także koordynować kilka kanałów. Przejęta skrzynka pocztowa zapewnia kontekst z prawdziwych rozmów. Sklonowany głos potwierdza prośbę. Syntetyczne wideo zniechęca cel do kwestionowania autentyczności rozmówcy.

Praca zdalna zwiększa liczbę dostępnych możliwości. Pracownicy rutynowo kontaktują się ze współpracownikami, kandydatami, dostawcami i członkami zarządu przez skompresowane wideo, krótkie rozmowy, asynchroniczne wiadomości głosowe i tekst. Drobne nieprawidłowości wizualne lub dźwiękowe nie wydają się już niczym niezwykłym.

Resztę robi presja czasu. Prośba powiązana z terminem, problemem klienta, spotkaniem kierownictwa lub blokadą konta może wywrzeć na odbiorcy presję, aby działał przed zweryfikowaniem tożsamości przez inny kanał.

Jakość oszustwa ma więc mniejsze znaczenie niż otaczająca je historia. Atakujący mogą wykorzystać skradzione informacje organizacyjne do odtworzenia stanowisk, bieżących projektów, wzorców pisania, struktur raportowania i relacji z dostawcami.

Duże modele językowe pomagają zestawiać ten kontekst z ujawnionych dokumentów i informacji publicznych. Generatory głosu i wideo zapewniają następnie pozory obecności zaufanej osoby. To połączenie tworzy bardziej przekonujący pakiet socjotechniczny.

Wyjaśnianie ataków deepfake wyłącznie jako problemu kryminalistyki mediów pomija ten mechanizm. Zmanipulowane media są jednym elementem dłuższej sekwencji. Detektor może oznaczyć wideo, ale zabezpieczenie powinno także powstrzymać żądane działanie.

Oznacza to, że organizacje muszą zadać dwa pytania. Czy ten głos lub obraz jest autentyczny? Nawet jeśli jest autentyczny, czy ta osoba powinna móc autoryzować żądane działanie przez ten kanał?

Drugie pytanie jest bardziej trwałe. Prawdziwe konto członka zarządu może zostać przejęte, a realna osoba może wysłać błędną prośbę. Rozdzielenie zatwierdzeń, ograniczenia dostępu i niezależna weryfikacja zmniejszają zarówno syntetyczne, jak i konwencjonalne oszustwa.

Google News wzmacza problem tożsamości, a nie go tworzy

Pojawienie się tego ustalenia IBM w google news odzwierciedla rosnące zainteresowanie, lecz agregacja nie określa granic stojących za nim dowodów.

Agregacja wiadomości może w ciągu kilku godzin sprawić, że ustalenie dotyczące bezpieczeństwa będzie wyglądało na uniwersalne. Nagłówki powtarzają najsilniejszą liczbę, podczas gdy metodologia i definicje otrzymują mniej uwagi. Czytelnicy powinni oddzielać zmierzone ustalenia IBM od szerszych twierdzeń dotyczących każdej organizacji.

Raport analizuje naruszenia w 602 organizacjach. Nie reprezentuje każdej próby ataku, każdego zablokowanego deepfake’a ani każdej firmy na świecie. Organizacje, które doznały naruszeń podlegających zgłoszeniu, różnią się też od tych, które wcześniej wykryły i powstrzymały ataki.

IBM sponsorował i analizował badania przeprowadzone przez Ponemon Institute. Zapewnia to badaniu istotną podstawę empiryczną, ale nadal jest to raport sponsorowany przez branżę. Należy go czytać wraz z raportami o incydentach, alertami rządowymi i niezależnymi badaniami.

Występuje też problem klasyfikacji. Atak może obejmować phishing, deepfake, kradzież poświadczeń, złośliwe oprogramowanie i wykorzystanie chmury w tym samym łańcuchu. Przypisanie jednej techniki jako głównej kategorii może ukryć te nakładania się.

Samo słowo „deepfake” obejmuje kilka formatów. Sklonowana poczta głosowa różni się od manipulacji wideo na żywo. Syntetyczny dokument tożsamości różni się od wiadomości napisanej przez AI naśladującej członka zarządu. Ich wymagania techniczne i środki obronne nie są identyczne.

Mimo tych zastrzeżeń dowody wykraczające poza IBM potwierdzają podstawowy kierunek. Associated Press udokumentowała przypadki syntetycznego podszywania się pod urzędników państwowych, liderów firm i kandydatów do pracy.

W jednej kampanii użyto sztucznej imitacji głosu sekretarza stanu USA Marco Rubio, aby kontaktować się z urzędnikami rządowymi za pośrednictwem wiadomości i komunikacji głosowej. Inne przypadki obejmowały próby podszywania się pod członków kierownictwa firm lub umieszczania pracowników w firmach technologicznych pod fałszywą tożsamością.

Przykłady te pokazują, dlaczego zagrożenie deepfake’ami wskazane przez IBM przekracza tradycyjne granice bezpieczeństwa. Może wpływać na dyplomację, rekrutację, finanse, wsparcie techniczne, zarządzanie dostępem i komunikację wewnętrzną.

Niezależne dane ankietowe również wskazują na lukę w gotowości. Badania opisane przez ITPro wykazały, że 85% ankietowanych liderów ds. cyberbezpieczeństwa i IT doświadczyło co najmniej jednego ataku deepfake w poprzednim roku. Czterech na dziesięciu zgłosiło co najmniej trzy.

Ta sama ankieta dotycząca obrony przed deepfake’ami wykazała, że 88% organizacji zapewniło związane z tym szkolenia. Jednak średni wskaźnik zdania przy pierwszej próbie w symulacjach deepfake wyniósł jedynie 44%.

Wyników ankiet opartych na samoopisie nie należy traktować jak danych z reagowania na incydenty. Respondenci mogą różnie interpretować próby ataków, a badanie sponsorowane przez dostawcę wiąże się z zachętami komercyjnymi. Mimo to rozbieżność między pewnością siebie a wynikami symulacji pozostaje pouczająca.

Problem nie polega na tym, że pracownicy nie zapamiętali wystarczającej liczby wskazówek wizualnych. Rady dotyczące wzorców mrugania, nienaturalnego ruchu lub zakłóceń dźwięku stają się mniej użyteczne wraz z rozwojem narzędzi generatywnych. Kompresja i słabe połączenia mogą również sprawić, że autentyczni uczestnicy będą wyglądać podejrzanie.

Organizacje potrzebują mechanizmów kontrolnych, które pozostaną skuteczne po zniknięciu wskazówek wizualnych. Żądanie wysokiego ryzyka powinno wymagać weryfikacji za pośrednictwem znanego kanału, a nie danych kontaktowych przekazanych podczas podejrzanej interakcji.

Cykl wiadomości Google może pomóc liderom bezpieczeństwa zwrócić uwagę na tę zmianę. Może też zachęcać do powierzchownych reakcji, takich jak zakup detektora bez przeprojektowania procesów zatwierdzania i odzyskiwania dostępu.

Dane IBM uzasadniają inwestycje, ale nie wskazują jednego produktu jako kompletnej odpowiedzi. Trwałe podejście traktuje syntetyczne media jako dowód, który może informować decyzję, a nie jako samodzielne upoważnienie.

Prawdziwa rywalizacja to weryfikacja tożsamości kontra syntetyczne zaufanie

Obrona przed deepfake’ami działa wtedy, gdy wiarygodne podszycie się nie może nadać uprawnień.

Wiele procesów przedsiębiorstw nadal traktuje znajomość jako sygnał bezpieczeństwa. Pracownicy rozpoznają twarz, głos, styl pisania, stanowisko lub podpis e-mail i wnioskują, że prośba jest prawdziwa. Generatywna AI osłabia każdy element tego skrótu myślowego.

Weryfikacja tożsamości musi przejść od wyglądu do dowodu. Nie oznacza to wymagania skomplikowanego procesu przy każdej rozmowie. Oznacza dopasowanie siły weryfikacji do konsekwencji żądanego działania.

Rutynowe spotkanie może przebiegać normalnie. Prośba o ujawnienie danych uwierzytelniających, zmianę danych płatniczych, instalację oprogramowania, dodanie nowego administratora lub przekazanie poufnych zapisów powinna uruchamiać silniejsze mechanizmy kontrolne.

Jednym z użytecznych podejść jest niezależne oddzwonienie. Pracownik kończy przychodzącą interakcję i kontaktuje się z daną osobą przez numer lub konto już zapisane w zatwierdzonym katalogu. Dane kontaktowe przekazane przez osobę składającą prośbę nie mogą służyć jako niezależna weryfikacja.

Działania o dużym wpływie powinny również wymagać więcej niż jednego zatwierdzającego. Atakujący, który oszuka jednego pracownika, nie powinien uzyskać nieograniczonej drogi do pieniędzy, danych ani uprzywilejowanego dostępu.

Szczególnej uwagi wymagają działy wsparcia. Atakujący mogą naśladować pracownika lub kadrę kierowniczą, twierdząc, że zgubili telefon, zmienili numer lub napotkali awarię urządzenia uwierzytelniającego. Taka historia wywiera presję, by obejść dokładnie tę kontrolę, która blokuje atakującego.

Zespoły wsparcia powinny stosować udokumentowane ścieżki odzyskiwania dostępu, których nie da się zastąpić pilnością zgłaszaną przez kierownictwo. Rozpoznawalny głos nie powinien mieć pierwszeństwa przed potwierdzaniem tożsamości, dziennikami dostępu, okresami oczekiwania ani zasadami eskalacji.

Zespoły rekrutacyjne mierzą się z pokrewnym problemem. Syntetyczny kandydat może łączyć skradzione dane osobowe z wygenerowanym wideo i dźwiękiem. Celem mogą być dochody z zatrudnienia, dostęp do systemów korporacyjnych, kradzież własności intelektualnej lub przyczółek do późniejszego wymuszenia.

Organizacje powinny weryfikować tożsamość przed przyznaniem dostępu i powtarzać kontrole, gdy zmienia się poziom ryzyka. Osoba, która uczestniczy w rozmowie kwalifikacyjnej, wypełnia dokumentację zatrudnienia i uzyskuje dostęp do systemów produkcyjnych, powinna pozostawać powiązana poprzez możliwe do audytu dowody.

Zespoły bezpieczeństwa muszą również chronić informacje wykorzystywane do podszywania się. Publiczne nagrania kadry zarządzającej, rozmowy o wynikach finansowych, webinary i posty w mediach społecznościowych dostarczają próbek głosu i wyglądu. Przejęte skrzynki pocztowe oraz platformy współpracy dostarczają materiału kontekstowego, który czyni prośbę przekonującą.

Nie oznacza to, że kadra zarządzająca powinna zniknąć z komunikacji publicznej. Oznacza to, że organizacje powinny zakładać, iż publiczne media można odtworzyć, a historia wewnętrznych rozmów może wzmocnić imitację.

Narzędzia wykrywania nadal mają swoją rolę. Analiza dźwięku może identyfikować syntetyczne cechy, a systemy wideo mogą oceniać niespójności lub oznaki wstrzyknięcia. Pochodzenie treści może pomóc ustalić, skąd pochodzi plik i czy został zmieniony.

Żaden detektor nie oferuje jednak trwałej gwarancji. Fałszywie pozytywne wyniki mogą blokować autentyczną komunikację. Fałszywie negatywne wyniki mogą przepuścić zaawansowaną imitację. Atakujący mogą również unikać analizy, używając krótkich klipów, słabych połączeń lub deklarując awarię kamery.

Zespoły bezpieczeństwa powinny testować cały proces decyzyjny. Użyteczne ćwiczenie sprawdza, czy pracownik przestrzega zasad weryfikacji po zobaczeniu przekonującego przedstawiciela kadry kierowniczej, a nie czy potrafi samodzielnie rozpoznać wygenerowane wideo.

Procedury muszą być również łatwe do znalezienia pod presją. Zespoły mogą utrzymywać przeszukiwalną bazę wiedzy zawierającą zatwierdzone ścieżki kontaktu, zasady eskalacji i kroki reagowania na incydenty. Dostęp do tych materiałów nie powinien zależeć od potencjalnie przejętego kanału.

Zwycięska architektura zakłada, że syntetyczne zaufanie czasem zadziała. Następnie ogranicza to, co sama perswazja może osiągnąć.

AI pomaga w obronie, ale raport IBM ujawnia kompromis

Ta sama automatyzacja, która przyspiesza atakującego, może skrócić czas wykrywania i reagowania po stronie obrońców.

Ustalenia IBM nie potwierdzają prostej narracji, według której AI jedynie pogarsza bezpieczeństwo. Raport wskazuje, że organizacje szeroko wykorzystujące AI i automatyzację w cyberbezpieczeństwie obniżyły średnie koszty naruszeń o niemal dwa miliony dolarów.

Badanie wykazało również, że ponad połowa organizacji korzystała z agentów do wykrywania zagrożeń i ich powstrzymywania. Agent w tym kontekście to oprogramowanie, które może realizować zdefiniowany cel na kilku etapach, na przykład badając alerty i koordynując reakcję.

Jednak tylko 18% korzystało z agentów do zarządzania podatnościami. Ta luka pozostawia znane słabości techniczne nierozwiązane, podczas gdy atakujący wykorzystują AI do badania celów i przyspieszania eksploatacji.

Ta nierównowaga ujawnia centralny kompromis. AI może pomóc obrońcom przetwarzać więcej sygnałów, identyfikować podejrzane zachowania i szybciej reagować. Może też tworzyć nieprzejrzyste decyzje, rozszerzone uprawnienia, nowe dane uwierzytelniające i dodatkowe powierzchnie ataku.

Zautomatyzowany system, który może ograniczyć konto, potrzebuje dostępu do infrastruktury tożsamości. Agent usuwający problem w chmurze może wymagać uprawnienia do zmiany konfiguracji produkcyjnych. Przejęcie któregokolwiek z tych narzędzi może dać atakującemu cenne uprawnienia.

Organizacje muszą zatem zabezpieczać defensywną AI równie starannie jak inne systemy uprzywilejowane. Powinny prowadzić inwentaryzację tożsamości agentów, ograniczać uprawnienia, monitorować wywołania narzędzi i rejestrować zmiany wprowadzane przez każdy system.

Ustalenia IBM X-Force z 2026 roku wzmacniają ten sam wniosek z innej perspektywy. IBM odnotował wzrost rok do roku o 44% w przypadku ataków rozpoczynających się od wykorzystania publicznie dostępnych aplikacji. Wykorzystanie podatności stanowiło 40% incydentów zaobserwowanych przez X-Force w 2025 roku.

Jej ustalenia wskaźnika zagrożeń zidentyfikowały również ponad 300 000 zestawów danych uwierzytelniających ChatGPT oferowanych w dark webie w 2025 roku. Operatorzy infostealerów rozszerzyli działania zbierające o usługi AI.

Nie są to statystyki dotyczące deepfake’ów, ale wyjaśniają środowisko, w którym działa podszywanie się. Atakujący mogą łączyć skradzione dane uwierzytelniające, wystawione aplikacje i syntetyczne media. Fałszywe połączenie od kadry kierowniczej staje się groźniejsze, gdy atakujący zna już wewnętrzne szczegóły lub kontroluje legalne konto.

Dlatego zakup detektora deepfake’ów nie może zastąpić podstaw bezpieczeństwa. Silne uwierzytelnianie, ograniczone uprawnienia, załatane aplikacje, bezpieczne odzyskiwanie dostępu i monitorowane dane uwierzytelniające nadal decydują o tym, czy początkowe oszustwo przerodzi się w naruszenie.

Raportowanie IBM tworzy również napięcie komercyjne. Dostawcy zabezpieczeń korzystają, gdy nowa kategoria zagrożeń zyskuje uwagę. Ich narzędzia mogą dostarczać wartość, ale nabywcy powinni testować konkretne możliwości względem procesów, które muszą chronić.

Detektor głosu zaprojektowany dla centrów obsługi telefonicznej może nie obejmować spotkania wideo. Klasyfikator mediów może oceniać przesłane pliki, ale nie wykryć wstrzyknięcia na żywo. Platforma szkoleniowa może poprawić świadomość bez zmiany mechanizmów autoryzacji.

Nabywcy powinni żądać dowodów z realistycznych testów. Powinni pytać, jakie formaty mediów analizuje system, jak obsługuje krótkie próbki oraz jak wydajność zmienia się w zależności od języka, akcentu, poziomu kompresji i szumu tła.

Powinni także analizować konsekwencje operacyjne. Alert wykrywania wymaga zdefiniowanej reakcji. Jeśli pracownicy mogą zignorować ostrzeżenie lub sfinalizować transakcję gdzie indziej, system dodaje informacje bez kontrolowania ryzyka.

Silniejsza strategia łączy sygnały techniczne z kontrolami procesowymi. Wykrywanie może zwiększać tarcie, gdy media wydają się syntetyczne. Niezależna weryfikacja tożsamości i zasady zatwierdzania mogą zatrzymać działanie nawet wtedy, gdy media wyglądają autentycznie.

To połączenie akceptuje niewygodną rzeczywistość. Przedsiębiorstwa nie mogą polegać na tym, że zawsze odróżnią autentyczne media od wygenerowanych, ale mogą kontrolować, do autoryzacji czego może służyć dowolna wiadomość.

Na co zespoły bezpieczeństwa powinny zwracać uwagę po nagłówku Google News

Trzy sygnały pokażą, czy podszywanie się z użyciem deepfake’ów staje się trwałą metodą ataku na przedsiębiorstwa, a nie tylko wyrazistą kategorią medialną.

Pierwszym sygnałem jest raportowanie incydentów, które oddziela syntetyczne podszywanie się od ogólnego phishingu. Wiele raportów grupuje wiadomości napisane przez AI, sklonowane głosy, zmanipulowane filmy i fałszywe dokumenty pod jedną szeroką etykietą AI.

Bardziej precyzyjne raportowanie ujawniłoby, które formaty prowadzą do uzyskania dostępu, strat finansowych, instalacji złośliwego oprogramowania lub ujawnienia danych. Pokazałoby też, czy podszywanie się na żywo rośnie szybciej niż treści nagrane wcześniej.

Liderzy bezpieczeństwa powinni śledzić komunikaty instytucji rządowych, skargi do organów ścigania, roszczenia ubezpieczeniowe i coroczne raporty dotyczące reagowania na incydenty. Wzrost widoczny w niezależnych zbiorach danych wzmocniłby wniosek IBM.

Drugim sygnałem są dowody z testowania mechanizmów kontrolnych w przedsiębiorstwach. Organizacje powinny mierzyć, jak często pracownicy przestrzegają zasad weryfikacji wysokiego ryzyka w obliczu realistycznych syntetycznych przedstawicieli kadry kierowniczej, dostawców, kandydatów lub osób dzwoniących do wsparcia.

Sam wskaźnik zaliczenia symulacji nie wystarczy. Zespoły powinny śledzić, czy pracownicy kończą podejrzaną interakcję, korzystają z zatwierdzonego katalogu, niezależnie kontaktują się z prawdziwą osobą i zgłaszają próbę.

Powinny również testować egzekwowanie techniczne. Odzyskanie dostępu do wrażliwego konta powinno się nie powieść, gdy dowody tożsamości są niekompletne. Zmiany płatności i uprzywilejowany dostęp powinny pozostać zablokowane, dopóki nie nadejdą wszystkie wymagane zatwierdzenia.

Lepsze wyniki tych ćwiczeń osłabiłyby przewagę atakującego, nawet jeśli generowanie mediów nadal będzie się rozwijać. Stałe wyniki pokazałyby, że szkolenia i mechanizmy kontrolne nie nadążają.

Trzecim sygnałem jest sposób, w jaki platformy tożsamości i komunikacji zmieniają swoje produkty. Usługi spotkań, centra kontaktowe, dostawcy poczty e-mail i dostawcy tożsamości mogą dodać mechanizmy pochodzenia, ocenę ryzyka, kontrole żywotności i silniejsze opcje weryfikacji.

Wartość tych funkcji będzie zależeć od interoperacyjności i wdrożenia. System pochodzenia pomaga tylko wtedy, gdy treści zawierają wiarygodne poświadczenia, a odbiorcy wiedzą, jak je oceniać.

Organizacje powinny również obserwować, czy platformy pozwalają automatycznie reagować politykom bezpieczeństwa. Podejrzane syntetyczne połączenie może ograniczać udostępnianie plików, blokować odzyskiwanie danych uwierzytelniających lub wymagać drugiego zatwierdzającego.

Takie możliwości wzmocniłyby obronę bez konieczności przekształcania pracowników w ekspertów kryminalistyki mediów. Mogą jednak również powodować obawy dotyczące prywatności i fałszywe alarmy, jeśli zostaną wdrożone bez jasnych ograniczeń.

Regulacje wpłyną na ten rozwój, ale same przepisy nie mogą zweryfikować pilnej prośby od kadry kierowniczej. Kryminalizacja szkodliwych deepfake’ów może wspierać egzekwowanie prawa po incydencie. Mechanizmy kontrolne przedsiębiorstwa muszą zapobiegać działaniu, gdy interakcja jeszcze trwa.

Kolejne badania IBM i niezależne analizy naruszeń danych zapewnią ważne porównanie. Jeśli podszywanie się przy użyciu deepfake’ów będzie nadal rosnąć jako odsetek ataków wspieranych przez AI, zabezpieczenia skoncentrowane na tożsamości staną się standardowym wymogiem bezpieczeństwa.

Jeśli odsetek spadnie, liderzy powinni zbadać przyczyny. Być może skuteczniejsze zabezpieczenia działają, albo atakujący przenieśli się na inne metody wspomagane przez AI. Niższy udział nie będzie automatycznie oznaczać, że szerszy problem związany z tożsamością zniknął.

Natychmiastowa reakcja powinna pozostać wyważona. Organizacje nie muszą uznawać każdego spotkania wideo za oszustwo. Muszą jednak przestać traktować znajomy wygląd jako wystarczające uprawnienie.

To trwałe przesłanie stojące za nagłówkiem google news. Raport IBM nadaje liczbowy wymiar problemowi, który wiele zespołów już podejrzewało: generatywna AI sprawiła, że zaufanie łatwiej imitować, niż systemy uprawnień były zaprojektowane, by to obsłużyć.

Liderzy bezpieczeństwa powinni teraz sprawdzić jedno konkretne pytanie. Czy przekonująca imitacja członka kadry kierowniczej, pracownika, dostawcy lub kandydata mogłaby wywołać wrażliwe działanie bez niezależnej weryfikacji?

Jeśli odpowiedź brzmi „tak”, kolejnym krokiem nie jest kolejna prezentacja zwiększająca świadomość. Należy zmapować podatny proces, dodać zaufany drugi kanał, ograniczyć uprawnienia związane z działaniem oraz przetestować zmieniony proces pod kątem realistycznego podszywania się.