Badanie KPMG dotyczące cyberbezpieczeństwa AI pokazuje, że dojrzałość czyni firmy bardziej ostrożnymi, a nie mniej
KPMG stwierdziło 50-punktową różnicę w aktywnej cyberobronie między firmami dopiero eksperymentującymi z AI a organizacjami, które już raportują zwroty. Badanie KPMG dotyczące cyberbezpieczeństwa AI pokazuje, że pewność nie eliminuje obaw. Daje firmom wystarczające doświadczenie operacyjne, by identyfikować więcej zagrożeń, finansować silniejsze mechanizmy kontroli i powierzać AI bardziej istotne zadania związane z bezpieczeństwem.
Jedynie 8% organizacji na etapie eksperymentowania zgłosiło wdrożenie cyberobrony wspieranej przez AI. Wśród organizacji z potwierdzonymi zwrotami odsetek ten sięgnął 58%. Wcześni użytkownicy częściej też ograniczali się do monitorowania, nie zmieniając operacji bezpieczeństwa.
Nie jest to prosta historia o firmach, które oswajają się z AI. To historia o tym, jak rosnące zaufanie zmienia oczekiwania firm wobec AI. Dojrzali użytkownicy wychodzą poza obserwowanie zagrożeń, jednocześnie akceptując, że głębsza automatyzacja zwiększa ekspozycję i odpowiedzialność.
Wyniki pochodzą z kwartalnego badania KPMG Global AI Pulse, w którym ankietowano 2 131 liderów wyższego szczebla w 20 krajach. Wynikająca z niego luka dojrzałości ma znaczenie dla dostawców rozwiązań bezpieczeństwa, nabywców korporacyjnych, rad nadzorczych i pracowników, których przepływy pracy coraz bardziej zależą od agentów AI.
Badanie KPMG dotyczące cyberbezpieczeństwa AI ujawnia podział operacyjny
Kluczowa różnica nie dotyczy tego, czy firmy uznają ryzyko związane z AI, lecz tego, czy obawy te zmieniły codzienne operacje bezpieczeństwa.
KPMG przeprowadziło ankietę wśród menedżerów odpowiedzialnych za strategię i operacje organizacyjne między 23 lipca a 26 sierpnia 2026 roku. Kwalifikujące się organizacje zwykle raportowały co najmniej 50 mln USD rocznych przychodów. Na kilku dużych rynkach obowiązywały wyższe progi.
Badacze porównali 268 organizacji na etapie eksperymentowania z 208 organizacjami raportującymi ugruntowane zwroty. Porównanie to przyniosło najczytelniejszy wniosek dotyczący cyberbezpieczeństwa w Global AI Pulse.
Wśród eksperymentujących 26% monitorowało zagrożenia związane z AI bez wprowadzania zmian operacyjnych. Wśród ugruntowanych użytkowników odsetek ten spadł do 4%. Jednocześnie aktywna obrona wspierana przez AI wzrosła z 8% do 58%.
Kontrast ten sugeruje, że programy na wczesnym etapie często traktują bezpieczeństwo jako zadanie obserwacyjne. Zespoły gromadzą alerty, aktualizują polityki i analizują możliwe nadużycia. Wahają się przed pozwoleniem AI na bezpośredni wpływ na wykrywanie, dochodzenia lub reakcję.
Ugruntowani użytkownicy przekroczyli tę granicę. Ich programy AI zgromadziły wystarczająco dużo dowodów, infrastruktury i wewnętrznego zaufania, by wspierać bardziej aktywne role w bezpieczeństwie. Nie oznacza to, że autonomiczny model kontroluje cały proces reagowania.
Cyberobrona wspierana przez AI może obejmować kilka węższych funkcji. System może priorytetyzować alerty, łączyć powiązane zdarzenia, podsumowywać dochodzenia, identyfikować nietypową aktywność lub rekomendować kroki ograniczające skutki incydentu. Zatwierdzenie przez człowieka może pozostać obowiązkowe dla działań o dużym wpływie.
Odsetki nie wskazują, które funkcje każdy respondent zautomatyzował. Mimo to pokazują istotne przesunięcie od obserwacji ku interwencji. To przesunięcie zmienia konsekwencje błędów.
System monitorujący może przytłoczyć analityków fałszywymi alarmami. System operacyjny może zablokować konto, odizolować urządzenie, zmienić dostęp lub przekierować dochodzenie. Każde działanie wymaga jaśniejszego upoważnienia, testowania i przeglądu.
Badanie wykazało również, że 86% respondentów dostosowywało swoje modele operacyjne cyberbezpieczeństwa do zagrożeń przyspieszanych przez AI. Według raportu większość zgłosiła zmiany w zarządzaniu cyberbezpieczeństwem lub wykrywaniu zagrożeń.
Ta szeroka reakcja wspiera pierwotną analizę wiadomości, ale porównanie dojrzałości dostarcza ważniejszego sygnału. Niemal każda firma może powiedzieć, że reaguje. Znacznie mniej może wykazać, że reakcja dotarła do poziomu operacyjnego.
Model operacyjny określa, kto podejmuje decyzje, które systemy je realizują i jak organizacja ocenia wyniki. Zmiana tego modelu wymaga czegoś więcej niż kupienia funkcji AI od dostawcy rozwiązań bezpieczeństwa.
Zespoły potrzebują użytecznych danych, zdefiniowanych ścieżek eskalacji, kryteriów oceny i zapisów wyjaśniających zautomatyzowane decyzje. Potrzebują także sposobu na odwrócenie szkodliwych działań bez utraty dowodów.
Wymagania te wyjaśniają, dlaczego wdrażanie na poziomie operacyjnym pozostaje w tyle za ogólnym zainteresowaniem. Firmy mogą szybko testować AI. Nie mogą jednak z taką samą szybkością bezpiecznie delegować decyzji dotyczących bezpieczeństwa.
Dojrzałość w cyberbezpieczeństwie AI jednocześnie zwiększa wydatki i obawy
Dojrzali użytkownicy AI wydają więcej na bezpieczeństwo, ponieważ doświadczenie ujawnia zależności, które eksperymentowanie może ukrywać.
Siedemdziesiąt jeden procent ugruntowanych użytkowników uwzględniło cyberbezpieczeństwo i bezpieczeństwo danych wśród priorytetów budżetowych dotyczących AI. To samo stwierdziło jedynie 36% organizacji eksperymentujących.
Dojrzała grupa wyrażała również większe obawy. Połowa określiła cyberbezpieczeństwo jako barierę dla swojej strategii AI, wobec 34% eksperymentujących. Intensywniejsze wykorzystanie korelowało więc zarówno z większymi inwestycjami, jak i z silniej odczuwanymi trudnościami.
Na pierwszy rzut oka wyniki te wydają się sprzeczne. Organizacje wdrażają więcej cyberobrony wspieranej przez AI, a jednocześnie częściej określają cyberbezpieczeństwo jako przeszkodę.
Sprzeczność znika, gdy AI trafia do rzeczywistych przepływów pracy. Pilotaż może działać na ograniczonych danych i z wąskimi uprawnieniami. System produkcyjny często łączy się z platformami tożsamości, repozytoriami dokumentów, usługami chmurowymi, danymi klientów i aplikacjami wewnętrznymi.
Każde dodatkowe połączenie rozszerza zakres, do którego może dotrzeć błąd lub atakujący. Model nie potrzebuje pełnej kontroli administracyjnej, aby wyrządzić szkody. Wystarczający może być dostęp do wrażliwego kontekstu, narzędzi wykonawczych lub zaufanej komunikacji.
Tworzy to kompromis między możliwościami a ekspozycją. Użyteczna AI potrzebuje informacji i uprawnień. Zespoły bezpieczeństwa muszą ograniczać oba elementy, nie czyniąc przy tym systemu nieskutecznym.
Ugruntowani użytkownicy wielokrotnie stykają się z tym napięciem. Uczą się, o jakie uprawnienia występują modele, jak wyniki wpływają na pracowników i gdzie pojawiają się zależności od dostawców. Organizacje eksperymentujące mogą odłożyć wiele z tych pytań, ponieważ ich wdrożenia pozostają ograniczone.
Wniosek ten podważa także znaną narrację o wdrażaniu technologii. Komfort organizacyjny nie sprawia, że obawy dotyczące bezpieczeństwa znikają. Przenosi je z hipotetycznych rejestrów ryzyka do budżetów, architektury i decyzji kadry kierowniczej.
To rozróżnienie ma znaczenie dla nabywców korporacyjnych. Firma oceniająca produkty bezpieczeństwa AI nie powinna interpretować długiej listy mechanizmów kontroli jako dowodu na opór organizacyjny. Kontrole mogą wskazywać, że firma osiągnęła zastosowania o większych konsekwencjach.
Działa to również w drugą stronę. Organizacja zgłaszająca niewiele przeszkód może mieć proste, odizolowane wdrożenie. Niski poziom obaw nie oznacza automatycznie silniejszego bezpieczeństwa.
Kategorie dojrzałości KPMG opisują drogę rozwoju AI, a nie certyfikację bezpieczeństwa. Ugruntowane zwroty oznaczają, że respondenci zgłaszali znaczące wyniki i możliwości wzrostu. Etykieta ta nie dowodzi, że ich zabezpieczenia przewyższają niezależne benchmarki.
Mimo to powiązanie jest użyteczne. Firmy raportujące zwroty znacznie częściej finansowały kontrole cyberbezpieczeństwa, dywersyfikowały dostawców, formalizowały odpowiedzialność i wdrażały aktywną obronę.
Wzorzec ten odpowiada również szerszemu środowisku zagrożeń. Światowe Forum Ekonomiczne podało, że 87% ankietowanych liderów dostrzegało wzrost podatności związanych z AI w poprzednim roku. Jego raport o cyberperspektywach AI wykazał również nierówny dostęp do wiedzy specjalistycznej i technologii obronnych.
Ponad połowa tych respondentów wskazała ograniczone umiejętności i wiedzę jako przeszkodę dla cyberbezpieczeństwa opartego na AI. Mniejsze organizacje częściej niż większe zgłaszały niewystarczającą odporność.
Kontekst ten wprowadza ważne zastrzeżenie. Respondenci KPMG pochodzili z dużych organizacji, w tym wielu posiadających zasoby do budowania formalnych warstw zarządzania. Nie można zakładać, że ich ścieżka będzie taka sama dla każdej firmy.
Dojrzała korporacja międzynarodowa może rozłożyć koszty między zespoły bezpieczeństwa, prawne, danych i inżynieryjne. Mniejsza firma może otrzymać możliwości AI za pośrednictwem istniejącego dostawcy, nie dysponując porównywalnymi zasobami do oceny.
Luka we wdrażaniu może więc przerodzić się w lukę odporności. Firmy o większych zasobach mogą wykorzystywać AI do przyspieszania obrony, jednocześnie rozwijając wokół niej mechanizmy kontroli. Inne mogą uzyskać te same zautomatyzowane funkcje bez równie dobrej widoczności ich działania.
Aktywna obrona zamienia ryzyko AI w kompromis dotyczący możliwości
Centralne pytanie nie brzmi już, czy AI należy do cyberbezpieczeństwa, lecz jak dużą władzę obrońcy mogą jej przyznać, nie tworząc kolejnej ścieżki ataku.
Zespoły bezpieczeństwa stoją przed trudną asymetrią. Atakujący mogą używać automatyzacji bez przestrzegania zasad zakupowych, wymogów audytowych czy kontroli zmian. Obrońcy muszą działać szybko, jednocześnie chroniąc systemy produkcyjne i dowody.
AI może pomóc analitykom przetwarzać duże wolumeny alertów i łączyć słabe sygnały między systemami. Może też generować niespójne wnioski, dziedziczyć zatruty kontekst lub podejmować niebezpieczne działania za pośrednictwem zintegrowanego narzędzia.
Ryzyko rośnie wraz z agentową AI, czyli systemami, które planują i wykonują wieloetapowe zadania z częściową autonomią. Systemy te mogą wyszukiwać informacje, rozumować, wywoływać narzędzia programowe i dostosowywać swoje podejście na podstawie wyników.
KPMG stwierdziło, że 38% respondentów rozwijało lub wdrażało systemy wieloagentowe. Znaczące wykorzystanie agentów AI przez pracowników osiągnęło 34%, wobec 25% w pierwszym kwartale.
Wzrost ten zwiększa presję na zarządzanie tożsamością i dostępem. Agent musi działać pod zdefiniowaną tożsamością, z uprawnieniami odpowiednimi do swojego zadania. Współdzielone poświadczenia i szerokie tokeny osłabiają rozliczalność.
Zespoły bezpieczeństwa muszą także odróżniać ochronę AI od wykorzystywania AI do ochrony. Cele te częściowo się pokrywają, ale nie są tożsame.
Wykorzystanie AI w cyberbezpieczeństwie oznacza stosowanie modeli do wykrywania zagrożeń, analizy podatności, triage'u alertów lub reakcji. Cyberbezpieczeństwo dla AI oznacza ochronę modeli, danych, aplikacji, interfejsów i narzędzi agentowych przed manipulacją lub kradzieżą.
Trzecia kategoria obejmuje złośliwe wykorzystanie AI. Atakujący mogą stosować modele do rozpoznania, podszywania się, wsparcia eksploatacji lub socjotechniki. Organizacje muszą przygotować się na wszystkie trzy kategorie, nie traktując ich jako jednego problemu.
To szersze ujęcie pojawia się w publicznych wytycznych od kilku lat. Ramy zarządzania ryzykiem AI opracowane przez NIST proszą organizacje o zarządzanie, mapowanie, mierzenie i ograniczanie ryzyka AI w całym cyklu życia systemu.
NIST opracował także wstępny Cyber AI Profile, który łączy rezultaty cyberbezpieczeństwa z możliwościami i ryzykami specyficznymi dla AI. Praca ta odzwierciedla tę samą konwergencję widoczną w badaniu KPMG.
Praktycznym wyzwaniem jest upoważnienie. System AI, który podsumowuje alert, wiąże się z jednym poziomem ryzyka. System, który wyłącza użytkownika lub modyfikuje reguły zapory sieciowej, wiąże się z innym.
Firmy potrzebują wyraźnych ograniczeń dla każdego kroku. Muszą określić, które decyzje pozostają doradcze, które wymagają zatwierdzenia, a które mogą być wykonywane automatycznie w ściśle określonych warunkach.
Potrzebują także danych ewaluacyjnych odzwierciedlających rzeczywiste operacje. Model testowany na czystych przykładach historycznych może zawieść podczas chaotycznego incydentu. Atakujący mogą celowo tworzyć dane wejściowe wykorzystujące jego założenia.
Kontrola człowieka pozostaje ważna, ale nie może stać się pustym wymogiem formalnym. Osoby dokonujące przeglądu potrzebują wystarczającego kontekstu, czasu i uprawnień, aby zakwestionować rekomendację. W przeciwnym razie automatyzacyjne uprzedzenie przekształca nominalny nadzór w rutynowe zatwierdzanie.
Wzorzec dojrzałego wdrażania sugeruje, że firmy budują to zaufanie stopniowo. Monitoring pojawia się najpierw, ponieważ dostarcza informacji bez bezpośredniej interwencji. Aktywna obrona następuje wtedy, gdy organizacje ufają swoim danym, mechanizmom kontroli i procesom reagowania.
Jednak rosnący komfort może prowadzić do samozadowolenia. Model, który działał dobrze podczas wcześniejszych incydentów, może zachowywać się inaczej po aktualizacji. Dostawca może zmienić zachowanie systemu bez zmiany przepływu pracy klienta.
Dlatego operacyjna AI wymaga ciągłego testowania. Zespoły powinny śledzić fałszywe alarmy, cofnięte działania, pominięte zagrożenia, częstotliwość eskalacji i rozbieżności opinii analityków. Wydajność należy mierzyć po wdrożeniu, a nie wyłącznie przed zatwierdzeniem.
Te same dowody powinny wpływać na decyzje zakupowe. Kupujący muszą wiedzieć, czy AI dostawcy tworzy rekomendacje, wykonuje działania czy deleguje zadania innym agentom. Te różnice kształtują ryzyko bardziej niż etykieta „napędzane przez AI”.
Warstwy nadzoru zbliżają zarządzanie do modelu
Najbardziej zaawansowani użytkownicy według KPMG budują systemy kontroli wokół AI, ale badanie pokazuje, że wiele organizacji nadal nie ma pełnego pokrycia.
Pięćdziesiąt pięć procent respondentów korzystało z formalnej warstwy nadzoru AI. KPMG definiuje ją jako mechanizmy kontroli i narzędzia działające między modelami AI a biznesowymi przypadkami użycia.
Warstwa ta może regulować, do czego modele mają dostęp, jakie działania wykonują oraz w jaki sposób wyniki trafiają do pracowników lub systemów. Może również zapewniać monitoring, ewaluację, ścieżki audytu i śledzenie kosztów.
Wśród organizacji zgłaszających ugruntowane korzyści 86% miało formalną, międzyfunkcyjną lub obejmującą całe przedsiębiorstwo warstwę. Wśród eksperymentujących odsetek ten wynosił 31%.
Kontrole bezpieczeństwa i tożsamości pojawiły się w warstwach 43% respondentów. Kontrole dostępu do danych również osiągnęły 43%, a 41% monitorowało wyniki AI.
Liczby te oznaczają, że większość respondentów nie zgłosiła posiadania każdej z tych indywidualnych możliwości. Firma może mieć formalną warstwę zarządzania, a jednocześnie nie mieć w niej istotnych funkcji.
Kontrola człowieka pojawiła się w 34% warstw. Ewaluacja i testowanie osiągnęły 33%, egzekwowanie polityk 30%, a ścieżki audytu wystąpiły w 28%.
Routing modeli był najmniej powszechny — 23%. Routing wybiera model obsługujący dane zadanie i może pomóc organizacjom zarządzać wrażliwością, wydajnością, dostępnością i kosztami.
KPMG podsumowało tę nierównowagę jako budowanie przez firmy bramki przed centralą przełączającą. Wiele organizacji potrafi ograniczać dostęp, ale mniej z nich może dynamicznie kierować pracę między modelami i dostawcami.
Ta słabość ma znaczenie dla odporności operacyjnej. Firma może mieć silne kontrole dostępu wokół jednego dostawcy, a jednocześnie nie dysponować przetestowaną alternatywą. Jeśli dostawca zmieni warunki, dostępność, zachowanie lub zasięg geograficzny, działalność może zostać zakłócona.
Ugruntowani użytkownicy wydawali się lepiej przygotowani na ten problem. Tylko 6% polegało głównie na jednym globalnym dostawcy modeli, w porównaniu z 19% eksperymentujących.
Kolejne 8% ugruntowanych użytkowników polegało na niewielkiej liczbie dostawców, wobec 29% eksperymentujących. Dojrzalsza grupa częściej też dostrzegała wartość w przełączaniu między modelami.
Różnorodność dostawców nie zmniejsza ryzyka automatycznie. Wiele integracji rozszerza zakres systemów, które zespoły muszą oceniać i monitorować. Różne modele mogą generować niespójne wyniki lub wymagać odmiennych mechanizmów kontroli.
Korzyść wynika z ograniczenia skoncentrowanej zależności. Przetestowana alternatywa daje organizacjom opcje podczas awarii, zmiany polityki, konfliktu regulacyjnego lub poważnej awarii modelu.
W tym miejscu spotykają się cyberbezpieczeństwo, suwerenność i ciągłość działania. Suwerenność modeli dotyczy tego, kto kontroluje krytyczne modele, gdzie działają oraz czy można polegać na dostępie do nich.
Siedemdziesiąt dwa procent respondentów stosowało formalne kryteria suwerenności w co najmniej części decyzji lub utrzymywało strategię obejmującą całe przedsiębiorstwo. Tylko 8% stwierdziło, że kwestie suwerenności spowolniły wdrożenie.
Wynik ten sugeruje, że większość firm postrzega suwerenność jako ograniczenie projektowe, a nie powód, by zaprzestać korzystania z AI. Starają się zachować możliwość zmiany dostawcy i kontrolę nad lokalizacją danych, jednocześnie kontynuując wdrażanie.
Drugą częścią warstwy zarządzania jest rozliczalność. KPMG ustaliło, że 53% organizacji przypisało odpowiedzialność za decyzje wspierane przez AI poziomowi C-suite lub wyższemu.
W 35% organizacji odpowiedzialność spoczywała na wskazanym dyrektorze. Kolejne 18% przypisało ją CEO lub komitetowi wykonawczemu.
Odpowiedzialność na poziomie kierowniczym może rozwiązywać konflikty między szybkością, kosztem i ryzykiem. Może też ułatwiać badanie niepowodzeń, ponieważ ktoś ma uprawnienia nad całym modelem operacyjnym.
Samo stanowisko kierownicze nie gwarantuje jednak skutecznej kontroli. Rozliczalność wymaga rejestrów decyzji, wiarygodnej telemetrii, prawa do eskalacji oraz personelu technicznego, który potrafi wyjaśnić zachowanie systemu.
KPMG ujęło to jasno: „Rozliczalność jest tym, co przekształca mechanizmy kontroli w decyzje, których wyjaśnienia można od kogoś wymagać”. Jest to szczególnie istotne, gdy agenci działają ponad granicami działów.
Zespół bezpieczeństwa nie może zarządzać tym, czego nie potrafi zidentyfikować. Organizacje potrzebują rejestrów modeli, agentów, integracji, źródeł danych, właścicieli i uprawnień. Rejestry te muszą pozostawać aktualne, gdy pracownicy dodają narzędzia.
Obciążenie dokumentacyjne jest znaczne. Zespoły często przechowują polityki, ewaluacje, notatki z incydentów i decyzje architektoniczne w odrębnych systemach. Przeszukiwalna baza wiedzy może pomóc osobom dokonującym przeglądu połączyć te materiały podczas oceny.
Celem nie jest dokumentacja dla niej samej. Zespoły potrzebują dowodów, które pozwolą im odpowiedzieć, kto zatwierdził system, co się zmieniło i dlaczego doszło do automatycznego działania.
Badanie pokazuje korelację, a nie dowód bezpieczniejszej AI
Dojrzali użytkownicy zgłaszają więcej mechanizmów kontroli i aktywnych form obrony, ale deklarowana dojrzałość nie może potwierdzić, że organizacje te doświadczają mniej incydentów.
Badanie KPMG AI cybersecurity survey oferuje szczegółowy obraz praktyk zarządzania. Nie przedstawia niezależnie testowanych wyników w zakresie bezpieczeństwa.
Respondenci klasyfikowali etap rozwoju AI w swoich organizacjach oraz opisywali własne mechanizmy kontroli, wydatki i priorytety. Badanie nie opublikowało wskaźników naruszeń dla każdej grupy dojrzałości.
Nie porównywało też wskaźników fałszywych alarmów, szybkości powstrzymywania incydentów, strat finansowych ani czasu odzyskiwania sprawności. Takie miary pomogłyby określić, czy obrona wspomagana przez AI zwiększa odporność.
Związek z dojrzałością może mieć kilka wyjaśnień. Doświadczenie może prowadzić firmy do budowania lepszych mechanizmów kontroli. Silniejsze organizacje mogą też szybciej wdrażać AI, ponieważ już dysponują większymi budżetami i lepszymi zespołami bezpieczeństwa.
Trzeci czynnik może wpływać na obie strony. Firmy posiadające cenne dane, prowadzące regulowaną działalność lub mające złożoną infrastrukturę mogą jednocześnie intensywnie inwestować w AI i cyberbezpieczeństwo.
Oznacza to, że czytelnicy nie powinni traktować wskaźnika wdrożenia na poziomie 58% jako dowodu, że aktywna obrona AI przyniosła ugruntowane korzyści. Badanie wskazuje związek, a nie wynik przyczynowy.
Próba badawcza również ogranicza możliwość uogólniania. Uczestniczące organizacje spełniały istotne progi przychodowe, a amerykańska próba śledząca koncentrowała się na firmach z przychodami wynoszącymi co najmniej 1 miliard dolarów.
Mniejsze przedsiębiorstwa często w większym stopniu zależą od gotowego oprogramowania i dostawców usług zarządzanych. Mogą mieć mniejszy wpływ na wybór modeli, metody oceny lub telemetrię incydentów.
Kategorie w raporcie są również szerokie. „Wspomagana przez AI obrona cybernetyczna” może opisywać systemy o bardzo różnej autonomii, dokładności i wpływie operacyjnym.
Jeden respondent może wykorzystywać model do podsumowywania spraw. Inny może zezwalać na automatyczne powstrzymywanie zagrożeń. Umieszczenie obu przypadków w jednej kategorii może ukrywać istotne różnice.
Raport podaje również, że 89% organizacji dostrzega mierzalną wartość AI, podczas gdy tylko 12% konsekwentnie porównuje tę wartość z kosztem w skali całego przedsiębiorstwa. Ta luka powinna temperować pewne twierdzenia o zwrotach.
Deklarowana wartość może obejmować produktywność, oszczędności kosztowe, wzrost przychodów lub lepsze decyzje. Nie musi jednak oznaczać, że program przyniósł pełny zwrot finansowy.
Ta sama ostrożność dotyczy wyników w cyberbezpieczeństwie. Szybsza analiza alertów może oszczędzać czas analityków bez ograniczania skutków incydentu. Automatyczne działanie może skracać czas powstrzymywania zagrożenia, jednocześnie zwiększając zakłócenia w innym obszarze.
Rady nadzorcze powinny zatem pytać o miary wyników powiązane z konkretnymi przypadkami użycia. Przydatne wskaźniki obejmują czas dochodzenia, potwierdzoną jakość wykrywania, cofnięcia działań, pominięte incydenty i przywracanie usług.
Powinny również analizować, czy wydajność różni się między zespołami i środowiskami. Model, który odnosi sukces w dobrze zinstrumentowanym obciążeniu chmurowym, może mieć trudności z infrastrukturą starszej generacji.
Kolejną niewiadomą jest zachowanie pracowników. KPMG stwierdziło istotne wdrożenie agentów w 34% organizacji. Wdrożenie nie pokazuje, czy pracownicy korzystali z zatwierdzonych agentów, przestrzegali zasad dotyczących danych ani rozumieli zautomatyzowane wyniki.
Shadow AI może rozszerzać się nawet wtedy, gdy formalne zarządzanie ulega poprawie. Pracownicy mogą korzystać z zewnętrznych narzędzi, ponieważ zatwierdzone systemy są wolne, ograniczone lub trudno dostępne.
Kwartalna częstotliwość badania wskazuje kierunek, a nie dowód nagłej zmiany. KPMG wyraźnie zastrzega, że zmiany między kwartałami należy odczytywać jako trendy, a nie dramatyczne skoki.
Czyni to raport wartościowym sygnałem zarządczym. Pokazuje, na czym doświadczone organizacje skupiają uwagę. Nie powinien być przedstawiany jako wskaźnik skuteczności bezpieczeństwa.
Trzy sygnały pokażą, czy aktywna obrona AI przynosi rezultaty
Kolejnym testem będzie to, czy firmy potrafią przełożyć deklarowany komfort na mierzalne wyniki bezpieczeństwa, bez ukrywania nowych niepowodzeń za automatyzacją.
Pierwszym sygnałem są dowody operacyjne. Przedsiębiorstwa powinny zacząć raportować, czy AI zmienia jakość wykrywania, szybkość dochodzeń, czas powstrzymywania zagrożeń lub skutki incydentów.
Miary te wzmocnią argument KPMG dotyczący dojrzałości, jeśli aktywni użytkownicy będą osiągać lepsze wyniki po uwzględnieniu wielkości firmy i wydatków na bezpieczeństwo. Częste cofnięcia działań lub pominięte incydenty osłabiłyby ten argument.
Drugim sygnałem jest szersze wdrażanie kompletnych warstw zarządzania. Kontrole bezpieczeństwa i tożsamości są dziś najpowszechniejsze, podczas gdy testowanie, audytowalność, kontrola człowieka i routing pozostają mniej częste.
Postęp wymaga czegoś więcej niż podniesienia ogólnego wskaźnika wdrożenia z 55%. Organizacje potrzebują uzupełniających się mechanizmów kontroli, obejmujących wybór modeli, uprawnienia, wyniki, działania i odzyskiwanie sprawności.
Trzecim sygnałem jest rozliczalność pod presją. Wskazany dyrektor ma największe znaczenie wtedy, gdy model zachowuje się nieprawidłowo, dostawca wprowadza zmiany lub agent ujawnia wrażliwe dane.
Raporty o incydentach powinny pokazywać, czy organizacje potrafią odtworzyć ścieżkę decyzyjną. Powinny identyfikować model, kontekst, uprawnienia, zatwierdzenia i zastosowane mechanizmy kontroli.
Wytyczne regulacyjne i standardy branżowe będą kształtować te ujawnienia. Dostawcy również znajdą się pod presją, by wyjaśniać, jak ich agenci korzystają z tożsamości, zachowują logi i wspierają testowanie przez klientów.
Dla nabywców korporacyjnych bezpośrednim zadaniem jest oddzielenie deklaracji dotyczących możliwości od dowodów operacyjnych. Należy pytać, gdzie AI może działać, które decyzje wymagają zatwierdzenia i jak szybko działanie można cofnąć.
Liderzy bezpieczeństwa powinni również porównywać wdrożenia wyłącznie monitorujące z aktywnymi formami obrony. Celem nie jest maksymalna autonomia. Jest nim właściwy zakres uprawnień dla każdego zadania, wsparty testowaniem i jasną odpowiedzialnością.
Pracownicy wiedzy również odgrywają rolę w tym procesie. Powinni rozumieć, którzy agenci mogą uzyskiwać dostęp do ich dokumentów, wiadomości i aplikacji. Powinni wiedzieć, jak zakwestionować niebezpieczną rekomendację.
Badanie KPMG dotyczące cyberbezpieczeństwa AI sugeruje, że doświadczenie zmienia sposób rozmowy o bezpieczeństwie. Dojrzali użytkownicy nie traktują ryzyka jako powodu do odwrotu. Uznają je za powód, by budować silniejsze systemy operacyjne.
Wniosek ten pozostaje wstępny, dopóki nie pojawią się lepsze dane dotyczące rezultatów. W kolejnych kilku kwartałach warto obserwować niezależnie mierzone poprawy wykrywania, pełniejsze warstwy kontroli oraz transparentne analizy incydentów.
Organizacje powinny zacząć od konkretnego pytania: który system AI może dziś podjąć działanie i czy firma potrafi później wyjaśnić to działanie? Jeśli odpowiedź jest niejasna, zaufanie wyprzedziło kontrolę.
