Wydatki Kaspersky na bezpieczeństwo AI rosną, gdy shadow AI przełamuje model kontroli

Kaspersky twierdzi, że wdrażanie AI skłoniło 41% przedsiębiorstw do zwiększenia inwestycji w bezpieczeństwo informacji, mimo że pracownicy nadal wprowadzają do pracy zewnętrzne narzędzia AI. Dane Kaspersky dotyczące wydatków na bezpieczeństwo AI ujawniają konflikt, którego zespoły bezpieczeństwa nie mogą rozwiązać zakupem kolejnego odizolowanego produktu. Firmy chcą szybciej wdrażać AI, lecz ich obecne mechanizmy kontroli często nie są w stanie dostrzec, gdzie AI już działa.

Wyniki pochodzą z globalnego badania 1 800 decydentów i specjalistów IT oraz cyberbezpieczeństwa z 18 krajów. Respondenci reprezentowali branże obejmujące technologię, produkcję, finanse, handel detaliczny i hurtowy. Kaspersky opublikował globalne wyniki 29 lipca 2026 r., zanim raporty regionalne ponownie skierowały uwagę na te dane we wrześniu.

Nie jest to po prostu kolejna historia o budżetach bezpieczeństwa. Trudniejszym problemem jest pogłębiająca się luka między zatwierdzonym przez przedsiębiorstwo AI a shadow AI, czyli narzędziami AI używanymi bez formalnej zgody lub nadzoru. Organizacje jednocześnie finansują wdrażanie i ochronę, podczas gdy pracownicy wciąż mogą przesyłać informacje firmowe przez prywatne konta, rozszerzenia przeglądarki, wyspecjalizowanych asystentów i wbudowane funkcje AI.

Głównym starciem jest zatem kontrolowane wdrażanie AI kontra wdrażanie kierowane przez pracowników. Blokowanie zewnętrznych narzędzi może wypchnąć aktywność jeszcze dalej poza zasięg obserwacji. Zezwolenie na wszystko może narazić wrażliwe dane, dane uwierzytelniające, dokumenty wewnętrzne i procesy biznesowe na systemy, których zespoły bezpieczeństwa nie oceniły.

Co faktycznie mówią dane Kaspersky dotyczące wydatków na bezpieczeństwo AI

Kluczowa liczba ma znaczenie, ponieważ wdrażanie AI stało się bezpośrednim czynnikiem napędzającym budżety bezpieczeństwa, a nie tylko kolejną pozycją na liście zagrożeń.

Według globalnego badania Kaspersky 41% przedsiębiorstw zwiększyło inwestycje w bezpieczeństwo informacji z powodu wdrażania AI. Inne zgłaszane czynniki obejmowały rosnące koszty naruszeń, migrację do chmury i niedawne incydenty bezpieczeństwa.

Wynik ten nie oznacza, że 41% zwiększyło budżety wyłącznie z powodu shadow AI. Nie ujawnia też skali każdego wzrostu. Opublikowane ustalenia wskazują na związek między wdrażaniem a decyzjami wydatkowymi, lecz nie podają łącznych kwot w dolarach ani rozkładu wzrostu budżetów.

Szersze odpowiedzi pomagają wyjaśnić, dlaczego budżety się zmieniają. Dziewiętnaście procent respondentów zaliczyło podatności AI do najgroźniejszych obecnych zagrożeń. Phishing znalazł się wyżej, z wynikiem 22%, a następnie masowe ataki z użyciem złośliwego oprogramowania — 20%.

Liczby te sytuują ryzyko AI blisko ugruntowanych zagrożeń dla przedsiębiorstw, nie wypierając ich jednak. Liderzy bezpieczeństwa muszą chronić konwencjonalne systemy, a jednocześnie rozszerzać zakres odpowiedzialności o dostęp do modeli, prompty, wtyczki, agentów, dane treningowe i kod generowany przez AI.

Według Kaspersky presja jest szczególnie istotna w finansach, administracji publicznej i technologii. Sektory te przetwarzają wartościowe dane i obsługują systemy, które atakujący mają silną motywację atakować. Równocześnie odczuwają znaczną presję, by automatyzować pracę opartą na wiedzy i procesy obsługi klientów.

Wdrażanie nie czeka, aż programy bezpieczeństwa nadrobią zaległości. Kaspersky podał, że 81% badanych firm analizowało lub wdrażało wewnętrzne narzędzia oparte na dużych modelach językowych. Osiemnaście procent zintegrowało te technologie z przepływami pracy.

Firmy posiadające wewnętrzne systemy AI wskazały trzy równie częste motywacje. Lepsza efektywność procesów, ograniczenie błędów ludzkich i lepsze rezultaty dla klientów zostały wybrane przez 59% tych organizacji.

Powiązana publikacja Kaspersky wykazała, że pracownicy już używali AI w kilku kategoriach pracy. Analiza i wizualizacja danych prowadziły z wynikiem 54%, a za nimi znalazły się zarządzanie projektami — 49% — oraz wyszukiwanie informacji — 47%. Praca specyficzna dla działów osiągnęła 46%, natomiast generowanie i redagowanie tekstu — 41%.

Te zastosowania obejmują wiele typów danych. Asystent projektowy może otrzymywać wymagania klientów, terminy i przydziały pracowników. Narzędzie analityczne może przetwarzać dane finansowe, wskaźniki operacyjne lub wyeksportowaną zawartość baz danych.

Granica bezpieczeństwa zmienia się za każdym razem, gdy te informacje trafiają do modelu, wtyczki lub usługi wykorzystującej AI. Zespoły muszą wiedzieć, kto dostarczył dane, które konto je przetworzyło, jak długo pozostają dostępne i do jakich połączonych systemów narzędzie może uzyskać dostęp.

Dlatego przesunięcie wydatków wykracza poza ochronę modeli przed atakami technicznymi. Obejmuje też tożsamość, klasyfikację danych, ocenę dostawców, widoczność sieciową, tworzenie oprogramowania, reagowanie na incydenty i szkolenia pracowników.

Kaspersky ma oczywisty interes komercyjny w podkreślaniu tych potrzeb. Firma sprzedaje produkty bezpieczeństwa i rekomenduje własne usługi obok badań. Czytelnicy powinni traktować te odsetki jako dowody z badania sponsorowanego przez dostawcę, a nie niezależny pomiar całego rynku.

Mimo to próba obejmowała 1 800 specjalistów skoncentrowanych na bezpieczeństwie z 18 krajów. Ustalenia odzwierciedlają wyraźną obawę organizacyjną: projekty AI tworzą koszty wykraczające poza pierwotny budżet na licencje oprogramowania lub infrastrukturę.

Każdy dodatkowy asystent może tworzyć kolejną ścieżkę tożsamości, przepływ danych i zależność od dostawcy. Każdy wewnętrzny model może zwiększać wymagania dotyczące infrastruktury, monitorowania, dostępu i testowania. Wydatki na bezpieczeństwo stają się częścią kosztu operacyjnego AI w przedsiębiorstwie.

To pierwsza istotna zmiana. Bezpieczeństwo AI nie zaczyna się już po wdrożeniu przez firmę dużego modelu. Zaczyna się, gdy pracownicy szukają szybszych sposobów wykonywania zwykłych zadań.

Wdrażanie AI rozszerza powierzchnię ataku

Przedsiębiorstwa nie tylko bronią się przed atakującymi wspieranymi przez AI; dodają też systemy AI, które tworzą nowe miejsca dla błędów i wykorzystania.

Powierzchnia ataku obejmuje systemy, tożsamości, interfejsy i ścieżki danych, do których atakujący może potencjalnie dotrzeć. Wdrażanie AI rozszerza ją poprzez punkty końcowe modeli, systemy wyszukiwania wspomaganego, wtyczki, dane wejściowe promptów, autonomiczne działania i integracje z podmiotami trzecimi.

Elementy te wprowadzają znane ryzyka programistyczne w nieznanych kombinacjach. Słaba kontrola dostępu pozostaje słabą kontrolą dostępu, lecz agent AI może wykorzystywać ten dostęp w kilku narzędziach. Ujawnione dane uwierzytelniające pozostają niebezpieczne, lecz połączony asystent może używać ich z szybkością maszyny.

Kaspersky odnotował gwałtowny wzrost zarejestrowanych błędów dotyczących usług AI i dużych modeli językowych. Jego analiza podatności wykazała 935 podatności w drugim kwartale 2026 r.

Według danych firmy dotyczących zarządzania podatnościami liczba ta była dziesięciokrotnie wyższa od poziomu odnotowanego w czwartym kwartale 2025 r. Kaspersky sklasyfikował 119 podatności z drugiego kwartału jako krytyczne, czyli niemal pięć razy więcej niż pod koniec 2025 r.

Najczęstsze kategorie obejmowały słabe mechanizmy kontroli dostępu, wadliwe uwierzytelnianie lub autoryzację oraz podatności na wstrzyknięcie. Wstrzyknięcie występuje wtedy, gdy zmanipulowane dane wejściowe zmieniają sposób interpretowania instrukcji przez system lub wykonywania połączonych działań.

Wzrost wymaga ostrożnej interpretacji. Większa liczba zarejestrowanych podatności może odzwierciedlać szersze wdrożenia, większą uwagę badaczy, lepsze ujawnianie informacji lub rzeczywisty spadek jakości oprogramowania. Opublikowane sumy nie rozdzielają tych efektów.

Mimo to kategorie wskazują na konkretne problemy inżynieryjne. Przedsiębiorstwa muszą zabezpieczać oprogramowanie otaczające modele, a nie tylko analizować same modele. Uwierzytelnianie, granice uprawnień, obsługa danych wejściowych, rejestrowanie zdarzeń i zarządzanie zależnościami pozostają kluczowe.

Agenci AI podnoszą stawkę, ponieważ mogą podejmować działania, a nie tylko tworzyć tekst. Asystent połączony z pocztą e-mail, pamięcią chmurową, repozytoriami kodu i kalendarzami ma większy potencjalny wpływ niż samodzielny chatbot.

Agent komplikuje też przypisanie odpowiedzialności. Uprawniony pracownik może zatwierdzić działanie, podczas gdy zmanipulowany kontekst zmienia to, co system ostatecznie robi. Dzienniki bezpieczeństwa muszą zachowywać żądanie użytkownika, decyzję modelu, wywołanie narzędzia, zasób docelowy i wynikającą z tego zmianę.

Wytyczne OWASP Foundation dotyczące bezpieczeństwa agentów odnoszą się do tego szerszego problemu zarządzania. Prace organizacji z 2026 r. koncentrują się na zabezpieczaniu systemów autonomicznych za pomocą mechanizmów kontroli obejmujących rozwój, wdrożenie, tożsamość i nadzór.

To podejście ma znaczenie, ponieważ tradycyjna ochrona punktów końcowych widzi tylko część przepływu pracy. Sesja w przeglądarce może wyglądać na prawidłową, nawet gdy pracownik wkleja materiały objęte ograniczeniami do zatwierdzonej witryny. Ważny token agenta nadal może autoryzować niebezpieczne działanie.

Zespoły bezpieczeństwa potrzebują zatem kilku warstw dowodów. Potrzebują inwentaryzacji usług AI, widoczności przepływu danych, kontroli połączonych tożsamości i procesu oceny działań o dużym wpływie.

Ta sama zasada dotyczy kodu generowanego przez AI. Programista może zaakceptować sugerowaną zależność lub konfigurację, nie rozumiejąc jej właściwości bezpieczeństwa. Rezultat trafia następnie do zwykłego łańcucha dostaw oprogramowania i może dotrzeć do środowiska produkcyjnego.

Kaspersky podał również, że jego systemy wykryły ponad 33 300 ataków na małe i średnie przedsiębiorstwa w pierwszych czterech miesiącach 2026 r. Ataki te maskowały złośliwe lub niechciane oprogramowanie komputerowe jako popularne usługi AI.

Według firmy łączna liczba była niemal pięciokrotnie wyższa niż w porównywalnym okresie 2025 r. Ustalenie pokazuje, jak atakujący mogą wykorzystywać popyt na AI bez naruszania rzeczywistego modelu. Znana inżynieria społeczna może korzystać z marki AI.

Praktyczna lekcja jest szersza niż zakup wykrywania specyficznego dla AI. Firmy muszą połączyć zarządzanie AI z istniejącymi praktykami bezpieczeństwa. Zarządzanie aktywami, kontrola tożsamości, bezpieczne tworzenie oprogramowania, ocena dostawców i reagowanie na incydenty muszą opierać się na tym samym obrazie wdrożenia.

Wywiera to presję na dyrektorów ds. bezpieczeństwa informacji, lecz dotyczy także liderów technologicznych i biznesowych. Dział, który kupuje usługę AI, podejmuje decyzję dotyczącą bezpieczeństwa, nawet gdy zakup nigdy nie przechodzi przez budżet bezpieczeństwa.

Zespół tworzący wewnętrznego asystenta podejmuje kolejną decyzję, gdy wybiera źródła danych i uprawnienia. Ryzyko zmienia się ponownie, gdy asystent zyskuje możliwość wysyłania wiadomości, modyfikowania rekordów lub inicjowania transakcji.

Powierzchnię ataku kształtuje zatem projekt biznesowy. Zespoły bezpieczeństwa nie mogą jej ograniczyć bez zrozumienia, które funkcje AI przynoszą wartość, a które połączenia są zbędne. Wymaga to współpracy przed wdrożeniem, a nie spotkania zatwierdzającego po uruchomieniu.

Shadow AI zamienia produktywność w dług związany z zarządzaniem

Shadow AI rośnie, gdy zatwierdzone narzędzia nie dorównują szybkością, możliwościami lub wygodą temu, co pracownicy mogą uzyskać samodzielnie.

Kaspersky ustalił, że 31% globalnych respondentów uznało niekontrolowane korzystanie przez pracowników z narzędzi AI innych firm za powszechny czynnik ryzyka. Firma wskazała konkretnie usługi takie jak ChatGPT i DeepSeek.

Ryzyko nie ogranicza się do pracowników świadomie łamiących zasady. Funkcje AI pojawiają się obecnie w narzędziach do pisania, produktach wyszukiwania, asystentach spotkań, środowiskach programistycznych, platformach analitycznych i rozszerzeniach przeglądarki. Pracownicy mogą nie rozpoznawać każdej funkcji wykorzystującej AI jako odrębnego podmiotu przetwarzającego dane.

Kaspersky poinformował, że 59% organizacji zezwalało na korzystanie z zewnętrznej AI pod pewnymi ograniczeniami. Obejmowały one zakazy przesyłania nazw firm lub dokumentów wewnętrznych. Kolejne 23% umożliwiało nieograniczony dostęp, jednocześnie zapewniając wytyczne i szkolenia.

Łącznie dane te pokazują, że większość badanych organizacji nie próbowała wprowadzić całkowitego zakazu. Starały się zachować użyteczny dostęp, ograniczając jednocześnie szkodliwe zachowania.

Taki kompromis trudno egzekwować. Zakaz przesyłania dokumentów wewnętrznych brzmi jasno, dopóki pracownicy pracują na fragmentach. Prompt może ujawnić poufne informacje, nawet jeśli nie zawiera całego pliku.

Pracownik działu sprzedaży może wkleić do asystenta zastrzeżenia klientów. Inżynier może przesłać blok kodu zawierający wewnętrzne endpointy. Rekruter może poprosić narzędzie o podsumowanie notatek o kandydatach lub rozmów dotyczących wynagrodzeń.

Każde z tych działań może wydawać się mniej istotne niż przesłanie poufnego dokumentu. Łącznie takie prompty mogą ujawnić relacje organizacyjne, plany produktowe, informacje o klientach i architekturę techniczną.

Shadow AI obejmuje również prywatne konta wykorzystywane do pracy firmowej. Usługa zatwierdzona do zastosowań korporacyjnych nadal może stwarzać ryzyko, gdy pracownicy wybierają konta konsumenckie. Zespoły bezpieczeństwa mogą utracić kontrolę administracyjną, ustawienia retencji, zapisy audytowe oraz możliwość centralnego odbierania dostępu.

Ujawnia to główną słabość reakcji opartych wyłącznie na politykach. Spisana zasada opisuje oczekiwane zachowanie, ale nie potrafi automatycznie wykrywać narzędzi, klasyfikować promptów ani odwoływać nieznanych integracji. Szkolenia pomagają ludziom rozpoznawać ryzyko, lecz pamięć nie jest kontrolą techniczną.

Całkowity zakaz tworzy inną słabość. Pracownicy nadal mają terminy i oczekiwania dotyczące wyników. Jeśli zewnętrzny asystent skraca wiele godzin pracy, część użytkowników będzie szukać prywatnych urządzeń, alternatywnych kont lub mniej widocznych usług.

Firma traci wtedy ograniczoną widoczność dostępną dzięki zarządzanym systemom. Blokowanie może ograniczyć okazjonalne użycie, ale może też utrudnić mierzenie pozostałej aktywności.

Właściwe porównanie nie dotyczy więc permisywnego dostępu kontra rygorystyczne bezpieczeństwo. Chodzi o widoczny, zarządzany dostęp kontra niewidoczny, improwizowany dostęp. Bezpieczeństwo poprawia się, gdy zatwierdzona ścieżka jest wystarczająco użyteczna, by zachęcać do dobrowolnego korzystania.

Ta ścieżka wymaga czegoś więcej niż firmowej subskrypcji. Pracownicy potrzebują jasnych wskazówek dotyczących dopuszczalnych danych, obsługiwanych zadań i ścieżek eskalacji. Potrzebują też zatwierdzonych alternatyw dostosowanych do różnych ról.

Deweloper może potrzebować pomocy uwzględniającej kod i kontekst repozytorium. Badacz może potrzebować analizy dokumentów ze źródłami możliwymi do prześledzenia. Kierownik projektu może potrzebować podsumowań obejmujących spotkania, zadania i decyzje.

W przypadku przepływów pracy intensywnie wykorzystujących wiedzę zespoły powinny rozumieć różnicę między współdzielonym repozytorium korporacyjnym a systemem osobistym przed przyznaniem dostępu AI. Praktyczny przewodnik po bazach wiedzy może pomóc określić kwestie własności, zakresu i decyzji dotyczących wyszukiwania.

Dług zarządczy narasta, gdy firmy wdrażają możliwości przed zdefiniowaniem tych granic. Podobnie jak dług techniczny, pozostaje niewidoczny, gdy systemy pozornie działają. Koszt staje się widoczny podczas audytu, incydentu, odejścia pracownika lub zmiany dostawcy.

AI może przyspieszać to narastanie, ponieważ wdrażanie często odbywa się decentralnie. Zespół marketingowy może aktywować asystenta bez oczekiwania na centralne wdrożenie. Deweloper może podłączyć model przez interfejs programowania aplikacji w ciągu kilku godzin.

Wbudowana AI tworzy kolejny martwy punkt. Firma może zatwierdzić platformę oprogramowania, zanim jej dostawca doda asystenta lub zautomatyzowanego agenta. Wcześniejsza ocena organizacji może nie obejmować nowej ścieżki danych ani dostawcy modelu.

Ocena dostawców musi zatem stać się na tyle ciągła, by uwzględniać istotne zmiany funkcji. Umowy powinny regulować wykorzystanie danych, retencję, podwykonawców, powiadamianie o incydentach oraz kontrolę administracyjną. Zespoły techniczne muszą sprawdzać, czy skonfigurowane zachowanie odpowiada tym warunkom.

Inwentaryzacja jest punktem wyjścia, ale sama inwentaryzacja nie jest zarządzaniem. Zespoły bezpieczeństwa muszą odróżniać eksperymentowanie od produkcji, opracowywanie treści o niskim ryzyku od analizy poufnej oraz asystentów tylko do odczytu od agentów, którzy mogą zmieniać systemy.

Ta klasyfikacja określa mechanizmy kontroli. Publiczne narzędzie do burzy mózgów nie powinno otrzymywać danych klientów. Wewnętrzny asystent wyszukiwania potrzebuje uprawnień odzwierciedlających źródła bazowe. Agent wykonujący działania potrzebuje węższego zakresu uprawnień i silniejszych progów zatwierdzania.

Podstawowy kompromis pozostaje nieunikniony. Każda bariera ochronna zwiększa tarcie, a każde usunięte zabezpieczenie zwiększa ekspozycję. Skuteczny projekt nie wyeliminuje tego napięcia, lecz może umieścić tarcie tam, gdzie konsekwencje są największe.

Firmy powinny zarezerwować najbardziej rygorystyczne kontrole dla informacji poufnych i działań o istotnych konsekwencjach. Zadania niskiego ryzyka mogą korzystać z prostszych zabezpieczeń. Ten model oparty na ryzyku oferuje pracownikom wiarygodną ścieżkę, nie traktując każdego promptu jako równie niebezpiecznego.

Ankieta pokazuje presję, a nie dowód

Ustalenia Kaspersky pokazują, że liderzy bezpieczeństwa odczuwają presję, ale nie dowodzą, że wyższe wydatki zapewniły bezpieczniejsze wdrażanie AI.

Wskaźnik 41% mierzy organizacje, które zwiększyły inwestycje z powodu wdrażania AI. Nie mierzy, czy organizacje te ograniczyły liczbę incydentów, wykryły shadow AI lub zapobiegły ekspozycji danych.

Badanie łączy także decydentów i specjalistów z wielu branż oraz krajów. Ta szerokość czyni wzorzec istotnym, lecz może ukrywać znaczące różnice w wielkości organizacji, regulacjach, dojrzałości i ekspozycji na zagrożenia.

Publikacja Kaspersky nie przedstawia pełnego kwestionariusza, rozkładu odpowiedzi, procedury doboru próby ani marginesu błędu. Nie rozbija też wskaźnika 41% na kategorie inwestycji. Nabywcy mogą finansować produkty, personel, doradztwo, szkolenia lub infrastrukturę.

Ograniczenia te nie unieważniają wyników. Zawężają jednak wnioski, które czytelnicy powinni wyciągać. Badanie wspiera stwierdzenie dotyczące deklarowanych zachowań budżetowych, a nie ocenę skuteczności zabezpieczeń.

Sponsoring dostawcy stanowi kolejny powód do ostrożności. Kaspersky rekomenduje własne portfolio bezpieczeństwa w tej samej publikacji. Jego pozycja komercyjna nie czyni badania fałszywym, lecz niezależna walidacja wzmocniłaby szersze twierdzenia dotyczące rynku.

Wskaźniki ryzyka zależą również od postrzegania przez respondentów. Dziewiętnaście procent uznało podatności AI za jedno z głównych zagrożeń, a 31% wskazało shadow AI jako powszechny czynnik. Odpowiedzi te opisują świadomość i doświadczenia, a nie niezależnie zweryfikowane liczby incydentów.

W osobnym komunikacie Kaspersky podał, że 82% organizacji wyraziło zaniepokojenie ryzykiem związanym z AI. Wśród 87%, które doświadczyły cyberincydentu w poprzednim roku, 13% zgłosiło zagrożenia wynikające konkretnie z podatności związanych z AI.

Ponownie, przypisanie przyczyn jest trudne. Incydent związany ze złośliwym oprogramowaniem oznaczonym jako AI różni się od wykorzystanej podatności usługi modelu. Wyciek danych przez prompt pracownika różni się od agenta działającego na podstawie złośliwych instrukcji.

Łączenie wszystkich przypadków pod pojęciem „ryzyka AI” może prowadzić do nieprecyzyjnych wydatków. Firmy mogą kupować nakładające się produkty monitorujące, nie definiując ekspozycji, które muszą ograniczyć. Mogą też traktować zarządzanie jako wyłączną odpowiedzialność zespołu bezpieczeństwa.

National Institute of Standards and Technology oferuje bardziej uporządkowany punkt wyjścia. Jego profil generatywnej AI dostosowuje AI Risk Management Framework do ryzyk występujących w całym cyklu rozwoju, wdrażania i użytkowania generatywnej AI.

Ramy organizują pracę wokół zarządzania, mapowania, mierzenia i zarządzania ryzykiem. Ta sekwencja zachęca organizacje do zdefiniowania kontekstu przed wyborem kontroli. Traktuje też zarządzanie ryzykiem jako proces obejmujący cały cykl życia.

Dla przedsiębiorstwa „govern” obejmuje własność, odpowiedzialność i polityki. „Map” oznacza zrozumienie systemów, użytkowników, danych i konsekwencji. „Measure” obejmuje testowanie, monitorowanie i dowody. „Manage” przekształca te dowody w priorytetowe działania.

Ta struktura ujawnia słabość reakcji kierowanych wydatkami. Firma może kupić narzędzia, zanim zmapuje miejsca, w których pojawia się AI. Może zbierać alerty, zanim zdecyduje, które zachowania mają znaczenie. Może szkolić pracowników, nie mierząc, czy ryzykowne praktyki się zmieniają.

Skuteczne wydatki powinny przynosić obserwowalne rezultaty. Organizacja powinna wiedzieć, które usługi AI są aktywne, jakie kategorie danych do nich trafiają oraz które tożsamości mogą autoryzować działania zewnętrzne.

Powinna też wiedzieć, czy pracownicy preferują zatwierdzone narzędzia. Niska adopcja zatwierdzonych usług może sygnalizować brak możliwości, nadmierne tarcie, słabą komunikację lub brak zaufania. Jest to pomiar zarządczy, a nie jedynie metryka oprogramowania.

Zespoły bezpieczeństwa powinny śledzić czas przeglądu nowych narzędzi. Długie cykle zatwierdzania mogą zachęcać do niezatwierdzonych alternatyw. Szybsze przeglądy nie wymagają obniżania standardów, jeśli organizacje stosują powtarzalne kategorie ryzyka i wstępnie zatwierdzone konfiguracje.

Ćwiczenia dotyczące incydentów oferują kolejny test. Firmy mogą symulować wyciek poświadczeń AI, złośliwą wtyczkę, poufny prompt lub agenta dokonującego nieautoryzowanej zmiany. Reakcja ujawnia luki, których sumy budżetowe nie potrafią pokazać.

Działy zakupów powinny mierzyć zależności od dostawców oraz możliwości wyjścia. Organizacja musi wiedzieć, czy może eksportować logi, usuwać dane, odwoływać integracje i migrować przepływy pracy. Te możliwości stają się ważne, gdy produkty zmieniają warunki lub poziom bezpieczeństwa.

Nic z tego nie gwarantuje bezpieczeństwa. Systemy AI zmieniają się szybko, a organizacje będą działać przy niedoskonałych informacjach. Rozsądnym celem jest kontrolowane uczenie się oparte na dowodach, a nie obietnica, że każde ryzyko zostało wyeliminowane.

Trend wydatków na bezpieczeństwo AI wskazany przez Kaspersky staje się istotny tylko wtedy, gdy inwestycje poprawiają widoczność i ograniczają konsekwencje. W przeciwnym razie rosnące budżety mogą współistnieć z rozrastającym się shadow AI i słabą odpowiedzialnością.

Trzy sygnały, które sprawdzą zmianę wydatków

Kolejnym testem będzie to, czy wyższe budżety zapewnią mierzalną kontrolę bez kierowania pracowników ku jeszcze mniej widocznym narzędziom.

Pierwszym sygnałem jest wykrywanie. W ciągu najbliższych kilku miesięcy przedsiębiorstwa powinny informować, czy potrafią identyfikować usługi AI, prywatne konta, wbudowane funkcje i integracje agentów w swoich środowiskach.

Wykrywanie ma znaczenie, ponieważ polityki nie mogą regulować nieznanej aktywności. Użyteczna inwentaryzacja powinna łączyć każdą usługę z właścicielem, celem biznesowym, klasyfikacją danych, metodą tożsamości i zestawem połączeń zewnętrznych.

Jeśli organizacje opublikują lepsze wskaźniki widoczności, teza o wydatkach zyska potwierdzenie. Pokazałoby to, że inwestycje w bezpieczeństwo przekształcają nieznaną aktywność w aktywność zarządzaną. Niezmienna widoczność sugerowałaby, że wydatki nadal pozostają oderwane od wdrażania.

Drugim sygnałem jest wskaźnik adopcji zatwierdzonych narzędzi. Firmy powinny porównywać zatwierdzone użycie z zablokowanymi próbami, wnioskami o wyjątki i zapotrzebowaniem pracowników na alternatywne systemy.

Wysoka adopcja zatwierdzonych narzędzi wskazywałaby, że zarządzanie i produktywność mogą współistnieć. Zmniejszałaby też zachętę do używania prywatnych kont do zwykłej pracy. Utrzymujące się obejścia osłabiłyby twierdzenia, że istniejące programy rozwiązują problem shadow AI.

Jakość zatwierdzonych narzędzi ma większe znaczenie niż liczba zakupionych licencji. Zatwierdzony asystent, który nie może uzyskać dostępu do potrzebnych informacji ani obsłużyć wyspecjalizowanych zadań, nie wyprze lepszych zewnętrznych opcji.

Organizacje powinny analizować, które grupy unikają zatwierdzonej ścieżki. Inżynierowie, badacze, zespoły sprzedażowe i analitycy mają odmienne wymagania. Jeden ogólny asystent może nie zaspokoić każdego przepływu pracy.

Trzecim sygnałem są dowody w postaci incydentów. Firmy potrzebują spójnych definicji zdarzeń związanych z AI, w tym podatności modeli, ujawnionych poświadczeń, niebezpiecznego kodu generowanego przez AI, wrażliwych promptów, złośliwych wtyczek i nieautoryzowanych działań agentów.

Jasne kategorie ułatwiłyby porównania między okresami i organizacjami. Ujawniłyby również, czy główne zagrożenie wynika z działań atakujących, błędów oprogramowania, zachowań pracowników czy nadmiernych uprawnień.

Spadek liczby powtarzających się incydentów wzmocniłby argumenty za obecnymi wydatkami. Rosnąca liczba wykryć wymagałaby większego kontekstu. Mogłaby odzwierciedlać pogarszającą się ekspozycję na ryzyko albo wskazywać, że lepszy monitoring wreszcie wykrywa ukrytą aktywność.

Liderzy ds. bezpieczeństwa powinni zatem zestawiać łączną liczbę incydentów z czasem wykrycia, czasem opanowania, zakresem danych objętych incydentem i wpływem na biznes. Powinni też dokumentować, która kontrola zawiodła i jaka zmiana została następnie wprowadzona.

Rynek technologiczny zapewni kolejną warstwę dowodów. Nowe standardy bezpieczeństwa agentów, zaktualizowane wytyczne dotyczące podatności i szersze wsparcie dla audytów pokażą, czy dostawcy potrafią zapewnić interoperacyjne mechanizmy kontroli.

Interoperacyjność ma znaczenie, ponieważ przepływy pracy AI obejmują wiele systemów. Dostawca modelu, platforma tożsamości, źródło danych, przeglądarka, punkt końcowy i usługa bezpieczeństwa mogą obserwować różne części jednej transakcji.

Organizacje potrzebują zapisów, które można połączyć między tymi warstwami. Bez takiego połączenia dochodzenie staje się ręczną rekonstrukcją częściowych logów. Autonomiczne działania zwiększają koszt takiego opóźnienia.

Inwestycje w bezpieczeństwo powinny również obejmować ludzi, którzy rozumieją zarówno przepływy pracy, jak i mechanizmy kontroli. Platforma monitorująca nie jest w stanie ocenić, czy dane zadanie jest odpowiednie dla danego działu. Taka ocena wymaga właścicieli biznesowych, zespołów prawnych, specjalistów ds. bezpieczeństwa i użytkowników.

Edukacja pracowników pozostaje konieczna, ale firmy powinny unikać przedstawiania pracowników jako jedynego problemu. Personel często korzysta z zewnętrznych narzędzi, ponieważ oficjalne procesy nie odpowiadają na potrzeby operacyjne.

Trwałą odpowiedzią jest ułatwienie bezpiecznych zachowań. Oznacza to przydatne, zatwierdzone narzędzia, jasne granice dotyczące danych, szybkie kanały weryfikacji, precyzyjnie ograniczone uprawnienia oraz widoczną odpowiedzialność za działania o dużym wpływie.

Badanie Kaspersky odzwierciedla rzeczywistą zmianę w budżetach. AI nie jest już finansowana wyłącznie z programów eksperymentalnych, infrastrukturalnych ani zwiększających produktywność. Bezpieczeństwo stało się częścią kosztu wdrożenia.

Nierozstrzygnięte pozostaje pytanie, czy przedsiębiorstwa kupują kontrolę, czy jedynie poczucie bezpieczeństwa. Sam wzrost budżetów nie może na nie odpowiedzieć. Mogą to zrobić pokrycie inwentaryzacji, zatwierdzone użycie i wyniki incydentów.

Dla kupujących w przedsiębiorstwach bezpośrednie działanie jest proste: należy pytać, jakie nowe dowody przyniesie każda inwestycja w bezpieczeństwo. Jeśli produkt nie może poprawić widoczności, ograniczyć dostępu ani skrócić reakcji, jego związek z ryzykiem AI pozostaje niepewny.

Deweloperzy powinni pytać, jakich uprawnień asystent rzeczywiście potrzebuje. Pracownicy umysłowi powinni sprawdzać, które dane można bezpiecznie przesyłać i jakie konto reguluje interakcję. Liderzy powinni porównywać politykę z faktycznym zachowaniem pracowników.

Wydatki Kaspersky na bezpieczeństwo AI pozostaną użytecznym sygnałem rynkowym, ale shadow AI jest trudniejszym testem operacyjnym. W następnym kwartale warto obserwować, czy firmy potrafią przenieść rzeczywistą pracę do systemów objętych nadzorem, nie usuwając wartości, która napędzała wdrażanie.