Ostrzeżenie NCSC dotyczące shadow AI ujawnia koszt niezatwierdzonych narzędzi w miejscu pracy

Ostrzeżenie NCSC dotyczące shadow AI wskazuje skalę problemu bezpieczeństwa, którego wielu pracodawców wciąż nie dostrzega. Siedemdziesiąt jeden procent ankietowanych pracowników w Wielkiej Brytanii korzystało z konsumenckich narzędzi AI, których ich pracodawcy nie zatwierdzili.

Brytyjskie National Cyber Security Centre wydało ostrzeżenie 7 września 2026 roku. Definiuje ono shadow AI jako sztuczną inteligencję wykorzystywaną poza zatwierdzonymi przez organizację systemami i procesami. Może to obejmować wklejanie dokumentów do konsumenckich chatbotów, łączenie asystentów z kontami służbowymi lub wdrażanie agentów bez przeglądu bezpieczeństwa.

Konflikt nie dotyczy już pracowników korzystających z AI i pracodawców, którzy ją odrzucają. Chodzi o szybkie, znajome narzędzia oraz wolniejsze mechanizmy kontroli niezbędne do ochrony danych firmowych. NCSC argumentuje, że całkowity zakaz nie rozwiąże tego konfliktu.

To stanowisko ma znaczenie, ponieważ oprogramowanie AI staje się coraz silniej połączone. Chatbot może ujawnić tekst umieszczony w zapytaniu. Agent AI może również przechowywać poświadczenia, pobierać pliki, wywoływać inne usługi i działać z uprawnieniami użytkownika.

Wynikające z tego zagrożenia bezpieczeństwa związane z shadow AI wykraczają poza przypadkowe ujawnienie danych. Obejmują słabszą widoczność danych, ryzyko regulacyjne, podatne na wykorzystanie integracje oraz nowe ścieżki dostępu do systemów firmowych.

Ostrzeżenie NCSC dotyczące shadow AI zmienia rozmowę o bezpieczeństwie

NCSC traktuje niezatwierdzoną AI jako niezarządzany system biznesowy, a nie jedynie naruszenie polityki pracowniczej.

Wytyczne NCSC dotyczące shadow AI koncentrują się na technologii działającej poza zatwierdzonymi procesami. To rozróżnienie jest istotne, ponieważ ta sama usługa AI może stwarzać inne ryzyka w zależności od warunków jej użycia.

Wdrożenie firmowe może obejmować zabezpieczenia umowne, kontrolę tożsamości, dzienniki audytowe, ustawienia retencji oraz ograniczone integracje. Konto osobiste może nie oferować żadnej z kontroli oczekiwanych przez pracodawcę.

NCSC wskazuje trzy główne obszary ryzyka. Pierwszym jest narażenie informacji firmowych lub danych klientów. Pracownicy mogą udostępniać umowy, kod źródłowy, dane finansowe, notatki ze spotkań lub dane osobowe podczas wykonywania zwykłych zadań.

Drugim ryzykiem jest utrata widoczności i kontroli. Organizacja może nie wiedzieć, gdzie przechowywane są przesłane informacje, jak długo pozostają dostępne ani czy służą do ulepszania usługi.

Konkretne ustawienia prywatności mogą zmieniać te warunki. Zespoły bezpieczeństwa nie mogą jednak weryfikować ustawień w usługach, o których nie wiedzą, że pracownicy z nich korzystają.

Trzecie ryzyko wiąże się z agentami AI. Systemy te łączą model z narzędziami, źródłami danych, pamięcią i uprawnieniami do wykonywania działań. Przejęty agent może ujawnić wszystko, do czego pozwalają mu dotrzeć jego legalne uprawnienia.

To kluczowa zmiana stojąca za ostrzeżeniem. Oprogramowanie shadow wcześniej tworzyło nieznane konta lub odizolowane repozytoria danych. Agenci shadow mogą wprowadzać aktywne tożsamości działające w kilku systemach biznesowych.

NCSC nie nakazuje ludziom zaprzestać korzystania z AI. Prosi ich, by przed udostępnieniem informacji z miejsca pracy rozważyli, z której usługi korzystają.

Dla pracodawców agencja zaleca ograniczanie ryzyka zamiast nierealistycznej obietnicy jego całkowitego wyeliminowania. Organizacje powinny rozpoznać potrzeby pracowników, zapewnić bezpieczne alternatywy i stworzyć kulturę, w której personel może ujawniać nieautoryzowane użycie.

Podejście to opiera się na szerszych wytycznych NCSC dotyczących shadow IT. Wskazują one, że pracownicy zwykle wdrażają nieoficjalne usługi, aby wykonywać swoją pracę, a nie podważać bezpieczeństwo.

Typowe przyczyny obejmują powolne procesy zatwierdzania, brakujące funkcje, niewystarczające narzędzia współpracy oraz nieznajome systemy firmowe. AI zwiększa presję, ponieważ użyteczna usługa konsumencka jest często dostępna w ciągu kilku sekund.

Wydarzenie zmienia więc coś więcej niż listę zatwierdzonych aplikacji. Sprawia, że użyteczność, szybkość zakupów i kultura bezpieczeństwa stają się częścią technicznej obrony organizacji.

Siedemdziesiąt jeden procent sygnalizuje lukę w zarządzaniu

Główna statystyka opisuje zachowanie pracowników, ale mierzy też, jak słabo wiele organizacji dopasowało swoje mechanizmy kontroli do realnej pracy.

Wynik 71% pochodzi z badania zleconego przez Microsoft i przeprowadzonego przez Censuswide w październiku 2025 roku. W badaniu wzięło udział 2 003 pracowników z Wielkiej Brytanii w wieku 18 lat lub starszych.

Według opublikowanego badania dotyczącego AI w miejscu pracy 51% respondentów korzystało z niezatwierdzonych konsumenckich narzędzi AI co tydzień. Oznacza to, że dla wielu pracowników użycie shadow AI jest powtarzalnym elementem pracy, a nie odosobnionym eksperymentem.

Zgłaszane zadania były zwyczajne. Czterdzieści dziewięć procent korzystało z konsumenckich asystentów do redagowania lub odpowiadania na komunikację służbową. Czterdzieści procent używało ich do raportów lub prezentacji, a 22% do pracy związanej z finansami.

Przykłady te wyjaśniają, dlaczego prosta lista blokad ma ograniczoną skuteczność. Popyt wynika z rutynowych zadań wykonywanych w różnych działach, przeglądarkach, na prywatnych urządzeniach i w aplikacjach chmurowych.

Pracownicy podawali też konkretne powody wyboru tych narzędzi. Czterdzieści jeden procent wybierało usługi znane z życia prywatnego. Kolejne 28% stwierdziło, że ich firma nie zapewniła zatwierdzonej opcji.

Tylko 32% wyrażało obawy dotyczące prywatności danych firmowych lub danych klientów wprowadzanych do narzędzi konsumenckich. Dwadzieścia dziewięć procent martwiło się o bezpieczeństwo systemów IT swojego pracodawcy.

Wyniki te wymagają ostrożnej interpretacji. Microsoft zlecił badanie i sprzedaje korporacyjne usługi AI, dlatego ma komercyjny interes w zarządzanym wdrażaniu.

Badanie mierzy również deklarowane użycie, a nie potwierdzone incydenty bezpieczeństwa. Nie dowodzi, że 71% pracowników ujawniło wrażliwe informacje lub spowodowało naruszenie.

Jego wartość leży gdzie indziej. Badanie pokazuje szeroką lukę między zapotrzebowaniem pracowników a formalnym zarządzaniem w badanej próbie z Wielkiej Brytanii. NCSC przywołuje tę lukę jako dowód, że shadow AI stała się powszechna.

Zespoły bezpieczeństwa odczuwają presję z obu stron. Muszą ograniczać niezarządzane użycie, jednocześnie unikając kontroli uniemożliwiających legalną pracę. Działy zakupów, prawny, prywatności i liderzy biznesowi współdzielą tę presję.

Firma może opublikować politykę AI, a mimo to nie dostrzegać rzeczywistych zachowań. Pracownicy mogą korzystać z kont osobistych, rozszerzeń przeglądarki, aplikacji mobilnych i wbudowanych funkcji AI w zatwierdzonym oprogramowaniu.

Niektóre narzędzia również zmieniają się szybciej niż podczas corocznego przeglądu polityki. Usługa, która zaczynała jako generator tekstu, może później dodać przechowywanie plików, trwałą pamięć, konektory stron trzecich lub autonomiczne działania.

Oznacza to, że zatwierdzenie nie może być jednorazową decyzją dotyczącą marki. Organizacja musi oceniać usługę, typ konta, przepływ danych, włączone funkcje i uprawnienia.

Badanie podważa też założenie, że samo szkolenie podnoszące świadomość rozwiąże problem. Znajomość narzędzi oraz brak firmowych alternatyw są praktycznymi zachętami. Jeden slajd ostrzegawczy nie usunie żadnej z nich.

Organizacje potrzebują zatwierdzonej ścieżki, która konkuruje szybkością i użytecznością. W przeciwnym razie każde dodatkowe ograniczenie zwiększa wartość nieoficjalnego obejścia.

Wygoda i kontrola są teraz bezpośrednimi przeciwnikami

Główny konflikt zachodzi między wygodą pracowników a kontrolą organizacyjną i żadna ze stron nie może po prostu pokonać drugiej.

Konsumenckie usługi AI oferują natychmiastową wartość. Pracownik może streścić dokument, poprawić e-mail, przeanalizować notatki lub przygotować prezentację bez składania wniosku technologicznego.

Ta wygoda staje się ryzykowna, gdy usługa znajduje się poza granicą bezpieczeństwa pracodawcy. Organizacja traci wiarygodną wiedzę o tożsamościach, zapytaniach, przesłanych plikach, połączonych kontach i wygenerowanych wynikach.

Polityka skupiona wyłącznie na zatwierdzonych nazwach marek pomija to rozróżnienie. Pracownik może korzystać z zatwierdzonego dostawcy za pośrednictwem osobistego konta z innymi ustawieniami retencji i kontroli administracyjnych.

Możliwa jest także sytuacja odwrotna. Mniej znana usługa może działać bezpiecznie w zarządzanym środowisku z ograniczonym dostępem do danych i jasnymi warunkami umownymi.

Rzeczywistą jednostką zarządzania jest zatem całe wdrożenie. Zespoły bezpieczeństwa muszą rozumieć, kto korzysta z systemu, jakie dane do niego trafiają, dokąd te dane są przesyłane oraz jakie działania system może wykonywać.

Wymóg ten tworzy tarcia operacyjne. Każda integracja i przegląd uprawnień wymagają czasu, podczas gdy pracownicy mogą wdrożyć nowe narzędzie podczas przerwy na lunch.

Blokowanie każdej nieznanej domeny może ograniczyć widoczne użycie w przeglądarce. Nie obejmuje jednak prywatnych telefonów, komputerów domowych, kopiowanego tekstu ani funkcji AI dostarczanych przez skądinąd zatwierdzone platformy.

Agresywne monitorowanie tworzy własne problemy. Przechwytywanie szyfrowanego ruchu może wpływać na prywatność, wydajność systemu i zaufanie pracowników. Może też nie ujawniać aktywności na kontach osobistych.

Starsze wytyczne NCSC dotyczące shadow IT uznają te ograniczenia. Brokerzy bezpieczeństwa dostępu do chmury mogą identyfikować niektóre niezatwierdzone usługi chmurowe przez monitorowanie ruchu sieciowego. Nie zawsze są w stanie zobaczyć osobiste użycie zatwierdzonej usługi ani aktywność ukrytą w szyfrowanych połączeniach.

Liderzy bezpieczeństwa potrzebują więc metod wykrywania, które nie zależą wyłącznie od nadzoru. Dane o wydatkach, dzienniki tożsamości, inwentaryzacje oprogramowania, kontrola przeglądarek, alerty zapobiegania utracie danych i zgłoszenia pracowników mogą ujawniać różne części obrazu.

Żadna z tych metod nie zapewnia pełnej widoczności. Razem mogą wskazywać wzorce wymagające bliższego przeglądu.

Proces zgłaszania bez obwiniania jest szczególnie ważny. Pracownicy spodziewający się kary mają motywację, aby ukrywać wcześniejsze użycie, usuwać dowody lub nadal korzystać z prywatnych urządzeń.

Otwarte ujawnianie daje zespołom bezpieczeństwa możliwość zidentyfikowania danych, których dotyczy problem, i przeniesienia użytecznych procesów do zarządzanych systemów. Pokazuje także, dlaczego zatwierdzone alternatywy zawiodły.

Ta lekcja ma szersze zastosowanie w pracy z wiedzą. Zarządzany osobisty system zarządzania wiedzą musi równoważyć użyteczne wyszukiwanie z jasnymi granicami dotyczącymi przechowywanych informacji.

Odpowiedzią nie jest nieograniczone wdrażanie. Jest nią ścieżka zatwierdzania wystarczająco szybka, by konkurować z oprogramowaniem konsumenckim.

Organizacje mogą ustanowić wstępnie zatwierdzone zadania niskiego ryzyka, ograniczone piaskownice, jasne klasyfikacje danych i szybkie kanały przeglądu. Mogą również oddzielić eksperymentowanie od dostępu do systemów produkcyjnych.

Tworzy to wykonalny kompromis. Pracownicy zachowują przestrzeń do testowania użytecznych narzędzi, podczas gdy wrażliwe dane i uprzywilejowane działania pozostają za silniejszymi mechanizmami kontroli.

Agenci AI zmieniają wyciek danych w problem dostępu

Shadow AI staje się bardziej niebezpieczna, gdy niezatwierdzony asystent może działać z uprawnieniami firmowymi, a nie tylko generować tekst.

Tradycyjny chatbot otrzymuje zapytanie i zwraca treść. System agentowy może interpretować cel, planować kilka kroków, uzyskiwać dostęp do zewnętrznych narzędzi, zachowywać pamięć i wykonywać działania.

Taka architektura daje agentom większą użyteczność. Zwiększa też liczbę komponentów, które mogą stać się celem atakujących.

Międzynarodowe agencje bezpieczeństwa opisały te ryzyka w swoich opublikowanych w maju 2026 roku wytycznych dotyczących agentowej AI. Dokument został współautorstwa agencji z Australii, Kanady, Nowej Zelandii, Wielkiej Brytanii i Stanów Zjednoczonych.

Wytyczne zalecają wykorzystywanie agentów do zadań niskiego ryzyka, niewymagających dostępu do wrażliwych danych, oraz unikanie szerokiego lub nieograniczonego dostępu. Umieszczają też bezpieczeństwo AI w istniejących programach cyberbezpieczeństwa, zamiast traktować je jako odizolowaną specjalizację.

Wstrzykiwanie promptów to jeden z problemów. Atak ten polega na umieszczaniu złośliwych instrukcji w treściach odczytywanych przez system AI, takich jak e-mail, strona internetowa lub pobrany dokument.

Człowiek może rozpoznać podejrzany tekst jako niezaufaną treść. Agent może zinterpretować go jako instrukcję i wywołać podłączone narzędzie.

Agent monitorujący pocztę e-mail może natrafić na złośliwą wiadomość nakazującą mu pobranie oprogramowania. Agent wsparcia może przetworzyć spreparowane zgłoszenie, które manipuluje jego dostępem do danych klientów.

Połączenia zwiększają powierzchnię ataku. Narzędzia wyszukiwania, magazyny plików, wtyczki, systemy pamięci, interfejsy aplikacji i inni agenci mogą wprowadzać podatności lub wrogie dane wejściowe.

Uprawnienia określają skalę potencjalnych szkód. Asystent mający dostęp tylko do odczytu jednego folderu stwarza inne ryzyko niż agent, który może wysyłać e-maile, modyfikować umowy lub zatwierdzać płatności.

Wytyczne opisują problem „zdezorientowanego zastępcy”, w którym atakujący manipuluje zaufanym systemem, aby wykorzystał uprawnienia, których atakujący sam nie posiada. Agenci AI mogą odtworzyć ten ugruntowany wzorzec bezpieczeństwa na większą skalę operacyjną.

Statyczna autoryzacja pogarsza problem. Usługa może otrzymać szerokie uprawnienia podczas konfiguracji i zachować je mimo zmian w procesach pracy. Późniejsze działania mogą opierać się na dawnym zatwierdzeniu, które nie pasuje już do kontekstu.

Ukryci agenci są szczególnie trudni do zarządzania, ponieważ administratorzy mogą nie wiedzieć o ich istnieniu. Nie mogą zmienić ich poświadczeń, ograniczyć ich uprawnień, sprawdzić ich logów ani uwzględnić ich w reakcji na incydent.

Dlatego ostrzeżenie NCSC dotyczące shadow AI wykracza poza zarządzanie danymi. Nieznana integracja AI może stać się nieznaną ścieżką dostępu do poczty e-mail, pamięci masowej w chmurze, repozytoriów kodu źródłowego, systemów klientów lub wewnętrznych baz danych.

Mimo to ostrzeżenie nie dowodzi, że każdy niezatwierdzony agent powoduje aktywne naruszenie bezpieczeństwa. Ryzyko zależy od jego konfiguracji, danych, integracji, uprawnień i ekspozycji na wrogie treści.

Samodzielny asystent do pisania, bez wrażliwych danych wejściowych, stanowi ograniczone ryzyko organizacyjne. Niesprawdzony agent ds. zakupów z dostępem do finansów i umów stwarza znacznie większe zagrożenie.

Zespoły bezpieczeństwa powinny ustalać priorytety na podstawie możliwości, a nie nowości. Systemy, które mogą pobierać wrażliwe dane lub wykonywać działania o istotnych konsekwencjach, zasługują na uwagę przed odizolowanymi narzędziami do obsługi treści.

Kluczowa jest zasada najmniejszych uprawnień. Każdy agent powinien otrzymywać wyłącznie dostęp niezbędny do realizacji określonego zadania, przez określony czas, a wrażliwe działania powinny wymagać dodatkowego zatwierdzenia.

Organizacje potrzebują także logów łączących decyzje modelu z wywołaniami narzędzi i zdarzeniami tożsamości. Zwyczajnie wyglądający log aplikacji może ukrywać fakt, że działanie zainicjował zmanipulowany agent.

Piaskownice, segmentacja, autoryzacja dla każdego żądania, rotacja poświadczeń i potwierdzenie przez człowieka ograniczają potencjalne szkody. Nie eliminują wszystkich awarii specyficznych dla AI.

Przekształcają jednak nieograniczoną ekspozycję w ograniczoną. To ten sam cel obronny, który NCSC stosuje wobec shadow AI jako całości.

Ostrzeżenie nie dowodzi fali naruszeń bezpieczeństwa związanych z AI

NCSC zidentyfikowało wiarygodny i powszechny warunek ryzyka, lecz publicznie dostępne dowody nie potwierdzają odpowiadającej mu skali faktycznych incydentów.

To rozróżnienie ma znaczenie dla odpowiedzialnego planowania bezpieczeństwa. Ryzyko może uzasadniać działanie, nie potwierdzając jednocześnie twierdzeń o trwającej epidemii naruszeń.

NCSC opisuje konsekwencje, które mogą wynikać z shadow AI. Obejmują one naruszenia danych, utratę własności intelektualnej, niezgodność z przepisami, ograniczoną kontrolę i wykorzystywanie podatności agentów.

Wrześniowa publikacja nie podaje liczby incydentów spowodowanych niezatwierdzonym AI w miejscu pracy. Nie mierzy również, ile wrażliwych informacji ankietowani pracownicy wprowadzili do tych usług.

Statystyka 71% dotyczy używania niezatwierdzonych narzędzi. Nie rozróżnia ona między przeredagowaniem nieszkodliwego zdania a przesłaniem poufnych danych klientów.

Pochodzi również z badania brytyjskiej siły roboczej zleconego przez dużego dostawcę korporacyjnych rozwiązań AI. Czytelnicy nie powinni automatycznie stosować tego odsetka do każdego kraju, sektora czy organizacji.

Instytucje regulowane mogą podlegać bardziej rygorystycznym kontrolom niż cała próba. Małe firmy mogą mieć mniej formalnych procesów zatwierdzania. Zespoły technologiczne mogą korzystać z AI inaczej niż pracownicy ochrony zdrowia lub sektora publicznego.

Ograniczenia te nie czynią ustalenia nieistotnym. Określają, co może ono potwierdzać.

Dowody wspierają wniosek, że używanie niezatwierdzonego AI jest powszechne w badanej populacji. Pokazują również, że wielu użytkowników w ograniczonym stopniu zwraca uwagę na prywatność i bezpieczeństwo systemów.

NCSC dodaje techniczną ocenę skutków niezarządzanych danych i dostępu agentów. Ocena ta jest zgodna z ugruntowanymi zasadami zarządzania zasobami, najmniejszych uprawnień i ładu danych.

Budżety bezpieczeństwa powinny jednak podążać za zaobserwowaną ekspozycją. Zespoły potrzebują inwentaryzacji narzędzi, kont, klas danych, integracji i uprawnień, zanim kupią kolejną platformę kontrolną.

Muszą też rozróżniać trzy rodzaje aktywności. Eksperymentowanie o niskim ryzyku obejmuje dane publiczne lub syntetyczne bez uprzywilejowanych połączeń.

Użycie danych obejmuje poufne pliki, dane klientów, własność intelektualną lub informacje regulowane. Zastosowanie agentowe dodaje poświadczenia i zdolność oddziaływania na inne systemy.

Kategorie te nie powinny otrzymywać takiej samej odpowiedzi. Traktowanie ich jednakowo marnuje zdolność do przeprowadzania przeglądów i zachęca pracowników do omijania procesu.

Organizacje powinny także unikać założenia, że licencja korporacyjna rozwiązuje każde ryzyko. Zatwierdzone systemy nadal mogą być błędnie skonfigurowane, mieć nadmierne uprawnienia lub być połączone z nieodpowiednimi danymi.

Umowy z dostawcami nie zapobiegają wstrzykiwaniu promptów. Panele administracyjne nie zastępują starannego projektowania uprawnień. Ustawienia przechowywania danych nie naprawiają zbędnego przesłania.

Rozróżnienie między zatwierdzonym a niezatwierdzonym pozostaje wartościowe, ponieważ zatwierdzenie tworzy rozliczalność. Powinno ono oznaczać początek ciągłego nadzoru, a nie jego koniec.

Wiarygodny program wymaga jasno określonych właścicieli modeli, konektorów, magazynów danych, poświadczeń i generowanych wyników. Wymaga również procedury odebrania dostępu, gdy pracownik zmienia rolę.

Plany reagowania na incydenty powinny obejmować usługi AI. Osoby prowadzące dochodzenie muszą wiedzieć, jak zabezpieczać prompty, historię wywołań narzędzi, logi tożsamości i dotknięte nimi wyniki.

Sceptyczne odczytanie ostrzeżenia NCSC jest zatem proste. Shadow AI nie jest automatycznie naruszeniem bezpieczeństwa, a wykorzystanie deklarowane w ankiecie nie jest częstością występowania incydentów.

Mocniejszy wniosek jest bardziej użyteczny. Nieznane wykorzystanie AI uniemożliwia organizacji zmierzenie swojej ekspozycji, a połączeni agenci mogą zwiększać konsekwencje tej niepewności.

Trzy sygnały pokażą, czy organizacje zmniejszają tę lukę

Kolejnym sprawdzianem będzie to, czy pracodawcy zastąpią statyczne polityki AI mierzalnymi kontrolami, z których pracownicy będą faktycznie korzystać.

Pierwszym sygnałem jest jakość wewnętrznych inwentaryzacji AI. W ciągu najbliższych trzech miesięcy liderzy bezpieczeństwa powinni pytać, czy potrafią zidentyfikować konta konsumenckie, wbudowanych asystentów, niestandardowych agentów i połączone usługi.

Sama dłuższa lista nie dowodzi postępu. Przydatna inwentaryzacja musi łączyć każde wdrożenie z właścicielem, typem konta, klasyfikacją danych, polityką retencji, integracjami i uprawnieniami.

Jeżeli inwentaryzacje zaczną obejmować te pola, podejście NCSC do ograniczania ryzyka zyskuje na znaczeniu. Jeśli organizacje nadal będą liczyć wyłącznie zatwierdzonych dostawców, ich największe martwe pola pozostaną.

Drugim sygnałem jest szybszy dostęp do zarządzanych alternatyw. Pracodawcy powinni mierzyć, jak długo pracownicy czekają na narzędzie AI, funkcję lub środowisko eksperymentalne.

Skrócenie czasu zatwierdzania usunęłoby jedną z przyczyn korzystania z niezatwierdzonych narzędzi AI. Wzrost aktywnego użycia zarządzanych usług byłby silniejszym sygnałem wdrożenia niż potwierdzenia zapoznania się z polityką.

Zespoły bezpieczeństwa powinny również obserwować, czy pracownicy zgłaszają wcześniejsze korzystanie z shadow AI bez konsekwencji dyscyplinarnych. Większa liczba zgłoszeń może początkowo wyglądać na pogorszenie zgodności, lecz może odzwierciedlać poprawę widoczności.

Jeśli wnioski nadal będą rozpatrywane powoli, a zatwierdzonym narzędziom będzie brakować potrzebnych funkcji, pracownicy zachowają praktyczny powód do omijania kontroli. Nowe ograniczenia jeszcze bardziej wypchną wtedy użycie poza zasięg widzenia.

Trzecim sygnałem jest dyscyplina w zakresie uprawnień agentów AI. Organizacje powinny sprawdzać, czy agenci otrzymują wąsko określone tożsamości, tymczasowe poświadczenia, segmentowane środowiska i autoryzację dla każdego działania.

Powinny również testować, czy wrażliwe działania wymagają potwierdzenia przez człowieka. Logi muszą wskazywać, który użytkownik, agent, instrukcja i narzędzie spowodowały każdą istotną zmianę.

Analiza NCSC dotycząca ryzyka agentów podkreśla znaczenie zabezpieczeń, piaskownic i aktywnego nadzoru. Kontrole te pokażą, czy firmy traktują agentów jak uprzywilejowane oprogramowanie, czy jak wygodne rozszerzenia chatbotów.

Szeroki, trwały dostęp wzmocniłby najpoważniejszą obawę przedstawioną w ostrzeżeniu. Pojedynczy wykorzystany komponent mógłby wtedy odziedziczyć uzasadniony zasięg agenta.

Ograniczone uprawnienia i przetestowane mechanizmy powstrzymywania osłabiłyby tę obawę w przypadku poszczególnych wdrożeń. Nie wyeliminowałyby użycia shadow AI, lecz ograniczyłyby jego potencjalny wpływ.

Dla pracowników umysłowych bezpośrednie pytanie jest proste. Czy usługa, z której korzystasz, należy do zatwierdzonego procesu pracy i czy wiesz, co dzieje się z przekazywanymi informacjami?

Dla menedżerów pytanie jest trudniejsze. Czy pracownicy mogą wykonać to samo zadanie za pomocą bezpiecznej opcji, nie czekając tak długo, by omijanie jej stało się atrakcyjne?

Zespoły bezpieczeństwa powinny zacząć od tych procesów, a nie od kolejnego uniwersalnego zakazu. Zidentyfikujcie miejsca, w których pracownicy używają AI, oceńcie wynikającą z tego ekspozycję i zastąpcie ryzykowne ścieżki praktycznymi alternatywami.

Ostrzeżenie NCSC dotyczące shadow AI ostatecznie opisuje problem widoczności. Organizacje nie mogą zarządzać danymi, tożsamościami ani uprawnieniami agentów, które pozostają poza ich znanym środowiskiem.

Celem nie jest sprawienie, by eksperymentowanie z AI zniknęło. Chodzi o to, by bezpieczne użycie było łatwiejsze do znalezienia, szybsze do zatwierdzenia i bezpieczniejsze niż alternatywa działająca w cieniu.