Ostrzeżenie Akamai dotyczące Shadow AI ujawnia lukę w kontroli korporacyjnej

Akamai wystosowało wyraźne ostrzeżenie: niemal połowa użytkowników w przedsiębiorstwach korzysta z narzędzi AI, a znaczna część tej aktywności może wymykać się ustanowionym mechanizmom kontroli korporacyjnej.

Wniosek ten pojawił się w skróconym nagłówku Google News prowadzącym do komunikatu Akamai dystrybuowanego przez GlobeNewswire. W tym wpisie pominięto dopełnienie po słowie „omija”, przez co kluczowa teza pozostała niepełna. Szersze badania Akamai wyraźnie wskazują jednak brakujący konflikt: produktywne wykorzystanie AI coraz częściej odbywa się poza zarządzanymi tożsamościami, zatwierdzonymi kontami i widocznymi kanałami bezpieczeństwa.

Nie jest to po prostu kolejne badanie pokazujące, że pracownicy lubią ChatGPT. Opisuje zderzenie popytu ze strony pracowników z modelem kontroli, który przedsiębiorstwa stworzyły dla konwencjonalnego oprogramowania. OpenAI, Google, Anthropic, Microsoft i setki mniejszych dostawców udostępniły zaawansowane narzędzia przez zwykłą przeglądarkę.

Pytanie dotyczące bezpieczeństwa uległo więc zmianie. Firmy nie muszą już jedynie decydować, które systemy AI zatwierdzają. Muszą ustalić, czy wrażliwe informacje trafiają do jakiegokolwiek modelu za pośrednictwem prywatnych kont, wklejanego tekstu, przesyłanych plików, rozszerzeń lub wbudowanych funkcji.

To niewygodne odwrócenie sytuacji. Przedsiębiorstwa przez lata centralizowały zarządzanie tożsamością, dostępem i zakupami oprogramowania. Wdrażanie AI decentralizuje dziś wszystkie te trzy obszary z poziomu przeglądarki.

Nagłówek wskazuje na martwy punkt wielkości przeglądarki

Ostrzeżenie Akamai dotyczy ścieżki, którą pracownicy docierają do AI, a nie tylko liczby osób eksperymentujących z tymi narzędziami.

Dostępne dowody pochodzą częściowo od LayerX, firmy zajmującej się bezpieczeństwem przeglądarek, którą przejęło Akamai. LayerX zbiera telemetrię dotyczącą aktywności wewnątrz aplikacji internetowych, w tym logowań, przesyłanych plików, wklejanego tekstu oraz przełączania się między kontami firmowymi i prywatnymi.

Opublikowane badania wykazały, że 45% użytkowników w przedsiębiorstwach uzyskiwało dostęp do generatywnej AI z firmowych punktów końcowych. ChatGPT odpowiadał za 92% zaobserwowanego wykorzystania AI w tym zbiorze danych.

Liczby te nie oznaczają, że 45% wszystkich pracowników na świecie korzysta z ChatGPT. Opisują aktywność wśród organizacji i punktów końcowych objętych telemetrią dostawcy. To rozróżnienie ma znaczenie przy interpretowaniu każdego raportu firmy z branży bezpieczeństwa.

To samo badanie wykazało bardziej znaczący wzorzec. Czterdzieści procent plików przesyłanych do narzędzi AI zawierało wrażliwe informacje korporacyjne. Dwadzieścia dwa procent wklejanego tekstu również zawierało materiały wrażliwe.

Odsetki te mierzą skontrolowane transfery, a nie potwierdzone naruszenia. Przesłanie wrażliwego pliku może być autoryzowane, odpowiednio zabezpieczone i niezbędne do legalnej pracy. Może też odbywać się za pośrednictwem prywatnego konta, którego pracodawca nie może audytować.

LayerX podał, że 32% transferów danych między kontami firmowymi i prywatnymi odbywało się za pośrednictwem platform AI. Szersze ustalenia dotyczące wykorzystania AI umieszczają przeglądarkę w centrum tego narażenia.

To pomaga wyjaśnić skrócone sformułowanie „omija” w wpisie Google News. Istotne mechanizmy kontroli obejmują firmową tożsamość, jednokrotne logowanie, zasady zatwierdzonych kont, polityki zapobiegania utracie danych oraz standardową ocenę oprogramowania.

Jednokrotne logowanie, powszechnie nazywane SSO, pozwala pracodawcy zarządzać dostępem za pośrednictwem jednej firmowej tożsamości. Prywatne konta AI omijają tę warstwę tożsamości, nawet gdy pracownicy korzystają z nich na służbowych urządzeniach.

Tradycyjne zarządzanie oprogramowaniem zakłada, że dział IT może wykryć aplikację, zatwierdzić ją, przyznać dostęp, a później go odebrać. Konsumenckie narzędzia AI skracają proces wdrożenia do odwiedzenia strony, zalogowania się i wpisania polecenia.

Nie jest wymagane żadne zgłoszenie instalacji. Pracownik może w ciągu kilku minut otworzyć chatbota, uwierzytelnić się prywatnym adresem e-mail i wkleić dokument klienta.

Wbudowana AI dodatkowo komplikuje wykrywanie. Funkcje generatywne pojawiają się obecnie w pakietach zwiększających produktywność, narzędziach projektowych, platformach spotkań, systemach obsługi klientów i rozszerzeniach przeglądarek. Pracownicy mogą nie postrzegać każdej funkcji jako odrębnej usługi AI.

Akamai definiuje shadow AI jako wykorzystanie AI bez wiedzy, zatwierdzenia lub nadzoru zespołów IT, bezpieczeństwa albo zgodności. Obejmuje to więcej niż nieautoryzowane chatboty.

Programista może przesłać zastrzeżony kod do prywatnego asystenta programistycznego. Marketer może przesłać listę klientów, aby wygenerować segmenty kampanii. Menedżer może połączyć agenta z dokumentami chmurowymi bez sprawdzenia jego uprawnień.

Każde z tych działań może wyglądać jak zwykły ruch przeglądarkowy. Ryzykownym elementem jest kontekst, w tym tożsamość użytkownika, przekazywane informacje oraz zasady umownego przetwarzania tych danych przez dostawcę.

Zapora sieciowa może widzieć połączenie z dozwoloną domeną. Nie wie jednak automatycznie, czy pracownik użył zarządzanego konta firmowego, czy konta prywatnego.

To centralna zmiana stojąca za raportem. Firmowa AI stała się na tyle powszechna, że zarządzanie dostępem wyłącznie według nazwy aplikacji nie zapewnia już wystarczającej widoczności.

Dlaczego mechanizmy kontroli firmowej AI przegrywają wyścig z wdrażaniem

Pracownicy omijają zatwierdzone ścieżki, gdy konsumencka AI oferuje szybszy dostęp, szersze funkcje lub mniej proceduralnych przeszkód.

Shadow AI często zaczyna się od praktycznego zadania, a nie od złośliwych intencji. Pracownik musi podsumować spotkanie, poprawić propozycję, przeanalizować kod lub porównać kilka dokumentów.

Zatwierdzony asystent może nie obsługiwać preferowanego modelu, przyjmować mniej typów plików albo pozostawać niedostępny dla danego działu. Procesy zakupowe i przeglądy bezpieczeństwa mogą też przebiegać wolniej niż sama praca.

Prywatny chatbot zapewnia natychmiastowy dostęp. Pracownik widzi narzędzie zwiększające produktywność, podczas gdy zespół bezpieczeństwa widzi niezweryfikowany podmiot przetwarzający dane.

Ta luka w bodźcach wyjaśnia, dlaczego zakazy przynoszą ograniczone rezultaty. Zablokowanie jednej usługi może skierować użytkowników do innego dostawcy, urządzenia mobilnego, prywatnego profilu przeglądarki lub funkcji wbudowanej.

Skuteczna polityka musi uwzględniać powód, dla którego pracownicy wybrali nieoficjalną drogę. W przeciwnym razie egzekwowanie zasad traktuje widoczny objaw, utrzymując źródło popytu.

Własne wytyczne Akamai wskazują, że wykorzystanie nieautoryzowanych narzędzi spada, gdy przedsiębiorstwa udostępniają wydajne zatwierdzone rozwiązania z ochroną umowną, rejestrowaniem audytowym i integracją SSO. Bezpieczna ścieżka nadal musi rozwiązywać problem użytkownika.

Historycznym odpowiednikiem jest shadow IT, które rozwinęło się, gdy działy kupowały aplikacje chmurowe bez centralnego zatwierdzenia. Zespoły bezpieczeństwa ostatecznie wdrożyły brokerów dostępu do chmury, mechanizmy wykrywania aplikacji i bardziej elastyczne procesy zakupowe.

AI podnosi stawkę, ponieważ transakcja często zawiera dane biznesowe. Konwencjonalna nieautoryzowana aplikacja może przechowywać nowy harmonogram projektu. Interakcja z chatbotem może natychmiast przekazać kod źródłowy, treść prawną, dokumentację klientów lub nieopublikowaną strategię.

Systemy generatywne tworzą także wyniki, które pracownicy mogą wykorzystywać ponownie bez dokumentowania ich pochodzenia. Wraz z narażeniem danych pojawiają się pytania o dokładność, własność intelektualną, uprzedzenia i odpowiedzialność.

Ta sama usługa AI może wiązać się z różnym profilem ryzyka zależnie od konta. Umowa dla przedsiębiorstw może zapewniać kontrolę retencji, dzienniki administracyjne i ograniczenia dotyczące trenowania modeli.

Prywatne konto może nie zapewniać takich zabezpieczeń. Zespoły bezpieczeństwa muszą więc rozróżniać tożsamości i sesje, a nie tylko rozpoznawać docelową domenę.

Ta różnica wywiera presję na dyrektorów ds. informacji i liderów bezpieczeństwa z przeciwnych stron. CIO mają zwiększać wykorzystanie AI, podczas gdy liderzy bezpieczeństwa muszą ograniczać niekontrolowany przepływ danych.

Liderzy biznesowi dodają kolejne wymaganie: mierzalną produktywność. Jeśli oficjalne środowisko spowalnia pracowników bez poprawy wyników, korzystanie z nieautoryzowanych narzędzi staje się przewidywalną reakcją.

Ten konflikt wykracza poza bazę klientów Akamai. Axios podał, że firmy powszechnie korzystały z 67 narzędzi generatywnej AI, przy czym 90% z nich nie miało odpowiedniej licencji ani zatwierdzenia. Ich reportaż o shadow AI opisał wyścig dostawców bezpieczeństwa o zamknięcie luki w widoczności.

Ponownie, pomiary dostawców różnią się w zależności od populacji klientów, metody gromadzenia danych i definicji. Jedna firma może liczyć domeny, podczas gdy inna aplikacje, konta, użytkowników lub pojedyncze sesje.

Kierunek zmian jest bardziej wiarygodny niż pojedynczy odsetek. Pracownicy mają wiele dróg dostępu do AI, a firmowe inwentaryzacje konsekwentnie obejmują jedynie część tej aktywności.

Presja nie kończy się na zespołach bezpieczeństwa. Działy prawne muszą określić, którzy dostawcy mogą przetwarzać informacje regulowane lub poufne.

Zespoły ds. prywatności muszą rozumieć, dokąd trafiają polecenia i pliki. Zespoły zakupowe muszą analizować rosnącą listę funkcji AI, w tym funkcje dodawane do produktów już objętych umową.

Menedżerowie potrzebują także zasad dotyczących generowanych wyników. Zatwierdzone narzędzie nie czyni każdej odpowiedzi poprawną, a umowa dla przedsiębiorstw nie potwierdza zasadności każdej decyzji podjętej na podstawie jego wyników.

Problem kontroli ma zatem dwie warstwy. Przedsiębiorstwa muszą zarządzać informacjami trafiającymi do systemów AI oraz decyzjami z nich wychodzącymi.

Blokowanie niezatwierdzonych kont rozwiązuje jedynie pierwszy problem. Nie określa, kiedy wygenerowana odpowiedź wymaga weryfikacji, z których źródeł skorzystał system ani kto pozostaje za nią odpowiedzialny.

To szersze obciążenie związane z zarządzaniem wyjaśnia, dlaczego wyścig wdrażania wydaje się nierówny. Pracownik może zacząć korzystać z AI natychmiast, podczas gdy kompletna struktura kontroli korporacyjnej wymaga współpracy kilku działów.

Prawdziwa rywalizacja to zarządzana AI kontra użyteczna AI

Głównym przeciwnikiem nie jest Akamai kontra inny dostawca rozwiązań bezpieczeństwa; jest nim zarządzana AI kontra narzędzia, które pracownicy uznają za najbardziej użyteczne.

Przedsiębiorstwa czasem przedstawiają bezpieczeństwo i produktywność jako sprzeczne cele. Takie ujęcie zachęca do stosowania topornych mechanizmów kontroli, w tym całkowitych blokad, wąskich list dozwolonych narzędzi i długotrwałych procedur zatwierdzania.

Pracownicy stają wtedy przed prostym wyborem. Mogą czekać na zatwierdzony proces albo wykonać zadanie przy użyciu znanej usługi konsumenckiej.

Lepsza rywalizacja dotyczy jakości produktu. Zarządzany asystent musi oferować wystarczające możliwości, kontekst, szybkość i niezawodność, aby stać się wyborem domyślnym.

Kontekst ma szczególne znaczenie. Pracownicy umysłowi potrzebują AI, która działa na dokumentach, rozmowach, historii projektów i wyspecjalizowanych materiałach wewnętrznych.

Ten dostęp również stwarza ryzyko. Szerokie uprawnienia mogą ujawnić informacje, których pracownik nie zdawał sobie sprawy, że może je pobrać za pośrednictwem interfejsu AI.

Zarządzane środowisko wiedzy powinno zachowywać istniejące granice dostępu. Powinno również wskazywać, które źródła wsparły odpowiedź, i ograniczać pobieranie do autoryzowanych materiałów.

W tym miejscu osobista baza wiedzy może ograniczyć doraźne kopiowanie między systemami biznesowymi a publicznymi chatbotami. Lokalne lub kontrolowane gromadzenie danych nie eliminuje obowiązków związanych z zarządzaniem, ale może ograniczyć niepotrzebne transfery.

Mechanizmy bezpieczeństwa muszą działać w momencie interakcji. Narzędzia sieciowe pozostają użyteczne, lecz mogą nie dostrzegać różnic ukrytych wewnątrz szyfrowanych sesji przeglądarki.

Mechanizmy kontroli na poziomie przeglądarki mogą zidentyfikować aktywne konto, sprawdzić przesyłany plik i rozpoznać wklejany tekst, zanim informacje opuszczą punkt końcowy. Mogą następnie ostrzec, zredagować, zablokować lub zarejestrować dane działanie.

Akamai Workforce Protector, wcześniej LayerX, odzwierciedla takie podejście. Według Akamai zarządza zachowaniem użytkowników i agentów wewnątrz aplikacji, zamiast polegać wyłącznie na ruchu na obrzeżu sieci.

Firma ma interes komercyjny w definiowaniu przeglądarki jako kluczowego punktu egzekwowania zasad. Nabywcy powinni oceniać to twierdzenie obok alternatyw związanych z endpointami, siecią, tożsamością i bezpieczeństwem danych.

Żadna pojedyncza warstwa nie widzi każdej ścieżki. Rozszerzenie przeglądarki nie może zarządzać niezarządzanym telefonem, który nigdy nie łączy się ze środowiskiem firmowym.

Kontrole sieciowe mogą identyfikować miejsca docelowe, ale mogą nie mieć szczegółowego kontekstu sesji. Agenci endpointów mogą analizować aktywność urządzenia, lecz nie zawsze rozumieją wewnętrzną semantykę każdej aplikacji.

Kontrole tożsamości ustalają, kto się zalogował, ale nie określają automatycznie, czy każdy prompt zawiera informacje objęte ograniczeniami. Klasyfikacja danych może rozpoznawać treści wrażliwe, lecz zależy od dokładnych etykiet i odpowiedniego pokrycia.

Praktyczna architektura łączy te sygnały. Powiązuje tożsamość, stan zabezpieczeń urządzenia, miejsce docelowe, typ konta, wrażliwość treści i żądaną akcję.

Rozważmy pracownika streszczającego publiczne ogłoszenie produktu. Osobisty chatbot stwarza ograniczone ryzyko organizacyjne, ponieważ dane wejściowe są już publiczne.

Teraz rozważmy tego samego pracownika wklejającego transkrypcje rozmów z obsługą klienta. Miejsce docelowe może pozostać identyczne, ale wymagania dotyczące prywatności, retencji i zobowiązań umownych zmieniają decyzję.

Sama inspekcja plików pomija również zachowania polegające na kopiowaniu i wklejaniu. Pomiary LayerX wskazują, że wklejany tekst stanowi istotny kanał narażenia, nawet gdy pracownicy nigdy nie przesyłają dokumentu.

Agenci dodają kolejny wymiar. Agent może pobierać informacje, wywoływać usługi zewnętrzne, aktualizować rekordy i powtarzać działania bez odrębnego działania człowieka za każdym razem.

To sprawia, że projektowanie uprawnień staje się kwestią bezpieczeństwa operacyjnego. Chatbot odpowiada na żądanie, podczas gdy agent może spowodować zmianę.

Badanie Akamai z 2026 r. dotyczące bezpieczeństwa API objęło 1 840 liderów i praktyków bezpieczeństwa z dziesięciu krajów. Wykazało, że 80% korzystało z zapór aplikacji webowych, podczas gdy tylko 35% używało dedykowanych narzędzi bezpieczeństwa API.

API to interfejsy umożliwiające systemom oprogramowania wymianę danych i poleceń. Tworzą warstwę łączącą agentów, modele, bazy danych i aplikacje biznesowe.

Nieautoryzowana sesja chatbota może prowadzić do wycieku informacji. Agent z nadmiernymi uprawnieniami może też zmodyfikować zgłoszenie, wystawić zwrot środków, wysłać wiadomość lub odpytać system objęty ograniczeniami.

Zarządzana AI musi więc konkurować czymś więcej niż jakością modelu. Potrzebuje użytecznych integracji, wąskich uprawnień, niezawodnego rejestrowania i zatwierdzania przez człowieka działań o istotnych konsekwencjach.

Jeśli te zabezpieczenia sprawiają, że każde zadanie staje się uciążliwe, pracownicy będą ich unikać. Jeśli znikną całkowicie, organizacja nie będzie mogła odróżnić wygody od niedopuszczalnego narażenia.

Wygrywający projekt ułatwia typowe działania niskiego ryzyka. Dodatkowe utrudnienia rezerwuje dla danych wrażliwych, nietypowych miejsc docelowych, kont osobistych i poleceń o dużym wpływie.

To wyzwanie produktowe w takim samym stopniu jak wyzwanie polityki. Przedsiębiorstwa nie mogą przeszkolić pracowników tak, by zrekompensować interfejsy konsekwentnie nagradzające niebezpieczne skróty.

Czego nagłówek w Google News nie dowodzi

Podstawowe ryzyko jest wiarygodne, ale skrócony nagłówek nie dowodzi niezależnie, że niemal połowa całej aktywności AI w przedsiębiorstwach omija kontrole.

Wpis Google News urywa twierdzenie bezpośrednio po słowie „omija”. Nie wskazuje kontroli, okresu pomiaru, próby, geografii ani mianownika.

Te braki uniemożliwiają precyzyjną interpretację. „Niemal połowa wykorzystania AI w przedsiębiorstwach” może odnosić się do użytkowników, kont, sesji, endpointów, organizacji, przesyłanych danych lub innej mierzonej kategorii.

Publicznie zindeksowane materiały Akamai i LayerX wspierają kilka powiązanych ustaleń. Nie sprawiają jednak, że każde możliwe odczytanie tego zdania staje się równoważne.

LayerX poinformował, że 45% użytkowników korporacyjnych korzystało z narzędzi AI na firmowych endpointach. Osobno wskazał wrażliwe treści w 40% przesłanych plików i w 22% wklejanego tekstu.

Firma podała również, że w usługach programowych szeroko używane są tożsamości osobiste. Jej badanie tożsamości z 2025 r. wykazało, że 40% dostępu do SaaS odbywało się przy użyciu osobistych poświadczeń, a 67% omijało SSO.

Statystyki te opisują różne populacje i zachowania. Połączenie ich w jedno szerokie stwierdzenie stworzyłoby liczbę, której badania nie opublikowały.

Pierwsze zastrzeżenie dotyczy zatem dyscypliny w zakresie mianownika. Czytelnicy powinni zapytać, co zostało policzone, zanim uznają odsetek za uniwersalną miarę adopcji.

Drugie zastrzeżenie dotyczy telemetrii dostawców. Dostawcy zabezpieczeń często analizują aktywność klientów, którzy już wdrożyli ich produkty.

Organizacje te mogą różnić się od firm bez porównywalnego monitoringu. Ich branże, rozmiary, polityki i profile ryzyka mogą kształtować mierzone wyniki.

Telemetria nadal ma wartość, ponieważ obserwuje zachowanie zamiast opierać się wyłącznie na pamięci. Nie reprezentuje jednak automatycznie każdego przedsiębiorstwa ani pracownika.

Ankiety mają inne ograniczenia. Respondenci mogą błędnie rozumieć definicje, zaniżać zgłoszenia dotyczące zakazanej aktywności lub reprezentować organizacje z wyjątkowo dojrzałymi programami AI.

Niezależne badania powinny zatem porównywać kilka form dowodów. Przydatne źródła obejmują telemetrię endpointów, logi sieciowe, rejestry tożsamości, ankiety wśród pracowników, raporty o incydentach i ujawnienia regulacyjne.

Trzecie zastrzeżenie dotyczy słowa „omija”. Osobiste logowanie może omijać firmowe zarządzanie tożsamością, nie omijając wszystkich kontroli bezpieczeństwa.

Endpoint może nadal uruchamiać oprogramowanie zapobiegające utracie danych. Sieć może nadal blokować określone miejsca docelowe. Dostawca może nadal oferować ustawienia prywatności dla użytkowników indywidualnych.

Z drugiej strony zatwierdzone konto może stwarzać ryzyko nawet wtedy, gdy przechodzi przez SSO. Nadal możliwe są nadmierne uprawnienia, słabe zasady retencji, prompt injection i niedokładne wyniki.

To rozróżnienie zapobiega uproszczonemu wnioskowi. Zarządzane nie oznacza bezpieczne, a niezarządzane nie oznacza potwierdzone naruszenie.

Zlecone przez Akamai badanie AI w przedsiębiorstwach z 2025 r. ilustruje szerszy problem. Wśród 400 globalnych respondentów na poziomie dyrektorów 63% wskazało obawy dotyczące bezpieczeństwa jako jedno z głównych wyzwań związanych z zastosowaniami AI.

To samo badanie wykazało, że 55% wskazało luki technologiczne lub platformowe, a 55% obawy dotyczące zgodności i regulacji. Czterdzieści pięć procent obawiało się, że aplikacje nie będą działać zgodnie z przeznaczeniem.

Ustalenia te pokazują, że presja związana z zarządzaniem wykracza poza shadow accounts. Organizacje obawiają się wydajności, niezawodności, zgodności i konsekwencji dla marki nawet w ramach formalnych wdrożeń.

Czwarte zastrzeżenie dotyczy przyczynowości. Shadow AI jest często opisywana jako niewłaściwe postępowanie pracowników, ale dostępne dowody nie potwierdzają jednego uniwersalnego motywu.

Niektórzy pracownicy świadomie ignorują zasady. Inni napotykają niejasne polityki, brakujące narzędzia, powolne zatwierdzenia lub funkcje AI wbudowane w produkty, które dział IT już zatwierdził.

Liderzy mogą też tworzyć sprzeczne bodźce. Żądają szybkiego wdrażania AI, jednocześnie oceniając zespoły pod kątem szybkości, a potem nakładają ograniczenia uniemożliwiające pracownikom osiągnięcie tych celów.

Wiarygodna analiza musi uwzględniać obie strony. Użytkownicy nadal odpowiadają za obchodzenie się z informacjami wrażliwymi, a organizacje nadal odpowiadają za oferowanie wykonalnych, zatwierdzonych ścieżek.

Prognozy regulacyjne również wymagają ostrożności. Gartner przewiduje, że do 2030 r. 40% przedsiębiorstw doświadczy incydentu bezpieczeństwa lub zgodności związanego z AI w wyniku nieautoryzowanego korzystania z shadow AI.

Jak podsumowano w omówieniu prognozy Gartnera, liczba ta dotyczy prognozowanych incydentów. Nie jest to bieżąca liczba naruszeń.

Prognozy mogą identyfikować narażenie, ale nie potwierdzają, że dana organizacja utraciła dane. Nabywcy powinni unikać zamieniania szacunków ryzyka w twierdzenia o zakończonych atakach.

Niekompletny element kanału tworzy jeszcze jeden problem redakcyjny. Google News jest warstwą agregacji, a nie podstawowym źródłem dowodów.

Bezpośredni komunikat, metodologia i pełny raport powinny decydować o sformułowaniu. Dopóki pełne twierdzenie i mianownik nie są widoczne, „niemal połowa” zasługuje na atrybucję, a nie przedstawianie jako ustalony uniwersalny fakt.

Nie czyni to tej historii mniej ważną. Sprawia, że luka w weryfikacji staje się częścią historii.

Trzy sygnały pokażą, czy przedsiębiorstwa odzyskują kontrolę

Kolejna faza będzie mierzona widocznością kont, przepływem danych wrażliwych i uprawnieniami przyznawanymi agentom AI.

Pierwszym sygnałem jest udział aktywności AI powiązanej z zarządzanymi tożsamościami firmowymi. Przedsiębiorstwa powinny śledzić, czy z czasem pracownicy przechodzą z kont osobistych do zatwierdzonych usług.

Spadający udział kont osobistych wzmocniłby argument, że użyteczne narzędzia dla przedsiębiorstw mogą ograniczać shadow AI. Płaski lub rosnący udział pokazałby, że polityki i licencje nie zmieniają zachowań.

Ten wskaźnik powinien być podzielony według działu i zadania. Programiści, marketerzy, analitycy, zespoły wsparcia i kadra zarządzająca używają różnych narzędzi i przetwarzają różne informacje.

Średnia dla całej firmy może ukrywać skoncentrowane narażenie. Jedna mała grupa może powodować większość transferów danych wrażliwych, ponieważ jej praca obejmuje kod, rejestry klientów lub dokumenty prawne.

Pomiar tożsamości również wymaga jasnego mianownika. Organizacje powinny osobno raportować użytkowników, sesje, transfery i aplikacje.

Drugim sygnałem jest tempo przemieszczania się danych wrażliwych do usług AI. Obejmuje to wklejany tekst, przesyłanie plików, wpisy w formularzach, rozszerzenia przeglądarki i żądania API.

Użyteczna miara rozróżnia zablokowane próby od ukończonych transferów. Oddziela też zatwierdzone konta firmowe od tożsamości osobistych i nieznanych.

Jeśli ukończone transfery danych wrażliwych maleją, podczas gdy legalne wykorzystanie AI rośnie, zarządzanie się poprawia. Jeśli rośnie jedynie liczba zablokowanych prób, pracownicy mogą po prostu napotykać większe utrudnienia.

Zespoły bezpieczeństwa powinny też badać, dokąd użytkownicy trafiają po blokadzie. Ostrzeżenie, które przekierowuje pracę do zatwierdzonego asystenta, jest bardziej użyteczne niż takie, które kończy przepływ pracy.

Podstawowym celem nie jest uzyskanie większej liczby naruszeń polityki. Chodzi o ograniczenie niepotrzebnego narażenia przy zachowaniu wartościowej pracy.

Organizacje mogą wspierać ten cel, dając pracownikom kontrolowane sposoby wyszukiwania, streszczania i łączenia własnych materiałów. Lokalny drugi mózg może ograniczyć wielokrotne kopiowanie między niepowiązanymi usługami.

Trzecim sygnałem jest profil uprawnień przypisany agentom AI. Firmy potrzebują inwentarza pokazującego, które systemy każdy agent może odczytywać, zapisywać i uruchamiać.

Dostęp tylko do odczytu stanowi jeden poziom ryzyka. Uprawnienie do wysyłania wiadomości, aktualizowania rejestrów finansowych, zmieniania kodu lub zatwierdzania transakcji stanowi inny.

Przedsiębiorstwa powinny monitorować domyślne ograniczanie dostępu, krótsze okresy autoryzacji, logi na poziomie działań i bramki zatwierdzania dla poleceń o istotnych konsekwencjach.

To właśnie tutaj widoczność API staje się decydująca. Agent często działa przez API, nawet gdy użytkownik rozpoczyna zadanie w przeglądarce.

Zespoły bezpieczeństwa muszą połączyć tożsamość człowieka, tożsamość agenta, żądanie do modelu, wywołanie narzędzia i wynikające z niego działanie biznesowe. Oddzielny log dla każdego komponentu nie potrafi odtworzyć pełnej decyzji.

Sygnał wzmocni tezę Akamai, jeśli przedsiębiorstwa odkryją dużą liczbę nieznanych agentów lub nadmiernych uprawnień. Osłabi tę tezę, jeśli inwentaryzacje pokażą wąski, monitorowany i celowy dostęp.

Zapowiedzi produktów zasługują na mniejszą wagę niż dane operacyjne. Dostawcy będą nadal wypuszczać bramy AI, bezpieczne przeglądarki, zapory modeli i systemy kontroli agentów.

Kluczowe pytanie brzmi, czy te produkty zmieniają zachowania. Mniejsze wykorzystanie nieznanych kont i mniej transferów wrażliwych danych stanowiłoby mocniejszy dowód niż liczba wdrożeń.

Kadra zarządzająca powinna również monitorować zadowolenie pracowników z zatwierdzonych narzędzi. Niskie wykorzystanie może świadczyć o skutecznej kontroli, ale może też oznaczać, że pracownicy całkowicie przestali korzystać z wartościowej AI.

Dojrzały program mierzy zarówno bezpieczeństwo, jak i użyteczność. Istotne wskaźniki obejmują realizację zadań, adopcję, wskaźniki błędów, czas przeglądu, wyjątki od polityk oraz potwierdzone incydenty.

Przedsiębiorstwa nie stoją przed pytaniem, czy pracownicy będą korzystać z AI. To zachowanie już rozprzestrzeniło się za pośrednictwem przeglądarek, pakietów oprogramowania i środowisk programistycznych.

Pytanie brzmi, czy oficjalne systemy staną się wystarczająco użyteczne, aby przyciągnąć tę aktywność z powrotem do widocznych kanałów. Zespoły bezpieczeństwa nie mogą zarządzać tym, czego nie widzą.

Ostrzeżenie Akamai powinno więc skłonić do bezpośredniego przeglądu. Które konta AI są aktywne, jakie informacje do nich trafiają i którzy agenci mogą działać w systemach firmowych?

Skrócona teza z Google News nadal wymaga pełnej metodologii, zanim czytelnicy uznają „prawie połowę” za uniwersalny wskaźnik. Otaczające ją dowody już teraz wspierają węższy wniosek.

Wdrożenia AI w przedsiębiorstwach wyprzedziły tradycyjne mechanizmy kontroli kont i aplikacji. Organizacje, które zlikwidują tę lukę, ułatwią korzystanie z zatwierdzonej ścieżki, zinstrumentują przeglądarkę i ograniczą uprawnienia agentów.

Zacznij od jednego praktycznego audytu w tym miesiącu. Zmierz sesje AI zarządzane i prywatne, zidentyfikuj transfery wrażliwych danych oraz sporządź listę wszystkich agentów z uprawnieniami do zapisu. Te trzy perspektywy pokażą, czy zarządzanie AI istnieje w operacjach, czy wyłącznie w politykach.