Bezpieczeństwo AI w przedsiębiorstwach przenosi się do przeglądarki

Kovrr trafił do Google News 4 sierpnia z jasnym ostrzeżeniem: bezpieczeństwo AI w przedsiębiorstwach musi dziś działać wewnątrz przeglądarki, a nie tylko wokół niej. Artykuł w Security Boulevard przedstawia aktywność w przeglądarce jako miejsce, w którym coraz częściej spotykają się pracownicy, dane firmowe, usługi AI i autonomiczne działania.

Argument ten pojawia się w chwili, gdy Google, Microsoft, OpenAI i inni dostawcy dodają AI bezpośrednio do przeglądarek i aplikacji internetowych. Funkcje te mogą streszczać strony, interpretować zawartość kart, tworzyć szkice tekstów, zapamiętywać kontekst, a w niektórych przypadkach także podejmować działania. Każda z nich zmniejsza tarcie, ale jednocześnie rozszerza zakres tego, do czego może dotrzeć przejęta sesja lub zmanipulowany model.

To tworzy centralny konflikt. Przedsiębiorstwa chcą, by pracownicy korzystali z AI bez wysyłania poufnych materiałów na prywatne konta, do niebezpiecznych rozszerzeń lub słabo zarządzanych usług. Tradycyjne mechanizmy kontroli sieci i punktów końcowych nadal są ważne, lecz Kovrr twierdzi, że brakuje im wystarczającego kontekstu w dokładnym momencie interakcji z AI.

Co zmienia argument Kovrr dotyczący bezpieczeństwa przeglądarek

Główne twierdzenie Kovrr brzmi: przeglądarka stała się punktem egzekwowania zasad AI, a nie jedynie kolejną aplikacją wymagającą ochrony.

Dawniej pracownicy odwiedzali przez przeglądarkę określony zestaw aplikacji software-as-a-service. Dziś mogą otwierać publiczne chatboty, instalować rozszerzenia AI, uruchamiać asystentów osadzonych w zatwierdzonych aplikacjach lub korzystać z modeli przez prywatne konta. Inwentaryzacja oparta wyłącznie na zakupionym oprogramowaniu pominie znaczną część tej aktywności.

Materiał w Google News kieruje czytelników do artykułu Security Boulevard powiązanego z Kovrr. Kontekst publikacji ma znaczenie, ponieważ materiał źródłowy promuje również podejście Kovrr do bezpieczeństwa i zarządzania. Czytelnicy powinni traktować specyficzne dla produktu korzyści jako deklaracje firmy, niezależnie oceniając szerszy argument dotyczący bezpieczeństwa.

Ten szerszy argument ma mocne podstawy. Przeglądarka może obserwować działania o znaczeniu biznesowym, w tym tekst wklejany do promptu, pliki przesyłane do usługi AI oraz wygenerowane treści kopiowane do innego systemu. Kontrola sieciowa może widzieć zaszyfrowane połączenie z zatwierdzoną domeną, nie rozumiejąc jednak tych działań.

Kontekst na poziomie przeglądarki pomaga także rozróżniać konta. Pracownik korzystający z zatwierdzonego firmowego konta AI może otrzymywać ochronę kontraktową, scentralizowane zarządzanie i rejestry audytowe. Ten sam pracownik używający prywatnego konta w tej samej usłudze może pozostawać poza tymi mechanizmami kontroli.

To rozróżnienie komplikuje proste listy dozwolonych usług. Dopuszczenie domeny nie oznacza, że każda sesja w tej domenie przestrzega polityk firmy. Zablokowanie całej usługi może uniemożliwić uzasadnioną pracę i zachęcić pracowników do szukania mniej widocznych alternatyw.

Kovrr opisywał Browser Protect jako lekkie rozszerzenie dla przeglądarek opartych na Chromium. Firma twierdzi, że może ono wykrywać interakcje z AI i stosować adaptacyjne polityki bez zmuszania organizacji do wymiany przeglądarki. Ten model wdrożenia jest skierowany do firm, które chcą większej widoczności, zachowując istniejącą infrastrukturę punktów końcowych i przeglądarek.

Firma argumentowała również, że telemetria przeglądarki powinna zasilać szerszą inwentaryzację AI. W powiązanej dyskusji o śledzeniu użycia AI Kovrr zaleca łączenie sygnałów z przeglądarki z danymi z punktów końcowych, sieci i systemów przedsiębiorstwa. Przeglądarka jest więc jedną warstwą kontroli, a nie kompletnym systemem zarządzania.

To zastrzeżenie jest istotne. Rozszerzenie przeglądarki nie może obserwować każdego wywołania API, modelu uruchamianego lokalnie, aplikacji mobilnej ani zautomatyzowanego agenta. Może dostarczać cennego kontekstu tam, gdzie pracownicy wiedzy korzystają z AI opartej na sieci, ale samo nie zapewni pełnego pokrycia przedsiębiorstwa.

To wydarzenie jest mniej premierą produktu, a bardziej zmianą akcentu w bezpieczeństwie. Przeglądarka zbliża się do samej decyzji polityki bezpieczeństwa. Ta zmiana wywiera presję na zespoły bezpieczeństwa, których mechanizmy kontroli projektowano wokół aplikacji, urządzeń i miejsc docelowych, a nie promptów, kontekstu modeli i działań AI.

Dlaczego Google News pokazuje teraz bezpieczeństwo AI w przeglądarkach

Bezpieczeństwo AI w przeglądarkach zyskuje uwagę, ponieważ asystenci jednocześnie uzyskują dostęp do zawartości stron, trwałego kontekstu i procesów biznesowych.

Wcześniejsze asystenty przeglądarkowe przeważnie generowały lub streszczały tekst po bezpośrednim żądaniu. Nowsze systemy potrafią interpretować otwarte strony, porównywać informacje między kartami, zapamiętywać wcześniejszą aktywność i łączyć się z narzędziami. Ryzyko zmienia się, gdy asystent może przejść od odczytywania informacji do działania na ich podstawie.

Własna dokumentacja korporacyjna Google ilustruje rozszerzającą się powierzchnię ataku. Chrome zawiera mechanizmy kontroli funkcji takich jak pomoc w pisaniu, organizacja kart, przeszukiwanie historii, wypełnianie formularzy i pomoc dla programistów. Google informuje, że administratorzy mogą zarządzać objętymi funkcjami za pomocą swoich polityk generatywnej AI.

Te mechanizmy kontroli pokazują, że zachowania AI nie można traktować jako jednego ustawienia. Różne funkcje przetwarzają różne dane wejściowe i służą różnym użytkownikom. Asystent programisty może otrzymywać kod źródłowy, komunikaty błędów i dane sieciowe, podczas gdy asystent pisania może otrzymywać informacje o klientach lub wewnętrzne plany.

Google podaje, że objęte konfiguracje korporacyjne mogą zapobiegać wykorzystywaniu danych klientów do ulepszania modeli. Zaznacza również, że niektóre integracje podlegają odrębnym warunkom lub gwarancjom. Zespoły bezpieczeństwa muszą zatem analizować łącznie funkcję, typ konta, konfigurację i umowę dotyczącą usługi.

Ustawienie domyślne ma równie duże znaczenie jak dostępna kontrola. Wytyczne administracyjne Google mówią, że domyślna polityka GenAI zezwala na objęte nią funkcje bez wykorzystywania danych klientów do ulepszania modeli. Organizacja nadal potrzebuje zarządzanych przeglądarek i prawidłowo określonych polityk, aby te zabezpieczenia były stosowane konsekwentnie.

Ta zależność tworzy lukę między formalną polityką a faktycznym zachowaniem. Firma może zatwierdzić jedną zarządzaną usługę AI, podczas gdy pracownicy nadal korzystają z prywatnych kont, niszowych asystentów lub rozszerzeń. Wbudowana AI może też pojawić się w oprogramowaniu zatwierdzonym przez dział zakupów, zanim ta funkcja AI w ogóle istniała.

To jest shadow AI, czyli technologia AI wykorzystywana bez wystarczającej zgody organizacji lub widoczności. Termin ten obejmuje więcej niż odwiedziny na publicznych chatbotach. Obejmuje także rozszerzenia przeglądarki, połączone aplikacje, niezarejestrowane modele i funkcje AI po cichu dodawane do istniejących produktów.

Najnowsze materiały Kovrr przedstawiają ciągłe wykrywanie jako punkt wyjścia do kontroli. Twierdzenie to jest przekonujące na poziomie koncepcyjnym, ponieważ polityka nie może zarządzać interakcją, o której organizacja nie wie. Wykrywanie staje się jednak użyteczne dopiero wtedy, gdy zebrane sygnały prowadzą do proporcjonalnych decyzji.

Skopiowany zapis spotkania nie niesie takiego samego ryzyka jak publiczna treść marketingowa. Prompt wysłany z zarządzanego konta nie ma takiego samego kontekstu zarządczego jak prompt wysłany z prywatnego logowania. Mechanizmy kontroli potrzebują wystarczających informacji, aby rozpoznać te różnice, nie rejestrując przy tym więcej treści pracowników, niż jest to konieczne.

Google News pokazuje ten temat także dlatego, że dostawcy przeglądarek czynią AI częścią domyślnego środowiska pracy. Zespoły bezpieczeństwa nie oceniają już odrębnego eksperymentalnego narzędzia używanego przez niewielką grupę. Decydują o tym, jak zmienia się zwykłe przeglądanie sieci, gdy modele mogą czytać, wnioskować, pamiętać i działać.

Moment ten odzwierciedla również szerszą zmianę w zarządzaniu. Przedsiębiorstwa coraz częściej potrzebują dowodów, że ich polityki działają w praktyce. Pisemne zasady i coroczne ankiety nie pokażą, która usługa AI otrzymała wczoraj dokument ani czy prywatne konto przetwarzało regulowane informacje.

Telemetria przeglądarki oferuje jedno źródło takich dowodów. Wprowadza jednak własne pytania dotyczące nadzoru, retencji, dostępu i informowania pracowników. Ta sama widoczność, która pomaga zapobiec wyciekowi, może ujawniać szczegółowe zapisy pracy danej osoby, jeśli zostanie wdrożona bez odpowiednich granic.

Główna rywalizacja dotyczy produktywności i kontroli kontekstowej

Podstawowa rywalizacja nie toczy się między Kovrr a innym dostawcą; chodzi o nieograniczoną wygodę AI kontra mechanizmy kontroli rozumiejące kontekst biznesowy.

Całkowity zakaz zapewnia prostą pozycję bezpieczeństwa. Ignoruje jednak powody, dla których pracownicy korzystają z AI. Zwracają się do asystentów, ponieważ mogą oni streszczać dokumenty, przygotowywać komunikację, analizować materiały i przyspieszać badania bez oczekiwania na formalny projekt wdrożenia oprogramowania.

Nieograniczony dostęp przyjmuje przeciwne podejście. Zachowuje szybkość, ale przenosi odpowiedzialność za ocenę na poszczególnych pracowników, którzy mogą nie wiedzieć, jak usługa przechowuje prompty lub wykorzystuje przesłane pliki. Nawet ostrożni pracownicy mogą pomylić prywatną sesję z zarządzanym kontem firmowym.

Kontrola kontekstowa próbuje znaleźć środek. Ocenia narzędzie, użytkownika, konto, działanie i dane przed zezwoleniem, ostrzeżeniem, redakcją lub zablokowaniem interakcji. Teoretycznie pozwala to pracownikowi streścić publiczny raport, jednocześnie zatrzymując przesłanie ograniczonego pliku klienta.

Google opisuje powiązane mechanizmy kontroli w Chrome Enterprise, w tym ograniczenia kopiowania, wklejania, przesyłania, pobierania, drukowania i zrzutów ekranu. Jego mechanizmy kontroli zapobiegania utracie danych mają stosować politykę w miejscach, w których użytkownicy korzystają ze stron internetowych z generatywną AI.

Propozycja Kovrr jest szersza niż konwencjonalne zapobieganie utracie danych. Firma twierdzi, że jej platforma łączy wykrywanie w przeglądarce z odkrywaniem zasobów AI, kwantyfikacją ryzyka, działaniami w zakresie zgodności i aktywnym egzekwowaniem zasad. Pozwoliłoby to nowej usłudze AI wpływać zarówno na natychmiastową decyzję w przeglądarce, jak i na szerszą inwentaryzację ryzyka organizacji.

Ta zintegrowana koncepcja powinna przejść dwa testy. Po pierwsze, system wykrywania musi dokładnie rozpoznawać narzędzia AI i ryzykowne interakcje. Po drugie, jego silnik polityk musi unikać generowania tak wielu ostrzeżeń lub blokad, że pracownicy zaczną go omijać.

Fałszywe alarmy nie są jedynie niedogodnością. Mechanizm kontroli, który wielokrotnie przerywa nieszkodliwą aktywność, uczy użytkowników ignorowania alertów. Może także skłonić zespoły do korzystania z niezarządzanych urządzeń, prywatnych sieci lub alternatywnych aplikacji o jeszcze mniejszej widoczności.

Fałszywe negatywy niosą oczywisty koszt. Narzędzie może przeoczyć wrażliwe informacje wyrażone w nieznanym języku, osadzone w dokumencie lub przekształcone przed przesłaniem. Może również prawidłowo sklasyfikować znaną usługę, nie wykrywając jednak niebezpiecznej funkcji wprowadzonej przez rozszerzenie.

Trudnym problemem jest klasyfikacja. Organizacje muszą określić, które dane są publiczne, wewnętrzne, poufne, regulowane lub zakazane dla konkretnego modelu. Potrzebują też zasad dla dokumentów mieszanych, wniosków pochodnych i promptów ujawniających wrażliwe informacje bez odtwarzania oryginalnego zapisu.

Firmowy system wiedzy może pomóc w organizowaniu zatwierdzonego kontekstu i granic dostępu. Prywatna baza wiedzy AI daje pracownikom również zatwierdzone miejsce do wyszukiwania informacji. Nie zastępuje bezpieczeństwa przeglądarki, ale może ograniczyć skłonność do wklejania niekontrolowanych materiałów do narzędzi publicznych.

Tożsamość dodaje kolejną warstwę. Ten sam cel AI może wiązać się z różnym ryzykiem w zależności od tego, czy użytkownik loguje się przez firmowe jednokrotne logowanie. Mechanizmy kontroli powinny rozpoznawać zarządzaną sesję, nie zakładając przy tym, że każda obietnica usługi eliminuje ryzyko operacyjne.

Warunki korporacyjne mogą ograniczyć część ryzyka, zwłaszcza w zakresie trenowania modeli i kontroli administracyjnej. Nie są jednak w stanie zapobiec przesłaniu przez uprawnionego użytkownika niewłaściwych materiałów ani zaakceptowaniu wadliwego wyniku. Nie mogą też zagwarantować, że agent AI bezpiecznie zinterpretuje złośliwą treść.

Dlatego kontrola kontekstowa jest kompromisem, a nie ostatecznym rozwiązaniem. Większy kontekst może poprawić decyzje dotyczące zasad, lecz jego gromadzenie tworzy obowiązki związane z prywatnością i operacjami. Bardziej restrykcyjne reguły mogą ograniczyć ryzyko, ale nadmierne utrudnienia mogą osłabić wdrażanie zatwierdzonych narzędzi.

Przeglądarki AI dodają prompt injection do starego modelu zagrożeń przeglądarkowych

Przeglądarka z funkcjami AI może pomylić wrogą treść strony z poleceniem, zmieniając zwykłe przeglądanie sieci w drogę do niezamierzonych działań.

Tradycyjne bezpieczeństwo przeglądarek koncentruje się na złośliwym kodzie, przejętych rozszerzeniach, phishingu, niebezpiecznych pobraniach, przejmowaniu sesji i podatnych aplikacjach internetowych. Zagrożenia te nadal istnieją. AI dodaje warstwę semantyczną, w której język naturalny może wpływać na model, nawet jeśli pojawia się w treści, a nie w zaufanym kanale poleceń.

Prompt injection to spreparowane polecenie mające odwieść system AI od przydzielonego mu zadania. Może być bezpośrednie, na przykład gdy użytkownik prosi model o zignorowanie jego zasad. Może też być pośrednie, gdy złośliwy tekst zostaje ukryty na stronie internetowej, w e-mailu, dokumencie, obrazie lub pobranym rekordzie.

Przeglądarka jest szczególnie narażona na pośrednie wstrzyknięcia, ponieważ odczytywanie niezaufanych stron jest jej podstawową funkcją. Asystent poproszony o podsumowanie strony musi przetworzyć jej zawartość. Jeśli model nie potrafi wiarygodnie oddzielić informacji od instrukcji, wroga treść może próbować zmienić jego zachowanie.

Wskazówki OWASP dotyczące prompt injection wymieniają wyciek danych, eskalację uprawnień, nieautoryzowane polecenia i manipulację kontekstem jako potencjalne skutki. Ryzyko rośnie, gdy model może korzystać z narzędzi lub uzyskiwać dostęp do poufnych materiałów.

Wyobraźmy sobie pracownika, który prosi asystenta o porównanie stron dostawców i przygotowanie podsumowania zakupowego. Jedna ze stron zawiera ukryte instrukcje nakazujące asystentowi pobranie wrażliwego kontekstu i przesłanie go gdzie indziej. Konwencjonalna przeglądarka może wyświetlić lub zignorować taki tekst, podczas gdy system AI może zinterpretować go w trakcie rozumowania.

Zagrożenie staje się większe, gdy asystent może klikać, pobierać pliki, wysyłać formularze, uruchamiać połączone aplikacje lub przenosić informacje między kartami. Zmanipulowane podsumowanie jest szkodliwe, ale zmanipulowane działanie może zmienić rekordy lub przesłać dane.

Agentowa AI odnosi się do systemów, które mogą planować, korzystać z narzędzi, utrzymywać stan i wykonywać działania prowadzące do celu. Wskazówki OWASP dotyczące bezpieczeństwa agentów zalecają traktowanie zewnętrznych treści jako niezaufanych oraz ograniczanie dostępu do narzędzi, uprawnień, pamięci i wykonywania działań.

Egzekwowanie zasad na poziomie przeglądarki może pomóc na kilku etapach. Może ograniczać przesyłanie plików, zapobiegać wklejaniu danych wrażliwych, ostrzegać przed kontami osobistymi lub wymagać zatwierdzenia przed działaniami wysokiego ryzyka. Może też rejestrować otaczający kontekst na potrzeby badania incydentów.

Monitorowanie przeglądarki nie rozwiązuje jednak problemu prompt injection wewnątrz modelu. Warstwa zasad może zatrzymać transfer pliku, jednocześnie nie wykrywając zmanipulowanej rekomendacji. Może rozpoznać znany cel, nie rozumiejąc, że agent został skłoniony do wykonania szkodliwego działania za pośrednictwem zatwierdzonej usługi.

Obrona wymaga zatem rozdzielenia treści od uprawnień. Odczytanie strony internetowej nie powinno dawać tej stronie prawa do kierowania agentem. Wywołania narzędzi powinny otrzymywać wąskie uprawnienia, działania wrażliwe powinny wymagać potwierdzenia, a wyniki powinny być sprawdzane, zanim wpłyną na inny system.

Pamięć wprowadza dodatkowe ryzyko. Asystent, który zachowuje kontekst, może utrwalić złośliwą instrukcję poza stroną, na której się pojawiła. OWASP opisał pamięć jako powierzchnię ataku, ponieważ zatruty stan może wpływać na późniejsze sesje i działania.

Zespoły bezpieczeństwa powinny pytać, czy przeglądarka AI przechowuje kontekst strony, gdzie ten kontekst się znajduje, jak długo jest zachowywany oraz czy użytkownicy mogą go sprawdzić lub usunąć. Powinny też ustalić, czy zmiana zasad unieważnia wcześniej zachowane informacje.

Te pytania ujawniają ograniczenia podejścia skoncentrowanego wyłącznie na produkcie. Kovrr może argumentować za widocznością i egzekwowaniem zasad na poziomie przeglądarki, podczas gdy dostawcy przeglądarek mogą obiecywać ochronę klasy enterprise. Żadne z tych stanowisk nie eliminuje potrzeby bezpiecznego projektowania agentów, ograniczonych uprawnień, testów adversarialnych i reagowania na incydenty.

Co twierdzenia Kovrr dotyczące bezpieczeństwa nadal muszą udowodnić

Teza o bezpieczeństwie przeglądarki jest wiarygodna, lecz skuteczność każdej konkretnej platformy egzekwowania zasad zależy od dowodów, których publiczny marketing nie dostarcza.

Kovrr twierdzi, że jego produkt przeglądarkowy może wykrywać i kontrolować interakcje AI w czasie rzeczywistym za pomocą lekkiego rozszerzenia Chromium. Firma przedstawia też swoją zintegrowaną platformę jako pomost między wykrywaniem, zarządzaniem, pomiarem ryzyka, zgodnością i egzekwowaniem zasad.

To istotne twierdzenia, ale nabywcy potrzebują szczegółów operacyjnych. Zakres wykrywania powinien wskazywać obsługiwane przeglądarki, systemy operacyjne, typy kont, usługi AI, wbudowanych asystentów i zachowania rozszerzeń. Stwierdzenie o szerokiej widoczności jest niewystarczające bez udokumentowanej granicy.

Organizacje powinny również przeanalizować model zasad. Czy platforma sprawdza pełne prompty, wyłącznie metadane czy sklasyfikowane fragmenty? Czy administratorzy mogą zapobiec przechowywaniu treści promptów? Jak obsługiwane są zrzuty ekranu, przesyłane dokumenty i generowane odpowiedzi?

Retencja zasługuje na równą uwagę. Telemetria przeglądarki może ujawniać projekty, relacje, informacje zdrowotne, sprawy prawne i zachowania pracowników. Przedsiębiorstwa potrzebują dostępu opartego na rolach, ograniczonej retencji, ścieżek audytu, kontroli regionalnych oraz uzasadnionego celu zbierania każdego pola.

Kolejnym sprawdzianem jest wydajność. Rozszerzenie działające między pracownikiem a powszechnymi narzędziami internetowymi musi unikać zauważalnych opóźnień i niestabilności. Musi też być odporne na aktualizacje przeglądarek, konfliktujące rozszerzenia, tryby incognito, niezarządzane profile i próby wyłączenia kontroli przez użytkowników.

Niezależne testy wzmocniłyby tę argumentację. Nabywcy powinni szukać powtarzalnych ocen wskaźników fałszywie pozytywnych i fałszywie negatywnych wyników, opóźnień zasad, odporności na obejścia oraz zakresu działania w rzeczywistych usługach AI. Referencje klientów mogą dodać kontekstu, ale nie zastępują kontrolowanych testów technicznych.

Własnych materiałów Kovrr na Security Boulevard nie należy mylić z niezależną walidacją. Mogą wyjaśniać model firmy i oferować przydatne wskazówki badawcze. Porównania produktów i twierdzenia o wyższości nadal wymagają dowodów z neutralnych ocen lub bezpośrednich testów nabywcy.

Ten sam sceptycyzm dotyczy dostawców przeglądarek. Google twierdzi, że zarządzane interakcje Gemini otrzymują ochronę prywatności klasy enterprise i nie są wykorzystywane do trenowania modeli publicznych. Zapewnienia te są ważne, ale firmy muszą potwierdzić, że użytkownicy są zalogowani na zarządzanych kontach oraz że każda istotna funkcja jest objęta deklarowanymi gwarancjami.

Dryf konfiguracji może podważyć nawet rozsądną politykę. Nowo wydana funkcja AI może wymagać osobnego ustawienia. Spółka zależna może zarządzać przeglądarkami inaczej. Kontrahenci mogą korzystać z niezarządzanych profili, podczas gdy użytkownicy mobilni podlegają innej ścieżce kontroli.

Profil generatywnej AI NIST oferuje użyteczne ramy zarządzania. Traktuje ryzyko generatywnej AI jako kwestię całego cyklu życia, obejmującą zarządzanie, pomiary, nadzór, testowanie i dokumentację. Egzekwowanie zasad w przeglądarce wpisuje się w ten program, zamiast go zastępować.

Starannie przygotowany pilotaż powinien testować rzeczywiste przepływy pracy z kilku jednostek biznesowych. Zespoły bezpieczeństwa mogą uwzględnić badania publiczne, pomoc przy kodzie źródłowym, obsługę klienta, przegląd dokumentów i scenariusze dotyczące danych regulowanych. Testy powinny też obejmować pośrednie prompt injection i próby korzystania z kont osobistych.

Pracownicy powinni rozumieć, co kontrola obserwuje i dlaczego. Niejawne monitorowanie może naruszyć zaufanie i skłonić użytkowników do omijania zatwierdzonych systemów. Jasne powiadomienia, ograniczone gromadzenie danych i realne ścieżki odwoławcze ułatwiają obronę egzekwowania zasad.

Nierozstrzygnięte pozostaje pytanie, czy kontekstowa kontrola przeglądarki może zachować dokładność w miarę mnożenia się funkcji AI. Statyczna lista domen chatbotów szybko się zdezaktualizuje. Wykrywanie musi uwzględniać wbudowaną AI, zmieniające się interfejsy, nowe modele i agentów działających za pośrednictwem zwykłych aplikacji biznesowych.

Teza Kovrr wytrzymuje tę analizę, ale twierdzenia dotyczące produktu pozostają jedynie twierdzeniami, dopóki nie zostaną przetestowane. Właściwą reakcją nabywcy nie jest ani automatyczne wdrożenie, ani odrzucenie. Jest nią kontrolowana ocena powiązana z udokumentowanymi ryzykami, mierzalnymi wynikami i ograniczeniami prywatności.

Trzy sygnały, które warto obserwować po zainteresowaniu Google News

O kolejnej fazie zdecydują mierzalne kontrole przeglądarkowe, uprawnienia agentów oraz dowody z wdrożeń korporacyjnych.

Pierwszym sygnałem będzie publikacja bardziej szczegółowych zasad administracyjnych przez głównych dostawców przeglądarek. Zespoły bezpieczeństwa powinny obserwować, czy Google i jego rywale udostępniają kontrole dla poszczególnych możliwości AI, kontekstów kont, zachowywanej pamięci, dostępu do stron i działań agentów.

Jeden przełącznik dla całej generatywnej AI nie odpowie na potrzeby przedsiębiorstw. Administratorzy wymagają różnych reguł dla podsumowywania, pomocy w programowaniu, wyszukiwania historii, wypełniania formularzy i autonomicznej nawigacji. Potrzebują też jasnych ustawień domyślnych, gdy dostawca wprowadza nową funkcję.

Jeśli dostawcy zapewnią zasady na poziomie funkcji przed szerokim wdrożeniem, argument za zarządzaniem kontekstowym stanie się silniejszy. Jeśli nowe możliwości pojawią się z szerokimi lub niejasnymi ustawieniami domyślnymi, ostrzeżenie Kovrr dotyczące luk w widoczności zyska na znaczeniu.

Drugim sygnałem będą dowody, że kontrolki przeglądarki potrafią oprzeć się pośredniemu prompt injection i niebezpiecznemu użyciu narzędzi. Demonstracje produktów powinny obejmować wrogie strony, zatrute dokumenty, ataki między kartami, przełączanie na konta osobiste i próby obejścia rozszerzeń.

Udany test powinien pokazywać więcej niż zablokowany tekst. Powinien wyjaśniać, co system zaobserwował, która zasada została uruchomiona, czy doszło do ujawnienia materiałów wrażliwych oraz jak badacz mógłby odtworzyć zdarzenie. Powinien również dokumentować przypadki, których kontrola nie może zatrzymać.

Lepsza walidacja techniczna wzmocniłaby argument za egzekwowaniem zasad skoncentrowanym na przeglądarce. Powtarzające się obejścia pokazałyby, że przeglądarka dostarcza użytecznej telemetrii, ale nie może bezpiecznie pośredniczyć w zachowaniu agentów bez głębszych kontroli architektonicznych.

Trzecim sygnałem będzie mierzalna jakość wdrożeń korporacyjnych. Przydatne wskaźniki to nie tylko instalacje lub alerty. Nabywcy powinni analizować wykorzystanie zatwierdzonej AI, wskaźniki nadpisywania zasad, zablokowane transfery danych wrażliwych, liczbę incydentów, wskaźniki fałszywie pozytywnych wyników oraz migrację pracowników do niezarządzanych kanałów.

Wdrożenie, które blokuje wiele zdarzeń, jednocześnie skłaniając użytkowników do korzystania z osobistych urządzeń, nie jest sukcesem bezpieczeństwa. Wdrożenie, które ogranicza ryzykowne transfery, a zarazem zwiększa użycie zatwierdzonych kont, dostarcza silniejszych dowodów na rzecz modelu kontroli kontekstowej.

Organizacje powinny też monitorować, czy zespoły ds. zarządzania mogą przekształcać zdarzenia w przeglądarce w decyzje możliwe do audytowania. Strumień alertów ma ograniczoną wartość, jeśli nie aktualizuje inwentarza, nie przypisuje właściciela, nie uruchamia przeglądu i nie rejestruje, jak organizacja zarządziła ryzykiem.

Pojawienie się w Google News daje przekazowi Kovrr dodatkową widoczność, ale nie rozstrzyga rynku. Dostawcy przeglądarek już oferują natywne zarządzanie i kontrole zapobiegania utracie danych. Dostawcy rozwiązań endpointowych, sieciowych, tożsamościowych i zarządzania AI również rozszerzają swoje produkty w kierunku tego samego problemu.

Ta konkurencja powinna przynieść korzyści nabywcom korporacyjnym, jeśli zaowocuje interoperacyjnymi dowodami i wyraźniejszymi granicami zasad. Będzie mniej użyteczna, jeśli każdy dostawca będzie twierdził, że zapewnia pełną widoczność, jednocześnie inaczej definiując aktywność AI.

Liderzy ds. bezpieczeństwa powinni zacząć od interakcji, którą muszą nadzorować. Mogą zmapować, gdzie pracownicy korzystają z AI, jakie dane trafiają do tych systemów, jakie działania mogą wykonywać agenci oraz które konta otrzymują ochronę na poziomie przedsiębiorstwa. Dopiero wtedy mogą zdecydować, gdzie należy wdrożyć egzekwowanie zasad w przeglądarce.

Natychmiastowe działanie jest proste: porównać pisemną politykę AI z obserwowanym zachowaniem w przeglądarce. Jeśli organizacja nie potrafi określić, z których modeli korzystają pracownicy, odróżnić sesji zarządzanych od prywatnych ani wyjaśnić, jakie dane opuszczają firmę za pośrednictwem promptów, luka w zarządzaniu już istnieje.

Google News zwróciło uwagę na ostrzeżenie, które warto potraktować poważnie, choć Kovrr odnosi komercyjne korzyści z tego wniosku. Przeglądarka stała się miejscem, w którym AI odczytuje informacje firmowe i coraz częściej podejmuje na ich podstawie działania. Przedsiębiorstwa powinny wymagać mechanizmów kontroli, które zachowują możliwość użytecznej pracy, jednocześnie ograniczając to, co może zrobić dowolny model, strona, rozszerzenie lub agent.