Ryzyko cybernetyczne związane z AI wyprzedza zabezpieczenia firm finansowych

Gigamon poinformował, że 77% badanych firm finansowych doświadczyło naruszenia związanego z AI, mimo że 91% wdrożyło narzędzia AI do ochrony danych. Ustalenia rozpowszechniane przez Google News w sierpniu 2026 roku ujawniają trudny konflikt. Banki szybciej automatyzują bezpieczeństwo, podczas gdy atakujący wykorzystują podobną technologię, by działać szybciej i wykorzystywać wynikającą z tego złożoność.

Badanie nie dowodzi, że AI spowodowała każde zgłoszone zdarzenie. Pokazuje jednak, że instytucje finansowe coraz częściej napotykają AI gdzieś w łańcuchu ataku, atakowanym systemie lub reakcji obronnej. Wśród respondentów, którzy doświadczyli naruszenia, 98% zgłosiło istotny wpływ na działalność, w tym straty finansowe, utratę danych, wyższe składki ubezpieczeniowe lub konsekwencje regulacyjne.

To napięcie wykracza obecnie poza jedno badanie sponsorowane przez dostawcę. Bank Anglii, Financial Conduct Authority i HM Treasury ostrzegły, że modele frontier mogą przyspieszać wykrywanie i wykorzystywanie podatności. Firmy finansowe muszą więc jednocześnie zarządzać dwoma wyścigami: wdrażać AI do ochrony infrastruktury oraz zapobiegać temu, by automatyzacja tworzyła nowe drogi dostępu do niej.

Co faktycznie wykazało badanie Google News

Kluczowy wniosek nie polega na tym, że bankom brakuje narzędzi bezpieczeństwa. Chodzi o to, że większa automatyzacja i inwestycje nie zapewniły konsekwentnie lepszej kontroli.

Gigamon opublikował wyniki dotyczące usług finansowych 8 lipca 2026 roku. Obejmowały one 139 liderów bezpieczeństwa i IT z Australii, Francji, Niemiec, Singapuru, Wielkiej Brytanii i Stanów Zjednoczonych. Stanowią część szerszego, corocznego badania bezpieczeństwa chmury hybrydowej obejmującego ponad 1 000 respondentów.

Firma podała, że 66% organizacji z sektora usług finansowych pozwalało już AI inicjować funkcje bezpieczeństwa bez interwencji człowieka. We wszystkich badanych branżach odsetek ten wynosił 53%. Ta różnica sugeruje, że sektor finansowy szybciej zmierza w kierunku autonomicznej lub półautonomicznej obrony.

Systemy te mogą wykonywać działania takie jak klasyfikowanie alertu, izolowanie urządzenia, zmiana polityki lub rozpoczęcie dochodzenia. Ich wartość wynika z szybkości. Analityk nie jest w stanie zbadać każdego sygnału generowanego przez punkty końcowe dużego banku, obciążenia chmurowe, systemy tożsamości, aplikacje i połączenia sieciowe.

Jednak ci sami respondenci opisali środowisko bezpieczeństwa, które nadal było trudne do obserwowania i kontrolowania. Według badania sektora finansowego, 77% doświadczyło naruszenia z udziałem AI. Kolejne 54% zgłosiło wzrost socjotechniki wspomaganej przez AI, w tym phishingu i oszustw SMS.

Czterdzieści siedem procent stwierdziło, że wzrosła liczba ataków wymierzonych we wdrożenia AI lub dużych modeli językowych. Kategoria ta może obejmować skradzione poświadczenia modeli, ujawnione interfejsy programowania aplikacji, zmanipulowane dane wejściowe, niezabezpieczone wtyczki lub ataki na połączone magazyny danych.

Badanie wykazało również, że 94% zainwestowało w nowe technologie bezpieczeństwa, aby poprawić wykrywanie i widoczność. Mimo to 42% stwierdziło, że wykrywanie naruszeń trwa dłużej. Wynik ten podważa założenie, że zakup kolejnego narzędzia automatycznie skraca czas reakcji.

Fragmentacja wydaje się kluczowym elementem problemu. Pięćdziesiąt dwa procent wskazało niepołączone narzędzia bezpieczeństwa jako największe wyzwanie w ochronie infrastruktury chmury hybrydowej. Chmura hybrydowa łączy systemy prywatne, usługi chmury publicznej i często starszą technologię lokalną w jednym środowisku operacyjnym.

Każdy komponent może inaczej rejestrować aktywność. Jedno narzędzie może widzieć logowanie do systemu tożsamości, inne żądanie aplikacji, a kolejne ruch sieciowy. Jeśli tych sygnałów nie da się szybko połączyć, automatyczna reakcja może działać na podstawie niepełnego obrazu.

Źródło również zasługuje na krytyczną ocenę. Gigamon sprzedaje produkty do widoczności i obserwowalności sieci, więc badanie bezpośrednio wspiera jego argumentację handlową. Jego ustalenia przedstawiają doświadczenia zgłaszane przez respondentów, a nie niezależnie audytowany wykaz naruszeń.

Próba jest przydatna, ale ograniczona. Obejmuje 139 liderów sektora finansowego z sześciu krajów, a nie reprezentatywny spis globalnego systemu finansowego. Definicje takie jak „naruszenie z udziałem AI” i „istotny wpływ” mogą również różnić się między respondentami.

Ograniczenia te nie unieważniają sygnału. Oznaczają, że odsetki należy traktować jako wskaźniki postrzeganej ekspozycji, a nie uniwersalne pomiary. Istotny jest wzorzec odpowiedzi: wdrażanie rośnie, incydenty powiązane z AI są powszechne, a wykrywanie pozostaje trudne mimo dużych inwestycji.

Firmy finansowe automatyzują zarówno szanse, jak i ekspozycję

Banki znajdują się pod presją, ponieważ ta sama autonomia, która poprawia szybkość reakcji, zwiększa również liczbę systemów zdolnych do działania, łączenia się i zawodzenia.

Instytucje finansowe mają silne powody, by automatyzować cyberbezpieczeństwo. Działają nieprzerwanie, przetwarzają wrażliwe informacje i wspierają usługi, które klienci oczekują mieć stale dostępne. Opóźnione wykrycie może przekształcić jedno przejęte konto w szersze zakłócenie działalności.

AI pomaga obrońcom przetwarzać ilości telemetrii, z którymi ręczne zespoły nie są w stanie sobie poradzić. Może ustalać priorytety alertów, wykrywać nietypowe zachowania, podsumowywać incydenty i rekomendować kroki ograniczające. W dojrzałych środowiskach automatyzacja może także odłączać przejęte urządzenia lub cofać podejrzany dostęp, zanim wkroczy analityk.

Presja wynika z pozwalania tym systemom na działanie w rzeczywistej infrastrukturze. Agent bezpieczeństwa AI może potrzebować dostępu do kontroli tożsamości, oprogramowania punktów końcowych, systemów zgłoszeniowych, konsol chmurowych lub polityk sieciowych. Każde uprawnienie poprawia jego zdolność do reagowania, ale zwiększa też konsekwencje błędu lub kompromitacji.

Agentic AI jeszcze bardziej wyostrza to napięcie. System agentowy może planować i wykonywać sekwencję działań prowadzących do określonego celu. Robi więcej niż generowanie porad, co oznacza, że organizacje muszą zarządzać tym, do czego może uzyskać dostęp, co może zmienić i co może przesłać.

Badanie Cambridge Centre for Alternative Finance z 2026 roku wykazało, że 52% jego respondentów wdrażało agentic AI. Jego globalny raport o finansach objął 352 uczestników branży, 144 dostawców AI i 130 regulatorów.

Badanie wskazało inżynierię oprogramowania jako najbardziej dojrzałe zastosowanie AI w branży finansowej. Czterdzieści dwa procent zgłosiło pełne wdrożenie, a 33% miało systemy w trakcie rozwoju. Jest to istotne, ponieważ inżynieria oprogramowania łączy AI bezpośrednio z kodem, repozytoriami, narzędziami programistycznymi i infrastrukturą produkcyjną.

Kod generowany przez AI może przyspieszać legalną pracę. Może jednak również powielać niebezpieczne wzorce, wprowadzać zależności, których zespoły nie oceniły, lub generować więcej zmian, niż recenzenci mogą dokładnie sprawdzić. Raport stwierdził, że wolumen i tempo generowanego kodu sprawiają, iż tradycyjny ręczny przegląd jest mniej skuteczny.

Utrata nadzoru człowieka znalazła się wśród głównych obaw, wskazana przez 51% respondentów ze wszystkich grup interesariuszy. Nie oznacza to, że firmy muszą zachować ręczny etap zatwierdzania każdego rutynowego działania. Oznacza natomiast, że potrzebują kontroli, która pozostaje skuteczna przy prędkości działania maszyn.

Kontrole te obejmują ograniczone uprawnienia, pełne dzienniki aktywności, przetestowane procedury wycofywania zmian oraz wyraźne granice między rekomendacjami a autonomicznym wykonaniem. Instytucja musi także wiedzieć, który model, źródło danych, wtyczka i konto systemowe uczestniczyły w każdej decyzji.

Alternatywą jest automatyzacja bez odpowiedzialności. Zespół bezpieczeństwa może wiedzieć, że narzędzie AI zmieniło regułę zapory sieciowej, lecz nie dysponować wystarczającym kontekstem, by ustalić dlaczego. Śledczy mogą wtedy tracić cenny czas na odtwarzanie działania, podczas gdy atak trwa.

Wyzwanie rośnie, gdy pracownicy wdrażają niezatwierdzone usługi AI. Pracownik może wkleić informacje o klientach do publicznego asystenta, połączyć wtyczkę AI ze współdzielonym dyskiem lub zainstalować narzędzie programistyczne z dostępem do repozytorium. Działania te mogą powodować ujawnienie danych poza zwykłym procesem zakupowym i bezpieczeństwa.

Atakujący korzystają z tych samych obniżonych barier. Modele generatywne mogą tworzyć wiarygodne wiadomości phishingowe, tłumaczyć przynęty, zmieniać ton i personalizować oszustwa na podstawie skradzionych informacji. Generowanie głosu i obrazu może sprawiać, że próby podszywania się są bardziej przekonujące.

AI nie eliminuje potrzeby uzyskania dostępu, infrastruktury i wykonania przez atakującego. Skraca czas i zmniejsza poziom umiejętności wymagany w części operacji. Ta zmiana umożliwia równoległe prowadzenie większej liczby kampanii i daje obrońcom mniej czasu na rozpoznanie powtarzalnych wzorców.

Firmy finansowe stają więc przed wymuszoną reakcją. Muszą automatyzować w stopniu wystarczającym do dorównania zagrożeniom działającym z prędkością maszyn, jednocześnie ograniczając zakres uprawnień przyznawanych każdemu zautomatyzowanemu systemowi. Zbyt powolne działanie przeciąża analityków. Działanie bez kontroli tworzy nowego uprzywilejowanego aktora wewnątrz sieci.

Prawdziwa rywalizacja to automatyzacja kontra kontrola

Główny konflikt nie dotyczy banków i jednej grupy atakujących. Dotyczy automatyzacji działającej z prędkością maszyn oraz instytucji zbudowanych wokół wolniejszych cykli kontroli.

Tradycyjne kontrole finansowe zakładają, że istotne zmiany przechodzą przez określone etapy. Jedna osoba wnioskuje o dostęp, inna go zatwierdza, a system rejestruje decyzję. Wydania oprogramowania przechodzą testy, przegląd i planowane wdrożenie.

AI skraca te cykle. Agent obronny może ocenić sygnał i podjąć działanie w ciągu sekund. Model ofensywny może skanować oprogramowanie, sugerować exploity lub koordynować kroki szybciej, niż konwencjonalny proces bezpieczeństwa jest w stanie zatwierdzić poprawkę.

Raport Banku Anglii o stabilności finansowej z lipca 2026 roku opisał to przyspieszenie jako potencjalny problem na poziomie systemowym. Jego ocena stabilności wskazała, że frontier AI może zwiększać zaawansowanie i wpływ ataków na instytucje oraz infrastrukturę rynkową.

Raport przytoczył dowody, że najnowsze modele mogą przeprowadzać wieloetapowe ataki na podatne systemy przy ograniczonym wkładzie człowieka. W jednym kontrolowanym zadaniu inżynierii wstecznej model frontier ukończył pracę w 10 minut i 22 sekundy. Ludzki ekspert potrzebował około 12 godzin.

Kontrolowane oceny nie przekładają się bezpośrednio na skuteczne ataki na dobrze chronione banki. Ustalają jednak, że luka w szybkości staje się operacyjnie istotna. Proces reagowania zaprojektowany wokół cotygodniowego ustalania priorytetów może zawieść, gdy wykrywanie podatności rozszerza się w ciągu godzin.

Raport opisał również gwałtowny wzrost liczby wykrywanych podatności u głównych dostawców oprogramowania. Wzrost liczby legalnie odkrywanych luk pomaga obrońcom, gdy dostawcy mogą je bezpiecznie ocenić i naprawić. Staje się obciążeniem, gdy wolumen przekracza możliwości testowania i wdrażania.

Samo łatanie systemów wiąże się z ryzykiem. Banki zależą od dużych, wzajemnie połączonych aplikacji obsługujących płatności, tożsamość, handel, obsługę klienta i raportowanie. Pospieszna aktualizacja może zakłócić ważną usługę biznesową, nawet jeśli usuwa rzeczywistą słabość bezpieczeństwa.

Tworzy to niewygodny kompromis. Wolniejszy cykl łatania pozostawia znaną słabość narażoną na wykorzystanie. Szybszy cykl zwiększa ryzyko błędów, przerw w działaniu lub niezgodnych zmian w połączonych systemach.

Popularni dostawcy technologii mogą wzmacniać skutki problemów. Wiele instytucji zależy od tych samych platform chmurowych, usług tożsamościowych, bibliotek oprogramowania i dostawców modeli bazowych. Pojedyncza słabość może więc dotknąć wiele firm, zanim każda organizacja zrozumie swoją ekspozycję.

Raport Cambridge wykazał znaczną koncentrację wśród dostawców modeli bazowych. OpenAI pojawiło się w 68,8% istotnych odpowiedzi, Google w 46,8%, a Anthropic w 32%. Dane te odzwierciedlają zgłoszone wykorzystanie, a respondenci mogli wskazać więcej niż jednego dostawcę.

Koncentracja nie czyni tych usług z natury niebezpiecznymi. Tworzy skorelowaną zależność. Jeśli wiele instytucji polega na tej samej usłudze, interfejsie lub rodzinie modeli, awaria albo naruszenie bezpieczeństwa może rozprzestrzenić się poza jedną firmę.

Regulatorzy są szczególnie zaniepokojeni taką wspólną ekspozycją. Badanie Cambridge wykazało odmienne priorytety dostawców, instytucji i regulatorów. Pięćdziesiąt siedem procent regulatorów priorytetowo traktowało zagrożenia związane z adversarial AI, w porównaniu z 50% respondentów z branży i 35% dostawców.

Podobna różnica pojawiła się w odniesieniu do cyberodporności i odporności operacyjnej. Priorytetowo traktowało ją 59% regulatorów, wobec 46% respondentów z branży i 32% dostawców. Różnice te sugerują, że dostawcy mogą kłaść nacisk na wydajność, podczas gdy ich regulowani klienci ponoszą większą część dalszego obciążenia związanego z odpornością.

Banki nie mogą zlecić tej odpowiedzialności na zewnątrz. Umowa może przypisać obowiązki, ale nie może natychmiast przywrócić płatności, dostępu klientów ani funkcji rynkowych po zakłóceniu. Instytucje finansowe pozostają odpowiedzialne za rozumienie usług wspierających ważne operacje.

Dlatego widoczność ma znaczenie, choć sama widoczność nie jest odpowiedzią. Telemetria pochodząca z sieci może pokazać, jak dane przemieszczają się między użytkownikami, aplikacjami, chmurami i modelami. Może pomóc łączyć sygnały, które poszczególne produkty bezpieczeństwa widzą oddzielnie.

Jednak gromadzenie większej ilości telemetrii może stworzyć kolejny problem przeciążenia. Dane mają wartość tylko wtedy, gdy zespoły potrafią je interpretować, odpowiednio przechowywać i wykorzystywać podczas incydentu. Większy strumień niepowiązanych alertów jedynie wydłuża kolejkę.

Skuteczna kontrola wymaga zatem pełnego łańcucha. Firmy potrzebują dokładnych inwentaryzacji, obserwowalnego przepływu danych, ograniczonych uprawnień agentów, skorelowanych alertów, szybkiej remediacji i przetestowanego odzyskiwania. Słabość na jednym etapie może podważyć resztę.

Wyniki Gigamon sugerują, że wiele firm zwiększyło liczbę komponentów obronnych bez ukończenia tego łańcucha. Dziewięćdziesiąt pięć procent respondentów stwierdziło, że bezpieczeństwo zależy od widoczności danych w ruchu. Dłuższe czasy wykrywania wskazują, że to rozpoznanie nie przełożyło się jeszcze na spójną kontrolę operacyjną.

Czego nie potwierdzają wyniki ankiety

Alarmujące odsetki wskazują na problem zarządczy, ale nie dowodzą, że autonomiczna AI sprawia, iż każda instytucja finansowa jest mniej bezpieczna.

Sformułowanie „naruszenie z udziałem AI” obejmuje kilka możliwych zdarzeń. Atakujący mógł użyć AI do stworzenia przynęty. Organizacja będąca ofiarą mogła mieć aplikację AI wśród dotkniętych systemów. Incydent mógł również być wymierzony w model, wtyczkę, potok danych lub otaczającą usługę chmurową.

Zdarzenia te mają różne przyczyny i wymagają różnych zabezpieczeń. Wiadomość phishingowa wymaga ochrony tożsamości i weryfikacji użytkownika. Przejęty endpoint modelu wymaga zarządzania poświadczeniami, monitorowania i izolacji aplikacji. Ujęcie ich w jednym procencie może ukrywać te różnice.

Dane ankietowe oparte na samoocenie mają kolejne ograniczenie. Respondenci mogą stosować różne progi przy ocenie, czy incydent spowodował istotne szkody. Strata finansowa, utrata danych, wzrost kosztów ubezpieczenia i konsekwencje regulacyjne są poważnymi skutkami, ale nie mają identycznego znaczenia operacyjnego.

Twierdzenie, że 98% firm dotkniętych naruszeniem doświadczyło istotnego wpływu, dotyczy wyłącznie organizacji biorących udział w ankiecie, które zgłosiły naruszenie. Nie oznacza, że 98% wszystkich organizacji finansowych poniosło szkody w wyniku incydentów.

Badanie nie może też wyizolować, czy inwestycje w AI poprawiły wyniki. Firma z zaawansowanym wykrywaniem może identyfikować incydenty, które mniej dojrzała organizacja przeocza. Mogłoby to podnieść zgłoszoną liczbę naruszeń, jednocześnie świadcząc o lepszej widoczności.

Większe instytucje są również celem większej liczby ataków. Mogą obsługiwać więcej aplikacji, zatrudniać więcej osób i integrować więcej dostawców. Ich duża liczba incydentów może odzwierciedlać większą ekspozycję, a nie słabszą kontrolę.

Ujęcie Google News powinno zatem pozostać węższe niż twierdzenie o ogólnosektorowej porażce. Dowody wspierają wniosek, że ryzyko związane z AI jest powszechne wśród badanych liderów, a istniejące środki widoczności często wydają się niewystarczające. Nie ustalają uniwersalnego wskaźnika naruszeń.

Niezależne ustalenia regulatorów nadal wzmacniają szersze obawy. Wspólna ankieta Bank of England i FCA dotycząca brytyjskich usług finansowych wykazała, że cyberbezpieczeństwo było największym postrzeganym ryzykiem AI. Według ankiety AI z 2024 r. tylko 34% uczestniczących firm zgłosiło pełne zrozumienie wykorzystywanej przez siebie AI.

Kolejne 46% stwierdziło, że ich zrozumienie było częściowe. Osiemdziesiąt cztery procent wyznaczyło osobę odpowiedzialną za AI, co wskazuje, że struktury zarządzania stawały się powszechne. Odpowiedzialność na papierze nie gwarantuje jednak aktualnej inwentaryzacji modeli, połączeń danych i zależności od stron trzecich.

To rozróżnienie ma znaczenie, gdy bank kupuje AI poprzez zwykłe oprogramowanie. Dostawca może dodać funkcje modelowe do istniejącego produktu bez konieczności odrębnego wdrożenia. Wbudowane modele mogą rozprzestrzeniać się po procesach pracy, zanim centralne zespoły bezpieczeństwa zarejestrują każde użycie.

Warto również uznać defensywną wartość AI. Brytyjskie National Cyber Security Centre oczekuje, że AI z czasem poprawi cyberobronę. Jego wytyczne dotyczące frontier AI wskazują, że obrońcy mogą wykorzystywać tę technologię do identyfikowania i naprawiania podatności, przy jednoczesnym utrzymaniu podstawowych zabezpieczeń.

Obecne systemy nadal mają istotne ograniczenia. Modele mogą tracić kontekst podczas długich operacji, generować niespójne wyniki i mieć trudności ze specjalistycznymi etapami, takimi jak kryptografia lub złożone tworzenie złośliwego oprogramowania. Te słabości ograniczają niezawodną automatyzację od początku do końca.

Atakujący również napotykają rzeczywiste ograniczenia sieci docelowych. Potrzebują dostępu, użytecznych poświadczeń, osiągalnych systemów i sposobu na uniknięcie wykrycia. Plan wygenerowany przez AI nie zapewnia automatycznie tych warunków.

Najbliższe zagrożenie jest więc mniej spektakularne, a bardziej praktyczne. AI zwiększa skalę, personalizację i tempo działań wokół istniejących słabości. Instytucje z niepełnymi inwentaryzacjami, nadmiernym dostępem, opóźnionym łataniem lub rozproszonym monitorowaniem stają się łatwiejsze do wywierania presji.

Taka interpretacja pozwala także uniknąć traktowania każdego produktu AI jako tego samego ryzyka. Model podsumowujący alerty w odizolowanym środowisku różni się od agenta upoważnionego do modyfikowania dostępu produkcyjnego. Zarządzanie powinno być dostosowane do możliwości, wrażliwości danych i potencjalnego wpływu.

Firmy finansowe potrzebują dowodów, że zabezpieczenia działają w realistycznych warunkach. Użyteczne miary obejmują czas wykrywania, czas ograniczania skutków, wskaźniki fałszywie dodatnich wyników, skuteczność wycofywania zmian, nieautoryzowane użycie modeli oraz odsetek systemów krytycznych objętych przetestowanym monitorowaniem.

Te wskaźniki operacyjne mają większe znaczenie niż liczba zakupionych narzędzi AI. Pokazują, czy automatyzacja poprawia odporność, czy jedynie dodaje kolejną warstwę, którą zespoły muszą nadzorować.

Regulatorzy przeszli od zasad do presji operacyjnej

Brytyjskie władze nie traktują już frontier AI jako odległego problemu politycznego. Wzywają firmy, by już teraz przygotowały istniejące mechanizmy obronne na szybsze ataki.

15 maja 2026 r. Bank of England, FCA i HM Treasury wydały wspólne oświadczenie dotyczące modeli frontier i cyberodporności. Stwierdzono w nim, że obecne możliwości frontier już przewyższają to, co wykwalifikowany praktyk może osiągnąć w niektórych zadaniach, przy większej szybkości i niższym koszcie.

Oświadczenie nie stworzyło nowych zasad. Zamiast tego powiązało zagrożenia AI z istniejącymi oczekiwaniami dotyczącymi odporności operacyjnej. Regulowane firmy już mają obowiązki chronić ważne usługi, zarządzać stronami trzecimi, reagować na incydenty i odzyskiwać sprawność po zakłóceniach.

Wspólne oświadczenie dotyczące AI wezwało zarządy i kadrę kierowniczą wyższego szczebla do zrozumienia pojawiającego się ryzyka. Wskazywało także na potrzebę szybszego priorytetyzowania podatności, silniejszej kontroli dostępu i ściślejszego zarządzania łańcuchami dostaw oprogramowania.

Jest to istotne, ponieważ umieszcza cyberryzyko AI w ramach zwykłych struktur odpowiedzialności. Bank nie może traktować problemu jako eksperymentalnego projektu technologicznego należącego wyłącznie do zespołu innowacji. Bezpieczeństwo, ryzyko, compliance, zakupy i kierownictwo biznesowe mają tu rolę do odegrania.

Władze stwierdziły również, że firmy powinny rozważyć zautomatyzowane i wspierane przez AI mechanizmy obronne, które mogą działać z szybkością porównywalną z atakami wspomaganymi przez AI. Zalecenie to oddaje kluczowy kompromis. Regulatorzy uznają, że same procesy ręczne nie będą skalowalne, ale automatyzacja musi pozostać zarządzana.

Ryzyko stron trzecich otrzymuje szczególną uwagę. Instytucje finansowe muszą identyfikować zewnętrzne aplikacje, biblioteki i usługi połączone z ich sieciami. Muszą także przygotować się na usuwanie dużej liczby podatności odkrywanych przez dostawców.

To oczekiwanie wykracza poza firmy oferujące modele bazowe. Aplikacja AI często zależy od hostingu chmurowego, usług tożsamościowych, baz danych wektorowych, wtyczek, narzędzi monitorujących i zwykłych komponentów oprogramowania. Każda warstwa może tworzyć zależność lub ścieżkę dostępu.

Lipiecowy przegląd FCA dotyczący detalicznych usług finansowych dodał wymiar konsumencki. Zidentyfikował wzmocnione ryzyko oszustw i cyberzagrożeń jako jedną z czterech głównych zmian napędzanych przez AI, które mają kształtować rynek do 2030 r. i później.

Badanie konsumenckie regulatora wykazało zainteresowanie agentowymi usługami finansowymi. Jedna piąta respondentów, reprezentująca szacunkowo 11 milionów dorosłych mieszkańców Wielkiej Brytanii, wydawała się skłonna korzystać z AI działającej autonomicznie w ramach wcześniej określonych celów.

Taki popyt może skłaniać firmy do oferowania usług, które formułują lub realizują rekomendacje dla klientów. Podnosi też koszt awarii związanych z tożsamością, manipulacją, nieautoryzowanymi działaniami lub wprowadzającymi w błąd wynikami modeli.

Agenci obsługujący klientów tworzą inne ryzyka niż agenci bezpieczeństwa, ale oba rodzaje zależą od kontrolowanego dostępu i wiarygodnych danych. Przejęty asystent finansowy mógłby ujawnić dane osobowe lub zainicjować szkodliwe działania. Przejęty agent bezpieczeństwa mógłby wyłączyć zabezpieczenia lub ukryć podejrzaną aktywność.

Odporność operacyjna staje się pomostem między tymi przypadkami. Instytucja musi nadal świadczyć ważne usługi, gdy model, dostawca, aplikacja lub mechanizm kontroli zachowuje się nieoczekiwanie. Zapobieżenie każdej awarii jest nierealistyczne, dlatego firmy muszą również ograniczać skutki awarii i odzyskiwać sprawność po nich.

Ten kierunek regulacyjny wywiera presję na zarządy, by żądały dowodów. Liderzy potrzebują czegoś więcej niż oświadczenia, że system AI przeszedł przegląd zakupowy. Muszą znać jego uprawnienia, tryby awarii, zależności, zakres monitorowania i ścieżkę odzyskiwania.

Wywiera również presję na dostawców. Usługodawcy obsługujący regulowane finanse będą musieli odpowiadać na więcej pytań dotyczących aktualizacji modeli, powiadamiania o incydentach, rejestrów audytowych, retencji danych, podwykonawców i ciągłości usług.

Bezpośrednim rezultatem nie jest ogólne ograniczenie AI w finansach. Brytyjskie władze nadal wskazują na istotne korzyści, w tym lepsze wykrywanie oszustw, obsługę klienta i efektywność operacyjną. Ich stanowisko jest takie, że wdrażanie i odporność muszą rozwijać się razem.

To sprawia, że wyniki Gigamon są czymś więcej niż marketingowym migawkowym obrazem. Pojawiają się w momencie, gdy regulatorzy pytają, czy firmy potrafią przełożyć wydatki na bezpieczeństwo na mierzalną kontrolę. Wysoka adopcja przy jednocześnie dłuższym czasie wykrywania to właśnie ta rozbieżność, którą będą analizować nadzorcy.

Trzy sygnały pokażą, czy bezpieczeństwo AI w finansach się poprawia

Kolejny etap będzie oceniany na podstawie szybszego usuwania problemów, ściślejszej kontroli nad systemami autonomicznymi oraz bardziej przejrzystych dowodów dotyczących wspólnych dostawców.

Pierwszym sygnałem będzie to, czy zarządzanie podatnościami przyspiesza, nie powodując przy tym większych zakłóceń. Modele frontierowe mogą szybciej identyfikować słabości, lecz wykrycie to dopiero początek. Firmy muszą ocenić wagę problemu, zidentyfikować dotknięte nim zasoby, przetestować poprawki, wdrożyć je i potwierdzić, że kluczowe usługi nadal działają.

Warto obserwować, czy regulatorzy i duże instytucje będą publikować dane dotyczące czasu instalowania poprawek oraz testów odzyskiwania sprawności. Trwałe skrócenie okresów narażenia wzmocniłoby argument, że automatyzacja obrony dotrzymuje kroku zagrożeniom. Większa liczba awarii związanych z pośpiesznym usuwaniem problemów osłabiłaby go.

Drugim sygnałem będzie to, czy firmy narzucają egzekwowalne granice agentowej AI. Same polityki nie zatrzymają agenta z nadmiernymi uprawnieniami. Instytucje potrzebują mechanizmów technicznych, które ograniczają działania, rozdzielają wrażliwe środowiska, zachowują ślady audytowe i wymagają zatwierdzenia zmian o dużym wpływie.

Przydatnymi dowodami byłyby mniejsza liczba niezarządzanych modeli, kompletne inwentaryzacje AI oraz rutynowe testowanie zachowania agentów pod wpływem wrogich danych wejściowych. Jeśli banki potrafią wykazać, że autonomiczne działania są możliwe do prześledzenia i odwrócenia, równowaga przesuwa się w stronę kontrolowanej adopcji.

Wzrost liczby niezatwierdzonych działań, ujawnionych poświadczeń modeli lub niewyjaśnionych zmian wskazywałby na przeciwny kierunek. Sugerowałby, że tempo wdrożeń nadal przewyższa zdolność do sprawowania nadzoru.

Trzecim sygnałem będzie sposób, w jaki regulatorzy zajmą się skoncentrowanymi zależnościami technologicznymi. Wiele instytucji polega na tych samych dostawcach chmury, twórcach modeli i bibliotekach oprogramowania. Nadzorcy potrzebują wystarczających informacji, aby zidentyfikować skorelowaną ekspozycję, zanim incydent u jednego dostawcy dotknie kilka firm.

Przyszłe prace Bank of England nad zarządzaniem ryzykiem cybernetycznym i ryzykiem technologii informacyjnych będą tu istotne. Podobnie jak międzynarodowe wytyczne dotyczące odpowiedzialnego wdrażania AI i nadzoru nad stronami trzecimi.

Bardziej szczegółowe raportowanie dotyczące kluczowych usług AI wzmocniłoby zdolność systemu finansowego do przygotowania się na wspólne awarie. Utrzymujące się rozbieżności między priorytetami dostawców i regulatorów sprawiłyby, że instytucje nadal ponosiłyby ryzyka, których nie są w stanie w pełni obserwować.

Te sygnały mają większe znaczenie niż kolejny nagłówkowy procent. Badania ankietowe mogą wskazywać presję, lecz to dane operacyjne decydują o tym, czy mechanizmy obronne się poprawiają. Czas wykrywania, szybkość powstrzymywania incydentów, przetestowane odzyskiwanie sprawności, zakres kontroli uprawnień i koncentracja dostawców powinny stać się miarami śledzonymi przez zarządy.

Badanie Gigamon przedstawiło wiarygodne ostrzeżenie: firmy finansowe automatyzują bezpieczeństwo, jednocześnie zgłaszając powszechne incydenty związane z AI i utrzymujące się luki w widoczności. Badania regulacyjne potwierdzają zasadniczy niepokój, nawet jeśli definicje stosowane w poszczególnych ankietach pozostają niedoskonałe.

Czytelnicy Google News powinni oprzeć się najprostszemu przekonaniu, że AI albo pokonuje banki, albo je ratuje. Trudniejsza rzeczywistość jest taka, że oba procesy zachodzą jednocześnie. Automatyzacja daje obrońcom większy zasięg, jednocześnie zwiększając szybkość, złożoność i wzajemne powiązania, które muszą kontrolować.

Instytucje finansowe muszą teraz udowodnić, że obrona oparta na AI przynosi lepsze rezultaty, a nie tylko więcej alertów i szybsze działania. Liderzy bezpieczeństwa powinni zadać jedno konkretne pytanie w odniesieniu do każdego nowego systemu autonomicznego: czy organizacja może zobaczyć, ograniczyć, wyjaśnić i odwrócić to, co robi?