Ramy nadzoru nad AI CSBS przekształcają dobrowolne wytyczne w podręcznik dla egzaminatorów
CSBS opublikowała 16 września swoje ramy nadzoru nad AI, zapewniając egzaminatorom stanowym wspólny podręcznik działania, choć decyzję o ich wdrożeniu pozostawiła poszczególnym agencjom. Ramy obejmują banki oraz niebankowe spółki finansowe nadzorowane na poziomie stanowym. Pojawiają się również w czasie, gdy regulatorzy federalni ponownie rozważają, w jaki sposób starsze wytyczne dotyczące modeli i podmiotów trzecich powinny mieć zastosowanie do nowszych systemów AI.
Ten kontrast definiuje całą historię. Ramy nadzoru nad AI CSBS mają charakter dobrowolny i nie tworzą nowych obowiązków prawnych. Dają jednak egzaminatorom konkretne pytania, żądania dokumentów, procedury przeglądu oraz narzędzia klasyfikacji ryzyka, które mogą kształtować rzeczywiste kontrole.
Podejście federalne zmierza w innym kierunku. Zaktualizowane federalne wytyczne dotyczące ryzyka modeli wyraźnie wyłączają generatywną i agentową AI ze swojego zakresu. CSBS oferuje egzaminatorom stanowym szerszą metodę wyszukiwania takich systemów, rozumienia ich zastosowań oraz decydowania, kiedy uzasadniona jest pogłębiona kontrola.
Znaczenie tych ram wynika więc mniej z tego, że są nową regulacją, a bardziej z tego, że stanowią instrukcję operacyjną. Instytucje finansowe mają teraz wyraźniejszy obraz tego, o co egzaminator może pytać w sprawie rejestrów AI, ładu zarządczego, dostawców, wpływu na klientów i autonomicznych działań.
Co zmieniają ramy nadzoru nad AI CSBS
CSBS przekształciła szerokie zasady zarządzania AI w praktyczny proces kontrolny, który agencje stanowe mogą przyjąć lub dostosować.
Ramy CSBS opisują siebie jako uznaniowe narzędzie dla egzaminatorów stanowych. Pomagają im identyfikować zastosowania AI, oceniać związane z nimi ryzyka oraz decydować, kiedy istniejące zasoby nadzorcze powinny wspierać pogłębioną ocenę.
To ograniczone określenie jest istotne. CSBS nie ogłosiła wiążącego krajowego standardu dla każdej instytucji regulowanej przez stany. Każda stanowa agencja regulująca sektor finansowy zdecyduje, jaka część ram trafi do jej programu nadzorczego.
Ramy zostały zatwierdzone przez dwa komitety CSBS w sierpniu 2026 roku. Następnie CSBS opublikowała je 16 września. Docelową grupą odbiorców są egzaminatorzy nadzorujący banki posiadające statuty stanowe oraz licencjonowane przez stany niebankowe spółki finansowe.
Pakiet zawiera kilka powiązanych zasobów. Podstawowy przewodnik dla egzaminatorów dostarcza wstępnych pytań dotyczących zakresu, listy żądanych dokumentów i procedur przeglądu. Procedury te obejmują ład zarządczy, nadzór, rejestry AI, przypadki użycia, generatywną AI oraz inne nowe zastosowania.
Program pracy egzaminatora dodaje szczegóły dotyczące przeprowadzania kontroli. Oddzielne suplementy dla podmiotów niebankowych odnoszą się do ryzyka stron trzecich, ryzyka modeli i ochrony konsumentów w niebankowych spółkach usług finansowych.
Opcjonalny arkusz klasyfikacji ryzyka przypadków użycia AI wspiera ocenę każdego przypadku z osobna. Zamiast traktować każde narzędzie AI jako równie niebezpieczne, egzaminatorzy mogą uwzględniać cel, skalę ekspozycji, złożoność, konsekwencje dla klientów oraz kontrole otaczające konkretne wdrożenie.
Dokument wsparcia źródłowego wskazuje materiały wykorzystane do opracowania ram. CSBS podaje, że obejmują one ramy zarządzania ryzykiem AI National Institute of Standards and Technology oraz prace Treasury nad terminologią AI.
Ta podstawa łączy nadzór stanowy z uznanymi koncepcjami zarządzania ryzykiem. Ramy AI NIST na przykład porządkują pracę nad ryzykiem AI wokół zarządzania, mapowania, mierzenia i kontrolowania ryzyka.
Pakiet CSBS przenosi te koncepcje do środowiska kontrolnego. Instytucja może być zobowiązana wykazać, gdzie stosuje AI, kto zatwierdził jej użycie, jakich danych dotyka oraz jak ktoś monitoruje jej działanie.
Egzaminatorzy mogą również pytać, jak instytucja kontroluje systemy dostawców. Istotne dokumenty mogą obejmować umowy, warunki wykorzystania danych, dokumenty testowe, oceny ryzyka oraz przykłady wyników widocznych dla klientów.
W przypadku systemów agentowych przegląd staje się bardziej operacyjny. System agentowy może podejmować działania w kierunku celu przy ograniczonym udziale człowieka. Egzaminatorzy mogą oceniać jego dozwolone działania, punkty kontrolne z udziałem człowieka, dzienniki aktywności, odwracalność działań oraz mechanizmy awaryjnego wyłączenia.
Taki poziom szczegółowości zmienia sposób przygotowania. Ogólna polityka AI nie odpowie na wszystkie prawdopodobne pytania. Instytucje potrzebują dowodów łączących pisemny ład zarządczy z rzeczywistymi systemami, dostawcami, decyzjami i wynikami dla klientów.
Ramy obejmują również zastosowania, które mogą nigdy nie pasować do wąskiej matematycznej definicji modelu. Asystent obsługi klienta, narzędzie badawcze dla pracowników, proces wykrywania oszustw lub autonomiczny proces mogą nadal tworzyć ryzyka dla prywatności, cyberbezpieczeństwa, zgodności i działalności operacyjnej.
CSBS faktycznie dostarczyła mapę prowadzącą od wykrywania AI do pogłębionej kontroli. Ta mapa tworzy główne napięcie artykułu: agencje stanowe zachowują swobodę uznania, ale nadzorowane firmy wiedzą już, jakich dowodów mogą żądać te agencje.
Dlaczego firmy regulowane przez stany są teraz ostrzeżone
Bezpośrednia presja dotyczy instytucji, które nie potrafią przedstawić wiarygodnego rejestru własnych zastosowań AI.
Rejestr AI to uporządkowany zapis wdrożonych lub zatwierdzonych systemów AI. Zwykle wskazuje właściciela każdego systemu, jego cel, dane, dostawcę, poziom ryzyka, użytkowników, mechanizmy kontroli i historię przeglądów.
Wiele instytucji już prowadzi rejestry modeli i listy dostawców. Dokumentacja ta może nie obejmować wszystkich funkcji wspieranych przez AI w oprogramowaniu zwiększającym produktywność, platformach dla klientów, narzędziach bezpieczeństwa czy zewnętrznych procesach biznesowych.
Problem wykrywania narasta, gdy dostawcy dodają AI w ramach rutynowych aktualizacji produktów. Bank może zatwierdzić usługę programistyczną do jednej funkcji, a następnie kilka miesięcy później otrzymać funkcje podsumowywania lub automatycznego podejmowania decyzji.
Kolejną lukę tworzy przyjmowanie tych rozwiązań przez pracowników. Zespół może korzystać z publicznych asystentów AI, rozszerzeń przeglądarki lub wbudowanych copilotów, zanim zespoły compliance sklasyfikują tę aktywność. Blokowanie każdego narzędzia nie rozwiązuje problemu zarządczego, gdy AI wprowadzają również autoryzowane produkty.
Ramy nadzoru nad AI CSBS skłaniają instytucje do połączenia tych fragmentów. Egzaminatorzy mogą rozpocząć od pytań dotyczących zakresu i dokumentów, a następnie wskazać obszary wymagające bliższego przeglądu.
Instytucja finansowa powinna oczekiwać pytań o odpowiedzialność. Egzaminatorzy mogą chcieć wiedzieć, który dyrektor lub komitet odpowiada za ryzyko AI i kto może zawiesić działanie systemu, gdy pojawią się problemy.
Ta odpowiedzialność nie może pozostawać wyłącznie techniczna. Narzędzie kredytowe może wiązać się z wymogami sprawiedliwego kredytowania. Asystent klienta może powodować obawy dotyczące ujawnień, prywatności lub nieuczciwych praktyk. System przeciwdziałania oszustwom może wpływać na dostęp do transakcji i rozwiązywanie błędów.
U.S. Government Accountability Office udokumentowało ten szerszy krajobraz ryzyka w swoim przeglądzie AI w finansach. Wskazało potencjalne korzyści, ale także stronnicze decyzje, błędy jakości danych, obawy o prywatność i nowe zagrożenia cyberbezpieczeństwa.
GAO ustaliło również, że regulatorzy finansowi nadzorują AI przede wszystkim za pośrednictwem obowiązujących przepisów, wytycznych i kontroli opartych na ryzyku. CSBS podąża tym samym schematem. Jej ramy pomagają egzaminatorom powiązać przypadek użycia AI z istniejącymi uprawnieniami nadzorczymi i ustalonymi kategoriami ryzyka.
Ta struktura wywiera presję na firmy niebankowe, a także na banki. Spółki hipoteczne, przekaziciele pieniężni, kredytodawcy konsumenccy i inne licencjonowane przedsiębiorstwa często działają w kilku stanach.
Spółka działająca w wielu stanach może napotkać odmienne decyzje wdrożeniowe różnych agencji. Jeden regulator może włączyć pełne ramy, podczas gdy inny wykorzysta wybrane pytania lub istniejące procedury kontrolne.
Praktyczną odpowiedzią nie jest budowanie odrębnego programu zarządzania dla każdej jurysdykcji. Firmy potrzebują obronnej bazy dowodowej, która może wspierać kilka podejść nadzorczych.
Podstawą jest rejestr, ale nie może on być końcem procesu. Każdy istotny przypadek użycia potrzebuje wskazanego właściciela, zatwierdzonego celu, udokumentowanych ograniczeń oraz mechanizmów kontroli odpowiadających jego potencjalnemu wpływowi.
Systemy stron trzecich wymagają szczególnej uwagi. Kwestionariusz bezpieczeństwa dostawcy może nie wyjaśniać, jak testowano jego funkcję AI, czy dane klientów trenują inny model ani jak wyniki zmieniają się po aktualizacjach.
Instytucje potrzebują również dokumentacji nadzoru człowieka. Stwierdzenie, że człowiek nadal uczestniczy w procesie, nie wyjaśnia, co ta osoba sprawdza, kiedy następuje interwencja ani czy może odwrócić zautomatyzowane działanie.
W pracy opartej na wiedzy dokumentacja jest łatwiejsza, gdy polityki, zatwierdzenia, materiały dostawców i zapisy testów pozostają wspólnie przeszukiwalne. Utrzymywana baza wiedzy AI może wspierać tę pracę, choć nie zastępuje formalnych systemów compliance.
Instytucje znajdujące się pod największą presją niekoniecznie są tymi, które używają najwięcej AI. Są nimi te, które nie potrafią wyjaśnić, gdzie AI działa, dlaczego działa i jakie mechanizmy kontroli wynikają z jej ryzyka.
To rozróżnienie odzwierciedla podejście oparte na ryzyku. Asystent do przygotowywania szkiców o niskim wpływie nie powinien podlegać takiemu samemu przeglądowi jak zautomatyzowana decyzja kredytowa czy autonomiczne działanie płatnicze.
Instytucja musi jednak najpierw zidentyfikować oba systemy. Bez wykrywania i rejestru nie może wiarygodnie rozróżniać ryzyka.
Nadzór nad AI w bankowości staje teraz przed testem spójności
Główne napięcie dotyczy równowagi między elastycznością nadzorczą a potrzebą spójnych oczekiwań w różnych stanach i agencjach federalnych.
CSBS celowo zachowuje swobodę uznania egzaminatorów. Ramy uwzględniają wielkość instytucji, jej złożoność, profil ryzyka i faktyczny sposób wykorzystania AI.
Takie dostosowanie może chronić mniejsze instytucje przed nieproporcjonalną pracą związaną ze zgodnością. Bank społecznościowy o ograniczonej ekspozycji na AI nie powinien potrzebować takiego samego programu jak złożona grupa finansowa wdrażająca modele w głównych liniach biznesowych.
Elastyczność stanowa odzwierciedla również strukturę amerykańskiego nadzoru finansowego. Agencje stanowe nadzorują różne kombinacje banków, kredytodawców, przekazicieli pieniężnych, spółek hipotecznych i innych regulowanych przedsiębiorstw.
Kompromisem jest przewidywalność. Gdy każda agencja decyduje, jak korzystać z ram, instytucje nie mogą zakładać, że kontrole będą miały identyczny zakres lub próg.
Jeden egzaminator może traktować Podstawowy przewodnik dla egzaminatorów jako wstępne narzędzie przesiewowe. Inna agencja może oprzeć swoje żądania dokumentów i pracę kontrolną na całym pakiecie.
Ta obawa nie ma charakteru czysto teoretycznego. Przewodnicząca CSBS Rhoshunda Kelly wcześniej wzywała do spójnego wdrażania oczekiwań nadzorczych i wyraźniejszej koordynacji między regulatorami stanowymi i federalnymi.
Stanowisko federalne tworzy kolejną warstwę. W kwietniu 2026 roku Federal Reserve, Office of the Comptroller of the Currency oraz Federal Deposit Insurance Corporation zaktualizowały wspólne wytyczne dotyczące ryzyka modeli.
Zaktualizowane wytyczne federalne podkreślają podejście oparte na ryzyku, dostosowane do ekspozycji modelu, wielkości organizacji i złożoności operacyjnej. Obejmują rozwój, walidację, monitorowanie, ład zarządczy, rejestry, dokumentację oraz produkty dostawców.
Wytyczne te stwierdzają jednak, że generatywna i agentowa AI są nowe i szybko się rozwijają. Dlatego wyłączają te systemy z formalnego zakresu dokumentu.
To wyłączenie nie oznacza, że banki mogą korzystać z generatywnej AI bez mechanizmów kontroli. Wytyczne wskazują, że szersze praktyki zarządzania ryzykiem i ładu zarządczego powinny określać odpowiedni nadzór nad narzędziami spoza ich zakresu.
Tworzy to problem z wyznaczeniem granic. Tradycyjny system statystyczny może w pełni podlegać federalnym wytycznym dotyczącym ryzyka modeli. Asystent generatywny połączony z tym samym procesem może wymagać mechanizmów kontroli zaczerpniętych z innych ram.
CSBS zajmuje się stroną rozpoznawczą tej luki. Jego przewodnik dla egzaminatorów wyraźnie uwzględnia generatywną AI i nowe zastosowania w procedurach wstępnego przeglądu.
Te dwa podejścia nie są bezpośrednio sprzeczne. Agencje federalne zawęziły jeden konkretny zbiór wytycznych dotyczących modeli, podczas gdy CSBS stworzyło szersze ramy dla egzaminatorów, odsyłające do istniejących zasobów nadzorczych.
Firmy muszą jednak przełożyć to rozróżnienie na działania operacyjne. Muszą wiedzieć, kiedy system jest objętym zakresem modelem, procesem wspieranym przez AI, usługą zewnętrznego dostawcy lub jednocześnie kilkoma z tych kategorii.
Zależności od dostawców utrudniają klasyfikację. Instytucja finansowa może nie otrzymać dostępu do danych treningowych, bazowego kodu, metod oceny ani pełnych dowodów skuteczności.
Federalne wytyczne wskazują, że zastrzeżone komponenty dostawców mogą stwarzać trudności walidacyjne. Nadal oczekują jednak, że organizacje będą rozumieć poprawność koncepcyjną, projekt, dane wykorzystywane w rozwoju, skuteczność oraz ciągłą przydatność do określonego celu.
Dostawcy generatywnej AI mogą nie udostępniać wszystkich tych informacji. Ich produkty mogą także zmieniać się częściej niż konwencjonalne modele bankowe, czasem za sprawą aktualizacji w pełni kontrolowanych przez dostawcę.
CSBS zapewnia egzaminatorom stanowym ścieżkę do badania tej niepewności. Jego uzupełnienia dotyczące podmiotów niebankowych oraz żądania dokumentacji mogą połączyć nadzór nad dostawcami z ochroną konsumentów, kontrolami operacyjnymi i — tam, gdzie ma to zastosowanie — ryzykiem modeli.
Agencje federalne również ponownie analizują nadzór nad stronami trzecimi. Ich wrześniowa propozycja dotycząca stron trzecich z 2026 roku zakłada podejście oparte na zasadach, dostosowane do indywidualnych relacji.
Propozycja nie jest wiążąca, a konsultacje publiczne nadal trwają. Mimo to pokazuje, że nadzór nad dostawcami zmienia się równolegle z nadzorem nad AI.
Instytucje mają więc do czynienia z kilkoma zmieniającymi się warstwami. Muszą śledzić wdrażanie regulacji przez stany, federalne granice dotyczące modeli, rozwijające się wytyczne dla stron trzecich oraz przepisy regulujące podstawową działalność finansową.
Najlepszą ochroną jest system kontroli podążający za przypadkiem użycia, a nie jego etykietą. Nazwanie oprogramowania copilotem, asystentem, algorytmem lub procesem roboczym nie powinno przesądzać o całej analizie ryzyka.
Cel, zakres uprawnień, dostęp do danych, wpływ na klienta i odwracalność oferują trwalsze kryteria. Czynniki te pozostają istotne nawet wtedy, gdy dostawca zmienia model bazowy.
Praktyczny podręcznik nadal pozostawia niepewność prawną
Ramy poprawiają gotowość na kontrole, lecz nie rozstrzygają kwestii uprawnień, egzekwowania ani standaryzacji związanych z nadzorem nad AI w bankowości.
CSBS stwierdza, że ramy mają charakter uznaniowy. Podkreśla również, że każda agencja stanowa decyduje, czy i w jaki sposób materiały zostaną włączone do jej programu nadzorczego.
Ogranicza to twierdzenia o natychmiastowym ogólnokrajowym skutku. Publikacja nie oznacza, że każdy egzaminator stanowy zacznie korzystać z każdego arkusza podczas następnego cyklu kontrolnego.
Ramy same w sobie nie tworzą też nowego obowiązku prawnego. Ustalenie egzaminatora nadal może wiązać działania związane z AI z istniejącymi przepisami, kwestiami bezpieczeństwa i stabilności, wymogami ochrony konsumentów lub utrwalonymi oczekiwaniami nadzorczymi.
To rozróżnienie ma znaczenie dla regulowanych firm. Dokument oznaczony jako dobrowolny może wpływać na sposób, w jaki egzaminatorzy gromadzą dowody i oceniają, czy naruszono inny wiążący wymóg.
Praktyczne obciążenie może pojawić się przed jakimkolwiek formalnym działaniem egzekucyjnym. Instytucje mogą otrzymać szersze żądania dokumentacji, mierzyć się z pytaniami uzupełniającymi lub potrzebować specjalistycznego personelu do wyjaśniania złożonych systemów.
Mniejsze firmy mogą mieć trudności z takim przygotowaniem. W dużym stopniu zależą od dostawców systemów podstawowych i technologii, lecz często mają mniejszą siłę negocjacyjną, by uzyskać szczegółową dokumentację AI.
Dostawca może udostępnić standardowy raport audytowy, nie ujawniając zachowania modelu, obsługi promptów, podwykonawców ani mechanizmów kontroli aktualizacji. Instytucja nadal odpowiada za zrozumienie ryzyk, które może obserwować jedynie częściowo.
Stopniowanie ryzyka wprowadza kolejną niepewność. Opcjonalny arkusz zachęca do proporcjonalnego przeglądu, lecz klasyfikacje ryzyka zależą od założeń dotyczących wpływu, autonomii, danych i skuteczności kontroli.
Dwóch recenzentów może zasadnie różnie sklasyfikować ten sam przypadek użycia. Asystent do przygotowywania tekstów może wydawać się narzędziem niskiego ryzyka, dopóki pracownicy nie zaczną wprowadzać poufnych danych klientów lub polegać na sfabrykowanej analizie prawnej.
Treści kierowane do klientów zwiększają złożoność. Chatbot może nie podejmować formalnych decyzji kredytowych, lecz błędne odpowiedzi mogą wpływać na skargi, opłaty, dostęp do konta lub rozumienie przez konsumentów ich praw.
Systemy agentowe podnoszą stawkę operacyjną. Zatwierdzenie przez człowieka ma znaczenie tylko wtedy, gdy recenzent dysponuje wystarczającymi informacjami, czasem, uprawnieniami i wiedzą, aby powstrzymać szkodliwe działanie.
Logi również muszą zawierać treść merytoryczną. Zapis wskazujący, że system AI podjął działanie, nie dowodzi, że decyzja była właściwa ani że można odtworzyć jej uzasadnienie.
Oparcie ram na istniejących zasobach nadzorczych jest rozsądne, ale może prowadzić do nakładających się przeglądów. Jedno wdrożenie AI może obejmować cyberbezpieczeństwo, prywatność, ryzyko stron trzecich, odporność operacyjną, zgodność z wymogami konsumenckimi i zarządzanie modelami.
Nakładanie się tych obszarów może poprawić zakres kontroli, gdy zespoły koordynują działania. Może też prowadzić do powielonych żądań lub sprzecznych oczekiwań dotyczących kontroli, gdy odpowiedzialność pozostaje niejasna.
Jakość dowodów stanowi kolejne wyzwanie. Instytucje powinny odróżniać twierdzenia dostawców od niezależnych testów, ocen wewnętrznych, monitorowania produkcyjnego i wyników klientów.
Demonstracja dostarczona przez dostawcę nie potwierdza skuteczności w środowisku banku. Testy powinny odzwierciedlać użytkowników, dane, procesy robocze, tryby awarii i obowiązki prawne danej instytucji.
Wyniki generatywne wymagają oceny wykraczającej poza konwencjonalną dokładność. Recenzenci mogą potrzebować oceniać konfabulacje, szkodliwe instrukcje, wycieki danych, nierówne traktowanie, ataki na prompty oraz odporność na nieuprawnione działania.
Ciągłe monitorowanie również staje się trudniejsze, gdy systemy szybko się zmieniają. Ocena kontroli przeprowadzona przed uruchomieniem może stracić aktualność po zmianie modelu, źródła danych, promptu lub integracji.
Dlatego inwentaryzacje muszą uwzględniać wyzwalacze cyklu życia. Instytucje powinny określić, które zmiany wymagają ponownych testów, przeglądu prawnego, oceny dostawcy, zatwierdzenia przez kierownictwo lub zawieszenia działania.
Przedstawienie wyjaśnionych ram AI CSBS jako prostej listy kontrolnej zgodności pomijałoby tę kwestię. Ich wartość wynika ze strukturyzowania analizy, a nie z certyfikowania systemu jako trwale bezpiecznego.
Nie ma jeszcze również dowodów, że wszystkie agencje stanowe będą interpretować pakiet jednolicie. Wczesna praktyka kontrolna pokaże, czy ramy doprowadzą do konwergencji, czy stworzą kolejną warstwę różnic między jurysdykcjami.
Instytucje powinny unikać dwóch przeciwstawnych błędów. Nie powinny traktować uznaniowych ram jako natychmiast wiążącej reguły ani odrzucać ich jako nieistotnych wytycznych.
Bardziej trafna interpretacja znajduje się między tymi stanowiskami. CSBS stworzyło wspólny język nadzorczy i proces nadający się do ponownego wykorzystania. Wdrożenie, interpretacja i egzekwowanie pozostają zdecentralizowane.
Trzy sygnały pokażą, czy ramy mają znaczenie
Rzeczywisty wpływ ram stanie się widoczny poprzez ich przyjmowanie przez stany, praktykę kontrolną oraz koordynację z rozwijającymi się wytycznymi federalnymi.
Pierwszym sygnałem będzie formalne lub operacyjne przyjęcie ram przez agencje stanowe. Publiczne komunikaty, zmienione podręczniki kontroli, nowe żądania dokumentacji i szkolenia egzaminatorów pokażą, gdzie ramy stają się aktywne.
Stan nie musi wydawać nowego rozporządzenia, aby ramy miały znaczenie. Włączenie ich pytań do rutynowych kontroli może zmienić sposób przygotowania firm oraz identyfikowania przez egzaminatorów zastosowań o wyższym ryzyku.
Szerokie przyjęcie ram wzmocniłoby argument za budową jednego ogólnofirmowego systemu dowodowego. Fragmentaryczne wdrażanie zwiększyłoby potrzebę mapowania zapisów dotyczących zarządzania względem oczekiwań specyficznych dla poszczególnych jurysdykcji.
Drugim sygnałem będzie treść faktycznych kontroli. Instytucje powinny obserwować, czy egzaminatorzy najpierw koncentrują się na inwentaryzacjach i zarządzaniu, czy szybko przechodzą do testowania konkretnych przypadków użycia.
Żądania umów z dostawcami, dokumentacji modeli, próbek wyników, zapisów incydentów i ocen ryzyka ujawnią, które części mają największe praktyczne znaczenie.
Szczególnie istotna byłaby uwaga poświęcona kontrolom systemów agentowych. Pytania o dozwolone działania, punkty kontrolne z udziałem człowieka, logi audytowe, odwracalność i mechanizmy wyłączenia wskazywałyby na głębszą kontrolę operacyjną.
Kontrole pokażą również, jak recenzenci traktują nieformalne użycie przez pracowników. Ramy skupione wyłącznie na zatwierdzonych systemach korporacyjnych mogłyby pominąć znaczące ryzyka dla danych i decyzji.
Trzecim sygnałem będzie koordynacja federalna. Agencje federalne zawęziły obecne wytyczne dotyczące ryzyka modeli, jednocześnie przygotowując dalsze prace nad AI i relacjami ze stronami trzecimi.
OCC poinformował w kwietniu, że agencje planowały dalsze gromadzenie informacji dotyczących AI, w tym systemów generatywnych i agentowych. Każde wynikające z tego żądanie lub wytyczne mogą wyjaśnić, gdzie podejście federalne pokrywa się z podejściem CSBS.
Skoordynowane podejście ograniczyłoby niepewność dla banków licencjonowanych przez stany, które podlegają także nadzorowi federalnemu. Rozbieżne definicje lub standardy dokumentacji stworzyłyby więcej pracy związanej z dostosowaniem.
Ciągłe zainteresowanie GAO nadzorem nad uniami kredytowymi stanowi kolejny przydatny wskaźnik. Jego zalecenie dotyczące szerszych wytycznych w zakresie ryzyka modeli pokazuje, że zakres nadzoru pozostaje nierówny dla różnych typów instytucji.
Żaden z tych sygnałów nie wymaga, by firmy czekały. Ramy już wskazują działania przygotowawcze wspierające należyte zarządzanie niezależnie od decyzji konkretnej agencji o ich przyjęciu.
Instytucje mogą zweryfikować swoje inwentaryzacje, przypisać odpowiedzialnych właścicieli, sklasyfikować przypadki użycia i udokumentować kryteria zatwierdzania. Mogą także sprawdzić, czy dokumentacja dostawców odpowiada na pytania, które prawdopodobnie zada egzaminator.
Systemy o dużym wpływie zasługują na monitorowanie wyników powiązane z ich rzeczywistym celem. Narzędzie do zwalczania oszustw powinno być oceniane pod kątem wyników w zakresie oszustw i zakłóceń dla klientów, a nie wyłącznie wskaźników technicznych.
Systemy obsługujące klientów wymagają reprezentatywnego przeglądu wyników. Zespoły powinny zachowywać dowody błędów, korekt, skarg i zmian, zamiast dokumentować jedynie udane demonstracje.
Wdrożenia agentowe wymagają jasno ograniczonych uprawnień. Organizacje powinny określić, które działania wymagają zatwierdzenia, które można odwrócić i kto może wyłączyć system podczas incydentu.
Członkowie zarządów i wyższa kadra kierownicza nie muszą opanować każdej architektury modelu. Muszą jednak otrzymywać rzetelne raporty o istotnych zastosowaniach, nierozwiązanych ryzykach, incydentach, ograniczeniach dostawców i zaakceptowanych wyjątkach.
Ta sama dyscyplina pomaga pracownikom. Jasne zasady powinny odróżniać zatwierdzone systemy od zakazanych zastosowań oraz wyjaśniać, jak pracownicy mogą zgłaszać nieoczekiwane zachowania.
Ramy nadzorcze CSBS dotyczące AI będą miały największe znaczenie, jeśli zmienią te nawyki operacyjne. Sam dobrze uporządkowany folder z politykami nie wykaże kontroli nad wdrożonymi systemami.
Dla dostawców technologii przekaz jest równie bezpośredni. Instytucje finansowe będą coraz częściej żądać jaśniejszej dokumentacji dotyczącej przetwarzania danych, testów, zmian w systemach, podwykonawców, logów i interwencji człowieka.
Dostawcy, którzy nie potrafią przedstawić wiarygodnych dowodów, mogą być trudniejsi do zatwierdzenia, nawet jeśli ich produkty działają dobrze. Zespoły zakupowe potrzebują praw umownych wspierających bieżący nadzór po wdrożeniu.
Dla instytucji finansowych kolejnym krokiem jest ukierunkowany przegląd gotowości. Czy organizacja potrafi zidentyfikować każde istotne zastosowanie AI, przypisać mu właściciela i przedstawić dowody uzasadniające jego klasyfikację ryzyka?
Czy potrafi wyjaśnić, co robi system dostawcy, bez całkowitego polegania na materiałach sprzedażowych? Czy potrafi pokazać, co dzieje się, gdy system zawiedzie lub podejmie nieautoryzowane działanie?
Te pytania oddają praktyczne znaczenie nowych ram. Wdrożenie na poziomie stanowym pozostaje niepewne, ale oczekiwane dowody stają się coraz bardziej jasne.
Kolejna kontrola może nie wykorzystywać każdego dokumentu CSBS. Nadal może jednak postawić to samo fundamentalne pytanie: czy instytucja rozumie i kontroluje AI działającą w jej działalności?
