Brytyjskie regulacje dotyczące modeli AI nie mogą powstrzymać ryzykownych wdrożeń, ostrzega komisja parlamentarna

Wielka Brytania nie może obecnie powstrzymać wprowadzenia na rynek ryzykownego modelu sztucznej inteligencji, mimo że utrzymuje kilkanaście organów regulacyjnych i wyspecjalizowany instytut bezpieczeństwa.

To ustalenie wywiera na brytyjskie regulacje dotyczące modeli AI większą presję niż kolejna abstrakcyjna debata o odpowiedzialnej innowacji. Wspólna Komisja Praw Człowieka parlamentu twierdzi, że kraj nie ma regulatora, który mógłby żądać dostępu do zaawansowanych modeli lub blokować ich wdrażanie.

Komisja opublikowała swój raport 14 września, po otrzymaniu ponad 70 pisemnych stanowisk i przeprowadzeniu dziesięciu sesji dowodowych ustnych. Jej wnioski podważają sektorową strategię rządu, która stosuje istniejące przepisy głównie po rozpoczęciu używania systemu AI.

Bezpośredni spór dotyczy wyboru między dobrowolną współpracą a egzekwowalnym nadzorem. AI Security Institute może oceniać modele, gdy deweloperzy zapewniają dostęp, lecz firmy nie mają prawnego obowiązku ich zgłaszania.

Komisja chce odwrócić tę relację. Proponowana przez nią ustawa o AI wymagałaby od deweloperów zgłaszania potężnych modeli do testów, wprowadzała wcześniejszą zgodę dla systemów wysokiego ryzyka i nadawała uprawnienia niezależnemu regulatorowi.

Rekomendacja pojawia się w czasie, gdy modele bazowe coraz częściej wspierają produkty wykorzystywane w zatrudnieniu, finansach, edukacji, policji, ochronie zdrowia i usługach publicznych. Słabość wprowadzona na wcześniejszym etapie może zatem rozprzestrzenić się w wielu organizacjach, zanim osoba, której dotyczy, dowie się o udziale AI.

Luka w brytyjskich regulacjach dotyczących modeli AI została jasno wskazana

Główne ustalenie komisji jest wąskie, ale istotne: Wielka Brytania dysponuje wiedzą potrzebną do testowania zaawansowanych modeli, lecz nie ma organu mogącego wymusić testy ani wstrzymać wdrożenie.

AI Security Institute, znany jako AISI, rozpoczął działalność w listopadzie 2023 roku. Bada możliwości i zabezpieczenia modeli frontier, czyli wysoce zdolnych systemów ogólnego przeznaczenia znajdujących się na czołowym etapie rozwoju.

AISI współpracuje z deweloperami, którzy dobrowolnie zapewniają dostęp przed wdrożeniem. Według raportu o regulacji AI komisji nie może on żądać takiego dostępu ani przed, ani po uruchomieniu modelu.

Nie może też narzucać warunków wydania, wydawać wiążących nakazów naprawczych ani zapobiegać wdrożeniu. Jego ustalenia mogą informować rząd, lecz nie stanowią decyzji o zatwierdzeniu regulacyjnym.

To rozróżnienie ma znaczenie, ponieważ dostęp techniczny określa, co ewaluator może faktycznie sprawdzić. Publiczne interfejsy czatowe ujawniają jedynie ograniczoną część zachowania modelu, zabezpieczeń, instrukcji systemowych i mechanizmów wdrożeniowych.

Rzetelna ocena często wymaga kontrolowanych testów, dokumentacji technicznej i czasu przed wydaniem. Regulator potrzebuje także procesu rozstrzygania poważnych ustaleń oraz weryfikowania, czy obiecane poprawki działają.

Bez obowiązkowego dostępu to deweloperzy decydują, które modele AISI zobaczy, kiedy rozpoczną się testy i jakie materiały pomocnicze będą dostępne. Harmonogramy komercyjne mogą postępować szybciej niż dobrowolne ustalenia dotyczące oceny.

Twierdzenie komisji nie oznacza, że AI działa poza wszelkim brytyjskim prawem. W określonych okolicznościach mogą już mieć zastosowanie przepisy dotyczące ochrony danych, równości, ochrony konsumentów, bezpieczeństwa produktów, usług finansowych i bezpieczeństwa w internecie.

Problem dotyczy czasu, zakresu i odpowiedzialności. Większość istniejących uprawnień odnosi się do użycia modelu w ramach regulowanej działalności, a nie do modelu bazowego, zanim trafi on do wielu użytkowników końcowych.

House of Commons Library opisuje brytyjskie podejście jako regulację zależną od kontekstu, prowadzoną za pośrednictwem istniejących ram prawnych. Regulatorzy tacy jak Information Commissioner’s Office i Ofcom nadzorują konkretne obowiązki prawne w ramach swoich ustalonych kompetencji.

Taka struktura może działać, gdy ryzyko wyraźnie należy do jednego regulowanego sektora. Trudniej funkcjonuje, gdy model ogólnego przeznaczenia wspiera decyzje i usługi w kilku sektorach jednocześnie.

System selekcji kandydatów do pracy, chatbot obsługi klienta, asystent medyczny i narzędzie do obsługi świadczeń mogą korzystać z tego samego modelu bazowego. Ich podmioty wdrażające mogą jednak podlegać różnym regulatorom, obowiązkom, standardom dowodowym i mechanizmom egzekwowania.

Komisja twierdzi, że ta fragmentacja pozostawia bez odpowiedzialności modelowe ryzyko łączące te zastosowania. Pozwala też deweloperom przenosić znaczną część odpowiedzialności na klientów dysponujących mniejszymi zasobami technicznymi.

Raport traktuje zatem brak uprawnień przed wydaniem jako lukę strukturalną. Nie chodzi jedynie o to, że regulatorzy potrzebują większych wytycznych lub kolejnego dobrowolnego standardu.

Problem polega na tym, że żaden istniejący organ nie może wymagać od dewelopera udostępnienia potężnego modelu do oceny. Żaden organ nie może następnie przekształcić niebezpiecznego wyniku testu w wiążącą decyzję zakazującą wydania.

System działający na dalszym etapie nie może niezawodnie kontrolować ryzyka powstałego wcześniej

Wielka Brytania reguluje wiele szkód związanych z AI tam, gdzie systemy są wdrażane, podczas gdy komisja chce przesunąć odpowiedzialność w stronę firm projektujących modele bazowe.

Modele bazowe mogą wykonywać wiele zadań i służyć jako komponenty innych produktów. Modele GPT od OpenAI, Claude od Anthropic, Gemini od Google i Llama od Meta ilustrują tę warstwę ogólnego przeznaczenia.

Organizacje mogą łączyć te modele z własnymi danymi, interfejsami i przepływami pracy. Mogą dostrajać model, dodawać systemy wyszukiwania, pisać instrukcje zachowania lub pozwalać mu korzystać z zewnętrznych narzędzi.

Ta struktura tworzy łańcuch dostaw AI. Deweloperzy modeli, dostawcy chmury, twórcy aplikacji, dostawcy danych, integratorzy, pracodawcy, władze publiczne i użytkownicy końcowi mogą wpływać na ostateczny wynik.

Łańcuch komplikuje rozliczalność, ponieważ każdy uczestnik kontroluje inne informacje. Klient wdrażający model może widzieć jego wyniki bez rozumienia procesu trenowania, ukrytych ograniczeń czy wewnętrznych testów bezpieczeństwa.

Deweloper wie więcej o modelu bazowym. Może jednak nie kontrolować każdego późniejszego zastosowania, promptu, zbioru danych ani decyzji, które klient buduje wokół niego.

Istniejące brytyjskie regulacje często koncentrują odpowiedzialność blisko punktu wdrożenia. Pracodawca pozostaje odpowiedzialny za dyskryminującą rekrutację, a organ publiczny za decyzje dotyczące świadczeń lub działań policji.

Te obowiązki nadal są ważne. Zastrzeżenie komisji polega na tym, że sama odpowiedzialność na dalszym etapie nakłada zbyt duże obciążenie na podmioty, które nie mogą sprawdzić ani naprawić wad powstałych wcześniej.

Tendencje modelu mogą też dotrzeć do wielu klientów jednocześnie. Jeśli ten sam model bazowy wprowadza nierzetelne porady, dyskryminujące wzorce lub podatne na wykorzystanie zachowania w licznych zastosowaniach, egzekwowanie przepisów w poszczególnych sprawach następuje zbyt późno.

Skala zmienia problem regulacyjny. Tradycyjny nadzór może zbadać jednego pracodawcę, bank, platformę lub organ publiczny po pojawieniu się dowodów szkody.

Powszechnie używany model bazowy może rozprzestrzenić powiązane ryzyka ponad tymi granicami, zanim odrębni regulatorzy wykryją wspólne źródło. Dotknięte tym organizacje mogą początkowo traktować każdy incydent jako odosobnioną porażkę wdrożenia.

Koncentracja komisji na prawach człowieka czyni to opóźnienie szczególnie poważnym. Ludzie mogą nie wiedzieć, że zautomatyzowany system wpłynął na decyzję dotyczącą zatrudnienia, policji, postępowania dyscyplinarnego lub usług publicznych.

Bez ujawnienia nie mogą zażądać odpowiednich zapisów ani zakwestionować roli modelu. Nawet gdy użycie AI staje się znane, złożony model może nie przedstawiać jasnego wyjaśnienia swojego wyniku.

Raport wskazuje równość, prywatność, ochronę danych i dostęp do skutecznego środka odwoławczego jako kluczowe kwestie. Nie ograniczają się one do hipotetycznych systemów AI o poziomie ludzkim.

Świadkowie opisali obecne zastosowania obejmujące monitorowanie pracowników, rozpoznawanie twarzy, profilowanie ryzyka więźniów, wykrywanie oszustw dotyczących świadczeń oraz zautomatyzowane decyzje o istotnych konsekwencjach.

Komisja podała, że między 1 stycznia a 29 października 2025 roku twarze około 3 milionów osób zostały zeskanowane w ramach policyjnych wdrożeń rozpoznawania twarzy. Jej obawy wykraczają poza dokładność i obejmują zgodę, proporcjonalność, przejrzystość oraz możliwość dochodzenia zadośćuczynienia.

Przytoczono też przykłady systemów w miejscu pracy oznaczających pracowników do zbadania po rutynowych zachowaniach, w tym zatrzymaniu się na światłach. Takie przykłady pokazują, jak zwykłe zautomatyzowane systemy mogą tworzyć natychmiastowe spory dotyczące dowodów i rozliczalności.

Ludzki recenzent nie rozwiązuje problemu automatycznie. Ludzie mogą ulegać rekomendacjom algorytmów, nie mieć informacji potrzebnych do ich zakwestionowania lub jedynie proceduralnie zatwierdzać wynik.

Komisja chce, aby przepisy UK GDPR wyjaśniały, że nominalny „człowiek w pętli” nie stanowi znaczącej interwencji. Recenzent powinien być poinformowany, niezależny i zdolny do wydania obiektywnego osądu.

Ta zasada ujawnia szerszy problem stojący przed brytyjskimi regulacjami dotyczącymi modeli AI. Nadzór nie może zależeć od obecności człowieka, jeśli ta osoba nie ma informacji o tym, jak system doszedł do wyniku.

Dobrowolne testowanie modeli nie ma mechanizmu egzekwowania

Obecny model zależy od współpracy deweloperów AI, nawet gdy zachęty komercyjne sprzyjają poufności, szybkiemu wydawaniu produktów i ograniczonej kontroli zewnętrznej.

Dobrowolne testowanie nie jest bez znaczenia. Może zapewnić badaczom rządowym wczesny dostęp, poprawić wspólne metody oceny i pomóc deweloperom identyfikować problemy, zanim napotkają je klienci.

AISI oferuje również zdolności techniczne, których nie posiada wielu konwencjonalnych regulatorów. Rząd opisywał jego dostęp do modeli przed wdrożeniem jako wyjątkowo szeroki według standardów międzynarodowych.

Dobrowolna współpraca i ustawowe uprawnienia odpowiadają jednak na różne pytania. Współpraca pomaga, gdy deweloper zgadza się uczestniczyć. Uprawnienia określają, co dzieje się, gdy odmawia, opóźnia działania lub kwestionuje ustalenia ewaluatora.

Komisja twierdzi, że AISI obecnie nie ma żadnych uprawnień regulacyjnych. Instytut działa jako organ badawczy, a nie organ zatwierdzający porównywalny z regulatorami, którzy mogą ograniczać niebezpieczne produkty.

Deweloperzy modeli opublikowali własne ramy bezpieczeństwa i progi ryzyka. Niektórzy obiecują, że nie będą wdrażać systemów, gdy poważnych zagrożeń nie można ograniczyć poniżej wewnętrznie zdefiniowanych limitów.

Ramy te mogą tworzyć użyteczne procedury, lecz firmy same wybierają ich zakres, dowody, progi i praktyki ujawniania informacji. Zachowują też znaczną kontrolę nad oceną, czy model spełnia te warunki.

Komisja usłyszała obawy, że zachęty finansowe czynią dobrowolne zobowiązania niewiarygodnymi. Firma stojąca pod presją konkurencyjną może ponieść istotne straty, jeśli rywal jako pierwszy wyda bardziej zdolny model.

Nie dowodzi to, że deweloperzy rutynowo ignorują ustalenia dotyczące bezpieczeństwa. Oznacza, że system nie ma niezależnego zabezpieczenia, gdy oceny firmy i oceny ryzyka publicznego się rozchodzą.

Komisja proponuje trzy powiązane zmiany. Po pierwsze, AISI otrzymałby podstawę ustawową i określony obowiązek przeglądu nowych lub znacząco zmienionych potężnych modeli.

Po drugie, deweloperzy musieliby zgłaszać te modele do oceny. Dostarczaliby również specyfikacje techniczne obejmujące właściwości modelu, trening, zamierzone zastosowania, testowanie i mechanizmy kontroli ryzyka.

Po trzecie, AISI publikowałby ustalenia przed wydaniem i wydawał wstępne ostrzeżenia. Doradzałby organowi egzekwującemu, gdy model powinien zostać wstrzymany lub wycofany z powodu istotnych zagrożeń dla praw człowieka.

Propozycja oddziela ocenę techniczną od ostatecznej decyzji prawnej, choć komisja twierdzi, że rząd powinien rozważyć połączenie AISI z nowym regulatorem.

Taki projekt odzwierciedla praktyczną rzeczywistość. Wykrycie niepokojącego zachowania modelu nie jest tym samym co ustalenie, czy wdrożenie narusza próg prawny.

Ewaluatorzy muszą ustalić, czy problem jest powtarzalny, czy zabezpieczenia go ograniczają oraz czy warunki wdrożenia zmieniają ryzyko. Następnie regulatorzy muszą interpretować dowody zgodnie z opublikowanymi zasadami.

Najdalej idąca propozycja komisji wymagałaby uprzedniej zgody dla systemów AI stwarzających wysokie ryzyko naruszenia praw człowieka. Zgoda byłaby udzielana, zanim systemy te mogłyby zostać udostępnione lub wdrożone.

Przesunęłoby to nadzór z egzekwowania prawa po fakcie w kierunku prewencji. Stworzyłoby to również trudne kwestie dotyczące tego, które modele i zastosowania powinny podlegać ocenie.

Zbyt szeroka definicja mogłaby przeciążyć ewaluatorów i opóźniać produkty niskiego ryzyka. Zbyt wąska definicja mogłaby przeoczyć model ogólnego przeznaczenia, którego niebezpieczne zastosowania ujawnią się po wdrożeniu.

Twórcy mogą również zmieniać modele hostowane bez wypuszczania całkowicie nowego produktu. Regulatorzy potrzebowaliby zasad określających, kiedy aktualizacja tworzy nowy obowiązek oceny.

Modele o otwartych wagach stanowią kolejne wyzwanie, ponieważ ich kopie mogą rozprzestrzeniać się poza infrastrukturę pierwotnego dostawcy. Ograniczenia nałożone na jedną krajową usługę mogą nie usunąć każdej dostępnej kopii.

Te kwestie wdrożeniowe nie niwelują luki w egzekwowaniu przepisów. Pokazują, dlaczego przekształcenie oceny technicznej w prawo wymaga czegoś więcej niż przyznania AISI ogólnej misji bezpieczeństwa.

Prawo musiałoby określać mierzalne przesłanki obowiązku zgłoszenia, procedury testowe, zabezpieczenia poufności, prawa do odwołania, procesy naprawcze i wiarygodne sankcje. Potrzebowałoby również wystarczającej liczby pracowników i zasobów obliczeniowych, by oceniać modele w terminach odpowiadających realiom komercyjnym.

Jeden organ nadzorczy zastąpiłby mozaikę rozwiązań, a nie wszystkich regulatorów

Komisja chce centralnego organu nadzoru nad AI, który koordynowałby politykę i egzekwował obowiązki międzysektorowe, podczas gdy obecni regulatorzy zachowaliby swoje wyspecjalizowane kompetencje.

Proponowany regulator nie zastąpiłby Financial Conduct Authority, Information Commissioner’s Office, Ofcom, Equality and Human Rights Commission ani regulatorów produktów medycznych.

Instytucje te dysponują wiedzą sektorową i istniejącymi relacjami w zakresie egzekwowania przepisów. Regulator finansowy rozumie mechanizmy kontroli kredytowania, podczas gdy regulator danych interpretuje obowiązki dotyczące prywatności i danych osobowych.

Nowy organ zajmowałby się kwestiami, które nie mieszczą się w tych zakresach kompetencji. Monitorowałby działania regulatorów, przyjmował skargi, wydawał kodeksy postępowania, badał naruszenia i sankcjonował nieprzestrzeganie przepisów.

Mógłby również ustanowić zasady przejrzystości dla różnych uczestników cyklu życia AI. Zasady te określałyby, co muszą ujawniać twórcy, integratorzy, podmioty wdrażające i organy publiczne.

Komisja chce, aby regulator zapewniał środki ochrony prawnej w indywidualnych sprawach bez zmuszania osób poszkodowanych do ponoszenia zaporowych kosztów. Ta funkcja bezpośrednio łączy nadzór nad modelami z dochodzeniem praw człowieka.

Proponowane uprawnienia obejmowałyby również zagranicznych dostawców. Gdy podmiot spoza kraju tworzy niedopuszczalne ryzyko, którego nie można kontrolować na terenie Wielkiej Brytanii, organ nadzorczy mógłby ograniczyć lub zakazać wdrożenia w UK.

Ten zasięg jurysdykcyjny miałby znaczenie, ponieważ wiele czołowych modeli bazowych powstaje poza Zjednoczonym Królestwem. Krajowe zasady wdrażania nie mogą kontrolować całego globalnego rozwoju, ale mogą określać warunki dostępu do rynku UK.

Komisja zaleca także zakazanie kilku zastosowań, które uznaje za niezgodne z prawami człowieka. Jej przykłady obejmują techniki podprogowe, wnioskowanie o emocjach oraz niewłaściwe profilowanie lub przetwarzanie danych biometrycznych.

Idzie dalej w odniesieniu do systemów o skrajnie wysokich możliwościach. Raport stwierdza, że rozwój i udostępnianie powinny być zakazane, gdy systemy stwarzają ryzyko powszechnej, poważnej szkody i mogą wymknąć się skutecznej ludzkiej kontroli.

Sztuczna inteligencja ogólna i superinteligencja pojawiają się jako przykłady, a nie jako twierdzenia, że takie systemy już istnieją. Precyzyjna granica wymagałaby konsultacji publicznych.

To rozróżnienie ma znaczenie, ponieważ dramatyczny nagłówek może sprawić, że rekomendacja zabrzmi jak natychmiastowy zakaz dotyczący dzisiejszych czołowych modeli. Raport zamiast tego wzywa do przyszłego, opartego na ryzyku systemu, którego szczegóły pozostają nierozstrzygnięte.

Systemy wysokiego ryzyka podlegałyby uprzedniej zgodzie i bardziej rygorystycznej należytej staranności. Narzędzia niższego ryzyka otrzymałyby lżejsze wymogi, zgodnie z deklarowanym przez komisję celem proporcjonalności.

Ta struktura przypomina logikę EU AI Act, choć komisja nie zaleca kopiowania europejskich ram słowo w słowo.

Ramy UE nakładają różne obowiązki zależnie od kategorii systemu i osobno regulują modele ogólnego przeznaczenia. Zakazują też pewnych praktyk, które Europa uznaje za niedopuszczalne.

Wielka Brytania preferowała mniej scentralizowane podejście. Polityka rządowa kładła nacisk na nadzór specyficzny dla zastosowań, elastyczne zasady i wzrost gospodarczy zamiast jednej kompleksowej ustawy o AI.

Zwolennicy argumentują, że wyspecjalizowani regulatorzy mogą reagować odpowiednio do kontekstu. Ostrzegają również, że wczesne, sztywne zasady mogą się zdezaktualizować wraz ze zmianami modeli, produktów i praktyk biznesowych.

Komisja akceptuje, że regulacja powinna chronić innowacje i unikać nieuzasadnionych obciążeń. Jej spór dotyczy tego, czy elastyczność może pozostać wiarygodna bez wiążących obowiązków w całym łańcuchu dostaw.

Opinia publiczna również przesunęła się w stronę silniejszych zasad. Badanie z 2024 i 2025 roku, podsumowane przez House of Lords Library, wykazało, że 72 procent popierało przepisy dotyczące AI, wobec 62 procent wcześniej.

To samo badanie wykazało 89-procentowe poparcie dla niezależnego regulatora AI. Liczby te nie przesądzają o polityce, ale osłabiają założenie, że łagodniejsza regulacja automatycznie cieszy się społeczną legitymacją.

Proponowany organ nadzorczy oznaczałby zatem coś więcej niż porządkowanie administracji. Przeniósłby władzę prawną bliżej firm projektujących modele bazowe i stworzył jedną instytucję odpowiedzialną za luki systemowe.

Rozwiązanie komisji nadal napotyka poważne ograniczenia

Uprawnienia ustawowe poprawiłyby nadzór UK, lecz ustawodawstwo nie może zagwarantować wiarygodnej oceny modeli ani pełnej kontroli nad globalnie rozpowszechnioną technologią.

Komisja przedstawia przekonującą diagnozę rozproszonej odpowiedzialności. Jej propozycja jest mniej kompletna, gdy pytanie zmienia się z tego, kto powinien działać, na to, jak regulatorzy mogą wiarygodnie oceniać złożone modele.

Oceny AI mogą ujawniać niebezpieczne możliwości w określonych warunkach. Nie mogą dowieść, że model jest bezpieczny dla każdego promptu, integracji, języka, narzędzia, aktualizacji i strategii adwersarialnej.

Twórcy mogą ograniczać znane ryzyka, jednocześnie wprowadzając nowe zachowania poprzez dostrajanie lub zmiany wdrożeniowe. Ewaluatorzy mogą też nie zgadzać się, czy test mierzy realistyczną szkodę, czy sztuczny scenariusz laboratoryjny.

System uprzedniej zgody musi działać mimo tej niepewności. Nie może czekać na doskonałe dowody, ale nie powinien też traktować każdego niepokojącego wyniku testu jako dowodu nieuchronnej szkody w świecie rzeczywistym.

Klasyfikacja ryzyka będzie równie sporna. Model bazowy może wspierać tworzenie tekstów o niskim ryzyku w jednym produkcie, a w innym — decyzje o dużym znaczeniu.

Regulowanie wyłącznie zastosowania pomija słabości po stronie źródłowej. Regulowanie każdego modelu ogólnego przeznaczenia jako wysokiego ryzyka ignoruje istotne różnice między zastosowaniami i mechanizmami kontroli wdrożenia.

Komisja odpowiada na to rozdzieleniem obowiązków w całym łańcuchu dostaw. Twórcy, modyfikujący, dostawcy i podmioty wdrażające ponosiliby obowiązki proporcjonalne do ich ról oraz ryzyk, które kontrolują.

Jest to kierunkowo rozsądne, lecz ustawodawstwo musiałoby precyzyjnie określać zasady podziału odpowiedzialności. W przeciwnym razie każdy uczestnik mógłby twierdzić, że inna firma posiada informacje i kontrolę potrzebne do zapobieżenia szkodzie.

Egzekwowanie przepisów wobec zagranicznych twórców stanowi kolejne ograniczenie. Regulator UK może ograniczyć dostęp do krajowego rynku, ale nie może usunąć otwartych plików modeli ani zatrzymać rozwoju w innych jurysdykcjach.

Sprawia to, że współpraca międzynarodowa jest czymś więcej niż dyplomatyczną dekoracją. Wspólne metody testowania, raportowanie incydentów i podstawowe standardy mogą ograniczyć możliwość uniknięcia kontroli przez firmy przenoszące usługi.

Jedną z dróg oferuje konwencja Rady Europy dotycząca AI. Komisja wzywa Wielką Brytanię do opublikowania harmonogramu ratyfikacji tych ram praw człowieka.

Jednak międzynarodowe uzgodnienia mogą postępować powoli. Krajowi regulatorzy nadal potrzebują uprawnień do reagowania, gdy model lub zastosowanie tworzy natychmiastowe ryzyko krajowe.

Sprzeciw branży również może przekształcić tę propozycję. Firmy prawdopodobnie będą domagać się jasnych progów, ochrony informacji poufnych, przewidywalnych okresów oceny i mechanizmów odwoławczych.

Te żądania nie muszą być próbą uniknięcia nadzoru. Niejasna zasada zgłoszeniowa mogłaby ujawnić tajemnice handlowe, opóźniać rutynowe aktualizacje lub koncentrować władzę rynkową wśród firm zdolnych ponieść koszty zgodności.

Mniejsi twórcy mogliby ponosić nieproporcjonalne obciążenia, gdyby wymogi dokumentacyjne i testowe przypominały te nakładane na największe laboratoria pracujące nad modelami granicznymi. Komisja wzywa do stopniowanych obowiązków, lecz Parlament musiałby zachować to rozróżnienie.

Istnieje też problem zdolności operacyjnej. Uprawnienia prawne niewiele znaczą, jeśli regulator nie może zatrudnić specjalistów, uzyskać zasobów obliczeniowych, odtworzyć ewaluacji ani ukończyć ocen, zanim technologia się zmieni.

Rząd musiałby finansować pracę techniczną, nie uzależniając regulatora od firm, które nadzoruje. Potrzebowałby także zasad koordynacji zapobiegających dublowaniu działań z istniejącymi organami nadzorczymi.

Rekomendacja komisji dotycząca jednego organu nadzoru grozi stworzeniem kolejnej warstwy, jeśli obowiązki nie zostaną wyraźnie określone. Firmy i osoby prywatne powinny wiedzieć, który regulator otrzymuje dowody, prowadzi dochodzenia i nakazuje środki naprawcze.

Wreszcie raport obejmuje zarówno natychmiastowe szkody, jak i spekulacyjne ryzyka katastrofalne. Oba zasługują na uwagę, lecz wymagają różnych dowodów, kompetencji i narzędzi prawnych.

Dyskryminacyjna selekcja kandydatów do pracy wymaga przejrzystości, audytów i skutecznego odwołania. Model zdolny pomagać w poważnych cyberatakach wymaga testowania możliwości, kontroli dostępu, monitorowania bezpieczeństwa i koordynacji międzynarodowej.

Połączenie ich w jednej ustawie może stworzyć spójność w całym cyklu życia. Może też prowadzić do rozbudowanego aktu prawnego, który trudniej konsekwentnie egzekwować.

Najsilniejszy argument za reformą nie zależy zatem od przewidywania superinteligencji. Opiera się na obecnej niemożności wymuszenia dostępu do modeli, identyfikowania wspólnych ryzyk po stronie źródłowej oraz przypisywania odpowiedzialności, zanim szkoda się rozprzestrzeni.

Trzy sygnały pokażą, czy ostrzeżenie zmieni politykę

Kolejnym testem nie jest następna deklaracja zasad AI, lecz to, czy rząd przekształci rekomendacje komisji w egzekwowalne uprawnienia.

Pierwszym sygnałem jest formalna odpowiedź rządu. Parlament wskazuje, że ministrowie mają dwa miesiące na odpowiedź na ustalenia i rekomendacje komisji.

Ta odpowiedź powinna ujawnić, czy rząd akceptuje centralną diagnozę. Obietnica poprawy koordynacji byłaby niewystarczająca, gdyby AISI nadal nie mogło wymuszać dostępu ani wpływać na decyzje o udostępnieniu.

Najbardziej jednoznaczne zobowiązanie obejmowałoby ustawodawstwo nadające AISI podstawę ustawową. Odnosiłoby się również do obowiązkowych zgłoszeń, dokumentacji technicznej, ustaleń przed udostępnieniem oraz eskalacji do organu egzekwującego przepisy.

Drugim sygnałem będzie to, czy ministrowie przedstawią międzysektorową ustawę o AI. Manifest Labour z 2024 roku obiecywał wiążące regulacje dla niewielkiej grupy firm opracowujących najbardziej zaawansowane modele.

W przemówieniu królewskim z 2024 roku powtórzono ten kierunek, jednak do czasu zakończenia prac komisji nad dochodzeniem nie przedstawiono odpowiednich przepisów. W przemówieniu królewskim z 2026 roku również pominięto kompleksową ustawę o AI.

Wąski pakiet dotyczący wybranych szkód utrzymałby obecną strategię rządu. Ustawa obejmująca cały cykl życia stanowiłaby istotną zmianę w regulacji modeli AI w Wielkiej Brytanii.

Szczegóły miałyby większe znaczenie niż tytuł. Warto obserwować zdefiniowane kategorie ryzyka, obowiązkowe obowiązki deweloperów, przesłanki wymogu wcześniejszego zatwierdzenia, wymogi przejrzystości, finansowanie regulatorów i sankcje.

Trzecim sygnałem jest zachowanie deweloperów przed uchwaleniem przepisów. Dostęp AISI opiera się obecnie na współpracy, dlatego brakujące lub opóźnione zgłoszenia stanowią wczesny miernik ograniczeń dobrowolnego systemu.

Stały dostęp przed publikacją ze strony czołowych deweloperów wspierałby argument rządu, że współpraca może zapewnić użyteczny nadzór. Selektywny dostęp wzmocniłby argumentację komisji na rzecz przymusu.

Firmy korzystające z AI nie powinny czekać na Parlament, zanim przeanalizują własną ekspozycję na ryzyko. Umowy zakupowe powinny wskazywać bazowy model, proces aktualizacji, dowody testów, obowiązki dotyczące incydentów oraz dostępne wyjaśnienia.

Organizacje powinny również rejestrować, kiedy AI przyczynia się do istotnych decyzji. Przeszukiwalna baza wiedzy AI może pomóc zespołom zachować polityki, oceny, materiały dostawców i rejestry decyzji do późniejszego przeglądu.

Taka dokumentacja nie zastępuje zgodności z prawem ani niezależnych testów. Ułatwia jednak ustalenie, jaki system został użyty, która wersja wygenerowała wynik oraz kto zatwierdził jego wdrożenie.

Dla osób fizycznych najbardziej praktycznym postulatem komisji jest przejrzystość. Ludzie nie mogą zakwestionować zautomatyzowanej decyzji, jeśli nie wiedzą, że wpłynął na nią model.

Dla deweloperów kluczowe pytanie brzmi, czy ocena modeli pozostanie wspólnym ćwiczeniem badawczym, czy stanie się prawną bramką. Dla klientów chodzi o to, czy odpowiedzialność nadal będzie kumulować się na dalszych etapach łańcucha.

Dla rządu wybór jest teraz wyjątkowo jasny. Może zachować elastyczny system pozbawiony uprawnień przed publikacją albo nadać niezależnemu organowi prawo do interwencji.

Komisja zdefiniowała lukę regulacyjną. Najbliższe miesiące pokażą, czy ministrowie ją zamkną, zawężą, czy nadal będą oczekiwać, że dobrowolne zobowiązania udźwigną ciężar ustawowych wymogów.