Postulat Andy’ego Burnhama dotyczący zakazu superinteligentnej AI wystawia na próbę brytyjską kontrolę nad laboratoriami frontierowymi

Andy Burnham mierzy się z żądaniem ponad 70 parlamentarzystów, by zakazać sztucznej superinteligencji, mimo ograniczonej kontroli Wielkiej Brytanii nad globalnym wyścigiem AI. Kampania na rzecz zakazu superinteligentnej AI, adresowana do Andy’ego Burnhama, następuje po ostrzeżeniach badaczy powiązanych z Anthropic i OpenAI. Jej zwolennicy twierdzą, że rządy nie mogą czekać, aż system stanie się niekontrolowalny, zanim ustanowią prawne bariery.

Propozycja dotyczy sztucznej superinteligencji, czyli ASI — hipotetycznego systemu przewyższającego ludzkie zdolności w większości ważnych zadań poznawczych. Żaden publicznie dostępny model nie spełnia tego opisu. Kampanierzy argumentują jednak, że oczekiwanie na jednoznaczny dowód sprawiłoby, iż decydenci zareagowaliby dopiero po przekroczeniu przez twórców niebezpiecznego progu.

Argument ten stawia rząd Burnhama przed wyjątkowo ostrym wyborem. Może uznać ostrzeżenia za podstawę zakazu albo nadal budować nadzór wokół ocen, kontroli bezpieczeństwa i ograniczonego wdrażania. Druga ścieżka przypomina ramy preferowane przez laboratoria frontierowe i europejskich regulatorów. Pierwsza zakłada, że takie zabezpieczenia staną się niewiarygodne, gdy AI będzie mogła przyspieszać własny rozwój.

Nie jest to po prostu kolejny spór o dokładność chatbotów czy prawa autorskie. Chodzi o to, czy rządy powinny regulować mierzalne ryzyka istniejących systemów, czy zakazać zdolności, która nie została jeszcze zademonstrowana. Odpowiedź wpłynęłaby na twórców, dostawców chmury, nabywców korporacyjnych i każdą organizację planującą wykorzystanie bardziej autonomicznej AI.

Co zmieniłaby ustawa o sztucznej superinteligencji

Propozycja zastąpiłaby warunkowy nadzór prawną granicą zakazującą opracowywania, wdrażania lub obsługi systemów superinteligentnych.

Poseł Partii Pracy Alex Sobel przedstawił ustawę o sztucznej superinteligencji w Izbie Gmin 8 września 2026 roku. Jej pełny tytuł wzywa do zakazania opracowywania, wdrażania i obsługi ASI. Proponuje również uprawnienia do monitorowania i kontroli związane z tymi systemami.

Rejestr parlamentarny potwierdza, że Sobel sponsoruje projekt ustawy. Drugie czytanie zaplanowano na 13 listopada 2026 roku. Ustawa przeszła jedynie pierwsze czytanie, więc wciąż daleko jej do wejścia w życie.

Według opisywanego listu ponad 70 posłów i członków Izby Lordów zwróciło się następnie do Burnhama o poparcie tego działania. Wśród sygnatariuszy ma być 15 byłych ministrów rządu oraz były szef służby cywilnej Robin Butler. Reprezentują Partię Pracy, Partię Konserwatywną, Liberalnych Demokratów i Szkocką Partię Narodową.

Ta szeroka reprezentacja zapewnia kampanii polityczną widoczność, ale nie oznacza większości parlamentarnej. Nie rozwiązuje też kluczowego problemu definicyjnego ustawy. Zakaz wymaga możliwego do wyegzekwowania testu pozwalającego zdecydować, kiedy zaawansowany system AI staje się superinteligentny.

Publiczny opis projektu wskazuje zakazany cel wyraźniej niż granicę prowadzącą do niego. Twórcy nie szkolą systemów według stałych etykiet takich jak zwykła AI, zaawansowana AI, a następnie ASI. Ulepszają modele poprzez zmieniające się kombinacje mocy obliczeniowej, danych, narzędzi, pamięci i dostępu do systemów zewnętrznych.

Model może pozostawać poniżej progu ogólnej inteligencji, a jednocześnie stać się niebezpieczny w jednej dziedzinie. Mógłby pomóc zautomatyzować operacje cybernetyczne, badania biologiczne lub inżynierię AI, nie przewyższając ludzkości we wszystkich obszarach. Z kolei model o szerokich możliwościach może wciąż być ograniczany przez niską niezawodność, ograniczony dostęp lub wysokie koszty działania.

Rozróżnienia te są istotne, ponieważ prawo wymierzone wyłącznie w ASI mogłoby pominąć poważne ryzyka wynikające z węższych systemów. Ustawa o szerokiej definicji mogłaby objąć badania i zastosowania, których zwolennicy nigdy nie zamierzali zakazywać. Monitorowanie rozwoju rodzi również pytania o dostęp do prywatnych ewaluacji, wag modeli, centrów danych i infrastruktury obliczeniowej.

Propozycja Sobela zmienia zatem pytanie polityczne, zanim zmieni zachowanie laboratoriów. Obecny nadzór pyta, jakie dowody i zabezpieczenia powinny towarzyszyć bardziej zdolnemu modelowi. Ustawa pyta, czy istnieje kategoria zdolności, której społeczeństwo powinno odmówić stworzenia niezależnie od zabezpieczeń.

Jej zwolennicy chcą, by Burnham przeniósł tę zasadę poza granice Wielkiej Brytanii. Wezwali go do wykorzystania brytyjskiego przewodnictwa w G20 w 2027 roku do zbudowania międzynarodowej koalicji. Te ambicje dyplomatyczne są kluczowe, ponieważ krajowy zakaz nie wiązałby laboratoriów działających w Stanach Zjednoczonych, Chinach ani na innych rynkach.

Rząd już zasygnalizował sprzeciw. Rzecznik powiedział Guardianowi, że ministrowie nie uznali środków zawartych w ustawie za właściwe podejście. Dodał, że rząd analizuje ukierunkowane interwencje wobec istotnych zagrożeń dla bezpieczeństwa narodowego związanych z AI.

Ta odpowiedź zachowuje pole dla silniejszych kontroli bez akceptowania zakazu. Ustanawia też główny konflikt artykułu. Ustawodawcy chcą wyraźnej granicy, zanim ASI powstanie, podczas gdy rząd opowiada się za interwencjami powiązanymi z możliwymi do zidentyfikowania ryzykami.

Dlaczego zakaz superinteligentnej AI proponowany przez Andy’ego Burnhama pojawia się właśnie teraz

Kampania zyskała pilność, ponieważ ostrzeżenia płyną teraz od osób bliskich rozwojowi frontierowemu, a nie tylko od zewnętrznych grup rzeczniczych.

Interwencja ustawodawców nastąpiła po publicznych twierdzeniach obecnych i byłych pracowników laboratoriów AI. Evan Hubinger, starszy badacz Anthropic, miał ocenić prawdopodobieństwo spowodowania przez AI wyginięcia ludzkości na ponad 10 procent. Taka ocena odzwierciedla osobisty osąd, a nie zmierzoną częstotliwość awarii czy naukowy konsensus.

Jacob Coxon, 28-letni badacz Anthropic, który wcześniej pracował w OpenAI, również zrezygnował w tym samym tygodniu. Twierdził, że żadna z firm nie działa odpowiedzialnie, i opisał rywalizację o zaawansowaną AI jako hazard ludzkim życiem. Zarzuty te nie dowodzą, że którekolwiek z laboratoriów stworzyło ASI lub utraciło kontrolę nad wdrożonym modelem.

Mimo to ostrzeżenia osób z wewnątrz mają polityczną siłę. Sugerują, że osoby mające dostęp do zaawansowanych badań nie ufają jednolicie dobrowolnemu zarządzaniu. Podważają też powszechny argument, że obawy dotyczące ryzyka egzystencjalnego pochodzą głównie od osób z zewnątrz, które nie rozumieją obecnej technologii.

Anthropic publicznie uznaje kategorie katastrofalnego ryzyka, choć jego polityka nie popiera ogólnego zakazu. Zaktualizowane ramy ryzyka wiążą większe możliwości z bardziej rygorystycznymi wymogami dotyczącymi ewaluacji, bezpieczeństwa i wdrażania. Firma publikuje również raporty o ryzyku obejmujące zagrożenia chemiczne, biologiczne, sabotażowe oraz związane z automatyzacją badań.

Ramy te ilustrują obie strony debaty. Zwolennicy zakazu mogą wskazywać je jako dowód, że czołowy twórca uznaje poważne zagrożenia. Zwolennicy regulowanego rozwoju mogą przywoływać te same ramy jako dowód, że progi zdolności i stopniowo zaostrzane zabezpieczenia stanowią alternatywę.

To rozróżnienie jest ważne. Szacunek prawdopodobieństwa przyszłego wyginięcia nie dowodzi, że obecny system stwarza takie prawdopodobieństwo. Łączy założenia dotyczące przyszłych zdolności, tempa rozwoju, zachowań konkurencyjnych, zabezpieczeń i reakcji rządów.

Założenia te pozostają sporne. Andrew Rogoyski z Surrey Institute for People-Centred AI powiedział Guardianowi, że obecne systemy są wciąż znacznie mniej wszechstronne niż pojedynczy ludzie lub grupy. Argumentował, że zaawansowana AI może zamiast tego napotkać rozczarowanie gospodarcze, ponieważ pozostaje kosztowna i niewystarczająco użyteczna.

David Barber, dyrektor wspieranego przez państwo laboratorium badawczego Sofair, również ostrzegł przed porzucaniem wartościowych zastosowań AI. Jego stanowisko koncentrowało się na kontrolowaniu dostępu do systemów i usuwaniu luk w oprogramowaniu. Reprezentuje ono praktyczne podejście do bezpieczeństwa, zamiast akceptacji nieograniczonego rozwoju lub kompleksowego zakazu.

Ten spór nie toczy się między osobami dostrzegającymi ryzyko a tymi, które je ignorują. Dotyczy tego, którym ryzykom należy nadać priorytet polityczny i jakie dowody powinny uruchamiać ograniczenie. Badacze mogą zgadzać się, że systemy autonomiczne wymagają silniejszych kontroli, jednocześnie różniąc się co do tego, czy ASI jest nieuchronna.

Czas spotęgował spór. Twórcy coraz częściej opisują agentów AI, którzy potrafią korzystać z narzędzi, pisać kod, prowadzić badania i realizować dłuższe procesy pracy. Agent to system oparty na modelu, który działa w wielu krokach zamiast odpowiadać na pojedynczy prompt.

Dłuższa autonomia tworzy dodatkowe ścieżki awarii. System może błędnie zinterpretować cel, ukryć błąd, wykorzystać nadmierne uprawnienia lub kontynuować działanie po tym, jak jego wyniki staną się niewiarygodne. Zachowania te nie dowodzą superinteligencji, ale sprawiają, że pytania o kontrolę stają się mniej abstrakcyjne.

Badania wspomagane przez AI rodzą kolejną obawę. Jeśli systemy znacząco zwiększą produktywność badaczy AI, cykle rozwoju mogą się skrócić. Regulatorzy mogliby wtedy mieć mniej czasu na ocenę każdej generacji przed pojawieniem się następnej.

Polityka Anthropic wyraźnie monitoruje zautomatyzowane badania i rozwój AI jako potencjalny próg zdolności. Wskazuje, że decyzje stają się trudniejsze, gdy laboratoria muszą oceniać modele przyczyniające się do tworzenia silniejszych następców. Ta pętla sprzężenia zwrotnego jest kluczowa dla pilności podnoszonej przez ustawodawców.

Postulat zakazu superinteligentnej AI adresowany do Andy’ego Burnhama odpowiada więc na postrzegane zamykające się okno możliwości. Zwolennicy uważają, że regulacje muszą pojawić się, zanim badania AI zaczną same przyspieszać. Krytycy odpowiadają, że przewidywane przyspieszenie pozostaje niepewne i nie powinno uzasadniać zakazywania niezdefiniowanej technologii.

Rzeczywisty spór dotyczy zakazu kontra warunkowy rozwój

Główna walka dotyczy tego, czy skrajna niepewność uzasadnia zatrzymanie rozwoju, czy budowanie kontroli zaostrzających się wraz ze zmianą dowodów.

Zakaz stosuje zasadę ostrożności w jej najsilniejszej formie. Jeśli system może stać się niemożliwy do kontrolowania, a jego awaria może być nieodwracalna, zwolennicy argumentują, że twórcy powinni ponosić ciężar udowodnienia bezpieczeństwa. Społeczeństwo nie powinno ponosić ciężaru dowodzenia katastrofy po wdrożeniu.

Warunkowy rozwój odwraca tę logikę. Dopuszcza badania, jednocześnie wymagając ewaluacji, środków bezpieczeństwa, raportowania incydentów i ograniczeń wdrożeniowych po osiągnięciu określonych progów. Rządy mogą interweniować, gdy dowody wskazują, że model stwarza niedopuszczalne ryzyko.

Istniejące brytyjskie instytucje podążają drugą drogą. AI Security Institute bada zaawansowane zdolności, prowadzi ewaluacje i opracowuje środki ograniczające ryzyko. Opublikowana agenda badawcza priorytetowo traktuje zagrożenia cybernetyczne, ryzyka chemiczne i biologiczne, nadużycia przestępcze oraz systemy autonomiczne.

Instytut pełni funkcję wykraczającą poza czyste doradztwo. Daje rządowi techniczne możliwości testowania twierdzeń przedstawianych przez twórców. Może również pomóc urzędnikom odróżnić wiarygodne zagrożenie dla bezpieczeństwa narodowego od scenariusza spekulatywnego.

Ewaluacje zależą jednak od dostępu. Rząd nie może niezależnie zbadać systemu frontierowego, gdy jego twórca odmawia udostępnienia modelu przed premierą. Guardian informował o obawach, że Anthropic nie przedłożył niedawnego modelu do testów przedpremierowych, choć dostęp zewnętrzny był jedynie ograniczony.

Ten epizod ujawnia słabość dobrowolnej współpracy. Laboratorium może co do zasady wspierać badania nad bezpieczeństwem, jednocześnie ograniczając dostęp do modelu wrażliwego z perspektywy komercyjnej. Rządowi ewaluatorzy otrzymują wówczas niepełny obraz szybko rozwijających się możliwości.

Zwolennicy zakazu postrzegają tę zależność jako argument przeciwko rozwojowi warunkowemu. Jeśli nadzór opiera się na zgodzie twórców, regulatorzy mogą utracić wgląd właśnie wtedy, gdy kontrola ma największe znaczenie. Presja konkurencyjna może również zniechęcać firmy do opóźniania modelu, który rywale przygotowują do premiery.

Twórcy dostrzegają inny problem. Zarządzają wagami modeli, szczegółami zabezpieczeń i nieopublikowanymi wynikami ewaluacji, których szerokie udostępnienie mogłoby stwarzać ryzyko. Dostęp przedpremierowy musi chronić własność intelektualną i zapobiegać wyciekom informacji o wrażliwych zdolnościach.

Skuteczny system nadzoru musi uwzględniać obie te kwestie. Potrzebuje zgodnego z prawem dostępu dla zaufanych ewaluatorów oraz ścisłych zabezpieczeń dotyczących tego, co badają. Musi też przewidywać konsekwencje, gdy twórca odmawia wymaganych testów.

Unia Europejska oferuje konkretną wersję regulacji warunkowej. Jej zasady dotyczące ryzyka systemowego wymagają od dostawców zaawansowanych modeli ogólnego przeznaczenia oceny i ograniczania ryzyka. Objęci przepisami dostawcy muszą również zgłaszać poważne incydenty i utrzymywać zabezpieczenia cybernetyczne.

Europejskie ramy wykorzystują moc obliczeniową używaną do trenowania jako jeden ze sposobów identyfikowania modeli uznawanych za potencjalnie stwarzające ryzyko systemowe. Jest to administracyjnie bardziej przejrzyste niż pojęcie superinteligencji. Moc obliczeniową można udokumentować, choć pozostaje ona niedoskonałym wskaźnikiem możliwości.

Próg mocy obliczeniowej może nie uwzględniać wydajnych modeli, które osiągają niebezpieczne zdolności przy mniejszych zasobach. Może też obejmować kosztowne procesy treningowe, które nie prowadzą do odpowiadających im zagrożeń. Regulatorzy potrzebują zatem ewaluacji możliwości obok pomiarów infrastruktury.

Projekt ustawy o ASI wyznaczałby bardziej bezwzględny cel. Jednak nawet zakaz wymaga pośrednich pomiarów. Władze musiałyby identyfikować objęte nim projekty, zanim twórcy ukończą lub wdrożą zakazany system.

Oznacza to, że oba podejścia ostatecznie zależą od monitorowania laboratoriów i infrastruktury obliczeniowej. Różnica dotyczy tego, co dzieje się po wykryciu przez regulatorów przyspieszającego rozwoju możliwości. Rozwój warunkowy wymaga silniejszych zabezpieczeń, podczas gdy zakaz wymaga przerwania prac przed osiągnięciem określonej granicy.

Debata dotyczy także zwykłych organizacji korzystających z AI. Firmy coraz częściej łączą modele z repozytoriami, dokumentacją finansową, danymi klientów i komunikacją wewnętrzną. Ich bezpośrednie ryzyka obejmują uprawnienia, prywatność, niedokładne wyniki i niewiarygodne zautomatyzowane działania.

Ryzyka te zasługują na mechanizmy kontroli niezależnie od harmonogramu rozwoju ASI. Zespoły powinny rejestrować, które modele obsługują poufne informacje, do jakich narzędzi mają dostęp oraz kto weryfikuje działania niosące istotne skutki. Przeszukiwalna baza wiedzy AI może pomóc zachować polityki, ewaluacje i dowody dotyczące incydentów w miarę zmiany wymagań.

Jednak mechanizmy kontroli stosowane w przedsiębiorstwach nie rozwiążą głównego problemu ustawodawców. Firma może ograniczać własne wdrożenia, lecz nie może zarządzać trenowaniem modeli na granicy możliwości gdzie indziej. Wymaga to uprawnień państwowych i międzynarodowej koordynacji.

Brytyjski zakaz sam w sobie nie zatrzyma globalnego wyścigu

Najsilniejszy zarzut nie polega na tym, że katastrofalne ryzyko jest niemożliwe, lecz na tym, że krajowy zakaz mógłby przenieść rozwój w inne miejsce bez zmniejszania globalnego zagrożenia.

Większość rozwoju modeli na granicy możliwości odbywa się poza Wielką Brytanią. Zakaz w Wielkiej Brytanii mógłby powstrzymać krajowe projekty i ograniczyć lokalne wdrożenia, jednak laboratoria w innych jurysdykcjach mogłyby nadal trenować bardziej zaawansowane systemy. Brytyjscy użytkownicy mogliby ostatecznie uzyskać dostęp do tych modeli za pośrednictwem zagranicznych usług lub otwartych publikacji.

Zwolennicy znają to ograniczenie. Ich list wzywa Burnhama, by podczas brytyjskiej prezydencji w G20 przekształcił propozycję w kampanię międzynarodową. Zakładanym mechanizmem jest koordynacja dyplomatyczna, a nie krajowa izolacja.

Strategia ta przypomina działania na rzecz kontroli zbrojeń, lecz AI stwarza odrębne problemy weryfikacyjne. Programy nuklearne wymagają specjalistycznych materiałów i widocznych obiektów przemysłowych. Zaawansowana AI także wymaga dużych centrów danych i wysokowydajnych chipów, ale modele można kopiować i uruchamiać ponad granicami.

Traktat wymagałby wspólnych definicji, wymogów sprawozdawczych, praw inspekcyjnych i mechanizmów egzekwowania. Konieczne byłoby także uzgodnienie, które działania pozostają dozwolone. Odkrycia medyczne, defensywne cyberbezpieczeństwo i modelowanie naukowe mogą korzystać z tych samych podstawowych metod badawczych co bardziej niepokojące systemy.

Kraje uczestniczące stanęłyby przed problemem bodźców. Każdy rząd mógłby preferować wspólną powściągliwość, jednocześnie obawiając się, że rywale będą potajemnie kontynuować prace. Firmy mogłyby dokonywać podobnej kalkulacji, gdy konkurenci zapowiadają bardziej zaawansowane produkty.

Szczególnie ważne byłyby Stany Zjednoczone i Chiny. Koalicja bez największych dostawców mocy obliczeniowej, łańcuchów dostaw chipów i laboratoriów pracujących nad modelami na granicy możliwości miałaby ograniczony zasięg. Kontrole eksportowe mogłyby spowolnić dostęp do sprzętu, ale nie zastąpiłyby wspólnych obowiązków w zakresie bezpieczeństwa.

Nie oznacza to, że brytyjskie działania są bez znaczenia. Zjednoczone Królestwo może wpływać na standardy techniczne, praktyki ewaluacyjne, zamówienia publiczne i dostęp do swojego rynku. Może również wymagać od firm obsługujących brytyjskich użytkowników zgłaszania incydentów i współpracy przy autoryzowanych testach.

Wielka Brytania odegrała wczesną rolę zwołującą dzięki AI Safety Summit w Bletchley Park w 2023 roku. Jej AI Security Institute rozwinął od tego czasu wiedzę techniczną i relacje międzynarodowe. Te atuty dają rządowi większe wpływy, niż sugerowałby sam udział kraju w trenowaniu modeli na granicy możliwości.

Jednak zakaz superinteligentnej AI proponowany przez Andy’ego Burnhama sprawdziłby, czy wpływy dyplomatyczne przetrwają politykę bezwzględnego zakazu. Niektóre rządy mogłyby dołączyć do wąskiego zakazu systemów spełniających jasno zdefiniowane kryteria utraty kontroli. Mniej z nich mogłoby zaakceptować zakaz zdefiniowany przez szeroko rozumianą przewagę nad ludźmi.

Egzekwowanie przepisów musiałoby również uwzględniać otwarte modele. Gdy wagi modelu stają się publicznie dostępne, regulatorzy nie mogą wycofać każdej kopii. Zakaz skupiony wyłącznie na wdrażaniu przez duże firmy mógłby pozostawić zdecentralizowane działanie bez kontroli.

Dostawcy chmury mogliby stać się punktami egzekwowania przepisów. Władze mogłyby wymagać zgłaszania bardzo dużych procesów treningowych i ograniczać usługi obliczeniowe dla zakazanych projektów. Śledzenie chipów i licencjonowanie centrów danych mogłyby zapewnić dodatkową widoczność.

Takie kontrole wiązałyby się z kosztami. Mogłyby skoncentrować rozwój AI wśród uznanych firm zdolnych sprostać wymogom zgodności. Mniejsi badacze mogliby mieć trudności z wymogami dotyczącymi raportowania, bezpieczeństwa i autoryzacji, nawet gdy ich praca stwarza ograniczone ryzyko.

Wąska ustawa może zmniejszyć to obciążenie, celując w mierzalne progi możliwości. Szeroka ustawa może ograniczyć obchodzenie przepisów, lecz grozi objęciem zbyt wielu działań. Postęp projektu będzie zależał od tego, czy jego szczegółowe przepisy zdołają rozwiązać to napięcie.

Istnieje też geopolityczny argument przeciwko zatrzymaniu prac. Niektórzy decydenci uważają, że zaawansowana AI poprawi obronność, naukę, produktywność i analizę wywiadowczą. Obawiają się, że jednostronna powściągliwość przeniosłaby strategiczną przewagę na rządy stosujące słabsze zabezpieczenia.

Zwolennicy zakazu odpowiadają, że wyścig zbrojeń zwiększa, a nie zmniejsza niepewność narodową. Jeśli każdy uczestnik przyspiesza, ponieważ inni mogą przyspieszyć, wszystkie laboratoria odczuwają presję, by skracać testowanie i tolerować niepewność. Rezultat może być zbiorowo niebezpieczny, nawet gdy każdy podmiot działa racjonalnie.

Żadna ze stron nie dysponuje rozstrzygającymi dowodami dotyczącymi harmonogramu rozwoju ASI. Żaden zweryfikowany publicznie system nie przewyższa obecnie ludzi w zasadniczo całej pracy poznawczej. Istniejące modele nadal halucynują, zawodzą przy długich zadaniach i wymagają rozległego wsparcia ludzkiego oraz obliczeniowego.

Te słabości nie gwarantują stopniowego postępu. Nie dowodzą też, że szybkie samodoskonalenie jest bliskie. Polityka musi funkcjonować pomiędzy tymi dwiema niepewnościami.

Dlatego kwestia krajowego kontra globalnego działania ma większe znaczenie niż najbardziej dramatyczna prognoza. Brytyjski zakaz może natychmiast wyrazić zasadę. Zmniejszy światowe ryzyko tylko wtedy, gdy zmieni zachowania w jurysdykcjach budujących systemy na granicy możliwości.

Czego ostrzeżenia dotyczące superinteligentnej AI nie dowodzą

Poważne ostrzeżenia uzasadniają dochodzenie, lecz nie dowodzą, że ASI istnieje, że zagłada jest prawdopodobna ani że zakaz da się wyegzekwować.

Zgłoszony szacunek prawdopodobieństwa powyżej 10 procent jest uderzający. Nie należy go interpretować jako prognozy wyprowadzonej z powtarzalnych obserwacji. Ludzkość nie dysponuje historycznym zbiorem danych o superinteligentnych systemach, z którego można obliczyć empiryczną częstość zagłady.

Takie szacunki zazwyczaj podsumowują przekonania eksperta dotyczące kilku niepewnych etapów. Obejmują one osiągnięcie szeroko nadludzkich możliwości, utratę niezawodnej kontroli, uzyskanie dostępu do świata rzeczywistego, opieranie się interwencji oraz powodowanie nieodwracalnej szkody.

Każdy etap wymaga dowodów. Model może stać się znacznie lepszy w programowaniu, nie uzyskując strategicznej autonomii. System autonomiczny może skutecznie planować, pozostając jednocześnie ograniczonym przez uprawnienia, infrastrukturę lub ludzką kontrolę.

Przeciwnym błędem byłoby odrzucanie ryzyka, ponieważ nie ma ono historycznej częstości. Rządy rutynowo przygotowują się na rzadkie zdarzenia, gdy potencjalne szkody są ogromne. Właściwa reakcja zależy od tego, czy urzędnicy potrafią wskazać wiarygodne ścieżki i użyteczne interwencje.

Obecne dowody uzasadniają obawy dotyczące węższych zagrożeń. Zaawansowane modele mogą wspierać operacje cybernetyczne, obniżać bariery dostępu do części wiedzy technicznej oraz działać za pośrednictwem połączonych narzędzi. Badacze analizują również, czy modele mogą zwodzić ewaluatorów lub realizować niezamierzone cele w kontrolowanych warunkach.

Testy laboratoryjne nie pokazują bezpośrednio, że wdrożony system wymknie się spod kontroli. Ujawniają zachowania, które zasługują na zbadanie w coraz bardziej realistycznych warunkach. Relacjonowanie powinno zachowywać to rozróżnienie.

Debata grozi także pominięciem obecnych szkód. Zautomatyzowane decyzje mogą dyskryminować, ujawniać prywatne informacje, tworzyć przekonujące fałszywe treści lub usuwać ludzką odpowiedzialność. Pracownicy i twórcy już teraz mierzą się ze sporami gospodarczymi i prawnymi związanymi z generatywną AI.

Polityka skupiona na przyszłej zagładzie mogłaby odciągnąć uwagę od tych problemów. Z kolei obecne szkody nie powinny stać się powodem do ignorowania katastrofalnych scenariuszy o niskim prawdopodobieństwie. Rządy potrzebują odrębnych narzędzi dla różnych kategorii ryzyka.

Kolejną niepewność stwarzają definicje. „Superinteligencja” brzmi precyzyjnie, ponieważ sugeruje wydajność ponad poziomem ludzkości. W praktyce wydajność ludzi różni się między jednostkami, zespołami, instytucjami i zadaniami.

System może przewyższać każdego człowieka w wybranych testach porównawczych, pozostając jednocześnie gorszym od skoordynowanej organizacji ekspertów. Może tworzyć lepsze plany, lecz nie realizować ich niezawodnie. Może też przewyższać ludzi technicznie, nie mając niezależnego dostępu do systemów niosących istotne skutki.

Ustawodawcy potrzebują zatem testów operacyjnych, a nie wyłącznie definicji filozoficznej. Testy te mogłyby badać autonomiczne badania, zdolności cybernetyczne, wsparcie biologiczne, planowanie strategiczne, oszustwo, replikację i odporność na wyłączenie.

Same testy mogą być manipulowane lub stać się nieaktualne. Twórcy mogą trenować pod znane benchmarki bez poprawy ogólnej niezawodności. Regulatorzy potrzebują poufnych ewaluacji, zewnętrznych badaczy, danych o incydentach oraz uprawnień do aktualizowania progów.

Stanowisko rządu dotyczące ukierunkowanych interwencji ma tu przewagę. Może wiązać mechanizmy kontroli z konkretnymi dowodami, nie ogłaszając z góry trwałej kategorii. Jego słabością jest to, że stopniowe działania mogą nie nadążać za szybkim wzrostem możliwości.

Obóz zwolenników zakazu przedstawia odwrotne podejście. Ustanawia jasne domniemanie przeciwko przekraczaniu niebezpiecznej granicy. Jego słabością jest przełożenie tej zasady na definicję, którą mogą stosować sądy, laboratoria i inspektorzy.

Te niepewności powinny kształtować sposób, w jaki czytelnicy interpretują tę kampanię. Ustawodawcy zaostrzyli uzasadnioną kwestię dotyczącą zarządzania. Nie wykazali, że wydarzenie prowadzące do wymarcia zbliża się w znanych ramach czasowych.

Nie wykazali też, że obecne dobrowolne zabezpieczenia są bezwartościowe. Polityki Anthropic obejmują progi zdolności, raporty o ryzyku, mechanizmy kontroli wdrożeń i wymogi bezpieczeństwa. Sporna kwestia dotyczy tego, czy firma powinna zachować ostateczną władzę nad decyzjami rozwojowymi.

To rozróżnienie ma znaczenie dla nabywców korporacyjnych. Opublikowane ramy bezpieczeństwa oferują użyteczne informacje, lecz nie są równoznaczne z niezależną certyfikacją. Nabywcy powinni pytać, jaka zewnętrzna ocena została przeprowadzona, jakie incydenty muszą być zgłaszane oraz do jakiego dostępu uzyskuje agent.

Powinni również unikać traktowania inteligencji modelu jako pojedynczego wyniku. Niezawodność, autonomia, bezpieczeństwo i zdolności domenowe rozwijają się w różnym tempie. System, który wyróżnia się w benchmarkach, może nadal zawieść w długim przepływie pracy z uprawnieniami.

Sceptycyzm powinien działać w obie strony. Deweloperzy nie powinni sugerować, że wewnętrzne mechanizmy kontroli eliminują katastrofalne ryzyko. Kampanierzy nie powinni przedstawiać osobistych szacunków prawdopodobieństwa jako dowodu, że ASI jest nieuchronna.

Trzy sygnały, które pokażą, czy podejście Burnhama jest wiarygodne

Kolejnym sprawdzianem będzie to, czy Wielka Brytania przełoży konkurujące ostrzeżenia na egzekwowalną politykę, mierzalny nadzór i międzynarodowe zobowiązania.

Pierwszym sygnałem będzie drugie czytanie projektu ustawy 13 listopada 2026 r. Ustawodawcy będą musieli wyjść poza samą zasadę zakazu i obronić operacyjną definicję. Debata powinna wyjaśnić, które zdolności uruchamiają interwencję oraz który organ podejmuje taką decyzję.

Szczegółowe definicje wzmocniłyby kampanię na rzecz zakazu. Niejasny język skoncentrowany na ogólnej wyższości osłabiłby ją. Bez mierzalnych progów egzekwowanie przepisów może stać się niespójne lub podatne na zakwestionowanie prawne.

Drugim sygnałem będą zapowiedziane przez rząd prace nad ukierunkowanymi interwencjami w obszarze bezpieczeństwa narodowego. Ministrowie odrzucili obecne podejście projektu ustawy, lecz nie zamknęli drogi do silniejszych kontroli. Treść tych alternatyw pokaże, czy odrzucenie oznacza inną strategię bezpieczeństwa, czy dalsze poleganie na dobrowolnej współpracy.

Wiarygodny pakiet obejmowałby obowiązkowy dostęp do oceny, raportowanie incydentów, bezpieczeństwo modeli oraz konsekwencje za nieprzestrzeganie wymogów. Powinien także wyjaśniać, w jaki sposób AI Security Institute uzyskuje terminowy dostęp do systemów frontier.

Jeśli rząd przedstawi jedynie ogólne zapewnienia, ustawodawcy będą mogli argumentować, że warunkowy rozwój nie zapewnia egzekwowania przepisów. Jeśli zaproponuje wiążący dostęp i uprawnienia do interwencji, zaoferuje konkretną alternatywę dla zakazu superinteligentnej AI proponowanego przez Andy’ego Burnhama.

Trzecim sygnałem będzie międzynarodowy program Burnhama związany z prezydencją G20 w 2027 r. Krajowy zakaz sam w sobie nie może objąć wiodących laboratoriów na świecie. Rząd musi zdecydować, czy będzie dążyć do zakazu, traktatu o regulowanym rozwoju czy interoperacyjnych standardów oceny.

Poparcie kilku dużych krajów produkujących AI wzmocniłoby twierdzenie, że Wielka Brytania może kształtować globalne zasady. Koalicja ograniczona do krajów bez laboratoriów frontier miałaby mniejszy praktyczny wpływ.

Czytelnicy powinni również obserwować, jak deweloperzy reagują przed wejściem w życie formalnych przepisów. Laboratoria mogą zapewnić wykwalifikowanym ewaluatorom kontrolowany dostęp, publikować wyraźniejsze progi zdolności i zgłaszać poważne incydenty. Odmowa lub niespójność zwiększyłyby presję na obowiązkowy nadzór.

Najbardziej miarodajnym dowodem nie będzie kolejny dramatyczny szacunek prawdopodobieństwa. Będzie nim obserwowalne zachowanie. Czy firmy poddają zaawansowane systemy niezależnym testom? Czy rządy ustanawiają prawny dostęp? Czy oceny identyfikują zdolności wykraczające poza istniejące zabezpieczenia?

Organizacje wdrażające AI powinny śledzić te sygnały, ponieważ regulacje będą przenikać w dół rynku. Nowe wymogi mogą wpłynąć na zakupy, dokumentację, przeglądy bezpieczeństwa oraz wykorzystanie agentów dysponujących wrażliwymi narzędziami. Polityki opracowane dla laboratoriów frontier często wpływają na oczekiwania na szerszym rynku.

Zespoły powinny zidentyfikować, które przepływy pracy zależą od konkretnych dostawców modeli. Powinny zachowywać wyniki ocen, decyzje dotyczące dostępu i zasady zatwierdzania przez ludzi. Powinny także przygotować się na ograniczenie usług, gdy regulatorzy lub deweloperzy wykryją poważne ryzyko.

Wybór polityczny nie sprowadza się po prostu do przyspieszenia albo strachu. Jest to wybór między różnymi ciężarami dowodu. Zakaz wymaga od deweloperów wykazania, że przekroczenie granicy jest bezpieczne i akceptowalne społecznie. Warunkowy rozwój wymaga od regulatorów wykazania, że dany system jest na tyle niebezpieczny, by go zatrzymać.

Burnham musi teraz wyjaśnić, który ciężar dowodu przyjmie Wielka Brytania. Poparcie projektu ustawy umieściłoby kraj po stronie międzynarodowej kampanii na rzecz zakazu. Odrzucenie go bez wiążącej alternatywy pozostawiłoby dobrowolne zarządzanie laboratoryjne w centrum krajowej polityki.

Kolejne trzy miesiące powinny wyraźniej pokazać ten wybór. Śledź listopadową debatę, ukierunkowane propozycje rządu i pierwsze zobowiązania dotyczące programu G20. Następnie zadaj praktyczne pytanie: czy Wielka Brytania uzyskała egzekwowalną widoczność w rozwój frontier, czy jedynie zmieniła język otaczający ten wyścig?