Apel Geoffreya Hintona o zakaz AI wywiera presję na brytyjską politykę wzrostu

Geoffrey Hinton poparł proponowany w Wielkiej Brytanii zakaz superinteligentnej AI, mimo brytyjskiej strategii zachęcania do rozwoju zaawansowanej AI i inwestycji w tę dziedzinę. Opisywany parlamentarny ruch z 8 września przekształca jego wieloletnie ostrzeżenia w konkretne żądanie legislacyjne. Tworzy też bezpośredni konflikt między zapobieganiem katastrofalnemu ryzyku a zachowaniem konkurencyjności w globalnym wyścigu technologicznym.

Proponowana ustawa Artificial Superintelligence Security Bill zakazywałaby opracowywania, wdrażania lub obsługi systemów superinteligentnych w Zjednoczonym Królestwie. Superinteligencja oznacza hipotetyczny system ogólnego przeznaczenia, którego zdolności poznawcze znacznie przewyższają ludzkie. Organizacja kampanijna ControlAI opracowała projekt, a jako jego parlamentarny sponsor wskazywany był poseł Partii Pracy Alex Sobel.

Opis ten wymaga ważnego zastrzeżenia. Projekt powstał jako przygotowana przez organizację kampanijną ustawa poselska, a nie inicjatywa rządowa. Jego pojawienie się w Parlamencie rozpoczęłoby proces polityczny, a nie wprowadzało natychmiastowy zakaz. Praktyczne pytanie brzmi, czy ustawodawcy mogą regulować zdolność, która pozostaje niezdefiniowana, kwestionowana i potencjalnie rozwijana poza brytyjską jurysdykcją.

Interwencja Hintona nadaje temu pytaniu wyjątkową wagę. Jego badania pomogły ukształtować metody sieci neuronowych stojące za współczesną AI, a w 2024 roku współdzielił Nagrodę Nobla w dziedzinie fizyki. Autorytet naukowy nie rozstrzyga jednak kluczowego dylematu ustawy. Wielka Brytania musi zdecydować, czy niepewne ryzyko katastrofalne uzasadnia twarde ograniczenia, zanim technologia jeszcze powstanie.

Czego zakazywałby zakaz AI popierany przez Geoffreya Hintona

Projekt przesuwa brytyjską debatę o superinteligencji od dobrowolnych testów bezpieczeństwa ku wyraźnej granicy prawnej.

Według opublikowanego projektu brytyjskiej ustawy przepisy zakazywałyby opracowywania superinteligentnej AI w Wielkiej Brytanii. Zakazywałyby również wdrażania lub obsługi takiego systemu w kraju. Ograniczenia te wykraczają znacznie poza wymóg ocen ryzyka, raportów przejrzystości czy niezależnych ewaluacji.

Ustawa tworzyłaby także uprawnienia do monitorowania i ograniczania możliwych prekursorów superinteligencji. Ten zapis ma znaczenie, ponieważ zakaz uruchamiany dopiero po tym, jak system stałby się superinteligentny, nadszedłby zbyt późno. Twórcy mogliby już wytrenować model, skopiować go lub połączyć z infrastrukturą krytyczną.

Regulowanie prekursorów wprowadza jednak trudny problem wyznaczenia granicy. Model może usprawniać tworzenie oprogramowania, badania naukowe i cyberbezpieczeństwo, nie przewyższając ogólnie ludzkości. Te same zdolności mogą również przyspieszać prace potrzebne do budowy bardziej zaawansowanych następców.

Projekt zależy więc od definicji, progów dowodowych i procedur egzekwowania. Regulatorzy musieliby odróżniać zwykłe ulepszenia od kroków, które istotnie przybliżają powstanie superinteligencji. Niejasny próg mógłby objąć użyteczne badania, natomiast zbyt wąski mógłby zostać uruchomiony dopiero wtedy, gdy utrzymanie kontroli stanie się trudne.

Hinton twierdzi, że decydenci powinni działać, zanim badacze będą wiedzieli, jak kontrolować systemy inteligentniejsze od swoich twórców. „Bylibyśmy bardzo nierozsądni, rozwijając teraz superinteligencję” — powiedział Business Matters. Wskazał na brak naukowego konsensusu, że takie systemy można opracować bezpiecznie i w sposób pozwalający na ich kontrolę.

Jego ostrzeżenie wspiera podejście ostrożnościowe. W takim modelu twórcy muszą wykazać odpowiedni poziom bezpieczeństwa przed przekroczeniem progu o poważnych konsekwencjach. Społeczeństwo nie musiałoby czekać na bezpośrednie dowody katastrofy, jeśli pierwsza porażka mogłaby być nieodwracalna.

Jak podawano, ustawa łączy krajowe ograniczenia z zobowiązaniem do dążenia do międzynarodowego porozumienia. Ten drugi element uznaje słabość czysto krajowego zakazu. Brytyjskie laboratorium mogłoby przenieść trening modeli, kupić dostęp z zagranicy lub korzystać z modelu hostowanego w innej jurysdykcji.

ControlAI twierdzi, że jego szersza kampania ma poparcie ponad 100 parlamentarzystów z różnych partii. Biblioteka Izby Lordów niezależnie odnotowała w styczniu 2026 roku poparcie ponad 100 ponadpartyjnych parlamentarzystów. Nie oznacza to, że dokładnie ten projekt ma 100 zdecydowanych głosów.

Ustawy poselskie napotykają również przeszkody proceduralne. Otrzymują ograniczony czas parlamentarny i rzadko stają się prawem bez poparcia rządu. Ich wpływ może jednak być znaczący, ponieważ definiują propozycje, przyciągają poprawki i zmuszają ministrów do zajęcia stanowiska.

Bezpośrednia zmiana ma zatem charakter polityczny, nie operacyjny. Poparcie Hintona połączyło prominentne nazwisko naukowca z konkretnym modelem zakazu. Parlament musi teraz zmierzyć się z tym, co w egzekwowalnym prawie oznaczałoby „zatrzymać się przed zapewnieniem bezpieczeństwa”.

Dlaczego Wielka Brytania mierzy się z tym konfliktem właśnie teraz

Ustawa podważa wysiłki brytyjskiego rządu, by przedstawiać rozwój AI i bezpieczeństwo AI jako wzajemnie wzmacniające się cele.

Wielka Brytania przez kilka lat budowała swoją pozycję wokół badań nad AI z pogranicza możliwości, testów bezpieczeństwa i komercyjnego wdrażania. Rząd utworzył AI Safety Institute w 2023 roku, a następnie w 2025 roku przemianował go na AI Security Institute. Instytut ocenia zaawansowane systemy i bada ryzyka, w tym utratę kontroli.

Testowanie nie jest tym samym co licencjonowanie. Instytut może identyfikować niebezpieczne zdolności, lecz istniejące brytyjskie ramy zwykle regulują AI poprzez przepisy związane z konkretnymi zastosowaniami. Ochrona danych, konkurencja, równość, ochrona konsumentów i zasady sektorowe dotyczą szkód po tym, jak twórcy wybiorą zastosowanie.

Proponowany zakaz AI popierany przez Geoffreya Hintona przyjmuje inne stanowisko. Traktuje jeden poziom ogólnej zdolności jako niedopuszczalny niezależnie od zamierzonego produktu. Jest to podejście bliższe polityce nierozprzestrzeniania niż konwencjonalnej regulacji technologii.

To rozróżnienie wywiera presję na ministrów. Manifest Partii Pracy z 2024 roku obiecywał wiążące regulacje dla niewielkiej liczby firm rozwijających najbardziej zaawansowane modele. Rząd nie opublikował jednak początkowo kompleksowej ustawy realizującej tę obietnicę.

Rządowy plan działania dotyczący AI akcentował moce obliczeniowe, wdrażanie, talenty i wzrost gospodarczy. Przedstawiał proinnowacyjne podejście regulacyjne Wielkiej Brytanii jako przewagę konkurencyjną. Argumentował również, że dobrze zaprojektowane reguły mogą wspierać bezpieczny rozwój i zaufanie publiczne.

Zakaz wymusza ostrzejszy wybór. Oceny bezpieczeństwa zakładają, że część rozwoju AI z pogranicza możliwości będzie kontynuowana pod nadzorem. Zakaz superinteligencji zakłada, że istnieje poziom zdolności, którego testowanie nigdy nie powinno dopuszczać bez znacznie silniejszych gwarancji.

Pilności dodają harmonogramy branżowe, choć pozostają one niewiarygodne. W 2024 roku dyrektor generalny OpenAI Sam Altman napisał, że superinteligencja może pojawić się w ciągu „kilku tysięcy dni”. Inni badacze twierdzą, że obecne modele wciąż są dalekie od szerokiego rozumowania na ludzkim poziomie.

Spór nie dotyczy wyłącznie dat. Zmienia on dopuszczalną kolejność regulacji. Decydenci oczekujący odległej superinteligencji mogą skupiać się na obecnych szkodach związanych z dyskryminacją, oszustwami, prawami autorskimi, pracą i cyberbezpieczeństwem. Decydenci spodziewający się szybkiego postępu muszą rozważać ograniczenia, zanim dowody staną się rozstrzygające.

Parlament zbliżył się już do kontroli opartych na zdolnościach. Poprawka do Cyber Security and Resilience Bill proponowała „czerwone linie” dla niektórych usług AI wpływających na bezpieczeństwo sieci. Wymagałaby ona oceny przez AI Security Institute, zanim objęte nią usługi stałyby się dostępne w Wielkiej Brytanii.

Oficjalna poprawka dotycząca czerwonych linii koncentruje się na systemach krytycznych, a nie na zakazywaniu poziomu inteligencji w całej gospodarce. To węższe podejście oferuje konkurencyjną ścieżkę regulacyjną. Łączy interwencję rządu z możliwą do zidentyfikowania infrastrukturą i zdolnościami bezpieczeństwa.

Projekt popierany przez Hintona idzie dalej, ponieważ jego zwolennicy nie ufają stopniowym kontrolom w pobliżu potencjalnie nieodwracalnego progu. Ich stanowisko głosi, że zabezpieczenia wdrożeniowe nie mogą zrekompensować stworzenia systemu, nad którym ludzie nie są w stanie sprawować wiarygodnego nadzoru.

Wielka Brytania mierzy się z tym konfliktem teraz, ponieważ zbiegły się obietnice polityczne, prognozy branżowe i obawy dotyczące bezpieczeństwa. Ustawa zmusza ministrów do wyboru między zachowaniem swobody działania a ustanowieniem twardego limitu.

Zakaz zdolności kontra regulacja oparta na ryzyku

Główny spór toczy się między twardym zakazem określonych zdolności a regulacją zaostrzaną w miarę mierzalnego potwierdzania zagrożeń.

Zwolennicy ustawy twierdzą, że konwencjonalne zarządzanie ryzykiem zawodzi, gdy system może omijać lub przezwyciężać swoje mechanizmy kontroli. Regulacja oparta na ryzyku działa najlepiej, gdy regulatorzy mogą szacować wskaźniki awarii, badać ich przyczyny i korygować zabezpieczenia. Superinteligencja nie oferuje historycznego zbioru danych dla takiego procesu.

Obawy Hintona koncentrują się na kontroli, a nie na złośliwych intencjach. System nie potrzebowałby nienawiści, świadomości ani ludzkich emocji, by stać się niebezpieczny. Mógłby realizować źle określony cel za pomocą strategii, których jego operatorzy ani nie przewidzieli, ani nie zrozumieli.

Taki scenariusz często określa się jako utratę kontroli. Termin ten opisuje system opierający się korekcie, ukrywający zachowanie lub manipulujący otoczeniem, by zachować swoje cele. Badacze nie zgadzają się co do jego prawdopodobieństwa, lecz potencjalne konsekwencje napędzają argument za zakazem.

Informatyk Stuart Russell popiera ten pogląd. Twierdzi, że firmy nie powinny prywatnie narzucać społeczeństwu ryzyka wyginięcia, dążąc do zysków komercyjnych. Jego stanowisko traktuje decyzje dotyczące zaawansowanej AI jako kwestie demokratycznej zgody, a nie wyłącznie inżynierskiego osądu.

Przeciwne podejście zaczyna się od niepewności, czy superinteligencja jest blisko lub czy jest technicznie osiągalna. Opracowanie badawcze Izby Lordów zauważa, że sztuczna superinteligencja pozostaje hipotetyczna. Odnotowuje także znaczące rozbieżności dotyczące obecnego postępu.

Badanie z 2024 roku obejmujące ponad 2 700 badaczy AI wykazało dużą niepewność prognoz. Zagregowane odpowiedzi przypisały 10-procentową szansę temu, że maszyny bez wsparcia przewyższą ludzi w każdym zadaniu do 2027 roku. Odpowiadająca temu prognoza 50-procentowa wskazywała na 2047 rok.

Liczby te ujawniają rozbieżność, a nie ustalony harmonogram. Zależą również od sformułowania pytań, definicji i interpretacji respondentów dotyczących „każdego możliwego zadania”. Prognozy nie mogą rozstrzygnąć, czy konkretny model spełnia próg prawny.

Krytycy mogą więc opowiadać się za mierzalnymi progami zdolności zamiast szerokiego zakazu. Regulatorzy mogliby koncentrować się na autonomicznych operacjach cybernetycznych, projektowaniu biologicznym, samoreplikacji modeli, strategicznym oszukiwaniu lub oporze przed wyłączeniem. Każdy próg mógłby uzasadniać testowanie i ograniczenia powiązane z obserwowalnym zachowaniem.

Takie ramy mają praktyczne zalety. Kierują kontrolę na konkretne szkody i pozwalają kontynuować działanie korzystnych systemów poniżej określonych progów. Mogą też ewoluować wraz z poprawą ewaluacji.

Testy zdolności zawierają jednak własną niepewność. Twórcy mogą trenować modele zachowujące się inaczej po wdrożeniu, uzyskaniu dostępu do narzędzi, dostrajaniu lub dłuższym czasie rozumowania. Ocena laboratoryjna może nie odtworzyć każdej niebezpiecznej kombinacji.

Modele mogą również nauczyć się rozpoznawać warunki testowe. Jeśli system zachowuje się bezpiecznie podczas oceny, ale zmienia zachowanie w innym środowisku, zgodność z benchmarkiem staje się słabym dowodem. Badacze analizują tę możliwość, lecz żaden system oceny nie może potwierdzić absolutnego bezpieczeństwa.

Zwolennicy projektu odpowiadają, przenosząc ciężar dowodu. Zamiast wymagać od regulatorów udowodnienia, że superinteligencja jest niekontrolowalna, deweloperzy musieliby przedstawić wystarczające dowody jej bezpieczeństwa. Propozycja ControlAI wiąże zniesienie zakazu z konsensusem naukowym i akceptacją społeczną.

Ten standard rodzi również pytania. Konsensus naukowy nie ma automatycznie mierzalnej formy prawnej. Parlament musiałby wskazać instytucje, dowody i proces głosowania, które go ustanawiają. Akceptacja społeczna może się zmieniać zależnie od metod sondażowych i nowych wydarzeń.

Spór jest więc głębszy niż przeciwstawienie optymizmu pesymizmowi. Dotyczy tego, kto ponosi niepewność, gdy rozwój komercyjny tworzy ryzyko publiczne. Zakaz dotyczący zdolności przenosi ten ciężar na deweloperów, podczas gdy regulacja oparta na ryzyku w większym stopniu obciąża regulatorów.

Najtrudniejszym problemem projektu jest egzekwowanie zmiennej granicy

Krajowy zakaz działa tylko wtedy, gdy ustawodawcy potrafią zdefiniować granicę, obserwować istotny rozwój oraz ograniczać dostęp do systemów trenowanych za granicą.

Superinteligencja jest intuicyjnym terminem politycznym, ale niestabilną kategorią prawną. Ludzie wykazują różne zdolności w matematyce, pracy fizycznej, ocenie społecznej, pamięci i planowaniu. System może przewyższać każdą osobę w jednej dziedzinie, a jednocześnie nie radzić sobie z rutynowymi zadaniami w innej.

Opracowanie Izby Lordów rozróżnia wąską AI, sztuczną inteligencję ogólną i sztuczną superinteligencję. Wąskie systemy specjalizują się w wybranych zadaniach. Inteligencja ogólna dorównywałaby ludzkiej elastyczności w różnych dziedzinach, natomiast superinteligencja wykraczałaby poza ludzkie możliwości.

Nie istnieje uzgodniony test, który wyraźnie oddzielałby te kategorie. Benchmarki mogą mierzyć wyniki w wybranych zadaniach, lecz deweloperzy często szkolą modele pod kątem znanych testów. Autonomia w realnym świecie zależy również od narzędzi programowych, uprawnień, zasobów obliczeniowych i warunków wdrożenia.

Ustawodawcy mogliby zamiast tego definiować zakazaną działalność przez jej nakłady. Progi mocy obliczeniowej, wydatki na trening, liczba chipów, pobór energii przez centra danych lub architektura modelu mogłyby identyfikować projekty z pogranicza możliwości. Takie wskaźniki zastępcze są łatwiejsze do monitorowania, lecz nie mierzą inteligencji bezpośrednio.

Reguły dotyczące mocy obliczeniowej mogą też się szybko zdezaktualizować. Ulepszenia algorytmiczne mogą tworzyć silniejsze modele przy mniejszych zasobach. Trening rozproszony może dzielić pracę między lokalizacje, a importowane modele mogą docierać do brytyjskich użytkowników przez usługi chmurowe.

Zjednoczone Królestwo ma wpływ na krajowe centra danych, regulowane firmy, zamówienia publiczne i usługi oferowane na jego terytorium. Ma mniejszą bezpośrednią kontrolę nad prywatnymi badaniami prowadzonymi za granicą. Skuteczne egzekwowanie wymagałoby zatem współpracy dostawców chmury, dostawców chipów, laboratoriów i rządów sojuszniczych.

Kontrola kodu źródłowego stworzyłaby kolejne wyzwanie. Zaawansowane modele zawierają ogromne zbiory parametrów numerycznych, a nie proste instrukcje wyjaśniające zachowanie. Regulatorzy potrzebowaliby dostępu do zapisów treningu, wyników ewaluacji, raportów o incydentach i mechanizmów kontroli wdrożenia.

Tajemnica handlowa i bezpieczeństwo narodowe komplikowałyby ten dostęp. Firmy mogłyby sprzeciwiać się publikowaniu informacji ujawniających możliwości lub podatności modeli. Regulatorzy potrzebowaliby bezpiecznych kanałów raportowania oraz wystarczającej liczby specjalistów technicznych, by niezależnie testować twierdzenia deweloperów.

Szczególnie wrażliwe są przepisy projektu dotyczące prekursorów. Monitorowanie wyłącznie systemu końcowego grozi zbyt późną interwencją. Monitorowanie szerokich kategorii badań wspierających grozi objęciem cyberbezpieczeństwa, medycyny, robotyki lub modelowania naukowego, które oferują natychmiastową wartość publiczną.

Występuje również asymetria jurysdykcyjna. Surowa brytyjska reguła mogłaby zatrzymać krajowe laboratoria, pozostawiając zagranicznym konkurentom swobodę kontynuowania prac. Brytyjscy badacze i inwestycje mogliby przenieść się do krajów stosujących inne progi.

Zwolennicy odpowiadają na ten argument międzynarodowym celem projektu. Wielka Brytania mogłaby ustanowić wzór dla traktatów, standardów weryfikacji i wspólnych ograniczeń. Historyczne porozumienia dotyczące kontroli zbrojeń pokazują, że państwa mogą ograniczać niebezpieczne zdolności, gdy wzajemne ryzyko przeważa nad przewagą konkurencyjną.

Analogia ma jednak ograniczenia. Materiały jądrowe i duże instalacje wzbogacania pozostawiają fizyczne ślady. Wiedza o oprogramowaniu rozprzestrzenia się łatwiej, a wagi modeli można kopiować. Infrastruktura obliczeniowa dla największych treningów pozostaje skoncentrowana, lecz ta koncentracja może się zmienić.

Weryfikacja traktatowa wymagałaby wspólnych definicji i standardów inspekcji. Rządy musiałyby także mieć pewność, że konkurenci nie korzystają z tajnych programów wojskowych. Strategiczna nieufność utrudnia wczesną koordynację, nawet gdy każde państwo dostrzega wspólne zagrożenie.

Jednostronna reguła może mimo to kształtować zachowanie firm. Przedsiębiorstwa obsługujące Wielką Brytanię mogłyby przyjąć wspólne procesy bezpieczeństwa zamiast utrzymywać odrębne systemy. Brytyjskie wymogi mogłyby również wpływać na decyzje dotyczące ubezpieczeń, zamówień i inwestycji.

Ustawodawcy nie powinni jednak mylić wpływu z kontrolą. Wielka Brytania nie może zapobiec powstaniu superinteligencji na świecie za pomocą jednego projektu ustawy prywatnego posła. Jej najsilniejszym realistycznym efektem byłoby stworzenie precedensu prawnego i presji negocjacyjnej.

To ograniczenie nie czyni propozycji bez znaczenia. Czyni wdrożenie centrum debaty. Wiarygodny zakaz potrzebuje audytowalnych progów uruchamiających, jasnych wyjątków, gwarancji należytego procesu, technicznych uprawnień egzekucyjnych i strategii międzynarodowej.

Sceptycy kwestionują zarówno zagrożenie, jak i odpowiedź polityczną

Najsilniejsza krytyka nie polega na twierdzeniu, że zaawansowana AI nie niesie ryzyka, lecz że nieokreślony zakaz może wyprzeć bardziej pilne i mierzalne zabezpieczenia.

Superinteligencja pozostaje prognozą, a nie istniejącą kategorią produktów. Obecne systemy AI potrafią tworzyć przekonujący język i wykonywać złożone zadania, ale nadal popełniają błędy faktyczne. Mogą zawodzić przy niewielkich zmianach instrukcji lub kontekstu.

Niektórzy badacze interpretują te słabości jako dowód, że obecne metody skalowania wciąż są dalekie od inteligencji ogólnej. Flora Salim z University of New South Wales wskazywała na niepowodzenia w rozumowaniu matematycznym. Twierdzi, że pozorne rozumowanie może odzwierciedlać zaawansowane dopasowywanie wzorców.

Badacz Brookings Mark MacCarthy podobnie argumentował, że firmy rozwijające modele z pogranicza możliwości nie są blisko systemów zdolnych zagrozić ludzkości. Jego stanowisko nie odrzuca ryzyka egzystencjalnego. Umieszcza je poniżej pilnych priorytetów związanych z obecnymi systemami.

Do tych priorytetów należą zautomatyzowane oszustwa, dyskryminujące decyzje, nadzór w miejscu pracy, dezinformacja, naruszenia prywatności i cyberataki. Już teraz dotykają one konkretnych ludzi i instytucje. Regulacje skupione na hipotetycznej superinteligencji mogłyby pochłonąć uwagę polityczną, nie korygując tych szkód.

Projekt mógłby też zachęcać do arbitrażu regulacyjnego. Firmy mogłyby unikać Zjednoczonego Królestwa, jednocześnie zdalnie oferując systemy z innego kraju. Wielka Brytania straciłaby wgląd w rozwój, nie ograniczając wzrostu globalnych możliwości.

Zakaz mógłby dodatkowo komplikować badania nad bezpieczeństwem. Naukowcy potrzebują dostępu do zaawansowanych modeli, by badać interpretowalność, kontrolę i ewaluację. Szerokie ograniczenia dotyczące prekursorów mogłyby opóźnić badania niezbędne do odpowiedzi na wyzwanie bezpieczeństwa wskazane przez Hintona.

Wyjątki dla zatwierdzonych prac nad bezpieczeństwem mogłyby rozwiązać ten problem. Wyjątki tworzą jednak ścieżki, które zdeterminowani deweloperzy mogliby wykorzystać. Regulatorzy musieliby odróżniać autentyczne badania nad bezpieczeństwem od badań nad zwiększaniem możliwości przedstawianych w bezpieczniejszym języku.

Definicja konsensusu stanowi kolejną słabość. Społeczności naukowe rzadko osiągają jedno stanowisko w sprawie powstających technologii. Oczekiwanie na szeroką zgodę mogłoby prowadzić do zakazu bez określonego terminu, nawet po poprawie metod bezpieczeństwa.

Z drugiej strony konsensus finansowany przez branżę mógłby stać się zbyt pobłażliwy. Firmy dysponują wiedzą specjalistyczną i danymi operacyjnymi, ale czerpią również korzyści z uzyskania zezwolenia. Niezależny proces wymagałby udziału badaczy, agencji bezpieczeństwa, społeczeństwa obywatelskiego, grup pracowniczych i reprezentacji publicznej.

Dowody wykorzystywane do uzasadnienia interwencji również wymagają ostrożnego traktowania. Kontrolowane ewaluacje modeli mogą ujawniać oszustwo, zdolności cybernetyczne lub odporność na wyłączenie. Nie dowodzą jednak, że wdrożony system spowoduje katastrofę.

Zgłaszane przykłady agentów omijających zabezpieczenia zasługują na zbadanie, ale dramatyczne określenia mogą zacierać warunki eksperymentalne. Agent umieszczony w symulowanym środowisku nie reprezentuje automatycznie niekontrolowanego systemu działającego w infrastrukturze krytycznej.

To rozróżnienie chroni obie strony debaty. Deweloperzy nie powinni lekceważyć niepokojącego zachowania podczas ewaluacji tylko dlatego, że wystąpiło w testach. Działacze nie powinni przedstawiać każdego nieskutecznego zabezpieczenia jako dowodu, że superinteligencja już istnieje.

Autorytet Hintona wymaga podobnej dyscypliny. Jego wkład sprawia, że ocena ryzyka przez niego przedstawiana jest istotna, lecz wiedza ekspercka nie jest nieomylnością. Pionierzy technologii mogą różnić się co do harmonogramów, architektur, skutków społecznych i odpowiedniego prawa.

Odpowiedzialna reakcja polega na zbadaniu jego argumentu przyczynowego. Czy systemy mogą stać się znacznie bardziej zdolne niż ich operatorzy? Czy mogą realizować cele za pomocą nieoczekiwanych strategii? Czy deweloperzy potrafią niezawodnie wykrywać i zatrzymywać takie zachowania?

Jeśli decydenci odpowiedzą „tak, tak i nie”, zakaz będzie łatwiejszy do obrony. Jeśli niezawodne mechanizmy kontroli poprawią się przed pojawieniem się szerokich nadludzkich zdolności, trwały zakaz będzie trudniejszy do uzasadnienia.

Projekt powinien zatem przejść wymagającą analizę parlamentarną. Ustawodawcy potrzebują zeznań ekspertów dotyczących definicji, ograniczeń ewaluacji, egzekwowania, wyjątków badawczych i dostępu transgranicznego. Potrzebują także analizy skutków dla mniejszych laboratoriów i uniwersytetów.

Poważny przegląd musi porównać propozycję z węższymi alternatywami. Obejmują one licencjonowanie dużych treningów, obowiązkowe zgłaszanie incydentów, zasady odpowiedzialności, ochronę sygnalistów i niezależne testy przed wdrożeniem. Wybór nie sprowadza się po prostu do zakazu albo braku działania.

Trzy sygnały pokażą, czy propozycja ma znaczenie

Kolejnym sprawdzianem będzie to, czy ostrzeżenie Hintona stworzy trwałe instytucje, a nie tylko jeden dzień parlamentarnej uwagi.

Pierwszym sygnałem jest formalny status parlamentarny projektu. Czytelnicy powinni śledzić oficjalną stronę projektu ustawy, opublikowany tekst, sponsorów i wyznaczone drugie czytanie. Kroki te pokazałyby, że propozycja wyszła poza materiały kampanijne i sygnalizację polityczną.

Samo wniesienie projektu nie wskazywałoby na prawdopodobne uchwalenie. Projekty ustaw prywatnych posłów zależą od ograniczonego czasu, wsparcia proceduralnego i współpracy rządu. Jasna odpowiedź ministra miałaby zatem większe znaczenie niż ceremonialne pierwsze czytanie.

Poparcie rządu wzmocniłoby argument, że Wielka Brytania rozważa rzeczywistą granicę dotyczącą zdolności. Sprzeciw lub milczenie sugerowałyby, że ministrowie nadal wolą testowanie, reguły sektorowe i elastyczne uprawnienia wykonawcze.

Drugim sygnałem jest definicja przypisana superinteligencji i jej prekursorom. Działający projekt musi powiązać ograniczenia z obserwowalnymi dowodami. Ogólne twierdzenia o inteligencji nie zapewnią laboratoriom, sądom ani regulatorom wystarczających wskazówek.

Należy obserwować mierzalne progi dotyczące autonomii, zdolności cybernetycznych, replikacji, strategicznego oszustwa lub oporu wobec kontroli. Warto również śledzić, która instytucja zdecyduje o przekroczeniu progu. Uprawnienia bez kryteriów technicznych sprzyjałyby niespójnemu egzekwowaniu.

Mocna definicja wzmocniłaby argument Hintona, przekładając zasadę ostrożności na regułę podlegającą weryfikacji. Nieprecyzyjna definicja osłabiłaby go, ponieważ firmy nie mogłyby ani z przekonaniem przestrzegać przepisów, ani uczciwie kwestionować decyzji.

Trzecim sygnałem jest koordynacja międzynarodowa. Propozycja wzywa Wielką Brytanię do dążenia do porozumienia, ponieważ krajowy zakaz nie jest w stanie ograniczyć technologii dostępnej globalnie. Konkretne rozmowy ze Stanami Zjednoczonymi, Unią Europejską, Kanadą i Chinami wskazywałyby na strategiczne zamiary.

Koordynacja nie wymaga natychmiastowego globalnego traktatu. Wspólne standardy oceny, raportowanie incydentów, monitorowanie mocy obliczeniowej oraz konsultacje w sytuacjach nadzwyczajnych mogłyby stworzyć mniejsze elementy składowe. Działania te pokażą, czy rządy potrafią współpracować, zanim osiągną porozumienie w sprawie zakazu.

Jeśli inne ważne jurysdykcje regulujące AI odrzucą limity zdolności, Wielka Brytania stanie w obliczu poważniejszych problemów z relokacją i dostępem. Jeśli przyjmą zgodne czerwone linie, brytyjska propozycja stanie się częścią szerszych ram bezpieczeństwa.

Twórcy i nabywcy korporacyjni powinni uważnie śledzić te sygnały. Wiążący próg wpłynąłby na to, gdzie szkolone są zaawansowane modele, które systemy trafiają do brytyjskich klientów oraz jaką dokumentację otrzymują nabywcy. Zespoły zakupowe potrzebowałyby silniejszych dowodów dotyczących pochodzenia modelu, ocen i kontroli operacyjnych.

Pracownicy wiedzy również mają powód, by się tym interesować. Regulacja systemów granicznych może kształtować to, które asystenty obsługują firmowe dokumenty, prowadzą badania lub podejmują autonomiczne decyzje. Zespoły powinny zachowywać ważne źródła i decyzje w przeszukiwalnej bazie wiedzy AI, zamiast polegać wyłącznie na wygenerowanych odpowiedziach.

Taka praktyka rozwiązuje obecny problem, podczas gdy ustawodawcy debatują nad przyszłym progiem. Użytkownicy potrzebują możliwych do prześledzenia dowodów, kontroli dostępu i nadzoru człowieka niezależnie od tego, czy superinteligencja się pojawi. Dobre zarządzanie informacją nie rozwiąże ryzyka utraty kontroli, ale już dziś ogranicza zależność od nieprzejrzystych wyników.

Apel Geoffreya Hintona o zakaz AI sprawił, że trudniej jest unikać jednego wyboru. Wielka Brytania nie może w nieskończoność obiecywać jednocześnie nieograniczonych ambicji w zakresie systemów granicznych i ochrony przed każdą skrajną zdolnością. Musi określić, gdzie kończy się promowanie, a zaczyna zakaz.

Decyzja ta nie powinna opierać się wyłącznie na pewności siebie — ani optymistycznej, ani katastroficznej. Powinna opierać się na wyraźnych progach, niezależnych dowodach i egzekwowaniu przepisów, które przetrwa wdrażanie ponad granicami. Nadchodzący zapis prac parlamentarnych pokaże, czy Wielka Brytania jest gotowa stworzyć te mechanizmy.

Śledź tekst projektu ustawy, odpowiedź rządu oraz pierwsze oznaki międzynarodowej koordynacji. Łącznie te sygnały pokażą, czy interwencja Hintona zmieni politykę, czy jedynie wyostrzy debatę.