Anthropic popiera petycję o spowolnienie AI, ale wyścig wciąż nie ma hamulców

Anthropic poparł petycję podpisaną przez 1 293 pracowników zajmujących się zaawansowaną AI, mimo silnej presji, by każde duże laboratorium nieprzerwanie przyspieszało. Swoje podpisy złożyli CEO Dario Amodei, kilku współzałożycieli i starsi pracownicy. Firma twierdzi, że rządy powinny przygotować narzędzia umożliwiające spowolnienie zautomatyzowanego rozwoju AI, jeśli ryzyko stanie się nieakceptowalne.

Poparcie ma znaczenie, ponieważ petycja nie domaga się natychmiastowego zatrzymania prac. Wzywa Stany Zjednoczone do wsparcia międzynarodowych działań, które umożliwiłyby świadome spowolnienie rozwoju. To odróżnia tę inicjatywę od wcześniejszych listów żądających ustalonych przerw.

Ujawnia też centralny konflikt. Anthropic przekonuje, że społeczeństwo potrzebuje hamulca awaryjnego, jednocześnie przyznając, że żadne odpowiedzialne laboratorium nie może bezpiecznie użyć go samodzielnie. OpenAI, Google DeepMind, Meta i inni twórcy zaawansowanej AI uczestniczą w tym samym wyścigu, nawet gdy ich pracownicy podzielają te obawy.

Anthropic przekształca petycję pracowników w stanowisko firmy

Anthropic przeniósł debatę o spowolnieniu z poziomu sprzeciwu pracowników na poziom oficjalnego stanowiska popartego przez kierownictwo.

Oświadczenie dotyczące spowolnienia mówi, że czołowe firmy AI zbliżają się do automatyzacji badań nad AI. Sygnatariusze ostrzegają, że ta zmiana może przyspieszyć rozwój możliwości systemów ponad zdolność społeczeństwa do zrozumienia lub kontrolowania powstających modeli.

Prośba zawarta w liście jest wąsko sformułowana. Wzywa rząd USA do wsparcia międzynarodowych działań na rzecz rozwoju narzędzi technicznych i mechanizmów zarządzania. Miałyby one pomóc uczestniczącym krajom świadomie regulować tempo zautomatyzowanego rozwoju zaawansowanej AI.

„Zaawansowana AI” oznacza najpotężniejsze systemy ogólnego przeznaczenia, które są obecnie rozwijane. „Zautomatyzowany rozwój AI” wykracza poza używanie chatbota do podpowiedzi w kodzie. Oznacza modele wykonujące znaczną część badań i prac inżynieryjnych potrzebnych do stworzenia ich następców.

Anthropic potwierdził swoje poparcie w oficjalnym oświadczeniu firmy. We wpisie podano, że petycję podpisali Amodei, kilku współzałożycieli i starsi członkowie zespołu. Połączono to poparcie bezpośrednio z niedawnymi badaniami Anthropic nad rekurencyjnym samodoskonaleniem.

To poparcie nadaje petycji nietypową wagę instytucjonalną. Pracownicy często podpisują listy otwarte jako osoby prywatne, pozostawiając pracodawcom możliwość zachowania neutralności. Anthropic przyjął natomiast podstawową diagnozę petycji jako własną.

Według doniesień opublikowanych po pojawieniu się listu inicjatywę poparł również OpenAI. Pracownicy Google DeepMind, Meta, Microsoft, Thinking Machines i kilku innych organizacji podpisali ją prywatnie.

Łączna liczba podpisów nadal rosła po uruchomieniu petycji. Gdy stronę sprawdzono 30 lipca, widniało na niej 1 293 pracowników — wobec około 1 100 zgłaszanych, gdy media po raz pierwszy opisały tę sprawę. Ponieważ lista pozostaje otwarta, liczba ta jest zmienna, a nie stanowi stałej wartości z momentu uruchomienia.

Wśród sygnatariuszy są badacze i liderzy, którzy różnią się w wielu innych kwestiach polityki publicznej. John Schulman, główny naukowiec w Thinking Machines, powiedział, że oświadczenie pomaga budować wspólną świadomość potencjalnych potrzeb koordynacyjnych. Podpisał je również główny naukowiec Meta AI, Shengjia Zhao.

Ilya Sutskever, współzałożyciel Safe Superintelligence, ostrzegł, że każda interwencja musiałaby działać na poziomie międzynarodowym. Przyznał też, że złe wdrożenie mogłoby pogorszyć sytuację. To zastrzeżenie oddaje najgłębszy problem petycji.

Oświadczenie nie wskazuje konkretnego modelu, który powinien uruchomić spowolnienie. Nie przedstawia wiążącego progu, organu monitorującego, systemu inspekcji ani mechanizmu egzekwowania. Wzywa rządy, by zaczęły budować takie narzędzia, zanim kryzys zmusi je do improwizacji.

To sprawia, że działanie Anthropic ma większe znaczenie niż ogólna deklaracja bezpieczeństwa. Firma twierdzi, że międzynarodowy system hamowania powinien istnieć, choć nie zdefiniowała jeszcze jego pełnego mechanizmu.

Dlaczego badania Anthropic nad AI zmieniły moment działania

Petycja pojawiła się teraz, ponieważ AI nie tylko wspiera już twórców modeli. Zaczyna wykonywać coraz większe części ich pracy.

Czerwcowy raport Anthropic, AI builds itself, przedstawia podstawę jej stanowiska. Firma opisuje rekurencyjne samodoskonalenie jako system, który autonomicznie projektuje i rozwija własnego następcę.

Anthropic podkreśla, że obecne systemy jeszcze tego nie osiągnęły. Stwierdza również, że pełne rekurencyjne doskonalenie nie jest nieuniknione. Jednak dane wewnętrzne sugerują, że proces rozwoju staje się coraz bardziej zautomatyzowany.

Według doniesień, w maju 2026 roku Claude stworzył ponad 80 procent kodu scalonego z bazą kodu Anthropic. Przed wejściem Claude Code do wersji badawczej w lutym 2025 roku udział ten wynosił kilka procent.

Anthropic podaje, że w drugim kwartale 2026 roku typowy inżynier firmy scalał dziennie osiem razy więcej kodu niż w 2024 roku. Firma otwarcie zastrzega, że wolumen kodu jest niedoskonałą miarą produktywności. Więcej linii nie oznacza automatycznie lepszego oprogramowania ani ośmiokrotnie bardziej wartościowej pracy.

To zastrzeżenie ma znaczenie. AI może generować powtarzalny kod, testy, migracje i dokumentację bez równoważnego wzrostu poziomu trudnego rozumowania. Laboratorium może więc raportować znacznie wyższą produkcję, jednocześnie wolniej posuwając naprzód swoje kluczowe problemy badawcze.

Inny wewnętrzny pomiar przedstawia odmienny obraz. W ankiecie z marca 2026 roku, przeprowadzonej wśród 130 pracowników badawczych Anthropic, mediana odpowiedzi wskazywała na czterokrotnie większą produktywność z Mythos Preview. Anthropic ponownie zastrzegł, że rzeczywisty wzrost był prawdopodobnie niższy.

Najmocniejsze dowody firmy dotyczą pracy z jasno określonymi celami. W jednym powtarzalnym zadaniu optymalizacyjnym Claude Opus 4 osiągnął średnio trzykrotne przyspieszenie w maju 2025 roku. Według doniesień Mythos Preview osiągnął do kwietnia 2026 roku około 52-krotność początkowej wydajności.

Wykwalifikowany badacz-ludzki zazwyczaj osiągał w tym zadaniu około czterokrotną poprawę po czterech do ośmiu godzin pracy. Anthropic ostrzega, że wyniku tego nie należy interpretować jako porównywalnego wzrostu w rzeczywistym treningu modeli.

Postęp nadal ma znaczenie, ponieważ ilustruje zamkniętą pętlę eksperymentalną. Model zmienia kod, uruchamia eksperyment, mierzy wynik i próbuje ponownie. Człowiek ustala cel i zasady oceny, lecz nie dyktuje każdego kroku.

Nie jest to pełne rekurencyjne samodoskonalenie. System optymalizuje cel wybrany przez ludzi, zamiast sam decydować, którego następcę zbudować. Anthropic twierdzi, że znaczące luki pozostają, gdy modele muszą wykazać się osądem, wybrać cele lub wskazać najbardziej użyteczny kierunek badań.

Jednak częściowa automatyzacja może przyspieszyć wyścig, zanim pojawi się pełna autonomia. Laboratorium, które szybciej kończy eksperymenty, może sprawdzać więcej pomysłów, wcześniej odrzucać słabe kierunki i szybciej rozpocząć trening kolejnego systemu.

Ta sama zdolność może wspierać badania nad alignmentem. Alignment to dążenie do tego, by zachowanie modelu było zgodne z ludzkimi celami i ograniczeniami. Szybsze eksperymenty mogą usprawniać ewaluacje, metody interpretowalności i zabezpieczenia równolegle z rozwojem ogólnych możliwości.

To podwójne zastosowanie tworzy problem czasu. Narzędzia potrzebne do badania zaawansowanych systemów są często tymi samymi narzędziami, które pomagają je budować. Lepsi agenci badawczy mogą jednocześnie przyspieszać prace nad bezpieczeństwem i możliwościami.

Argument Anthropic nie polega więc na twierdzeniu, że rozpoczęła się niekontrolowana eksplozja inteligencji. Chodzi o to, że społeczeństwo powinno przygotować się, zanim zautomatyzowane badania wyraźnie skrócą każdy cykl rozwoju.

Prawdziwym przeciwnikiem jest porażka koordynacji

Główna rywalizacja nie toczy się między Anthropic a OpenAI. Chodzi o zbiorową ostrożność w starciu z wyścigiem, który karze każde laboratorium działające samotnie.

Każdy twórca zaawansowanej AI ma motywację, by nadal przyspieszać. Nowe modele przyciągają użytkowników, kontrakty korporacyjne, talenty techniczne, kapitał i strategiczne partnerstwa. Pozostanie w tyle może ograniczyć wpływ firmy na standardy bezpieczeństwa, które ostatecznie zostaną przyjęte.

Rywalizacja między państwami dodaje kolejną warstwę. Amerykańscy decydenci chcą, aby krajowe firmy utrzymały przewagę nad chińskimi laboratoriami. Każda propozycja spowolnienia amerykańskich twórców spotka się z pytaniami, czy konkurenci w innych miejscach również się do niej zastosują.

Anthropic przyznaje to wprost. Jej badania wskazują, że odosobniona przerwa mogłaby pozwolić mniej ostrożnym podmiotom nadrobić zaległości. Taki wynik mógłby zastąpić jednego lidera innym, nie zmniejszając ogólnego zagrożenia.

Znacząca interwencja wymagałaby, aby kilka dobrze finansowanych laboratoriów w kilku krajach działało w porównywalnych warunkach. Uczestnicy musieliby wiedzieć, że konkurenci rzeczywiście spowolnili swoją pracę.

Weryfikacja jest trudniejsza w przypadku AI niż wielu programów zbrojeniowych. Instalacja rakietowa ma wyspecjalizowany sprzęt i widoczną infrastrukturę. Rozwój AI wykorzystuje centra danych, chipy, oprogramowanie i sprzęt sieciowy, które służą również zwykłym celom komercyjnym.

Procesy treningowe mogą być także ukrywane lub dzielone. Rządy potrzebowałyby metod monitorowania, które odróżniają zakazany rozwój od dozwolonego wdrażania, ewaluacji, badań akademickich i eksperymentów na mniejszą skalę.

System potrzebowałby mechanizmu uruchamiającego. Rząd mógłby interweniować, gdy model przejdzie niebezpieczną ewaluację cyberbezpieczeństwa, zautomatyzuje określoną część badań nad AI lub będzie wykonywał złożone zadania przez dłuższy czas. Każda z tych opcji rodzi spory dotyczące pomiaru i egzekwowania.

Potrzebna byłaby także zasada wyjścia. Przerwa bez jasnych warunków wznowienia rozwoju może stać się trwała wskutek politycznej inercji. Słaba zasada wyjścia mogłaby pozwolić uczestnikom wznowić pracę, zanim zmieni się podstawowe ryzyko.

Wreszcie jakiś organ musi zdecydować, czy próg został osiągnięty. Laboratorium nie może wiarygodnie pełnić roli jedynego sędziego własnych modeli. Agencja krajowa może nie mieć dostępu za granicą, podczas gdy wynegocjowanie i sfinansowanie organu międzynarodowego wymaga czasu.

Te szczegóły wyjaśniają, dlaczego petycja wzywa do stworzenia narzędzi, zamiast do natychmiastowego spowolnienia. Jej autorzy próbują stworzyć możliwość, która obecnie nie istnieje.

Propozycja bardziej przypomina przygotowania do kontroli zbrojeń niż zwykłe regulacje produktów. Wymaga wspólnych pomiarów, procedur inspekcyjnych, kanałów komunikacji i konsekwencji za ukrywanie działań. Tych elementów nie da się zbudować w trakcie szybko rozwijającego się kryzysu technicznego.

Stanowisko Anthropic jasno przedstawia ten kompromis. Firma twierdzi, że rozważyłaby spowolnienie lub tymczasową przerwę, gdyby inni twórcy działający blisko granicy możliwości zrobili to w sposób możliwy do zweryfikowania.

Warunek ten jest uzasadniony, ale wymagający. Mechanizm, który działa tylko wtedy, gdy współpracuje każdy ważny rywal, może zawieść z powodu jednego podmiotu odmawiającego współpracy, jednego ukrytego programu lub jednego sporu o pomiary możliwości.

Alternatywa nie jest łatwiejsza. Jednostronna powściągliwość może stać się transferem przewagi konkurencyjnej od najbardziej ostrożnej organizacji do najmniej ostrożnej. Rezultatem może być szybszy rozwój przy słabszych zabezpieczeniach.

Szerokie poparcie dla petycji pokazuje, że badacze dostrzegają ten problem zbiorowego działania. Nie dowodzi jednak, że rządy lub firmy go rozwiązały.

Petycja nie jest hamulcem dla AI

Najsilniejsza krytyka jest prosta: Anthropic popiera rozwiązanie, nie określając, jak miałoby ono działać.

List nie zawiera szczegółowej propozycji politycznej. Nie określa działań rozwojowych objętych spowolnieniem, progów zdolności, których dotyczy, ani krajów niezbędnych do zawarcia wiarygodnego porozumienia.

Nie wyjaśnia też, czy „spowolnienie” oznacza opóźnienie publicznej premiery, ograniczenie procesu trenowania, restrykcje dotyczące mocy obliczeniowej czy wstrzymanie automatyzacji badań. Te interwencje wiązałyby się z różnymi kosztami i wymogami egzekwowania.

Opóźnienie premiery dałoby laboratoriom więcej czasu na ewaluację, ale niekoniecznie spowolniłoby wewnętrzny rozwój zdolności. Ograniczenie trenowania głębiej ingerowałoby w badania, lecz wymagałoby inwazyjnego monitorowania.

Limity dotyczące zautomatyzowanych badań napotkałyby problem klasyfikacji. Asystenci programistyczni już teraz wspierają zwykłą inżynierię, przeglądy bezpieczeństwa i ocenę modeli. Regulatorzy musieliby odróżnić nieszkodliwą pomoc od systemów zdolnych istotnie przyspieszać rozwój kolejnych generacji.

Krytycy pytają również, dlaczego laboratoria potrzebują rządu, by ograniczał pracę, nad którą same sprawują kontrolę. Były dyrektor Microsoftu Steven Sinofsky argumentował, że pracownicy zaniepokojeni kierunkiem swoich firm mogą odejść lub szukać innej pracy.

Ta krytyka pomija część logiki petycji. Jeden pracownik ani jedna firma nie są w stanie zatrzymać wyścigu między wieloma przedsiębiorstwami. Mimo to ujawnia ona rzeczywistą lukę w rozliczalności, jeśli zwolennicy domagają się interwencji publicznej, nie proponując dobrowolnych działań we własnych organizacjach.

Laboratoria mogłyby publikować wspólne ewaluacje, ujawniać więcej informacji o badaniach wspomaganych przez AI i ustanowić wspólne raportowanie incydentów, zanim zadziałają rządy. Mogłyby także uzgodnić wstępne progi ostrzegawcze bez natychmiastowego ograniczania rozwoju.

Komentarz Schulmana dotyczący petycji wspiera ten kierunek. Powiedział, że laboratoria powinny zacząć dobrowolnie projektować mechanizmy koordynacji, jeszcze przed zaangażowaniem rządu USA.

Kolejna obawa dotyczy siły rynkowej. Złożone licencjonowanie, monitorowanie mocy obliczeniowej i obowiązkowe systemy ewaluacji mogłyby faworyzować firmy, które już kontrolują rozległą infrastrukturę. Mniejsze laboratoria i niezależni badacze mogliby mieć trudności ze spełnieniem wymogów.

Reżim spowalniania mógłby zatem ograniczyć konkurencję, pozostawiając największe firmy u steru zaawansowanych systemów. Ta możliwość zasługuje na uwagę, ponieważ firmy ostrzegające przed ryzykiem związanym z modelami granicznymi mają również silne interesy komercyjne.

Szersze stanowisko Anthropic w sprawie polityki zaostrza tę kontrolę. Firma popiera silniejsze ograniczenia dotyczące zaawansowanych modeli, jednocześnie nadal udostępniając coraz bardziej zdolne systemy Claude.

Takie zachowanie nie musi być sprzeczne. Firma może uważać, że konkurencyjny rozwój powinien trwać, dopóki nie istnieje skoordynowana alternatywa. Może także opowiadać się za zasadami, które jednakowo dotyczą rywali.

Układ ten tworzy jednak oczywisty test wiarygodności. Anthropic musi wykazać, że preferowane przez nią ograniczenia dotyczą mierzalnych zagrożeń, a nie technologii lub konkurentów zagrażających jej pozycji rynkowej.

Niedawne stanowisko firmy w sprawie modeli o otwartych wagach ilustruje to napięcie. Systemy o otwartych wagach pozwalają użytkownikom pobierać i modyfikować parametry modeli. Zwolennicy twierdzą, że poprawiają one dostęp, badania, konkurencję i krajową kontrolę nad technologią.

Anthropic argumentuje, że najzdolniejsze otwarte systemy mogą stać się trudne do ograniczenia po udostępnieniu. Firma odmówiła podpisania odrębnego listu branżowego sprzeciwiającego się szerokim ograniczeniom dotyczącym otwartych wag, pozostając odizolowana od kilku dużych firm technologicznych.

Podział w polityce branżowej nie podważa argumentacji Anthropic dotyczącej bezpieczeństwa. Pokazuje jednak, że znaczenie „odpowiedzialnego spowalniania” będzie przedmiotem sporów.

Meta, Nvidia i zwolennicy otwartych modeli będą sprzeciwiać się zasadom stawiającym systemy możliwe do pobrania w strukturalnie niekorzystnej pozycji. Laboratoria modeli zamkniętych będą argumentować, że nieodwracalne premiery wymagają szczególnego traktowania.

Rządy muszą rozwiązać ten spór, nie pozwalając firmom pisać zasad pod własne modele biznesowe. W przeciwnym razie ramy bezpieczeństwa mogą stać się polityką przemysłową faworyzującą grupę mającą najsilniejszy dostęp do regulatorów.

Petycję należy zatem odczytywać jako prośbę o rozpoczęcie projektowania instytucjonalnego, a nie jako dowód, że istnieje wykonalny system. Jej wartość polega na wskazaniu brakującego hamulca. Jej słabością jest brak planu inżynieryjnego, jak go zbudować.

Co stanowisko Anthropic oznacza dla użytkowników i firm korzystających z AI

Bezpośrednim skutkiem nie jest wolniejszy harmonogram premier Claude. Jest nim większa niepewność co do tego, jak systemy graniczne będą oceniane, regulowane i kupowane.

Deweloperzy nie powinni oczekiwać, że petycja zatrzyma ulepszanie modeli w przyszłym miesiącu. Nie tworzy ona wiążącego obowiązku, a Anthropic nie ogłosiło przerwy powiązanej z poparciem dla niej.

Zmiana w krótkim okresie pojawi się w dyskusjach politycznych. Rządy mogą teraz wskazywać na publiczne poparcie pracowników i liderów konkurujących laboratoriów, proponując wymogi dotyczące ewaluacji lub monitorowania.

Nabywcy korporacyjni powinni śledzić te dyskusje, ponieważ zarządzanie modelami wpływa na zakupy. Firma integrująca systemy graniczne z programowaniem, badaniami, obsługą klienta lub bezpieczeństwem musi wiedzieć, czy przyszłe wydania mogą napotkać opóźnienia albo ograniczenia użytkowania.

Nabywcy powinni także odróżniać wydajność modelu od ciągłości jego dostępności. System o najwyższych wynikach nie jest automatycznie najbezpieczniejszą długoterminową zależnością, jeśli dostęp może się zmienić po ewaluacji, sporze regulacyjnym lub incydencie bezpieczeństwa.

Zespoły mogą ograniczyć tę ekspozycję, utrzymując procesy pracy niezależne od konkretnego modelu. Powinny przechowywać prompty, ewaluacje, materiały źródłowe i rejestry decyzji poza interfejsem pojedynczego dostawcy.

Ma to znaczenie, gdy model zmienia zachowanie lub staje się niedostępny. Przeszukiwalna techniczna baza wiedzy może zachować kontekst potrzebny do porównania zamienników bez odtwarzania każdej decyzji.

Zespoły programistyczne powinny również tworzyć własne testy akceptacyjne. Benchmarki dostawców rzadko odzwierciedlają rzeczywistą bazę kodu firmy, jej tolerancję ryzyka, proces zatwierdzania lub obowiązki regulacyjne.

Jeśli zautomatyzowane badania będą rozwijać się zgodnie z przewidywaniami Anthropic, cykle aktualizacji staną się trudniejsze do zarządzania. Model może zyskać istotne zdolności między zaplanowanymi przeglądami bezpieczeństwa lub punktami kontrolnymi zakupów.

Przedsiębiorstwa będą potrzebować szybszych procesów ewaluacji, nie rezygnując przy tym z ludzkiej odpowiedzialności. Obejmuje to testowanie zachowania modeli, dokumentowanie zmian i określanie zadań wymagających zatwierdzenia.

Pracownicy umysłowi stają przed pokrewnym problemem. Szybsze systemy mogą generować więcej analiz, kodu i dokumentów, niż zespoły są w stanie przejrzeć. Wielkość produkcji staje się ryzykiem, gdy zdolność ludzi do weryfikacji pozostaje stała.

Własne statystyki Anthropic dotyczące kodu ilustrują tę nierównowagę. Osiem razy więcej scalonego kodu nie oznacza osiem razy więcej ludzkiej uwagi poświęconej bezpieczeństwu, architekturze i utrzymaniu.

Organizacje powinny mierzyć korygowanie błędów, czas przeglądu, incydenty i wartość w dalszym łańcuchu wraz z wygenerowanym wynikiem. W przeciwnym razie pozorny wzrost produktywności może ukrywać dodatkową pracę weryfikacyjną.

Zespoły bezpieczeństwa mają najsilniejszy powód, by zwrócić na to uwagę. Automatyzacja badań może pomóc obrońcom odkrywać luki, ale może też obniżyć koszt eksperymentów ofensywnych.

Mechanizm spowalniania może ostatecznie najpierw koncentrować się na zdolnościach cybernetycznych, ponieważ można je oceniać za pomocą kontrolowanych ćwiczeń. Wpłynęłoby to na sposób, w jaki laboratoria udostępniają agentowe narzędzia do programowania lub przyznają dostęp do swoich najzdolniejszych modeli.

Dla indywidualnych użytkowników petycja jest przede wszystkim sygnałem dotyczącym zarządzania. Mówi, że osoby budujące systemy graniczne coraz częściej uważają tempo rozwoju za zmienną polityczną, a nie nieuniknioną siłę natury.

Kluczowe sformułowanie to „możliwość kupienia czasu”. Zwolennicy nie twierdzą, że każdy postęp powinien zostać zatrzymany. Argumentują, że społeczeństwo powinno mieć możliwość reagowania, gdy mierzone ryzyka rosną szybciej, niż instytucje potrafią się dostosować.

To, czy taka możliwość chroni użytkowników, zależy od jej projektu. Przejrzysty mechanizm mógłby zapewnić więcej czasu na ewaluację podczas niebezpiecznych zmian. Nieprzejrzysty mechanizm mógłby scentralizować kontrolę, oferując niewiele niezależnych dowodów na wzrost bezpieczeństwa.

Trzy sygnały pokażą, czy spowalnianie stanie się rzeczywistością

Kolejnym testem będzie to, czy Anthropic i inni zwolennicy przełożą krótkie oświadczenie na progi, metody weryfikacji i udział międzynarodowy.

Pierwszym sygnałem jest konkretny próg ewaluacji. Dział badawczy Anthropic planuje w nadchodzących miesiącach zwołać decydentów, badaczy, organizacje społeczeństwa obywatelskiego i konkurujące laboratoria.

Rozmowy te powinny przynieść coś więcej niż ogólne zasady. Wiarygodna propozycja potrzebuje obserwowalnych warunków uzasadniających interwencję. Mogłyby one dotyczyć autonomicznej wydajności badawczej, niebezpiecznych zdolności cybernetycznych lub trwałego działania bez ludzkiej korekty.

Wybrane pomiary muszą wytrzymać niezależną kontrolę. Wewnętrzne dane Anthropic dotyczące produktywności są pouczające, ale firma nie może ustanawiać polityki publicznej wyłącznie na podstawie prywatnych dowodów.

Zewnętrzni ewaluatorzy potrzebują dostępu do systemów, metod i powtarzalnych wyników. Potrzebują także jasnych procedur postępowania z wrażliwymi zdolnościami bez publikowania instrukcji zwiększających ryzyko niewłaściwego użycia.

Publiczny próg wzmocniłby argumentację Anthropic, ponieważ przekształciłby „zbyt szybko” w twierdzenie możliwe do przetestowania. Dalsze poleganie na szerokich ostrzeżeniach osłabiłoby ją.

Drugim sygnałem jest propozycja weryfikacji obejmująca międzynarodowych konkurentów. Głównym problemem nie jest przekonanie Anthropic do wstrzymania prac. Jest nim ustalenie, czy inne programy graniczne również zwolniły.

Wykonalna propozycja musi wyjaśniać, co można monitorować, które podmioty otrzymują dostęp i jak wykrywa się naruszenia. Musi uwzględniać komercyjną infrastrukturę chmurową, prywatne centra danych i programy rządowe.

Chiny są kluczowe dla tej kwestii, ale nie powinny stać się wymówką dla unikania wstępnych prac. Amerykańskie firmy i agencje mogą opracowywać standardy pomiaru, zanim powstanie pełne porozumienie dyplomatyczne.

Monitorowanie techniczne może również się poprawiać bez natychmiastowego tworzenia wiążących ograniczeń. Laboratoria mogłyby rejestrować duże procesy trenowania, udostępniać ustandaryzowane wyniki ewaluacji albo zgłaszać wyjątkowo zdolnych agentów badawczych niezależnemu organowi.

Takie środki nie gwarantowałyby zgodności. Pomogłyby ujawnić, czy problem weryfikacji jest możliwy do opanowania, czy zasadniczo niezgodny z obecną infrastrukturą.

Znaczący udział deweloperów spoza USA wzmocniłby argument za spowalnianiem. Plan ograniczony do krajowych firm pozostawiłby nierozwiązane główne ryzyko konkurencyjne.

Trzecim sygnałem są dobrowolne działania zwolenników petycji. Anthropic, OpenAI i inne laboratoria nie potrzebują traktatu, aby poprawić przejrzystość lub koordynować ewaluacje.

Mogą opublikować definicje zautomatyzowanych badań nad AI, wskazać wskaźniki ostrzegawcze i opisać wewnętrzne procedury eskalacji. Mogą również ujawniać, kiedy model istotnie zmienia tempo rozwoju kolejnych generacji.

Anthropic już przedstawiło więcej wewnętrznych dowodów niż większość konkurentów. Następny krok powinien połączyć te dowody z decyzjami. Czytelnicy muszą wiedzieć, jaka zaobserwowana zmiana skłoniłaby firmę do opóźnienia trenowania, wdrożenia lub premiery.

Dobrowolne zobowiązania nie zastąpiłyby nadzoru rządowego. Pokazałyby, że zwolennicy traktują spowalnianie jako operacyjny projekt bezpieczeństwa, a nie stanowisko public relations.

Brak działania wzmocniłby argument krytyków. Laboratoria nadal prowadziłyby wyścig, prosząc rządy o rozwiązanie problemu, którego same nie przełożyły na praktyczne mechanizmy kontroli.

Petycja osiągnęła jeden ważny cel. Pokazała, że obawy dotyczące zautomatyzowanego rozwoju AI przekraczają granice firm, ról technicznych i wieloletnich podziałów politycznych.

Nie stworzyła jednak hamulca, o który zabiega. Nie istnieje wspólny mechanizm uruchamiający, nie działa międzynarodowy system weryfikacji, a żadna instytucja nie może jeszcze narzucić skoordynowanej pauzy.

Ta luka jest teraz sednem historii. Anthropic publicznie przyznał, że rozwój systemów z czołówki może wymagać celowego spowolnienia, ale jego poparcie podnosi poprzeczkę dla tego, co powinno nastąpić dalej.

Warto obserwować publikowane progi, propozycje międzynarodowego monitoringu oraz dobrowolne zobowiązania laboratoriów. Jeśli się pojawią, petycja zapoczątkuje proces zarządzania. Jeśli nie, Anthropic pozostanie w tym samym wyścigu — będzie wzywać do hamowania, podczas gdy każdy konkurent nadal będzie przyspieszać.