Plan Anthropic dotyczący niezależnych ewaluatorów AI zyskuje poparcie OpenAI, ale kluczowy będzie dostęp
Niezależni ewaluatorzy AI Anthropic przeszli od koncepcji politycznej do publicznego zobowiązania 12 września 2026 roku, mimo ostrej konkurencji między laboratoriami pracującymi nad AI graniczną. Dyrektor generalny Dario Amodei stwierdził, że zewnętrzne zespoły powinny otrzymać stały dostęp, zbliżony do dostępu pracowników, do praktyk bezpieczeństwa, incydentów, procesów szkolenia i zaawansowanych systemów. Dyrektor generalny OpenAI Sam Altman szybko oświadczył, że jego firma podejmie takie samo zobowiązanie.
To porozumienie ma większe znaczenie niż kolejna obietnica testowania modeli przed ich wydaniem. Anthropic proponuje zewnętrznych obserwatorów, którzy pozostaną na tyle blisko, by badać, jak decyzje dotyczące bezpieczeństwa powstają wewnątrz laboratorium. Biurka, identyfikatory dostępu, firmowe laptopy i bezpośredni kontakt z badaczami miałyby zastąpić krótkie okresy testów, które często definiują zewnętrzne ewaluacje.
Propozycja tworzy również natychmiastowy test wiarygodności dla obu firm. Dostęp zbliżony do pracowniczego brzmi znacząco, lecz żadna z firm nie opublikowała pełnych zasad dotyczących wyboru ewaluatorów, poufności, praw do raportowania ani spornych ustaleń. Model niezależnej ewaluacji AI będzie miał znaczenie tylko wtedy, gdy ewaluatorzy będą mogli badać niewygodne dowody i przedstawiać istotne wnioski.
Niezależni ewaluatorzy AI Anthropic badaliby więcej niż gotowe modele
Anthropic proponuje stałą obserwację procesu rozwoju, a nie kolejną jednorazową ocenę przed premierą.
Amodei przedstawił to zobowiązanie w swoim wrześniowym eseju z 2026 roku o wyznaczaniu tempa. Argumentował, że możliwości modeli rozwijają się szybciej niż mechanizmy alignmentu, monitorowania i kontroli bezpieczeństwa. W jego ujęciu wyznaczanie tempa nie oznacza zakończenia rozwoju modeli. Oznacza pozostawienie wystarczającej ilości czasu na zabezpieczenia i weryfikację, zanim silniejsze możliwości zostaną rozwinięte dalej.
Pierwszy krok jego trzyczęściowej propozycji obejmuje osadzonych ewaluatorów. Każdy twórca AI granicznej miałby zapewnić niezależnemu zespołowi stały dostęp przypominający dostęp pracowników. Zespół weryfikowałby zgodność z zobowiązaniami dotyczącymi bezpieczeństwa, zgłaszał incydenty oraz oceniał zarówno ukończone modele, jak i procesy, które je tworzą.
Ten zakres stanowi istotną zmianę. Zewnętrzne ewaluacje modeli zwykle koncentrują się na konkretnym systemie w ograniczonym okresie przed premierą. Ewaluatorzy otrzymują dostęp, przeprowadzają uzgodnione testy, dokumentują wyniki i zwracają kontrolę twórcy. Ich praca może ujawnić niebezpieczne możliwości, ale oferuje jedynie migawkę sytuacji.
Osadzony dostęp rozszerzyłby obszar kontroli. Ewaluatorzy mogliby badać, czy wewnętrzne zespoły przestrzegały zasad testowania, właściwie reagowały na sygnały ostrzegawcze i dokumentowały wyjątki. Mogliby obserwować, jak zabezpieczenia zmieniają się w miarę kontynuowania szkolenia, zamiast oceniać wyłącznie gotowy system przedstawiony do oceny.
Amodei powiedział, że Anthropic planuje zapewnić biurka, identyfikatory, laptopy i dostęp do odpowiednich pracowników. Opisywane zobowiązanie obejmuje również monitorowanie praktyk bezpieczeństwa i zgłaszanie incydentów. Szczegóły te wskazują na fizyczną i organizacyjną obecność, choć nie ustanawiają nieograniczonego dostępu technicznego.
To rozróżnienie ma znaczenie, ponieważ modele graniczne coraz częściej działają w złożonych systemach. Korzystają z narzędzi programowych, zachowują kontekst przez kilka etapów i działają w kontrolowanych środowiskach. Zachowanie modelu może zależeć od jego promptu systemowego, uprawnień, rusztowania, narzędzi monitorujących i dostępnych zasobów obliczeniowych.
Ewaluator testujący wyłącznie publiczny interfejs widzi końcową warstwę. Osadzony ewaluator może zbadać, jak twórcy skonfigurowali tę warstwę i co wydarzyło się podczas testów wewnętrznych. Taki szerszy ogląd może ujawnić błędy niewidoczne w dopracowanej demonstracji lub standardowym benchmarku.
OpenAI już wcześniej uznało ten problem ewaluacyjny. Jego podręcznik ewaluacji z maja 2026 roku stwierdza, że współczesne oceny muszą uwzględniać środowiska, narzędzia i przepływy pracy. Traktowanie zaawansowanego agenta jak zwykłego chatbota może prowadzić do wyników, które nie odzwierciedlają jego rzeczywistych warunków działania.
Zobowiązanie OpenAI jest więc zgodne z wcześniej deklarowanymi zasadami ewaluacji. Poparcie dla koncepcji nie jest jednak tym samym co ustanowienie działającego programu. Firmy muszą jeszcze określić, które systemy, rejestry, osoby i środowiska wewnętrzne niezależne zespoły będą mogły kontrolować.
Propozycję należy także oddzielić od szerszego wezwania do spowolnienia postępu AI granicznej. Osadzona ewaluacja jest konkretnym zobowiązaniem, które każda firma może wdrożyć niezależnie. Koordynacja branżowa, zabezpieczenia antymonopolowe i umowy międzynarodowe wymagają wspólnego działania rządów i konkurentów.
To sprawia, że dostęp ewaluatorów jest najwcześniejszą możliwą do zweryfikowania częścią agendy Amodeiego. Anthropic i OpenAI nie potrzebują traktatu, aby opublikować kryteria wyboru lub zasady dostępu. Mogą zacząć od wskazania ewaluatorów, ustanowienia ochrony praw do raportowania i opublikowania zakresu programu.
Dlaczego zgoda OpenAI podnosi stawkę
Poparcie OpenAI zmienia propozycję Anthropic w konkurencyjny standard, który inne laboratoria AI granicznej muszą teraz zaakceptować, dorównać mu lub publicznie odrzucić.
Altman powiedział, że zgadza się z Amodeim w kwestii wyznaczania tempa rozwoju AI granicznej. Według Associated Press zobowiązał również OpenAI do zapewnienia niezależnym ewaluatorom dostępu zbliżonego do pracowniczego. Reakcja nadeszła wystarczająco szybko, by zmienić tę historię z deklaracji politycznej Anthropic w wyzwanie dla całej branży.
Obie firmy konkurują o badaczy, klientów korporacyjnych, moce obliczeniowe i pozycję lidera w zaawansowanych modelach. Ta rywalizacja czyni ich porozumienie godnym uwagi. Zobowiązania dotyczące bezpieczeństwa często słabną, gdy jeden uczestnik uzna, że inny może zyskać przewagę, ignorując je.
Analogiczna obietnica OpenAI zmniejsza ten natychmiastowy sprzeciw. Anthropic nie może być przedstawiane jako jedyny duży twórca akceptujący stałą kontrolę. OpenAI z kolei staje wobec presji, aby przełożyć poparcie Altmana na warunki co najmniej tak konkretne jak proponowany przez Anthropic model.
Inni twórcy stoją teraz przed jaśniejszym pytaniem. Google DeepMind, Meta, xAI i kolejne laboratoria AI granicznej muszą zdecydować, czy osadzony dostęp stanie się wspólnym oczekiwaniem. Milczenie pozostawia ich poza standardem popieranym przez dwóch uważnie obserwowanych konkurentów.
Ta presja wpłynie na coś więcej niż komunikację publiczną. Klienci korporacyjni coraz częściej potrzebują dowodów dotyczących zarządzania modelami, reagowania na incydenty i kontroli wdrożeń. Twórca dysponujący wiarygodną zewnętrzną kontrolą może zaoferować kupującym dodatkowe źródło pewności poza własnymi kartami systemów i raportami bezpieczeństwa.
Twórcy są również pod presją wewnętrzną ze strony badaczy, którzy identyfikują poważne zagrożenia. Osadzeni ewaluatorzy mogą zapewnić kanał dla dowodów, który nie zależy całkowicie od publikacji kontrolowanej przez kierownictwo. Taki kanał ma znaczenie tylko wtedy, gdy pracownicy mogą zwracać się do ewaluatorów bez odwetu lub proceduralnych przeszkód.
Potencjalne korzyści obejmują także regulatorów. Agencje rządowe rzadko dysponują personelem, infrastrukturą lub natychmiastowym dostępem wymaganymi do odtworzenia każdej ewaluacji AI granicznej. Wykwalifikowane organizacje zewnętrzne mogą zapewnić techniczną kontrolę pomiędzy przeglądem wewnętrznym a formalnym egzekwowaniem regulacji.
Ewaluator nie może jednak stać się substytutem władzy publicznej. Prywatny zespół oceniający nie może nakładać wiążących kar, chyba że takie uprawnienie przyznaje mu prawo lub umowa. Nie może też rozstrzygać w imieniu społeczeństwa szerszych kwestii politycznych dotyczących akceptowalnego ryzyka.
Zobowiązanie OpenAI zwiększa oczekiwania, ponieważ firma wcześniej poparła środki polityczne związane z niezależnymi ocenami bezpieczeństwa. Jej stanowisko w sprawie polityki AI z 9 września poparło propozycje Kalifornii dotyczące ocen bezpieczeństwa, standardów dla audytorów, ochrony młodzieży i ryzyk biologicznych. Firma poinformowała również, że będzie dążyć do dobrowolnych standardów AI granicznej wraz z innymi laboratoriami.
Nowa obietnica łączy te publiczne stanowiska z własną działalnością OpenAI. Popieranie przepisów dotyczących audytów jest łatwiejsze niż pozwalanie zewnętrznym specjalistom obserwować wewnętrzne spory. Dostęp zbliżony do pracowniczego sprawdzi, czy firma akceptuje kontrolę, gdy ustalenia opóźniają konkurencyjną premierę.
Anthropic stoi przed tym samym sprawdzianem. Tożsamość firmy od dawna podkreśla bezpieczeństwo, interpretowalność i odpowiedzialne skalowanie. Osadzeni ewaluatorzy mogą wzmocnić tę deklarację, lecz słabe wdrożenie stworzyłoby wyraźniejszą sprzeczność między pozycjonowaniem firmy a jej faktycznymi mechanizmami kontroli.
Bezpośrednim celem presji nie jest zatem rząd. Są nim laboratoria składające to zobowiązanie. Dobrowolnie podniosły one standard, według którego dziennikarze, badacze, klienci, pracownicy i decydenci mogą oceniać ich postępowanie.
Rzeczywisty kompromis dotyczy niezależności i dostępu od wewnątrz
Ewaluatorzy potrzebują głębokiego dostępu, aby zrozumieć systemy graniczne, lecz zależność od laboratorium może osłabić niezależność, która nadaje wartość ich ustaleniom.
Zewnętrzna ewaluacja zawsze wiązała się z problemem dostępu. Ograniczony dostęp chroni własność intelektualną, dane użytkowników, wagi modeli i mechanizmy kontroli bezpieczeństwa. Może również uniemożliwiać recenzentom poznanie dokładnych mechanizmów stojących za niebezpiecznym lub wprowadzającym w błąd zachowaniem.
Dostęp zbliżony do pracowniczego przesuwa sytuację w stronę drugiej skrajności. Ewaluatorzy mogliby obserwować wewnętrzne testy i regularnie rozmawiać z zespołami ds. bezpieczeństwa. Mogliby otrzymać kontekst techniczny, który zwiększyłby trafność ich wniosków. Mogliby także stać się finansowo, społecznie lub operacyjnie zależni od ocenianej firmy.
Tego napięcia nie da się rozwiązać przez nazwanie zespołu niezależnym. Relacja wymaga egzekwowalnych zabezpieczeń. Ewaluatorzy powinni mieć chronione finansowanie, stałe prawa do raportowania, bezpieczne kanały komunikacji i jasne uprawnienia do zabezpieczania istotnych dowodów.
Procedury wyboru również wymagają kontroli. Firma nie powinna móc wybierać wyłącznie recenzentów, którzy prawdopodobnie zaakceptują jej założenia. Rotacja między wykwalifikowanymi organizacjami mogłaby ograniczyć ryzyko nadmiernej zażyłości, a przejrzyste zasady kwalifikacji mogłyby zniechęcać do preferencyjnych nominacji.
Finansowanie stanowi kolejne wyzwanie. Ewaluacja AI granicznej wymaga personelu technicznego, bezpiecznych środowisk obliczeniowych i wyspecjalizowanych narzędzi testowych. Jeśli laboratorium pokrywa cały koszt, obserwatorzy mogą kwestionować, czy ewaluatorzy są w stanie publikować ustalenia szkodliwe dla tej relacji.
Finansowanie rządowe lub wspólne finansowanie branżowe mogłoby ograniczyć bezpośrednią zależność. Wspólne finansowanie wymaga jednak mechanizmów chroniących przed kształtowaniem rynku ewaluatorów przez dominujące firmy. Dotacje publiczne mogą wprowadzać inne naciski, w tym wpływy polityczne i powolne procedury zakupowe.
Równie ważne są prawa do publikacji. Ewaluatorzy napotkają poufne materiały, których nie można bezpiecznie umieścić w raporcie publicznym. Podatności modeli, szczegóły niebezpiecznych możliwości, prywatne informacje użytkowników i architektura bezpieczeństwa wymagają ostrożnego traktowania.
Poufność nie może stać się uniwersalnym powodem milczenia. Wiarygodne ramy powinny rozróżniać wrażliwe szczegóły techniczne od ogólnych ustaleń dotyczących zgodności, nierozwiązanych zagrożeń i reagowania na incydenty. Ewaluatorzy potrzebują drogi do zgłaszania poważnych obaw poza kierownictwem firmy.
Laboratorium potrzebuje również uczciwego procesu korygowania błędów merytorycznych. Oceny techniczne mogą generować fałszywie pozytywne wyniki, pomijać założenia dotyczące środowiska lub błędnie interpretować niepełne dane. Proces odpowiedzi poprawia dokładność, ale nie może dawać firmie prawa weta wobec publikacji.
Dokument z 2026 r. dotyczący ram bezpiecznego dostępu opisał leżący u podstaw dylemat bezpieczeństwa. Twórcy dysponują wrażliwymi informacjami o modelach, podczas gdy ewaluatorzy potrzebują wystarczającego dostępu, by prowadzić rzetelne oceny. Ewaluatorzy muszą też chronić prywatne metodologie, aby laboratoria nie mogły optymalizować modeli pod znane testy.
Wbudowany nadzór nasila oba rodzaje ryzyka. Ewaluator z dostępem wewnętrznym może przypadkowo ujawnić informacje zastrzeżone. Twórca mający wgląd w metody oceny może szkolić model bezpośrednio pod test, uzyskując wysokie wyniki bez szerszej poprawy bezpieczeństwa.
Pomóc może separacja techniczna. Bezpieczne środowiska ewaluacyjne mogą ograniczać przepływ danych, rejestrować dostęp i oddzielać materiały testowe od zespołów rozwojowych. Takie mechanizmy powinny chronić obie strony, nie pozwalając jednocześnie laboratorium monitorować każdej decyzji prowadzonego dochodzenia.
Najlepszy model nie będzie przypominał ani zwykłego wykonawcy, ani pracownika bez ograniczeń. Wymaga dostępu porównywalnego z dostępem osób wewnątrz organizacji, połączonego z zasadami zarządzania, które zachowują niezależność osądu. To trudne połączenie, lecz słabsze rozwiązanie grozi stworzeniem jedynie ceremonialnego nadzoru.
Dostęp jak dla pracownika nadal wymaga szczegółowego regulaminu
Propozycja pozostaje niepełna, dopóki Anthropic i OpenAI nie określą w praktycznych kategoriach dostępu, uprawnień, obsługi incydentów i ujawniania informacji publicznej.
Określenie „dostęp jak dla pracownika” ma siłę perswazji, ponieważ sugeruje bliskość. Nie wskazuje jednak, którego pracownika, jakich systemów ani jakich uprawnień dotyczy. Badacz zajmujący się zachowaniem modelu ma inny dostęp niż pracownik działu komunikacji czy odwiedzający wykonawca.
Dostęp techniczny powinien obejmować więcej niż publiczny punkt końcowy modelu. W zależności od oceny recenzenci mogą potrzebować promptów systemowych, uprawnień do narzędzi, wersji modeli, wyników monitorowania oraz zapisów testów niebezpiecznych zdolności. Dane treningowe i wagi modelu rodzą poważniejsze kwestie bezpieczeństwa i prawne.
Równie ważny jest dostęp do procesów. Ewaluatorzy muszą rozumieć, kto może zatwierdzić wdrożenie, co dzieje się po przekroczeniu progów oraz jak kierownictwo rozstrzyga spory. W przeciwnym razie mogą obserwować testy, nie widząc, jak wpływają one na decyzje.
Dostęp do informacji o incydentach zasługuje na odrębną zasadę. Laboratorium musi określić, co kwalifikuje się jako incydent, kiedy ewaluatorzy otrzymują powiadomienie i czy dozwolony jest przegląd retrospektywny. Opóźnione powiadomienie może uniemożliwić recenzentom zabezpieczenie logów lub rozmowy z odpowiednimi pracownikami.
Ewaluatorzy potrzebują również ochrony przed odebraniem dostępu. Firma nie powinna móc usunąć zespołu natychmiast po krytycznym ustaleniu. Umowy powinny określać warunki rozwiązania współpracy, sposób rozstrzygania sporów oraz dalsze prawo do raportowania prac ukończonych przed usunięciem.
Programy wymagają standardów dotyczących konfliktu interesów. Ewaluatorzy mogą doradzać kilku konkurującym laboratoriom, poszukiwać przyszłego zatrudnienia lub zależeć od finansowania przez twórców. Publiczne ujawnianie istotnych relacji może pomóc czytelnikom ocenić niezależność stojącą za każdym raportem.
Szersze ramy ryzyka Anthropic już wskazują, że twórcy modeli granicznych powinni angażować wykwalifikowanych niezależnych ewaluatorów. Wzywają również do publikowania przeglądów firmowych ocen i raportów dotyczących ryzyka. Wbudowany dostęp rozszerzyłby to podejście z okresowego przeglądu w kierunku stałego nadzoru instytucjonalnego.
Niepewne pozostaje jednak raportowanie publiczne. Ewaluator może opublikować szczegółowy raport, ograniczone oświadczenie zapewniające lub nic, chyba że wystąpi poważny incydent. Te formaty zapewniają bardzo różne poziomy rozliczalności.
Wąskie oświadczenie zapewniające mogłoby potwierdzić, że proces się odbył, bez ujawniania ustaleń ewaluatorów. Szczegółowy przegląd mógłby opisywać testowane ryzyka, ograniczenia, spory i działania naprawcze. Druga opcja ma większą wartość, lecz wiąże się z większymi obawami dotyczącymi bezpieczeństwa i odpowiedzialności prawnej.
Procedury rozstrzygania sporów pokażą, jak poważne jest to zobowiązanie. Załóżmy, że ewaluatorzy zalecają opóźnienie wdrożenia, podczas gdy kierownictwo uważa mechanizmy kontroli za wystarczające. Czytelnicy muszą wiedzieć, kto decyduje, czy zdanie odrębne staje się publiczne i jaka dokumentacja pozostaje.
Żaden prywatny ewaluator nie może zagwarantować, że model jest bezpieczny. Systemy graniczne działają w zmieniających się środowiskach i wchodzą w interakcje z użytkownikami odkrywającymi nowe tryby awarii. Ewaluacja może zmniejszać niepewność, identyfikować zagrożenia i testować mechanizmy kontroli, ale nie może wyeliminować ryzyka.
To ograniczenie powinno pojawiać się w każdym publicznym opisie programu. Firma nie może wykorzystywać obecności ewaluatora jako szerokiej certyfikacji. Twierdzenie powinno pozostać konkretne wobec systemów, warunków, testów i dat faktycznie zbadanych.
Definicji wymagają również standardy kompetencji ewaluatorów. Zespoły mogą potrzebować wiedzy z zakresu cyberbezpieczeństwa, zagrożeń biologicznych, autonomicznych agentów, interpretowalności oraz zarządzania organizacyjnego. Żadna pojedyncza organizacja nie musi obejmować każdego obszaru ryzyka.
Model z udziałem wielu ewaluatorów mógłby zapewnić silniejsze pokrycie. Jedna organizacja mogłaby testować niebezpieczne zdolności, a inna analizować zarządzanie i reakcję na incydenty. Wzajemna weryfikacja może ograniczyć zależność od jednej metodologii lub jednego osądu instytucjonalnego.
Dlatego kolejną użyteczną publikacją którejkolwiek z firm nie powinno być następne oświadczenie poparcia. Powinien to być statut programu z przypisanymi odpowiedzialnościami, określonymi poziomami dostępu, chronionymi kanałami raportowania oraz datą uruchomienia.
Dobrowolny nadzór może zwiększyć zaufanie bez zakończenia wyścigu AI
Propozycja Anthropic może ujawnić luki w bezpieczeństwie, ale nie usuwa komercyjnych i geopolitycznych zachęt skłaniających laboratoria do szybszego rozwoju.
Szersza argumentacja Amodeiego zaczyna się od przyspieszenia zdolności. Twierdzi on, że systemy AI coraz częściej przyczyniają się do budowania kolejnych systemów — dynamiki nazywanej rekurencyjnym samodoskonaleniem. W tym kontekście modele wspierają badania, programowanie, testowanie i optymalizację, które z kolei zasilają dalszy rozwój.
To twierdzenie nie oznacza, że autonomiczna maszyna samodzielnie przeprojektowuje się bez kontroli człowieka. Opisuje pętlę rozwojową, w której AI zwiększa produktywność badań. Szybsze badania mogą skracać czas dostępny na ewaluację, monitorowanie i prace nad bezpieczeństwem.
Amodei przytoczył również niepowodzenia związane z autonomicznymi agentami i testami cybernetycznymi. Jego esej ostrzega, że bardziej zdolna, źle ukierunkowana rójka mogłaby spowodować poważne szkody w całym internecie. Ta prognoza jest jego oceną, a nie niezależnie ustaloną osią czasu.
To rozróżnienie ma znaczenie, ponieważ skrajne przewidywania mogą odciągać uwagę od bieżących kwestii zarządzania. Ewaluatorzy nie muszą zgadzać się co do precyzyjnej prognozy katastrofy, aby badać obecne incydenty, kontrole dostępu i procedury wdrażania. Istniejąca niepewność już uzasadnia lepsze dowody.
Kluczowy zarzut dotyczy dobrowolnej koordynacji. Firmy mogą obiecywać regulowanie tempa rozwoju, jednocześnie różnie interpretując to tempo. Jedno laboratorium może opóźniać wdrożenie, inne kontynuować wewnętrzne szkolenie, a trzecie uznać dodatkowe monitorowanie za wystarczające.
Amodei przyznaje, że istnieje problem konkurencji. Jego drugi proponowany krok wymaga ogólnobranżowej koordynacji bezpieczeństwa, potencjalnie wspartej zwolnieniami z przepisów antymonopolowych. Trzeci zależy od współpracy między demokratycznymi rządami a geopolitycznymi konkurentami.
Te kroki napotykają znacznie większe przeszkody niż wbudowana ewaluacja. Rządy mogą odrzucać ograniczenia, które ich zdaniem osłabiają konkurencyjność kraju. Konkurencyjne laboratoria mogą podejrzewać, że standardy bezpieczeństwa chronią obecnych liderów, podnosząc koszty dla mniejszych twórców.
Krytycy mogą zasadnie pytać, czy uznane firmy korzystają na regulacjach, na które mniejszych konkurentów nie stać. Niezależna ewaluacja wymaga specjalistycznych kompetencji, bezpiecznej infrastruktury i czasu. Źle zaprojektowane nakazy mogłyby umocnić laboratoria dysponujące już największym kapitałem i zasobami obliczeniowymi.
Ta obawa nie unieważnia nadzoru. Oznacza, że standardy powinny być proporcjonalne do ryzyka i w stosownych przypadkach zapewniać wspólną infrastrukturę ewaluacyjną. Kwalifikacja powinna zależeć od kompetencji technicznych, a nie od komercyjnej relacji ewaluatora z największym twórcą.
Kolejną obawą jest przejęcie regulacyjne. Niewielka grupa laboratoriów i faworyzowanych ewaluatorów mogłaby definiować akceptowalne ryzyko bez szerszego udziału społeczeństwa. Ich standardy mogłyby stać się wpływowe, zanim ustawodawcy ustanowią demokratyczną rozliczalność.
Przejrzystość może zmniejszyć to zagrożenie. Rządy, środowiska akademickie, organizacje społeczeństwa obywatelskiego i dotknięte branże powinny uczestniczyć w definiowaniu kwalifikacji ewaluatorów oraz oczekiwań dotyczących raportowania. Publikowane spory ujawniłyby również, gdzie kończy się prywatny konsensus.
Propozycja napotyka także ograniczenie geopolityczne. Spowolnienie ograniczone do wybranych amerykańskich firm nie musiałoby ograniczać twórców w innych miejscach. Amodei twierdzi, że kraje demokratyczne muszą koordynować działania z rządami autorytarnymi, lecz taka weryfikacja byłaby trudna.
OpenAI i Anthropic nadal mogą poprawiać własne praktyki bez rozwiązania problemu międzynarodowej koordynacji. Wbudowani ewaluatorzy mogą wykrywać błędy procesowe i dokumentować, czy każda firma przestrzega deklarowanych zasad. Nie mogą zweryfikować nieujawnionych prac w niezwiązanych laboratoriach.
Rezultatem jest użyteczna, lecz ograniczona interwencja. Niezależni ewaluatorzy AI mogą poprawić rozliczalność wewnątrz uczestniczących firm. Nie mogą rozstrzygnąć wyścigu AI, ustalić globalnej polityki ani zagwarantować, że każdy konkurent zaakceptuje te same ograniczenia.
Czytelnicy powinni zatem oprzeć się dwóm przesadzonym interpretacjom. Propozycja nie jest wiążącym spowolnieniem w całej branży. Jest też czymś bardziej znaczącym niż zwykły przekaz o bezpieczeństwie, jeśli obiecany dostęp stanie się rzeczywisty i trwały.
Dla klientów korporacyjnych praktyczne pytanie dotyczy dowodów. Nabywcy oceniający zaawansowane systemy powinni pytać, jakie ryzyka zostały przetestowane zewnętrznie, jaki dostęp otrzymali recenzenci oraz czy ujawniono nierozwiązane kwestie. Etykieta bezpieczeństwa bez zakresu ewaluacji daje niewiele wskazówek.
Zespoły powinny zachować tę samą dyscyplinę we własnych wdrożeniach. Potrzebują zapisów wersji modeli, promptów, uprawnień, wyników testów i decyzji zatwierdzających. Przeszukiwalna baza wiedzy może wspierać tę ścieżkę audytową, nie zastępując formalnych mechanizmów kontroli ryzyka.
Trzy sygnały pokażą, czy zobowiązanie jest realne
Kolejnym testem jest wdrożenie: wskazani ewaluatorzy, egzekwowalne prawa do raportowania oraz przyjęcie rozwiązania poza Anthropic i OpenAI.
Pierwszym sygnałem jest publiczny statut programu. Anthropic i OpenAI powinny wskazać uczestniczących ewaluatorów, zdefiniować dostęp jak dla pracownika oraz podać datę wdrożenia. Statut powinien także wyjaśniać, które etapy rozwoju modelu wchodzą w zakres programu.
Taka publikacja wzmocniłaby zobowiązanie, ponieważ osoby z zewnątrz mogłyby porównać działania z określonymi obietnicami. Ogólnikowe memorandum lub nienazwany pilotaż osłabiłyby je. Bez dat i zakresu ani pracownicy, ani opinia publiczna nie mogą zidentyfikować nieprzestrzegania zasad.
Drugim sygnałem są dowody niezależnego raportowania. Ewaluatorzy powinni publikować metody, ograniczenia, najważniejsze ustalenia oraz wszelkie nierozwiązane spory, które można bezpiecznie ujawnić. Raporty powinny określać, jakich systemów i okresów rozwoju dotyczyły.
Raport przygotowany wyłącznie za pośrednictwem firmowych kanałów komunikacji dawałby słabe gwarancje. Zdolność oceniającego do opisywania sporów ma kluczowe znaczenie dla jego niezależności. Nawet starannie zredagowana relacja może odróżnić rzeczywistą kontrolę od zarządzanego poparcia.
Najbardziej wymowny test nastąpi, gdy oceniający zaleci dodatkowe prace lub opóźnienie. Jeśli firma udokumentuje swoją odpowiedź i zachowa zdanie odrębne oceniającego, takie rozwiązanie zyska wiarygodność. Jeśli dostęp zniknie albo ustalenia pozostaną ukryte, zobowiązanie straci wartość.
Trzecim sygnałem będzie to, czy inni twórcy modeli frontierowych przyjmą porównywalne rozwiązania. Poparcie ze strony Google DeepMind, Meta, xAI lub innego dużego laboratorium przesunęłoby osadzone oceny w stronę standardu branżowego. Odrzucenie ujawniłoby konkurencyjne ograniczenia dobrowolnej koordynacji.
Porównywalność nie wymaga identycznego nadzoru. Różne firmy korzystają z różnych infrastruktur i metod rozwoju. Wymaga jednak wystarczająco wspólnego zakresu ujawnień, by porównać dostęp, niezależność, raportowanie i uprawnienia w zakresie reagowania na incydenty.
Przyjęcie tego modelu przez więcej niż dwie firmy wzmocniłoby argument Amodeia o wyścigu ku wyższym standardom. Utrzymująca się fragmentacja pokazałaby, że koordynacja w zakresie bezpieczeństwa nadal pozostaje podporządkowana zachętom strategicznym. Rządy znalazłyby się wówczas pod większą presją, by ustanowić minimalne wymagania.
Najbliższe trzy miesiące powinny dostarczyć wstępnych dowodów. Obie firmy mogą opublikować zasady dostępu bez czekania na ustawodawstwo lub negocjacje międzynarodowe. Organizacje oceniające mogą również określić warunki, których wymagają przed przyjęciem osadzonej roli.
Twórcy i nabywcy korporacyjni powinni uważnie śledzić używany język. „Konsultacje”, „dostęp do modelu” i „dostęp podobny do pracowniczego” nie są pojęciami zamiennymi. Pierwsze może oznaczać doradztwo, drugie — tymczasowy interfejs, a trzecie powinno oznaczać stałą widoczność operacyjną.
Powinni też szukać negatywnych sygnałów. Brak dat rozpoczęcia, nieujawnione tożsamości oceniających, szerokie klauzule poufności lub streszczenia kontrolowane przez firmę ograniczałyby wartość tej propozycji. Niezależny nadzór staje się wiarygodny dzięki prawom, które przetrwają spór.
Niezależni oceniający AI Anthropic mają obecnie wyjątkowo widoczne wsparcie ze strony OpenAI. To porozumienie podnosi oczekiwania, ale nie odpowiada na pytanie, kto uzyska dostęp ani co będzie mógł ujawnić. Rozstrzygające dowody pojawią się przy pierwszym spornym ustaleniu, a nie przy pierwszym komunikacie o współpracy.
Dla każdego, kto wybiera lub wdraża zaawansowaną AI, jest to moment, by zadać trudniejsze pytania dotyczące nadzoru. Kto testował system, do czego miał dostęp i które ograniczenia pozostają nierozwiązane? Jeśli laboratoria oczekują, że klienci zaufają osadzonemu nadzorowi, czy ci klienci powinni żądać wystarczającej przejrzystości, by móc ocenić samych oceniających?
