Anthropic i Google analizują ramy AI Trumpa, lecz otwarte modele wymykają się spod kontroli

Anthropic i Google przeanalizowały federalne ramy bezpieczeństwa AI, które wprowadzają 30-dniowy etap kontroli przed udostępnieniem publiczności niektórych modeli granicznych. Według doniesień ramy te wyłączają jednak otwarte modele, tworząc istotną lukę między systemami kontrolowanymi przez Waszyngton a ryzykiem, które chce on ograniczać.

Rozmowy Anthropic i Google to nie tylko kolejna runda dobrowolnych zobowiązań dotyczących bezpieczeństwa. Oznaczają próbę stworzenia przez administrację Trumpa federalnego procesu kontroli po zlikwidowaniu znacznej części struktur nadzoru nad AI z czasów poprzedniej administracji.

Polityka pojawia się także po niezwykłym konflikcie między Anthropic a rządem federalnym. Najnowsze systemy Anthropic miały w ciągu kilku godzin znaleźć luki w wrażliwych sieciach rządowych. Waszyngton później ograniczył dostęp do tych systemów, a następnie ponownie włączył Anthropic do negocjacji dotyczących zasad.

Ta historia zmienia techniczny proces kontroli w spór o kontrolę. Twórcy zamkniętych modeli stają przed poufną rządową analizą przed wydaniem produktu. Twórcy otwartych modeli, w tym firmy konkurujące z Google i Anthropic, najwyraźniej pozostają poza tym samym procesem.

Kluczowe pytanie nie brzmi zatem, czy zaawansowana AI zasługuje na testowanie. Chodzi o to, czy ramy skoncentrowane na współpracujących amerykańskich laboratoriach są w stanie objąć porównywalne możliwości udostępniane za pośrednictwem otwartych wag, zagranicznych twórców lub mniej skłonnych do współpracy dostawców.

Ramy tworzą 30-dniową bramę bezpieczeństwa

Bezpośrednią zmianą jest poufne federalne okno kontroli zaawansowanych zamkniętych modeli przed ich publicznym wydaniem.

Prezydent Donald Trump podpisał podstawowe rozporządzenie wykonawcze 2 czerwca 2026 r. Nakazuje ono rządowi stworzenie dobrowolnego procesu badania zagrożeń dla bezpieczeństwa narodowego związanych z wysoce zaawansowanymi systemami AI.

Rozporządzenie daje kontrolerom do 30 dni. Okres ten ma umożliwić federalnym specjalistom przetestowanie zdolności cybernetycznych, zanim model trafi do szerokiego grona odbiorców.

Model graniczny to system AI znajdujący się blisko czołówki ogólnych możliwości. Zgodnie z ramami przedstawionymi przedstawicielom branży, objęcie kontrolą ma zależeć od tego, czy model jest zamknięty, wysoce zaawansowany i istotny z punktu widzenia zagrożeń dla bezpieczeństwa narodowego.

Takie sformułowanie pozostawia ważne terminy nierozstrzygnięte. Nie istnieje publiczny próg określający, co uznaje się za stan techniki. Administracja nie opublikowała również jasnego standardu decydowania, kiedy zdolność cybernetyczna staje się kwestią bezpieczeństwa narodowego.

Według opisywanych ram kontroli uczestniczące firmy przedstawiałyby modele tuż przed publicznym wydaniem. Rządowi kontrolerzy badaliby je w środowiskach o wysokim poziomie bezpieczeństwa.

Dostęp byłby rejestrowany, a pracownicy mogliby podlegać ograniczeniom na czas kontroli. W procesie uczestniczyłoby kilka biur administracji, zamiast pozostawienia oceny jednej agencji.

Znaczenie ma moment przekazania modelu. Laboratorium nie przekazywałoby na wiele miesięcy przed premierą niedokończonego systemu badawczego. Według doniesień dostarczałoby coś zbliżonego do wersji przeznaczonej dla klientów.

Takie podejście daje kontrolerom bardziej realistyczny obiekt oceny. Umieszcza też kontrolę bezpośrednio na ścieżce wydania, gdzie opóźnienia lub sporne ustalenia mogą wpłynąć na plany produktowe.

Rozporządzenie wykonawcze określa udział jako dobrowolny. Koncentruje się na systemach o zaawansowanych zdolnościach cybernetycznych, a nie na każdym nowym modelu komercyjnym.

Jednak „dobrowolność” nie eliminuje wpływu rządu. Laboratoria pracujące nad modelami granicznymi sprzedają agencjom rządowym, zależą od dostępu do zaawansowanych chipów i współpracują z dostawcami infrastruktury podlegającymi federalnym regulacjom.

Firma może co do zasady odmówić udziału. W praktyce odmowa mogłaby skomplikować kontrakty, poświadczenia bezpieczeństwa, decyzje eksportowe lub relacje z klientami z obszaru bezpieczeństwa narodowego.

Anthropic z zadowoleniem przyjęło czerwcowe rozporządzenie i oświadczyło, że spodziewa się wspierać jego wdrożenie. Google i OpenAI również zareagowały pozytywnie, przedstawiając federalną ocenę jako zgodną z dalszym rozwojem AI.

Ramy zaczynają się więc od współpracy, a nie od powszechnego wymogu prawnego. Ich zasięg w dużej mierze zależy od tego, którzy twórcy wezmą udział i które systemy rząd uzna za objęte regulacją.

To tworzy centralne napięcie artykułu. Waszyngton buduje istotny punkt kontrolny wokół firm już skłonnych rozmawiać o bezpieczeństwie, pozostawiając jednocześnie inne ścieżki wydawania w dużej mierze nietknięte.

Dlaczego rozmowy Anthropic i Google mają teraz większą wagę

Anthropic i Google są pod presją, ponieważ ich modele łączą szerokie zastosowanie komercyjne z coraz bardziej znaczącymi zdolnościami cybernetycznymi.

Administracja nie stworzyła tego procesu po abstrakcyjnej debacie politycznej. Zadziałała, gdy zaawansowane modele wykazały zdolność identyfikowania słabości oprogramowania w tempie, które zaniepokoiło urzędników rządowych.

Model Anthropic o nazwie Mythos miał uczestniczyć w testach obejmujących wysoce wrażliwe systemy rządowe. Przedstawiciel USA powiedział Associated Press, że model znalazł luki w ciągu kilku godzin.

Znalezienie błędu nie jest tym samym co jego wykorzystanie. To rozróżnienie ma znaczenie, ponieważ wykrywanie luk może pomóc obrońcom załatać systemy, zanim dotrze do nich atakujący.

Senator Mark Warner przedstawił bardziej dramatyczną relację podczas czerwcowego przesłuchania. Stwierdził, że system w ciągu kilku godzin uzyskał dostęp do niemal wszystkich testowanych środowisk niejawnych, przypisując tę informację szefom NSA i Cyber Command.

Oficjalna relacja była węższa. Potwierdzała znalezienie luk, lecz nie dowodziła, że Mythos skutecznie wykorzystał każdy dotknięty nimi system.

Ta luka w weryfikacji ilustruje trudność stojącą przed decydentami. Model może być przydatny w obronie, niebezpieczny w rękach wrogich podmiotów i trudny do oceny na podstawie jednego nagłówkowego wyniku.

Opisywane testy rządowe odbywały się w ramach Project Glasswing, inicjatywy Anthropic z udziałem firm technologicznych i innych partnerów. Projekt koncentruje się na poważnych zagrożeniach związanych z oprogramowaniem, które zaawansowane modele mogą wykrywać lub wzmacniać.

Te możliwości wywierają presję na Anthropic w dwóch kierunkach. Klienci chcą lepszych zautomatyzowanych narzędzi bezpieczeństwa, podczas gdy agencje rządowe chcą mieć pewność, że te same narzędzia nie przyspieszą operacji ofensywnych.

Google stoi przed podobnym wyzwaniem. Jego systemy Gemini służą konsumentom, deweloperom, klientom chmurowym i instytucjom publicznym. Google DeepMind utrzymuje również własne ramy wykrywania poważnych zdolności przed wdrożeniem.

Powiązanie Anthropic i Google ma znaczenie, ponieważ obie firmy już prowadzą wewnętrzne systemy oceny. Waszyngton prosi je o przeniesienie prywatnych praktyk testowych do procesu kontrolowanego przez rząd.

W przypadku Anthropic prośba ta pojawia się po miesiącach bezpośredniego konfliktu z administracją. Firma wprowadziła w swoich umowach rządowych ograniczenia dotyczące autonomicznej broni i krajowej masowej inwigilacji.

Pentagon zabiegał o dostęp do wszystkich legalnych zastosowań. Anthropic argumentowało, że samo upoważnienie prawne nie rozstrzyga wszystkich kwestii dotyczących bezpieczeństwa ani swobód obywatelskich.

Spór ostatecznie wykroczył poza język kontraktów. Administracja uznała Anthropic za ryzyko zakupowe, podczas gdy krytycy zastanawiali się, czy rząd wykorzystuje uprawnienia związane z bezpieczeństwem narodowym do rozstrzygnięcia sporu politycznego.

Relacja później przesunęła się w stronę współpracy. Anthropic współpracowało z agencjami przy testach cybernetycznych, ograniczyło dostęp do zaawansowanych modeli po interwencji rządu i dołączyło do rozmów o wspólnych zasadach oceny.

Google wchodzi w te ramy bez podobnej publicznej konfrontacji. Jego udział daje procesowi szerszą legitymację i zapobiega wrażeniu, że zasady są porozumieniem dotyczącym wyłącznie Anthropic.

Według doniesień w sierpniowych rozmowach uczestniczyły również OpenAI, Microsoft, Meta, Nvidia i mniejsze firmy. Ich obecność pokazuje, że ramy stają się polityką dla branży, a nie dwustronnym porozumieniem.

Mimo to Anthropic pozostaje najważniejszym przypadkiem testowym. Jest zarówno czołowym orędownikiem bezpieczeństwa, jak i firmą, której ostrzeżenia dotyczące bezpieczeństwa pomogły uruchomić działania rządu.

Jeśli Anthropic zaakceptuje te ramy, Waszyngton będzie mógł argumentować, że zewnętrzne testy uzupełniają prywatne zabezpieczenia. Jeśli relacja ponownie się załamie, proces będzie wyglądał bardziej na narzędzie nacisku niż współpracę.

Nadzór nad Anthropic i Google kończy się na granicy otwartych modeli

Kluczowym kompromisem tych ram jest to, że kontrolują one zamknięte amerykańskie modele, jednocześnie według doniesień wyłączając otwarte wydania o podobnych możliwościach.

Zamknięte modele utrzymują swoje bazowe wagi, czyli wyuczone parametry numeryczne, pod kontrolą twórcy. Użytkownicy korzystają z nich za pośrednictwem hostowanych produktów lub interfejsów programistycznych.

Modele o otwartych wagach szerzej udostępniają te parametry. Deweloperzy mogą je pobierać, modyfikować i uruchamiać bez kierowania każdego żądania przez pierwotnego dostawcę.

Proponowany przez rząd proces koncentruje się na pierwszej kategorii. Ma to sens operacyjny, ponieważ firma tworząca zamknięty model może zapewnić kontrolowany dostęp i opóźnić wydanie podczas testów.

Twórcy otwartych wag stwarzają trudniejszy problem egzekwowania zasad. Gdy wagi modelu są publiczne, żaden centralny dostawca nie może wiarygodnie wycofać każdej kopii ani ograniczyć każdego użytkownika.

Opisywane ramy rozwiązują ten problem, pozostawiając otwarte modele poza systemem kontroli. Stanowią również, że zasad nie należy interpretować jako ograniczających je po wydaniu.

Ten wybór zmniejsza przeszkody dla otwartego rozwoju. Tworzy też oczywisty problem bodźców.

Firma utrzymująca ścisłą kontrolę nad swoim modelem musi poddać się poufnym testom. Twórca udostępniający porównywalne wagi mógłby nie napotkać równoważnego federalnego punktu kontrolnego.

To rozróżnienie nie zawsze odpowiada poziomowi ryzyka. Metody dystrybucji wpływają na łatwość usuwania zabezpieczeń, lecz nie określają bazowej zdolności modelu do wykrywania luk.

Google pokazuje, dlaczego ta granica jest skomplikowana. Firma rozwija zamknięte systemy Gemini równolegle z otwartą rodziną Gemma. Jedna organizacja może więc działać po obu stronach granicy polityki.

Anthropic nie publikuje wag Claude. Jego systemy pozostają pod scentralizowaną kontrolą, co ułatwia regulowanie firmy za pomocą umów dostępowych i kontroli przed wydaniem.

Ta asymetria może premiować dostawcę modelu, który po publikacji daje rządowi mniejszą kontrolę. Może również stawiać amerykańskie laboratoria zamkniętych modeli w niekorzystnej sytuacji pod względem szybkości.

Kontrola trwająca 30 dni jest krótka według standardów regulacyjnych. Jest długa w branży, w której moment premiery kształtuje zobowiązania wobec klientów, uwagę skupioną na benchmarkach i adopcję przez deweloperów.

Jeśli OpenAI, Anthropic lub Google opóźnią model na potrzeby kontroli, otwarty konkurent może wykorzystać ten okres, aby przyciągnąć deweloperów. Zagraniczne laboratorium mogłoby również udostępnić porównywalne wagi bez udziału w procesie.

Administracja wydaje się akceptować ten kompromis, ponieważ chce zachować rozwój amerykańskiej AI. Trump odłożył wcześniejszą wersję rozporządzenia po wyrażeniu obaw, że spowolni ono Stany Zjednoczone względem Chin.

Ostateczne podejście obejmuje zatem wąski zbiór systemów, które można kontrolować. Ma zapewnić wgląd przed wydaniem bez budowania kompleksowego systemu licencjonowania.

Własne ramy bezpieczeństwa Google DeepMind pokazują, że prywatne zarządzanie może obejmować więcej niż jeden format wydania. Śledzą poziomy zdolności i wymagają przeglądów bezpieczeństwa, gdy pojawiają się określone ryzyka.

Najnowsze ramy obejmują zagrożenia takie jak szkodliwa manipulacja, zaawansowane zdolności badawcze AI oraz modele opierające się kontroli operatora. Google twierdzi, że jego oceny łączą testowanie zdolności z jednoznacznymi decyzjami dotyczącymi akceptowalnego ryzyka.

Anthropic stosuje inną strukturę wewnętrzną, ale również ocenia poważne zdolności i publikuje dokumentację ryzyka. Obie firmy mają procesy instytucjonalne, których mniejsi deweloperzy mogą nie posiadać.

Federalne ramy mogłyby ujednolicić część tych praktyk. Nie obejmują jednak automatycznie deweloperów spoza uczestniczącej grupy.

Oznacza to, że główny podział nie przebiega między Anthropic a Google. Chodzi o zamknięty rozwój poddawany rządowej ocenie kontra mniej nadzorowana otwarta dystrybucja.

Polityka może ograniczać ryzyko wśród stosujących się do zasad laboratoriów pracujących nad modelami granicznymi, pozostawiając jednocześnie najszybszy kanał dystrybucji bez zmian. Oba te skutki mogą występować równocześnie.

Tajny standard tworzy własne ryzyko dla bezpieczeństwa

Ramy wymagają od firm i opinii publicznej zaufania do systemu oceny, którego kluczowe progi i procedury pozostają ukryte.

Pewna poufność jest nieunikniona. Opublikowanie szczegółowego benchmarku dotyczącego ofensywnych zdolności cybernetycznych mogłoby pomóc atakującym optymalizować modele pod kątem testu.

Rozporządzenie wykonawcze pozwala, by proces benchmarkingu pozostał tajny. Wrażliwe ustalenia również powinny trafiać do chronionych środowisk, gdy dotyczą sieci rządowych lub oprogramowania podatnego na wykorzystanie.

Tajemnica dotycząca treści testów różni się jednak od tajemnicy dotyczącej zarządzania. Opinia publiczna może rozumieć, kto podejmuje decyzje, jakie dowody są uznawane i jak firmy mogą się odwoływać, nie widząc każdego exploita.

Administracja podobno nie planuje opublikować kompletnych ram. Firmy wykluczone ze spotkań w sierpniu mogą zatem otrzymać niewiele wskazówek, czy przyszłe systemy będą się kwalifikować.

Ta niepewność dotyka nie tylko specjalistów od polityki. Klienci korporacyjni budują mapy drogowe wokół dostępności modeli, dostępu regionalnego i oczekiwanych mechanizmów bezpieczeństwa.

Opóźniony model może zakłócić premiery oprogramowania lub przeglądy zakupowe. Ograniczony model może zmusić zespoły do zmiany dostawcy po zintegrowaniu określonego interfejsu programistycznego.

Organizacje już teraz potrzebują niezawodnego sposobu na przechowywanie wewnętrznych ocen, oświadczeń dostawców i aktualizacji polityk. Przeszukiwalna baza wiedzy AI może utrzymać te materiały w powiązaniu, gdy zasady się zmieniają.

Szersza obawa dotycząca zarządzania wiąże się z uznaniowością. Rząd najwyraźniej może decydować, które systemy się kwalifikują, kto otrzymuje wczesny dostęp i jaka reakcja następuje po niekorzystnym ustaleniu.

Juan Londoño z Cato Institute z zadowoleniem przyjął przygotowania na ryzyko związane z zaawansowanymi modelami, ale zakwestionował niejasność tej polityki. Ostrzegł, że szeroka uznaniowość może zostać wykorzystana przeciw firmie, która już pozostaje w konflikcie z administracją.

Nie można odrzucić tej możliwości, ponieważ relacje Anthropic z Waszyngtonem już przechodziły od partnerstwa do konfrontacji.

Spór dotyczący bezpieczeństwa narodowego obejmuje też głębszą kwestię uprawnień. Dostawca modelu może chcieć ograniczyć inwigilację lub użycie autonomicznej broni, nawet gdy klient rządowy twierdzi, że działanie jest legalne.

Administracja Trumpa argumentowała, że wdrożone systemy powinny pozostawać pod operacyjną kontrolą rządu. Anthropic traktował pewne ograniczenia zastosowań jako niezbędną granicę bezpieczeństwa.

Analiza bezpieczeństwa narodowego Council on Foreign Relations opisuje to jako kwestię tego, kto kontroluje system wdrożony w terenie. Krzyżują się tu kontrakty, zabezpieczenia techniczne i uprawnienia rządu.

Przegląd przed wydaniem nie rozstrzyga tego konfliktu. Może ujawnić, co potrafi model, ale nie może zdecydować, kto powinien kontrolować każde dozwolone użycie.

Ramy stwarzają też ryzyko mylenia zdolności z intencją. Model, który znajduje poważne luki, może wzmacniać obrońców, gdy jest wdrażany w ramach monitorowanego programu bezpieczeństwa.

Ta sama zdolność może pomóc atakującemu, gdy zabezpieczenia zawiodą. Oceny muszą więc testować zarówno wydajność techniczną, jak i otaczające ją mechanizmy kontroli dostępu.

Doświadczenie Anthropic pokazuje, dlaczego proste etykiety są niewystarczające. Jego model podobno znalazł poważne słabości, jednak zewnętrzni liderzy bezpieczeństwa argumentowali, że inne dostępne modele miały podobne zdolności.

Ponad 100 specjalistów ds. cyberbezpieczeństwa miało podobno sprzeciwić się usunięciu defensywnych zdolności Anthropic bez jasnego uzasadnienia. Ich argument nie polegał na twierdzeniu, że Mythos nie stwarzał ryzyka.

Kwestionowali, czy ograniczenie jednego amerykańskiego dostawcy zmniejszyłoby to ryzyko, skoro substytuty pozostawały dostępne. To ta sama słabość, którą tworzy wykluczenie otwartych wydań.

Tajne ramy mogą nadal działać, jeśli ich wyniki są spójne, a uprawnienia ograniczone. Bez tych cech dobrowolny przegląd może stać się nieprzewidywalnym mechanizmem selekcji dostępu.

Administracja nie przedstawiła jeszcze wystarczających publicznych dowodów, by rozróżnić te scenariusze. Ta niepewność powinna pozostać centralnym elementem każdej oceny tej polityki.

Polityka odwraca deregulacyjny przekaz Waszyngtonu

Ramy Trumpa przywracają formę nadzoru przed wydaniem po tym, jak jego administracja przez miesiące twierdziła, że federalne zasady dotyczące AI zagrażają amerykańskiej konkurencyjności.

Trump uchylił główne elementy polityki AI administracji Bidena po powrocie na urząd. Jego szersza agenda podkreślała szybkie wdrażanie, ograniczenie regulacji i rywalizację z Chinami.

Nowy proces przeglądu nie odtwarza dawnych ram. Podejście Bidena opierało się w dużej mierze na obowiązkach sprawozdawczych, pracach nad standardami i ocenie prowadzonej przez instytucje cywilne, takie jak NIST.

System Trumpa przybliża zaawansowane testy cybernetyczne do agencji bezpieczeństwa narodowego. Ogranicza też zakres i przedstawia uczestnictwo jako współpracę z przemysłem.

Mimo to kierunek się zmienił. Waszyngton kiedyś traktował wcześniejszy przegląd jako przeszkodę. Teraz uznaje wcześniejszy wgląd w niektóre modele za niezbędny dla bezpieczeństwa narodowego.

Katalizatorem były zdolności, a nie ogólna zmiana filozofii regulacyjnej. Modele Anthropic uczyniły debatę o bezpieczeństwie konkretną, wykonując zadania kojarzone z wykwalifikowanymi operatorami cybernetycznymi.

Zwrot odzwierciedla również federalną zależność od prywatnych laboratoriów. Agencje rządowe korzystają z infrastruktury i modeli, których nie zbudowały i których nie mogą szybko zastąpić.

Ta zależność daje firmom kontrolę techniczną. Uprawnienia zakupowe, kontrole eksportowe i klasyfikacje bezpieczeństwa zapewniają Waszyngtonowi inny rodzaj wpływu.

Ramy próbują połączyć te atuty. Laboratoria dostarczają systemy bliskie wydania i wsparcie techniczne, podczas gdy agencje wnoszą środowiska niejawne, informacje o zagrożeniach i wiedzę ekspercką z zakresu bezpieczeństwa narodowego.

Taki układ może zapewnić lepsze oceny, niż każda ze stron byłaby w stanie przeprowadzić samodzielnie. Firma nie może w pełni odtworzyć informacji wywiadowczych, które agencje rządowe posiadają o aktywnych przeciwnikach.

Rządowi oceniający potrzebują również inżynierów laboratorium, by zrozumieć zachowanie modelu, mechanizmy kontroli systemu oraz ograniczenia konkretnego testu. Współpraca jest zatem bardziej użyteczna niż prosta lista zgodności.

Współpraca staje się jednak krucha, gdy strony nie zgadzają się co do dopuszczalnego użycia. Spór Anthropic z Pentagonem pokazuje, że wspólne cele bezpieczeństwa nie gwarantują wspólnych granic polityki.

Google uniknęło równoważnego publicznego zerwania, ale stoi przed tym samym strukturalnym pytaniem. Prywatne laboratorium może zidentyfikować niedopuszczalne ryzyko, podczas gdy nabywca rządowy priorytetowo traktuje elastyczność operacyjną.

OpenAI również się z tym mierzy. Podobnie dostawcy chmury hostujący modele i klienci korporacyjni zależni od stabilnego dostępu.

Kontekst konkurencyjny dodaje kolejną komplikację. Anthropic zrewidował swoją flagową politykę bezpieczeństwa na początku 2026 roku, usuwając kategoryczne zobowiązanie, które mogło zatrzymać szkolenie bez odpowiednich zabezpieczeń.

Liderzy firmy argumentowali, że jednostronne pauzy nie poprawią bezpieczeństwa, jeśli konkurenci będą nadal się rozwijać. Zrewidowana polityka kładzie nacisk na mapy drogowe, cykliczne raporty ryzyka oraz wysiłki, by dorównać zabezpieczeniom konkurentów lub je przewyższyć.

Ta zmiana zwiększyła znaczenie skoordynowanych zasad. Firma nie może utrzymywać ścisłych ograniczeń w nieskończoność, gdy rywale ponoszą niższe koszty szybszego działania.

Ramy Trumpa próbują zapewnić koordynację, ale tylko dla wybranych uczestników. Nie ustanawiają jednego wiążącego progu dla Anthropic, Google, OpenAI, deweloperów otwartych modeli i zagranicznych laboratoriów.

Pozostawia to rząd w pozycji hybrydowej. Przywrócił nadzór, zachowując jednocześnie silne domniemanie przeciwko szerokiej regulacji.

Rezultatem nie jest ani czysta deregulacja, ani kompleksowy reżim bezpieczeństwa. Jest to wynegocjowany punkt kontrolny zbudowany wokół firm, do których Waszyngton może dotrzeć.

Takie podejście może szybko odpowiedzieć na konkretne zagrożenie cybernetyczne. Gorzej nadaje się do zarządzania zdolnościami, które rozprzestrzeniają się między formatami modeli i granicami państw.

Przegląd Anthropic i Google jest zatem eksperymentem politycznym. Jego sukces zależy od tego, czy wąska współpraca może zapewnić rzeczywiste bezpieczeństwo bez zwykłego przenoszenia ryzykownego rozwoju w inne miejsce.

Trzy sygnały pokażą, czy ramy działają

Kolejnym testem będzie to, czy Waszyngton potrafi przekształcić porozumienie za zamkniętymi drzwiami w spójne wyniki bezpieczeństwa dla wydań, firm i formatów modeli.

Pierwszym sygnałem będzie traktowanie kolejnej premiery zaawansowanego zamkniętego modelu. Uczestniczące laboratorium powinno zgłosić system bliski wydania, ukończyć przegląd i wyjaśnić wszelkie wynikające z niego ograniczenia.

Rząd nie musi ujawniać niejawnych exploitów. Powinien ujawnić, czy proces zmienił mechanizmy kontroli dostępu, harmonogram wydania lub dostępne zdolności modelu.

Jasny wynik wzmocniłby argument za ukierunkowanymi testami przed wydaniem. Niewyjaśnione opóźnienie lub nagłe ograniczenie wzmocniłyby obawy o uznaniowe egzekwowanie zasad.

Drugim sygnałem będzie sposób, w jaki administracja potraktuje otwarty model o porównywalnych zdolnościach cybernetycznych. To największa nierozstrzygnięta słabość obecnego projektu.

Waszyngton mógłby stworzyć dobrowolne narzędzia oceny dla deweloperów otwartych modeli, ustanowić zabezpieczenia dystrybucji lub skupić się na dostawcach infrastruktury niższego szczebla. Każda ścieżka wiąże się z kosztami technicznymi i politycznymi.

Brak działania osłabiłby logikę bezpieczeństwa tych ram. Sugerowałby, że format wydania ma większe znaczenie niż zdolność, której urzędnicy rzekomo się obawiają.

Trzecim sygnałem będzie to, czy Anthropic i administracja utrzymają współpracę podczas następnego sporu. Ich relacja przeszła już od konfliktu kontraktowego do ograniczeń modeli, a następnie z powrotem w kierunku wspólnego tworzenia zasad.

Stabilny proces pozwoliłby, by ustalenia techniczne przetrwały napięcie polityczne. Załamanie pokazałoby, że ramy zbyt mocno zależą od nieformalnego zaufania między obecnymi urzędnikami a liderami firm.

Zachowanie Google zapewni użyteczne porównanie. Jeśli obie firmy otrzymają podobne traktowanie w przypadku podobnych systemów, polityka będzie wyglądać bardziej jak standard.

Jeśli Anthropic poniesie inne konsekwencje z powodu wcześniejszego sporu, krytycy uznają przegląd za narzędzie nacisku władzy wykonawczej.

Nabywcy korporacyjni powinni obserwować te sygnały, zamiast zakładać, że „dobrowolny” oznacza nieistotny. Dostęp do modeli, daty premier i dostępność regionalna mogą się zmieniać, gdy interweniują przeglądy bezpieczeństwa narodowego.

Deweloperzy powinni również śledzić, które zdolności przyciągają uwagę. Zautomatyzowane wykrywanie luk, generowanie exploitów, autonomiczne działanie i opór wobec kontroli operatora prawdopodobnie będą podlegać ścisłej kontroli.

Pracownicy wiedzy stają przed podobnym problemem. Model może pozostać dostępny, podczas gdy poszczególne narzędzia, integracje lub zaawansowane tryby zostaną objęte limitami.

Zespoły powinny dokumentować, która wersja modelu obsługuje każdy przepływ pracy, oraz zachowywać alternatywy dla zadań krytycznych. Powinny też oddzielać deklaracje dostawców od ustaleń rządowych i niezależnych dowodów.

Rozmowy Anthropic i Google stworzyły rzeczywisty federalny punkt kontrolny, lecz nie kompletny system bezpieczeństwa. Oceny modeli zamkniętych obejmują tylko jedną drogę, którą zaawansowane możliwości trafiają do użytkowników.

Wiarygodne ramy muszą ostatecznie wyjaśnić, dlaczego podobne możliwości są traktowane odmiennie. Muszą też oddzielać niezbędną tajność od decyzji podejmowanych bez rozliczalności.

Na razie czytelnicy powinni zadawać trzy praktyczne pytania, gdy duży model zbliża się do premiery. Czy był objęty tym procesem, co zmieniło się po testach i czy równoważny system otwarty mógłby go ominąć?

Odpowiedzi pokażą, czy ramy Anthropic i Google ograniczają ryzyko dla bezpieczeństwa narodowego, czy jedynie koncentrują nadzór na najbardziej skłonnych do współpracy firmach. Obserwujcie kolejną premierę modelu, kolejne otwarte wydanie i kolejny spór między laboratorium pracującym nad modelami frontierowymi a Waszyngtonem.