Plan standardów bezpieczeństwa Google, Anthropic i OpenAI wystawia samoregulację na próbę

Google, Anthropic i OpenAI miały zbliżyć się do utworzenia prywatnych standardów bezpieczeństwa OpenAI, mimo wieloletnich apeli o silniejszy nadzór publiczny. Proponowana organizacja miałaby ustanawiać wspólne zasady dla twórców frontier AI, nie działając jednak jako organ państwowy. Jej robocza nazwa to Standards Authority for Frontier AI, czyli SAFA.

Inicjatywa pozostaje propozycją, a nie ustanowioną instytucją. Firmy nie ogłosiły wspólnie powstania SAFA, nie opublikowały dokumentów dotyczących jej zarządzania ani nie wyjaśniły, jak jej decyzje miałyby być egzekwowane. Większość szczegółów pochodzi od osób zaznajomionych z rozmowami.

Ta luka w weryfikacji tworzy główne napięcie. Firmy budujące jedne z najpotężniejszych systemów AI chcą pomagać definiować sposób ich testowania. Ich wiedza techniczna stanowi mocny argument za ich udziałem. Ich interesy komercyjne dają wszystkim pozostałym równie mocny powód, by domagać się niezależności.

Według doniesień powstaje organ standardów bezpieczeństwa OpenAI

Bezpośrednia zmiana ma charakter organizacyjny: prywatne rozmowy o bezpieczeństwie AI podobno przekształcają się w plan utworzenia stałego organu ds. standardów.

The Information informuje, że Google, OpenAI i Anthropic rozwijają kierowaną przez branżę organizację skupioną na bezpieczeństwie frontier AI. Frontier AI odnosi się do wysoce zaawansowanych modeli ogólnego przeznaczenia, które zbliżają się do możliwości obecnych wiodących systemów lub je przewyższają.

Tymczasowa nazwa organizacji to Standards Authority for Frontier AI. Akronim SAFA może jeszcze ulec zmianie, ponieważ grupa nie została formalnie uruchomiona. Firmy podobno mają nadzieję powołać ją do życia pod koniec 2026 roku lub na początku 2027 roku.

Ten harmonogram ma znaczenie, ponieważ data uruchomienia przekształca szeroką debatę polityczną w projekt operacyjny. Faktyczny organ potrzebowałby liderów, finansowania, zasad członkostwa, procedur technicznych i wiarygodnej struktury podejmowania decyzji.

Firmy podobno zwróciły się do Srirama Krishnana w sprawie objęcia stanowiska dyrektora generalnego. Krishnan wcześniej pracował jako inwestor venture capital i pełnił funkcję starszego doradcy ds. polityki AI w administracji Trumpa. Jego zgłaszana kandydatura sugeruje, że organizacja chce zyskać wiarygodność polityczną obok kompetencji technicznych.

Podobno omawiano również innych możliwych liderów i doradców naukowych. Żadna nominacja nie wydaje się jednak publicznie potwierdzona. Firmy nie ujawniły, czy kandydaci przyjęli propozycje, odrzucili je, czy nadal są rozważani.

Osobny raport wskazał, że koordynacja nie była wyłącznie spekulacją. Szef globalnej polityki OpenAI, Chris Lehane, powiedział, że firma przez kilka tygodni rozmawiała o bezpieczeństwie AI z Anthropic i Google DeepMind. Jego wypowiedzi potwierdziły prowadzenie rozmów, choć nie potwierdziły każdego zgłaszanego szczegółu dotyczącego SAFA.

safety discussions podobno obejmują pytania o ryzyka katastrofalne, oceny prowadzone przez strony trzecie oraz współpracę między konkurującymi twórcami. Rodzą również obawy związane z prawem antymonopolowym, gdy bezpośredni konkurenci koordynują swoje działania.

To rozróżnienie jest kluczowe. Współpraca przy testach bezpieczeństwa może tworzyć wspólne zabezpieczenia, ale koordynacja może również wpływać na konkurencję. Organ standardów potrzebuje granic, które umożliwią ograniczanie ryzyka, nie pozwalając jego członkom kontrolować rynków ani wykluczać mniejszych rywali.

Żaden dokument publiczny nie wyjaśnia jeszcze, jak SAFA rozwiązałaby ten problem. Zgłaszany cel na koniec roku pozostawia też niewiele czasu na zaprojektowanie zabezpieczeń dotyczących finansowania, praw głosu, konfliktów interesów i odwołań.

Na razie czytelnicy powinni traktować SAFA jako rozwijającą się propozycję wspieraną wiarygodnymi doniesieniami. Nie należy opisywać jej jako działającego regulatora, certyfikowanego audytora ani sfinalizowanego porozumienia.

Dlaczego trzy laboratoria chcą teraz wspólnych zasad

Google, OpenAI i Anthropic stoją przed problemem koordynacji, którego indywidualne polityki bezpieczeństwa nie są w stanie rozwiązać.

Każda firma może opublikować własne ramy zarządzania ryzykiem, zlecić oceny i ograniczyć udostępnienie modelu. Działania te nie tworzą wspólnego progu dla całej branży. Firma, która opóźni wdrożenie, może stracić użytkowników, przychody lub uwagę deweloperów, podczas gdy konkurent nadal będzie przyspieszał.

Wspólne standardy bezpieczeństwa OpenAI mogłyby zmniejszyć tę presję, gdyby każdy uczestniczący twórca zaakceptował porównywalne testy. Mogłyby także pomóc klientom porównywać deklaracje dotyczące bezpieczeństwa, które obecnie opierają się na różnych definicjach i formatach raportowania.

Moment ten odzwierciedla szersze przejście od abstrakcyjnych zasad do kontroli operacyjnych. Twórcy potrzebują teraz procedur dotyczących ocen możliwości, testów bezpieczeństwa, raportowania incydentów, dostępu zewnętrznego i monitorowania po wdrożeniu.

governance framework OpenAI obejmuje ryzyka związane z ofensywnymi zastosowaniami cybernetycznymi, zagrożeniami biologicznymi, szkodliwą manipulacją i utratą kontroli. Opisuje także raportowanie dotyczące modeli, reagowanie na incydenty, zarządzanie bezpieczeństwem oraz udział zewnętrznych ekspertów.

Anthropic utrzymuje własne podejście do odpowiedzialnego skalowania, podczas gdy Google DeepMind korzysta z wewnętrznych ram bezpieczeństwa i programów oceny. Systemy te mają wspólne ogólne założenia, ale nie prowadzą automatycznie do identycznych decyzji dotyczących udostępniania.

Wspólny organ mógłby określić minimalne wymagania dotyczące oceny, zanim model frontier trafi do użytkowników. Mógłby wskazać, kto prowadzi testy, jakie dowody muszą dostarczać twórcy oraz jak poważne ustalenia wpływają na wdrożenie.

Organ mógłby również wspierać poufną wymianę informacji. Laboratoria rozwijające frontier AI czasami odkrywają niebezpieczne możliwości, słabości zabezpieczeń lub wzorce nadużyć, które konkurenci powinni zrozumieć. Publiczne ujawnienie może odsłonić wrażliwe szczegóły, więc zaufany mechanizm wymiany ma praktyczną wartość.

Jednak wspólne procedury pomagają tylko wtedy, gdy uczestniczące firmy stosują je pod presją. Najtrudniejsze przypadki dotyczą opóźnionych premier, ograniczonych funkcji, kosztownych zmian w zabezpieczeniach lub dowodów podważających publiczne deklaracje firmy.

Dobrowolne standardy najłatwiej stosować, gdy potwierdzają planowane wdrożenie. Ich wiarygodność jest testowana wtedy, gdy zgodność z nimi zagraża przychodom lub przewadze strategicznej.

Działania rządów pozostają rozproszone między jurysdykcjami. Kalifornia i Unia Europejska opracowały obowiązki dotyczące zaawansowanej AI, podczas gdy polityka federalna w Stanach Zjednoczonych nadal ewoluuje. Firmy działające globalnie muszą przekładać nakładające się wymagania na kontrole techniczne.

Organ branżowy mógłby ułatwić to przełożenie. Mógłby tworzyć metody oceny zrozumiałe dla regulatorów, audytorów, klientów i twórców. Mógłby też stać się kolejną warstwą prywatnej polityki pozbawionej odpowiedzialności prawnej.

Dlatego zgłaszana propozycja dotyczy czegoś więcej niż jednego komitetu. Rzeczywisty wpływ organizacji zależałby od tego, czy jej standardy oddziaływałyby na faktyczne decyzje wdrożeniowe.

Jeśli SAFA będzie jedynie publikować zalecenia, upodobni się do wielu istniejących forów politycznych. Jeśli będzie mogła wymagać dowodów, ujawniać niepowodzenia i nakładać znaczące konsekwencje, zajmie znacznie bardziej istotną pozycję.

Frontier Model Forum już zajmuje się podobnymi kwestiami

SAFA musi wyjaśnić, dlaczego potrzebna jest kolejna organizacja branżowa, skoro te same firmy stworzyły już forum poświęcone frontier AI.

Anthropic, Google, Microsoft i OpenAI uruchomiły Frontier Model Forum w 2023 roku. Jego deklarowane cele obejmują rozwijanie badań nad bezpieczeństwem, opracowywanie najlepszych praktyk, wspieranie ocen oraz dzielenie się informacjami z rządami i społeczeństwem obywatelskim.

Pierwotne joint announcement Forum opisywało publiczną bibliotekę ocen technicznych i benchmarków. Obiecywało także ustandaryzowane oceny oraz bezpieczną wymianę informacji o ryzykach AI.

Cele te w znacznym stopniu pokrywają się ze zgłaszanym programem SAFA. Oba dotyczą wspólnych standardów, ocen modeli frontier, współdzielonej wiedzy eksperckiej i koordynacji między wiodącymi twórcami.

To nakładanie się rodzi podstawowe pytanie dotyczące zarządzania: jaką władzę miałaby SAFA, której brakuje Forum?

Jedną z możliwych odpowiedzi jest egzekwowanie zasad. Frontier Model Forum działa przede wszystkim jako współpracująca grupa branżowa. SAFA mogłaby zostać zaprojektowana bardziej jako organ samoregulacyjny, z określonymi zasadami i procedurami zgodności.

To rozróżnienie musiałoby znaleźć odzwierciedlenie w wiążących dokumentach. Nowa nazwa i zespół zarządzający same w sobie nie stworzyłyby znaczącej władzy. Organizacja potrzebowałaby jasnego mandatu, który oddziela ustanawianie standardów od zwykłej koordynacji politycznej.

Członkostwo pozostaje kolejną otwartą kwestią. Frontier Model Forum zostało ustanowione przez cztery firmy, a później rozszerzyło swój zasięg. Zgłaszane rozmowy o SAFA koncentrują się na Google, OpenAI i Anthropic, pozostawiając rolę Microsoftu niejasną.

Mniejsi twórcy modeli, projekty open source, badacze akademiccy, klienci biznesowi i grupy społeczeństwa obywatelskiego również mają interesy, o które chodzi. Standardy projektowane przez trzy dominujące laboratoria mogą narzucać wymagania, na które stać tylko duże firmy.

Testowanie zaawansowanych modeli wymaga wyspecjalizowanych badaczy, bezpiecznych środowisk obliczeniowych i kontrolowanego dostępu do wrażliwych systemów. Koszty zgodności mogą stać się barierą dla mniejszych twórców, nawet jeśli zasady poprawiają bezpieczeństwo.

Duże laboratoria dysponują personelem i infrastrukturą, aby spełniać złożone wymagania certyfikacyjne. Mają też zespoły ds. polityki potrzebne do wywierania wpływu na sposób formułowania tych wymagań.

To połączenie tworzy ryzyko przejęcia regulacyjnego. Przejęcie regulacyjne następuje wtedy, gdy system ustanawiania zasad coraz bardziej służy interesom podmiotów, które ma ograniczać.

Ryzyko to nie dowodzi, że SAFA zostałaby przejęta. Oznacza, że organizacja potrzebuje zabezpieczeń instytucjonalnych, zanim podmioty zewnętrzne będą mogły polegać na jej osądach.

Zabezpieczenia te powinny obejmować niezależną siłę głosu, przejrzyste zasady dotyczące konfliktów interesów, opublikowane metodologie oraz procedury kwestionowania decyzji. Standardy członkostwa powinny być proporcjonalne do ryzyka, a nie do wielkości firmy.

Organ musiałby również współpracować z istniejącymi instytucjami publicznymi, zamiast przedstawiać prywatną certyfikację jako substytut. Agencje rządowe mają demokratyczny mandat, którego grupa finansowana przez firmy nie może odtworzyć.

Samo OpenAI wcześniej uznało to ograniczenie. Dokument dotyczący frontier AI regulation określił samoregulację branżową jako ważny pierwszy krok, argumentując jednocześnie, że interwencja rządu nadal będzie konieczna.

To wcześniejsze stanowisko stanowi użyteczny sprawdzian. SAFA może uzupełniać regulacje publiczne, tworząc standardy techniczne i gromadząc dowody. Nie powinna po cichu przekształcać uznanego pierwszego kroku w system ostateczny.

Rzeczywisty kompromis dotyczy wiedzy eksperckiej i niezależności

Najmocniejszym argumentem za SAFA są kompetencje techniczne, a najsilniejszym argumentem przeciwko niej — zależność instytucjonalna.

Oceny modeli frontier są trudne do zaprojektowania. Test musi badać niebezpieczne możliwości, nie ucząc jednocześnie modelu, jak unikać kontroli. Musi również odróżniać powtarzalne zachowanie od odosobnionych wyników.

Zewnętrzni oceniający często potrzebują dostępu do wag modelu, wewnętrznych zabezpieczeń, dzienników systemowych i nieudostępnionych możliwości. Firmy mają uzasadnione powody, by chronić te informacje przed konkurentami i złośliwymi podmiotami.

Wyspecjalizowany organ mógłby tworzyć bezpieczne kanały do oceny poufnych dowodów. Mógłby utrzymywać spójne metody w kolejnych wydaniach i zachowywać wiedzę instytucjonalną między incydentami.

Taki model przypomina audyty w innych sektorach wysokiego ryzyka. Niezależni specjaliści uzyskują dostęp do poufnych dokumentów, weryfikują twierdzenia według określonych standardów i przedstawiają wnioski bez ujawniania każdego wrażliwego szczegółu.

Sam dostęp nie zapewnia jednak niezależności. Osoba oceniająca może dogłębnie rozumieć system, a jednocześnie pozostawać finansowo lub zawodowo zależna od jego twórcy.

Artykuł badawczy z 2026 roku poświęcony audytowi frontier AI przekonuje, że podmioty zewnętrzne nadal nie mają wiarygodnych sposobów weryfikowania deklaracji największych twórców dotyczących bezpieczeństwa. Autorzy proponują poziomy zapewnienia jakości — od ograniczonych przeglądów po ciągłą weryfikację.

Ramy te podkreślają istotne rozróżnienie. Benchmark mierzy wydajność w wybranych warunkach. Audyt sprawdza, czy szersze deklaracje, mechanizmy kontrolne i praktyki twórcy zasługują na zaufanie.

SAFA musiałaby zdecydować, jaką funkcję pełni. Wydawca standardów, laboratorium testowe, audytor i organ egzekwujący to różne instytucje. Łączenie ich bez jasnych granic skupiałoby zbyt dużą swobodę decyzyjną w jednym miejscu.

Finansowanie jest natychmiastową kwestią. Jeśli firmy członkowskie płacą za organizację, opinia publiczna powinna wiedzieć, czy ich wkład wpływa na nominacje, priorytety lub dostęp do ustaleń.

Wybór kierownictwa stwarza to samo wyzwanie. Dyrektor powiązany politycznie mógłby pomóc grupie współpracować z rządami. Taka osoba nadal musiałaby zachować niezależność od firm, które zaoferowały jej tę rolę.

Doradcy techniczni również muszą ujawniać konflikty interesów. Społeczność zajmująca się bezpieczeństwem frontier AI jest niewielka, a eksperci często przechodzą między laboratoriami, organizacjami non-profit, uczelniami i instytucjami rządowymi.

Relacje te nie dyskwalifikują nikogo automatycznie. Sprawiają jednak, że przejrzyste zasady wyłączania się z oceny są niezbędne.

Niedawne doniesienia pokazują napięcie wokół zewnętrznych ewaluatorów. Część urzędników i liderów branży chce ekspertów z bezpośrednim doświadczeniem laboratoryjnym, podczas gdy krytycy kwestionują bliskie powiązania osobiste i zawodowe.

Jedna niezależna ocena wskazała, że wiele ewaluacji AI nadal kładzie większy nacisk na wydajność niż na zachowanie związane z bezpieczeństwem. W tym samym raporcie przytoczono słowa Henry'ego Papadatosa z SaferAI, który argumentował, że dobrowolne działania firm pozostają niewystarczające bez publicznej przejrzystości.

Wiarygodny organ powinien zatem publikować więcej niż uspokajające wnioski. Powinien wskazywać zastosowany standard, niezależność ewaluatora, kategorię przeanalizowanych dowodów oraz wszelkie ograniczenia wpływające na wynik.

Powinien także ujawniać rozbieżności. Jeśli ewaluator zaleca opóźnienie modelu, a członek organizacji mimo to go udostępnia, użytkownicy i regulatorzy powinni wiedzieć, że proces nie zdołał kontrolować wdrożenia.

Opcje egzekwowania mogłyby obejmować prywatne wymogi naprawcze, publiczne komunikaty i zawieszenie członkostwa. Każda z nich wiąże się z kompromisami dotyczącymi poufności, odpowiedzialności prawnej i bezpieczeństwa publicznego.

Organ bez konsekwencji może stać się usługą budowania reputacji. Organ o znacznej władzy, lecz słabej rozliczalności, może natomiast stać się prywatnym regulatorem kontrolowanym przez liderów rynku.

To centralny kompromis SAFA. Laboratoria posiadają informacje potrzebne podmiotom zewnętrznym, ale nie powinny otrzymać niekontrolowanej władzy tylko dlatego, że je posiadają.

Twórcy i nabywcy korporacyjni odczują skutki

Pierwszy praktyczny wpływ pojawi się w zakupach, dostępie do modeli i procedurach publikacji, a nie w oznaczeniach produktów skierowanych do konsumentów.

Nabywcy korporacyjni już pytają dostawców o mechanizmy bezpieczeństwa, prywatność, reagowanie na incydenty i zgodność regulacyjną. Standardy frontier AI mogłyby dodać do takich przeglądów dowody specyficzne dla modeli.

Firma wdrażająca agenta AI do programowania może chcieć dowodu, że model testowano pod kątem tworzenia luk, kradzieży danych uwierzytelniających i nieautoryzowanych działań. Klient z sektora ochrony zdrowia może priorytetowo traktować prywatność, ryzyko manipulacji i niezawodność przy nietypowych promptach.

Wspólne standardy mogłyby ułatwić porównywanie tych kwestii. Nabywcy otrzymywaliby dowody uporządkowane według wspólnych kategorii zamiast niekompatybilnych raportów dostawców.

Korzyść ta zależy od dostępu. Certyfikat bez dokumentacji wspierającej dawałby zespołom zakupowym niewielkie podstawy do oceny jakości ewaluacji.

Twórcy mogliby również napotkać nowe ograniczenia. Dostawcy modeli mogliby wymagać silniejszej weryfikacji tożsamości, monitorowania lub etapowego dostępu, gdy ewaluacje wykryją niebezpieczne zdolności.

Takie mechanizmy mogą ograniczać nadużycia, ale mogą też ograniczać eksperymentowanie. Badacze i małe firmy mogą mieć trudności z uzyskaniem takiego samego dostępu jak duzi klienci.

Twórcy open source stoją przed innym problemem. Standardy zbudowane wokół praktyk zamkniętych laboratoriów mogą zakładać, że jedna organizacja kontroluje wagi modelu, infrastrukturę wdrożeniową i dostęp użytkowników.

Otwarte modele rozdzielają te obowiązki. Użyteczne ramy muszą odróżniać ryzyka powstające podczas treningu od ryzyk tworzonych przez wdrażanie, modyfikacje i dalszą dystrybucję.

Jeśli SAFA zignoruje to rozróżnienie, jej standardy mogą z założenia faworyzować scentralizowane usługi. W ten sposób ramy bezpieczeństwa stałyby się decyzją o strukturze rynku.

Presję odczuliby także dostawcy chmury. Google prowadzi zarówno laboratorium frontier models, jak i dużą infrastrukturę obliczeniową. Microsoft i Amazon mają głębokie relacje z czołowymi twórcami AI.

Standardy dotyczące bezpiecznego treningu, dostępu do modeli, rejestrowania zdarzeń i reagowania na incydenty wpłynęłyby na te platformy. Ich udział lub wykluczenie określiłyby, czy organ obejmuje szerszy łańcuch dostaw AI.

Pracownicy umysłowi mogą zetknąć się z tymi zasadami pośrednio. Model może odmawiać realizacji większej liczby próśb, wymagać potwierdzenia przed działaniem lub utracić możliwości po ocenie ryzyka.

Zmiany te mogą wyglądać jak decyzje produktowe, nawet jeśli wynikają z zarządzania bezpieczeństwem. Jasne ujawnienia pomogłyby użytkownikom zrozumieć, dlaczego dostęp się zmienił i czy ograniczenie obowiązuje u wszystkich dostawców.

Organizacje śledzące te decyzje potrzebują dowodów z raportów o modelach, aktualizacji polityk i komunikatów o incydentach. Przeszukiwalna baza wiedzy może pomóc zespołom łączyć zmieniające się standardy z ocenami dostawców i wewnętrznymi zapisami wdrożeń.

Najcenniejszym rezultatem byłaby porównywalność. Klienci powinni móc ustalić, czy dwóch dostawców przeszło równoważne testy w równoważnych warunkach.

Najmniej wartościowym rezultatem byłaby symboliczna certyfikacja. Jeśli każdy członek założyciel przechodzi każdą ocenę, niezależnie od incydentów lub kwestionowanych ustaleń, oznaczenie będzie przekazywać niewiele informacji.

Twórcy i nabywcy powinni zatem analizować metodę stojącą za każdym przyszłym oznaczeniem SAFA. Powinni pytać, kto testował model, jaki dostęp otrzymał i które ryzyka pozostały poza zakresem.

Trzy sygnały pokażą, czy SAFA ma realną władzę

SAFA należy oceniać przez pryzmat jej zarządzania, konsekwencji oraz relacji z publicznymi regulatorami.

Pierwszym sygnałem jest formalna karta organizacji. Donoszona nazwa, termin uruchomienia i rozmowy o kierownictwie nie pokazują, jak organizacja miałaby faktycznie działać.

Wiarygodna karta powinna określać członków, źródła finansowania, strukturę głosowania, zasady dotyczące konfliktów interesów i proces nominacji. Powinna też wyjaśniać, czy niezależni eksperci mają władzę decyzyjną.

Warto zwrócić uwagę na zapisy, które uniemożliwiają firmom założycielskim unieważnianie ocen ewaluatorów. Bez takich zabezpieczeń organ pozostawałby zależny od laboratoriów, które ocenia.

Drugim sygnałem jest opublikowany proces ewaluacji i egzekwowania. Organizacja powinna określić, które modele podlegają przeglądowi, kiedy rozpoczyna się testowanie i jakie dowody otrzymują ewaluatorzy.

Powinna wskazać, co dzieje się po poważnym ustaleniu. Możliwe rezultaty obejmują działania naprawcze, ograniczone wdrożenie, opóźnioną publikację, publiczne powiadomienie lub usunięcie z organizacji.

Proces powinien także obejmować odwołania. Firmy potrzebują sposobu na kwestionowanie błędów technicznych, a ewaluatorzy potrzebują ochrony przed komercyjnym odwetem.

Niejasna obietnica promowania najlepszych praktyk osłabiłaby argument za nową organizacją. Frontier Model Forum już realizuje funkcje badawcze i koordynacyjne.

Trzecim sygnałem jest formalne uznanie ze strony regulatorów bez rezygnacji z regulacyjnej odpowiedzialności. Agencje publiczne mogłyby stosować metody SAFA, uczestniczyć jako obserwatorzy lub włączać prace techniczne do standardów prawnych.

Taka współpraca wzmocniłaby propozycję, gdyby rządy zachowały nadzór i uprawnienia egzekucyjne. Osłabiłaby ją, gdyby decydenci po prostu zlecili osąd największym twórcom.

Donoszony wybór dyrektora generalnego z doświadczeniem politycznym wspierałby pogląd, że relacje z rządami są centralne dla planu. Sam w sobie nie ustanawiałby jednak publicznej rozliczalności.

Harmonogram uruchomienia jest kolejnym sprawdzianem. Debiut pod koniec 2026 roku lub na początku 2027 roku pozostawia niewiele miejsca na szerokie konsultacje, jeśli organ chce rozpocząć działalność z merytoryczną władzą.

Pośpieszne uruchomienie mogłoby przynieść szerokie zasady przed szczegółowymi kontrolami. Taka sekwencja jest zrozumiała, ale organizacja nie powinna przedstawiać aspiracyjnych zasad jako ukończonych zabezpieczeń.

Czytelnicy powinni też obserwować, które firmy pozostają poza organizacją. Microsoft, Meta, Amazon, xAI, najwięksi twórcy otwartych modeli i międzynarodowe laboratoria wpływają na rynki frontier AI.

Standard stosowany przez zaledwie trzy firmy nadal może mieć znaczenie. Jego legitymacja pozostanie jednak ograniczona, jeśli inni główni twórcy odrzucą jego metody lub zasady zarządzania.

To samo dotyczy społeczeństwa obywatelskiego i badaczy. Udział musi oznaczać więcej niż spotkania doradcze po tym, jak firmy założycielskie podejmą kluczowe decyzje.

Proponowany organ OpenAI ds. standardów bezpieczeństwa mógłby stać się użyteczną infrastrukturą do testowania coraz bardziej zaawansowanych modeli. Mógłby również powielać istniejące grupy, nadając prywatnym decyzjom pozory regulacyjne.

Różnica będzie widoczna w dokumentach, a nie w obietnicach. Należy szukać niezależnych głosów, egzekwowalnych konsekwencji, przejrzystych metod i określonej roli nadzoru rządowego.

W miarę jak SAFA zbliża się do swojego zgłaszanego terminu uruchomienia, twórcy i nabywcy korporacyjni powinni zachowywać deklaracje dostawców i porównywać je z późniejszymi zasadami. Które zabezpieczenia staną się mierzalne, a które pozostaną dobrowolnym językiem? To porównanie pokaże, czy inicjatywa zmienia zachowania przy wdrażaniu, czy jedynie sposób, w jaki czołowe laboratoria je opisują.