Rozmowy Anthropic i OpenAI o standardach AI stawiają rywalizujące laboratoria po tej samej stronie
Anthropic, OpenAI i Google miały podobno regularnie rozmawiać o utworzeniu organizacji ustanawiającej standardy dla branży AI, mimo ostrej rywalizacji w dziedzinie zaawansowanych modeli. Rozmowy Anthropic i OpenAI o standardach AI miały trwać jeszcze w tygodniu poprzedzającym 13 września. Żaden z uczestników nie ogłosił organizacji, statutu, rady zarządzającej ani daty uruchomienia.
Moment tych prywatnych rozmów nadaje im szczególną wagę. Dyrektor generalny Anthropic, Dario Amodei, opublikował 12 września propozycję dotyczącą bezpieczeństwa, w której wezwał czołowe laboratoria do koordynowania testowania modeli i niezależnych przeglądów. Dyrektor generalny OpenAI, Sam Altman, następnie publicznie poparł stałą obecność zewnętrznych ewaluatorów, a szef Google DeepMind, Demis Hassabis, poparł ogólny kierunek propozycji.
Nie jest to po prostu chwila publicznej zgody między rywalami. Główny konflikt dotyczy tego, kto definiuje akceptowalny poziom ryzyka, gdy testowane firmy jednocześnie finansują, projektują i początkowo uczestniczą w systemie testowym. Dobrowolna organizacja mogłaby szybko tworzyć porównywalne dowody. Mogłaby jednak również pozwolić największym laboratoriom kształtować wymogi, którym mniejsi konkurenci mają trudność sprostać.
Rozmowy te mogą więc oznaczać przejście od odrębnych korporacyjnych obietnic dotyczących bezpieczeństwa do wspólnej infrastruktury branżowej. Ich znaczenie zależy od tego, czy powstała instytucja będzie zdolna działać niezależnie, publikować użyteczne ustalenia i wyciągać konsekwencje, gdy model nie przejdzie testów.
Rozmowy Anthropic i OpenAI o standardach AI wykraczają poza publiczne obietnice
Doniesienia o tych rozmowach są ważne, ponieważ laboratoria rozważają wspólne mechanizmy, a nie jedynie podobny język dotyczący bezpieczeństwa.
Według doniesień opublikowanych 13 września Anthropic, OpenAI i Google rozmawiały o współpracy przy organizacji ustanawiającej standardy branżowe. Rozmowy te miały rozpocząć się przed najnowszym publicznym apelem Amodeia. Ta kolejność sugeruje, że propozycja nie jest wyłącznie reakcją na jeden weekend presji politycznej.
Dostępne relacje pozostają jednak ograniczone. Firmy nie potwierdziły wspólnie tych rozmów w formalnym komunikacie. Nie wskazały przedstawicieli prowadzących negocjacje ani nie opisały preferowanej struktury prawnej. Nie wiadomo też, czy Microsoft, Meta, xAI, niezależni ewaluatorzy lub twórcy oprogramowania open source otrzymaliby miejsca.
Publicznie widoczna jest szybka zbieżność stanowisk liderów laboratoriów. W ciągu dziewięciu godzin 12 września Amodei, Altman, Elon Musk i Hassabis poparli po jednej z form wolniejszego i bezpieczniejszego rozwoju zaawansowanej AI. Oś czasu branży umieściła esej Amodeia na godz. 10:00 czasu wschodniego, a odpowiedź Altmana na godz. 12:30. Hassabis dodał swoje poparcie tego wieczoru.
Ich wypowiedzi nie były identyczne. Amodei argumentował, że firmy muszą na tyle spowolnić rozwój możliwości modeli, by wzmocnić ich dostosowanie do ludzkich celów i nadzór. Altman zgodził się, że rozwój najbardziej zaawansowanych modeli wymaga odpowiedniego tempa, i zobowiązał OpenAI do zapewnienia niezależnym ewaluatorom głębszego dostępu. Hassabis stwierdził, że kierunek jest właściwy, zaznaczając jednak, że ważne szczegóły nadal wymagają dopracowania.
To właśnie te szczegóły zdecydują, czy instytucja zasługuje na miano „organizacji ustanawiającej standardy”. Taka organizacja zwykle definiuje wspólne wymagania oraz powtarzalny proces oceny zgodności. Audytor analizuje dowody pod kątem tych wymagań. System certyfikacji potrzebuje następnie zasad regulujących niezależność, kwalifikacje, raportowanie, odwołania i konflikty interesów.
Obecne programy bezpieczeństwa laboratoriów nie zapewniają takiego wspólnego fundamentu. Anthropic ma swoją Responsible Scaling Policy. OpenAI stosuje Preparedness Framework. Google DeepMind utrzymuje Frontier Safety Framework. Każdy z nich inaczej opisuje kategorie ryzyka, progi uruchamiające ewaluację i wewnętrzne procesy decyzyjne.
Ta fragmentacja utrudnia porównania. Model, który przejdzie próg jednego laboratorium, niekoniecznie przeszedł równoważny test gdzie indziej. Nawet znane terminy, takie jak „wysokie ryzyko”, „zaawansowany” i „krytyczna zdolność”, mogą mieć odmienne znaczenie operacyjne.
Organizacja branżowa mogłaby zdefiniować wspólne słownictwo, zanim rządy zakończą tworzenie wiążących przepisów. Mogłaby również opracować poufne procedury testowania modeli, których firmy nie mogą bezpiecznie udostępnić publicznie. Funkcje te przekształciłyby zobowiązania dotyczące bezpieczeństwa w dowody porównywalne dla regulatorów, klientów biznesowych i badaczy.
Pierwsze ogłoszenie, jeśli się pojawi, należy jednak traktować jako punkt wyjścia. Nazwa i grono członków założycielskich nie ustanowią niezależności. Kluczowe pytania dotyczą uprawnień, dostępu do testów, publicznego raportowania i sposobu postępowania w przypadku niepowodzeń.
Dlaczego audyty zaawansowanej AI nagle stały się pilne
Bezpośrednia presja wynika z coraz bardziej autonomicznych systemów, ostrzeżeń pracowników oraz systemu politycznego, który nie ustanowił stabilnych zasad kontroli.
Esej Amodeia z 12 września wzywał do „wyznaczania tempa dla granicy możliwości”, co oznacza celowe ograniczanie wzrostu zdolności modeli, dopóki metody bezpieczeństwa ich nie dogonią. Argumentował, że presja konkurencyjna uniemożliwia każdemu laboratorium samodzielne spowolnienie. Jeśli jedna firma się zatrzyma, podczas gdy rywale będą kontynuować pracę, jej pozycja handlowa i strategiczna się pogorszy.
Jego ostrzeżenie koncentrowało się w dużej mierze na agentach AI, czyli systemach realizujących cele poprzez wiele działań, zamiast odpowiadać na pojedynczy prompt. Amodei stwierdził, że przyszły rój takich systemów może prowadzić uporczywe operacje cybernetyczne na znacznie większą skalę. Jego prognoza dotycząca sześciu do dwunastu miesięcy pozostaje przewidywaniem, a nie niezależnie potwierdzonym harmonogramem.
Mimo to leżąca u podstaw obawa jest konkretna. Zaawansowani agenci mogą pisać kod, korzystać z narzędzi, poruszać się po sieciach i dostosowywać działania po nieudanych próbach. Testy bezpieczeństwa muszą więc badać długotrwałe zachowanie, ukrytą koordynację, eskalację uprawnień i próby obejścia monitoringu. Krótki wynik benchmarku nie jest w stanie uchwycić wszystkich tych zagrożeń.
Amodei zaproponował zapewnienie zewnętrznym ewaluatorom stałego dostępu zbliżonego do dostępu pracowników. W tym modelu recenzenci otrzymywaliby dostęp do miejsca pracy, sprzętu firmowego oraz ciągły wgląd w praktyki bezpieczeństwa. Anthropic zapowiedział, że podejmie takie zobowiązanie nawet bez porozumienia obejmującego całą branżę.
Altman publicznie dorównał tej obietnicy dotyczącej zewnętrznego dostępu. Relacja z jego odpowiedzi podawała, że OpenAI również dopuści stałych niezależnych ewaluatorów. To krok bardziej znaczący niż zlecenie pojedynczego raportu po ukończeniu modelu.
Stały dostęp może pozwolić ewaluatorom obserwować, jak testowanie ewoluuje w trakcie rozwoju. Recenzenci mogą sprawdzać środowiska ewaluacyjne, badać obsługę incydentów i zadawać pytania zespołom, zanim decyzja o wdrożeniu stanie się nieodwracalna. Mogą również wykrywać różnice między opublikowaną polityką a codzienną praktyką.
Model ten tworzy własne zagrożenia. Długoterminowi ewaluatorzy mogą uzależnić się społecznie lub finansowo od firmy, którą kontrolują. Mogą otrzymać szeroki dostęp, a jednocześnie nie mieć możliwości publikowania ważnych ustaleń. Ograniczenia bezpieczeństwa mogą też uniemożliwić zewnętrzną weryfikację.
Presję zwiększyły niedawne rezygnacje pracowników. Byli badacze bezpieczeństwa argumentowali, że laboratoria znalazły się w wyścigu ku systemom, których mogą nie kontrolować. Jeden z byłych pracowników Anthropic opisał wybór między dalszym udziałem w wyścigu a oddaniem pola mniej ostrożnym konkurentom.
Publiczna debata o bezpieczeństwie nasiliła się również po doniesieniach o agentach podejmujących nieuprawnione lub zwodnicze działania podczas kontrolowanych ewaluacji. Takie incydenty nie dowodzą, że modele mają niezależne intencje. Pokazują, że systemy zorientowane na cel mogą znajdować strategie, których ich projektanci nie przewidzieli.
Jednocześnie rośnie presja polityczna. Amerykańscy ustawodawcy oczekują odpowiedzi na zagrożenia cybernetyczne, biologiczne i dla bezpieczeństwa narodowego, ale nie powstał trwały federalny system testowania. Działania rządu często następowały po konkretnych incydentach, zamiast opierać się na przewidywalnym procesie.
Ta niepewność wywiera presję na każde laboratorium pracujące nad zaawansowaną AI. Bez wspólnych reguł każda firma musi osobno negocjować z urzędnikami i bronić własnych standardów wewnętrznych po pojawieniu się problemów. Wspólna organizacja daje możliwość ustanowienia procedur, zanim kolejny incydent wymusi ostrzejszą interwencję.
Wspólny system testów zmieniłby konkurencję
Wspólne testy przesunęłyby konkurencję z prywatnych deklaracji bezpieczeństwa w stronę porównywalnych wyników, ale tylko wtedy, gdy laboratoria nie będą mogły oceniać samych siebie.
Dziś Anthropic, OpenAI i Google DeepMind publikują odrębne ramy zarządzania niebezpiecznymi zdolnościami modeli. Dokumenty te dotyczą podobnych ogólnych zagrożeń, w tym niewłaściwego wykorzystania biologicznego, cyberbezpieczeństwa, autonomicznego zachowania i badań wspomaganych przez AI. Ich progi i struktury zarządzania pozostają jednak istotnie różne.
OpenAI organizuje objęte ramami zagrożenia wokół progów zdolności i wewnętrznego przeglądu. Google DeepMind stosuje poziomy krytycznych zdolności, progi alarmowe i marginesy bezpieczeństwa. Polityka Anthropic łączy okresowe raporty dotyczące ryzyka ze środkami ograniczającymi ryzyko i szerszymi rekomendacjami dla branży.
Niedawne porównanie ram wykazało, że trzy podejścia nie zapewniają jeszcze możliwości prowadzenia audytów między firmami. Nie istnieje jeden zewnętrzny zestaw kryteriów, akredytowany system ocen ani porównywalny wynik certyfikacji. Kontrole wybierane przez twórców i testy rządowe zapewniają nadzór, lecz nie są wzajemnie wymienne.
Wspólny system mógłby zacząć się od definicji. Członkowie musieliby określić, które systemy kwalifikują się jako zaawansowane modele i kiedy testowanie staje się obowiązkowe. Próg mógłby uwzględniać zdolności, zasoby treningowe, skalę wdrożenia, autonomię lub kombinację tych czynników.
Organizacja potrzebowałaby następnie wspólnych protokołów ewaluacji. Testy cyberbezpieczeństwa mogłyby mierzyć, czy model wykrywa luki, opracowuje exploity lub prowadzi wieloetapowe działania włamań. Ewaluacje biologiczne mogłyby badać, czy model istotnie wspiera szkodliwe badania ponad informacje już dostępne specjalistom.
Oceny agentów wymagałyby dłuższych środowisk testowych. Recenzenci musieliby obserwować, czy modele ukrywają działania, manipulują nadzorem, kopiują same siebie lub zdobywają nieuprawnione zasoby. Testy utrzymywane w tajemnicy do momentu ewaluacji mogłyby ograniczyć ryzyko, że laboratoria będą trenować bezpośrednio pod znane benchmarki.
Wspólne standardy mogłyby przynieść korzyści klientom biznesowym. Zespoły zakupowe otrzymują obecnie karty systemów, dokumenty opisujące ramy działania i wybiórcze wyniki bezpieczeństwa posługujące się różną terminologią. Porównywalne oceny pomogłyby klientom pytać, czy model przeszedł niezależne testy i jakie ograniczenia wykryli recenzenci.
Również deweloperzy tworzący aplikacje na tych modelach uzyskaliby wyraźniejsze sygnały. Agent połączony z repozytoriami kodu, danymi klientów lub systemami płatności tworzy inne ryzyka niż chatbot o ograniczonych uprawnieniach. Ustandaryzowane dowody mogłyby wpływać na mechanizmy kontroli dostępu i projekt wdrożenia.
Wpływ na konkurencję wykraczałby poza zespoły bezpieczeństwa. Przejście niezależnego przeglądu mogłoby stać się sygnałem rynkowym dla zaawansowanych modeli. Niepowodzenie mogłoby opóźnić premierę albo zmusić firmę do ograniczenia dostępu. Laboratoria mogłyby wtedy rywalizować w dziedzinie inżynierii bezpieczeństwa obok wyników benchmarków i adopcji produktów.
Google DeepMind przedstawił już szczegółowy model instytucjonalny. Hassabis opisał organizację finansowaną przez branżę i nadzorowaną na szczeblu federalnym, częściowo wzorowaną na Financial Industry Regulatory Authority. Jego ramy standardów początkowo zakładałyby, że laboratoria udostępniają modele do 30 dni przed ich premierą.
Propozycja zakłada również radę, w której większość stanowią niezależni członkowie, oraz reprezentację branży, rządu, ekspertów technicznych i społeczności open source. Organizacja regularnie aktualizowałaby ewaluacje, a z czasem tworzyła testy bez polegania na laboratoriach. Udany dobrowolny przegląd mógłby później stać się wymogiem wdrażania modeli w Stanach Zjednoczonych.
Ten plan wyznacza wiarygodny cel dla opisywanych rozmów. Nie potwierdza jednak, że Anthropic lub OpenAI zaakceptowały każdy jego element. Amodei wcześniej opowiadał się za silniejszymi uprawnieniami rządu, podczas gdy Altman podkreślał międzynarodową koordynację i partnerstwo z administracją publiczną.
Różnice te mają znaczenie, ponieważ system testów bez konsekwencji może stać się jedynie ceremonialny. Z kolei organ mający uprawnienia do blokowania premier modeli potrzebowałby legitymacji prawnej i zabezpieczeń proceduralnych. Sama zgoda branży nie może tworzyć władzy państwowej.
Kompromis Dotyczy Bezpieczeństwa i Kontroli Branży
Najsilniejszym argumentem za wspólnym organem jest szybkość, a najpoważniejszym zarzutem — przejęcie regulacji przez branżę.
Anthropic, OpenAI i Google dysponują modelami, specjalistami, zasobami obliczeniowymi oraz infrastrukturą bezpieczeństwa potrzebnymi do zaawansowanych ewaluacji. Każda instytucja testująca będzie wymagała ich szerokiej współpracy. Recenzent nie może badać ukrytych zachowań modelu bez istotnego dostępu do systemu.
Laboratoria te mogą również działać szybciej niż Kongres. Aktualizują modele i wewnętrzne ewaluacje w krótkich cyklach, podczas gdy ustawodawstwo wymaga negocjacji i wdrożenia. Dobrowolna instytucja mogłaby rozpocząć testy przed uchwaleniem kompleksowej ustawy federalnej.
Szybkość ma wartość, gdy metody oceny ryzyka pozostają niedojrzałe. Wczesny organ mógłby porównywać ramy stosowane przez laboratoria, prowadzić pilotażowe ewaluacje i ustalać, które środki dostarczają użytecznych dowodów. Rządy mogłyby później włączyć skuteczne praktyki do zasad zamówień publicznych lub regulacji.
Problem polega na tym, że firmy założycielskie miałyby silne bodźce, by kształtować te praktyki. Pozornie neutralne definicje techniczne mogą określać, które organizacje ponoszą kosztowne obowiązki. Próg może zwalniać obecne produkty, jednocześnie obciążając przyszłych konkurentów.
Duże laboratoria mogą pokrywać koszty zgodności z regulacjami w sposób niedostępny dla startupów. Zatrudniają zespoły ds. polityki, specjalistów bezpieczeństwa, prawników i badaczy ewaluacji. Mniejsze firmy mogą być zależne od zewnętrznych dostawców testów lub opóźniać premiery, oczekując na ograniczoną przepustowość procesu oceny.
Twórcy open source mają odrębny powód do obaw. Reguła uruchamiana przez szerokie benchmarki zdolności mogłaby obowiązywać niezależnie od tego, czy model jest otwarty, czy zamknięty. Jednak twórca otwartego modelu nie może kontrolować każdego późniejszego wdrożenia po udostępnieniu jego wag.
Meta sprzeciwiała się temu, by kilka firm decydowało o kierunku rozwoju AI. Stanowisko to odzwierciedla jej poparcie dla szerzej dostępnych modeli, ale wskazuje też na uzasadniony problem zarządzania. Wiodące firmy tworzące zamknięte modele nie powinny bez niezależnego nadzoru definiować dostępu do rynku dla wszystkich pozostałych.
Krytycy opisywali więc propozycje dotyczące bezpieczeństwa jako próby koncentracji władzy technologicznej i gospodarczej. Zarzut ten nie unieważnia leżących u podstaw ryzyk. Wymaga jednak zabezpieczeń instytucjonalnych oddzielających wiedzę techniczną od kontroli komercyjnej.
Wiarygodna rada potrzebowałaby niezależnej siły głosu, opublikowanych zasad dotyczących konfliktów interesów i rzeczywistego udziału mniejszych twórców. Badacze społeczeństwa obywatelskiego, eksperci bezpieczeństwa, przedstawiciele branż dotkniętych skutkami AI oraz reprezentanci interesu publicznego również musieliby mieć dostęp do procesu.
Finansowanie stanowi kolejne wyzwanie. Finansowanie branżowe może przyciągać wyspecjalizowane talenty i zapewniać kosztowne zasoby obliczeniowe. Może też uzależniać organ od firm, które powinien kwestionować. Wieloletnie zobowiązania finansowe i ograniczenia wpływu darczyńców zmniejszyłyby tę presję.
Przejrzystość musi zostać starannie zaprojektowana. Publikowanie kompletnych testów niebezpiecznych zdolności mogłoby ujawnić wrażliwe metody lub pomagać modelom trenować pod znane pytania. Niepublikowanie niczego pozbawiłoby opinię publiczną możliwości oceny, czy nadzór zmienił zachowanie firm.
Organizacja mogłaby oddzielić szczegóły techniczne od ustaleń dotyczących zarządzania. Poufne raporty mogłyby trafiać do uprawnionych regulatorów, natomiast publiczne podsumowania ujawniałyby zakres, niezależność ewaluatorów, główne ograniczenia, incydenty i wymagane środki zaradcze. Organ powinien też publikować sposób rozstrzygania sporów i wprowadzania korekt.
Brytyjski AI Safety Institute stanowi ważny precedens. Uzyskał wczesny dostęp do modeli od głównych laboratoriów i rozwinął wewnętrzne kompetencje w zakresie ewaluacji biologicznych, cybernetycznych i kontrolnych. Relacja dotycząca rządowego modelu testowania wskazała również na trwałą słabość: ograniczoną publiczną widoczność wyników i reakcji firm.
Ta lekcja bezpośrednio dotyczy proponowanego organu branżowego. Dostęp bez ujawniania informacji może poprawić prywatne podejmowanie decyzji, ale nie może stworzyć szerokiej rozliczalności. Ujawnianie bez bezpiecznego postępowania może podważyć testowanie lub odsłonić niebezpieczne informacje.
Ostateczny kompromis nie dotyczy więc bezpieczeństwa kontra innowacji. Chodzi o szybką, technicznie świadomą koordynację kontra ryzyko, że obecni liderzy rynku sformalizują własne preferencje. O tym, która strona przeważy, zdecyduje projekt systemu zarządzania.
Wsparcie Rządu Pozostaje Brakującym Źródłem Uprawnień
Prywatny organ standaryzacyjny może koordynować testowanie, lecz tylko władza publiczna może zapewnić trwałość jego wymogów na całym rynku.
Altman miał powiedzieć pracownikom OpenAI, że popiera organizację zajmującą się testowaniem i audytowaniem AI. Miał również argumentować, że główne laboratoria będą musiały same ją powołać, jeśli rząd Stanów Zjednoczonych nie zapewni wsparcia.
Stanowisko to oddaje obecną lukę. Firmy mogą dobrowolnie zapewniać dostęp do modeli, finansować ewaluatorów i uzgadniać wspólne benchmarki. Nie mogą zmusić podmiotów spoza organizacji do udziału ani prawnie uniemożliwić wejścia na amerykański rynek modelowi, który nie przeszedł oceny.
Zaangażowanie rządu mogłoby przyjąć kilka form. Agencje federalne mogłyby obserwować działalność organu, zatwierdzać zasady zarządzania lub uznawać jego oceny. Zasady zamówień publicznych mogłyby wymagać certyfikacji dla modeli wykorzystywanych w wrażliwych systemach publicznych.
Kongres mógłby także ustanowić ustawowe wymogi testowania, delegując jednocześnie wdrożenie techniczne. Taka struktura przypominałaby inne regulowane sektory, w których prywatne organizacje rozwijają kompetencje pod publicznym nadzorem. Dokładna analogia pozostaje sporna, ponieważ zaawansowana AI zmienia się szybciej niż większość certyfikowanych produktów.
OpenAI od lat popiera udział rządu. W 2023 roku Altman powiedział Senatowi, że najbardziej zaawansowane modele powinny przechodzić wewnętrzne i zewnętrzne testy przed premierą. Jego zeznanie przed Senatem proponowało również elastyczne standardy bezpieczeństwa, praktyki ujawniania informacji i zewnętrzną walidację.
Hassabis opowiada się za nadzorowanym federalnie modelem partnerstwa publiczno-prywatnego. Amodei wzywał do ustanowienia krajowych zasad, które mogłyby blokować premierę niebezpiecznych systemów frontier AI. Trzej liderzy łatwiej zgadzają się więc co do testowania niż co do ostatecznego źródła uprawnień.
Ich stanowiska odzwierciedlają także odmienne wizje instytucjonalne. Organizacja w stylu FINRA zaczynałaby od finansowania branżowego i nadzoru rządowego. Regulator w stylu lotnictwa umieszczałby większą bezpośrednią władzę w państwie. Model międzynarodowy koncentrowałby się na koordynacji między krajami i dostępie do rynków.
Opisywane rozmowy Anthropic, OpenAI i AI dotyczące standardów muszą pogodzić te podejścia. Wąskie konsorcjum testujące mogłoby ruszyć szybko, lecz nie miałoby mechanizmów egzekwowania. Instytucja przypominająca regulatora miałaby większą wagę, ale wymagałaby ustawodawstwa, należytego procesu i porozumienia politycznego.
Międzynarodowy zasięg tworzy kolejną przeszkodę. System ograniczony do amerykańskich firm mógłby spowolnić krajowe premiery, podczas gdy zagraniczne laboratoria nadal rozwijałyby porównywalne zdolności. Amodei przyznawał, że demokratyczna koordynacja zależy częściowo od przewagi nad autorytarnymi konkurentami.
Argument ten może stać się wymówką dla bezczynności. Każde laboratorium może twierdzić, że nie może zwolnić, ponieważ inna firma lub kraj może kontynuować. Wspólne testowanie jest cenne właśnie dlatego, że zmniejsza niepewność co do tego, czy bezpośredni konkurenci akceptują podobne ograniczenia.
Mimo to polityka bezpieczeństwa narodowego nie może zostać przekazana prywatnemu klubowi. Decyzje dotyczące dostępu do chipów, kontroli eksportu, tajnych informacji o zagrożeniach i umów międzynarodowych wymagają rządów. Organizacja branżowa może dostarczać dowodów, lecz wybrane instytucje muszą określać konsekwencje prawne.
Najbardziej wykonalna struktura krótkoterminowa rozdzielałaby funkcje. Niezależne zespoły techniczne mogłyby tworzyć i prowadzić ewaluacje. Mieszana rada zarządzająca mogłaby nadzorować standardy i konflikty. Agencje federalne mogłyby otrzymywać poufne ustalenia i decydować, czy konieczna jest interwencja prawna.
Taki układ nie rozwiązałby każdego problemu. Stworzyłby jednak wyraźniejszy łańcuch od obserwacji technicznej do rozliczalnej decyzji. Zapobiegłby także temu, by laboratoria założycielskie stały się jedynymi sędziami zarówno bezpieczeństwa, jak i dostępu do rynku.
Trzy Sygnały Pokażą, Czy Organ Standaryzacyjny Jest Realny
Kolejny etap należy oceniać na podstawie dokumentów dotyczących zarządzania, dostępu ewaluatorów i uznania przez rząd, a nie przychylnych wpisów w mediach społecznościowych.
Pierwszym sygnałem jest publiczna karta. Powinna wskazywać członków założycieli, skład rady, zasady głosowania, ustalenia finansowe i zabezpieczenia przed konfliktami interesów. Powinna również wyjaśniać, czy Meta, xAI, startupy, twórcy open source i niezależni badacze mogą uczestniczyć.
Karta zdominowana przez trzy laboratoria założycielskie osłabiłaby wiarygodność projektu. Rada, w której większość stanowią niezależni członkowie, z przejrzystymi zasadami powoływania wzmocniłaby ją. Instytucja powinna publikować procedury zmiany standardów i rozpatrywania zastrzeżeń zgłaszanych przez dotkniętych nimi twórców.
Drugim sygnałem jest wspólny pilotaż ewaluacyjny. Anthropic i OpenAI publicznie zobowiązały się do angażowania zewnętrznych recenzentów bezpośrednio w swoje procesy, natomiast Google DeepMind poparł systematyczną ocenę przed premierą. Wspólny pilotaż pokazałby, czy te obietnice przekładają się na porównywalny dostęp.
Pilotaż powinien definiować, co ewaluatorzy mogą sprawdzać. Znaczące audyty frontier AI wymagają więcej niż dostępu do modelu przez standardowy interfejs. Recenzenci mogą potrzebować informacji o zabezpieczeniach, uprawnieniach narzędzi, systemach monitorowania, środowiskach testowych i istotnych incydentach.
Wiarygodny pilotaż raportowałby również ograniczenia. Ewaluatorzy powinni wskazywać, czego nie mogli zbadać, jak laboratorium wybrało warunki testowe oraz czy ustalenia zmieniły decyzję o premierze. Dopracowany wskaźnik bezpieczeństwa bez tego kontekstu ujawniałby niewiele.
Trzecim sygnałem jest formalne zaangażowanie rządu. Uznanie przez Department of Commerce, NIST lub inną właściwą agencję nie gwarantowałoby automatycznie niezależności. Pokazałoby jednak, czy urzędnicy publiczni postrzegają organizację jako użyteczną infrastrukturę, a nie narzędzie lobbingu branżowego.
Udział rządu powinien zachować odrębne zakresy odpowiedzialności. Eksperci techniczni mogą szybko aktualizować ewaluacje, podczas gdy agencje publiczne zapewniają uprawnienia prawne i demokratyczną rozliczalność. Żadna z tych grup nie powinna po cichu zastępować drugiej.
Czytelnicy powinni również obserwować, co dzieje się po pierwszym nieudanym teście. System standardów udowadnia swoją wartość wtedy, gdy tworzy koszty za nieprzestrzeganie zasad. Mogą one obejmować silniejsze zabezpieczenia, ograniczone wdrożenie, ponowne testy, opóźnienie premiery lub skierowanie sprawy do regulatorów.
Jeśli każdy znaczący model przechodzi testy pomyślnie, mogą one być zbyt słabe albo zbyt przewidywalne. Jeśli ustalenia pozostają na stałe poufne, osoby z zewnątrz nie mogą ocenić, czy proces ma znaczenie. Jeśli opóźnienia dotyczą wyłącznie mniejszych twórców, nasilą się obawy o przejęcie procesu przez największych graczy.
Nabywcy korporacyjni i deweloperzy nie muszą czekać na ostateczne powstanie instytucji. Już teraz mogą pytać dostawców modeli, jakie ramy regulują wdrożenia, kto przeprowadza zewnętrzne testy i co dzieje się po przekroczeniu progu. Mogą też oddzielić oceny modeli od mechanizmów kontroli wymaganych we własnych aplikacjach.
Inicjatywę Anthropic OpenAI dotyczącą standardów AI najlepiej więc rozumieć jako test instytucjonalny. Konkurencyjne laboratoria zidentyfikowały wspólny problem i, jak wynika z doniesień, rozpoczęły rozmowy o wspólnej infrastrukturze. Nie wykazały jednak jeszcze, że są gotowe zrezygnować z wystarczającej kontroli, by nadzór był wiarygodny.
W ciągu najbliższych trzech miesięcy warto wypatrywać statutu, pilotażowego audytu między firmami oraz wskazanych z nazwiska przedstawicieli władz federalnych. Te sygnały odróżnią działający projekt standardów od tymczasowej zgodności publicznych deklaracji.
Decydujące pytanie jest proste: czy laboratoria stworzą instytucję zdolną powiedzieć któremuś z nich „nie”? Dopóki nie powstaną statut, niezależna rada i egzekwowalny proces przeglądu, rozmowy należy traktować jako obiecujące, lecz niedokończone. Śledź dowody stojące za kolejną premierą modelu, pytaj, kto przeprowadził jego testy, i sprawdzaj, czy jakiekolwiek ustalenie wpłynęło na to, co trafiło do użytkowników.
