Ramy bezpieczeństwa AI Sama Altmana posuwają się naprzód bez czekania na Kongres
Sam Altman poparł natychmiastowe zabezpieczenia rozwoju AI mimo nierozstrzygniętego sporu o ustawodawstwo federalne i ochronę antymonopolową. Ramy bezpieczeństwa AI Sama Altmana wspierają spójne zasady krajowe, ale nie uznają działania Kongresu za warunek wstępny.
To rozróżnienie zmienia obecną debatę o spowolnieniu rozwoju AI. OpenAI nie obiecuje wstrzymania trenowania zaawansowanych modeli. Altman twierdzi natomiast, że przeglądy bezpieczeństwa i monitoring powinny sprawić, że rozwój będzie wolniejszy niż jego maksymalnie możliwe tempo.
Jego stanowisko pojawiło się po wezwaniu CEO Anthropic, Dario Amodeiego, by „nadać tempu granicy”. Amodei zaproponował stały dostęp dla niezależnych ewaluatorów oraz szerszą koordynację między głównymi laboratoriami. Propozycja szybko wywołała pytania o prawo konkurencji, uprawnienia rządu i to, czy wiodące firmy mogą skutecznie nadzorować same siebie.
Odpowiedź Altmana rozdziela jednostronne zabezpieczenia od porozumień obejmujących całą branżę. Jak argumentuje, OpenAI może już teraz wzmocnić własne mechanizmy kontroli rozwoju, podczas gdy Waszyngton rozważa wspólne wymogi i koordynację międzynarodową.
Wynikający z tego konflikt nie sprowadza się wyłącznie do szybkości kontra bezpieczeństwo. Chodzi o dobrowolne działania kontra egzekwowalna odpowiedzialność. OpenAI chce, by laboratoria zaczęły działać, zanim Kongres dokładnie określi, czego wymaga odpowiedzialny rozwój.
Ramy bezpieczeństwa AI Sama Altmana zaczynają się przed ustawodawstwem
Główne twierdzenie Altmana brzmi: każde laboratorium frontier AI już teraz ma wystarczające uprawnienia, by poprawić własne praktyki bezpieczeństwa.
We wpisie z 14 września Altman stwierdził, że amerykańscy twórcy muszą dać opinii publicznej pewność, iż coraz bardziej zaawansowana AI będzie obsługiwana odpowiedzialnie. Frontier AI oznacza modele działające blisko najwyższego poziomu możliwości dostępnych obecnie.
Napisał, że OpenAI z zadowoleniem przyjmuje federalne ramy ze spójnymi wymogami bezpieczeństwa. Firma nie uważa jednak, że musi czekać na ustawodawstwo lub wyłączenie spod prawa antymonopolowego, zanim podejmie istotne działania.
To rozróżnienie ma znaczenie, ponieważ pod słowem „nadawanie tempa” zgrupowano kilka różnych działań. Firma może opóźnić jeden cykl treningowy, dodać wewnętrzne przeglądy lub zaprosić zewnętrznego ewaluatora bez koordynowania działań z konkurentami.
Formalne porozumienie między rywalami jest prawnie czymś innym. Laboratoria, które wspólnie ograniczają rozwój, produkcję lub harmonogramy premier, mogą zwrócić uwagę organów antymonopolowych. Legalność zależy od tego, czym się dzielą i jakie zobowiązania podejmują.
Oryginalne oświadczenie Altmana wskazuje, że bezpośredni nacisk OpenAI kładzie na kontrole na poziomie firmy. Twierdzi on, że OpenAI przygotowuje obecnie wyraźne uzasadnienia bezpieczeństwa przed niektórymi cyklami uczenia ze wzmocnieniem frontier AI.
Uzasadnienie bezpieczeństwa to udokumentowany argument, że zidentyfikowane ryzyka zostały wystarczająco ograniczone dla określonego działania. Łączy dowody, założenia, zabezpieczenia i kryteria decyzyjne przed rozpoczęciem prac.
Uczenie ze wzmocnieniem dostosowuje zachowanie modelu poprzez sygnały zwrotne i nagrody. Cykl frontier AI może istotnie poprawić rozumowanie, autonomię lub inne zdolności, dlatego przegląd wyłącznie ukończonego modelu może nastąpić zbyt późno.
Podejście to przesuwa decyzję dotyczącą bezpieczeństwa na wcześniejszy etap rozwoju. Zespoły muszą pytać, czy duży cykl treningowy powinien zostać przeprowadzony, a nie tylko czy gotowy model powinien trafić do klientów.
Altman poparł również wspólne standardy dotyczące niedopasowania, monitoringu i bezpieczeństwa. Niedopasowanie występuje, gdy zachowanie systemu jest sprzeczne z celami lub granicami wyznaczonymi przez jego operatorów.
Oświadczenie nie określa jednak wspólnego progu spowolnienia cyklu treningowego. Nie wyjaśnia też, kto może unieważnić decyzję kierownictwa firmy, gdy priorytety handlowe i bezpieczeństwa są sprzeczne.
Te pominięcia sprawiają, że zobowiązanie nie sięga poziomu systemu regulacyjnego. OpenAI opisuje kierunek i kilka praktyk, a nie wiążący publiczny zbiór zasad obejmujący każdy przyszły model.
Bezpośrednia zmiana nadal jest istotna. Altman umieścił przegląd na etapie rozwoju, niezależną kontrolę i świadome nadawanie tempa w publicznym stanowisku OpenAI dotyczącym bezpieczeństwa.
Nierozstrzygnięte pozostaje pytanie, czy praktyki te zachowają wiarygodność, gdy rywal będzie gotowy jako pierwszy wypuścić bardziej zaawansowany model.
Dlaczego zasady bezpieczeństwa AI OpenAI przesuwają się na wcześniejsze etapy
Debata przeniosła się z testowania gotowych produktów na nadzór nad procesem tworzącym ich możliwości.
Wcześniejsze ramy bezpieczeństwa często koncentrowały się na wdrożeniu. Twórcy oceniali ukończony model, dodawali filtry, ograniczali dostęp i monitorowali sposób korzystania z niego przez klientów po premierze.
Taka struktura zakłada, że twórcy mogą wykryć poważne zagrożenia pod koniec procesu. Staje się mniej przekonująca, gdy modele pomagają w badaniach, programowaniu, ewaluacji i projektowaniu kolejnych systemów.
Altman przyznał, że to ograniczenie istnieje. Powiedział, że wcześniejsze ramy gotowości odpowiadały pierwotnym potrzebom, lecz dotyczyły głównie ukończonych modeli i decyzji o wdrożeniu.
Nadzór na etapie rozwoju sięga dalej w górę procesu. Może badać plany treningowe, środowiska uczenia ze wzmocnieniem, wewnętrzne agentów, projekt ewaluacji i zabezpieczenia otaczające niewydane systemy.
Bezpośrednim katalizatorem była propozycja nadawania tempa Amodeiego. Argumentował on, że rozwój zdolności powinien zwolnić na tyle, by środki dotyczące dopasowania i bezpieczeństwa mogły go dogonić.
Jego pierwszy krok jest jednostronny. Anthropic planuje zapewnić zewnętrznemu zespołowi ewaluacyjnemu stały dostęp podobny do dostępu, jaki mają odpowiedni pracownicy.
Dostęp ten może obejmować sprzęt firmowy, narzędzia wewnętrzne, rozmowy z pracownikami oraz informacje o procesach bezpieczeństwa. Amodei stwierdził, że ewaluatorzy powinni również publikować kluczowe ustalenia bez rutynowej kontroli redakcyjnej firmy.
Altman początkowo poparł koncepcję niezależnego ewaluatora i powiedział, że OpenAI zrobi to samo. Jego późniejsze oświadczenie rozwinęło tę ideę w ramy bezpieczeństwa AI OpenAI skoncentrowane na uzasadnieniach bezpieczeństwa na etapie rozwoju.
To większa zmiana niż zlecenie testu porównawczego przed premierą. Stali ewaluatorzy mogą obserwować, jak zabezpieczenia działają w wielu decyzjach, zamiast badać pojedynczy dopracowany obraz modelu.
Praktyczna wartość jest widoczna w autonomicznych badaniach AI. Wyobraźmy sobie wewnętrznego agenta programistycznego, który modyfikuje eksperymentalne oprogramowanie, uruchamia testy i interpretuje wyniki.
Przegląd przed premierą mógłby zbadać wyłącznie końcowy model. Włączony w proces ewaluator mógłby sprawdzić uprawnienia, błędy monitoringu, zasady eskalacji i nieoczekiwane zachowania, które pojawiły się podczas treningu.
Ta widoczność staje się ważniejsza, gdy twórcy używają AI do przyspieszania badań nad AI. Szybszy cykl badawczy pozostawia zespołom ludzkim mniej czasu na zrozumienie każdego wzrostu możliwości.
Amodei argumentuje, że proces ten już rozpoczął się w całej branży. Twierdzenie to pozostaje sporne, zwłaszcza jeśli chodzi o jego skalę i tempo przyszłej poprawy.
Podstawowy problem zarządzania nie zależy od najsilniejszej prognozy. Modele o większych zdolnościach cybernetycznych, dłuższych horyzontach realizacji zadań i szerszym dostępie do narzędzi już teraz tworzą trudniejsze problemy ewaluacyjne.
Szersza debata o ryzyku obejmuje przestępcze nadużycia i systemy działające poza zamierzonym zakresem operatora. Zagrożenia te mogą pojawić się podczas wewnętrznych testów, jeszcze przed publiczną premierą.
Nadzór na etapie rozwoju zmienia zatem moment rozliczalności. Wymaga od laboratoriów ustanowienia dowodów i monitoringu, zanim stworzą kolejny wzrost możliwości.
Sam dostęp nie gwarantuje jednak niezależności. Ewaluatorzy potrzebują kompetencji technicznych, bezpiecznego dostępu, stabilnego finansowania i swobody ujawniania istotnych zastrzeżeń.
Firmy muszą również określić, co następuje po negatywnym ustaleniu. Ewaluator bez uprawnień do opóźniania prac może stać się obserwatorem, a nie skutecznym ograniczeniem.
Propozycja Altmana uznaje potrzebę nowych narzędzi. Jej wiarygodność będzie zależeć od tego, czy narzędzia te mogą zmieniać decyzje o wysokiej stawce, zamiast jedynie je dokumentować.
Dobrowolne nadawanie tempa i zasady federalne rozwiązują różne problemy
Laboratorium może dziś samo zwolnić, ale nie może stworzyć spójnych obowiązków dla każdego konkurenta.
Stanowisko Altmana bezpośrednio odpowiada na krytykę, że firmy AI wykorzystywały obawy antymonopolowe jako wymówkę dla bezczynności. Poszczególne firmy zasadniczo nie potrzebują zgody rządu, by wzmocnić własne zabezpieczenia.
OpenAI może wymagać dodatkowych ewaluacji przed cyklem treningowym. Anthropic może włączyć zewnętrznych recenzentów w proces. Każda z firm może poświęcić więcej czasu na monitoring lub opóźnić pracę, która nie spełnia wewnętrznych kryteriów bezpieczeństwa.
Kwestia prawna staje się ostrzejsza, gdy konkurenci negocjują zbiorowe ograniczenie. Porozumienie wpływające na produkcję, harmonogramy rozwoju lub zachowania rynkowe może budzić obawy na gruncie Sherman Act.
OpenAI miało podobno zwrócić się do członków Kongresu o jasność w sprawie koordynacji branżowej. Według doniesień dotyczących prawa antymonopolowego, niepewność prawna mogłaby zniechęcać do niektórych form współpracy.
Doniesienia te opisywały również proponowane ustawodawstwo federalne dotyczące współpracy w obszarze zagrożeń antagonistycznych i ryzyk bezpieczeństwa. Taki środek mógłby stworzyć bezpieczniejsze kanały ograniczonej koordynacji technicznej.
Zakres miałby znaczenie. Dzielenie się wskaźnikami cyberataku różni się od uzgodnienia, że żaden uczestnik nie będzie trenował poza określonym progiem możliwości.
Wspólne opracowywanie standardów ewaluacji różni się również od koordynowania premier produktów. Decydenci musieliby odróżnić współpracę na rzecz bezpieczeństwa od działań chroniących uznane firmy przed konkurencją.
Altman wyznacza obecnie podobną granicę. Popiera natychmiastowe jednostronne działania i wspólne uczenie się w zakresie bezpieczeństwa, jednocześnie rezerwując silniejszą rolę rządu dla koordynacji międzynarodowej.
Taki podział ma praktyczną logikę. Firma może zarządzać własnymi laboratoriami, ale nie może narzucić równoważnych ograniczeń krajowym rywalom ani zagranicznym twórcom.
Ramy federalne mogą zapewnić spójność wśród objętych nimi firm. Mogą określić minimalne ewaluacje, obowiązki sprawozdawcze, kontrole bezpieczeństwa i konsekwencje nieprzestrzegania zasad.
OpenAI opowiadało się za krajową strukturą zarządzania już przed tym sporem. Jego czerwcowy federalny plan działania wzywał do ustanowienia krajowych zasad, silniejszej federalnej instytucji bezpieczeństwa i szerszych rządowych środków odporności.
Polityka federalna zaczęła też eksperymentować z dobrowolnym dostępem. Czerwcowe rozporządzenie wykonawcze nakazało agencjom opracowanie procesu oceny niektórych modeli frontier AI przed ich szerszym udostępnieniem.
W ramach tych dobrowolnych ram twórcy mogliby zapewnić rządowi dostęp na maksymalnie 30 dni przed udostępnieniem objętych nimi modeli zaufanym partnerom.
Rozporządzenie wyraźnie odrzuciło obowiązkowe federalne licencjonowanie, uprzednią zgodę lub zezwolenia na rozwój i udostępnianie nowych modeli. To ograniczenie pozostawia twórcom znaczną władzę.
Najnowsze stanowisko Altmana wpisuje się w ten mieszany system. Firmy działają za pośrednictwem kontroli wewnętrznych, agencje rządowe przeprowadzają wybrane ewaluacje, a Kongres pozostaje odpowiedzialny za trwałe obowiązki prawne.
Model oferuje szybkość, ponieważ dobrowolne zabezpieczenia nie wymagają harmonogramu legislacyjnego. Tworzy też fragmentację, ponieważ każda firma może inaczej definiować nadawanie tempa, dowody i akceptowalne ryzyko.
Jednolite prawo rozwiązuje problem spójności, ale stwarza inne ryzyko. Przepisy mogą się zdezaktualizować wraz ze zmianami metod szkolenia, architektur modeli i niebezpiecznych zdolności.
Wąsko sformułowana ustawa może pominąć nowe praktyki rozwojowe. Szeroka ustawa może dać agencjom zbyt dużą swobodę uznania lub nałożyć wysokie koszty zgodności na mniejszych konkurentów.
Rzeczywistym wyborem politycznym nie jest więc dobrowolne działanie albo ustawodawstwo. Prawdopodobna struktura wymaga obu tych elementów, przy czym prywatne mechanizmy kontroli działają przed minimalnymi wymogami prawnymi i wykraczają poza nie.
Wkład Altmana polega na odrzuceniu czekania jako strategii bezpieczeństwa. Kongres może ustalić minimalny poziom, podczas gdy każde laboratorium rozwijające modele frontier może zdecydować, czy już teraz go przekroczy.
Najtrudniejszy test dotyczy tego, czy niezależny nadzór ma realną siłę
Publiczne zobowiązania mają znaczenie tylko wtedy, gdy ewaluatorzy mogą wykrywać problemy, komunikować je i wpływać na decyzje firmy.
Zwolennicy postrzegają osadzonych w organizacji ewaluatorów jako praktyczny pomost między wewnętrznym ładem korporacyjnym a formalnymi regulacjami. Mogą oni poznać sposób tworzenia zaawansowanych systemów, bez konieczności odtwarzania przez agencje każdego laboratorium.
Americans for Responsible Innovation z zadowoleniem przyjęło zobowiązania Altmana i Amodeiego. Grupa rzecznicza argumentowała jednak, że dobrowolne środki powinny stać się egzekwowalnymi standardami rządowymi.
Ta odpowiedź ujawnia zasadniczą słabość wyjaśniania tempa rozwoju AI poprzez korporacyjne samopowściąganie. Firma zazwyczaj wybiera ewaluatora, negocjuje dostęp i decyduje, jak ustalenia wpłyną na działalność.
Warunki umów mogą chronić dane klientów i rzeczywiste tajemnice bezpieczeństwa. Te same warunki mogą jednak również ograniczać zakres tego, co ewaluatorzy zobaczą lub co mogą ujawnić publicznie.
Niezależność wymaga zatem czegoś więcej niż rozdzielenia organizacyjnego. Recenzenci potrzebują wiarygodnego dostępu do modeli, środowisk szkoleniowych, zapisów incydentów, dokumentów decyzyjnych i odpowiednich pracowników.
Potrzebują też jasnej ścieżki eskalacji. Poważne ostrzeżenie powinno dotrzeć do najwyższego kierownictwa, komitetu rady nadzorczej lub właściwego regulatora, bez filtrowania przez zespół produktowy.
Równie istotne są prawa do publikacji. Ewaluatorzy nie mogą ujawnić każdego szczegółu technicznego, lecz opinia publiczna musi wiedzieć, czy dostęp został ograniczony lub rekomendacje odrzucone.
Kolejna kwestia dotyczy bodźców konkurencyjnych. OpenAI i Anthropic chcą bezpieczniejszego rozwoju, ale obie firmy działają również na kosztownym i intensywnie rywalizującym rynku.
Wolniejszy proces szkolenia może zmniejszyć bezpośrednie ryzyko. Może również chronić wiodącą firmę przed konkurentami, którym brakuje porównywalnej infrastruktury, klientów lub personelu ds. regulacyjnych.
Nie dowodzi to, że argument dotyczący bezpieczeństwa jest nieszczery. Oznacza natomiast, że dobry system musi zapobiegać przekształcaniu standardów bezpieczeństwa w bariery projektowane pod działalność obecnych liderów rynku.
Mniejsze laboratoria powinny mieć możliwość spełniania obowiązków opartych na zdolnościach bez kopiowania każdego procesu stosowanego przez OpenAI. Nadzór powinien odpowiadać na wykazane ryzyko, a nie wyłącznie na wielkość firmy lub rozpoznawalność marki.
Krytyka antymonopolowa wskazuje na powiązane zagrożenie. Kilka wiodących firm nie powinno decydować, które organizacje kwalifikują się jako twórcy modeli frontier ani które ścieżki badawcze pozostają dopuszczalne.
Wspólne testy mogą pomóc regulatorom i klientom porównywać systemy. Skoordynowane ograniczenia dotyczące badań, cen, wyników lub dostępu do rynku wymagają znacznie większej kontroli.
Nie ma też jeszcze zweryfikowanych publicznych dowodów pokazujących, jak nowe sprawy bezpieczeństwa OpenAI zmieniły decyzję dotyczącą szkolenia modelu frontier. Altman opisał tę praktykę, lecz nie opublikował ukończonego przypadku.
Czytelnicy nie powinni traktować tego oświadczenia jako dowodu, że rozwój jest już bezpieczny. To zobowiązanie do procesu, którego progi, recenzenci i mechanizmy egzekwowania pozostają niejasne.
Plan Amodeiego dotyczący osadzonego ewaluatora rodzi własne pytania wdrożeniowe. Tożsamość ewaluatora, data rozpoczęcia i ostateczna umowa o dostępie określą, jak nietypowe stanie się to rozwiązanie.
Niezależna ewaluacja może również wprowadzać ryzyka dla bezpieczeństwa informacji. Recenzenci mogą uzyskać dostęp do wag modelu, podatności, informacji o klientach lub badań o istotnej wartości komercyjnej.
Wiarygodny program musi chronić te aktywa, nie pozwalając jednocześnie, by twierdzenia o tajności blokowały niewygodne ustalenia. Ta równowaga jest trudna, ale można ją sprawdzić poprzez przejrzyste warunki zarządzania.
Najsilniejsza wersja ram bezpieczeństwa AI Sama Altmana publikowałaby jasne progi interwencji. Informowałaby również, kiedy sprawy bezpieczeństwa opóźniają lub zmieniają rozwój.
Słabsza wersja dodawałaby przeglądy bez zmiany bodźców lub decyzji. Obie wersje mogłyby używać podobnego języka, dlatego dowody muszą wynikać z wdrożenia.
Co powinny ujawnić najbliższe trzy miesiące
Trzy konkretne sygnały pokażą, czy zobowiązanie OpenAI oznacza operacyjną powściągliwość, czy kolejną elastyczną obietnicę bezpieczeństwa.
Pierwszym sygnałem jest opublikowany model spraw bezpieczeństwa. OpenAI nie musi ujawniać wrażliwych badań, ale może wyjaśnić strukturę stosowaną przed dużymi cyklami uczenia ze wzmocnieniem.
Przydatne ujawnienie wskazywałoby objęte nim zdolności, standardy dowodowe, osoby odpowiedzialne za decyzje oraz procedury eskalacji. Opisywałoby również, jakie ustalenie może opóźnić lub zatrzymać cykl.
Szczegółowy szablon wzmocniłby twierdzenie Altmana, że OpenAI działa przed uchwaleniem przepisów. Ogólnikowy opis bez progów decyzyjnych osłabiłby je.
Drugim sygnałem jest formalne porozumienie z niezależnym ewaluatorem. OpenAI i Anthropic poparły dostęp zbliżony do pracowniczego, lecz ostateczne umowy określą, czy to sformułowanie ma realną treść.
Warto obserwować tożsamość ewaluatora, mandat techniczny, czas trwania dostępu, prawa do raportowania oraz możliwość publikowania rozbieżności. Należy również śledzić ograniczenia dotyczące bezpieczeństwa, przywileju lub poufnych danych partnerów.
Szeroki dostęp przy chronionych prawach do publikacji wspierałby nowy model nadzoru na etapie rozwoju. Ograniczony dostęp lub ustalenia kontrolowane przez firmę pozostawiłyby dawną lukę w rozliczalności bez zmian.
Trzecim sygnałem jest konkretny federalny lub międzynarodowy mechanizm koordynacji. Krajowe laboratoria mogą przyjmować indywidualne zabezpieczenia, ale jednostronne ograniczanie tempa nie zdoła zarządzać globalnym wyścigiem zdolności.
Waszyngton mógłby wspierać wspólne standardy ewaluacji, tworzyć chronione kanały wymiany informacji o zagrożeniach albo wyjaśnić, które formy współpracy w zakresie bezpieczeństwa są zgodne z prawem antymonopolowym.
Koordynacja międzynarodowa okaże się trudniejsza. Rządy różnią się w kwestiach strategicznej konkurencji, dostępu do modeli, kontroli eksportu i dopuszczalnej roli prywatnych laboratoriów.
Wąskie porozumienie dotyczące testów lub raportowania incydentów jest bardziej prawdopodobne niż globalne ograniczenie rozwoju zdolności. Nawet ograniczona koordynacja wyjaśniłaby, czego Altman oczekuje od rządu.
Twórcy i nabywcy korporacyjni powinni monitorować te sygnały, ponieważ zarządzanie modelami frontier wpływa na więcej niż politykę laboratoriów. Kształtuje niezawodność modeli, warunki dostępu, harmonogramy wdrożeń i dowody dostępne podczas zakupów.
Zespół bezpieczeństwa oceniający autonomicznego agenta programistycznego potrzebuje czegoś więcej niż wyniku benchmarku. Potrzebuje informacji o uprawnieniach narzędzi, monitorowaniu awarii, obsłudze incydentów i zewnętrznej ewaluacji.
Pracownicy umysłowi stają przed podobnymi pytaniami, gdy agenci obsługują prywatne dokumenty lub wykonują działania w połączonych usługach. Silne mechanizmy kontroli rozwoju zmniejszają ryzyko, zanim lokalne ustawienia i nadzór użytkownika staną się istotne.
Następne wydanie modelu zapewni natychmiastowy test. OpenAI może pokazać, czy sprawy bezpieczeństwa i monitorowanie zmieniły proces rozwoju, opóźniły wdrożenie lub ograniczyły zdolność.
Zachowanie konkurentów również będzie miało znaczenie. Jeśli Anthropic opublikuje silniejsze warunki dostępu, OpenAI znajdzie się pod presją, by je dorównać. Jeśli inne laboratoria odmówią, dobrowolne standardy pozostaną nierówne.
Kongres nie powinien interpretować wczesnych działań firm jako dowodu, że prawo nie jest potrzebne. Dobrowolne zabezpieczenia mogą szybko rozwijać praktyki, podczas gdy ustawodawstwo ustanawia zakres ochrony, ciągłość i rozliczalność.
Firmy nie powinny interpretować opóźnień legislacyjnych jako pozwolenia na czekanie. To najjaśniejsza i najbardziej uzasadniona część stanowiska Altmana.
Ramy bezpieczeństwa AI Sama Altmana opierają się teraz na mierzalnej obietnicy: OpenAI zaakceptuje realne koszty, zanim zmusi je do tego rząd. Koszty te mogą obejmować wolniejsze szkolenie, głębszy przegląd i niewygodną zewnętrzną kontrolę.
Czytelnicy powinni szukać dowodów, że te mechanizmy kontroli wpływają na rzeczywiste decyzje. Należy pytać, kto może zatrzymać cykl, jakich dowodów potrzebuje i co osoby z zewnątrz mogą później zgłosić.
Jeśli OpenAI jasno odpowie na te pytania, dobrowolne ograniczanie tempa może stać się wiarygodnym fundamentem dla federalnych przepisów. Jeśli nie, luka między popieraniem regulacji a akceptowaniem ograniczeń pozostanie otwarta.
