Projekt ustawy Senatu USA o bezpieczeństwie AI stawia laboratoria frontier AI między obowiązkiem należytej staranności a blokadą rządową

Negocjatorzy w Senacie USA debatują nad ustawą o bezpieczeństwie AI, która nałożyłaby nowy obowiązek prawny na twórców frontier AI i byłaby ukierunkowana na ryzyka katastrofalne. Propozycja ma również umożliwić rządowi federalnemu występowanie o zablokowanie modeli uznanych za niebezpieczne. Twórcy mogliby zaskarżać taką interwencję przed sądem federalnym.

To połączenie oznacza istotny zwrot w podejściu Waszyngtonu do zaawansowanej AI. Kongres często kładł nacisk na dobrowolne testowanie, ujawnianie informacji i współpracę z branżą. Ta propozycja powiązałaby zaniedbania w zakresie bezpieczeństwa z odpowiedzialnością prawną i uczyniłaby nakaz sądowy elementem procesu publikacji.

Negocjacje ujawniają również trudniejszy spór. Senatorowie nie uzgodnili, czy twórcy powinni testować własne systemy, czy przekazywać modele do bezpośredniej oceny rządowej. OpenAI, Anthropic i Google znalazłyby się pod największą presją, ponieważ rozwijają jedne z najwydajniejszych modeli w kraju.

Co zmieniłby projekt ustawy Senatu USA o bezpieczeństwie AI

Propozycja przekształciłaby katastrofalne ryzyko związane z AI z dobrowolnej kwestii bezpieczeństwa w potencjalny obowiązek prawny.

Według raportu o obowiązku należytej staranności opublikowanego przez Reuters, negocjatorzy chcą, aby twórcy frontier AI projektowali produkty z uwzględnieniem ryzyk katastrofalnych. Obowiązek należytej staranności to prawny obowiązek podjęcia rozsądnych środków ostrożności wobec przewidywalnej szkody.

Opisywane ramy koncentrują się na modelach o najbardziej zaawansowanych możliwościach. Nie wydają się być zaprojektowane do regulowania każdego chatbota, silnika rekomendacji ani konwencjonalnego systemu uczenia maszynowego. Nie opublikowano jednak jeszcze tekstu ustawy definiującego próg objęcia przepisami.

Brak tej definicji ma znaczenie. Próg może zależeć od zasobów obliczeniowych, możliwości technicznych, wydatków na rozwój lub konkretnych niebezpiecznych funkcji. Każdy wybór określiłby, które firmy trafią do regulowanej kategorii i kiedy rozpoczną się ich obowiązki.

Propozycja ma podobno dotyczyć ryzyk związanych z bronią biologiczną, bronią nuklearną i zaawansowanymi cyberatakami. Są to scenariusze o poważnych konsekwencjach, w których model mógłby przekazać użytkownikom wiedzę lub możliwości wcześniej trudne do uzyskania.

Ustawa wymagałaby od objętych nią twórców uwzględniania tych zagrożeń podczas projektowania i testowania. Wcześniejsze doniesienia wskazywały, że twórcy mogliby przedkładać Departamentowi Handlu oceny ryzyka i raporty o środkach ograniczających ryzyko. Rząd mógłby następnie zakwestionować, czy środki ostrożności były wystarczające.

Ta struktura nie dawałaby automatycznie agencji nieograniczonej kontroli nad premierami modeli. Reuters podał, że dokładny zakres uprawnień federalnych pozostaje przedmiotem negocjacji. Firmy miałyby również możliwość zakwestionowania decyzji o blokadzie przed sądem.

To rozróżnienie oddziela propozycję od prostego systemu licencjonowania. Rząd najwyraźniej potrzebowałby podstawy prawnej do interwencji, a sędzia rozpatrywałby wniosek. Twórca modelu mógłby kwestionować dowody, procedurę lub interpretację swoich obowiązków w zakresie bezpieczeństwa.

W negocjacjach uczestniczą lider większości w Senacie John Thune, przewodniczący Senackiej Komisji Handlu Ted Cruz oraz senator Amy Klobuchar. Senator Maria Cantwell, czołowa demokratka w Komisji Handlu, również brała udział w debacie politycznej.

Klobuchar powiedziała Reutersowi, że twórcy powinni współpracować z ekspertami rządowymi, aby weryfikować i testować modele. Cruz stwierdził, że negocjacje dotyczą katastrofalnych zagrożeń biologicznych i nuklearnych. Biuro Thune’a odmówiło komentarza na temat rozmów.

Te wypowiedzi potwierdzają szeroki cel rozmów, ale nie rozstrzygają szczegółów legislacyjnych. Nadal nie ma ostatecznej ustawy, uzgodnionego systemu egzekwowania przepisów ani opublikowanego harmonogramu zgodności.

Propozycja ma również obejmować federalne wyłączenie części regulacji stanowych. Wyłączenie oznaczałoby, że prawo federalne uniemożliwiłoby stanom egzekwowanie własnych wymogów objętych tym zakresem. Przepis ten łączy dwa spory, których ustawodawcy wcześniej nie potrafili rozstrzygnąć.

Pierwszy spór dotyczy tego, jak wiele dowodów bezpieczeństwa powinni przedstawiać twórcy frontier AI. Drugi dotyczy tego, czy Waszyngton powinien zastąpić bardziej rygorystyczne przepisy stanowe jednym standardem krajowym.

To połączenie nadaje negocjacjom wyjątkowo duże znaczenie. Obowiązek federalny mógłby stworzyć pierwsze w kraju szerokie ramy prawne dotyczące katastrofalnego ryzyka modeli. Wyłączenie przepisów stanowych mogłoby jednocześnie usunąć zabezpieczenia już uchwalone lub rozważane przez poszczególne stany.

Istotną zmianą nie jest zatem rządowy zakaz dotyczący wskazanego modelu. Żaden model nie został publicznie uznany za niebezpieczny na podstawie tej propozycji. Zmiana polega na tym, że decyzje o publikacji mogłyby stać się podlegającymi kontroli zdarzeniami prawnymi, a nie wewnętrznymi ocenami korporacyjnymi.

OpenAI, Anthropic i Google stają przed nowym testem publikacji

Laboratoria frontier AI musiałyby bronić swoich decyzji dotyczących bezpieczeństwa przed instytucjami spoza własnych firm.

OpenAI, Anthropic i Google obecnie prowadzą szeroko zakrojone wewnętrzne testy przed ważnymi publikacjami. Publikują różne zestawy kart modeli, kart systemowych, ocen i ograniczeń wdrożeniowych. Ich metody i poziomy ujawniania informacji nie są identyczne.

Projekt ustawy Senatu USA o bezpieczeństwie AI umieściłby te wewnętrzne systemy w ramach prawnych. Laboratorium nie mogłoby już traktować procesu bezpieczeństwa wyłącznie jako praktyki inżynieryjnej lub dobrowolnego zobowiązania. Jego decyzje mogłyby stać się dowodami w sprawie dotyczącej egzekwowania przepisów przez rząd.

Wpłynęłoby to na rozwój na długo przed dniem publikacji. Zespoły potrzebowałyby dokumentacji pokazującej, jakie ryzyka zidentyfikowały, jakie oceny przeprowadziły i dlaczego określone środki zaradcze uznano za wystarczające.

Zasady publikacji modeli mogłyby również wpływać na sposób, w jaki firmy etapują dostęp. Twórca mógłby rozpocząć od ograniczonego wdrożenia, narzucić bardziej rygorystyczne kontrole użycia lub opóźnić dostęp do określonych możliwości. Takie decyzje są już podejmowane, lecz odpowiedzialność prawna zwiększyłaby ich znaczenie.

Największe firmy dysponują zasobami na oceny, analizę prawną i współpracę z rządem. Mniejsi twórcy frontier AI mogą uznać ten proces za bardziej obciążający. Ostateczny próg objęcia przepisami wpłynie więc zarówno na konkurencję, jak i bezpieczeństwo.

Duże laboratoria mogłyby zyskać przewagę, jeśli zgodność z przepisami wymagałaby kosztownej infrastruktury testowej. Mogłyby też podlegać większej kontroli, ponieważ ich modele znajdują się bliżej granicy możliwości i przyciągają więcej uwagi ustawodawców.

Anthropic zajmuje szczególnie skomplikowane stanowisko. Firma konsekwentnie podkreślała ryzyko katastrofalne i ocenę zewnętrzną. Jednocześnie miała podobno wyrażać obawy, czy kształtujące się ramy zawierają wystarczająco rygorystyczne wymogi testowania.

Briefing dotyczący frontier AI podał, że Anthropic chciał silniejszego reżimu testowania. Firma wyraziła również obawy dotyczące sformułowań, które mogłyby wyłączyć odpowiednie przepisy stanowe.

Stanowisko Anthropic pokazuje, dlaczego ta debata nie sprowadza się po prostu do konfliktu branży z rządem. Niektórzy twórcy popierają nadzór federalny, lecz nie zgadzają się co do jego konstrukcji, egzekwowania lub relacji ze standardami stanowymi.

Propozycja wywiera również presję na laboratoria, aby zdefiniowały, co rozumieją przez bezpieczeństwo. Firmy często opisują swoje modele jako przetestowane, zgodne z celami człowieka lub wdrożone odpowiedzialnie. Obowiązek prawny wymagałby bardziej konkretnych wyjaśnień tych pojęć.

Test może wykryć niebezpieczne zachowanie, nie dowodząc jednak, że każde wdrożenie jest bezpieczne. Modele zachowują się inaczej, gdy zmieniają się narzędzia, prompty, dane i systemy zewnętrzne. Laboratorium musi więc zdecydować, ile testów wystarczy do publikacji modelu ogólnego przeznaczenia.

Decyzja staje się trudniejsza, gdy model potrafi pisać kod, przeszukiwać sieci lub wspierać pracę naukową. System może być nieszkodliwy w odizolowanym benchmarku, lecz niebezpieczny po podłączeniu do wyspecjalizowanych narzędzi.

Twórcy musieliby również uwzględnić zmiany po publikacji. Dalsze dostrajanie, zewnętrzne integracje i agenci tworzeni przez użytkowników mogą zmieniać praktyczne możliwości modelu. Sposób, w jaki propozycja traktowałaby te modyfikacje, pozostaje niejasny.

Modele o otwartych wagach tworzą kolejny trudny przypadek. Ich parametry można pobrać i dostosować poza kontrolą pierwotnego twórcy. Ograniczenia działające za pośrednictwem hostowanego interfejsu mogą nie towarzyszyć modelowi po publikacji.

Opisywane przepisy nie rozstrzygnęły publicznie kwestii odpowiedzialności za modyfikacje w dalszym łańcuchu. Nie jest jasne, czy odpowiedni obowiązek spoczywałby na pierwotnym twórcy, późniejszym modyfikatorze czy dostawcy wdrożenia.

Ta niepewność dotyczy również instytucji badawczych i nabywców korporacyjnych. Organizacje coraz częściej budują procesy pracy wokół modeli bazowych pochodzących od kilku dostawców. Opóźniona lub ograniczona publikacja może zmienić harmonogramy produktów, decyzje zakupowe i przeglądy bezpieczeństwa.

Pracownicy umysłowi mogą odczuć skutki pośrednio. Nowe możliwości modeli mogą pojawiać się poprzez programy o węższym dostępie, zmienione zasady użytkowania lub wolniejsze integracje. Przedsiębiorstwa mogą otrzymać więcej dokumentacji, ale mierzyć się z dłuższymi okresami oceny.

Dla twórców kluczowe pytanie nie dotyczy już wyłącznie tego, czy model działa dobrze. Mogą też potrzebować ustalić, czy jego dostawca potrafi udokumentować możliwy do obrony proces publikacji.

Wynikająca z tego presja ma charakter operacyjny równie mocno jak prawny. Oceny bezpieczeństwa muszą stać się powtarzalne, możliwe do audytu i zrozumiałe dla osób spoza laboratorium.

Autotestowanie czy testowanie rządowe to kluczowy kompromis

Najgłębszy spór dotyczy tego, kto ma decydować, czy dowody uzasadniają publikację modelu frontier AI.

Jedno podejście rozpoczyna się od autotestowania przez twórcę. Laboratorium ocenia swój model, dokumentuje znane ryzyka i opisuje środki zastosowane w celu ich ograniczenia. Departament Handlu następnie analizuje te zgłoszenia.

Jeśli departament uzna odpowiedź za niewystarczającą, mógłby wystąpić do sądu federalnego o nakaz. Taka struktura pozostawia wstępne testowanie organizacji, która rozumie model i proces jego rozwoju.

Zwolennicy mogą argumentować, że twórcy mają bezpośredni dostęp do informacji o treningu, narzędzi wewnętrznych i nieopublikowanych możliwości. Mogą prowadzić oceny przez cały proces rozwoju, zamiast czekać na końcową ocenę rządową.

Autotestowanie może również szybko się dostosowywać. Laboratorium może stworzyć nową ocenę, gdy badacze odkryją zagrożenie lub nieoczekiwane zachowanie. Formalny reżim testowania mógłby aktualizować się wolniej.

Autotestowanie tworzy jednak oczywisty konflikt interesów. Twórca oceniający model odnosi również korzyści z jego publikacji. Presja konkurencyjna może premiować szybkość, korzystną interpretację i ograniczone ujawnianie informacji.

Cantwell opowiadała się za silniejszym udziałem naukowców rządowych i laboratoriów narodowych. Jej stanowisko odzwierciedla obawę, że twórcom może brakować wyspecjalizowanej wiedzy lub zachęt do wiarygodnej samooceny.

Ryzyka biologiczne, nuklearne i cybernetyczne wymagają czegoś więcej niż ogólnej wiedzy o AI. Badacz modeli może rozpoznać nietypowy wynik bez zrozumienia, czy rzeczywiście istotnie obniża on barierę stworzenia broni lub przeprowadzenia ataku.

Laboratoria narodowe zatrudniają specjalistów, którzy mogą oceniać te kwestie w odpowiednim kontekście. Działają również w ramach rządowych systemów bezpieczeństwa, które mogą wspierać testowanie obejmujące informacje wrażliwe.

Cantwell powiedziała, że najbardziej zaawansowane modele powinny przechodzić testy prowadzone przez naukowców i ekspertów z laboratoriów krajowych. Jej stanowisko sugeruje system sprzed wdrożenia z bardziej bezpośrednim udziałem rządu.

Spór w Senacie dotyczy zatem czegoś więcej niż skali testów. Chodzi o władzę instytucjonalną.

Proces prowadzony przez deweloperów traktuje firmy jako głównych zarządzających ryzykiem, a sądy jako zabezpieczenie przed poważnymi niepowodzeniami. Proces prowadzony przez rząd umieszcza niezależną ocenę bliżej początkowej decyzji o udostępnieniu modelu.

Ted Cruz historycznie promował lżejsze podejście regulacyjne. Jego ramy polityki AI kładły nacisk na eksperymentowanie, piaskownice regulacyjne i amerykańską konkurencyjność.

Ten kontekst pomaga wyjaśnić atrakcyjność egzekwowania przepisów pod nadzorem sądowym. Rząd mógłby interweniować przeciwko niebezpiecznemu udostępnieniu, ale agencja nie posiadałaby nieograniczonej władzy administracyjnej.

Model oparty na sądach oferuje gwarancje proceduralne. Rząd musiałby przedstawić sprawę, a deweloper mógłby odpowiedzieć przed sędzią. Proces tworzy mechanizm prawa publicznego bez wymagania rutynowej zgody federalnej na każde udostępnienie.

Sądy działają jednak pod presją czasu i ograniczeń dowodowych. Oceny modeli frontier mogą obejmować zagrożenia objęte klauzulą tajności, dane zastrzeżone i szybko zmieniające się metody techniczne. Sędziowie mogą potrzebować wsparcia ekspertów, by interpretować sprzeczne twierdzenia.

Kolejny problem stanowi czas. Postępowanie sądowe może być zbyt wolne, jeśli model stwarza bezpośrednie ryzyko. Tryb przyspieszony mógłby rozwiązać ten problem, lecz szybsze decyzje mogą ograniczać firmie możliwość odpowiedzi.

Równie istotny jest standard dowodowy. Ustawodawcy muszą zdecydować, czy rząd potrzebuje dowodów na prawdopodobną katastrofę, istotny wzrost zdolności czy niewystarczające środki ostrożności.

Niejasny standard mógłby prowadzić do niespójnego egzekwowania przepisów. Zbyt rygorystyczny standard mógłby uniemożliwić interwencję, dopóki zagrożenie nie stanie się oczywiste. Zbyt szeroki standard mógłby zniechęcać do legalnych badań i wdrożeń.

„Ryzyko katastrofalne” również wymaga praktycznej definicji. Broń biologiczna, wsparcie dla działań nuklearnych i poważne cyberataki stanowią wyraźne kategorie. Projekt ustawy nadal musi określić, jaki poziom pomocy, skali lub prawdopodobieństwa uruchamia działanie.

Model odpowiadający na ogólne pytania naukowe różni się od modelu zapewniającego eksperckie wskazówki operacyjne. Granica między tymi przypadkami nie może opierać się na jednym wyniku benchmarku.

Najbardziej wiarygodny system łączyłby testowanie zdolności z zabezpieczeniami i kontekstem wdrożenia. Niebezpieczna zdolność w ściśle kontrolowanym środowisku badawczym tworzy inne ryzyko niż nieograniczony dostęp publiczny.

Dlatego debaty nie można sprowadzać do przeciwstawienia bezpieczeństwa innowacjom. Obie strony deklarują poparcie dla odpowiedzialnego rozwoju. Nie zgadzają się co do tego, kto powinien dostarczać wiarygodnych dowodów i kiedy powinna zaczynać się władza rządu.

Ostateczna odpowiedź określi, czy obowiązek należytej staranności w AI stanie się znaczącym standardem udostępniania, czy głównie środkiem prawnym stosowanym po spornej ocenie.

Federalny standard może również osłabić stanowe przepisy dotyczące AI

Ogólnokrajowa reguła może zapewnić spójną ochronę, ale wyłączenie kompetencji stanów może zmienić ten minimalny poziom w pułap.

Deweloperzy modeli frontier regularnie argumentują, że przestrzeganie jednych ram federalnych byłoby łatwiejsze niż funkcjonowanie w wielu systemach stanowych. Różne terminy raportowania, definicje i progi techniczne mogą komplikować wdrożenia w całym kraju.

Spójność ma realną wartość. Jeden proces federalny mógłby zapewnić porównywalne raporty ryzyka i wspólne praktyki oceny. Mógłby też dać firmom jedno forum do rozstrzygania poważnych sporów.

Jednak zgłaszany projekt senacki miałby uniemożliwić stanom egzekwowanie niektórych przepisów regulujących ryzyko związane z objętymi nimi modelami. Zakres tego wyłączenia kompetencji stanów pozostaje przedmiotem negocjacji.

Cantwell ostrzegała przed słabym standardem federalnym, który usuwa silniejsze zabezpieczenia stanowe. Jej sprzeciw dotyczy fundamentalnej nierównowagi. Obowiązki federalne mogłyby pozostać ograniczone, podczas gdy stany straciłyby uprawnienie do wypełniania luk.

Aktualizacja negocjacji podała, że Cantwell nadal zabiegała o bardziej rygorystyczne wymogi. Wskazała także wyłączenie kompetencji stanów jako główne źródło sporu.

Kwestia ta już podzieliła Kongres. W lipcu 2025 roku Senat zagłosował stosunkiem 99 do 1 za usunięciem proponowanego moratorium, które zniechęcałoby stany do regulowania AI.

Głosowanie to nie ustanowiło federalnego systemu bezpieczeństwa. Pokazało, że ustawodawcy z obu partii sprzeciwili się szerokiemu zamrożeniu działań stanów, zanim Kongres zapewnił skuteczne rozwiązanie zastępcze.

Od tego czasu stany nadal przyjmują ukierunkowane przepisy. Kalifornia i Nowy Jork ustanowiły wymogi dla deweloperów zaawansowanych modeli. Inne stany skupiły się na chatbotach, osobach niepełnoletnich, zatrudnieniu i zautomatyzowanych decyzjach.

Przegląd przepisów dotyczących AI wykazał, że stany nadal regulowały tę dziedzinę mimo presji federalnej. Ustawodawcy w Illinois rozważali również wymogi niezależnego audytu polityk bezpieczeństwa zaawansowanych modeli.

Nie wszystkie te działania stanowe obejmują te same szkody. Niektóre dotyczą katastrofalnych zdolności modeli, a inne dyskryminacji, prywatności lub interakcji z chatbotami. Prawo federalne musi precyzyjnie określić, które kategorie wypiera.

Wąskie wyłączenie kompetencji stanów mogłoby zapobiec sprzecznym przepisom dotyczącym ryzyka katastrofalnego, zachowując jednocześnie ochronę konsumentów. Szerokie sformułowanie mogłoby zablokować stanowe środki prawne, których ramy federalne nigdy nie zastąpią.

Różnica często ujawnia się w definicjach, a nie w nagłówkach. Terminy takie jak model objęty regulacją, deweloper, wdrożenie i szkoda katastrofalna określają zasięg prawa.

Liczy się również egzekwowanie przepisów. Obowiązek federalny niewiele znaczy, jeśli odpowiedzialnej agencji brakuje personelu, dostępu technicznego lub zasobów do prowadzenia sporów sądowych. Egzekwowanie na poziomie stanowym może zapewnić inną ścieżkę, gdy Waszyngton nie działa.

Firmy stoją wobec innego ryzyka wynikającego z nakładającego się egzekwowania przepisów. Jedno udostępnienie modelu może skutkować federalną oceną, dochodzeniami stanowymi i prywatnymi pozwami. Ta złożoność może sprawić, że zgodność z przepisami stanie się nieprzewidywalna.

Najlepszy argument za wyłączeniem kompetencji stanów jest zatem warunkowy. Spójny standard krajowy staje się wartościowy, gdy jest jasny, możliwy do wyegzekwowania i co najmniej tak chroniący jak przepisy stanowe, które zastępuje.

Sceptyczny argument jest równie prosty. Branża może zaakceptować umiarkowany obowiązek federalny, ponieważ usuwa on bardziej rygorystyczne obowiązki stanowe. Rezultat mógłby wyglądać na silniejszy, jednocześnie ograniczając praktyczną rozliczalność.

Żadne publiczne dowody nie potwierdzają, że ta wymiana została sfinalizowana. Według doniesień Anthropic nie zajął formalnego stanowiska wobec projektu ustawy i nadal przekazuje uwagi. Jego obawy dotyczące testowania i przepisów stanowych pozostają istotne.

Koalicja polityczna zależy od rozwiązania tej kwestii. Demokraci skupieni na bezpieczeństwie mogą odrzucić słabe wymogi połączone z szerokim wyłączeniem kompetencji stanów. Republikanie sceptyczni wobec regulacji mogą sprzeciwić się bezpośredniej kontroli federalnej lub szerokim uprawnieniom do wstrzymywania działań.

Laboratoria frontier mogą popierać spójność, lecz różnić się co do treści przepisów. Firmy z silniejszymi istniejącymi systemami bezpieczeństwa mogłyby łatwiej zaakceptować wymagające zasady niż konkurenci stosujący mniej rygorystyczne procesy.

Ostateczne brzmienie przepisów o wyłączeniu kompetencji stanów ujawni kierunek projektu. Jeśli ochroni niezwiązane z nim prawa stanowe i ustanowi wiarygodny federalny minimalny poziom ochrony, może zjednoczyć rozproszony nadzór.

Jeśli odbierze stanom uprawnienia bez stworzenia silnego egzekwowania federalnego, kompromis będzie faworyzował pewność regulacyjną kosztem ochrony. Taki wynik nasili sprzeciw urzędników stanowych i rzeczników bezpieczeństwa.

Kontrola sądowa zapewnia gwarancje procesowe, lecz nie pewność techniczną

Kontrola federalna przez sąd może ograniczać władzę rządu, ale nie może wyeliminować niepewności dotyczącej zachowania modelu.

Proponowane uprawnienia rządu do blokowania spotkały się z najbardziej dramatycznymi opisami. Opisy te mogą zacierać obraz zgłaszanego procesu. Negocjatorzy nie proponują po prostu, by agencja prywatnie zakazywała dowolnego modelu, który jej się nie podoba.

Wyłaniające się ramy mają podobno zapewniać deweloperom dostęp do sądu federalnego. Tworzy to gwarancje procesowe, co oznacza, że firma może zakwestionować dowody i podstawę prawną działań rządu.

Sądy rutynowo rozstrzygają sprawy obejmujące dowody techniczne. Korzystają z zeznań ekspertów, poufnych dokumentów i wyspecjalizowanych akt. Frontier AI nadal stwarza nietypowe trudności, ponieważ zdolności modeli mogą szybko się zmieniać.

Ocena może stać się nieaktualna po dodatkowym treningu lub uzyskaniu dostępu do narzędzi. Środek ograniczający ryzyko, który działa podczas testów, może zawieść, gdy użytkownicy odkryją nowe prompty. Zewnętrzni badacze mogą również ujawnić zagrożenia po udostępnieniu.

Sędzia musiałby odróżnić wiarygodną ścieżkę prowadzącą do katastrofy od spekulacji. Wymaga to dowodów dotyczących zdolności, dostępu, intencji i potencjalnej szkody.

Rząd może posiadać utajnione informacje o zagrożeniach, których nie może publicznie ujawnić. Deweloper może posiadać zastrzeżone szczegóły modelu, które uznaje za wrażliwe handlowo. Funkcjonalny proces musi chronić obie kategorie, jednocześnie umożliwiając merytoryczne zakwestionowanie.

Ustawodawstwo potrzebuje również środka zaradczego proporcjonalnego do ryzyka. Całkowite zablokowanie udostępnienia to tylko jedna z opcji. Ograniczony dostęp, dodatkowe testy, opóźnione wdrożenie lub wyłączone narzędzia mogą rozwiązać węższe problemy.

Binarna decyzja o udostępnieniu może tworzyć niewłaściwe zachęty. Firmy mogą unikać dokumentowania niepewnych ryzyk, ponieważ każde ujawnienie może poprzeć wniosek o nakaz sądowy. Jasne zabezpieczenia dla raportowania w dobrej wierze mogłyby zmniejszyć tę presję.

Sam obowiązek musi być wystarczająco precyzyjny, by kierować zachowaniem. „Rozsądna staranność” może dostosowywać się do okoliczności, ale frontier AI nie ma za sobą dziesięcioleci utrwalonej praktyki branżowej.

Sądy mogą odwoływać się do polityk firm, standardów technicznych i oczekiwań ekspertów. To sprawia, że dobrowolne zobowiązania stają się szczególnie ważne, ponieważ mogą pomóc ustalić, co odpowiedzialni deweloperzy zwykle robią.

Tworzy to również ryzyko standardów kolistych. Jeśli wiodące laboratoria definiują akceptowalne testowanie poprzez własne praktyki, słabsze praktyki mogą stać się prawnym poziomem bazowym.

Niezależne benchmarki mogą pomóc, lecz mają ograniczenia. Benchmark mierzy wybrane zadania w wybranych warunkach. Nie gwarantuje, że model nie posiada niebezpiecznych zdolności poza testem.

Ewaluatorzy rządowi napotykają podobne ograniczenia. Dostęp do wiedzy ekspertów z laboratoriów krajowych poprawia analizę dziedzinową, lecz nie zapewnia doskonałych prognoz. Niektóre niebezpieczne zachowania ujawniają się jedynie poprzez długotrwałą interakcję lub nowe kombinacje narzędzi.

Ustawodawcy powinni zatem unikać obiecywania dowodu bezpieczeństwa. Żadna ocena nie może wykazać, że model ogólnego przeznaczenia nigdy nie przyczyni się do szkody.

Możliwy do obrony obowiązek badałby zamiast tego proces i dowody. Czy deweloper testował istotne zdolności, zaangażował wykwalifikowanych specjalistów, ujawnił istotne ustalenia i zastosował rozsądne środki ograniczające ryzyko?

Prawo potrzebuje również procedury dla pilnych odkryć po udostępnieniu. Model może przejść testy przed wdrożeniem, zanim badacze zidentyfikują niebezpieczną technikę.

Uprawnienia po udostępnieniu mogłyby wspierać szybkie ograniczenia. Mogłyby też tworzyć niepewność dla klientów zależnych od stabilnego dostępu do modeli. Umowy korporacyjne mogą wymagać planów awaryjnych na wypadek przerw w usługach.

Otwarte modele szczególnie utrudniają działania po udostępnieniu. Gdy wagi są szeroko rozpowszechnione, nakaz sądowy nie może odzyskać każdej kopii. Regulacja mogłaby wówczas koncentrować się na pierwotnej dystrybucji, przyszłych wersjach lub firmach zapewniających infrastrukturę.

To ograniczenie nie czyni nadzoru bezcelowym. Pokazuje jednak, dlaczego interwencja przed nieograniczonym udostępnieniem może mieć większe znaczenie w przypadku modeli dostępnych do pobrania.

Gdyby Kongres zastosował zwykłą federalną procedurę nakazową, rząd co do zasady działałby na podstawie Rule 65 of the Federal Rules of Civil Procedure, chyba że ustawa ustanowiłaby bardziej szczegółowy tryb. Wstępny nakaz sądowy wymaga powiadomienia strony przeciwnej. Tymczasowy zakaz sądowy może zostać wydany bez powiadomienia wyłącznie w ograniczonych okolicznościach i zazwyczaj szybko wygasa, chyba że sąd go przedłuży lub strony wyrażą zgodę.

Te rozróżnienia mają znaczenie dla prawa do rzetelnego procesu. Twórca stojący w obliczu wstępnego nakazu sądowego mógłby przedstawić oświadczenia, podważyć opinie ekspertów rządowych, zaoferować własne dowody z ocen oraz argumentować za węższym środkiem zaradczym. Nakaz nadzwyczajny mógłby zostać wydany szybciej, ale rząd musiałby wyjaśnić, dlaczego natychmiastowa i nieodwracalna szkoda uzasadniała działanie przed pełnym przesłuchaniem.

Nie można też pozostawić w domyśle merytorycznego testu. W sprawie *Winter v. Natural Resources Defense Council* Sąd Najwyższy opisał znane przesłanki wydania wstępnego nakazu: prawdopodobieństwo powodzenia, prawdopodobną nieodwracalną szkodę, wyważenie interesów oraz interes publiczny. Kongres mógłby włączyć te ramy, zmodyfikować je pod kątem AI z pogranicza możliwości albo ustanowić dodatkowe ustalenia, lecz ustawa musiałaby określić, jak dowody dotyczące ryzyka modelu wpisują się w test prawny.

Spory techniczne prawdopodobnie wymagałyby sprzecznych zeznań ekspertów. Federalne zasady dowodowe pozwalają wykwalifikowanym ekspertom przedstawiać opinie oparte na specjalistycznej wiedzy, podczas gdy sędziowie nadal odpowiadają za ocenę, czy takie zeznania są wystarczająco wiarygodne. Nakazy ochronne mogą również ograniczać ujawnianie tajemnic handlowych i innych poufnych materiałów badawczych. Mechanizmy te mogą chronić wagi modeli, metody oceny i wrażliwe dane o zagrożeniach, lecz nadmierna tajność mogłaby utrudnić zewnętrznym badaczom lub opinii publicznej ocenę podstaw blokady wydania.

Prawo do odwołania jest kolejnym niezbędnym zabezpieczeniem. Prawo federalne zasadniczo pozwala na natychmiastowe odwołania od postanowień przyznających lub odmawiających nakazów sądowych na podstawie 28 U.S.C. § 1292. Odwołanie nie musiałoby jednak oznaczać, że model pozostanie dostępny. Twórca mógłby potrzebować odrębnego wstrzymania wykonania, a klienci mogliby zobaczyć wstrzymane uruchomienie API, wyłączoną funkcję lub zatrzymane udostępnienie otwartych wag, podczas gdy postępowanie sądowe będzie trwało.

Kontrola sądowa zapewnia więc procedurę badania zgodności z prawem, a nie naukową certyfikację, że model jest bezpieczny lub niebezpieczny. Sędziowie mogą porównać dowody i ocenić, czy rząd spełnił ustawowy standard. Nie mogą wyeliminować niepewności wynikającej z niekompletnych benchmarków, nieodkrytych możliwości lub rozbieżności zdań wśród specjalistów.

Ustawa musi również określić, jaki materiał dowodowy bada sąd. Sędzia mógłby przeanalizować wyłącznie materiały przedłożone agencji, rozważyć nowe dowody obu stron albo powołać niezależnego eksperta. Wybory te wpłynęłyby na szybkość postępowania i zdolność twórcy do odpowiedzi na twierdzenia techniczne, które pojawiły się po przeglądzie agencji.

Ustawodawstwo powinno ponadto rozróżniać między naprawieniem niezgodnej z prawem procedury a rozstrzygnięciem samej decyzji o wydaniu modelu. Sąd mógłby odrzucić rządową blokadę, ponieważ urzędnicy nie przekazali wymaganego powiadomienia lub zastosowali niewłaściwy standard, nie stwierdzając przy tym, że model jest bezpieczny. Rząd mógłby następnie powtórzyć proces zgodnie ze skorygowanymi procedurami.

Wpływ ustawy będzie ostatecznie zależał od progów objęcia regulacją, standardów dowodowych, procedur nadzwyczajnych, praw do odwołania, zasad poufności oraz sposobu traktowania dalszych modyfikacji. Bez tych szczegółów „kontrola sądowa” opisuje zabezpieczenie co do zasady, ale nie to, jak szybko ani skutecznie działałoby ono w praktyce.

Żadnej z tych procedur nie należy wywodzić ze zwrotu „zablokować wydanie”. Dopóki ustawodawcy nie opublikują tekstu, propozycja pozostaje wynegocjowaną koncepcją, a nie egzekwowalnym systemem.

Trzy sygnały pokażą, czy propozycja ma szansę przetrwać

Kolejnym testem nie jest następna deklaracja bezpieczeństwa ze strony laboratorium AI. Jest nim to, czy ustawodawcy potrafią przekształcić swoje zasady w egzekwowalny tekst.

Pierwszym sygnałem będzie publiczny projekt zawierający konkretne definicje. Czytelnicy powinni zwrócić uwagę na próg identyfikujący objęte regulacją modele oraz standard używany do definiowania katastrofalnego ryzyka.

Jasne progi wzmocniłyby argument, że propozycja może kierować rzeczywistymi decyzjami o wydawaniu modeli. Niejasny język osłabiłby go, pozostawiając agencjom, firmom i sądom stworzenie tych ram później.

Projekt powinien również wyjaśniać, która strona ponosi odpowiedzialność po zmodyfikowaniu modelu. Ten szczegół pokaże, czy ustawodawcy rozumieją otwarte wagi, dostrajanie modeli i wdrożenia z udziałem wielu dostawców.

Drugim sygnałem będzie porozumienie w sprawie uprawnień do testowania. Ustawa musi rozstrzygnąć, czy laboratoria przede wszystkim testują się same, czy przekazują modele do bezpośredniej oceny przez ekspertów rządowych.

Możliwy jest system hybrydowy, ale jego kolejność musi być jasna. Testy twórcy mogłyby zapewniać pierwszy materiał dowodowy, po którym następowałaby niezależna ocena określonych możliwości lub systemów o wyższym ryzyku.

Znaczący dostęp dla ekspertów laboratoriów krajowych wzmocniłby argument Cantwell za niezależną kontrolą. System oparty niemal wyłącznie na raportach firm utrzymałby centralny konflikt interesów.

Rząd potrzebuje też zdolności do przeprowadzania ocen. Przypisanie odpowiedzialności bez personelu, bezpiecznej infrastruktury lub dostępu technicznego stworzyłoby nadzór na papierze, a nie w praktyce.

Trzecim sygnałem będzie zakres wyłączenia kompetencji stanowych. To sformułowanie określi, czy ustawa ustanawia federalne minimum bezpieczeństwa, czy ogranicza silniejsze działania stanów.

Wąskie wyłączenie kompetencji, powiązane z tymi samymi katastrofalnymi zagrożeniami, mogłoby wesprzeć spójny system krajowy. Szerokie wyłączenie rodziłoby pytania o ochronę konsumentów, luki w egzekwowaniu przepisów i wpływ branży.

Urzędnicy stanowi i grupy rzecznicze zareagują szybko, gdy język ten stanie się publiczny. Ich poparcie lub sprzeciw będzie wczesną miarą wiarygodności kompromisu.

Znaczenie będzie mieć również reakcja OpenAI, Anthropic i Google. Firmy mogą poprzeć federalną spójność, jednocześnie zabiegając o zmiany progów, dostępu do testów lub odpowiedzialności prawnej.

Te reakcje należy interpretować ostrożnie. Poparcie dla „ustawodawstwa dotyczącego bezpieczeństwa AI” nie musi oznaczać poparcia dla testów rządowych ani nakazów sądowych blokujących wydanie modeli.

Kalendarz Senatu pozostaje bezpośrednim testem politycznym. Negocjatorzy potrzebują porozumienia, działania komisji oraz wystarczająco dużo czasu, by obie izby mogły rozpatrzyć środek.

Brak uchwalenia ustawy nie zakończyłby debaty politycznej. Stany nadal rozwijałyby własne przepisy, a sądy nadal rozpatrywałyby roszczenia na podstawie istniejących obowiązków prawnych.

Uchwalenie rozpoczęłoby inną fazę. Agencje, laboratoria, eksperci krajowi i sędziowie musieliby przekształcić szerokie kategorie ryzyka w powtarzalne decyzje.

Dla twórców i nabywców korporacyjnych nadszedł czas na udokumentowanie zależności od modeli z pogranicza możliwości. Zespoły powinny zidentyfikować, które produkty opierają się na jednym dostawcy i co dzieje się, gdy dostęp ulega zmianie.

Zespoły badawcze i polityczne potrzebują również niezawodnego sposobu zachowywania języka projektów, raportów z testów i oświadczeń firm. Ustrukturyzowany proces gromadzenia informacji może utrzymać możliwość przeszukiwania tych materiałów w miarę zmian w negocjacjach.

Amerykańska ustawa Senatu dotycząca bezpieczeństwa AI wciąż nie jest ukończona, a ta niepewność jest kluczowym faktem. Obserwuj definicje, uprawnienia do testowania i klauzulę wyłączenia kompetencji stanowych. Razem pokażą, czy Kongres tworzy wiarygodny nadzór, czy jedynie przesuwa odpowiedzialność między firmami, agencjami, stanami i sądami.