Spór w Senacie o testy bezpieczeństwa AI: federalna weryfikacja kontra kontrola firm

Testy bezpieczeństwa AI w Senacie stały się kluczowym punktem sporu, gdy ustawodawcy negocjują zasady dotyczące najbardziej zaawansowanych modeli, zanim trafią one do użytkowników. Spór koncentruje się wokół jednego praktycznego pytania: czy twórcy powinni testować własne systemy, czy też federalni eksperci muszą niezależnie zbadać je przed wdrożeniem?

Ta różnica może przesądzić o tym, czy przyszła ustawa ustanowi zewnętrzny punkt kontrolny, czy sformalizuje zarządzanie ryzykiem prowadzone przez firmy. Senatorowie Ted Cruz, Amy Klobuchar i John Thune opracowują przepisy, lecz senator Maria Cantwell domaga się silniejszych, obowiązkowych testów federalnych.

Tekst ustawy pozostaje nieopublikowany, dlatego istotne szczegóły nadal mogą się zmienić. Zgłaszany podział ujawnia jednak już centralną słabość rodzącego się w Waszyngtonie konsensusu. Ustawodawcy coraz częściej zgadzają się, że graniczna AI potrzebuje zabezpieczeń, ale nie uzgodnili, kto kontroluje dowody stojące za decyzją dotyczącą bezpieczeństwa.

Projekt ustawy wywołał spór jeszcze przed publikacją

Rodząca się propozycja Senatu przekształciła testowanie modeli z procedury technicznej w walkę o uprawnienia regulacyjne.

Przepisy są opracowywane przez Klobuchar i Thune'a przy udziale Cruza, który przewodniczy Senackiej Komisji Handlu. Cantwell, najwyżej rangą Demokratka w komisji, sprzeciwia się zgłaszanemu modelowi testowania.

Według negocjacji dotyczących testów projekt pozwoliłby twórcom przeprowadzać oceny bezpieczeństwa i przekazywać ich wyniki sekretarzowi handlu. Cantwell chce natomiast, aby laboratoria krajowe i agencje bezpieczeństwa narodowego uczestniczyły w obowiązkowych testach bezpieczeństwa.

To rozróżnienie ma znaczenie, ponieważ ocena prowadzona przez firmę opiera się na dowodach wytworzonych przez regulowanego twórcę. Urzędnicy mogą przeglądać wyniki, kwestionować metody i potencjalnie odrzucić wdrożenie, zależnie od ostatecznego kształtu ustawy.

Niezależne testowanie federalne wychodzi z innego założenia. Zakłada, że urzędnicy potrzebują bezpośredniego dostępu do modelu, jego zabezpieczeń i realistycznych środowisk oceny, zanim zaakceptują wnioski twórcy.

Żadna ze struktur nie gwarantuje automatycznie bezpieczeństwa. Oceniający po stronie firm dogłębnie rozumieją swoje systemy, podczas gdy oceniający federalni mogą zapewnić niezależność oraz dostęp do tajnych informacji o zagrożeniach. Spór dotyczy tego, która z tych zalet powinna wyznaczać prawne minimum.

Klobuchar przedstawiała swoje stanowisko jako pomost między tymi dwoma podejściami. Stwierdziła, że twórcy powinni współpracować z ekspertami rządowymi przy weryfikowaniu i testowaniu modeli, zwłaszcza tych, które mogłyby wymknąć się spod kontroli twórcy.

Takie sformułowanie pozostawia nierozstrzygnięte pytania. Współpraca z ekspertami rządowymi może oznaczać udostępnianie raportów, współpracę przy wybranych testach albo przekazywanie modeli do bezpośredniego badania. Każda wersja daje federalnym urzędnikom inny poziom władzy.

Cruz również uznał potrzebę zabezpieczeń. Określił zarzuty dotyczące niewystarczających praktyk bezpieczeństwa w czołowych laboratoriach AI jako „wysoce niepokojące”, jednocześnie podkreślając dalsze amerykańskie przywództwo wobec Chin.

Ustawa nie dzieli więc stron na zwolenników regulacji i jej braku. Spór dotyczy siły, harmonogramu i instytucjonalnej odpowiedzialności za oceny granicznej AI.

Istotny jest także moment. Negocjacje senackie nasiliły się po tym, jak publiczne zarzuty byłego pracownika OpenAI i Anthropic ponownie skierowały uwagę Kongresu na ryzyko utraty kontroli.

Zarzuty te pomogły stworzyć polityczne poczucie pilności, ale nie zastępują zweryfikowanych ustaleń technicznych. Kongres musi zaprojektować zasady, które będą działać poza kontekstem jednego viralowego ostrzeżenia czy nietypowego incydentu.

Nieopublikowany tekst tworzy kolejne ograniczenie. Relacje doradców i osób zaznajomionych z negocjacjami mogą wskazać przedmiot sporu, lecz nie mogą rozstrzygnąć dokładnie, czego wymaga propozycja.

Terminy takie jak „dobrowolne”, „obowiązkowe” i „weryfikacja rządowa” mogą skrywać istotne różnice prawne. Ostateczny efekt będzie zależał od ustawowych obowiązków, uprawnień egzekucyjnych, terminów, wyjątków i kontroli sądowej.

Na razie najwyraźniejsza zmiana ma charakter polityczny. Wysoko postawieni senatorowie negocjują konkretne obowiązki dotyczące ocen ryzyka katastrofalnego, zamiast omawiać bezpieczeństwo AI wyłącznie podczas przesłuchań i w ramach dobrowolnych zobowiązań.

Dlaczego testy bezpieczeństwa AI w Senacie zależą od tego, kto przeprowadza test

Reżim bezpieczeństwa staje się znaczący dopiero wtedy, gdy oceniający może zakwestionować założenia, metody i decyzję twórcy o wdrożeniu.

Modele graniczne to systemy ogólnego przeznaczenia, trenowane na znaczną skalę i zdolne do wykonywania wielu zadań. W tej debacie ustawodawcy skupiają się na modelach, które mogłyby umożliwić poważne szkody cybernetyczne, biologiczne, chemiczne lub nuklearne.

Testowanie przed wdrożeniem bada model przed jego szerszym udostępnieniem lub wykorzystaniem operacyjnym. Oceniający sprawdzają możliwości, zabezpieczenia, odporność na niewłaściwe użycie oraz zachowanie wobec wrogich poleceń lub zmienionych warunków.

Sformułowanie brzmi prosto, lecz każdy jego element wymaga wyboru politycznego. Kongres musi zdecydować, które modele się kwalifikują, jakie zagrożenia są uwzględniane, kto projektuje oceny i jaki wynik blokuje wdrożenie.

System prowadzony przez twórcę oferuje szybkość i znajomość techniczną. Wewnętrzne zespoły mogą testować podczas treningu, szybko badać awarie i zmieniać zabezpieczenia bez wielokrotnego przekazywania dostępu do wrażliwego modelu.

Twórcy dysponują również istotną wiedzą kontekstową. Lepiej niż zewnętrzny oceniający na początku rozumieją proces treningu, architekturę systemu, mechanizmy bezpieczeństwa i znane wzorce awarii.

Testy wewnętrzne tworzą jednak problem bodźców. Ta sama firma, która ponosi koszt opóźnienia modelu, może również decydować, czy niepokojący wynik uzasadnia takie opóźnienie.

Nie oznacza to, że twórcy będą ignorować ustalenia dotyczące bezpieczeństwa. Oznacza natomiast, że ustawodawstwo musi uwzględniać zwykłe presje instytucjonalne, w tym harmonogramy premier, pozycjonowanie konkurencyjne, oczekiwania inwestorów i zobowiązania wobec klientów.

Przegląd rządowy może ograniczyć ten konflikt tylko wtedy, gdy recenzenci otrzymają wystarczająco dużo informacji. Raport podsumowujący może ujawnić wyniki testów, nie pokazując jednak, czy ocena obejmowała realistyczne zagrożenia lub pomijała niebezpieczne ścieżki.

Niezależne testowanie zapewnia silniejsze oddzielenie tworzenia dowodów od komercyjnego podejmowania decyzji. Laboratoria krajowe i agencje bezpieczeństwa mogą również dysponować wiedzą ekspercką lub tajnymi informacjami o zagrożeniach niedostępnymi prywatnym oceniającym.

Testowanie federalne wprowadza jednak własne ograniczenia. Agencje potrzebowałyby wykwalifikowanego personelu, chronionych środowisk obliczeniowych, bezpiecznego dostępu do modeli, powtarzalnych benchmarków i procedur postępowania z tajemnicami handlowymi.

Zdolności operacyjne wpływają również na harmonogram. Jeśli kilku twórców jednocześnie przedłoży coraz bardziej złożone modele, scentralizowany program testowania może stać się wąskim gardłem bez odpowiedniego personelu i infrastruktury.

Ta możliwość stanowi podstawę argumentu za testowaniem firmowym z weryfikacją rządową. Rozdziela ono pracę nad ocenami, zachowując jednocześnie pewien federalny nadzór.

Siła tego kompromisu zależy od znaczenia słowa „weryfikacja”. Przegląd dokumentów firmy jest słabszy niż ponowne przeprowadzenie jej testów, a ponowne przeprowadzenie wybranych testów jest węższe niż prowadzenie niezależnych ocen.

Kongres musi także określić konsekwencję niepowodzenia. Wymóg testowania różni się od wymogu usunięcia zidentyfikowanych problemów przed udostępnieniem.

Model może wykazywać niepokojące zdolności podczas oceny, a mimo to przejść dalej, jeśli prawo nie zawiera wiążącego progu wdrożenia. Zgłoszenie wyniku stworzyłoby przejrzystość, niekoniecznie zapobiegając ekspozycji.

Zgłaszane podejście Cantwell kładzie nacisk na obowiązkowe testowanie i poprawki przed wdrożeniem. Stanowisko to traktuje ocenę jako bramę regulacyjną, a nie wyłącznie wymóg dokumentacyjny.

Konkurencyjne podejście wydaje się zaprojektowane tak, by tworzyć obowiązki dla twórców przy jednoczesnej ochronie należytego procesu i dalszych innowacji. Jego zwolennicy twierdzą, że rząd zachowałby możliwość weryfikowania zgodności.

Oba obozy twierdzą zatem, że popierają znaczący nadzór. Prawdziwym sprawdzianem jest to, czy rząd może niezależnie wykrywać problemy i wymagać działania, gdy twórca się nie zgadza.

Ryzyko katastrofalne jest zarazem punktem porozumienia i luką

Ustawodawcy zgadzają się co do etykiety „ryzyko katastrofalne”, lecz jej definicja zdecyduje, czy prawo obejmie niebezpieczne modele, czy będzie stosowane rzadko.

Ryzyko katastrofalne zazwyczaj odnosi się do szkód o niskiej częstotliwości, lecz nadzwyczaj poważnych konsekwencjach. W polityce dotyczącej granicznej AI przykłady często obejmują zaawansowane cyberataki lub pomoc w zagrożeniach biologicznych i nuklearnych.

Cantwell argumentowała konkretnie, że eksperci z laboratoriów krajowych powinni oceniać, czy zaawansowane modele umożliwiają takie działania. Jej ujęcie łączy testowanie modeli ze zdolnościami bezpieczeństwa narodowego już rozproszonymi w strukturach rządu.

Cruz używał tego samego szerokiego języka ryzyka, łącząc bezpieczeństwo z rywalizacją geopolityczną. To połączenie odzwierciedla powszechne stanowisko Kongresu: Stany Zjednoczone powinny regulować poważne zagrożenia, nie spowalniając nadmiernie krajowych twórców.

Napięcie kryje się w samym słowie „katastrofalne”. Wąsko zdefiniowany próg może skupić nadzór na skrajnych przypadkach i uniknąć nakładania nieproporcjonalnych obowiązków na mniejszych twórców.

Może też wykluczyć poważne szkody, które nie osiągają ustawowego progu. Powtarzające się awarie bezpieczeństwa, manipulacja, oszustwa lub zakłócenia na rynku pracy mogą pozostać poza ramami skoncentrowanymi na katastrofach o skali krajowej.

Szeroka definicja tworzy odmienne problemy. Firmy mogą mieć trudność z ustaleniem, kiedy dana zdolność przekracza granicę, podczas gdy regulatorzy mogliby uzyskać szeroką swobodę w kwestii wdrażania modeli.

Progi objęcia regulacją mają równie duże znaczenie. Ustawa może regulować firmy na podstawie wydatków na trening, zasobów obliczeniowych, zdolności modelu lub wielkości organizacji.

Każda z tych miar może stać się przestarzała lub zniekształcona. Koszty treningu się zmieniają, wydajność obliczeniowa rośnie, a niebezpieczne zdolności nie zawsze zwiększają się w uporządkowany sposób wraz z jednym progiem liczbowym.

Wyzwalacz oparty na zdolnościach wydaje się bardziej elastyczny, ale wymaga wiarygodnych testów. Oceny te muszą odróżniać model, który sporadycznie generuje niepokojące wyniki, od modelu, który istotnie obniża bariery dla poważnych szkód.

Warunki testowania mogą wpływać na wynik. Wydajność modelu może zmieniać się wraz z dostępem do narzędzi, dostrajaniem, zewnętrznymi danymi, dłuższym czasem wnioskowania lub powtarzanymi próbami podejmowanymi przez wykwalifikowanych użytkowników.

Wdrożony produkt może również różnić się od modelu bazowego testowanego wcześniej. Zasady bezpieczeństwa muszą uwzględniać późniejsze modyfikacje, podłączone narzędzia i nowe środowiska działania, nie wymuszając pełnego przeglądu przy każdej drobnej aktualizacji.

To wyzwanie jest szczególnie widoczne w przypadku agentów AI. Agent może planować i wykonywać wieloetapowe zadania przy użyciu oprogramowania, kont lub usług zewnętrznych, co poszerza konsekwencje niewiarygodnego zachowania.

Statyczny benchmark może nie uchwycić takich interakcji. Oceniający potrzebują realistycznych środowisk ujawniających, jak model zachowuje się, gdy może działać, ponawiać próby, ukrywać błędy lub wykorzystywać połączone systemy.

Kongres potrzebuje również procesu aktualizowania standardów oceny. Sztywne zapisanie dzisiejszych testów mogłoby sprawić, że agencje mierzyłyby przestarzałe ryzyka, podczas gdy modele i wzorce wdrożeń się zmieniają.

Ustawa FRONTIER Act, popierana ponad podziałami partyjnymi w Izbie Reprezentantów, oferuje punkt odniesienia. Proponuje ona stopniowane wymogi, karty modeli, ramy zarządzania ryzykiem, niezależne audyty, zgłaszanie incydentów oraz ciągłe oceny dla zaawansowanych twórców.

Ten model rozkłada nadzór na wiele obowiązków, zamiast opierać się na jednej bramce przed wdrożeniem. Próbuje też skoncentrować wymagające wymogi na największych twórcach.

Senator Mark Warner realizuje inne podejście. Według doniesień jego ramy bezpieczeństwa AI wymagałyby rządowego testowania zaawansowanych modeli przed wdrożeniem, przy jednoczesnym stosowaniu dobrowolnego raportowania incydentów bezpieczeństwa.

Propozycje te pokazują, że Kongres ma do dyspozycji kilka możliwych kombinacji egzekwowania przepisów. Obowiązkowe testy, niezależne audyty, raportowanie incydentów i zgoda na wdrożenie mogą się wzajemnie wzmacniać, ale nie są zamienne.

Test uchwytuje zachowanie w wybranych warunkach, w konkretnym momencie. Raportowanie incydentów rejestruje awarie ujawniające się po wdrożeniu, gdy rzeczywiści użytkownicy łączą modele z nieprzewidywalnymi danymi i systemami.

Wiarygodność senackiego projektu będzie zatem zależeć od czegoś więcej niż jego etykiety dotyczącej testowania. Musi on połączyć zakres objęcia przepisami, metody oceny, obowiązki naprawcze, decyzje o wdrożeniu i monitorowanie po premierze.

Federalne przepisy mogą zastąpić silniejsze zabezpieczenia stanowe

Spór o testowanie staje się bardziej doniosły, jeśli Kongres wykorzysta standard federalny do ograniczenia stanowych przepisów dotyczących AI.

Preempcja federalna uniemożliwia stanom egzekwowanie przepisów w obszarze regulowanym wyłącznie przez prawo federalne. Firmy technologiczne często popierają preempcję, ponieważ jeden ogólnokrajowy system jest łatwiejszy do przestrzegania niż wiele reżimów stanowych.

Jednolitość ma praktyczną wartość. Model frontier może obsługiwać użytkowników w całym kraju, podczas gdy sprzeczne wymogi dotyczące testowania i raportowania mogą komplikować jedno ogólnokrajowe wdrożenie.

Wspólny system federalny mógłby także skoncentrować wiedzę specjalistyczną. Laboratoria krajowe, agencje bezpieczeństwa i Departament Handlu mogą koordynować informacje o zagrożeniach poza zasięgiem poszczególnych stanów.

Jednak standard krajowy może działać albo jako minimum, albo jako pułap. Minimum zachowuje silniejsze zabezpieczenia stanowe, podczas gdy pułap blokuje stanom możliwość pójścia dalej.

Cantwell ostrzegała przed słabym standardem federalnym, który podważa ustawodawstwo stanowe. Grupy zajmujące się bezpieczeństwem AI podobnie połączyły testowanie przed wdrożeniem z zachowaniem skutecznych zabezpieczeń stanowych.

Biały Dom przyjął łagodniejsze podejście. Jego plan legislacyjny wzywa do wyprzedzenia stanowych ograniczeń uznawanych za uciążliwe, przy zachowaniu wybranych zabezpieczeń konsumenckich.

Kalifornia, Kolorado, Teksas i Utah już uchwaliły przepisy dotyczące AI w sektorze prywatnym. Ich podejścia różnią się, pokazując zarówno eksperymentowanie, które preempcja federalna mogłaby zatrzymać, jak i złożoność, którą jednolitość mogłaby ograniczyć.

Relacjonowane negocjacje w Senacie należy oceniać z uwzględnieniem tego szerszego sporu. Skromna federalna reguła testowania ma inne konsekwencje, jeśli stany nadal mogą wymagać silniejszych kontroli.

Jeśli prawo wyprze przepisy stanowe, każda luka w federalnym reżimie nabiera większego znaczenia. Dobrowolny lub prowadzony przez firmy standard mógłby stać się maksymalnym dopuszczalnym poziomem nadzoru, a nie jedynie początkową bazą.

Wywiera to presję na ustawodawców, którzy chcą działań ponad podziałami partyjnymi. Słabszy projekt może przyciągnąć więcej głosów, ale połączenie go z szeroką preempcją może utrudnić kompromis zwolennikom uprawnień stanów.

Branża stoi przed powiązanym wyborem. Twórcy mogą preferować jeden federalny system, lecz lobbowanie za niskim ogólnokrajowym pułapem może osłabić publiczne zaufanie do tego systemu.

Według niedawnych doniesień dotyczących debaty politycznej OpenAI co do zasady poparło obowiązkowe przepisy federalne. Poparcie dla ustawodawstwa nie odpowiada jednak na pytanie, czy firma akceptuje bezpośrednie testowanie przez rząd, czy jedynie ustrukturyzowaną samoocenę.

Anthropic często zajmował publicznie stanowiska bardziej zorientowane na bezpieczeństwo niż niektórzy konkurenci, lecz nie skomentował pierwotnego materiału dotyczącego tych negocjacji. Jego dokładne stanowisko wobec nieopublikowanego brzmienia pozostaje więc niepewne.

Eksperymentowanie na poziomie stanowym wiąże się z kosztami, ale tworzy też dźwignię. Gdy Kongres nie działa, przepisy stanowe mogą skłaniać firmy do ujawnień, zarządzania ryzykiem i ochrony specyficznej dla danych sektorów.

Federalni ustawodawcy mogą ostatecznie wykorzystać preempcję jako element porozumienia. Twórcy otrzymają jeden zbiór zasad, a regulatorzy — raportowanie, dostęp do testów i egzekwowalne obowiązki bezpieczeństwa.

Taka umowa działa tylko wtedy, gdy krajowe przepisy są wystarczająco silne, by uzasadniać usunięcie alternatyw. W przeciwnym razie jednolitość może stać się sposobem na ograniczenie rozliczalności przy przedstawianiu rezultatu jako pewności regulacyjnej.

Dla nabywców korporacyjnych kwestia ta wykracza poza teorię prawną. Standard federalny może kształtować dokumentację bezpieczeństwa dostarczaną przez dostawców oraz to, czy klienci mogą porównywać metody oceny między modelami.

Organizacje nie powinny traktować zgodności ustawowej jako dowodu, że system jest bezpieczny dla każdego zastosowania. Progi prawne skupione na katastrofalnych szkodach mogą niewiele mówić o poufności, halucynacjach, dyskryminacji czy niezawodności operacyjnej.

Zespoły oceniające produkty AI nadal potrzebują własnych rejestrów deklaracji dostawców, wyników testów, incydentów i decyzji wdrożeniowych. Przeszukiwalna baza wiedzy AI może pomóc zachować te dowody w miarę zmian przepisów i produktów.

Nawet najsilniejsza reguła testowania napotyka praktyczne ograniczenia

Obowiązkowe testowanie federalne może stworzyć niezależny punkt kontrolny, ale nie może przekształcić niepewnych ocen w precyzyjne prognozy rzeczywistego zachowania.

Ocena modeli frontier pozostaje rozwijającą się dziedziną. Testy mogą identyfikować niepokojące możliwości, lecz wyniki zależą od promptów, narzędzi, poziomów dostępu, umiejętności oceniających i założeń dotyczących wdrożenia.

Model może bezpiecznie nie przejść jednej oceny, a po dostrojeniu lub integracji zachowywać się inaczej. Może też wyglądać na niebezpieczny w sztucznych warunkach, których zwykli użytkownicy nie są w stanie odtworzyć.

Ta niepewność przemawia za silniejszym testowaniem, ponieważ żadna pojedyncza firma nie powinna samodzielnie określać, jakie dowody są akceptowalne. Ostrzega też przed traktowaniem rządowej zgody jako trwałej certyfikacji bezpieczeństwa.

Agencje będą musiały komunikować, co oznacza zakończony przegląd. Zgoda może oznaczać, że model spełnił określony próg w sprecyzowanych warunkach, a nie że każde zastosowanie jest bezpieczne.

Regulatorzy muszą też chronić wrażliwe informacje. Wagi modeli, zabezpieczenia, zastrzeżone dane ewaluacyjne i wykryte podatności mogą stać się cennymi celami szpiegostwa lub przestępczej kradzieży.

Agencje bezpieczeństwa narodowego dysponują odpowiednią wiedzą, lecz szerszy dostęp tworzy nowe obowiązki w zakresie bezpieczeństwa. Kongres musi określić, kto może kontrolować przekazane materiały i jak agencje będą je izolować.

Rzetelny proces to kolejna uzasadniona obawa. Jeśli sekretarz handlu może opóźnić wdrożenie, twórcy potrzebują jasnych standardów, terminów odpowiedzi, prawa do odwołania oraz procedur korygowania błędów faktycznych.

Te zabezpieczenia nie powinny jednak uniemożliwiać interwencji. System przeglądu dopuszczający niekończące się zaskarżenia mógłby pozwolić na wdrożenie, zanim regulatorzy rozstrzygną poważny problem bezpieczeństwa.

Mniejsi twórcy stanowią inny problem. Złożone federalne testowanie może umacniać pozycję największych laboratoriów, jeśli zgodność wymaga rozbudowanego personelu, wsparcia prawnego i wyspecjalizowanej infrastruktury.

Progi oparte na ryzyku mogą zmniejszyć to obciążenie. Ustawodawcy powinni jednak zbadać, czy progi zachęcają firmy do restrukturyzacji rozwoju lub ukrywania informacji, by pozostać poza zakresem regulacji.

Modele open source dodają kolejną komplikację. Gdy wagi modeli są szeroko dostępne, ograniczenia wobec jednego twórcy mogą nie kontrolować późniejszych modyfikacji ani wdrożeń przez inne podmioty.

Testowanie nadal może ujawniać ryzyka przed publikacją. Egzekwowanie musi jednak uwzględniać decyzje dotyczące dystrybucji, modele pochodne i obowiązki podmiotów dokonujących późniejszych wdrożeń.

Międzynarodowa konkurencja wywiera presję na każdy wybór. Cruz i inni ustawodawcy argumentują, że Stany Zjednoczone muszą utrzymać przewagę nad Chinami, jednocześnie przyjmując parametry bezpieczeństwa.

Argument ten może uzasadniać sprawne regulacje, ale może też stać się powodem osłabiania każdego wymogu wpływającego na harmonogramy publikacji. Kongres potrzebuje dowodów dotyczących rzeczywistych opóźnień, zamiast zakładać, że każdy zewnętrzny przegląd szkodzi konkurencyjności.

Wiarygodne standardy mogą wspierać wdrażanie poprzez zmniejszanie niepewności. Klienci korporacyjni i rządowi mogą działać szybciej, gdy dostawcy przedstawiają porównywalne dowody, a poważne incydenty trafiają do zaufanego systemu raportowania.

Unia Europejska stanowi zewnętrzny punkt odniesienia. Jej ramy dotyczące AI obejmują już obowiązki przejrzystości i zgłaszania incydentów dla dostawców zaawansowanych modeli ogólnego przeznaczenia.

Różne systemy prawne ograniczają bezpośrednie porównanie, ale globalny kierunek jest jasny. Rządy przechodzą od dobrowolnych obietnic bezpieczeństwa ku określonym obowiązkom, dokumentacji i dostępowi regulatorów.

Stany Zjednoczone mogą zaprojektować odrębne ramy bez unikania tych podstawowych pytań. Rozstrzygającą kwestią jest to, czy nadzór może wytwarzać dowody wystarczająco niezależne, by zakwestionować decyzję twórcy o publikacji.

Kongres powinien także unikać pisania prawa wokół jednego spornego ostrzeżenia. Wirusowe twierdzenia mogą przyspieszać uwagę, lecz trwałe regulacje wymagają powtarzalnych procesów i zweryfikowanych ustaleń technicznych.

Zarzuty byłego pracownika pozostają elementem politycznego katalizatora, a nie dowodem, że konkretny model stwarza katastrofalne zagrożenie. Projekt powinien działać niezależnie od tego, czy te zarzuty zostaną potwierdzone, zawężone czy odrzucone.

To sceptyczne rozróżnienie wzmacnia argument za wiarygodną oceną. Niezależne testowanie jest najcenniejsze wtedy, gdy debata publiczna obejmuje pilne twierdzenia, których ani ustawodawcy, ani użytkownicy nie mogą bezpośrednio zweryfikować.

Jednocześnie testowanie nie może odpowiedzieć na każde społeczne pytanie związane z AI. Nie rozstrzyga sporów dotyczących praw autorskich, wypierania miejsc pracy, zużycia energii, bezpieczeństwa dzieci ani rutynowego wprowadzania konsumentów w błąd.

Ustawa ściśle skoncentrowana na katastrofalnym ryzyku nie powinna udawać, że jest inaczej. Jej wartość należy mierzyć w odniesieniu do poważnych zagrożeń, które faktycznie obejmuje, oraz uprawnień, jakie daje regulatorom do reagowania na nie.

Trzy sygnały pokażą, czy kompromis ma realną moc

Kolejny etap ujawni, czy ustawodawcy budują punkt kontrolny przed wdrożeniem, czy system raportowania pozostawiający ostateczną kontrolę twórcom.

Pierwszym sygnałem będzie publikacja faktycznego tekstu projektu. Czytelnicy powinni szukać czasowników takich jak „shall”, a także jasnych wymogów dotyczących niezależnego dostępu, testowania, działań naprawczych i zgody na wdrożenie.

Definicje będą równie ważne jak nakazy. Tekst powinien wskazywać objętych nim twórców, objęte nim modele, progi katastrofalnego ryzyka oraz zdarzenia uruchamiające nową ocenę.

Decydujący przepis określi, co dzieje się po niebezpiecznym wyniku. Obowiązek przekazania ustaleń jest słabszy niż uprawnienie do wymagania poprawek lub zapobiegania wdrożeniu.

Projekt powinien także wyjaśniać, czy eksperci rządowi mogą projektować i przeprowadzać własne testy. Dostęp ograniczony do dowodów wybranych przez twórcę pozostawiłby nierozwiązany centralny problem niezależności.

Jeśli opublikowany tekst przyznaje agencjom bezpośrednie uprawnienia do testowania i egzekwowalne środki zaradcze, obawy Cantwell wpłynęły na kompromis. Jeśli opiera się głównie na samoocenie, przeważy podejście prowadzone przez twórców.

Drugim sygnałem będą działania Senackiej Komisji Handlu. Wcześniejsze posiedzenie dotyczące powiązanej inicjatywy Thune’a i Klobuchar zostało odwołane przed sierpniową przerwą, co pokazuje, że dyskusja nie gwarantuje postępu legislacyjnego.

Zaplanowane posiedzenie nad poprawkami pokazałoby, że liderzy komisji na tyle zbliżyli stanowiska, by poddać projekt pod poprawki i głosowania imienne. Kolejne opóźnienie wskazywałoby, że pilność sprawy nie doprowadziła do porozumienia.

Proces wprowadzania poprawek ujawni koalicję stojącą za projektem ustawy. Warto obserwować, czy senatorowie spróbują wzmocnić obowiązkowe testy, zawęzić uprawnienia agencji, zmienić zasady odpowiedzialności lub powiązać ramy regulacyjne z wyłączeniem przepisów stanowych.

Rola Klobuchar jest szczególnie ważna, ponieważ znajduje się między silniejszym stanowiskiem na rzecz testów federalnych a republikańskimi sponsorami projektu. Jej ostateczne poparcie może wskazać, czy ponadpartyjny język zawiera coś więcej niż wspólną retorykę.

Poparcie Cruza również ma znaczenie, ponieważ kontroluje on harmonogram prac komisji. Równowaga, jaką zachowa między zasadami dotyczącymi ryzyka katastrofalnego a konkurencją z Chinami, wpłynie zarówno na wymóg testowania, jak i tempo prac nad ustawą.

Cantwell może kształtować poparcie Demokratów, zwłaszcza jeśli projekt trafi pod obrady całego Senatu. Jej sprzeciw utrudniłby przedstawienie tego rozwiązania jako trwałego ponadpartyjnego kompromisu.

Trzecim sygnałem będzie sposób, w jaki propozycja Senatu współdziała z konkurencyjnymi ramami federalnymi i stanowymi. FRONTIER Act oraz plan testów Warnera dają ustawodawcom alternatywy, jeśli te negocjacje utkną w martwym punkcie.

Konkurencyjne projekty ustaw mogą wywierać presję na negocjatorów, by wzmocnili ich zapisy. Mogą też rozpraszać uwagę, pozwalając każdej koalicji poprzeć bezpieczeństwo AI, podczas gdy żaden projekt nie posuwa się naprzód.

Wyłączenie przepisów stanowych będzie kluczowym wskaźnikiem. Szerokie ograniczenia zasad stanowych podniosłyby próg, który federalny system testowania musiałby spełnić, aby zdobyć poparcie urzędników stanowych i zwolenników bezpieczeństwa.

Raportowanie incydentów zasługuje na równie dużą uwagę. Niedawna analiza sporu o politykę AI wykazała utrzymujące się luki dotyczące publicznego ujawniania rzeczywistych awarii bezpieczeństwa.

Testowanie i raportowanie incydentów obejmują różne etapy. Kongres potrzebuje kontroli przed wprowadzeniem na rynek pod kątem przewidywalnych zagrożeń oraz dowodów po wdrożeniu dotyczących awarii, których kontrolowane oceny nie wykrywają.

Najsilniejszym sygnałem byłby połączony system. Twórcy prowadziliby ciągłe wewnętrzne oceny, eksperci rządowi mogliby niezależnie testować objęte regulacją modele, a poważne incydenty uruchamiałyby obowiązkowe raportowanie.

Taka struktura zachowałaby wiedzę ekspercką firm, nie wymagając jednocześnie od społeczeństwa polegania wyłącznie na dowodach generowanych przez same firmy. Pozwoliłaby też standardom ewoluować, w miarę jak regulatorzy uczyliby się na podstawie wdrożonych systemów.

Najsłabszy rezultat wykorzystywałby szerokie sformułowania dotyczące bezpieczeństwa bez określenia dostępu, egzekwowania ani konsekwencji. Taki wynik mógłby zaspokoić żądanie działań Kongresu, niewiele zmieniając w decyzjach dotyczących udostępniania modeli.

Testowanie bezpieczeństwa AI w Senacie ma znaczenie, ponieważ osoba lub podmiot dokonujący oceny nie jest szczegółem proceduralnym. Oceniający decyduje, kto formułuje pytanie, kontroluje dowody i rozstrzyga, czy niepewność uzasadnia opóźnienie.

Twórcy, nabywcy korporacyjni i użytkownicy AI powinni śledzić tekst projektu ustawy, a nie slogany, które go otaczają. „Obowiązkowe zasady” mogą nadal opierać się na samoocenie, podczas gdy „weryfikacja rządowa” może obejmować zakres od kontroli dokumentacji po niezależne testy.

Organizacje nie muszą czekać na Kongres, aby poprawić własną dokumentację ocen. Mogą dokumentować wersje modeli, dozwolone zastosowania, przeglądy bezpieczeństwa, incydenty, ujawnienia dostawców oraz uzasadnienia decyzji o wdrożeniu.

Ta praca pozostanie użyteczna w ramach każdego federalnego systemu. Pomaga zespołom porównywać deklaracje regulacyjne z własnym ryzykiem operacyjnym i zachowuje kontekst, gdy modele lub zasady się zmieniają.

W nadchodzących miesiącach warto zadać trzy konkretne pytania. Czy eksperci rządowi mogą bezpośrednio testować modele, czy regulatorzy mogą wymagać poprawek przed udostępnieniem oraz czy stany mogą zachować silniejsze zabezpieczenia tam, gdzie przepisy federalne milczą?

Odpowiedzi pokażą, czy Kongres stworzył zewnętrzną bramę bezpieczeństwa, czy jedynie ujednolicił sposób, w jaki twórcy opisują własną ocenę.