Projekt ustawy Anthropic o bezpieczeństwie AI stawia wysoką poprzeczkę dla blokowania niebezpiecznych modeli
Anthropic lobbuje za ustawą o bezpieczeństwie AI, która według doniesień zastrzega nakazy blokowania modeli dla ryzyka obejmującego ponad 50 ofiar lub szkody przekraczające 1 miliard dolarów.
Ten próg tworzy główne napięcie w propozycji. Anthropic chce wiążącego federalnego nadzoru nad zaawansowaną AI, jednak najsilniejszy środek zaradczy rządu miałby być uruchamiany dopiero przy definicji katastrofalnej szkody.
Propozycja nie jest wniesionym projektem ustawy, a jej poufny tekst nie został poddany publicznej kontroli legislacyjnej. Szczegóły pochodzą z poufnego projektu opisanego przez Politico oraz z późniejszych doniesień.
Projekt nadal nakładałby obowiązki, zanim doszłoby do katastrofy. Duzi deweloperzy przygotowywaliby ramy bezpieczeństwa, ujawnialiby ryzyka, zgłaszali poważne incydenty i poddawali się zewnętrznej ocenie.
Te wymogi prewencyjne prowadzą jednak do wąskiej ścieżki egzekwowania przepisów. Uprawniony ewaluator wskazywałby bezpośrednie ryzyko katastrofalne, Departament Handlu przedstawiałby dowody sądowi, a sędzia federalny rozstrzygałby, czy interwencja jest uzasadniona.
Taka konstrukcja przesuwa debatę poza pytanie, czy zaawansowana AI wymaga regulacji. Trudniejsze pytanie brzmi, jak wielu dowodów rząd powinien potrzebować, zanim zatrzyma model, który nie spowodował jeszcze obawianej szkody.
Najbliższym punktem odniesienia są istniejące kalifornijskie przepisy dotyczące zaawansowanej AI. Opisywany projekt federalny zapożycza z nich progi ryzyka katastrofalnego, ale umieszcza uprawnienie do blokowania modeli w ramach jednego procesu federalnego.
Rezultatem jest kompromis między spójnością a elastycznością. Jeden krajowy standard mógłby zapobiec arbitralnym interwencjom, jednocześnie utrudniając wczesne działanie, gdy dowody są niepełne.
Co projekt ustawy Anthropic o bezpieczeństwie AI faktycznie miałby zrobić
Propozycja łączy cykliczny nadzór ze ściśle ograniczoną drogą do zatrzymania modelu.
Według opisywanego projektu objęci nim deweloperzy zaawansowanych modeli musieliby tworzyć i przestrzegać pisemnych ram bezpieczeństwa. Dokumenty te wyjaśniałyby, w jaki sposób każda firma ocenia poważne ryzyka i decyduje, czy zabezpieczenia są wystarczające.
Deweloperzy publikowaliby również raporty przejrzystości dotyczące nowo udostępnianych zaawansowanych modeli. Zgłaszaliby krytyczne incydenty związane z bezpieczeństwem Departamentowi Handlu i zapewnialiby ochronę pracownikom zgłaszającym zastrzeżenia dotyczące bezpieczeństwa.
Niezależni ewaluatorzy okresowo ocenialiby objęte przepisami firmy i ich modele. Ewaluatorzy ci rejestrowaliby się w Departamencie Handlu, co dawałoby agencji formalną rolę w określaniu, kto może prowadzić regulowane oceny.
Propozycja według doniesień pozwala deweloperowi opłacać swojego ewaluatora. Taka relacja finansowa byłaby dozwolona tylko wtedy, gdy nie naruszałaby niezależności ewaluatora.
Rozwiązanie to przypomina system, który Anthropic zaczął dobrowolnie testować. W aktualizacji dotyczącej ewaluatorów z 15 października evaluator update firma podała, że sześciu pracowników organizacji non-profit METR otrzymało sprzęt firmowy i dostęp podobny do dostępu pracowników.
Anthropic poinformował, że METR może publikować swoją analizę bez zgody firmy. Anthropic nadal mógłby wymagać redakcji w z góry określonych kategoriach, w tym informacji o klientach, materiałów objętych tajemnicą oraz niektórych szczegółów architektonicznych.
Inni ewaluatorzy działają przy węższym dostępie. Anthropic podał, że recenzenci pierwszego poziomu otrzymują dostęp wybrany przez firmę i mogą publikować ustalenia wyłącznie za jej zgodą.
Propozycja federalna miałaby przenieść ewaluację z dobrowolnych ustaleń do regulowanego systemu. Zgłaszane zasady pozostawiają jednak bez odpowiedzi istotne pytanie: jak mierzona byłaby niezależność, gdy laboratorium zapewnia zarówno dostęp, jak i wynagrodzenie?
Najbardziej istotny zapis projektu dotyczy interwencji rządu. Departament Handlu mógłby dążyć do zatrzymania udostępnienia lub użycia modelu, jeśli model stwarzałby przewidywalne i bezpośrednie ryzyko katastrofalne.
Ryzyko to, według doniesień, musiałoby obejmować szkody przekraczające 1 miliard dolarów albo śmierć lub poważne obrażenia u ponad 50 osób. Musiałoby również wynikać z określonych zagrożeń, w tym broni biologicznej, cyberataków lub wymknięcia się modelu spod kontroli jego dewelopera.
Ewaluator, który zidentyfikuje takie zagrożenie, zgłaszałby je departamentowi w ciągu 72 godzin. Departament Handlu przedstawiałby następnie dowody sędziemu federalnemu w Dystrykcie Kolumbii.
Sędzia, a nie sam deweloper ani agencja, decydowałby, czy spełniono standard prawny. Ten etap sądowy mógłby chronić firmy przed arbitralnymi ograniczeniami, lecz zwiększałby także wymagania czasowe i dowodowe.
Projekt według doniesień uniemożliwia innym federalnym departamentom, agencjom lub urzędnikom samodzielne nakazanie objętemu przepisami laboratorium zatrzymania udostępnienia modelu. Departament Handlu stałby się bramą dla tego konkretnego środka zaradczego.
Ta wyłączność ma znaczenie. Ryzyka związane z AI mogą obejmować obszary bezpieczeństwa narodowego, zdrowia, egzekwowania prawa, ochrony konsumentów i infrastruktury, a mimo to projekt kierowałby ostateczną decyzję o wdrożeniu przez jeden departament.
Próg jest wyzwalaczem prawnym, a nie akceptowalną stratą
Liczby określają, kiedy sąd może zablokować model, a nie jaką szkodę Anthropic uznaje za dopuszczalną.
Nagłówki o 50 zgonach lub 1 miliardzie dolarów mogą sugerować, że deweloper otrzymuje zgodę na spowodowanie szkód poniżej tych poziomów. Nie jest to najtrafniejsze odczytanie opisywanej propozycji.
Próg dotyczy konkretnego środka prewencyjnego: zatrzymania udostępnienia lub użycia zaawansowanego modelu z powodu przewidywanej katastrofy. Nie uchyla zwykłego prawa karnego, odpowiedzialności za produkt, roszczeń z tytułu zaniedbania, ochrony konsumentów ani regulacji sektorowych.
Cyberatak powodujący mniejsze szkody nadal mógłby być nielegalny. Obrażenie związane z modelem nadal mogłoby prowadzić do postępowania sądowego, dochodzenia lub egzekwowania przepisów na podstawie innego prawa.
Projekt wydaje się również tworzyć obowiązki obowiązujące przed osiągnięciem katastrofalnego progu. Plany bezpieczeństwa, raporty o incydentach, oceny i rzetelne ujawnienia nie musiałyby czekać na dziesiątki ofiar.
Mimo to próg kształtuje to, co rząd może zrobić w najważniejszym momencie. Gdy urzędnicy uznają model za niebezpieczny, ale dowody pozostają probabilistyczne, musieliby wykazać zarówno bezpośredniość zagrożenia, jak i jego katastrofalną skalę.
To wymagające połączenie. Oceny zaawansowanych modeli rzadko przedstawiają jednoznaczną prognozę, że system spowoduje określoną liczbę obrażeń w ustalonym okresie.
Ewaluatorzy zwykle mierzą możliwości, zabezpieczenia, warunki dostępu i wiarygodne ścieżki nadużyć. Przełożenie tych ustaleń na prognozę szkód finansowych lub liczby ofiar wymaga dodatkowych założeń dotyczących ludzkich działań i warunków wdrożenia.
Termin „przewidywalne” pyta, czy zagrożenie można rozsądnie przewidzieć. „Bezpośrednie” wymaga bardziej natychmiastowego zagrożenia, choć dokładna interpretacja projektu miałaby znaczenie w sądzie.
Model mógłby znacząco obniżyć poziom wiedzy potrzebnej do biologicznych nadużyć, nie ujawniając jednak aktywnego ataku. Mógłby automatyzować cyberwykorzystywanie luk bez wskazania wybranego celu.
Takie ustalenia mogłyby uzasadniać ściślejszą kontrolę dostępu, więcej testów lub opóźnione udostępnienie. Mogłyby nie spełnić wymogów sądu potrzebującego dowodów na bezpośrednią katastrofę przekraczającą ustawowy próg.
Czerwcowy dokument Anthropic Advanced AI Framework stanowi podstawę polityczną projektu. Koncentruje się na broni biologicznej, ofensywnych operacjach cybernetycznych, utracie kontroli oraz zautomatyzowanych badaniach i rozwoju AI.
Ramy wskazują, że objęci nimi deweloperzy powinni testować zaawansowane modele, publikować informacje o bezpieczeństwie, korzystać z niezależnych ewaluatorów i podlegać agencji rządowej. Przedstawiają też kilka modeli egzekwowania przepisów, a nie jeden ostateczny projekt.
Proponowany zakres objąłby deweloperów, którzy trenują modele powyżej określonego progu obliczeniowego oraz spełniają istotne kryteria przychodów z AI lub wydatków na badania. Limity te mają skoncentrować obowiązki na firmach zdolnych do budowy najbardziej zaawansowanych systemów.
Ramy odwołują się do prawa Kalifornii przy definiowaniu ryzyka katastrofalnego. Traktują więc liczby dotyczące ofiar i szkód jako istniejący punkt odniesienia dla polityki, a nie nowo wymyśloną miarę akceptowalnej szkody.
Jednak przeniesienie definicji do prawa federalnego oznacza więcej niż ponowne wykorzystanie znajomego języka. Określa, kto ponosi ciężar dowodu i kiedy niepewność przemawia za interwencją.
Przy niższym progu rząd ryzykuje zatrzymaniem korzystnej technologii na podstawie słabych prognoz. Przy wyższym progu społeczeństwo ryzykuje odkryciem, że dowody stały się prawnie wystarczające dopiero po wdrożeniu, które trudno odwrócić.
Jeden federalny strażnik zapewnia jasność i tworzy wąskie gardło
Przyznanie Departamentowi Handlu wyłącznego uprawnienia do blokowania modeli ujednoliciłoby interwencję, jednocześnie skupiając trudną ocenę w jednej instytucji.
Zaawansowana AI nie wpisuje się łatwo w jedną kategorię regulacyjną. Jeden model może wpływać na badania medyczne, systemy wojskowe, usługi finansowe, komunikację i infrastrukturę krytyczną.
Wiele agencji posiada już wiedzę ekspercką istotną dla tych zastosowań. Organy ochrony zdrowia rozumieją zagrożenia biologiczne, agencje cyberbezpieczeństwa śledzą ataki na infrastrukturę, a organizacje bezpieczeństwa narodowego oceniają działania wrogich państw.
Opisywany projekt ustawy Anthropic o bezpieczeństwie AI nie wyeliminowałby wszystkich uprawnień tych organów. Jego węższym skutkiem byłoby uczynienie Departamentu Handlu drogą do uzyskania nakazu zatrzymania udostępnienia lub użycia objętego przepisami modelu.
Zwolennicy mogą przedstawić praktyczne argumenty za takim rozwiązaniem. Wyznaczony regulator może budować zespół techniczny, ustanawiać spójne procedury i unikać sprzecznych nakazów wydawanych przez agencje stosujące różne standardy.
Kontrola sądowa może również dyscyplinować proces. Departament Handlu potrzebowałby dowodów wystarczająco mocnych, aby przekonać sędziego federalnego, zamiast opierać się na nieprzejrzystej wewnętrznej ocenie.
Dla deweloperów taki proces zapewnia przewidywalność. Firma mogłaby rozumieć, która agencja przyjmuje raporty, którzy ewaluatorzy się kwalifikują i jaki test prawny rozstrzyga spór dotyczący wdrożenia.
Przewidywalność nie jest wyłącznie korzyścią handlową. Stabilne zasady mogą pomagać zespołom bezpieczeństwa podejmować wewnętrzne decyzje bez zgadywania, jak kilka agencji zareaguje na te same dowody.
Przeciwną obawą jest zdolność instytucjonalna. Wyznaczona agencja nie może zapewnić znaczącego nadzoru bez wystarczającej wiedzy technicznej, infrastruktury bezpieczeństwa, finansowania i uprawnień do badania chronionych informacji.
Własne ramy Anthropic uznają to wyzwanie. Wskazują, że rząd powinien rozwijać zdolność do samodzielnego przeprowadzania ocen możliwości i całościowych ocen ryzyka.
Dopóki taka zdolność nie istnieje, rząd byłby silnie zależny od zewnętrznych ewaluatorów i informacji dostarczanych przez deweloperów. Jakość egzekwowania przepisów zależałaby więc od ustaleń dotyczących dostępu utworzonych przed skierowaniem sporu do sądu.
Skoncentrowane uprawnienia mogą również stworzyć wąskie gardło podczas szybko rozwijającego się incydentu. Ewaluator musi rozpoznać zagrożenie, powiadomić Departament Handlu, wesprzeć materiał dowodowy i oczekiwać na działanie sądu.
72-godzinny termin zgłoszenia brzmi szybko w dokumencie dotyczącym zgodności z przepisami. Może wydawać się znacznie wolniejszy, gdy autonomiczny system, ujawnione wagi modelu lub aktywna kampania cybernetyczna rozprzestrzenia się w sieciach.
Skupienie propozycji na interwencji nadzorowanej przez sąd odzwierciedla uzasadnioną obawę przed nadmierną ingerencją. Zablokowanie modelu to nadzwyczajny krok, niosący konsekwencje dla klientów, badaczy, krajowej konkurencyjności oraz interesów związanych z wolnością słowa.
Jednak nadzwyczajne środki bywają najcenniejsze, zanim szkoda stanie się widoczna. Dlatego sposób, w jaki standard prawny traktuje prognozy, niepewność i poufne dowody, ma większe znaczenie niż same liczby z nagłówków.
Pojawia się też kwestia federalizmu. Stany podjęły działania, ponieważ Kongres nie stworzył kompleksowego systemu regulacji zaawansowanej AI.
Rzecznik Anthropic powiedział, że propozycja odzwierciedla zasady promowane przez firmę wśród ustawodawców federalnych i stanowych od czerwca. Firma określiła je jako rozsądne środki, które Kongres powinien przyjąć.
Ramy Anthropic wskazują, że wyłączenie regulacji stanowych przez prawo federalne powinno nastąpić wyłącznie wtedy, gdy Kongres ustanowi silny system spełniający rygorystyczne standardy bezpieczeństwa. Dokument stwierdza również, że takie wyłączenie powinno pozostać wąskie i zachowywać uprawnienia stanów poza określonymi funkcjami nadzoru nad zaawansowaną AI.
To sformułowanie jest bardziej powściągliwe niż szeroki zakaz stanowych regulacji AI. Mimo to każda ostateczna ustawa wymagałaby precyzyjnych granic, ponieważ wyłączna kompetencja federalna może osłabić eksperymenty stanów, nawet jeśli nie uchyla każdego prawa stanowego.
Niezależna ocena zależy od pieniędzy, dostępu i prawa do publikacji
Nazwa ewaluatora ma mniejsze znaczenie niż to, czy może on zbadać właściwe dowody i opublikować niewygodne ustalenia.
Niezależna ocena jest głównym pomostem propozycji między prywatnym rozwojem a egzekwowaniem prawa w interesie publicznym. Władze nie mogą działać wobec ryzyka, którego nie widzą, a laboratoria dysponują informacjami, których osoby z zewnątrz nie są w stanie odtworzyć.
Poważny ewaluator potrzebuje dostępu do modeli przed ich premierą, decyzji dotyczących szkolenia, wewnętrznych zabezpieczeń, rejestrów incydentów oraz warunków, w których przeprowadzano testy. Sam dostęp do modelu nie wystarcza.
Ewaluatorzy potrzebują też wiedzy, by rozpoznać mylące wyniki. Model może zachowywać się inaczej podczas testów, a benchmark może nie wykryć ryzyk ujawniających się przy użyciu narzędzi, w długotrwałych zadaniach lub w interakcji kilku agentów.
Anthropic twierdzi, że ewaluatorzy działający wewnątrz organizacji mogą zamknąć lukę informacyjną. Obecny model współpracy firmy z METR zapewnia niewielkiemu zewnętrznemu zespołowi dostęp zasadniczo porównywalny z dostępem wewnętrznego personelu ds. ryzyka.
Takie podejście ma istotną przewagę nad okazjonalnymi testami zewnętrznymi. Ewaluatorzy mogą obserwować sposób działania firmy, a nie tylko badać gotowy model krótko przed premierą.
Ta bliskość tworzy własną presję. Ewaluatorzy pracują w środowisku bezpieczeństwa firmy, zależą od niej w kwestii informacji i mogą przywyknąć do jej założeń.
Kwestię zaostrza wynagrodzenie. Recenzent nie traci automatycznie niezależności tylko dlatego, że oceniana firma płaci mu honorarium. Audytorzy finansowi, laboratoria testowe i jednostki certyfikujące często działają w podobnych modelach.
O niezależności decydują natomiast zabezpieczenia. Wynagrodzenie nie może zależeć od wniosków, dalsze finansowanie nie może być uzależnione od przychylnych ustaleń, a ewaluator musi mieć realną kontrolę nad publikowaną analizą.
Jak wynika z doniesień, propozycja dopuszcza finansowanie przez dewelopera, o ile nie wpływa ono na niezależność. Zasada ta jest rozsądna, lecz jej egzekwowanie wymaga mierzalnych kryteriów.
Regulator musiałby zbadać udziały kapitałowe, relacje konsultingowe, koncentrację przychodów, ograniczenia umowne, powiązania personalne oraz zdolność ewaluatora do przetrwania utraty klienta.
Równej uwagi wymagają prawa do publikacji. Ewaluator, który wykryje poważną słabość, lecz nie może jej publicznie opisać, zapewnia ograniczoną rozliczalność, nawet jeśli może prywatnie ostrzec regulatorów.
Niektóre redakcje są nieuniknione. Publiczny raport nie powinien ujawniać danych klientów, podatności możliwych do wykorzystania, wag modelu ani instrukcji ułatwiających biologiczne nadużycia.
Trudne pytanie brzmi: kto klasyfikuje informacje i jak rozstrzygane są spory. Jeśli deweloper ma ostateczną kontrolę nad każdą redakcją, publiczności trudno zweryfikować niezależność recenzenta.
Obecny system Anthropic ilustruje to spektrum. METR ma silniejsze prawa do publikacji niż ewaluatorzy pracujący w pierwszym poziomie dostępu firmy.
Ta różnorodność sprawia, że federalny standard byłby użyteczny. Rejestracja mogłaby ustanowić podstawowe zasady dostępu, ujawniania informacji, konfliktów interesów i publikacji dla każdego objętego nią dewelopera.
Sama rejestracja nie gwarantuje jednak kompetencji. Władze potrzebowałyby wystarczającej liczby ekspertów, aby kontrolować metody oceny i odróżniać rzetelną analizę ryzyka od teatru zgodności.
Rynek ewaluatorów może być również niewielki. Organizacje zdolne do testowania systemów frontierowych często otrzymują finansowanie od tych samych firm, inwestorów lub sieci filantropijnych zaangażowanych w rozwój AI.
Nie dowodzi to, że ich ustalenia są skompromitowane. Oznacza jednak, że relacje finansowe i zawodowe powinny być ujawniane, a nie odrzucane jako nieistotne.
System wspólnego finansowania mógłby zmniejszyć zależność od jednego dewelopera. Objęte regulacją laboratoria mogłyby wnosić opłaty do niezależnie zarządzanego funduszu, który przydzielałby ewaluatorów bez bezpośrednich negocjacji firm dotyczących wynagrodzenia.
Ramy Anthropic wskazują podobną możliwość. Zalecają finansowanie i standardy zapewniające ewaluatorom wystarczający dostęp przy jednoczesnej ochronie niezależności.
Losowy przydział mógłby również pomóc przy ocenach o wysokiej stawce. Jednak wyspecjalizowana wiedza i poświadczenia bezpieczeństwa mogą ograniczać wybór ewaluatora zdolnego zbadać dane ryzyko.
Najsilniejszy system łączyłby kilka mechanizmów: minimalne prawa dostępu, chronioną publikację, ujawniane konflikty interesów, kontrolę rządową oraz więcej niż jednego ewaluatora dla modeli o najpoważniejszych konsekwencjach.
Rzeczywisty kompromis dotyczy wczesnego działania i nadmiernej regulacji
Propozycja prosi społeczeństwo o akceptację wysokiego progu dowodowego w zamian za ochronę przed przedwczesną interwencją państwa.
Anthropic przedstawia się jako zwolennik silniejszych zasad dotyczących zaawansowanej AI. Jego ramy wzywają do obowiązkowych testów, cyklicznych raportów o ryzyku, niezależnej oceny, ujawniania incydentów, ochrony sygnalistów i rzeczywistego egzekwowania przepisów.
Postanowienia te są istotniejsze niż dobrowolne zobowiązanie. Tworzyłyby obowiązki prawne, których wiodący deweloperzy nie mogliby po cichu porzucić, gdy wzrośnie presja komercyjna.
Kontrowersyjny próg nie znosi tych obowiązków. Reguluje najdotkliwszy środek zaradczy i powinien być oceniany w ramach tej szerszej struktury.
Mimo to system bezpieczeństwa może być rygorystyczny pod względem dokumentacji, a słaby w decydującym momencie. Jeśli regulatorzy nie mogą opóźnić wdrożenia, dopóki katastrofa nie stanie się przewidywalna, nieuchronna i wymierna, przejrzystość może dokumentować ryzyka bez ich kontrolowania.
To główna krytyka kierowana pod adresem Anthropic. Firma ostrzega, że systemy frontierowe mogą generować wyjątkowe zagrożenia, lecz jej propozycja — według doniesień — ogranicza interwencję do wąskiego zbioru katastroficznych scenariuszy.
Zakres objętych ryzyk ma równie duże znaczenie jak próg skali. Broń biologiczna, poważne cyberataki i utrata kontroli zasługują na szczególną uwagę, ponieważ mogą powodować rozległe szkody trudne do odwrócenia.
Inne poważne problemy mogą pozostać poza tymi ramami. Oszustwa, manipulacja, dyskryminacja, niebezpieczne porady medyczne, wypieranie pracowników, utrata prywatności i szkodliwe zachowania towarzyszących chatbotów mogą dotknąć wiele osób, nie przypominając jednego katastroficznego zdarzenia.
Te szkody nie powinny koniecznie uruchamiać ogólnokrajowego wyłączenia modelu. Pokazują jednak, dlaczego ustawa Anthropic dotycząca bezpieczeństwa AI nie może zastąpić szerszej polityki konsumenckiej, praw obywatelskich, zatrudnienia, ochrony zdrowia i konkurencji.
Prawo dotyczące bezpieczeństwa zaawansowanej AI powinno obejmować rzadkie zagrożenia systemowe. Inne przepisy powinny regulować rutynowe wdrożenia i szkody specyficzne dla poszczególnych sektorów.
Wyzwanie leży na granicy. Rozproszona kampania cybernetyczna mogłaby kumulować straty wśród tysięcy ofiar, nie przedstawiając jednego wyraźnego momentu nieuchronnej katastrofalnej szkody.
Agent AI mógłby wielokrotnie przekraczać dozwolony zakres dostępu, podczas gdy każdy incydent z osobna wydawałby się możliwy do opanowania. Zdolność biologiczna mogłaby rozpowszechnić się wśród użytkowników, zanim urzędnicy zidentyfikują konkretną próbę wykorzystania jej do stworzenia broni.
Progi tworzą spójność, ale tworzą też przepaście. Przewidywane zdarzenie tuż poniżej granicy jest traktowane zasadniczo inaczej niż zdarzenie tuż powyżej niej, nawet gdy oba oszacowania zawierają dużą niepewność.
Język liczbowy może zatem sugerować większą precyzję, niż mogą zapewnić obecne metody oceny. Eksperci mogą różnić się w ocenie możliwości modelu, intencji atakującego, dostępnych zabezpieczeń i prawdopodobnych konsekwencji.
Sądy zajmują się niepewnymi dowodami w wielu dziedzinach. Opisywana propozycja nadal wymagałaby zasad wyjaśniających, jakie prawdopodobieństwo, horyzont czasowy i wkład przyczynowy spełniają jej standard.
Sformułowanie „istotnie przyczynić się” jest szczególnie ważne. Model frontierowy może nie stworzyć zagrożenia samodzielnie, ale mógłby skrócić czas badań, zautomatyzować wybór celów lub udostępnić specjalistyczną wiedzę.
Ustawodawcy będą musieli zdecydować, czy taka pomoc jest wystarczająca. Standard wymagający, aby model był główną przyczyną, mógłby przeoczyć ryzyka budowane przez kilka technologii i ludzkie decyzje.
Standard uznający każdy wkład za wystarczający mógłby stać się zbyt szeroki. Powszechnie dostępne oprogramowanie i informacje publiczne również wspierają działalność zarówno legalną, jak i złośliwą.
Właściwa odpowiedź raczej nie będzie wynikać z jednej liczby. Funkcjonalne prawo potrzebuje stopniowanych środków zaradczych, odpowiadających różnym poziomom dowodów.
Regulatorzy mogliby wymagać większej liczby testów, ograniczać określone możliwości, zawężać dostęp, nakazywać silniejszy monitoring lub opóźniać premierę przed wystąpieniem o całkowity zakaz.
Ramy Anthropic omawiają kilka opcji egzekwowania przepisów, w tym grzywny, ograniczenia przyszłych wdrożeń i limity dostępu do już wdrożonych modeli. Ta drabina środków zasługuje na równie wnikliwą analizę jak katastroficzny punkt końcowy.
Kalifornia pokazuje, dlaczego szczegóły federalne mają znaczenie
Opisywane progi mają swoją historię, lecz ich skutek zmienia się, gdy stają się częścią wyłącznego federalnego systemu egzekwowania prawa.
Kalifornijska ustawa dotycząca zaawansowanej AI używa podobnego języka w odniesieniu do katastroficznych ryzyk obejmujących znaczne straty finansowe lub ponad 50 zgonów bądź poważnych obrażeń. Jej wymogi koncentrują się przede wszystkim na przejrzystości i krytycznych incydentach bezpieczeństwa.
Analiza polityki publicznej stanu dotycząca California SB 53 opisała obowiązki głównych deweloperów, jednocześnie chroniąc mniejsze firmy przed nieproporcjonalnymi obciążeniami związanymi ze zgodnością.
Ten precedens wyjaśnia, dlaczego Anthropic może nazywać federalną propozycję rozszerzeniem ugruntowanej polityki. Liczby były już częścią wynegocjowanych ram stanowych.
Kopiowanie definicji nie oznacza jednak skopiowania całego środowiska regulacyjnego. Stanowi prokuratorzy generalni, agencje federalne, sądy i regulatorzy sektorowi mają odmienne uprawnienia oraz bodźce instytucjonalne.
Kalifornijskie wymogi mogą współistnieć z federalnym egzekwowaniem prawa, o ile Kongres ich nie wyprze. Prawo federalne ograniczające podmioty mogące zatrzymać model stworzyłoby inną równowagę.
Debata o uprawnieniach stanów nasiliła się, ponieważ federalne ustawodawstwo dotyczące AI posuwało się powoli. Stany podjęły działania w sprawie bezpieczeństwa zaawansowanej AI, zautomatyzowanych decyzji, deepfake’ów, chatbotów towarzyszących i wymogów ujawniania informacji.
Powstała w ten sposób mozaika regulacyjna stwarza realne wyzwania dotyczące zgodności. Deweloper zaawansowanej AI nie może łatwo utrzymywać sprzecznych standardów udostępniania między stanami, gdy jeden model obsługuje użytkowników w całym kraju.
Krajowe ramy mogłyby rozwiązać ten problem. Mogłyby też utrwalić słaby standard i uniemożliwić stanom reagowanie na nowe dowody.
Publiczne ramy Anthropic próbują znaleźć środek. Popierają przepisy federalne, ale wskazują, że Kongres powinien wyprzeć prawo stanowe wyłącznie w zakresie funkcji objętych silnym systemem federalnym.
To stanowisko pozostawia bez definicji najtrudniejsze słowo: „silny”. Deweloperzy, regulatorzy, grupy działające w interesie publicznym i urzędnicy stanowi będą różnie oceniać, co oznacza siła.
Próg liczby ofiar przyciągnie uwagę, ponieważ jest łatwy do zrozumienia. Bardziej techniczne przepisy mogą jednak przesądzić o rzeczywistej skuteczności ustawy.
Obejmują one kwestie takie jak: którzy deweloperzy się kwalifikują, co uznaje się za objęty regulacją model, w jaki sposób ewaluatorzy uzyskują dostęp, jak szybko trzeba zgłaszać incydenty oraz czego może żądać Departament Handlu.
Ważne są również zasady dotyczące modeli wdrażanych wewnętrznie. Firma może wykorzystywać bardziej zaawansowany system w swoim procesie badawczym, zanim zaoferuje go klientom zewnętrznym.
Ustawa skupiona wyłącznie na publicznych wydaniach mogłaby pominąć wewnętrznych agentów prowadzących badania, zarządzających infrastrukturą lub przyspieszających rozwój kolejnej generacji modeli.
Wagi modelu stanowią kolejną komplikację. Gdy zostaną skradzione lub szeroko rozpowszechnione, nakaz sądowy wobec pierwotnego dewelopera może nie wystarczyć, by ograniczyć daną zdolność.
W takim scenariuszu zapobiegawcze wymogi bezpieczeństwa mogą mieć większe znaczenie niż późniejszy zakaz wdrożenia. Dlatego zasady propozycji dotyczące bezpieczeństwa modeli i powiadamiania o incydentach zasługują na szczegółową analizę.
Kongres musiałby także skoordynować działania Departamentu Handlu z agencjami dysponującymi informacjami wywiadowczymi o zagrożeniach. Wyłączne uprawnienia nie powinny oznaczać wyłącznego dostępu do informacji.
Wyznaczone biuro mogłoby otrzymywać dowody od instytucji odpowiedzialnych za zdrowie, cyberbezpieczeństwo, obronę, wywiad i egzekwowanie prawa, zachowując jednocześnie odpowiedzialność za wniosek składany do sądu.
Taka struktura zachowałaby jeden kanał podejmowania decyzji, nie izolując go. Nadal nie jest jasne, czy opisywany projekt przewiduje taką koordynację.
Na co zwracać uwagę, zanim stanie się to prawem
Trzy sygnały pokażą, czy propozycja przekształci się w egzekwowalny nadzór, czy pozostanie zarysem polityki napisanym przez branżę.
Pierwszym sygnałem będzie publicznie dostępny tekst legislacyjny. Politico podało, że przedstawiciele Anthropic prywatnie prezentowali poufny projekt ustawodawcom, lecz propozycja nie jest ustawą, dopóki któryś z członków Kongresu jej nie wniesie.
Wniesiony tekst ujawniłby definicje, progi objęcia regulacją, język dotyczący wyłączenia przepisów stanowych, narzędzia egzekwowania oraz terminy proceduralne. Przydziały komisji i wskazani sponsorzy pokażą, czy propozycja ma wiarygodną drogę przez Kongres.
Publiczny tekst umożliwiłby również ekspertom sprawdzenie interpretacji przedstawianej w nagłówkach. Mógłby potwierdzić, czy zgłaszany próg katastrofy reguluje każde działanie blokujące, czy tylko jeden określony środek prawny.
Jeśli ustawodawcy utrzymają wysoki próg, ale dodadzą stopniowane interwencje poniżej niego, ramy staną się bardziej elastyczne wobec niepewnych ryzyk. Jeśli próg stanie się jedyną drogą do działań zapobiegawczych, obawy dotyczące opóźnionej interwencji będą silniejsze.
Drugim sygnałem będzie zbiór zasad dla ewaluatorów. Obecne rozwiązania Anthropic stanowią dowód, że osadzone przeglądy są operacyjnie możliwe, ale nie ustanawiają uniwersalnego standardu.
Departament Handlu potrzebowałby kryteriów dotyczących rejestracji, wiedzy eksperckiej, finansowania, dostępu, konfliktów interesów, bezpieczeństwa i publikacji. Proces powinien wyjaśniać, w jaki sposób ewaluator może zakwestionować wstrzymane informacje lub sporne redakcje.
Pierwsze publiczne raporty od osadzonych ewaluatorów dostarczą praktycznego sprawdzianu. Czytelnicy powinni ocenić, czy raporty te wskazują słabe punkty, opisują ograniczenia dostępu i oddzielają dowody od twierdzeń firmy.
Raport, który jedynie potwierdza zgodność, ujawni niewiele. Raport dokumentujący spory i nierozwiązane ryzyka będzie stanowił mocniejszy dowód niezależności.
Trzecim sygnałem będzie sposób potraktowania uprawnień stanów. Ustawodawcy stanowi wielokrotnie argumentowali, że lokalne regulacje wypełniają lukę pozostawioną przez Kongres.
Niedawne doniesienia o dążeniu do regulacji stanowych pokazują, dlaczego federalne wyłączenie przepisów stanowych pozostaje politycznie drażliwe. Ostateczna ustawa musi określić, które funkcje stanów zostaną zachowane.
Wąskie wyłączenie, powiązane z testowaniem modeli granicznych, mogłoby ograniczyć powielanie obowiązków zgodności, zachowując jednocześnie stanową ochronę konsumentów i praw obywatelskich. Szerokie wyłączenie mogłoby przekształcić jeden standard federalny w górną granicę.
Deweloperzy, nabywcy korporacyjni i zwykli użytkownicy powinni śledzić te szczegóły, ponieważ zarządzanie modelami wpływa na dostępność produktów i zaufanie. Opóźnienie premiery może zmienić plany rozwoju dostawców, a słaby nadzór może przenieść niezmierzone ryzyka na klientów.
Zespoły korporacyjne nie powinny czekać na Kongres, zanim zapytają dostawców o ramy bezpieczeństwa, zgłaszanie incydentów, dostęp ewaluatorów i powiadomienia o zmianach w modelach. Te pytania pomagają nabywcom ocenić, ile dowodów potwierdza zapewnienia dostawcy.
Pracownicy wiedzy potrzebują również niezawodnego sposobu na zachowywanie dokumentów dotyczących polityki, ustaleń ewaluatorów i zobowiązań dostawców w miarę ich zmian. Przeszukiwalna baza wiedzy AI może utrzymać te zapisy w powiązaniu z decyzjami zakupowymi i dotyczącymi ryzyka.
Projekt ustawy Anthropic dotyczący bezpieczeństwa AI rozpoczął użyteczną debatę, ale dwie liczby z nagłówków jej nie rozstrzygają. Prawdziwym sprawdzianem będzie to, czy ustawodawcy zbudują system zdolny działać, zanim katastrofalne dowody staną się katastrofalnym doświadczeniem.
Warto obserwować wniesiony tekst, egzekwowalne standardy dla ewaluatorów oraz wyraźną granicę między uprawnieniami federalnymi i stanowymi. Te trzy elementy pokażą, czy propozycja oferuje wiarygodną prewencję, czy przede wszystkim wąską ścieżkę prawną dla sytuacji kryzysowych, które są już blisko.
