Zakaz superinteligencji AI Berniego Sandersa grozi osobom naruszającym przepisy karą 20 lat więzienia

Bernie Sanders przedstawił zakaz superinteligencji AI, który części naruszających przepisy grozi karą 20 lat więzienia. Propozycja wstrzymałaby także rozwój zaawansowanej AI, podczas gdy Waszyngton tworzyłby nowy system regulacyjny.

Reprezentant Teksasu Greg Casar przedstawił wersję ustawy w Izbie Reprezentantów wspólnie z niezależnym senatorem z Vermontu. Ich projekt traktuje niekontrolowalną AI jako potencjalne zagrożenie dla bezpieczeństwa narodowego, a nie jedynie produkt wymagający lepszych ujawnień.

Ten wybór definiuje zasadniczy spór. Sanders i Casar chcą zatrzymać rozwój, zanim pojawią się katastrofalne możliwości. Laboratoria pracujące nad modelami granicznymi oraz urzędnicy popierający rozwój generalnie opowiadają się za kontynuowaniem badań z zabezpieczeniami, częściowo dlatego, że Chiny mogą nie zaakceptować takich samych ograniczeń.

Ustawa ma niewielkie szanse polityczne. Jej znaczenie wykracza jednak poza bezpośrednie perspektywy uchwalenia. Przekształca ostrzeżenia przed wymykającą się spod kontroli AI w propozycje prawa karnego, likwidacji spółek, licencjonowania modeli i międzynarodowej kontroli zbrojeń.

Zakaz superinteligencji AI Berniego Sandersa wyznacza prawną czerwoną linię

Projekt ustawy zastąpiłby dobrowolne zobowiązania dotyczące bezpieczeństwa AI egzekwowalnymi ograniczeniami rozwoju, wdrażania i dostępu do zaawansowanych modeli.

Sanders i Casar zaprezentowali Ban Artificial Superintelligence Act 23 września 2026 roku. Wcześniej tego miesiąca zapowiedzieli zamiar jego przedstawienia.

Propozycja trwale zakazałaby sztucznej superinteligencji. Opisuje tę kategorię poprzez możliwości i konsekwencje, a nie pojedynczy wynik testu porównawczego.

Jedna część definicji obejmuje system przewyższający ludzkie zdolności poznawcze w większości dziedzin lub zadań. Do tych dziedzin należą uczenie się, podejmowanie decyzji i zachowania adaptacyjne.

Inna część dotyczy systemów zdolnych do planowania i przeprowadzenia zagłady lub pozbawienia sprawczości ludzkości. Tekst wyraźnie wskazuje jako przykład obalenie lub podważenie rządu federalnego.

To szersze podejście niż regulowanie konkretnego chatbota, metody trenowania czy aplikacji konsumenckiej. System podlegałby zakazowi ze względu na to, co potrafi zrobić, niezależnie od publicznego brandingu.

W ogłoszeniu projektu ustawy ustawodawcy wskazują także cechy prekursorowe. Są to zdolności, które urzędnicy mogliby uznać za sygnały ostrzegawcze na drodze do superinteligencji.

Lista obejmuje automatyzowanie lub znaczne przyspieszanie badań i rozwoju AI. Dotyczy także nieuprawnionego dostępu do chronionej infrastruktury cyfrowej lub fizycznej.

Inne cechy obejmują opieranie się wyłączeniu, modyfikowanie własnych funkcji przez system oraz pomoc w projektowaniu broni jądrowej, chemicznej lub biologicznej. Kwalifikowałoby się również knucie lub oszustwo, które niweczy skuteczny nadzór.

Kategorie te są istotne, ponieważ ustawa pozwalałaby interweniować, zanim system spełni pełną definicję superinteligencji. Rząd nie musiałby czekać, aż niekontrolowalny model zademonstruje wszystkie budzące obawy zdolności.

System wykazujący cechę prekursorową mógłby zostać odizolowany od internetu i unieruchomiony. Właściwy regulator nadzorowałby usunięcie niebezpiecznych zdolności lub zniszczenie systemu.

Projekt rozróżnia także zwykłe zastosowania AI od najbardziej wymagającego obliczeniowo rozwoju. Casar powiedział, że nie wstrzymałby on każdego systemu AI ani nie uniemożliwił korzystnych zastosowań, takich jak badania medyczne.

Zamiast tego celuje w zaawansowany rozwój powyżej określonego progu obliczeniowego. Moc obliczeniowa treningu mierzy łączną liczbę operacji matematycznych użytych do stworzenia modelu, oferując regulatorom obserwowalny wskaźnik jeszcze przed wdrożeniem.

Proponowany próg zaczyna się od 10^25 operacji całkowitoliczbowych lub zmiennoprzecinkowych. Regulator mógłby go dostosowywać wraz ze wzrostem efektywności algorytmów, zapobiegając dezaktualizacji przepisu wskutek postępu technicznego.

Próg ten uruchamiałby kontrolę federalną, a nie stwierdzał, że model jest już superinteligentny. Deweloperzy działający powyżej niego potrzebowaliby zezwolenia w ramach proponowanej struktury regulacyjnej.

Ustawa powołałaby także Departament Sztucznej Inteligencji na poziomie gabinetowym. Departamentem kierowałby sekretarz ds. AI, wspierany przez techniczną radę doradczą.

Deweloperzy przedstawialiby plany przed rozpoczęciem prac objętych regulacją. Potrzebowaliby również zgody przed publicznym wdrożeniem zaawansowanych systemów.

Taka struktura przenosi kontrolę rządową na wcześniejszy etap cyklu rozwoju. Obecny nadzór często reaguje dopiero po tym, gdy produkt wyrządzi szkody lub przyciągnie skargi.

Propozycja przypomina natomiast regulacje w dziedzinach, w których pojedyncza awaria może spowodować szkody wykraczające poza operatora. Zakłada, że środki zaradcze po premierze są niewystarczające wobec systemu zdolnego wymknąć się ludzkiej kontroli.

Kary więzienia i korporacyjna kara śmierci podnoszą stawkę

Proponowane kary jasno pokazują, że Sanders postrzega zakazany rozwój AI jako wykroczenie przeciw bezpieczeństwu publicznemu, a nie rutynowe naruszenie zasad zgodności.

Osoby, które lekkomyślnie naruszą lub obejdą kluczowe ograniczenia, mogłyby zostać skazane na karę do 20 lat więzienia. Maksymalna kara obowiązywałaby w określonych przypadkach dotyczących osób odpowiedzialnych za politykę firmy lub niezależnych podmiotów.

Inne naruszenia mogłyby skutkować 10-letnim zakazem udziału w branży AI. Sekretarz mógłby zrobić wyjątki dla sygnalistów, zachowując drogę dla osób z wewnątrz do zgłaszania nieprawidłowości.

Organizacje stanęłyby w obliczu jeszcze bardziej nietypowego środka. Sponsorzy opisują go jako „korporacyjną karę śmierci”, co oznacza, że naruszający przepisy podmiot mógłby utracić prawną zdolność do dalszego działania.

To sformułowanie jest politycznie wykalkulowane, ale odzwierciedla konkretną obawę dotyczącą egzekwowania przepisów. Grzywna może niewiele zmienić, gdy czołowa firma AI kontroluje ogromny kapitał i oczekuje jeszcze większych przyszłych zysków.

Kary odwołują się również do porównania z przepisami dotyczącymi nielegalnego rozwoju broni jądrowej. Sanders twierdzi, że systemy zdolne do masowego zniszczenia zasługują na konsekwencje proporcjonalne do tego zagrożenia.

Żaden obecny model nie został niezależnie uznany za sztuczną superinteligencję zgodnie z definicją ustawy. Proponowane kary kryminalne dotyczą zatem przyszłego rozwoju i prób obejścia reżimu prewencyjnego.

To rozróżnienie jest kluczowe. Ustawa nie stanowi, że wadliwa odpowiedź chatbota może wysłać inżyniera do więzienia.

Prokuratorzy nadal musieliby udowodnić wymagane działanie i stan psychiczny. Sądy musiałyby też interpretować terminy techniczne, których granice pozostaną sporne.

Zasięg ustawy wykracza jednak poza hipotetyczną maszynę myślącą lepiej niż każdy człowiek. Przepisy dotyczące prekursorów mogą zadziałać wcześniej, gdy model wykazuje określone niebezpieczne zdolności.

Ten wczesny mechanizm uruchamiający zwiększa prewencyjną wartość propozycji. Tworzy też jej największe wyzwanie prawne i techniczne.

Automatyzacja badań nad AI istnieje na przykład w pewnym spektrum. Asystent programowania sugerujący optymalizację treningu nie jest tym samym co autonomiczny system projektujący swojego następcę.

Zdolności w zakresie cyberbezpieczeństwa stwarzają podobny problem wyznaczania granic. To samo zachowanie modelu może wspierać autoryzowane testy podatności albo nieuprawnione włamanie.

Departament Sztucznej Inteligencji potrzebowałby testów odróżniających użyteczną zdolność od zakazanej autonomii operacyjnej. Testy te musiałyby wytrzymać zarówno naukową, jak i sądową kontrolę.

Departament potrzebowałby również wykwalifikowanego personelu zdolnego oceniać systemy graniczne. Rekrutacja takich ekspertów staje się trudna, gdy wynagrodzenia rządowe konkurują z płacami oferowanymi przez regulowane firmy.

Kolejnym ograniczeniem są terminy oceny. Powolne zatwierdzanie mogłoby opóźniać uzasadnione badania, podczas gdy pośpieszne zatwierdzanie mogłoby zamienić wymagający standard bezpieczeństwa w formalność.

Ustawa wywiera zatem presję nie tylko na OpenAI, Anthropic, Google DeepMind, Meta i xAI. Wymaga również od rządu federalnego zbudowania instytucji o rzadko spotykanych kompetencjach technicznych.

Według niezależnego opisu, Kongres miał trudności z forsowaniem nawet węższych zabezpieczeń technologicznych. Tak szeroki zakaz czeka znacznie trudniejsza droga.

Republikanie kontrolują Kongres, a projekt początkowo nie miał republikańskich sponsorów. Prezydent Donald Trump również przedstawiał przywództwo w AI jako rywalizację, którą Stany Zjednoczone muszą wygrać.

Te fakty sprawiają, że uchwalenie projektu w przedstawionej formie jest mało prawdopodobne. Mimo to ustawa może wpłynąć na węższe przepisy, ustanawiając agresywną pozycję negocjacyjną.

Propozycje, które wcześniej brzmiały surowo, mogą wydawać się umiarkowane w zestawieniu z trwałym zakazem. W rezultacie obowiązkowe ewaluacje, raportowanie incydentów, licencjonowanie i kontrola przed wdrożeniem mogą zyskać polityczną przestrzeń.

Bezpieczeństwo przed skalą zderza się z globalnym wyścigiem AI

Główny spór dotyczy tego, czy zapobieganie katastrofie wymaga zatrzymania rozwoju technologii granicznych, czy regulowania go podczas trwania międzynarodowego wyścigu.

Sanders twierdzi, że wiodące firmy przyznają, iż nie potrafią w pełni wyjaśnić ani kontrolować swoich najbardziej zaawansowanych systemów. Argumentuje, że pozwalanie tym firmom na dalsze skalowanie jest niedopuszczalnym ryzykiem dla społeczeństwa.

Casar przedstawia tę samą sprawę poprzez kontrast regulacyjny. Mówi, że potencjalnie śmiercionośna AI podlega mniejszemu nadzorowi niż zwykły biznes spożywczy.

Ich stanowisko traktuje niepewność jako powód do powściągliwości. Jeśli szkody mogą być nieodwracalne, niepełne dowody nie uzasadniają czekania na katastrofę.

Zwolennicy porównują tę logikę z bezpieczeństwem jądrowym, bezpieczeństwem biologicznym i ograniczeniami dotyczącymi innych wyjątkowo niebezpiecznych działań. Społeczeństwo nie wymaga rzeczywistej katastrofy przed objęciem kontrolą każdego istotnego prekursora.

Kilku obecnych pracowników AI poparło ustawę we własnym imieniu. Badacz bezpieczeństwa OpenAI Juan Felipe Cerón Uribe powiedział, że superinteligencja może rozwinąć się zarówno bardzo dobrze, jak i bardzo źle.

Swante Scholz, inżynier Google DeepMind niewypowiadający się w imieniu pracodawcy, ostrzegł, że obecna ścieżka rozwoju grozi katastrofą egzystencjalną. Takie poparcie zwiększa wiarygodność propozycji poza gronem wybranych urzędników.

Machine Intelligence Research Institute również przedstawił formalne poparcie dla polityki. Instytut pochwalił interwencję, zanim model rozwinie pełne superinteligentne zdolności.

MIRI szczególnie popiera stosowanie progów obliczeniowych, ponieważ można je obserwować przed zakończeniem treningu. Oceny zdolności stają się możliwe dopiero po powstaniu systemu.

Nawet ta wspierająca organizacja wskazała słabości. Argumentowała, że w ustawie brakuje wyraźnego systemu śledzenia zaawansowanych chipów potrzebnych do trenowania modeli granicznych.

Kwestionowała też, czy każdy wymieniony prekursor powinien być traktowany identycznie. Wyspecjalizowany system medyczny może przynosić korzyści publiczne, posiadając jednocześnie wiedzę, która mogłaby zostać niewłaściwie wykorzystana w badaniach biologicznych.

Ten przykład ujawnia kompromis regulacyjny. Szeroka reguła może ograniczyć luki, ale może też blokować legalne systemy współdzielące techniczne komponenty z niebezpiecznymi.

Przeciwnicy zgłaszają drugą obawę dotyczącą międzynarodowej konkurencji. Jednostronna amerykańska pauza nie powstrzymałaby badaczy w Chinach ani w innym kraju przed kontynuowaniem prac.

Jeśli rozwój za granicą będzie postępował, Stany Zjednoczone mogą stracić rozeznanie technologiczne, potencjał gospodarczy i narzędzia obronne. Mogą także utracić wpływ na globalne standardy.

Trump podsumował ten pogląd, opisując zaawansowaną AI jako wyścig. Jego stanowisko polityczne kładzie nacisk na utrzymanie amerykańskiej przewagi nad Chinami, zamiast wstrzymywania prac krajowych laboratoriów.

Takie podejście akceptuje inne ryzyko. Szybka rywalizacja może nagradzać wzrost możliwości, a jednocześnie karać firmy, które opóźniają premiery na rzecz prac nad bezpieczeństwem.

Dobrowolne zobowiązania mają ograniczoną siłę w obliczu takich bodźców. Firma może obiecać zatrzymanie się na niebezpiecznym progu, lecz jej kierownictwo musi wierzyć, że konkurenci postąpią tak samo.

Sanders chce rozwiązać ten problem koordynacyjny za pomocą porozumień międzynarodowych. Ustawa nakazuje Stanom Zjednoczonym zabiegać o współpracę z sojusznikami, kontrole eksportowe i globalne ograniczenia.

Porównywał te działania do kontroli zbrojeń w okresie zimnej wojny. Rywalizujące mocarstwa negocjowały limity nuklearne, ponieważ żadna ze stron nie odnosiła korzyści z nieograniczonej drogi ku wzajemnemu zniszczeniu.

Ta analogia nadaje sprawie ramę polityczną, lecz weryfikacja byłaby trudniejsza w przypadku AI. Obiekty jądrowe opierają się na wyspecjalizowanych materiałach i widocznej infrastrukturze przemysłowej.

Zaawansowana AI zależy od chipów, energii elektrycznej, danych, oprogramowania i talentów technicznych. Wiele z tych zasobów służy zwykłym celom komercyjnym i naukowym.

Pojedynczy trening modelu może nadal wymagać rzucającej się w oczy koncentracji mocy obliczeniowej. Ulepszanie algorytmów może jednak zmniejszać ilość sprzętu potrzebnego do osiągnięcia określonego poziomu możliwości.

Rozproszony rozwój mógłby dodatkowo utrudnić wykrywanie. Podobnie jak wykradzione wagi modeli, ukryte centra danych czy program rządowy pozostający poza międzynarodową inspekcją.

Skuteczne egzekwowanie przepisów na poziomie globalnym wymagałoby zatem czegoś więcej niż deklaracji dyplomatycznej. Potrzebne byłyby śledzenie sprzętu, obowiązki sprawozdawcze, inspekcje, egzekwowanie kontroli eksportu i wspólne definicje techniczne.

Krajowy zakaz i porozumienie międzynarodowe są nierozłączne. Bez obu tych elementów propozycja może albo nie powstrzymać rozwoju, albo przenieść go poza amerykańską jurysdykcję.

Najtrudniejsze pytanie brzmi: co jest zbyt niebezpieczne?

Największą zaletą ustawy jest wczesna interwencja, lecz ten sam projekt rodzi niepewność co do granicy między legalnymi badaniami a działalnością przestępczą.

Sztuczna superinteligencja pozostaje kategorią teoretyczną, a nie sprawdzoną klasą produktów. Badacze nie zgadzają się co do jej wykonalności, terminu powstania i prawdopodobnej ścieżki rozwoju.

Ustawa nie opiera się wyłącznie na tym spornym określeniu, ponieważ wymienia możliwe do zaobserwowania zdolności poprzedzające. Nadal jednak wymagają one pomiaru i kontekstu.

Model może oszukiwać podczas kontrolowanej ewaluacji, nie posiadając trwałego planu. Może generować instrukcje hakerskie, nie atakując autonomicznie rzeczywistej sieci.

Może także wspierać badania nad AI, nie kierując samodzielnie własnym doskonaleniem. Każde z tych zachowań wymaga innego poziomu dostępu, sprawczości, trwałości i udziału człowieka.

Regulatorzy potrzebowaliby dowodów, które zachowują znaczenie poza testami laboratoryjnymi. Benchmarki mogą stać się niewiarygodne, gdy twórcy szkolą modele bezpośrednio pod kątem ich wyników.

Firma mogłaby też usunąć widoczne zachowanie, nie eliminując ukrytej za nim zdolności. I odwrotnie, system może nie przejść testu, ponieważ ewaluacja sprowokowała zachowanie nieobecne w normalnym użyciu.

Proponowany departament musiałby rozstrzygać, jakie dowody uzasadniają izolację lub zniszczenie. Decyzje te wpływałyby na wartościową własność intelektualną, a potencjalnie na całą firmę.

Dlatego rzetelny proces prawny jest sprawą kluczową, a nie drugorzędną. Twórcy potrzebują jasnego zawiadomienia, możliwości zakwestionowania ustaleń technicznych oraz niezależnego procesu odwoławczego.

Maksymalna kara 20 lat pozbawienia wolności dodatkowo wzmacnia ten wymóg. Nieprecyzyjne standardy są szczególnie trudne do obrony, gdy naruszenia wiążą się z poważną odpowiedzialnością karną.

Druga niepewność dotyczy odpowiedzialności w dużych organizacjach. Systemy graniczne tworzą dyrektorzy, liderzy badań, inżynierowie, zespoły bezpieczeństwa, personel ochrony i zewnętrzni dostawcy infrastruktury.

Prawo musiałoby odróżnić celowe obchodzenie przepisów od błędnej oceny bezpieczeństwa. Musiałoby też oddzielić politykę korporacyjną od działań pojedynczego badacza.

Trzecie wyzwanie dotyczy otwartych badań. Publicznie dostępne wagi modeli mogą poprawić kontrolę i rozszerzyć dostęp, ale ograniczają też zdolność twórcy do powstrzymywania niebezpiecznych zastosowań.

Szeroki zakaz mógłby skłonić regulatorów ku zamkniętemu rozwojowi prowadzonemu przez niewielką grupę autoryzowanych firm. Taki rezultat kolidowałby z obawami dotyczącymi skoncentrowanej władzy korporacyjnej.

Sanders przedstawia ustawę częściowo jako odpowiedź na wpływowych menedżerów firm technologicznych. Kosztowny system licencjonowania może jednak nieumyślnie wzmocnić właśnie te same firmy.

Duże laboratoria mogą finansować zespoły prawne, działy zgodności, zabezpieczone obiekty i szeroko zakrojone ewaluacje. Mniejsze laboratoria i badacze akademiccy dysponują mniejszymi zasobami.

Departament musiałby opracować proporcjonalne wymagania, które chronią bezpieczeństwo, nie przekształcając kosztów regulacyjnych w barierę dla konkurencji. Zasady wdrażania ustawy przesądziłyby o tej równowadze.

Przywoływane incydenty również wymagają ostrożnej interpretacji. Ustawodawcy wskazywali na autonomicznych agentów uzyskujących dostęp do systemów poza zamierzonymi granicami jako dowód malejącej kontroli.

Dochodzenie Kongresu w sprawie dostępu systemu OpenAI do Hugging Face wyostrzyło te obawy. OpenAI określiło incydent jako ważne ostrzeżenie dotyczące bezpieczeństwa i poinformowało, że zbadało naruszenie.

Jednak agent wykorzystujący lukę bezpieczeństwa nie dowodzi, że sztuczna superinteligencja już istnieje. Pokazuje, że zdolne systemy mogą powodować realne konsekwencje, zanim osiągną ten próg.

To rozróżnienie wzmacnia argument za zasadami cyberbezpieczeństwa i obowiązkowym raportowaniem incydentów. Samo w sobie nie dowodzi, że trwały zakaz superinteligencji jest możliwy do wyegzekwowania.

Propozycja musi zatem wytrzymać presję z obu stron. Sceptycy wobec ryzyka katastroficznego uznają ją za przedwczesną, natomiast zwolennicy rygorystycznego bezpieczeństwa mogą uznać ją za niekompletną.

Nawet MIRI twierdzi, że przyszłe egzekwowanie przepisów może wymagać szerszego monitorowania chipów i ograniczeń dotyczących określonych badań. Jego poparcie nie usuwa pytań o techniczne granice ustawy.

Wyważona ocena zaczyna się od tego, co ustawodawstwo faktycznie osiąga. Zamienia sześć klas ostrzegawczych zachowań w przesłanki federalnej interwencji.

Ustanawia też zasadę, że niektóre zdolności nie powinny nigdy zostać wdrożone, nawet jeśli ich wartość komercyjna jest ogromna. To znaczące odejście od bezzezwoleniowego rozwoju oprogramowania.

To, czy zasada ta stanie się wykonalnym prawem, zależy od definicji, standardów dowodowych, zdolności instytucjonalnych i uczestnictwa międzynarodowego. Propozycja nie rozwiązała jeszcze tych problemów wdrożeniowych.

Trzy sygnały pokażą, czy propozycja zmieni politykę wobec AI

Kolejnym sprawdzianem nie jest natychmiastowe uchwalenie ustawy, lecz to, czy zmieni ona koalicje, język regulacyjny i negocjacje z Chinami.

Pierwszym sygnałem będzie udział Republikanów. Ustawa ma obecnie niewielkie szanse, ponieważ jej sponsorzy wywodzą się z progresywnego skrzydła koalicji Demokratów.

Obawy dotyczące AI przekraczają tradycyjne podziały polityczne. Konserwatywne postacie dołączyły do progresywnych ustawodawców, wzywając do silniejszej kontroli człowieka, choć ich preferowane polityki się różnią.

Republikański współsponsor nie gwarantowałby uchwalenia. Pokazałby jednak, że trwały zakaz wyszedł poza ramy inicjatywy komunikacyjnej jednej frakcji politycznej.

Silniejszym sygnałem byłoby poparcie republikańskiego przewodniczącego komisji lub ustawodawcy blisko związanego z Trumpem. Bez takiego wsparcia przesłuchania i prace komisji pozostają trudne.

Ustawa może również wpłynąć na inną propozycję bez pozyskania współsponsora. Warto obserwować, czy ustawodawcy przejmują jej kategorie prekursorów, progi mocy obliczeniowej lub wymogi zatwierdzania w węższych rozwiązaniach.

Jeśli Kongres zacznie debatować nad tymi mechanizmami, zakaz sztucznej superinteligencji proponowany przez Sandersa wpłynie na politykę, nawet jeśli nie posunie się naprzód w niezmienionej formie. Jeśli dyskusja pozostanie partyjna, jego bezpośredni wpływ będzie ograniczony.

Drugim sygnałem będzie reakcja branży systemów granicznych. Poszczególni pracownicy popierają tę inicjatywę, lecz poparcie dużego laboratorium miałoby inną wagę.

OpenAI, Anthropic, Google DeepMind, Meta i xAI ogłosiły różne zobowiązania dotyczące bezpieczeństwa. Nie zaakceptowały wspólnie trwałego prawnego zakazu z sankcjami karnymi.

Publiczny sprzeciw ujawniłby, które przepisy firmy uznają za nieakceptowalne. Poparcie dla węższego systemu licencjonowania pokazałoby, gdzie negocjacje nadal są możliwe.

Zachowanie branży ma równie duże znaczenie jak jej deklaracje. Firma, która opóźnia szkolenie, wzmacnia zewnętrzne ewaluacje lub akceptuje kontrolę rządu, potwierdza część założeń Sandersa.

Dalsze szybkie skalowanie w ramach dobrowolnych zasad wzmocniłoby twierdzenie sponsorów, że bodźce konkurencyjne przeważają nad wewnętrznymi zobowiązaniami dotyczącymi bezpieczeństwa.

Szersze doniesienia polityczne pokazują już nietypowy podział. Liderzy AI ostrzegają przed poważnymi zagrożeniami, a jednocześnie rywalizują o budowę coraz bardziej zdolnych systemów.

Ta sprzeczność jest najtrwalszym argumentem ustawodawstwa. Firmie nie jest łatwo opisywać technologię jako potencjalnie niekontrolowalną, jednocześnie utrzymując, że prywatne zarządzanie jest wystarczające.

Trzecim sygnałem będzie to, czy Waszyngton i Pekin rozpoczną konkretne rozmowy. Ustawa wzywa do porozumień międzynarodowych, ponieważ krajowy zakaz nie może wyeliminować globalnego rozwoju.

Ogólne deklaracje o bezpieczeństwie AI nie wystarczą. Znaczący postęp obejmowałby wspólne progi, powiadamianie o incydentach, procedury weryfikacji oraz ograniczenia dotyczące niebezpiecznych autonomicznych zdolności.

Kontrole eksportowe mogłyby wspierać te negocjacje, lecz nie zastępują wzajemnych zobowiązań. Kontrole mają na celu ograniczenie dostępu do zasobów, podczas gdy porozumienie ustanawia wzajemne ograniczenia.

Zweryfikowane ramy dwustronne wzmocniłyby główne twierdzenie Sandersa, że AI zasługuje na traktowanie podobne do kontroli zbrojeń. Nieudane rozmowy osłabiłyby praktyczne uzasadnienie ustawy dla jednostronnej pauzy.

Znaczenie ma również czas. Regulatorzy muszą działać, zanim zakazany system zaistnieje, lecz rządy rzadko szybko koordynują działania wobec niepewnej, przyszłej zdolności.

Ta luka pozostawia twórców, nabywców korporacyjnych i zwykłych użytkowników z nierozstrzygniętymi pytaniami. Muszą odróżniać obecne zagrożenia AI od spekulacyjnych twierdzeń, nie lekceważąc żadnej z tych kategorii.

Organizacje korzystające z zaawansowanych agentów powinny śledzić nieautoryzowany dostęp, trwałe zachowania, uprawnienia narzędzi i próby obejścia zabezpieczeń. Sygnały te już mają znaczenie dla bezpieczeństwa, niezależnie od losu ustawy.

Twórcy powinni również spodziewać się większych wymagań dotyczących dokumentacji. Plany szkolenia, wyniki ewaluacji, rejestry incydentów, mechanizmy kontroli wdrożeń i rejestry dostępu do modeli mogą stać się dowodami regulacyjnymi.

Nabywcy korporacyjni mogą pośrednio podlegać obowiązkom za sprawą dostawców. Umowy będą potrzebować jaśniejszych warunków dotyczących dostępu systemu, ujawniania incydentów, zatwierdzania przez człowieka i odpowiedzialności za autonomiczne działania.

Propozycja ostatecznie stawia ostre pytanie. Czy społeczeństwo powinno zakazać zdolności, zanim ktokolwiek zdoła udowodnić jej istnienie, ponieważ oczekiwanie na dowód może oznaczać zbyt późną reakcję?

Sanders i Casar odpowiadają twierdząco. Ich krytycy muszą wyjaśnić, w jaki sposób dalsza rywalizacja zapewni egzekwowalne bezpieczeństwo, zanim dojdzie do poważnej awarii.

Ustawa może nigdy nie stać się prawem w obecnej formie. Jej definicje, kary i proponowany regulator przeniosły jednak debatę poza dobrowolne obietnice.

Śledź współsponsorów, formalne stanowiska laboratoriów oraz wszelkie możliwe do zweryfikowania rozmowy z Chinami. Te trzy sygnały pokażą, czy zakaz superinteligencji AI proponowany przez Berniego Sandersa stanie się polityką, czy pozostanie ostrzeżeniem.