Zakaz AI Bernie’ego Sandersa przewiduje kary do 20 lat więzienia za naruszenie pauzy dotyczącej superinteligencji

Bernie Sanders ogłosił propozycję zakazu AI, która przewiduje dla indywidualnych naruszycieli kary do 20 lat więzienia — wyjątkowo surową sankcję w polityce technologicznej.

Zakaz AI Bernie’ego Sandersa miałby na stałe zakazać sztucznej superinteligencji i tymczasowo wstrzymać rozwój zaawansowanej AI, podczas gdy federalni regulatorzy opracują zasady bezpieczeństwa. Reprezentant Teksasu Greg Casar ogłosił propozycję wraz z Sandersem 3 września 2026 roku.

To rozróżnienie ma znaczenie. Ich komunikat dotyczył planowanych przepisów, a nie uchwalonej ustawy ani ograniczenia obowiązującego ze skutkiem natychmiastowym. Deweloperzy nadal mogą dziś prowadzić legalne badania nad AI, a propozycja musi przetrwać w głęboko podzielonym Kongresie, zanim wpłynie na czyjąkolwiek odpowiedzialność prawną.

Mimo to maksymalny wymiar 20 lat zmienia debatę regulacyjną. Traktuje zakazany rozwój superinteligencji jako przestępstwo przeciw bezpieczeństwu publicznemu, porównywalne pod względem surowości z udziałem w niektórych nielegalnych programach broni jądrowej.

Główny konflikt nie dotyczy już wyłącznie szybkiego rozwoju kontra ostrożny rozwój. Chodzi o prywatną kontrolę nad zaawansowaną AI w kontraście do egzekwowanej przez państwo granicy, której — zdaniem części badaczy — nie da się wiarygodnie zdefiniować.

Czego zakazywałby zakaz AI Bernie’ego Sandersa

Propozycja łączy stały zakaz superinteligencji, tymczasową pauzę w rozwoju systemów granicznych, nowy organ regulacyjny i sankcje karne.

Sanders i Casar ogłosili w Waszyngtonie ustawę Ban Artificial Superintelligence Act. Propozycja dotyczy systemów uznawanych za bardziej zdolne niż ludzie lub zdolnych do wymknięcia się spod istotnej ludzkiej kontroli.

Zgodnie z komunikatem senatorów dotyczącym zakazu AI, żadna osoba ani podmiot nie mogłyby rozwijać ani wdrażać zakazanych systemów superinteligentnych. Zakaz obejmowałby systemy zdolne do obchodzenia poleceń wyłączenia lub zagrażania kontroli sprawowanej przez rząd.

Propozycja osobno wstrzymałaby rozwój zaawansowanej AI, dopóki nowy federalny regulator nie rozpocznie działalności. Agencja ustanowiłaby zasady bezpieczeństwa i proces oceny modeli, zanim objęty nimi rozwój mógłby zostać wznowiony.

Podział ten tworzy dwie odrębne granice prawne. Superinteligencja pozostałaby zakazana, podczas gdy część prac nad zaawansowaną AI mogłaby zostać wznowiona po stworzeniu przez regulatorów ram zatwierdzania.

Propozycja powołałaby federalną agencję AI na poziomie gabinetowym. Ekspercka rada doradcza zapewniałaby niezależne wskazówki naukowe i techniczne.

Agencja monitorowałaby systemy graniczne przez cały cykl ich rozwoju i wdrażania. Termin frontier AI ogólnie oznacza modele znajdujące się przy górnej granicy obecnych możliwości i skali obliczeniowej.

Regulatorzy nadzorowaliby usuwanie niebezpiecznych zdolności. Nadzorowaliby również niszczenie systemów zaklasyfikowanych jako zakazana sztuczna superinteligencja.

Firmy próbujące naruszyć lub obejść te ograniczenia groziłaby, według propozycji, korporacyjna kara śmierci. Opublikowane streszczenie nie wyjaśnia w pełni prawnej struktury tego środka.

Osoby fizyczne mogłyby otrzymać wyroki do 20 lat więzienia. Jest to kara maksymalna, a nie automatyczny wyrok za zwykły rozwój oprogramowania lub przypadkową niezgodność z przepisami.

Propozycja wykracza również poza krajowe laboratoria. Wprowadziłaby międzynarodowe ograniczenia, koordynację z sojusznikami i kontrolę eksportu do polityki Stanów Zjednoczonych.

Ten globalny element jest kluczowy dla argumentacji sponsorów. Krajowa pauza daje ograniczoną ochronę, jeśli inne państwo nadal rozwija te same zdolności bez porównywalnych mechanizmów kontroli.

Jednak opublikowane materiały pozostawiają bez odpowiedzi kilka pytań operacyjnych. Nie przedstawiają kompletnego publicznego testu odróżniającego zakazaną superinteligencję od po prostu zaawansowanego oprogramowania.

Nie określają także, jak regulatorzy traktowaliby otwarte modele, badania zagraniczne, trening rozproszony ani ulepszenia osiągane dzięki oprogramowaniu, a nie większym klastrom obliczeniowym.

Te szczegóły zdecydują, czy ustawa stworzyłaby wąską czerwoną linię, czy szeroki system licencjonowania badań granicznych. Określą też, kto mógłby zostać oskarżony.

Dlaczego kara 20 lat zmienia debatę

Proponowany wymiar kary przekształca niepewny próg naukowy w potencjalną granicę przestępstwa.

Sanders i Casar porównują maksymalny wyrok z obowiązującymi karami za nielegalny udział w rozwoju broni jądrowej. Ich streszczenie przedstawia to porównanie jako dowód, że niekontrolowana superinteligencja zasługuje na podobną powagę prawną.

Prawo federalne rzeczywiście przewiduje maksymalnie 20 lat więzienia za świadome wspieranie programu broni jądrowej prowadzonego przez zagraniczne mocarstwo terrorystyczne. Odpowiednia ustawa dotycząca broni jądrowej obejmuje udział, wsparcie materialne, próby i spiski.

Porównanie jest retorycznie skuteczne, ale wymaga ostrożności. Obowiązująca ustawa dotyczy świadomej pomocy zagranicznemu terrorystycznemu programowi zbrojeniowemu, a nie wszelkich nieautoryzowanych badań jądrowych.

Proponowane przestępstwo związane z AI pozostaje też mniej zdefiniowane w opublikowanym streszczeniu. Materiały jądrowe, programy zbrojeniowe i organizacje terrorystyczne mają ustalone znaczenia prawne i techniczne.

Sztuczna superinteligencja nie ma równie powszechnie uznanego standardu pomiaru. Badacze nie są zgodni, które benchmarki odzwierciedlają szeroką inteligencję, autonomię, planowanie strategiczne lub niezawodne osiągi na poziomie człowieka.

Model może przewyższać ludzi w teście programowania, a jednocześnie nie radzić sobie z podstawowymi zadaniami w świecie rzeczywistym. Inny może skutecznie planować w symulacji, lecz załamywać się po zmianie środowiska.

Deweloperzy wpływają też na zachowanie poprzez trening, narzędzia, instrukcje systemowe, uprawnienia i architekturę wdrożenia. Niebezpieczna zdolność nie zawsze tkwi wyłącznie w samym modelu.

Ta złożoność sprawia, że intencja ma znaczenie. Prawo karne musi odróżniać celowe obchodzenie przepisów od legalnych badań, które nieoczekiwanie ujawniają niebezpieczną zdolność.

Musi też określać, kiedy dalsze testowanie staje się zakazanym rozwojem. W przeciwnym razie laboratorium mogłoby odkryć dowody przekroczenia progu dopiero po wykonaniu pracy, która ten próg przekroczyła.

Ryzyko wykracza poza kadrę zarządzającą. Inżynierowie, badacze, dostawcy infrastruktury i specjaliści ds. zgodności musieliby rozumieć, czy indywidualne działania mogą powodować odpowiedzialność.

Firmy prawdopodobnie odpowiedziałyby wymogami dokumentacyjnymi, wewnętrznymi etapami zatwierdzania, ograniczonym dostępem i niezależnymi testami. Nawet nieuchwalone przepisy mogą upowszechnić takie praktyki.

Kara wpłynęłaby także na finansowanie i zatrudnianie. Inwestorzy i pracownicy inaczej tolerują niepewność, gdy sporna ocena zgodności może skutkować więzieniem.

Mniejsze laboratoria mogłyby ponieść największy praktyczny ciężar. Duże firmy mogą utrzymywać zespoły prawne, bezpieczeństwa i ewaluacji, których niezależni badacze nie są w stanie łatwo odtworzyć.

Z kolei, według argumentacji sponsorów, to największe laboratoria stwarzają największe ryzyko systemowe. Ich zasoby obliczeniowe, zastrzeżone dane i zasięg wdrożeń mogą szybko spotęgować skutki niepowodzeń.

Dwudziestoletni wymiar kary działa więc jako coś więcej niż sankcja. Sygnalizuje, że Sanders i Casar uważają pewne formy rozwoju AI za działalność z natury niebezpieczną, wymagającą uprzedniego ograniczenia.

To znaczące odejście od większości amerykańskich regulacji dotyczących oprogramowania. Przepisy technologiczne zwykle regulują szkodliwe zastosowania, wpływ na konsumentów, praktyki bezpieczeństwa lub ujawnienia informacji po rozpoczęciu rozwoju.

Zakaz AI Bernie’ego Sandersa zamiast tego celuje w granicę możliwości, zanim zakazany system trafi do zwykłych użytkowników. Jego logika bardziej przypomina kontrolę zbrojeń niż konwencjonalne regulacje produktów.

Prawdziwy spór dotyczy tego, kto kontroluje próg

Propozycja podważa obecny model, w którym laboratoria rozwijające zaawansowane systemy AI w dużej mierze same definiują, testują i egzekwują własne granice bezpieczeństwa.

Sanders argumentuje, że decyzje wpływające na ludzkość nie mogą pozostawać w rękach niewielkiej grupy menedżerów firm technologicznych. Jego stanowisko łączy bezpieczeństwo AI ze skoncentrowaną władzą korporacyjną.

Casar ujmuje kwestię instytucjonalną bardziej bezpośrednio. Twierdzi, że AI o szczególnie doniosłych konsekwencjach podlega mniejszemu nadzorowi niż wiele zwykłych firm poddawanych lokalnym inspekcjom i wymogom pozwoleń.

Sponsorzy wskazują także na warunkowe zobowiązania dotyczące bezpieczeństwa ze strony OpenAI, Anthropic i Meta. Zobowiązania te zasadniczo obiecują silniejsze środki ostrożności, jeśli możliwości systemów wyprzedzą istniejące zabezpieczenia.

Liderzy firm publicznie omawiali poważne ryzyka związane z AI. Sam Altman popierał międzynarodową koordynację wokół superinteligencji, podczas gdy Dario Amodei opowiadał się za silniejszym zarządzaniem modelami granicznymi.

Elon Musk wielokrotnie porównywał ryzyko AI z innymi zagrożeniami na poziomie cywilizacyjnym. Jego poparcie dla regulacji współistniało z udziałem xAI w wyścigu o coraz bardziej zdolne systemy.

Te stanowiska tworzą centralne odwrócenie zawarte w propozycji. Wiodące laboratoria ostrzegają przed utratą kontroli, jednocześnie nadal trenując, wdrażając i komercjalizując coraz bardziej zdolne modele.

Nie dowodzi to złej wiary. Firma może uważać zaawansowaną AI za jednocześnie wartościową i niebezpieczną, a następnie wspierać kontrole, które stosują się jednakowo do wszystkich konkurentów.

Jednak dobrowolne zobowiązania zależą od korporacyjnych definicji, poufnych dowodów i wewnętrznego egzekwowania. Firmy odczuwają również presję inwestorów, klientów, pracowników i konkurencyjnych laboratoriów.

Laboratorium, które samodzielnie wstrzyma działalność, ryzykuje utratę talentów i pozycji rynkowej. Jego rywale mogą kontynuować rozwój tych samych zdolności bez przyjęcia porównywalnych ograniczeń.

Propozycja zastąpiłaby ten problem koordynacyjny nakazem prawnym. Każda objęta nią firma musiałaby się zatrzymać, podlegając jednemu regulatorowi i jednemu systemowi egzekwowania.

Zwolennicy postrzegają interwencję państwa jako jedyny wiarygodny sposób na powstrzymanie wyścigu. Twierdzą, że dobrowolne obietnice bezpieczeństwa nie przetrwają rosnącej presji komercyjnej i geopolitycznej.

Szerszy ruch ma znaczące poparcie naukowe. Publiczne oświadczenie dotyczące superinteligencji wzywa do utrzymania zakazu rozwoju bez naukowego konsensusu w sprawie kontroli i silnego poparcia społecznego.

Wśród sygnatariuszy są pionierzy AI Geoffrey Hinton i Yoshua Bengio. Ich udział dodaje ruchowi na rzecz zakazu technicznej wiarygodności, choć nie oznacza konsensusu w całej dziedzinie.

Międzynarodowy raport bezpieczeństwa z 2026 roku również pokazuje rosnącą uwagę poświęcaną ryzykom systemowym. Sam w sobie nie popiera jednak dokładnego projektu prawnego proponowanego przez Sandersa.

Przeciwnicy odpowiadają, że rządy są słabo przygotowane do wyznaczenia tak niepewnej granicy naukowej. Obawiają się, że regulatorzy zamrożą korzystne badania lub umocnią pozycję istniejących firm technologicznych.

System licencjonowania może faworyzować obecnych liderów, ponieważ już dysponują zespołami ds. zgodności, relacjami z rządem i rozbudowaną infrastrukturą ewaluacyjną. Zakaz wymierzony w Big Tech mógłby wzmocnić Big Tech.

Otwarte badania tworzą kolejny konflikt. Niezależna kontrola pomaga badaczom wykrywać podatności, ale publikowanie wrażliwych metod może również rozpowszechniać niebezpieczne możliwości.

Szeroki zakaz mógłby zepchnąć prace do tajemnicy lub zagranicznych jurysdykcji. Wąski zakaz mógłby pozostawić deweloperom wystarczająco dużo miejsca, by przemianować zakazane działania.

Głównym przeciwnikiem nie jest więc Sanders przeciwko jednemu laboratorium. To demokratyczna kontrola przeciwko samorządności zarządzanej przez branżę na technologicznej granicy.

Oba podejścia niosą ryzyko instytucjonalnych porażek. Firmy mogą przedkładać przewagę konkurencyjną nad inne cele, podczas gdy rządy mogą regulować nieprecyzyjnie, powoli lub pod wpływem polityki.

Propozycja zmusza Kongres do rozstrzygnięcia, któremu rodzajowi porażki należy przypisać większą wagę, zanim technologia osiągnie uzgodniony próg superinteligencji.

Trwały zakaz ma problem z pomiarem

Kongres nie może sprawiedliwie egzekwować granicy superinteligencji, jeśli regulatorzy nie potrafią mierzyć zdolności, intencji i kontroli za pomocą dających się obronić testów.

Najtrudniejszym sformułowaniem w propozycji jest „przewyższać ludzką inteligencję”. Ludzka inteligencja nie jest jedną mierzalną wielkością, a wydajność AI różni się w zależności od zadania i środowiska.

Modele już przewyższają większość ludzi w wąskich dziedzinach. Potrafią wyszukiwać informacje, klasyfikować obrazy, tłumaczyć języki lub przeszukiwać rozległe przestrzenie techniczne z maszynową szybkością.

Wyniki te nie dowodzą automatycznie ogólnej autonomii. System może przewyższać ludzi w testach porównawczych, pozostając jednocześnie zależnym od starannie skonstruowanych poleceń i narzędzi.

Istotny jest także problem odwrotny. Model może uzyskać wynik poniżej formalnego progu, a jednocześnie posiadać niebezpieczne zdolności, których ewaluacje nie ujawniają.

Deweloperzy czasem uczą modele odmawiania realizacji szkodliwych żądań. Takie widoczne zachowanie nie dowodzi, że ukryta zdolność zniknęła.

Ewaluatorzy muszą więc oddzielić zdolność od gotowości do działania. Muszą sprawdzać, co system potrafi zrobić przy użyciu adversarial prompting, dostrajania, dostępu do narzędzi i zmodyfikowanych mechanizmów bezpieczeństwa.

Równie trudno jest zdefiniować kontrolę. Model może zignorować instrukcję, ponieważ żądanie jest niejednoznaczne, system koliduje z inną regułą albo zawodzi jego rozumowanie.

Takie zdarzenie różni się od systemu, który strategicznie opiera się wyłączeniu. Drugie zachowanie implikuje świadomość sytuacyjną i trwałe cele, których pierwsze nie zakłada.

Regulatorzy potrzebowaliby powtarzalnych dowodów przed przypisaniem odpowiedzialności karnej. Same tajne benchmarki utrudniałyby oskarżonym zrozumienie lub zakwestionowanie klasyfikacji rządowej.

Całkowicie publiczne testy stwarzają inny problem. Deweloperzy mogą optymalizować modele pod znane ewaluacje, nie zmniejszając przy tym rzeczywistego ryzyka.

Wykonalny system prawdopodobnie wymagałby wielowarstwowych testów. Publiczne standardy mogłyby ustanowić podstawowe obowiązki, a chronione ewaluacje badałyby zdolności wrażliwe z punktu widzenia bezpieczeństwa.

Agencja potrzebowałaby również zasad raportowania nieoczekiwanych wyników. Laboratoria powinny móc ujawniać niepokojące zachowania bez traktowania każdego odkrycia jako dowodu przestępczego rozwoju.

Przepisy typu safe harbor mogłyby chronić działające w dobrej wierze testy prowadzone w zatwierdzonych warunkach izolacji. Ogłoszone podsumowanie nie wyjaśnia, czy takie zabezpieczenia miałyby istnieć.

Gary Marcus, znany krytyk słabego zarządzania AI, argumentuje, że trwały zakaz nadal idzie zbyt daleko. Jego krytyka regulacyjna popiera utworzenie agencji i dopuszcza przerwę, lecz odrzuca bezterminowy jednostronny zakaz.

Marcus wskazuje na złożoność benchmarków oraz ryzyko, że autorytarne rządy mogłyby manipulować definicjami. Opowiada się za warunkowym rozwojem wspartym silnymi dowodami kontroli i nadzoru.

Ta krytyka ma znaczenie, ponieważ nie neguje ryzyka AI. Kwestionuje, czy mechanizm proponowany w projekcie może zaradzić temu ryzyku bez blokowania wartościowych badań.

To rozróżnienie oddziela negowanie ryzyka od sporu o politykę. Krytycy mogą uznawać, że zaawansowana AI wymaga regulacji, jednocześnie odrzucając trwały zakaz oparty na zdolnościach.

Projekt ustawy musiałby również określić podmioty objęte regulacją w całym łańcuchu rozwoju. Współczesne systemy AI zależą od producentów chipów, dostawców chmury, dostawców danych, laboratoriów modeli i twórców aplikacji.

Twórca aplikacji korzystający z istniejącego modelu nie znajduje się w takiej samej sytuacji jak laboratorium szkolące system graniczny. Ich dostęp, wiedza i kontrola znacząco się różnią.

Dostrajanie dodatkowo komplikuje tę granicę. Niewielka modyfikacja może ujawnić zdolności, które były już obecne, lecz stłumione w modelu bazowym.

Modele o otwartych wagach tworzą problem rozproszonego egzekwowania prawa. Gdy wagi zaczną krążyć globalnie, tysiące użytkowników może je modyfikować bez dostępu do pierwotnej infrastruktury treningowej.

System prawny nie może wymazać szeroko kopiowanego oprogramowania tak łatwo, jak może zabezpieczyć kontrolowany materiał jądrowy. Analogia nuklearna słabnie na tym poziomie operacyjnym.

Mimo to trenowanie największych systemów granicznych wymaga skoncentrowanej infrastruktury. Rządy mogą monitorować zaawansowane chipy, duże klastry obliczeniowe, umowy chmurowe i energochłonne centra danych.

Ta koncentracja daje regulatorom możliwe punkty egzekwowania prawa. Nie gwarantuje jednak, że wykryją każdą istotną poprawę algorytmiczną lub rozproszony projekt.

Wiarygodność prawa będzie zależeć od połączenia mierzalnych zasad dotyczących mocy obliczeniowej z ocenami zdolności. Każda z tych kategorii z osobna pozostawia duże luki.

Krajowa przerwa nie rozwiąże sama globalnego wyścigu

Propozycja odniesie sukces tylko wtedy, gdy międzynarodowa koordynacja stanie się możliwa do wyegzekwowania, zanim rozwój przeniesie się gdzie indziej.

Sanders i Casar dostrzegają ten problem. Ich ramy wzywają do traktatów, koordynacji z sojusznikami i kontroli eksportu, które mają zapobiec rozwojowi superinteligencji na całym świecie.

Podejście to czerpie z kontroli zbrojeń, gdzie monitorowanie, wspólne ograniczenia i konsekwencje zmniejszają zachęty do tajnego rozwoju. AI stwarza inne warunki weryfikacji.

Programy nuklearne wymagają wyspecjalizowanych materiałów i rzucających się w oczy obiektów. Zaawansowana AI zależy od chipów przydatnych komercyjnie, centrów danych, oprogramowania i specjalistycznej wiedzy, które mają wiele legalnych zastosowań.

Duży klaster treningowy można monitorować łatwiej niż matematyczny przełom. Postępy algorytmiczne mogą obniżać zasoby obliczeniowe potrzebne do uzyskania określonej zdolności.

Kontrole eksportu mogą spowolnić dostęp do czołowego sprzętu. Nie mogą zapewnić, że każde państwo przyjmie tę samą definicję zdolności, zasady inspekcji czy sankcje karne.

Stany Zjednoczone potrzebowałyby także współpracy sojuszników goszczących produkcję chipów, infrastrukturę chmurową i instytucje badawcze. Rozproszone reguły tworzyłyby możliwości relokacji.

Przeciwnicy będą przedstawiać to jako wyścig o bezpieczeństwo narodowe. Będą twierdzić, że jednostronna przerwa daje strategicznym konkurentom czas na postęp bez amerykańskiego nadzoru.

Zwolennicy odpowiadają, że niekontrolowany wyścig czyni każdego uczestnika mniej bezpiecznym. Bycie pierwszym daje niewielką ochronę, jeśli żaden deweloper nie potrafi niezawodnie kontrolować powstałego systemu.

Ten spór odzwierciedla klasyczny dylemat bezpieczeństwa. Każda strona przyspiesza, ponieważ oczekuje, że przyspieszą inni, co utrudnia skoordynowaną powściągliwość nawet wtedy, gdy wszyscy obawiają się skutków.

Ramy Sandersa próbują przerwać ten cykl poprzez zakaz. Ich słabością jest to, że krajowe ustawodawstwo nie może wiązać zagranicznych rządów.

Ich siłą jest wyznaczanie agendy. Stany Zjednoczone nie mogą negocjować globalnego ograniczenia, nie definiując najpierw stanowiska, które chcą przyjąć inne państwa.

Kongres musi również zdecydować, czy te same zasady powinny obowiązywać sojuszników, konkurentów, uniwersytety, firmy i agencje obronne. Nierówne wyjątki podważałyby zaufanie.

Wyjątki wojskowe byłyby szczególnie kontrowersyjne. Rząd nie może wiarygodnie żądać powściągliwości od sektora prywatnego, jednocześnie rezerwując nieograniczony rozwój dla programów bezpieczeństwa narodowego.

Zasady weryfikacji muszą chronić wrażliwe badania, nie zmieniając nadzoru w szpiegostwo przemysłowe. Międzynarodowi inspektorzy potrzebowaliby ograniczonego, lecz wiarygodnego dostępu.

Propozycja mogłaby także kolidować z otwartą wymianą naukową. Współpraca transgraniczna jest powszechna w uczeniu maszynowym, w tym w pracach nad bezpieczeństwem i ewaluacją.

Zbyt szerokie zasady eksportowe mogłyby odizolować amerykańskich badaczy od osób opracowujących lepsze metody kontroli. Słabe zasady mogłyby umożliwiać transfer zakazanych zdolności za pośrednictwem oprogramowania lub wiedzy specjalistycznej.

Presja gospodarcza kształtowałaby każde negocjacje. Państwa oczekują, że AI poprawi produktywność, obronność, naukę, opiekę zdrowotną i usługi publiczne.

Trwałe ograniczenie musi zatem odróżniać zwykłe korzyści od zakazanej granicy rozwoju. Rządy nie porzucą użytecznych zastosowań AI tylko dlatego, że superinteligencja pozostaje kwestią sporną.

Najlepszym historycznym porównaniem nie jest bezpośrednie skopiowanie nierozprzestrzeniania broni jądrowej. Jest nim szersze wyzwanie zarządzania technologią podwójnego zastosowania, mającą zarówno cywilną wartość, jak i katastrofalny potencjał.

To wyzwanie wymaga wspólnych definicji, monitorowania, raportowania incydentów i wiarygodnych konsekwencji. Ogłoszone ramy wskazują te cele, ale nie dostarczają jeszcze międzynarodowych mechanizmów ich realizacji.

Na co powinni zwracać uwagę deweloperzy i nabywcy AI

Decydującymi sygnałami są formalny tekst projektu ustawy, mierzalne progi regulacyjne oraz dowody poparcia ponadpartyjnego lub międzynarodowego.

Pierwszym sygnałem jest formalny język legislacyjny. Sanders opisał propozycję jako nadchodzącą, dlatego czytelnicy powinni wypatrywać numeru wniesionej ustawy i pełnego tekstu prawnego.

Tekst ten powinien definiować sztuczną superinteligencję, zaawansowany rozwój AI, zakazane zachowania, zamiar przestępczy i korporacyjną karę śmierci. Powinien także wskazywać dostępne środki obrony i wyjątki.

Jeśli definicje te pozostaną szerokie, krytyka dotycząca niepewności się nasili. Precyzyjne progi i chronione badania nad bezpieczeństwem uczyniłyby propozycję bardziej wiarygodną.

Drugim sygnałem jest projekt proponowanego federalnego regulatora. Kongres musi wyjaśnić jego uprawnienia, obsadę kadrową, dostęp techniczny, terminy przeglądów i relacje z istniejącymi agencjami.

Poważny proces przeglądu modeli wymaga niezależnych zdolności ewaluacyjnych. Poleganie na dowodach generowanych przez laboratoria zachowałoby znaczną część samorządności, którą Sanders chce zastąpić.

Deweloperzy powinni obserwować, czy nadzór skupia się na mocy obliczeniowej treningu, testach zdolności, warunkach wdrożenia czy na wszystkich trzech elementach. Wybór ten określi codzienne obowiązki dotyczące zgodności.

Nabywcy korporacyjni powinni również śledzić zasady raportowania incydentów i wdrażania. Model dopuszczony do ograniczonych badań może nie kwalifikować się do autonomicznego użycia w krytycznych systemach biznesowych.

Organizacje już wdrażające AI powinny prowadzić rejestry modeli, uprawnień, podłączonych narzędzi, wyników ewaluacji i punktów zatwierdzenia przez człowieka. Kontrole te pozostają użyteczne, nawet jeśli propozycja nie wejdzie w życie.

Przeszukiwalna baza wiedzy inżynierskiej może pomóc zespołom zachować dowody z ewaluacji, decyzje dotyczące ryzyka i zmieniające się wymogi zgodności.

Trzecim sygnałem jest koordynacja polityczna. Propozycja potrzebuje sponsorów w Kongresie poza Sandersem i Casarem, w tym ustawodawców zaniepokojonych bezpieczeństwem narodowym i konkurencją gospodarczą.

Ponadpartyjne poparcie dla wąskich środków bezpieczeństwa wzmocniłoby szersze argumenty za obowiązkowym nadzorem. Odrzucenie przez obie partie skierowałoby politykę raczej ku ukierunkowanym zasadom.

Reakcje międzynarodowe mają równie duże znaczenie. Zobowiązania sojuszników dotyczące zaawansowanych chipów, wspólnych ewaluacji i raportowania incydentów wsparłyby globalne założenie propozycji.

Jeśli główne państwa produkujące AI odrzucą wspólne ograniczenia, trwały amerykański zakaz będzie trudniejszy do obrony politycznej. Argumenty o relokacji i strategicznej konkurencji zyskają na sile.

Czytelnicy powinni również odróżniać proponowane maksimum od wymierzonego wyroku. Żaden deweloper nie stanie wobec tej 20-letniej kary, dopóki Kongres nie uchwali prawa, a prokuratorzy nie udowodnią objętego nim naruszenia.

Ta sama ostrożność dotyczy porównania nuklearnego. Identyczne maksimum komunikuje wagę sprawy, lecz przestępstwa, dowody i technologie nie są prawnie tożsame.

Zakaz AI Berniego Sandersa mimo to przesunął ważną granicę. Stawia pytanie, czy tworzenie systemu, którego nie da się kontrolować, powinno stać się nielegalne, zanim ktokolwiek udowodni, że system ten wyrządził szkodę.

To pytanie wykracza poza laboratoria pracujące nad modelami granicznymi. Twórcy oprogramowania potrzebują stabilnych zasad prowadzenia badań, firmy — godnych zaufania modeli, a pracownicy — instytucji zarządzających ryzykiem związanym z wdrażaniem.

Pracownicy umysłowi powinni pytać dostawców, do czego ich modele mają dostęp, które działania wymagają zatwierdzenia oraz w jaki sposób rejestrowane są awarie. Te praktyczne pytania mają znaczenie przy każdym wyniku regulacyjnym.

Najsurowszy element propozycji przyciągnie najwięcej uwagi. Jej trwały wpływ może jednak wynikać z włączenia uprzedniej autoryzacji, niezależnych testów i publicznej kontroli do głównego nurtu polityki dotyczącej AI.

Śledź formalny projekt ustawy, a nie tylko jego nagłówek. Jeśli definicje staną się możliwe do przetestowania, a koordynacja międzynarodowa posunie się naprzód, propozycja nabierze treści.

Jeśli te elementy pozostaną nierozstrzygnięte, kara 20 lat więzienia będzie funkcjonować głównie jako polityczne ostrzeżenie. Każdy z tych wyników pokazuje twórcom oprogramowania, jak poważnie Waszyngton traktuje obecnie wyścig o superinteligencję.