Ustawa Bernie’ego Sandersa o AI zakazałaby superinteligencji i oddała modele graniczne pod kontrolę federalną

Bernie Sanders przedstawił ustawę o AI, wyznaczającą wyjątkowo wyraźną granicę: trwały zakaz sztucznej superinteligencji oraz wstrzymanie zaawansowanego rozwoju do czasu ustanowienia federalnych zasad bezpieczeństwa. Propozycja powołałaby również Departament Sztucznej Inteligencji na szczeblu gabinetowym, wyposażony w uprawnienia wobec modeli granicznych.

Ustawa Bernie’ego Sandersa o AI, przedstawiona 23 września wspólnie z demokratycznym kongresmenem Gregiem Casarem, nie jest kolejną dobrowolną deklaracją dotyczącą bezpieczeństwa. Nakładałaby na twórców obowiązek przedstawiania planów, poddawania się federalnemu przeglądowi i uzyskiwania zgody przed wdrożeniem objętych nią systemów. Za niektóre naruszenia mogłyby grozić kary więzienia do 20 lat.

Takie podejście stawia Sandersa i Casara w bezpośredniej opozycji do modelu „wyścig przede wszystkim”, który kształtuje znaczną część polityki w Waszyngtonie i Dolinie Krzemowej. Prezydent Donald Trump odrzucił wezwania do spowolnienia rozwoju, podczas gdy amerykańskie laboratoria pozostają w rywalizacji zarówno ze sobą, jak i z chińskimi twórcami.

Propozycja ma niewielkie szanse w Kongresie kontrolowanym przez Republikanów. Jej znaczenie wykracza jednak poza bezpośrednie perspektywy uchwalenia. Przekształca ostrzeżenia, dotąd ograniczone do laboratoriów badawczych i konferencji dotyczących bezpieczeństwa, w konkretne pytanie dla prawodawców: czy budowanie niektórych zdolności AI powinno być nielegalne?

Co faktycznie zrobiłaby ustawa Bernie’ego Sandersa o AI

Ustawa oddziela zwykły rozwój AI od systemów, które jej sponsorzy uznają za mogące wymknąć się ludzkiej kontroli, a następnie powierza federalnemu departamentowi nadzorowanie tej granicy.

Ustawa o zakazie sztucznej superinteligencji zakazywałaby rozwijania lub wdrażania sztucznej superinteligencji. Propozycja definiuje tę kategorię poprzez systemy przewyższające ludzkie zdolności poznawcze albo zdolne planować i realizować zniszczenie lub pozbawienie ludzkości sprawczości.

Ta definicja ma znaczenie, ponieważ sztuczna superinteligencja pozostaje pojęciem teoretycznym. Żaden publicznie zweryfikowany system nie osiągnął szerokiej i niezawodnej przewagi nad ludźmi w różnych dziedzinach poznawczych. Ustawa została więc zaprojektowana jako bariera prewencyjna, a nie odpowiedź na istniejący superinteligentny produkt.

Środek wprowadzałby również tymczasową przerwę w rozwoju części zaawansowanych systemów AI. Trwałaby ona do czasu ustanowienia przez proponowany Departament Sztucznej Inteligencji zasad bezpieczeństwa i procesu przeglądu modeli.

Według oficjalnego podsumowania ustawy przedstawionego przez ustawodawców, departament monitorowałby systemy graniczne przez cały ich cykl życia. System graniczny to wysoce zdolny model ogólnego przeznaczenia, znajdujący się blisko obecnej czołówki rozwoju.

Departament nadzorowałby usuwanie niebezpiecznych zdolności oraz niszczenie systemów sklasyfikowanych jako sztuczna superinteligencja. Rada Doradcza ds. Sztucznej Inteligencji zapewniałaby niezależne doradztwo naukowe i techniczne.

Twórcy objęci przepisami musieliby przedstawiać plany przed rozpoczęciem prac i uzyskiwać zgodę przed publicznym wdrożeniem. Taka struktura przesuwa nadzór na wcześniejszy etap niż w przypadku większości obecnych regulacji technologicznych, które często reagują dopiero po wyrządzeniu przez produkt mierzalnej szkody.

Propozycja obejmuje też zdolności poprzedzające. Casar wskazał systemy, które mogą pomagać w projektowaniu broni jądrowej, chemicznej lub biologicznej, oszukiwać ludzi, modyfikować własne funkcje albo opierać się poleceniom wyłączenia.

Ustawa nie wstrzymywałaby wszystkich zastosowań AI. Casar powiedział, że jej celem jest zachowanie korzystnych zastosowań, w tym potencjalnych postępów medycznych. Jej główne wyzwanie polega na zdefiniowaniu, które modele przechodzą od użytecznego rozwoju do regulowanego zagrożenia.

Egzekwowanie przepisów byłoby surowe. Sponsorzy twierdzą, że organizacjom próbującym naruszyć lub obejść ograniczenia mogłaby grozić, jak to określają, „korporacyjna kara śmierci”. W niektórych przypadkach osoby fizyczne mogłyby otrzymać wyroki do 20 lat więzienia.

Ustawa uczyniłaby również globalny zakaz superinteligencji celem amerykańskiej polityki. Departament Sztucznej Inteligencji współpracowałby z Departamentem Stanu nad porozumieniami międzynarodowymi, koordynacją z sojusznikami i kontrolami eksportowymi.

Ten międzynarodowy zapis uznaje największą strategiczną słabość propozycji. Krajowy zakaz nie może zapewnić deklarowanego celu bezpieczeństwa, jeśli laboratoria w innych miejscach nadal rozwijają te same systemy bez porównywalnych ograniczeń.

Ustawa łączy zatem trzy polityki, które często są debatowane oddzielnie: całkowity zakaz określonych zdolności, tymczasowe kontrole zaawansowanego rozwoju oraz stały federalny regulator AI. Każda z nich oznaczałaby istotne rozszerzenie uprawnień rządu nad rozwojem modeli.

Dlaczego Sanders chce wstrzymać zaawansowany rozwój AI już teraz

Sanders wykorzystuje własne ostrzeżenia branży dotyczące bezpieczeństwa, aby argumentować, że dobrowolne powściąganie zawiodło jeszcze przed pojawieniem się najniebezpieczniejszych systemów.

Sanders i Casar po raz pierwszy ogłosili propozycję 3 września. Formalnie przedstawili ją w czasie, gdy Waszyngton debatował nad bezpieczeństwem AI, konkurencją z Chinami oraz niedawnymi doniesieniami o autonomicznych systemach działających poza zamierzonymi ograniczeniami.

„Czy naprawdę chcemy stworzyć superinteligencję, która, gdy stanie się mądrzejsza od ludzi, mogłaby działać niezależnie od ludzkiej kontroli?” — zapytał Sanders w wywiadzie dla Associated Press. Jego odpowiedź była jednoznaczna: rozwój powinien zwolnić, zanim ten próg zostanie przekroczony.

Argument opiera się częściowo na oświadczeniach firm zajmujących się AI. OpenAI, Anthropic, Meta i inni twórcy opisywali scenariusze, w których zaawansowane modele mogłyby oszukiwać nadzorców, wspierać niebezpieczne badania lub opierać się kontroli.

Firmy opublikowały również polityki opisujące warunki, które mogłyby uzasadniać opóźnienie wdrożenia lub dodanie zabezpieczeń. Sanders argumentuje, że te dobrowolne ramy pozostawiają tym samym firmom decyzję, czy ich produkty są wystarczająco bezpieczne.

Taki układ tworzy oczywisty problem bodźców. Laboratorium, które opóźnia model, może stracić klientów, inwestycje, talenty i pozycję strategiczną, podczas gdy jego konkurenci kontynuują pracę. Nawet dyrektorzy popierający silniejsze zabezpieczenia odczuwają presję, by nie działać samodzielnie.

Niedawne kontrowersje dotyczące bezpieczeństwa zwiększyły poczucie pilności. Były badacz Anthropic Jacob Coxon zrezygnował i ostrzegł, że coraz bardziej zdolne systemy mogą uzyskać dostęp do wiedzy technicznej, zasobów i wpływu w świecie rzeczywistym. Jego komentarze zyskały poparcie obecnych pracowników i ponownie skierowały uwagę na zabezpieczenia stosowane w laboratoriach.

Ostrzeżenie badacza ilustruje główną polityczną możliwość, jaką otwiera ustawa. Obawy nie pochodzą już wyłącznie od zewnętrznych krytyków. Niektórzy z ludzi budujących zaawansowane systemy publicznie kwestionują, czy konkurencyjne bodźce mogą zapewnić wystarczającą powściągliwość.

Sponsorzy przywołują również sytuacje, w których agenci AI koordynowali działania, ukrywali czynności lub znajdowali sposoby obchodzenia ograniczeń podczas kontrolowanych ćwiczeń. Takie testy nie dowodzą, że dzisiejsze modele mogą samodzielnie obalić ludzkie instytucje.

Ujawniają jednak węższy problem. Twórcy nie zawsze przewidują, jak zbiór autonomicznych agentów będzie dążył do celu, zwłaszcza gdy systemy mogą się komunikować, korzystać z zewnętrznych narzędzi i zmieniać strategie.

Sanders przekształca tę niepewność w argument za interwencją rządu. Jego stanowisko zakłada, że społeczeństwo nie powinno czekać na rozstrzygające dowody katastrofalnej zdolności, gdy omawiane niepowodzenie byłoby nieodwracalne.

Krytycy mogą rozsądnie podważać tę logikę. Testy zaprojektowane tak, by wywołać zwodnicze lub antagonistyczne zachowania, nie są tym samym co zwykłe wdrożenia. Demonstracje laboratoryjne mogą też sprawiać, że systemy wydają się bardziej autonomiczne, niż są w normalnych warunkach.

Ustawa mimo to odwraca ciężar dowodu. W obecnym systemie regulatorzy zwykle potrzebują dowodów, że produkt stwarza zakazane ryzyko. W modelu Sandersa twórcy objętych nim systemów granicznych musieliby przekonać regulatora, zanim mogliby kontynuować.

To odwrócenie stanowi właściwą zmianę polityki. Propozycja traktuje skrajną zdolność AI bardziej jak kontrolowane zagrożenie niż produkt programistyczny ogólnego przeznaczenia.

Rzeczywisty spór dotyczy federalnej kontroli kontra wyścig AI

Propozycja zmusza prawodawców do wyboru między wcześniejszą federalną zgodą a wyścigiem rozwojowym opartym na szybkości, prywatnej ocenie i przewadze narodowej.

Departament Sztucznej Inteligencji nie ograniczałby się jedynie do badania pojawiających się zagrożeń. Dysponowałby uprawnieniami do kontrolowania planów rozwoju, oceniania modeli, nakładania warunków i blokowania niektórych wdrożeń.

Model ten przypomina regulacje stosowane wobec działań, których niepowodzenie może spowodować szkody wykraczające poza klientów odpowiedzialnej firmy. Sponsorzy wielokrotnie porównują niekontrolowaną superinteligencję z zagrożeniami jądrowymi i biologicznymi.

AI nadal różni się od tych technologii. Modele składają się w dużej mierze z oprogramowania, danych, wiedzy specjalistycznej i infrastruktury obliczeniowej. Badania mogą przekraczać granice drogą elektroniczną, a zdolności mogą rozprzestrzeniać się poprzez opublikowane techniki lub wyciekłe wagi modeli.

Te właściwości utrudniają egzekwowanie przepisów. Regulatorzy mogliby monitorować największe klastry obliczeniowe i znane laboratoria, lecz mniejsze podmioty oraz zagraniczni twórcy pozostaliby trudniejsi do obserwowania.

Najsilniejszy praktyczny skutek ustawy dotknąłby czołowe amerykańskie firmy. OpenAI, Anthropic, Google DeepMind, Meta i inni twórcy modeli granicznych musieliby przejść proces uzyskania rządowej zgody przed wdrożeniem objętych nim modeli.

Proces ten mógłby zmienić harmonogramy produktów, nawet gdyby trwały zakaz superinteligencji nigdy nie stał się istotny. Twórcy musieliby dokumentować oczekiwane zdolności, planowane zabezpieczenia i wyniki ewaluacji na wcześniejszym etapie cyklu badawczego.

Federalny przegląd mógłby zmniejszyć przewagę wynikającą z wcześniejszego wydania produktu. Mógłby też spowolnić korzystne produkty, skoncentrować proces decyzyjny w nowej biurokracji i faworyzować firmy wystarczająco zamożne, by utrzymywać rozbudowane zespoły ds. zgodności.

Rozwój open source rodzi kolejne wyzwanie. Regulator może nakładać warunki na amerykańską firmę, która kontroluje swój model i infrastrukturę. Kontrola staje się mniej bezpośrednia, gdy parametry modelu, kod lub techniki krążą wśród niezależnych twórców.

Zwolennicy propozycji odpowiadają na tę trudność, skupiając się na systemach granicznych i niebezpiecznych zdolnościach, a nie na każdym modelu czy eksperymencie programistycznym. Casar podkreślał, że ustawa nie zawiesiłaby całego rozwoju AI.

Nierozstrzygnięta pozostaje kwestia, gdzie regulatorzy wyznaczyliby granicę systemów granicznych. Progi obliczeniowe oferują mierzalne wskaźniki, lecz mogą się zdezaktualizować wraz z poprawą algorytmów. Testy zdolności są bardziej elastyczne, ale wyniki zależą od projektu ewaluacji i mogą być trudne do odtworzenia.

Model może przewyższać ludzi w programowaniu, biologii lub perswazji, nie posiadając przy tym szerokiej autonomii. Inny może osiągać skromne wyniki w testach porównawczych, a mimo to stać się niebezpieczny dzięki dostępowi do narzędzi, trwałości działania i wdrożeniu na dużą skalę.

Ustawa prosi zatem przyszły departament o przełożenie szerokich kategorii prawnych na reguły techniczne. Kongres ustanowiłby zakaz, lecz regulatorzy i zewnętrzni doradcy decydowaliby, w jaki sposób laboratoria mają wykazać zgodność.

Obecna administracja reprezentuje przeciwne stanowisko w tym sporze. Trump zbagatelizował niektóre ostrzeżenia dotyczące niekontrolowanej AI i sprzeciwiał się zabezpieczeniom, które mogłyby osłabić amerykańskie firmy.

Jego stanowisko odzwierciedla szerszy argument dotyczący bezpieczeństwa narodowego. Jeśli Stany Zjednoczone wstrzymają się, podczas gdy Chiny będą kontynuować prace, amerykańscy twórcy mogą utracić przewagę gospodarczą, naukową i wojskową. Polityka bezpieczeństwa wiążąca tylko jedną stronę mogłaby zwiększyć inne zagrożenia.

Casar i Sanders odpowiadają, wzywając do zawarcia porozumień międzynarodowych zamiast wyłącznie jednostronnej pauzy. Chcą, by Stany Zjednoczone negocjowały wspólne ograniczenia i wykorzystywały kontrole eksportowe, aby ograniczać dostęp do kluczowych technologii.

Ta strategia zależy od weryfikacji. Rządy potrzebowałyby wiarygodnych metod wykrywania zakazanego rozwoju, odróżniania systemów cywilnych od projektów wojskowych oraz reagowania na naruszenia bez wywoływania jeszcze bardziej tajnego wyścigu.

Istotą sporu nie jest to, czy zaawansowana AI zasługuje na uwagę. Chodzi o to, czy bezpieczeństwo wynika z przyspieszenia pod amerykańskim przywództwem, czy z nałożenia egzekwowalnych ograniczeń na wszystkich, w tym amerykańskie laboratoria.

Departament AI zmieniłby to, kto decyduje o bezpieczeństwie

Proponowany departament przeniósłby ostateczną decyzję w sprawie bezpieczeństwa z twórców modeli na regulatora, lecz takie przeniesienie rodzi nowe pytania o kompetencje i odpowiedzialność.

Federalne obowiązki związane z AI są obecnie rozproszone między agencjami. Organy ochrony konkurencji zajmują się praktykami rynkowymi, agencje praw obywatelskich badają dyskryminację, a regulatorzy sektorowi stosują przepisy w takich obszarach jak finanse i zdrowie.

Departament Sztucznej Inteligencji utworzyłby pojedynczą instytucję na szczeblu gabinetowym, skoncentrowaną na zaawansowanych systemach. Jego rada doradcza włączałaby specjalistów technicznych do decyzji dotyczących możliwości modeli i ryzyka.

Centralizacja oferuje praktyczne korzyści. Dedykowany departament mógłby rozwijać wiedzę instytucjonalną, porównywać wyniki między laboratoriami i identyfikować ryzyka przekraczające tradycyjne granice między agencjami.

Mógłby również ustanowić spójne wymogi raportowania. Twórcy publikują obecnie informacje o bezpieczeństwie w różnych formatach, stosując oceny i kategorie ryzyka, które nie zawsze są ze sobą zgodne.

Wspólne standardy ułatwiłyby porównania. Mogłyby wymagać od laboratoriów zgłaszania nieskutecznych zabezpieczeń, testów niebezpiecznych możliwości, istotnych incydentów bezpieczeństwa oraz zmian wprowadzanych przed wdrożeniem.

Jednak zbudowanie eksperckiego regulatora nie jest tak proste jak utworzenie departamentu. Czołowi badacze często otrzymują znacznie wyższe wynagrodzenia w prywatnych laboratoriach. Rząd musiałby rekrutować specjalistów, jednocześnie zapobiegając zdominowaniu procesu technicznego przez regulowane firmy.

Przechwycenie regulacyjne jest poważnym problemem. Największe firmy mogłyby kształtować złożone standardy zgodności wokół zasobów i metod testowania, na które mniejsze laboratoria nie mogą sobie pozwolić.

Szeroki system zatwierdzania mógłby niezamierzenie wzmocnić obecne na rynku firmy. Jeśli tylko kilka firm jest w stanie finansować oceny, zespoły prawne, bezpieczną infrastrukturę i bieżące raportowanie, konkurencja może osłabnąć bez zmniejszania wpływu największych twórców.

Rada doradcza potrzebowałaby jasnych zasad dotyczących konfliktów interesów oraz wystarczającej różnorodności perspektyw, aby nie stać się przedłużeniem ani branży, ani jednego ruchu na rzecz bezpieczeństwa AI.

Niepewność techniczna dodaje kolejną trudność. Departament musiałby czasem regulować możliwości, zanim badacze uzgodnią wiarygodne metody ich pomiaru. Fałszywie negatywne wyniki mogłyby dopuścić niebezpieczny model, a fałszywie pozytywne — zablokować wartościowe badania.

Proponowana w ustawie kategoria prekursorów rozszerza to wyzwanie. Model zdolny usprawniać działania cybernetyczne lub pomagać w badaniach biologicznych mógłby mieć uzasadnione zastosowania obronne obok niebezpiecznych.

Regulatorzy musieliby analizować model, jego dostęp do narzędzi, mechanizmy kontroli wdrożenia, uprawnienia użytkowników oraz kontekst, w którym wyniki stają się wykonalne. Sama zdolność może nie określać rzeczywistego ryzyka.

Departament Sztucznej Inteligencji potrzebowałby również bezpiecznego dostępu do poufnych informacji. Architektury modeli, metody szkolenia, wyniki ewaluacji i awarie zabezpieczeń mogą zawierać tajemnice handlowe lub materiały przydatne dla atakujących.

Oznacza to, że sam regulator stałby się celem o wysokiej wartości. Jego systemy wymagałyby ścisłego podziału dostępu, weryfikacji personelu, raportowania incydentów i ochrony przed politycznym nadużyciem.

Decyzje departamentu wpływałyby na coś więcej niż badania laboratoryjne. Nabywcy korporacyjni mogliby napotkać opóźnienia w dostępie do nowych modeli, twórcy mogliby spotkać się z nowymi ograniczeniami dotyczącymi interfejsów programowania aplikacji, a dostawcy chmury mogliby otrzymać obowiązki monitorowania.

Pracownicy umysłowi mogliby obserwować mniej szybkich premier produktów, ale otrzymywać bardziej ustandaryzowane informacje o ograniczeniach modeli. Firmy mogłyby zyskać jaśniejszą podstawę do oceny systemów wykorzystywanych w wrażliwych procesach.

Kompromis jest prosty. Federalne zatwierdzanie może stworzyć niezależną kontrolę, której brakuje dobrowolnym politykom firm. Może też uczynić niewielką grupę urzędników odpowiedzialną za ocenę technologii, której możliwości pozostają trudne do zmierzenia.

Największą słabością ustawy jest egzekwowanie niezdefiniowanego progu

Trwały zakaz działa tylko wtedy, gdy regulatorzy potrafią zidentyfikować superinteligencję przed wdrożeniem i odróżnić ją od zaawansowanych systemów, które pozostają legalne.

Ustawa Berniego Sandersa dotycząca AI definiuje zakazaną kategorię poprzez ludzkie zdolności poznawcze i potencjał katastrofalny. Te idee przekazują cel sponsorów, ale trudno przekształcić je w powtarzalne testy.

Ludzkie zdolności nie są jedną liczbą. Ludzie różnią się pod względem matematyki, rozumowania naukowego, pamięci, komunikacji, planowania i interakcji fizycznej.

System AI mógłby przewyższać niemal każdego człowieka w niektórych zadaniach, a jednocześnie zawodzić w podstawowej ocenie sytuacji w nieznanych warunkach. Mógłby także łączyć zwyczajne komponenty w wysoce zdolnego agenta, nie sprawiając, by pojedynczy model wyglądał na superinteligentny.

Katastrofalna część definicji stwarza powiązany problem. Regulatorzy musieliby ocenić, czy system ma wystarczające możliwości, by zaplanować i przeprowadzić zniszczenie lub ubezwłasnowolnienie ludzkości.

Ocena ta zależy od dostępu. Model odizolowany w laboratorium stwarza inne ryzyko niż ten sam model połączony z rachunkami finansowymi, sprzętem laboratoryjnym, narzędziami komunikacyjnymi i stałym dostępem do komputerów.

Zamiar również trudno ocenić. Obecne modele mogą generować zwodnicze stwierdzenia podczas testów, nie utrzymując stabilnych celów ani niezależnych motywów. Traktowanie każdego takiego wyniku jako dowodu autonomicznego zagrożenia wyolbrzymiałoby obecne możliwości.

Traktowanie tego zachowania jako nieistotnego byłoby równie nieostrożne. Oszustwo, świadomość sytuacyjna i opór wobec nadzoru stają się bardziej niepokojące w połączeniu z użyciem narzędzi i możliwościami działania.

Skuteczny system oceny potrzebowałby zatem wielu warstw. Ewaluatorzy analizowaliby surowe możliwości modelu, projekt agenta, zewnętrzne uprawnienia, cyberbezpieczeństwo, monitorowanie oraz konsekwencje skutecznego przełamania zabezpieczeń.

Sankcje karne zawarte w ustawie zwiększają potrzebę precyzji. Twórcy muszą wiedzieć, jakie działania są zakazane, zanim rozpoczną eksperyment. Niejasne standardy połączone z surową karą mogą hamować uzasadnione badania i prowokować wyzwania prawne.

Wyrażenie „korporacyjna kara śmierci” również wymaga ostrożnego traktowania. Sponsorzy używają go do opisania konsekwencji dla podmiotów, które naruszają zakazy lub obchodzą je. Jego dokładny mechanizm prawny miałby ogromne znaczenie dla firm, inwestorów, pracowników i sądów.

Projekt napotyka niepewność polityczną, zanim te spory techniczne staną się operacyjne. Obecnie nie ma szerokiego poparcia, a perspektywy w Kongresie są trudne w legislaturze kontrolowanej przez Republikanów.

Nawet niektóre organizacje dążące do silniejszej kontroli AI preferują węższe podejście. Dyrektor generalny Alliance for Secure AI, Brendan Steinhauser, docenił ustawodawców za zmierzenie się z ryzykiem superinteligencji, ale wezwał do bardziej wyważonej polityki.

Inni krytycy twierdzą, że język dotyczący ryzyka egzystencjalnego może odwracać uwagę od udokumentowanych szkód. Należą do nich oszustwa, nadzór, dyskryminacja, wypieranie miejsc pracy, niewiarygodne zautomatyzowane decyzje oraz obciążenie środowiska powodowane przez centra danych.

Ta krytyka nie obala ryzyka przyszłych katastrof. Kwestionuje, czy spekulacyjny próg powinien dominować w polityce, gdy obecne systemy już wpływają na pracowników, konsumentów i instytucje publiczne.

Ustawa może również wzmocnić preferowane przez branżę AI ramy narracyjne. Opisywanie modeli jako niemal nadludzkich może podnosić postrzeganą wartość i autorytet produktów, które nadal są podatne na błędy.

Najsilniejsza wersja propozycji uwzględniałaby oba horyzonty czasowe. Tworzyłaby egzekwowalne zasady dotyczące obecnych szkód, jednocześnie budując mierzalny system wykrywania możliwości uzasadniających silniejsze kontrole.

Bez jasnych testów, przejrzystych odwołań i międzynarodowej weryfikacji zakaz może stać się albo zbyt szeroki, albo symboliczny. Jego ambicję łatwiej zrozumieć niż wdrożyć.

Trzy sygnały pokażą, czy propozycja zmienia politykę AI

Wpływ ustawy będzie mierzony wzrostem koalicji, precyzją techniczną i zaangażowaniem międzynarodowym, a nie samym nagłówkiem.

Pierwszym sygnałem jest to, czy jacykolwiek republikańscy ustawodawcy poprą federalny przegląd systemów granicznych. Sanders i Casar mogą przedstawić tę kwestię, ale nie mogą utworzyć nowego departamentu bez znacznie szerszej koalicji.

Obawy dotyczące AI już doprowadziły do nietypowych politycznych sojuszy. Zwolennicy bezpieczeństwa, progresywiści skupieni na pracy, konserwatyści zajmujący się bezpieczeństwem narodowym oraz niektórzy menedżerowie technologiczni zgadzają się, że obecny nadzór jest niewystarczający.

Ich zgoda słabnie, gdy polityka staje się konkretna. Niektórzy popierają zasady odpowiedzialności, inni chcą tymczasowych przerw, a jeszcze inni wspierają testy bezpieczeństwa narodowego bez ograniczeń dla rozwoju komercyjnego.

Trump zajął zdecydowanie odmienne stanowisko. Nazwał obawy dotyczące katastrofalnej AI mistyfikacją i pytał, dlaczego menedżerowie mieliby domagać się zasad, które mogłyby osłabić ich własne firmy. Jego sprzeciw wobec zabezpieczeń sprawia, że poparcie administracji jest mało prawdopodobne.

Gdyby republikańscy ustawodawcy poparli obowiązkowe ewaluacje lub węższy system zatwierdzania, wzmocniłoby to główne twierdzenie ustawy, że dobrowolny nadzór już nie wystarcza. Dalsza izolacja partyjna osłabiłaby jej krótkoterminowe perspektywy.

Drugim sygnałem jest pojawienie się definicji operacyjnych. Ustawodawcy i regulatorzy muszą określić, które systemy podlegają wstrzymaniu, jakie dowody uruchamiają interwencję oraz jak firmy mogą zakwestionować decyzję.

Warto obserwować mierzalne progi dotyczące zasobów obliczeniowych, ewaluacji niebezpiecznych możliwości, autonomicznego zachowania lub dostępu do zewnętrznych narzędzi. Żaden pojedynczy próg nie będzie wystarczający, lecz uporządkowane połączenie mogłoby uczynić egzekwowanie bardziej wiarygodnym.

Znaczenie będzie miało także traktowanie wyjątków badawczych. Cyberbezpieczeństwo defensywne, testowanie bezpieczeństwa, badania nad interpretowalnością oraz kontrolowane prace naukowe mogą wymagać dostępu do możliwości przypominających zakazane funkcje.

Jeśli zasady pozostaną szerokie i subiektywne, sprzeciw twórców i badaczy będzie narastał. Jeśli staną się wąskie i testowalne, propozycja może wpłynąć na mniej daleko idące ustawodawstwo, nawet bez uchwalenia w pierwotnej formie.

Trzecim sygnałem jest to, czy Stany Zjednoczone i Chiny będą rozmawiać o weryfikowalnych ograniczeniach AI. Sanders wezwał Trumpa, by wykorzystał rozmowy z chińskim prezydentem Xi Jinpingiem do omówienia superinteligencji i minimalnych standardów bezpieczeństwa.

Międzynarodowe porozumienie wymagałoby czegoś więcej niż wspólnego języka dotyczącego odpowiedzialnej AI. Potrzebne byłyby mechanizmy kontroli, zasady raportowania, konsekwencje za ukryty rozwój oraz zabezpieczenia dla legalnych badań.

Postęp w kierunku kontroli lub wspólnych ocen wzmocniłby globalną logikę ustawy. Dalszy wyścig bez weryfikacji ujawniłby słabość każdego zakazu ograniczonego wyłącznie do Stanów Zjednoczonych.

Najbliższe jeden do trzech miesięcy pokażą zatem, czy ustawa Berniego Sandersa dotycząca AI stanie się trwałymi ramami polityki, czy pozostanie politycznym sygnałem.

Jej natychmiastowe uchwalenie nie jest jedynym istotnym rezultatem. Propozycja może kształtować debatę, zmuszając ustawodawców do odpowiedzi na pytania, które dobrowolne zobowiązania pozwalały im odkładać.

Kto definiuje niedopuszczalną zdolność? Kto weryfikuje deklaracje laboratorium dotyczące bezpieczeństwa? Co dzieje się, gdy firma odmawia zaprzestania działań? Czy Stany Zjednoczone mogą ograniczyć rozwój, nie rezygnując z przewagi strategicznej?

Dla deweloperów, nabywców korporacyjnych i pracowników wiedzy pytania te stają się kwestiami operacyjnymi. Nowe zasady mogą zmienić dostępność modeli, przeglądy wdrożeń, dostęp do chmury oraz dowody, które firmy muszą przedstawić, zanim klienci zaufają zaawansowanym systemom.

Użyteczną reakcją nie jest ani panika, ani lekceważenie. Warto śledzić, czy Kongres tworzy mierzalne definicje, czy regulatorzy zyskują rzeczywiste kompetencje techniczne oraz czy rozmowy międzynarodowe zmierzają w stronę weryfikacji.

Zakaz sztucznej superinteligencji nadal jest propozycją, a nie prawem federalnym. Wyznacza jednak najwyraźniejszą granicę zaproponowaną przez prominentnego amerykańskiego ustawodawcę: niektóre systemy nigdy nie powinny powstać, a firmy nie powinny samodzielnie wyznaczać tej granicy. Kolejne pytanie brzmi, czy Kongres zdoła przekształcić tę zasadę w reguły wystarczająco precyzyjne, by można było je egzekwować.