Zabezpieczenia AI Josha Shapiro podważają strategię Waszyngtonu stawiającą wyścig na pierwszym miejscu
Josh Shapiro wezwał 17 września do wprowadzenia surowych federalnych zabezpieczeń dla AI, podważając preferencję Waszyngtonu dla szybszego rozwoju przy mniejszej liczbie barier regulacyjnych. Gubernator Pensylwanii chce niezależnego nadzoru, większej przejrzystości oraz wymogów bezpieczeństwa wobec firm tworzących zaawansowane systemy sztucznej inteligencji, zgodnie z relacją Bloomberga z jego wypowiedzi.
Propozycja zabezpieczeń AI Josha Shapiro to coś więcej niż kolejne ostrzeżenie przed hipotetycznymi ryzykami technologicznymi. Łączy nadzór nad modelami z bieżącymi sporami dotyczącymi dzieci, podszywania się pod specjalistów, kosztów energii elektrycznej, zużycia wody oraz lokalnej kontroli nad centrami danych.
Stanowisko to stawia Shapiro w opozycji do nacisku administracji Trumpa na szybki rozwój i mniej barier regulacyjnych. Shapiro twierdzi, że takie ujęcie przedstawia fałszywy wybór. Jak mówi, Stany Zjednoczone mogą czerpać gospodarcze korzyści z AI, nie prosząc społeczeństwa o akceptację każdego ryzyka.
Relacja Bloomberga określa, czego Shapiro domagał się podczas wydarzenia w Pittsburghu; oficjalne dokumenty Pensylwanii przedstawiają działania, które jego administracja już wdrożyła. To odrębne kategorie. Wnioskowane przez niego federalne zabezpieczenia pozostają propozycjami, podczas gdy rozporządzenie wykonawcze Pensylwanii, inicjatywy agencji, pozew i oczekujące przepisy mają odmienne statusy prawne i ograniczenia.
Zabezpieczenia AI Josha Shapiro przenoszą debatę do Kongresu
Shapiro zwraca się do Kongresu o stworzenie egzekwowalnych obowiązków dla firm AI, a nie jedynie o opublikowanie kolejnych dobrowolnych ram działania.
Podczas AI Horizons 2026 Summit w Pittsburghu Shapiro wezwał Kongres i rząd federalny do ustanowienia surowych zabezpieczeń dla sztucznej inteligencji. Jego kluczowe postulaty obejmowały niezależny nadzór stron trzecich, większą przejrzystość oraz wymóg, by firmy umieściły bezpieczeństwo bliżej centrum procesu rozwoju, zgodnie z opublikowanym przez jego administrację oficjalnym zapisem przygotowanych wystąpień.
Niezależny nadzór oznacza ocenę przeprowadzoną przez organizację, która nie tworzy ani nie sprzedaje badanego systemu. Może obejmować testy, przeglądy dokumentacji, oceny bezpieczeństwa oraz weryfikację deklaracji firmy dotyczących ryzyka.
W ujęciu technicznym taka ocena mogłaby sprawdzać, czy twórca zidentyfikował przewidywalne szkody, mierzył wydajność w realistycznych warunkach, udokumentował ograniczenia, monitorował incydenty oraz przypisał odpowiedzialność za działania naprawcze. Funkcje te zasadniczo odpowiadają działaniom zarządzania, mapowania, mierzenia i reagowania opisanym w Ramy Zarządzania Ryzykiem AI National Institute of Standards and Technology, choć Shapiro nie sprecyzował publicznie, że Kongres powinien przyjąć ramy NIST jako standard prawny.
To rozróżnienie jest istotne, ponieważ znaczna część informacji o zaawansowanych modelach nadal pochodzi od ich twórców. Firmy decydują, które testy porównawcze publikować, jak definiować poważne ryzyka i jak wiele szczegółów ujawniać na temat wewnętrznych testów.
Wymóg udziału strony trzeciej nie rozstrzygnąłby automatycznie tych kwestii. Ograniczyłby jednak zakres, w jakim twórcy sami oceniają swoją pracę i wybierają dowody przedstawiane decydentom.
Praktyczna różnica byłaby widoczna podczas zamówień. Szpital rozważający asystenta AI może obecnie otrzymać zbiorczy wynik dokładności i przygotowane przez dostawcę oświadczenie dotyczące bezpieczeństwa. Kwalifikowany zewnętrzny przegląd mógłby natomiast testować zapytania medyczne, wskazywać grupy lub sytuacje, w których wydajność się pogarsza, dokumentować, czy system fabrykuje cytowania, oraz weryfikować, czy niepewne odpowiedzi są przekazywane lekarzowi.
W przygotowanych wystąpieniach Shapiro opisał siebie jako optymistę w kwestii możliwości oferowanych przez AI, jednocześnie argumentując, że pojawiające się szkody wymagają silniejszej reakcji rządu. Odrzucił także określenie AI „doomer”, powszechnie stosowane wobec osób oczekujących, że zaawansowane systemy spowodują katastrofalne szkody.
Jego deklarowane stanowisko jest węższe i istotniejsze politycznie. AI nie musi stwarzać nieuniknionego ryzyka wyginięcia, aby rząd mógł wymagać testowania, ujawniania informacji i rozliczalności.
Podejście to rozszerza argumenty za zabezpieczeniami poza jeden dramatyczny scenariusz. Model może powodować istotne szkody poprzez wprowadzające w błąd porady, dyskryminujące decyzje, naruszenia prywatności, słabości bezpieczeństwa lub niewiarygodne wyniki, nie stając się autonomicznym globalnym zagrożeniem.
Wystąpienie zmieniło także rozkład ciężaru dowodu. Polityka oparta wyłącznie na promocji zakłada, że ograniczenia wymagają nadzwyczajnego uzasadnienia. Podejście Shapiro nakłada na twórców obowiązek wykazania, że systemy o dużym wpływie zostały poddane znaczącej kontroli, zanim społeczeństwo poniesie związane z nimi ryzyko.
Jego propozycja pozostaje postulatem politycznym, a nie uchwalonym prawem federalnym. Kongres nadal musiałby określić, które systemy wymagają przeglądu, kto kwalifikuje się jako niezależny ewaluator, do jakich dowodów ewaluatorzy mogą uzyskać dostęp oraz które ustalenia muszą zostać upublicznione.
Te nierozstrzygnięte szczegóły są istotne. Interwencja Shapiro ustanawia jednak jasny test dla federalnych ustawodawców: czy krajowa polityka AI nałoży mierzalne obowiązki, czy nadal będzie polegać głównie na obietnicach firm.
Dlaczego gubernator Pensylwanii naciska teraz na Waszyngton
Pensylwania doświadcza AI jako kwestii fizycznej, konsumenckiej i administracyjnej, przez co coraz trudniej bronić abstrakcyjnych zapewnień.
Stan obserwuje tę technologię za pośrednictwem kilku odrębnych kanałów. Chatboty AI mogą wchodzić w interakcje z dziećmi i udzielać odpowiedzi związanych ze zdrowiem. Pracownicy stanowi używają narzędzi generatywnych w administracji publicznej. Twórcy chcą także budować energochłonną infrastrukturę konieczną do trenowania i obsługi większych modeli.
Te kwestie nie mieszczą się łatwo w ramach jednej polityki technologicznej. Dotykają licencjonowania zawodowego, ochrony konsumentów, edukacji, regulacji energii elektrycznej, pozwoleń środowiskowych, rynku pracy i uprawnień władz lokalnych.
Administracja Shapiro zaczęła zaostrzać swoje podejście przed wystąpieniem w Pittsburghu. W lutym ogłosiła zestaw narzędzi do edukacji w zakresie AI oraz skoordynowane działania nadzorcze z udziałem pensylwańskich agencji ds. edukacji, zdrowia, usług społecznych, administracji stanowej, starzenia się i finansów.
Oficjalna inicjatywa administracji dotycząca bezpieczeństwa AI obejmowała zasoby dla rodziców, uczniów, nauczycieli, opiekunów i konsumentów. Kierowała także mieszkańców do procedury składania skarg dotyczących botów towarzyszących AI, które zdają się oferować licencjonowane usługi profesjonalne.
Dla rodziny to rozróżnienie może pojawić się podczas zwykłej rozmowy, a nie oczywistej konsultacji medycznej. Nastolatek może zapytać bota towarzyszącego o depresję, zaburzenia odżywiania lub leki i otrzymać pewną odpowiedź napisaną głosem terapeuty albo lekarza. Rodzic może nie zobaczyć żadnego ostrzeżenia, że odpowiedź została wygenerowana bez udziału licencjonowanego specjalisty, który przeanalizowałby sytuację dziecka.
Inicjatywa przedstawiała edukację jako konieczną, lecz niewystarczającą. Uczenie użytkowników rozpoznawania niewiarygodnego systemu może ograniczyć narażenie na szkody. Nie usuwa jednak odpowiedzialności twórcy, gdy produkt fałszywie przedstawia się jako lekarz lub inny regulowany specjalista.
Pensylwania później pozwała Character.AI, zarzucając, że chatboty bezprawnie przedstawiały się jako licencjonowani specjaliści medyczni i udzielały porad medycznych. W formalnym pozwie, Commonwealth of Pennsylvania, Department of State, State Board of Medicine v. Character Technologies, Inc., stan wniósł o wstępny nakaz sądowy i zarzucił nieuprawnione wykonywanie zawodu lekarza. Zarzuty przedstawione w pozwie złożonym przez Commonwealth pozostają przedmiotem postępowania sądowego. Odpowiedzialność Character Technologies nie została ustalona, a pozew przedstawia zarzuty Commonwealth, a nie ustalenia sądu.
Sprawa ilustruje jednak, dlaczego Shapiro podkreśla obecnie rozliczalność, a nie wyłącznie edukację użytkowników. Stawia pytanie, czy istniejące zasady licencjonowania zawodowego mogą objąć usługę AI, gdy pozornym „mówcą” jest wygenerowana postać, a nie ludzki praktyk.
Gubernator napotkał także opór wokół rozwoju centrów danych. Obiekty te przekładają debatę o AI na pytania, które mieszkańcy widzą na rachunkach za media, w zawiadomieniach o zagospodarowaniu przestrzennym i we wnioskach o pozwolenia środowiskowe.
W sierpniu Shapiro podpisał rozporządzenie wykonawcze 2026-05. Powiązało ono wsparcie stanowe dla nowych centrów danych z wymogami dotyczącymi energii, środowiska, zatrudnienia, przejrzystości i społeczności lokalnych.
Zgodnie z oficjalnym opisem rozporządzenia wykonawczego 2026-05, Pensylwania usunęła propozycje centrów danych AI z przyspieszonego programu wydawania pozwoleń, zakazała umów o zachowaniu poufności w tych projektach oraz wymagała lokalnej zgody przed wydaniem kwalifikujących się pozwoleń. Rozporządzenie wymaga również, aby twórcy zawierali egzekwowalne umowy o zgodzie uwzględniające wymogi GRID stanu.
Twórcy poszukujący współpracy ze stanem muszą podjąć wiążące zobowiązania w ramach wymogów Governor’s Responsible Infrastructure Development, znanych jako GRID. Zobowiązania te obejmują ponoszenie kosztów infrastruktury związanych z ich projektami, zamiast przerzucania ich na innych odbiorców energii elektrycznej.
Operatorzy muszą również raportować informacje o zużyciu energii i wody. Stan twierdzi, że będzie utrzymywał publiczną mapę propozycji, które podjęły współpracę z organami ochrony środowiska.
Dla mieszkańców wymogi te decydują o tym, czy mogą dowiedzieć się o planowanym obiekcie, zanim kluczowe decyzje zostaną faktycznie przesądzone. Gospodarstwo domowe w pobliżu mogłoby w przeciwnym razie zetknąć się z projektem dopiero po otrzymaniu zawiadomienia o zagospodarowaniu przestrzennym lub usłyszeniu prognoz wyższego zapotrzebowania na energię elektryczną. Publiczna mapa projektów, ujawnione szacunki zużycia zasobów i lokalny proces zatwierdzania dostarczają mieszkańcom informacji, z których mogą korzystać podczas przesłuchań, choć narzędzia te nie gwarantują uwzględnienia każdego sprzeciwu.
Środki te nie stanowią zakazu rozwoju AI. Ustanawiają warunki dla projektów nakładających rozpoznawalne koszty na społeczności goszczące. Pozostają również zależne od wdrożenia przez agencje stanowe oraz od wszelkich przyszłych wyzwań prawnych dotyczących zakresu władzy wykonawczej.
Ten dorobek wyjaśnia moment federalnego żądania Shapiro. Pensylwania już próbuje zarządzać konsekwencjami, które Kongres często omawia jako przyszłe możliwości. Agencje stanowe mierzą się ze skargami dotyczącymi chatbotów, propozycjami infrastrukturalnymi, obawami o podszywanie się pod specjalistów oraz decyzjami dotyczącymi wykorzystania AI wewnątrz administracji.
Bezpośrednia presja spoczywa na federalnych ustawodawcach i największych twórcach AI. Kongres musi zdecydować, czy stany powinny pozostać głównym poligonem doświadczalnym dla zabezpieczeń. Twórcy muszą zdecydować, czy poprzeć spójny nadzór, czy nadal sprzeciwiać się zasadom ograniczającym wdrażanie.
Centralnym sporem jest odpowiedzialność za bezpieczeństwo kontra tempo wdrażania
Główny konflikt nie dotyczy innowacji kontra zakazy. Dotyczy odpowiedzialnego rozwoju kontra polityki, która traktuje tarcia regulacyjne jako strategiczną słabość.
Administracja Trumpa opisała przywództwo w dziedzinie AI jako międzynarodowy wyścig. Jej polityka stawia na szybki rozwój sektora prywatnego, szersze wdrażanie, budowę infrastruktury oraz usuwanie zasad uznawanych za niepotrzebne przeszkody.
Argument ten ma znaczenie gospodarcze i dla bezpieczeństwa narodowego. Rozproszony zbiór wymogów stanowych może zwiększać koszty zgodności, zwłaszcza dla mniejszych firm. Przepisy tworzone z myślą o obecnej technologii mogą również szybko się zestarzeć wraz ze zmianami architektury modeli i sposobów ich wykorzystania.
Administracja w swoich krajowych ramach legislacyjnych dotyczących AI wzywa do spójnej polityki federalnej i argumentuje, że sprzeczne przepisy stanowe mogą osłabić amerykańską konkurencyjność. Ten sam dokument zwraca się również do Kongresu o zajęcie się bezpieczeństwem dzieci, oszustwami wspieranymi przez AI, bezpieczeństwem narodowym oraz wpływem centrów danych na rachunki mieszkańców za energię.
Biały Dom dążył do uzyskania uprawnień do kwestionowania przepisów stanowych, które uznaje za nadmierne. Jego deklarowane stanowisko jest takie, że rozwój AI ma skutki międzystanowe i dla polityki zagranicznej, którymi poszczególne stany nie są w stanie skutecznie zarządzać.
Shapiro zgadza się, że działanie federalne jest konieczne, lecz kwestionuje cel, jaki powinno osiągnąć. Jego zdaniem standard krajowy powinien tworzyć minimalny poziom bezpieczeństwa, a nie służyć przede wszystkim jako pułap ograniczający uprawnienia stanów.
Ta różnica jest centralnym kompromisem omawianym w artykule. Jednolitość może uprościć zgodność z przepisami, lecz słaby jednolity standard może także uniemożliwić stanom reagowanie na szkody, których Kongres nie uregulował.
Spór staje się ostrzejszy, gdy polityka federalna oddziela regulację produktów od obszarów tradycyjnie kontrolowanych przez stany. Ramy Białego Domu zachowują stanowe egzekwowanie powszechnie obowiązujących przepisów chroniących dzieci i uznają uprawnienia władz stanowych oraz lokalnych w zakresie zagospodarowania przestrzennego i lokalizacji centrów danych, jednocześnie argumentując przeciwko sprzecznej stanowej regulacji rozwoju AI.
Kategorie te mogą nakładać się na siebie w praktyce. Rozważmy chatbota udzielającego niebezpiecznych porad zdrowotnych. Pensylwania może egzekwować przepisy dotyczące licencjonowania zawodowego i ochrony konsumentów. Ograniczenie ryzyka u źródła mogłoby jednak wymagać zasad regulujących ocenę modeli, testowanie przed wdrożeniem, ujawnianie informacji lub kontrole dostępu.
Ramy federalne skupione głównie na wyłączeniu regulacji stanowych mogłyby pozostawić stanom odpowiedzialność za konsekwencje, jednocześnie ograniczając ich zdolność do regulowania decyzji technicznych i biznesowych, które te konsekwencje powodują.
Żądanie Shapiro dotyczące niezależnego nadzoru jest wymierzone w tę lukę. Przeniosłoby odpowiedzialność na wcześniejszy etap łańcucha rozwoju — zanim stanowy śledczy otrzyma skargi lub rodzina będzie musiała udowodnić szkodę.
Ta sama logika dotyczy przejrzystości. Regulator nie może ocenić, czy zabezpieczenie działa, nie wiedząc, jak firma je testowała, jakie ograniczenia się pojawiły i które warunki wdrożenia uległy zmianie.
Przejrzystość nie jest jednak pojedynczym przełącznikiem. Publiczne ujawnienie każdego szczegółu technicznego mogłoby odsłonić słabości bezpieczeństwa, tajemnice handlowe lub informacje pomagające złośliwym podmiotom. Skuteczne ustawodawstwo wymagałoby odrębnych kanałów dla regulatorów, wykwalifikowanych audytorów, badaczy, klientów korporacyjnych i ogółu społeczeństwa.
Niezależny nadzór wiąże się z podobnymi problemami projektowymi. Audytor opłacany przez ocenianą firmę może podlegać bodźcom osłabiającym niezależność. Niewielka grupa zatwierdzonych ewaluatorów mogłaby również stać się wąskim gardłem albo tworzyć ujednolicone przeglądy, które pomijają nietypowe zagrożenia.
Wiarygodny system wymagałby zatem zasad dotyczących konfliktu interesów, minimalnych kompetencji testowych, chronionego dostępu do niepublicznych dowodów oraz mechanizmu umożliwiającego regulatorom weryfikację pracy ewaluatora. Wymogi rotacji lub losowego przydziału mogłyby zmniejszyć zależność od jednego klienta, choć każda z tych opcji zwiększałaby koszty i złożoność administracyjną.
Wyzwania te nie podważają podejścia Shapiro. Pokazują, dlaczego Kongres musi zdefiniować mechanizm, zamiast uchwalać prawo oparte na szerokich pojęciach, takich jak bezpieczeństwo i odpowiedzialność.
Prawdziwą miarą zabezpieczeń AI Josh Shapiro będzie to, czy tworzą one wiarygodne dowody przed wdrożeniem. Jeśli polityka będzie generować jedynie raporty zgodności, zwiększy biurokrację bez zmiany bodźców.
Działania Stanowe Pokazują Zarówno Obietnice, Jak i Ograniczenia Zabezpieczeń AI
Pensylwania może reagować na lokalne szkody, lecz nie jest w stanie samodzielnie stworzyć kompletnego systemu nadzoru nad krajowym rynkiem technologii.
Niedawne działania stanu pokazują, co może osiągnąć ukierunkowana regulacja. Przepisy dotyczące licencjonowania zawodowego mogą dotyczyć systemów przedstawiających się jako lekarze. Agencje ochrony konsumentów mogą badać przypadki wprowadzania w błąd. Organy oświatowe mogą tworzyć wytyczne dla uczniów i nauczycieli.
Władze lokalne i stanowe mają także bezpośrednie uprawnienia w zakresie użytkowania gruntów, zezwoleń, warunków środowiskowych i wsparcia infrastrukturalnego. Daje to Pensylwanii realny wpływ na centra danych, nawet gdy jej oddziaływanie na rozwój modeli w innych miejscach jest ograniczone.
Sierpniowe zarządzenie wykorzystuje ten wpływ ostrożnie. Nie twierdzi, że każde centrum danych jest niebezpieczne. Rozróżnia projekty gotowe zaakceptować egzekwowalne wymogi społeczności od spekulacyjnych propozycji, które szukają publicznego wsparcia bez porównywalnych zobowiązań.
Wśród zwolenników są przedstawiciele pracowników i społeczności, którzy widzą drogę pośrednią między nieograniczoną budową a powszechnym moratorium. Według komunikatu stanowego Pennsylvania State Building and Construction Trades Council poparła zasady GRID jako sposób na utrzymanie rozwoju przy jednoczesnym uwzględnieniu kwestii energetycznych, środowiskowych i społecznych.
Ta koalicja ma znaczenie, ponieważ debaty o infrastrukturze AI często dzielą interesy gospodarcze i środowiskowe. Branża budowlana chce zatrudnienia, samorządy chcą inwestycji, a mieszkańcy chcą ochrony przed wyższymi kosztami lub uszczupleniem zasobów.
Podejście oparte na wymogach daje każdej grupie coś konkretnego do oceny. Deweloperzy mogą kontynuować działania, jeśli zaakceptują określone warunki. Społeczności otrzymują informacje i formalną rolę. Pracownicy mogą zabiegać o zobowiązania dotyczące lokalnego zatrudnienia.
Działania wykonawcze mają jednak ograniczenia. Przyszła administracja może zmienić zarządzenie wykonawcze. Agencje mogą napotkać wyzwania prawne dotyczące zakresu warunków pozwoleń. Przepisy stanowe nie mogą też zmusić dewelopera mającego siedzibę gdzie indziej do ujawnienia każdego istotnego faktu dotyczącego jego modeli.
Ustawodawstwo zapewnia większą trwałość, lecz doświadczenia Pensylwanii pokazują, jak wolno mogą postępować nawet ukierunkowane propozycje. Senate Bill 1090, dotyczący ujawnień i zabezpieczeń związanych z interakcjami AI z dziećmi, został przyjęty przez Senat stanowy stosunkiem głosów 49 do 1 17 marca 2026 r.
Następnie projekt trafił do House Communications and Technology Committee. Jego oficjalna historia legislacyjna dokumentuje głosowanie i późniejsze skierowanie. Na dzień 19 września 2026 r. projekt nie zakończył procesu w Izbie i nie został uchwalony jako prawo.
To jeden z powodów, dla których brak działań federalnych nie tworzy rynku wolnego od regulacji. Tworzy mozaikę złożoną z zarządzeń wykonawczych, dawnych przepisów konsumenckich, pozwów, wytycznych agencji oraz ukierunkowanych projektów ustaw stanowych.
Firmy nadal mierzą się z niepewnością, lecz zasady wyłaniają się po konfliktach i działaniach egzekucyjnych, zamiast wynikać ze spójnego systemu krajowego.
Deweloperzy działają także w sektorach o różnych standardach. Chatbot ogólnego przeznaczenia może być wykorzystywany do rozrywki, edukacji, zatrudnienia, pytań zdrowotnych lub decyzji finansowych. Ryzyko zmienia się wraz z kontekstem, nawet jeśli model bazowy pozostaje ten sam.
Funkcjonalne prawo federalne musi zatem odróżniać możliwości od zastosowania. Nadzór powinien stać się bardziej rygorystyczny, gdy system może istotnie wpływać na zdrowie, bezpieczeństwo, zatrudnienie, kredyt, świadczenia publiczne lub infrastrukturę krytyczną.
Zasada ta ma również zastosowanie wewnątrz organizacji. Zespoły wdrażające AI potrzebują rejestrów materiałów źródłowych, ograniczeń modeli, decyzji kontrolnych i zmian w zautomatyzowanych procesach pracy. Przeszukiwalna baza wiedzy inżynierskiej może wspierać tę pracę, lecz dokumentacja nie zastąpi zewnętrznej odpowiedzialności.
W praktyce zespół ds. zakupów może zobaczyć wskaźnik dokładności dostawcy, lecz nie otrzymać zestawienia pokazującego, że skuteczność pogarsza się w pytaniach medycznych lub wśród konkretnych grup użytkowników. Zespół obsługi klienta może też nie zauważyć, że aktualizacja modelu osłabiła zasady eskalacji, dopóki użytkownicy nie zaczną zgłaszać szkodliwych odpowiedzi. Niezależna ocena może ujawnić takie luki, zanim staną się rutynowymi awariami.
Ten sam problem może pojawić się po wdrożeniu. Pracownicy mogą dowiedzieć się, że system został zaktualizowany, lecz nie otrzymać użytecznego wyjaśnienia, co się zmieniło. Jeśli wcześniejsza wersja niezawodnie przekazywała wiadomości dotyczące samookaleczeń do ludzkiego recenzenta, a późniejsza wersja tego nie robi, numer wersji i ogólna notatka o wydaniu nie dostarczą zespołowi wsparcia wystarczających informacji do zarządzania nowym ryzykiem.
Firmy mogą prowadzić doskonałą dokumentację wewnętrzną, jednocześnie decydując się nie ujawniać poważnych słabości. Z kolei wymóg ujawniania informacji może wygenerować tysiące stron oferujących niewiele użytecznych danych.
Najsilniejsza wersja propozycji Shapiro połączyłaby dokumentację z działaniem. Ewaluator powinien móc wskazać problem, wymagać lub zalecać jego usunięcie w ramach określonego procesu prawnego oraz zweryfikować, czy zmiana zadziałała. Regulatorzy potrzebowaliby również uprawnień do interwencji, gdy deweloper odrzuci istotne ustalenie.
Bez takiego łańcucha egzekwowania „niezależny nadzór” może stać się kolejną etykietą zaufania dołączaną do systemów, których zwykli użytkownicy nie mogą w istotny sposób kontrolować.
Ostrzejszy Nadzór Nadal Pozostawia Trudne Pytania Bez Odpowiedzi
Shapiro wskazał lukę w zakresie odpowiedzialności, lecz jego publiczna propozycja nie odpowiada jeszcze na pytanie, kto audytuje, co jest testowane ani co dzieje się po porażce.
Pierwsza niepewność dotyczy zakresu. Kongres mógłby objąć nadzorem każdy produkt AI, tylko największe modele ogólnego przeznaczenia albo konkretne zastosowania o dużym wpływie.
Zbyt szeroka reguła wciągnęłaby proste oprogramowanie biznesowe w kosztowny proces zaprojektowany dla systemów granicznych. Zbyt wąska reguła pozwoliłaby firmom reorganizować produkty lub pozostawać poniżej technicznego progu, mimo że nadal wpływają na miliony użytkowników.
Ustawodawcy potrzebują także trwałego sposobu definiowania objętych systemów. Stałe progi obliczeniowe są mierzalne, lecz poprawa wydajności może sprawić, że staną się nieaktualne. Liczba użytkowników pokazuje zasięg, lecz nie wagę skutków. Testy zdolności mogą lepiej uchwycić ryzyko, chociaż deweloperzy mogą optymalizować modele pod znane oceny.
Druga niepewność dotyczy niezależności ewaluatorów. Kongres musiałby określić zasady konfliktu interesów, standardy akredytacji, wymogi dostępu oraz procedury postępowania z informacjami poufnymi.
Audytorzy muszą mieć wystarczający dostęp techniczny, by testować istotne twierdzenia. Dopracowana demonstracja lub ograniczony interfejs nie mogą ujawnić, jak system zachowuje się pod presją działań antagonistycznych, po dostrojeniu lub po połączeniu z narzędziami zewnętrznymi.
Na przykład asystent biurowy, który w oknie czatu wydaje się nieszkodliwy, może zachowywać się inaczej, gdy może otwierać e-maile, pobierać pliki lub inicjować transakcje. Realistyczna ocena testowałaby kompletny wdrożony proces pracy, w tym to, czy złośliwe instrukcje osadzone w dokumencie mogą przekierować system lub ujawnić informacje innego użytkownika.
Nieograniczony dostęp ewaluatora rodzi jednak rzeczywiste obawy dotyczące bezpieczeństwa i własności intelektualnej. Prawo musi ustanowić bezpieczne środowiska testowe oraz kary za niewłaściwe obchodzenie się z wrażliwymi informacjami.
Trzecie pytanie dotyczy ujawniania informacji. Shapiro chce większej przejrzystości, lecz różni odbiorcy potrzebują różnych materiałów.
Konsumenci potrzebują jasnej informacji, kiedy wchodzą w interakcję z AI oraz kiedy jej porady nie są objęte licencją zawodową. Nabywcy korporacyjni potrzebują dowodów dotyczących niezawodności, bezpieczeństwa, sposobu przetwarzania danych i monitorowania. Regulatorzy potrzebują raportów o incydentach, wyników testów wewnętrznych oraz wystarczającej dokumentacji technicznej, by móc badać zgłaszane twierdzenia.
Społeczeństwo potrzebuje również zbiorczych informacji o poważnych awariach. Bez nich badacze i dziennikarze nie są w stanie rozpoznać wzorców występujących w różnych firmach czy produktach.
Czwarte pytanie dotyczy środków zaradczych. Wykrycie słabości niewiele znaczy, jeśli firma może wdrożyć system bez jej usunięcia.
Kongres musi zdecydować, czy regulatorzy mogą opóźniać premierę, wymagać ograniczeń, nakazywać powiadomienie, wprowadzać monitoring lub żądać wycofania z zastosowań wysokiego ryzyka. Każda z tych opcji rodzi kwestie proceduralne i konstytucyjne.
Obowiązkowe wstrzymanie może być uzasadnione w przypadku wyraźnie niebezpiecznego produktu zdrowotnego. Zastosowanie tego samego środka wobec uniwersalnego asystenta do pisania byłoby trudniejsze do obrony.
Istnieje też ryzyko, że zgodność z przepisami wzmocni największe firmy. Duzi twórcy mogą budować zespoły audytowe, zatrudniać wyspecjalizowanych prawników i absorbować opóźnienia. Mniejsze firmy mogą mieć trudności z pokryciem tych samych kosztów stałych.
Taki rezultat byłby szczególnie przeciwskuteczny, gdyby przepisy chroniły dominujące firmy, nie zapewniając lepszego bezpieczeństwa. Kongres mógłby rozważyć wspólne zasoby testowe, stopniowane obowiązki oraz standardy skalowane do zasięgu, możliwości i zastosowania systemu.
Krytycy regulacji stanowych mają rację, gdy ostrzegają przed niespójnymi obowiązkami. Firma nie powinna potrzebować 50 zasadniczo różnych audytów technicznych dla tego samego modelu.
Ten argument przemawia jednak za wiarygodnym standardem krajowym. Sam w sobie nie dowodzi, że przepisy stanowe należy wyeliminować, zanim powstanie odpowiedni federalny odpowiednik.
Federalne wyłączenie regulacji stanowych bez silnego egzekwowania prawa na poziomie federalnym przesunęłoby władzę od stanów w stronę twórców systemów. Wyłączenie połączone z rzeczywistym nadzorem mogłoby zapewnić zarówno spójność, jak i rozliczalność.
Ostatnia niewiadoma dotyczy koordynacji międzynarodowej. Zaawansowane systemy przekraczają granice, a wiele łańcuchów dostaw obejmuje zagraniczne badania, chipy, dane, usługi chmurowe i użytkowników.
Shapiro skrytykował izolacjonistyczne podejście do zarządzania AI. Koordynacja z sojusznikami może wspierać wspólne metody oceny i raportowanie incydentów. Może też ograniczyć ryzyko, że firmy przeniosą ryzykowne działania do jurysdykcji o najmniej wymagających zasadach.
Współpraca międzynarodowa nie usunie różnic politycznych. Może jednak ustanowić wspólny język techniczny do testowania bezpieczeństwa, sterowalności oraz ryzyka nadużyć.
Sceptyczny wniosek jest prosty: zabezpieczenia AI Josha Shapiro to kierunek, a nie ukończony projekt regulacyjny. Ich wartość zależy od szczegółów, które wystąpienie pozostawiło Kongresowi do rozstrzygnięcia.
Trzy sygnały pokażą, czy wyzwanie rzucone przez Shapiro ma znaczenie
Kolejnym sprawdzianem będzie to, czy propozycja Shapiro zmieni ustawodawstwo federalne, zachowanie twórców systemów lub historię egzekwowania prawa w Pensylwanii.
Pierwszym sygnałem będzie treść każdej federalnej ustawy o AI, która będzie procedowana przez Kongres. Kluczowe pytanie nie brzmi, czy ustawodawcy użyją słowa „bezpieczeństwo”. Chodzi o to, czy przepisy będą wymagać niezależnej oceny, zapewnią regulatorom dostęp do dowodów, zdefiniują objęte nimi systemy i stworzą konsekwencje za poważne awarie.
Równie ważny będzie język dotyczący wyłączenia regulacji stanowych. Ustawa blokująca działania stanów przy jednoczesnym zachowaniu słabych, dobrowolnych zobowiązań byłaby sprzeczna ze stanowiskiem Shapiro. Federalny minimalny standard, pozostawiający miejsce dla tradycyjnych uprawnień stanowych w obszarach ochrony konsumentów, bezpieczeństwa dzieci, licencjonowania i infrastruktury, wzmocniłby je.
Czytelnicy powinni odróżniać projekt do dyskusji, wniesiony projekt ustawy, środek zatwierdzony przez komisję i uchwaloną ustawę. Każdy z nich oznacza inny stopień skutków prawnych, a publiczne wypowiedzi na temat ram regulacyjnych same w sobie nie nakładają obowiązków na twórców.
Drugim sygnałem będzie sposób, w jaki czołowi twórcy odpowiedzą na niezależny nadzór. Publiczne poparcie dla testów bezpieczeństwa jest powszechne, lecz firmy często różnią się w kwestii obowiązkowego dostępu, wymogów publikacyjnych i egzekwowania prawa.
Znacząca zmiana obejmowałaby poparcie dla wykwalifikowanych zewnętrznych ewaluatorów, którzy mogą badać niepubliczne dowody. Innym znakiem byłoby ustandaryzowane raportowanie poważnych incydentów oraz jasne ujawnianie informacji, gdy produkt trafia do środowiska o dużym wpływie.
Dobrowolne działania same w sobie nie mogą zastąpić prawa. Mogą jednak ujawnić, czy branża postrzega wiarygodny nadzór jako zgodny z konkurencją, czy jako niedopuszczalne ograniczenie tempa wdrożeń.
Trzeci sygnał pochodzi z samej Pensylwanii. Stan musi pokazać, że jego warunki dotyczące centrów danych i ochrona konsumentów działają w praktyce.
Warto obserwować, czy twórcy podpisują wiążące zobowiązania GRID, uzyskują lokalne zgody oraz raportują zużycie energii i wody. Należy też sprawdzać, czy publiczna mapa projektów stanu przekazuje społecznościom informacje na czas, zamiast dokumentować decyzje dopiero wtedy, gdy stają się trudne do zmiany.
Istotne dowody będą konkretne: opublikowane lokalizacje projektów, umowy ugodowe, raporty o wykorzystaniu zasobów, zawiadomienia o działaniach egzekucyjnych, dokumentacja lokalnych przesłuchań i udokumentowane kary za nieprzestrzeganie przepisów. Same ogłoszenia nie pokażą, czy zarządzenie zmienia postępowanie twórców lub chroni płatników rachunków.
Egzekwowanie przepisów wobec botów AI pełniących rolę towarzyszy będzie kolejnym praktycznym sprawdzianem. Sądy i agencje określą, jak obowiązujące przepisy dotyczące licencjonowania i ochrony konsumentów stosują się do systemu konwersacyjnego, który sprawia wrażenie udzielającego profesjonalnych porad.
Orzeczenie uznające teorię prawną Pensylwanii mogłoby pokazać, że obecne prawo może przeciwdziałać części szkód powodowanych przez AI. Oddalenie sprawy z powodu jurysdykcji, immunitetu platformy, legitymacji procesowej lub niejasnej definicji ustawowej mogłoby zwiększyć presję na przyjęcie ukierunkowanych przepisów. Dopóki sąd nie wyda orzeczenia, każdy z tych wyników pozostaje niepewny, a skarga nie powinna być traktowana jako dowód odpowiedzialności.
Dla twórców i nabywców korporacyjnych ta debata zmienia oczekiwania dotyczące zakupów. Organizacje powinny spodziewać się większej liczby pytań o testowanie modeli, reagowanie na incydenty, zarządzanie danymi szkoleniowymi, nadzór człowieka, zmiany wersji i dostęp stron trzecich.
Okręg szkolny może na przykład potrzebować wiedzieć, czy chatbot dla uczniów przechowuje wrażliwe rozmowy, jak obsługuje ujawnienia dotyczące samookaleczeń oraz kto otrzymuje alert. Pracodawca wykorzystujący AI do selekcji kandydatów może potrzebować danych o wynikach dla podgrup i procedury odwołania do człowieka. Przedsiębiorstwo użyteczności publicznej wdrażające zautomatyzowanego asystenta może potrzebować dowodów, że nie wymyśla on zasad płatności ani polityki odłączania usług.
Pracownicy umysłowi również powinni się tym interesować, ponieważ polityka bezpieczeństwa określa, kto ponosi koszt niewiarygodnego wyniku. Bez jasnej rozliczalności użytkownicy i pracodawcy muszą wykrywać błędy po wdrożeniu. Silniejsze przepisy mogą przenieść część tej odpowiedzialności z powrotem na firmy projektujące i sprzedające systemy.
Argument Shapiro ostatecznie pyta, czy szybkość powinna pozostać domyślną miarą krajowego sukcesu AI. Szybsze modele i większa infrastruktura mogą tworzyć wartość gospodarczą, ale mogą też szybciej rozprzestrzeniać ryzyko.
Najbliższy jeden do trzech miesięcy powinien pokazać, czy Waszyngton przełoży jego interwencję na tekst legislacyjny, czy pozostawi ją jako postulat polityki publicznej. Czytelnicy powinni śledzić brzmienie ustaw, uprawnienia agencji, akta sądowe i dane wdrożeniowe - nie slogany - oraz zadać jedno bezpośrednie pytanie: czy ostateczne zabezpieczenia AI Josha Shapiro zapewniają niezależnym recenzentom wystarczający dostęp i uprawnienia, by identyfikować poważne problemy, zanim społeczeństwo poniesie ich koszt?
