Polityka cyberbezpieczeństwa AI Trumpa rozdziela presję na bezpieczeństwo od wyścigu z Chinami
Prezydent Donald Trump odrzucił wezwania do spowolnienia rozwoju AI, mimo narastającej presji wewnątrz i poza swoją administracją, by ograniczyć pojawiające się zagrożenia cybernetyczne.
Spór stawia politykę cyberbezpieczeństwa AI Trumpa między dwoma celami, które coraz trudniej pogodzić. Urzędnicy chcą wcześniej uzyskiwać wgląd w niebezpieczne możliwości modeli, ale Trump nie chce, by nadzór osłabił amerykańskich deweloperów w rywalizacji z Chinami.
Trump przyznał, że pewne zabezpieczenia są konieczne, rozmawiając z reporterami w Irlandii 13 września. Nie przedstawił jednak konkretnego planu regulacyjnego i zakwestionował ostrzeżenia, że rozwój AI postępuje zbyt szybko. Później stwierdził, że AI przyniesie znacznie więcej korzyści niż szkód.
Jego stanowisko nastąpiło po publicznych ostrzeżeniach prezesa Anthropic, Dario Amodeiego; za spowolnieniem opowiedzieli się również prezes OpenAI Sam Altman i Elon Musk. Według debaty o rozwoju AI Trump odpowiedział na te obawy argumentem konkurencyjnym: kto wygra dzięki AI, ten wygrywa.
Ta odpowiedź nie rozwiązuje problemu bezpieczeństwa administracji. Biały Dom stworzył już dobrowolny proces przeglądu dla niektórych modeli granicznych, czyli wysoce zaawansowanych systemów znajdujących się blisko obecnych granic rozwoju. Zorganizował też współpracę agencji federalnych i prywatnych firm w celu znajdowania i łatania luk w oprogramowaniu.
Nierozstrzygnięte pozostaje pytanie, czy te dobrowolne środki mogą działać wystarczająco szybko. Coraz bardziej zaawansowani agenci AI zyskują zdolność znajdowania luk, działania online i koordynowania zadań przy ograniczonym nadzorze człowieka.
Główna rywalizacja nie toczy się więc między regulacją a deregulacją. Chodzi o dobrowolną, ściśle ukierunkowaną koordynację bezpieczeństwa kontra obowiązkowy nadzór rządowy, który mógłby opóźniać publikację modeli.
Polityka cyberbezpieczeństwa AI Trumpa już się zmieniła
Administracja przeszła od szerokiego sprzeciwu wobec ograniczeń AI do selektywnego zaangażowania federalnego w bezpieczeństwo modeli granicznych.
Trump rozpoczął swoją drugą kadencję od uchylenia głównego rozporządzenia wykonawczego administracji Bidena dotyczącego AI. Wcześniejsze ramy wymagały od deweloperów niektórych systemów wysokiego ryzyka przekazywania urzędnikom federalnym informacji o bezpieczeństwie.
Administracja zamiast tego podkreślała szybszy rozwój, mniej barier i amerykańskie przywództwo. Jej podejście ściśle odpowiadało preferencjom inwestorów technologicznych i firm sprzeciwiających się obowiązkowemu zatwierdzaniu przed publikacją.
Utrzymanie tego stanowiska stało się trudniejsze, gdy deweloperzy wprowadzili modele o silniejszych możliwościach w zakresie cyberbezpieczeństwa. Takie systemy mogą pomagać obrońcom identyfikować podatne oprogramowanie, lecz te same zdolności mogą wspierać próby włamań lub zautomatyzowane wykorzystanie luk.
Wśród politycznych i branżowych zwolenników Trumpa pojawił się spór dotyczący polityki. Steve Bannon, aktywistka Amy Kremer i inne populistyczne postaci opowiadali się za obowiązkowymi rządowymi testami najwydajniejszych modeli.
Doradcy związani z sektorem technologicznym zajęli przeciwne stanowisko. Marc Andreessen i były doradca Białego Domu ds. AI David Sacks sprzeciwiali się wiążącym wymogom, które mogłyby opóźniać wdrożenia lub rozszerzać władzę federalną.
Odpowiedź administracji nadeszła 2 czerwca w postaci rozporządzenia wykonawczego 14409. Nakaz ustanowił utajniony proces benchmarkingu do oceny zaawansowanych zdolności cybernetycznych i identyfikowania „objętego modelu granicznego”.
To oznaczenie ma znaczenie, ponieważ deweloperzy objętych modeli mogą zapewniać rządowi wczesny dostęp przed szerszą publikacją. Urzędnicy mogą następnie ocenić zdolności cybernetyczne i dać wybranym partnerom z sektora infrastruktury krytycznej czas na przygotowanie się.
Jednak rozporządzenie dotyczące modeli granicznych wyraźnie odrzuca obowiązkowe licencjonowanie, wstępne zatwierdzanie lub rządowe zezwolenie na publikację modelu AI. Udział pozostaje dobrowolny.
Ostateczne rozporządzenie było węższe niż wcześniejsza propozycja opisana w maju. Źródła zaznajomione z tą propozycją twierdziły, że deweloperzy mogli zostać poproszeni o udostępnienie modeli 90 dni przed publikacją.
Podpisane ramy pozwalają natomiast uczestniczącym deweloperom zapewnić dostęp do 30 dni przed dystrybucją do innych zaufanych partnerów. Różnica ta odzwierciedla wysiłki administracji, by uzyskać wgląd w kwestie bezpieczeństwa bez ustanawiania regulacyjnej bramki zatwierdzającej.
Rozporządzenie przydziela również ważne role National Security Agency, Cybersecurity and Infrastructure Security Agency oraz kierownictwu Białego Domu odpowiedzialnemu za krajową politykę cybernetyczną. Departament Handlu i National Institute of Standards and Technology uczestniczą w procesie, ale nie kontrolują go samodzielnie.
Taki układ oznacza rzeczywistą zmianę polityki. Rząd federalny nie traktuje już cyberbezpieczeństwa modeli granicznych jako kwestii, którą deweloperzy mogą zarządzać wyłącznie we własnych organizacjach.
Zmiana nie sięga jednak obowiązkowego nadzoru. Rząd może tworzyć benchmarki, prosić o współpracę i koordynować obronę, ale na mocy tego rozporządzenia nie może wymagać udziału od każdego objętego nim dewelopera.
Ograniczenie to zachowuje tempo rozwoju. Tworzy też niepewność co do tego, co stanie się, gdy firma odmówi przeglądu, zakwestionuje oznaczenie lub opublikuje model, zanim agencje zakończą ocenę jego możliwości.
Administracja zmieniła zatem swoją rolę, nie rozstrzygając swoich uprawnień. Akceptuje obecnie, że zaawansowane modele mogą rodzić obawy dotyczące bezpieczeństwa narodowego, jednocześnie nadal odrzucając obowiązkowy system kontroli publikacji.
Rosnące zdolności cybernetyczne wymuszają debatę
Cyberbezpieczeństwo AI staje się kwestią wdrożeniową, ponieważ zaawansowane modele mogą pomagać atakującym i obrońcom, wykorzystując te same podstawowe zdolności.
Wyszukiwanie luk w oprogramowaniu ilustruje ten problem. Model, który identyfikuje błąd, może pomóc opiekunom oprogramowania go załatać. Ten sam model może pomóc atakującemu znaleźć niezabezpieczone systemy lub opracować exploit.
Czerwcowe rozporządzenie próbuje najpierw wykorzystać wartość obronną. Nakazuje agencjom utworzenie centrum koordynacji cyberbezpieczeństwa AI z dobrowolnym udziałem deweloperów AI i operatorów infrastruktury krytycznej.
Centrum ma koordynować skanowanie pod kątem luk, weryfikować odkrycia, ustalać priorytety działań naprawczych i dystrybuować poprawki. Proces ten odpowiada na znane wyzwanie bezpieczeństwa: znalezienie luki nie jest tym samym co ochrona każdego narażonego systemu.
Biały Dom uruchomił wynikającą z tego inicjatywę Gold Eagle w lipcu. Departament Skarbu, CISA, urzędnicy obrony i partnerzy branżowi wykorzystują ją do ograniczania powielonego skanowania oraz dostarczania priorytetowych informacji o lukach.
Program Gold Eagle reprezentuje preferowany przez administrację model. Agencje rządowe koordynują prywatne zdolności bez kontrolowania rozwoju ani publikacji bazowych systemów AI.
Struktura ta ma praktyczne zalety. Agencje federalne posiadają utajnione informacje wywiadowcze o zagrożeniach, laboratoria AI rozumieją swoje modele, a dostawcy infrastruktury obsługują systemy wymagające ochrony.
Połączenie tych grup może skrócić czas między wykryciem a usunięciem problemu. Może też zmniejszyć prawdopodobieństwo, że kilka modeli niezależnie odkryje tę samą lukę, bez koordynacji ujawnienia przez kogokolwiek.
Dobrowolna koordynacja zależy jednak od zachęt i zaufania. Firmy muszą wierzyć, że udostępnienie dostępu nie ujawni tajemnic handlowych, nie opóźni premier ani nie stworzy nieprzewidywalnych zobowiązań prawnych.
Agencje rządowe muszą chronić otrzymywane modele i ustalenia. System przeglądu bezpieczeństwa sam staje się wrażliwym celem, jeśli przechowuje wagi modeli, nieopublikowane możliwości lub szczegóły niezałatanych luk.
Problem testowania wykracza również poza zwykłe benchmarki. Model może działać inaczej po podłączeniu do narzędzi, otrzymaniu większych zasobów obliczeniowych lub możliwości działania przez dłuższy czas.
Agenci AI sprawiają, że ta luka ma większe znaczenie. Agent to oprogramowanie, które wykorzystuje model AI do planowania i wykonywania zadań przy ograniczonej interwencji człowieka.
Krótki test laboratoryjny może pokazać, czy model potrafi pisać kod exploita. Może jednak nie wykazać, czy kilku agentów potrafi koordynować działania, utrzymywać się w systemach, ukrywać aktywność lub odzyskiwać sprawność po nieudanej próbie.
Administracja wyznaczyła już granicę między kategoriami modeli. Według dwóch osób zaznajomionych z rozmowami urzędnicy powiedzieli deweloperom w sierpniu, że modele z otwartymi wagami nie będą przechodzić dobrowolnego procesu testowania.
Modele z otwartymi wagami udostępniają do pobrania parametry, które użytkownicy mogą sprawdzać, modyfikować i uruchamiać niezależnie. Jako przykłady wskazano Llama firmy Meta i Nemotron firmy Nvidia.
Zamknięte modele OpenAI, Anthropic i Google pozostają kontrolowane poprzez infrastrukturę tych firm. Ich dostawcy mogą ograniczać dostęp, monitorować użycie i aktualizować zabezpieczenia po wdrożeniu.
Decyzja administracji dotycząca modeli z otwartymi wagami pozwala uniknąć objęcia amerykańskiego otwartego rozwoju procesem przeglądu, który zagraniczne publikacje mogłyby ominąć. Pozostawia też znaczącą kategorię poza tymi ramami.
Wyłączenie to tworzy trudną asymetrię. Firmy rozwijające zamknięte modele mogą współpracować, ponieważ zachowują kontrolę nad swoimi produktami, podczas gdy otwarte wagi mogą krążyć poza zasięgiem pierwotnego dewelopera.
Testowanie wyłącznie systemów zamkniętych mogłoby zatem skoncentrować nadzór na firmach dysponujących najsilniejszymi mechanizmami monitorowania. Modele, które można modyfikować i wdrażać anonimowo, otrzymałyby w ramach tego samego programu mniej uwagi federalnej.
Zwolennicy otwartego rozwoju twierdzą, że szeroki dostęp pomaga badaczom odkrywać słabości i pozwala mniejszym organizacjom konkurować. Krytycy odpowiadają, że ten sam dostęp usuwa centralne mechanizmy kontroli po publikacji.
Żaden z argumentów nie rozstrzyga bezpośredniego pytania operacyjnego. Agencje federalne nadal potrzebują metody rozumienia ryzyka związanego z zaawansowanymi modelami, których deweloperzy nie mogą wycofać ani zdalnie zaktualizować.
Główny podział dotyczy dobrowolnego przeglądu kontra obowiązkowa kontrola
Główny konflikt polityczny dotyczy tego, czy współpraca jest wystarczająca, gdy publikacja modelu może stworzyć ryzyko wykraczające poza kontrolę jego dewelopera.
Obowiązkowe testowanie przemawia do urzędników i aktywistów, którzy chcą jasnego minimalnego standardu. Każdy model przekraczający określony próg możliwości podlegałby temu samemu przeglądowi bezpieczeństwa przed publikacją.
Takie podejście mogłoby ograniczyć niepewność dotyczącą udziału. Mogłoby też dać agencjom spójny obraz sytuacji u różnych deweloperów, zamiast polegać na odrębnych ujawnieniach każdej firmy.
Trudność zaczyna się od progu. Urzędnicy muszą zdecydować, które zdolności czynią model wystarczająco niebezpiecznym, aby się kwalifikował, a zdolności te mogą się zmieniać po dostrojeniu modelu lub przy dostępie do narzędzi.
Próg oparty na zasobach obliczeniowych może pominąć wydajny mniejszy model. Próg oparty na wynikach benchmarków może zachęcać deweloperów do optymalizacji pod test.
Oceny cyberbezpieczeństwa stwarzają kolejny problem. Publikowanie szczegółowych kryteriów mogłoby pomóc deweloperom się przygotować, lecz mogłoby także ujawnić, co rządowi ewaluatorzy uznają za najbardziej groźne.
Utrzymywanie kryteriów w tajemnicy chroni wrażliwe informacje. Utrudnia jednak także zewnętrznym ekspertom, ustawodawcom i mniejszym deweloperom ich ocenę.
Polityka cyberbezpieczeństwa AI administracji Trumpa próbuje zarządzać tym napięciem za pomocą tajnych benchmarków i dobrowolnego wczesnego dostępu. NSA, CISA i inni urzędnicy określają, czy model spełnia objęty regulacjami próg.
Uczestniczący deweloperzy mogą następnie zapewnić dostęp na okres do 30 dni. Rozporządzenie wymaga ochrony własności intelektualnej, cyberbezpieczeństwa, poufności oraz zabezpieczeń przed ryzykiem wewnętrznym.
Ten model daje firmom elastyczność, jednocześnie zapewniając agencjom pewne wcześniejsze ostrzeżenie. Nie gwarantuje uczestnictwa, publikacji wyników ani ujednoliconej reakcji, gdy ewaluatorzy wykryją poważne zdolności.
Obowiązkowe zatwierdzanie przed premierą rozwiązałoby część tej luki w egzekwowaniu zasad. Wprowadziłoby jednak także opóźnienia, koszty zgodności oraz polityczne spory o to, kto może wstrzymać publikację.
Zwolennicy technologii argumentują, że opóźnienia mogą stać się strategicznie kosztowne. Krajowa firma mogłaby wstrzymać model, podczas gdy zagraniczny konkurent wypuściłby porównywalny system bez równoważnej kontroli.
Neil Chilson z Abundance Institute przedstawił ten argument podczas wcześniejszej debaty w Białym Domu. Twierdził, że opóźnianie amerykańskich modeli może dać krótkoterminową przewagę, nie powstrzymując jednak z czasem dostępu przeciwników do tej technologii.
Ta obawa ma szczególne znaczenie w przypadku systemów poprawiających cyberobronę. Jeśli zaawansowany model potrafi wykrywać luki, wstrzymywanie go może również opóźniać łatki i wdrożenia obronne.
Obowiązkowe kontrole mogłyby dodatkowo faworyzować największe laboratoria. OpenAI, Google, Anthropic i Meta mogą zatrudniać zespoły ds. zgodności, utrzymywać bezpieczne środowiska ewaluacyjne oraz bezpośrednio negocjować z agencjami.
Mniejsi deweloperzy mogliby stanąć przed takim samym obciążeniem proceduralnym, dysponując mniejszymi zasobami. System przeglądu mający poprawić bezpieczeństwo mógłby więc zwiększyć koncentrację rynku.
Zwolennicy ostrzejszych zasad koncentrują się na innym scenariuszu porażki. Twierdzą, że presja konkurencyjna daje każdemu deweloperowi motywację do publikacji jako pierwszy, nawet jeśli wszystkie firmy skorzystałyby na dodatkowych testach.
Kremer wyraziła tę nieufność bezpośrednio podczas majowej debaty. Powiedziała, że społeczeństwo nie może polegać wyłącznie na liderach firm AI w ochronie amerykańskich interesów.
Pięciu demokratycznych senatorów wezwało później do uchwalenia przepisów, które uczyniłyby testowanie stałym wymogiem dla najbardziej zaawansowanych amerykańskich modeli. Ich interwencja pokazała, że żądania obowiązkowego przeglądu wykraczają poza populistycznych zwolenników Trumpa.
Kongres nie uchwalił takiego systemu. Spiker Izby Reprezentantów Mike Johnson wyraził zainteresowanie zebraniem Trumpa, ustawodawców i dyrektorów firm AI, jednocześnie sygnalizując, że Kongres nie poprowadzi natychmiastowego spowolnienia.
Brak ustawodawstwa pozostawia władzę wykonawczą przy dobrowolnych porozumieniach i istniejących uprawnieniach. Narzędzia te można wdrożyć szybciej, ale przyszła administracja lub niechętny uczestnik łatwiej może je zmienić.
Obowiązkowy system wymagałby od Kongresu zdefiniowania uprawnień agencji, egzekwowania, poufności oraz kontroli sądowej. Musiałby też uwzględnić publikacje wag modeli i modele zagraniczne.
Dopóki to nie nastąpi, polityka zależy od współpracy organizacji o różnych bodźcach. Biały Dom chce informacji dotyczących bezpieczeństwa, deweloperzy chcą przewidywalnego dostępu do rynków, a agencje wywiadowcze chcą chronić tajne metody.
Podział nie ma charakteru wyłącznie partyjnego. Przebiega przez administrację, Kongres, firmy technologiczne, instytucje bezpieczeństwa narodowego i polityczną koalicję Trumpa.
Wyścig z Chinami czyni każde zabezpieczenie bardziej skomplikowanym
Rywalizacja z Chinami sprawia, że krajowy przegląd bezpieczeństwa staje się kwestią tempa wdrażania, globalnego przyjmowania technologii i dostępu do zaawansowanych modeli.
Wrześniowe wypowiedzi Trumpa jasno wskazały ten priorytet. Powiązał ograniczenia w kraju z możliwością uzyskania przez Chiny przewagi w zaawansowanej AI.
Administracja przekazała ten sam komunikat na spotkaniu G20 dotyczącym innowacji w Karolinie Północnej wcześniej w tym miesiącu. Amerykańscy urzędnicy wezwali uczestniczące rządy do powstrzymania się od tworzenia nowych organów regulacyjnych ds. AI.
Doradca ds. nauki i technologii Michael Kratsios promował Carolina Principles, które wzywają rządy do wprowadzania nowych regulacji wyłącznie w przypadku problemów, których nie można rozwiązać istniejącymi zasadami.
Ten przekaz jest zgodny ze stanowiskiem największych amerykańskich firm AI. Zazwyczaj chcą one dostępu do międzynarodowych rynków bez odrębnych procesów zatwierdzania w każdej jurysdykcji.
Rozdrobnione środowisko regulacyjne może wymagać odmiennego działania produktów, systemów raportowania i harmonogramów publikacji. Duzi deweloperzy mogą spełnić te wymogi, lecz zgodność nadal wpływa na decyzje dotyczące wdrożeń.
Administracja chce również, by inne kraje pozostały w obrębie amerykańskiego stosu technologicznego. Obejmuje on chipy, platformy chmurowe, modele, narzędzia dla deweloperów i relacje w zakresie bezpieczeństwa.
Chińskie modele z otwartymi wagami komplikują ten cel. Coraz skuteczniej konkurują z własnościowymi systemami amerykańskimi i mogą przyciągać organizacje poszukujące niższych kosztów lub większej kontroli nad wdrożeniem.
Vivek Chilukuri z Center for a New American Security powiedział Reutersowi, że trend ten zwiększył poczucie pilności w administracji. Waszyngton chce, by użytkownicy na świecie wybierali systemy amerykańskie zamiast alternatyw kształtowanych przez chińskich dostawców.
Stanowisko G20 w sprawie AI łączy zatem krajowe regulacje z polityką zagraniczną. Urzędnicy traktują szerokie przyjmowanie amerykańskiej AI jako interes zarówno gospodarczy, jak i bezpieczeństwa.
Jednak międzynarodowy przekaz o nieingerowaniu może kolidować z żądaniem Waszyngtonu dotyczącym współpracy w sprawie zagrożeń cybernetycznych. Zagraniczne rządy mogą pytać, dlaczego miałyby ograniczać własne zasady, skoro Stany Zjednoczone nie opublikowały własnych kryteriów przeglądu.
Kwestia ta będzie szczególnie widoczna podczas planowanych rozmów między Stanami Zjednoczonymi a Chinami. Urzędnicy przygotowują dyskusje poświęcone zagrożeniom dla bezpieczeństwa AI i incydentom cybernetycznym.
Źródła zaznajomione z przygotowaniami podały, że stronę amerykańską poprowadzi sekretarz skarbu Scott Bessent. Rozmowy miały odbyć się w połowie września, przed zaplanowanym na 24 września spotkaniem Trumpa z chińskim prezydentem Xi Jinpingiem.
Stany Zjednoczone podobno chcą, aby laboratoria w obu krajach dzieliły się informacjami i pomagały zapobiegać cyberatakom powiązanym z AI. Propozycja ta uznaje, że incydent cybernetyczny może przekraczać granice niezależnie od miejsca opracowania modelu.
Planowany dialog USA–Chiny ujawnia również centralną sprzeczność tej polityki. Waszyngton chce międzynarodowej współpracy bez tworzenia zasad spowalniających krajowe firmy.
Ustalenia oparte na samokontroli mogą szybko tworzyć kanały komunikacji. Mogą pomagać laboratoriom wymieniać wskaźniki, porównywać incydenty i zapobiegać nieporozumieniom podczas nasilającego się wydarzenia cybernetycznego.
Nie mogą zagwarantować ujawniania informacji. Firma lub rząd może wstrzymać informacje ujawniające słabość, metodę wywiadowczą albo strategiczną zdolność.
Rywalizacja między państwami zmienia także sposób, w jaki uczestnicy interpretują testy bezpieczeństwa. Benchmark wykrywający niebezpieczną zdolność może stać się użyteczną informacją wywiadowczą na temat rozwoju modelu w innym kraju.
Stany Zjednoczone muszą zatem zdecydować, jak dużą ilością informacji się dzielić. Zbyt małe ujawnianie czyni współpracę symboliczną, podczas gdy zbyt duże może ujawnić luki w obronie lub techniki ewaluacji.
Chiny stoją przed takim samym wyborem. Oba kraje zyskują na zapobieganiu niekontrolowanym incydentom cybernetycznym, ale żaden nie chce ujawniać informacji osłabiających jego pozycję strategiczną.
Dlatego zwycięstwo i bezpieczeństwo nie są odrębnymi ścieżkami. Szybsze amerykańskie wdrażanie może zwiększać zdolności obronne i globalne wpływy, lecz może również zwiększać narażenie, zanim zabezpieczenia dojrzeją.
Spowolnienie wiąże się z odwrotnym kompromisem. Więcej testów może wykryć problemy przed publikacją, lecz jednostronne ograniczenia nie wiążą zagranicznych deweloperów ani prywatnie wdrażanych otwartych modeli.
Administracja preferuje jednoczesne przyspieszanie i zabezpieczanie. Strategia ta powiedzie się tylko wtedy, gdy koordynacja obronna dotrzyma kroku zdolnościom modeli i skali wdrożeń.
Dobrowolne ramy nadal mają poważne martwe pola
Polityki nie można oceniać na podstawie jej deklarowanych celów, ponieważ kluczowe kryteria, wyniki i mechanizmy egzekwowania pozostają niedostępne dla opinii publicznej.
Biały Dom sfinalizował części swoich ram przeglądu do początku września, według doniesień dotyczących sporów między urzędnikami administracji. Rząd nie opublikował tych ram publicznie.
Tajemnica może chronić utajnione benchmarki i informacje o modelach. Uniemożliwia jednak niezależnym ekspertom ocenę, które systemy się kwalifikują i czego wymaga pomyślny przegląd.
Administracja nie wyjaśniła, jak ewaluatorzy potraktują model wykazujący niebezpieczne zdolności cybernetyczne. Rozporządzenie wykonawcze nie ustanawia uprawnień do zablokowania jego publikacji.
Urzędnicy mogą zalecać zabezpieczenia, ograniczać wczesny dostęp lub koordynować łaty z operatorami infrastruktury. Deweloper nadal może jednak odczuwać presję komercyjną, by wydać model zgodnie z harmonogramem.
30-dniowe okno przeglądu rodzi również pytania o zdolności operacyjne. Kilka dużych laboratoriów może wypuścić modele w tym samym okresie, podczas gdy agencje federalne dysponują ograniczoną liczbą wyspecjalizowanego personelu i bezpiecznych zasobów obliczeniowych.
Ocena modelu frontierowego wymaga czegoś więcej niż zadawania standardowych pytań. Ewaluatorzy potrzebują chronionego dostępu, realistycznych środowisk, wyspecjalizowanych zespołów red team oraz wystarczającego czasu na testowanie zachowań agentowych.
Rząd musi także odróżniać zdolność modelu od ryzyka wdrożeniowego. Wysoce zdolny model objęty ścisłymi kontrolami może stwarzać mniejsze bezpośrednie zagrożenie niż słabszy model wydany bez monitorowania.
Systemy z otwartymi wagami pozostają najpoważniejszym martwym polem. Gdy wagi są publiczne, użytkownicy mogą usuwać zabezpieczenia, dostrajać zdolności i łączyć model z narzędziami.
Wyłączenie tych modeli może chronić otwartą innowację i pozwolić uniknąć ograniczeń niemożliwych do wyegzekwowania. Pozostawia jednak agencje bez takiego samego procesu wczesnego dostępu do systemów, które mogą rozprzestrzeniać się poza ich twórców.
Zagraniczne otwarte modele pogłębiają problem. Stany Zjednoczone mogą regulować krajowe firmy, lecz nie mogą łatwo powstrzymać Amerykanów przed pobieraniem wag opublikowanych za granicą.
Kontrole eksportowe zaawansowanych chipów mogą wpływać na zdolność szkoleniową. Nie eliminują dystrybucji już wytrenowanych modeli ani ponownego wykorzystania istniejących zdolności.
Polityka zakłada również, że deweloperzy rozpoznają moment zbliżania się do rządowego progu. Firma nie może wiarygodnie samodzielnie się zakwalifikować, jeśli benchmark i kryteria wyznaczenia pozostają tajne.
Agencje mogłyby zapewniać poufne wytyczne, ale taki proces może lepiej działać w przypadku firm mających ugruntowane relacje z rządem. Mniejsze laboratoria mogą otrzymywać mniej informacji lub wsparcia.
Zwolennicy przejrzystości krytykowali tę lukę. Americans for Responsible Innovation stwierdziło, że udostępnienie ram wyłącznie niewielkiej grupie firm pozostawia pytania o federalne praktyki ewaluacyjne.
Kolejna niewiadoma dotyczy raportowania incydentów. Centrum koordynuje kwestie podatności i działań naprawczych, ale publicznie dostępne informacje nie ustanawiają kompleksowej zasady raportowania poważnych zdarzeń cybernetycznych powiązanych z AI.
Bez spójnego raportowania decydenci mogą zaniżać skalę porażek albo dowiadywać się o nich dopiero po tym, jak firma zdecyduje się na ujawnienie. Firmy mogą też różnie klasyfikować podobne incydenty.
Obowiązkowy system raportowania byłby węższy niż licencjonowanie modeli. Mógłby wymagać od deweloperów ujawniania określonych zdarzeń bez przyznawania urzędnikom państwowym uprawnień nad każdą publikacją.
Nawet takie podejście wymaga starannych definicji. Rutynowe niewłaściwe wykorzystanie modeli, udane włamanie do systemu, autonomiczne utrzymywanie się i ujawnienie danych wrażliwych niosą odmienne konsekwencje.
Administracja musi unikać traktowania każdego nietypowego działania modelu jako incydentu bezpieczeństwa narodowego. Nadmierne raportowanie mogłoby przeciążyć agencje i odwrócić uwagę od przypadków o największym znaczeniu.
Jednocześnie zbyt wysoko ustawiony próg mógłby ukryć wczesne sygnały ostrzegawcze. Powtarzające się drobne awarie czasem ujawniają trend rozwoju zdolności, zanim dojdzie do poważnego incydentu.
Spór wewnątrz administracji utrudnia spójne wdrażanie. Departament Handlu, urzędnicy ds. bezpieczeństwa narodowego i doradcy technologiczni Białego Domu mają nakładające się interesy, lecz różne priorytety instytucjonalne.
Urzędnicy Departamentu Handlu koncentrują się na innowacjach, standardach i międzynarodowej konkurencyjności. Agencje wywiadowcze i cyberbezpieczeństwa skupiają się na wrogich podmiotach, zagrożeniach objętych klauzulą tajności i konsekwencjach w najgorszym scenariuszu.
Doradcy Białego Domu muszą pogodzić te stanowiska z politycznym zobowiązaniem Trumpa do wygrania wyścigu AI. Muszą także reagować na zwolenników, którzy coraz bardziej nie ufają firmom technologicznym.
Axios podał, że urzędnicy wciąż debatowali nad proponowanym regulatorem luźno wzorowanym na Financial Industry Regulatory Authority. Sacks publicznie sprzeciwił się utworzeniu nowego organu regulacyjnego ds. AI.
Ten spór ma znaczenie, ponieważ projekt organizacyjny determinuje możliwości rządu. Biuro koordynacyjne może zwoływać uczestników, ale regulator wyposażony w odpowiednie uprawnienia może wymuszać przekazywanie informacji i nakładać konsekwencje.
Utworzenie nowego regulatora rodziłoby również podstawowe pytania o rozliczalność. Kongres musiałby określić jego uprawnienia, finansowanie, nadzór i relacje z istniejącymi agencjami.
Na razie administracja wybrała koordynację zamiast budowy instytucji. Decyzja ta zmniejsza tarcia w krótkiej perspektywie, pozostawiając nierozstrzygnięte najtrudniejsze kwestie egzekwowania przepisów.
Trzy sygnały pokażą, która strona wygrywa
O kolejnej fazie zdecydują opublikowane zasady przeglądu, kanał bezpieczeństwa USA–Chiny oraz dowody, że koordynacja w zakresie podatności działa w praktyce.
Pierwszym sygnałem będzie to, czy administracja opublikuje nieutajnione wyjaśnienie swoich ram dla modeli frontierowych. Opinia publiczna nie potrzebuje utajnionych szczegółów testów, ale twórcy potrzebują przewidywalnych zasad kwalifikacji i procedur.
Przydatne wyjaśnienie wskazałoby ogólne kategorie zdolności podlegające przeglądowi. Opisywałoby także uczestnictwo, ochronę poufności, oczekiwane harmonogramy i reakcje na poważne ustalenia.
Publikacja wzmocniłaby dobrowolne podejście, ułatwiając ocenę uczestnictwa. Dalsza tajność wsparłaby krytyków argumentujących, że ramom brakuje rozliczalności i równego dostępu.
Drugim sygnałem będzie wynik planowanego dialogu USA–Chiny na temat bezpieczeństwa AI. Formalny kanał komunikacji dotyczący cyberincydentów powiązanych z AI pokazałby, że oba rządy uznają wspólną ekspozycję na ryzyko.
Najlepszy rezultat nie wymagałby szerokiego traktatu. Praktyczny system wymiany informacji o incydentach, weryfikowania pilnych ostrzeżeń i zapobiegania eskalacji stanowiłby mierzalny postęp.
Spotkanie, które przyniosłoby jedynie ogólne deklaracje, pozostawiłoby zasadniczy problem bez zmian. Laboratoria i rządy nadal nie miałyby przetestowanych procedur postępowania w przypadku transgranicznego cyberzdarzenia związanego z AI.
Trzecim sygnałem będą operacyjne dowody z Gold Eagle. Administracja powinna być w stanie wykazać, czy skoordynowane skanowanie skraca czas usuwania problemów lub rozszerza ochronę infrastruktury krytycznej.
Publiczne raportowanie musi chronić niezałatane podatności i metody objęte klauzulą tajności. Nadal może przedstawiać zagregowane miary, takie jak uczestniczące sektory, zweryfikowane ustalenia lub zakończone kampanie naprawcze.
Dowody na szybsze wdrażanie poprawek wzmocniłyby główną tezę administracji. Dobrowolna współpraca wyglądałaby na zdolną do przekształcenia zaawansowanych możliwości modeli w przewagę obronną.
Powtarzające się incydenty bez wyraźnej koordynacji osłabiłyby tę argumentację. Presję na obowiązkowe testowanie, raportowanie incydentów lub ustawodawstwo Kongresu trudniej byłoby wtedy zlekceważyć.
Czytelnicy powinni także oddzielać przekaz polityczny od wyników operacyjnych. Deklaracje o wygraniu wyścigu AI ujawniają priorytety, ale nie dowodzą, że agencje potrafią skutecznie oceniać modele.
Dla twórców ramy te mogą wpływać na planowanie wydań i wymogi dotyczące dostępu rządu. Zespoły budujące agentów zdolnych do działań cybernetycznych powinny spodziewać się bardziej szczegółowych pytań o testowanie, uprawnienia narzędzi, monitorowanie i reagowanie na incydenty.
Nabywcy korporacyjni stoją przed powiązanym wyzwaniem. Powinni pytać dostawców, jak rejestrowana jest aktywność agentów, jak ograniczany jest dostęp zewnętrzny i co dzieje się po wykryciu przez model podatności.
Pracownicy wiedzy powinni śledzić tę politykę, ponieważ uprawnienia agentów rozszerzają się w zwykłym oprogramowaniu. System, który może przeszukiwać dokumenty, wykonywać kod lub uzyskiwać dostęp do internetu, tworzy wartość i nowe granice bezpieczeństwa.
Zespoły potrzebują wiarygodnego rejestru ocen modeli, deklaracji dostawców, incydentów i zmian polityki. Przeszukiwalna techniczna baza wiedzy może pomóc organizacjom porównywać te zmiany z własnymi decyzjami dotyczącymi wdrożeń.
Polityka cyberbezpieczeństwa AI Trumpa opiera się obecnie na wymagającym założeniu: Stany Zjednoczone mogą wdrażać rozwiązania szybciej niż konkurenci, jednocześnie koordynując obronę, zanim niebezpieczne zdolności się rozpowszechnią.
Nadchodzące testy są konkretne. Należy obserwować, czy ramy przeglądu staną się zrozumiałe, czy Waszyngton i Pekin utworzą kanał zgłaszania incydentów oraz czy Gold Eagle przyniesie weryfikowalne rezultaty obronne.
Te sygnały pokażą, czy dobrowolna koordynacja dotrzymuje tempa. Jeśli pozostaną niepełne, debata o obowiązkowych zabezpieczeniach powróci z większą siłą.
