Anthropic, Google i OpenAI wkraczają do Białego Domu na test dobrowolnych zasad dotyczących AI
Anthropic, Google i OpenAI przystąpiły 4 sierpnia do nowego eksperymentu regulacyjnego, mimo obietnicy Waszyngtonu, że uniknie obowiązkowego zatwierdzania premier granicznych modeli AI.
Spotkanie w Białym Domu zgromadziło te firmy wraz z Meta, Nvidia i innymi przedstawicielami branży. Urzędnicy przedstawili zasady dobrowolnego testowania przez rząd zaawansowanych modeli przed ich publicznym udostępnieniem. Rozmowy były następstwem czerwcowego rozporządzenia wykonawczego, które stworzyło proces testowania bez ustanawiania systemu licencjonowania.
Dyskusje Anthropic, Google i OpenAI dotyczyły więc czegoś więcej niż kolejnych konsultacji politycznych. Sprawdzały, czy dobrowolna współpraca może zarządzać ryzykiem dla bezpieczeństwa narodowego, nie stając się nieformalną zgodą rządu na uruchomienie modelu.
Napięcie to narastało, ponieważ czołowe modele coraz lepiej wykrywają luki w oprogramowaniu i wspierają złożone operacje cybernetyczne. Ujawnia ono również istotną lukę w tych ramach. Obecne podejście koncentruje się na modelach zamkniętych, wyłączając systemy o otwartych wagach dostępne do pobrania.
To rozróżnienie sprzyja firmom udostępniającym wagi modeli, w tym amerykańskim i zagranicznym twórcom. Wywiera większą presję kontrolną na laboratoria, które zachowują kontrolę nad swoimi modelami, ograniczają dostęp i mogą technicznie spełnić wymogi testów przed premierą.
Spotkanie zaplanowano przed datą publikacji tego artykułu. Późniejsze doniesienia wyjaśniły jego wynik, w tym sposób traktowania przez ramy modeli zamkniętych i modeli o otwartych wagach. To, co zaczęło się jako zapowiedź spotkania, stało się sprawdzianem tego, jak Waszyngton zamierza regulować graniczną AI.
Co Anthropic, Google i OpenAI miały ocenić
Spotkanie 4 sierpnia przełożyło ogólne rozporządzenie wykonawcze na bardziej szczegółowe, lecz wciąż nieopublikowane ramy testowania modeli.
Biały Dom zaprosił do Waszyngtonu przedstawicieli czołowych firm AI i producentów chipów, aby omówić proponowane przez rząd zasady testowania. Wśród uczestników miały znaleźć się Anthropic, Google, OpenAI, Meta i Nvidia.
Ramy dotyczą modeli granicznych, czyli systemów znajdujących się w pobliżu czołówki ogólnych możliwości AI. Uwaga rządu skupia się na modelach wykazujących zaawansowane zdolności w zakresie cyberbezpieczeństwa lub włamań.
Prezydent Donald Trump ustanowił podstawowy proces w czerwcowym rozporządzeniu dotyczącym AI. Nakazuje ono agencjom federalnym dążyć do dobrowolnych porozumień z amerykańskimi twórcami w sprawie testowania modeli.
Wśród uczestniczących agencji są departamenty Handlu, Obrony, Bezpieczeństwa Wewnętrznego i Skarbu. Rozporządzenie przyznaje także agencjom bezpieczeństwa narodowego rolę w opracowywaniu ocen i reagowaniu na zidentyfikowane ryzyka.
Proces prosi uczestniczących twórców o zapewnienie dostępu przed udostępnieniem objętych nim modeli. Rządowi specjaliści mogą następnie ocenić możliwości, które mogłyby zagrozić infrastrukturze krytycznej lub bezpieczeństwu narodowemu.
Rozporządzenie zawiera jednak ważne ograniczenie. Stanowi, że proces nie upoważnia do obowiązkowego licencjonowania, wstępnego zatwierdzania ani wydawania przez rząd zezwoleń na udostępnianie AI.
To sformułowanie odzwierciedla próbę połączenia przez administrację dwóch stanowisk. Urzędnicy chcą wcześniej uzyskiwać dostęp do niebezpiecznych możliwości, ale sprzeciwiają się szerokiemu systemowi regulacyjnemu, który mógłby spowolnić amerykańskich twórców.
Powstałe rozwiązanie w dużej mierze zależy od współpracy. Twórca może uczestniczyć, udostępnić niemal ukończony model i rozważyć ustalenia rządu bez formalnego zrzeczenia się kontroli nad datą jego premiery.
Ten projekt różni się od tradycyjnego systemu zatwierdzania produktów. Rząd nie wydaje publicznego certyfikatu ani formalnie nie zatwierdza lub odrzuca każdego wdrożenia.
Spotkanie miało zachęcać firmy do zgłaszania modeli bliskich premiery. Takie podejście zapewniłoby oceniającym produkt bardziej reprezentatywny niż niedokończony etap badawczy.
Pozostawia ono także niewiele czasu na usunięcie problemów. Poważna luka wykryta tuż przed premierą mogłaby zmusić firmę do opóźnienia wdrożenia, ograniczenia dostępu lub wynegocjowania z urzędnikami alternatywnego rozwiązania.
Biały Dom nie opublikował pełnych ram. Ogranicza to niezależną kontrolę ich progów, metod oceny, kontroli dostępu i procedur rozstrzygania sporów.
Tajny charakter części benchmarków cyberbezpieczeństwa stanowi dodatkowe ograniczenie. Publiczne ujawnienie mogłoby pomóc przeciwnikom szkolić modele tak, by przechodziły testy bez usuwania podstawowego zagrożenia.
Tajemnica utrudnia jednak również zewnętrzną rozliczalność. Badacze, klienci i ustawodawcy nie mogą łatwo ustalić, czy wobec konkurujących firm stosuje się te same standardy.
Spotkanie w sierpniu zmieniło zatem praktyczne warunki nadzoru nad AI. Waszyngton ma teraz określoną ścieżkę oceny niektórych granicznych premier, nawet jeśli udział pozostaje prawnie dobrowolny.
Dlaczego modele zamknięte ponoszą ciężar regulacyjny
Kluczowym kompromisem jest nierówny zakres: modele pozostające pod kontrolą firmy podlegają kontroli, podczas gdy wagi dostępne do pobrania wymykają się początkowym ramom.
Według doniesień po spotkaniu ramy definiują objęty nimi model graniczny jako zamknięty i najnowocześniejszy, o możliwościach istotnych dla bezpieczeństwa narodowego.
Model zamknięty pozostawia wytrenowane parametry pod kontrolą twórcy. Klienci zazwyczaj uzyskują do niego dostęp przez aplikację lub API, które umożliwia oprogramowaniu zdalną komunikację z modelem.
Model o otwartych wagach udostępnia te wytrenowane parametry do pobrania. Użytkownicy mogą uruchamiać, modyfikować, dostrajać i redystrybuować model bez polegania na hostowanej usłudze jego pierwotnego twórcy.
Otwarte wagi nie są tożsame z oprogramowaniem open source. Publikacja może udostępniać parametry modelu, jednocześnie nie ujawniając danych treningowych, kodu rozwojowego ani innych materiałów wymaganych do pełnej odtwarzalności.
To rozróżnienie ma znaczenie, ponieważ dostawca modelu zamkniętego może monitorować dostęp, aktualizować zabezpieczenia, zawieszać konta i wycofać model. Publikację o otwartych wagach trudno powstrzymać po dystrybucji.
Mimo tej różnicy ramy Białego Domu obecnie wyłączają modele otwarte z zakresu kontroli. Szczegóły ram opisane po spotkaniu wskazywały, że zakres ogranicza się do zaawansowanych systemów zamkniętych.
Urzędnicy mieli również przekazać firmom, że modele o otwartych wagach nie przejdą dobrowolnego procesu testów bezpieczeństwa. Polityka ta odzwierciedla poparcie administracji dla otwartego rozwoju oraz obawy przed ograniczaniem amerykańskiej innowacyjności.
Wyłączenie tworzy pozorną sprzeczność z punktu widzenia bezpieczeństwa. Systemy, które twórcy nadal mogą aktualizować i ograniczać, przechodzą kontrolę przed premierą. Systemy, które każdy może pobrać i modyfikować, unikają tego samego procesu.
Istnieje praktyczne wyjaśnienie. Rząd może negocjować dostęp z amerykańską firmą prowadzącą zamkniętą usługę. Ma mniej narzędzi wobec modelu udostępnionego przez zagraniczne laboratorium.
Modele otwarte wspierają także badania, dostosowywanie i lokalne wdrożenia. Uniwersytety i mniejsze firmy mogą je analizować bez płacenia za każde zapytanie kierowane do zdalnego dostawcy.
OpenAI argumentowało, że systemy zamknięte i modele o otwartych wagach służą uzupełniającym się celom. Jego stanowisko w sprawie otwartych wag wskazuje, że otwarte publikacje mogą wspierać badania, poszerzać dostęp i wzmacniać amerykańskie przywództwo w AI.
Meta i Nvidia podobnie broniły modeli otwartych przed przedwczesnymi ograniczeniami. Ich stanowisko traktuje otwartość jako przewagę gospodarczą i strategiczną, zwłaszcza wobec szybko rozwijających się chińskich laboratoriów.
Anthropic i Google prezentowały bardziej ostrożne publiczne stanowiska wobec najpotężniejszych premier. Obie firmy podkreślały znaczenie ocen, kontrolowanego dostępu i zabezpieczeń dla systemów niosących poważne ryzyko cybernetyczne.
Luka polityczna jest szczególnie istotna, ponieważ architektura modelu nie determinuje jego możliwości. Model o otwartych wagach może zbliżyć się wydajnością do modelu zamkniętego, a produkt zamknięty może pozostawać poniżej każdego istotnego progu ryzyka.
Trwałe ramy potrzebują więc progów opartych na możliwościach. Nie mogą zakładać, że sposób dystrybucji zawsze przewiduje ryzyko dla bezpieczeństwa narodowego.
Obecne podejście rządu wydaje się wykorzystywać zarówno możliwości, jak i strukturę udostępniania. Obj ęty system musi być według doniesień zamknięty, zaawansowany i istotny dla określonych kwestii bezpieczeństwa.
To połączenie zawęża liczbę modeli podlegających kontroli. Zmniejsza także ryzyko, że zwykłe narzędzia biznesowe lub mniejsze systemy badawcze zostaną objęte federalnym procesem testowym.
Tworzy jednak zachęty, których decydenci mogą nie zamierzać wprowadzać. Twórca może preferować publikację o otwartych wagach częściowo po to, by uniknąć oczekiwań związanych z wdrożeniem zamkniętym.
Firmy mogą również debatować, czy model kwalifikuje się jako najnowocześniejszy. Bez opublikowanych progów etykieta ta może stać się przedmiotem negocjacji, a nie obiektywnym wynikiem technicznym.
Spotkanie Anthropic, Google i OpenAI nie rozwiązało tej nierównowagi. Sformalizowało rozróżnienie, pozostawiając urzędnikom możliwość ponownego rozważenia modeli otwartych wraz z rozwojem ich możliwości.
Dobrowolne testy wciąż mogą kształtować decyzje o premierach
Dobrowolne ramy mogą wywierać znaczną presję, gdy rząd kontroluje kontrakty, dostęp do informacji tajnych i relacje związane z bezpieczeństwem narodowym.
Słowo „dobrowolne” sugeruje, że firmy zachowują pełną niezależność. W praktyce odmowa rządowych testów może pociągać za sobą konsekwencje handlowe, polityczne i reputacyjne.
Laboratoria graniczne zabiegają o kontrakty federalne, partnerstwa badawcze, poświadczenia bezpieczeństwa i dostęp do rządowej wiedzy eksperckiej. Chcą także, by decydenci postrzegali je jako zaufanych amerykańskich dostawców infrastruktury.
Firma, która odrzuci testy po zidentyfikowaniu zaawansowanych możliwości cybernetycznych, naraziłaby się na trudne pytania. Klienci korporacyjni mogliby zapytać, dlaczego twórca odmówił dostępnej oceny rządowej.
Urzędnicy mogliby też ponownie rozważyć decyzje zakupowe. Mogliby ograniczyć wykorzystanie produktu w systemach wrażliwych, nawet bez formalnego blokowania jego publicznego udostępnienia.
Niedawne relacje Anthropic z Waszyngtonem ilustrują tę presję. Firma wcześniej starła się z administracją w sprawie ograniczeń wykorzystania wojskowego i federalnego dostępu do Claude.
Anthropic sprzeciwiał się wykorzystywaniu swojej technologii do w pełni autonomicznej broni i krajowej inwigilacji. Spór eskalował do prób ograniczenia rządowego wykorzystania jego produktów.
Późniejsze spotkania kierownictwa Anthropic z urzędnikami Białego Domu koncentrowały się na cyberbezpieczeństwie, bezpieczeństwie AI i utrzymaniu amerykańskiego przywództwa. Relacja ta pokazała, jak szybko spory polityczne mogą wpłynąć na działalność dostawcy modelu z rządem.
Stanowisko administracji zmieniło się, gdy zaawansowane możliwości cybernetyczne stały się pilniejsze. Zgłoszony model Mythos firmy Anthropic przyciągnął uwagę z powodu twierdzeń, że może identyfikować istotne luki w oprogramowaniu.
Te możliwości stworzyły problem podwójnego zastosowania. Ten sam model mógłby pomóc obrońcom w lokalizowaniu słabości albo pomóc atakującym w wykorzystywaniu systemów, zanim poprawki staną się dostępne.
Czerwcowe rozporządzenie wyłoniło się z tej debaty o bezpieczeństwie. Jego proces zapewnia federalnym oceniającym wczesny dostęp, nie dochodząc jednak do formalnego weta wobec premiery.
Anthropic, OpenAI i Google publicznie z zadowoleniem przyjęły zarządzenie. Dyrektor ds. polityki globalnej OpenAI, Chris Lehane, podkreślił znaczenie instytucji demokratycznych, wiedzy technicznej, rozliczalności i zaufania publicznego.
Ich poparcie jest zrozumiałe. Wspólny proces federalny może zastąpić improwizowane negocjacje za każdym razem, gdy model wykaże niepokojącą nową zdolność.
Może też zapobiec sytuacji, w której jeden deweloper jako jedyny opóźnia premierę. Presja konkurencyjna utrudnia jednostronną powściągliwość, gdy rywale mogą wypuścić porównywalne systemy.
Wspólne okno testowe ogranicza ten problem, jeśli uczestniczą w nim wszyscy istotni deweloperzy. Każda firma zyskuje pewność, że jej najbliżsi konkurenci podlegają podobnym oczekiwaniom.
Dobrowolne testy nie eliminują jednak wyścigu. Firmy nadal decydują, kiedy model jest wystarczająco gotowy do zgłoszenia, jaki dostęp otrzymują ewaluatorzy i jak reagują na ustalenia.
Zgłaszane 30-dniowe okno jest krótkie w porównaniu z tradycyjną oceną regulacyjną. Odzwierciedla rynek, na którym harmonogramy produktów szybko się zmieniają, a przewaga wydajnościowa może zniknąć w ciągu kilku miesięcy.
Informacje zwrotne od rządu przekazane tuż przed premierą nadal mogą zmienić sposób wdrożenia. Firma może ograniczyć określone narzędzia, wzmocnić monitoring, odłożyć szeroki dostęp lub udostępnić system wyłącznie wybranym partnerom.
Taki rezultat nie stanowiłby prawnie rządowego zatwierdzenia. Dla klientów i inwestorów opóźnienie po federalnej ocenie mogłoby jednak wyglądać bardzo podobnie.
Możliwy jest też scenariusz odwrotny. Firma mogłaby kontynuować wdrożenie mimo zastrzeżeń rządu, twierdząc, że udział w procesie nigdy nie przekazał ostatecznej decyzji w ręce władz.
Urzędnicy stanęliby wtedy przed wyborem. Mogliby ujawnić spór, wywrzeć presję poprzez zamówienia publiczne, sięgnąć po inne uprawnienia prawne albo zaakceptować decyzję firmy.
Rzeczywista siła tych ram będzie zatem wynikać z relacji, a nie z sankcji ustawowych. Dlatego konsekwentne traktowanie ma kluczowe znaczenie.
Jeśli jedno laboratorium otrzyma dyskretną elastyczność, a inne spotka się z publiczną presją, dobrowolna współpraca straci wiarygodność. Firmy będą traktować proces jako polityczne negocjacje, a nie techniczne zarządzanie ryzykiem.
To jest główny konflikt tej historii politycznej: dobrowolna współpraca kontra nieformalne wstępne zatwierdzanie. Granica zostanie wyznaczona przez rzeczywiste spory wokół premier, a nie wyłącznie język zarządzenia wykonawczego.
Nieopublikowane zasady tworzą problem z rozliczalnością
Rząd chce poufnych testów, których przeciwnicy nie mogą analizować, lecz tajność uniemożliwia osobom z zewnątrz ocenę, czy proces jest uczciwy i skuteczny.
Oceny cyberbezpieczeństwa często wymagają poufnych szczegółów. Opublikowanie każdego promptu, środowiska exploitu i progu punktacji mogłoby pozwolić deweloperom optymalizować modele konkretnie pod test.
Mogłoby to również ujawnić słabości obronne. Benchmark opracowany wokół infrastruktury krytycznej mógłby ujawnić informacje, które atakujący wykorzystają przeciwko rzeczywistym systemom.
Komponenty niejawne są więc zrozumiałe. Rządowi ewaluatorzy potrzebują przestrzeni do testowania niebezpiecznych zdolności bez tworzenia publicznej instrukcji obsługi.
Problemem jest szersza tajność otaczająca same ramy. Biały Dom podobno nie planuje opublikować pełnego dokumentu analizowanego przez firmy.
Ta decyzja zaciemnia podstawowe kwestie zarządzania. Opinia publiczna nie zna dokładnego progu zdolności, procesu decyzyjnego, mechanizmu odwoławczego ani zasad regulujących dostęp ewaluatorów.
Nie jest też jasne, jak urzędnicy będą oddzielać zdolności modelu od jego zachowania. System może posiadać niebezpieczną wiedzę techniczną, a jednocześnie odmawiać realizacji szkodliwych żądań w normalnych warunkach.
Ewaluatorzy będą musieli sprawdzać, czy zabezpieczenia wytrzymują zdecydowane próby ich obejścia. Takie próby są powszechnie nazywane jailbreakami — są to prompty lub techniki mające pokonać ograniczenia modelu.
Udany jailbreak nie przesądza automatycznie o katastrofalnym ryzyku. Ewaluatorzy muszą uwzględnić niezawodność, wymaganą wiedzę specjalistyczną, dostępne alternatywy oraz to, czy model istotnie obniża koszty działania atakującego.
To samo rozróżnienie ma znaczenie w zastosowaniach obronnych. Model wykrywający podatności może pomagać organizacjom łatać oprogramowanie, analizować incydenty i testować aplikacje przed wdrożeniem.
Ustalenia rządu mogą zatem wspierać kilka rodzajów reakcji. Urzędnicy mogą zalecić silniejsze zabezpieczenia, ograniczony dostęp, rozszerzony monitoring, opóźnioną premierę lub kontrolowaną dostępność dla partnerów działających w obronie.
Bez publicznych zasad obserwatorzy nie mogą ocenić, dlaczego wybrano konkretną reakcję. Nie mogą też porównywać wyników Anthropic, Google i OpenAI.
Ramy te stoją przed kolejnym wyzwaniem weryfikacyjnym. Urzędnicy rządowi mogą nie dysponować wystarczającymi niezależnymi zasobami obliczeniowymi, talentem inżynieryjnym ani czasem na ocenę, by dokładnie przetestować każdy istotny model.
Krótka ocena może wykryć oczywiste zagrożenia, lecz przeoczyć nietypowe zachowania. Wydajność modelu zmienia się także po wdrożeniu pod wpływem dostępu do narzędzi, promptów systemowych, aktualizacji i integracji tworzonych przez użytkowników.
Testy przedpremierowe pokazują jedynie migawkę sytuacji. Nie mogą zastąpić ciągłego monitorowania po tym, jak model trafia do klientów i styka się z warunkami rzeczywistego świata.
Wcześniejsza dyrektywa dotycząca AI była przedstawiana jako wąski środek bezpieczeństwa narodowego, a nie nadzór nad każdym nowym modelem. Ten ograniczony zakres może utrzymać proces na rozsądnym poziomie złożoności.
Mimo to wąski zakres rodzi pytania o selekcję. Urzędnicy potrzebują wiarygodnych kryteriów, by zdecydować, które systemy zasługują na kontrolę, a które pozostają poza tymi ramami.
Do obaw dokłada się historia polityczna. Administracja zlikwidowała kilka wcześniejszych federalnych zabezpieczeń dotyczących AI, zanim odbudowała węższy proces skoncentrowany na cyberbezpieczeństwie.
Zwolennicy postrzegają tę zmianę jako lepiej ukierunkowane podejście. Krytycy uznają ją za improwizowany powrót do nadzoru po tym, jak zaawansowane systemy stworzyły zagrożenia, których rząd nie mógł zignorować.
Senator Mark Warner przyjął z zadowoleniem czerwcową politykę, jednocześnie krytykując administrację za demontaż wcześniejszych zabezpieczeń. Jego reakcja uchwyciła ponadpartyjne napięcie wokół koniecznych testów i niespójnego wdrażania.
Obecne ramy zależą również od deklaracji firm na temat ich własnych modeli. Deweloperzy dysponują najlepszymi danymi wewnętrznymi, ale mają też finansowe bodźce, by szybko wypuszczać produkty.
Niezależni ewaluatorzy mogą podważać te deklaracje. Ich wiarygodność zależy jednak od jasnych uprawnień, spójnych metod i wystarczającej przejrzystości, by wykazać uczciwe traktowanie.
Proces Anthropic, Google i OpenAI nie powinien być opisywany jako ustalona regulacja. To poufny eksperyment, którego najważniejsze procedury pozostają niezweryfikowane w publicznych sporach.
Trzy sygnały pokażą, czy te ramy działają
Kolejne istotne dowody będą pochodzić z premier modeli, traktowania otwartych wag oraz reakcji rządu na spory.
Pierwszym sygnałem będzie objęty zasadami model wchodzący do dobrowolnego procesu oceny. Obserwatorzy powinni śledzić, czy deweloper zapewnia dostęp blisko premiery, a następnie zmienia sposób wdrożenia.
Opóźnienie, ograniczona premiera lub aktualizacja zabezpieczeń pokazałyby, że testowanie wpływa na rzeczywiste decyzje. Premiera bez zmian nie dowodziłaby porażki, ponieważ ewaluatorzy mogli nie stwierdzić poważnych zastrzeżeń.
Najmocniejszym dowodem byłoby wyjaśnienie przez firmę, jaka kategoria ryzyka zmieniła jej plany. Mogłaby chronić informacje niejawne, jednocześnie opisując ogólny tok rozumowania.
Całkowity brak ujawnień osłabiłby zaufanie publiczne. Klienci wiedzieliby, że ocena się odbyła, lecz nie wiedzieliby, czy firma zajęła się istotnymi ustaleniami.
Drugim sygnałem będzie sposób, w jaki urzędnicy zareagują na graniczny model z otwartymi wagami o silnych zdolnościach cybernetycznych. Ten przypadek wystawi na próbę najbardziej widoczne wyłączenie w ramach tych zasad.
Relacje po spotkaniu wskazywały, że administracja nie będzie testować systemów z otwartymi wagami według obecnych reguł. Sugerowały też, że stanowisko to może się zmienić wraz z rozwojem technologii.
Wydanie przez amerykańską firmę otwartego modelu o wysokich zdolnościach sprawdzi, czy Waszyngton przedkłada krajową otwartość nad spójną ocenę. Zagraniczne wydanie ujawni ograniczenia dobrowolnego amerykańskiego procesu.
Administracja może odpowiedzieć poprzez badania, kontrole eksportowe, zasady zamówień publicznych lub przygotowania obronne, zamiast testów przedpremierowych. Każda z tych opcji ma inne konsekwencje dla innowacji i dostępu.
Kwestia otwartych modeli wpływa również na konkurencję. Dostawcy modeli zamkniętych mogą protestować, jeśli spotykają ich opóźnienia, podczas gdy rywale oferujący otwarte wagi rozpowszechniają porównywalne możliwości bez rządowej oceny.
Ten zarzut staje się silniejszy, jeśli ewaluatorzy mierzą ryzyko wydajnością, a nie możliwością kontroli. Model dostępny do pobrania może pozostawać dostępny bezterminowo po tym, jak jego pierwotny deweloper przestanie go wspierać.
Trzecim sygnałem będzie pierwszy poważny spór między urzędnikami a uczestniczącą firmą. To zdarzenie określi, co dobrowolność oznacza w praktyce.
Jeśli firma będzie kontynuować działania bez odwetu, ramy będą wyglądały na rzeczywiste konsultacje. Jeśli agencje federalne zastosują niezwiązaną z tym presję, krytycy nazwą to nieformalnym licencjonowaniem.
Przejrzysty proces rozstrzygania sporów mógłby ograniczyć to ryzyko. Urzędnicy mogliby przedstawić ogólny charakter zastrzeżeń, pozwolić firmie odpowiedzieć i wskazać podstawę prawną każdego działania rządu.
Ramy będą również wymagać spójnego traktowania firm. Trudne relacje polityczne Anthropic nie mogą stać się powodem do stosowania surowszych standardów niż wobec Google czy OpenAI.
Ta sama zasada działa w drugą stronę. Kontrakty rządowe firmy lub jej relacje z przedstawicielami władzy nie powinny ograniczać kontroli stosowanej wobec jej modelu.
Dla deweloperów i nabywców korporacyjnych te sygnały mają znaczenie, zanim zmieni się jakakolwiek ustawa. Dobrowolne oceny mogą wpływać na harmonogramy premier, dostępność funkcji i dostęp do zaawansowanych systemów.
Zespoły ds. bezpieczeństwa powinny oczekiwać większej liczby wdrożeń etapowych. Dostawcy mogą początkowo ograniczać narzędzia wysokiego ryzyka, monitorować wybranych użytkowników i rozszerzać dostęp po dodatkowych testach.
Zespoły produktowe powinny również odróżniać zapewnienia dostawcy od niezależnej oceny. Ocena rządowa może zwiększyć zaufanie, nie gwarantując bezpiecznego działania w każdym procesie pracy.
Pracownicy wiedzy odczują bardziej dyskretny wpływ. Ich organizacje mogą ograniczać dostęp do nowych modeli, dopóki zespoły ds. bezpieczeństwa, prawa i zamówień nie zrozumieją wyniku oceny.
To opóźnienie może komplikować wewnętrzną dokumentację, gdy zespoły porównują kilku dostawców. Przeszukiwalna baza wiedzy AI może zachować notatki z ocen, zmiany polityk i decyzje wdrożeniowe z tych przeglądów.
Spotkanie w Białym Domu nie stworzyło kompleksowego regulatora AI. Ustanowiło węższą umowę, w ramach której wybrane firmy udostępniają zaawansowane zamknięte modele do poufnych testów.
Ta umowa może identyfikować rzeczywiste zagrożenia cybernetyczne przed wdrożeniem. Może też koncentrować wpływ w rękach federalnych urzędników i największych laboratoriów.
Jej legitymizacja będzie zależeć od zauważalnej spójności. Rząd musi pokazać, że o jego reakcji decydują dowody techniczne, a nie polityka czy siła rynkowa.
Wyłączenie dotyczące otwartych wag pozostaje najtrudniejszą nierozwiązaną kwestią. Rozdziela systemy według metody dystrybucji, mimo że ich możliwości nadal się zbliżają.
W ciągu najbliższych trzech miesięcy warto obserwować premierę ocenionego modelu, wydanie otwartego modelu o wysokich zdolnościach oraz pierwszy publiczny spór dotyczący testów. Razem wydarzenia te pokażą, czy Anthropic, Google i OpenAI dołączyły do użytecznego procesu bezpieczeństwa, czy do nieopublikowanego systemu zatwierdzania.
Zespoły oceniające nowe produkty AI powinny dokumentować te sygnały przed zmianą wrażliwych procesów pracy. Należy zapytać, który model został przetestowany, co obejmowała ocena i kto kontroluje dostęp po wdrożeniu. Odpowiedzi są ważniejsze niż ogólny język dostawcy dotyczący bezpieczeństwa.
