Apel Altmana i Amodeia o bezpieczeństwo AI trafia do ONZ, ale rządy wciąż odrzucają jeden wspólny zbiór zasad

Sam Altman i Dario Amodei przedstawili swoją kampanię na rzecz bezpieczeństwa AI 15 członkom Rady Bezpieczeństwa, mimo głębokich sporów o to, kto powinien zarządzać zaawansowanymi modelami. Spotkanie 23 września wprowadziło OpenAI i Anthropic do organu Organizacji Narodów Zjednoczonych odpowiedzialnego za międzynarodowy pokój i bezpieczeństwo. Ujawniło też przeszkodę stojącą przed apelem Altmana i Amodeia o bezpieczeństwo AI: rządy zgadzają się, że ryzyka przekraczają granice, lecz odrzucają wspólną władzę.

Menedżerowie nie prosili dyplomatów o regulowanie zwykłych chatbotów. Skupili się na frontier AI, czyli najbardziej zaawansowanych systemach ogólnego przeznaczenia będących obecnie w fazie rozwoju. Ich obawy dotyczą modeli, które mogą pomagać w tworzeniu broni biologicznej, przeprowadzaniu cyberataków lub przyspieszaniu badań nad AI poza skutecznym nadzorem człowieka.

To rozróżnienie podnosi stawkę dla twórców, firm i instytucji publicznych. Globalny standard bezpieczeństwa mógłby zmienić sposób testowania, udostępniania, monitorowania modeli oraz łączenia ich z wrażliwymi systemami. Spotkanie nie przyniosło jednak żadnego wiążącego porozumienia, a Stany Zjednoczone wyraźnie sprzeciwiły się scentralizowanej kontroli międzynarodowej.

Ostrzeżenia Altmana i Amodeia dotyczące bezpieczeństwa AI trafiają do Rady Bezpieczeństwa

Spotkanie zmieniło forum debaty o bezpieczeństwie AI, lecz jeszcze nie zasady, które nim rządzą.

Altman, dyrektor generalny OpenAI, uczestniczył w posiedzeniu Rady Bezpieczeństwa w Nowym Jorku. Amodei, dyrektor generalny Anthropic, zwrócił się do rady zdalnie. Udział wzięli również CEO Hugging Face Clément Delangue oraz informatyk Yoshua Bengio.

Wystąpienie było nietypowe, ponieważ Rada Bezpieczeństwa zwykle koncentruje się na wojnach, sankcjach, proliferacji nuklearnej i zagrożeniach między państwami. Jej zaangażowanie przedstawiło zaawansowaną AI jako potencjalny problem bezpieczeństwa międzynarodowego, a nie wyłącznie kwestię polityki technologicznej.

Briefing ONZ opisał tę obawę jako zagrożenie, którego żaden kraj nie byłby w stanie samodzielnie powstrzymać. Bengio, współprzewodniczący niezależnego panelu naukowego ONZ ds. AI, ostrzegł, że systemy pozostające poza ludzką kontrolą nie będą respektować granic państwowych.

Amodei wskazał dwie główne kategorie ryzyka. Pierwszą było celowe niewłaściwe wykorzystanie, w tym możliwość użycia zaawansowanego modelu przez bioterrorystę do wsparcia rozwoju broni biologicznej. Drugą była utrata kontroli w miarę postępu możliwości modeli, szybszego niż zdolność twórców do ich zrozumienia lub ograniczenia.

„Jeśli AI będzie źle zarządzana, uważam nawet, że może stanowić zagrożenie dla całej ludzkości” — powiedział Amodei radzie, według Associated Press. Altman sformułował podobnie bezpośrednie ostrzeżenie: „Możemy stracić kontrolę nad przyszłością na rzecz AI”.

Te stwierdzenia mają znaczenie, ponieważ obie firmy nadal rozwijają i udostępniają coraz bardziej zaawansowane systemy. Ich liderzy nie opisywali odległej technologii tworzonej przez nieznanych konkurentów. Omawiali ryzyka związane z tym samym wyścigiem rozwoju frontier AI, któremu ich organizacje pomagają przewodzić.

Firmy wskazały również standardy międzynarodowe jako praktyczny punkt wyjścia. Wspólne oceny mogłyby mierzyć niebezpieczne możliwości przed udostępnieniem modelu. Wspólne raportowanie incydentów mogłoby ostrzegać rządy, gdy model zachowuje się nieoczekiwanie lub gdy złośliwi aktorzy naruszają system.

Kolejnym obszarem zainteresowania był ludzki nadzór nad zautomatyzowanymi badaniami AI. Zautomatyzowane badania AI oznaczają, że modele wykonują część pracy niezbędnej do projektowania, trenowania lub ulepszania innych modeli. Proces ten może przyspieszać rozwój, jednocześnie skracając czas dostępny na ocenę dokonywaną przez ludzi.

OpenAI oświadczyło, że spodziewa się, iż badania wspierane przez AI staną się głównym motorem postępu. W swoim planie koordynacji firma argumentowała, że międzynarodowa organizacja powinna pomagać koordynować wiodące działania w obszarze AI i ograniczać katastrofalne ryzyko. Poparła również skoordynowane spowolnienia, gdy bezpieczeństwo i społeczne mechanizmy ochronne nie nadążają za możliwościami modeli.

Propozycja nie określa, kto uruchamiałby takie spowolnienie, które modele by się kwalifikowały ani jak państwa miałyby weryfikować zgodność. Te nierozstrzygnięte szczegóły oddzielają szeroką deklarację obaw od egzekwowalnego systemu międzynarodowego.

Posiedzenie Rady Bezpieczeństwa oznaczało zatem uznanie instytucjonalne, a nie rozstrzygnięcie regulacyjne. Dyrektorzy firm AI zyskali forum zwykle zarezerwowane dla zagrożeń o konsekwencjach geopolitycznych. Rządy zachowały pełną swobodę w decydowaniu, co zrobić z ich ostrzeżeniami.

Dlaczego globalna współpraca w zakresie bezpieczeństwa AI stała się nagle pilna

Bezpośredni problem polega na tym, że cykle rozwoju AI postępują dziś szybciej, niż instytucje dyplomatyczne są w stanie wynegocjować i egzekwować wspólne zabezpieczenia.

Spotkanie nastąpiło po serii publicznych wezwań do ograniczenia tempa rozwoju frontier AI. Amodei argumentował niedawno, że firmy i rządy powinny spowalniać wzrost możliwości, gdy środki bezpieczeństwa nie są w stanie za nim nadążyć. Altman i inni liderzy branży wyrazili poparcie dla większej koordynacji.

Ograniczanie tempa nie musi oznaczać zakończenia badań nad AI. Oznacza ograniczanie szybkości poprawy możliwości w określonych warunkach ryzyka. Wiarygodna polityka wymagałaby mierzalnych progów, zewnętrznej oceny oraz konsekwencji dla twórców, którzy je ignorują.

Anthropic twierdzi, że obecne modele pozostają możliwe do opanowania dzięki istniejącym zabezpieczeniom. Firma spodziewa się jednak poważniejszych ryzyk wraz z rozwojem systemów. Jej podejście łączy testy przed udostępnieniem, zewnętrzne oceny, kontrole dostosowane do konkretnych możliwości oraz dobrowolną Responsible Scaling Policy.

Polityka ta wiąże silniejsze zabezpieczenia z dowodami, że model posiada niebezpieczne możliwości. Anthropic przyznaje również, że oceny nie potrafią niezawodnie wykryć każdej awarii przed wdrożeniem. Modele czasami rozpoznają warunki testowe, co może sprawiać, że kontrolowane oceny są mniej reprezentatywne dla rzeczywistego zachowania.

Wydanie Claude Opus 5.5 ilustrowało to napięcie. Anthropic opisał rozszerzone testy zachowania oraz zabezpieczenia dotyczące cyberbezpieczeństwa i biologii. Firma stwierdziła jednak również, że niezawodne wykrywanie każdej awarii pozostaje nierozwiązanym problemem w jej ocenie bezpieczeństwa.

OpenAI stoi przed tym samym fundamentalnym wyzwaniem. Bardziej zaawansowane systemy mogą wspierać badaczy bezpieczeństwa, ale mogą też skracać harmonogramy rozwoju. Model automatyzujący badania może pomóc odkrywać techniki alignmentu, jednocześnie przyspieszając kolejny cykl treningowy.

Ta pętla sprzężenia zwrotnego niepokoi decydentów, ponieważ zwykłe regulacje produktów zakładają względnie stabilną technologię. Ustawodawcy mogą badać kategorię produktu, definiować standardy i kontrolować zgodność. Zautomatyzowane badania mogą zmienić podstawową zdolność systemu, zanim proces ten się zakończy.

Ryzyko wykracza także poza laboratorium. Firmy coraz częściej łączą agentów AI z repozytoriami kodu, dokumentami wewnętrznymi, przeglądarkami i oprogramowaniem operacyjnym. Awaria modelu staje się poważniejsza, gdy system może wykonywać działania, a nie tylko generować tekst.

Agent mający dostęp do infrastruktury organizacji mógłby modyfikować kod, pobierać wrażliwe dane lub inicjować transakcje. Systemy te wymagają kontroli uprawnień, rejestrów audytowych i niezawodnej eskalacji do człowieka. Wymagają też, by zespoły utrzymywały aktualną bazę wiedzy AI, aby analizować decyzje i wspierające je dowody.

Wymiar międzynarodowy staje się widoczny, gdy jeden model obsługuje użytkowników w wielu jurysdykcjach. Poważna podatność wykryta w jednym kraju może wpłynąć na klientów w innych miejscach. Skradziony model może również zostać zmodyfikowany i ponownie wdrożony poza zabezpieczeniami pierwotnego twórcy.

Niewłaściwe wykorzystanie w biologii stwarza jeszcze trudniejszy problem koordynacyjny. Ograniczenia dostępu na jednym rynku mają ograniczoną wartość, jeśli porównywalny system pozostaje bez ograniczeń gdzie indziej. Skuteczne kontrole wymagają porozumienia w sprawie ocen, zaufanych użytkowników i obowiązków raportowania.

Cyberbezpieczeństwo rodzi podobny konflikt podwójnego zastosowania. Zaawansowane systemy mogą pomagać obrońcom szybciej znajdować luki w oprogramowaniu i je naprawiać. Te same możliwości mogą pomagać napastnikom odkrywać cele, generować exploity lub automatyzować kampanie włamań.

Państwa znajdują się zatem pod presją z dwóch stron. Zbyt powolne działanie może pozostawić niebezpieczne możliwości bez kontroli. Samodzielne działania mogą stawiać krajowe firmy w niekorzystnej sytuacji lub przenosić rozwój do jurysdykcji o słabszych zabezpieczeniach.

Ta presja wyjaśnia, dlaczego Altman i Amodei podkreślali współpracę zamiast odizolowanych krajowych zakazów. Ich argument zakłada, że ryzyka związane z frontier AI są wspólne, nawet gdy rządy konkurują gospodarczo i militarnie.

Propozycja staje się znacznie trudniejsza, gdy współpraca wymaga ujawniania wrażliwych informacji. Rządy będą opierać się udostępnianiu danych wywiadowczych dotyczących operacji cybernetycznych, obrony biologicznej lub systemów wojskowych. Firmy będą niechętne ujawnianiu szczegółów modeli, które zdradzają zastrzeżone techniki.

Funkcjonalny system musi koordynować bezpieczeństwo bez rozpowszechniania wiedzy potrzebnej do budowania bardziej niebezpiecznych modeli. Równowaga ta nie ma jeszcze ustalonego kształtu, a spotkanie Rady Bezpieczeństwa go nie zapewniło.

Prawdziwy spór dotyczy globalnych standardów kontra kontroli państwowej

Główny konflikt nie dotyczy tego, czy zaawansowana AI stwarza ryzyka; dotyczy tego, czy rządy oddadzą wystarczającą część kontroli, by wspólnie nimi zarządzać.

Stany Zjednoczone odrzuciły podczas spotkania scentralizowaną strukturę globalnego zarządzania. Doradca Białego Domu ds. nauki Michael Kratsios powiedział, że obawy dotyczące kontroli nie są powodem, by wstrzymywać rozwój lub tworzyć nową władzę międzynarodową.

Stanowisko to popiera odpowiedzialność krajową i współpracę techniczną bez przekazywania ostatecznej władzy ONZ. Odzwierciedla również strategiczną wartość, jaką Waszyngton przypisuje amerykańskiemu przywództwu w AI.

Chiny opowiadają się za większą rolą Organizacji Narodów Zjednoczonych i ostrzegają przed koncentracją zaawansowanych możliwości w rękach kilku państw lub firm. Poparcie dla zaangażowania ONZ nie gwarantuje jednak porozumienia w sprawie inspekcji, dostępu do modeli ani egzekwowania zasad.

Spór tworzy trudną asymetrię. Rządy mogą popierać szerokie zasady, takie jak ludzka kontrola, przejrzystość i raportowanie incydentów. Stają się ostrożniejsze, gdy zasady te wymagają zewnętrznych inspektorów lub ograniczeń dla krajowych laboratoriów.

Wspólny słownik techniczny stanowi jeden z możliwych pomostów. Państwa mogłyby definiować zdolności wysokiego ryzyka bez uzgadniania jednego regulatora. Mogłyby także ustanowić kompatybilne metody testowania, zachowując egzekwowanie zasad w krajowych systemach.

Oceny frontier AI sprawdzałyby, czy modele mogą wspierać zaawansowane operacje cybernetyczne, badania biologiczne, autonomiczną replikację lub rozwój AI. Twórcy mogliby raportować wyniki w ustandaryzowanych formatach wyznaczonym władzom krajowym.

Powiadamianie o incydentach stanowi kolejną ograniczoną formę współpracy. Stany Zjednoczone i Chiny miały podobno rozmawiać o mechanizmie dotyczącym zdarzeń AI wpływających na bezpieczeństwo narodowe. Taki kanał mógłby przypominać istniejące mechanizmy komunikacji kryzysowej bez tworzenia globalnego organu licencyjnego.

Środki te nadal pozostawiałyby bez odpowiedzi kluczowe pytania. Rządy musiałyby określić, które incydenty wymagają powiadomienia i jak szybko firmy muszą je zgłaszać. Potrzebowałyby również zabezpieczeń przed fałszywymi zgłoszeniami, strategicznym ukrywaniem informacji i oskarżeniami motywowanymi politycznie.

Weryfikacja jest najtrudniejszą kwestią. Państwo może obiecać, że jego deweloperzy przestrzegają progów bezpieczeństwa, lecz konkurenci potrzebują dowodów. Pełny dostęp do systemów szkoleniowych ujawniłby tajemnice handlowe i informacje dotyczące bezpieczeństwa narodowego.

Zewnętrzni ewaluatorzy mogą zmniejszyć to napięcie, jeśli wszystkie strony im ufają. Niezależne organizacje testujące mogłyby badać konkretne zdolności w bezpiecznych warunkach. Mogłyby publikować ustalenia dotyczące ryzyka bez ujawniania wag modeli lub niebezpiecznych szczegółów technicznych.

Jednak zaufanie do ewaluatorów samo w sobie ma wymiar polityczny. Laboratorium akceptowane przez Stany Zjednoczone może nie zostać zaakceptowane przez Chiny czy Rosję. Organ testujący powiązany z ONZ może spotkać się z oporem rządów odrzucających scentralizowany nadzór.

Rada Bezpieczeństwa ma również ograniczenia strukturalne. Jej pięciu stałych członków dysponuje prawem weta i bezpośrednio rywalizuje o wpływy wojskowe oraz technologiczne. Wiążący reżim dotyczący AI wymagałby współpracy państw, które już teraz różnią się w kwestiach konfliktów zbrojnych, sankcji i operacji cybernetycznych.

Nie oznacza to, że dyplomacja jest bezcelowa. Ograniczanie ryzyka nuklearnego rozwijało się poprzez stopniowe porozumienia, systemy inspekcji i kanały komunikacji. Zarządzanie AI może podążyć podobną drogą, bez dokładnego kopiowania kontroli zbrojeń nuklearnych.

AI różni się tym, że leżąca u jej podstaw technologia ma w dużej mierze charakter komercyjny i programowy. Modele można kopiować, modyfikować lub uzyskiwać do nich dostęp za pośrednictwem usług chmurowych. Infrastruktura szkoleniowa jest widoczna na dużą skalę, ale wdrożone oprogramowanie może rozprzestrzeniać się szybciej niż materiał nuklearny.

Modele o otwartych wagach tworzą kolejny konflikt. Ich parametry można pobierać i modyfikować, co wspiera badania i szerszy dostęp. Ta sama otwartość utrudnia jednak scentralizowane wycofanie lub ciągłe monitorowanie po publikacji.

Udział Delangue’a postawił tę kwestię obok agendy bezpieczeństwa modeli zamkniętych. Hugging Face reprezentuje ekosystem ceniący dostęp, badania i rozproszony rozwój. Jego obecność podważała założenie, że skoncentrowanie kontroli w kilku dużych laboratoriach automatycznie zapewnia najbezpieczniejszy rezultat.

Wynikający z tego wybór polityczny nie sprowadza się po prostu do otwartej albo zamkniętej AI. Rządy muszą porównać ryzyko nadużyć związane z szeroko dostępnymi modelami z ryzykiem koncentracji tworzonym przez kilku prywatnych strażników dostępu.

Dlatego propozycja bezpieczeństwa AI Altman–Amodei wywiera presję zarówno na rządy, jak i deweloperów. Państwa muszą zdecydować, ile suwerenności wymienić na koordynację. Firmy muszą zaakceptować nadzór, który może ograniczać produkty, harmonogramy i strategię konkurencyjną.

Firmy wzywające do zasad nadal kontrolują wyścig

Wezwania do publicznego nadzoru są wiarygodne tylko wtedy, gdy OpenAI i Anthropic akceptują ograniczenia także wtedy, gdy stają się one dla nich komercyjnie niewygodne.

Obie firmy intensywnie inwestują w rozwój bardziej zaawansowanych modeli. Konkurują o klientów korporacyjnych, deweloperów, badaczy, moce obliczeniowe i strategiczne relacje z rządami. Dobrowolne spowolnienie może się nie powieść, jeśli którakolwiek organizacja uzna, że rywal będzie kontynuował działania.

Ten problem bodźców wykracza poza OpenAI i Anthropic. Google DeepMind, Meta, xAI, chińskie laboratoria i nowsi deweloperzy działają w różnych strukturach. Niektórzy udostępniają wagi modeli, podczas gdy inni ograniczają dostęp za pośrednictwem hostowanych produktów.

Porozumienie dotyczące bezpieczeństwa obejmujące tylko dwie firmy miałoby zatem ograniczony zasięg. Mogłoby poprawić ich praktyki, jednocześnie przesuwając przewagę w stronę firm spoza porozumienia. Wiarygodne ramy potrzebują reguł opartych na zdolnościach, które obowiązują niezależnie od tożsamości korporacyjnej.

Prawo antymonopolowe wprowadza kolejną komplikację. Bezpośrednia koordynacja między wiodącymi konkurentami może rodzić obawy o zmowę. Nadzór rządowy lub formalne wyłączenie prawne może być konieczne, aby firmy mogły omawiać limity rozwoju i harmonogramy publikacji.

Nawet wtedy koordynacja w zakresie bezpieczeństwa może chronić uznane firmy przed konkurencją. Duże laboratoria łatwiej absorbują koszty ewaluacji, bezpieczeństwa i raportowania niż mniejsi deweloperzy. Zasady pisane przez obecnych liderów mogą stać się barierami utrzymującymi ich pozycję rynkową.

Krytycy w konsekwencji kwestionują, czy firmy pracujące nad modelami granicznymi powinny pomagać w projektowaniu własnego nadzoru. Ich wiedza techniczna jest niezbędna, lecz ich interesy finansowe są nieuniknione. Rządy potrzebują w tym procesie niezależnych naukowców, grup społeczeństwa obywatelskiego, specjalistów ds. bezpieczeństwa i mniejszych deweloperów.

Własne deklaracje firm dotyczące bezpieczeństwa również wymagają ostrożnego traktowania. Anthropic twierdzi, że jego testy obejmują wiele poważnych zagrożeń, ale przyznaje, że obraz pozostaje niepełny. OpenAI popiera szeroki dostęp i rozproszone korzyści, jednocześnie prowadząc jedną z najbardziej wpływowych platform modelowych na świecie.

Zewnętrzna ewaluacja może sprawdzać konkretne twierdzenia, jednak żaden benchmark nie dowiedzie, że system pozostanie bezpieczny w każdym środowisku. Rzeczywiste wdrożenia obejmują nieoczekiwane prompty, dostęp do narzędzi, zachowania użytkowników i interakcje z innym oprogramowaniem.

Trudność rośnie w przypadku długotrwale działających agentów. Krótka ewaluacja laboratoryjna może nie ujawnić, jak model zachowuje się podczas zadania trwającego wiele dni. Drobne błędy mogą się kumulować, gdy agent pisze kod, wywołuje zewnętrzne usługi i deleguje pracę.

Organizacje powinny zatem traktować ewaluacje modeli jako jedną warstwę kontroli, a nie certyfikat bezpieczeństwa. Granice uprawnień, przegląd człowieka, monitorowanie i procedury wyłączenia pozostają niezbędne. Zespoły potrzebują również zapisów pokazujących, czego agent próbował dokonać i do jakich danych uzyskał dostęp.

Spór o zastosowania wojskowe stanowi kolejny test. Rządy chcą wykorzystywać zaawansowane modele do analizy wywiadowczej, operacji cybernetycznych, planowania i systemów autonomicznych. Firmy mogą nakładać ograniczenia, które urzędnicy obrony uznają za niezgodne z potrzebami operacyjnymi.

Anthropic publicznie sprzeciwiał się wykorzystywaniu swoich modeli do masowej krajowej inwigilacji oraz w pełni autonomicznej broni bez odpowiednich zabezpieczeń. Firma twierdzi, że obecne systemy graniczne nie są wystarczająco niezawodne, by wybierać i atakować cele bez znaczącej kontroli człowieka.

To stanowisko pokazuje, jak zasady bezpieczeństwa mogą kolidować z zamówieniami rządowymi. Agencja bezpieczeństwa narodowego może żądać szerokiego, zgodnego z prawem użycia, podczas gdy deweloper nalega, by niektóre zastosowania pozostały niedopuszczalne.

Standardy międzynarodowe zwielokrotniłyby te różnice zdań. Państwa nie podzielają jednej definicji legalnej inwigilacji, uzasadnionych działań wojskowych ani wystarczającego nadzoru człowieka. Reguła chroniąca swobody obywatelskie w jednej jurysdykcji może zostać gdzie indziej odrzucona jako zagraniczna ingerencja.

Firmy muszą również wyjaśnić, co spowolnienie oznacza w kategoriach operacyjnych. Czy opóźniłyby proces szkolenia, odroczyły wdrożenie, ograniczyły narzędzia czy limitowały dostęp do ukończonego modelu? Każdy wybór inaczej wpływa na ryzyko.

Spowolnienie publicznej publikacji niekoniecznie spowalnia wewnętrzny rozwój. Ograniczenie hostowanego produktu nie zapobiega kradzieży ani niezależnemu powieleniu. Wstrzymanie jednej zdolności może przekierować badania na inną drogę o podobnych konsekwencjach.

Znaczące zobowiązanie wymaga wyzwalacza, mierzalnej reakcji i niezależnej weryfikacji. Potrzebuje też warunku wyjścia wyjaśniającego, kiedy rozwój może zostać wznowiony. Bez tych elementów tempo pozostaje zasadą, a nie egzekwowalnym mechanizmem bezpieczeństwa.

Sceptycyzm jest zatem uzasadniony, ale nie unieważnia ostrzeżenia. Firma może mieć bodźce finansowe, a mimo to wskazywać rzeczywiste ryzyko techniczne. Wyzwaniem dla polityki jest przekształcenie wiedzy osób z wewnątrz w zasady, których te osoby nie mogą samodzielnie kontrolować.

Czego potrzebowałaby współpraca w zakresie bezpieczeństwa AI, aby działać

Praktyczne porozumienie powinno zaczynać się od wąskich obowiązków technicznych, które rządy mogą weryfikować bez tworzenia uniwersalnego regulatora AI.

Pierwszym obowiązkiem powinna być ustandaryzowana ewaluacja zdolności. Państwa nie potrzebują identycznych systemów politycznych, aby testować, czy model wspiera zaawansowane cyberataki, nadużycia biologiczne lub zautomatyzowane badania nad AI.

Testy powinny wykorzystywać wspólne definicje i bezpieczne procedury. Wyniki powinny wskazywać poziomy ryzyka bez publikowania instrukcji umożliwiających nadużycia. Niezależni ewaluatorzy powinni otrzymać wystarczający dostęp, aby móc zakwestionować twierdzenia deweloperów.

Drugim obowiązkiem powinno być obowiązkowe zgłaszanie incydentów. Deweloperzy powinni ujawniać poważne kradzieże modeli, nieuprawnione replikacje, awarie mechanizmów zabezpieczających i niebezpieczne zachowania w określonym terminie.

Zasady raportowania muszą odróżniać zwykłe błędy produktowe od zdarzeń mających konsekwencje dla bezpieczeństwa międzynarodowego. Błędna odpowiedź chatbota konsumenckiego nie jest równoważna systemowi, który autonomicznie wykorzystuje infrastrukturę.

Wspólna taksonomia incydentów pomogłaby regulatorom porównywać zdarzenia między firmami i państwami. Mogłaby opisywać wagę zdarzenia, dotknięte nim zdolności, dostęp do modelu, interwencję człowieka oraz potencjał szkód transgranicznych.

Trzeci obowiązek powinien obejmować zautomatyzowane badania nad AI. Deweloperzy powinni dokumentować, kiedy modele przyczyniają się do projektowania modeli, generowania ewaluacji, kodu szkoleniowego lub planowania badań. Zatwierdzenie przez człowieka powinno pozostać obowiązkowe w przypadku działań, które istotnie przyspieszają rozwój zdolności granicznych.

Wymóg ten odnosi się do pętli sprzężenia zwrotnego, która niepokoi Altmana i Amodeiego. Nie zakazywałby badań wspomaganych przez AI. Uczyniłby przyspieszenie widocznym, zanim firmy uzależnią się od procesów, których ludzie nie są w stanie odpowiednio audytować.

Czwarty obowiązek powinien chronić infrastrukturę modeli. Polityka bezpieczeństwa ma niewielką wartość, jeśli atakujący mogą kraść wagi, naruszać systemy wdrożeniowe lub wydobywać zdolności poprzez zapytania na dużą skalę.

Wymogi bezpieczeństwa mogłyby obejmować dostęp pracowników, zarządzanie poświadczeniami, środowiska obliczeniowe, testy zewnętrzne i planowanie reakcji. Najostrzejsze kontrole powinny dotyczyć modeli przekraczających określone progi zdolności.

Piąty obowiązek powinien ustanowić zaufane kanały komunikacji między głównymi mocarstwami. Rządy potrzebują sposobu wzajemnego powiadamiania się o poważnych incydentach AI bez publicznego ujawniania wrażliwych szczegółów operacyjnych.

Takie kanały nie rozwiązałyby sporów politycznych. Mogłyby zapobiec błędnemu odczytaniu zdarzenia cybernetycznego wspomaganego przez AI lub awarii modelu jako celowej agresji państwowej.

Ograniczone porozumienie oparte na tych obowiązkach różniłoby się od globalnego organu odrzuconego przez Waszyngton. Krajowi regulatorzy mogliby egzekwować krajową zgodność, korzystając jednocześnie ze wspólnych standardów technicznych.

Ten model federacyjny nadal staje przed ryzykiem obchodzenia zasad. Deweloperzy mogliby szkolić modele w jurysdykcjach o słabszych regułach lub dzielić pracę między podmioty powiązane. Dostawcy chmurowi mogliby pomóc, stosując wymogi bezpieczeństwa i raportowania wobec dużych klientów szkoleniowych.

Zarządzanie mocą obliczeniową daje pole manewru, ponieważ szkolenie modeli granicznych wymaga znacznej infrastruktury. Progi obliczeniowe mogą jednak stracić aktualność wraz z poprawą algorytmów. Reguły muszą uwzględniać zdolność, a nie opierać się wyłącznie na wykorzystaniu sprzętu.

Modele otwarte wymagają odrębnego podejścia. Ograniczenie całego otwartego rozwoju zdławiłoby uzasadnione badania i skoncentrowało władzę. Ignorowanie publikacji modeli o wysokich zdolnościach uniemożliwiłoby aktualizowanie zabezpieczeń po ich rozpowszechnieniu.

Podejście warstwowe mogłoby odróżniać modele szeroko użyteczne od systemów o wykazanych niebezpiecznych zdolnościach. Obciążenia powinny rosnąć wraz z dowodami ryzyka, a nie z wielkością dewelopera czy modelem biznesowym.

Zasada ta chroni również mniejsze firmy. Wymogi zgodności powinny skupiać się na działaniach tworzących poważne ryzyko zewnętrzne. Rutynowe produkty programistyczne nie powinny podlegać takim samym obowiązkom jak laboratoria pracujące nad modelami granicznymi.

Znaczenie ma również globalna reprezentacja. Wiele państw korzysta z usług AI, nie kontrolując wiodących modeli ani głównej infrastruktury obliczeniowej. Nadal stają one wobec zakłóceń na rynku pracy, manipulacji informacją, ryzyka cybernetycznego i zależności od zagranicznych dostawców.

Państwa te potrzebują udziału w dyskusjach o standardach, nawet jeśli nie prowadzą laboratoriów pracujących nad modelami granicznymi. W przeciwnym razie zarządzanie AI stanie się porozumieniem kilku firm i potężnych państw, których systemy wpływają na wszystkich pozostałych.

Organizacja Narodów Zjednoczonych może zapewnić takie forum, nie stając się jedynym regulatorem. Jej panele naukowe mogą syntetyzować dowody, a organy dyplomatyczne mogą ustanawiać normy komunikacji. Instytucje krajowe mogą zachować uprawnienia egzekucyjne.

Taki układ jest mniej spektakularny niż globalna agencja licencyjna. Jest też bardziej prawdopodobny w najbliższej przyszłości. Posiedzenie Rady Bezpieczeństwa pokazało, że rządy są gotowe rozmawiać o wspólnych ryzykach, zanim zaakceptują wspólną kontrolę.

Trzy sygnały pokażą, czy apel ONZ ma znaczenie

Kolejnym sprawdzianem będzie to, czy przemówienia przełożą się na weryfikowalne zobowiązania, a nie na kolejny cykl ostrzeżeń, po którym nastąpią szybsze premiery modeli.

Pierwszym sygnałem będzie pisemne porozumienie między laboratoriami pracującymi nad zaawansowanymi modelami. Powinno ono określać próg możliwości, niezależną ocenę oraz reakcję wymaganą, gdy model przekroczy ten próg.

Oświadczenie popierające odpowiedzialną AI niewiele by wniosło. Użyteczny pakt precyzowałby, czy firmy opóźniają trenowanie, ograniczają wdrożenia czy rozszerzają zewnętrzne testy. Wskazywałby również, kto weryfikuje przestrzeganie tych zasad.

Jeśli OpenAI, Anthropic, Google DeepMind, xAI, Meta oraz czołowi chińscy twórcy przyjmą zgodne zobowiązania, apel Rady Bezpieczeństwa zyska wiarygodność. Porozumienie ograniczone do dobrowolnych deklaracji osłabiłoby argument, że branża potrafi samodzielnie się koordynować.

Drugim sygnałem będą działania rządów dotyczące zgłaszania incydentów i standardów oceny. Stany Zjednoczone nie muszą popierać globalnego regulatora, aby wymagać od krajowych laboratoriów zgłaszania zdarzeń o wysokiej wadze.

Chiny, Unia Europejska, Wielka Brytania i inne ośrodki AI mogą przyjąć zgodne wymogi. Zbieżność ich systemów stworzyłaby praktyczny międzynarodowy standard bez jednej scentralizowanej władzy.

Niekompatybilne krajowe regulacje przyniosłyby odwrotny skutek. Twórcy mogliby przenosić pracę do mniej restrykcyjnych jurysdykcji, podczas gdy rządy otrzymywałyby różne informacje o podobnych zagrożeniach.

Trzecim sygnałem będzie formalny kanał bezpieczeństwa USA–Chiny. Dwie wiodące potęgi AI rywalizują o chipy, talenty, modele i zastosowania wojskowe. Ich udział jest niezbędny dla każdego systemu zajmującego się transgranicznym ryzykiem związanym z zaawansowaną AI.

Mechanizm powiadamiania o poważnych incydentach AI byłby skromnym, ale znaczącym początkiem. Pokazałby, że strategiczni konkurenci potrafią oddzielić niektóre wspólne zagrożenia od szerszej rywalizacji technologicznej.

Brak takiego kanału ujawniłby ograniczenia kampanii Altman Amodei na rzecz bezpieczeństwa AI. Firmy mogłyby poprawiać wewnętrzne zabezpieczenia, lecz nie byłyby w stanie samodzielnie rozwiązać problemu koordynacji geopolitycznej.

Czytelnicy powinni także obserwować, jak firmy zachowują się po swoich ostrzeżeniach. Szybka seria premier zwiększających możliwości bez wyraźniejszych progów pogłębiłaby sceptycyzm. Więcej zewnętrznych ocen i przejrzyste raportowanie incydentów wzmocniłyby ich argumentację.

Firmy nie muszą czekać na traktat. Mogą zinwentaryzować uprawnienia agentów, zachowywać dzienniki decyzji, wymagać ludzkiego przeglądu działań o dużym znaczeniu oraz testować odzyskiwanie sprawności po awarii. Kroki te ograniczają ekspozycję na ryzyko, nawet gdy globalna polityka pozostaje nieustalona.

Twórcy powinni śledzić standardy oceny i propozycje raportowania, ponieważ mogą one przekształcić projektowanie produktów. Wymogi wprowadzane dla laboratoriów pracujących nad zaawansowanymi modelami często wpływają na platformy chmurowe, zakupy przedsiębiorstw, ubezpieczenia i audyty klientów.

Pracownicy umysłowi powinni się tym interesować, ponieważ zasady bezpieczeństwa określają, do czego systemy AI mogą uzyskiwać dostęp i co mogą robić. Silne zabezpieczenia mogą ograniczać niektóre zadania, ale mogą też sprawić, że bezpieczniej będzie łączyć agentów z wrażliwymi informacjami w miejscu pracy.

Wystąpienie w ONZ nadało bezpieczeństwu AI wyższy profil polityczny. Nie rozstrzygnęło jednak, kto tworzy zasady, kto kontroluje modele ani kto może nakazać spowolnienie.

Ta nierozstrzygnięta kwestia władzy jest centralnym napięciem tej historii. Altman i Amodei wezwali rządy do współpracy, zanim zaawansowane systemy prześcigną istniejące mechanizmy kontroli. Rządy odpowiedziały, uznając zagrożenie, jednocześnie broniąc własnej władzy.

Najbliższe jeden do trzech miesięcy powinny pokazać, czy ta luka się zmniejszy. Warto obserwować pakt laboratoriów, zgodne krajowe zasady raportowania oraz kanał incydentów USA–Chiny. Jeśli żaden z nich nie powstanie, przemówienia pozostaną ostrzeżeniami wygłoszonymi przed instytucją, której brakowało porozumienia, by działać.