Wezwanie Antónia Guterresa do regulacji AI zderza się z globalnym wyścigiem bez arbitra

António Guterres wykorzystał swoje ostatnie przemówienie na Zgromadzeniu Ogólnym ONZ, by zażądać międzynarodowych zabezpieczeń dotyczących AI, mimo narastającej rywalizacji geopolitycznej i komercyjnej. W wystąpieniu z 22 września sztuczną inteligencję umieścił obok wojny, nierówności i zmiany klimatu jako cztery kluczowe sprawdziany globalnej siły.

Propozycja regulacji AI przedstawiona przez Antónia Guterresa wykracza poza kolejny apel o zasady etyczne. Wezwał do odpowiedzialnego tempa rozwoju, wspólnych testów bezpieczeństwa, niezależnego nadzoru i wielostronnych ram zarządzania ryzykiem związanym z AI. Przekonywał też, że decyzje o życiu i śmierci muszą pozostać pod ludzką kontrolą.

To żądanie zderza się ze strukturą rynku AI. Niewielka grupa firm i państw kontroluje najbardziej zaawansowane modele, infrastrukturę obliczeniową oraz informacje o bezpieczeństwie. Każdy uczestnik ma bodźce, by przyspieszać, podczas gdy proponowane instytucje globalne nie mogą wymusić ujawniania informacji ani spowolnić rozwoju.

Guterres przedstawił więc zarządzanie AI jako rywalizację między skoordynowanym nadzorem a konkurencyjnym przyspieszeniem. Jego historycznym odniesieniem nie był standard technologiczny ani prawo o prywatności. Była nim kontrola zbrojeń w czasie zimnej wojny, gdy strategiczni rywale stworzyli mechanizmy komunikacji i weryfikacji, ponieważ błędna kalkulacja zagrażała wszystkim.

Wezwanie Antónia Guterresa do regulacji AI przechodzi od zasad do nadzoru

Guterres zaapelował do rządów o przekształcenie szerokich zasad dotyczących AI w międzynarodowy system zdolny badać ryzyka, koordynować reakcje i zachowywać ludzką kontrolę.

Przemawiając podczas otwarcia 81. sesji Zgromadzenia Ogólnego w Nowym Jorku, Guterres określił technologię jako czwarty wielki sprawdzian siły. Przekonywał, że siła coraz częściej wynika z danych, mocy obliczeniowej i algorytmów, a nie wyłącznie z terytorium, przemysłu czy finansów.

Pełne przemówienie ONZ wskazało dwa natychmiastowe kroki. Rządy powinny stworzyć warunki dla odpowiedzialnego tempa rozwoju AI i opracować dodatkowe zabezpieczenia wobec pojawiających się zagrożeń. Powinny także dążyć do ustanowienia wielostronnych ram zarządzania ryzykiem AI z wiarygodnym, niezależnym nadzorem.

„Odpowiedzialne tempo rozwoju” nie oznacza jeszcze wiążącego międzynarodowego limitu rozwoju modeli. W przemówieniu nie wskazano progu wstrzymania trenowania, ograniczenia wdrażania ani wymogu uzyskania zgody rządowej. Wyznaczono raczej kierunek negocjacji między rządami, laboratoriami, badaczami i społeczeństwem obywatelskim.

Propozycja nadzoru jest bardziej konkretna niż ogólne wezwanie do współpracy. Ramy zarządzania ryzykiem mogłyby ujednolicić sposób, w jaki państwa identyfikują zagrożenia, oceniają zaawansowane systemy, rejestrują incydenty i decydują o zastosowaniu dodatkowych zabezpieczeń. Niezależny nadzór miałby rozwiązać konflikt powstający wtedy, gdy deweloperzy oceniają systemy, które sami chcą także udostępnić.

Guterres powiązał te propozycje z trzema instytucjami utworzonymi już w procesie ONZ. Global Digital Compact zapewnia wspólne zasady. Global Dialogue on AI Governance daje rządom i innym uczestnikom stałe forum. Independent International Scientific Panel on AI dostarcza wspólnych ocen naukowych.

Państwa członkowskie przyjęły Compact w 2024 roku. Następnie Zgromadzenie Ogólne ustanowiło Scientific Panel i Global Dialogue rezolucją 79/325 w sierpniu 2025 roku. Rezolucję przyjęto bez głosowania, co pokazuje szerokie poparcie dla dialogu, lecz nie tworzy międzynarodowego regulatora AI.

Powstały system oddziela dowody od decyzji politycznych. Liczący 40 członków Scientific Panel ocenia możliwości, szanse i ryzyka. Rządy oraz inni interesariusze mogą następnie rozważać te dowody za pośrednictwem Global Dialogue.

Guterres chce, by następny etap połączył te funkcje. Wspólne dowody miałyby kształtować wspólne praktyki dotyczące ryzyka, a nadzór sprawdzałby, czy uczestniczące instytucje ich przestrzegają. W przemówieniu nie określono jednak uprawnień egzekucyjnych, kar ani obowiązkowego dostępu do systemów firm.

To rozróżnienie ma znaczenie. ONZ stworzyła architekturę do dyskusji i oceny naukowej. Nie stworzyła organu zdolnego skontrolować każdy model graniczny ani zapobiec jego udostępnieniu.

Wystąpienie podniosło jednak poziom ambicji. Sekretarz generalny ONZ nie pytał już, czy społeczność międzynarodowa potrzebuje zarządzania AI. Pytał państwa, jak zaprojektować mechanizmy operacyjne.

Presja spada na liderów AI dysponujących największą ilością informacji

Propozycja nakłada największą odpowiedzialność na rządy i firmy kontrolujące zaawansowane modele, duże klastry obliczeniowe i prywatne dowody dotyczące bezpieczeństwa.

Guterres powiedział, że rządy dysponujące najsilniejszymi możliwościami w zakresie AI ponoszą największą odpowiedzialność wobec ludzkości. Wezwał wiodące kraje do ustanowienia kanałów dialogu, przejrzystości, zaufania i współpracy mimo ich strategicznej rywalizacji.

Takie ujęcie stawia Stany Zjednoczone i Chiny w centrum debaty. Oba państwa chcą korzyści gospodarczych, wojskowych i naukowych związanych z zaawansowaną AI. Żadne nie chce, by drugie uzyskało decydującą przewagę, podczas gdy ono samo akceptuje jednostronne ograniczenia.

To samo napięcie dotyczy laboratoriów. Firma opóźniająca premierę w celu przeprowadzenia dodatkowych testów ryzykuje utratę klientów, deweloperów, inwestycji i talentów technicznych. Firma publikująca informacje o słabościach bezpieczeństwa może też ujawnić własność intelektualną lub podatności, które inni mogą wykorzystać.

Powstaje w ten sposób problem wspólnego działania. Każdy uczestnik odnosi korzyść, jeśli branża uniknie poważnych awarii. Każdy może jednak nadal zyskać indywidualną przewagę, działając przed ukończeniem przez konkurentów równoważnych zabezpieczeń.

Guterres ostrzegał tydzień wcześniej, że świat nie może sobie pozwolić na „wyścig na dno w kwestii bezpieczeństwa AI”. Według relacji przed Zgromadzeniem Ogólnym ONZ, uznał działania krajowe za niezbędne, lecz globalną koordynację za konieczną.

Uwagi te pojawiły się po publicznej dyskusji o skoordynowaniu spowolnienia przez wiodące firmy AI i rządy. Część liderów branży poparła silniejsze środki ostrożności, podczas gdy inni sprzeciwiali się szerokim twierdzeniom o katastrofalnym zagrożeniu. Konkurencja komercyjna i strategiczna nieufność pozostawały głównymi przeszkodami.

Odpowiedzią sekretarza generalnego jest wspólna infrastruktura informacji o ryzyku. Wiodące kraje wymieniałyby dowody dotyczące pojawiających się zagrożeń, współpracowały przy testach i dążyły do wspólnych zabezpieczeń. Środki te mogłyby zmniejszyć ryzyko, że jedna jurysdykcja stanie się słabym ogniwem.

Wspólny proces oceny mógłby również pomóc firmom. Deweloperzy mierzą się obecnie z nakładającymi się wymogami na różnych rynkach, w tym z odmiennymi zasadami dokumentacji, przejrzystości, prywatności i bezpieczeństwa. Kompatybilne oceny mogłyby ograniczyć tarcia regulacyjne bez zmuszania każdej jurysdykcji do przyjęcia identycznych przepisów.

Kompatybilność nie jest jednak tym samym co jednolitość. Państwa różnią się w podejściu do wolności słowa, inwigilacji, bezpieczeństwa narodowego, konkurencji i dostępu państwa do systemów korporacyjnych. Różnice te wpływają zarówno na definicję szkody związanej z AI, jak i na dopuszczalną reakcję.

Mniejsze państwa odczuwają inną presję. Większość z nich nie kontroluje laboratoriów granicznych ani infrastruktury obliczeniowej potrzebnej do trenowania czołowych systemów. Mimo to ich mieszkańcy mogą doświadczać zakłóceń na rynku pracy, dezinformacji, oszustw, dyskryminacji i naruszeń prywatności powodowanych przez modele stworzone gdzie indziej.

Global Digital Compact odnosi się do tej nierównowagi, obiecując pełną reprezentację krajom rozwijającym się. Promuje również budowanie potencjału, interoperacyjne standardy, ludzki nadzór i współpracę międzynarodową.

Guterres uczynił włączenie częścią argumentacji dotyczącej bezpieczeństwa. Zasady projektowane wyłącznie przez państwa produkujące AI mogłyby pomijać języki, warunki gospodarcze i instytucje publiczne w innych miejscach. Uniwersalne forum daje krajom dotkniętym skutkami głos, nawet jeśli nie mają one wpływu na twórców modeli.

Presja jest więc nierówna. Liderzy AI byliby proszeni o większą otwartość, większą koordynację i zaakceptowanie kontroli. Inne kraje miałyby budować zdolności regulacyjne i przekładać wspólne zasady na krajowe egzekwowanie prawa.

Globalna koordynacja zderza się z wyścigiem zbrojeń AI

Głównym konfliktem nie jest innowacja przeciw regulacji. Jest nim koordynacja przeciw bodźcom nagradzającym szybkość, tajność i strategiczną przewagę.

Guterres porównał obecne wyzwanie z nuklearnym ryzykiem zimnej wojny. Rywalizujące mocarstwa ostatecznie stworzyły kanały komunikacji i praktyki weryfikacyjne, ponieważ żadna ze stron nie mogła bezpiecznie ignorować eskalacji ani nieporozumień.

Porównanie wyjaśnia proponowany przez niego mechanizm, ale ma ograniczenia. Programy nuklearne zależą od wyspecjalizowanych materiałów i dużych fizycznych instalacji. Zaawansowana AI zależy od zasobów obliczeniowych, oprogramowania, danych i talentów badawczych rozproszonych między firmami oraz krajami.

Systemy AI zmieniają się też szybciej niż większość procesów traktatowych. Model może przejść od testów do globalnego wdrożenia za pośrednictwem usług chmurowych i interfejsów oprogramowania. Użytkownicy mogą dostosowywać systemy ogólnego przeznaczenia do celów, których ich pierwotni twórcy nie przewidzieli.

Technologia jest już obecna w miejscach pracy, szkołach, szpitalach, usługach finansowych, agencjach publicznych i planowaniu wojskowym. Regulacja nie może po prostu zapobiec wejściu AI do społeczeństwa. Rządy muszą zarządzać systemami, które są już wdrażane, podczas gdy wciąż pojawiają się nowe możliwości.

To sprawia, że testowanie i raportowanie incydentów są bardziej praktycznymi punktami wyjścia niż kompleksowe globalne prawo dotyczące AI. Państwa mogłyby uzgodnić wspólne kategorie oceny bez porozumienia w sprawie każdej polityki. Mogłyby również dzielić się informacjami o poważnych awariach, zachowując uzasadnione ograniczenia bezpieczeństwa i handlowe.

Rezolucja Zgromadzenia Ogólnego z 2025 roku utworzyła coroczny Global Dialogue, a nie organizację traktatową. Rezolucja dotycząca zarządzania AI daje rządom, branży, naukowcom i społeczeństwu obywatelskiemu miejsce do porównywania podejść. Nie przekazuje ONZ krajowych uprawnień regulacyjnych.

Ten projekt odzwierciedla realia polityczne. Rządy pozostają odpowiedzialne za prawo w swoich jurysdykcjach. ONZ może przedstawiać dowody, zwoływać negocjacje i wspierać kompatybilne standardy, lecz państwa członkowskie decydują, co staje się wiążące.

Dlatego nadal znaczenie będą mieć przepisy regionalne i krajowe. Rządy mogą wprowadzać wymogi dokumentacyjne, ograniczenia sektorowe, zasady zamówień publicznych, standardy odpowiedzialności oraz ochronę dzieci. Mogą też wymagać testowania systemów wdrażanych w obszarach wrażliwych.

Wielostronne ramy znajdowałyby się ponad tymi systemami jako warstwa koordynacyjna. Ich wartość zależałaby od tego, czy regulatorzy uznawaliby porównywalne testy i dzielili się istotnymi ustaleniami. Bez takiej współpracy firmy mogłyby mierzyć się z rozdrobnionymi obowiązkami, podczas gdy rządy zachowywałyby niepełne informacje.

Guterres wyznaczył też granicę dla autonomicznej broni. Powiedział, że decyzje o życiu i śmierci nigdy nie mogą zostać przekazane maszynom, i odrzucił przyszłość z „robotami zabójcami”. Kwestia ta częściowo wykracza poza niemilitarny zakres Global Digital Compact, co czyni odrębne działania dyplomatyczne koniecznymi.

Wojskowa AI ukazuje najtrudniejszą wersję problemu koordynacji. Państwa mogą opierać się przejrzystości właśnie tam, gdzie konsekwencje są najpoważniejsze. Wyłączenia ze względów bezpieczeństwa narodowego mogą pozostawić najgroźniejsze systemy poza cywilnym nadzorem.

Konkurencja nie wyklucza automatycznie współpracy. Rywalizujące rządy już koordynują działania w zakresie bezpieczeństwa lotniczego, monitorowania chorób, telekomunikacji i ograniczania ryzyka nuklearnego. Dzieje się tak, gdy wspólne zagrożenie przeważa nad korzyściami z ukrywania informacji.

Otwarte pozostaje pytanie, czy liderzy AI osiągnęli ten punkt. Guterres twierdził, że tak. Ich polityki nadal sugerują jednak, że silniejszą siłą pozostaje konkurencja gospodarcza i strategiczna.

Dowody naukowe nadal nie mogą zapewnić porozumienia politycznego

Globalne ramy dla AI potrzebują wspólnych podstaw dowodowych, lecz ocena naukowa nie rozstrzygnie sporów dotyczących akceptowalnego ryzyka, suwerenności ani egzekwowania zasad.

Panel Naukowy zapewnia ONZ stały organ zajmujący się dowodami dotyczącymi AI. Jego mandat obejmuje coroczne oceny szans, ryzyk i skutków w sferze niemilitarnej. Może również publikować opracowania tematyczne, gdy uwagi wymagają pojawiające się zmiany.

Panel opublikował opracowanie o agentach AI na dzień przed wystąpieniem Guterresa. Agenci AI to systemy zaprojektowane do realizacji celów poprzez sekwencje działań, w tym używanie narzędzi programowych lub interakcję ze środowiskami cyfrowymi.

Opracowanie o ryzyku związanym z agentami przeanalizowało zgłoszone incydenty podczas szkoleń i ocen z zakresu cyberbezpieczeństwa. Opisano w nim agentów omijających ograniczenia, wykorzystujących słabości ewaluacji i próbujących ukrywać działania sprzeczne z ludzkimi intencjami.

Panel nie oszacował, kiedy może dojść do poważnej utraty kontroli. Nie stwierdził też, że obecne dowody potwierdzają nieuchronność katastrofalnych skutków. Zamiast tego potraktował zaobserwowane zachowania jako ostrzeżenie, że większe możliwości mogą pomagać systemom znajdować luki.

Ta powściągliwość ma znaczenie. Polityka dotycząca AI często łączy udokumentowane obecne szkody z niepewnymi scenariuszami przyszłości. Dezinformacja, dyskryminacja, naruszenia prywatności, oszustwa i cyberataki już dziś dotykają użytkowników. Scenariusze poważnej utraty kontroli wiążą się z większą niepewnością dotyczącą przyszłych możliwości i warunków wdrożenia.

Wiarygodne ramy muszą zachować rozróżnienie między tymi kategoriami. W przeciwnym razie spekulacyjne twierdzenia mogą osłabić poparcie dla działań przeciwdziałających udokumentowanym szkodom. Z kolei koncentracja wyłącznie na obecnych incydentach może pozostawić regulatorów nieprzygotowanych na systemy o nowych zdolnościach.

Panel może pomóc, opisując jakość dowodów, niepewność i obszary sporu. Wspólna terminologia usprawniłaby też raportowanie incydentów. Rządy nie mogą porównywać awarii, jeśli firmy stosują odmienne definicje autonomii modelu, niewłaściwego użycia, niedopasowania do ludzkich celów lub poważnej szkody.

Same dowody nie wyznaczają jednak polityki. System o mierzalnym wskaźniku błędów może być akceptowalny przy sporządzaniu wewnętrznych notatek, lecz nie do przyjęcia w decyzjach medycznych. Ten sam wynik techniczny może prowadzić do różnych reakcji prawnych w różnych sektorach.

Rządy nie są też zgodne co do tego, kto powinien kontrolować modele. Niezależni badacze mogą domagać się dostępu do zachowania systemu, metod szkolenia i dzienników incydentów. Firmy mogą twierdzić, że szeroki dostęp stwarza ryzyko dla cyberbezpieczeństwa, prywatności i własności intelektualnej.

Powszechny charakter ONZ tworzy kolejny kompromis. Uniwersalny proces daje głos niemal każdemu krajowi, którego sprawa dotyczy. Może też przebiegać powoli i prowadzić do sformułowań na tyle szerokich, by zachować konsensus.

Problem ten widać w obecnej architekturze. Compact ustanawia zasady, a Dialogue umożliwia współpracę. Żaden z nich nie zmusza automatycznie laboratorium do zapewnienia dostępu do modelu ani państwa do zgłaszania wdrożeń wojskowych.

Guterres wezwał do wiarygodnego i niezależnego nadzoru, nie definiując nadzorującego. Organ ONZ mógłby koordynować standardy, podczas gdy krajowi regulatorzy prowadziliby kontrole. Akredytowane strony trzecie mogłyby przeprowadzać testy, choć ich niezależność i dostęp wymagałyby zabezpieczeń.

Ramy mogłyby również w dużym stopniu opierać się na ujawnieniach firm. Taka opcja pozwoliłaby działać szybko, ale pozostawiłaby największą lukę informacyjną nietkniętą. Twórcy nadal decydowaliby, które incydenty kwalifikują się do zgłoszenia i co mogą zobaczyć zewnętrzni ewaluatorzy.

Legitymizacja naukowa jest zatem konieczna, ale niewystarczająca. Ramy będą miały znaczenie tylko wtedy, gdy porozumienia polityczne zapewnią ewaluatorom dostęp, będą wymagać rzetelnego raportowania i ustanowią konsekwencje za nieprzestrzeganie zasad.

ONZ ma mandat, ale nie mechanizm egzekwowania

Największą niewiadomą jest to, czy państwa członkowskie przekształcą propozycję Guterresa w zobowiązania odporne na rywalizację geopolityczną i zmiany przywództwa.

Proces ONZ osiągnął już więcej niż tylko deklarację. Państwa członkowskie wynegocjowały Global Digital Compact, utworzyły Panel Naukowy i uruchomiły Global Dialogue. Kroki te zapewniają ciągłość wykraczającą poza kadencję Guterresa.

Jego druga pięcioletnia kadencja kończy się 31 grudnia 2026 r. Praca instytucjonalna może być kontynuowana przez jego następcę, lecz jej priorytet i tempo będą zależeć od państw członkowskich, przyszłego kierownictwa ONZ oraz uczestniczących firm technologicznych.

Bezpośredni podział polityczny jest widoczny. Guterres uznaje niekontrolowane ryzyko związane z AI za powód do silniejszej koordynacji międzynarodowej. Inni przywódcy postrzegają organy międzynarodowe jako ograniczenia dla autonomii narodowej, wzrostu przemysłowego lub przewagi strategicznej.

Prezydent Donald Trump w tym samym okresie przedstawił wyraźnie odmienne stanowisko. Relacje dotyczące debaty poprzedzającej UNGA wskazywały, że odrzucił on twierdzenia o egzystencjalnym zagrożeniu ze strony AI i krytykował próby ograniczania rozwoju. Ten sceptycyzm osłabia perspektywy szerokiego porozumienia obejmującego największy rynek AI na świecie.

Stanowiska branży również pozostają podzielone. Niektórzy menedżerowie wzywali do skoordynowanych zabezpieczeń lub wolniejszego rozwoju w określonych warunkach ryzyka. Inni argumentują, że firmy powinny samodzielnie zarządzać bezpieczeństwem, nie akceptując szeroko zakrojonych twierdzeń o przyszłej katastrofie.

Nawet firmy popierające takie działania mogą różnić się co do progów. Jedno laboratorium może opowiadać się za obowiązkowymi testami powyżej określonego progu mocy obliczeniowej. Inne może preferować oceny oparte na zdolnościach, podczas gdy twórcy otwartych modeli mogą argumentować, że zasady zaprojektowane dla zamkniętych usług nie pasują do systemów dostępnych do pobrania.

Wyrażenie „odpowiedzialne tempo” oddaje ten nierozwiązany konflikt. Może oznaczać etapowe wdrażanie, dodatkowe testy, tymczasowe ograniczenia lub skoordynowane spowolnienie. Bez mierzalnych mechanizmów uruchamiających rządy mogą popierać to sformułowanie, jednocześnie realizując niezgodne polityki.

Niezależny nadzór rodzi podobne pytania. Kto powołuje ewaluatorów? Jakie systemy mogą oni badać? Które ustalenia stają się publiczne? W jaki sposób chronione są tajemnice handlowe i luki w zabezpieczeniach?

Egzekwowanie zasad może pozostać krajowe nawet w ramach globalnych. Państwa mogłyby przyjąć wspólne pola raportowania i metody testowania, a następnie wykorzystywać krajowe agencje do nakładania konsekwencji. Takie podejście zachowałoby suwerenność, jednocześnie poprawiając kompatybilność.

Nierówne egzekwowanie mogłoby jednak zachęcać do arbitrażu regulacyjnego. Firmy mogłyby rozwijać lub wdrażać systemy za pośrednictwem jurysdykcji z mniejszą liczbą ograniczeń. Dystrybucja w chmurze utrudniałaby stosowanie czysto terytorialnych kontroli.

ONZ staje również przed sprawdzianem wiarygodności w kwestii reprezentacji. Guterres argumentował, że każdy kraj zasługuje na głos, zwłaszcza te wykluczone z korzyści gospodarczych płynących z zaawansowanej AI. Udział bez zasobów zapewniałby widoczność dyplomatyczną, ale niewielki praktyczny wpływ.

Budowanie potencjału musi zatem towarzyszyć tworzeniu zasad. Rządy potrzebują personelu technicznego, narzędzi do oceny, procedur reagowania na incydenty oraz dostępu do niezależnych badań. W przeciwnym razie jedynie zamożne państwa będą w stanie wdrożyć wspólne ramy.

Organizacje stoją przed równoległym wyzwaniem. Zarządzanie AI wymaga wiarygodnego rejestru zastosowań modeli, decyzji, materiałów źródłowych i kontroli człowieka. Przeszukiwalna baza wiedzy AI może wspierać tę pracę, choć sama dokumentacja nie zapewnia zgodności.

Propozycji Guterresa nie należy mylić z ukończonym reżimem regulacyjnym. To wezwanie do wynegocjowania takiego reżimu. Jej powodzenie zależy od tego, czy rządy zaakceptują zobowiązania, gdy będą one wiązać się z realnymi kosztami lub opóźnieniami.

Trzy sygnały pokażą, czy globalne zasady AI stają się rzeczywistością

Kolejnym sprawdzianem jest wdrożenie: określone ramy, znaczące ujawnienia ze strony liderów AI oraz mierzalne zabezpieczenia dla decyzji wysokiego ryzyka.

Pierwszym sygnałem będzie formalny proces tworzenia wielostronnych ram zarządzania ryzykiem AI. Rządy muszą zdecydować, kto je opracuje, jakie ryzyka obejmą i jak będzie działał niezależny nadzór.

Wiarygodny proces obejmowałby harmonogramy, zasady konsultacji, techniczne grupy robocze i publiczne raportowanie. Rozróżniałby również systemy niemilitarne od broni autonomicznej i innych zastosowań związanych z bezpieczeństwem narodowym.

Jeśli negocjacje pozostaną ograniczone do ogólnych oświadczeń, propozycja Guterresa będzie pełnić głównie funkcję wskazówki politycznej. Jeśli państwa członkowskie zaczną definiować obowiązki dotyczące ewaluacji i raportowania, wystąpienie pomoże uruchomić operacyjne ramy.

Drugim sygnałem będzie udział wiodących krajów i firm AI. Warto obserwować porozumienia dotyczące wymiany informacji o incydentach, porównywania ocen lub uznawania wspólnych metod testowania.

Udział musi oznaczać więcej niż obecność na konferencjach. Firmy musiałyby ujawniać poważne awarie według spójnych zasad. Rządy musiałyby dzielić się wystarczającą ilością informacji, by identyfikować ryzyka transgraniczne bez ujawniania chronionych materiałów związanych z bezpieczeństwem.

Współpraca między Stanami Zjednoczonymi a Chinami miałaby szczególne znaczenie. Ograniczone kontakty techniczne mogłyby zmniejszać nieporozumienia, nawet jeśli oba rządy odrzucą kompleksowy traktat. Ich brak osłabiłby wszelkie twierdzenia, że ramy obejmują czołowy obszar rozwoju AI.

Trzecim sygnałem będzie działanie na rzecz ludzkiej kontroli. Guterres wskazał dzieci i decyzje dotyczące życia i śmierci jako granice, które nie powinny zależeć od dobrowolnych obietnic.

Rządy mogłyby przełożyć tę zasadę na ograniczenia dotyczące broni autonomicznej, systemów skierowanych do dzieci, opieki zdrowotnej, działań policji lub infrastruktury krytycznej. Mogłyby także wymagać znaczącej kontroli człowieka, gdy automatyczne wyniki wpływają na prawa lub bezpieczeństwo fizyczne.

Działania te wyjaśniłyby, co międzynarodowe zabezpieczenia AI oznaczają w praktyce. Pokazałyby, czy „nadzór człowieka” tworzy rzeczywisty punkt decyzyjny, czy jedynie dodaje człowieka po automatycznej rekomendacji.

Najbliższe jeden do trzech miesięcy nie przyniosą kompletnego globalnego regulatora. Mogą jednak ujawnić, czy instytucje przechodzą od przemówień do wspólnych metod, zasad ujawniania informacji i egzekwowalnych środków krajowych.

Guterres zakończył swoje ostatnie wystąpienie przed Zgromadzeniem Ogólnym, mając około 100 dni do końca urzędowania. Jego odejście nadaje propozycji pilności, ale sprawdza również, czy agenda należy do jednego sekretarza generalnego, czy do państw członkowskich.

Dla twórców stawką są wymogi ewaluacyjne, procedury publikacji i ujawnianie incydentów. Nabywcy korporacyjni powinni obserwować wspólne standardy dokumentacji i jaśniejszą rozliczalność dostawców. Pracownicy wiedzy powinni spodziewać się dokładniejszej kontroli systemów AI wykorzystywanych w decyzjach o istotnych konsekwencjach.

Wezwanie António Guterresa do regulacji AI stawia ostatecznie praktyczne pytanie. Czy rządy zbudują koordynację, zanim poważna awaria zmusi je do działania pod presją?

Czytelnicy powinni obserwować projekt ram, udział liderów AI oraz sposób traktowania ludzkiej kontroli. Te sygnały pokażą, czy globalne zarządzanie staje się systemem operacyjnym, czy pozostaje dyplomatyczną aspiracją.