USA i Rosja osłabiły porozumienie o broni wykorzystującej AI, usuwając wymóg ludzkiej weryfikacji celów
Stany Zjednoczone i Rosja miały podczas wrześniowych negocjacji osłabić porozumienie Organizacji Narodów Zjednoczonych dotyczące broni wykorzystującej AI, usuwając kilka zabezpieczeń mimo rosnących obaw związanych z zautomatyzowaną wojną.
Usunięty zapis wymagał, by ludzie sprawdzali wojskowe cele wygenerowane przez AI przed przeprowadzeniem uderzenia, według trzech osób cytowanych w opisanych zmianach. Negocjatorzy usunęli również wymogi, zgodnie z którymi wojskowe systemy AI miały działać w sposób przewidywalny i niezawodny. Skreślono też klauzulę wzywającą do uwzględniania kwestii etycznych.
Departament Stanu, rosyjskie Ministerstwo Spraw Zagranicznych oraz Organizacja Narodów Zjednoczonych nie odpowiedziały na prośby publikacji o komentarz. To milczenie pozostawia istotne szczegóły niepotwierdzone poza poufnymi negocjacjami.
Opisane zmiany ujawniają jednak wyraźny podział. Wiele rządów i grup humanitarnych chce egzekwowalnych ograniczeń zachowujących ludzką kontrolę. Stany Zjednoczone i Rosja opowiadają się za większą swobodą krajów w zakresie projektowania i wdrażania wojskowych systemów AI.
To porozumienie USA i Rosji dotyczące broni wykorzystującej AI nie jest traktatem, a jego obecne brzmienie nie tworzy wiążącego prawa. Stanowi jednak najdalszy postęp, jaki osiągnęły wieloletnie negocjacje ONZ w kierunku wspólnych zasad.
Spór jest więc większy niż jeden kwestionowany projekt. To rywalizacja między wiążącymi wymogami ludzkiej kontroli a dobrowolnymi zasadami kształtowanymi przez mocarstwa wojskowe poszukujące elastyczności operacyjnej.
Co zmieniło się w porozumieniu USA i Rosji dotyczącym broni wykorzystującej AI
Projekt utracił zabezpieczenia dotyczące chwili, w której rekomendacja algorytmu staje się decyzją o ataku.
Negocjacje odbyły się w Genewie na początku września, według relacji Washington Post. Dotyczyły śmiercionośnych autonomicznych systemów uzbrojenia, czyli broni mogącej wybierać lub atakować cele przy różnym stopniu udziału człowieka.
Trzy osoby zaznajomione z rozmowami powiedziały, że delegacje amerykańska i rosyjska forsowały zmiany podczas sesji za zamkniętymi drzwiami. Kamery ONZ miały zostać wyłączone, a obserwatorów społeczeństwa obywatelskiego usunięto z sali.
Każda z obu delegacji przywiozła około dziesięciu prawników, niemal dwukrotnie więcej niż wynosiła reprezentacja dyplomatyczna pozostałych uczestników, wynika z raportu. Ich proponowane poprawki pojawiały się tak szybko, że mniejsze delegacje miały trudności ze śledzeniem zmieniającego się tekstu.
Najważniejsze usunięcie dotyczyło weryfikacji celów. Wcześniejszy zapis wymagał, aby człowiek zbadał wojskowe cele wskazane przez AI, zanim można było przeprowadzić uderzenie.
Wymóg ten obejmował systemy wspomagania decyzji oparte na AI, a także bardziej autonomiczną broń. System wspomagania decyzji może analizować dane z obserwacji, klasyfikować podejrzewane cele, szacować ryzyko lub rekomendować atak, nie uruchamiając fizycznie broni.
Usunięcie klauzuli o weryfikacji nie oznacza automatycznie upoważnienia maszyn do zabijania bez nadzoru. Obowiązujące międzynarodowe prawo humanitarne nadal wiąże państwa i personel wojskowy niezależnie od wykorzystywanej technologii.
Usunięcie eliminuje jednak proponowane zabezpieczenie proceduralne. Tekst nie stanowi już, że przed użyciem siły osoba musi niezależnie sprawdzić cel wygenerowany przez AI.
Delegacje miały również usunąć zapis wymagający przewidywalnego i niezawodnego działania. Terminy te są ważne, ponieważ systemy uczenia maszynowego mogą zachowywać się inaczej, gdy warunki na polu walki odbiegają od środowisk szkoleniowych i testowych.
Usunięto także klauzulę nakazującą wojskom uwzględniać kwestie etyczne podczas używania broni wspieranej przez AI. Język etyczny może być trudny do wyegzekwowania, lecz jego usunięcie zawęża deklarowane oczekiwania projektu.
Zmiany te są ważne jako całość. Ludzka weryfikacja, niezawodność i ocena etyczna dotyczą różnych etapów tego samego łańcucha — od projektowania systemu po wybór celu i autoryzację ataku.
Projekt pozostaje częścią procesu opartego na konsensusie. Dziesiątki uczestniczących państw muszą się zgodzić, zanim silniejsze zasady będą mogły posunąć się naprzód, co daje głównym przeciwnikom znaczną możliwość blokowania.
Oczekuje się, że rządy powrócą do Genewy w listopadzie. Rozważą, czy proces powinien otrzymać formalny mandat oraz czy negocjacje mogą zmierzać w kierunku prawnie wiążących zasad.
To spotkanie sprawdzi, czy usunięte zapisy pozostaną poza tekstem, powrócą w zmienionej formie, czy też staną się przedmiotem odrębnego porozumienia. Pokaże również, jak duży opór mogą utrzymać mniejsze państwa.
Brakująca zasada ludzkiej weryfikacji ma największe znaczenie
Etap zatwierdzenia przez człowieka ma niewielką wartość, jeśli osoba weryfikująca nie dysponuje wystarczającymi informacjami, uprawnieniami i czasem, by odrzucić rekomendację maszyny.
Usunięty wymóg wykraczał poza umieszczenie człowieka gdzieś w łańcuchu dowodzenia. Dotyczył tego, czy ludzie muszą sprawdzać konkretne cele wygenerowane przez system AI, zanim broń zostanie użyta.
To rozróżnienie jest kluczowe dla zarządzania wojskowymi systemami AI. Ludzka kontrola może oznaczać wszystko — od projektowania ogólnych parametrów misji po sprawdzanie każdego rekomendowanego celu bezpośrednio przed atakiem.
Takie rozwiązania zapewniają bardzo różne zabezpieczenia. Dowódca zatwierdzający ogólny obszar działania nie musi koniecznie oceniać każdej osoby, pojazdu czy budynku wskazanego przez algorytm.
Wybór celów wymaga również ocen prawnych i kontekstowych, których systemy rozpoznawania wzorców nie są w stanie rozstrzygnąć wyłącznie na podstawie statystyk. Operatorzy muszą odróżniać cele wojskowe od cywilów oraz oceniać spodziewane szkody uboczne.
AI może z dużą szybkością łączyć dane z czujników, komunikację, obrazy, historię lokalizacji i inne dane. Następnie może punktować obiekty lub ludzi na podstawie korelacji wyuczonych z wcześniejszych przykładów.
Ta szybkość daje przewagę wojskową. Może także powodować błąd automatyzacji, który występuje, gdy ludzie przyjmują komputerową rekomendację bez zastosowania istotnej, niezależnej oceny.
Osoba weryfikująca, która w ciągu kilku minut otrzymuje setki proponowanych celów, może mechanicznie zatwierdzać wyniki. Człowiek nadal formalnie uczestniczy w procesie, lecz operacyjnie decyzja została już przesunięta w stronę maszyny.
Czerwcowy briefing dotyczący wojskowej AI organizacji Human Rights Watch z 2026 roku wskazał na to ryzyko. Ostrzegał, że szybkość i skala mogą utrudniać lub uniemożliwiać zachowanie wymaganych środków ostrożności.
Organizacja argumentowała, że probabilistyczne wyniki nie mogą zastąpić jakościowych ocen wymaganych przez międzynarodowe prawo humanitarne. Zaleciła również moratorium na wykorzystywanie AI jako podstawy decyzji o wyborze celów.
Stanowisko to wykracza dalej niż opisywany projekt ONZ. Mimo to pokazuje, dlaczego usunięty język dotyczący weryfikacji miał większe znaczenie niż ogólna obietnica odpowiedzialnego wykorzystania.
Przydatne zabezpieczenie określałoby, co otrzymują osoby weryfikujące, w tym dowody systemu, poziom niepewności, ograniczenia danych oraz powody rekomendowania celu. Musiałoby także zapewniać czas na rozważenie decyzji.
Osoby weryfikujące potrzebowałyby uprawnień do opóźnienia lub anulowania uderzenia bez presji, by dorównać szybkości maszyny. Potrzebowałyby szkolenia zarówno z prawa wojskowego, jak i trybów awarii systemu.
Ostateczna decyzja wymagałaby także dokumentacji. Bez dzienników pokazujących rekomendację, dane wspierające, reakcję człowieka i autoryzację dowództwa ustalenie odpowiedzialności staje się trudne po wystąpieniu szkód wśród ludności cywilnej.
Żaden z tych wspierających szczegółów nie jest gwarantowany przez frazę „człowiek w pętli”. Nominalny przycisk zatwierdzenia może maskować zautomatyzowany proces, zamiast go ograniczać.
Usunięty zapis był więc konieczny, ale niewystarczający. Jego przywrócenie ustanowiłoby minimalne oczekiwanie, podczas gdy szczegółowe standardy określiłyby, czy weryfikacja jest znacząca.
Szybkość wojskowa zderza się z ludzkim osądem
Operacyjną motywacją stojącą za słabszymi zasadami jest szybkość, podczas gdy obawy prawne i humanitarne dotyczą tego, czy szybkość wypiera osąd.
Organizacje wojskowe coraz częściej wykorzystują AI do analizy wywiadowczej, logistyki, obserwacji, operacji cybernetycznych i planowania działań na polu walki. Zastosowania te nie niosą jednak takiego samego ryzyka.
Automatyzacja harmonogramów konserwacji zasadniczo różni się od klasyfikowania ludzi jako potencjalnych celów. Pierwsze zastosowanie może zwiększać efektywność, drugie natomiast może wpływać na nieodwracalne decyzje o życiu i śmierci.
Amerykańscy urzędnicy otwarcie podkreślali potrzebę szybszego wyboru celów. Urzędnik Pentagonu powiedział Associated Press, że AI mogłaby pomóc żołnierzom szybciej identyfikować cele i przyspieszać późniejsze uderzenia.
Inni przywódcy wojskowi podkreślali ostrożność. Admirał Frank Bradley, stojący na czele U.S. Special Operations Command, powiedział, że ludzie muszą ufać, iż AI kieruje przemoc wyłącznie tam, gdzie jest to zamierzone.
Urzędnicy dowództwa opisywali również AI jako narzędzie ograniczające rutynową pracę administracyjną. Jeden z liderów ds. pozyskiwania sprzętu powiedział, że celem jest wzmocnienie osądu operatora, a nie jego zastąpienie.
Stanowiska te ujawniają wewnętrzne napięcie, a nie prosty wybór między wdrożeniem a odrzuceniem. Przywódcy wojskowi chcą szybkości obliczeniowej, zachowując jednocześnie pewność, kontrolę i odpowiedzialność prawną.
Napięcie staje się wyraźniejsze podczas operacji o dużej skali. Washington Post podał, że amerykańskie wojsko użyło chatbota Anthropic, aby pomóc zidentyfikować niemal 1 000 celów w ciągu pierwszych 24 godzin wojny.
Ta relacja nie dowodzi, że chatbot samodzielnie wybierał cele lub autoryzował uderzenia. Pokazuje jednak, dlaczego procedury weryfikacyjne muszą uwzględniać skalę, a także formalne uprawnienia.
Człowiek nie może sensownie ocenić zalewu rekomendacji, gdy harmonogramy operacyjne pozwalają na zaledwie kilka sekund na każdą decyzję. Szybsze wyniki mogą ograniczać namysł, nawet gdy zatwierdzenie pozostaje po stronie człowieka.
Czerwcowe rozmowy w Genewie pod egidą ONZ zgromadziły ponad 100 państw, organizacji międzynarodowych i grup społeczeństwa obywatelskiego.
Austria, Brazylia, Chile, Meksyk, Sierra Leone, Kostaryka i Kuba znalazły się wśród rządów podkreślających znaczenie ludzkiego osądu i odpowiedzialności podczas tych dyskusji.
Rosja sprzeciwiła się nowym ograniczeniom i określiła niektóre propozycje jako inicjatywy prowadzone przez państwa zachodnie. Argumentowała, że wojskowa AI powinna pozostać w ramach istniejącego rządowego procesu eksperckiego dotyczącego broni konwencjonalnej.
Stany Zjednoczone i Izrael uczestniczyły w spotkaniu, lecz nie przedstawiły formalnych oświadczeń na forum, wynika z relacji ze spotkania. Ich obecność nie wyjaśniła preferowanych przez nie minimalnych zabezpieczeń.
Praktyczny argument za krajową elastycznością jest prosty. Dowódcy nie chcą, by szerokie międzynarodowe sformułowania zakazywały automatyzacji obronnej lub spowalniały zgodne z prawem operacje.
Argument przeciwny jest równie konkretny. Jeśli każde państwo samo definiuje „odpowiedni” ludzki osąd, fraza ta zapewnia niewielką ochronę przed minimalną lub czysto ceremonialną weryfikacją.
Dlatego kwestionowano również przewidywalność i niezawodność. Wymogi te mogą ograniczać wdrażanie systemów, które nie zostały zweryfikowane w realistycznych warunkach pola walki.
Pola walki obejmują uszkodzone czujniki, zwodnicze sygnały, niepełne dane wywiadowcze, nieznane środowiska oraz przeciwników próbujących manipulować algorytmami. Wyniki osiągane w kontrolowanych testach mogą nie przetrwać takich warunków.
Usunięcie wyraźnego języka dotyczącego niezawodności daje rządom większą swobodę w ocenie akceptowalnej skuteczności. Utrudnia też ustanowienie wspólnego progu, zanim systemy wpłyną na śmiercionośne decyzje.
Dobrowolne normy konkurują z wiążącymi ograniczeniami
Centralny spór dyplomatyczny dotyczy tego, czy potężne armie powinny zobowiązać się do powściągliwości, czy zaakceptować zasady, na które inne państwa mogłyby się wobec nich powoływać.
Stany Zjednoczone wcześniej promowały dobrowolne zasady odpowiedzialnego wykorzystania AI w wojsku. Ich deklaracja polityczna z 2023 roku wzywała do jasno określonych zastosowań, odpowiedzialnych łańcuchów dowodzenia, testowania oraz odpowiedniego osądu człowieka.
Ramy te poparło ponad 50 państw. Ustanowiły wspólny język, lecz nie stworzyły traktatu, systemu egzekwowania ani niezależnego procesu inspekcji.
Dobrowolne deklaracje nadal mogą wpływać na zamówienia, szkolenia i doktrynę wojskową. Mogą pomagać rządom zbliżać się do wspólnych oczekiwań, zanim pojawi się polityczne poparcie dla wiążącego prawa.
Ich słabość ujawnia się, gdy zmieniają się strategiczne bodźce. Państwo może reinterpretować elastyczny język, zmienić swoją politykę krajową lub wycofać praktyczne zabezpieczenia bez naruszania zobowiązania prawnego.
Zgłoszone zmiany w Genewie odzwierciedlają ten podział. Stany Zjednoczone i Rosja są geopolitycznymi rywalami, ale obie dysponują zaawansowanymi siłami zbrojnymi i cenią swobodę w rozwoju uzbrojenia.
Żaden z tych krajów nie popiera wiążącego traktatu międzynarodowego ograniczającego broń autonomiczną, zgodnie z podejściem preferowanym przez działaczy. Ich wspólny interes polega na powstrzymaniu innych państw przed ustanowieniem wąskich zasad.
To zbieżne stanowisko nie oznacza, że ich doktryny wojskowe są identyczne. Oznacza, że oba rządy odnoszą korzyść z zachowania krajowej swobody decyzyjnej, podczas gdy technologia i jej zastosowania na polu walki się rozwijają.
Zasady oparte na konsensusie wzmacniają ich wpływ. Nicole van Rooijen ze Stop Killer Robots argumentowała, że Waszyngton i Moskwa mogą blokować postęp popierany przez dużą większość państw.
Mniejsze kraje mogą popierać ścisłe zabezpieczenia, lecz nie dysponują porównywalnymi zespołami prawnymi ani presją dyplomatyczną. Zamknięte sesje redakcyjne mogą pogłębiać tę nierównowagę, gdy zmiany pojawiają się szybko.
Zwolennicy traktatu wskazują na broń chemiczną, broń biologiczną, miny przeciwpiechotne i amunicję kasetową jako precedensy. Reżimy te różnią się pod względem członkostwa i egzekwowania, lecz każdy z nich pomógł napiętnować określone zachowania.
Richard Lennane, doradca ds. rozbrojenia w Międzynarodowym Komitecie Czerwonego Krzyża, argumentował, że traktaty mają znaczenie, ponieważ kształtują normy i zachowania, a nie tylko poprzez karanie.
Organizacja Narodów Zjednoczonych i Czerwony Krzyż ponowiły w sierpniu swój wspólny apel. Domagały się zakazu części broni autonomicznej oraz ograniczeń dla pozostałej.
Ich propozycja zakazywałaby systemów, których skutków nie można dostatecznie zrozumieć, przewidzieć ani wyjaśnić. Zakazywałaby również systemów zaprojektowanych lub używanych do bezpośredniego atakowania ludzi.
Inne systemy autonomiczne pozostałyby dozwolone pod ograniczeniami dotyczącymi typów celów, czasu trwania, zakresu geograficznego i nadzoru człowieka. Taka struktura nie traktuje każdej zautomatyzowanej funkcji jako równie niebezpiecznej.
Pakt USA–Rosja dotyczący broni AI znajduje się między tymi podejściami. Może pozostać dobrowolnym oświadczeniem politycznym, stać się podstawą negocjacji traktatowych albo utknąć z powodu wymogu konsensusu.
Ten niepewny status prawny wyjaśnia, dlaczego sformułowania mają teraz znaczenie. Wczesne kompromisy często stają się punktami odniesienia dla późniejszych porozumień, polityk krajowych, umów zakupowych i podręczników wojskowych.
Jeśli ocena celów przez człowieka zniknie ze wspólnego punktu wyjścia, rzecznicy będą musieli walczyć o jej przywrócenie na każdym kolejnym etapie. Pominięcie może stopniowo stać się akceptowanym dyplomatycznym punktem wyjścia.
Projekt nadal pozostawia kluczowe pytania bez odpowiedzi
Raport wskazuje usunięte zabezpieczenia, lecz nie ujawnia pełnego projektu, propozycji każdej delegacji ani ostatecznego znaczenia prawnego spornego języka.
The Washington Post oparł swoją relację na trzech osobach zaznajomionych z poufnymi negocjacjami. Wymienione rządy i Organizacja Narodów Zjednoczonych nie przekazały odpowiedzi do uwzględnienia.
Czytelnicy powinni zatem odróżniać zgłoszone szczegóły od publicznie potwierdzonych zapisów dyplomatycznych. Usunięcia są wiarygodnie opisane, ale pełna historia negocjacji nie jest jeszcze dostępna.
Nadal nie jest jasne, czy Stany Zjednoczone i Rosja zaproponowały identyczne zmiany, czy też wybiórczo wzajemnie się wspierały. Nie opublikowano ich powodów sprzeciwu wobec każdego z zapisów.
Opinia publiczna nie ma również zestawienia tekstów pokazującego każdą zmianę. Takie porównanie ujawniłoby, czy zabezpieczenia usunięto wprost, przeniesiono w inne miejsce czy zastąpiono szerszym językiem.
Wyrażenie „ocena przez człowieka” także wymaga definicji. Wymóg może dotyczyć każdego celu, określonych klas celów albo jedynie sytuacji, w których system AI dostarcza rozstrzygających informacji.
Podobnie „cel wygenerowany przez AI” może oznaczać pierwotną identyfikację dokonaną przez maszynę, uszeregowaną rekomendację albo pakiet celu złożony z wielu danych pochodzących od ludzi i systemów automatycznych.
Te rozróżnienia wpływają na konsekwencje operacyjne. Wąska definicja mogłaby pozwolić rządom klasyfikować wiele decyzji wspieranych algorytmicznie jako wygenerowane przez człowieka, omijając zabezpieczenie.
Raport nie dowodzi również, że którykolwiek z tych krajów obecnie pozwala broni atakować ludzi bez autoryzacji człowieka. Sprzeciw wobec zapisu w negocjacjach nie dowodzi konkretnej polityki rozmieszczenia.
Ta niepewność nie powinna umniejszać obaw. Dyplomatyczny opór nadal sygnalizuje, jakich ograniczeń rządy nie chcą zaakceptować na arenie międzynarodowej.
Polityka krajowa dodaje kolejną nierozstrzygniętą warstwę. Pentagon rewiduje Dyrektywę 3000.09, swoją politykę regulującą autonomię w systemach uzbrojenia.
Memorandum dotyczące bezpieczeństwa narodowego z czerwca miało nakazać aktualizację w ciągu 90 dni. Do końca września nie pojawiła się żadna poprawiona wersja publiczna.
Dyrektywa z 2023 roku wymagała odpowiedniego osądu człowieka przy użyciu siły. Obejmowała również wymogi przeglądu dla niektórych autonomicznych i półautonomicznych systemów uzbrojenia.
Związek między oczekiwaną krajową rewizją a genewskim stanowiskiem negocjacyjnym pozostaje nieznany. Podobne usunięcia sugerowałyby skoordynowane przesunięcie w stronę większej swobody operacyjnej.
Odmienne sformułowania wskazywałyby, że Waszyngton akceptuje zabezpieczenia wewnętrznie, jednocześnie sprzeciwiając się zobowiązaniom międzynarodowym. Stanowisko to mogłoby chronić wojskową elastyczność, lecz osłabiłoby amerykańskie działania rzecznicze za granicą.
Politykę Rosji trudniej ocenić, ponieważ publiczna przejrzystość dotycząca rozwoju, testowania i rozmieszczania pozostaje ograniczona. Twierdzeń dotyczących pola walki często nie można niezależnie zweryfikować.
Grupy humanitarne także borykają się z luką dowodową. ONZ i Czerwony Krzyż stwierdziły, że broń autonomiczna szybko się rozwija, unikając zarazem definitywnych twierdzeń o konkretnych zastosowaniach na polu walki.
Wsparcie decyzji oparte na AI jest łatwiejsze do udokumentowania niż w pełni autonomiczne śmiercionośne działanie. Narzędzia wspierające decyzje nadal jednak mogą kształtować to, kto zostaje zaatakowany, szczególnie przy skróconych harmonogramach.
Odpowiedzialny wniosek jest węższy niż najbardziej alarmująca interpretacja. Projekt miał utracić istotne bariery, podczas gdy dokładny wpływ operacyjny zależy od definicji i wdrożenia.
Trzy sygnały, które warto obserwować przed listopadowymi rozmowami
Listopadowe negocjacje, zrewidowana dyrektywa Pentagonu i żądania publicznego tekstu projektu określą, czy ten epizod stanie się trwałym odwróceniem polityki.
Pierwszym sygnałem będzie to, czy rządy przywrócą wyraźny wymóg oceny celów przed lub w trakcie spotkania w Genewie. Jego brzmienie powinno wymagać świadomej oceny człowieka przed każdym uderzeniem.
Przywrócony zapis wzmocniłby argument, że wrześniowe usunięcia były tymczasowymi posunięciami negocjacyjnymi. Dalsze wykluczenie potwierdziłoby słabszy międzynarodowy punkt odniesienia.
Szczegóły będą ważniejsze niż etykieta. Znacząca ocena wymaga wystarczającego czasu, istotnych dowodów, informacji o niepewności oraz uprawnień do odrzucenia rekomendacji AI.
Drugim sygnałem jest zrewidowana dyrektywa Pentagonu dotycząca broni autonomicznej. Powinna ona pokazać, czy Stany Zjednoczone zachowują krajowe zobowiązania podobne do tych usuniętych na poziomie międzynarodowym.
Warto obserwować język dotyczący osądu człowieka, testowania, niezawodności, ocen prawnych, autoryzacji wyższego szczebla oraz awarii w warunkach działań przeciwnika. Definicje i wyjątki będą szczególnie ważne.
Jeżeli dyrektywa zachowa silne krajowe mechanizmy kontroli, Waszyngton stanie wobec pytań, dlaczego odrzucił podobny język międzynarodowy. Jeżeli je osłabi, zmiana polityki będzie szersza.
Trzecim sygnałem jest przejrzystość wokół tekstu negocjacyjnego. Państwa, dziennikarze i grupy społeczeństwa obywatelskiego potrzebują publicznego porównania spornych projektów i proponowanych poprawek.
Przejrzystość pozwoliłaby niezależnym ekspertom sprawdzić twierdzenia każdej ze stron. Pokazałaby również, czy mniejsze delegacje otrzymały wystarczająco dużo czasu i zasobów, aby ocenić szybkie zmiany.
Proces międzynarodowy pozostanie kruchy, nawet jeśli wszystkie trzy sygnały się poprawią. Negocjacje konsensualne pozwalają kilku wpływowym państwom opóźniać mandaty lub zawężać proponowane zasady.
Mimo to przywrócenie oceny przez człowieka ustanowiłoby jasną minimalną granicę. Oznaczałoby, że wskazywanie celów generowane przez maszynę nie może prowadzić bezpośrednio do uderzenia bez odpowiedzialnego osądu człowieka.
Dla deweloperów ta debata wykracza poza sprzęt wojskowy. Wojskowe systemy AI zależą od komercyjnych modeli, platform chmurowych, potoków danych, narzędzi ewaluacyjnych i wykonawców oprogramowania.
Inżynierowie mogą zostać poproszeni o dokumentowanie niepewności, zachowywanie dzienników audytowych, ograniczanie autonomii systemu lub projektowanie interfejsów, które przeciwdziałają automatycznemu akceptowaniu. Brzmienie polityki może stać się wymogiem produktowym.
Nabywcy korporacyjni powinni obserwować te same kwestie odpowiedzialności. AI w zastosowaniach wysokiego ryzyka wymaga zapisów pokazujących, co system rekomendował, z jakich dowodów skorzystał i kto zatwierdził wynik.
Pracownicy wiedzy śledzący szybko zmieniający się proces polityczny mogą utrzymywać osobistą bazę wiedzy, zawierającą język projektów, oficjalne oświadczenia i datowane poprawki. Taka praktyka ułatwia wykrywanie cichych zmian.
Pakt USA–Rosja dotyczący broni AI będzie miał znaczenie tylko wtedy, gdy jego zabezpieczenia przetrwają kontakt z wojskowymi bodźcami. Listopad pokaże, czy ocena przez człowieka pozostaje przedmiotem negocjacji, czy stanie się minimalną zasadą.
Bezpośrednie pytanie jest proste: czy rządy opublikują tekst i będą wymagać, by człowiek zbadał cele wygenerowane przez AI przed użyciem siły?
