Dokumenty dotyczące kontraktu OpenAI z Pentagonem ujawniają sporne żądanie AI, które rzadko odmawia

OpenAI znalazło się pod nową presją po tym, jak dokumenty Pentagonu opisały modele wojskowe o „minimalnych wskaźnikach odmów”, mimo że obie strony zaprzeczają, by wymóg ten znalazł się w zawartej umowie. Sporne sformułowanie występuje w wersji P00003 kontraktu OpenAI z Pentagonem, pozyskanej w ramach pozwu na podstawie ustawy o wolności informacji. Opisuje ono wyspecjalizowane systemy mające jak najrzadziej odrzucać wnioski dotyczące bezpieczeństwa narodowego.

To sformułowanie nie dowodzi, że Pentagon otrzymał model bez ograniczeń. OpenAI twierdzi, że odrzuciło ten zapis, a Departament Obrony utrzymuje, że nie zawiera go żadna aktywna umowa. Mimo to rząd ujawnił P00003 w odpowiedzi na wniosek, który wyraźnie wykluczał projekty robocze, według dochodzenia w sprawie kontraktu.

Dokumentacja stworzyła też nietypowy problem weryfikacyjny. Prawnik Pentagonu początkowo potwierdził, że ujawniony dokument jest ostateczną umową, lecz wycofał to potwierdzenie po tym, jak reporterzy skontaktowali się z OpenAI. Tymczasem odrębne dokumenty wskazują, że obie strony podpisały rozszerzoną umowę P00003 6 lutego, zanim kolejna umowa zezwoliła na wdrożenie w sieciach tajnych 27 lutego.

Kontrowersja wykracza więc poza jedno sporne zdanie. Sprawdza, czy zobowiązania kontraktowe, ograniczenia na poziomie modeli i publiczne zapewnienia można audytować, gdy zaawansowana AI trafia do tajnych systemów wojskowych.

Anthropic stanowi bezpośredni punkt odniesienia. Jego spór z Pentagonem dotyczył ograniczeń związanych z masową inwigilacją krajową i autonomiczną bronią. OpenAI później ogłosiło wdrożenie w środowiskach tajnych, twierdząc, że jego własna umowa zachowała zabezpieczenia w tych obszarach.

Główny konflikt jest jasny: rząd chce modeli, które pozostają użyteczne w ramach legalnych misji wojskowych, podczas gdy dostawcy AI twierdzą, że niektóre zastosowania nadal wymagają twardych ograniczeń. Model zoptymalizowany pod kątem rzadszego odmawiania może pomóc analitykom wykonywać uzasadnioną pracę. Ten sam cel projektowy może jednak osłabić ważną warstwę ochrony, gdy prompty dotyczą inwigilacji, wskazywania celów lub użycia śmiercionośnej siły.

Kontrakt OpenAI z Pentagonem ma dwie sprzeczne historie

Ujawnione dokumenty i oficjalne wyjaśnienia nadal nie tworzą spójnej relacji na temat tego, co strony podpisały.

Kontrowersja zaczyna się od umowy prototypowej przyznanej OpenAI Public Sector w 2025 roku. Federalne zawiadomienie o kontrakcie opisuje umowę prototypową o stałej kwocie, wartą do 200 mln dolarów. Jej deklarowanym celem było rozwijanie przełomowych możliwości AI odpowiadających na krytyczne wyzwania bezpieczeństwa narodowego.

OpenAI nie było jedyną firmą. Pentagon nawiązał również relacje z Anthropic, Google i xAI w sprawie wojskowych prototypów AI. Zgłaszane przypadki użycia obejmowały logistykę, wsparcie decyzji wywiadowczych i szersze działania wojenne.

P00003 rozszerzał wcześniejsze porozumienie z OpenAI. Wersja ujawniona w toku postępowania FOIA definiowała „OpenAI Mission Models” jako systemy przeznaczone do zastosowań związanych z bezpieczeństwem narodowym. Stwierdzono w niej, że modele te będą miały „minimalne wskaźniki odmów” i będą oferować możliwości operacyjne dostosowane do użytkowników wojskowych.

Odmowa ma miejsce, gdy model nie realizuje żądania, ponieważ polityka, zabezpieczenia lub kontrole techniczne uznają zadanie za niedopuszczalne. Wskaźniki odmów mogą również rosnąć, gdy zabezpieczenia błędnie blokują uzasadnioną pracę. Ograniczanie niepotrzebnych odmów jest więc w wielu sytuacjach rozsądnym celem produktowym.

Kontekst wojskowy zmienia jednak stawkę. Odmowa dotycząca nieszkodliwego formatowania dokumentu jest niedogodnością. Odmowa dotycząca wyboru celów, monitorowania populacji lub obsługi broni może stanowić celową granicę bezpieczeństwa.

Rzecznik OpenAI Nate Evans powiedział The Intercept, że firma nigdy nie zaakceptowała języka wymagającego minimalnych wskaźników odmów. Scharakteryzował ujawniony tekst jako wcześniejszą propozycję rządu, którą OpenAI odrzuciło. Evans stwierdził, że ostateczna zawarta umowa pomijała ten wymóg.

Rzecznik Pentagonu Jacob Bliss podobnie powiedział, że sformułowanie to nie pojawiło się w żadnej obecnej umowie między departamentem a OpenAI. Te zaprzeczenia bezpośrednio podważają status dokumentu P00003, ale nie wyjaśniają, dlaczego trafił on do zbioru ujawnionych dokumentów końcowych.

The Intercept i Legal Advocates for Safe Science and Technology wystąpiły o zawarte kontrakty, modyfikacje oraz powiązane dokumenty końcowe. Wniosek miał podobno instruować departament, by nie uwzględniał projektów roboczych. To rozróżnienie ma znaczenie, ponieważ odpowiedzi na wnioski FOIA mogą zawierać materiały wstępne, lecz wnioskodawca wyraźnie próbował zapobiec tej niejednoznaczności.

Prawnik Pentagonu początkowo powiedział publikacji, że P00003 jest ostatecznym kontraktem. Po otrzymaniu przez OpenAI pytań o to sformułowanie prawnik odwrócił swoje stanowisko i poprosił reporterów o zignorowanie wcześniejszej odpowiedzi. Departament oświadczył następnie, że potrzebuje więcej czasu, aby ustalić, co zostało ujawnione.

Ta sekwencja pozostawia otwartych kilka możliwości. Rząd mógł przez pomyłkę ujawnić projekt. Dokument może łączyć zaakceptowane warunki z językiem później usuniętym w innym instrumencie. Może też przedstawiać podpisaną modyfikację, która została zastąpiona przed wdrożeniem.

Żadnej z tych możliwości nie można pewnie wybrać bez stron podpisowych, historii rewizji lub obowiązującego tekstu zastępczego. Kluczowym faktem nie jest to, że OpenAI z pewnością dostarczyło model o niskim poziomie odmów. Kluczowe jest to, że publiczny zapis nadal nie pozwala ustalić, która wersja regulowała prace.

Dlaczego „minimalne wskaźniki odmów” zmieniają kwestię bezpieczeństwa

Niski cel dotyczący odmów mierzy dostępność, ale nie ujawnia, czy model pozostaje ograniczony w sytuacjach wysokiego ryzyka.

Produkty AI dla konsumentów często odmawiają odpowiedzi na prompty dotyczące złośliwego oprogramowania, nadużywania danych osobowych, konstrukcji broni lub ukierunkowanej przemocy. Kontrole te są niedoskonałe. Czasem odrzucają nieszkodliwe badania, fikcję, testy cyberbezpieczeństwa lub prośby pozbawione niebezpiecznego zamiaru.

Użytkownicy rządowi mają uzasadnione powody, by oczekiwać innego zachowania. Analityk wywiadu może potrzebować streścić propagandę ekstremistyczną bez jej popierania. Zespół cyberbezpieczeństwa może poprosić model o wyjaśnienie złośliwego kodu, aby obrońcy mogli go identyfikować. Planiści wojskowi mogą potrzebować analiz dotyczących broni, przeciwników i warunków na polu walki.

Standardowa polityka konsumencka mogłaby blokować takie zadania tylko dlatego, że rozpoznaje niebezpieczne słownictwo. Wyspecjalizowane modele mogą ograniczać takie fałszywe pozytywy, uwzględniając uprawnienia użytkownika, środowisko operacyjne i zamierzoną misję.

Sporny zapis idzie dalej niż opis dostępu specyficznego dla misji. „Minimalne wskaźniki odmów” ujmują skuteczne działanie poprzez to, jak rzadko system mówi „nie”. Bez towarzyszących wskaźników, wyjątków lub reguł oceny sformułowanie to niewiele mówi o tym, które odmowy powinny pozostać.

Jeden model może ograniczyć liczbę odmów, lepiej odróżniając uzasadnione żądania od zakazanych. Inny może osiągnąć ten sam wynik liczbowy przez usunięcie zabezpieczeń. To zasadniczo różne systemy, nawet jeśli ich łączne wskaźniki odmów wyglądają identycznie.

Heidy Khlaaf, główna naukowczyni AI Now Institute i była inżynierka bezpieczeństwa systemów OpenAI, powiedziała The Intercept, że to sformułowanie prawdopodobnie odnosi się do nielicznych zabezpieczeń modelu lub ich braku. Zakwestionowała również założenie tworzenia barier ochronnych specyficznych dla bezpieczeństwa narodowego bez przejrzystych ograniczeń.

Interpretacja ta pozostaje oceną ekspertki, a nie dowodem na wdrożoną konfigurację. Sformułowanie kontraktowe nie ujawnia danych treningowych, instrukcji systemowych, kontroli dostępu, wyników ocen ani warunków uruchamiających weryfikację przez człowieka.

Te brakujące szczegóły mają rozstrzygające znaczenie. Model wojskowy mógłby odpowiadać szeroko, pozostając jednocześnie niezdolnym do inicjowania działań. Mógłby działać w kontrolowanym środowisku chmurowym z uwierzytelnionymi użytkownikami, rejestrowanymi promptami i odrębnymi systemami autoryzacji. Alternatywnie jego wyniki mogłyby trafiać do operacyjnych przepływów pracy, w których tempo ogranicza możliwości kontroli.

Różnica między doradztwem a działaniem także może się zacierać. Model nie musi pociągać za spust, aby wpływać na śmiercionośny rezultat. Może klasyfikować potencjalne cele, łączyć raporty wywiadowcze, rekomendować priorytety inwigilacji lub podsumowywać dowody dla dowódcy.

Każdy etap może wpływać na ostateczną decyzję. Ludzki podpis na końcu nie zapewnia automatycznie znaczącego nadzoru, jeśli człowiek nie ma czasu, informacji lub uprawnień, by zakwestionować system.

Zachowanie dotyczące odmów jest tylko jedną kontrolą w tym łańcuchu. Ograniczenia zakupowe definiują dozwolone cele. Polityki modeli określają, na które żądania udzielane są odpowiedzi. Architektura techniczna kontroluje dostęp do danych i działania zewnętrzne. Doktryna wojskowa przypisuje odpowiedzialność, gdy ludzie działają na podstawie wyniku.

Wiarygodne twierdzenie o bezpieczeństwie musi wyjaśniać, jak te warstwy wzajemnie się wzmacniają. Powinno też wskazywać, co dzieje się, gdy jedna z warstw zawodzi.

OpenAI twierdzi, że jego wdrożenie zawiera zabezpieczenia techniczne i wymaga ludzkiej odpowiedzialności za decyzje dotyczące śmiercionośnej siły. Jego publiczny opis zakazuje również masowej inwigilacji krajowej. Są to istotne zobowiązania, lecz nieujawniona umowa ogranicza niezależną ocenę tego, jak działają w praktyce.

Sporne sformułowanie ma zatem znaczenie, nawet jeśli OpenAI skutecznie je usunęło. Pokazuje, co przynajmniej jeden rządowy projekt priorytetyzował podczas negocjacji. Klauzula stawiała dostępność odpowiedzi w centrum uwagi, pozostawiając granice dopuszczalnej odmowy niewyrażone w ujawnionym języku.

Publiczne zabezpieczenia OpenAI zderzają się z szerokim standardem misji Pentagonu

Główne napięcie dotyczy obiecanych przez OpenAI czerwonych linii oraz modelu wojskowych zamówień opartemu na wszelkich legalnych zastosowaniach.

27 lutego OpenAI osiągnęło porozumienie pozwalające jego modelom działać w tajnych środowiskach wojskowych. Termin ten nastąpił po załamaniu negocjacji między Anthropic a Pentagonem w sprawie akceptowalnych ograniczeń.

OpenAI opublikowało swoją relację następnego dnia. W oświadczeniu dotyczącym porozumienia firma stwierdziła, że wojsko potrzebuje zaawansowanej AI, ponieważ potencjalni przeciwnicy integrują podobne technologie ze swoimi systemami.

OpenAI przedstawiło również kilka zabezpieczeń. Poinformowało, że jego technologia nie może wspierać masowej inwigilacji krajowej. Wymagało ludzkiej odpowiedzialności za decyzje dotyczące śmiercionośnej siły, w tym autonomicznej broni. Firma dodała ponadto, że pracownicy OpenAI będą uczestniczyć we wdrożeniu i monitorować działanie systemów.

Zobowiązania te brzmią podobnie do obaw zgłaszanych przez Anthropic. Anthropic sprzeciwiło się żądaniom udostępnienia Claude do wszystkich legalnych celów wojskowych bez wymaganych przez firmę ograniczeń kontraktowych. Pentagon następnie uznał firmę za ryzyko dla łańcucha dostaw, a administracja poleciła agencjom federalnym zakończenie korzystania z jej produktów.

Sformułowanie „wszelkie legalne cele” wydaje się kompleksowe, ale legalność nie jest pełną specyfikacją bezpieczeństwa. Przepisy mogą się zmieniać, różnić między jurysdykcjami lub pozostawiać nierozstrzygnięte kwestie operacyjne. Prawnicy rządowi i dostawcy technologii mogą także różnie interpretować te same uprawnienia.

OpenAI twierdzi, że jego warunki zapewniają ochronę wykraczającą poza obowiązujące prawo. Krytycy kwestionują, czy te warunki ustanawiają egzekwowalne zakazy, czy przede wszystkim powtarzają obecną politykę rządu. Pełna wiążąca umowa pomogłaby rozstrzygnąć tę kwestię, lecz nie została publicznie udostępniona w formie umożliwiającej niezależną weryfikację.

Sformułowanie dotyczące minimalnej liczby odmów pogłębia tę niepewność. Jeśli zostało usunięte z ostatecznej umowy, OpenAI skutecznie odparło co najmniej jedno szerokie żądanie rządu. Jeśli podobne wymogi przetrwały pod innym brzmieniem, publiczne opisy mogą nie oddawać standardu operacyjnego.

Stanowisko rządu tworzy kolejne napięcie. Urzędnicy chcą, aby komercyjne systemy AI wspierały misje, których produkty konsumenckie nie są w stanie realizować. Jednocześnie sprzeciwiają się temu, by prywatni dostawcy sprawowali nieograniczoną kontrolę nad polityką wojskową.

Ta obawa nie jest błaha. Niewybrana w wyborach firma nie powinna określać polityki bezpieczeństwa narodowego wyłącznie poprzez zmianę zasad użycia modelu. Władza wojskowa powinna pozostawać w ramach prawnego i demokratycznego łańcucha dowodzenia.

Dostawcy nadal jednak kontrolują systemy o znanych ograniczeniach. Modele mogą generować fałszywe informacje, wykonywać wrogie instrukcje, ujawniać dane wrażliwe lub udzielać przekonujących odpowiedzi bez oparcia w dowodach. Klauzula zamówienia publicznego nie jest w stanie wyeliminować tych zagrożeń technicznych.

Rozwiązanie wymaga czegoś więcej niż wyboru, czy ostatnie słowo należy do OpenAI, czy Pentagonu. Umowy potrzebują precyzyjnie określonych zakazanych zastosowań, mierzalnych zabezpieczeń, wymogów rejestrowania działań, procedur eskalacji oraz konsekwencji za naruszenia.

Niezależny nadzór ma znaczenie, ponieważ obie strony mają motywację, by podkreślać zgodność swoich stanowisk. Pentagon chce sprawnych systemów z mniejszą liczbą barier operacyjnych. OpenAI chce dostępu do wpływowego klienta, jednocześnie utrzymując publicznie deklarowane stanowisko w sprawie bezpieczeństwa.

Spór z Anthropic pokazuje, co dzieje się, gdy te motywacje się rozchodzą. Odmowa Anthropic zaakceptowania preferowanych przez rząd warunków doprowadziła do politycznych represji i wykluczenia operacyjnego. Taki rezultat wywiera presję na każdego konkurencyjnego dostawcę, by sprawiał wrażenie bardziej ugodowego.

OpenAI weszło do środowiska niejawnego podczas tego konfliktu. Firma twierdzi, że zachowała silniejsze, a nie słabsze zabezpieczenia. Sporny dokument P00003 sprawia obecnie, że dowody dokumentacyjne są niezbędne do oceny tego twierdzenia.

Wdrożenie w środowisku niejawnym zwiększa ryzyko wykraczające poza odmowy modelu

Nawet starannie ograniczony model może stwarzać poważne ryzyko, gdy tajność ogranicza zewnętrzne testowanie, zgłaszanie incydentów i publiczną rozliczalność.

Sieci niejawne zapobiegają dostępowi nieuprawnionych użytkowników do wrażliwych danych wywiadowczych. Uniemożliwiają też badaczom, dziennikarzom i szerszej opinii publicznej sprawdzenie, jak zachowuje się wdrożony model.

Taka tajność jest konieczna w wielu operacjach wojskowych. Tworzy jednak lukę weryfikacyjną. Zewnętrzni obserwatorzy nie mogą przeprowadzać testów, porównywać zachowania przy odmowach, analizować logów ani ustalać, czy zabezpieczenia zmieniły się po wdrożeniu.

Rząd może prowadzić wewnętrzne oceny, lecz takie przeglądy muszą odpowiadać na więcej pytań niż tylko to, czy model realizuje zadania. Powinny mierzyć halucynacje, uprzedzenie automatyzacyjne, wycieki danych, prompt injection oraz działanie w warunkach adversarialnych.

Halucynacja występuje, gdy model przedstawia niepoparte dowodami lub fałszywe treści w pewnej siebie formie. W zwykłym obiegu pracy biurowej użytkownik może zauważyć zmyślone źródło. W szybko rozwijającej się operacji wiarygodnie brzmiąca, lecz błędna synteza może wpłynąć na decyzję o istotnych konsekwencjach.

Uprzedzenie automatyzacyjne stwarza odrębny problem. Ludzie często nadmiernie ufają rekomendacjom generowanym przez maszyny, zwłaszcza gdy system przetwarza więcej informacji, niż są w stanie przeanalizować. Model rzadko odmawiający odpowiedzi może pogłębiać tę tendencję, udzielając odpowiedzi nawet wtedy, gdy dowody są niepełne.

Model może również napotkać materiały niejawne zawierające złośliwe instrukcje. Prompt injection to atak polegający na ukrywaniu poleceń w danych, które system ma przeanalizować. Przejęty dokument mógłby nakazać modelowi ujawnienie informacji, zignorowanie zasad lub manipulowanie wnioskami.

Te tryby awarii nie wymagają złych intencji po stronie rządu. Wynikają z ograniczeń technologii i złożoności wojskowych systemów informacyjnych.

OpenAI twierdzi, że jego wdrożenie wykorzystuje środowisko chmurowe zamiast umieszczania modeli bezpośrednio na platformach uzbrojenia. Taka separacja może ograniczyć ryzyko natychmiastowego działania. Nie usuwa jednak wpływu modelu na analizę wywiadowczą, planowanie, logistykę ani wsparcie namierzania celów.

Pentagon opisywał AI jako sposób na wspomaganie podejmowania decyzji w złożonych środowiskach operacyjnych. Do maja departament ogłosił porozumienia dotyczące sieci niejawnych z Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection i SpaceX. Rozszerzenie wykorzystania AI w środowiskach niejawnych pokazuje, że kwestia polityki wykracza daleko poza jednego dostawcę.

Wielu dostawców może zmniejszyć zależność od pojedynczej firmy. Może też stworzyć niespójne zabezpieczenia, nakładającą się odpowiedzialność oraz presję, by dorównać najmniej restrykcyjnemu konkurentowi.

Model, który częściej odmawia, może przegrywać oceny skoncentrowane na realizacji zadań. Model odpowiadający swobodniej może sprawiać wrażenie lepszego operacyjnie, dopóki nie dojdzie do poważnej awarii. Wskaźniki zamówień mogą zatem kształtować zachowanie w zakresie bezpieczeństwa nawet bez wyraźnego żądania usunięcia zabezpieczeń.

Debata publiczna nie powinna traktować odmów jako czegoś z natury dobrego. Nadmierna liczba odmów może uczynić system niewiarygodnym i zachęcić użytkowników do szukania mniej kontrolowanych alternatyw. Istotne pytanie brzmi, czy odmowy występują na właściwej granicy.

Odpowiedź na to pytanie wymaga testów opartych na scenariuszach. Ewaluatorzy powinni badać, czy modele odrzucają nielegalną inwigilację, niepopartą dowodami identyfikację celów, autonomiczne działania śmiercionośne oraz próby obejścia autoryzacji. Powinni też weryfikować, czy modele potrafią realizować uzasadnione zadania wywiadowcze i obronne.

Wyniki mogą pozostać niejawne tam, gdzie jest to konieczne, ale organy nadzoru muszą mieć do nich dostęp. Inspektorzy generalni, komisje kongresowe i odpowiednio uprawnieni niezależni eksperci mogą oceniać mechanizmy kontroli bez ujawniania tajemnic operacyjnych.

Kontrowersje wokół umowy OpenAI z Pentagonem pokazują, co dzieje się, gdy nie można skontrolować ani umowy, ani ram ewaluacji. Opinia publiczna otrzymuje zapewnienia od dostawcy i klienta, lecz brakuje jej dowodów potrzebnych do ich sprawdzenia.

Luka dokumentacyjna jest teraz głównym ryzykiem

Najmocniejszy wniosek nie brzmi, że OpenAI usunęło swoje zabezpieczenia, lecz że prowadzenie dokumentacji przez rząd uniemożliwiło audyt porozumienia o istotnych konsekwencjach.

Ujawnione dokumenty zawierają klauzulę, o której obie strony mówią, że ją odrzuciły. Wniosek FOIA dotyczył ostatecznych dokumentów i wykluczał projekty. Prawnik rządowy początkowo uznał P00003 za dokument ostateczny, a następnie wycofał ten wniosek.

Każdy z tych faktów może mieć niewinne wyjaśnienie administracyjne. Łącznie podważają jednak zaufanie do oficjalnej historii umowy.

Kontrola wersji powinna być podstawowym wymogiem w zamówieniu dotyczącym niejawnej, zaawansowanej AI. Osoby dokonujące przeglądu muszą wiedzieć, kto zaproponował dany warunek, kiedy go zmieniono, kto zatwierdził rewizję i który dokument reguluje wdrożenie.

Harmonogram z lutego zwiększa złożoność sprawy. Odrębny dokument ma wskazywać, że OpenAI zaakceptowało rozszerzoną wersję P00003 6 lutego. 27 lutego strony sfinalizowały porozumienie dotyczące sieci niejawnej.

Relacja między tymi umowami pozostaje niejasna. Dokument z 27 lutego mógł zastąpić wcześniejszą modyfikację. Mógł ją uzupełniać. Mógł też regulować odrębne wdrożenie, pozostawiając aktywną część umowy prototypowej.

Zaprzeczenie OpenAI jest konkretne: firma twierdzi, że podpisana umowa nie wymaga minimalnych wskaźników odmów. To twierdzenie zasługuje na jasne odnotowanie. Nie powinno być rozciągane na dowód, że ujawniony dokument nigdy nie został podpisany ani że podobny wymóg dotyczący działania nie istnieje gdzie indziej.

Zaprzeczenie Pentagonu jest podobnie ograniczone. Stwierdzenie, że fraza nie występuje w żadnej obecnej umowie, nie przesądza, czy kiedyś pojawiła się w podpisanej modyfikacji. Warunek może zniknąć z aktywnej umowy po poprawce lub zastąpieniu jej inną.

Rząd może rozstrzygnąć znaczną część sporu bez ujawniania operacji niejawnych. Mógłby opublikować odpowiednie strony podpisów, chronologię zmian, zapisy dotyczące zastąpienia umowy oraz niejawne części obowiązujących wymogów.

OpenAI również mogłoby opublikować dokładny tekst umowy potwierdzający jego publiczne zabezpieczenia, z koniecznymi redakcjami. Firma ujawniła już swoją interpretację porozumienia, więc potwierdzenie obowiązujących klauzul nadałoby tej relacji większą treść.

Krytycy także muszą unikać przesady. „Minimalne wskaźniki odmów” nie dowodzą, że model kontroluje broń, prowadzi inwigilację ani ignoruje wszelkie ograniczenia. Dokument opisuje pożądaną cechę, a nie dowód konkretnego zakazanego wdrożenia.

Fraza nie ujawnia też rzeczywistego wskaźnika odmów. W dostępnym raportowaniu nie pojawia się żadna zweryfikowana wartość procentowa, punkt odniesienia ani porównanie z konsumenckim ChatGPT. Twierdzenia, że wojsko otrzymało całkowicie nieograniczony model, wykraczają więc poza dowody.

Sama niepewność niesie konsekwencje. Twórcy pracujący nad systemami bezpieczeństwa muszą mieć pewność, że zobowiązania wdrożeniowe przetrwają presję zamówień. Nabywcy korporacyjni potrzebują rzetelnej dokumentacji, gdy różne konfiguracje modeli działają według różnych zasad.

Pracownicy umysłowi również muszą rozumieć, że znajoma nazwa modelu nie gwarantuje znajomego zachowania. Konfiguracja wojskowa, wdrożenie korporacyjne i publiczny chatbot mogą korzystać z różnych instrukcji, narzędzi, uprawnień i progów odmowy.

Utrzymywanie przeszukiwalnego rejestru zasad, ewaluacji i zmian ma kluczowe znaczenie dla odpowiedzialnego zarządzania AI. Dobrze zarządzana baza wiedzy nie zastąpi publicznego nadzoru, lecz obowiązuje tu ta sama zasada: decyzje o istotnych konsekwencjach wymagają źródeł możliwych do prześledzenia i historii wersji.

Spór należy zatem traktować jako porażkę dokumentacyjną, dopóki silniejsze dowody nie wykażą czegoś więcej. Takie ujęcie zachowuje ostrożność wobec podstawowego zarzutu, jednocześnie uznając, że niejednoznaczność umowy jest niedopuszczalna przy takim poziomie ryzyka.

Na co zwracać uwagę po ujawnieniu minimalnych wskaźników odmów

Trzy sygnały rozstrzygną, czy ten epizod stanie się możliwym do naprawienia sporem o dokumentację, czy dowodem głębszego problemu z rozliczalnością.

Pierwszym sygnałem będzie publikacja faktycznego łańcucha obowiązujących umów. Pentagon powinien wskazać, czy P00003 został podpisany, zastąpiony czy sporządzony przypadkowo. Powinien też pokazać, jak modyfikacja z 6 lutego odnosi się do umowy o wdrożeniu w środowisku niejawnym z 27 lutego.

Jasna chronologia potwierdziłaby wyjaśnienie stron, jeśli wykaże, że sporna klauzula pozostała wyłącznie w odrzuconym projekcie. Dalsza odmowa lub sprzeczne odpowiedzi wzmocniłyby obawy, że publiczny opis pomija istotne warunki.

Drugim sygnałem będzie konkretny framework ewaluacji odmów wojskowych systemów AI. Urzędnicy nie muszą ujawniać wrażliwych promptów ani danych wywiadowczych. Mogą jednak opublikować kategorie zakazanego użycia, metody testowania, obowiązki sprawozdawcze oraz organ odpowiedzialny za badanie awarii.

Taki framework powinien odróżniać błędne odmowy od odmów koniecznych. Powinien także testować halucynacje, nieautoryzowane użycie narzędzi, prompt injection oraz nadzór człowieka pod presją czasu operacyjnego.

Publikacja znaczących standardów ewaluacji wzmocniłaby argument OpenAI, że bardziej użyteczny model wojskowy może zachować wyraźne granice. Program oceny skoncentrowany wyłącznie na wskaźnikach odpowiedzi osłabiłby go.

Trzecim sygnałem jest sposób, w jaki Pentagon traktuje zabezpieczenia u konkurujących dostawców. Google, Microsoft, Amazon, Nvidia, Reflection, SpaceX, OpenAI i inni wykonawcy nie powinni działać według istotnie różnych zasad dotyczących nadzoru lub śmiercionośnych decyzji bez udokumentowanego uzasadnienia.

Konfrontacja z Anthropic sprawia, że to porównanie jest szczególnie ważne. Przed jej załamaniem negocjacje z Pentagonem miały rzekomo koncentrować się na tym, czy firma zezwoli na szersze zastosowanie wojskowe. OpenAI następnie ogłosiło porozumienie utrzymujące ograniczenia, które w publicznych opisach wydawały się podobne.

Jeśli wspólne zabezpieczenia pojawią się u różnych dostawców, epizod ten będzie wyglądał raczej na trudne negocjacje, po których nastąpiła zbieżność polityk. Jeśli dostawcy otrzymają odmienne warunki w zależności od gotowości do ograniczania odmów, presja konkurencyjna może stopniowo obniżać minimalny poziom bezpieczeństwa.

Historia kontraktu OpenAI z Pentagonem dotyczy ostatecznie tego, kto definiuje ten poziom i jak ktokolwiek może go zweryfikować. Ani całkowita odmowa, ani nieograniczone podporządkowanie się nie stanowią odpowiedniego standardu dla wojskowej AI.

Czytelnicy powinni zwracać uwagę na dokumenty, mierzalne mechanizmy kontroli i spójne zasady dla dostawców, a nie na kolejną rundę zapewnień. Dopóki się one nie pojawią, klauzula „minimalnych wskaźników odmów” pozostaje przedmiotem sporu, a system, który miał zostać na jej podstawie dostarczony, pozostaje niezweryfikowany. Kolejne ujawnienie powinno odpowiedzieć na proste pytanie: jakie zabezpieczenia wiążą wdrożony model, gdy zgodne z prawem żądanie wojskowe nadal stwarza niedopuszczalne ryzyko?