Apel papieża Leona o rozbrojenie AI: „Maszyny są narzędziami, nie osobami”

Papież Leon XIV wezwał 30 października do rozbrojenia AI, apelując do rządów o pozostawienie decyzji dotyczących ludzkiego życia pod odpowiedzialną kontrolą człowieka. Apel papieża Leona o rozbrojenie AI łączy moralną granicę ze zbliżającą się okazją dyplomatyczną. W listopadzie państwa spotkają się w Genewie, aby dokonać przeglądu konwencji dotyczącej broni, a autonomiczne wskazywanie celów należy do kwestii wymagających działania.

Centralny spór dotyczy tego, czy obietnice nadzoru rzeczywiście ograniczają maszyny oraz instytucje, które je wdrażają. Stanowisko Leona podważa podejście dopuszczające rosnącą autonomię, przy jednoczesnym pozostawieniu znaczenia ludzkiej odpowiedzialności otwartego na interpretację.

To rozróżnienie wykracza poza technologię wojskową. Twórcy i nabywcy stają przed podobnym pytaniem za każdym razem, gdy rekomendacje oprogramowania stają się decyzjami niosącymi konsekwencje: kto zachowuje uprawnienia, informacje i czas, by odmówić?

Rozbrojenie AI według papieża Leona stawia odpowiedzialność ponad autonomią

Podczas spotkania w Watykanie Leon powiedział: „maszyny są narzędziami, nie osobami”. W swoim wystąpieniu na temat zarządzania AI wezwał państwa spotykające się w Genewie do przyspieszenia prac nad zakazem śmiercionośnej broni autonomicznej. Jest to broń, która po aktywacji może wybierać i atakować cele bez dalszej interwencji człowieka.

Odrzucił także traktowanie rozwoju AI jako nieuchronnego kierunku. Ludzie pozostają odpowiedzialni za kierowanie zastosowaniami i odrzucanie ich, gdy jest to konieczne.

Znaczenie dla polityki polega na uznaniu ograniczeń za uprawniony rezultat rozwoju technologicznego. W tym podejściu większe możliwości nie uzasadniają automatycznie rozszerzenia uprawnień.

Dla twórcy zmienia to pytanie towarzyszące udanej demonstracji. System może wykonywać powierzone zadanie, a mimo to pozostawać nieodpowiedni do decyzji, którą ktoś chce mu delegować.

Rozważmy różnicę między rozpoznaniem obiektu a autoryzacją działania przeciwko niemu. Pierwsze zadanie dostarcza informacji. Drugie wiąże instytucję z konsekwencjami, które wymagają odrębnego uzasadnienia.

Połączenie tych zadań w oprogramowaniu nie usuwa tej różnicy. Może ją utrudnić do dostrzeżenia, zwłaszcza gdy interfejs przedstawia rekomendację i zatwierdzenie razem.

To analityczna konsekwencja stanowiska Leona, a nie techniczne ustalenie dotyczące konkretnego produktu. Jego wystąpienie nie ustanowiło porównawczych wyników wydajności.

Ta sama ostrożność dotyczy twierdzeń o osobowości maszyn. To, czy system tworzy przekonujący język, jest odrębną kwestią od tego, kto odpowiada za jego wdrożenie.

Nadanie oprogramowaniu tożsamości podobnej do ludzkiej może komplikować publiczne rozumienie odpowiedzialności. Osoba dotknięta skutkami decyzji nadal potrzebuje możliwej do zidentyfikowania organizacji, która potrafi wyjaśnić, odwrócić lub naprawić decyzję instytucjonalną.

Wcześniejsze ramy odpowiedzialności za AI Leona, Magnifica Humanitas, nadają „rozbrojeniu” szersze znaczenie. Dokument kwestionuje rywalizację o technologiczną dominację i wzywa do możliwej do prześledzenia odpowiedzialności na całej drodze rozwoju i wdrażania.

Takie ujęcie pozostawia miejsce dla użytecznej technologii, a zarazem podważa uprawnienia z nią związane. Narzędzie może komuś pomagać, nie otrzymując zgody na decydowanie o losie innej osoby.

To rozróżnienie ma znaczenie, ponieważ możliwości i legitymizacja wymagają różnych dowodów. Dokładność może wspierać twierdzenie o wydajności. Sama w sobie nie może rozstrzygnąć, kto powinien posiadać władzę decyzyjną.

Podpis człowieka również nie musi rozstrzygać sprawy. Ktoś może zatwierdzić wynik bez rozumienia jego podstaw lub bez posiadania realistycznej alternatywy.

Instytucja stosująca argument Leona musiałaby zatem zbadać warunki towarzyszące zatwierdzeniu. Kluczowe pytanie brzmi wtedy, czy ludzki osąd ma praktyczny wpływ na wynik.

W tym miejscu filozoficzne stwierdzenie zaczyna wywierać presję operacyjną. Odpowiedzialność musi przetrwać cały proces pracy, zamiast pojawiać się wyłącznie w publicznym opisie organizacji.

Rządy i dostawcy mierzą się z różnymi wersjami tego samego wymogu

Rządy są pod presją, by określić zakazane delegowanie decyzji; dostawcy — by pokazać, gdzie kończą się możliwości ich systemów. Obowiązki te spotykają się, gdy agencje publiczne kupują technologię.

Rząd może ogłaszać, że ludzie pozostają odpowiedzialni, jednocześnie kupując oprogramowanie zaprojektowane tak, by minimalizować udział człowieka. Decyzje zakupowe mogą więc podważać zasadę, którą rząd deklaruje zachować.

Dla dostawców ogólne zapewnienia stwarzają inny problem. Stwierdzenie, że produkt wspiera odpowiedzialne użycie, pozostawia bez odpowiedzi pytania o jego konfigurację, klientów i dopuszczalne warunki działania.

Ostrzeżenie papieża Leona dotyczące AI utrudnia odrzucanie tych pytań jako drugorzędnych szczegółów. Granica ma ograniczone znaczenie, jeśli ustawienia wdrożenia mogą po cichu ją usunąć.

Nie dowodzi to, że jakakolwiek nazwana firma naruszyła taką granicę. Obawa ma charakter strukturalny: odpowiedzialność zależy od relacji między projektem produktu a władzą instytucjonalną.

Amerykańska dyrektywa dotycząca autonomii broni z stycznia 2023 r. stanowi użyteczne porównanie. Wymaga odpowiedniego ludzkiego osądu przy użyciu siły oraz określa testy, szkolenia i zabezpieczenia dla broni autonomicznej i półautonomicznej.

Dokument ten ilustruje podejście oparte na zarządzaniu rozwojem i wykorzystaniem. Apel Leona eksponuje natomiast decyzje, które powinny pozostać poza delegowaniem.

Porównanie dotyczy opublikowanej polityki z 2023 r., a nie twierdzenia, że każde jej postanowienie pozostaje dziś niezmienione. Nie dowodzi też reakcji rządu na piątkowe wystąpienie.

Różnica zdań jest bardziej precyzyjna niż poparcie dla bezpieczeństwa kontra sprzeciw wobec bezpieczeństwa. Oba podejścia mogą odwoływać się do odpowiedzialności, wyznaczając jednocześnie różne granice dopuszczalnej autonomii.

Jedna ścieżka pyta, czy wdrożenie spełnia wymogi proceduralne. Druga pyta, czy delegowana funkcja powinna być w ogóle dozwolona.

Podejścia te mogą się nakładać. Wymogi testowania i kategoryczne zakazy dotyczą różnych problemów, a instytucja może potrzebować obu.

Zakazane zastosowanie nie staje się dopuszczalne tylko dlatego, że jego oprogramowanie przejdzie test porównawczy. Dopuszczalne zastosowanie nie staje się bezpieczne tylko dlatego, że nie jest objęte zakazem.

Dla nabywców korporacyjnych odpowiadającą kwestią jest podział uprawnień. Dostawca może zapewnić wynik, lecz klient nadal decyduje, gdzie ten wynik trafia do procesu instytucjonalnego.

Załóżmy, że oprogramowanie zaleca objęcie osoby dodatkową kontrolą. Organizacja kupująca musi zdecydować, czy rekomendacja jedynie uruchamia dochodzenie, czy natychmiast zmienia sposób traktowania tej osoby.

Są to istotnie różne wdrożenia, nawet gdy korzystają z tego samego modelu. Ocena samego modelu pominęłaby decyzję polityczną zawartą w procesie pracy.

Umowy mają znaczenie, ponieważ mogą określić, kto musi ujawniać zmiany, zachowywać dokumentację i badać awarie. Takie postanowienia ułatwiłyby analizę odpowiedzialności po zakwestionowanym wyniku.

Jednak język umowy wymaga odpowiadających mu możliwości operacyjnych. Prawo do kontroli dokumentacji ma niewielką praktyczną wartość, jeśli użyteczna dokumentacja nigdy nie powstaje.

Presja rozciąga się zatem na cały łańcuch zakupowy. Urzędnicy, zespoły zakupowe, inżynierowie i operatorzy kontrolują wybory wpływające na to, czy nadzór pozostaje znaczący.

Szybkość tworzy kompromis, którego hasła o nadzorze nie rozwiązują

Debaty o ludzkiej kontroli nad bronią autonomiczną często koncentrują się na czasie. Formalne uprawnienia człowieka mogą stać się trudne do wykorzystania, gdy system działa szybciej, niż pozwala na to znacząca kontrola.

Centralny kompromis zachodzi między przyspieszaniem działania a zachowaniem osądu nad konkretnym działaniem. Uznanie obu celów za pożądane nie wyjaśnia, jak wdrożenie ma je pogodzić.

Międzynarodowy Komitet Czerwonego Krzyża opisuje ugruntowane przykłady obronne w swojej ocenie broni autonomicznej. Obejmują one systemy przechwytujące nadlatujące pociski oraz systemy ochronne na czołgach.

Jego październikowa ocena odróżnia te ograniczone zastosowania od obaw związanych z coraz bardziej złożonymi systemami i szerszymi środowiskami wskazywania celów. Popiera zakaz nieprzewidywalnej broni autonomicznej oraz broni autonomicznej wskazującej ludzi jako cele, przy jednoczesnym ograniczaniu innych systemów.

Stanowisko to pokazuje, dlaczego sformułowanie „zakazać broni autonomicznej” wymaga uważnej interpretacji. Różne systemy mogą mieć wspólną funkcję autonomiczną, a jednocześnie działać przeciw różnym celom w odmiennych ograniczeniach.

Przechwycenie nadlatującego pocisku tworzy inny kontekst decyzyjny niż wybranie osoby w zmiennym środowisku cywilnym. Traktowanie tych sytuacji jako równoważnych zacierałoby wybory polityczne.

MKCK odróżnia także użyteczne funkcje AI od niedopuszczalnego autonomicznego wskazywania celów. Jego stanowisko nie domaga się całkowitego zakazu każdego zastosowania AI w broni.

Tworzy to przestrzeń dla bardziej produktywnego porównania niż spory o to, czy automatyzacja jest z natury dobra, czy zła. Istotne wymiary obejmują cele, środowisko, przewidywalność i możliwość interwencji.

Dla operatora praktyczną kwestią jest to, co pozostaje nierozstrzygnięte, gdy system zaczyna działać. Wąska funkcja obronna może obejmować ograniczenia ustanowione wcześniej.

Szersze wdrożenie wymaga zbadania, co te wcześniejsze ograniczenia rzeczywiście określają. Jeśli pozostawiają oprogramowaniu decyzje niosące konsekwencje, udział człowieka podczas aktywacji nie odpowiada na wszystkie obawy.

Analiza MKCK dotycząca ludzkiej kontroli wskazuje motywacje wojskowe, w tym szybsze wskazywanie celów i działanie w razie utraty łączności. Omawia też istniejące zastosowania obronne oraz znaczenie ograniczeń operacyjnych.

Te motywacje zasługują na poważne traktowanie. Łącze komunikacyjne może ograniczać operatora, a szybkie działanie obronne może służyć bezpośredniemu celowi ochronnemu.

Trudne pytanie brzmi, czy rozwiązanie tych problemów nie wprowadza gdzie indziej niedopuszczalnej swobody decyzji. Usunięcie zależności od łączności zmienia także warunki, w których ktoś może interweniować.

Jest to kompromis projektowy i polityczny, a nie dowód, że każdy system autonomiczny stwarza takie samo ryzyko. Kontekst działania określa, które zabezpieczenia mogą zadziałać.

Hipotetyczne porównanie czyni tę kwestię konkretną. Wyobraźmy sobie system skonfigurowany do ograniczonego zadania obronnego, a następnie proponowany do użycia na zaludnionym obszarze.

Nawet bez zmiany podstawowego oprogramowania takie rozszerzenie wymagałoby nowej oceny. Ludność, niejednoznaczność celów i możliwości interwencji byłyby inne.

Test porównawczy pokazujący dokładność rozpoznawania nie opisałby w pełni tych różnic. Pozostawiłby bez odpowiedzi pytania o uprawnienia do wdrożenia i przewidywalne konsekwencje.

To samo rozumowanie dotyczy systemów cywilnych, które przechodzą od doradzania do wykonywania działań. Narzędzie rekomendacyjne i narzędzie automatycznego egzekwowania wymagają różnych decyzji instytucjonalnych.

Dla pracowników wiedzy jest to użyteczny sposób oceny deklaracji dotyczących automatyzacji. Należy pytać, jaką władzę przekazuje dany proces, a także jaki nakład pracy usuwa oprogramowanie.

Ostrzeżenie papieża Leona dotyczące AI nabiera właśnie w tym miejscu praktycznego znaczenia. Efektywność opisuje szybkość działania systemu; odpowiedzialność określa, w jaki sposób ludzie mogą uzasadniać i kwestionować to działanie.

Obecność człowieka w procesie nie gwarantuje znaczącej kontroli

Zaangażowanie człowieka staje się znaczące, gdy dana osoba może zrozumieć decyzję, zmienić ją i za nią odpowiadać. Samo dodanie etapu zatwierdzania nie zapewnia tych warunków.

To najsilniejszy sceptyczny test języka zarządzania otaczającego AI. Organizacje mogą przyjąć słownictwo odpowiedzialności, nie zmieniając podziału władzy.

Operator może otrzymać wynik z ograniczoną ilością informacji wspierających. Menedżer może go zatwierdzić pod presją terminu, która zniechęca do weryfikacji.

Są to scenariusze ilustracyjne, a nie ustalenia dotyczące konkretnego wdrożenia. Pokazują, dlaczego twierdzenie o nadzorze wymaga dowodów dotyczących otaczającego procesu.

Zrozumienie wymaga czegoś więcej niż dostępu do ekranu z wyjaśnieniem. Osoba dokonująca przeglądu potrzebuje informacji istotnych dla rzeczywistej decyzji i jej konsekwencji.

Może to obejmować materiały źródłowe, nierozstrzygniętą niepewność oraz powody, dla których pozornie wiarygodne zalecenie należy zakwestionować. Właściwe dowody zależą od zadania.

Uprawnienia tworzą kolejny wymóg. Osoba kontrolująca, która może zgłosić problem, lecz nie może wstrzymać działania, ma słabszą pozycję niż decydent ponoszący odpowiedzialność.

Czas tworzy dodatkowe ograniczenie. Jeśli proces wymaga natychmiastowego zatwierdzenia, instytucja powinna wyjaśnić, jaki rodzaj osądu pozostaje możliwy.

Warunki te sugerują praktyczne rozróżnienie między sprawdzaniem wyniku a zarządzaniem systemem. Sprawdzanie dotyczy pojedynczego rezultatu; zarządzanie obejmuje również sytuacje, w których proces powinien zostać zatrzymany.

Argument papieża Leona za rozbrojeniem AI kieruje uwagę na tę możliwość zatrzymania. Prawo do odrzucenia zastosowania ma znaczenie tylko wtedy, gdy ktoś może je egzekwować.

Istnieje też napięcie między odpowiedzialnością indywidualną a organizacyjną. Obwinianie ostatniej osoby, która zatwierdziła wynik, może ukrywać decyzje podjęte podczas zakupu i projektowania systemu.

Operator nie może zrekompensować każdego brakującego zabezpieczenia. Wdrożenie nie powinno też zależeć od nadzwyczajnej czujności potrzebnej do korygowania przewidywalnych słabości jego instytucjonalnego układu.

Z drugiej strony przypisanie odpowiedzialności organizacji nie powinno zacierać indywidualnych wyborów. Użyteczny model odpowiedzialności musi wskazywać, którzy uczestnicy kontrolowali które decyzje.

Rejestry pomagają uczynić to rozróżnienie możliwym do zweryfikowania. Powinny umożliwiać dochodzeniu oddzielenie wyniku modelu od interpretacji operatora i autoryzacji menedżera.

W zwykłej pracy biurowej przeszukiwalna baza wiedzy może wspierać dostęp do dokumentów źródłowych. To porównanie dotyczy wyszukiwania informacji, a nie weryfikacji decyzji o wysokiej stawce.

Szersza kwestia polega na tym, że odpowiedź i jej podstawa dowodowa służą różnym celom. Przekonujące podsumowanie nie zastępuje materiału potrzebnego do jego zakwestionowania.

Znacząca kontrola wymaga również ścieżki dla osób spoza organizacji wdrażającej system. Sam wewnętrzny przegląd uzależnia osoby dotknięte skutkami od procesów, których nie mogą sprawdzić.

Mechanizm odwoławczy powinien łączyć zakwestionowany wynik z osobą mającą uprawnienia do jego ponownego rozpatrzenia. W przeciwnym razie dana osoba napotyka ciąg przekierowań bez decydenta.

Nic z tego nie tworzy uniwersalnej formuły bezpiecznego wdrożenia. Różne zastosowania wymagają różnych mechanizmów kontroli, a niektóre proponowane użycia pozostają nieakceptowalne zgodnie z opisanymi tu stanowiskami.

Praktycznym standardem jest to, czy instytucja potrafi wykazać, jak działa odpowiedzialność. Publiczne zobowiązania stają się bardziej wiarygodne, gdy wskazują, kto może interweniować i co dzieje się później.

Wpływ Watykanu zależy od decyzji, których nie może podejmować

Apel papieża Leona o rozbrojenie AI jest interwencją w debatę polityczną. Sam w sobie nie wprowadza zakazu użycia broni ani nie ustanawia międzynarodowego organu egzekwowania prawa.

Nierozstrzygnięte pytanie brzmi, czy rządy przełożą granicę moralną na uzgodnione ograniczenie operacyjne. Wymaga to decyzji wykraczających poza uprawnienia Watykanu.

To rozróżnienie zapobiega zawyżonej interpretacji tego wystąpienia. Potwierdzone przemówienie stanowi dowód stanowiska mówcy, a nie dowód, że państwa je przyjęły.

Podobnie ważne jest rozróżnienie między negocjacjami a ich wynikiem. Zgoda na dyskusję o wiążących zasadach nie określa jeszcze, czego te zasady zakazują.

Przyszłe porozumienie nadal wymagałoby zdefiniowanego zakresu. Państwa musiałyby określić, które funkcje, warunki działania i formy delegowania uruchamiają ograniczenia.

Porozumienie może brzmieć surowo, pozostawiając szerokie wyjątki. Może też ustanowić znaczącą granicę językiem, który wydaje się mniej dramatyczny niż ogólny zakaz.

Te możliwości sprawiają, że ostateczne brzmienie jest ważne. Czytelnicy powinni analizować objęte nim działania, zamiast oceniać porozumienie wyłącznie po jego tytule.

Wdrożenie tworzy kolejną lukę. Poparcie państwa nie ujawnia, jak organy odpowiedzialne za zakupy, organizacje wojskowe lub dostawcy włączą to zobowiązanie do swoich działań.

Polityczne argumenty za ograniczeniami napotykają również strategiczną wartość, jaką rządy przypisują autonomii. Szybsze działanie i mniejsza zależność od łączności są istotnymi motywacjami.

Uznanie tych motywacji wzmacnia analizę. Wiarygodne ograniczenie musi uwzględniać, dlaczego instytucje dążą do danej zdolności, zamiast zakładać, że sprzeciw etyczny usuwa zachętę.

Jednocześnie użyteczność strategiczna nie przesądza o akceptowalności. Wiele sporów politycznych dotyczy użytecznych zdolności, których konsekwencje uzasadniają ograniczenia.

Dlatego główny konflikt powinien nadal koncentrować się na egzekwowalnej ludzkiej odpowiedzialności w kontraście do delegowanych uprawnień. Debaty o świadomości maszyn mogą odwracać uwagę od decyzji, które instytucje już kontrolują.

Rząd nie musi rozstrzygać każdego filozoficznego pytania o przyszłą AI, zanim określi, kto dziś autoryzuje użycie siły. Produktywne zasady mogą dotyczyć obserwowalnych zachowań.

Ta sama zasada dotyczy porównań firm. Publiczne stanowisko dostawcy ma znaczenie, ale odpowiedzialna ocena wymagałaby również zweryfikowanych informacji o kontraktach i wdrożeniach.

Ta historia nie daje podstaw do ogłoszenia komercyjnego zwycięzcy. Nie daje też zweryfikowanych podstaw do twierdzenia, że konkretny model spełnia standard papieża.

Dla nabywców technologii ta niepewność powinna zachęcać do precyzyjnych pytań. Jaka funkcja jest delegowana, pod czyim uprawnieniem i z jaką drogą do zakwestionowania?

Pytania te zachowują istotę debaty, nie przekształcając religijnego wystąpienia w certyfikację produktu. Ułatwiają też testowanie przyszłych deklaracji.

Wkład Watykanu jest najwyraźniejszy jako żądanie uzasadnienia. Instytucje dążące do rozszerzonej autonomii powinny wyjaśnić, dlaczego ich zabezpieczenia zachowują obiecywaną ludzką władzę.

Genewa pokaże, czy państwa wyjdą poza zasady

Najbliższym zaplanowanym kamieniem milowym jest genewska konferencja przeglądowa konwencji, która odbędzie się w dniach 16–20 listopada 2026 r. w Palais des Nations. Spotkanie nadaje debacie konkretny kontekst dyplomatyczny.

Użytecznymi sygnałami są mandat negocjacyjny, zdefiniowana granica i ścieżka wdrożenia. Razem pokażą, czy dyskusja przekształca się w działanie instytucjonalne.

Po pierwsze, należy obserwować, czy państwa upoważnią do prac nad wiążącymi zasadami. Jasny mandat wzmocniłby argument, że rządy są gotowe ograniczyć delegowanie uprawnień.

Oświadczenie wyrażające zaniepokojenie miałoby mniejszą wagę. Różnica polega na tym, czy wynik tworzy pracę o określonym celu, zamiast jedynie odnotowywać wspólny niepokój.

Po drugie, należy zbadać, jak każdy proponowany tekst traktuje autonomiczne namierzanie ludzi oraz systemy, których skutków nie można odpowiednio przewidzieć. Te kategorie ujawniają treść kryjącą się pod ogólnym językiem nadzoru.

Wyraźne granice wzmocniłyby argument, że ludzka kontrola staje się praktycznym ograniczeniem. Szerokie wyjątki lub niezdefiniowane terminy pozostawiłyby więcej swobody instytucjom wdrażającym.

Ocena powinna pozostać związana z rzeczywistym tekstem. Milczenie w konkretnej kwestii nie powinno być przedstawiane ani jako zakaz, ani jako pozwolenie.

Po trzecie, należy szukać odpowiedzialności po zakończeniu konferencji. Nazwany proces, termin lub wymóg przeglądu ułatwiłyby ocenę późniejszych postępów.

Takie kroki nie gwarantowałyby przestrzegania zasad. Stworzyłyby obserwowalną ścieżkę pozwalającą ustalić, czy rządy realizują swoje zobowiązania.

Ta sama dyscyplina ma znaczenie przy odczytywaniu reakcji firm w kolejnych miesiącach. Oświadczenie popierające etyczną AI zasługuje na porównanie z ujawnionymi zobowiązaniami operacyjnymi.

Czytelnicy powinni opierać się traktowaniu poparcia jako wdrożenia. Ogłoszenie staje się bardziej informacyjne, gdy wskazuje ograniczenie, odpowiedzialny organ lub zmianę w praktyce.

Dla deweloperów i nabywców korporacyjnych bezpośrednim znaczeniem jest zmiana pytań, które warto zadawać. Ocena powinna analizować przekazywaną władzę obok wydajności technicznej.

Takie podejście nie wymaga traktowania asystenta biurowego jako odpowiednika broni. Uznaje, że różne konsekwencje wymagają różnych granic i dowodów.

W miarę zbliżania się Genewy należy wracać do dokumentów źródłowych. Porównajcie to, do czego delegaci udzielają upoważnienia, z decyzjami, które ich język faktycznie zastrzegłby dla ludzi. Zapytajcie, kto może zatrzymać system, jakie informacje wspierają ten wybór i gdzie osoba dotknięta jego skutkami może ubiegać się o ponowne rozpatrzenie. Stosujcie te pytania przy ocenie zapewnień dostawcy lub propozycji automatyzacji w organizacji. Apel papieża Leona o rozbrojenie AI formułuje wobec tej debaty jasne żądanie: zdolności technologiczne muszą pozostać poddane ludzkiej odpowiedzialności. Następnym krokiem jest zbadanie, czy rządy ujmą to żądanie w warunki, które ich instytucje będą mogły egzekwować. Obserwujcie mandat, czytajcie granice i śledźcie zobowiązania wdrożeniowe.