教宗良十四世呼籲 AI 裁軍：「機器是工具，不是人」

教宗良十四世於 10 月 30 日呼籲進行 AI 裁軍，敦促各國政府把關乎人命的決定置於可問責的人類控制之下。這項教宗良十四世 AI 裁軍呼籲，將一條道德界線與即將到來的外交契機連結起來。各國將於 11 月在日內瓦召開武器公約檢討會議，而自主選擇目標正是亟待處理的議題之一。

核心衝突在於，監督承諾是否真的能約束機器及部署這些機器的機構。良十四世的立場，質疑一條容許自主性持續增加、卻把人類責任的涵義留待詮釋的路徑。

這個區分超越軍事科技。每當軟件建議演變為具實質後果的決定，開發者和買方面對的都是相關問題：誰保留拒絕的權力、資訊和時間？

教宗良十四世的 AI 裁軍主張把責任置於自主性之前

良十四世在梵蒂岡一次聚會上表示：「機器是工具，不是人。」他的 AI 管治演說 敦促在日內瓦開會的國家推動禁止致命自主武器。這類武器在啟動後，毋須人類進一步介入，便可自行選擇及攻擊目標。

他亦拒絕把 AI 發展視為不可避免的軌跡。人類仍有責任引導其應用，並在必要時拒絕採用。

這項政策的意義，在於把設限確立為科技發展的正當結果。在此取向下，能力提升不會自動為擴大權限提供理據。

對開發者而言，這改變了圍繞成功示範的問題。一個系統或許能完成指定任務，卻仍未必適合承擔某人希望委派的決定。

試想辨識物件與授權對其採取行動之間的分別。前者產生資訊，後者則使一個機構承擔後果，因而需要獨立的理據。

把這兩項任務結合在軟件內，並不會消除這個分別。尤其當介面把建議與批准一併呈現時，反而可能令這個分別更難察覺。

這是從良十四世立場引申出的分析意涵，而非有關任何特定產品的技術發現。他的演說並未提出比較效能結果。

對機器人格的主張亦應抱持同樣審慎態度。系統能否產生具說服力的語言，與誰須為其部署負責，是兩回事。

賦予軟件近似人類的身分，可能使公眾更難理解責任歸屬。受影響的人仍需要一個可識別的機構，能夠解釋、推翻或補救一項機構決定。

良十四世較早前提出的 AI 責任框架《Magnifica Humanitas》，賦予「解除武裝」更廣泛的含義。它質疑追逐技術主導地位的競爭，並呼籲在開發和部署各環節建立可追溯的責任。

這個框架既保留有用科技的空間，也質疑附隨其上的權限。工具可以協助某人，卻不應獲准決定另一人的命運。

這個區分很重要，因為能力與正當性需要不同證據。準確度可以支持有關效能的主張，卻不能單憑自身裁定誰應掌握決策權。

人類簽署亦未必能解決問題。有人可以在不了解輸出依據、或沒有現實替代方案的情況下批准輸出結果。

因此，採納良十四世論點的機構，需要檢視批准決定的周邊條件。關鍵問題會是，人類判斷是否能對結果產生實際影響。

正是在這一點上，哲學表述開始形成營運壓力。責任必須貫穿工作流程，而非只出現在機構的公開說明中。

政府與供應商面對同一訴求的不同版本

政府面臨界定何種委派應受禁止的壓力；供應商則面臨說明其系統界線所在的壓力。當政府機構採購科技時，這些責任便會交會。

政府可以宣稱人類仍然負責，同時購買旨在盡量減少人類參與的軟件。因此，採購決定可能削弱其聲稱要維護的原則。

對供應商而言，籠統保證會構成另一問題。聲稱產品支持負責任使用，並未回答其配置、客戶及獲准運作條件的問題。

教宗良十四世的 AI 警告，令這些問題更難被視為次要細節。若部署設定能悄然移除一條界線，該界線的意義便有限。

這並不表示任何被點名的公司已違反這類界線。關注的是結構性問題：責任取決於產品設計與機構權限之間的關係。

美國於 2023 年 1 月發布的 武器自主性指令 提供了有用比較。它要求對武力使用作出適當的人類判斷，並為自主及半自主武器訂明測試、訓練和保障措施。

該文件說明一種以規管開發及使用為核心的取向。良十四世的呼籲則把某些不應被委派的決定置於前景。

這項比較針對已發布的 2023 年政策，而非聲稱每項條文至今仍維持不變。它亦不表示政府已就周五的演說作出回應。

爭議比支持安全與反對安全更為精確。兩種取向都可援引責任，卻對可容許自主性的界線作出不同劃分。

其中一條路徑會問，某項部署是否符合程序要求。另一條則問，被委派的職能本身是否應獲准許。

這兩種取向可以重疊。測試要求與類別禁令處理不同問題，機構或許需要兩者兼備。

被禁止的用途，不會因為軟件通過基準測試便變得可接受。獲准用途，也不會因為不受禁令涵蓋便變得安全。

對企業買方而言，對應問題是權限分配。供應商可以提供輸出結果，但客戶仍決定該輸出在何處進入機構流程。

假設軟件建議把某人列入額外審查。採購機構必須決定，這項建議只會觸發調查，還是會即時改變該人的待遇。

即使使用同一模型，這也是實質上不同的部署。只評估模型本身，便會忽略嵌入工作流程中的政策決定。

合約很重要，因為它們可識別誰必須披露變更、保存紀錄及調查失誤。這些條文會令爭議結果出現後的責任審查更容易進行。

不過，合約文字需要相應的營運能力配合。若有用紀錄從未存在，查閱紀錄的權利便幾乎沒有實際價值。

因此，壓力延伸至整條採購鏈。官員、採購團隊、工程師和操作員各自掌控會影響監督是否仍有意義的選擇。

速度帶來監督口號無法化解的取捨

自主武器人類控制的辯論，往往圍繞時間展開。當系統的運作速度快於有意義審查所容許的程度，人類的正式權限便可能難以行使。

核心取捨在於加快行動與保留對某項具體行動的判斷之間。單稱兩個目標都值得追求，並未說明一項部署如何協調它們。

紅十字國際委員會在其 自主武器評估 中說明了既有的防禦性例子，包括攔截來襲投射物的系統及坦克上的防護系統。

該委員會的 10 月評估，將這些受限應用與日益複雜的系統及更廣泛的目標環境所引起的憂慮區分開來。其立場支持禁止不可預測的自主武器及以人為目標的自主武器，同時限制其他類型。

這個立場說明，「禁止自主武器」需要審慎詮釋。不同系統可共享自主功能，卻可在不同限制下針對不同目標運作。

攔截來襲投射物，與在不斷變化的平民環境中選擇某人作為目標，涉及不同的決策情境。把這些情況視作等同，將掩蓋當中的政策選擇。

紅十字國際委員會亦區分有用的 AI 功能與不可接受的自主目標選擇。其立場並不要求全面禁止 AI 在武器中的每一種應用。

這為更具建設性的比較創造空間，而非爭論自動化本質上是好是壞。相關維度包括目標、環境、可預測性和介入機會。

對操作員而言，實際問題是系統開始行動時，哪些事情仍未被決定。一項狹義防禦職能可涉及預先訂立的限制。

更廣泛的部署，則需要審視那些既有限制實際決定了甚麼。若它們把具實質後果的選擇留給軟件，啟動時的人類參與便無法回應所有疑慮。

紅十字國際委員會的 人類控制分析 指出，軍事動機包括更快鎖定目標及通訊失效時仍可運作。它亦討論既有防禦性應用及操作限制的重要性。

這些動機值得認真看待。通訊連線可能限制操作員，而快速防禦行動可以服務於即時保護目的。

困難的問題是，解決這些問題會否在其他地方引入不可接受的酌情空間。降低對通訊的依賴，也改變了人能夠介入的條件。

這是設計與政策取捨，而非證明每個自主系統都會產生相同風險的證據。運作情境決定哪些保障措施能夠發揮作用。

一個假設比較可使問題更具體。試想某系統原本配置為執行受限的防禦任務，之後有人提議將其用於人口密集地區。

即使底層軟件沒有改變，這種擴展也需要新的評估。人口、目標模糊性及介入機會均會不同。

展示辨識準確度的基準測試，無法完整描述這些差異。它仍會留下有關部署權限及可預見後果的問題。

相同推理亦適用於從建議走向執行的民用系統。建議工具與自動執法工具，需要不同的機構決定。

對知識工作者而言，這提供了一個實用方式來評估自動化聲稱。除了軟件減省了哪些勞動，也應詢問工作流程轉移了哪些權限。

教宗良十四世對 AI 的警告，正是在這一點上獲得實際意義。效率描述系統行動的速度；問責則描述人們如何為該行動作出辯解並提出質疑。

流程中有人參與，並不保證具備有意義的控制

只有當一個人能理解決定、改變決定，並為其負責時，人為參與才具備意義。 單純加入一個審批步驟，並不足以建立這些條件。

這是對圍繞 AI 的治理論述最有力的懷疑檢驗。組織可以採納責任的語言，卻不改變權力分配。

操作人員可能收到一項輸出，卻只有有限的佐證資料。管理人員可能在不鼓勵調查的期限壓力下批准它。

這些只是說明性的情境，並非針對某項特定部署的發現。它們說明為何監督聲稱需要有關周邊流程的證據。

理解不僅需要存取說明畫面。審核人員需要與實際決定及其後果相關的資訊。

這可能包括來源材料、尚未解決的不確定性，以及為何看似合理的建議應受到質疑的理由。適當的證據取決於任務。

權限帶來另一項要求。能標記問題但無法暫停行動的審核人員，其地位比起需承擔責任的決策者更弱。

時間帶來另一項限制。若流程要求即時批准，機構應說明何種判斷仍然可行。

這些條件顯示，檢查輸出與治理系統之間存在實際區別。檢查處理個別結果；治理同時處理流程何時應停止。

教宗良十四世關於 AI 裁軍的論點，引導人們關注這種停止的權力。拒絕某項應用的權利，只有在有人能行使它時才有意義。

個人責任與組織責任之間亦存在張力。把責任歸咎於最後批准輸出的人，可能掩蓋採購及系統設計階段所作的決定。

操作人員無法彌補每一項缺失的保障措施。部署也不應依賴非同尋常的警覺，來修正其制度安排中可預見的弱點。

反過來說，把責任歸於組織不應抹去個人選擇。有用的問責模式必須識別哪些行為者控制了哪些決定。

紀錄有助讓這種區分可供檢視。它們應讓調查能夠把模型的輸出、操作人員的解讀，以及管理人員的授權區分開來。

對一般辦公室工作而言，可搜尋的知識庫可支援存取相關底層文件。這項比較關乎資訊檢索，而非高風險決定的驗證。

更廣泛的一點是，答案及其證據基礎各有不同用途。一份具說服力的摘要，不能取代質疑它所需的材料。

有意義的控制亦需要為部署組織以外的人提供途徑。僅有內部審核，會令受影響人士依賴他們無法檢視的流程。

申訴機制應把有爭議的結果連結至有權重新考慮的人。否則，當事人只會遇上一連串轉介，卻沒有決策者。

這些都不能提供安全部署的通用公式。不同應用需要不同控制措施，而按本文所述立場，部分建議用途仍然不可接受。

實際標準是機構能否展示責任如何運作。當公開承諾指明誰可以介入，以及其後會發生甚麼，便更具可信性。

梵蒂岡的影響力取決於它無法作出的決定

教宗良十四世呼籲 AI 裁軍，是對政策辯論的一項介入。它本身並不制定武器禁令，也不設立國際執法機構。

未解決的問題是，各國政府會否把道德界線轉化為一致同意的運作限制。 這需要作出超出梵蒂岡權限的決定。

這項區分可避免對該公告作出誇大的解讀。已確認的演講可證明講者的立場，卻不能證明各國已接受該立場。

談判與其結果之間亦有同樣重要的區別。同意討論具約束力的規則，並不能確立這些規則禁止甚麼。

未來協議仍需界定範圍。各國必須決定哪些功能、操作條件及授權形式會觸發限制。

協議可能措辭嚴格，卻保留廣泛例外。它也可能透過看來不如全面禁令那般戲劇化的語言，建立有意義的界線。

這些可能性令最終措辭變得重要。讀者應檢視受規管的行為，而非僅憑標題判斷協議。

實施又造成另一道落差。一個國家的支持，並不能顯示採購機構、軍事組織或供應商會如何納入這項承諾。

限制措施的政治論據，亦面對各國政府賦予自主性的戰略價值。更快運作及減少對通訊的依賴，都是相關動機。

承認這些動機能加強分析。可信的限制必須處理機構為何追求某種能力，而非假設倫理反對意見會消除誘因。

同時，戰略效用並不能決定可接受性。許多政策爭議涉及有用的能力，而其後果足以證明需要限制。

這就是為何主要衝突應繼續聚焦於可執行的人類責任與被授權的權力之間。關於機器意識的辯論，可能會分散人們對機構已能控制的決定的注意力。

政府毋須先解決每一個關於未來 AI 的哲學問題，才界定今日誰可授權使用武力。具成效的規則可以處理可觀察的行為。

同一原則亦適用於公司比較。供應商的公開立場固然重要，但負責任的評估亦需要關於合約及部署的已核實資訊。

本報道沒有依據宣告商業上的贏家。它亦沒有任何已核實依據，聲稱某個特定模型符合教宗的標準。

對科技買家而言，這種不確定性應促使提出精確問題。哪項功能正被授權？在誰的權限之下？又有何途徑可提出質疑？

這些問題保留了辯論的實質，同時不會把宗教演講變成產品認證。它們亦令未來的聲稱更容易驗證。

梵蒂岡最明確的貢獻，是要求作出理據說明。尋求擴大自主性的機構，應解釋其保障措施為何能保留所承諾的人類權限。

日內瓦將顯示各國會否超越原則

下一個已排定的里程碑，是該公約於 2026 年 11 月 16 至 20 日在萬國宮舉行的日內瓦審議會議。這次聚會為辯論提供具體的外交場景。

值得留意的訊號包括談判授權、明確界線及實施路徑。 三者合起來，將顯示討論是否正轉化為制度行動。

首先，應留意各國是否授權推進具約束力規則的工作。清晰的授權將加強以下論點：各國政府已準備限制授權。

表達憂慮的聲明分量較輕。關鍵在於結果是否產生有明確目的地的工作，而非只是記錄共同不安。

其次，應檢視任何建議文本如何處理對人的自主鎖定，以及效果無法充分預測的系統。這些類別揭示了一般監督語言之下的實質內容。

明確界線將加強以下論點：人類控制正成為實際限制。廣泛例外或未定義的術語，會讓部署機構保留更多酌情權。

評估應繼續以實際文本為依據。對某一特定議題保持沉默，不應被表述為禁止或允許。

第三，應留意會議閉幕後的責任安排。指定程序、期限或審核要求，將令後續進展更容易評估。

這些步驟不會保證合規。它們會建立一條可觀察的路徑，以判斷各國政府是否落實承諾。

在隨後數月閱讀企業反應時，同樣需要這種紀律。支持合乎倫理 AI 的聲明，值得與任何已披露的營運承諾作比較。

讀者不應把支持等同於實施。當公告指明限制、負責權限或實務改變時，便更具資訊價值。

對開發者及企業買家而言，直接相關之處在於值得提出的問題有所改變。評估應同時檢視所轉移的權限與技術表現。

這種做法並不要求把辦公室助理視為等同武器。它承認不同後果需要不同界線及證據。

隨着日內瓦會議臨近，應重返原始文件。比較代表獲授權的事項，與其措辭實際會為人保留的決定。應問：誰可停止系統、甚麼資訊支持該選擇，以及受影響人士可在哪裏尋求覆核。在評估供應商的保證或組織的自動化建議時，也應套用這些問題。教宗良十四世呼籲 AI 裁軍，為這場辯論提出清晰要求：科技能力必須繼續受人類責任約束。下一步是檢視各國政府會否把這項要求轉化為其機構能夠執行的條文。留意授權、閱讀界線，並追蹤實施承諾。