新加坡自主船舶風險引發對 AI 與人類控制的警示

新加坡於 10 月 29 日警告，AI 與自主船舶會帶來海事安全風險，儘管該國支持採用這些技術。新加坡自主船舶風險現已成為一場務實政策辯論的一部分：航運應將多少控制權交予系統，以及當系統失效時，誰仍須負責？

律政部長兼內政部第二部長唐振輝在聯合國安全理事會發表這項聲明。他代表斐濟、牙買加、馬耳他及新加坡發言。他的立場一方面支持創新，另一方面要求防範網絡攻擊、非法控制船舶及干擾海事基建。

這種張力已在新加坡自身的發展計劃中顯現。該國海事管理機構及港口營運商 PSA 正探索自主集裝箱運輸，而國際海事組織則在制定國際規則。核心爭論在於操作自主性與可驗證的人類控制之間的取捨，開發商、船東及監管機構均有責任令兩者兼容。

新加坡自主船舶風險進入更廣泛的安全辯論

10 月的聲明將自主航運置於國際安全政策框架之中，同時支持其持續發展。

唐振輝的海事安全聲明呼籲問責、透明度及人類監督。他亦歡迎針對自主商船逐步形成的國際框架。

他的警告涵蓋多種不同威脅，包括對水下基建的攻擊、干擾船舶通行、破壞船上系統，以及非法接管。他描述的是潛在後果，而非確認發現一宗新的自主船舶攻擊事件。

這項區分對理解標題十分重要。該聲明既沒有宣布禁止自主航運，也沒有作出海事 AI 本質上不安全的技術結論。它確立了一項外交立場：創新應與保障措施及對航行權利的尊重同步推進。

唐振輝亦援引規管海事權利與責任的《聯合國海洋法公約》。這項引用將技術安全問題與船舶在國際間航行所依據的法律條件連結起來。

因此，眼前的改變主要是政治上的側重。新加坡正明確地將安全及問責納入其對海事自主化的支持之中。任何由此引起的採購或監管後果，將取決於後續決定，而非單憑這次演說。

對科技供應商而言，這項區分把政策訊號與合規期限分開。一項外交警告不會自動帶來新的認證要求，但它確實指出了買方及當局可在日後評估中納入的關注事項。

背後的取捨很直接。賦予軟件更多權限可以減少持續人手介入的需要，但同時也更需要釐清軟件何時必須停止、讓步，或將控制權交還予人員。

船舶能否完成預定航程，只回答了問題的一部分。買方亦需要確信，營運人員理解系統權限的界限。當觀察結果互相矛盾，或情況出現意料之外的變化時，這些界限尤其重要。

這是由該警告引申出的分析性含義，而非對任何特定產品表現的主張。已發布的聲明沒有對相互競爭的自主系統作比較評估。

對關注 AI 監管的讀者而言，這宗事件說明當軟件影響實體移動時，管治如何改變。問責成為一個操作設計問題：必須有人能識別負責作出決定的人、重建決策過程，並說明可用的替代方案。

這項要求令該警告的意義超越海事專業人士。每當企業 AI 買方容許軟件採取行動時，也會面對相關問題。後果雖有不同，但授權控制與可問責控制之間的關係仍然是核心。

港口試驗為開發商及營運商帶來實際壓力

新加坡的發展計劃令安全成為即時的項目要求，而非遙遠的全無人船舶議題。

4 月 22 日，新加坡海事及港務管理局與 PSA 邀請各界就自主支線船營運提交建議書。這些船舶將在包括大士及巴西班讓在內的碼頭之間運送集裝箱。

建議書程序包括設立遙距操作中心的計劃，即監察船舶並支援介入的岸上設施。申請者須處理網絡安全、航行、冗餘、人機介面及監管合規等議題。

這為新加坡自主船舶風險提供了具體場景。預期的工作涉及港口物流，自主船舶將與現有航運交通及操作程序互動。公告描述的是發展及測試的目標；並未證實常規自主服務已經開始。

對開發商而言，壓力來自整合。一個導航組件可以完成其指定任務，卻把其他困難問題留在操作系統的其他部分。這些問題包括誰批准船舶移動、誰處理例外情況，以及不同機構如何交接責任。

對營運商而言，壓力則涉及介入。遙距監督只有在人員獲得有用資訊並具備有效行動方式時才有幫助。單靠一個顯示船舶狀態的螢幕，並不能建立任何一項條件。

試想一宗具說明性的碼頭間集裝箱轉運。自主系統遇到與其預定移動安排相衝突的資訊，相關安全問題不僅在於它能否察覺衝突。

營運人員需要理解不確定性、識別可採取的行動，並知道由哪一方控制下一項決定。如果操作程序令這些責任含糊不清，增加自動化反而可能令回應更複雜。

這個情景是分析示例，並非新加坡支線船計劃中已報道的事故。它說明為何項目評估需要檢視整體運作，而非孤立的軟件功能。

當這些責任被明確界定後，商業評估亦會改變。買方應在相同的操作條件下比較建議書，否則，為狹窄航線設計的系統可能看似能與承諾更廣泛自主能力的系統直接比較。

當供應商以同一標籤描述不同能力時，這項區分尤其重要。「自主」可指不同程度的獨立性。採購文件需要更精確地說明系統執行哪些功能，以及哪些決定仍由人員作出。

清楚說明操作限制的供應商，可讓買方取得可供測試的內容。當營運商必須規劃人手配置、緊急程序，或與傳統船舶互動時，廣泛的獨立性聲稱幫助較少。

因此，對參與項目的團隊而言，核心問題是證據。他們需要證明技術能力、人類責任及港口程序能夠協同運作。成功完成移動固然重要，但不足以獨力支持部署的整體論據。

這正是安全警告具有商業相關性的地方。它強化了將控制安排視為所購買產品一部分的理據。

人類監督成為自主系統的一部分

將人員移至岸上改變了監督的位置；並不表示監督仍然有效。

國際海事組織，即 IMO，於 2026 年 5 月通過其非強制性的自主航運守則。該守則於 7 月 1 日生效，適用於相關貨船。

守則涵蓋航行、連接性、遙距操作、網絡安全及其他安全事項。IMO 表示，船長仍保留整體責任，即使船長不在船上亦然。其路線圖目標是在 2030 年 7 月前通過強制性規則，並於 2032 年 1 月生效。

這些條文為自主化辯論提供了一個參照點，同時也把大量實施工作留給設計及營運船舶的機構。正式責任必須與實際權限及可用資訊相連。

人類監督有時被討論成只要加入一個審批步驟即可解決問題。在實體操作環境中，這項假設值得更仔細檢視。只有當人員理解情況並能影響結果時，審批才有意義。

介面可以呈現建議行動，卻未必清楚展示背後的不確定性。程序可以分配責任，卻未必界定在有爭議的交接過程中誰會接管控制權。在機構依賴這些安排前，兩者都值得審視。

因此，合適的分析應沿着決策路徑進行。哪些資訊會傳達給營運人員？營運人員持有甚麼權限？當人員拒絕系統建議時會發生甚麼事？

這些問題關乎控制的組織方式，而非單一 AI 模型的準確度。具能力的模型仍可能置於不清晰的操作安排之中。相反，當責任仍清楚界定時，範圍有限的系統亦可提供有用的自動化。

新加坡在國防領域另有遙距海事操作的例子。其國防科技局描述了使用遙距監督船舶進行的無人海上巡邏。DSTA 表示，營運人員可透過整合控制系統規劃巡邏、追蹤船舶及作出回應。

這個軍事例子提供背景，而非商業準備就緒的直接證據。巡邏任務與集裝箱服務有不同的操作要求。一個場景的證據不應自動驗證另一個場景中的主張。

不過，這項比較有助辨識一個共同的設計問題。兩種做法都要求機構決定船舶處理甚麼，以及人類營運人員處理甚麼。這種分工的質素與船舶個別能力同樣重要。

對商業買方而言，有用的比較方式是檢視不同建議書中權限的分配。一個供應商可能將更多決定保留在船上，另一個則可能更依賴岸上團隊。

若無支持性證據，任何一種安排都不應自動被視為更安全。相關測試在於每種安排如何在其聲明的操作條件下運作，包括當這些條件惡化時。

這就是可問責自主化的實際含義。當控制權在軟件、設備及人員之間轉移時，責任必須仍然清晰可理解。

連網控制改變 AI 失效的後果

核心安全問題在於：一旦發生問題，AI 系統可獲授權、影響或控制甚麼。

新加坡網絡安全局與 FAR.AI 在 2025 年 10 月討論代理式 AI 安全時，檢視了相關疑慮。代理式系統可透過工具規劃及採取行動，較少需要持續提示。

討論強調，自主性會帶來額外的安全疑慮，並將責任分散至開發者、供應商、用戶及其他參與者。這並不表示商船採用了與通用 AI 代理相同的軟件架構。

兩者之間的連結屬於分析層面。當軟件由提供資訊轉為採取行動，其權限便成為風險的一部分。有缺陷的建議與未經授權的控制行動，需要不同的應對方式。

海事系統令這項區分變得具體。顧問工具或會向人類決策者提示潛在航行問題；具備更高權限的系統，則可能同時影響船舶的反應。

若將這些系統視為提供相同產品，便會掩蓋一項重要差異。買家需要了解行動邊界，即軟件獲准採取行動的範圍上限。

該邊界亦會影響機構如何調查失效情況。具誤導性的觀察會引發關於資訊質素的問題；不當指令會引發關於授權的問題；無效介入則會引發關於控制與復原的問題。

這些類別可以重疊，但不應消失於「AI 失敗了」這種籠統說法之中。清晰區分有助調查人員找出哪些假設失效，以及哪些保障措施需要修訂。

對產品團隊而言，這帶來記錄組件之間依賴關係的壓力。若決策依賴外部資訊，運作情境應說明不確定性如何影響採取行動的權限。若權限發生轉移，相關過渡安排應讓涉及人士仍可理解。

這些是評估問題，並非認定任何具名海事供應商的控制措施不足。現有資料並未提供商業系統的比較安全審計。

同樣的推理亦適用於企業採購 AI。買家往往從任務表現開始，因為這在示範中顯而易見。一旦系統獲得具實質意義的權限，他們亦需要關於限制、監督及復原的證據。

成功的示範通常顯示系統完成預定任務。關於部署至實際營運的決策，亦必須考慮機構如何處理非預期行動。兩者相關，但屬於不同形式的證據。

負責管理這些證據的團隊，可受惠於可搜尋知識庫。將測試發現、供應商聲明及營運程序連結起來，有助審核者區分已有記錄的能力與尚未解決的假設。

文件本身並不能確立安全性。其價值在於令證據可供審閱，並讓餘下缺口清晰可見。隨着責任跨越組織邊界傳遞，這種可見性愈發重要。

警示未能解答攻擊頻率及商業責任問題

可信的安全疑慮，並不能證明攻擊發生的頻率，或哪種自主架構表現最佳。

本文檢視的資料並未提供自主商船與傳統操作商船的比較攻擊率。Tong 的說法亦未指出有任何新近獲核實的自主船舶遭接管事件。

這些限制應塑造分析方向。該警示支持檢視合理的威脅與保障措施，但不能支持「自主性令航運更危險或更安全」的量化說法。

新加坡國立大學一項持續進行的計劃，說明了另一個尚未解決的範疇：網絡海盜活動與保險。研究員 Fatıma Özcan 的項目檢視遙距接管威脅，以及海事保險框架是否充分處理這些問題。

該項目描述潛在情景及研究問題，並未將這些情景視為已針對商業船隊發生的攻擊紀錄。這項區分可避免將有用的研究線索變成缺乏支持的事故聲稱。

對買家而言，責任不明帶來的問題與技術表現不同。系統可以達到既定營運目標，但合約或會令爭議事件的責任歸屬仍不清晰。

一項示例性的爭議，可能涉及結果究竟源於軟件決策、操作員指令，還是錯誤資訊。要解決該爭議，便需要實際事件序列及適用協議的證據。

這並非對某項特定索償的預測，而是說明為何營運紀錄及合約責任應納入部署討論。技術保證與商業問責回答的是不同問題。

質疑論點亦可從另一方向提出。主張自主性風險過高，不能只靠令人憂慮的假設情景，還應具體說明功能、暴露程度、後果，以及與現有營運方式的比較。

傳統營運不應成為未經界定的基準。若買家比較不同方案，便需要對所涉工作、營運條件及人類責任採用一致假設。

同樣地，聲稱自動化可消除人為錯誤，也需要審慎限定。營運模式的改變，可將決策重新分配予設計者、維護人員、監督者及船上系統。評估這種重新分配，需要超越駕駛台上是否有人在場的證據。

最站得住腳的立場是有條件的。自主方案應就描述清晰的用途建立信心，並由相關測試及可理解的責任安排支持。這項標準容許有用部署，同時避免將期望當作證明。

這亦避免將新加坡自主船舶風險解讀為對該技術的否決。現有證據支持對更強保證的要求，但仍未確定哪些設計及營運模式最能令人信服地符合該要求。

隨着試驗推進，這種不確定性應保持可見。誠實看待不確定性，可為開發者提供更清晰目標，亦為買家提供更有力的比較基礎。

留意 12 月規則制定工作及試驗證據

下一批有用訊號，將關乎營運證據與控制安排的質素，而非又一次對自主能力作出籠統承諾。

首個既定訊號是 IMO 於 2026 年 12 月舉行的海事安全委員會會議。其已公布路線圖要求推進有關在非強制性守則下建立經驗的監管框架工作。

此程序之所以重要，是因為實際應用所得的經驗，將用作制訂強制性要求的依據。建立證據的框架需要支援不同系統及營運條件之間具有意義的比較。

讀者應檢視最終程序要求參與者記錄甚麼。若能清晰處理營運限制、介入措施及非預期行為，將有助提升對實際經驗能改善規則的信心。

若程序產生的可比較資訊有限，買家及主管當局將面對更多不確定性。這是評估下一步的準則，而非預測委員會的決定。

第二個訊號，是新加坡自主支線船計劃是否有任何實質更新。4 月公布的方案提供了明確使用情境；如後續披露說明試驗附帶的條件及責任，便會更具參考價值。

供應商遴選或試驗公告，將證明項目有所進展，但本身不足以證明已準備好提供常規服務。讀者應區分行政里程碑與已展示的營運能力。

關於船舶可在哪裡營運、需要何種監督，以及如何介入的細節，會令更新資訊更有用。這些披露將加強項目正把政策期望轉化為可測試安排的論據。

披露有限只會保留不確定性，並不等同證明失敗。商業開發未必會即時公開技術細節。正確做法是說明仍然未知的內容。

第三個訊號，是營運商及供應商會否公開關於異常情況下控制安排的具意義證據。未來數月，可留意解釋計劃營運失效時責任歸屬的測試結果或保證文件。

最有力的材料，會將聲明的營運限制與觀察到的行為及人類回應連結起來。聲稱已進行測試，所提供的洞見少於解釋測試實際證實了甚麼。

可行介入的證據，將加強人類監督能在更高自主性下維持有效的論點。未解決交接問題的證據，則會增加收窄權限或修訂程序的壓力。

這些訊號合在一起，提供了務實方法以追蹤事件發展，而毋須將每項公告都視為決定性結果。規則制定確立期望；試驗檢視特定用途；公開證據則協助讀者判斷實施是否符合這些期望。

新加坡的警示亦令技術買家有理由重新檢視他們如何評估委託控制。相關問題不止於軟件能否完成有用工作，還包括機構能否說明及管理所授予的權限。

在接受有關準備就緒的廣泛聲稱前，應先留意這些訊號。審閱方案時，應問哪些決策仍由人類作出、超出營運限制時會怎樣，以及哪些證據支持復原。應將供應商聲稱與獨立評估結果分開，並區分計劃中的試驗與常規商業營運。就新加坡自主船舶風險而言，下一項最有用的發展，將是能力、責任與觀察到的行為之間更清晰的連結。這種連結讓買家有具體內容可評估，亦為開發者提供明確的達標準則。隨着規則與試驗發展，哪些系統能讓其限制與能力一樣容易理解？