新加坡自主船舶风险引发对 AI 与人类控制的警示

新加坡于 10 月 29 日警告称，AI 和自主船舶会带来海事安全风险，尽管该国支持采用这些技术。新加坡自主船舶风险如今已成为一场务实政策辩论的一部分：航运业应将多少控制权交给系统，以及当系统失效时谁仍须承担责任？

律政部长兼内政部第二部长唐振辉（Edwin Tong）在联合国安全理事会上发表了这项声明。他代表斐济、牙买加、马耳他和新加坡发言。他的立场是在支持创新的同时，要求防范网络攻击、船舶被非法控制以及对海事基础设施的干扰。

这种张力已在新加坡自身的发展计划中显现。其海事管理部门和港口运营商 PSA 正探索自主集装箱运输，与此同时，国际海事组织正制定国际规则。核心争议在于运营自主性与可验证的人类控制之间的平衡，而开发商、船东和监管机构都有责任使这两个目标兼容。

新加坡自主船舶风险进入更广泛的安全辩论

10 月的声明将自主航运纳入国际安全政策讨论，同时支持其持续发展。

唐振辉在其海事安全声明中呼吁落实问责、透明度和人类监督。他也欢迎面向自主商船的国际框架逐步形成。

他的警告涵盖多种不同威胁，包括对水下基础设施的攻击、对船舶通行的干扰、船载系统的破坏，以及非法接管船舶。他描述的是潜在后果，而非确认了一起新发生的自主船舶攻击事件。

这一区分对理解标题至关重要。该声明既未宣布禁止自主航运，也未作出海事 AI 天生不安全的技术结论。它确立了一项外交立场：创新应与安全保障并行推进，并尊重航行权利。

唐振辉还援引了规范海事权利与责任的《联合国海洋法公约》。这一引用将技术安全与船舶在国际间航行所适用的法律条件联系起来。

因此，眼前的变化主要是政治层面的侧重。新加坡正将安全与问责明确纳入其支持海事自主化的立场之中。由此产生的采购或监管影响将取决于后续决策，而非仅由这次演讲决定。

对于技术供应商而言，这一区别将政策信号与合规期限区分开来。一项外交警示不会自动产生新的认证要求，但它确实点明了买方和主管部门可在未来评估中提出的关切。

其中的基本权衡十分直接。赋予软件更多权限，可以减少持续人工干预的需要；但同样的授权，也更需要明确软件何时必须停止、让步或将控制权交还给人类。

船舶能否完成预定航程，只回答了这一问题的一部分。买方还需要确信，运营人员理解系统权限的边界。当观测结果相互矛盾，或条件出现意外变化时，这些边界尤为重要。

这是对该警示的分析性推论，并非对任何特定产品性能的声明。已公布的声明没有对相互竞争的自主系统作出比较评估。

对于关注 AI 监管的读者而言，这一事件说明了当软件影响实体移动时，治理会如何发生变化。问责成为运营设计问题：必须有人能够识别负责决策者、还原决策过程，并说明当时可选择的替代方案。

这项要求使该警示不只与海事专业人士相关。每当软件获得行动许可时，企业 AI 买方面临类似问题。后果各不相同，但被授权的权限与可追责控制之间的关系始终居于核心位置。

港口试验令开发商和运营商面临现实压力

新加坡的发展计划使安全成为即时的项目要求，而不再只是对未来完全无人船舶的遥远担忧。

4 月 22 日，新加坡海事及港务管理局与 PSA 征集自主支线航运运营方案。这些船舶将负责在包括大士和巴西班让在内的码头之间运输集装箱。

征集方案包括建设远程运营中心的计划，即用于监测船舶并支持干预的岸基设施。申请方被要求说明网络安全、航行、冗余、人机界面和监管合规等问题。

这为新加坡自主船舶风险提供了具体场景。预期工作涉及港口物流，自主船舶将与现有交通和操作流程互动。该公告描述的是开发与测试目标，并未表明常规自主服务已经启动。

对开发商而言，压力来自系统集成。导航组件可以完成其分配的任务，但运营系统中其他环节的棘手问题依然存在。这些问题包括谁批准船舶移动、谁处理例外情况，以及不同组织如何转移责任。

对运营商而言，压力在于干预。远程监督只有在人能够获得有用信息并拥有有效行动手段时才有帮助。仅显示船舶状态的屏幕，本身并不能证明这两个条件中的任何一个已经满足。

设想一个码头之间的示例性集装箱转运。自主系统遇到与其计划航行相冲突的信息，相关安全问题不止在于它能否检测到这种冲突。

运营人员需要理解其中的不确定性、识别可采取的行动，并了解哪一方拥有下一项决策的权限。如果操作流程令这些职责含糊不清，增加自动化反而可能使应对更加复杂。

这一情景是分析示例，而非新加坡支线船舶计划中已报道的事故。它说明了为何项目评估需要审视整体运营，而非孤立的软件功能。

当这些职责得到明确后，商业评估也会发生变化。买方应在等效的运营条件下比较方案。否则，为狭窄航线设计的系统可能看起来能与承诺更广泛自主性的系统直接比较。

当供应商用相同标签描述不同能力时，这一区别尤其重要。“自主”可以描述程度各异的独立性。采购文件需要更精确地说明系统执行哪些功能，以及哪些决策仍由人作出。

明确说明运营边界的供应商，能为买方提供可测试的内容。当运营商必须规划人员配置、应急程序或与常规船舶的交互时，宽泛的独立性主张帮助较小。

因此，对参与项目的团队而言，核心问题是证据。他们需要证明技术能力、人类责任和港口程序能够协同运作。成功完成航行很重要，但不足以单独构成部署的完整论证。

正是在这里，安全警示具备商业相关性。它强化了这样一种理由：应将控制安排视为所采购产品的一部分。

人类监督成为自主系统的一部分

将人员移至岸上改变了监督的位置；但这并不意味着监督仍然有效。

国际海事组织，即 IMO，于 2026 年 5 月通过其非强制性的自主航运规则。该规则于 7 月 1 日生效，适用于相关货船。

它涵盖航行、连接性、远程运营、网络安全及其他安全事项。IMO 表示，船长仍承担总体责任，包括船长不在船上时。其路线图计划在 2030 年 7 月前通过强制性规则，并于 2032 年 1 月生效。

这些规定为自主化辩论提供了参照点，也为设计和运营船舶的组织留下了大量实施工作。正式责任必须与实际权限和可用信息相衔接。

人类监督有时被讨论得仿佛增加一个审批环节即可解决问题。在实体运营环境中，这种假设值得更仔细审视。只有当人员理解情况并能影响结果时，审批才有意义。

界面可以展示建议行动，却未必清楚说明其背后的不确定性。程序可以分配责任，却未必明确在存在争议的交接过程中谁来接管控制权。在组织依赖这些安排前，两者都应接受审查。

因此，适当的分析应沿着决策路径展开。哪些信息传达给运营人员？运营人员拥有哪些权限？当人拒绝系统建议时，会发生什么？

这些问题关乎控制权的组织方式，而非单个 AI 模型的准确性。能力强大的模型仍可能处于不清晰的运营安排中。反之，只要职责界定清楚，范围有限的系统也能提供有用的自动化。

新加坡在国防领域另有远程海事运营的案例。其国防科技局介绍了使用远程监督船舶的无人海事巡逻。国防科技局表示，运营人员可通过集成控制系统规划巡逻、追踪船舶并作出响应。

这一军事案例提供的是背景，而非商业准备就绪的直接证据。巡逻任务与集装箱服务具有不同的运营要求。一个场景中的证据不应自动验证另一个场景中的主张。

不过，这一比较仍有助于识别共同的设计问题。两种方式都要求组织决定哪些工作由船舶处理、哪些由人类运营人员处理。与船舶自身能力同样重要的是这种分工的质量。

对于商业买方而言，一个有价值的比较应审视不同方案之间的权限分配。一家供应商可能将更多决策保留在船上，另一家则可能更依赖岸上团队。

在没有支持性证据的情况下，任何一种安排都不应被自动赋予安全优势。相关检验在于，每种安排在其声明的运营条件下会如何表现，包括这些条件恶化时。

这就是可追责自主化的实际含义。当控制权在软件、设备与人员之间转移时，责任必须始终清晰可理解。

互联控制改变 AI 失效的后果

核心安全问题在于：当出现问题后，AI 系统能够授权、影响或控制什么。

新加坡网络安全局和 FAR.AI 在其 2025 年 10 月关于智能体 AI 安全的讨论中审视了相关问题。智能体系统能够通过工具进行规划和行动，较少需要持续提示。

该讨论强调，自主性会带来额外的安全问题，并将责任分散至开发者、供应商、用户及其他参与方之间。它并未证明商用船舶采用了与通用 AI 智能体相同的软件架构。

这里的关联属于分析层面。当软件从提供信息转向采取行动时，其权限便成为风险的一部分。有缺陷的建议与未经授权的控制动作，需要不同的应对方式。

海事系统使这种区分更加具体。咨询工具可能向人类决策者提示潜在的航行风险。拥有更高权限的系统还可能影响船舶的应对措施。

若将这些系统视为提供相同产品进行评估，就会掩盖一项重要差异。买方需要理解行动边界，即软件被允许采取行动的限度。

这一边界同样影响组织如何调查故障。误导性的观察结果会引出信息质量问题。不当指令会引出授权问题。无效干预则会引出控制和恢复问题。

这些类别可能相互重叠，但不应被笼统地归入“AI 失效”的说法。清晰的区分有助于调查人员确定哪些假设失效，以及哪些保障措施需要修订。

对于产品团队而言，这会带来记录组件之间依赖关系的压力。如果某项决策依赖外部信息，运行场景应说明不确定性如何影响采取行动的权限。如果权力发生转移，相关转换过程应让涉事人员仍能理解。

这些是评估问题，而非认定任何具名海事供应商的控制措施不足。现有来源并未提供对商用系统的比较性安全审计。

同样的推理也适用于企业 AI 采购。买方通常从任务表现开始，因为这在演示中可见。一旦系统获得实质性权限，他们还需要有关限制、监督和恢复的证据。

成功的演示通常展示系统完成预定任务。对于运营部署的决策，还必须考虑组织如何处理非预期行动。这些是相关但不同形式的证据。

管理这些证据的团队可以受益于一个可搜索的知识库。将测试发现、供应商声明和运行程序关联起来，有助于审查人员区分已有文档记录的能力与尚未解决的假设。

文档本身并不能证明安全性。它的价值在于让证据可供审查，并让剩余缺口清晰可见。随着责任跨越组织边界传递，这种可见性愈发重要。

该警示仍未解决攻击频率与商业责任问题

可信的安全担忧并不能证明攻击发生的频率，也不能证明哪种自主架构表现最佳。

此处审查的来源并未提供自主运行与传统运行商船的比较攻击率。Tong 的声明也未指出一艘自主船舶近期遭到经验证的接管。

这些限制应当影响分析。该警示支持审视合理的威胁与保障措施，但不能支持“自主性使航运更危险或更安全”的量化结论。

新加坡国立大学正在开展的一项项目展示了另一个悬而未决的领域：网络海盗与保险。研究人员 Fatıma Özcan 的项目研究远程接管威胁，以及海事保险框架是否对此作出充分应对。

该项目描述了潜在情境和研究问题，并未将这些情境表述为已针对商船队实施攻击的记录。这一区分可避免将有价值的研究线索变成缺乏依据的事故声明。

对于买方而言，责任不确定性带来的问题不同于技术性能问题。系统可以达到约定的运行目标，同时合同却可能未能明确争议事件的责任归属。

一个说明性的争议可能涉及：某一结果究竟是由软件决策、操作员指令，还是错误信息造成。解决该争议需要有关实际事件顺序和适用协议的证据。

这并非对特定索赔的预测。它说明了为何运行记录和合同责任应纳入部署讨论。技术保障与商业问责回答的是不同问题。

怀疑论也适用于相反方向。认为自主性风险过高的论点，不能只依赖耸人听闻的假设。它应明确说明功能、暴露面、后果，以及与现有运行方式的比较。

传统运行不应充当定义不清的基准。如果买方要比较替代方案，就需要对相关工作、运行条件和人类责任作出一致假设。

同样，声称自动化消除人为错误的说法，也需要谨慎限定。运行模式的变化可能会将决策重新分配给设计者、维护人员、监督者和船载系统。评估这种重新分配，需要超越“驾驶台上没有人”这一事实的证据。

最具可辩护性的立场是有条件的。自主性方案应针对清晰描述的用途赢得信任，并由相关测试和可理解的责任安排支持。这一标准既允许有价值的部署，也不会将愿景转化为证据。

它同样避免将新加坡自主船舶风险解读为对该技术的否定结论。现有证据支持对更强保障的要求，但仍未确定哪些设计和运行模式最能令人信服地满足这一要求。

随着试验推进，这种不确定性应保持可见。诚实对待它，能为开发者提供更清晰的目标，也为买方提供更坚实的比较基础。

关注 12 月的规则制定与试验提供的证据

下一个有价值的信号，关乎运行证据和控制安排的质量，而不是又一次关于自主能力的笼统承诺。

第一个预定信号是 IMO 于 2026 年 12 月举行的海上安全委员会会议。其已发布的路线图要求就非强制性规则下经验积累的治理框架开展工作。

这一过程之所以重要，是因为来自实际应用的经验旨在为强制性要求提供参考。一个证据积累框架需要支持不同系统和运行条件之间具有意义的比较。

读者应考察最终程序要求参与者记录哪些内容。若能清晰处理运行限制、干预措施和非预期行为，将增强人们对实践经验能够改进规则的信心。

如果一个流程产出的可比较信息很少，买方和主管机构将面临更多不确定性。这是评估下一步的标准，而非对委员会决定的预测。

第二个信号是新加坡自主支线船计划是否有实质性更新。4 月公布的提案提供了明确的使用场景。如果后续披露能够说明试验所附带的条件和责任，将更具信息价值。

供应商遴选或试验公告能够证明项目有所推进，但其本身并不能证明已具备常规运营准备度。读者应区分行政里程碑与已证明的运行能力。

关于船舶可在哪些区域运行、需要何种监督以及如何进行干预的细节，会使更新更有价值。这类披露将强化项目正在把政策预期转化为可测试安排的论据。

有限披露只会保留不确定性，而非证明失败。商业开发并不总会立即产生公开的技术细节。正确的回应是说明哪些内容仍然未知。

第三个信号是运营商和供应商是否发布有关异常条件下控制情况的有意义证据。在未来数月，应关注解释计划运行失效时责任归属的测试结果或保障文件。

最有力的材料会将已声明的运行限制与观察到的行为和人类响应联系起来。仅称已进行测试，不如说明测试具体证明了什么有洞见。

可行干预的证据将强化这样一种论点：在更高自主性下，人类监督仍可保持有效。未解决的交接问题证据，则会增加缩减权限或修订程序的压力。

这些信号共同提供了一种务实方式，让人们追踪事态发展而不把每项公告都视为决定性结果。规则制定确立预期。试验审视特定用途。公开证据帮助读者判断实施是否满足这些预期。

新加坡的警示也让技术买方有理由重新审视其评估授权控制的方式。相关问题不仅在于软件是否完成有用工作，也包括组织能否解释并管理其授予的权限。

在接受有关准备度的笼统主张前，应关注这些信号。审查一项提案时，应询问哪些决策仍由人类作出、超出运行限制时会发生什么，以及哪些证据支持恢复。应将供应商主张与独立评估结果区分开来，并区分计划中的试验与常规商业运营。对于新加坡自主船舶风险，最有价值的下一项进展，将是能力、责任与观察到的行为之间形成更清晰的联系。这种联系让买方有具体内容可供评估，也为开发者提供明确的达标标准。随着规则和试验不断推进，哪些系统能够像清晰说明其能力一样清晰说明自身限制？