人在回路：AI监督与自主的新模型

关键要点

• 人工在环 (HITL) 要求在每次 AI 行动前获得人工批准；人工在环上 (HOTL) 允许 AI 自主行动，而人工仅在需要时进行监控和干预

• 从 HITL 向 HOTL 的转变由三种力量驱动：AI 智能体正变得足够强大以独立行动，AI 部署的规模使得每次行动的人工审查变得不可能，以及自动化带来的经济压力压倒了 2023-2025 年的安全优先姿态

• Anthropic 对五角大楼的拒绝展现了辩论的极端一面：HOTL 可用于发票处理，但在某些公司的观点中，不适用于机密军事应用

• 对于每个部署 AI 的组织而言，实际问题不是“是否应该有人在环”，而是“在风险、成本和后果达到何种阈值时，人才应介入”

人工在环与人工在环上，清晰的区分

人工在环 (HITL) 是较早且更广为人知的模型。AI 提出建议或生成输出，人工在采取任何行动前进行审查和批准。人工是一道闸门。没有闸门打开，什么都不会发生。

该模型适用于 AI 行动离散、不频繁且 individually 具有后果的场景。放射科医生审查 AI 标记的扫描异常。贷款专员批准或拒绝 AI 生成的信用决策。飞行员接受或覆盖自动驾驶仪的建议。在每种情况下，AI 仅提供协助而不行动。人工仍是决策者。

当这些条件失效时，人工在环上 (HOTL) 模型便应运而生。AI 在连续决策流上自主行动，人工从监督位置进行监控。人工不是闸门。人工是具有覆盖权限的观察者。这一区分在理论上微妙，但在实践中影响巨大。

A Deloitte analysis 对企业 AI 部署的描述精准地指出了这一转变：“向人工在环上的转变是一种需要强大 AI 智能体治理和监督的自动化形式。多智能体系统可以持续训练以改进，但若缺乏适当的透明度和监控，它们也可能失控。”关键短语是“失控”。HITL 通过要求人工批准来防止不良行动发生。HOTL 则在不良行动发生后检测，并依赖人工快速干预以限制损害。这一差异并非哲学上的，而是预防错误与捕捉错误的区别。

这一区分清晰映射到 2023 年 AI 工具与 2026 年 AI 智能体之间的差异。2023 年的 ChatGPT 是 HITL：每个响应都需要人工提示，且人工决定是否使用输出。2026 年的 Google Gemini Intelligence 是 HOTL：它跨多个应用预订餐厅、填写表单、确认预订并反馈。人工提供初始指令并接收确认。中间步骤无需闸门即可发生。

为何转变现在发生

*三种结构性力量正推动 AI 系统从 HITL 转向 HOTL，且无一放缓。

能力已跨越阈值

第一种力量是技术性的。2023 年，AI 模型可以生成文本和图像，但无法可靠完成需要导航界面、填写表单并跨应用做出判断的多步骤任务。2026 年，它们可以做到。Claude Code 自主编写、测试并部署完整项目的代码。Gemini Intelligence 导航 Chrome 完成预订而无需用户触屏。OpenAI Codex 控制桌面应用。

当 AI 的能力仅限于生成建议时，HITL 是自然模型。AI 提出，人工决定。当 AI 能够执行整个工作流时，人工成为瓶颈。人工审查 Claude 追逐的每张发票、分类的每个潜在客户、提交的每处代码更改，并非在增加安全性，而是在增加延迟，从而违背使用 AI 的初衷。能力已跨越阈值，此时 HOTL 不仅可接受，而且是唯一能让 AI 充分发挥其价值的模型。

规模使闸门成为不可能

第二种力量是部署规模。GitHub Copilot 现已成为四百万次提交的共同作者。Google Gemini Intelligence 正 rollout 到 300 亿台 Android 设备。企业软件中的 AI 智能体每天处理数百万笔交易。在这一规模下，每次行动的人工审查在数学上不可能实现。你无法雇佣足够多的人来批准 AI 生成的每一行代码、每一封 AI 建议的电子邮件回复、每一张 AI 分类的支持工单。

从 HITL 到 HOTL 的转变部分是技术选择，部分是数学必然。当 AI 系统在一小时内处理的决策数量超过人工团队一年内能审查的数量时，问题不是是否使用 HOTL，而是如何设计能安全失效的 HOTL 系统。

经济压力压倒安全姿态

第三种力量是经济因素。AI 行业仅在 2026 年第一季度就获得了 3000 亿美元的风险投资。那些以自主 AI 智能体承诺筹集资金的公司现在面临交付自主 AI 智能体的压力。2023-2025 年的姿态——“我们正谨慎行事，我们在测试，安全第一”——正与 2026 年收入目标、客户期望和竞争压力的现实碰撞。

正是在这一背景下，应理解 Anthropic 对五角大楼的拒绝。这不仅是一项安全决策，更是一次划界练习。Anthropic 在说：HOTL 可用于发票追逐。但在自主行动与人工干预之间的“环”可能以秒计且后果不可逆的军事应用中，它不可接受。该公司划了一条线。行业其余部分正观望其他人将在何处划线。

监督问题——当人工不再是闸门时会发生什么

HOTL 的核心挑战不是技术性的，而是认知性的。

当人工审查每项 AI 决策时，人工是投入的。每项行动都需要注意力，无论多么短暂。当人工从监督位置监控 AI 决策流时，人工必须持续关注一个大多正常运行的系统。这是一项警觉任务，而人类在警觉任务上表现 notoriously 不佳。

关于自动化自满的研究已有数十年历史且结论明确。当自动化系统超过 90% 的时间可靠运行时，人工操作员开始脱离。异常反应时间增加。检测细微错误的能力下降。随着系统演进而操作员注意力 elsewhere，操作员对系统行为的心理模型日益过时。这在 1990 年代的航空自动驾驶仪研究中已得到充分记录。2026 年，它正被重新发现于 AI 智能体部署中。

实际含义是，HOTL 系统需要不同于 HITL 系统的监督基础设施。HITL 需要批准工作流。HOTL 需要异常检测、警报阈值、干预手册以及操作员可练习应对罕见故障模式的模拟环境。2026 年部署 AI 智能体的大多数组织拥有批准工作流。几乎没有组织拥有其余部分。

Deloitte 的agent observability framework 确定了 HOTL 监督的三个层次：透明度（人工能否实时看到智能体在做什么？）、可追溯性（人工能否事后重构智能体做出特定决策的原因？）以及可控性（人工能否在适当粒度级别干预——暂停、重定向、覆盖、回滚？）。2026 年大多数已部署的 AI 智能体在可控性上得分良好（你可以关闭它们），但在透明度和可追溯性上得分较差（你无法实时看到决策过程内部）。

HOTL 适用之处与不适用之处

HOTL 的适用性取决于两个变量：错误决策的成本以及该决策的可逆性。

发票追逐是理想的 HOTL 用例。错误电子邮件的成本低（惹恼供应商）。行动可逆（你可以发送更正）。人工可以以异常级别监控——“标记任何异常情况，我会审查”——而非逐个行动级别。

自主武器是极端的反例。错误决策的成本以生命衡量。行动不可逆。决策与后果之间的时间可能短到无法进行人工覆盖。这正是 Anthropic 拒绝启用的用例，也是使 HOTL 对任何研究自动化自满文献的人而言真正令人恐惧的用例。

在这两个极端之间是大部分经济领域。医疗诊断 AI：高成本，部分可逆（误诊可纠正但损害可能已造成）。金融交易 AI：高成本，在市场速度下不可逆。法律文档审查：中等成本，可逆。客户服务 AI：低成本，可逆。每个领域都需要自己的人工介入阈值，且该阈值应由领域的错误容忍度设定，而非 AI 供应商的默认配置。

实践中的人工在环上——remio 如何 navigating 边界

remio 在 HOTL 格局中占据独特位置。它是一个在某一维度自主行动的 AI 系统——它被动捕获你所做的一切、每次会议、每次浏览会话、每份文档——而在另一维度需要人工判断——你问什么、如何验证其答案，以及如何处理检索到的信息。

捕获端完全是 HOTL。remio 无需询问即记录。没有闸门，因为闸门会违背目的：如果你必须决定保存什么，你会错过后来需要的东西。检索端更接近 HITL。你提出问题。remio 从你的存档中呈现相关信息。你决定答案是否准确、完整且有用。当你根据信息行动，或当你意识到信息错误并 refine 查询时，环即闭合。

这种混合模型——自主捕获、监督检索——是 HOTL 在整个行业走向的缩影。高量、低错误成本且对人类 burdensome 的任务（捕获一切）被自动化。需要判断、上下文和问责的任务（决定什么重要以及如何处理）仍由人工监督。remio 用于跨来源连接信息的knowledge blending架构本身就是一种 HOTL 设计：AI 发现连接，人工评估其相关性。

FAQ：关于人工在环上的常见问题

Q：人工在环上是否不如人工在环安全？

A：取决于领域和监督基础设施。在高量、低后果且每次行动人工审查会引入不可接受延迟的领域，HOTL 可能比实施不当的 HITL 系统（其中人工成为橡皮图章）更安全。在高后果、不可逆领域，HITL 仍是适当模型。危险不在于 HOTL 本身，而在于部署 HOTL 时缺乏使其安全的监控、警报和干预基础设施。

Q：人工在环上与完全自主 AI 有何不同？

A：在完全自主系统中，没有人工监督。AI 做出决策并执行行动，没有人工干预机制。HOTL 保留人工监督，但将其从行动前 relocated 到行动中或之后。人工仍需负责。差异在于干预的时机，而非其存在。

Q：哪些行业正 fastest 转向 HOTL？

A：软件开发（AI 编码智能体）、客户服务（处理完整解决路径的 AI 聊天机器人）以及金融运营（自动化发票处理、欺诈检测）是领先采用者。这些行业共享两个特征：使 HITL 不切实际的高交易量，以及通常为财务而非物理的错误成本。

Q：HOTL 是否意味着职位流失？

A：HOTL 改变职位角色而非消除它们。曾经批准单笔交易的操作员成为监督系统整体性能并处理异常的监督者。技能要求从执行速度转向诊断能力。这与制造业自动化和航空自动驾驶仪中上演的模式相同：直接操作系统的人数减少，但留存人员的技能水平要求提高。

Q：监管是否会要求某些 AI 应用采用人工在环？

A：欧盟 AI 法案已要求高风险 AI 系统具备人工监督，但未指定机制。2026 年的辩论是“人工监督”能否由 HOTL 满足，还是需要 HITL。答案可能因行业而异：医疗设备可能需要 HITL，金融欺诈检测可能接受 HOTL，自主武器可能被完全禁止。监管框架仍在制定中，2026-2027 年的决策将塑造未来十年的 AI 行业。