PACMAN AI 框架反应迅速，但硬件安全限制仍掌握最终控制权
在五项聚变实验中，PACMAN AI 框架每 20 毫秒作出一次控制决策，同时由独立的输出层保留对硬件安全限制的最终控制权。这种分离至关重要，因为机器学习模型可以实时影响加热、等离子体密度、旋转以及不稳定性预防。
PACMAN 由普林斯顿等离子体物理实验室和普林斯顿大学的研究人员开发，其名称意为“使用机器学习进行预测与控制”（Prediction And Control using MAchiNe learning）。该框架将多个机器学习模型连接至位于圣迭戈的 DIII-D National Fusion Facility 控制系统。
关键不在于 AI 操作了科学设备。研究人员此前已将机器学习用于解决单项聚变控制问题。PACMAN 的不同之处在于，它建立了一套共享基础设施，用于整合模型，同时不让任何一个模型成为对机器拥有最终决定权的主体。
这一设计让两个目标形成直接张力。AI 需要足够的自主空间，才能比人类更快作出反应；但当模型遇到陌生条件时，安全控制仍必须保持可预测性。PACMAN 的答案是架构分离：模型提出动作建议，而确定性的控制逻辑决定硬件能够接受什么。
这种方法并未取消人工监督。研究人员仍会设定实验目标、定义运行参数，并在实验之间审查结果。PACMAN 也尚未在聚变研究以外的常规实验室仪器上得到验证。
不过，这些测试为正在考虑 AI 驱动自动化的实验室提供了具体案例。最安全的部署方式或许不取决于让模型变得绝对可靠，而在于限制模型出错时可能造成的后果。
PACMAN AI 框架将多个模型接入同一个控制回路
PACMAN 将独立的机器学习实验整合为协调一致的控制系统，同时不让这些模型获得对托卡马克装置不受限制的访问权。
这一框架发表于经过同行评审的 PACMAN control paper，刊载于《Nuclear Fusion》。其作者为 DIII-D 设计了 PACMAN；DIII-D 是一座作为美国能源部用户设施运行的托卡马克装置。
托卡马克利用磁场约束等离子体，即一种被加热到极端温度的带电气体。研究人员持续调节磁体、气体注入器和加热系统，以使等离子体维持在有用的运行状态。
这些调整构成了一项要求极高的控制问题。等离子体状态可在数毫秒内变化，而精细的物理模拟可能需要数天甚至数月。适合规划明年实验的模型，无法处理当前一次放电过程中正在形成的不稳定性。
PACMAN 通过一个重复运行的控制回路来应对这种时间尺度不匹配。系统收集温度、密度和磁信号等测量数据，对输入进行错误检查，并将其打包为统一格式。
随后，机器学习模型读取与其分配任务相关的测量数据。一些模型估计等离子体当前状态，另一些则预测未来事件或计算应采取的动作。
控制器将这些结果转化为拟议命令。这些命令可以改变加热功率、移动回旋管反射镜，或调整其他可用执行器。
最后一个阶段被刻意独立出来。它会在控制器请求互不兼容的动作时解决冲突，应用硬件限制，并且只向托卡马克发送可接受的命令。
这个输出阶段改变了 AI 控制的含义。模型可以建议一项动作，但并不拥有无限制执行该动作的权限。
该架构也使各个模型保持独立。研究人员可以添加、移除或替换一个模型，而无需重新设计其他所有组件。根据 PPPL project account，安装第一个模型耗时数月，而添加第二个模型只需数天。
更快的集成速度对 DIII-D 很重要，因为实验访问机会有限。一个需要数月定制控制工程的模型，会减少测试、修正和比较的机会。
PACMAN 的模块化降低了这种集成负担。它还在实验性模型代码与既有的机器控制功能之间建立了稳定边界。
五项演示覆盖的不止是一项狭窄的预测任务。PACMAN 让一个强化学习控制器操作加热系统、预测边缘能量爆发，并控制由快粒子驱动的波。
它还将等离子体密度和旋转调整至研究人员设定的目标。另一种配置预测了撕裂模，并在这种不稳定性形成之前改变等离子体状态。
撕裂模是一种会改变等离子体磁结构、并可能终止聚变实验的扰动。传统控制器通常在扰动已经开始后才作出响应。
在一项 PACMAN 实验中，模型提前约 200 毫秒预测到了该事件。这一时间窗口让控制系统能在需要抑制之前调整等离子体。
该框架还协调了 DIII-D 的全部六台回旋管。这些设备向等离子体提供微波加热，其反射镜和功率水平可以在实验过程中调整。
协调这些设备要求系统同时满足多个目标。因此，该实验测试的并非只是单一模型连接至单一执行器。
这一结果仍属于研究演示，而非生产级认证。不过，它表明集成式 AI 控制可以在物理科学硬件上运行，同时保留独立的执行约束节点。
二十毫秒改变了谁能够作出决策
速度优势促使实验室下放即时控制权，但并不意味着应当下放安全政策的决定权。
据 PACMAN 联合首席作者 Andy Rothstein 介绍，专注的人类操作员的反应时间通常以秒计。完整的 PACMAN 回路通常约在 20 毫秒内运行完毕，并在整个实验过程中持续重复。
这种差异不仅仅带来便利。它决定了控制器能否在有效干预仍有可能时作出响应。
撕裂模的增长速度足以终止一次等离子体放电。等待操作员解读多项诊断信号并选择动作，可能会耗尽可用的响应窗口。
机器学习可以更快地评估这些信号。它也能在不运行用于离线科学分析的较慢模拟的情况下，近似预测等离子体行为。
这给依赖人工配置控制路径或孤立自动化系统的聚变设施带来压力。更快的模型能够协调比操作员逐时逐刻所能管理的更多信号和执行器。
同样的压力也会出现在其他科学环境中。自动化化学、材料测试、显微镜和生物加工都将软件决策与物理设备结合在一起。
但速度也压缩了发现错误命令的可用时间。一个每 20 毫秒重复一次的控制器，可能在人员理解发生了什么变化之前就执行许多动作。
这正是为什么不能脱离其约束条件来单独看待 PACMAN 的速度。系统只在其人类设计者设立的边界内获得运行权限。
这种区别类似于目标与许可之间的差别。研究人员可以要求控制器达到某个目标等离子体状态，而硬件规则决定在此过程中哪些动作仍被允许。
PACMAN 的控制回路也在更长的时间尺度上保留了人工参与。物理学家在一次放电前定义目标，之后检查结果，并为后续实验调整控制器设置。
因此，人类仍在治理实验，只是不再试图批准每一个毫秒级决策。这种分层时间模型比在每一条命令前设置审批提示更符合实际的监督方式。
压力同样落在实验室管理者身上，而不只是模型开发者。管理者必须识别哪些决策需要即时自动化，以及哪些政策必须保留在模型之外。
他们还需要明确谁可以修改这些政策。如果日常模型更新能够悄然改写安全限制，那么即便这种限制存在于独立软件中，也几乎无法提供保护。
在这种架构下，变更管理成为核心问题。团队需要为模型、控制器、安全约束和物理设备配置建立不同的审查流程。
日志也必须保留同样的分离。调查人员应当能够确定模型预测了什么、控制器请求了什么，以及输出阶段最终允许了什么命令。
这一记录在出现意外结果后至关重要。没有它，团队无法区分是模型错误、传感器数据异常、控制器冲突，还是执行器故障。
PACMAN 并未为每个实验室提供一套通用治理方案。但它表明，在自动化速度超过人类反应速度之前，必须先划分权限。
模型提出建议，但安全层作出决定
PACMAN 的核心权衡在于，为机器学习留出优化空间，同时拒绝赋予它对物理限制的最终决定权。
机器学习系统的行为不同于传统控制规则。其输出取决于训练数据、模型结构、输入质量以及运行中遇到的条件。
模型可能生成语法上有效、但在物理上并不合适的命令。它可能要求变化得过快、误读异常信号，或在超出训练范围时进行外推。
PACMAN 将冲突解决和硬件执行置于模型与控制器之后。这一位置很关键，因为每一项拟议动作在到达设备之前，都必须跨越同一条边界。
模型无需理解每一项硬件限制。输出层可以拒绝或修改违反既定约束的请求。
这种划分也能在替换模型时保护安全控制。研究人员可以验证新的预测器，而无需重建执行器限制的整条执行路径。
这一原则可应用于聚变之外的领域，尽管 PACMAN 的证据并不涵盖这些领域。液体处理器可以设置固定的容量和移动限制。反应器可以维持独立的温度和压力限制。
机械臂可以保留力、速度和工作空间边界。显微镜平台可以限制载物台移动，或防止探针与样本发生不安全接触。
这些例子说明的是该架构，而不是已经得到验证的 PACMAN 部署。已发表的演示仍然局限于 DIII-D 及其等离子体控制系统。
独立的安全规则同样不能保证实验室安全。团队必须选择正确的限制、测试其实现方式，并考虑发生在模型之外的故障。
传感器故障可能会让一条原本可接受的命令，在真实物理条件下变得不安全。网络延迟可能导致命令在预定时机之后才到达。
两个单独看来合理的控制器也可能发生冲突。一个可能请求增加加热以达到性能目标，另一个则为了避免不稳定性而降低加热。
PACMAN 的输出阶段为协调这些需求提供了空间。研究人员并未解决自主实验室之间所有可能的冲突，但他们将仲裁明确设为系统功能。
这种选择不同于将模型输出本身视为命令的架构。直接执行会使实验室依赖模型的判断，以及为其提供输入的每一个上游组件。
关于 AI 实验室安全的研究支持这种谨慎态度。2025 年的一项实验室安全基准测试评估了 19 个语言模型和视觉语言模型在危险识别及真实场景中的表现。
没有任何一个受评估模型在危险识别方面的准确率超过 70%。该基准包含 765 道选择题，以及 404 个场景中的 3,128 项开放式任务。
该研究并未评估 PACMAN；PACMAN 使用的是专门的机器学习控制器，而非操控实验室设备的通用语言模型。不过，这一对比仍揭示了更广泛的可靠性问题。
模型在结构化问题上的能力，并不能证明其能在开放的物理环境中安全运行。一种形式下的高分，也可能掩盖其在约束较少场景中的推理弱点。
另一项关于用于原子力显微镜的大语言模型智能体研究发现，出色的领域问答能力并不能可靠地转化为实验室操作能力。
研究人员观察到他们称为“梦游式操作”的指令偏离现象。多智能体系统的表现优于单智能体，但仍对提示词格式变化敏感。
同样，PACMAN 并不是语言模型智能体。其模型在专门构建的系统中执行受限的控制和预测任务。
其相关性在于设计上的启示。团队应假定，即使 AI 组件已通过常见评估，它仍可能失效。
将限制置于模型之外，便能把这一假设转化为架构设计。开发者无需预测模型可能产生不合适输出的每一种方式。
这正是本文的核心反转：更自主的决策，并不意味着需要赋予更多自主的安全权限。
模型越快、适应性越强，就越有理由采用一个它无法绕过的简单执行层。
聚变控制是测试案例，而非普遍性证明
在 DIII-D 完成的五项成功实验验证了可行性，但并不能证明其可移植至不同设施或普通实验室仪器。
PACMAN 的开发者认为，其模块化设计能够支持形状、尺寸和仪器配置各异的托卡马克装置。这一主张仍是开发目标，而非已得到验证的结果。
每座聚变设施都有各自的诊断系统、时序限制、执行器、运行工况和机器保护系统。通用的软件模式并不能消除这些差异。
将 PACMAN 部署到另一台托卡马克装置，需要团队将本地测量数据映射至该框架中。他们还必须验证每个执行器接口和安全约束。
模型本身也可能需要新的训练数据。在 DIII-D 观察到的等离子体行为，未必能原样迁移至另一台设备。
即使是 DIII-D 的结果也需要谨慎解读。该框架支持五项不同实验，显示出其在控制任务上的广度，但并未说明其能在所有预期设备状态下持续运行。
传感器错误、控制器冲突与未知等离子体状态的罕见组合，仍然难以复现。这些组合往往决定安全架构是否可靠。
研究人员还在拥有专业操作员和严密规划实验放电的研究设施中测试了 PACMAN。常规实验室面临不同的工作流程和组织压力。
生产型实验室可能需要跨班次重复执行流程，可能结合多家供应商的仪器，允许远程访问，并依赖自动化经验程度不一的技术人员。
这些实验室还需处理维护状态。设备可能被重新校准、暂时绕过，或使用会改变其安全边界的替换部件运行。
PACMAN 并未为这些情形提供自动答案。它的贡献在于提供一个结构，让团队能在其中编码并执行自己的答案。
有限的证据应避免得出夸大的结论。PACMAN 尚未证明通用 AI 智能体能够安全地规划和执行任意实验室工作。
它也没有消除对传统紧急停止装置、防护设施、联锁装置或隔离措施的需求。无论软件提出何种请求，这些保护措施都必须保持有效。
Lab Manager 的分析恰当地将 PACMAN 视为更广泛自动化的比较参照，而非通用仪器控制器。
这种定位对企业采购方很有帮助。问题不在于他们明天是否能将 PACMAN 安装在液体处理器或分析仪器旁。
问题在于，他们选择的自动化平台是否保留了同样的权限分离。采购方应询问模型输出在何处变成命令，以及还有什么机制能够阻止它们。
他们还应询问，新模型能否被独立验证。若系统每次模型更新后都需要完整重新认证，将会拖慢实验进程。
另一种极端同样危险。在不重新检查接口、时序和失效行为的情况下替换模型，可能削弱模块化原本要保留的保护机制。
因此，对实验室负责人而言，可移植性是一项工程和治理主张。它必须针对每个设施的设备、危险因素和操作流程得到验证。
PACMAN 已为第一个环境提供了证据。其他实验室仍需产出自己的证据。
AI 硬件安全限制不只是一次软件检查
只有当规则、输入和失效模式都经过独立验证时，独立输出层才能降低风险。
“硬件安全限制”这一说法听起来绝对，但实际实现仍是一条由软件和物理组件构成的链条。每一环都引入了假设。
最大加热指令或许被正确编码，但该规则仍依赖于对设备状态的准确了解，以及正常工作的执行器接口。
安全限制也可能彼此相互作用。一项低于某个阈值的命令，在与另一项命令结合或持续一段时间时，仍可能造成风险。
团队需要覆盖这些相互作用的测试，而不只是测试单独的上下限。他们还需要进行故障注入，即刻意引入故障以观察系统响应。
传感器验证尤其值得关注。PACMAN 会在模型使用输入值之前检查错误，但没有任何验证方法能捕获每一项错误读数。
看似合理但实际错误的信号可能通过简单的范围检查。冗余测量、一致性测试和物理模型能够提升检测能力。
时序同样需要严格审查。实时控制依赖于命令在已知截止时间内到达。延迟的命令对于先前状态可能有效，却可能对当前状态不安全。
因此，系统需要定义错过截止时间后的行为。可能的响应包括保持最后一个安全设置、转入安全状态，或将控制权交给另一套系统。
冲突解决机制也必须足够确定，才能接受测试。如果两个控制器争夺同一个执行器，研究人员应在冲突发生前就知道哪个目标具有优先级。
这种优先级结构属于策略。它不应意外地由执行顺序、网络时延或模型置信度分数决定。
网络安全增加了另一重边界。即使模型无法覆盖限制，若攻击者能够修改限制或绕过输出阶段，这种保护仍然有限。
权限应区分模型开发者、设备工程师、安全官员和操作员。关键规则变更应生成可审查的记录。
版本管理同样重要。每次实验都应记录执行期间使用的模型版本、控制器配置、安全规则集和设备状态。
这正是实验室自动化与知识管理的交汇点。团队需要在实验意图、软件配置、观测数据和后续分析之间建立持久连接。
可搜索的技术知识库可以帮助工程师追溯这些关系。但它无法替代正式的控制系统日志或安全验证。
人工监督也必须具体明确。仅仅说有人“处于回路中”，几乎无法说明此人的实际权限或可用响应时间。
PACMAN 在实验前及实验之间赋予人类有意义的控制权。研究人员设定目标、确定参数、审查结果，并调整后续运行。
在最快的控制周期中，该架构依赖预先批准的约束。这更接近监督控制，而非持续的人类审批。
这种安排为实验室管理层带来明确责任。人们必须在实验开始前决定哪些选择可以安全地实现自动化。
他们还必须界定暂停自动化的条件，例如传感器数据缺失、设备状态异常、命令反复被拒绝，或通信故障。
系统安全停止的能力，应获得与其优化性能能力同等程度的测试。一个能高效达成目标、却会不可预测地失效的控制器，仍不适合部署于物理环境。
PACMAN 已发表的结果证明了成功运行，而非完整保障。该项目应被视为一种架构模式的证据，而非该模式不可能失效的证明。
这种区分强化了结果，而非削弱它。有效的安全工程始于明确的限制和可测试的权限边界。
三项信号将表明 PACMAN 是否成为共享基础设施
下一阶段取决于跨设施部署、更长期的运行证据，以及模块化升级能够保持安全行为的证明。
第一个信号是在另一台托卡马克装置上部署。PACMAN 的开发者认为，其积木式设计可以超越 DIII-D，但另一座设施将直接检验这一主张。
成功迁移不只是运行软件。该框架需要在不失去时序保证的前提下，连接不同的诊断系统、执行器和保护系统。
这样的演示将加强 PACMAN 是聚变研究基础设施这一论点。若部署失败或需要大量定制重建，则会揭示其灵活性有多大程度依赖于 DIII-D。
第二个信号是在 DIII-D 获得更广泛的运行证据。五项实验涵盖多项重要任务，但可靠性取决于其在不断变化条件下的重复表现。
后续报告应说明该框架的运行频率、安全层修改了多少拟议命令，以及使用过程中出现了哪些失效模式。
被拒绝命令的数据将尤其具有参考价值。它能够显示输出层主要只是预防措施，还是经常阻止不合适的模型操作。
研究人员还应报告错过截止时间、错误输入检测、控制器冲突以及转入安全状态等情况。这些细节将使安全主张变得可衡量。
第三个信号是升级流程。PACMAN 最强的实际承诺在于，研究人员能够快速添加模型，而不扰动系统的其余部分。
这一承诺能否令人信服，取决于团队是否能为多次模型替换提供独立验证的记录。他们应证明，每次变更后安全行为仍保持稳定。
清晰的升级协议的重要性不止于聚变领域。实验室需要能够采用更优模型的方法，而无需重新审核每一个已认证或验证的组件。
反过来，若模型替换改变了时序、数据格式或执行器行为，便可能暴露隐藏的耦合关系。这种耦合将削弱该框架关于模块化的主张。
研究人员还应说明，该架构如何处理追求相互竞争目标的模型。随着更多控制器加入闭环，协调加热、稳定性、密度和性能将变得更加困难。
此前的聚变 AI 研究提供了一个有价值的参照。2024 年，由普林斯顿大学牵头的团队曾提前最多 300 毫秒预测撕裂不稳定性。
这项工作聚焦于预测并避免一种特定的不稳定性。PACMAN 则将叙事从单一成功控制器，扩展到可供多个控制器共享的环境。
如果该平台持续吸纳新模型，这一区别将十分重要。只有当团队能够复用其接口、规则和验证方法时，一系列演示才会成为基础设施。
实验室采购方在将 PACMAN 的结果推广开来之前，应关注这些信号。他们也应立即将其核心问题应用于自身的自动化项目。
AI 的建议会在何处转化为物理指令？哪个组件能够拒绝该指令，又由谁控制用于拒绝的限制条件？
如果这些答案仍然模糊，引入能力更强的模型只会增加不确定性。若边界明确且可测试，更快的自动化就更容易得到治理。
PACMAN AI 框架提供了一个可信的设计方向，因为它将模型智能与机器权限视为彼此独立的属性。这种分离值得在更多设施、任务和故障情境中接受检验。
对于正在评估 AI 实验室自动化的团队而言，眼下的行动很直接：梳理从模型输出到物理运动的每一条路径。然后确认，在硬件执行动作之前，经审核的独立控制层能够中断其中每一条路径。
