Sam Altman 的 AI 安全框架在不等待国会的情况下推进

尽管围绕联邦立法和反垄断保护的争论尚未解决，Sam Altman 仍支持立即采取 AI 开发保障措施。Sam Altman 的 AI 安全框架支持统一的全国性规则，但并不将国会行动视为前提条件。

这一差异改变了当前有关 AI 放缓的讨论。OpenAI 并未承诺停止训练先进模型。Altman 反而表示，安全审查和监控应使开发速度低于理论上的最快速度。

他的立场是在 Anthropic CEO Dario Amodei 呼吁“放慢前沿步伐”之后提出的。Amodei 提议让独立评估人员持续获得访问权限，并推动主要实验室之间开展更广泛的协调。这一提议很快引发了有关竞争法、政府权力，以及领先公司能否自行监管的质疑。

Altman 的回应将单边保障措施与全行业协议区分开来。他认为，OpenAI 可以立即加强自身的开发控制措施，而华盛顿则可继续审议共同要求与国际协调机制。

由此产生的冲突并不只是速度与安全之间的对立，而是自愿行动与可执行问责之间的对立。OpenAI 希望实验室在国会明确负责任开发的具体要求之前便开始采取行动。

Sam Altman 的 AI 安全框架在立法前启动

Altman 的核心主张是，每家前沿实验室已经拥有足够的权限来改善自身的安全实践。

在 9 月 14 日的一则帖子中，Altman 表示，美国开发者必须让公众相信，能力不断增强的 AI 将得到负责任的管理。前沿 AI 指的是处于当前可用能力最高水平附近的模型。

他写道，OpenAI 欢迎具有一致安全要求的联邦框架。然而，该公司认为，在采取实质性行动之前，无须等待立法或反垄断豁免。

这种区分之所以重要，是因为“放缓”一词涵盖了多种不同活动。一家公司可以推迟一次训练、增加内部审查，或邀请外部评估人员，而无需与竞争对手协调。

竞争对手之间的正式协议在法律上则不同。联合限制开发、产出或发布时间的实验室可能面临反垄断审查。其合法性取决于它们共享的信息以及作出的承诺。

Altman 的原始声明将 OpenAI 的即时重点放在公司层面的控制措施上。他表示，OpenAI 现已在某些前沿强化学习训练前准备明确的安全论证。

安全论证是一份文件化的论证，说明已识别风险已被充分降低，足以开展特定活动。它在工作继续之前，将证据、假设、保障措施和决策标准联系起来。

强化学习通过反馈和奖励信号调整模型行为。一次前沿训练可能显著提升推理、自主性或其他能力，因此仅审查完成后的模型可能为时已晚。

这种方法将安全决策前移至开发过程。团队必须考虑一项重大训练是否应当继续，而不只是判断完成后的模型是否应当面向客户推出。

Altman 还支持针对失配、监控和安全建立共享标准。失配是指系统行为与其运营者设定的目标或边界发生冲突。

然而，该声明并未规定放缓训练的共同门槛，也没有说明当商业优先事项与安全优先事项发生冲突时，谁能够推翻公司领导层的决定。

这些缺失使这一承诺尚未达到监管体系的程度。OpenAI 描述的是一种方向和若干实践，而不是覆盖所有未来模型、具有约束力的公开规则手册。

即时变化仍然具有意义。Altman 已将开发阶段审查、独立审查和审慎放缓纳入 OpenAI 公开的安全立场之中。

尚未解决的问题是：当竞争对手似乎准备率先发布能力更强的模型时，这些实践是否仍能保持可信度。

为什么 OpenAI 的 AI 安全规则正在前移

争论已从测试完成后的产品，转向监督创造其能力的过程。

早期安全框架往往侧重于部署。开发者评估完成后的模型、添加过滤机制、限制访问，并在发布后监测客户如何使用它。

这种结构假定开发者可以在流程末期发现严重危险。当模型开始协助研究、编程、评估以及后续系统的设计时，这一假定就越来越缺乏说服力。

Altman 承认了这一局限。他表示，早期的准备框架适合其最初所处的阶段，但主要处理的是完成后的模型和部署决策。

开发阶段监督延伸得更靠前。它可以审查训练计划、强化学习环境、内部代理、评估设计，以及围绕未发布系统设置的保障措施。

Amodei 的放缓提议提供了直接催化因素。他认为，能力开发应放慢到足以让对齐和安全措施跟上的程度。

他的第一步是单边行动。Anthropic 计划让外部评估团队持续获得类似相关员工所拥有的访问权限。

这种访问可能包括公司设备、内部工具、与员工的交流，以及有关安全流程的信息。Amodei 表示，评估人员也应能在不受公司常规编辑控制的情况下发布关键发现。

Altman 最初支持独立评估人员这一概念，并表示 OpenAI 也会这样做。他之后的声明将这一想法扩展为以开发阶段安全论证为核心的 OpenAI AI 安全框架。

这比在发布前委托进行一次基准测试是更大的变化。持续参与的评估人员能够观察保障措施如何跨越多项决策发挥作用，而不是只检查某个经过打磨的模型快照。

其实际价值体现在自主 AI 研究中。设想一个内部编程代理：它会修改实验软件、启动测试并解读结果。

发布审查或许只研究最终模型。嵌入式评估人员则可以检查在训练过程中出现的权限设置、监控失效、升级规则和意外行为。

当开发者利用 AI 加速 AI 研究时，这种可见性变得更加重要。更快的研究循环会减少人类团队理解每一次能力提升的时间。

Amodei 认为，这一过程已在整个行业中展开。该说法仍存在争议，尤其是在其规模和未来改进速度方面。

基础治理问题并不取决于最强烈的预测。具备更强网络能力、更长任务跨度和更广泛工具访问权限的模型，已经带来了更棘手的评估问题。

更广泛的风险辩论涵盖犯罪滥用，以及系统行为超出运营者预期范围的情形。这些风险可能在公开发布前的内部测试中出现。

因此，开发阶段监督改变了问责的时点。它要求实验室在创造下一次能力提升之前，就建立证据与监控机制。

然而，仅有访问权限并不能保证独立性。评估人员需要技术能力、安全访问、稳定资金，以及披露实质性关切的自由。

公司还必须界定负面发现出现后会发生什么。如果评估人员无权延迟工作，他们可能只是观察者，而不是有效的约束力量。

Altman 的提议承认需要新工具。其可信度将取决于这些工具能否改变高风险决策，而不只是记录它们。

自愿放缓与联邦规则解决的是不同问题

实验室今天可以自行放缓，但无法为每个竞争对手建立一致的义务。

Altman 的立场直接回应了这样一种批评：AI 公司正以反垄断担忧为借口不采取行动。单个公司通常不需要政府许可，就能加强自身的保障措施。

OpenAI 可以要求在训练前进行额外评估。Anthropic 可以引入外部审查人员。任一公司都可以投入更多时间进行监控，或推迟不符合内部安全标准的工作。

当竞争对手协商集体限制时，法律问题会变得更加突出。影响产出、开发进度或市场行为的协议，可能引发《谢尔曼法案》下的担忧。

据报道，OpenAI 曾向国会议员寻求有关行业协调的明确指引。根据反垄断报道，法律不确定性可能会阻碍某些形式的合作。

该报道还提到拟议中的联邦立法，涵盖针对对抗性威胁和安全风险的协作。此类措施可能为有限的技术协调建立更安全的渠道。

其范围至关重要。共享网络攻击指标，与同意任何参与者都不得训练至某一能力阈值以上，是不同的事情。

共同制定评估标准也不同于协调产品发布。政策制定者需要区分安全合作与保护既有公司免受竞争影响的行为。

Altman 现在也划出了类似边界。他支持立即开展单边工作和共享安全经验，同时将国际协调中更强的政府角色保留下来。

这种划分具有实际逻辑。一家公司可以管理自己的实验室，却无法对国内竞争对手或外国开发者施加同等限制。

联邦框架可以在受覆盖公司之间建立一致性。它可以规定最低评估要求、报告义务、安全控制措施，以及不遵守规定的后果。

在这场争议之前，OpenAI 就已倡导全国性的治理结构。其 6 月发布的联邦蓝图呼吁制定全国规则、建立更强的联邦安全机构，并采取更广泛的政府韧性措施。

联邦政策也已开始尝试自愿访问机制。6 月的一项行政命令指示各机构设计程序，在更广泛发布前评估某些前沿模型。

根据该自愿框架，开发者可在向可信合作伙伴发布受覆盖模型前，向政府提供最长 30 天的访问权限。

该命令明确反对针对新模型开发和发布实施强制性的联邦许可、预先审批或准入制度。这一限制使开发者保留了相当大的权力。

Altman 最新立场与这一混合体系相符。公司通过内部控制采取行动，政府机构进行特定评估，而国会仍负责建立持久的法律义务。

这种模式具备速度优势，因为自愿性保障措施不需要等待立法时间表。但它也会造成碎片化，因为每家公司都可以对放缓、证据和可接受风险作出不同定义。

统一立法能够解决一致性问题，但也带来另一种风险。随着训练方法、模型架构和危险能力不断变化，规则可能迅速过时。

规定过于狭窄的法律可能遗漏新的开发实践。规定过于宽泛的法律则可能赋予监管机构过大的自由裁量权，或给规模较小的竞争者带来高昂的合规成本。

因此，真正的政策选择并非在自愿行动与立法之间二选一。更可能的结构需要两者兼具：私营部门的控制措施应在最低法律要求之前实施，并延伸至其之外。

Altman 的贡献在于拒绝将等待视作一种安全策略。国会可以决定最低标准，而每一家前沿实验室则应决定是否现在就超越这一标准。

真正的考验在于独立监督是否具有实效

只有当评估者能够发现问题、传达问题，并改变公司的决策时，公开承诺才有意义。

支持者认为，驻场评估者是连接内部治理与正式监管的一座务实桥梁。他们能够了解先进系统的构建方式，而无需监管机构重建每一家实验室。

Americans for Responsible Innovation 欢迎 Altman 和 Amodei 作出的承诺。不过，该倡议组织仍主张，应将自愿措施转化为可执行的政府标准。

这一回应揭示了将 AI 节奏控制解释为企业自我约束时的核心弱点。通常由公司选择评估者、协商访问权限，并决定评估结论将如何影响运营。

合同条款可以保护客户数据和真正的安全机密。但同样的条款也可能限制评估者能够看到的内容，或限制其能够公开披露的内容。

因此，独立性不仅需要组织上的分离。审查者还需要可靠地访问模型、训练环境、事件记录、决策文件及相关员工。

他们还需要一条明确的升级路径。严重警告应能直接提交给高层管理人员、董事会委员会或适当的监管机构，而非经由产品团队过滤。

发布权同样重要。评估者无法披露所有技术细节，但公众需要知道其访问权限是否受到限制，或其建议是否遭到拒绝。

另一项担忧涉及竞争激励。OpenAI 和 Anthropic 希望推动更安全的开发，但两家公司也都身处一个成本高昂、竞争激烈的市场。

放缓训练过程可以降低即时风险，也可能保护领先公司免受缺乏同等基础设施、客户资源或监管人员的挑战者冲击。

这并不能证明安全论点并不真诚。它意味着，一个良好的框架必须防止安全标准演变为围绕既有企业运营方式设计的进入壁垒。

规模较小的实验室应能够履行基于能力的义务，而无需复制 OpenAI 使用的每一道流程。监督应针对已被证明的风险作出响应，而不应只取决于公司规模或品牌知名度。

反垄断批评指向了一个相关危险：少数领先公司不应决定哪些组织有资格成为前沿开发者，或哪些研究路径仍属可接受范围。

共同测试可以帮助监管机构和客户比较系统。但对研究、定价、输出或市场准入实施协调性限制，则需要受到更严格的审查。

目前尚无经验证的公开证据表明，OpenAI 的新安全论证如何改变了某项前沿训练决策。Altman 描述了这一做法，但未公布完整案例。

读者不应将这一声明视为开发已然安全的证明。这是对一项流程的承诺，而其阈值、审查者和执行机制仍不明确。

Amodei 的驻场评估者计划也面临自身的实施问题。评估者身份、开始日期和最终访问协议，将决定这一安排究竟有多么不同寻常。

独立评估也可能引入信息安全风险。审查者或许会接触模型权重、漏洞、客户信息，或具有重大商业价值的研究成果。

一项可信的计划必须保护这些资产，同时不能让保密主张阻挡令人不便的发现。这种平衡很难实现，但可以通过透明的治理条款进行检验。

Sam Altman AI 安全框架最有力的版本，会公布明确的干预阈值，也会披露安全论证何时延迟或改变开发进程。

较弱的版本则会增加审查，却不改变激励机制或决策。两种版本可能使用相似的措辞，因此证据必须来自实施情况。

未来三个月应揭示什么

三个具体信号将表明，OpenAI 的承诺究竟代表着运营层面的克制，还是又一项弹性的安全承诺。

第一个信号是发布安全论证的模型。OpenAI 无需披露敏感研究，但可以说明其在重大强化学习训练运行之前所采用的结构。

有价值的披露应明确涵盖的能力、证据标准、负责决策的人士以及升级程序，还应说明何种发现能够延迟或停止一次训练运行。

详尽的模板将强化 Altman 关于 OpenAI 在立法之前采取行动的主张。缺乏决策阈值的模糊描述则会削弱这一主张。

第二个信号是正式的独立评估者安排。OpenAI 和 Anthropic 都支持类似员工级别的访问权限，但最终合同将决定这一表述是否具有实质内容。

应关注评估者身份、技术授权范围、访问期限、报告权利以及公开分歧的能力；还应关注涉及安全、特权或保密合作伙伴数据的限制。

在保护发布权的前提下提供广泛访问权限，将支持这一开发阶段监督的新模式。受限访问或由公司控制评估结论，则会让原有的问责缺口继续存在。

第三个信号是一项具体的联邦或国际协调机制。国内实验室可以采用各自的保障措施，但单边节奏控制无法管理全球能力竞赛。

华盛顿可以推动共同评估标准，为威胁信息建立受保护的共享渠道，或明确哪些形式的安全协作符合反垄断法。

国际协调将更为困难。各国政府对于战略竞争、模型访问、出口管制以及私营实验室可接受的角色存在分歧。

就测试或事件报告达成一项狭窄协议，比为能力开发设定全球限制更为可行。即便是有限协调，也能明确 Altman 希望政府提供什么。

开发者和企业采购方应关注这些信号，因为前沿治理影响的不只是实验室政策。它还会塑造模型可靠性、访问条款、部署时间表，以及采购过程中可获得的证据。

评估自主编码代理的安全团队，需要的不仅是一项基准测试分数，还需要了解工具权限、故障监测、事件处置和外部评估。

当代理处理私人文件或跨连接服务采取行动时，知识工作者也会面临类似问题。强有力的开发控制能够在本地设置和用户监督发挥作用之前降低风险。

下一次模型发布将提供即时检验。OpenAI 可以展示安全论证和监测是否改变了开发流程、延迟了部署，或限制了某项能力。

竞争对手的行为也很重要。如果 Anthropic 公布更强的访问条款，OpenAI 将面临跟进压力。如果其他实验室拒绝，自愿标准仍将参差不齐。

国会不应将企业的早期行动解读为立法已无必要的证据。自愿保障措施可以迅速形成实践，而立法则建立覆盖范围、连续性和问责机制。

企业也不应将立法延迟理解为可以等待的许可。这正是 Altman 立场中最清晰、也最具辩护力的部分。

Sam Altman AI 安全框架如今建立在一项可衡量的承诺之上：OpenAI 将在政府强制之前承担真实成本。这些成本可能包括更缓慢的训练、更深入的审查以及令人不适的外部监督。

读者应关注这些控制措施是否影响实际决策的证据。应当追问：谁能够停止一次训练运行、他们需要什么证据，以及外部人士之后能够报告什么。

如果 OpenAI 能够清晰回答这些问题，自愿节奏控制便可成为联邦规则可信的基础。如果做不到，欢迎监管与接受约束之间的缺口仍将存在。