top of page

OpenAI 嵌入式评估让四个团队进入内部

5小时前
讀畢需時 12 分鐘
Illustrative photograph. Photo: Daniil Komov / Pexels.

OpenAI 于 2026 年 11 月 16 日宣布与四家外部评估机构达成协议,向其开放部分内部系统,使其接受超越常规模型测试的审查。OpenAI 嵌入式评估将涉及 Apollo Research、METR、Transluce 和 Goodfire。它们的工作将聚焦于训练期间及内部使用中的模型行为和防护措施。核心问题在于,这类访问能在多大程度上支持独立判断。

这些协议为评估者提供了获取公开聊天机器人测试无法提供的证据的途径。根据具体任务,团队可以查阅训练记录、内部监控、技术文档和选定模型。不过,访问权限仍需协商,OpenAI 也保留保密保护措施。因此,更深入的调查和公共问责将取决于该安排的不同环节。

Anthropic 提供了一个有用的比较,因为它也已将评估人员引入其运营体系。两家公司发布的公告都不应被视为已完成的安全评估。对于开发者和企业采购方而言,有价值的区别在于:允许开展调查,与发布能够改变决策的证据,是两回事。

OpenAI 嵌入式评估延伸至公开模型之外

具体变化在于可访问内部证据,且每个评估团队承担不同任务。

根据已发布的嵌入式评估协议,外部研究人员将获得适用于其约定调查的资源。这些资源可能包括模型检查点,即模型在特定训练阶段保存的版本。其他资源包括源代码、训练数据、评估结果、监控记录,以及与相关员工的交流。

这种安排不同于通过常规界面测试已发布的聊天机器人。公开测试可以发现有问题的回答,但很少能够说明训练如何塑造这些回答。内部记录可以帮助评估者判断,某一明显失效究竟是孤立互动,还是更广泛模式的一部分。

Apollo Research 将研究隐蔽颠覆,即模型行为暗中违背开发者意图的情况。其任务涵盖训练激励、对抗性测试、观察到的内部行为,以及发现可疑推理的能力。这些是需要调查的主张,而非仅凭签署协议就已成立的结论。

Goodfire 将把可解释性研究人员纳入该计划。可解释性研究模型内部机制,以探究模型如何产生行为。其任务强调训练监控、调试和对齐,即与预期目标一致的行为。OpenAI 表示,内部研究人员是主要受众,不过 Goodfire 也计划发布研究发现和经验。

METR 的初步对齐评估聚焦于 OpenAI 迄今最大规模的一次强化学习训练。强化学习通过反馈或奖励调整模型行为。在这次选定训练中,METR 将调查现有测试或监控未能发现的失效情况。在协商确定的访问、资源和安全安排范围内,其优先事项仍保持独立。

Transluce 将审查训练后对齐评估的质量和覆盖范围。训练后是指在模型初始训练完成后对其进行调整的工作。该任务将考察,这些测试本身是否充分检验了其预期评估的行为。

因此,四项任务涵盖不同证据和不同问题。它们不应被描述为对 OpenAI 所有业务可相互替代的审计。关于评估覆盖范围的发现,回答的问题不同于关于监控失效的发现。

OpenAI 还提到,可能于 2027 年初与 Transluce 开展后续评估。拟议的合作期约为八周,并将提供更广泛的访问权限。这仍是已表明的意向,而非扩大调查已经发生的证据。

对读者而言,这项公告确立了一项计划及其初始边界。它并未确立任何调查的结果。明确保持这一界限,可避免知名评估机构的参与被当作其最终结论的替代品。

内部 AI 使用提高了安全主张的利害关系

压力落在 OpenAI 的安全主张上,因为评估者将审查这些主张背后的证据,而不只是其公开呈现。

当软件能够采取行动时,模型的回答只是风险图景的一部分。AI agent,即使用工具完成任务的软件,还取决于权限及其周边基础设施。监控必须捕捉相关活动、识别令人担忧的行为,并支持有效响应。

设想一个说明性的编程助手在研究环境中工作。如果它能够修改文件、启动进程或与其他服务交互,其周边控制措施便至关重要。助手给出令人信服的解释,无法证明其每项行动都已获授权或受到观察。

这一示例并非新评估计划披露的事件。它说明了为什么审查内部系统能够回答常规聊天机器人测试无法解决的问题。评估需要区分模型试图做什么,以及其环境允许它做什么。

METR 早前的agent 监控评估提供了一个具体先例。METR 和 Redwood Research 的研究人员在为期三周的演练中审查了 OpenAI 的历史监控基础设施。他们报告了所评估系统中的漏洞和缺口。

时机很重要。那次演练涉及的是历史系统,而非证明 OpenAI 后续扩展监控的覆盖范围。METR 还区分了 OpenAI 关于修复措施的表述,以及 METR 已独立评估过的修复。

这一区别也应体现在对新协议的报道中。发现弱点、报告修复,以及独立核查该修复,是三件不同的事。将其合并成一项安全性已提升的主张,会掩盖证据实际证明的内容。

OpenAI 的内部团队面临一项现实要求:需要提供外部专家能够审查的解释。如果评估者发现缺口,回应不能只是对既有流程的信心。相关记录、技术推理和后续证据将成为讨论的一部分。

评估者同样面临压力。访问权限创造了产出有价值发现的机会,但其报告必须说明他们能够检查什么。读者需要了解,一项结论是基于直接测试、选定记录、访谈,还是已承认的信息缺口。

企业采购方也有相关利益,尽管这些合作并不能取代他们自己的评估。供应商的内部评估可以为采购决策提供参考,但未必覆盖客户的特定工作流程。受评估系统与所购产品之间的关系仍然至关重要。

对于知识工作者而言,其意义不如功能发布那样直接。这些协议本身不会改变一份文档摘要或会议纪要。它们关乎用于评判那些日益被托付处理敏感工作的系统的证据。

更深层访问不自动意味着更广泛的独立性

核心权衡在于:既要获得敏感证据,也要保留足够自由,以质疑提供这些证据的组织。

OpenAI 表示,处理敏感机密信息的评估者将在其办公室内使用公司提供的设备开展工作。这种环境能够让原本无法访问的材料可供调查。它也意味着工作处于被评估公司控制的安全程序之内。

保护敏感材料有正当理由。未经限制地发布技术细节,可能泄露机密信息或带来额外安全风险。评估计划无需完全不受限制地向公众披露,仍可形成有价值的审查。

不过,调查自由并不只取决于进入办公室或获得设备。评估者需要切实可行地访问其问题所需的证据。如果技术障碍阻止相关分析,名义上的许可价值有限。

OpenAI 承认,直接访问特别敏感的信息可能需要替代方案。这些方案包括让评估者与 OpenAI 研究人员合作运行分析。这类安排可以支持调查,但若这些限制影响结论,报告应说明其局限。

在对模型进行采样与拥有其底层权重之间的区别同样重要。模型权重是决定行为的已学习数值参数。已公布的安排并不等同于对每个模型权重或架构的无限制访问。

同样应谨慎看待任务范围。METR 的初步调查聚焦于一次选定的训练。即使对该训练执行得当的评估能够提供有价值证据,也无法证明所有其他模型或内部部署的状况。

METR 的对齐评估提案描述了更广泛的调查方法。其中包括梳理已观察到的事件,并审查这些观察是否低估了其他情境中的风险。OpenAI 明确承认,初步合作的范围比 METR 的提案更窄。

这种差距并不能证明初步工作没有价值。它说明,读者在解读令人安心的结论前,需要了解实际范围。一项评估可以在其边界内严谨,同时将重要问题留在边界之外。

Anthropic 的独立评估者访问提供了可供比较的案例。在其 10 月 15 日的披露中,Anthropic 描述了为嵌入式 METR 团队提供类似员工的访问权限。它还描述了排除项和发布规则,包括针对明确界定的机密类别进行删节。

两家公司都在尝试缩小内部研究人员与外部评估者之间的信息差距。不过,它们的安排仍需从访问权限、排除项和报告权利方面加以审查。共同的标签并不能证明底层合作提供了相同程度的独立性。

因此,竞争比较应落在条款和证据层面。统计评估合作伙伴的数量是一个薄弱的替代指标。关键在于,每个团队能否将具有重要影响的发现追查得足够深入,以支持清晰判断。

发布规则将决定外部人士能够判断什么

评估者私下调查的能力,与公众评估其结论的能力彼此相关,但属于不同问题。

OpenAI 表示,评估者在发布其评估结果时保有独立性。该公司同时保留删节机密信息和请求延迟进行负责任披露的权利。这些条款意味着,最终报告及其明确说明的局限,将成为判断该计划的核心。

删节并不自动意味着存在干预。移除可被利用的细节,既能保护系统,也不必削弱核心结论。更棘手的问题在于:读者是否仍保留了足够的信息,以理解该发现的重要性。

报告可以说明某项防护措施失效,而无需公开复现该失效的操作指引。它也可以说明评估方是否核查了修复措施。即使部分技术证据仍属机密,这些区别本身仍具有公共价值。

延迟发布同样需要谨慎处理。给予公司时间修复漏洞,能够支持负责任披露。然而,读者需要区分仍未完成的调查,与已经完成、正等待发布的工作。

这项公告并未确立未来每一次有关披露的分歧将如何解决。这些案例将为该安排的实际效力提供证据。合同条款设定预期;其实际应用则揭示这些预期能否在压力下成立。

员工访谈构成另一条边界。OpenAI 表示,这些讨论可以为评估提供参考,但不得公开发布,也不得归因于个别员工。评估方可以要求公司出具经证明的声明,即由 OpenAI 正式核实、更正或澄清的声明。

这一过程既能保护员工隐私,也能让部分信息进入公开报告。它同时改变了读者能够直接核查的内容。公司证明的声明与可独立归因的访谈,属于不同形式的证据。

OpenAI 表示,当公司拒绝证明某项声明时,评估方可以披露这一情况。该条款让读者得以了解尚未解决的事实问题,但不会公开底层对话,也无法裁定哪种解释正确。

据 OpenAI 称,安全与保障委员会将收到未经删节的报告。评估方可以私下与该委员会沟通,未解决的争议也可以提交至委员会。这为即时研究团队之外提供了一条内部监督路径。

这一路径不应与公众获取信息或监管机构调查混为一谈。该委员会属于 OpenAI Foundation 的治理架构。其获取权限可以支持监督,但外部读者仍只能依赖最终公开的信息。

财务披露也应得到同样精确的处理。Apollo Research 和 Goodfire 获得的报酬不取决于评估结果。METR 和 Transluce 不收取评估费用,不过它们可能接受计算资源或 API 积分。

这些安排使评估方与被评估公司形成不同关系。无论是否存在付款,本身都不足以决定独立性。更有力的证据将来自评估方是否发布不利发现、说明限制条件,以及保留提出异议的空间。

安全评估并非产品保证

该计划可以改善有关特定风险的可用证据,但并不证明每一款 OpenAI 产品都安全。

这一区别很重要,因为评估用语往往会传播得比底层发现更远。一个狭窄的结论,经过产品讨论中的反复转述,可能变成广泛的安慰。读者应始终保留主张、被测试系统与证据之间的关联。

例如,审查训练激励机制所处理的问题,与核查已部署应用的权限并不相同。审阅评估覆盖范围,也不能证明客户的数据控制按预期运行。这些问题可以相互重叠,却不能因此视为可互换。

同样的道理也适用于 Goodfire 的内部分析。理解模型行为可以支持调试和调查,但不会自动证明周边应用能够多可靠地阻止未经授权的操作。

一项有价值的评估会说明其方法能够发现什么,以及哪些问题仍不确定。当研究对象包含可能逃避常规测试的行为时,这一点尤其重要。模型通过熟悉的评估,只能说明这些评估的结果,并不能证明不存在任何相关失效。

关于前沿 AI 审计的研究,将第三方评估界定为围绕深度访问权限和对开发者主张的核验。这一框架有助于解释这些协议的重要性。其目标是为系统和实践提供更强证据,而不是附着于既定问题之外的安抚性标签。

对于企业采购方而言,这改变了公告应如何进入审查流程。嵌入式团队的存在是相关背景,但一份范围与发现明确的已完成报告,才是作出决策的更有力依据。

另一个区别涉及被评估模型与可用产品之间的关系。内部训练检查点未必就是客户实际使用的系统。报告需要提供足够背景来说明这种关系,同时不披露受保护的技术信息。

不利结果同样需要背景。一次刻意设置高难度条件的调查中发现的失败,本身并不能证明该失败在客户使用中的发生频率。反过来,一项未发现问题的狭窄测试,也不能证明风险在其他环境中不存在。

对于决定授予软件多大自主权的开发者而言,这种平衡尤为重要。评估发现可以为这些决定提供参考,但相关应用仍需要恰当的权限和监测。外部评估不会为每一种下游配置承担责任。

维护 AI 知识库的团队,有现实理由保留这些区别。原始协议、评估报告和修复更新代表不同证据。将它们视为可互换内容,可能会把有条件的发现变成过时的机构认知。

因此,OpenAI 嵌入式评估的直接益处,是提供作出更有依据判断的机会。这个机会能否带来更强的保障,取决于后续调查的结果。公告开启了这一过程;它并未终结争论。

三个信号将显示该计划能否获得分量

接下来值得关注的证据包括报告质量、范围扩展,以及在评估发现之后经独立核查的变更。

第一个信号是首批公开报告的内容。读者应寻找对被评估系统、方法、访问限制和未解决问题的清晰说明。能够明确这些边界的报告,赋予其结论的意义是单靠一项公告无法提供的。

关键区别在于描述性更新与可评估发现之间。一句团队密切协作的表述,几乎无法说明调查结果。解释测试了什么、哪些环节失败、哪些方面仍不确定,才能让外部人士获得可据以判断的具体内容。

发布过程也可以揭示保密条款在实践中如何运作。即使无法分享敏感细节,报告仍应具有实用价值。如果核心结论变得无法理解,那么即便存在广泛的私下访问权限,公众问责的理由也会被削弱。

第二个信号是预期的后续工作是否成为一项明确的合作。OpenAI 与 METR 已初步同意开展另一项监测评估,但其更广泛的范围仍需双方达成一致。这就在已宣布的意向与已商定的工作之间留下了一条明确边界。

拟议中的 Transluce 后续工作提供了另一项近期检查点。OpenAI 表示将在 2027 年初提供更广泛的访问权限,其中包括有关评估结果如何影响发布决策的信息。若该范围得到确认,将加强首轮计划正在变得更具实质性的论点。

这两项进展都不应被简化为是否又出现一则合作公告。真正相关的问题是,评估方能够审查哪些新增证据。更多时间或更多参与者或许有帮助,但二者都不会自动解除重要的访问限制。

第三个信号是,评估发现是否促成了后来由他方核查的变更。公司可以承认某项弱点并描述修复措施,却无法据此证明修复确实有效。后续测试将为信心提供更强依据。

此前的监测工作使这一区别尤其相关。历史发现、公司报告的修复措施和独立验证的当前状况,需要分别对待。未来的报告应保留这些类别,而不应让一则修复公告通过暗示就结束问题。

启动公告并未为承诺所有三个信号将在固定时间表内出现提供依据。有些调查需要更多时间,有些披露需要谨慎处理。有效的检验是每次更新是否都减少了一项已识别的不确定性。

对 OpenAI 而言,利害关系不止于展示其对外部研究人员的开放态度。该计划需要产出能够挑战内部假设并支持决策的证据。对评估方而言,公信力将部分取决于其如何说明这些证据的边界。

应将首批 OpenAI 嵌入式评估视为边界明确的调查,而不是附着在品牌上的判决。报告发布后,持续关注其原始内容,并将其主张与各团队获得的访问权限进行比较。尤其要注意一项发现涉及的是历史系统、当前模型,还是拟议中的后续工作。将公司报告的修复与独立核查的修复分开看待。如果你的组织在采购或部署审查中使用这些报告,也应在共享记录中保留这些区别。实际问题很直接:下一次披露是否提供了会改变你判断的证据,还是让同样的不确定性继续存在?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page