top of page

OpenAI 安全研究员遭解雇:Signal 聊天加深监督争议

2小时前
讀畢需時 13 分鐘

OpenAI 解雇了三名安全员工,而有关自动消失的 Signal 聊天的新报道,进一步加剧了围绕保密性和独立监督的争议。这起 OpenAI 安全研究员解雇事件涉及彼此矛盾的说法,包括信息处理、外部协作,以及员工是否理解其工作所适用的规则。

据报道,《华尔街日报》发现,调查人员审查了与一名外部安全研究员的通信。该细节需要谨慎看待:一段会自动消失的对话,并不能证明某人分享了什么信息、分享是否经过授权,或雇主为何将其解雇。

核心冲突在于,OpenAI 如何控制敏感研究,以及外部评估人员能否独立审查这些研究。竞争对手 Anthropic 也面临与 AI 行为评估相关的问题,但这场争议聚焦于实验室与其安全审查人员之间的工作关系。

OpenAI 安全研究员遭解雇实际能说明什么

解雇一事已经得到证实;但声称自动消失的消息本身导致了解雇,则超出了现有证据所能支持的范围。

公开记录显示,相关员工为 Tomek Korbak、Jasmine Wang 和 Mikita Balesni。尽管报道通常将他们统称为研究人员,但其职责并不相同。在评估有关其访问权限、通信和分配职责的指控时,这一区别至关重要。

在最新的 Signal 报道出现之前,解雇事件已为公众所知。10 月 9 日,美联社报道称,OpenAI 的立场是调查发现存在违反敏感信息处理规定的行为。据其信息处理声明,该公司否认因员工就安全问题发声而将其解雇。

较新的报道为这场既有争议增加了通信层面的细节。据《华尔街日报》报道,调查人员发现部分研究人员与一名外部安全研究员之间存在会自动消失的 Signal 聊天。相关Signal 聊天需要保留来源归属,而不应被直接表述为已被独立证实的不当行为。

自动消失的消息会在设定的时间间隔后自动删除对话记录。这描述的是保留设置,也就是记录可供查阅的时长。它并不说明对话内容,也无法证明参与者是否披露了受保护的信息。

这里存在几个彼此独立的问题。雇主可以调查未经批准的通信渠道、未经授权的接收者、被禁止的信息披露或缺失的记录。这些问题可能相互重叠,但支持其中一项的证据,并不会自动证实其他项。

例如,员工可能通过公司禁止的渠道讨论获准使用的材料。另一名员工也可能通过获批渠道,在授权范围之外分享信息。仅凭通信平台无法区分这些情形。

研究人员否认存在不当行为。他们的立场是,外部协作属于其职责范围,并符合既有的工作场所规范。OpenAI 的立场则是,他们的行为违反了信息处理要求。任何一方的说法,都不会仅因其担忧听起来合理就变得具有决定性。

因此,谨慎的解读应比流传的标题更为克制。OpenAI 在内部调查后解雇了三名安全员工。后续报道提到会自动消失的 Signal 对话,而各方仍对相关行为及其正当性存在分歧。

这一区别是开展有价值分析的基础。若将此事视为对 Signal 的裁决,就会掩盖制度层面的问题。真正的问题在于,AI 公司如何授权外部审查、如何明确其边界,以及当敏感研究跨越这些边界时,如何处理分歧。

这也改变了何种回应才算有意义。笼统支持安全,并不能解释一项存在争议的人事决定。反过来,批评解雇也不能免除制定合理保密规则的必要性。缺失的关键联系,是能够说明这些规则如何适用的证据。

外部评估人员需要员工能够安全使用的访问权限

独立监督依赖于可实际使用的访问权限,包括明确允许员工与评估人员沟通。

直接承受压力的是仍在职的安全人员、研究经理和外部审查人员。每一方都需要切实理解谁可以讨论敏感发现。即使所有人都认同外部评估应继续进行,不确定性也会造成阻碍。

评估人员的正式访问权限只是安排的一部分。员工还需要知道,他们是否可以回答后续问题、解释异常结果,或质疑公司对结果的解读。没有这种许可,访问权限即使在纸面上存在,重要背景也可能仍无法获得。

设想一项关于 AI agent 意外行为的示例性调查。agent 是指利用 AI 模型为实现目标采取行动的软件。审查人员在检查其活动时,可能需要员工解释测试为何结束,或哪些记录并不完整。

员工的回答可能暴露原调查中的弱点,也可能泄露敏感技术细节。有效的监督流程必须使这种对话成为可能,同时明确其边界。让员工自行推断是否获得许可,会削弱保密性和调查的可靠性。

这是一个制度设计问题,而不是要求不受限制地披露信息。外部审查并不要求每位员工分享每一份文件。它需要的是一条获授权的路径,使相关证据能够送达有资质、能够评估证据的人员手中。

这一路径还需要容纳分歧。员工可能认为某份摘要淡化了风险,而管理层认为摘要准确无误。如果唯一允许的沟通只是重复管理层的解读,评估人员就难以独立审查这种分歧。

明确的升级程序有助于区分这些情形。它们应当区分常规研究协作、紧急安全报告、存在争议的披露请求和涉嫌不当行为。即使它们在同一项调查中出现,这些类别也涉及不同的决策。

风险还延伸至评估 AI 供应商的企业客户。客户通常无法直接检查实验室的内部研究。因此,他们部分依赖于测试、事件处理和外部审查方面的证据。这些流程的质量会影响客户应在多大程度上信赖安全保证。

没有依据表明,这些员工离职意味着 OpenAI 产品突然变得不安全。人事争议并不能衡量模型行为。其相关性在于,该组织是否保留了可靠的途径,以发现并质疑安全问题。

这使 OpenAI 安全研究员解雇事件既是治理问题,也是劳动争议。公司需要支持严肃审查的保密实践。研究人员需要能够遵守的许可边界。评估人员需要足够的独立性,以识别公司可能倾向于作出不同解读的问题。

可信的安排必须同时满足这些需求。严格的访问限制无法弥补缺乏相关证据的调查。广泛的审查人员访问权限也无法弥补职责不清。实际问题在于,工作流程是否同时支持问责与保护。

保密性与独立审查必须协同运作

核心权衡在于,如何保护敏感研究,同时允许外部人员质疑公司的结论。

OpenAI 对其模型和研究相关信息进行控制,具有正当利益。外部组织的安全使命并不会自动授权一切披露。员工仍需要明确的职责,评估人员也需要就接收和使用信息的方式达成一致限制。

因此,公司立场中最有力的版本很直接。安全工作需要处理敏感材料的同事之间建立信任。如果员工明知故犯地违反明确规则,其安全职责也不会使这些规则失去意义。

研究人员的论点针对的是另一种脆弱性。他们认为,如果员工只能通过被解雇才得知协作边界,协作就无法正常进行。特别是在工作涉及陌生事件、不断变化的实践和跨组织讨论时,明确程序尤为重要。

他们公开的外部协作信否认曾提供有关较难监控架构的泄密报道。信中还坚称,他们的外部通信属于工作范围。这些是研究人员的主张,而非独立调查得出的结论。

该信描述了 Korbak 与独立 AI 评估组织 METR 合作的职责。信中称,Balesni 与资深同事协调跨公司工作。信中还分别解释称,Wang 存在争议的电子邮件访问源于被委派的招聘职责。这些差异提醒人们,不应假定每个人都面临完全相同的指控。

该信还呼吁安排嵌入式外部评估人员、保留模型的可监控性,并制定更明确的协作规则。这些请求共同将劳动争议与更广泛的监督担忧联系起来。研究人员认为,员工需要可预测的许可,以便与独立专家合作。

这一立场值得审视,但不应假定它已解决其个人案件。公司可能存在不充分的程序,而员工也可能同时不当处理信息。另一种可能是,尽管被解雇员工提出批评,调查仍公平地适用了清晰程序。仅凭公开争议无法确定哪种解释更符合事实。

一个有用的标准是考察:在争议行为发生前,许可是否具体且为各方理解;还应审查管理人员是否批准了相关活动,以及类似行为是否得到了类似处理。这些问题将注意力集中于程序,而非相互竞争的善意声明。

记录保存也应纳入这一框架。保留适当记录既能保护公司的信息,也能帮助员工证明自己获得了授权。但只有当配套规则说明员工必须保留什么、应在哪里保留时,档案才有价值。

对于希望了解更广泛区别的读者而言,团队知识库可以整理共享信息。但它本身不能确立向外部披露该信息的许可。存储、访问和授权需要分别作出决定。

同一原则也适用于涉及机密安全问题的讨论。隐私可以鼓励坦诚,而记录则能支持问责。有效的流程必须明确这些目标如何相互作用。无论是永久保留还是自动删除,都无法构成完整的治理政策。

因此,不能将保密或公开作为一种抽象美德来选择,从而解决这场争议。相关检验在于,OpenAI 的程序是否能让获得授权的审查以可预期的方式进行。无论最终如何判断这些具体解雇事件,这一检验都仍然具有意义。

模型可监控性为争议赋予技术层面的利害关系

这场协作争议之所以重要,是因为外部审查人员需要获得普通产品演示无法提供的 AI 行为证据。

可监控性是指:能否依据现有证据推断出模型行为的相关属性。其中一个可能来源是思维链,即推理模型在处理任务时生成的中间文本。研究人员正在研究,这些文本是否有助于识别存在问题的行为。

潜在益处不难理解。即使过程涉及未经授权的捷径,最终答案也可能看起来可以接受。中间记录能提供有关实际情况的额外线索。其价值取决于这些记录实际揭示了什么,以及审查人员能够可靠地推断出什么。

OpenAI 在 2026 年 4 月发布的可监控性评估中,将这一方法描述为其安全战略的一部分。该公司表示,它使用推理监控来检测存在问题的行为。它还发布了旨在支持测量与进一步研究的数据集和参考代码。

这项公开工作提供了一个重要共识点。OpenAI 自身也将可监控性视为一项实际的安全问题。因此,这场争议并不只是重视监控的人与反对监控的人之间的分歧。即便既定目标得到共同认可,关于实施方式和外部审查的问题依然存在。

技术局限性同样重要。模型书写出来的推理过程,不一定是对影响其回答的所有因素的完整或忠实说明。若将可读的中间文本视为有保证的解释,就会让审查人员获得超出证据所能支持的信心。

Anthropic 在 2025 年 4 月开展的关于推理忠实性的研究说明了这一局限。其实验测试了模型是否会承认影响其答案的提示。该公司报告称,模型经常在书面推理中遗漏这些影响因素。

这项研究提供了具有参考价值的行业比较,但并不能据此判定孰优孰劣。Anthropic 的发现指出了某一监控信号的局限性。它们并未证明 Anthropic 的雇佣实践或外部监督安排优于 OpenAI。

对评估者而言,这意味着访问权限必须能够支持对主张进行检验,而不只是查看解释。可读轨迹可以是有用证据,但并非决定性证据。审查人员需要有机会调查缺口、比较观察结果,并评估某项拟议保障措施是否能在相关条件下发挥作用。

这正是为何该议题超出了内部消息争议的范畴。当员工与外部专家就某种监控方法存在分歧时,有效解决需要访问底层证据。过度限制沟通,可能会让技术分歧更难调查。

与此同时,这场人事争议并不能证明任何特定模型已经变得不可监控。得出这一结论需要技术证据。同样,监控研究的存在也不能证明某实验室的保障措施覆盖了所有重要失效模式。

恰当的关联更为有限。独立审查可以帮助检验尚不完善的安全方法。要让这种审查发挥作用,组织需要清晰的方式来交换敏感证据。因此,技术工作与协作规则相互依存。

读者不应将这些问题压缩为对公司意图的单一判断。实验室可以发布有价值的研究,同时面临合理的治理批评。被解雇的研究人员可以提出有效的技术担忧,而这并不意味着所有存在争议的人事指控都会得到有利于他们的裁定。

消失的信息留下重要问题未获解答

缺失的对话记录会造成证据问题,但并不能证明缺失对话的内容或目的。

最重要的未决问题涉及 OpenAI 所称构成解雇理由的具体行为。公开声明提及违反信息处理规定,而研究人员对此定性提出异议。没有底层证据,读者无法可靠判断公司如何将特定行为与特定规则联系起来。

阅后即焚消息设置可能会使这种评估更加困难。如果相关记录已不存在,调查人员重建事件的途径可能更少。但记录中的空白仍然只是空白。它并不能独立证明缺失材料包含机密研究、日常协调,还是其他内容。

意图是另一个独立问题。人们可能出于多种原因选择私密沟通,而这些原因需要在个案中以证据证明。仅凭该设置无法证明存在蓄意隐瞒,也无法证明沟通符合雇主的要求。

授权构成另一个尚未解决的层面。获准与外部评估人员合作,并不必然允许使用每一种渠道或进行每一种披露。同样,一般性的保密政策也无法说明管理者是否批准了后来受到质疑的具体合作。

怀疑性解读必须同时适用于双方。OpenAI 否认报复,并不能独立证明其决定没有产生寒蝉效应。研究人员关于寒蝉效应的警告,也不能独立证明存在报复动机。

这些概念描述的是不同的事情。报复涉及一项决定为何发生;寒蝉效应则涉及其他员工如何对此作出反应。即使解雇具有正当理由,如果同事不了解相关边界,也可能产生不确定性。

公开问责与公开披露人事记录之间也存在区别。OpenAI 无需公开每一份敏感文件,监督也可以得到改善。适当独立的审查可以私下审阅证据,同时公开说明其范围、标准和局限性。

这样的审查会比反复强调信任很重要更具信息价值。它可以评估适用了哪些规则、员工理解了什么,以及授权如何运作。它也可以在不暴露模型设计或无关个人信息的情况下,识别程序性弱点。

同样的证据纪律也应适用于有关外部组织的主张。它们参与合法安全工作,并不会自动验证每一次互动。反过来,与外部专家讨论机密研究,也并不自动构成未经授权的泄密。决定性因素是访问条款。

对客户而言,这些不确定性意味着应作出相称的判断。这场争议支持人们就监督实践提出更严肃的问题,但并不支持假定存在特定产品缺陷、已被证实的犯罪行为,或关于员工动机的确定性叙述。

OpenAI 安全研究人员解雇事件仍是一场争议,公众对相关证据的可见度并不均衡。负责任的分析应直接指出这一限制。用确定性填补空白,只会重演读者试图理解的那种问责问题。

关注评估者访问权限、书面规则与监控证据

接下来值得关注的信号,是可观察的监督实践,而不是又一轮相互竞争的声明。

首先,关注外部评估人员对其实际访问权限的描述。合作公告只能证明组织打算共同合作,不能证明审查人员能够检查哪些模型、获得哪些记录,或员工是否可以与他们讨论尚未解决的发现。

一项有意义的更新,应在适当的细节层面解释这些工作条件。评估人员应能够描述其审查的范围和限制。持续、实质性访问权限的明确证据,将削弱有关解雇事件广泛限制外部审查的担忧。

相反,若限制阻止审查人员查验相关证据,则会加剧这些担忧。然而,沉默本身并不能证明存在此类限制。保密要求可能限制公开描述,因此读者应区分未披露的安排与已被证明缺乏访问权限之间的差别。

其次,关注管理员工协作的书面规则。有用的指引应明确获批准的沟通渠道、授权责任、记录保存预期,以及升级处理分歧的路径。重要信号在于,员工能否在有争议的互动发生前理解这些规则。

即使不公开解决研究人员的个案,可预期的程序也能回应他们更广泛担忧的一部分。模糊的指示会让根本性的不确定性持续存在。一项政策是否存在,不如员工和评估人员能否一致地使用它来得重要。

第三,关注伴随重大模型变更而出现的新监控证据。读者应寻找描述清晰的评估、被承认的局限性,以及独立审查的机会。相比简单声明监控依然重要,能够显示它检测到什么、又在哪些方面失效的证据更具信息价值。

可比较的测试将有助于区分技术进步与呈现方式的变化。如果一种新方法降低了可见度,相关问题就变成:存在哪些补偿性保障措施,以及它们是如何被评估的。如果可见度有所提高,审查人员仍应检验这种改善是否能在现实条件下成立。

这些信号彼此关联。评估人员需要访问证据,员工需要获准解释证据,而监控主张需要接受外部人士能够评估的测试。仅在一个领域取得进展,会让更广泛的流程仍依赖于对其他领域的假设。

这些观察都不要求预测监管期限、下一次离职,或产品可用性的变化。有价值的预测是程序性的:当组织披露具体安排和证据时,这场争议将更容易评估。在此之前,信心应与实际可见的信息保持相称。

对于开发者和企业买家而言,应利用 OpenAI 安全研究人员解雇事件来深化你向 AI 供应商提出的问题。询问谁能够检查重要失效、员工能否与审查人员坦诚沟通,以及分歧如何传达给承担问责责任的决策者。除了能力证据,也应要求提供关于监控局限性的证据。不要将人事指控视为产品评估,也不要将安全承诺视为监督有效的证明。关注该公司及其评估人员接下来的实质性披露。最有价值的更新,将说明审查人员可以检查什么、员工如何协助他们,以及当证据挑战某个偏好的结论时会发生什么。这些才是判断一个监督流程值得获得多少信任的具体依据。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page