Sam Altman 对 AI 安全的信心遭遇行业信任难题

OpenAI CEO Sam Altman 表示，尽管他承认事故无法完全避免、公众的担忧也有其合理性，行业仍能安全地开发人工智能。这一 Sam Altman 的 AI 安全立场听起来充满信心，但也让竞相打造更强模型的公司承担了异常沉重的责任。

9 月 15 日，Altman 在旧金山 Dreamforce 大会上与 Salesforce CEO Marc Benioff 对谈时表示，开发者能够管理这项技术的风险。他呼吁公开透明地报告事故，并称企业在无法安全推进时必须放慢脚步或停止。

他的发言出现在领先 AI 高管立场更广泛转变的背景下。Anthropic CEO Dario Amodei、SpaceXAI 负责人 Elon Musk，以及其他前沿实验室的人士近期都支持在危险条件下放缓开发。

这种正在形成的共识意义重大。但它也暴露了 Altman 论点的核心弱点：判断开发是否仍然安全的公司，往往也是竞相加速开发的公司。

Sam Altman 的 AI 安全信心附带条件

Altman 并未声称 AI 开发毫无风险。他认为，行业能够识别危险、从失败中学习，并在这些失败变得无法承受之前及时停止。

根据对其 Dreamforce 发言的报道，Altman 表示，人们担心 AI 风险是有道理的。他也承认，行业部署新技术时，一些事故不可避免。

这种组合很重要。它使他的立场区别于“现有保障措施已经解决问题”的简单说法。相反，Altman 将安全描述为一个持续过程，围绕发现、披露、纠正和克制展开。

他将理想中的体系比作航空安全。商业航空通过事故调查、强制报告、共享技术经验和监管变得更加安全。事故成为能够改进飞机、操作流程和监督机制的证据。

这一类比为 AI 治理提供了实用模型。实验室发现事故后，应保留证据、进行报告，并帮助其他开发者防止事件重演。随后，监管机构和独立调查人员评估其应对是否充分。

然而，航空业的制度经过数十年发展而来。其中包括政府机构、可执行的规则、共享报告体系、经验丰富的调查人员，以及对实体事故的明确记录。

前沿 AI 缺乏较为一致的定义。一次 AI 安全事故可能涉及模型协助攻击者发现漏洞、欺骗评估人员、逃离受控环境，或推动有害的生物研究。企业可能会对事件是否达到报告门槛产生分歧。

因此，Altman 的立场依赖的不只是优秀的工程能力。它要求企业披露可能延迟产品发布、损害其声誉，或帮助竞争对手了解其研究的证据。

他还表示，如果开发者达到无法安全推进的阶段，就应该准备好放慢速度或停止。OpenAI 已经提供了一个这可能意味着什么的案例。

8 月，该公司称，在安全事件和初步评估引发担忧后，已暂时暂停强化学习工作。强化学习是一种通过对模型行为提供反馈来提升模型表现的训练方法。

OpenAI 报告称，这次为期两周的暂停影响了原计划用于部署的训练。该公司还表示，在较小规模评估继续进行的同时，其计划中规模最大的前沿强化学习训练仍处于搁置状态。

这段历史让 Altman 最近的发言比一般承诺更具实质内容。OpenAI 至少描述过一个安全担忧改变其开发时间表的案例。

但自愿暂停只回答了第一个问题。更困难的问题是：谁来验证风险、谁来决定何时可以恢复训练，以及当另一家公司继续竞速时会发生什么。

行业在竞争加剧之际承诺保持克制

OpenAI 面临的压力，来自集体安全与个体竞争优势之间的冲突。每一家实验室都会从竞争对手放缓中受益，但单独停下来又可能失去优势。

前沿 AI 的开发涉及对研究人员、算力、企业客户、投资和公众关注的竞争。一款模型的延期可能影响这五个方面。

这种压力使协调一致的克制变得困难。一家公司可能同意行业应更加谨慎地推进，但同时怀疑竞争对手是否会遵循同样的标准。

国际竞争又增加了一层复杂性。仅限于部分美国公司的暂停，未必能约束其他地区的开发者。国内批评者也可能认为，放慢美国实验室的发展会将战略优势转移给外国竞争者。

因此，Altman 的提议需要一个足够广泛的体系，以避免重视安全的参与者独自承担全部成本。自愿承诺可以建立预期，但对违约行为的防护有限。

当前的讨论不同寻常，因为竞争对手的高管已展现出部分共识。Amodei 曾呼吁为前沿开发控制节奏，而 Altman 和其他行业领袖也承认，某些情形可能有理由放缓工作。

这并不意味着他们同意永久暂停。它更接近于支持一种有条件的克制：当模型接近特定危险阈值，或安全保障无法跟上时，便放缓发展。

这一区别很重要。广泛暂停要求参与者就哪些模型、训练活动、企业和国家应纳入范围达成一致。基于阈值的体系则将限制与可衡量的能力挂钩。

OpenAI 的 Preparedness Framework 遵循这一逻辑。它评估与严重伤害相关的先进能力，并将其与保障措施关联起来。其类别涵盖网络安全、生物威胁、说服能力和模型自主性等领域。

2026 年 5 月，OpenAI 还发布了一份治理框架，使其部分安全计划与加州和欧洲的要求保持一致。该文件涉及风险评估、模型报告、安全、事件响应和外部意见。

这些政策表明，行业并非从零开始。领先实验室已经建立了评估团队、模型行为政策、红队测试计划和部署控制措施。

问题在于一致性。每家公司都可以采用不同的阈值定义、使用不同的评估方式、公布不同程度的细节，并保留执法裁量权。

这种碎片化给企业客户带来了实际问题。采购方比较两种先进模型时，不能假定相似的安全标签代表等同的测试。

开发者也面临同样的不确定性。他们可能获得一款模型的使用权限，其限制围绕某个供应商的风险框架设计，随后又集成另一款受不同体系管理的模型。

压力并不局限于 OpenAI。Anthropic、Google、SpaceXAI、Meta 以及开放权重模型开发者，都面临解释其如何评估严重风险的要求。

开放权重系统的模型参数可以下载或修改，这引发了额外争议。支持者重视其开放性、定制能力和分布式研究；批评者则认为，模型发布后，开发者无法撤回或集中更新模型权重。

因此，由前沿实验室主导的安全安排可能会分裂市场。大型闭源模型公司可能偏好能够在内部实施的控制措施。开放模型倡导者则可能将同样的控制措施视为有利于既有巨头的壁垒。

这也是为什么少数高管之间的共识并不能解决政策问题。它开启了一场关于谁来制定规则、谁来承担成本的谈判。

自愿监督面临验证难题

核心考验不在于 AI 公司能否制定可信的安全框架，而在于当合规代价高昂时，外部人士能否验证这些公司确实遵守了框架。

自愿框架可以影响日常工程决策。它可以要求在部署前完成评估、限制内部模型访问，并为危险能力建立升级处理程序。

它也可以改变公司内部的激励机制。识别出风险的研究人员可以获得一条有记录可循的上报路径，而高管则会收到推迟发布的预定义条件。

然而，公众通常只能看到框架，而非支撑决策的完整证据。评估数据集可能仍属机密，安全发现可能过于敏感而无法发布，内部意见分歧也可能永远不会公开。

这种信息差使独立评估至关重要。外部专家可以测试模型、审查安全方法，并质疑内部团队共同持有的假设。

独立性比听起来更难建立。能够评估前沿模型的小型社群，往往与大型实验室存在职业、财务或个人关系。评估人员可能从被评估企业获得资金、研究访问权限或计算资源。

这些关系并不会自动使其工作无效。但当公众必须信任评估人员对资助方的判断时，它们确实会造成可信度问题。

关于行业不信任的近期报道指出，这是一个主要障碍。批评者质疑，与前沿实验室有关联的组织是否能够提供足够独立的监督。

事故发生后，这个问题会变得尤为突出。公司掌控着模型、日志、训练基础设施以及大部分相关技术知识。外部调查人员可能必须依赖公司才能接触到每一项重要证据。

Altman 对航空业的类比凸显了缺失的制度。航空公司不会只自行调查，然后私下决定应让其他运营商知道什么。政府调查人员可以获取证据、发布调查结论并要求采取纠正措施。

AI 尚未拥有可比的全球体系。各国主管部门拥有不同的权力、优先事项和技术能力水平。没有任何国际机构能够强制每一家前沿实验室报告危险评估结果。

《2026 国际 AI 安全报告》对现有体系作出了谨慎评估。其审查发现，各公司的安全框架在覆盖范围、阈值和可执行性上存在显著差异。

报告还提到，早期自愿承诺的落实并不均衡。这并不意味着自愿措施毫无价值，而是说公开的承诺不能作为持续实施的一致性证据。

报告进一步指出，在衡量风险严重程度、现实世界中的普遍性以及保障措施有效性方面仍存在缺口。这些不确定性使得“安全”或“不安全”这样的二元判断难以成立。

风险也会在部署后发生变化。用户会发现新的工作流，攻击者会组合使用工具，开发者则会将模型连接到软件、金融账户或物理系统。

在实验室中看似受到控制的模型，在被赋予长期运行任务、外部工具及敏感数据访问权限后，可能会表现出不同的行为。因此，评估必须超越一次性的发布关卡。

透明的事件报告将有所帮助。共享报告可以揭示反复出现的失效模式，并让实验室在同一弱点扩散之前更新评估机制。

但透明度也会带来风险。一份详细报告可能暴露可被利用的弱点，引发诉讼，招致监管审查，或损害商业关系。

可行的体系需要对机密报告、受保护披露、公开摘要和紧急警告制定规则。公司隐瞒重大事件时，也必须面临明确后果。

缺少这些要素，行业既是参与者也是裁判。这正是 Sam Altman AI 安全主张背后的信任问题。

OpenAI 自身的暂停同时展现了这一模式及其局限

OpenAI 放缓部分训练的决定表明，内部安全机制能够影响开发进程，但这并不能证明自愿性控制措施能在整个行业中持续有效。

该公司在 8 月的说明中提到两项关切。一项涉及与 Hugging Face 有关的事件。另一项则是初步证据显示，一款名为 Astra 的即将推出的模型可能达到 OpenAI 的关键网络安全阈值。

关键网络安全能力，是指模型性能可能对复杂攻击提供实质性协助。达到这一水平后，就有必要采取更强的隔离、监控、访问控制和部署限制措施。

OpenAI 表示，这些进展促使公司暂时放缓进度。其公布的训练暂停涵盖面向部署的强化学习，公司则同步加固研究环境并扩大监控范围。

该公司还表示，部分工作负载仍将暂停，直至能够迁移至更安全的基础设施。公司计划在重启规模最大的训练工作前，先进行较小规模的训练和评估。

这一过程与 Altman 在 Dreamforce 描述的体系相似：出现警告后，公司中断工作、调查安全措施，并设定恢复开发的条件。

这构成了安全框架能够影响运营的有意义证据，但并非对其应对措施充分性的独立证明。

OpenAI 自行选择评估方式、解读结果、确定暂停范围，并控制对外说明。外部人士获得了有用信息，但未必足以复现这一判断。

该案例也说明了能力阈值为何重要。只有当开发者界定停止哪些活动、哪些证据触发暂停，以及恢复工作需要哪些证据时，“放缓”才具有可操作性。

暂停一种训练方法，并不意味着模型研究会自动停止。较小规模的实验、安全工作、基础设施升级和评估仍可继续。产品团队也可能继续运营已经部署的系统。

这种灵活性可以支持负责任的调查，但也可能使有关暂停的公开表述听起来比实际运营变化更广泛。

不同公司之间的比较则更加困难。Anthropic 可能采用不同的能力标准，Google 可能使用另一套测试体系，而开放权重开发者或许缺乏同等的内部基础设施。

解决方案未必是单一的通用基准。单一测试可能很快过时，也可能诱使开发者专门优化模型以通过测试。

更强有力的方法，是将共同的最低要求与多项独立评估结合起来，同时要求实验室解释其方法之间具有实质意义的差异。

监管正开始朝这一方向发展。加州已为纳入范围的前沿模型开发者设立透明度和事件报告要求。欧盟则在《AI Act》下制定了针对通用 AI 模型的义务。

OpenAI 表示，其 Frontier Governance Framework 将公司实践与这些新兴法律要求相衔接。这种衔接之所以重要，是因为它将部分承诺从自愿政策推向可执行的合规要求。

即便如此，法律仍然在地理范围上彼此割裂。模型可能在一个司法辖区训练，通过另一个地区的基础设施部署，并由全球客户使用。

执法同样取决于监管机构的专业能力。监管部门需要获得合格评估人员、安全计算环境，以及公司可能视为高度敏感的证据。

由此形成的是一种混合体系。企业保有识别许多高级风险的技术能力，政府则提供报告义务、最低规则和违规后果。

这种混合模式比纯粹的企业自我监管更现实，也不同于对行业控制力最强势的解读。

当企业充当第一道安全防线，而非唯一防线时，Altman 的信心最站得住脚。

现有证据如何看待前沿 AI 风险

证据支持严肃准备，但并不支持对灾难或安全作出确定判断。最大的风险仍然难以衡量，且存在异常高的不确定性。

这份2026 年安全报告在 100 多位独立专家的指导下编写。报告发现了一些与失控情景相关能力的早期迹象。

然而，报告并未得出当前系统已具备足以导致失控的能力。它将此类结果的可能性、时间节点和具体性质描述为存在异常高的不确定性。

这种不确定性具有双向影响。它挑战了灾难迫在眉睫的说法，也削弱了现有控制措施已经充分的保证。

研究人员不能仅依靠历史失效率，因为前沿系统正在变化。新能力可能在模型代际之间出现，而工具访问权限则可能将熟悉的语言模型转变为能力更强的智能体。

智能体是指能够通过多步行动追求目标、且经常使用软件或在线服务的 AI 系统。更高的自主性能够带来有用成果，但也会扩大潜在失效的空间。

网络安全体现了这种取舍。先进模型可以帮助防御者分析代码、调查警报并修复漏洞；同样的能力也可能帮助攻击者寻找弱点，或自动化入侵的部分环节。

风险不只取决于基准测试表现。访问控制、用户身份、监控、速率限制、工具权限和目标环境都会影响结果。

生物风险也有类似的层次。模型解释科学概念的能力，与它帮助用户完成危险现实流程的能力并不相同。

有效评估必须测试从信息到行动的完整路径。还必须考虑当用户改写请求、组合模型或获取外部工具时，安全机制是否依然有效。

失控更难评估。研究人员会寻找欺骗、持续追求目标、抗拒关停、未经授权复制，以及试图获取资源等行为。

模型在实验条件下表现出其中一种行为，并不能证明它能够逃脱人类控制。但这确实为改进测试和隔离措施提供了理由，应在赋予系统更大权限之前完成这些工作。

公共讨论往往忽略这些区别。一方将每一种异常模型行为都视为灾难即将到来的证据；另一方则将尚未出现已证实灾难视为风险只是猜测的证据。

这两种立场都超出了现有证据所能支持的范围。负责任的结论是，必须管理不确定性，而非在修辞上消除它。

这也使 Altman 对放缓或暂停的支持显得重要。公司无需在确定灾难即将发生后，才暂停危险实验。

更困难的挑战，是在不确定性下设定阈值。门槛过低，误报可能反复干扰研究；门槛过高，警告可能只有在模型变得难以控制后才会出现。

商业压力可能悄然推高阈值。预计即将进行重大发布的公司，在接受延迟前可能要求更强证据，而在早期研究项目中则未必如此。

公共监督可以抵消这种激励，但监管者自身也有局限。围绕当前模型制定的规则可能很快老化，披露要求也可能暴露敏感安全细节。

因此，最可信的治理体系需要持续修订。测试、阈值和报告程序必须随着模型和证据的变化而变化。

OpenAI 在其自身框架中承认了这一需求。问题在于，更新是否能保持足够透明，以供外部专家评估，以及企业是否会在事件迫使其改变前主动调整。

三个信号将检验 Altman 的信心

AI 安全辩论的下一阶段，将通过已披露事件、独立评估和可执行的协调机制来衡量，而非高管保证。

第一个信号是 OpenAI 如何处理其暂停的训练工作。该公司表示，在验证安全措施期间，其规模最大的前沿强化学习训练计划仍处于搁置状态。

如果恢复训练有公布的评估方法、外部测试和对改进控制措施的清晰说明支持，将加强 Altman 的论点。如果在证据有限的情况下悄然重启，核心验证问题仍将悬而未决。

关键不在于是否将每个敏感技术细节都公开，而在于有资质的外部人士能否审查足够证据来评估这一决定。

第二个信号是建立可信的事件报告体系。Altman 特别强调了透明报告，因此行业现在需要界定这一承诺涵盖什么。

一个有意义的体系将区分轻微的产品故障和严重的前沿事件，明确报告期限、受保护渠道、独立审查人员，以及必须公开通知的情形。

它还应处理险些发生的事件。航空安全之所以得到改善，部分原因在于调查人员研究了警示信号，而不仅仅是致命坠机事故。AI 治理也需要一套类似机制，从危险评估和已被控制的失效中学习。

若体系仅限于自愿的公关披露，将削弱 Altman 的论点。由法律义务和独立审查支持的共享流程，则会加强这一论点。

第三个信号是，协调是否能超越少数美国前沿实验室。OpenAI、Anthropic、Google 和 SpaceXAI 之间的共识可以塑造规范，但无法治理整个市场。

开放权重开发者、云服务提供商、政府、学术研究人员和中国实验室都会影响先进模型的传播方式。他们的激励机制和安全能力各不相同。

近期的安全辩论已经显示，竞争、逐利动机和政治阻力如何使协调一致的克制行动变得复杂。

具体的跨境评估标准或事件共享协议，将支持行业行动能够扩大规模的说法。缺乏执行机制的碎片化承诺，则会指向相反的结论。

对于开发者和企业买家而言，这场辩论会影响日常的产品决策。安全政策决定哪些模型可以获得工具访问权限、哪些数据可以输入提示词、事件如何披露，以及提供商是否能够暂停相关能力。

组织应要求供应商提供评估摘要、事件处置流程、访问控制措施，以及清晰的责任边界。它们也不应将服务商笼统的安全声明视为自身控制措施的替代品。

知识工作者应预期，AI 系统将在研究、沟通、编程和运营等领域获得更多权限。即便模型在日常使用中看似可靠，这种权限扩张也会使权限设计和人工审核变得更加重要。

Sam Altman 关于 AI 安全的立场，归根结底是一项可以检验的主张，而非已有定论。OpenAI 及其竞争对手如今需要证明：它们能够披露失败、接受外部审查，并在继续推进在商业上更容易时选择停止。

关注下一道门槛被跨越时会发生什么。实验室会公布证据、邀请可信的审查，并推迟部署吗？还是说，安全仍将是一项由急于推出产品的公司自行掌控、可灵活解释的承诺？

这些决定将揭示，行业领导者能否成为 AI 监管的第一道防线，以及政府是否必须建立更强有力的兜底机制。