Brad Smith 对 AI 监管的警告挑战美国依赖行业自律的押注

Microsoft 总裁 Brad Smith 本周发出直言不讳的警告：人工智能面临的安全管控，比牛奶或洗衣机还少。他围绕 Brad Smith AI regulation 提出的观点，挑战了华盛顿偏好行业自律的做法，而 AI 智能体正获得更大的操作自主权。

Smith 希望政府要求开发者提交事故报告、通知受害者、接受独立评估，并为先进系统设置紧急控制措施。这些提议超越了自愿承诺：负责任的公司或许会遵守，但不够谨慎的开发者可能会置之不理。

这场冲突并不只是 Microsoft 与放松监管之间的对立，而是可强制执行的产品安全规则与旨在保持开发速度的自愿承诺之间的较量。欧盟已经选择具有约束力的义务，而美国仍在讨论应赋予监管机构多大权力。

Brad Smith 的 AI 监管言论设定了更高门槛

Smith 的核心诉求是，先进 AI 应在严重失误成为常态之前，受到可强制执行的安全义务约束。

在 10 月 11 日发布的一次 BBC 采访中，Smith 将 AI 监管与普通消费品所接受的检验相比较。牛奶和洗衣机必须符合既定安全要求，而许多 AI 系统在缺少同等发布前审查的情况下便触达用户。

这一比喻刻意尖锐。牛奶监管涉及污染、标签、处理和可追溯性；家电规则则涵盖电气危险、能源使用和可预见的机械故障。AI 面临的是不同风险，但 Smith 的比较直指一个问题：缺乏同样成熟的问责结构。

他的主张包括四项务实措施。开发者应维持紧急控制机制、记录重大事故、告知 AI 赋能攻击的受害者，并在发布尤其具有重大影响的系统前接受独立评估。

紧急控制机制有时被称为“终止开关”，可让运营方在系统行为超出批准范围时暂停或限制其运行。这听起来很直接，但自主智能体让这一概念变得复杂。

AI 智能体是指能够在有限人工指引下规划并执行多个步骤的软件。它可能浏览系统、调用工具、编写代码、转移数据，或与其他服务通信。

暂停一个模型并不一定能阻止分布式工作流。相关控制措施可能需要覆盖凭证、网络访问、工具权限、复制出的智能体以及下游应用。

因此，Smith 关注的是运营层面的问责，而不只是模型准确性。如果某个智能体突破预期边界并危及另一家组织，受影响的一方应收到正式通知。

这一提议类似于网络安全和隐私法中使用的数据泄露通知规则。它能够留下记录、设定期限，并为受害者提供遏制损害所需的信息。

根据采访中所述的全球安全规则，Smith 还希望政府决定何时应由外部评估机构在 AI 产品发布前进行审查。他称 AI 既是工具，也是武器。

Microsoft 多年来一直倡导类似的控制措施。其 2023 年治理蓝图呼吁：当 AI 控制包括电网、供水系统和交通流在内的关键基础设施时，应设置安全制动机制。

这份AI 治理蓝图还认为，AI 监管不应仅由科技公司承担。Smith 最新的言论围绕自主智能体和网络风险强化了这一立场。

这一转变之所以重要，是因为生成式 AI 已不再只生成文本或图像。较新的系统可以通过浏览器、终端、数据库和企业应用执行操作。

聊天机器人出错，可能误导一位用户；拥有凭证的智能体则可能修改记录、暴露机密数据，或在人类介入之前形成一连串自动化操作。

这种差异让事故报告变得更加重要。当开发者选择性披露事件，或以互不兼容的方式界定重大事故时，组织便无法研究反复出现的故障。

Smith 的警告并不证明 AI 在任何地方都完全不受监管。隐私、消费者保护、歧视、产品责任、版权以及行业特定法律，都可能已经适用。

他更狭义的观点更具说服力：美国缺乏一套专门面向先进通用 AI 与自主智能体的综合产品安全框架。

这一缺口构成了本文的核心冲突。自愿合作能迅速建立有益实践，但无法迫使每个开发者达到同样的最低标准。

压力落在政府与 AI 采购方身上

AI 开发者希望快速推进，但客户越来越需要证据证明，速度并未取代问责。

Smith 的言论立即给政策制定者带来压力。政府必须决定：当先进 AI 执行具有重大影响的操作时，它应主要被视为软件服务，还是应成为受监管的产品类别。

答案将影响测试、文档、审计与责任认定，也决定了当智能体跨越多个行业或国界造成损害时，由哪一监管机构获得管辖权。

医疗助手、招聘工具、编程智能体和客服机器人可能使用同一个底层模型。但由于每个系统获得的数据、权限和责任不同，其风险也不相同。

统一的审批流程会过于粗糙；而没有强制性底线的框架，则会让各组织不得不分别与供应商协商安全标准。

企业采购方已经承担了大量这类负担。安全团队会在批准 AI 部署前审查访问控制、数据保留、模型行为、日志记录和供应商合同。

当智能体能够执行命令时，这些检查会变得更困难。模型在基准测试中或许表现安全，却可能在从文档、网站或遭入侵工具接收到意外指令后失效。

提示词注入正说明了这一问题。隐藏在外部内容中的恶意指令可能重定向智能体，即使用户从未打算执行该操作。

组织可通过限制权限、隔离系统以及要求对敏感步骤进行审批来降低风险。然而，这些控制措施依赖模型与应用提供商提供清晰文档。

强制事故报告将帮助采购方比较不同系统的故障。标准化报告可记录受影响的能力、系统权限、失效的防护措施以及造成的损害。

通知受害者同样重要。如果发现智能体涉入事件的开发者没有及时沟通的义务，公司就无法遏制入侵。

独立测试也能减少信息不对称。模型提供商拥有更深的技术知识，但也面临快速发布和有利呈现结果的商业压力。

外部评估机构可以在受控条件下测试能力，并挑战内部假设。但其独立性仍取决于访问权、资金、法律授权以及防范利益冲突的保障。

Microsoft 的 AI 安全规则将为 Microsoft 本身以及其竞争对手带来成本。这让 Smith 的立场更具分量，尽管这并不能消除该公司的商业利益。

大型公司比初创企业更容易承担合规成本。因此，复杂监管既可保护用户，也可能抬高小型开发者的准入门槛。

这种张力带来了批评者合理的担忧。由大型实验室参与设计的规则，可能会偏向那些已经拥有庞大法务、安全和政策团队的公司。

政府必须区分必要的保障措施与仅衡量行政能力的文书工作。报告严重的失控事件具有明确目的；没有技术测试支撑的重复文件则没有。

采购方也需要内部记录，将供应商的说法与部署决策关联起来。可搜索的AI 知识库可帮助团队跨部门保存评估、审批、事故和政策变更记录。

仅靠文档无法保证安全。但它仍可明确是谁批准了某套系统、当时有哪些控制措施，以及组织在收到警告后如何应对。

因此，压力由各方共同承担。政府必须界定可执行的最低标准，开发者必须提供有意义的证据，客户则必须控制系统在其环境中的运行方式。

自愿 AI 安全规则存在覆盖范围问题

行业自律最适用于愿意合作的公司，而监管在公司拒绝合作时最为重要。

Smith 承认，自愿协议代表着进步。他也指出了其结构性弱点：负责任的公司会参与，但制造最大风险的组织可以置身事外。

随着开发变得更加普及，这一区别愈发重要。由知名实验室签署的自愿承诺，并不能约束小型提供商、海外运营方或分发修改版模型的开发者。

同样的问题也会在产品发布后出现。除非有共同标准加以界定，否则公司可以承诺进行评估，却自行决定测试内容、门槛和披露措辞。

行业自律仍有优势。行业组织可以比立法机构更快更新技术实践、吸纳专家，并在政府理解新兴能力之前展开试验。

自愿测试也可以立即启动。一项新法律可能需要数月时间进行起草、听证、制定实施规则、应对法律挑战以及招聘监管人员。

最有力的框架会将两种方式结合。法律确立最低义务，技术标准则界定可灵活调整的满足方法。

Smith 的立场与总统 Donald Trump 强调美国快速发展、并与中国竞争的主张存在冲突。政府认为，负担过重的规则可能拖慢本土公司，而海外竞争对手仍在推进。

一项 2026 年白宫行政命令称，美国之所以领先，部分原因在于拒绝以过度监管扼杀创新。该命令强调快速、安全部署，以及政府与行业之间更紧密的合作。

这项联邦 AI 政策体现了另一种风险理论。丧失技术领先地位会与不安全部署一道，构成国家安全风险。

这种分歧并非安全与创新之间的简单二选一。双方都宣称，其做法能够保护国家竞争力和公共安全。

Smith 认为，值得信赖的系统将获得更广泛的采用。政府则认为，过早出台规则可能固化当前技术、提高成本并丧失发展势头。

中国也令这场辩论更加复杂。仅适用于美国公司的规则，无法直接约束外国开发者、开放权重模型发布，或通过其他司法管辖区部署的系统。

不过，产品标准仍然可以影响市场准入。无论模型在哪里训练，政府都可以要求用于关键领域的系统接受测试、报告并具备可追溯性。

航空和医疗器械行业采用了类似逻辑。制造商在全球运营，但产品在进入受监管市场前必须满足当地要求。

从这一视角解释 AI 监管，其重点不再是批准每一个模型，而是控制高后果场景下的部署。写作助手不应与操控电力基础设施的智能体接受同等审查。

风险分类可以保留灵活性。它可以将独立审查保留给具备危险能力、高度自主性、处理敏感数据或可访问关键业务的系统。

然而，分类本身也会制造漏洞。开发者可能在审查期间将系统描述得较为狭窄，但客户之后会将其连接到会产生更高风险的工具上。

因此，责任必须覆盖整个供应链。模型提供商了解核心能力，应用开发者定义工作流程，而部署方分配数据和权限。

没有任何单一参与者能够看到全部风险。有效的规则必须明确各方需要记录什么，以及责任在何时转移。

Smith 对自我监管的批评，在覆盖范围上最有力。由信誉良好的公司共同作出的承诺，无法建立普遍义务，也无法对无视承诺的运营者施加后果。

其弱点则在于精确性。“监管 AI”涵盖的系统和情境过多，若没有详细阈值，就无法成为可执行的政策。

欧洲表明监管可行，但并不简单

欧盟已经从自愿原则转向可执行义务，但其分阶段体系也显示，全面 AI 监管的实施有多么困难。

《欧盟 AI 法案》采用基于风险的架构。它禁止某些做法，为通用 AI 模型设定义务，并对用于敏感领域的系统施加额外控制。

其中若干条款的执法权已于 2026 年 8 月开始适用。透明度义务要求，在用户与某些 AI 系统互动或接触到特定合成内容时，用户必须获得通知。

相关规则也涉及具有系统性风险的通用 AI 模型。相关提供商须履行评估、文档编制、网络安全和风险缓解等义务。

AI Act framework 并未对所有应用一视同仁地监管。欧盟表示，大多数最低风险系统仍不受额外强制控制约束。

这直接挑战了这样一种观点：政府必须在全面限制和完全自律之间二选一。监管机构可以将义务集中于潜在危害更高的领域。

不过，实施时间表揭示了现实阻力。若干高风险用途的规则要到 2027 年 12 月才适用，而嵌入受监管产品中的 AI 的要求将延续至 2028 年。

标准、指南、监管能力和测试方法都需要时间。企业也需要明确分类和文档要求，执法才能变得可预测。

因此，欧盟路径支持 Smith 的观点，同时也对其紧迫感作出限定。通过一项法律只是启动过程，并不会立刻产生合格的评估人员或可靠的评估方法。

通用 AI 模型的测试尤其困难。模型在获得工具访问权限、经过微调、使用系统提示词，或接入专有数据后，可能展现出不同能力。

发布前评估可以识别危险能力，但无法复现每一种下游配置。持续监控和部署后报告仍然必不可少。

这项法律也引发了竞争方面的担忧。合规可能需要法律专业知识、技术文档和持续的风险管理，而较小的提供商可能难以承担相关成本。

支持者回应称，高风险产品理应承担安全成本。初创企业不能仅因医疗合规成本高昂，就获得免于保护患者的豁免。

批评者则认为，软件变化速度快于实体产品。固定规则可能迅速过时，奖励程序性合规，或在无法降低实际风险的情况下抑制开放研究。

两种担忧都合理。监管可能因力度不足而失败，使严重危害得不到处理；也可能因过度扩张而失败，将资源导向表格而非安全工程。

欧盟的执法经验将为 Brad Smith AI 监管争论提供证据。监管者必须证明，这些要求能够提升透明度和问责，同时不会制造任意障碍。

英国正在采取不同路径。它在避免制定覆盖整个 AI 市场的欧盟式横向法律的同时，投入建设技术评估能力。

Smith 表示，英国凭借其 AI Security Institute，具备引领全球安全工作的良好条件。该机构最初名为 AI Safety Institute，并于 2025 年获得以安全为重点的职责授权。

其工作包括研究先进能力、网络滥用、防护措施和政府准备情况。security institute mission 将其描述为一个由国家支持、开展技术研究以支持先进 AI 治理的组织。

这类专业能力可能有助于建立国际测试标准。然而，研究机构并不会自动拥有强制披露、阻止发布或惩罚违规行为的权力。

Smith 希望技术能力和法律义务相互强化。英国已发展了前者，而议会仍需就后者作出选择。

全球领导力也需要合作。当开发者可以跨境发布模型、权重或服务时，一个国家采纳的标准影响范围有限。

相比建立一个全球监管机构，共同的报告格式和评估方法或许更容易实现。各国可以认可兼容的测试，同时保留不同的执法体系。

Microsoft 的立场值得单独接受压力测试

Microsoft 倡导更强规则的理由可信，但政策制定者应审视谁会受益，以及拟议控制措施是否能在实践中发挥作用。

Microsoft 向高度受监管的机构销售云基础设施、安全服务、办公软件和 AI 系统。明确的国家规则可以减少这些客户面临的不确定性。

该公司也拥有满足广泛合规要求的资源。较小竞争对手可能面临更高的相对成本，尤其是在评估需要稀缺专家或昂贵算力时。

这并不意味着 Smith 的提议是错误的。它意味着政策制定者应检验每项措施是否能降低风险，同时避免巩固当今最大供应商的地位。

独立评估就是一个例子。一项要求可以提升问责，但前提是评估者拥有适当访问权限，并能发布有实质意义的发现。

若审查完全基于提供商自行选择的测试，其独立性将十分有限。若审查无法访问系统细节，也可能错过在生产环境中才会出现的行为。

政府评估人员也需要具备专业技能。各机构需要与科技公司竞争，争取理解模型安全、网络行动和分布式系统的研究人员。

能力限制可能造成延迟。如果每个新模型都需要全面审批，评估队列可能拖慢低风险产品，同时让审查人员遗漏真正危险的系统。

因此，阈值至关重要。审查授权可以聚焦于超过既定能力水平的模型，或控制关键基础设施的系统。

能力阈值也需要频繁修订。如今被认定为非凡能力的评估，随着模型进步，可能会成为常规测试。

紧急控制带来另一项挑战。集中式服务可以暂停访问、撤销凭证或禁用工具。被复制到许多机器上的开放权重模型则无法如此轻易地召回。

即使是托管系统，也可能通过缓存数据、连接的应用程序或委派凭证逃离单一控制点。终止开关必须覆盖完整部署，而不只是模型端点。

事件报告也会引发范围问题。开发者需要明确的定义，以区分无害错误与值得监管关注的安全事件。

过于宽泛的要求可能会让机构被大量轻微错误淹没。定义过窄则可能让公司排除严重的未遂事件或下游危害。

规则还需要提供报告保护。当披露会带来即时法律责任、声誉损害或敏感安全信息暴露时，组织可能会隐瞒事件。

网络安全政策往往需要在保密性与问责之间取得平衡。监管者可以接收详细报告，同时发布汇总经验，帮助其他组织改进。

Smith 提出的受害者通知建议尤其值得关注。发生 AI 辅助型入侵后，目标方需要及时获得信息，但调查人员必须确定提供商知道什么，以及何时知道。

AI 系统可能协助攻击者，却并非独立行动。监管者应避免采用将每一次生成式软件使用都视为独立 AI 事件的定义。

关键问题在于，该系统是否引入、加速或掩盖了实质性危害。报告应描述这种贡献，而非依赖“失控 AI”等戏剧化标签。

Microsoft 自身的部署也应接受 Smith 所建议的标准约束。这包括 Copilot 产品、Azure 托管模型、安全智能体，以及通过商业合作提供的系统。

可信的规则不能取决于提供商偏好的公司架构。当模型开发者、云托管方、应用供应商和客户共同掌握控制权时，责任必须保持清晰。

正是在这里，Microsoft AI 安全规则需要可衡量的结果。监管者应询问，控制措施是否缩短了检测时间、限制了未经授权的行动，并改善了故障后的恢复能力。

他们还应审视虚假的安全感。即使部署配置不同于受审查系统，通过评估仍可能成为一种营销徽章。

没有任何审计能够保证安全。独立测试只能针对特定条件提供证据，不能永久保证免受所有未来用途的影响。

因此，Smith 的牛奶类比在修辞上有效，但在技术上并不完整。牛奶是标准化的实体产品，具有既定的污染路径和成熟的检验方法。

AI 系统则是会随情境变化的适应性服务。这种复杂性强化了监管必要性，同时也使产品式监管更难设计。

怀疑论的结论并非监管应当等待，而是规则必须附着于实际能力、权限和危害，而非宽泛的“AI”标签。

三个信号将表明这一警告是否改变政策

下一项考验在于，政府是否会将对 AI 风险的广泛共识转化为能够经受政治和技术审查的具体义务。

第一个信号是具有约束力的事件报告提案。政策制定者应界定覆盖的系统、严重事件、报告期限、受害者通知和保密保护措施。

如果某个主要司法辖区采纳这些要素，Smith 的论点就将从类比走向可操作的政策。自愿登记机制或定义不明的报告承诺，则代表较弱的回应。

第二个信号是扩大独立评估者的访问权限。政府需要达成协议，让合格研究人员在高后果部署之前测试先进系统。

英国人工智能安全研究所提供了一种可能的基础。其价值将取决于开发者是否及时授予访问权限，以及研究发现能否影响部署决策。

对明确定义的高风险系统实行强制访问，将强化 Smith 的论点。若仍持续依赖酌情合作，则说明自律仍在划定实际边界。

第三个信号来自欧盟执法的证据。监管机构必须展示透明度、通用模型义务和系统性风险控制如何在真实案例中发挥作用。

一致的执法将表明，具有约束力的 AI 规则能够在大型市场中运行。相互矛盾的解释或程序拖延，则会支持对监管复杂性的担忧。

美国仍是最具影响力的不确定因素。国会一直在讨论联邦优先权、州级规则、产品安全和宽松的国家框架，但尚未解决其中的根本权衡。

在早先的国会辩论中，Smith 支持由联邦层面主导产品安全和发布前审查。他也表示愿意给美国时间，以形成统一的方案。

这段历史增添了细微差别。Microsoft 并不是要求每个州都制定各自独立的规则，也不是要求每一项 AI 应用都接受审批。

该公司似乎倾向于采用全国一致的框架，聚焦先进能力和具有重大影响的部署。行业领导者通常偏好联邦层面的统一性，因为碎片化的州级规则会增加合规成本。

联邦框架之争也揭示了一个政策陷阱。联邦优先权可以简化义务，但若国会在阻止各州行动的同时又未建立保护措施，就可能留下监管真空。

对开发者而言，眼下的启示是：应按报告和审计义务终将到来的标准来设计系统。这意味着保留日志、记录工具权限、测试关停程序，并将敏感操作与常规输出分离。

企业采购方现在也应要求同样的证据。采购团队可以询问供应商：谁会收到事件通知、哪些评估机构可获得访问权限，以及管理员如何撤销代理的授权。

知识工作者同样应当关心，因为代理型工具正越来越多地跨越电子邮件、文档、日历、代码仓库和客户记录采取行动。错误答案只是带来不便；未经授权的行动则可能无法挽回。

团队应对重大步骤保持人工批准，尽量减少凭证权限，并记录哪些来源影响了一项行动。无论未来立法如何，这些控制措施都依然有用。

只有当 Brad Smith 对 AI 监管的警告促成可执行的责任和技术上可信的标准时，它才真正重要。一个令人难忘的比喻可以开启讨论，但无法完成制度设计工作。

最佳政策不会把每个模型都当作一盒牛奶来监管。它应识别软件何时获得足够的自主性、访问权限或危险能力，从而需要更严格的监督。

未来三个月，请关注具体的事件报告法案、评估机构访问权限的扩大，以及欧盟执法的公开证据。这些信号将表明，政府是在构建问责机制，还是在延续承诺时代。

组织不应等待答案。审查哪些 AI 代理能够采取行动、它们持有哪些凭证，以及它们越过获批边界时谁会收到通知。随后向供应商提出一个直接的问题：如果遵守安全承诺不再是可选项，他们的安全承诺是否仍能保护你？