黄仁勋反对新增 AI 监管规则，主张信任产品制造商

黄仁勋在 9 月 15 日 Salesforce 的 Dreamforce 大会上反对新增 AI 规则，由此引发了关于谁应掌控 AI 安全的直接冲突。这位 Nvidia CEO 认为，人工智能仍是人类构建的计算系统。因此，企业可以通过工程手段打造安全产品，并停止部署自己并不信任的系统。黄仁勋的 AI 监管立场建立在市场约束、现有法律以及产品制造商自我监管之上。

这一论点出现在一场异常尖锐的安全争议之中。OpenAI、Anthropic 及其他知名 AI 公司警告称，日益自主的系统需要更强有力的保障措施。一些行业领袖支持独立评估、政府协调，以及放缓最强大模型的发展速度。黄仁勋则主张，企业应快速推进，只有在自身失去信心时才暂停。

这一差别至关重要，因为 Nvidia 为 AI 竞赛提供了大量底层计算基础设施。更快的模型开发会扩大对加速器、网络系统及相关软件的需求。不过，黄仁勋同时也在挑战新兴监管背后一个更深层的假设：如果 AI 只是另一种工程产品，专门的 AI 法律可能会制造不必要的障碍；如果其行为仍难以预测，那么仅依赖企业判断就会留下严重的问责缺口。

黄仁勋究竟如何谈论 AI 监管

黄仁勋的论点始于一个简单主张：AI 安全应由工程团队负责，因为 AI 仍是在计算系统上运行的软件。

在 Dreamforce 亮相期间，黄仁勋否定了 AI 是一种脱离人类控制、不可知智能体的形象。他将其描述为复杂的计算系统，由人类构建，因此可通过常规工程流程进行管理。他的论述将监管问题归结为熟悉的产品决策。

企业测试产品、研究其行为，并决定它是否已准备就绪。黄仁勋表示，如果企业对产品的功能或安全性缺乏信心，就不应发布；一旦信心充足，就应迅速推进。

黄仁勋用一句话概括了他的立场，也界定了整场争论：“安全是一个工程问题，而不是法律问题。”他更广泛的 AI 安全论点同样将速度与安全视为可以兼容的目标。

这一框架并不否认 AI 产品可能造成伤害，而是将首要且最重要的安全决定权交给构建每个系统的企业。随后，市场压力会惩罚不可靠的产品，而现有的责任法、消费者保护法及行业专门法律则处理有害后果。

这种方法类似于常规的软件发布管理。开发者进行内部测试、限制访问、监测事故并修复缺陷。部署团队可以采用分阶段发布，即先让产品面向小范围用户，再扩大分发范围。发现不可接受的行为后，他们还可以禁用功能或撤销模型访问权限。

然而，先进 AI 让这一熟悉的流程变得更复杂。传统应用通常遵循开发者直接编写的规则。机器学习模型则从数据中学习模式，并可能产生其创造者未曾明确指定的行为。

这种差异并不会使 AI 成为外星智能，但确实会增加测试难度。面对数百万种可能的对话、工具、语言和环境，团队无法手动穷举通用模型可能生成的每一种回应。

黄仁勋的解决方案仍以信心为基础。开发者应构建足够强大的评估、安全控制和监测系统，以支持发布决策。随后，市场将奖励能够提供实用且可靠产品的企业。

尚未解决的问题是：谁来衡量这种信心。黄仁勋的答案主要将衡量权留给产品制造商。在该模式下，独立评估机构、公共部门、客户和受影响社区都没有得到任何有保障的角色。

他的评论也不止于反对某一项拟议法案。他表示，该行业不需要新的法律或监管规定。这一广泛立场使 Nvidia 站到了专为通用型和高风险 AI 设计的政策框架对立面。

这也使黄仁勋与那些希望为最大型模型制定有限规则的高管区别开来。这些领导者未必主张停止 AI 开发。许多人希望建立共享的测试要求，避免任何企业通过承担更多风险来获得竞争优势。

因此，黄仁勋的 AI 监管立场改变了争论的焦点。核心问题不再是安全是否重要，几乎所有参与者都认为重要。争议在于，当竞争奖励速度时，自愿的工程决策是否能提供足够保护。

AI 安全争论为何此刻升级

黄仁勋发言之际，其他 AI 领袖正转向外部评估和协调限制，因此他对新增规则的反对格外重要。

直接背景是一系列来自前沿 AI 研究人员和高管的新警告。前沿 AI 指当前可用或正在开发、能力最强的通用系统。这类系统可以完成多种任务，并可能在逐步减少人工监督的情况下操作软件工具。

OpenAI 首席科学家 Jakub Pachocki 最近将先进 AI 描述为研究人员尚未完全理解的一种智能。在其 外星心智文章中，他认为，能力的快速增长要求采取极度谨慎态度并扩大干预。

Pachocki 的担忧集中在递归式自我改进。这一术语描述的是系统利用自身能力帮助设计能力更强的后继系统。OpenAI 尚未证明失控循环如今正在发生。其研究人员是在警告，未来系统可能会越来越多地参与自身开发。

黄仁勋拒绝围绕这一担忧的表述。他认为，将 AI 描述为一种外来的或独立的心智具有误导性，因为这些系统仍依赖于人类设计的硬件、软件、训练流程和部署选择。

双方都识别出了同一技术的真实特征。AI 系统确实运行在可控基础设施上，企业也可以限制其访问权限。然而，开发者往往无法针对每一项模型输出或习得行为，提供完整、可供人类理解的解释。

当 Anthropic CEO Dario Amodei 提议持续向独立评估机构开放访问时，分歧进一步扩大。按照这一构想，外部专家将获得对安全实践的持续可见性，而非仅接受一次性演示。OpenAI CEO Sam Altman 支持该提议，并赞成建立针对先进 AI 安全标准的联邦框架。

这些提议承认存在一个集体行动问题。因额外测试而推迟模型发布的企业，可能失去客户、人才或投资者支持。愿意更早发布的竞争对手则可能获得这些收益，同时将部分风险转移给用户和社会。

自愿克制在所有关键参与者面对相似激励时最为有效。AI 市场并无这种保证。私营实验室、大型科技公司、开放权重开发者和国家支持项目所承受的商业与政治压力各不相同。

国际竞争又增添了一层障碍。美国政策制定者担心在技术领导地位上落后于中国。企业同样担忧，国内限制会约束守规开发者，却无法影响国外竞争对手。

黄仁勋正是利用这一竞争现实来支持快速部署。他的立场是，有用的 AI 应用能够增强经济和机构实力。因假设性的风险而延迟推进，也会带来代价，包括生产力减弱和科学进展放缓。

7 月，黄仁勋还曾告诉 Axios，政策制定者不应让科幻场景左右决策。他的 反末日论立场暗示，一些企业可能支持有利于保护自身市场地位的监管。

这一批评值得考虑。大型实验室比小型开发者更容易承担测试、文档和合规成本。设计不当的监管可能会通过将法律资源转化为竞争优势，进一步巩固既有企业的地位。

不过，监管俘获并非反对一切规则的理由，而是支持制定范围有限、合规要求相称且标准可及的规则。同样的集中化担忧也适用于少数主导企业在缺乏公共监督的情况下自行界定安全标准。

这一时机也具有政治分量。Donald Trump 总统一直强烈反对放缓 AI 发展，并将灾难性警告描述为一种阴谋。这使黄仁勋的工程优先方法在政府内部获得了颇具影响力的受众。

结果形成了不寻常的分裂：数位前沿 AI 领袖呼吁加强协调，而一家领先的基础设施供应商则反对新增监管。这场分歧并不发生在技术人员与外部人士之间，而是贯穿 AI 行业的核心。

真正的取舍是企业控制权与外部问责

工程手段可以降低 AI 风险，但让供应商界定可接受风险，也意味着让他们自行评判自身的商业激励。

黄仁勋在一个关键点上是正确的：法律条文本身无法让模型变得安全。安全依赖于在开发、测试、部署和事故响应全过程中完成的技术工作。

工程师可以限制危险工具、用对抗性提示测试模型，并监测异常活动。红队测试，即有意探测系统故障的方法，可以在发布前发现弱点。沙箱可以将 AI 智能体与敏感的生产系统隔离开来。

产品制造商还掌握着监管机构难以轻易复制的信息。他们了解自身的训练流程、模型架构、内部评估和部署控制。忽视这些细节的外部规则可能会变得过时，或产生反效果。

然而，工程与法律解决的是不同问题。工程降低故障发生的概率或严重程度；法律则分配义务、设定最低标准、建立披露要求，并确定伤害发生后由谁承担责任。

一家企业或许构建了称职的安全系统，却仍可能选择激进的发布节奏。它可能接受在商业上看似合理的故障率，却将成本施加给从未选择该产品的人。它也可能为了保护知识产权或声誉而限制信息披露。

市场约束也有类似局限。消费者在发现缺陷后可以惩罚有问题的消费产品。但当故障难以追溯、延迟出现或波及多方时，这一机制就会减弱。

设想一个由 AI 生成、并流入下游软件的安全漏洞。模型提供商、应用开发者、企业客户和人工操作员可能各自控制结果的一部分。日后受到伤害的用户可能难以确定究竟是哪一项决策导致了故障。

自动化的就业、贷款、保险或医疗决策也会产生类似问题。购买方选择系统，但由另一人承受其后果。此人可能无法访问模型、模型的评估结果，或某项决策所依据的证据。

现有法律可以处理部分后果。产品责任法可能涵盖存在缺陷的产品，隐私规则可以限制数据处理，反歧视法也可以适用于自动化决策。行业监管机构还可以监督医疗保健、金融、交通运输和关键基础设施。

然而，这些制度并不总是围绕会在不同情境中改变行为的通用模型设计。诉讼也往往发生在伤害已经造成之后。法院可以形成威慑，但无法替代产品发布前的测试——尤其是在故障可能迅速扩散的情况下。

这就是为什么 AI 监管讨论常常聚焦于流程义务。政府不必规定模型架构，而是可以要求提供文档、报告事故、接受外部评估，或证明高风险部署已通过规定测试。

黄仁勋的做法将公司的发布决策视为关键控制点。与之相对的做法则是在系统达到特定能力或风险阈值时，增设独立检查环节。

两种模式都无法消除判断因素。监管机构必须决定哪些系统适用，评估者也必须选择有意义的测试。外部问责的优势并不在于具备完美预见能力，而在于商业成功不再是塑造产品发布决策的唯一强大激励。

对于企业采购方而言，这一区别如今就会影响采购决策。供应商声称其系统安全，只能提供一种证据。详细评估结果、审计访问权限、事故处理程序和合同责任，则能提供更有力的证据。

团队应记录模型可以访问哪些内容、哪些决策需要人工批准，以及将如何调查故障。在可搜索的知识库中维护这些记录，可以帮助工程、法务和安全团队审查同一套证据。

这类治理工作无需等待立法。企业现在就可以要求提供模型卡、测试摘要和数据处理细节；也可以要求供应商在变更模型或安全控制措施时发出通知。

黄仁勋强调工程实践，在这一运营层面颇具价值。其弱点则会在工程实践被用作反对独立监督的理由，而非作为监督应当核验的主要对象时显现。

欧洲已经在测试相反的模式

欧盟拒绝纯粹的自我监管，而是将产品层面的工程义务与针对高风险 AI 的可执行规则结合起来。

欧盟《AI 法案》采用基于风险的结构。它并未对每一种系统施加相同义务。通常被视为最低风险的应用无需满足新的要求，而被界定为高风险的用途则会受到更严格的监管。

通用 AI 模型属于另一类别。提供商须承担透明度和版权义务，而与系统性风险相关的模型必须接受风险评估与缓解。系统性风险是指，由于模型能力很强或部署范围广泛，伤害可能大范围扩散的风险。

该法律中针对通用模型的义务于 2025 年 8 月开始适用。更广泛的治理和执法责任则于 2026 年 8 月生效。欧洲 AI 办公室可以索取文件、评估模型、要求采取纠正措施，并对不合规行为处以处罚。

欧盟的 AI Act framework 还通过自愿性准则帮助企业履行法律义务。这种混合结构很重要，因为它将行业专业知识与公共执法结合在一起。

这并非工程师与律师之间的简单对决。欧洲监管机构仍然依赖技术标准、公司文件和专家评估。企业仍可自行选择许多风险控制方法。

区别在于这些选择之下的最低标准。提供商不能只依赖自己对受监管系统安全性的私下判断，必须满足适用义务，并提供可供监管机构审查的证据。

批评者认为，该框架带来了合规成本和法律不确定性。标准可能滞后于模型发展。即使立法者提供简化要求，小型企业也可能缺乏理解复杂义务所需的人员。

这些担忧强化了黄仁勋对设计不佳监管的警告。一项重文档、轻可衡量安全性的规则，可能制造合规表演。开发者或许会产出大量文件，却没有发现最关键的故障。

监管还可能导致市场碎片化。如果不同司法辖区施加互不兼容的测试、披露或内容标注要求，开发者就必须维持不同的发布流程。这会提高成本，并可能减少小型市场的产品可得性。

不过，欧洲的做法挑战了 AI 监管必须规定工程细节这一主张。监管机构可以界定结果、报告义务和检查权，同时将实施细节留给技术团队。

该法律还承认，产品类别至关重要。垃圾邮件过滤器与就业筛选系统或控制关键基础设施的模型，所涉及的风险并不相同。基于风险的监管试图将监督资源投向故障后果更严重的领域。

黄仁勋可能会回应称，现有行业规则已经提供了这样的结构。医院仍受医疗监管约束，银行仍受金融法约束。增加一部横向的 AI 法律可能会造成职责重复。

当监管机构将“AI”视为单一产品类别时，这一反对意见最有说服力。这项技术涵盖从推荐系统到自主智能体的广泛范围。宽泛定义可能会囊括普通软件功能，却无法提升安全性。

相反的观点是，通用模型跨越行业边界。一个底层模型可以支持医疗、金融、教育和安全应用。其提供商即使并未在某一受监管行业中运营，也可能影响下游风险。

因此，欧洲的试验将为双方提供证据。执法结果可以显示外部监督能否发现实质性风险；合规负担则可以揭示该框架是否会拖慢小型企业，却无法约束最大的提供商。

对于围绕 Jensen Huang AI regulation 的争论而言，欧洲并非理论案例，而是对公共规则与工程实践能否共存的一项现实测试。结果将远远超出欧盟范围，因为全球提供商往往会将部分运营标准化。

Nvidia 的立场伴随着一个无法回避的激励问题

Nvidia 在 AI 安全方面具备技术可信度，但当客户构建更大规模系统并更快发布时，它同样会从中受益。

Nvidia 在这场辩论中处于独特位置。它并非主要的面向消费者的聊天机器人提供商。它销售用于训练和运行 AI 模型的处理器、网络产品、系统和软件。

这种距离可以强化黄仁勋的观点。Nvidia 与云服务提供商、模型开发者、企业、研究机构和政府合作。与任何单一模型实验室相比，它能看到更广泛市场中的基础设施需求。

该公司还开发软件工具、模型、智能体组件和部署系统。黄仁勋完全可以合理地认为，安全控制必须贯穿整个计算栈，而不应只存在于聊天机器人可见的界面中。

然而，Nvidia 的商业敞口带来了明显的利益冲突。快速的 AI 发展会推动对计算能力的需求。更具雄心的模型需要训练基础设施，而更广泛的部署会持续带来推理需求，即模型训练完成后所使用的计算资源。

新的监管壁垒可能延缓数据中心建设、模型训练或企业采用。即便是范围狭窄的规则，也可能增加 Nvidia 客户面临的不确定性。因此，黄仁勋有充分理由偏好更快的部署和可预期的既有法律框架。

经济激励并不会使技术论点失效。所有主要参与者都有自己的激励。前沿实验室可能支持会加重小型竞争对手负担的规则；安全组织可能会强调更容易吸引关注和资金的风险；政府则可能借安全主张扩大权力。

正确的回应是披露和独立测试，而不是自动否定。黄仁勋的主张应当接受与针对 OpenAI、Anthropic 和其他利益相关方的警告同样严格的审查。

他的立场也支持开放权重模型。开放权重允许开发者下载或修改关键模型参数，尽管许可证和配套代码各不相同。黄仁勋将更广泛的访问视为对少数专有实验室主导市场的一种制衡。

开放模型使监管更加复杂，因为没有单一提供商控制每一个下游部署。它们可以提高透明度、本地控制能力和研究可及性；但一旦权重开始流通，也会使一些安全措施更难执行。

针对模型分发的严格规则可能会让市场进一步集中于封闭提供商。反过来，若将能力强大的开放模型完全交由自愿判断，也可能削弱那些依赖撤销访问权限或监控使用情况的控制措施。

这种张力说明，“AI 产品制造商”并不是一个稳定统一的类别。芯片供应商、模型开发者、云主机服务商、应用供应商和企业部署方会作出不同的安全决策。将所有责任都归于产品制造商，会引出另一个问题：究竟是哪一个制造商？

基础模型提供商可以测试通用能力，却无法预测每一种下游情境。应用公司了解自己的用户，但可能不了解模型训练细节。云服务提供商可以监控基础设施，却无法看清每一项任务。

有效治理必须将责任分配到这条链条中的各方。模型提供商可以披露评估结果和已知限制；应用开发者可以测试其具体用途；部署方可以控制数据、访问权限和人工审查。

监管机构随后可以聚焦这些主体之间的问责缺口。这种做法比一视同仁地对待所有 AI 系统更精确，也比信任一家公司的发布信心要求更高。

近期事件表明，单凭信心为何仍需要测试。拥有经验丰富工程团队的软件公司，依然会发布造成损害的缺陷。竞争期限、不完整测试、组织孤岛和意外互动，都可能挫败良好意图。

AI 加剧了这一困难，因为其行为会随提示词、连接的工具、检索到的数据和用户情境而变化。一个智能体可能在测试环境中行为安全，却会在获得对电子邮件、代码库、支付系统或管理控制权限的访问后失效。

因此，对黄仁勋的关键批评并非工程师无法构建安全系统。他们必须做到。问题在于，企业无法保证其内部激励始终会产生社会所选择的风险水平。

独立评估提供了一种回应方式，无需要求全面暂停开发。评估者可以测试已定义的风险、审查流程并报告局限性。政府可以为协调提供法律保护，并设定最低访问要求。

行业放缓争论显示，协调仍然极为困难。国内竞争、国际竞争和利润激励，都会阻碍单方面克制。

黄仁勋将这种压力视为有益的市场纪律。批评者认为，恰恰是在谨慎变得昂贵时，自愿克制会因此失效。这正是本文的核心取舍，任何一方都无法仅凭言辞解决。

三项信号将检验黄仁勋的 AI 监管主张

下一阶段将由独立评估、监管执法和实际部署故障中可衡量的证据决定。

第一个信号是，前沿实验室是否会向独立评估机构提供持续性的访问权限。一次性的基准测试只能带来有限保证，因为模型、系统提示词、工具和部署设置都可能变化。

持续访问将检验行业能否在等待细化立法之前建立可信的监督机制。这也将揭示，当评估人员发现可能推迟发布的问题时，领先企业是否愿意接受审查。

如果多家实验室采用可比的访问机制并公布有实质意义的发现，黄仁勋关于企业主导安全的论点就会更有说服力。这些公司将证明，自愿行动能够产生独立证据。

如果访问权限仍然具有选择性，或在竞争性发布期间消失，那么结论恰好相反。政策制定者将有更充分的理由要求进行评估，而不是相信可选的承诺。

第二个信号是欧盟 AI Office 早期的执法记录。监管机构如今拥有涵盖通用 AI 义务、文档要求、纠正措施和处罚的权力。

关键衡量标准不是调查数量，而是执法是否识别出实质性风险、改善提供商的做法，或为客户和研究人员带来有用的透明度。

清晰且具备技术理解的执法，会削弱黄仁勋“新监管几乎没有增益”的主张。它将表明，法律授权可以补充工程实践，而无需规定每一个技术决策。

混乱或纯粹程序化的执法则会强化他的批评。如果企业在表格上投入大量成本，而安全结果依然没有变化，以工程为先的一派就会获得更有说服力的证据。

第三个信号将是下一起涉及自主行动或高风险部署的严重 AI 事件。决定性问题将集中于发现、遏制、披露和责任归属。

如果一家公司通过内部测试发现问题并停止推出该系统，这将支持黄仁勋的信心模型。如果监控机制限制了已部署事件的影响，而提供商迅速分享有用信息，自愿工程实践同样会获得支持。

由外部人士发现的失败则说明了不同的问题。如果受影响方无法获得记录、无法识别责任提供商，或无法依据现有法律获得赔偿，情况也是如此。

公众应关注企业如何应对，而不只是故障是否发生。没有复杂技术能做到零缺陷。航空、医疗和网络安全都采用分层体系，因为单一控制措施可能失效。

AI 治理同样需要这种务实的关注。真正相关的选择不是创新还是安全，而是哪种工程实践、市场压力、独立审查与法律的组合能够形成可靠的激励机制。

开发者应关注评估标准是否会在不同提供商之间实现互操作。企业买家应要求与其部署环境相关的证据。知识工作者应询问：模型何时可以采取行动、能够访问哪些信息，以及如何质疑其输出。

黄仁勋对 AI 监管的立场提出了一个清晰且可检验的命题：企业最了解自己的系统，市场会惩罚不安全的产品，现有法律能够处理其余伤害。

其弱点也同样清晰。决定是否放慢脚步的公司，往往也是因率先行动而获得回报的公司。它们的信心或许是真诚的，却未必反映用户或公众的风险承受度。

黄仁勋说得对，立法者不能将技术安全外包给法律。批评者也说得对，工程决策无法决定由谁承担风险，或谁有权审查证据。

未来三个月应该带来不止演讲。请关注评估机构访问、欧盟执法和事件问责。这些信号将共同表明，企业主导的安全能否赢得信任，还是可强制执行的外部检查正变得不可避免。