Nvidia CEO Jensen Huang: 重新定义 AI 扩展与核能未来
已更新：6月17日
最近 Joe Rogan Experience (JRE) 对 Nvidia 首席执行官 Jensen Huang 的采访 不仅仅产生了关于核能的热门剪辑。它还描绘了未来十年计算领域的技术和经济路线图。虽然公众关注的是能源方面的片段，但行业更深层的信号是 Huang 对 AI scaling 的明确重新定义。
我们不再依赖单一的方法来让模型变得更聪明。仅仅向更大的模型输入更多文本的时代正在结束。取而代之的是，Nvidia 正在针对由推理时计算、合成数据循环和全新能源基础设施所定义的未来进行优化。
超越预训练：Nvidia 如何推动 AI Scaling
在过去几年中，进步的主要驱动力是预训练规模化。如果你想要一个更智能的模型，你就购买更多的 H100，抓取更多的互联网数据，并训练更大规模的参数集。这就是 GPT-4 的公式。
Huang 认为这种单轨方法已经过时。他概述了目前正在并行运行的三种不同的规模化定律。
规模化的演变
前两个大家都很熟悉。预训练规模化涉及海量数据摄取。训练后规模化——即 ChatGPT 时代——引入了来自人类反馈的强化学习 (RLHF)，教导模型与人类意图保持一致。
第三条定律是游戏规则改变者：推理侧规模化。
这是像 OpenAI 的 o1 (Strawberry) 等模型正在探索的前沿领域。系统不再是立即吐出它预测的第一个可能的 token，而是会暂停。它会生成一个“可能性树”，模拟各种结果，批判自己的逻辑，并在回答之前选择最佳路径。
Nvidia 正在重新构建其硬件架构，以支持这种“思考时间”。计算负载正在发生转移：从训练模型时所需的一次性大规模能量爆发，转向模型每次回答复杂问题时所需的持续且高强度的计算。
通过测试时计算实现 AI 扩展
推理时扩展 改变了 AI 的经济模式。它意味着智能不再仅仅是训练好模型的静态属性；它是模型在解决问题时所消耗的时间和计算量的函数。
对于 Nvidia 而言，这可能比训练业务更具盈利空间。每个模型版本的训练只发生一次，而推理每天会发生数十亿次。如果行业采用“思考模型”，那么对高效、高性能推理芯片的需求将超过对训练集群的需求。Huang 证实了 Nvidia芯片正在针对快速处理这种分支、多步骤逻辑进行专门优化。
助力 Nvidia：为什么核能是唯一的出路
扩展智能需要能量。JRE 访谈中最火爆的时刻是 Huang 对小型模块化反应堆 (SMRs).
目前的数据中心正达到吉瓦（gigawatt）规模。在许多地区，将吉瓦级的负载置于标准公共电网在物流上是不可能的；这会产生可能导致当地基础设施崩溃的波动性。Huang 认为，未来“AI 工厂”唯一可行的解决方案是脱离电网或使用专用发电设施。
利用 SMRs 解决 AI 扩展中的能源危机
Huang 预测，在 6 到 7 年内，我们将看到由专有的 SMRs 供电的数据中心. 这些反应堆能够产生数百兆瓦的电力，提供稳定、无碳的基荷电源，这是风能和太阳能无法为 24/7 全天候计算集群所保证的。
这不仅仅关乎总功耗。Huang 强调了一个在气候辩论中经常被忽视的关键效率指标：每个 token 的能源成本。
虽然由于需求永无止境，总能源消耗正在攀升，但在过去十年中，生成单个智能 token 所需的能量已经下降了 100,000 倍。这是摩尔定律在能源领域的应用。如果 AI scaling 在今天停止，那么就电力而言，运行现有模型的成本几乎为零。能源危机之所以存在，仅仅是因为行业拒绝止步于当前的智能水平，不断挑战模型能力的极限。
合成数据与 Nvidia 的未来
对生成式 AI 的一种普遍批评是，它最终会耗尽人类训练数据。批评者指出“模型崩溃”——即基于 AI 生成内容训练的 AI 会退化为胡言乱语。
Huang 拒绝接受这一前提。他预测在 2-3 年内，全球 90% 的知识将由 AI 生成。然而，他将“虚假数据”与他所谓的“蒸馏智能”区分开来。
从互联网抓取到通过蒸馏实现 AI Scaling
数据的未来不在于抓取 Reddit 或 Wikipedia，而在于模拟。Huang 描述了一个循环：AI 读取现有的科学原理，模拟结果（创建新数据），然后从这些模拟中学习。
以物理引擎为例。AI 可以根据物理定律模拟十亿次材料相互作用。这些模拟结果不是“幻觉”；它们是以前从未存在过的、在数学上有效的数据点。通过在这些合成数据上进行训练，模型有效地从宇宙规则中“蒸馏”出智能，而不仅仅是人类语言的模式。
这使得 Nvidia 及其合作伙伴能够绕过有限人类文本的瓶颈。AI scaling 得以继续，因为模型开始根据经过验证的客观真理（ground truths）生成自己的课程。
Nvidia 与新兴的机器人经济
对话自然地转向了物理 AI。Huang 反驳了劳动力流失的说法，暗示我们正在进入一个机器人经济时代。
其论点是，机器人不仅会取代现有层级中的人类岗位，还将创造全新的行业。他举了“机器人服装”（Robot Apparel）作为一个半认真的例子——即为自主代理提供定制化——但更广泛的观点是：机器人的供应链将非常庞大。
AI 扩展引领全民高收入
引用 Elon Musk 经常讨论的概念，Huang 谈到了从稀缺到丰裕的转变。如果 AI scaling 和机器人技术将劳动力成本推向零，那么商品和服务的成本在理论上应该会崩溃。
在这种情境下，对话从全民基本收入（生存津贴）转向了全民高收入（获取高质量资源）。如果生产力创造了巨大的盈余，经济问题就从生产转向了分配。对于 Nvidia 而言，这验证了他们在机器人仿真 (Isaac Sim) 和边缘计算 (Jetson) 领域的投入。他们正在为物理劳动力构建神经系统。
Nvidia 引擎的心理学
对于创始人和投资者来说，采访中最具启发性的部分不是技术层面的，而是心理层面的。尽管 Nvidia 已是一家市值 3 万亿美元的公司，Huang 承认他每天醒来都带着一种“受难”基因，觉得公司距离破产只有 30 天。
这种偏执是特性，而非缺陷。Huang 将其归功于 Nvidia这种对失败的持久恐惧所产生的韧性，而非盲目的野心。他提到 90 年代 Sega 时代的濒临破产是基础性的创伤，这让公司时刻保持敏锐。
在一个容易产生炒作的行业中，这种心态解释了为什么 Nvidia 很少因领先地位而懈怠。他们将每一次平台转型——从 PC 图形到加密货币挖掘再到 AI scaling——都视为必须主导的生存威胁。
墙的幻觉
Huang 的分析中贯穿始终的主题是：AI 进步所面临的感知障碍——能源限制、数据短缺和计算成本——都是幻觉。Nvidia 将这些视为具有明确解决方案的工程问题。
AI scaling 并没有撞上南墙，而是在变换赛道。我们正从预训练的蛮力时代迈向推理推理的精细时代，由核能驱动并由合成数据喂养。“思考型”芯片已经在设计中。剩下的唯一变量是物理世界追赶数字世界的速度。
FAQ
什么是推理时扩展（inference-time scaling），它为什么重要？
Inference-time scaling 指的是增加在生成答案过程中使用的计算资源，而不仅仅是在训练期间。它允许模型在回答之前进行“思考”、模拟多条路径并进行错误检查，从而在不需要更大基础模型的情况下，显著提高复杂推理任务的准确性。
Nvidia 未来的 AI 工厂会依赖公共电网吗？
对于大型设施来说，可能不会。黄仁勋预测，在未来十年内，大型数据中心将需要吉瓦级的电力，因此必须采用像 小型模块化反应堆 (SMRs) 这样的离网解决方案，以避免导致公共公用事业基础设施崩溃。
使用合成数据会导致 AI 模型崩溃吗？
这取决于方法。盲目地在低质量 AI 输出上进行训练会导致崩溃。然而，Nvidia 提倡“蒸馏智能 (distilled intelligence)”，即 AI 通过强化学习或物理模拟（基于可验证的规则）生成数据，这实际上能提高模型质量。
机器人经济与自动化有何不同？
自动化通常是指取代特定的任务。“机器人经济”意味着一种系统性的转变，即物理 AI 智能体执行广泛的劳动类别，从而将生产成本降至接近于零。Huang 认为，这将导致资源丰盈（全民高收入），而不仅仅是失业。
为什么 Jensen Huang 认为 Nvidia 总是“距离倒闭只有 30 天”？
这种心态源于 Nvidia 在 20 世纪 90 年代早期的艰辛挣扎和濒临破产。Huang 认为，保持“对失败的偏执”可以防止自满，并确保公司比竞争对手更快地做出调整，无论其目前的市值如何。
