top of page

Nvidia 真正的实力在于全栈 AI 工厂

9月1日
讀畢需時 13 分鐘

Nvidia 在 2026 财年实现营收 2159 亿美元,但 Google News 的标题仍常常将它的影响力简化为一种产品:GPU。如今,这种描述已经忽略了核心竞争。Nvidia 销售处理器,但它正日益掌控决定这些处理器如何成为可用 AI 基础设施的软件、网络和系统设计。

这一转变意义重大,因为 Nvidia 的主要竞争对手不再只需要更快的加速器。AMD、Google、Amazon 以及新兴芯片厂商必须挑战的是一个一体化计算平台。客户也必须判断,其性能与部署优势是否足以证明更深度依赖单一供应商的合理性。

这正是 Nvidia 地位背后的逆转。GPU 创造了机会,但如今保护其优势的是周边技术栈。竞争正逐渐演变为 Nvidia 的一体化 AI 工厂,对阵由可互换组件构成的更开放市场。

Google News 仍称 Nvidia 为芯片制造商,但其财报说明了另一回事

Nvidia 的业务如今已不太像零部件供应商,而更像是围绕加速计算构建的基础设施平台。

最明确的证据体现在 Nvidia 自身的财务报告中。其 2026 财年文件显示,总营收为 2159 亿美元,同比增长 65%。

数据中心营收达到 1937 亿美元,而一年前为 1152 亿美元。这意味着数据中心业务贡献了 Nvidia 年度营收的近 90%。曾经定义公司形象的游戏业务则贡献了 160 亿美元。

即便数据中心这一数字本身,也掩盖了一个重要划分。计算业务营收达到 1624 亿美元,网络业务则产生了 314 亿美元营收。仅网络业务的规模就几乎是 Nvidia 游戏业务的两倍。

网络营收较上一财年的 130 亿美元增长。Nvidia 将这一增长归因于 NVLink 计算网络、Ethernet 和 InfiniBand。这些产品负责在加速器、服务器和存储系统之间传输信息。

这种数据传输已成为大规模 AI 部署的核心约束。若数千颗处理器花费过多时间等待数据,模型便无法从中获益。网络成为计算机的一部分。

在生成式 AI 需求达到如今规模之前,Nvidia 就已预见到这一需求。它于 2020 年完成对 Mellanox 的收购,纳入 InfiniBand 网络及相关技术。这笔收购让 Nvidia 掌控了集群计算的另一关键层。

如今,公司将 GPU 与 NVLink 交换机、ConnectX 网络适配器、BlueField 数据处理器以及 Spectrum Ethernet 交换机打包提供。它还提供参考架构,规定这些组件应如何在数据中心内组合。

因此,客户购买的不仅是算力。采购内容还可能包括运行这些算力所需的通信网络、管理工具、库、部署方案和技术支持。

这一结构改变了 Nvidia 的议价地位。竞争对手的加速器或许能在某项基准测试中匹敌它,却未必能匹敌完整部署。买方必须考察应用兼容性、网络设计、系统可用性和运营风险。

这也改变了衡量 Nvidia 的方式。销量和芯片规格仍然重要,但它们只能说明公司影响力的一部分。网络业务的增长表明,随着 AI 集群规模扩大、互联程度提高,Nvidia 正在获取更多营收。

这正是熟悉的 GPU 标签变得不完整的原因。芯片仍然至关重要,但 Nvidia 的商业影响力如今已延伸至围绕它的整台机器。

CUDA 将硬件采用转化为软件习惯

CUDA 让 Nvidia 硬件对开发者更有用,而不断扩展的库则让切换离开的成本越来越高。

CUDA 是 Nvidia 用于在其 GPU 上运行通用计算工作负载的编程平台。公司在 2006 年推出它,远早于深度学习对并行计算产生异常旺盛需求之前。

关键优势并不只是一种编程语言。CUDA 将开发者连接到编译器、调试工具、优化数学库和硬件专属功能。研究人员无需亲自编写每一条底层指令,便可加速工作负载。

这种便利性随时间不断累积。大学教授 CUDA,研究人员发布围绕它设计的代码。云服务商提供兼容实例,软件公司则构建假定可访问 Nvidia 硬件的产品。

Nvidia 的 CUDA 文档如今旁边已有数百个专业库和开发套件。这些工具覆盖模型训练、推理、数据分析、计算机视觉、网络安全、机器人、仿真和科学计算。

由此形成的 Nvidia CUDA 生态系统带来了多种切换成本。开发者必须迁移代码、替换库、测试数值表现,并重新培训工程团队。运营人员还必须在真实生产工作负载下验证性能。

这些成本并非绝对壁垒。主流 AI 框架可以通过更高层级的接口隐藏部分硬件差异。开源编译器项目也能面向多种加速器架构。

然而,抽象并不能消除优化。大型 AI 系统依赖内核,即执行高频数学运算的专用例程。这些例程的微小改进都可能影响利用率、延迟、能耗和总容量需求。

Nvidia 持续为新硬件调校其库。它可以协调 GPU 架构、编译器、网络层和模型服务软件之间的变化。这种协同缩短了从获得新硬件到高效使用它之间的延迟。

这种优势在架构转换期间更为明显。采用 Blackwell 的客户并非从空白的软件环境开始。现有 CUDA 应用、框架和运营知识提供了迁移路径。

Nvidia 还将这一模式延伸至模型训练之外。TensorRT 优化推理工作负载,Triton 管理模型服务。RAPIDS 面向数据科学,Isaac 则支持机器人开发。

每一款产品都鼓励开发者将 Nvidia AI 平台视为另一类工作的默认环境。这一策略扩大了公司的影响范围,而无需每个软件工具都产生可观的直接收入。

软件反而支撑硬件需求和客户留存。一个库可以让加速器更易于采购、部署和持续使用。这种间接经济价值,正是不能仅通过软件营收评估 Nvidia 软件地位的原因之一。

不过,将 CUDA 描述为不可攻破的护城河仍有风险。框架可移植性正在改善,而主要云客户也有强烈动机降低对 Nvidia 的依赖。

一篇评估 Intel Gaudi 的 2025 年研究论文认为,更广泛的软件环境比 CUDA 本身更重要。这一发现支持一种更准确的解读:Nvidia 的优势来自整个开发与部署系统。

CUDA 形成了习惯,但库、工具、社区知识和硬件协同进一步巩固了它。竞争对手必须挑战这一长期积累的系统,而不仅是复制一种编程接口。

网络让数千颗 GPU 如同一台计算机般协作

AI 集群规模越大,Nvidia 的互连和网络产品对其可用性能的影响就越大。

训练前沿模型需要在众多处理器之间分配工作。这些处理器会反复交换参数、中间结果和同步信号。这些交换产生的延迟,会让昂贵的计算资源闲置。

NVLink 在 Nvidia 处理器之间提供高带宽通信。NVSwitch 将这种连接扩展至更大的群组,而 InfiniBand 和 Spectrum-X Ethernet 则连接遍布整个数据中心的服务器。

这些技术针对集群内部的不同距离,但服务于同一架构目标。Nvidia 希望客户将集群视为一个统一的计算系统。

2026 财年业绩显示了其经济效应。数据中心网络营收达到 314 亿美元,同比增长 142%。Nvidia 表示,NVLink 在 Blackwell 上的快速部署推动了大部分增长。

这一结果削弱了芯片与网络之间的旧有区分。加速器基准测试衡量的是本地性能,而生产集群则必须衡量整个集合完成工作负载的效率。

这一差异对于混合专家模型尤其重要。这类模型会针对每个请求激活选定的参数组。其设计可以减少计算量,但也会在处理器之间形成高要求的通信模式。

推理同样加剧了网络压力。推理模型会生成更长的序列,并让更多数据在内存、存储和网络层之间流动。为数百万并发请求提供服务,使通信效率成为一项业务指标。

Nvidia 的答案是协同设计,即将相关组件作为一个协调系统来开发。公司可以围绕同一类预期工作负载,调校 GPU、交换机、网络适配器和软件库。

其 Rubin 代际产品明确体现了这一战略。已公布的 Rubin 平台结合了 Vera CPU、Rubin GPU、NVLink 6 交换机、ConnectX-9 适配器、BlueField-4 处理器和 Spectrum-6 Ethernet。

Nvidia 表示,Rubin 可降低推理 token 成本,并减少某些模型训练任务所需的处理器数量。这些说法依赖 Nvidia 自身测试,仍需独立的生产环境证据验证。

尽管如此,产品结构揭示了公司的方向。Nvidia 销售的是包含六种协同芯片的数据中心架构,而非置于通用服务器中的孤立 GPU。

这种方法给专注于单一层级的商用供应商带来压力。网络厂商可能提供强大的交换机,加速器公司则可能提供有竞争力的计算能力。但组合后的系统仍可能需要额外集成。

它也给偏好可互换组件的客户带来压力。一体化平台可以提升部署速度,但专有连接可能缩小未来的采购选择。

当客户围绕 NVLink 及其参考架构进行优化时,Nvidia 将从中受益。此后替换加速器便会成为一项更广泛的工程项目,涉及机架、网络、冷却、管理软件和应用性能。

这并不意味着每位客户都会接受封闭配置。Ethernet 仍然重要,恰恰是因为买方希望采用熟悉的标准并拥有多个供应商。Nvidia 的 Spectrum-X 产品在加入 Nvidia 专属优化的同时,也承认了这一偏好。

因此,公司正在同时推进两条路径。它在系统内部推广专有的纵向扩展连接,并在系统之间推广优化的 Ethernet。无论客户优先考虑最大程度的一体化,还是更广泛的网络兼容性,这都让 Nvidia 能够参与其中。

AI 计算越是转向机架级系统,这一地位就越有价值。围绕处理器的依赖关系越多,Nvidia 的优势就越大。

Nvidia 真正的对手是模块化 AI 技术栈

真正的竞争并非 Nvidia 与某一家芯片厂商的对决,而是集成式基础设施与客户可独立替换组件之间的较量。

AMD 是最直接的商用 GPU 挑战者。其 Instinct 加速器面向训练和推理,而 ROCm software stack 提供编程工具和优化库。

AMD 的机会来自客户对供应多元化和议价能力的需求。兼容的第二供应来源可降低采购风险,尤其是在需求超过领先系统供给能力时。

不过,AMD 必须证明的不只是处理器性能。客户需要可预测的框架支持、成熟的库、可靠的网络,以及能够在不经历漫长优化项目的情况下迁移应用的工程师。

Google 代表着另一条路径。其 Tensor Processing Units 是为机器学习工作负载开发的定制加速器。Google 在内部使用它们,也通过云平台向外部提供。

Cloud TPU platform 为客户的特定工作负载提供了 Nvidia 系统之外的选择。Google 可以将其芯片与云基础设施、网络和软件框架协同整合。

Amazon 采用类似模式:用 Trainium 进行训练,用 Inferentia 进行推理。Microsoft 也开发了内部 AI 加速器。这些公司可以通过托管云服务将工作负载引导至自家芯片。

定制芯片无需在所有场景取代 Nvidia,便可削弱其地位。它可以拿下云服务商掌控软件环境的重复性、高容量工作负载。

这给 Nvidia 带来了核心压力。其最大客户拥有开发替代方案所需的资金、数据、工程人才和工作负载规模。他们也清楚自身有多少基础设施支出流向 Nvidia。

开放标准构成模块化应对方案的另一部分。Ethernet 供应商、加速器公司和云运营商正致力于改善混合系统之间的通信。编译器项目则试图让代码能够跨不同处理器移植。

如果这些努力走向成熟,客户将能更独立地选择加速器、交换机和软件。硬件将更直接地围绕工作负载性能和运营经济性展开竞争。

Nvidia 的应对方式是在系统层面加速推进。它发布年度架构路线图、提供完整机架、扩展托管软件,并与服务器制造商和云服务商合作。

这一策略缩短了集成时间,但也提高了迁出的成本。客户采用的层级越多,迁移时就需要解开的依赖关系越多。

因此,买方面临真实的权衡。模块化架构可以保留选择权,但组装和优化它需要工程投入。Nvidia 的集成方案可以加快部署,但也会集中技术和商业风险敞口。

两种结果都并非注定。大型云公司因其极大规模而能够支撑内部替代方案。较小企业则可能更偏好文档完善、支持体系成熟的平台。

应用需求也各不相同。训练新一代前沿模型的公司,与运行稳定推荐模型的公司,优先事项并不一样。最佳架构可能取决于模型设计、延迟目标、团队经验和既有基础设施。

这正是单一基准测试很少能够决定胜负的原因。决策还涉及部署时间、软件迁移、网络利用率、可用性和长期灵活性。

Google News 的报道往往强调每一次新加速器发布。更关键的问题是,这些替代方案能否形成客户信任的完整运行环境。

全栈优势也集中 Nvidia 的风险

Nvidia 的集成战略增强了其控制力,但也让更多财务表现与同一轮 AI 投资周期相连。

该公司 2026 财年的数据展现出极高的集中度。数据中心业务贡献了近 90% 的年度收入,而 Compute and Networking 贡献了大部分营业收入。

这种集中度使 Nvidia 与相对少数云服务商和科技公司的资本支出紧密相连。其年度申报文件将客户集中度列为重大风险。

需求可以保持高位,但增长会变得更难维持。客户必须先获得电力、土地、许可、冷却设备和网络容量,才能安装更多 AI 系统。

电力限制尤其重要。如果数据中心无法为机架供电,更快的加速器价值也有限。Nvidia 日益通过系统效率主张来应对这一问题,但基础设施建设仍不在其直接控制范围内。

Nvidia 的平台过渡同样存在执行风险。Blackwell 系统引入了比早期 GPU 服务器更复杂的机架级设计。完整系统要求处理器、内存、交换机、线缆、网络设备、供电和冷却同时到位。

任何一个组件的短缺或缺陷,都可能拖延整个机架的收入确认。系统集成让 Nvidia 对性能拥有更多控制力,却也增加了其必须管理的运营依赖项。

出口限制带来了另一项弱点。Nvidia 在 2026 财年因 H20 库存和采购义务确认了 45 亿美元费用。这项费用发生在影响对中国出货的新限制出台之后。

这一事件表明,即使产品需求强劲,政策也可能造成中断。Nvidia 可以设计合规处理器,但监管机构可以调整性能限制或许可要求。

中国还带来竞争风险。限制措施会鼓励当地客户和政府支持国内替代方案。因此,对 Nvidia 销售的短期限制可能加速对竞争性硬件和软件的长期投资。

软件护城河也面临自身挑战。当 Nvidia 的性能和可用性足以证明其合理性时,客户会容忍切换成本。如果成本、供应或政策令依赖关系变得痛苦,他们会更积极地投入迁移。

开源框架可以逐步减少针对特定硬件的工作。编译器改进可以自动完成优化,而模型开发者可以从一开始就围绕多个后端设计工作负载。

云服务商还有另一项优势:它们可以将硬件选择隐藏在服务接口之后。客户可能使用托管模型,却不知道每次请求究竟由 Nvidia GPUs、Google TPUs 还是 Amazon 加速器执行。

Nvidia 也在为 Rubin 提出雄心勃勃的性能主张。该公司表示,在某些配置下,该平台可实现每瓦推理吞吐量最高提升十倍。

这些比较使用的是 Nvidia 选定的工作负载、系统假设和上一代基准。实际结果将随模型架构、精度、批量大小、网络设计和软件成熟度而变化。

因此,这些主张应被视为路线图目标,而非普遍适用的结果。独立基准测试和客户部署将决定这些提升能否在受控配置之外成立。

财务规模并不能消除这些不确定性。它只会放大任何支出放缓、过渡延迟或客户替代所带来的后果。

Nvidia 的优势是真实存在的,因为各部分彼此强化。同样的相互依赖也意味着,供应、政策、能源或软件采用中的任何弱点,都可能同时影响业务的多个部分。

三个信号将检验 Nvidia 的 AI Factory 战略

下一阶段将由 Rubin 的部署、网络业务增长,以及转向替代加速器的生产流量规模决定。

第一个信号是 Rubin 的生产部署。Nvidia 描述了一个协同系统,其中包含 CPUs、GPUs、交换机、网络适配器、数据处理单元和 Ethernet 设备。

仅仅出货单颗芯片还不够。客户必须安装完整系统、实现稳定利用率,并在训练或推理经济性上展示可衡量的改进。

云服务商的早期部署将揭示 Nvidia 的协同设计能否减少运营工作。涉及供电、冷却、网络或软件的延迟,将削弱全栈论点。

最有力的证据将来自客户实际运行系统后的重复订单。初始采购可能反映供给稀缺或战略承诺。扩容订单则表明生产性能达到预期。

第二个信号是 Data Center 网络收入。2026 财年网络销售额增长远快于计算收入,这使该类别成为衡量 Nvidia 影响力是否超越 GPUs 的直接指标。

持续增长将表明客户正将 Nvidia 的网络架构与其加速器一同采用。这也意味着机架级计算正在提高互连的经济价值。

放缓则需要审慎解读。它可能反映部署节奏、组件供应、客户使用竞争性 Ethernet 产品,或 AI 基础设施建设更广泛的暂停。

NVLink、InfiniBand 和 Spectrum-X 之间的结构将与总量同样重要。专有 NVLink 的采用会加深 Nvidia 的集成,而 Ethernet 的增长则显示 Nvidia 能否在更标准化的市场中竞争。

第三个信号是替代加速器的生产采用情况。仅有公告透露的信息有限,因为客户常常会在分配重要工作负载之前测试多项技术。

应关注云服务商是否报告大规模内部使用 Trainium、Inferentia 或 TPUs。也应关注独立软件公司是否在无需大量定制工程的情况下部署 AMD 系统。

迁移速度将至关重要。如果团队能够在常规开发周期内将模型在不同架构间迁移,Nvidia 软件的切换成本将被削弱。

如果替代方案仍局限于严格受控的工作负载,Nvidia 更广泛的平台优势将保持完整。专用芯片可以增长,而无需取代新 AI 项目的默认环境。

这些信号比又一项孤立基准测试更重要。当客户将其系统架构视为从模型构想到可靠生产的最短路径时,Nvidia 的战略便会成功。

当买方能够用可替换组件组装出可比系统时,这一战略便会被削弱。竞争将重新转向处理器性能、可用性和运营成本。

对开发者而言,实际问题在于代码和运营知识能否保持可移植性。支持多个后端可以保留灵活性,但也会消耗工程时间。

企业买方应在承诺大规模部署前审视依赖关系。他们需要识别未来迁移时哪些库、网络设计和管理工具需要替换。

知识工作者和 AI 用户将间接受到结果影响。基础设施经济性会影响模型可用性、延迟、使用限制,以及新能力进入产品的速度。

下一条 Google News 标题可能仍会聚焦另一款 GPU、基准测试或市场里程碑。读者应透过标题,看清该公告附带的网络、软件和系统承诺。

Nvidia 的力量之所以超越 GPU 芯片,是因为每一层都解决了前一层带来的问题。CUDA 让加速器可编程。库让它们变得实用。网络让它们能够扩展。完整系统让它们得以部署。

剩下的问题是,客户是否会继续将这种集成能力视为一项优势。关注其部署情况、网络业务营收,以及流出 Nvidia 的工作负载。这些信号将表明,AI 工厂究竟会成为持久的行业标准,还是计算领域下一轮周期中一段昂贵的发展阶段。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page