华为情报显示,为何 Nvidia 仍主导中国 AI 训练
- Sophie Larsen

- 8月11日
- 讀畢需時 14 分鐘
来自中国主要 AI 实验室的华为情报指向一个顽固矛盾:据报道,Nvidia 芯片仍是它们训练大语言模型时的常规选择。
尽管多年来面临出口限制、国产化采购压力,以及 Huawei Ascend 处理器的快速改进,这种偏好依然存在。眼前的障碍不仅是计算性能,还包括将生产级训练代码从 Nvidia 的 CUDA 平台迁移至 Huawei CANN 软件所需的工作量。
这一差异改变了中国 AI 芯片竞赛的含义。Huawei 可以赢得硬件订单,并支撑更多推理工作负载,而 Nvidia 仍深度嵌入模型开发环节。因此,这场竞争是基于 CUDA 的训练与国产 CANN 替代方案之间的竞争,而不只是两种处理器规格之间的较量。
中国 AI 实验室仍围绕 Nvidia 构建最大模型
最新报道显示,尽管 Huawei 在中国 AI 基础设施的其他领域不断推进,Nvidia 仍是默认的训练平台。
根据原始报道,中国主要大语言模型开发商的消息人士表示,Nvidia 芯片仍是高级训练的常规选择。将既有项目迁移至 Huawei 硬件,需要为 CANN 进行大规模重写。
CUDA 是 Compute Unified Device Architecture 的缩写,即 Nvidia 用于在其处理器上运行并行工作负载的编程平台。CANN 即 Compute Architecture for Neural Networks,是 Huawei Ascend 处理器对应的软件栈。
这两个平台都将 AI 框架与加速器硬件连接起来。然而,它们并不能为每个内核、库、通信操作或调试工作流提供可互换的执行环境。
这之所以重要,是因为前沿模型训练并不是把一个应用复制到另一台服务器上。它汇集了数千个经过多年开发、测试和优化的软件组件。
训练团队可能在技术栈顶层使用 PyTorch。在这一熟悉框架之下,则是自定义 CUDA 内核、集合通信库、内存管理例程、性能分析工具以及针对硬件的优化。
将这些工作负载迁移到 CANN,意味着必须检查每一层。未受支持的操作需要替换、重写,或通过兼容工具进行处理。随后,工程师还需要验证大规模运行时的数值表现、性能、内存消耗和稳定性。
据报道,这种偏好并不意味着中国实验室拒绝 Huawei。它表明,实验室会将训练决策与其他硬件决策区分开来。
训练通过在大型加速器集群中处理海量数据来生成模型。推理则是在训练完成后,利用成品模型响应请求。
推理工作负载通常更易迁移,因为其范围更窄、可预测性更强。团队可以针对固定模型进行优化,而无需在研究过程中反复改变其架构。
训练的容错空间更小。一次长期分布式运行中的故障可能浪费大量计算时间,而细微的数值错误则可能损害最终模型。
因此,中国实验室有充分的实际理由,在最昂贵的实验中保留经验证的平台。工程师已经熟悉 CUDA 的故障模式、性能工具和优化方法。
这一决定更多体现的是运营风险管理,而非品牌忠诚。面临模型发布期限的实验室,通常会选择最有可能完成训练任务的环境。
这一偏好也解释了为何仅凭硬件销量无法完整衡量这场竞争。Huawei 可以获得加速器需求,却未必能立即在最困难的开发工作流中取代 Nvidia。
中国芯片市场已显示出这种分化。Bernstein 估计,2025 年 Nvidia 与 Huawei 各自约占中国 AI 芯片市场的 40%。
Bernstein 预计,Huawei 的份额将在 2026 年接近 50%,而 Nvidia 的份额可能降至约 8%。这些估计描述的是整体市场变化,并不一定反映前沿训练的采用情况。
这种表面上的矛盾正是故事的核心。Nvidia 可以失去广泛的市场份额,同时仍在创造领先模型的工作负载中保有超出其份额的影响力。
为何华为情报总是指向 CUDA
有关迁移摩擦的华为情报表明,Nvidia 最强的防线是长期积累的软件,而不是某一代更快的硅片。
CUDA 自 2006 年起便已存在。在此期间,Nvidia 建立了面向线性代数、神经网络、分布式通信、数据处理和性能分析的库。
开发者也创建了自己的 CUDA 扩展。研究代码库、模型实现和优化指南通常默认能够使用 Nvidia 硬件。
这些积累的代码形成了网络效应。更多 CUDA 用户会产出更多经过测试的软件,进而让 CUDA 对下一个采用它的团队更具价值。
Huawei 的起点不同。CANN 必须支持 Ascend 硬件,同时满足多年 CUDA 开发所形成的预期。
挑战不止是翻译函数名称。围绕 Nvidia 处理器内存层级设计的内核,在 Ascend 神经网络处理器上的表现可能不同。
集合通信带来了另一项障碍。大型模型会将参数和数据分布在数百或数千个加速器上,训练过程中这些加速器持续交换信息。
微小的通信延迟会在集群中不断累积。一个能在单个处理器上正确运行的迁移版本,扩展到多台机器时可能变得低效或不稳定。
工程师还必须替换监控与调试实践。围绕 CUDA 构建的性能分析器,无法自动以同样的细节或熟悉的界面呈现每一个 CANN 瓶颈。
MERICS 于 2025 年发布的一份 AI 技术栈评估将 CUDA 的可移植性描述为 Nvidia 的一项主要优势。报告发现,将既有模型切换到非 Nvidia 硬件的成本仍然很高。
报告还提到对 CANN 成熟度、崩溃、恢复能力,以及不同 Ascend 系统之间兼容性的担忧。这些结论早于 Huawei 最新的软件和硬件发布,因此不能作为当前基准。
但它们仍具有参考价值,因为指出了 Huawei 必须克服的工程债务类型。新处理器并不会自动消除代码迁移、文档或可靠性问题。
Huawei 已作出直接回应。2025 年 8 月,该公司宣布将把 CANN 的关键部分开源,并邀请高校、企业和开发者参与贡献。
这项 CANN 计划瞄准了 CUDA 的一项优势:庞大的社区能够发现错误并扩展硬件支持。
开放代码可以加速开发并提高透明度。但它无法立即复制围绕 CUDA 所形成的库覆盖范围、开发者体验和机构知识。
这一滞后对自定义内核尤为重要。前沿实验室越来越多地编写专用操作,以减少内存使用或提升训练效率。
这些操作通常编码了对 CUDA 和 Nvidia 架构的假设。自动转换或许能提供起点,但成功编译并不保证速度或稳定性对等。
工程师仍需对结果进行性能分析、检查数值精度,并针对不同硬件进行调优。这一过程会直接与模型研究争夺稀缺的专业人才时间。
因此,实验室必须比较两种成本:一种是继续依赖受限制的外国硬件,另一种是建立原生国产技术栈所需的延迟和工程投入。
当第二种成本看起来高于第一种时,CUDA 就会胜出。随着获取风险上升或迁移工具降低这一成本,CANN 会变得更具吸引力。
Huawei Ascend 在推理上的进展快于训练
Huawei 最可信的绕开 Nvidia 的路径始于推理:与实验性训练任务相比,固定模型提供了更易管理的目标。
Huawei 同时改进了处理器和连接它们的系统。其策略是连接大量 Ascend 加速器,以弥补单颗芯片所受的限制。
这种系统级方法很重要。现代 AI 性能取决于内存、网络、调度与软件的协同,而不只是处理器标称的吞吐量。
Huawei 还可以针对广泛部署的模型优化推理。一旦开发者固定了模型架构,工程师便能研究其重复操作,并为 Ascend 进行调优。
DeepSeek 提供了这种区别的一个直观案例。其 V4 版本至少在部分部署中支持 Huawei 处理器,降低了对美国供应商的排他性依赖。
然而,支持推理并不能证明该模型完全在 Huawei 硬件上训练。公开的硬件使用说明往往会模糊这两个阶段。
这种区分对买家很重要。提供商可以先在 Nvidia 硬件上训练一次模型,随后通过国产加速器服务数百万次请求。
这种安排降低了运营依赖,却不必把最具不确定性的研究训练任务放到较新的平台上。它也为 Huawei 带来可持续的生产工作负载,从而改进 CANN。
每次部署都会为工程师提供错误报告、性能追踪数据和兼容性要求。这些经验可逐步强化满足更高要求训练所需的软件。
最新研究既显示了进展,也揭示了仍然存在的复杂性。2026 年 7 月的一项 Ascend 实地研究考察了在 16 设备 Ascend 910 系统上运行的大型混合专家模型和多模态推理工作负载。
混合专家模型会针对每个输入激活选定的参数组,在增加路由复杂度的同时减少计算量。多模态模型则处理文本和图像等组合。
研究人员聚焦于在 CUDA 之外服务这些高要求工作负载的工程成本。他们将迁移视为一个运营问题,而不是根据理论性能就假定硬件兼容。
Huawei 在推理方面的进展仍会对 Nvidia 形成压力。模型投入生产后,推理会带来持续性需求,而训练采购可能集中在少数周期内出现。
在 Ascend 上处理推理的提供商,会积累使用 Huawei 工具和集群设计的经验。这些经验会降低后续后训练或完整训练项目的门槛。
后训练通过微调、偏好学习或强化学习来调整既有模型。与从头构建基础模型相比,它所需的算力通常更少。
这使后训练成为一条可能的过渡路径。团队可以先将有明确边界的工作负载迁移到 Ascend,再承担完整预训练项目的风险。
因此,有关大规模 Ascend 后训练集群的报道应当受到认真对待。但不应将其视为 CANN 已在所有前沿训练任务上实现对等的证据。
一次成功的受控工作负载测试,只能验证某一特定模型、集群和软件版本。研究实验室持续调整架构、精度格式、并行策略和自定义算子。
Nvidia 的优势部分在于,它能吸收这些变化,而不迫使团队重建其环境。Huawei 必须在多家相互独立的实验室中展现出类似的灵活性。
目前,市场正在分层。Huawei 在国内采购、推理以及部分后训练项目中正变得更具竞争力。
Nvidia 仍在开放式训练工作中占据优势,而这类工作决定着下一代模型的诞生。与全面主导市场相比,这一地位更为有限,但仍具有重要战略价值。
真正的转换成本是损失的研究时间
重写代码代价高昂,但更大的风险在于,实验周期被拖慢,进而影响 AI 实验室能否保持竞争力。
前沿模型团队不会只运行一次最终训练任务。他们会进行小规模实验、测试架构变化、调整数据配比,并测量扩展行为。
每次实验都会影响下一次实验。这个循环的速度,可能与获得规模更大的理论算力资源同样重要。
迁移会打断这一循环。原本负责改进模型的工程师,必须转而检查算子、重建内核,并诊断陌生的集群故障。
团队可以聘请专门的基础设施专家,但这类人才依然稀缺。他们还需要与模型研究人员保持紧密协作,因为性能问题往往跨越组织边界。
机会成本很难衡量。一次迁移表面上或许成功了,却可能在不知不觉中减少了团队在发布截止日期前完成的实验数量。
这项风险有助于解释报道中提到的、对放弃 CUDA 的抵触情绪。AI 实验室不会把处理器当成可以互换的办公设备来评估。
硬件决定了哪些软件能够运行、故障能够多快被诊断,以及研究代码能够多容易地转化为可靠的分布式工作负载。
采购压力可以推动实验室转向国产系统,但无法消除错过实验或训练运行失败的成本。
对于试图追赶 OpenAI、Anthropic、Google、Meta 和其他资金雄厚开发者所打造模型的中国实验室而言,这种压力尤为强烈。
它们的竞争对手已经运行着大型 Nvidia 集群,并可使用同样以 CUDA 为中心的研究生态系统。即使迁移提高了供应独立性,更慢的迁移周期也会扩大研发差距。
这让中国 AI 公司面临一个棘手选择。Nvidia 硬件带来监管、进口和供应连续性风险;Huawei 硬件则带来软件迁移和执行风险。
两种选择都无法提供确定性。出口许可证可能变化,海关审批可能停滞,国内采购政策也可能收紧。
与此同时,CANN 的发布可能引入新能力或兼容性变化。实验室必须决定是现在承受迁移工作,还是继续面临未来访问限制的风险。
团队可能会通过支持两套技术栈来应对。他们可以将 CUDA 保留用于关键训练,同时将推理和部分工作负载迁移至 Ascend。
双栈策略提供了灵活性,但并非没有成本。工程师必须维护不同的内核、测试流程、容器镜像和性能基线。
模型变化之后,还需要在两套系统上进行验证。文档维护和事件响应也会变得更加复杂。
Alibaba 一直在探索混合及替代硬件方案,其他中国芯片厂商则在推广兼容层。这些努力从不同方向应对转换难题。
兼容层能够让面向 CUDA 的代码以更少的源码改动运行在另一种处理器上。不过,它必须跟进 Nvidia 的更新,并高效地转换行为。
Huawei 的原生 CANN 策略对 Ascend 优化拥有更强的控制力。但对于围绕 CUDA 构建系统的团队而言,这要求更多适配工作。
两条路径都不能保证立即实现替代。兼容层可以减少重写工作,却可能牺牲性能或覆盖范围;原生迁移则可能改善优化效果,同时增加工程工作量。
管理复杂技术迁移的组织需要可检索的实验、故障和决策记录。结构化的工程知识库可以在基础设施和研究团队之间保留这些背景信息。
文档无法消除平台差异,但当团队重新处理相同的内核、配置或数值偏差时,它能减少重复排查。
因此,决定性指标并不只是芯片出货量,而是复现一条可用训练流水线并恢复其原有研发速度所需的时间。
Huawei 情报叙事仍无法证明什么
有关 CUDA 偏好的报道具有可信度,但匿名消息来源和有限披露使人无法对每一家中国实验室或每一种工作负载得出确定结论。
大型 AI 公司很少公开其训练硬件的完整清单。它们也会避免披露详细的集群配置、采购安排和基础设施弱点。
这种保密既有商业原因,也有政治原因。硬件获取情况可能暴露模型能力、运营限制,或受到出口管制审查的潜在风险。
因此,最新的 Huawei 情报应被视为广泛偏好的证据,而不是完整普查。不同实验室可能会采用自有芯片、云资源和海外基础设施的不同组合。
定义同样重要。一家公司可以表示某个模型支持 Ascend,却不说明预训练在哪里进行。
它可以将 Huawei 芯片用于推理、后训练、评估,或混合工作流的一部分。这些用途都不能证明整个基础模型是通过 CANN 训练的。
反过来,在 Nvidia 上训练也不意味着 Huawei 已经失败。这可能反映出更早采购的硬件、临近的临时截止期限,或有意规划的过渡方案。
公开的市场份额估计也带来另一种混淆来源。它们混合了不同类别的芯片、客户和应用场景。
为政府推理基础设施采购的处理器,并不能替代私营前沿模型训练集群中的 Nvidia 加速器。两者仍都会被计入 AI 芯片需求。
报道中的出货数字也几乎无法说明利用率。与遭遇宕机或扩展效果不佳的大型部署相比,拥有更好软件的成熟集群可能完成更多有价值的工作。
因此,Huawei 的进展必须通过可复现的工作负载证据来评判。有价值的证明包括训练完成率、集群正常运行时间、扩展效率以及开发者迁移时间。
单纯的硬件基准测试仍然不够。处理器可能在孤立操作中表现良好,却难以应对分布在大型集群上的、不断演进的模型。
还存在将比较固化在过去的风险。CANN 一直在持续发展,开源参与也可能让其工具链的改进速度快于历史评估所暗示的水平。
自动化内核生成方面的研究也可能降低迁移成本。CANN Bench 项目根据真实 Ascend 硬件和算法限制,评估 AI 生成的算子代码。
如果 AI 系统能够可靠地翻译和优化加速器代码,Nvidia 的软件护城河就不再那么绝对。关键在于“可靠”。
生成的内核仍必须通过正确性测试、处理特殊形状,并在不同软件版本之间保持稳定。它们还需要实现接近经过精细调优的原生实现的性能。
自动化工具可以降低重写的第一阶段成本,而无需消除验证工作。仅此一点,就足以改变迁移的经济性。
另一个不确定因素是 Nvidia 未来进入中国市场的渠道。北京的政策可能会倾向国产硬件,同时容许为训练瓶颈引进部分产品。
美国也可能调整 Nvidia 可出口的产品范围。这些决策会独立于 Huawei 的技术进展,改变采用 CANN 的紧迫性。
Nvidia 也面临自身的战略张力。持续销售可以维持 CUDA 的采用,而限制则会鼓励客户和政府资助替代方案。
Jensen Huang 曾多次表示,排除美国技术会加速外国竞争对手的发展。他的担忧反映了中国实验室中可见的同样软件动态。
每一次 CUDA 部署都可能巩固 Nvidia 的开发者基础。每一块无法获得的加速器,都会给 Huawei 又一次部署 Ascend 硬件、并通过生产使用改进 CANN 的机会。
证据支持一个谨慎的结论:对于领先的训练工作负载而言,Nvidia 似乎仍难以替代,但其地位依赖于持续的供应可得性以及持续的软件优势。
三个信号将显示 CANN 能否打破 CUDA 对训练的束缚
下一阶段将由可验证的训练部署、可量化的迁移时间,以及对 Nvidia 硬件的持续获取决定。
第一个信号,是披露一项主要由 Ascend 处理器完成的前沿规模预训练任务。披露内容应明确区分基础模型训练、推理和后训练。
可信的案例应包括处理器代际、集群规模、软件版本、训练时长和扩展行为。独立技术细节比发布声明更重要。
这样的结果将加强以下观点:CANN 能够支持快速变化的研究工作负载。来自无关联实验室的重复结果将更具分量。
单次成功运行并不能证明全面对等。它只能表明,Huawei 至少已在一种高要求配置上跨越了重要的运营门槛。
第二个信号,是 CUDA 到 CANN 的迁移时间出现可衡量的缩短。Huawei 及其合作伙伴需要证明,成熟项目能够迁移,而无需数月的专家工作。
有用的指标包括更广泛的 PyTorch 算子覆盖、可靠的内核转换、更强的性能分析工具,以及 CANN 各版本间的稳定升级。
开发者还会关注从分布式故障中恢复的能力。能够安全恢复长时间训练任务的集群,所保护的价值可能远高于仅发布更高孤立基准成绩的集群。
开源活动可以提供早期证据。更多外部贡献者、更快的问题解决速度和更广泛的框架支持,将表明 CANN 正在超越由供应商控制的工具链。
第三个信号,是 Nvidia 加速器在中国境内的实际可获得性。宣布出口许可并不一定意味着已交付且可用的集群。
Associated Press 报道称,尽管此前曾讨论潜在准入,但截至 2026 年 6 月下旬,Nvidia 尚未在中国获得 H200 收入。北京的采购立场仍不明确。
如果 Nvidia 的交付持续受阻,中国实验室将更有动力承受迁移成本。Huawei 可能获得通过实践改进 CANN 所需的工作负载。
如果交付在有意义的规模上恢复,实验室就可以保留基于 CUDA 的训练,同时有选择地采用 Ascend。这一结果会削弱立即进行全栈迁移的理由。
因此,两家供应商面临不同考验。Nvidia 必须让其硬件保持足够可获得,使 CUDA 的软件优势能够发挥作用。
Huawei 则必须将政治和采购支持转化为一个研发环境,让研究人员愿意把最昂贵的训练任务托付给它。
对开发者而言,务实的教训是:在评估加速器替代方案之前,应先审视软件依赖。内核覆盖、通信库、可观测性和故障恢复的重要性,可能超过纸面性能。
企业买家也应询问,AI 工作负载的哪个阶段将在各个平台上运行。训练、后训练和推理会带来不同的迁移风险。
对于 AI 用户而言,最终结果将影响模型可用性、服务能力以及新版本的发布节奏。它也可能催生围绕不同硬件优化的区域性技术栈。
目前有关 Huawei 的信息并不表明中国的国产 AI 硬件战略已经停滞。它表明,硬件替代与软件替代的推进速度并不相同。
Huawei 正在获得更多部署、推理经验,并在国内扮演更重要的角色。当研究团队选择能够保障其开发周期的平台时,Nvidia 仍将从中受益。
决定性问题已不再是 Ascend 处理器能否运行大模型,而是 CANN 能否让实验室快速、反复且可靠地调整这些模型。
关注下一次公开披露的训练任务、下一次重要的 CANN 发布,以及下一批得到确认的 Nvidia 交付。这些信号结合起来,将显示 CUDA 是否仍是中国的默认选择,还是会成为一座临时桥梁。


