Pat Gelsinger 对 GPU 的批评揭示了 AI 硬件的真正问题

Pat Gelsinger 曾因主张某些工作负载在 GPU 上运行效果不佳而登上 Google News 的直白标题，尽管 GPU 在人工智能领域占据主导地位。这位前 Intel 掌门人并未断言 GPU 计算毫无用处。他质疑的是：是否应由一种处理器架构承担日益复杂的 AI 系统中的每一个环节。

这一差别改变了故事的重点。Gelsinger 肯定了 Nvidia 在训练领域的进展，同时质疑通用 GPU 基础设施是否能以可负担的成本支撑超大规模推理。推理是指用户每次请求答案、图像、预测或操作时，运行已训练模型的过程。

他的批评也包含了对 Intel 的一项令人不安的承认：当 CPU 仍主导数据中心时，该公司低估了 Nvidia 的 GPU 战略。随后，Nvidia 构建了 CUDA，培育了开发者生态，并将并行处理变成现代 AI 训练的基础。

如今，争论已不再局限于 Intel 与 Nvidia 之间。它关乎 GPU 与异构计算之争：CPU、GPU、网络处理器和专用加速器根据各自优势分担工作。

耐人寻味的反转在于，Nvidia 似乎接受了这一系统层面的前提。其最新平台将 GPU 与定制 CPU、网络芯片、数据处理单元以及面向推理的技术结合起来。争议在于谁能最高效地组装这套组合，而不是 GPU 是否会突然消失。

Google News 的标题遗漏了 Gelsinger 的真正论点

Gelsinger 批评的是“只用 GPU”的思维，而不是所有 GPU 或所有 AI 工作负载。

“GPUs suck”这一标题用语将一场更长的技术讨论压缩成了绝对判断。他的实际评论更具体，也更能为数据中心采购方提供参考。

在一场详细的 Gelsinger interview 中，半导体分析师 Ian Cutress 询问了不断增加的计算架构类型。Gelsinger 认为，应由工作负载决定所采用的架构。

他说，当问题包含大量并行计算时，GPU 的表现极为出色。现代 AI 训练正符合这种模式，因为处理器需要反复对大量数据元素执行矩阵运算。

不过，控制流操作的表现不同。这类操作包括条件分支、编排、工具执行、操作系统功能，以及路径较难预测的分析任务。

Gelsinger 给出了一个刻意挑衅的表述：“有些东西在 GPU 上跑得糟透了。”随后，他指出，基本的 if-then-else 逻辑与长 GPU 流水线并不匹配。

这并不等于说所有 GPU 都不好。它的意思是，为并行吞吐量而设计的架构，在工作负载反复分支、暂停或改变方向时会失去效率。

智能体 AI 让这种差别更加明显。一个 AI 智能体可能调用数据库、执行代码、检查结果、选择另一项工具，再更新自己的计划。只有其中部分步骤涉及适合 GPU 的密集矩阵计算。

其余步骤依然会消耗处理器时间、内存带宽、网络容量和能源。GPU 可以执行其中许多任务，但技术上的兼容性并不保证经济效率。

Gelsinger 将他偏好的模式称为“计算三位一体”。传统处理器负责面向控制的工作，AI 加速器负责数据密集型算法，而量子机器最终将处理超出经典计算实际能力范围的特定问题。

量子部分对于日常 AI 基础设施而言仍具推测性。CPU 与加速器的分工则已可见于已交付和已公布的数据中心系统中。

因此，Google News 的表述适合作为起点，却不足以作为结论。Gelsinger 质疑的是行业的部署模式，而非否认推动当前 AI 热潮的那种架构。

他的论点还区分了训练与推理。训练通过处理大型数据集来创建或更新模型。推理则将训练完成的模型应用于实时请求。

GPU 在两个阶段仍都处于核心地位。但推理带来了不同的优先事项，包括响应时间、每个 token 的成本、功耗、内存容量和可预测的服务水平。

inference chip market 已包含 AMD、Intel、Cerebras、Groq、d-Matrix 以及其他专业厂商。它们的机会来自针对这些优先事项进行优化，而不是复刻 Nvidia 的整套训练平台。

Gelsinger 的措辞听起来很绝对，但他的技术立场实际上取决于具体工作负载。

为什么 AI 推理芯片让数据中心经济性承压

硬件争论如今聚焦于使用 AI 的持续成本，而不只是训练 AI 的惊人成本。

一个模型可能只会经历有限次数的大规模训练。之后，它可以服务数十亿条提示、搜索请求、生成图像、智能体操作和企业内部请求。

每项请求都会增加推理工作量。能力更强的推理模型，可能在给出答案前经历多个处理阶段。智能体则会因调用工具和修订计划而增加更多步骤。

这种模式将关注点从训练性能峰值转向每单位有效输出的成本。数据中心运营商必须考虑，一个系统每瓦、每台服务器、每个机架和每单位资本能提供多少 token。

Gelsinger 曾表示，推理效率必须提升 10,000 倍，才能接近搜索和大规模智能体应用所需的规模。他承认，这个数字是基于算力、能源和成本假设的估算。

这并不是经独立验证的行业需求。因此，它应被视为对挑战规模的描述，而不是经过验证的基准。

但底层压力依然真实存在。一款实用的企业智能体，不能在每次文档查找、软件任务或客户互动上消耗无限算力。

延迟同样重要。即使模型能快速生成大量 token，如果周边系统还在等待数据库、网络传输、安全检查或应用程序代码，用户依然会感觉响应缓慢。

这正是 GPU 利用率变得重要的地方。昂贵的加速器只有在处理适合的工作时才能创造价值；当它们因数据移动或等待串行任务而停滞时，就会成为经济负担。

AI 推理芯片试图通过更专门化的设计改善这一局面。有些将更多内存置于更接近计算的位置；另一些采用数据流架构、更低数值精度、确定性执行方式，或针对特定模型定制的软件。

这些方案都伴随着取舍。专用芯片可能在选定工作负载上胜过 GPU，却支持更少的模型、库或部署工具。

集成也可能抹去理论上的节省。企业需要监控、安全、编排、模型支持，以及理解该平台的工程师。

这也是 Nvidia 的软件优势仍如此重要的原因之一。CUDA 为开发者提供成熟的编程环境，而 Nvidia 的库覆盖模型训练、推理、网络和数据处理。

竞争对手并不会仅凭发布一份有利的芯片基准测试便获胜。它还必须提供客户能够安装、编程、运营和更新的可靠系统。

推理经济性也因应用而异。交互式聊天需要低延迟；离线文档处理可优先考虑吞吐量；视频生成对内存和计算模式的要求则不同于推荐系统。

批量大小也会改变结果。服务大量并发请求的提供商，能够比规模较小的企业部署更充分地利用大型加速器。

这种差异性削弱了“GPU 天生过于昂贵”的一概而论。它强化了 Gelsinger 更狭义的主张：架构选择应从工作负载出发。

影响范围超出了芯片厂商。云服务提供商必须决定购买哪些处理器以及如何定价。软件公司则必须在可移植性与针对特定硬件的优化之间作出选择。

企业买家还面临另一个问题：他们可以租用算力、运营私有基础设施，或采用掩盖底层硬件的托管模型服务。

正确选择取决于利用率、数据控制、延迟和人员配置。一个流行的处理器名称无法决定这些需求。

Google 早在当前生成式 AI 周期之前就认识到了这一区别。其最初的 Tensor Processing Unit 采用领域专用设计，面向神经网络工作负载。

Google 更新的 Ironwood TPU 明确定位于推理和大型推理模型。该产品为 Gelsinger 的论点提供了另一项检验。

因此，市场正转向多种类型的加速器。难点在于让它们像一个可靠的计算环境一样协同工作。

Nvidia 的 CPU 战略支持异构计算的论点

Nvidia 对 GPU 局限性的回应并不是放弃 GPU，而是以专用处理器和紧密集成的软件将其包围。

这一战略体现在 Vera 上——这是 Nvidia 面向智能体工作负载的定制 CPU。该公司表示，Vera 负责处理 AI 加速器周边的编排、分析、数据处理及其他受 CPU 限制的工作。

Vera 包含 88 个由 Nvidia 设计的 Olympus 核心，以及 LPDDR5X 内存子系统。Nvidia 表示，该处理器可提供最高每秒 1.2 太字节的内存带宽。

该 CPU 通过 NVLink-C2C 连接 Rubin GPU。Nvidia 称，该连接可提供最高每秒 1.8 太字节的一致性带宽。

这些是公司规格说明，并非独立性能结果。不过，这一架构很重要，因为它展现了 Nvidia 如何定义问题。

该公司不再将 GPU 作为孤立组件出售。它描述的是一个加速计算平台，其中包含 CPU、GPU、网络、存储处理器、交换机、库以及机架级设计。

Nvidia 的 Vera CPU announcement 表示，该处理器面向 Python 运行时、沙箱代码、分析和智能体编排。这些恰恰是 Gelsinger 批评背后的分支型工作负载。

这种重叠构成了本文最核心的反转：Gelsinger 抨击 GPU 的局限性，而 Nvidia 则大力投资于弥补这些局限性所需的组件。

Nvidia 并未将这项投资描述为退却。它将 CPU-GPU 集成定位为加速计算的延伸。

在 Nvidia 2026 年 3 月举行的 GTC 大会后，Gelsinger 得出了类似结论。在一段 Reuters footage 中，他称 CPU-GPU 连接对系统设计至关重要。

他还肯定了 Nvidia 的技术展示，同时警告该公司仍需兑现交付承诺。这种反应比病毒式传播的标题所暗示的更加平衡。

Nvidia 的地位因其对周边平台的掌控而更加强势。它能够协调处理器设计、NVLink、网络、软件库和完整机架。

这种协同可以降低通信开销并简化部署，同时也会加深客户对单一供应商架构的依赖。

这一平台战略为竞争对手设下了难以攻克的目标。竞争芯片或许能提供更高的每瓦性能，却缺乏同等水平的网络或软件支持。

Nvidia 还可以同时改善多个层面的经济效益。更快的互连可以在不改变 GPU 算术单元的情况下提升 GPU 利用率。

软件优化可以减少内存使用。新的数值格式可以提高吞吐量。专用推理处理器则可以处理不适合传统 GPU 的工作负载。

这意味着 Pat Gelsinger 对 GPU 的批评并不必然预示 Nvidia 的衰落。Nvidia 可以通过改变“Nvidia 系统”的定义来应对。

该公司已经将自己描述为加速计算平台，而非仅仅是一家 GPU 制造商。其硬件路线图也支持这一定位。

客户仍应针对自身应用验证这些说法。高度集成的平台可以在大规模场景下高效运行，但对于较小规模的部署而言可能显得过度。

它也可能带来运营层面的集中风险。影响某一家供应商硬件进度、网络层或软件栈的问题，都可能波及整个系统。

不过，当客户优先考虑部署速度时，集成化会带来明确的商业优势。买方往往愿意接受一定程度的锁定，以避免自行整合多个尚不成熟的组件。

因此，眼下的竞争并非 GPU 对 CPU，而是 Nvidia 的集成平台对由多家供应商处理器构成的更开放组合。

Intel 面临对 Gelsinger 论点的最严峻考验

Intel 认同以工作负载为先的观点，但它必须证明客户需要的是其特定的 CPU、GPU、网络和软件组合。

Gelsinger 的分析之所以格外有分量，是因为 Intel 曾在数据中心计算领域占据最强势的地位。但这也为其带来了额外包袱。

Intel 低估了 Nvidia GPU 和开发者平台的长期作用。其自身的 AI 加速器项目一直难以建立起相当规模的采用度。

这段历史使 Gelsinger 既是一位了解内情的批评者，也是一位利益相关者。他如今通过风险投资和顾问活动与科技公司合作。

他投资组合中的一些公司专注于数据流计算、网络韧性、光连接及其他替代传统架构的方案。读者在评估他的热情时应考虑这一背景。

尽管如此，Intel 当前的战略仍遵循相同的系统逻辑。该公司强调 CPU 是智能体 AI 的控制平面，同时在开发面向推理的新型数据中心 GPU。

Crescent Island 面向企业推理设计，而不是直接复刻规模最大的训练系统。Intel 表示，它将采用 Xe3P 架构，并配备 160GB LPDDR5X 内存。

该公司称，这款 GPU 适用于风冷服务器。它还表示，该设计瞄准内存容量、带宽、能效以及常见推理数据类型。

Intel 预计将在 2026 年下半年向客户提供样品。在这些样品产生独立测试结果之前，Crescent Island 仍只是一组设计目标。

官方 Crescent Island 路线图 展现了机会与风险。Intel 正在解决一个已被广泛认可的问题，但许多竞争者也看到了同样的窗口。

大型内存池有助于运行较大的模型，但并不能证明软件兼容性、实际应用吞吐量、可靠性或总体运营成本具备优势。

Intel 还必须说明开发者如何将工作负载迁移到这一新平台。其开放软件愿景将与经过多年建设的 CUDA 环境竞争。

开放性可以吸引不喜欢依赖单一供应商的客户。但如果驱动程序、编译器、库和框架在不同处理器上的行为不一致，也可能带来复杂性。

这一软件问题是异构计算的核心。在多种架构之间分配工作可以创造效率机会，但每个边界都会引入数据移动和编程开销。

如果应用花费过多时间复制信息或转换格式，理论上的速度优势就会消失。运营团队还需要一致的调试和监控工具。

Gelsinger 承认，行业缺乏面向异构 AI 的统一软件层。Intel 此前曾将 oneAPI 推广为通过通用工具编程多种架构的路径。

这一目标依然具有吸引力，但市场证据仍然喜忧参半。

Intel 最大的优势或许是其庞大的已部署 CPU 基础。企业已经在 x86 系统上运行应用、数据库、安全工具和虚拟化环境。

当企业采用 AI 时，这些工作负载不会消失。智能体通常需要与它们交互。

Intel 可以主张，其 CPU、以太网产品和推理加速器适配这些现有环境。Nvidia 则可以回应，其集成机架提供更好的端到端性能。

AMD、Google、云服务商和推理初创公司进一步施压。它们各自提供了不同的可移植性、专用化、可用性和控制力组合。

在这个拥挤的市场中，“GPU 很烂”的表述对于采购决策不再那么有用。买方需要从自己的模型和服务模式中获得实测结果。

他们应比较首个 token 时间、持续吞吐量、功耗、内存容量、利用率、故障恢复和软件投入。仅看采购成本无法反映全貌。

团队还需要严谨地记录这些测试。可搜索的工程知识库可以在多个评估周期中保留基准测试条件、架构决策和故障报告。

缺少这些背景时，组织可能会比较在不同模型、批量大小、精度和延迟目标下产生的数字。由此得出的决策可能会奖励营销，而非系统性能。

“GPU 很烂”的说法仍需接受现实检验

一个挑衅性的架构论点，并不能证明替代硬件会带来更好的商业结果。

第一项不确定性在于适用范围。GPU 可以处理多种工作负载，包括训练、科学计算、渲染和推理。

分支代码上的较弱表现，并不能否定其在密集并行计算上的强大表现。同样，出色的训练性能也不能保证为每一项推理服务提供最低成本。

第二项不确定性涉及 Gelsinger 提出的 10,000 倍能效目标。他将其描述为根据搜索规模部署的经济性得出的估算。

这个数字传达的是雄心，并不代表每个 AI 应用都存在已获验证的同等差距。

能效比较需要一个分母。研究人员可能衡量每焦耳 token 数、每秒请求数、负载下的延迟，或每项完成任务的总成本。

每项指标都可能有利于不同架构。模型质量会进一步增加比较的复杂性，因为如果输出结果不那么有用，更快的输出价值也有限。

第三项不确定性涉及需求。推理量正在增长，但应用经济性仍未明朗。

一些智能体通过自动化昂贵工作创造了明确价值。另一些则消耗大量 token，却产出需要员工大量审查的结果。

更低成本的推理可能通过杰文斯悖论扩大使用量：效率降低成本，并刺激足以增加总消费量的需求。但这并不保证应用能够盈利。

第四项不确定性在于软件。专用处理器往往以令人印象深刻的演示起步。广泛采用则需要稳定的编译器、框架支持、安全工具、编排能力和云端可用性。

开发者还需要可移植性。如果迁移成本会变得高昂，企业可能会犹豫是否为一家初创公司的芯片进行深度优化。

Nvidia 庞大的既有软件基础为其改善薄弱环节提供了空间。其 Rubin platform 结合了定制 CPU、GPU、网络、数据处理和存储相关组件。

Nvidia 声称，与 Blackwell 相比，Rubin 最多可将推理 token 成本降低十倍。该比较来自 Nvidia，仍需要在多样化应用中进行独立验证。

不过，这直接挑战了这样一种观点：GPU 现有领先地位会阻碍重大能效提升。Nvidia 可以在保持其软件平台兼容性的同时，重新设计周边系统。

第五项不确定性涉及数据中心基础设施。先进处理器需要电力、散热、网络和物理容量。

一款名义上高效的芯片，如果需要不熟悉的散热或网络配置，仍可能造成部署问题。相反，风冷加速器可能更容易适配现有设施。

大型集群还会带来可靠性问题。随着组件数量增加，故障会更频繁，检查点机制也会消耗额外资源。

Gelsinger 曾表示，超大规模配置需要更强的硬件和软件韧性。Nvidia 则将机架级设计和协同设计视为其解决方案的一部分。

任何一方的立场都无法通过一则标题来判定。运营方需要涵盖正常运行时间、恢复时间、利用率和维护工作量的生产环境证据。

Gelsinger 在 Intel 的过往角色也带来了另一个需要谨慎的理由。在他和其他领导者多年来为以 CPU 为中心的计算辩护期间，Intel 错失了 GPU 转型的重要部分。

他当前的论点比旧有立场更为细致。然而，Intel 的历史表明，识别技术局限并不保证能够成功执行。

Nvidia 也同样值得接受审视。占主导地位的平台可以围绕自身优势塑造基准、定义和采购预期。

客户应测试一套完整的 Nvidia 系统是否真正改善其端到端工作负载，还是仅仅提高采购规模。

最公允的判断比任何一方的言辞都更狭窄。GPU 是极其有效的加速器，但并非通用处理器。

异构系统提供了可信的回应，但也将难题从芯片设计转移到了集成、软件和运维。

Google News 读者接下来应关注什么

三个具体信号将显示，Gelsinger 是识别出了一场市场转变，还是仅仅重述了一个熟悉的架构原则。

第一个信号是对 Intel Crescent Island 样品的独立测试。Intel 预计在 2026 年下半年提供样品，因此客户证据将成为近期最实际的检验。

有价值的结果应涵盖真实模型、多种批量大小、持续负载和端到端延迟。比较还必须纳入软件成熟度和系统功耗。

强劲且可复现的结果将支持 Gelsinger 的观点，即面向推理优化的替代方案能够对通用 GPU 部署施加压力。延期或范围狭窄的演示则会削弱这一观点。

第二个信号是 Nvidia Vera 和 Rubin 系统的生产环境采用情况。Nvidia 已点名多家计划使用 Vera 的大型 AI 实验室、云服务商和制造商。

规划不等于部署。买方应关注系统进入更广泛服务后可量化的利用率、Token 经济性、交付进度和可靠性。

如果 Vera 能通过高效处理控制流任务让 GPU 保持忙碌，Nvidia 将在自身平台内验证异构计算。这一结果既支持 Gelsinger 的机制，也会强化 Nvidia 的商业实力。

第三个信号是工作负载能否在相互竞争的 AI 推理芯片之间迁移。客户需要能够在 Nvidia、Intel、AMD、Google 和专用加速器之间移动模型，而无需重建整套应用程序。

编译器、推理运行时和开放模型格式的进步，将削弱 Nvidia 的软件优势。碎片化或结果不一致，则会巩固现有主导者的地位。

下一条 Google News 头条很可能会突出某项基准测试、合作伙伴关系或引人注目的高管引语。读者应透过这些表象，寻找有关完整系统的证据。

应追问每个阶段由哪种处理器负责、组件之间传输了多少数据，以及软件是否仍具可维护性。随后，还要在持续的生产需求下检验结果。

Gelsinger 的论点之所以重要，是因为 AI 基础设施正变得更加多样化，而人们对它的依赖也在同步加深。他的措辞不应取代验证。

对于开发者和企业买方而言，实际行动很直接：记录你的工作负载，测试多种架构，并衡量从请求到产生有用结果的完整路径。

最终胜出的系统不会是宣称最响亮的那个，而是能够在真实的功耗、延迟、软件和运营约束下，可靠完成工作的那个。