top of page

AMD 投资者要点:Cerebras 合作挑战一体化 AI 推理模式

AMD 于 7 月 23 日宣布与 Cerebras 建立合作伙伴关系,目标直指 AI 基础设施中的一个基本矛盾:高吞吐量和低延迟很少能够兼得。对 AMD 投资者而言,关键并非又一项加速器合作协议。AMD 与 Cerebras 计划将一次推理请求分配给两种不同的计算架构。

AMD Helios 机架级系统将处理提示词和大规模上下文窗口。随后,Cerebras Wafer-Scale Engine 将负责 decode,即逐个生成输出令牌的阶段。两家公司表示,这一组合可实现最高五倍的每瓦每秒令牌数提升。

这一数据需要谨慎看待。它来自供应商建模,而非独立的生产基准测试。它比较的也是联合系统与仅使用 Cerebras 的配置,而非 Nvidia 系统。更深层的问题在于,专用化、多供应商基础设施能否挑战当前占主导地位的一体化 GPU 技术栈。

AMD 和 Cerebras 实际宣布了什么

AMD 和 Cerebras 将 AI 推理拆分为两项任务,并将每项任务分配给针对其特定瓶颈设计的硬件。

两家公司在 AMD 的 Advancing AI 2026 活动上公布了技术合作关系。根据联合披露,Cerebras 计划在其数据中心部署 AMD Helios 系统。

预计首批商业访问将于 2026 年下半年通过 Cerebras Cloud 提供。公告未给出更精确的上线日期,也未提及该组合产品的本地部署版本。

AMD Cerebras 推理工作流将流程分为 prefill 和 decode 两个阶段。Prefill 会读取用户提示词、系统指令、检索文档、对话历史和工具结果。在模型开始回答前,它会并行处理这些输入。

当应用提供较长的上下文窗口时,prefill 的计算需求会变得很高。一个编程代理可能要摄取源文件、测试结果、文档和此前的修改内容。企业助手则可能接收来自多个内部系统的搜索结果。

AMD Helios 将充当提示处理引擎。Helios 是 AMD 的机架级 AI 平台,结合了 Instinct 加速器、EPYC 处理器、网络以及 ROCm 软件栈。在这一设计中,它的作用是以高吞吐量处理大量复杂请求。

Decode 在 prefill 之后开始。在 decode 过程中,模型一次生成一个令牌,同时反复读取模型权重和先前的注意力数据。这种模式高度依赖内存带宽,并决定用户能够直接感受到的响应速度。

Cerebras 将利用其 Wafer-Scale Engine 处理这一阶段。该处理器将大量计算和内存资源集成在一个晶圆级设备上。这种布局减少了由大量较小处理器组成的集群中存在的一些通信开销。

两家公司预计,这一配对配置可实现最高五倍的每瓦每秒令牌数提升。每秒令牌数衡量输出速度,而每瓦指标则将该速度与功耗联系起来。

不过,AMD 的脚注对这一比较作出了严格限定。AMD Performance Labs 和 Cerebras 于 2026 年 7 月使用 Kimi 2.6 1T 模型对结果进行了建模。他们将 Helios 加 Cerebras 硬件与处于相近交互性水平的纯 Cerebras 配置进行了比较。

因此,这一公告并未证明其相较于 Nvidia、另一种 AMD 平台或典型客户部署具有五倍优势。它只是估算了,为特定 Cerebras 配置增加 AMD prefill 容量所带来的收益。

这一区别很重要,因为性能比率的标题往往比其测试条件存续得更久。买家需要针对自身模型测量延迟、吞吐量、功耗和成本。该公告提供的是设计目标,而非完整评估。

尽管如此,眼前的变化仍颇具意义。Cerebras 正在采购和部署 AMD 系统,而不是让其晶圆级处理器承担每一个推理阶段。AMD 则获得了一位专注于 decode 的合作伙伴,无须自行再设计一种加速器架构。

这笔交易为何对 AMD 投资者重要

AMD 的投资逻辑在于,Helios 能否成为不仅服务于完全基于 AMD 加速器部署的通用基础设施。

多年来,AMD 一直将 Instinct GPU 定位为 Nvidia 数据中心加速器的替代选择。这场竞争依然重要,但这项协议支撑了一个更广泛的论点:AMD 希望 Helios 成为可与其他计算架构协同工作的基础。

这一战略反映了推理正在发生的变化。训练强调在长时间运行中进行大规模并行计算。推理则必须在提示处理、输出速度、并发用户数、模型规模、能耗和响应时间目标之间取得平衡。

没有任何单一指标能够涵盖所有这些要求。针对最大批处理吞吐量优化的系统,对单个交互式用户而言可能感觉很慢。为即时响应调优的系统,则可能在需求不均衡时浪费容量。

这项合作将这种不匹配视为架构问题。AMD 提供可扩展的提示处理能力,而 Cerebras 提供快速的顺序令牌生成能力。两家公司都认可,各自最强的硬件不必承担请求中的每一个环节。

对 AMD 而言,这是一种有价值的转变。GPU 供应商传统上推崇可同时处理训练、prefill 和 decode 的统一技术栈。在这里,AMD 将异构性呈现为优势,而非集成负担。

AMD 近期的性能结果有助于解释该公司为何能够提出这一论点。在其 2026 年 4 月的 MLPerf 结果中,AMD 报告称,在集群规模下实现了超过每秒 100 万个令牌。

这些提交使用的是 MI355X 加速器,而非未来的 Helios 和 Cerebras 组合。AMD 还报告称,一套 MI355X 平台在 Llama 2 70B 服务器基准测试中实现了每秒 100,282 个令牌。

MLPerf 提供标准化的工作负载规则,尽管供应商仍可选择系统配置和优化方法。这些结果表明,AMD 已将整体推理吞吐量视为核心竞争指标。

Cerebras 则增加了另一种性能维度。其架构专注于快速向单个请求交付令牌。联合方案让 AMD 能够在同一系统设计中同时讨论集群级吞吐量和用户可感知的响应速度。

对投资者而言,这拓宽了 Helios 的潜在适用范围。AMD 不只是销售加速器,以在熟悉的服务器设计中替代 Nvidia 加速器。它正试图成为面向工作负载的 AI 基础设施编排层。

商业细节仍不完整。两家公司未披露预计部署规模、客户承诺、合同金额或收入预测。Cerebras 将部署 Helios,但公告未量化其将采购多少套系统。

这意味着该协议不应被视为即时收入预测。其短期价值在于架构验证。Cerebras 选择 AMD 的机架级系统,以填补其自身推理服务中的能力缺口。

这项合作还创造了一个参考部署。如果 Cerebras Cloud 能交付承诺的表现,AMD 就能展示 Helios 如何在异构生产环境中运行。这类证据对围绕多种加速器类型构建服务的云服务商可能具有重要意义。

这一机会也伴随执行成本。多供应商系统需要兼容的软件、可预测的数据传输、统一的调度、监控和故障恢复机制。客户将评判完整工作流,而非各个独立的处理器。

因此,AMD 的战略收益与软件同样取决于硅片。ROCm 必须支持跨越陌生硬件边界的编排。Cerebras 必须提供足够的控制能力,使组合服务能够像一个平台般运行。

AMD 投资者应关注这是否会成为一种可重复的集成模式。Cerebras Cloud 内的一次部署,所能证明的远不如多家合作伙伴将 Helios 用作共同的提示处理基础。

两个引擎解决不同的推理瓶颈

这一技术逻辑是可信的,因为 prefill 和 decode 会以不同方式给计算系统带来压力。

Prefill 会在生成回答之前,将模型应用于全部输入令牌。这一阶段包含大量矩阵运算,可同时使用许多计算单元。其工作负载会随着输入模型的文本量增加而增长。

长上下文应用会使 prefill 的成本尤其高昂。一个代理可能在多个步骤中积累指令、文档、工具响应和中间推理。每增加一个输入令牌,都必须在有用输出开始前完成处理。

首令牌时间衡量用户在答案开始前需要等待多久。强大的 prefill 性能能够减少这种延迟,尤其是在提示词包含大量上下文时。Helios 的目标正是提供这种计算密集型能力。

Decode 的行为则不同。模型生成一个令牌,更新其状态,然后再生成下一个令牌。对于单个用户,这种顺序模式限制了可并行完成的工作量。

系统必须反复访问模型权重和键值缓存。键值缓存存储此前已处理令牌的注意力信息,可避免模型为每个新令牌重新计算整个序列。

由于 decode 需要反复移动数据,内存带宽成为主要约束。增加理论算力并不会自动带来成比例的输出速度提升。处理器必须持续为其计算单元供给数据。

Cerebras 围绕大规模片上通信和内存设计了其 Wafer-Scale Engine。该公司认为,这种安排减少了传统加速器集群中拖慢顺序令牌生成的数据移动瓶颈。

AMD Cerebras 推理设计将 Helios 置于该引擎之前。Helios 计算提示状态并准备键值缓存,Cerebras 随后利用该状态生成响应。

这种分工还可以改善资源分配。服务提供商可以根据提示量扩展 prefill 容量,同时根据输出需求单独扩展 decode 容量。这两个阶段并不总是以相同速度增长。

以一项 AI 编程服务为例。一次请求可能提交庞大的代码库上下文,却只要求生成一段简短补丁。另一次请求可能提供简短指令,却要求给出长篇解释。

单一同构资源池必须同时容纳这两种形态。解耦系统则可将每个阶段路由至为其工作负载设计的容量。原则上,这能提高利用率,并减少提示处理与生成之间的资源竞争。

独立研究支持这样一种更广泛的观点:加速器性能取决于工作负载形态。一项 2026 年的加速器研究比较了多种专用处理器与 Nvidia 和 AMD GPU。

研究人员发现,最佳平台会因批量大小、模型规模和序列长度而变化。他们还报告称,通信能耗和软件成熟度会实质性影响实际性能。

这些发现与双方合作的前提相符。专用硬件或许能在推理的某一环节胜出,却会在其他方面损失效率。结合不同架构,旨在保留各自优势,同时避免承受每一种限制。

这种方法并非全新。生产级推理平台已经会将预填充和解码分配到不同的工作节点池中。Nvidia 的 Dynamo architecture 支持解耦式服务,并在工作节点之间传输键值缓存。

vLLM 和 SGLang 等开源服务系统也支持不同形式的预填充—解码分离。新增之处在于硬件边界。AMD 和 Cerebras 正在连接两种拥有不同内存系统和软件栈的架构。

这一边界让一项成熟的调度技术变成更棘手的系统问题。在生成开始前,提示状态必须从 Helios 转移至 Cerebras。这个交接环节的任何延迟都会增加首个 token 的等待时间。

对于短提示,待传输的缓存规模尚可控制。长上下文则会产生更大的缓存,并带来更严苛的传输要求。而这恰恰是 AMD 表示将由 Helios 处理的工作负载。

因此,这套联合系统必须克服一种内在矛盾。更长的上下文会让专用预填充更具价值,但也会增加跨越硬件边界传输的状态量。

该公告并未说明互连方式、序列化方法、缓存格式或传输延迟。这些实现细节将决定两台引擎能否作为一项实用服务协同运作。

核心挑战是 Nvidia 的一体化技术栈

AMD 和 Cerebras 正在挑战“单一供应商应掌控 AI 推理每个环节”的假设。

Nvidia 的优势不止于加速器性能。其一体化技术栈涵盖 GPU、网络、机架级系统、CUDA 软件、推理库和编排工具。客户可以从同一生态系统采购许多系统组件。

这种整合降低了协调风险。硬件接口、内存传输、软件更新和性能工具遵循统一路线图。这种一致性的重要性,可能高于某项狭义基准测试的胜出。

AMD 和 Cerebras 提出的是另一种取舍。客户接受更复杂的多供应商设计,换取围绕各阶段专门优化的硬件。成功的前提是,可衡量的收益必须足以证明新增复杂性是值得的。

这正是双方合作面临的主要竞争张力。它并非简单的 AMD 对阵 Nvidia,或 Cerebras 对阵传统 GPU,而是阶段专用基础设施对阵紧密集成、通用型的服务技术栈。

Nvidia 已在自身生态中响应了解耦式推理的需求。Dynamo 将预填充和解码分离,同时让工作流保持在兼容 Nvidia 的基础设施上。这让买家无需跨越供应商边界,也能获得专业化能力。

AMD 和 Cerebras 的设计必须在客户重视的某个维度上超越这种运营简洁性。潜在优势包括更快的输出、更高的提示吞吐量、更低的单 token 能耗,或在负载下更可预测的响应速度。

“五倍效率”的说法并未回答这一比较。其基准仅为 Cerebras 硬件,因此它说明了 Cerebras 为何希望获得 AMD 的预填充能力,却未说明结果是否优于 Nvidia Dynamo 或经过优化的纯 AMD 部署。

可信的比较应控制多项变量。测试需要使用相同模型、精度、上下文长度、输出长度、并发水平、响应目标及准确性要求。

系统还应分别报告首个 token 时延和每个输出 token 所需时间。一项服务可以在启动后快速生成 token,却仍可能因缓慢的预填充和缓存传输而让用户久等。

吞吐量同样需要谨慎解读。当服务商将大量请求批处理时,总体每秒 token 数可能上升。大批处理能提升利用率,却可能增加单个用户的延迟。

每瓦 token 数增加了另一维度,但该指标同样取决于利用率。专用硬件在需求稳定时可能显得高效,在闲置期间则未必那么有吸引力。

这项独立加速器研究发现,一些替代系统的空闲功耗高于传统 GPU。其结果凸显了在评估能耗主张时,生产环境利用率为何至关重要。

软件支持也将影响竞争。开发者需要模型兼容性、量化选项、调试工具、可观测性、自动扩缩容以及可预测的部署流程。当所需模型无法可靠运行时,峰值性能几乎没有价值。

Cerebras Cloud 可以为应用开发者隐藏其中部分复杂性。客户或许只需调用一个 API,而服务商则在内部管理路由和缓存传输。这种模式可降低托管工作负载的采用阻力。

不过,仅提供云端服务限制了初始市场。具有数据驻留、安全或隔离要求的企业可能需要本地部署方案。7 月的公告没有给出该选项的时间表。

托管服务的发布也将运营责任集中于 Cerebras。该公司必须安装 Helios、整合工作流、管理容量并提供一致的服务等级。AMD 可以提供平台,但无需运营面向客户的服务。

这一安排让 AMD 避开部分应用层工作,但也削弱了其对用户体验的控制。早期市场观感将取决于 Cerebras Cloud 的可靠性和模型可用性。

如果其他服务商采用相同架构,该合作在战略上的意义将更强。一个通用的多供应商服务层,能让买家组合不同加速器,而无需为每种配对编写定制编排方案。

在此之前,Nvidia 仍拥有更简洁的商业叙事:一家供应商提供硬件、网络、软件和服务框架。AMD 和 Cerebras 必须证明,专业化能够带来更好的运营结果。

“五倍”主张未能说明什么

公告中最重要的数字,也最不适合直接用于竞争结论。

AMD 和 Cerebras 表示,其配置预计可实现最高五倍的每瓦每秒 token 数提升。“最高”一词表明这是最佳建模结果,并非有保障的部署结果。

测试使用了 Kimi 2.6 1T——一款万亿参数模型。这使该主张与超大模型相关,但对于广泛用于路由、检索、分类和工具执行的较小系统,说明力有限。

模型选择可能有利于某种特定架构。大型模型对内存、通信和并行化施加的压力不同于紧凑型模型。单一工作负载无法代表完整的推理服务。

两家公司还在可比交互性条件下对性能进行了建模。这一限定十分重要,因为吞吐量与响应速度往往需要相互权衡。

服务商可以通过批处理更多请求来提高吞吐量,但每位用户可能需要等待更久。可比交互性试图控制这一差异,但公告没有公布其底层延迟目标。

基准选择构成另一项限制。比较使用的是仅采用 Cerebras 的配置。因此,五倍提升在一定程度上衡量的是 Helios 为 Cerebras 增加了多少提示处理能力。

它并未将 Helios 与其他预填充引擎单独比较,也未将 Cerebras 与其他解码引擎单独比较。买家无法依据这一比率在完整供应商平台之间做出选择。

尚无第三方独立验证这一组合配置。该联合产品尚未广泛可用,公告也未包含原始基准测试结果。

这并不意味着该主张毫无意义。在成品系统交付客户前,供应商建模可以指导架构开发,也可以识别组合处理器在哪些场景中具有理论收益。

不过,买家应将这一数字视为需要生产环境证据验证的假设。这些证据应涵盖多种模型规模、提示长度、输出长度、并发水平和利用率模式。

缺失的缓存传输数据尤其值得关注。预填充会产生解码在生成首个 token 前所需的注意力状态。将该状态在不同系统间迁移可能消耗网络带宽并引入延迟。

一项有力的评估应报告不同上下文长度下的传输时间,还应说明缓存是否保持共享格式,或是否需要转换。

可靠性是另一个悬而未决的问题。如今,一个请求需要跨越两套硬件系统和两种软件环境。故障可能发生在调度、状态传输、模型同步或容量再平衡过程中。

运营方需要了解某一阶段缺乏容量时会发生什么。服务可能将请求排队、将其重定向,或回退至另一台引擎。每种选择都会改变性能和成本。

模型支持同样可能成为约束。两个系统都必须运行兼容版本的模型。量化、注意力内核和缓存表示方式必须在更新之间保持一致。

客户还应考察可观测性。他们需要分别衡量预填充时长、传输时长、解码速率、排队时间、错误和总响应延迟。

缺少这些细节时,平均响应指标可能掩盖性能下降的来源。当两个阶段表现为单一不透明操作时,团队无法优化或执行服务等级目标。

Cerebras Cloud 的初始发布提供了收集这些证据的机会。托管访问可使组合系统接触多样化工作负载,而无需客户安装专用硬件。

不过,公开演示和精选基准测试无法替代持续使用数据。最有力的证据将来自应用在数周内运行真实流量的表现。

对于 AMD 投资者而言,这一限定很重要,因为合作公告往往容易引发过早的营收和市场份额预期。已披露的事实支持的是一项技术方向,而非可量化的财务结果。

AMD 已为 Helios 获得客户和架构合作伙伴,但尚未披露订单规模、部署时间表、利用率、营收贡献,或联合服务的客户需求。

Cerebras 也面临自身的不确定性。其披露文件将数据中心容量、云端采用、对重要客户的依赖,以及合作安排的时间节点列为业务风险。

联合架构弥补了一项技术缺口,但技术契合并不保证商业规模。客户必须足够重视更快的响应,才会改变基础设施配置或为专用容量付费。

三个信号将决定这一策略是否奏效

只有当部署数据将其架构论点转化为可复制的客户成果,这项合作才会产生实质影响。

第一个信号是 Cerebras Cloud 的发布。两家公司预计将在 2026 年下半年提供初始可用性,这留下了较宽的交付窗口。具备明确模型支持的生产版本将增强该公告的说服力。

发布不应仅仅提供端点访问。开发者需要有据可查的延迟目标、区域可用性、容量规则、监控和故障处理机制。这些细节将揭示该工作流究竟整合到了何种程度。

延期、有限预览或狭窄的模型列表都会削弱眼下的论据。这将表明,连接两种架构所需的工程工作比公告暗示的更多。

第二个信号是不同工作负载下的实测性能。最有价值的结果应当分别展示预填充时间、缓存传输时间、解码速度和端到端延迟。

测试应涵盖简短聊天提示、长上下文编程任务、重检索型智能体以及高并发服务。同时还应披露功耗测量方法和持续利用率。

独立基准测试比更多厂商预测更具说服力。与 Nvidia Dynamo、经过优化的纯 AMD 集群以及仅使用 Cerebras 的推理服务进行对比,将有助于厘清专用化方案在哪些方面更具优势。

如果该联合系统在上下文长度和并发量上升时仍能保持低延迟,那么这项合作背后的机制就显得合理。如果传输开销大幅增加,设计优势将会收窄。

第三个信号是 Cerebras 自身以外的采用情况。一项 Cerebras 内部部署表明,AMD 可以作为其预填充供应商。多项云端或企业部署则将证明,Helios 能够支撑更广泛的异构市场。

应关注客户是否在生产环境中点名采用这一组合工作流,而不只是宣布进行评估。使用承诺、扩展的数据中心区域以及新增模型支持,都将提供更有力的商业证据。

本地部署选项也将扩大可触达市场。受监管机构通常要求对提示、检索到的文档和生成内容保持本地控制。仅提供云端访问无法满足所有部署政策。

这些信号的重要性不止于芯片买家。应用开发者正日益构建能够处理大规模上下文、并生成长串工具调用的智能体。基础设施延迟会在这些工作流的每一个环节不断累积。

单次模型响应的小幅延迟降低或许看似微不足道。但当同样的降低作用于数十个连续的智能体操作时,可能会实质改变一款应用是否具有交互感。

因此,企业团队应将推理视为一项工作流来评估,而不是只看单一的每秒 token 数。提示规模、输出长度、并发、检索和工具执行都会影响最终结果。

知识工作者可能会通过更快的编程助手、研究智能体、科学工具和实时副驾驶体验到这种影响。他们不会在意是哪种处理器完成了预填充;他们在意的是等待时间和可靠性。

AMD 与 Cerebras 的推理合作之所以重要,是因为它拒绝采用一刀切的基础设施方案。它将提示计算和 token 生成分配给不同引擎,为追求更佳性能而接受集成工作。

对 AMD 投资者而言,最有力的解读仍应保持克制。AMD 获得了一家 Helios 客户、一个显眼的推理合作伙伴,以及对其异构平台战略的支持。但它尚未确立五倍的竞争优势。

接下来的问题很具体:Cerebras Cloud 是否会发布包含缓存传输成本、不同上下文以及生产利用率的端到端结果?这些数据将决定这是一种实用的组合,还是一套可扩展的新蓝图。

 
 

免费开始

一款本地优先的AI助手,具备个人知识管理功能

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)M-Chip Mac

在你的大脑里添加一个搜索栏

Ask remio

记住一切

​无需整理

bottom of page