top of page

Arm 与 Samsung 的 AI 加速器瞄准设备端,而非数据中心这块大蛋糕

9月8日
讀畢需時 14 分鐘

据报道,Arm 已参与 Samsung 的一项芯片项目,但这款 Arm Samsung AI 加速器瞄准的是终端设备,而非超大规模数据中心。该设计据称将结合 Arm 的加速器技术,以及 Samsung 的芯片设计与制造能力。Samsung 将采用其 2 纳米工艺制造这款片上系统。

这一差异至关重要,因为“AI 加速器”往往让人联想到在数据中心内训练和服务大型模型的昂贵硬件。该项目似乎转而聚焦设备端推理,即手机或消费级产品在本地运行 AI 功能。它为 Arm 提供了切入 AI 芯片的又一途径,但并未让 Arm 直接与 Nvidia 的旗舰数据中心加速器正面竞争。

与这项交易相关的财务叙事相比,据报道的 Arm Samsung 芯片合作仍存在更多不确定性。两家公司均未发布详细公告,确认客户、量产时间表、性能目标或预计出货量。因此,投资者应将一个合理的发展项目与已经获得商业验证的产品区分开来。

据报道的 Arm Samsung 芯片交易究竟改变了什么

据报道,这项合作让 Arm 更接近于提供加速器设计,而 Samsung 则负责从设计整合到成品芯片的实现路径。

根据最初的芯片项目报道,Arm 将提供 AI 加速器架构及核心设计知识产权。Samsung 的 System LSI 部门将整合完整的片上系统,即通常所说的 SoC。随后,Samsung Foundry 将使用该公司的 SF2 工艺进行制造。

SoC 将多种计算功能集成在一块硅片上。一款移动 SoC 可包含 CPU 核心、图形处理、内存控制器、图像处理、安全组件和神经处理单元。这种集成可减少数据移动,并帮助设备在严格的功耗和散热限制内运行。

因此,据报道的合作安排不同于 Arm 的传统授权模式。Arm 通常向芯片制造商授权处理器架构、核心设计或更大型的计算子系统。客户会调整这些知识产权,并负责完成最终芯片。

在这里,Arm 似乎提供了更接近专用 AI 加速引擎的技术。Samsung 将把这项技术转化为面向特定客户的组件并负责制造。若报道属实,这种分工将让 Arm 对最终计算系统拥有更大的影响力。

该项目还赋予 Samsung 三种可能的角色。其 System LSI 业务可设计 SoC,晶圆代工业务可生产晶圆,封装业务可支持最终集成。能够在同一企业体系内保有这些能力的半导体公司并不多。

Samsung 已将 SF2 定位为面向先进 AI 和高性能设计的全环绕栅极工艺。全环绕栅极晶体管能够更完整地包围沟道,从而在更小的制程节点上改善电流控制。Samsung 公布的SF2 路线图还包括面向性能、汽车和背面供电的专用变体。

不过,公开信息尚未确认该项目将采用哪一种 SF2 变体,也未披露流片日期,即完成的设计何时会送交制造。在缺少这一里程碑的情况下,不能将开发项目视为即将推出的产品。

报道还称,OpenAI 可能成为最终客户。这一说法尚未得到 Arm、Samsung 或 OpenAI 的确认。因此,它应被视为一种可能性,而不应成为这则故事的基础。

更具体的变化在于,据报道,Arm 有一条途径可将加速器知识产权置入由 Samsung 设计、制造的边缘芯片中。即便客户或出货时间表尚未公开,这仍具有战略意义。

为什么 Arm Samsung AI 加速器属于边缘端

Arm Samsung AI 加速器似乎旨在让部分 AI 任务留在用户身边,在那里,能效比最高训练吞吐量更重要。

设备端推理是指在手机、电脑、车辆、摄像头或家电上运行已训练完成的模型。设备在本地处理输入,而不是将每次请求都发送至远程服务器。这可降低延迟、减少网络使用,并让敏感信息更接近其来源。

这些优势形成了与数据中心加速器不同的工程目标。云端系统可将工作负载分配给众多芯片、机架和冷却系统。手机则必须与显示屏、调制解调器、应用程序和操作系统共享有限的电力与内存。

设备端加速器还必须应对不可预测的工作负载。摄像头可能需要图像分割,语音助手则需要语音识别和语言处理。本地智能体可能需要在数秒内结合文本、屏幕内容和传感器信号。

因此,最优设计并非只是缩小版的数据中心 GPU。它需要 CPU、图形处理器、神经引擎、内存系统和软件之间的紧密协同。即使运算本身执行迅速,在这些组件之间移动信息仍可能消耗时间和能源。

Arm 一直在扩展 CPU 对这类混合工作负载的支持。Scalable Matrix Extension 2,即 SME2,增加了用于机器学习矩阵运算的指令和硬件支持。Samsung 表示,其实现方式可帮助 CPU 处理短时、交互式 AI 任务,而不必总是将工作转移至独立加速器。

Samsung 对基于 CPU 的 AI的技术讨论指出,部分目标检测工作负载在内部测试中实现了最高 70% 的性能提升。Samsung 同时表示,实际结果会因系统和运行条件而异。

这个例子有助于解释预期中的架构。CPU 可管理灵活或对延迟敏感的任务,神经引擎则处理持续性的并行计算。GPU 可服务于图形或兼容的 AI 工作负载。软件会根据模型和可用资源在它们之间进行选择。

这是理解 Arm AI 加速器最有用的方式,而不会将其与服务器 GPU 混为一谈。这项技术不会取代设备中的每一种处理器,而会成为协同本地计算系统的一部分。

边缘市场仍可能具有重要的商业价值。Arm 技术已经覆盖手机、电脑、车辆、嵌入式设备和其他联网产品。加入加速器知识产权,可提高 Arm 为每个成功芯片设计提供的内容价值。

这也有助于保护 Arm 在移动计算日益异构化过程中的地位。异构计算会将不同任务分配给专用处理器,而非期望单一类型的处理器完成所有工作。随着神经引擎的重要性上升,Arm 需要在 CPU 之外保持相关性。

不过,高设备出货量并不会自动带来数据中心级别的经济效益。版税率取决于合同条款以及每颗芯片中 Arm 技术的占比。消费需求也受换机周期、产品发布和严格的组件成本限制影响。

因此,Arm Samsung 芯片交易是对设备计算栈的一次扩展。它并不能证明 Arm 已获取与大型 AI 训练集群相关的支出。

Arm 的数据中心机会依托 CPU

Arm 在数据中心更重要的地位来自主机 CPU、定制云端处理器和自有的 AGI CPU,而非这款据报道的边缘加速器。

即便 GPU 或定制加速器承担了大部分模型计算,AI 服务器仍需要 CPU。CPU 负责操作系统、数据准备、存储、网络、安全和工作负载编排,也确保加速器获得有价值的工作。

Arm 已通过其 Neoverse 服务器架构参与这一层。Amazon 在 Graviton 处理器中使用 Arm 技术,Google 在 Axion 中使用它,Microsoft 则在 Cobalt 中采用它。Nvidia 的 Vera CPU 也在其加速器平台中使用 Arm 技术。

这一位置使 Nvidia 既是客户,也是竞争参照对象。Arm 无需取代 Nvidia 的加速器,仍可从 Nvidia 的服务器增长中受益。每一套基于 Vera 的系统都可扩大 Arm 服务器软件和处理器技术的装机基础。

Arm 如今正更接近成品服务器芯片。其 AGI CPU 是一款面向智能体 AI 基础设施的量产芯片,而非另一项授权给半导体客户的设计。这一转变让 Arm 能够获得更高的单件收入,但也带来了制造和库存风险。

公司最新的季度股东信显示,第一财季营收为 12.9 亿美元,同比增长 22%。版税收入达到 7.15 亿美元,授权收入达到 5.74 亿美元。

Arm 还表示,其数据中心版税收入同比增长超过一倍。Neoverse 出货量已超过 15 亿个核心,最新的 5 亿个核心在九个月内完成出货。这些指标比一项未经确认的设备加速器项目更能有力证明数据中心的采用情况。

管理层表示,AGI CPU 在 2027 财年和 2028 财年的需求超过 20 亿美元。Arm 此前曾描述,同一时期存在 10 亿美元的机会。该公司称,已向多家客户交付初始产品,并获得相应的制造产能支持。

这些数字仍是管理层对需求和机会的表述。它们并不等同于已确认收入、已完成部署或持续盈利。客户可能改变部署时间表,制造爬坡也可能遭遇延误。

尽管如此,它们表明 Arm 预计将在哪些领域形成更大的直接芯片业务。AGI CPU 面向支出集中的基础设施买家,并具有更长期的部署承诺。据报道的 Samsung 设备项目则服务于一个更广泛、采购经济性不同的市场。

当云服务公司开发定制处理器时,Arm 也会从其既有授权模式中受益。该模式可在开发阶段产生授权收入,并在芯片出货后带来版税。由于客户负责生产,它也规避了一部分制造风险。

销售成品 AGI CPU 改变了这一平衡。Arm 可以获取更多芯片价值,但必须为研发提供资金并确保生产产能。它还必须在系统层面支持客户,而不能止步于处理器知识产权。

对于开发者而言,Arm 服务器采用率的增长缩小了设备端与云端环境之间的差距。应用可在两种环境中共享更多工具和库。不过,架构兼容性并不能消除内存、加速器、网络和部署软件方面的差异。

因此,数据中心逻辑建立在三项相互关联的业务之上。Arm 授权服务器设计,从已部署芯片中获取版税,并销售 AGI CPU 芯片。据报道与 Samsung 开展的加速器合作,则处于这些核心证据之外。

Nvidia 界定了 Arm 尚未进入的金矿

AI 基础设施中最丰厚的部分,仍是完整的加速器平台;Nvidia 在这里以极大规模整合计算、网络、软件与系统。

Nvidia 报告称,其第二财季营收为 962 亿美元,其中数据中心业务贡献 890 亿美元。根据公司发布的季度业绩,数据中心营收较上年同期增长 117%。

这一规模确立了真正的比较基准。Nvidia 销售的远不只是处理器核心。其系统整合了 GPU、CPU、高速互连、网络设备、内存、机架设计以及 CUDA 软件环境。

CUDA 为开发者提供围绕 Nvidia 硬件设计的编程工具和库。多年的软件采用使得组织将既有工作负载迁移至其他平台的成本很高。硬件性能固然重要,但部署经验和经过优化的软件同样会影响采购决策。

一款面向边缘场景的 Arm 加速器并不会挑战这一地位。它无法替代前沿模型训练所需的内存容量、网络能力、散热设计或多芯片协同能力。它也缺乏公开说明的软件栈或服务器部署计划。

即便直接参与加速器竞争,所需的也不止是一颗高效芯片。数据中心产品还需要高带宽内存、先进封装、网络、编译器支持、模型优化、可观测性工具和可靠供应。客户评估的是整个系统,因为其中任何一个薄弱环节都可能限制性能。

Nvidia 对基于 Arm 的 Vera CPU 的采用,使双方关系变得更为复杂。Arm 可以参与 Nvidia 的平台,而 Nvidia 则掌控更大的系统与客户关系。两家公司可以从同一部署中获益,但未必获得同等价值。

这正是标题背后的核心反转。进入 AI 加速器设计领域,听起来像是向 Nvidia 的领地进军;但据报道的实现方式,反而强化了 Arm 在设备边缘高效计算中的角色。

这一结果并非失败。边缘推理能够降低重复性任务的云端成本,并在连接受限时提供更快响应。它还可以实现一些功能——若每一次输入都必须离开用户设备,用户可能会拒绝这些功能。

不过,获得设计版税的供应商,未必能获得本地处理所节省的服务收入。设备制造商可以将这些节省用于改进功能、控制云支出或保护利润率。价值因此分散在产品链的各个环节。

Arm 还必须与 Qualcomm、Apple、MediaTek 以及 Samsung 现有的处理器团队共存。这些公司已将 CPU、GPU、神经处理器和调制解调器技术整合到设备芯片中。它们可以授权使用 Arm CPU 技术,同时在内部构建加速器模块。

Arm Samsung AI 加速器将使 Arm 能够向这些客户提供更广泛的组件。若既有被授权方认为 Arm 正在进入其领地,它也可能引发紧张关系。结果取决于授权的灵活性,以及客户是否更倾向于集成式 Arm 设计。

Qualcomm 提供了另一个有参考价值的比较。该公司正通过定制芯片及其 Dragonwing 服务器处理器,将基于 Arm 的专长延伸至数据中心。Qualcomm 设定的目标是,到 2029 财年,数据中心营收超过 150 亿美元。

这一计划说明,移动领域的专长可以向基础设施领域迁移。但它同样需要专用产品、超大规模云客户、漫长的验证周期和大量投资。仅凭一项设备加速器公告,并不能完成这种转型。

Samsung 的 2 纳米制程既是优势,也是风险

Samsung 为该项目提供了集成式的设计与制造路径,但商业成功仍取决于良率、软件、客户和量产时机。

先进制造是这一据报道项目的核心。更小的制程几何尺寸可以改善性能、功耗和晶体管密度。这些优势对于必须在有限电池和散热预算内运行 AI 的设备尤为重要。

然而,“2 纳米”标签并不能保证芯片具有竞争力。制程名称是营销类别,而非直接的物理测量。设计人员仍须在频率、漏电、芯片面积、内存和制造成本之间取得平衡。

良率尤其重要。良率衡量的是一片晶圆中产出的可用芯片比例。即使制程在技术上先进,若过多裸片存在缺陷或无法达到性能目标,商业上仍可能缺乏吸引力。

Samsung 在据报道的合作出现之前,已开始从其第一代 2 纳米制程进行初步出货。该公司还表示,正争取更大的客户,并持续改进 SF2 系列。这为项目提供了制程基础,但并不保证最终能够量产。

Samsung Foundry 还面临一家强大的既有竞争者。TSMC 报告称,2 纳米产品在其首个爬坡期内贡献了第二季度晶圆营收的 3%。7 纳米及以下先进制程占其晶圆营收的 77%。

该晶圆代工厂的第二季度业绩显示,领先制程节点需要多快达到具有实际意义的产量。客户需要可预测的产能、经过验证的设计工具、封装能力和稳定的电气特性。

Samsung 可以通过内部协同实现差异化。其芯片设计人员可以直接与制程工程师、内存团队和封装专家协作。当设计遇到功耗、时序或制造限制时,这种协作可以缩短反馈循环。

同样的整合也可能带来执行复杂性。System LSI 和晶圆代工业务面对不同的客户、进度安排与商业优先级。当技术取舍影响性能或交付时,成功的项目需要清晰的责任归属。

软件带来了另一项不确定性。只有当编译器和框架能够将模型转化为加速器可理解的指令时,加速器才真正有用。开发者还需要性能分析工具、受支持的操作以及不兼容工作负载的回退路径。

Arm 广泛的开发者基础可以提供帮助,但 CPU 兼容性本身并不等于已建立加速器支持。两家公司尚未公开说明哪些机器学习框架、模型格式或操作系统将支持这一据报道的设计。

客户身份出于同样原因也很重要。为单一客户打造的芯片,可以围绕已知模型和产品进行优化。面向众多设备制造商的通用组件,则需要更广泛的软件环境和更长期的支持承诺。

提及有限用途许可的报道,暗示这是一项面向特定客户的设计。若情况属实,这可能降低商业化风险,因为合作伙伴将围绕明确需求展开开发;但也会限制项目在更广泛市场中的即时覆盖范围。

有关 OpenAI 的猜测引入了另一个尚未解答的问题。OpenAI 已探索硬件和定制芯片,但没有任何参与公司将这款据报道的加速器与已确认产品联系起来。读者不应假设它会出现在一款带有 OpenAI 品牌的设备中。

时间表同样仍不确定。先进 SoC 需要完成架构设计、设计验证、物理实现、流片、制造、封装和产品认证。一个获得资金支持的开发项目,可能需要多年才能成为实际出货的消费级产品。

这就是为什么,相比臆测性的客户故事,从技术角色角度解释 Arm AI 加速器更有价值。Arm 提供重要的计算知识产权;Samsung 负责集成和制造。只有当客户、时间表和产品均可验证时,商业验证才真正开始。

三项信号将显示该战略是否奏效

下一阶段的证据必须来自产品验证、Arm 报告的数据中心业绩,以及 Samsung 将 SF2 项目转化为量产制造的能力。

第一个信号是 Arm Samsung 芯片交易获得确认的流片或客户公告。该披露应说明目标产品类别、制造制程和预计上市时间。具名客户还将澄清,这究竟是一次性的定制设计,还是可重复的平台。

确认将增强这样一种判断:Arm 能够在传统 CPU 授权之外销售加速器知识产权。若持续缺乏细节,该项目仍只能停留在据报道的开发阶段。除非涉事公司之一予以披露,否则与 OpenAI 的关联应继续视为未获确认。

第二个信号是 Arm 将 AGI CPU 需求转化为已确认营收的能力。投资者应将未来的营收、出货和客户更新,与公司所称 2027 财年和 2028 财年合计超过 20 亿美元的需求进行比较。

这种转化将支持一种观点:Arm 的成品芯片战略能够形成具有实质意义的基础设施业务。延迟或预期下调,则会暴露客户兴趣与实际部署产品之间的差距。

数据中心版税值得单独关注。即使 Amazon、Google、Microsoft、Nvidia 或其他合作伙伴掌控最终处理器,持续增长的版税也将表明 Arm 仍在受益。版税增速放缓则意味着,已公布的设计未能足够快地转化为实际部署。

第三个信号是 Samsung 的 SF2 量产进展。有价值的披露包括具名客户、高产量制造里程碑、进入生产的制程变体,以及稳定良率的证据。若生产始终受限,设计公告的重要性便会下降。

成功完成 SF2 爬坡,将使 Samsung 作为先进 AI 芯片替代供应商更具可信度,也将支持 Arm 据报道所作出的制造合作伙伴选择。持续延迟则会削弱边缘项目和 Samsung 更广泛的晶圆代工战略。

这些信号应被独立评估。即便 Arm 的 AGI CPU 增长缓慢,Samsung 合作仍可能成功;即便设备加速器从未出货,Arm 的数据中心版税仍可能扩大。

这种区分可避免读者将每一项 AI 公告都视为同一个综合投资论点。Arm 参与设备、云端、汽车和嵌入式计算,但每个市场都有不同的客户与经济模式。

开发者应在关注财务指标的同时关注软件层面。公开的编译器支持、框架集成、开发套件和有文档记录的模型性能,将显示该加速器是否正在变得可用。营销描述无法替代这些工具。

企业买家应重点关注工作负载部署位置。本地推理可以降低延迟和云端使用量,但也会将模型管理分散到大量设备上。安全补丁、模型更新和性能监控将成为运营要求。

知识工作者将通过产品,而非芯片规格,感受到这种变化。能力更强的本地硬件可以支持私密文档分析、转录、图像处理,以及无需持续连接网络即可响应的助手。

评估这些主张的团队,需要保存公告、基准测试和后续修正。一套可搜索的知识库可以将早期技术承诺与最终文档及观察到的结果联系起来。

据报道的 Arm Samsung AI 加速器具备可信的战略逻辑,但尚不能称为已经得到验证的数据中心突破。其显然瞄准的是高效的端侧推理,而 Arm 和 Samsung 在这一领域已具备相关优势。

更大的数据中心机会仍与 Arm 的 AGI CPU、Neoverse 版税,以及其在其他公司基础设施处理器中的地位有关。应将这些业务分开观察。接下来的问题很简单:这些据报道的项目中,哪一个会最先转化为已出货的芯片、获得支持的软件,以及可衡量的营收?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)M-Chip Mac

你的 AI 工作伙伴

remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page