d-Matrix 加入 NVIDIA NVLink Fusion 平台,但 Raptor 仍需证明自身实力
d-Matrix 携 Raptor 的多年规划加入 NVIDIA NVLink Fusion 平台,尽管其首批集成式机架的推出仍在一年多之后。这家推理芯片公司预计,Raptor 将在 2026 年底前完成流片。首批 NVIDIA MGX 机架预计于 2027 年第四季度推出。
这项合作让 d-Matrix 获得直接接入 NVIDIA 机架架构、网络、散热和供应链的通道,也揭示了与 NVIDIA 竞争更为严峻的现实:仅有差异化加速器已不足够。客户日益期待的是一套完整、可部署的系统,并且其网络与软件都经过验证。
NVIDIA 从这一需求中受益。NVLink Fusion 允许定制处理器进入其基础设施,同时不替代周边的 NVIDIA 组件。对 d-Matrix 而言,这一安排降低了扩展 Raptor 的工程负担;对 NVIDIA 而言,它则将平台覆盖范围延伸至采用通用 GPU 替代方案的处理器所在机架。
因此,这项公告的重点并不只是某一项互连许可,而是对 AI 机架的控制权。Raptor 主打专用的、以存储器为中心的推理能力;NVIDIA 则提供了让该处理器成为基础设施的大部分系统。悬而未决的问题是,d-Matrix 能否在这一环境中保留具有实质意义的技术和经济优势。
d-Matrix 加入 NVIDIA NVLink Fusion 平台,目标定于 2027 年
该协议将 Raptor 从独立芯片路线图带入 NVIDIA 的机架级部署模式,但并不意味着 Raptor 已成为可交付产品。
d-Matrix 于 2026 年 9 月 10 日宣布合作。其多年路线图以公司下一代推理 XPU Raptor 为起点。XPU 是一种面向特定工作负载的加速器,旨在比通用处理器更高效地处理选定计算任务。
Raptor 将通过 NVLink Fusion 连接,这是 NVIDIA 用于将外部 CPU 和定制加速器集成至其纵向扩展互连架构的技术。纵向扩展网络将处理器连接在一个紧密耦合的计算域内。该设计还将采用 Spectrum-X Ethernet,实现系统之间的横向扩展网络。
规划中的机架远不止包含 d-Matrix 芯片。已公布的配置包括 NVIDIA Vera CPU、NVLink 交换机、BlueField-4 数据处理单元、ConnectX-9 SuperNIC 以及 Spectrum-X 网络。它将遵循 NVIDIA MGX 参考架构,其中包括模块化、无缆计算托盘。
Astera Labs 将提供连接技术支持,旨在保障系统内高吞吐量的数据传输。这一点至关重要,因为一旦工作负载跨越处理器、托盘和机架,通信瓶颈便可能吞噬加速器性能。
NVIDIA 将这一安排描述为从定制芯片迈向大规模部署的路径。其机架级方案将 Raptor 置于 NVIDIA 基础设施之中,而非将其视为孤立的设备。运营商将获得一种通用机架设计,可支持 GPU、CPU 和专用 XPU。
首个拟议工作负载是解耦式推理,即将模型执行的不同阶段分配给不同处理器。对于 AI 编程场景,NVIDIA GPU 可以处理计算密集型的预填充阶段;Raptor 则可处理逐个生成 token 的、对延迟敏感的解码阶段。
这种分工反映了真实的架构差异。预填充阶段处理用户输入并构建模型工作状态;解码阶段则反复读取模型权重并生成响应。尤其是在用户期待快速交互式输出时,解码性能可能受限于存储器数据传输。
d-Matrix 以存储器为中心的设计瞄准了这一限制。Raptor 计划在垂直堆叠封装中结合一颗 DRAM 存储器芯片和一颗 SRAM 计算芯片。SRAM 可在靠近计算逻辑的位置提供快速访问,而 DRAM 则提供更大容量。该公司称,这种双层配置可缩短数据路径并提升可用带宽。
不过,已公布的机架仍停留在路线图阶段。d-Matrix 预计 Raptor 将在 2026 年底前完成流片。流片意味着芯片设计在制造前完成,而非进入商业交付阶段。后续仍需经历制造、封装、验证、软件认证和机架集成。
该公司预计首批 Raptor MGX 系统将在 2027 年第四季度推出。这一时间表界定了核心矛盾:d-Matrix 已获得进入基于 NVIDIA 数据中心的可信路径,但客户尚无法衡量成品机架的实际表现。
因此,对采购方而言,这项公告更多改变的是架构信心,而不是即时可用的算力。Raptor 现已拥有明确的互连方案、CPU、网络技术栈、机架形态和部署目标。实际产品仍须跨越从设计承诺到经验证基础设施之间的鸿沟。
NVIDIA 正将加速器选择转化为平台需求
d-Matrix 获得了成熟部署系统的接入机会,而 NVIDIA 则让其基础设施在客户选择非 NVIDIA 加速器时更难被绕开。
NVIDIA 于 2025 年 5 月推出 NVLink Fusion,将其定位为构建半定制 AI 基础设施的方式。其最初的NVLink Fusion 发布公告列出了参与企业,包括 MediaTek、Marvell、Alchip Technologies、Astera Labs、Synopsys、Cadence、Fujitsu 和 Qualcomm。
该项目将加速器决策与机架其余部分分离。云服务商可以选择定制 XPU,同时保留 NVIDIA 的处理器、互连技术、交换机、网络适配器、数据处理单元和参考设计。因此,即便 NVIDIA GPU 并非唯一的计算引擎,NVIDIA 依然能够参与其中。
这在战略上至关重要,因为超大规模云服务商和 AI 实验室正在开发专用芯片,以降低对单一加速器供应商的依赖。定制芯片也让运营商能够针对特定工作负载、功耗限制和服务需求调整硬件。
NVLink Fusion 通过让专用化与 NVIDIA 平台兼容来回应这一趋势。它并不要求每个处理器都是 NVIDIA GPU,而是鼓励这些处理器在由 NVIDIA 设计的系统中运行。
对于较小的芯片公司而言,这种交换很有吸引力。打造一款有竞争力的加速器,本身就需要芯片设计、编译器、内核、运行时软件、模型支持、封装和制造。机架级部署还增加了供电、液冷、线缆、交换机、可维护性、认证和现场支持等要求。
每增加一个层级,都会为采购方延后采用提供一个理由。一款加速器可能在实验室中表现良好,却需要不熟悉的服务器或独立网络。数据中心运营商随后必须在维持既有 NVIDIA 基础设施的同时,认证一套新技术栈。
MGX 通过可复用的机架和服务器规范降低了这种摩擦。d-Matrix 可以将更多工程资源集中于 Raptor 及其 Aviator 软件栈,同时也能向采购方展示已在其他 NVIDIA 部署中出现的组件与运营模式。
代价则是更深的架构依赖。d-Matrix 并非仅在机架边缘接入开放网络,其拟议系统在纵向扩展、横向扩展、CPU、网络接口和数据管理层面均纳入了 NVIDIA 技术。
一项独立评估将有助于进一步判断,但核心权衡已可从已公布的物料清单中看出。d-Matrix 通过接受 NVIDIA 机架作为运行环境,换取部署可信度。
这并不意味着 XPU 变得无关紧要。加速器仍决定了目标模型操作的运行效率。然而,NVIDIA 控制着许多接口,而这些接口决定了孤立的芯片性能能否转化为持续的应用性能。
这也是为什么 d-Matrix 对竞争性基础设施路径的压力,大于其对 NVIDIA 的直接压力。一家初创企业可以围绕 Ethernet、PCI Express 或自有互连架构构建系统,但随后必须说服客户:替代方案能提供足够的独立性或效率,足以弥补额外的集成工作。
相比之下,Raptor 直接进入了大量客户既有 AI 基础设施所在的环境。这一决策可缩短采购和认证周期,也强化了 NVLink 作为定制处理器通用纵向扩展选项的地位。
NVIDIA 实际上正在扩大其可服务的平台范围。如果通用 GPU 保留所有工作负载,NVIDIA 获胜;如果专用加速器接手部分工作负载,但依赖 NVLink、MGX、Spectrum-X 和 BlueField,NVIDIA 依然占据系统的关键部分。
结果形成了一幅更微妙的竞争图景:加速器选择在扩大,但基础设施的趋同可能增强。NVIDIA 的影响力正从拥有每一台计算设备,转向定义异构设备如何成为一座 AI 工厂。
Raptor 的机制瞄准解码瓶颈
只有当 Raptor 的存储器架构能够将更少的数据移动转化为更佳的应用延迟、能耗表现和机架经济性时,它才具有意义。
d-Matrix 围绕推理而非模型训练建立了市场定位。训练通过大规模并行计算创建或更新模型参数;推理则是在部署后的模型响应用户时应用这些参数。
这两个阶段并不总是奖励相同的硬件。GPU 仍具备高度灵活性,并受益于成熟软件、广泛模型支持和大规模部署。专用推理处理器则可以将芯片和存储器资源集中用于主导生产服务的重复操作。
Raptor 延续了 d-Matrix 现有 Corsair 产品背后的架构。Corsair 采用数字存内计算,将算术运算置于存储模型数据附近。其目标是减少在存储器与计算单元之间反复传输权重所带来的能耗与延迟。
数据移动在 token 生成过程中尤为关键,因为大型模型必须持续访问大量参数集。即使处理器具备充足的算术能力,也可能在等待存储器。d-Matrix 的核心判断是,让计算更接近模型权重可实现更快的小批量推理。
小批量对于交互式应用十分重要。服务商可以通过将许多请求合并成更大批次来提高硬件利用率,但等待凑齐批次会增加延迟;而单独处理请求又可能导致传统硬件利用不足。
编程助手、实时聊天机器人和语音代理会直接体现这一权衡。用户会注意到首个有效输出前的等待时间,以及后续 token 输出的节奏;平台运营商则会关注,在并发会话中维持这种响应速度所需的硬件和能源规模。
d-Matrix 将这一市场称为高价值 token 服务。该词描述的是客户重视低延迟、因而愿意为专用基础设施付费的推理场景。这是公司的表述,而非一个已有独立市场规模统计的既定经济类别。
拟议中的 Raptor 设计试图扩展这种方案可用的内存容量。d-Matrix 表示,它将把 DRAM 堆叠在 SRAM 计算芯片之上,从而在容量与处理之间建立更短的物理路径。这不同于传统加速器设计,后者将逻辑芯片连接到独立的高带宽内存堆叠。
该公司已公开展示其 3D 内存方案,但技术概念并不等同于机架级基准测试。散热表现、制造良率、内存容量、编译器支持和互连效率,都将影响最终系统。
NVLink Fusion 则解决了这一机制的另一部分。单个 Raptor 设备无法独自服务所有大型或分布式工作负载。通过在高带宽、低延迟域内连接多个 XPU,d-Matrix 得以面向更大的模型和更多并发请求。
随后,Spectrum-X 通过以太网连接机架或系统域。这种横向扩展与纵向扩展之间的划分,为 d-Matrix 提供了从一台专用设备走向数据中心部署的路径。NVIDIA 已将这些网络层作为其 AI 基础设施的一部分进行整合。
异构解耦提供了最明确的预期应用场景。GPU 负责预填充阶段,此时并行计算更具价值。Raptor 负责解码阶段,此时内存访问和单用户延迟更为关键。这两类处理器必须能够高效交换模型状态,才能保留这一方案的优势。
最后这一条件值得关注。拆分工作负载会带来通信和编排开销。如果在 GPU 与 XPU 之间迁移状态耗时过长,组合系统可能失去任一处理器单独测试时展现出的优势。
软件决定了这种拆分是否仍然可控。运营方需要调度、模型支持、监控、故障处理,以及在不断变化的请求模式下保持可预测的性能。他们还需要让开发者能够部署模型,而不必为每种硬件组合维护独立的流水线。
d-Matrix 的 Aviator 软件必须衔接这些要求。NVIDIA 的系统组件有助于网络和机架运营,但并不会自动让模型在 Raptor 上取得良好表现。内核质量、量化支持、框架兼容性和生产环境可观测性,仍是 d-Matrix 的责任。
Corsair 为该公司已超越模拟阶段提供了一些证据。d-Matrix 在 2026 年 6 月表示,Corsair 已进入全面生产阶段,并计划向部分客户批量交付。其 Corsair 生产进展更新还介绍了风冷卡和机架系统。
该公司援引 Gimlet Labs 的测试称,一套 GPU 与 Corsair 配置将基线响应时间从 24 秒缩短至两秒以内。该结果针对特定的推测式解码配置,不应被泛化到所有模型、请求模式或竞争性 GPU 系统。
尽管如此,Corsair 为 Raptor 提供了具备可用芯片和软件基础的前代产品。d-Matrix 并非在提出其首款加速器。更困难的一步,是将这类经验转化为新的 3D 封装及与 NVIDIA 集成的机架。
这正是 d-Matrix 选择 NVLink Fusion 背后的机制。Raptor 提供专用的解码能力;NVLink 与 MGX 提供连接性和物理系统;GPU 则继续用于更适合它们的阶段。
如果这种组合奏效,采购方可以将不同模型阶段分配给不同处理器,而无须建设独立的数据中心架构。如果失败,新增的 XPU 就会成为另一个需要采购、编程、监控和支持的组件。
2027 年交付日期使核心主张仍未得到验证
该合作降低了集成风险,但并未验证 Raptor 的性能、制造就绪度或客户经济性。
Raptor 首个公布的里程碑是在 2026 年底前完成流片。成功流片意味着设计将被锁定并进入制造阶段,但并不能证明生产良率、时钟频率、功耗、散热要求或持续应用性能。
下一个挑战是堆叠内存封装。将不同内存技术与逻辑裸片结合,需要对制造和散热条件进行严格控制。缩短电气路径的设计,也可能造成热量集中并增加封装复杂度。
d-Matrix 表示,AI 超大规模云服务商和前沿实验室正在评估 Raptor。该公司未在公告中披露这些评估方。评估也不同于采购订单、生产部署或持续工作负载承诺。
同样的谨慎也适用于该公司公布的专利数量。d-Matrix 称 Raptor 获得了 100 多项专利支持。专利可以保护实施方案选择,但不能证明一个系统具备可制造性或经济优势。
独立测试需要比较完整系统,而不是孤立组件。有用的指标包括首个 token 时间、token 间延迟、持续吞吐量、尾延迟、每 token 能耗、机架功耗、内存容量和利用率。
在这些比较中,模型质量必须保持一致。量化、推测式解码、批处理和模型修改可以在改变输出或将工作转移到其他位置的同时提升速度。采购方需要透明的配置,才能理解每项结果是如何产生的。
最有说服力的基准测试应在真实并发条件下复现生产服务。它应包括 NVIDIA GPU 与 Raptor XPU 之间的通信,而不仅是单台设备上运行的解码内核。它还应报告多种模型规模和架构下的性能。
软件成熟度带来了另一项不确定性。NVIDIA GPU 支持广泛的框架、库和运营工具。专用加速器不必具备完全相同的广度,但必须支持足以证明其部署合理性的工作负载。
快速的模型变化可能使这项任务更加复杂。新的注意力机制、专家混合设计、更长的上下文窗口和不同的数值格式,都可能改变计算与内存之间的平衡。随着这些工作负载演进,Raptor 的架构必须持续保持实用性。
2027 年的时间表给了竞争对手回应的时间。NVIDIA 将继续通过 GPU、软件、内存和机架设计提升自身的推理性能。其他专用厂商则可以通过不同的处理器和内存架构追求更低延迟。
Cerebras 使用晶圆级系统来减少独立芯片之间的通信。Groq 专注于确定性执行和低延迟 token 生成。包括 Amazon 和 Google 在内的超大规模云服务商,则围绕垂直整合的云服务开发自有加速器。
更广泛的推理芯片竞争表明,为何部署与架构同样重要。创业公司不仅要与基准测试结果竞争,还必须面对硬件可得性、开发者熟悉度、云端接入和采购信心的竞争。
NVIDIA 的平台可帮助 d-Matrix 应对其中数项障碍,但无法消除增加另一种处理器类型的成本。采购方仍会问:延迟或效率提升,是否超过集成、库存、软件和运营成本。
商业条款仍未披露。两家公司尚未公布预期机架配置、可用内存、功耗范围、服务安排或客户承诺。这些细节将决定合作的实际价值。
此外还存在战略依赖风险。d-Matrix 将 Raptor 定位为 GPU 的补充,但其机架依赖众多 NVIDIA 组件。因此,NVIDIA 路线图、许可、供应分配或接口优先级的变化,都可能影响 d-Matrix 的部署。
这种依赖并不否定该合作关系。每家基础设施公司都围绕供应商和标准构建产品。但这意味着,对扩大加速器选择的主张,应与周边技术的集中度一并评估。
关键区别在于架构验证与市场验证。NVIDIA 的参与验证了 Raptor 是一个值得严肃对待的集成候选方案。市场验证则需要已交付的系统、可复现的测量结果、获得支持的模型,以及运行持续生产流量的客户。
在这些信号出现之前,d-Matrix 加入 NVIDIA NVLink Fusion 平台仍是一个路线图故事。这是一份有意义的路线图,因为它明确了组件、工作负载拆分方式和可用时间窗口。但它并不能证明 Raptor 已赢得生产推理市场份额。
三个信号将表明该合作是否重要
流片、机架级基准测试和具名生产采用,将决定这项公告会成为基础设施,还是停留在集成计划阶段。
第一个信号是 Raptor 的流片。d-Matrix 预计将在 2026 年底前实现这一里程碑。若能如期完成,将表明架构、NVLink 接口和物理设计已准备进入制造阶段。
延迟将削弱市场对 2027 年第四季度可用性目标的信心。流片之后还要经历制造、初始芯片测试、修订、封装认证和系统验证。当商业系统已有明确日期时,每个阶段都几乎没有延误空间。
首批芯片的质量与时间同样重要。d-Matrix 必须证明,3D 内存封装能在预期的性能和功耗水平下运行。制造后如需进行实质性修订,将进一步加大交付时间表的压力。
第二个信号是 Raptor MGX 机架的端到端基准测试。它应在相同模型、精度设置、请求模式和质量目标下,对比纯 GPU 服务与异构预填充、解码方案。
可信的结果必须覆盖完整数据路径,包括 GPU 处理、状态传输、Raptor 解码、NVLink 通信、网络和调度。组件级带宽主张无法回答用户是否获得更快响应。
尾延迟尤其值得关注。平均输出速度可能掩盖会损害交互式服务的慢请求。运营方应关注在不同并发度、上下文长度和输出长度下的百分位指标。
能耗和利用率应与延迟一同披露。专用 XPU 可能实现令人印象深刻的响应时间,但在其他工作负载阶段处于闲置状态。机架级测量能够显示组合系统是否真正提高整体效率。
如果独立评估方能够复现这些基准结果,其论据将更有说服力。若性能增益依赖范围狭窄的模型、异常小的批次,或牺牲输出质量的配置,其论据则会被削弱。
第三个信号是具名的生产采用。d-Matrix 表示超大规模云服务商和前沿实验室正在评估 Raptor,但尚未披露 NVLink Fusion 机架的已承诺客户。
一名具名运营商运行真实的代码助手、语音服务或聊天机器人,将比又一次架构展示提供更有力的证据。生产采用将证明,延迟优势足以支撑新增硬件、软件和运营流程的成本。
采用深度同样重要。有限试点验证兼容性;跨多个机架的持续部署验证服务可靠性和经济性;试点后的扩展则将提供最有力的客户价值证据。
采购方还应关注客户将哪些模型阶段分配给 Raptor。持续将其用于解码,将支持 d-Matrix 以内存为中心的论点。承担更广泛的推理任务,则表明该架构的灵活性可能超过最初公告所强调的程度。
d-Matrix 加入 NVIDIA NVLink Fusion 平台之际,众多加速器初创公司正面临系统层面的难题。设计出具有差异化的芯片只是开端。产品还必须融入客户现有的网络、机架、软件、散热和采购环境。
NVIDIA 正在向那些能够在特定工作负载中降低 NVIDIA GPU 需求的公司提供这一环境。只有将 NVIDIA 的业务视为单一处理器时,这看似才会矛盾。从平台战略的角度看,其逻辑则十分直接。
d-Matrix 获得了一条更快实现可信机架级部署的路径。NVIDIA 将其基础设施扩展至异构系统。客户则在无需放弃围绕 NVIDIA 构建的技术栈的前提下,获得另一种加速器选择。
尚未解决的问题是谁能攫取由此产生的价值。Raptor 必须带来足够显著的延迟或效率提升,才能在 GPU 身旁赢得一席之地。NVIDIA 则必须保持 NVLink Fusion 的吸引力,同时避免让合作伙伴在其架构中变得难以区分。
对于开发者和企业采购方而言,务实的应对方式是关注证据,而非拓扑图。追踪流片进展,要求提供完整的机架基准测试,并寻找具名的生产部署案例。这三个信号将揭示,这一合作关系究竟是在拓展真正的计算选择,还是主要在扩大 NVIDIA 对这些选择的影响力。
下一步取决于 d-Matrix。它能否将 2026 年的设计里程碑,转化为截至 2027 年底前经过验证的 Raptor 机架,并在生产模型上实现可量化的收益?在此之前,这笔交易最重要的结果已经很明确:替代性 AI 芯片正日益通过由 NVIDIA 定义的基础设施进入数据中心。



