top of page

Intel GPU D-Series 将 Crescent Island 打造成高容量推理布局

11小时前
讀畢需時 15 分鐘

Intel 正式将 Crescent Island 命名为 Intel GPU D-Series,为其配备最高 480GB 内存和 1.3 PFLOPS 的理论 FP8 性能。该公司在 2026 年 Open Compute Project 全球峰会上披露了这些数据,并确认其内存带宽为 1.5 TB/s,功耗上限为 350 瓦。

这些规格明确了 Intel 在经过一年零散披露 Crescent Island 信息后的战略。这并非试图凭借极致算力击败所有加速器。Intel 的目标是可在传统风冷 PCIe 服务器中运行的内存密集型推理工作负载。

这使 Intel GPU D-Series 瞄准了 Nvidia 企业业务中的一个特定领域。Nvidia 已经销售具备成熟软件与广泛服务器支持的 PCIe 加速器。Intel 的回应是提供单卡更大的内存容量、比部分 Blackwell 替代方案更低的标称功耗,以及一套为推理精简而来的架构。

结果是一项可信的硬件方案,但其商业价值仍有待验证。更大的内存容量可以减少模型切分并简化部署,但客户购买的是实际交付的 token、可预测的延迟、稳定的软件和可获得的系统。Intel 已公布该卡的核心规格,但尚未发布足够的独立性能证据来回答这些问题。

Intel GPU D-Series 带来了什么变化

Intel 已将 Crescent Island 从实验性代号转变为拥有明确部署目标、可量化衡量的产品系列。

根据 Intel 的 GPU D-Series details,这款加速器采用该公司的 Xe3P 架构。在 350 瓦功耗范围内,其宣称可提供 1.3 petaflops 的理论 FP8 算力。

FP8 是一种八位浮点格式,可用于降低许多 AI 计算的成本。当模型在该格式下仍能保持可接受的准确性时,较低精度可提升吞吐量和内存效率。

该公司还标称最高 480GB 的 LPDDR5X 内存及 1.5 TB/s 带宽。LPDDR5X 是通常与移动系统关联的低功耗内存,但 Intel 在此处采用了异常大的容量。

Crescent Island 最初公开亮相时是一款 160GB 推理加速器。Intel 随后介绍了支持最高 480GB 配置的设计,但未公布最终确定的算力和带宽目标。

OCP 公告填补了这些空白,也赋予该产品面向市场的身份,以 Intel GPU D-Series 取代 Crescent Island 这一代号。

物理设计与新名称同样重要。Intel 表示,这些卡采用标准 PCIe 外形规格和风冷设计。一台服务器无需采用专用液冷机架,最多即可容纳八张加速器卡。

Intel 表示,单张卡可支持包含最多 3000 亿参数的模型。据该公司称,八卡服务器可支持参数量超过一万亿的模型。

这些容量表述需要结合背景理解。参数数量本身并不能说明运行时内存需求。精度、量化、上下文长度、缓存使用、批处理和软件开销,都会影响推理部署所需的内存量。

即便如此,480GB 仍为运营者管理这些变量提供了更大空间。单张卡可以容纳大型量化模型以及可观的键值缓存,后者用于存储推理过程中生成的信息。

当应用处理长文档或服务大量并发会话时,这类缓存可能成为主要限制。智能体工作流会进一步加剧这一压力,因为一次用户请求可能触发多次模型调用、检索步骤和工具交互。

Intel 明确瞄准大语言模型、长上下文推理、并发服务、机器人技术及其他延迟敏感型应用。这些工作负载中,容量与可预测的部署可能比赢得峰值算力比较更重要。

该架构进一步强化了这种专门化定位。Xe3P 源自 Intel 的图形技术,但 Crescent Island 的工作方式并不像通用图形卡。它将芯片和软件重点放在并行 AI 计算,而不是显示和渲染功能上。

这一重点使 D-Series 区别于那些预计要同时处理 AI、可视化、渲染和媒体工作负载的产品,也缩小了 Intel 必须达到的标准。这张卡无需成为每项任务中最出色的加速器,但必须在持续推理方面变得高效。

由于客户送样已经在进行中,这一时间点尤为重要。Intel 尚未公布广泛供货日期、已命名的上市系统、出货量或生产环境客户部署情况。

因此,这项公告代表的是规格成熟,而非全面的市场成熟。Intel 现在拥有明确的产品与活跃的送样计划。买家仍需看到这些样品能够转化为可靠生产系统的证据。

为什么 480GB 比峰值算力数字更重要

Intel GPU D-Series 的核心优势不是 1.3 PFLOPS,而是可留在单张风冷卡上的模型和上下文数据量。

峰值 FP8 性能可作为有用的架构参考,但它本身无法预测应用吞吐量。推理服务器必须持续向加速器输送模型权重、注意力数据和缓存上下文。

如果工作集超过可用内存,运营者就必须将模型拆分至多张卡,或通过较慢的连接移动数据。这两种选择都会增加系统复杂度。

模型并行可让多张加速器共同处理一个模型,但也会带来协调开销。互连延迟、通信库、拓扑结构和调度,随后都可能影响实际交付的性能。

对于可在本地容纳的工作负载,480GB 卡可以避免部分协调工作。加载模型后,它还可为并发会话保留更多可用内存。

以分析冗长合同、工程文档或客户历史记录的企业助手为例。模型权重只占部署资源的一部分,长提示词和不断增长的会话缓存可能消耗大量额外容量。

多租户推理服务商在更大规模上也面临同样的问题。它必须在许多客户提交不同上下文长度请求时保持响应速度。更大的本地内存可支持更多活跃会话,避免系统开始拒绝工作或将其转移至其他位置。

这正是 Intel 容量优先布局背后的机制。该公司以极高带宽内存 HBM 为代价,换取在适中功耗范围内更大的 LPDDR5X 内存池。

HBM 将堆叠内存置于处理器附近,并提供极高带宽。但它也增加了封装复杂度、功耗要求和加速器成本。

LPDDR5X 提供的带宽较低,但可带来容量和能效优势。Intel 的 1.5 TB/s 数据对 LPDDR 内存而言相当可观,但仍低于领先 HBM 加速器所提供的带宽。

AMD 为其 256GB MI325X accelerator 标称 6 TB/s 峰值内存带宽。该产品还提供显著更高的理论 FP8 算力,但属于不同的功耗和系统类别。

这一比较表明,D-Series 不应被视为 HBM 旗舰产品的替代品。AMD 的加速器面向高端训练和推理平台。Intel 则是在为冷却、功耗和集成限制更严格的服务器设计一张卡。

Nvidia 的 RTX Pro 6000 Blackwell Server Edition 提供了更具相关性的物理参考。Nvidia 标称其拥有 96GB GDDR7 内存、1.597 TB/s 带宽和两 petaflops 的 FP8 算力。

Nvidia 将该卡额定功耗定为最高 600 瓦,并提供风冷和液冷版本。Intel 所宣称的 350 瓦设计提供五倍内存容量、略低的带宽和较低的理论 FP8 性能。

这些数据并不能确定性能赢家。Nvidia 的软件、调度行为、数值格式和应用优化,可能胜过简单的规格比较。

但它们揭示了 Intel 选择的竞争维度。该公司提供的是容量与较低标称功耗,而不是追逐最高算力密度。

这一差异对运营现有机房的企业很重要。许多设施无法轻易引入液冷或异常高密度的机架,另一些则拥有可用的 PCIe 插槽,但电力余量有限。

在这些环境中,风冷 350 瓦卡更易于评估。它降低了团队在本地测试大型模型前所需进行的基础设施改造。

大容量内存池还可扩大模型选择范围。团队可以保留更高精度的权重、使用更长的上下文,或在一张卡上运行多个较小模型。

这些优势都不能保证更低的运营成本。决定性指标是每台服务器、每瓦和每小时所完成的工作量。Intel 已解释更大的内存如何改善这一结果,但公开基准数据仍然有限。

真正的竞争是 PCIe 推理,而非机架级霸主地位

Intel 并未将 D-Series 定位为对最大型液冷 AI 系统的直接回应。它眼前的对手是 Nvidia 已确立的 PCIe 部署模式。

机架级加速器平台和 PCIe 卡解决的是不同的采购问题。最大的系统通过专用互连、冷却、网络和供电来最大化训练和推理密度。

这些系统适合超大规模云服务商和大型模型开发者。对于在现有设施内逐步增加 AI 容量的组织而言,它们的可及性较低。

Intel 的标准卡方案瞄准第二类用户。只要供应商验证所需的供电、散热、固件和软件,企业就可以在熟悉的 x86 服务器中安装 D-Series 产品。

该公司表示,八 GPU 配置可服务参数量超过一万亿的模型。这一说法使 D-Series 进入严肃的大模型基础设施领域,但并未将其描述为所有高端集群的替代方案。

一篇 Tom’s Hardware analysis 清楚说明了这一差异。Nvidia 的机架级 Rubin 系统瞄准的算力和基础设施范围,远高于 Intel 的风冷卡。

更接近的竞争发生在可装入传统系统的企业级加速器之间。Nvidia 的 Blackwell server GPU 提供两 petaflops FP8 算力和 96GB GDDR7 内存。

Nvidia 的卡还包含图形、渲染和媒体功能,从而扩大了可能的应用场景。组织可将同一产品系列用于 AI、设计、仿真和可视化工作负载。

Intel 的卡则更为专门化。当内存密集型推理占据主要利用率时,这种专门化可能改善其价值主张。当买家需要一款可供多个部门使用的灵活加速器时,它的吸引力则会下降。

软件带来了更棘手的竞争问题。Nvidia 的 CUDA 平台支持大量库、推理引擎、框架、部署工具以及受过相关训练的工程师。

这种既有基础降低了迁移风险。团队可以为广泛使用的模型找到成熟的部署模式、兼容的容器和性能优化指导。

Intel 正在推动一套通用的 Xe 软件基础,覆盖集成式与独立式产品。原则上,这种方法使应用能够在 Intel GPU 平台之间迁移,而无需针对每种加速器重新编写。

但在实际中,可移植性还不够。生产级推理依赖经过优化的注意力内核、量化路径、连续批处理、分布式执行、监控与故障恢复。

开发者也期待获得主流服务框架的支持。即便一张卡的规格令人印象深刻,如果这些框架无法发挥其理论性能,它依然可能难以使用。

这也是为什么 D-Series 面临的挑战远不止造出一款可用的加速器。Intel 必须说服原始设备制造商、云服务提供商、软件供应商和模型服务项目围绕该硬件进行优化。

Intel 表示,正与 OEM、原始设计制造商、neocloud、独立软件供应商、设备厂商和 AI 原生企业合作。不过,其公告并未列出生产系统或客户性能成果。

这一缺失使人无法全面评估生态系统的成熟度。冗长的合作伙伴类别清单表明了拓展意向,但具名、可订购的系统将提供更有力的证据。

Intel 近期的加速器历史进一步提高了标准。其数据中心 GPU Max 产品家族(此前名为 Ponte Vecchio)在经历延迟和相当大的复杂性之后,才进入大型超级计算部署。

后续规划中的产品并未形成持续的加速器路线图。这段历史并不能决定 D-Series 的结果,但会影响买家的信心。

客户需要确信,编译器、驱动程序、库和替代产品将获得长期支持。采用一款加速器的成本,还包括安装后仍需持续投入的工程工作。

因此,Intel 目前是在硬件配置层面向 Nvidia 施压,尚未在生态系统实力上构成竞争。如果 D-Series 能在更易部署的服务器中提供足够的容量,就能赢得评估机会。要将评估转化为重复部署,则需要与物理设计相匹配的软件成果。

Intel Crescent Island 的数字无法证明什么

公布的规格描述的是理论能力,而非实际交付的推理性能或总体拥有成本。

1.3 PFLOPS 这一数字衡量的是在既定硬件条件下的 FP8 峰值算力。实际应用很少能在整个请求过程中持续实现峰值吞吐量。

模型架构会影响利用率,输入长度、输出长度、批处理规模、量化方式、采样设置,以及初始提示词处理与 token 生成之间的比例也是如此。

提示词处理可以受益于大规模并行计算。token 生成则往往更受内存数据移动、缓存访问和同步的影响。

这使 D-Series 成为面向持续推理的有趣设计,但也使基准测试变得不可或缺。Intel 必须展示:当数百 GB 数据保持活跃时,1.5 TB/s 的内存带宽实际表现如何。

一张高容量卡可以容纳大型模型,却未必能快速提供服务。反之,较小的加速器可能凭借更好的内核、更快的内存或更有效的批处理实现更优表现。

延迟目标又增加了一层复杂性。服务商可以通过批处理更多请求来提高总体吞吐量,但单个用户等待首个 token 的时间可能更长。

因此,有意义的测试必须报告多项指标,包括首个 token 时间、每秒输出 token 数、并发用户数、尾部延迟、功耗和服务器级吞吐量。

测试还应覆盖不同的模型规模和上下文长度。围绕小型模型构建的基准测试,可能无法充分利用该卡的大部分内存优势。

最大配置的 D-Series 尤其需要仔细审视。Intel 表示该产品家族最高支持 480GB,但这一上限未必代表每一款已出货的卡。

此前披露的 Crescent Island 信息聚焦于 160GB 参考配置。该公司随后解释称,该架构允许合作伙伴打造更高容量的设计。

买家将需要精确到产品级别的规格信息。如果多种容量配置进入市场,他们应询问哪些 D-Series 型号配备 160GB、320GB 或 480GB。

他们还需要了解价格、供货情况、保修和服务器兼容性。Intel 尚未公开这些商业细节。

定价尤为重要,因为容量本身并不能决定价值。部署团队必须比较一张高内存 Intel 卡的成本,与多张已成熟加速器的成本;后者可能提供更高的总带宽。

功耗计算同样需要谨慎。一款 350 瓦的加速器可以降低单卡功耗需求,但服务器功耗还包括 CPU、内存、网络、存储、散热和转换损耗。

一台八卡服务器仅加速器部分就会分配高达 2.8 千瓦的功耗,尚未计算上述组件。在许多数据中心中,这仍然是可管理的,但绝非轻量级部署。

横向扩展性能是另一个悬而未决的问题。Intel 表示,八张 D-Series 卡可以支持参数规模超过一万亿的模型。但该公司尚未公开足够关于卡间通信和分布式推理效率的信息。

将模型存放在八台设备上,并不等于能高效地提供服务。数据必须在恰当的时机于卡之间移动,而通信可能使计算停滞。

大型本地内存池可能减少所需卡数,这会有所帮助。然而,最终结果仍取决于拓扑结构、集合通信和框架支持。

可靠性功能也需要更清晰的文档说明。企业买家将关注纠错、隔离、遥测、虚拟化、故障处理和可维护性。

该公司关于 D-Series 可支持机器人和对延迟敏感工作负载的说法,也应谨慎解读。机器人工作负载差异很大,数据中心 PCIe 卡并不能覆盖所有边缘部署需求。

Intel 看起来指的是面向机器人车队或相关系统的集中式推理服务。在客户描述实际部署之前,更广泛的说法都应保持暂定性质。

目前最有力的结论更为有限。Intel 设计了一款容量异常高、且适配易于部署的散热等级的加速器。它能否实现有吸引力的 token 经济性,仍未得到验证。

Intel 的软件栈如今承载着产品成败

D-Series 硬件创造了机会,但 Intel 的 Xe 软件必须将内存容量转化为可靠的应用性能。

Intel 描述了一套覆盖其 GPU 产品的通用 Xe 软件基础。该基础旨在保持应用可移植性,并减少适配新卡所需的工作量。

这一战略有其逻辑。开发者已在客户端、工作站和数据中心系统中使用 Intel 集成显卡和独立 GPU。共享工具可减少 Intel 产品组合内部的碎片化。

然而,AI 基础设施所需的不仅是基本的应用兼容性。生产级技术栈必须优化从模型加载到请求调度和遥测的整条路径。

推理团队越来越依赖支持连续批处理的服务系统。这种方法将不断变化的请求组结合起来,使加速器保持忙碌,而不必强迫每个用户进入同一固定批次。

他们还需要能以较低精度保持模型质量的量化库。只有当模型和框架能够稳定采用 FP8 时,FP8 支持才具备商业价值。

长上下文性能取决于优化的注意力实现和缓存管理。糟糕的内存分配可能浪费掉 D-Series 的差异化容量优势。

多卡部署增加了通信需求。Intel 必须确保集合操作和模型并行框架能够协调八张卡,而不会抹去其功耗和容量优势。

该公司的 Hot Chips disclosures 提到了 32 个 Xe 核心和 256 个 XMX 矩阵引擎。Intel 还强调了对低精度和科学数据格式的支持。

这些架构细节表明,硬件能够处理多样化的计算任务。但它们并未揭示当前软件能以多高效率将主流模型映射到该芯片上。

客户应关注常用框架的上游支持。原生集成很重要,因为企业不愿维护私有分支或供应商专属补丁。

容器的可用性同样重要。团队希望获得可复现的镜像,其中结合了经过验证的驱动程序、库、服务软件和模型配置。

监控支持即便在发布公告中鲜少受到关注,也会影响采购决策。运营团队需要通过熟悉的系统获取功耗、温度、利用率、内存、错误和延迟数据。

Intel 还需要提供参考设计,以明确 CPU 选型。智能体应用在 GPU 运行模型推理的同时,还会使用 CPU 处理检索、工具执行、数据处理、网络和编排。

该公司在 OCP 上将 D-Series 与新的 Xeon 机架设计一同展示。这种定位将推理视为系统问题,而非孤立的加速器基准测试。

这也为 Intel 带来潜在优势。该公司可以在统一的平台战略中协调 Xeon CPU、GPU、PCIe 连接、内存和机架设计。

不过,如果组合平台的表现不如混合供应商方案,客户会拒绝被强制捆绑。开放部署必须意味着买家能在服务器、网络和软件方面保留实际选择权。

Intel 对开放基础设施的强调,只有在生产测试中仍能保持互操作性时才有价值。标准能减少集成摩擦,但优化后的实现仍决定性能。

最有说服力的证据将来自公布可复现实验结果的具名客户。这些结果应将成本、吞吐量、延迟和功耗与其原有系统进行比较。

在此之前,D-Series 仍是一项以硬件为主导的方案。其内存配置引发了兴趣,而软件成熟度将决定其采用情况。

三个信号将决定 D-Series 能否赢得市场

下一阶段不再是又一次规格披露。Intel 必须展示可订购的系统、可复现的基准测试和持续的客户使用。

第一个信号是独立推理测试。评测者和客户应在多种开放模型、精度和上下文长度下测试量产芯片。

一项有价值的基准测试应包含一种可轻松装入竞争性 PCIe 卡的模型,以及另一种能直接受益于 480GB 的模型。这样的设计可以区分通用执行质量和 D-Series 的容量优势。

结果应披露批处理规模、请求并发量、输入长度、输出长度、软件版本和功耗设置。缺少这些细节,token 吞吐量声明几乎没有采购参考价值。

首个 token 时间和输出 token 延迟应与总吞吐量一并呈现。一个系统在总体层面看似高效,却可能提供糟糕的交互体验。

如果 D-Series 在本地容纳大得多模型的同时接近成熟替代方案的表现,Intel 的论点将更有说服力。如果性能远低于其理论算力,额外内存并不能挽救每一种工作负载。

第二个信号是广泛的系统可用性。Intel 需要明确列出服务器制造商、具体配置、验证文档以及可靠的交付计划。

客户送测表明,这类硬件已不只存在于内部实验室。但这并不能告诉买家何时能以有意义的数量订购获得支持的系统。

风冷和 PCIe 兼容性降低了部署门槛,但服务器认证仍不可或缺。机箱风道、插槽间距、供电、固件和支持合同都会影响实际安装。

480GB 配置值得特别关注。如果这一容量仍仅限于定制合作伙伴设计,其最突出的优势覆盖的客户可能少于预期。

第三个信号是超出 Intel 自主控制演示范围的软件采用情况。应关注上游框架支持、优化的模型方案、公开容器以及第三方云实例。

neocloud 服务可让开发者无需购买服务器便测试 D-Series。它还将为更广泛的模型收集工作负载数据。

成熟推理项目的支持将降低集成风险。已发布的调优指南可帮助团队理解:何时 LPDDR5X 容量的重要性超过较低带宽带来的限制。

重复部署比首次试用更重要。客户订购第二个集群,表明硬件、软件和经济性已在持续使用中协同发挥作用。

这些信号应在未来的产品周期内出现,而不应始终停留在遥遥无期的路线图承诺上。Nvidia 和 AMD 仍在持续改进其加速器和软件,因此 Intel 的机会窗口不会静止不动。

Intel GPU D-Series 如今拥有清晰的定位:一款功耗 350 瓦、采用风冷、最高配备 480GB 内存的推理加速器。这一组合为企业买家提供了考察替代架构的理由。

但这并不意味着应盲目迁移。评估该卡的团队应选择具有代表性的模型,明确延迟要求,并测量完整服务器的功耗,而非只看芯片峰值规格。

他们还应认真记录评估过程。一个可检索的工程知识库可以帮助跨团队保留基准测试设置、驱动版本、错误记录和部署决策。

实际问题如今已经很明确:Intel 能否将其不同寻常的内存优势转化为更优的持续推理经济性?独立基准测试、已出货系统和重复购买的客户将给出答案。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page