top of page

光子互连将 AI 扩展推向标准之争

Tom Hardware 的报道揭示了 AI 基础设施内部的一场新冲突:随着加速器集群对带宽的需求大幅增长,铜缆正逐渐触及极限。

直接的应对方案是转向光子互连,即通过光传输数据,而不再完全依赖电信号。光学互连已用于连接交换机和机架。如今,供应商希望将其进一步靠近处理器、交换机和加速器封装。

这一转变改变的不只是线缆技术。它使 Nvidia 的一体化网络技术栈,与一个不断扩大的阵营形成对垒;后者希望打造开放、可互操作的替代方案。AMD、Broadcom、Meta、Microsoft、OpenAI 等公司正支持旨在防止单一供应商控制数千个加速器之间连接的标准。

这并非又一场最快 GPU 的竞赛,而是围绕决定这些 GPU 能否作为一个系统高效运行的互连架构展开的竞争。胜者将影响系统架构、供应商关系、部署节奏以及 AI 计算的经济性。

Tom Hardware 发现 AI 瓶颈正转移到芯片之间

大型 AI 系统的决定性约束,正从单个处理器的性能转向处理器之间的数据传输。

多年来,加速器的比较重点一直是计算吞吐量、内存容量和内存带宽。这些指标依然重要,但大型模型很少仅在一个处理器上运行。训练和推理越来越依赖于由多颗加速器协同组成的集群,以极低延迟交换数据。

光子公司 Lightmatter 的首席执行官 Nick Harris 对 Tom’s Hardware 表示,系统性能受到实现低延迟和极高带宽能力的制约。他的观点很直接:网络已成为计算的未来,因为仅靠制造更大的芯片已无法维持性能增长。

行业将这一网络问题划分为多个领域。纵向扩展网络连接服务器、机架或紧密耦合 Pod 内部的加速器,必须让众多处理器像一台大型机器的组成部分一样协同运行。

横向扩展网络则将这些机器连接成更大的集群。跨域扩展网络进一步将这一模式延伸至数据中心之间。每一层对延迟、距离和故障特性的容忍度不同,因此没有任何一种连接技术能够自动解决所有层级的问题。

铜缆对于短距离电连接仍然有用。它成熟、成本低,并拥有完善的供应链支持。然而,随着距离和数据速率提高,信号损耗会增大,传输每一比特所需的能耗也会上升。

这为机架设计划出了一道物理边界。根据 Tom Hardware 的报道,在要求严苛的配置中,现有铜缆链路已被限制在大约两米以内。更高的信号传输速率使这一可用距离更难维持。

光通信改变了距离这一变量。发射器将电数据转换为光,光纤传输光信号,接收器再将其转换回来。与铜缆相比,这种方式能够在更长距离上提供更高带宽,而不会承受同样的电气损耗。

但每次转换都会消耗能量并占用空间。传统光收发器也与处理器或交换机保持一定距离。电信号仍需从芯片传输至光模块,使链路中保留了一段虽短却日益昂贵的铜缆路径。

因此,行业正将光学元件向内迁移。可插拔收发器位于系统边缘,可独立更换。近封装光学将光学组件置于更靠近主硅芯片的位置。共封装光学通常称为 CPO,将光引擎集成在交换机或计算芯片旁。

集成度最高的设计会将光学组件放在中介层上;中介层是一种在同一封装内连接多个芯粒的基板。这种方式进一步缩短电气路径,并提升处理器周边可用的光学带宽。

这才是新闻标题背后的真正变化。光学互连不再局限于机器外部的长距离网络链路,而是正成为机器内部架构的一部分;在这里,接口的控制权具有更高的战略价值。

铜缆极限令每位 AI 系统设计者承压

AI 基础设施采购方需要更多带宽,但不能将功耗、散热、距离和可维护性视为彼此独立的问题。

压力首先来自加速器密度。Tom’s Hardware 报道称,当前纵向扩展机架在向外连接之前,可容纳 72 至 144 块 GPU。每增加一颗加速器,就会增加更多通信路径,也增加更多空闲等待的可能。

等待数据的加速器仍会占用空间并消耗系统资源。因此,一个大型集群可能拥有可观的理论计算能力,但实际交付的有效工作量却低于其规格所暗示的水平。

在这一规模下,网络能耗也变得不可忽视。伦敦大学学院专攻光通信的教授 Polina Bayvel 估计,网络消耗约占数据中心能耗的 20%,其比较中的其余 80% 则由处理器消耗。

不应将这些占比视为适用于每个设施的普遍测量结果。工作负载、拓扑结构、散热、利用率和硬件代际都会影响最终结果。不过,这一估计仍说明,互连效率如今已应纳入系统级规划。

在铜缆难以胜任的距离和带宽范围内,光链路有望降低每传输比特的能耗。不过,节能未必会降低设施的总功耗需求。运营商可以将释放出的功耗预算用于部署更多加速器。

Bayvel 在原始采访中清楚说明了这一动机。她认为,通过光学互连节省的能源,很可能用于支持另外 1,000 块 GPU,而不是降低计算需求。因此,效率提升能够增加容量,却不一定降低总消耗。

这一模式与计算基础设施中的其他改进相似。更高的每瓦性能往往会改变运营商在固定功耗上限内可部署的规模,却不会消除填满这一功耗上限的商业动机。

压力还延伸到物理设计层面。更高带宽需要更多线缆、连接器、收发器和封装连接。每个组件都会占用空间,并引入另一个潜在故障点。

光纤能够缓解部分电气约束,但也带来了不同的运维问题。数据中心团队必须考虑连接器清洁度、光学对准、激光器可靠性、维修流程、测试覆盖率和备件策略。

当光学元件进入电路板或封装时,这些顾虑会进一步加剧。发生故障的可插拔模块无需更换整台交换机即可移除;而共封装组件发生故障时,可能需要更具破坏性的维修操作,具体取决于设计。

因此,系统设计者必须决定自身在运维上能够支持多高程度的集成。能效最高的光学配置并不必然也是最易维护的配置。

AI 基础设施采购方还面临相关的采购问题。如今选择一套机架级系统,也意味着选择一种网络架构、软件栈、管理模式和供应链。之后更换其中一个组件,可能需要协调调整整个平台。

云服务提供商和超大规模云厂商有更充分的理由抵制这种依赖。其集群规模足以使专有接口影响采购议价能力、部署灵活性,以及混用多家供应商加速器的能力。

芯片公司则承受来自另一方向的压力。它们需要可预测的接口,确保处理器、交换机、光引擎、光纤和封装技术能够按兼容的时间表到位。一台交换机或收发器延迟,就可能拖延整个机架。

因此,铜缆极限已成为一项协调期限。供应商必须在整合光学互连的同时,明确谁控制各个接口,以及谁承担运维风险。

Nvidia 的一体化互连架构遭遇开放标准联盟

核心竞争发生在 Nvidia 的协同平台与开放标准联盟之间,而后者仍需证明自己能够按时交付完整系统。

Nvidia 在 AI 计算和网络领域掌控着广泛的技术组合。NVLink 和 NVSwitch 负责紧密耦合的纵向扩展通信,InfiniBand 和 Spectrum-X Ethernet 则面向更大规模的网络领域。

这种整合使 Nvidia 能够控制硬件、软件、拓扑和认证。客户获得的是为协同工作而设计的组件,Nvidia 也能协调整个技术栈的路线图。

同一模式也会带来依赖性。采用 Nvidia 加速器的客户可以获得性能和部署确定性,但也接受了与 Nvidia 架构紧密绑定的接口。

竞争芯片制造商和大型云运营商希望拥有另一条路径。UALink 面向纵向扩展领域内的低延迟加速器通信。Ultra Ethernet 则通过基于 Ethernet 的横向扩展技术栈,应对 AI 和高性能计算需求。

UALink specification 支持每通道 200 gigabits per second,并可在一个计算 Pod 内连接多达 1,024 个加速器。其直接内存操作专为传统服务器网络无法充分高效处理的通信模式而设计。

Ultra Ethernet specification 则针对不同层级展开改造。它在保持开放、多供应商基础的同时,使 Ethernet 适应要求严苛的 AI 和高性能计算工作负载。

这些标准并未将 Nvidia 排除在光学转型之外。Nvidia 正在开发自己的硅光子系统,并参与光学标准化工作。冲突的焦点是控制权和互操作性,而非 Nvidia 是否支持基于光的链路。

Nvidia 宣布推出集成共封装光学的 Spectrum-X 和 Quantum-X 交换机。该公司表示,其光子交换机可提供每端口 1.6 terabits per second,使用更少的激光器,并且相较传统设计提升能效。

这些数据是与 Nvidia 配置相关的供应商声明。独立部署仍需证明该设备在不同工作负载、故障模式和维护条件下的表现。

开放联盟面临的是另一项考验。发布规范只是开始。供应商必须生产能够可靠互操作的交换芯片、接口知识产权、验证工具、线缆、光引擎、固件和管理软件。

AMD 的 Helios 平台同时体现了前景与时间节点难题。AMD 将 Helios 描述为一套由 Instinct MI455X 加速器、EPYC 处理器和 Pensando 网络技术构成的 72-GPU 机架。

Helios 设计将 UALink、Ultra Ethernet 和 Open Rack Wide 列为架构基础。这为客户提供了一个可见的替代方案,以对抗 Nvidia 垂直整合的机架系统。

然而,Tom’s Hardware 报道称,初代 Helios 系统使用的是基于 Ethernet 的 UALink,而非专用的原生 UALink 交换技术。在专用交换芯片迈向量产的过程中,这一方案充当了过渡桥梁。

这一差距至关重要。开放标准只有在兼容产品以足够规模供应时,才能形成市场压力。Nvidia 可以继续交付协同整合的技术栈,而联盟成员则需要协调各自独立的路线图。

开放方式最终能够支持更多供应商与更多组件选择。但与此同时,它也可能带来由垂直管理系统在内部消化的集成工作。

因此,这场竞争不能被简单归结为开放与封闭之争。买家必须比较一套已经可用的整合平台,与一个正在形成、其灵活性取决于多家公司执行能力的生态系统。

光学技术进一步提高了这一问题的重要性。一旦光引擎被置于昂贵的处理器和交换芯片旁边,接口决策便会深度嵌入封装与制造环节。届时,更换网络互连层将比替换一根线缆困难得多。

共封装光学解决了距离问题,却带来了维修难题

将光更靠近计算单元可提升带宽密度,但也会将散热、制造和维护风险集中到昂贵的组件之中。

这一转变始于可插拔光模块。它们具有明确的运维优势:技术人员可以更换失效的收发器,而无需报废整块交换板。供应商也可以在保留大部分周边系统的同时升级模块。

其弱点在于交换芯片与模块之间的电气距离。随着链路速度提升,这段短连接会消耗更多功耗,并需要精密的信号调理。

近封装光学通过将光引擎移近主芯片来缩短电气路径。它在计算与光学之间保留了一定分离,同时验证更深层集成所需的封装和制造工艺。

据 Tom Hardware 的采访,Harris 预计 2027 年和 2028 年将是近封装光学的重要年份。他将这项技术视为光学组件成为加速器或交换芯片封装一部分之前的最后一个重大步骤。

共封装光学则更进一步。光引擎直接位于网络或计算芯片旁边,从而缩短高速电气传输距离。外置激光器可以向封装内输送光,而调制器则将信息编码到这些光信号上。

这种安排可以提高芯片周围的带宽密度,也可以减少在电路板上传输电信号所消耗的能量。

但封装现在必须同时容纳发热的电子元件、对温度敏感的光子组件、精密的光纤连接,以及额外的测试要求。任何一个环节的良率问题,都可能影响整个大型组件的经济性。

可维护性呈现出最明显的权衡。Bayvel 告诉 Tom’s Hardware,CPO 可能具有更高的能效,但在运维层面可靠性可能较低。如果高度集成的激光器或光学组件失效,可能需要更换更大的一块电路板。

线性驱动可插拔光学,即 LPO,仍将可替换模块置于系统边缘,同时简化部分信号处理电子元件。这种方式可以保留可维护性,但无法消除 CPO 旨在缩短的电气距离。

Bayvel 预计这些方案将并存,并粗略倾向于 CPO 占 60、其他方案占 40。这是专家判断,而非经过测量的市场预测。不同网络领域可能会偏好不同的平衡点。

密集机架内部的 scale-up 连接可以证明更深度集成的合理性,因为延迟和带宽密度具有极高价值。距离更远的 scale-out 链路则可以保留可插拔模块,因为维修灵活性更为重要。

Lightmatter 正在推进这一权衡中更偏向集成的一侧。其 Passage 平台使用光子中介层,通过高带宽光链路连接处理器。该公司表示,正与半导体制造及封装合作伙伴协作,为该平台量产做准备。

GlobalFoundries 宣布推出一款旨在支持新 OCI 规范的光模块。其 SCALE 平台强调可拆卸光纤、测试和封装灵活性,这些特性都针对 CPO 的可维护性问题。

这些公告表明,供应商理解这一运维层面的异议。核心问题在于,可拆卸光纤系统、已知良芯测试、冗余光路和外置激光器,能否让集成光学技术在大规模部署中变得可控。

可靠性数据将比实验室吞吐量纪录更重要。买家需要失效率、更换时间、热特性、良率数据,以及在持续工作负载下的表现。

行业还必须解决激光器问题。硅非常适合电子电路和许多光子功能,但其发光效率并不高。设计人员通常依赖磷化铟等化合物半导体材料。

这种依赖关系带来了另一条供应链。激光源、贴装工艺、控制电子元件和光耦合都会影响成本与可靠性。

因此,将光学技术移近处理器,是以一组封装挑战来交换一个瓶颈。CPO 缩短了电气路径,但商业上的赢家将是能够兼顾带宽、可制造性和可维修性的设计。

光学标准决定谁掌控新的 Scale-Up 层

光学标准之争,旨在将物理链路与其上传输的专有协议分离开来。

光学计算互连多源协议组织,即 OCI MSA,于 2026 年 3 月成立。其创始成员包括 AMD、Broadcom、Meta、Microsoft、Nvidia 和 OpenAI。

这一成员构成并不寻常,因为它让直接竞争对手参与同一项物理接口工作。各方在其他领域存在分歧,但都希望拥有规模更大、可预测性更高的光学供应基础。

OCI 规范定义了用于 scale-up 系统的光学物理层。它旨在承载不同的高层协议,包括 Nvidia 的 NVLink 和联盟支持的 UALink。

初始设计在每个方向上均从每秒 200 吉比特起步。其路线图瞄准更多波长数量和更高信令速率,最终达到每根光纤每秒 3.2 太比特。

协议独立性是其战略特征。如果供应商实现统一的光学层,超大规模云服务商便可从多家制造商获取兼容组件,而无需要求每家加速器供应商都使用相同的 scale-up 协议。

但这并不保证产品可以完全互换。封装、管理、软件、连接器、认证规则和系统拓扑仍可能造成实质差异。

不过,它确实为光学供应商提供了共同目标。激光器公司、晶圆厂、封装供应商或测试设备厂商,都可以围绕一项获得多家大型买家支持的规范进行投资。

Nvidia 同样能从这一供应基础中受益。其参与表明,对部分物理组件进行标准化,并不意味着必须放弃对 NVLink、系统软件或平台设计的控制。

在解读标准之争时,这一区别非常重要。Nvidia 可以支持开放的光学组件,同时保持高层能力差异化。其竞争对手则可以利用同一物理生态系统,围绕 UALink 构建系统。

最终结果很可能不是一种通用互连架构,而是一个分层市场:部分组件实现标准化,而协议、软件、调度、拥塞控制和系统集成仍保持竞争。

这与早期基础设施转型相似。Ethernet 标准化了基础网络通信,同时为竞争性的交换机、适配器、操作系统和管理平台留下空间。

PCI Express 创建了共享扩展接口,但并未使所有处理器或加速器变得等同。通用接口可以扩大市场,同时保留供应商控制的重要领域。

不确定之处在于边界最终落在哪里。覆盖范围过小的标准无法降低集成成本;覆盖范围过大的标准则可能推进缓慢,因为参与者必须协调更多相互竞争的要求。

时间同样重要。AI 基础设施路线图每年推进,而标准制定、芯片设计、封装认证和规模化制造需要更长周期。厂商可以在委员会敲定开放替代方案的同时交付专有解决方案。

因此,前几代产品可能包含过渡方案和妥协。AMD 使用基于 Ethernet 的 UALink,说明系统制造商可以在等待原生组件的同时,维持更广泛的架构方向。

这些临时设计不应被误认为最终结果。它们揭示了生态系统成熟度落后于产品需求的领域。

当多家供应商展示原生 UALink 交换、兼容 OCI 的光引擎以及可重复实现的互操作性时,标准联盟才会获得可信度。仅靠新闻稿无法证明这一结果。

如果 Nvidia 的整合系统继续更早抵达客户手中,并提供可预测的性能,它仍将保有优势。若开放组件在扩展买家选择的同时接近这一性能,联盟便会获得更多筹码。

光学层正是两种战略如今交汇之处。它足够狭窄,便于合作;足够重要,能够影响供应链;也足够接近处理器,从而影响平台控制权。

三个信号将显示开放光学能否追上 Nvidia

下一阶段将由量产硬件、现场可靠性和多供应商互操作性决定,而不是新一轮带宽宣称。

第一个信号是原生 UALink 交换芯片在商用系统中的出现。工程样品和路线图表明了意图,但客户需要的是无需依赖 Ethernet 桥接、使用专用 UALink 组件的机架级产品。

如果这些系统按计划实现规模化部署,开放联盟便将获得可信的 scale-up 替代方案。若进一步延迟,即使 UALink 规范在技术上仍具吸引力,也会强化 Nvidia 的整合优势。

AMD Helios 将成为关键测试案例。买家应关注后续配置是否会以原生交换取代基于 Ethernet 的 UALink,以及这些系统是否能维持预期的延迟、利用率和软件稳定性。

第二个信号是近封装和共封装光学技术的运维数据。厂商将宣传带宽、能效和光纤密度;数据中心运营商则会关注组件故障、维修时间、封装良率和热特性。

成功的 CPO 部署必须经受的不只是基准测试。它还需要实用的光纤连接方式、可靠的制造、诊断可见性、冗余设计,以及符合日常运维的更换流程。

如果有证据表明,技术人员可以在无需更换昂贵组件的情况下定位并修复光学故障,那么支持可插拔光学的最强论点将会减弱。若故障成本高企,LPO 和传统模块仍将保有更大的角色。

第三个信号是 OCI MSA 下经验证的互操作性。多家光引擎供应商必须能够与相关处理器、交换机、封装系统和测试平台协同工作,兼容性不能止步于物理连接器。

如果多家供应商能够通过共享的资格认证测试,OCI 就能降低采购风险,并鼓励制造业投资。若供应商针对每个平台都需要进行大量定制,那么名义上的标准化所带来的商业价值将十分有限。

读者还应关注 Nvidia 技术栈中有多少部分能在标准化光学方案上保持可移植性。Nvidia 的参与能够推动 OCI 采用,但这并不意味着 NVLink 会成为 UALink 的开放式竞争对手。

更广泛的网络同样不容忽视。更快的 scale-up 机架会增加流入 scale-out 和长途网络的流量。更高效的内部链路,反而可能暴露数据中心其他环节的容量问题。

Bayvel 警告称,人们的注意力仍集中在数据中心,而对陆地、海底和天基网络的审视相对不足。随着 AI 生成的流量在不同设施之间传输,这一担忧将变得更加重要。

开发者将间接感受到这些基础设施决策的影响。更好的互连利用率可以减少任务延迟,支持更大规模的分布式工作负载,并改变推理的经济性。利用率不足则可能让昂贵的加速器在等待数据时闲置。

企业采购方也应重视,因为云服务可用性和工作负载成本取决于这些系统。采购团队还需要区分供应商基准测试结果与其自身模型实际运行时所观察到的性能。

跟踪相互竞争规范的工程师,可以使用一个可搜索的知识库,将标准修订、供应商公告、架构说明和部署证据关联起来。

Tom Hardware 的报道捕捉到了这样一个时刻:光学不再只是网络领域的边缘议题,而是成为 AI 系统设计的一部分。铜缆的局限性确立了最后期限,却尚未选出赢家。

Nvidia 凭借已出货的平台及其在多个层面的控制力进入这场竞争。开放联盟则带着广泛的行业支持、已发布的规范,以及更丰富供应商选择的可能性加入战局。

决定性的问题不再是光子互连是否会更接近 AI 芯片,而是开放式光学组件能否在专有集成成为默认方案之前实现量产。

关注首批原生 UALink 机架、首批可信的 CPO 可靠性报告,以及首批多供应商 OCI 资格认证结果。这些信号将共同表明,光子技术会让 AI 基础设施更加开放,还是进一步巩固那些已掌控它的公司。

 
 

免费开始

一款本地优先的AI助手,具备个人知识管理功能

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)M-Chip Mac

在你的大脑里添加一个搜索栏

Ask remio

记住一切

​无需整理

bottom of page