top of page

SK hynix CPO 路线图将 AI 竞争从芯片转向系统

SK hynix 与全球研究人员共同发布了一份共封装光学路线图,尽管该公司迄今主要凭借高带宽内存建立其 AI 市场地位。hynix 新闻室的公告重新定义了下一轮基础设施竞争:焦点在于如何在完整系统中传输数据,而不只是为单个加速器封装提供数据。

这篇发表于 Nature Electronics 的论文研究了跨处理器、内存、机架及更大规模服务器群的光连接。其最重要的提议是通过光子中介层让光通信更靠近内存——这种封装层利用光来路由数据。

这一提议使 SK hynix 与已将光子技术转化为量产基础设施的企业并肩而立。Broadcom 已将一款共封装以太网交换机投入生产,而 Nvidia 则推出了用于以太网和 InfiniBand 网络的光子交换机。

SK hynix 的切入点不同。该公司已供应位于领先 AI 处理器旁的 HBM 堆叠产品。其路线图提出的问题是:内存制造商能否也参与设计这些处理器周围的连接。

这一差异至关重要,因为更快的内存无法消除所有数据瓶颈。AI 集群必须在加速器、交换机、机架和内存池之间传输模型参数与中间结果。每一道边界都会增加能耗、延迟和设计复杂度。

因此,这份公告不只是一个研究里程碑。它表明,随着 AI 竞争超越单个芯片,SK hynix 希望对围绕其内存产品的架构发挥影响力。

Hynix 新闻室的 CPO 路线图究竟新增了什么

SK hynix 正在将其内存战略与更广泛的光学架构相结合,而不是再展示一项孤立的组件改进。

根据这份 CPO 路线图,SK hynix 与包括弗吉尼亚大学教授 Kyusang Lee 在内的研究人员合作。他们的研究阐述了光互连如何应对未来 AI 系统中的通信限制。

共封装光学(CPO)将光收发器置于处理器或交换机旁边,并封装在同一封装内。这种布局缩短了数据进入低损耗光链路前所需经过的电信号路径。

现有的可插拔收发器位于交换机前面板附近。电信号必须在交换芯片与各个模块之间穿过电路板。

随着信号速率提高,这些板级路径愈发难以管理。设计人员不得不增加信号调理组件,这些组件会消耗功率并占据空间。散热和信号完整性也更难控制。

CPO 将光电转换移至更靠近计算或交换硅芯片的位置。剩余的电连接更短,而光纤则负责更长距离的通信。

SK hynix 将这一成熟概念延伸至内存领域。其路线图提出了一种以光学为中心的系统,通过光子中介层以高密度光链路连接处理器和内存。

中介层通常用于在先进封装内部的芯片之间建立密集连接。光子中介层则在这一连接层中加入光路由及相关组件。

该架构可让多枚 AI 加速器访问更大的共享内存池。这不同于为每枚加速器分配固定数量本地内存的模式。

共享内存并不会自动提升软件运行速度。但它可以减少僵化的容量边界,并为系统设计者部署大型模型和数据提供更多选择。

该路线图为未来节点设定了严苛的研究目标。hynix 新闻室称,每个节点的带宽将超过每秒 100 太比特,每比特能耗低于 1 皮焦耳,延迟低于 10 纳秒。

这些数据描述的是技术目标,并非经独立验证的产品规格。SK hynix 尚未宣布能够同时满足这三项目标的商用光学内存产品。

路线图还涵盖多个封装阶段。二维设计将组件并排放置,2.5D 系统通过中介层连接裸片,三维集成则将不同功能更直接地堆叠起来。

这一演进很重要,因为没有一种封装方法适用于所有光连接。机架级交换机所面对的散热、维修和成本限制,与 HBM 旁边的光接口并不相同。

因此,这项研究提供的是一张开发路线图,而非一个完成的设计。它将近期的 CPO 交换机与一种更长期的可能性联系起来:让光通信延伸至内存边界本身。

这正是该公告不同于常规期刊发表之处。SK hynix 认为,必须将内存性能与封装、网络和系统拓扑一并考量。

其当前 HBM 业务解决的是加速器与邻近内存之间的距离问题。光学路线图则关注数据必须离开本地封装时会发生什么。

这一更广泛的视角将改变客户评估内存供应商的方式。容量和带宽仍然至关重要,但架构支持也将成为另一项差异化因素。

SK hynix 此前已表明其希望成为全栈 AI 内存创造者。CPO 研究为这一战略提供了技术方向,尽管商业化前景仍有待验证。

带宽墙已越过 HBM

AI 基础设施如今面临的数据传输问题,已从内存引脚延伸至整个集群。

HBM 通过将堆叠式 DRAM 靠近加速器,缓解了一项主要限制。其宽接口可通过紧凑封装提供远高于传统服务器内存的带宽。

但这一改进并未消除封装外部的通信需求。训练和推理系统仍需在加速器、网络交换机、存储系统和主机处理器之间交换数据。

大模型加剧了这些数据流动。张量并行工作负载将计算拆分到多个处理器上,流水线并行则在连续阶段之间传递工作。分布式训练还会在大量设备之间同步更新。

此类集群的有效性能取决于协调能力,而不只是处理器速度。等待远程数据的加速器意味着昂贵的算力无法进行有效工作。

铜互连在短距离内依然有效。但更快的电信号随着走线变长会损失更多能量,也更难保持完整。设计人员随后需要消耗额外功率来恢复干净的数据。

光学连接能够以更少的信号衰减覆盖更远距离。难点在于如何将光子组件、电子元件、激光器、光纤和封装整合进可靠的制造流程。

这也是系统层面的竞争为何此时到来的原因。加速器性能不断提升,HBM 带宽持续增加,AI 部署也扩展至更大规模的集群。它们叠加产生的流量暴露了组件之间连接的瓶颈。

一份经同行评审的硅光子路线图指出,CPO 和光子-电子集成是扩展高性能计算的重要路径。该路线图也记录了涉及热敏感性、制造良率、设计工具、激光器和光纤耦合等障碍。

这些限制意味着光学连接无法成为铜互连的简单替代品。光学器件必须在高温处理器旁稳定运行,同时维持对准、波长控制和可预测的性能。

可维修性也构成另一项挑战。可插拔收发器可以从交换机前端拆下,而集成在交换芯片旁的光引擎则更难更换。

外置激光器模块可降低部分维护风险。它们将特定激光组件保留在主封装之外,同时将光送入光引擎。

即便如此,运营商仍须评估整体系统可靠性。更少的组件可能减少故障点,但更紧密的集成也可能放大单个封装失效的影响。

功耗方面的吸引力依然显著。Broadcom 表示,在每秒 51.2 太比特及更高水平下,可插拔收发器的功耗可能超过整个交换系统的一半。

Bailly 交换机将八个每秒 6.4 太比特光引擎与一颗 Tomahawk 5 交换芯片结合。Broadcom 声称,与标准可插拔设计相比,该产品可节省超过 70% 的光互连功耗。

这些数字属于 Broadcom 的产品主张和特定配置,不应自动套用于所有 CPO 系统或 SK hynix 提出的内存架构。

不过,这一对比说明了现有设计承受的压力。一旦光模块消耗了交换机功耗的很大比例,仅改进处理器就会带来递减的系统级回报。

同样的原则也适用于内存周边。更快的 HBM 有助于加速器访问本地数据,但远程内存和加速器之间的数据传输仍会消耗时间和能量。

光学内存互连架构可能改变容量的部署位置。设计人员不必将全部内存永久绑定至某一处理器,而可构建由多个计算设备共享的更大内存池。

这种安排将支持解耦式基础设施,即计算和内存资源可以被分别分配。当某个加速器存在未使用容量时,它也可能减少闲置内存。

不过,内存池化会带来管理问题。软件必须决定数据的存放位置、确保访问表现可预测,并防止争用抵消更宽互连带来的优势。

延迟仍然具有决定性。光链路可以高效地跨距离传输数据,但转换、交换和协议开销仍可能拖慢应用。

SK hynix 提出的低于 10 纳秒目标正是对这一挑战的回应。内存流量对延迟的敏感度高于许多传统网络工作负载。

因此,该公司追求的目标比为交换机添加光端口更难。它希望让光子技术参与应用程序能够直接感知的内存层级。

这也是为什么 HBM 领域的领先地位本身无法决定下一轮竞争。胜出的系统必须将计算、内存、光学、封装、热设计和软件整合起来,同时避免将瓶颈转移到其他环节。

核心竞争是本地内存与光学内存池之争

核心张力在于紧密连接的 HBM,与通过更灵活的光学互连在多个处理器间共享内存之间的取舍。

本地 HBM 拥有明显优势:加速器可通过宽阔、专用的接口访问邻近内存。其物理邻近性支持高带宽和可预测的延迟。

代价则是刚性。每个加速器封装都获得固定的内存容量,即使工作负载对这些资源的使用并不均衡。

共享内存池提供了不同的权衡。多个处理器可以访问共同的容量,使系统软件能够根据工作负载需求分配内存。

SK hynix 提出的光子中介层为这两种模式提供了一种可能的桥梁。本地 HBM 可以继续靠近每个加速器,而光链路则连接更广泛的内存资源。

这并不一定意味着要完全取代直连内存。一种实用架构可以保留本地 HBM 用于对延迟敏感的数据,并将光学内存池用于更大的或访问频率较低的数据。

这种分层设计类似于现有的内存层级。寄存器、缓存、DRAM 和存储设备早已在速度与容量之间进行取舍。光连接将在本地封装与远程系统之间增加新的部署选择。

当模型超出单一设备的内存容量时,这一机制便体现出价值。如今,开发者常常将模型权重、缓存数据或训练状态分布到多个加速器上。

这些拆分会带来通信需求。如果系统无法快速为每台设备提供数据,增加更多加速器所带来的性能提升就会低于预期。

高带宽光学资源池可以缓解部分容量限制。当请求具有不同的上下文长度或内存需求时,它还可能让推理基础设施更加灵活。

然而,内存池化无法消除局部性的重要性。频繁访问的数据,仍然应尽量靠近使用它的处理器。

软件需要预测这些访问模式。错误的放置可能迫使数据反复进行远程传输,增加延迟并占用互连带宽。

一致性则带来另一项成本。当多个处理器共享数据时,系统必须协调更新,并维持可用的内存视图。

这些要求使竞争的一部分转向编译器、运行时和调度软件。只有软件能够避免过度协调地利用硬件带宽,硬件带宽才真正有意义。

这正是 SK hynix 的定位开始变得有趣的地方。内存供应商了解设备行为和封装技术,但并不控制所有处理器架构或网络协议。

商业成功将需要与加速器厂商、晶圆代工厂、光学元件供应商、系统制造商和云运营商紧密合作。没有任何一家参与者掌握完整的技术栈。

Nvidia 已经在构建这样的网络。其光子交换机结合了内部研发成果,以及来自 TSMC、Coherent、Corning、Foxconn、Lumentum、SENKO 和其他供应商的技术贡献。

Nvidia 表示,其 Spectrum-X 配置可提供最高每秒 400 太比特的总吞吐量。该公司还称,其能效比传统方案高出 3.5 倍。

这些交换机目前首先聚焦于网络连接,而非共享光学内存。不过,它们展示了处理器公司能够多快地协调封装、光子学、网络和软件。

Broadcom 则拥有不同的优势。它具备交换芯片、硅光子学、光引擎,以及与云服务提供商和设备制造商的合作关系。

其 Bailly 平台在 SK hynix 宣布商用 CPO 内存产品之前就已进入市场。因此,Broadcom 证明了共封装交换已超越实验室演示阶段。

SK hynix 最突出的差异化优势在于其内存地位。它能够凭借对 HBM 接口、热限制、堆叠和先进封装的直接了解,研究光学架构。

这些知识可帮助其协同设计内存与连接技术。它也为加速器客户更早让该公司参与系统规划提供了理由。

风险在于战略依赖。SK hynix 仍需要处理器和平台合作伙伴采用能够释放光学内存优势的接口。

标准同样至关重要。专有连接可以针对单个平台进行优化,但开放接口能够支持更广泛的供应商基础,并降低采用风险。

2026 年,AMD、Broadcom、Meta、Microsoft、Nvidia 和 OpenAI 帮助成立了一个光学纵向扩展联盟。其开放规范面向可插拔、板载和共封装光连接。

该联盟的路线图包括每根光纤达到每秒 3.2 太比特及更高的数据速率。这表明,光学纵向扩展链路正成为一个需要行业协同解决的问题。

SK hynix 必须决定其以内存为中心的架构如何融入这一标准制定进程。即使设计在技术上很强,如果客户担心被锁定或管理软件不兼容,它仍可能面临困难。

因此,这场竞争并不是 HBM 与 CPO 在简单替代周期中的较量,而是固定的本地容量与一种结合本地内存和可共享光学资源的层级架构之间的竞争。

如果 SK hynix 能够有效连接这些层级,它将在内存封装之外获得更大影响力。否则,其 CPO 工作可能仍是有价值的研究,而处理器和网络供应商将定义最终部署的架构。

制造将决定路线图能否成为基础设施

最大的不确定性不在于光能否传输数据,而在于集成光学系统能否实现规模化生产和维护。

CPO 封装结合了具有不同制造要求的组件。电子集成电路负责交换和控制,而光子电路则负责引导和调制光。

激光器、探测器、波导、光纤连接和热控制元件必须协同工作。它们的综合良率决定了能够以经济方式出货多少完整封装。

光子学工艺在一致性方面仍落后于成熟的电子制造工艺。Nature 的硅光子学路线图指出,整体良率仍低于 CMOS 电子产品。

该论文还指出,设计工具仍存在缺失或不完善之处。工程师需要能够同时考虑电子和光学行为的工艺设计套件、仿真和验证方法。

热敏感性又增加了一个问题。光学组件的行为会随温度变化而改变,而 AI 处理器和交换机则会产生集中的热量。

设计人员可以加入加热器、控制器和波长调谐机制。这些元件可提升稳定性,但也会消耗能源、增加控制复杂度并占用封装面积。

光纤连接需要极高精度。一个封装中的硅芯片可能功能正常,但如果光学对准或耦合损耗超出可接受范围,整个封装仍会失效。

集成后的测试变得更加困难。制造商需要在将光子芯片投入昂贵的多芯片封装前,对其进行测试的方法。

已知良品芯片策略在电子领域已相当成熟。与之对应的光学测试和老化筛选流程,仍需为大规模 CPO 组装而成熟起来。

供应能力是另一项约束。同样的先进封装产线可用于加速器、HBM 系统和光子产品。

TrendForce 在 2026 年 7 月报道称,Nvidia 已开始向部分合作伙伴出货 Spectrum-X CPO 交换机。该机构还表示,Broadcom 正在继续进行有限规模的 Bailly 出货。

该机构将光引擎良率、硅光子产能和先进封装列为三大主要瓶颈。其CPO 生产分析预计,这些限制将影响扩张进程。

TrendForce 还表示,光子封装必须与 AI 处理器争夺 2.5D 和 3D 封装资源。这种竞争直接增加了 SK hynix 系统布局的复杂性。

该公司已依赖复杂封装来生产 HBM。引入光子中介层将进一步增加对工程、测试和生产能力的需求。

如果 SK hynix 能够复用其封装专业能力,这种重叠可能形成优势。但当成熟的内存产品与尚不成熟的光学项目竞争资源时,它也可能带来内部配置压力。

可靠性必须在系统规模上评估。实验室结果通常只覆盖有限数量的设备和运行周期,而数据中心需要长期的服役寿命。

高功耗硅芯片旁的光学组件将经历热循环、振动和持续流量。如果维修需要更换集成交换机封装,现场故障可能抵消节能收益。

远程激光模块可以隔离部分容易发生故障的组件。但它们无法消除调制器、探测器、光纤连接、封装连接或控制电子元件中的风险。

运营商还会将 CPO 与不断改进的可插拔光学模块进行比较。可插拔模块在更换、供应商选择和部署灵活性方面仍具优势。

线性驱动可插拔光学模块通过简化信号处理来降低功耗,而无需将光引擎完全移入交换机封装。它们为部分网络提供了中间路径。

因此,CPO 必须提供足够的带宽密度和节能效果,以证明更紧密集成是合理的。其优势会因交换机速度、链路距离、工作负载和维护模式而异。

以内存为中心的 CPO 面临额外的采用障碍。网络交换机可以提供熟悉的 Ethernet 或 InfiniBand 接口,而共享光学内存则会更深刻地改变系统架构。

处理器供应商必须支持这种连接。操作系统、运行时和应用程序必须理解不同内存位置及其性能特征。

随后,云运营商必须验证,提升的利用率是否足以抵消增加的复杂性。他们将重点衡量应用吞吐量、故障恢复能力和总运营成本。

SK hynix 尚未为其拟议的光学内存架构提供产品名称、客户部署情况、制造良率或商业可用日期。

对于研究路线图而言,这种缺失是合理的。但它也限制了人们将 hynix 新闻中心公告视为市场承诺的信心。

在 Nature Electronics 上发表表明这项工作具有科学价值。但这并不保证其可制造性、客户采用情况或竞争经济性。

因此,近期的问题比“光学内存是否会改变 AI”更为具体:SK hynix 能否从架构目标迈向使用真实工作负载测试的集成原型。

一个可信的原型应展示端到端测量结果。如果没有每比特能耗、应用延迟、热行为和持续错误表现,仅有带宽是不够的。

该公司还应明确其计划供应哪些部分。可能的角色包括内存设备、光子中介层、完整封装、接口技术或与客户共同设计的系统。

每种角色都具有不同的商业含义。供应中介层与控制软件可见的内存互连体系并不相同。

在这些细节浮现之前,这一路线图应被视为战略方向。它扩展了 SK hynix 的设计视野,但尚未确立一个成熟的光学平台。

AI 竞争正成为供应链协调能力的考验

CPO 奖励那些能够协调内存、逻辑、光学、封装、散热、网络和软件等组件开发的公司。

加速器时代推动了基于芯片规格的比较。买家会考察计算格式、内存容量、带宽和软件兼容性。

机架级系统使这些边界不再那么有用。当网络拥塞、内存放置、散热或供电限制了集群时,高速加速器的表现可能不及预期。

CPO 让这种依赖关系变得显而易见,因为没有任何单一芯片能够提供完整结果。光引擎需要兼容的逻辑芯片、封装、激光器、光纤、热控制和管理软件。

Nvidia 的战略展示了一种应对方式。它围绕一个涵盖计算、InfiniBand、Ethernet、软件和光子学的平台协调合作伙伴。

Broadcom 则通过商用交换芯片和光学集成采取另一条路径。其设备合作伙伴可以围绕成熟的 Ethernet 产品构建系统。

TSMC 占据核心制造位置。其硅光子学和三维堆叠能力将处理器设计与大规模封装连接起来。

SK hynix 通过内存切入同一个系统问题。这个切入点赋予它一定优势,因为每一款大型 AI 加速器都需要快速访问大量数据。

然而,优势并不等于控制权。加速器供应商决定封装接口,云公司选择网络架构,晶圆代工厂分配先进封装产能。

该公司必须让其路线图对这些合作伙伴有实际价值。这需要接口与协同设计实践,既能改善完整系统,又无需平台作出不切实际的改变。

其提出的共享内存架构便提供了这样一种价值。云服务商通常重视利用率,因为未被使用的加速器内存仍代表着已投入的资本和电力消耗。

灵活的资源池可让不同任务使用不同数量的内存。它也可能帮助大型推理部署适应不断变化的缓存需求。

这些收益取决于工作负载行为。作为缓慢溢出容量使用的光学资源池,其价值低于能够支持可预测、频繁访问数据的资源池。

因此,开发者应像关注光学规格一样密切关注软件支持。内存放置工具、性能分析系统和调度器将决定应用程序能否利用这一新的层级结构。

工程团队还需要更充分的系统证据。基准测试必须描述拓扑结构、数据放置、通信模式和故障处理,而不只是峰值带宽。

这种更广泛的评估带来了信息管理挑战。团队必须在大量技术文档中关联处理器路线图、封装限制、标准提案和供应商声明。

可搜索的工程知识库能够帮助团队在产品规格持续变化时保留这些关联。

这一战略转变也会影响采购。评估 AI 系统的买方必须询问:谁负责支持集成故障,以及哪些组件可以独立替换。

他们必须评估光学引擎是否依赖单一供应商,也需要获得关于激光器、光子芯片、光纤组件和先进封装的可信量产计划。

标准能够降低部分风险,但无法将每一种实现方式标准化。供应商仍将在封装、功耗、软件集成和制造良率方面展开竞争。

如果 SK hynix 的内存专长成为这些标准讨论的一部分,公司便可从中受益。客户早已将其视为 HBM 供应商,这降低了开展架构协作的门槛。

公司的定位还可帮助连接两场往往彼此分离的讨论。一场关乎加速器封装内部的内存带宽,另一场关乎集群范围内的光学带宽。

光子中介层将这两场讨论置于同一张技术地图上。它将数据移动视为一条连续路径,而不是相互分离的内存与网络产品。

这种框架是 hynix newsroom 路线图最有力的贡献。它鼓励系统设计者优化数据存放位置、传输距离以及所采用的传输介质。

这种方法也给竞争对手带来压力。Samsung 可以整合内存、代工服务与封装能力,而 Micron 则可以围绕自身的 HBM 产品深化合作。

网络供应商则面临来自另一方向的压力。延伸至内存接口的光学互连网络,在传统交换机端口之外创造了新的机会。

处理器公司必须决定要控制多少架构。更紧密的集成可以提升性能,但也可能增加供应集中度和开发成本。

云服务商可能通过内部开发光学组件或资助战略供应商来回应。TrendForce 已将垂直整合描述为一种正在形成的行业模式。

这使系统竞争在一定程度上成为组织能力的较量。企业需要联合路线图和共享测试流程,而不仅仅是更好的组件实验室。

SK hynix 与学术专家的研究合作反映了这一现实。下一步需要与晶圆代工厂、系统构建商和用户形成更广泛的联盟。

出版内容可以统一该联盟中的技术语言。商业进展将取决于合作伙伴是否投入设计、产能、软件和验证资源。

三个信号将显示 SK hynix 能否突破 HBM

只有当原型、平台合作伙伴和制造证据同时出现时,这一路线图才会具备商业意义。

第一个信号是通过光子中介层连接处理器与内存的集成原型。SK hynix 应报告该系统在持续工作负载下的系统级带宽、延迟和能耗。

如果这类演示能在不依赖特殊冷却或仅限实验室条件的情况下接近既定目标,将增强该路线图的可信度。缺少端到端结果则会削弱近期前景。

原型还应明确正在测试的内存层级。本地 HBM、池化 DRAM 和面向容量的扩展内存服务于不同的工作负载需求。

第二个信号是具名的处理器、晶圆代工厂或云服务商合作伙伴。CPO 不可能仅靠一家内存供应商就成为基础设施。

合作伙伴公告将表明所提接口契合真实的平台路线图。如果其中包含软件支持和明确的部署阶段,其意义会更大。

关注 SK hynix 是否参与开放的光学 scale-up 规范。对齐可扩大采用范围,而封闭接口则需要更强的性能来抵消客户担忧。

第三个信号是制造证据。相关指标包括光学引擎良率、晶圆级测试、光纤连接自动化、封装产能和可靠性数据。

Nvidia 和 Broadcom 的量产出货将提供有价值的参考。它们的现场经验能够揭示,CPO 的能耗与密度优势能否在真实部署条件下得以保留。

稳定生产的证据将增强 SK hynix 的时机优势。持续的短缺或可靠性问题,则会使光学内存进一步滞后于当前交换机市场。

该公司的 CPO 工作正值行业从演示阶段迈向有限量产之际。这一时机让 SK hynix 有机会在接口固化前塑造下一代架构。

但这也提高了预期。客户会将研究目标与竞争对手已经部署到网络中的产品进行比较。

正确的结论并不是 SK hynix 已经解决了光学内存问题。该公司界定了它认为下一处 AI 瓶颈所在,以及希望如何应对这一问题。

它押注的是:随着系统规模扩大,HBM 仍然必不可少,但已不再足够。数据必须高效地离开内存堆栈,在处理器之间流动,并穿越整个集群。

这一观点使 hynix newsroom 的公告具有重要意义。它推动 SK hynix 从优化一种有价值的组件,转向提出未来 AI 系统应如何连接。

对开发者和企业买家而言,实际问题如今已经明确:未来的基准测试衡量的只是加速器速度,还是计算与内存之间的完整路径?

关注首个光学内存原型、其平台合作伙伴及其制造数据。这些信号共同将表明,该路线图会成为已部署的基础设施,还是仍停留在颇具说服力的研究方向。

 
 

免费开始

一款本地优先的AI助手,具备个人知识管理功能

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)M-Chip Mac

你的 AI 工作伙伴

remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page