Broadcom Tomahawk 6 带宽翻倍，AI 网络仍面临扩展瓶颈
Broadcom Tomahawk 6 将单芯片 Ethernet 交换容量提升一倍至每秒 102.4 太比特，但这一进步并不意味着 AI 集群的有效容量会自动翻倍。在运营商连接更多加速器之前，更快的连接就可能消耗掉新增带宽。由此带来的压力不仅涉及交换机，还延伸至建筑布局、软件和部署进度。
Data Center Dynamics 于 10 月 30 日刊登的一篇评论文章，再次将这种矛盾带入视野。作者、Eridu 联合创始人 Omar Hassen 认为，网络必须从一开始就塑造 AI 设施。他的警示值得关注，同时也应审视其背后的时间线与假设。
Broadcom 和 Nvidia 已通过更快的交换技术及光学集成作出回应。Meta 的工程实践则提出了另一项考量：已部署带宽与可用带宽并非一回事。核心矛盾在于不断增长的通信需求，与网络提供可预测应用性能的能力之间的冲突。
Broadcom Tomahawk 6 改变了数字，而非整个方程式
最新的带宽提升确实存在，但这并不意味着网络约束已经消失。
Broadcom 于 2025 年 6 月 3 日宣布开始出货 Tomahawk 6。其公布的容量为每秒 102.4 太比特，用于衡量通过交换芯片传输的数据总量。该公司还介绍了面向 AI 基础设施的路由与连接功能。
在评估近期的网络墙论点时，这项公告具有重要意义。Hassen 将交换机带宽和连接性不足视为高效 AI 基础设施的限制因素。他主张提升连接度并采用更扁平的网络，即减少交换层级的设计。
这篇文章属于供应商高管的分析，而非对整个市场的独立测量。这一区别并不否定其论点，但意味着读者应将架构层面的论述，与有关行业进展的主张区分开来。
时间线尤其需要谨慎对待。Broadcom 的Tomahawk 5 发布可追溯至 2022 年 8 月 16 日，当时该公司宣布其交换容量为每秒 51.2 太比特。下一次公告在 2025 年 6 月发布，间隔不足三年。
这些日期并不支持将芯片发布间隔视为接近四年。它们也无法证明完整系统何时实现广泛供货或投入生产。芯片出货、设备认证和运营部署代表不同的里程碑。
这一区别改变了买家应提出的问题。问题不只是交换机制造商是否在将容量翻倍，而是可部署系统能否以目标工作负载所需的速度，提供足够的有效连接能力。
更快的芯片会带来设计选择。运营商可以将其容量分配给更快的连接、更多的连接，或二者的组合。封装、设备设计和受支持的配置决定了哪些选择能成为实际产品。
因此，带宽里程碑应是架构评估的起点，而非终点。买家需要将芯片规格与可采购的设备联系起来，继而将这些设备与应用行为联系起来。
同样的谨慎也适用于网络已不可逆地落后于计算能力的说法。并不存在能够描述每个模型、集群或部署的通用比例。有些应用频繁交换数据，另一些则将更多工作保留在本地。
更站得住脚、也更有用的结论较为有限：交换容量确实在提升，但仅凭容量仍不足以完整描述 AI 基础设施。当工作负载的通信需求超出网络实际能够服务的能力时，压力便会出现。
更快的端口可能吸收全部带宽增益
交换机可以变得更快，却未必能以所需速度连接更多加速器。
关键区别在于总带宽与端口密度，即交换机在指定速度下支持的独立连接数量。两项数字缺一不可。以较低速度实现较高连接数，并不等同于以较高速度实现相同连接数。
这项算术关系解释了为何交换机带宽扩展可能令基础设施规划者失望。如果总容量翻倍，而每条连接所需带宽也翻倍，理论连接数便保持不变。这是一种条件关系，而非对每一款已出货交换机的实测主张。
这一关系之所以重要，是因为 AI 设施必须同时容纳通信速度与集群规模。满足其中一项需求，可能消耗原本为另一项需求准备的资源。运营商不能假设新一代交换机会同等扩大这两个维度。
物理连接器还带来另一项复杂因素。它并不总是对应一条独立的加速器连接。设备可以将通道组合成更快的链路，也可以通过分拆配置划分受支持的连接。
因此，买家需要了解受支持的配置，而非只看醒目的连接器数量。他们还需要知道有多少连接服务于加速器，又有多少用于连接交换机。分配在交换层之间的容量，无法同时服务于端点。
Broadcom 的Tomahawk 6 规格说明了配置细节为何重要。该公司描述了一种双层网络，可在每条链路每秒 200 千兆比特的条件下支持超过 10 万个加速器。这是与特定连接速度相关的供应商设计主张，并非对所有集群的通用保证。
速度限定应与规模数字一并呈现。省略它会使比较产生误导。一个设计能够以某一速度支持大量端点，并不意味着它能以更高速度自动支持相同数量的端点。
同样的原则也适用于交换层级。增加一层可以扩展网络，但也会引入更多设备和连接。这种权衡是否可以接受，取决于穿越该层的流量。
更大的网络并不一定在所有有意义的方面都更慢。当设计和软件能够有效利用时，额外路径可以提供容量与韧性。同样，层级更少也无法保证更好的应用性能。
真正的实际限制，是网络必须持续承载的通信模式。一种设计可能能很好地处理本地化流量，却会在应用跨越远距离群组通信时遇到困难。总带宽可能掩盖这种差异。
这正是为什么比较不同代际的交换机，不能只看容量是否翻倍。有意义的比较应保持端点速度、工作负载、韧性要求和拓扑结构不变。拓扑结构是指设备和链路的排列方式。
缺少这些条件时，交换机带宽扩展可能看起来令人印象深刻，却使运营问题基本维持不变。有了这些条件，买家才能识别设计中真正受益的部分。
压力首先落在集群所有者身上，而非应用用户
当已付费的计算能力因等待通信而闲置时，网络限制便成为运营问题。
以分布式训练任务为例，多个加速器协同更新同一个模型。每个加速器负责部分计算，并在指定节点与其他参与者交换信息后才能继续。
集合通信操作会协调一组处理器之间的这种交换。例如，全归约会合并各方贡献，并分发合并后的结果。其完成取决于该群组所需的通信。
关键后果在于协调。一台完成本地工作的加速器并不总能独立推进。通信延迟会延长恢复有效计算所需的时间。
这并不意味着网络解释了每一台闲置加速器。数据准备、软件行为、内存限制和调度也可能限制性能。将所有利用不足归因于网络，反而会掩盖实际诊断结果。
对于集群所有者，相关问题是何种约束决定任务完成时间。当其他资源决定进度时，更快的交换机价值有限。反之，当通信仍处于关键路径上时，更快的处理器带来的收益也会减少。
这给基础设施规划带来压力。采购团队可以通过不同流程购买加速器和网络设备，但应用会将二者作为整体来体验。设备决策已经限制可用补救措施后，这种不匹配才会在工作负载执行期间显现。
同样的关系也体现在推理中，即运行已训练模型以生成输出的过程。当一个模型跨越多个加速器时，通信便成为处理请求的一部分。其重要性取决于应用如何划分工作。
混合专家模型会针对不同输入选择专门的模型组件。当这些组件位于不同设备上时，在它们之间路由工作便会增加通信需求。部署安排决定了多少流量需要跨越网络。
另一种安排会将处理输入提示词的预填充，与生成后续输出的解码分离。在这些阶段之间转移模型的中间注意力状态，会引入传输需求。这种权衡可能是值得的，但其价值部分取决于网络行为。
这些例子说明，AI 网络瓶颈应按工作负载进行评估。训练结果无法自动预测推理性能。针对一种通信模式优化的配置，在另一种模式下可能表现不同。
应用用户会间接遇到这些限制。他们感受到的是完成时间、服务一致性和可用容量，而非交换机规格。因此，企业买家需要反映其预期使用方式的服务证据。
集群运营商面临更直接的责任：识别通信在哪些环节限制了有效工作，然后决定应通过硬件、软件还是部署位置调整来解决。无处不在地增加带宽，是理解约束条件的一种昂贵替代方案。
由此带来的规划转变十分具体。在采购锁定架构之前，网络需求就应纳入工作负载设计和设施决策。等到可见的拥塞出现时，可行的选择已经更少。
更多交换容量无法修复所有流量问题
网络可能拥有足够的总容量，却将流量引导到了错误的路径上。
设想一个在通信设备之间存在多条可用路径的网络。如果繁忙的数据传输集中在同一条路径上，另一条路径可能仍未被充分利用。增加已部署的总带宽，并不能保证流量得到有效分配。
这里是硬件规格与传输行为交汇之处：端点发送、确认和恢复数据所遵循的规则。这些规则会影响应用程序利用可用路径的效率，也决定了拥塞或丢包中断通信时会发生什么。
Meta 已发布的分布式训练网络工作提供了一个运营层面的案例。其工程师描述了路由挑战、与通信软件的协同，以及考虑网络布局的调度方式。这些经验表明，应将网络视为一个系统，而非一项交换机采购。
RoCE，即融合以太网上的远程直接内存访问，使设备能够通过以太网访问远程内存。Meta 的说明表明，运营此类网络所需的改变并不止于原始链路速度。其启示在于系统集成，而非对某一种配置的普遍背书。
任务部署是这种集成的一部分。让通信密集的设备在网络中彼此接近，可减少受限链路上的流量。即使加速器总数量不变，以不同方式分散部署也可能增加压力。
因此，调度决策会影响硬件表观性能的优劣。采用有利部署方式的基准测试，可能在秩序较少的实际生产环境中无法复现。买方在将基准性能视为服务承诺前，应理解这种差异。
Meta 于 2026 年 8 月 24 日发布的 MetaRoCE 传输设计延续了同一讨论。该公司描述了将更多路径管理移至网络端点，并支持乱序到达的数据包。其表示已使用 AMD Pensando 网络硬件完成验证。
这些是公司报告的结果，适用其所述测试条件。它们并不能证明在每种加速器、适配器或生产环境中都具有等效表现。其意义在于，一家大型运营商正通过传输设计与物理基础设施并行解决网络限制。
因此，不应将 Broadcom、Nvidia 和 Meta 简化为围绕交换机容量的简单竞争。它们的工作覆盖通信系统的不同环节。硬件和软件改进可以相互补充。
对买方而言，这使供应商比较更复杂，但也带来了更好的问题。性能是否依赖某一特定适配器？通信库是否需要特定设置？链路发生故障后，流量会如何重新分配？
这些问题将 AI 网络瓶颈与运营责任联系起来。必须有人维护能够交付承诺结果的配置。如果运营团队无法观测或排查某项性能功能，其实际价值就有限。
更广泛的含义是，不能仅根据总容量推断应用性能。有效路由、兼容端点和工作负载部署决定了其中有多少容量能转化为实际效用。更快的芯片提供余量；系统决定如何有效利用它。
光学集成应对功耗，同时带来运营问题
降低通信功耗具有价值，但效率声明需要明确界定边界。
Nvidia 于 2025 年 3 月宣布推出光子网络交换机，包括 Spectrum-X Ethernet 和 Quantum-X InfiniBand 产品。其公告将光学集配置于网络战略的核心位置。Broadcom 也介绍了 Tomahawk 6 的光学集成选项。
共封装光学技术将光学组件置于集成封装内、靠近交换芯片的位置。这种方法缩短了信号转化为光之前所经过的部分电气路径。供应商将其定位为提升高速通信效率的方式。
这解决了问题的重要一部分，但并非全部。更高效的光连接无法独立解决不佳的流量部署问题，也不能证明完整设施能够以相同的应用输出使用更少能源。
测量边界至关重要。一项比较可能涵盖光学组件、网络设备，或整个计算设施。这些是不同的声明，应当保持区分。
同样，通信效率提升并不会自动转化为等量的应用改进。结果取决于应用程序花费多少时间进行通信，也取决于通信改善后是否有其他约束变得占主导地位。
这是一种普遍的性能关系，并非反对光学集成的证据。消除一个约束可能暴露另一个约束。买方需要了解，当在应用层面进行测量时，哪些改进能够持续存在。
运营设计还带来了更多问题。采用集成组件的设备可能改变更换流程和备件规划。相关细节取决于具体系统，因此，对可维护性的宽泛说法需要谨慎对待。
采购团队应确认技术人员可独立更换哪些组件，也应了解隔离故障的流程。这些事实会影响效率改进如何融入运营环境。
可靠性比较也需要同样的严谨性。组件的故障行为与服务可用性相关，但并不相同。即使单个组件发生故障，冗余路径和恢复软件仍可能保留应用程序的进度。
反过来，高可靠性组件也无法保证服务不中断。软件错误、配置失误和其他位置的故障仍可能影响应用。评估完整设计，可以避免将狭隘的可靠性指标变成缺乏依据的服务声明。
因此，最有力的审慎视角在于范围。更快的交换和光学集成解决了可识别的工程问题。证据必须说明这些解决方案如何影响所采购的工作负载、设施和维护流程。
这一标准同样适用于关于永久性网络壁垒的预测。随着应用、传输软件和设备变化，约束也会发生转移。有用的问题是，下一次部署将由哪项限制主导，而不是哪种技术会永远胜出。
对于运营商而言，Broadcom Tomahawk 6 应作为一项具体的硬件进步纳入评估。其价值取决于它所支持的设计，以及该设计交付的结果。
关注可部署系统、工作负载结果与恢复行为
接下来的证据应将产品能力与可重复的运营结果联系起来。
未来数月，首要信号是完整系统是否能以指定配置供货。芯片发布证明了技术进步，但买方需要能够鉴定、安装和支持的设备。这些里程碑之间的联系值得明确报道。
对于 Broadcom Tomahawk 6 系统，有价值的披露应说明所支持的端点速度、连接数量和网络布局。它们应区分已可用配置与计划中的选项，也应说明哪些软件功能已可用于运营。
此类证据将强化“更新的交换技术能够缓解当前限制”的论点。若已宣布能力与合格设备之间持续存在缺口，则会削弱这一论点。无论哪种结果，都无需假设每家运营商遵循相同的部署时间表。
下一个信号是在可比条件下的工作负载性能。有意义的比较应在保持应用程序和加速器配置不变的同时，明确网络变化。否则，改进可能来自软件或计算硬件中无关的变化。
训练比较应在通信测量之外报告应用完成行为。推理比较应描述请求特征和服务条件。缺少工作负载背景的结果，对采购的指导价值有限。
尾延迟，即异常缓慢的完成时间，也值得关注。平均性能可能掩盖影响协同工作或用户体验的延迟。买方需要知道，在持续需求下，改进是否仍能保持一致。
有力的结果将表明，增加容量或改善传输能够减少有意义的应用约束。较弱的结果则会显示，在纳入现实运营条件后收益有限。无论哪种发现，都比又一项孤立的带宽纪录更具信息价值。
最后一个信号是在故障和混合需求下的恢复行为。应在链路故障、流量转移或多个应用竞争时评估网络。这些条件可以揭示，架构是否能在精心安排的演示之外保留有用工作。
对于端点驱动的传输，相关证据包括兼容硬件及其在不同网络布局下的表现。对于光学集成，则包括维护流程以及组件出现问题时的服务连续性。这些是技术声明的实际延伸，而非独立问题。
可重复的恢复结果将增强人们对更大规模部署的信心。排障困难或行为不稳定，则会限制更大容量所呈现的收益。结果之所以重要，是因为运营商必须在系统整个生命周期中提供支持。
工程团队应保留每次比较背后的假设，包括工作负载部署、设备配置和软件版本。可搜索的工程知识库可帮助在部署条件变化时保留这些决策。
在批准下一个集群之前，请供应商在您预期的运行条件下演示您计划运行的应用。要求提供受支持的连接配置、通信软件假设以及故障后的行为。将这些发现附于采购决策，以便后续团队能够区分设计限制与配置问题。Broadcom Tomahawk 6 表明交换机容量正在提升；您的验收标准应确定这种提升是否改善了有效工作。应从工作负载的通信需求出发，据此比较完整系统，并将部署就绪度纳入性能讨论。当安装环境繁忙、不完美且运行超出基准测试条件时，哪一种网络仍能支撑您的应用？
