AI 芯片散热进入封装内部
本周,Google News 将 AI 芯片散热推上焦点,此前一份新的市场报告指出,传统散热设计正接近实际可行性的极限。如今的竞争已不只是风冷与液冷之间的较量。芯片制造商必须决定,散热硬件应在多大程度上靠近活跃硅片、堆叠内存和先进封装。
导火索是 BCC Research 于 8 月 31 日发布的一项评估。该评估将不断上升的处理器功率密度与三维均热板、直接液冷以及更高度集成的导热路径需求联系起来。报告还将亚洲零部件供应商列为这场转型的重要参与者。
这一框架值得审视。BCC Research 发布的是市场评估,而非独立的工程基准测试。不过,其主张与 Nvidia、Microsoft、TSMC 和 Open Compute Project 的公开项目相吻合。
散热已成为持续计算性能、设施设计和部署进度的制约因素。这使芯片设计者和数据中心运营商站在同一阵线,共同面对一个异常棘手的工程难题。
一份市场报告如何将散热变成 AI 芯片故事
最直接的变化是,热管理正从辅助设备转变为 AI 计算系统战略设计的一部分。
Google News 的报道源于对 BCC Research 新均热板市场评估的报道。BCC 于 2026 年 8 月 31 日发布了原始公告,也就是聚合报道广泛传播前两天。
报告称,AI 服务器功耗已从约 500 至 600 瓦上升到最高 2,000 瓦。BCC 还提到,专用机架配置的功耗可达 10,000 瓦。这些数字似乎描述的是不同的设备边界,因此读者不应将其视为一条连续、可直接比较的历史序列。
更有力的结论关乎热密度,而非某一个具体功耗数值。如今,更多电力输入到更小的区域中,其中包含逻辑芯片、高带宽内存、网络组件和供电硬件。这会产生局部热点,而平均机架测量数据可能掩盖这些问题。
均热板是一种密封的扁平热管,内部含有工质。热量会使靠近热源的工质蒸发,蒸汽随后向较冷的表面扩散。工质接着冷凝,并通过内部毛细结构回流。
这一过程能将集中的热量扩散到更大的表面上。传统二维均热板主要在单一平面内横向传热。三维设计则增加了垂直导热路径,可更直接地连接封装、内存堆叠和冷板。
BCC 认为,仅靠传统均热板无法应对高密度 AI 加速器预期产生的热流密度。因此,其均热板评估将三维均热板与液冷基础设施视为一套组合架构。
这一区别很重要。均热板能将热量从热点移开,但不会让热量凭空消失。另一套系统必须将这些能量带出服务器,最终带出建筑物。
报告列出 Murata Manufacturing、DNP、Fujikura、Delta Electronics、Samsung Electronics 和 Intel 等公司,认为它们在这场转型中具有相应布局。它们扮演的角色差异很大:有些制造散热部件,另一些则设计芯片、电子设备或完整基础设施系统。
消费级硬件也构成了故事的另一部分。BCC 指向近期 Samsung 移动设备采用的散热设计,其中堆叠式组件可能阻碍传统导热路径。手机的功耗远低于 AI 服务器,但两个市场都面临紧张的物理空间限制。
这种相似性并不意味着它们的散热系统可以互换。但它确实说明,具备小型化经验的散热供应商如今为何会吸引 AI 基础设施投资者的关注。
因此,这条新闻的范围不止于一项产品发布。一家市场研究机构已将零部件供应商纳入 AI 芯片投资叙事之中。公开的工程路线图表明,底层的热管理压力确实存在,尽管最终赢家仍未确定。
为什么 Google News 充斥着 AI 散热方案
AI 基础设施供应商现在讨论散热,是因为硅片、内存、封装和机架密度正作为一个相互连接的系统共同演进。
加速器公开标称的功耗只能说明部分情况。工程师还必须管理热流密度,即穿过给定面积的热能。两台设备即便功耗相近,也可能带来截然不同的散热难题。
AI 封装正越来越多地将大型处理器与多层高带宽内存结合起来。高带宽内存,即 HBM,通过垂直堆叠内存裸片来更快地传输数据。这种结构提升了带宽,但也带来了复杂的导热路径。
TSMC 的封装路线图展示了这一物理演进方向。其 CoWoS 工艺将逻辑芯片和 HBM 组件置于中介层上,从而在这些元件之间提供高密度连接。这家晶圆代工厂正在扩大封装尺寸,以容纳更多硅片和内存。
TSMC 表示,其于 2025 年完成了 5.5 倍光罩尺寸 CoWoS 中介层的认证,并将于 2026 年开始量产。其更广泛的 CoWoS roadmap将更大封装与更高计算能力和内存带宽联系起来。
光罩尺寸是单次光刻步骤中可曝光的最大面积。超过该面积的封装需要采用连接或拼接更大结构的技术。每一次扩展都会使供电、机械稳定性、信号布线和散热更加复杂。
散热系统必须触及发热组件,同时不能阻碍这些连接。它还必须在热特性不同的处理器和内存堆叠之间维持均匀温度。过大的温度差异可能限制时钟频率,并缩短组件寿命。
传统服务器机房通过机架循环输送冷空气。这一模式仍适用于许多工作负载,但空气的携热能力远低于液体。因此,高密度 AI 机架可能需要更大的风量、更大的风扇以及更低的送风温度。
这些措施会消耗空间和电力。它们也会遇到实际限制,因为气流必须绕过线缆、机箱、散热器和密集排列的组件。
直接芯片液冷以安装在处理器上的冷板替代部分风冷路径。冷却液流经内部通道,并将热量带至冷却液分配单元,通常称为 CDU。CDU 将技术回路与设施回路隔离开来。
其余风冷组件仍然重要。内存、电压调节器、网络接口和存储设备可能保留足够热量,仍需要风扇散热。因此,名义上采用液冷的机架实际上可能作为混合系统运行。
Nvidia 正通过 Rubin 时代的基础设施超越这种折中方案。该公司称,其最新架构可以使用液体冷却所有主要计算和网络组件。其设计支持 45°C,即 113°F 的冷却液入口温度。
更高的冷却液温度听起来似乎有违直觉,但在许多气候条件下,它会增大冷却液与室外空气之间的温差。这可减少对机械制冷机和蒸发式冷却塔的依赖。
Nvidia 表示,其45°C 冷却液设计可支持干冷器,并在有利条件下将设施冷却用水量降至接近零。这是与特定设计和气候条件相关的公司说法,并不代表适用于所有数据中心的结果。
关键变化在于架构层面。新的加速器不再能作为一块孤立的板卡交付,再由运营商简单地放入现有机房。其散热要求会影响歧管、泵、设施水温、换热器和备用流程。
芯片路线图如今直接向建筑业主、托管服务商和公用事业单位施压。持续计算密度的每一次提升,都可能引发远超服务器本身的变化。
均热板与液冷回路解决的是不同问题
核心竞争并非均热板对阵液冷,而是模块化扩散热量与更深度集成硅片及封装之间的取舍。
均热板处理热量传递旅程的第一部分。它将热量从小范围热源扩散开,并向散热器或冷板提供更易管理的表面。液冷则负责将热量从设备输送到设施散热系统的更长旅程。
将二者结合,可在不迫使冷却液穿过半导体本身的前提下提升性能。这种分离具备实际优势。制造商可以独立测试散热组件、更换模块,并限制泄漏事故的影响范围。
三维均热板延伸了这种模块化策略。其导热路径可环绕堆叠结构,或连接多个散热表面。这种方法适用于单个平面均热板已无法覆盖所有关键热点的封装。
该架构仍包含多个界面。热量在到达流动冷却液之前,需依次穿过硅片、封装盖板、导热界面材料、均热板和冷板。每个边界都会增加热阻,从而阻碍热传递。
导热界面材料用于填补固体表面之间的微小空隙。它能改善接触,但无法消除热阻。热流密度越高,每一层的影响就越显著。
Microsoft 正在测试一种集成度更高的替代方案。其微流体方法在硅芯片背面蚀刻微小通道,使冷却液更接近活跃计算区域。这些通道针对热点进行冷却,而非对整个封装进行均匀散热。
Microsoft 表示,在实验室工作中,该设计的散热效率最高可达常见冷板的三倍。该公司还报告称,可将 GPU 内部最高温升降低最多 65%。
这些微流体实验室测试并不能证明其已具备量产条件。Microsoft 表示,结果会因芯片类型、工作负载和配置而异。可靠性测试仍是必要的下一步。
这一比较揭示了行业的主要矛盾。模块化组件可简化制造和维护,但每一个界面都会削弱热性能。集成式散热缩短了导热路径,但也将流体工程与半导体制造联系在一起。
这种联系带来了棘手的问题。微通道必须承受制造偏差、压力循环、污染物以及长时间运行。工程师还需要找到在安装后检查或隔离故障的方法。
封装设计师面临类似的权衡。靠近 HBM 放置散热元件可以降低热阻,但也会占用电气连接所需的面积,并可能使组装和测试更加复杂。
浸没式冷却则提供了另一条路径。它将服务器或组件置于介电液体中,在规定条件下,这种液体不导电。单相系统循环温热液体,而两相系统则利用沸腾和冷凝。
浸没式冷却能够覆盖冷板难以触及的表面。然而,它会改变维护流程、材料要求、流体管理和设备保修方式。对现有站点进行改造尤其可能变得复杂。
因此,没有任何一种冷却技术能在所有层面胜出。均热板在需要热扩散和紧凑设计的场景中仍然重要。冷板为高功率处理器提供了成熟路径。微流体技术有望实现更近距离接触,而浸没式冷却则覆盖更广泛的组件。
更可能的结果是分层架构,而非一种通用替代方案。冷却方式将根据芯片功耗、热通量、机架设计、设施所在气候、服务预期和部署规模来选择。
这使供应商比较比简单的市场份额排名更困难。一家公司可能在移动设备均热板领域领先,却未必符合数据中心可靠性标准。另一家公司或许能制造出优秀的冷板,但缺乏设施集成经验。
最终胜出的企业,将把组件性能与制造良率和可维护的系统结合起来。仅凭实验室热阻表现,无法决定这场竞争的结果。
如今,冷却正给整个数据中心技术栈施压
更高温的 AI 芯片迫使运营商在安装第一台机架之前,就要对电力、用水、场地空间、维护和部署时间作出决策。
压力首先来自既有建筑。许多数据中心原本围绕风冷企业级服务器设计,其机架密度相对可预测。增加一个高密度 GPU 集群,可能会超出机房的供电和冷却能力。
运营商可以将服务器分散到更多机架中,但更长的网络路径可能降低性能并增加基础设施成本。也可以增加空气处理设备,但场地空间和气流路径仍然有限。液冷能够提供更大容量,却会引入新的管路系统。
设施可用水量带来了另一项限制。一些系统使用封闭式设备回路,但仍通过冷却塔排热。这些冷却塔通过蒸发消耗水资源,因此当地气候和水资源压力成为重要的规划因素。
美国能源部估计,冷却最高可占数据中心能耗的 40%。其冷却能耗报告早于最新一代 AI 系统,但说明了热效率为何会影响运营经济性。
电能使用效率(PUE)用于比较设施总能耗与交付给计算设备的能耗。更低的冷却能耗可以改善 PUE,但该指标并不衡量有效 AI 产出,也无法反映所有用水或电网影响。
运营商日益关注每单位受限电力所产生的 token 数。更好的热管理系统可以帮助加速器在不降频的情况下维持更高利用率。不过,冷却泵和排热设备同样会消耗电力。
Nvidia 认为,在合适的设计中,温水运行可以取消冷水机组。如果成功部署,这将使更多电力预算转向计算,也可能在有利气候条件下减少蒸发用水。
气候仍是关键限制因素。干式冷却器通过向室外空气排热,因此性能会随环境温度变化。在凉爽地区高效运行的配置,到了炎热夏季可能需要额外设备。
改造项目比新建工程带来更多不确定性。运营商必须检查管线路径、地板承重、水质、电力容量和控制系统,还需要制定针对泄漏、冷凝、维护和紧急停机的流程。
托管数据中心提供商面临商业难题。其建筑服务于使用不同硬件世代和冷却要求的客户。固定设计可能迅速过时,而过度灵活则会增加成本和闲置容量。
标准化可以降低这一风险。Open Compute Project 发布的要求涵盖冷却液类型、连接器、歧管、CDU、供液温度、压力条件和液冷分类。
其冷板要求包括达到 45°C 及以上的水质等级。此类规范为设备制造商和设施运营商提供了评估兼容系统的共同语言。
标准并不能消除供应商间的差异。材料可能与冷却液发生反应,连接器设计可能泄漏,狭窄通道可能积聚污染物。监控系统必须在问题损坏昂贵的加速器之前及时发现它们。
维护技能同样至关重要。习惯更换风扇和散热器的技术人员,必须开始处理泵、阀门、过滤器和流体化学问题。服务合同需要明确芯片、服务器、机架和设施供应商之间的责任。
这些运营问题解释了为何冷却可能延缓计算部署。只有当站点能够供电、冷却、连接并维护设备时,一批加速器的交付才能转化为可用容量。
这一现实迫使 Nvidia、AMD 和定制芯片开发商尽早公布基础设施要求,也迫使服务器制造商验证完整机架设计,而不能将冷却视为由客户自行提供的细节。
超大规模云服务商拥有更强的控制力,因为它们协调芯片、系统、软件和设施。较小的运营商则更依赖标准化模块和集成合作伙伴。因此,先进热管理可能进一步扩大这两类群体之间的部署差距。
对企业买家而言,采购单位正在发生变化。仅比较加速器规格已不再足够,买家还需评估围绕交付 AI 性能的完整热管理和电力边界条件。
最有力的冷却主张仍需要量产证据
热管理转型真实存在,但市场预测和实验室结果并不能保证可靠的大规模部署。
BCC Research 将向 3D 均热板转变描述为高密度 AI 系统的必然要求。这样的表述比公开证据所能支持的结论更强。不同芯片、机架和设施可能采用不同的热管理路径。
一些系统可能将常规冷板与更大的设施回路搭配使用。另一些则可能采用先进均热板、浸没式冷却槽、后门热交换器或芯片级通道。工作负载调度也可以减少同时出现的热峰值。
报告中的功率数据需要谨慎解读。处理器功率、服务器功率、机架功率和热通量衡量的是相关但不同的条件。若不明确边界就将其混合,可能夸大趋势或误导买家。
供应商演示也存在另一项限制。Nvidia 的温水设计和 Microsoft 的微流体测试处于不同成熟阶段。Nvidia 描述的是基础设施架构,而 Microsoft 公布的数据来自实验室测试。
这两项主张都不应被泛化到所有数据中心。节水效果取决于气候、排热设备、运行温度和核算边界。冷却性能则取决于芯片结构、冷却液流量和工作负载行为。
对于集成式设计而言,可靠性是最重要的未解问题。若通道堵塞、密封件退化或维护变得不切实际,温度的小幅改善意义不大。AI 加速器代表着集中的资本投入,因此停机成本很高。
制造良率带来了相关担忧。在封装或硅片中加入热管理结构,会增加更多工艺步骤。每一步都可能提高检测要求,并引入另一种失效模式。
供应链产能同样重要。数据中心客户需要的是大量一致的组件,而不是令人印象深刻的原型。均热板、冷板、泵、歧管和连接器必须以经过验证的材料和可追溯的质量交付。
冷却液选择也伴随取舍。水具有良好的传热能力,但需要防腐控制和电气隔离。乙二醇混合液可适应更低温度,但可能降低热性能。介电液体能够简化电气风险,却会带来成本和材料方面的问题。
两相流体还会引入额外的环境和监管考量。运营商必须评估全球变暖潜势、泄漏、压力控制和报废处理。法规可能在设施漫长的运行周期中改变可接受的流体范围。
另一个风险是,更好的冷却可能推动更多计算,而非降低资源使用。高效系统可能减少每项任务的能耗,同时让运营商安装更多加速器。总用电需求仍可能上升。
同样的反弹效应也会影响用水。某种设计每兆瓦的用水量可能更低,但却支持规模大得多的园区。本地社区感受到的是总取水量和总消耗量,而不只是效率比率。
Google News 的报道可能让这场转型看似是一波单一、可投资的浪潮。实际上,价值将分布在材料公司、组件供应商、服务器制造商、设施专家和芯片设计商之间。
一些供应商将围绕热阻展开竞争,另一些则会凭借可靠性、安装速度、服务覆盖范围或标准合规性取胜。投资者应区分工程技术地位与收入敞口。
Simply Wall St 的文章同样源自面向市场的股票汇编,其目的在于突出与 AI 芯片需求相关的公司。这种框架并不能证明客户将采用哪些热管理技术。
谨慎的结论依然重要:冷却已更接近封装,供应商如今将热设计视为计算架构的一部分。尚不确定的是,哪一种集成层级能够在密度与可维护性之间实现最佳平衡。
三项信号将显示先进冷却能否规模化
下一阶段将由量产部署、共享技术标准和可衡量的设施结果决定。
第一项信号是 Rubin 时代的温水部署。Nvidia 表示,其下一代基础设施支持采用 45°C 进水温度的全液冷运行。运营商应关注生产站点能否在季节性温度变化中持续维持这些条件。
成功部署将增强适宜气候下无冷水机组排热方案的可行性,也将表明网络、电力系统和配套电子设备能够在不依赖服务器风扇的情况下运行。
关键证据将包括实际设施配置、用水核算、泵能耗、正常运行时间和维护记录。关于近乎零冷却用水的营销主张,需要清晰边界来区分封闭回路与站点总用水量。
第二项信号是部署在封装内部或紧邻封装位置的冷却技术能否获得量产认证。Microsoft 的微流体研究提供了明确的技术参考,但目前仍处于实验室项目阶段。
制造公告的重要性将超过又一项温度基准。买家需要了解通道制造、故障检测、冷却液洁净度、可维护性和长期可靠性。
TSMC 和内存制造商值得密切关注。更大的封装和更高密度的 HBM 配置,提高了更短热传导路径的价值。它们的封装路线图能够揭示集成冷却会成为标准选项,还是专业功能。
第三项信号是跨机架和设施的互操作性。开放规范必须转化为运营商能够从多个供应商采购的硬件。连接器、冷却液限制、压力范围和遥测数据应能够协同工作,而无需漫长的定制过程。
广泛的互操作性将有利于模块化冷板、均热板和 CDU。标准化进程缓慢则会让垂直整合的超大规模云服务商占据优势,因为它们能够掌控整个技术栈。
部署数据最终将比市场预测更重要。运营商应比较加速器的持续性能、总能耗、用水量、维护时间,以及每平方英尺所交付的容量。
关注 google news 的读者还应区分三种不同的说法:组件可以更好地扩散热量,服务器可以将更多热量导入液体,而设施则可以高效地排出这些热量。某一层面的成功,并不保证其他层面同样成功。
对开发者而言,更好的冷却能力可能意味着更多可用算力和更稳定的性能。对企业采购方而言,这会改变场地准备条件、合同条款,以及基础设施投资的有效使用寿命。
知识工作者或许会通过 AI 服务的可用性和成本间接感受到影响。跟踪这些技术变化的团队,可以将一手公告和工程说明整理到一个可搜索的知识库中,而不必反复依赖新闻标题。
问题已经不再是更高热负载的 AI 系统是否需要新的冷却方案,而是集成式热设计能否走出实验室,经受住量产考验,并在多年后仍便于维护。
关注首批大规模部署,而不只是下一次组件发布。这些系统将揭示先进冷却技术究竟能否扩大可用的 AI 容量,还是仅仅将瓶颈转移到别处。



