top of page

可持续AI:绿色计算如何应对机器学习排放

可持续AI的努力主要集中在模型训练期间能源使用的可衡量削减上。

Google和Microsoft都发布了2025年的报告,显示数据中心电力消耗与大型语言模型相关。这些数字揭示了以满容量持续数周的训练运行。

硬件团队转向了专用芯片。 These chips run matrix operations with fewer wasted cycles. Fewer wasted cycles mean lower electricity demand for the same output.

Training Runs Now Face Power Caps

公司为每个项目的总千瓦时设置内部限制。这些限制迫使团队在更大模型和更长运行时间之间做出选择。许多人选择在精简数据集上进行更短的运行。

Microsoft在其环境申报文件中强调了这种权衡。该文件指出,效率提升既来自新硅芯片,也来自在训练开始前修剪低价值数据。

Software Side Changes Matter Too

开发者现在在记录准确率得分的同时记录能源使用。该做法始于Stanford和Carnegie Mellon的研究实验室。在两篇论文显示小幅超参数调整可将能耗降低两位数百分比后,该做法得以推广。

One change is early stopping. Models stop training when validation scores plateau. Another is mixed precision arithmetic that drops some calculations from 32 bit to 16 bit.

Hardware Suppliers Ship Efficiency Data

Nvidia在其最新开发者套件中添加了功率遥测功能。该套件让团队能够实时查看网络每一层的瓦数。团队利用读数来决定模型层是否值得投入成本。

Arm和Intel为其服务器产品线发布了类似工具。这些工具可在不同芯片系列间提供可比的瓦数数据。

Limits Still Exist on Current Approach

功率报告依赖于公司提供的数据。独立审计仍然罕见。一些研究人员质疑,当模型从实验室集群迁移到完整生产集群时,报告的增益是否依然成立。

Watch Next Three Months

查看最大云提供商的季度环境申报文件。留意Nvidia新一代芯片以及Google和Amazon的定制硅芯片工作的更新。跟踪学术会议是否将功率使用纳入必需的提交指标。

 
 

免费开始

一款本地优先的AI助手,具备个人知识管理功能

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)M-Chip Mac

在你的大脑里添加一个搜索栏

Ask remio

记住一切

​无需整理

bottom of page