AI耗电有多夸张一次AI查询够让微波炉运行8秒
都说AI耗电，具体有多耗呢？
据美国劳伦斯伯克利国家实验室估算，到2028年，仅AI的年度耗电量就可能达到全美家庭用电总量的22%。
《麻省理工技术评论 》的最新文章，从开源模型的单个查询成本出发，为我们提供了一些能源消耗的关键数据。
一起来看看这些数据：
一、训练模型阶段
- 据估算，训练OpenAI的GPT-4耗资超1亿美元，消耗50吉瓦时能源，相当于旧金山全市三天的用电量。
- AI模型被部署在配备特殊芯片的服务器集群上运行，全美境内约有3000座数据中心。
- 为了保持芯片与CPU冷却，许多数据中心每日需消耗数百万加仑水（1加仑≈ 3.79升）用于冷却系统。
二、查询阶段
由于AI模型的类型和规模、生成内容的种类，以及诸多不可控变量，单个查询的能耗与碳排放量出现上千倍的差异。
文本模型：模型规模是能耗的核心决定因素
- Llama 3.1 8B：该模型每个回答约消耗57焦耳能量；若计入冷却系统及其他计算需求，总能耗预估达114焦耳，仅相当于电动自行车行驶1.8米，或微波炉运行0.1秒的耗电量。
- Llama 3.1 405B：平均每个回答消耗3353焦耳，综合能耗预估达6706焦耳，足以支持电动自行车载人行驶122米，或让微波炉运行8秒。
图像模型：实际能耗取决于模型规模、图像分辨率以及扩散过程的“步数”
- Stable Diffusion 3 Medium：生成标准画质图像（1024×1024像素）需消耗约1141焦耳GPU能量，总能耗预估为2282焦耳。
- 若将扩散步数提升至50步，能耗将翻倍至约4402焦耳，相当于电动自行车行驶76米，或微波炉运行5.5秒的耗电量。
视频模型
- CogVideoX：16帧/秒的5秒视频将消耗约340万焦耳，相当于生成单张高清图像能耗的700余倍。约等于电动自行车连续行驶61公里，微波炉持续运行超1小时。
三、这些数字意味着什么？
- 由于数据中心需要不间断供电，因此其平均用电的碳强度比常规电网更高。哈佛大学研究显示，美国数据中心所用电力碳强度较平均水平高出48%。
- 研究机构Epoch AI估算，单次ChatGPT查询约消耗0.3瓦时能量。若按每日10亿次查询计算，年耗电量将超109吉瓦时，相当于1.04万美国家庭的年用电量。
- 2024年，美国数据中心的电力消耗量已达到约200太瓦时，相当于泰国全国一年的用电总量。
如此看来，在AI应用已成必然趋势的当下，全球电网结构与人类社会生态将会被深刻重塑。
原文的可视化效果非常精致，感兴趣的可以看看：
