在春节期间,最热门的话题是深入的搜索(DeepSeek)。
在农历新年期间,作者还问了一个问题:与GPT-4相比,您可以节省多少计算能力?
但是DeepSeek没有具体的答案,而是促使我检查了公司的产品描述。
实际上,自2022年生成AI繁荣的兴起以来,AI与大型模型开发与功耗之间的关系一直是一个热门话题,人工智能行业通常将能源视为该行业的瓶颈。
焦耳杂志上发表的一篇论文预测,到2027年,全球人工智能行业的年度电力消费将达到85.4至134 Terawatt小时(TWH),这对于荷兰,瑞典或阿根廷等国家大约一年。总电力消耗量也约占全球总电量消耗的0.5%。该研究还发现,近年来流行的流行生成的人工智能Chatgpt需要每天处理约2亿个请求,并且此过程中的电力消耗超过500,000千瓦时,相当于每日的电力消耗量17,000个美国家庭。
在2024年博世互联网世界会议上,埃隆·马斯克(Elon Musk)警告说,人工智能和电动汽车的快速增长可能导致全球电力和变压器供应短缺。同时,OpenAI首席执行官Sam Altman在2024年世界经济论坛上说,人工智能行业正面临着能源危机,新一代生成AI的能源需求显然超出了预期,现有的能源供应将被用尽。一段时间以来,人工智能能源危机理论一直在世界各地。
但是随着DeepSeek的出现,这种情况可能会改变。通过更有效的计算,与OpenAI相比,DeepSeek的计算功率需求急剧下降。 “分布式”计算能力的部署,即DeepSeek每个都有一组DeepSeek,AI可能不再是“大野兽”的权力。
但是,尽管没有研究比较DeepSeek相对于其竞争对手的能源使用,但从现在开始,能源仍然是影响AI发展的最大变量。
01
最近,在麻省理工学院技术评论网站上发表的一篇文章提到,在40 tip测试中,DeepSeek的能源效率与元模型相似,但是DeepSeek倾向于产生更长的答案,该答案被发现使用了87%的能量。
一位行业内部人士告诉作者,去年,每个人都在AI计算能力上投入了很多资金,许多公司以便宜的电价的地方建立了数据中心,例如在Gansu,Qinghai,Qinghai,tibet,Inner Mongolia和其他地区,尽管有没有想到今天的DeepSeek会出来的事情,这改变了整个基本逻辑,但实际上,DeepSeek当前对计算能力的消费也很高。除了卡外,还有电力,电价将影响其整体成本。
目前,大型AI模型正在迅速发展,他们能够处理和学习庞大的数据集。此功能需要大量的计算资源,这些计算资源通常由高性能处理器(包括GPU,TPU和ASIC芯片)提供。这些处理器需要大量功率来驱动数据中心的服务器,存储设备和冷却系统。 GPT代表的生成预训练的大型语言模型需要两个变量:对参数和令牌数量的正向依赖性,这极大地影响了模型的潜在规模和复杂性。将指数从数十亿美元更改为数万亿美元。
自2012年以来,对AI培训申请的功率需求每3至4个月增加了一倍。训练大型型号需要大量能量。与传统服务器相比,AI服务器通常需要更高的功率密度硬件。例如,AI服务器可能需要4个高功率电源为1,800W,而通用服务器可能仅需要2 800W电源。一些机构估计,与传统的普通服务器相比,AI服务器的功率近6-8倍,并且功率需求也将同时增加6-8倍。
根据张Yaxin和Mu Qijian的研究和计算,中国资源与环境业务部国际工程咨询公司有限公司,到2030年,人工智能领域的计算功耗大型模型预计将达到1.93到2030年,该国功耗的%至5.25%。
在保守的增长情况下,据估计,人工智能计算能力将消耗约2177亿千瓦时的电力,占国家用电消耗的1.93%,相当于约2675万吨的标准煤能源消耗。如果根据快速增长的情况进行预测,则预计用电量和能源消耗的比例分别上升到5.25%和1.21%。
此外,随着人工智能行业的持续发展,将来可能会出现更复杂和多样化的人工智能模型和应用方案,这也意味着能源消耗的影响将在一定程度上显示出连续的增长趋势。
更重要的是,受人工智能能源消耗影响的空间和时间分布可能在将来显示出不平衡。
从时间分布的角度来看,人工智能能源消耗显示了“夏季和冬季,低春季和秋季”的季节性波动模式。季节性温度变化是影响计算功率基础设施能源消耗的关键因素。例如,夏季温度的升高导致数据中心依靠大量的冷却设备和电力来维持设备的环境温度,从而大大增加了能源消耗;虽然数据中心下的冬季寒冷温度,但仍需要额外的能量来保持适当的室内温度,以防止低温下的性能降解。
从空间分布的角度来看,我国的“东方计算”项目正在重塑人工智能能源消耗的地理布局。总体而言,我的国家正在北京,天津和赫比,杨氏河三角洲,广东,香港,香港和澳门,成谷和重峰,内蒙古,吉济兹,吉兹,甘努,甘西,甘努和宁克斯以及依靠轮胎nodes for Hub nodes,建立了八个主要的计算能力集线器节点。计划Zhangjiakou集群,Wuhu群集和长河三角洲的生态绿色综合发展。排名前十的国家数据中心集群,包括示范区,Shaoguan集群,天富集集群,重庆集群,Gui'an群集,Qingyang群集和Helinger Cluster。随着计算功率基础设施集线器节点和数据中心群集的构建和开发,人工智能的能量消耗压力将主要转移到这些集中区域。
在短期内,人工智能技术的快速发展可能带来巨大的季节性和当地能耗压力。
一方面,由于季节性温度的变化,例如夏季的高温和冬季的严重寒冷,计算功率基础设施需要额外的能源消耗以确保其稳定的运行。随着夏季和冬季已经紧张的能源供应和需求,计算功率基础设施的能源消耗需求激增可能会进一步加剧能源供应保证的压力。
另一方面,随着“东数字和西计算”项目的综合计算能力网络的发展,人工智能能源消耗的影响主要集中在东部地区,例如北京 - 蒂安吉·赫比和扬格河三角洲以及甘努和内蒙古等西方各省。结合东部和西部地区能源供求的差异,这种空间分布可能会导致“收紧东方和西方的过度供应”的情况,这不仅会影响能源利用的效率,而且还可能成为对区域经济协调发展的限制。
近年来,我国家的总能源消耗持续增长,能源消耗强度的下降狭窄,并且某些地区的能耗强度降低了少于预期,这在后来的能源节约目标中已经完成了。在第15个五年计划期间,第14五年计划的阶段和进行节能工作。一定的困难和挑战。
在短期内,由人工智能引起的季节性和局部性能消费压力可能与当前的严重节能情况发生冲突。某些地区可能受到完成节能指标的空间的限制,或者考虑能源供应,在项目能源评估和环境影响评估阶段加强和管理数据中心项目的批准和管理,甚至采取限制性措施。例如,地方政府主要使用数据中心的功率利用效率作为数据中心能源评估的主要监管工具,并继续收紧相关标准。目前,北京,上海和其他地方的新建数据中心的批准要求已提高到1.15-,这远远超过了欧美国家的平均水平。
02
那么,在哪里破解AI能耗的解毒剂在哪里?
当然,解决问题的主要解决方案是优化大型模型,这不仅是行业所有各方的可行选择,而且是其能力中的实施策略。例如,简化模型复杂性,减少不必要的层和结构,或通过参数共享减少模型的总参数。同时,可以选择使用更有效的神经网络体系结构,例如卷积神经网络(CNN),而不是完全连接的神经网络(FCN),以减少训练过程中的计算量。
此外,优化电力管理解决方案和改进电路设计都是良好的节能想法。新的电力管理技术,例如功耗管理单元(PMU)和智能电力管理芯片,可以根据实际需求动态调整电源策略。这种动态调整可确保该设备在不同的负载条件下可以实现最佳的能源效率。在电路设计中,减少功耗点,降低开关频率,优化布置和其他方法也可以显着降低操作过程中设备的电路能量消耗。
其次,在政策层面上,加强了战略工业人工智能行业发展的因素保证。
一方面,在国家主要项目中彻底实施能源消耗政策,积极促进与人工智能相关的项目的包含在国家主要项目的国家主要项目中,并为工业发展保留足够的能源消耗空间。另一方面,加强了集中部署人工智能计算能力的领域的能源供应保证,例如计算电源轮毂节点,数据中心簇,提高电源供应匹配和电网支持功能,促进建立“计算机和”权力协作“系统和机制,并确保人工智能行业的稳定性。发展。
为此,行业内部人士建议,相关机构应尽快调查人工智能行业的状况,并充分掌握该行业的当前状况。有必要领导相关国家部门,并收集相关领域的研究机构和行业专家,以在关键国内领域进行人工智能行业的研究。 。
通过现场访问相关的企业和项目,对人工智能企业当前运营状况的系统调查,项目进度,技术创新方向等,以及精选的代表企业和项目,以定期监控和分析能源消耗人工智能企业。准确地分析工业能源消耗状况,并科学地指导人工智能行业的发展,以提供可靠的数据基础。
第三,在提供足够的因素保证的同时,我们将抓住人工智能行业发展的战略窗户时期,积极指导其行业朝着绿色和低碳的方向转变和升级,并加速探索绿色和绿色和建立低碳管理机制适合我国人工智能行业的发展。
实际上,由于散热通常会消耗更多的电力,因此将来将数据中心部署在相对凉爽的地方,以减少空调负荷消耗。随着国内对绿色用电消耗的要求逐渐增加,因此首选水(储存),风,光积聚或核电。
此外,AI驱动的协作优化将是计算机协作的技术支持和创新方向之一,即通过AI模型,计算能力分配任务和功率调度将同时优化,例如任务迁移,以及高度 - 消耗的计算任务将迁移到足够的绿色功率;动态频率降低,减少服务器频率以减少电源紧密时的能源消耗,等等。
在这方面,行业内部人士认为,有必要对高级能源效率水平以及绿色和低碳管理系统以及国内外人工智能行业的机制进行广泛的研究,形成成功的案例和经验,并采用管理管理诸如行业标准,奖励资金和评估评估等措施。探索从人工智能模型优化,芯片效率和算法效率提高,数据中心的绿色体系结构以及绿色能源使用的各个方面,探索涵盖人工智能的整个生命周期的绿色和低碳管理机制。最后,选择代表区域作为试点项目,并积累了通过区域试验对人工智能行业进行绿色和低碳管理的经验,并以高标准促进了人工智能行业的绿色和低碳发展。
最后,有必要优化人工智能行业的空间模式。
目前,面对土地,能源和其他资源,很难在东部地区进行大规模开发数据中心。因此,有必要进一步加深空间布局,协调计算能力和功率的协调布局,并指导在西部地区提出的延迟要求不高的计算能力基础架构,充分利用富人计算西部地区的电力资源,并支持AI项目的支持。东部人工智能项目的计算要求。
“我认为2025年将是一年的全面融合。能源和技术将使我加入您,我将为您带来。”上述行业内部人士终于说。
实际上,总体而言,人工智能逐渐成为一个能源密集型行业。权力和计算能力之间的协调不仅是一个技术问题,而且是一个涉及经济,政策和生态的系统项目。该行业必须采取积极的措施并为未来做准备。
这篇文章来自由36KR出版的《 Yang Rui:Yang Rui》的“ Foresight Energy”,Yang Rui具有授权。
本文采摘于网络,不代表本站立场,转载联系作者并注明出处:http://mjgaz.cn/fenxiang/274081.html