1. 首页>>分享

AI产业真的缺电吗?微软CEO纳德拉坦言:大量GPU因缺电闲置库房

图片

大家都讲,AI抵达尽头之处在于能源呢,这件事情啦,微软的CEO纳德拉,在最近时段所进行的那次采访当中呀,从侧面角度对观点予以了印证哟。“由于存在电缺乏的状况,微软好多的GPU呢,都是在库房里搁置着,处于不被启用工作的状态呀。”纳德拉就是这么表达说的呢。

谷歌近期完成了将TPU送上太空的举动,采用了利用太阳为机器发电的奇妙办法,似乎宛如纳德拉这句话的“回声” 。

但是,令人感到奇怪的是,纳德拉所讲这句话看样子对能源行业是利好,可是呢,不管是大A,还是纳斯达克,它们的能源板块都并未因纳德拉所说的话而出现涨幅。从11月初开始一直到发稿的时候,大A的涨幅为0%,纳斯达克能源板当中最大的那一个公司的涨幅是0.77%。

一方面,硅谷巨头不停地呼喊电力短缺,甚至于弄出了像“上天”这般的解决办法,可另一方面,这般清晰明确的信号,市场却当做没听见,久久地都没有做出回应。

这就不禁让人产生了一个疑问:AI产业真的缺电吗?

OpenAI CEO山姆.奥特曼的观点是:是,也不是。

讲是这样讲,是源于当下的确存在电不够用的状况;讲不是这样讲,是由于问题的实质实际上是人工智能过多,尽管他并不明晰确切会是多少年,然而最多不会超过六年,人工智能便会超过众人的需求,且也会致使因人工智能而产生的对电的需求下降。

换句话讲,AI产业在短期内会出现断电情况,然而从长期的角度而言,伴随AI能耗的下降,缺电这一问题将会被解决 。

01

是谷歌公司,在2025年11月初,公布了一个项目,这个项目叫“捕日者计划”(Project Suncatcher),“捕日者计划”的运作方式是什么呢,就是把TPU芯片送入太空,并且还要用太阳能为它发电 。

图片

太阳,每秒钟向外辐射的能量,大概是3.86乘10的26次方瓦,此数值是当下人类社会全球总发电量的一百万亿倍往上,而非仅仅如此。并且,部署在晨昏太阳同步轨道上的卫星,其太阳能板几乎能够不间断地接收到光照,经过一年的时间下来,所接收的能量成为了处于地球中纬度地区同样面积太阳能板接收能量的8倍 。

捕日者计划同卫星公司Planet Labs开展合作,于距离地面650公里的低地球轨道那儿,去部署一个由81颗卫星所形成的AI计算集群。依照设计情况,这些卫星会在半径1公里的空域里协同进行工作,它们彼此之间的距离保持在100到200米。此计划预估在2027年初发射首批两颗试验卫星,以此来验证方案的可行性。

尽管谷歌曾表明,其于一年之内,已把旗下Gemini模型的单次查询能耗降低了33倍,可显而易见,谷歌依旧少不了电力。,。

就利用太阳能发电这件事而言,放在那太空中,它可不是个全新冒出来的概念,然而呢,长久以来一直被一个关键难题给困住了,这个难题是什么呢,就是咋样能够以高效且安全的方式,把一旦产生出来的电力给传输回到地面上去。不管是采用那微波束这种方式,还是运用激光束那种方式,在能量传输的整个过程里,都会出现损耗的情况,并且对于地面环境还存在潜在的影响,正是这些吧,才致使这件事实在是很难去大规模的推行实施 。

"捕日者计划"的思路对该环节进行了绕开,,它没想着把数据传回到地球,而是在太空中直接借助这些电力来计算,并且仅将计算结束后的结果传回地面,这是它的做法。

TPU超级计算机集群在地面之上呢,它运用的是定制化的技术哟,这种技术跟低延迟光学芯片互连有关联啦,并且呀,针对每个芯片而言,其吞吐量可以达到每秒数百吉比特呀,也就是Gbps呢。

当前被投入商业应用的卫星跟卫星之间的用于光通信的链路,其数据速率一般就只会处于1至100Gbps的范畴之内,这种状况是远远没办法去满足AI计算集群内部大规模数据进行交换时冒出的需求啊。对于这种情况谷歌给出可供解决的办法是运用密集波分复用这一技术,从理论层面来讲是能够使得每一条卫星间链路的总的带宽发展到每秒大概10太比特也就是10Tbps这样的程度呢。

谷歌针对“捕日者计划”,对外做出讲解阐述,涉及诸多难题,以及对应解决之法,涵盖怎样控制集群编队这类,还包括如何抵抗辐射诸多类似情况等项有具体说明 。

但谷歌并没有解释该如何散热。

真空当中是不存在空气对流现象的呀,而热量仅能够借助辐射的方式散发出去呢,这是此物理问题极难处理的一方面。谷歌在一篇论文里曾经说过,若要把芯片出产生出的热量高效传导至特制散热器表面去进行辐射,就得运用先进热界面材料以及热传输机制,而且最好处于被动式状态以确保可靠性。但是对于这部分的技术细节,论文里面并没有给出太多信息。

实际上,把数据中心送进太空这般的想法,并非仅仅谷歌存有。就在谷歌公布相关计划的前几日,有一家名为Starcloud的初创公司已然发射 了搭载英伟达H100芯片的卫星,而且宣称要去建设一个具备5吉瓦功率 的天基数据中心。埃隆·马斯克也曾表明SpaceX”将会做“太空数据中心 。

2025年5月,中国的之江实验室,与国星宇航开展了合作,合作所涉及的“三体计算星座”中有首批12颗计算卫星,这些卫星已经成功发射,并且完成了组网。

所以在朝着运送AI抵达太空相关问题去办的时候了,尽管听起来蛮是很新颖奇特的呀,然而人们大家的目标也就是都是一样一致不二的了呀,想着想用一下电呢,那就前往去到那里之上边去拿呗,地面之上的电可是不够你们大家所能要用到的呀。

02

AI出现对电饥渴这种局面,主要 blame it on英伟达。这家公司的GPU产品,从Ampere架构到Blackwell架构,没过多久刚好4年,功耗就增大了好几倍 。

有着使用 Hopper 架构 GPU 的服务器机架,其额定功率大约是 10 千瓦,然而到了 Blackwell 架构时,鉴于 GPU 数量出现增加的状况,致使机架功率快要接近 120 千瓦。

同时,鉴于当下 GPU 的单位均为万,在数万块 GPU 彼此进行交流之际,还得借助英伟达的互联技术 NvLink 技术,以此来提高交流效率。并且,每一条 NvLink 的链路功耗处于 4 到 6 瓦的范围,两块 GPU 之间存在 18 条链路,这些 NvLink 又需要集中到 NvSwitch 上,从而达成非阻塞连接,而一个 NvSwitch 的功耗为 50 到 70 瓦。

要是有一个GPU集群,它拥有数量为1万块的H100,那么就需要157个NvSwitch,与此同时还需要9万条NvLink链路。而这个GPU集群的功耗大概处于730千瓦到1100千瓦的范围之间。

图片

还没结束,GPU当中在散热这一方面同样是耗电较多的大户,最为普遍常见的8卡H100服务器,要是采用的是风冷系统,那么功耗就会达到150瓦,所以对于一个万卡集群而言,仅仅是散热方面就需要187千瓦。

现如今,大型科技公司彼此间的竞争,那衡量的标准已然从以往传统的计算能力单位,转变为了能源消耗单位“吉瓦”也就是“GW”。诸如OpenAI以及Meta这类公司,均打算在接下来的几年时间里,增添超过10吉瓦的计算能力。

存有一个作为参照的数据,AI行业消耗1吉瓦电力,这1吉瓦电力足够供给大概百万数量的美国家庭日常用电所需。而后,国际能源署在2025年有一份报告进行了估计,预估到2030年的时候,人工智能领域的能源消耗会实现翻倍,并且其增长速度差不多是电网自身增长速度的四倍之多。

高盛做出预测,到2027年的时候,全球的数据中心电力方面的需求预计会增长50%,进而能达到92吉瓦,而在美国范畴内,数据中心电力的需求于总电力需求之中所占的比例,会由2023年的4%增长起来,一直到2030年成为10%另外,高盛还指出一点,某些大型数据中心园区针对于电力接入而产生的请求涉及电量规模,单个项目确实可达到具备着处于数量上在从300兆瓦向着数级吉瓦的这样一个级别的情况之下的数据项目类别 。

但是,有意思的来了。

北美最大的可再生能源公司是NextEra Energy,跟踪美国公用事业板块表现的代表性行业ETF叫XLU,过去52周,NextEra的涨幅是11.62%,ETF XLU的涨幅为14.82%,然而同期标普500指数的涨幅却有19.89% 。

倘若人工智能领域确实面临着极为严峻的电力短缺状态,那么身为电力供应一方的能源公司以及公用事业板块,按理应可获取超额的市场回报,然而却并非如此,甚至连大盘的表现都无法超越 。

面临此情况,纳德拉道出了一条关键线索,他表明,电网接入审批所需时间是5年,并且,输电线路建设所需时间为10到17年。

此时,GPU采购周期按季度计量,数据中心建设周期通常一到两年,人工智能需求爆发速度以季度为单位变化。

存在于这些时间尺度之间,它们有着数量级的差异,因这种差异而产生的时间错配,恰恰就是纳德拉所说的AI缺电的本质所在。

并且,对于纳德来讲,存在着一个于当下之时不能够予以解决的烦扰。在2020年的时候,微软宣告了,在对生态系统加以保护的期间,要“达成碳负排放、用水净增并且达成零废弃” 。

现实状况却是,当下微软数据中心用于电力的部分之中,将近百分之六十依旧源于涵盖天然气的化石燃料 。由这电力所引出的年度二氧化碳排放量 ,大概等同于五万四千普通美国家庭排放总量的加和 。

在另外一方面,国际能源署发布《可再生能源报告》时是在2025年10月,其中指出,全球发电能力的增长速率,有可能会超出新增电力需求,这里的新增电力需求涵盖了人工智能 。

报告提出,在2025年到2030年这五年的期间之内,全球可再生能源在装机容量这儿,将会增幅高达4600吉瓦,这样一个增量所具备的规模,差不多等同于中国、欧盟以及日本,这三个经济体现在所拥有的装机容量加起来的总和。再进一步来讲,报告预测这五年期间新增的装机容量这块儿,将会是之前五年所产生增量的两倍 。

核能,是这里要特别提及的,它是那唯一能够供应稳定、大规模、低碳电力的选择,传统大型核电站,其存在建设周期漫长、成本高昂、风险巨大问题,然而小型模块化反应堆,也就是SMR,它确实正在改变这一状况,SMR能够如同在工厂制造飞机或者汽车那般,批量生产标准化模块,接着借助铁路或者公路运送至现场予以组装,恰似“乐高积木”形态的建造之路径。

单机容量仅为50至300兆瓦的SMR,相较于传统核电站1000至1600兆瓦小了许多,然而这并非劣势反而是优势所在。规模越小了那就意味会有更短的建设周期,还会有更低的初始投资,以及更具备灵活性的选址。SMR能够在工厂当中通过大数量的生产,接着运至现场进行组装,如此便能极大程度地降低成本与风险 ,。

当下最火最潮的发电方式是SMR,谷歌曾与Kairos Power签署协议,购买了500兆瓦的SMR核电,这是科技公司首次直接投资SMR技术,微软在2024年1月聘请了曾在Ultra Safe Nuclear Corporation即USNC担任核战略与项目总监的人来担任微软核技术总监,其目的是开发SMR以及更小的微型模块化反应堆也就是MMR。

换句话说,微软缺的不是电,而是时间。

03

相较于能源方面,减少AI自身的功耗也是一条重要的发展方向。

奥特曼所持的观点为,每单位智能的成本在数目上每年会下降40倍,极有可能在几年之后我们将不再需要数量如此之多的基于设施装备之物存在。并且若相关突破能够持续不断,个人级别的通用人工智能大约会在笔记本电脑上得以运行,从而会对电源产生需求的降低幅度进一步加大。

图片

奥特曼曾撰写过一篇文章,该文章将自家产品当作例子,对这个问题作出过解释。文章当中有这样的描述,从2023年初的GPT - 4模型开始,一直到2024年中的GPT - 4o模型,仅仅只是过去了一年时间,每个token的成本,降低的幅度大概是150倍。在算力保持不变的这个前提条件下,同样的业务,在AI处于不同的发展阶段时,所需要消耗的电力就会出现减少的情况。

他讲,这样幅度的价格往下降低,要是单单仰仗硬件成本的呈线性下降,那是没办法达成的,在其背后必定涵盖了算法实施优化,模型架构予以改进,以及推理引擎效率获得提升等等诸多方面的综合起来起的作用。

2025年斯坦福大学人工智能指数报告(HAI)证实了这个说法,该报告中写作,在18个月内 ,达成GPT - 3.5水平(MMLU准确率64.8% )的AI模型调用成本 ,于2022年11月时为20美元/百万token ,到2024年10月却骤降至0.07美元/百万token ,成本下降了280倍 。

关于硬件层面,GPU当下增添了两个全新的能效衡量单位,其一为TOPS/W,也就是每瓦万亿次运算,其二是FLOPS per Watt,即每瓦浮点运算次数。这般的单位旨在可以更加直观地瞧见能效方面所取得的突破。

比如说,Meta所发布的那第五代AI训练芯片,被叫作Athena X1,在处于低精度的这种前提条件之下,它的能效比达到了32TOPS/W,相较于前一代提升了200%,空载时候的功耗下降了87%。而英伟达的H100,哪怕是在FP8这样的低精度范围当中,它的能效比也仅仅只是5.7TFLOPS/W 。

对于某些高精度的训练任务而言,依旧得使用H100,这便是Meta大规模采购几十万块英伟达GPU的缘由所在。

依Epoch AI的研究数据所展示的情况来看,机器学习硬件的能效呈现出这样一种态势,即正以每年百分之四十的速率在不断提升 ,并且每两年就会实现翻倍增长 。新一代AI芯片在能效方面的提升是十分显著的 。

以英伟达的H200 GPU而论相比上一次的一代H100,其能效提升了1.4倍,看上去还有很大的提升空间 。

站在宏观层面去考察时,数据中心自身所具备的能效才是最为值得予以关注的那个数字。一般而言,会借助PUE(也就是能源使用效率)这种方式来评定数据中心的能耗情形。

有着理想值是1.0的PUE意味着所有电力运用于计算从而绝无浪费用在冷却以及其他辅助系统之上,十年前数据中心平均PUE为2.5如今是1.根据谷歌最 新数据中心已经降到1.由此表明相同计算任务现在所需电力只因一半数额。液冷技术、免费冷却、AI 驱动能源管理系统正持续压低这个数字。

不管是哪种结局,能源行业都在AI的作用下实现了重塑,就算未来AI的需求有所降低,能源行业的繁荣发展也会促使推动其他的行业不断进取。

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://mjgaz.cn/fenxiang/279244.html

联系我们

在线咨询:点击这里给我发消息

微信号:13588888888

工作日:9:30-18:30,节假日休息