欢迎来到亿配芯城! | 免费注册
Nvidia H100 AI GPU大卖
发布日期:2024-03-23 07:16     点击次数:80

1月1日,Nvidia最近大卖H100 AI GPU,每个GPU的功耗高达700W,远远超过美国家庭的平均功耗。随着Nvidia新GPU的大量销售,预计其总功耗将与美国主要城市相当,甚至超过一些欧洲小国的总功耗。

bb8b125d-efb3-4745-84d8-32b43a0022f5.png

据统计,目前用于人工智能应用的数据中心的总能耗与塞浦路斯相当。技术治理和战略首席电气工程师Paul 到2024年底,Churnock预测将部署数百万Nvidia H100 在GPU中,NvidiaH100 GPU的能耗将超过亚利桑那凤凰城所有家庭的能耗。但总耗电量将低于德克萨斯州休斯顿等大城市。Churnock指出H100 以61%的年利用率计算,GPU的峰值功耗为700W,相当于美国家庭的平均功耗。预计2024年H100 GPU销量为150万~200万。与住宅用电相比,Nvidia的H100芯片将排名第五,仅次于德克萨斯州的休斯顿,领先于亚利桑那州的菲尼克斯。实际上,如果年利用率为61%,高云半导体gowin高云FPGA芯片 H1000 GPU每年消耗约3740千瓦时 (kWh) 的电力。假设Nvidia在2023年销售150万H100 GPU,2024年销售200万H100 GPU,到2024年底,将部署350万个此类处理器。每年消耗高达13091、820、000千瓦时 (kWh) 或13091.82的电力 GWh。虽然这个数字看起来很惊人,但值得注意的是,人工智能和HPC GPU的效率正在提高。因此,尽管基于Blackwell的NvidiaB100的功耗可能超过H100,但它将提供更高的性能,因此每个单位的功耗可以完成更多的工作。

一般来说,随着人工智能技术的快速发展和普及,GPU的功耗和数据中心的总能耗都在快速增长。然而,通过提高GPU的效率和性能,这一趋势有望得到缓解。

*一些图片来自网络。如有侵权行为,请联系本号删除*

常用.jpg