百度部署10万卡集群,一天消耗300万千瓦时电力

导读 9月25日,在2024百度云智大会上,百度智能云宣布将百舸AI异构计算平台全面升级至4.0版本。在集群部署环节,升级后的百舸能够将万卡集群运行...

9月25日,在2024百度云智大会上,百度智能云宣布将百舸AI异构计算平台全面升级至4.0版本。在集群部署环节,升级后的百舸能够将万卡集群运行准备时间从数周最快缩减至1小时,长文本推理效率提升了1倍以上。百度集团执行副总裁沈抖透露,百舸4.0版本面向10万卡大规模集群部署而设计,但管理10万卡的集群与管理万卡集群有本质不同。要部署10万卡这么大规模的集群,光是在物理层面就要占据大概10万平方米的空间,相当于14个标准足球场的面积。在能耗方面,这些服务器一天就要消耗大约300万千瓦时的电力,相当于北京市东城区一天的居民用电量。(第一财经)

文章转载自:互联网,非本站原创