中国移动年内将投产3个近两万张GPU卡

aixo 2024-05-26 17:46:44
算力 2024-05-26 17:46:44

图源 | 图虫创意

5月24日,中国移动董事长杨杰在第七届数字中国建设峰会上称,中国移动正加快完善算网基础设施体系,年内将投产3个近两万张GPU卡的超大规模单体智算中心和12个区域智算中心。

在此之前,中国移动先后投产了多个智算中心,分布在京津冀、长三角、粤港澳、湖北、成渝、贵州等地。杨杰称,随着AI等新一代信息技术的快速发展,产业对算力的需求急剧增加,智算中心是算力的集中体现,是支撑新质生产力发展的关键。

杨杰称,优化全国性智算中心和边缘智算节点布局,全网智算规模达到(FP16)。中国移动的智算中心已经规模引入GPU扣卡模组、高速无损网络、冷板液冷等多项新技术,支持万张AI加速卡互联并行训练。中国移动的重要目标之一是,承担起算力基础设施建设者的角色,打造一批万卡级的智算集群,赋能十万多名客户进行数字化转型。

在会上,中国工程院院士高文称,用大模型赋能企业转型,过程中需要足够规模的算力支撑。一家公司要训练大模型的话,至少需要千卡规模的算力,万卡规模的算力则更为理想。所以,中国人工智能要发展,既要有国产的大模型作为底座,还需要规模足够大的算力集群提供支撑。

杨杰称,中国移动的目标是推动算力成为像水电一样、“一点接入、即取即用、按需调度”。中国移动也在开发和部署大模型。目前,中国移动已自主研发并布局了15个行业大模型,布局了40款自研行业大模型,其中,政务大模型已在多个省级数字政府项目落地应用,医疗大模型与多家国内龙头三甲医院合作,全面赋能急救、问诊、会诊等场景。

The END

GPU