华为高管公布昇腾 AI 算力性能，超越英伟达 A100

​华为高管近期罕见公布昇腾 AI 算力的性能情况。

钛媒体App 6月17日消息，近期举行的2024世界半导体大会暨南京国际半导体博览会的一场分论坛上，江苏鲲鹏·昇腾生态创新中心首席运营官王陶透露，昇腾集群是国内唯一已完成训练千亿参数大模型的技术路线，性能已经超过了英伟达A100。

王陶表示，中国大模型里面，有近50%（1/2）选择了昇腾技术路线。与英伟达A100相比，昇腾 AI 芯片在训练效率层面最高是英伟达的1.1倍。尤其在训练Meta Llama、等模型方面，昇腾 AI 算力训练效率大大优于英伟达A100，甚至10倍领先其他国产友商。

“经过三年的实验检验，中国大模型总数的1/2选择的昇腾技术路线。昇腾现在已经是国产化大模型的第一选择。而我们经过测试，互联网头部厂商科大讯飞也用了华为的万卡集群，跟英伟达A100的相比，我们能达到A100的0.8~1.2倍的效率，在跟英伟达相比（指0.8倍）的确还是有一定的差距，但是在大模型训练这一块，（我们）跟英伟达A100芯片相比已经没有明显差距，特别是在万卡算力集群，包括在鲲鹏云脑、科大讯飞这一块都经过了市场检验。”王陶称。

这是华为高管非常罕见的回应昇腾 AI 算力性能与英伟达A100之间的优势。

据悉，昇腾和鲲鹏分别是华为面向通用计算和智能计算的两款算力产品，是华为 AI 计算生态里面的关键技术系列。​

公开信息显示，江苏鲲鹏·昇腾生态创新中心成立于2019年8月，是南京江北新区与华为联合宣布发展鲲鹏计算产业后成立的创新机构。王陶称，创新中心的使命就是基于华为的鲲鹏、昇腾技术，联合生态伙伴赋能千行百业进行数字化转型。

最新年报显示，2023年，华为公司共实现营收7042亿元（人民币，下同），同比增长9.6%；净利润870亿元，同比大增144%。同时，华为重视研究与创新，2023年研发投入达到1647亿元，占全年收入的23.4%，十年累计投入的研发费用超过1.11万亿元。

实际上，华为从2018年开始大规模投入 AI 算力和模型：

2018年10月，华为全栈全场景AI解决方案发布。

2019年9月，全球最快AI训练集群Atlas 900发布。

2020年3月，全场景Al计算框架正式开源。

2020年10月，鹏城云脑II E级算力集群业务上线。

2020年起，华为提出大算力，孵化大模型，带动大产业。基于昇腾鲲鹏，华为联合生态伙伴孵化了20多家的大模型，包括鹏程实验室的鹏程云脑大模型、紫东紫东太初、华为盘古大模型等。

2021年5月，武汉人工智能计算中心1期建成投入运行。

2023年9月，华为发布了支持万亿参数大模型训练和推理的算力集群方案。

王陶指出，基于华为自研的 AI 算力，从底层的Atlas 硬件到算子库，再到上层的开发工具链，昇腾在大模型推理、训练两个方面均提供一整套解决方案，包括开发套件、基础加速库等。而在开发速度上，基于昇腾方案，客户大大缩短开发周期，在典型场景下推理性能提高1.5-3倍，实现更强的业务协同。

算力层面，目前，华为在全国20多个城市建设昇腾人工智能计算中心，超过（每秒运算能力为2500千万亿次）普惠Al算力。

据悉，国内上线及试运营的计算中心城市包括深圳、武汉、西安、许昌、南京、 成都、杭州、沈阳、重庆、天津、宁波、广州、青岛、北京、大连、上海、无锡、福州、合肥；待上线城市包括昆明、长沙、廊坊、南宁、贵阳、 长春、南昌、济南。

华为透露，其智算集群使用率超过90%。其中在南京，昇腾算力共有140P，使用率93%；武汉拥有200P，使用率95%+；深圳的算力使用率超过99%；成都 98%；杭州 80%；沈阳 98%。

而目前，包括腾讯、百度在内的中国科技巨头以及科大讯飞等领先的初创公司都购买了910B。

华为公司昇腾计算业务总裁张迪煊上个月透露，昇腾生态系统拥有40个硬件合作伙伴、超过1600个软件合作伙伴和超过2900个 AI 应用解决方案。

王陶则透露，华为鲲鹏在全国有5100+合作伙伴，15800+解决方案，拥有开发者超过310万。

王陶强调，目前全球AI算力需求在加速，大算力支撑大模型，促进人工智能走向新阶段。而华为坚持硬件开放、软件开源、使能伙伴、发展人才，推动生态蓬勃向上。

（本文首发于钛媒体App，作者｜林志佳，编辑｜胡润峰）