浪潮海若大模型助力产业增强赋智创新能力
2024年政府工作报告提出,大力推进现代化产业体系建设,加快发展新质生产力。智能化、数字化是新质生产力的重要特征,推动数据要素与技术、资金、人才等要素协同融合,已成为发展的关键。
当前,国内通用大模型、行业大模型、端侧大模型如雨后春笋般涌现,大模型的应用落地将进一步提速。在此过程中,浪潮云率先入局,积极探索数据要素价值释放路径,发挥数据与行业的融合优势,打造了浪潮海若大模型,助力产业增强赋智创新能力。
5月9日,由浪潮云主办的「海若讲堂」首场直播特别邀请到浪潮云海若大模型产品总监朱芳娟,为我们深入解读海若大模型及智能体的相关背景、核心技术以及行业落地经验,看浪潮云如何化繁为简,让大模型训练触手可及,在无缝衔接技术与实践的过程中,开启智能新时代!
Q : 浪潮海若大模型 产生的契机 ?
朱芳娟:随着数字经济的持续发展,以大模型为代表的智能技术发展迈向新阶段,新应用、新生态不断涌现,行业用户亟需大模型带来更丰富、更多样的场景加速推动智能化转型、提高生产力,但是大部分政企用户自身并不具备打造行业专属大模型的能力。在此背景下,浪潮云在打造稳健的数据基础设施之上,推出浪潮海若大模型,打造以数据和大模型为支撑的面向不同行业的数智化场景服务能力,为发展新质生产力蓄势赋能。
当前大模型在落地行业过程中,面临模型训练成本高、数据安全要求高、行业个性化需求多、驻场支撑人员匮乏等挑战,但是浪潮云凭借在全国布局的120余个云中心,以及服务全国245个省市政府的实践积累,具备丰富的数据工程经验,能够为大模型落地行业提供强大的算力支撑、安全可信的数据训练服务、多样化的大模型服务、本地化训练推理人员服务,加速海若大模型的训练优化与落地应用,为政企行业客户提供更加精准、更加智能的支持和服务,加速政企行业客户智能化转型升级。
Q :请详细介绍一下海若大模型的优势 ?
浪潮海若大模型定位行业大模型,首批面向政府、交通、应急、制造、医疗、农业六大行业,具备可信赖、易落地、可持续三大核心优势。依托海若完整产品矩阵,浪潮云能够帮助用户打造行业专属大模型,并基于在全国布局的分布式算力平台,实现带算力入场,对于政务云覆盖用户,只需1天时间即可实现海若快速交付,其他行业最长不超过1个月。此外,结合20年行业经验,浪潮云持续打造和完善行业智能体商店,每个行业智能体商店将覆盖200余个典型应用场景,为行业用户提供更加精准、更加智能的支持和服务。
在产品架构方面,浪潮云构建了一整套覆盖“海若大模型引擎、海若智能体工厂、海若智能体商店、模型开发平台、模型安全卫士”在内的核心产品架构,通过知识检索库、库等核心能力库,不断为多元化场景提供底层支撑。
其中,海若大模型开发平台()提供了覆盖数据工程、大模型训练、大模型仓库、大模型评测等一站式能力;围绕训练任务自动化管理、训练过程异常检测、训练容错处理、训练优化等几个方面进行了工程化能力的构建。海若大模型应用开发平台()可以快速打造各种Agent场景应用,具备低门槛、可视化等能力。
Q:海若大模型如何落地?
在落地方法论方面,浪潮云总结出行业落地三步法:第一阶段是以分布式云节点支持灵活部署多元算力环境,实现快速交付,开箱即用;第二阶段是借助专有数据进行训练,精调模型;第三阶段是以业务驱动,通过打造全流程一体化的海若模型开发平台和海若智能体工厂,实现持续迭代。
浪潮海若行业大模型通过采用MoE架构、全面优化RAG、全链路安全防护等举措实现关键技术创新,解决了行业用户在大模型落地过程中所关注的运行成本、准确性、安全性等问题。基于分布式云模式所打造的大模型服务,可以最大化保障大模型输出标准化的产品,预训练以及算法等工作可以在中心节点完成,满足行业客户的定制化需求,还能结合客户自身数据和实际业务场景实现本地化交付,最大限度地保障行业客户的本地数据安全。
在国内通用大模型、行业大模型、端侧大模型持续涌现的现状下,浪潮云将继续携手生态伙伴,深挖数据要素价值,推进海若大模型在各行各业的快速落地,为新质生产力的发展添砖加瓦,为数字中国、数字经济、数字社会的建设贡献力量。