神州问学AI原生赋能平台、多云异构绿色算力平台、联合打造DC·AI生态创新中心!一文看尽数云原力大会2024干货

弦子 2024-05-10 19:00:05
资讯 2024-05-10 19:00:05

智东西5月10日报道,昨日下午,在神州控股、神州信息、神州数码集团联合打造的数云原力大会2024上,神州数码、神州信息、神州控股发布了神州问学AI原生赋能平台、HISO异构智算调度运营平台和全新异构智算加速平台HICA等多项技术成果。同时,这些技术成果已经在金融、政务、供应链、汽车等领域实现应用。

神州数码首次宣布了AGI时代的新价值主张,未来将以客户为中心,围绕AI原生场景赋能、多云异构绿色智算、国际化AI生态创新三个锚点,加速AI原生应用落地千行百业。

针对于神州问学AI原生赋能平台与市面上其他平台的差异化,神州数码副总裁、CTO李刚告诉智东西,他认为神州问学面对的客户时企业而非开发者,这也意味需要配合企业的每一个业务场景、现有流程管控方式、业务部门关系,非简单的开发者平台可以满足。

在保护企业的数据安全方面,李刚提到,神州问学主要通过三个方面保障,首先其部署在用户可控的私有化场景里;第二为其采用的模型都是私有化部署;第三是按照专业领域、知识领域、业务领域打造不同的模型,他们会在每个模型外面打造安全围栏,将专业知识固化到不同的模型中。

当下,生成式AI领域出现了已经进入拼落地、拼应用的“下半场”的观点。但李刚认为现在称“下半场”还为时过早,此前技术的变革特点大多为技术基本成熟再进入企业里实现应用,也就是说应用去适应技术;但AI时代不同,目前技术没有完全成熟,并处于应用场景和技术同步发展的过程,长窗口、多模态、MoE等技术的不断演进正推动AI向更多场景渗透,因此其杀手级应用会出现在什么场景并不明确,现在应该是百花齐放的阶段。

一、神州数码提出AGI时代三大主张,为销售经理打造数个智能体

神州数码在AGI时代的差异化定位就是提供以客户为中心的AI着陆的加速引擎,其核心有三件事,分别为AI原生场景赋能、多云异构绿色计算、国际化AI生态创新。以客户为中心的AI就是基于企业的特定场景,以企业知识去赋能的AI技术来重新编排业务实现的创新过程,从而获得更大的价值创造。

神州问学AI原生赋能平台、多云异构绿色算力平台、联合打造DC·AI生态创新中心!一文看尽数云原力大会2024干货

李刚举了营销场景的例子,大部分企业的营销支出都占了很大一部分,且营销经理的工作效率和质量会直接影响到企业的效益。销售工作的核心为高度专业化的知识型工作,包括知识的收集处理和双向传达。

针对销售场景,神州数码开发了销售工作室应用,打开该界面,销售助理Agent就会在后台系统中收集销售所关注公司的待办任务和消息,并第一时间反馈给销售。此外,销售助理Agent还会调用企业的项目、周报系统、日历系统等,并为其整合工作的分配重点。

同时对于销售经理而言,他需要在工作中处理十余个企业IT系统,基于此,Agent就会通过语义交互与实时业务场景,将庞杂的信息化系统虚拟化,主动整合个性化信息。未来,销售Agent可能会整合后台所有的企业、IT系统形成针对某个个体的超级APP。在销售工作室应用中,销售人员还可以召唤各种辅助工作的智能体,如拜访智能体、投标智能体、差旅智能体等。

在完成拜访准备工作时,首先拜访智能体会根据拜访目的、公司标准,结合拜访企业的背景、合作历史等给出材料;其次,智能体会根据具体客户人名收集信息,找到项目的背景信息;第三部智能体会查询公司系统、项目管理系统、合同管理系统、公司解决方案库等,找到用户的兴趣点。最后,智能体就会汇总以上信息,总结归纳成PDF文件供用户下载。

李刚总结说,类似于这样的智能体构建背后,包括任务规划、执行、反思几个重要环节,每个环节需要加载经过治理的企业私域知识模型支持。还需要神州数码开发出企业现有系统与外部数据源的接口集成工具,基于这些工具让其规划的任务得以执行。这会涉及到多个企业的IT信息系统、多个外部的信息源对接、多个子任务规划、多个知识源治理对接、多次模型的微调。

企业需要AI赋能的场景实际上有N个,因此需要遵循已经被实践证明过的高效完备的AI应用开发框架和规范、工具持续积淀、知识治理持续深化、若干个企业模型训练优化等,这些必须在企业的私域里完成,才能有系统、有节奏的加速AI原生场景创新速度。

二、神州问学AI原生赋能平台,内嵌Agent打造、知识治理、模型训练管理三大模块

在神州数码看来,企业的AI原生创新需要一个平台来支持,其答案就是神州问学AI原生赋能平台。

该平台包括三个功能模块,分别是Agent工程、企业知识治理、模型训练与管理。李刚谈道,这三个模型既能独立工作,又可以相互协同。

Agent工程模块中,可以为企业开发内部工具、调用外部插件的能力实现智能体的任务执行,配置好工具后,Agent就会使用后台大模型的推理能力识别用户意图、制定行动计划、选择调用计划等。整个会话过程可支持多轮对话。

神州问学AI原生赋能平台、多云异构绿色算力平台、联合打造DC·AI生态创新中心!一文看尽数云原力大会2024干货

在企业应用场景还有一项基础性工作,将企业私域知识加载给大模型,私域知识加载前的治理工作会对大模型生成内容的精度产生很大影响。

企业内部知识格式多样化,需要以恰当的颗粒度来切分这些文档。因此,神州数码打造了一个知识治理平台,由专业人员使用文档布局拆解工具训练出专属的知识自动化标准模型。李刚称,其一个医药行业客户,通过神州问学工具链,专家仅需标注1000条数据,即可支持自动化标注模型的推理,让46万份资料梳理成为可执行的知识生成,并支持持续自动化。

未来,一个企业除了使用一两款商用模型外,可能会大量部署基于开源模型进行微调构建的企业专用模型。问学大模型管理平台,内置了数十个基础开源模型,用户可以通过全面测试来评估、对比具体业务场景下不同模型的性能表现,同时,模型审计功能可以使用户追踪审计模型具体交互过程中是否有敏感或违规信息。

神州问学AI原生赋能平台、多云异构绿色算力平台、联合打造DC·AI生态创新中心!一文看尽数云原力大会2024干货

此外问学大模型训练平台内嵌了最佳实践,通过控制面板可以实时展示训练进度日志,企业可以灵活配置训练选项等,算法团队可以多次迭代实验取得最佳训练效果。

平台的测试框架还支持模型性能自动评估、统计报告生成等。

李刚谈道,对于大多数通用领域的企业场景而言,AI赋能背后的技术难点、解决方案的架构、工程师方法与企业内部系统对接的解决方案,这些基础性工作是相通的。所以企业可以从平台层面起步规范各种技术框架和实施方法论,再去不断迭代私有模型集群,系统化构建企业的私域知识库。

未来企业的数字化转型建设会表现为Agent体系、私域知识体系、私有模型体系三个体系建设与业务不断结合,神州问学平台就是支持其持续性创新加速着陆的平台。他补充说。

三、落地金融、政务、汽车、供应链行业,金融软件端到端效率提升超30%。

除了以销售工作室为代表的企业通用场景应用外,企业还有金融、汽车、政务等专注于某一专业领域的业务,AI技术、云原生数据等也会与相关的业务场景进行融合,从而构建创新的业务模式。

对于金融软件,其从业务规划、需求分析、设计开发测试、部署和运维都有相对标准的流程。得益于AI技术的发展,以神州问学为支撑,神州信息发布AI赋能的软件研发全流程生产线九天揽月“AI+”,并推出了建模、开发、测试、运维4个相关Agent。

建模包括产品模型、流程模型、实体模型,可以完整呈现一个金融机构能提供哪些产品。建模Agent可以用NLP技术加速产品文档理解、知识图谱实现产品目录生成、通过AIGC识别产品属性等,能够将企业的建模时间从数年缩短到数月。

神州问学AI原生赋能平台、多云异构绿色算力平台、联合打造DC·AI生态创新中心!一文看尽数云原力大会2024干货

开发过程中,代码Agent可以通过低代码和无代码技术生成页面及相关服务,或者用AIGC解析建模过程的产物,最终形成代码。在测试阶段,Agent可以实现自动测试用例生成、机器人生成等。

分布式技术在银行全面落地,部署节点可能达到成百上千个,使得运维复杂度大幅提升。运维Agent可以帮助人员快速定位、解决问题,预测潜在的风险和问题引导运维人员解决。

于宏志透露,四个智能体的协作运营效率实现了金融领域企业的业务建模效率提升15%、代码开发效率提升30%、单元测试效率提升40%、问题定位效率提升30%。金融软件的整个生命周期端到端效率可能提升超过30%。

公共数据运营领域聚焦于为AI提供高质量数据。神州控股政企产品技术总监张伟提到,婚恋市场的交友平台都面临着信息真实性不足、匹配精准度欠缺、存在欺诈行为等问题。

神州控股自研了公共数据运营平台,以场景化授权方式为客户堆积了民政、教育、司法等部门的相关数据,通过数据整合及特征工程,形成用户多维特征向量,构建聚类分析及深度学习模型,识别不同用户群体的特征和偏好。同时这一平台还会结合用户的行为互动反馈、心理测验以及生物特征等数据,构建智能匹配、情感分析、异常检测等多类模型,提供用户精准匹配、欺诈识别的智能预警以及个性化建议推荐等服务。

基于此,神州控股的产品帮助企业提升了匹配精准度,使得用平均在线时长提升30%,平均每位匹配用户的互动信息数量提升40%。

神州控股供应链解决方案总监田联平称,汽车行业中,车企的一级供应商可能会达到1000家以上,二级供应商会达到6000家以上,随着供应链层级增加,供应链网络复杂程度也会大幅增加。

神州控股的解决方案为电子行业的企业搭建了供应链数字孪生环境, 将项目、物料、库存、产品等数据要素集成到其中,并结合企业的规则和策略搭建了物料齐套检查业务模型、数据模型、本体模型。生成物料计划后,企业就能得到自动生成的采购需求计划、生产计划等。

神州问学AI原生赋能平台、多云异构绿色算力平台、联合打造DC·AI生态创新中心!一文看尽数云原力大会2024干货

AI技术会不断驱动供应链效率提升,如通过大模型提升需求预测准确率、算法实现最优排产、生成式AI应用可降低成本。田联平提到,AI+技术在供应链决策三个阶段的作用表现会呈现为,第一阶段的可视化及预警管理,第二阶段的预测、辅助决策,第三阶段的认知自主优化决策。

高科数聚创始人、董事长、神州数码首席数据科学家程杰提到,在汽车行业,营和销层面充满了人、机器、门店、车辆的交互。企业的数智化转型分为业务数据化和数据业务化两个部分。业务数据化的起点是制定数据收集的目标和范围,通过数据采集、治理、入湖等最终实现数据可视化;数据业务化指从描述现实、预测到整体决策优化。

目前,神州数码已经在汽车行业实现了AI+大数据的有效应用。针对市场部,神州数码通过大模型和行业数据支撑企业作出科学决策。

神州问学AI原生赋能平台、多云异构绿色算力平台、联合打造DC·AI生态创新中心!一文看尽数云原力大会2024干货

还有一大应用是智能工牌,销售人员在电话沟通、展厅、试乘试驾场景、售后等环节和用户的交流会有大量多模态数据,需要对这些数据进行采集及有效处理,实现角色声纹分离、关键词提取,然后自动产生客户标签,包括客户的需求、意愿、情感等。

四、多云绿色异构智算中心,打造硅光+液冷整机柜解决方案

神州数码副总裁、神州数码信创控股董事长韩智敏称,当下企业面对大算力需求,其挑战有三点,需要构建复杂的异构算力底座、智算资源利用率低、能耗高。

基于这三大痛点,神州数码推出了异构智算调度运营平台HISO, 基于百分百云原生技术,实现了GPU资源的池化和跨集群之间的调度能力,根据用户需求在整个异构算力资源池中能够自动地匹配最优算力组合。

HISO平台支持国内外GPU混合资源部署,能够混合组网、混搭调度,同时实现精细隔离算力。

神州问学AI原生赋能平台、多云异构绿色算力平台、联合打造DC·AI生态创新中心!一文看尽数云原力大会2024干货

神州数码还推出了全新异构智算的加速平台HICA,可提高算力利用率。

HICA通过数据并行、模型并行等方式,可有效分解任务,检测到GPU的资源变化时合理调整,充分聚合各种算力资源使用。

该平台支持一云多芯,它既能支持华为昇腾、英伟达、英特尔等国内外主流的芯片,可以实现训练、推理任务在不同品牌、不同型号、不同组层之间的智算集成的混合训练和推理。根据其测试结果,HICA加速可以降低20%的训练集群的闲置算力。HICA能自适应选择合适的通讯参数,使得MFU提升10-20%

神州问学AI原生赋能平台、多云异构绿色算力平台、联合打造DC·AI生态创新中心!一文看尽数云原力大会2024干货

在能耗方面,神州数码提出了硅光+液冷的整机柜解决方案,该方案有四大特性,一体化交付,现场无需安装调试,效率提高10倍;实现了100%的全液冷,数据中心PUE小于1.15;全新水电分离;最大单柜功率达到66kW。

神州问学AI原生赋能平台、多云异构绿色算力平台、联合打造DC·AI生态创新中心!一文看尽数云原力大会2024干货

工业领域,神州控股以仿真模型+知识图谱+人工智能为核心,构建的“算力、算据、算法”一体化算力中心架构,让智算中心的算力获得进一步增值。以中药材产业为例,神州控股在智算中心平台中应用中药材大模型的中药循证证据生成,为企业提供了新适应症、新疗法挖掘以及质量评价体系构建等能力。

五、联合德勤中国打造DC·AI生态创新中心,剑指企业、市场、人才痛点

神州数码联席董事长、首席执行官王冰峰谈道,生成式AI领域,企业拥抱AI需要找到超级应用和最佳实践,并投入大量时间金钱进行部署;市场层面,大部分收入和利润来自基础架构层,真正做大模型、AI应用和工具公司的销售收入和利润无法覆盖成本;以及AI人才短缺等,这些都是目前这一行业的现实问题。

因此,神州数码将从解决方案和技术生态、人才生态、市场生态入手,打造新型生态伙伴关系。

神州问学AI原生赋能平台、多云异构绿色算力平台、联合打造DC·AI生态创新中心!一文看尽数云原力大会2024干货

解决方案生态方面,该公司要推动合作开发、共创模式建设AI领域里的解决方案,预计今年6月,其深圳搭载神州问学平台的智算中心会向市场提供算力、模型、应用、解决方案等相关服务。

人才生态上,神州数码要打造人才学院,联合生态伙伴建立培训认证体系;市场牵引生态方面,该公司依托AI研究院,将强化和高校、院所、机构、协会的合作。

在此基础上,该公司与德勤中国联合打造了DC·AI生态创新中心,在这一创新中心中汇聚协同办公、生产、供应链、营销等领域的最佳时间和场景。

神州问学AI原生赋能平台、多云异构绿色算力平台、联合打造DC·AI生态创新中心!一文看尽数云原力大会2024干货

结语:新AI原生赋能平台、生态体系,为技术、应用、场景架桥

AI深入千行百业,与企业内部的不同业务相结合已成为业界共识,但与此同时AI与企业内部真是痛点相匹配、有效理解用户意图等难题逐渐显现。在企业AI原生场景的打造过程中,神州数码基于神州问学平台为企业提供了能够自动调用、检索、分析与执行的“专业助手”,从全流程加速企业应用AI工具的进程。

此外,企业AI变革在价值、技术、路径层面都有诸多难点亟待解决,众多AI产品、技术厂商推动AI落地的过程中会面临客户需求不明、交付能力不足等多重挑战,而AI人才存在巨大缺口已成为业界共识。神州数码与德勤中国联手打造的DC·AI生态创新中心或许能为这些难题提供有效的解决方案。