云天励飞:边缘 AI 战略引领,智能硬件开启新增长曲线
在人工智能的浪潮中,云天励飞以其独特的边缘AI战略,再次证明了其在智慧行业的领先地位。
8月26日晚间,云天励飞发布2024年半年度报告。2024年上半年,云天励飞营业收入2.89亿元,同比增长97.4%。
这一显著增长背后,是云天励飞在智慧行业解决方案及智能硬件产品领域的双重突破,而智能硬件产品的收入主要来自公司的控股子公司岍丞技术。
今年7月世界人工智能大会上,云天励飞全面展示了其边缘AI战略,并公布了基于边缘AI平台的三大业务领域:智能硬件、智算运营、智慧行业。这一战略的成效,在2024上半年业绩中已初露冰山一角。
以智能硬件开启新增长曲线
财报显示,智能硬件开始为云天励飞业绩作出贡献,上半年营收达1.03亿元。
云天励飞基于自研“云天天书”大模型和神经网络处理器,打造面向各类边缘AI场景的各类硬件设备并对外销售,包括 AI 芯片及与华为昇腾合作打造的“天舟”大模型一体机等。
报告期内,云天励飞大模型赋能取得实质性进展,融合“云天天书”的警务安全智能终端,具备万物识别、自然语言检索、警务知识咨询等功能,可全面助力基层警务人员提升执法水平。
在市场人士看来,云天励飞正积极减少对G端收入的依赖,通过资本纽带,进军智能硬件领域,发力B端和C端市场,开辟多条增长曲线。
岍丞技术由云天励飞3月份时所并购,不仅补齐了AI大模型C端入口版图,更进一步拓宽了业务边界。
岍丞技术主要产品包括智能蓝牙耳机PCBA、智能手表PCBA、智能音箱PCBA等IoT产品,主要应用在华为、荣耀、OPPO、VIVO、安克、Bose等品牌的终端产品上。收购岍丞技术后,云天励飞积极探索“大模型+智能可穿戴”相关产品。
云天励飞在智能硬件的布局很可能还不局限于此。7月,深圳市噜咔博士科技有限公司成立,经营范围包括人工智能硬件销售、人工智能应用软件开发等。穿透股权显示,该公司由云天励飞全资持股。
大模型赋能千行百业
报告期内,云天励飞的大模型赋能取得了实质性进展。
借助“云天天书”,云天励飞将AI赋能到多个领域,上半年智慧行业解决方案营收达1.59亿元。
2024年,业界将目光转向如何将大模型装入应用场景当中落地应用。云天励飞董事长陈宁对此直言:“训练不是目的,生产大模型不是目的,千行百业的落地和应用才是最终目的。”
目前,云天励飞已拓展到城市治理、智慧交通、智慧应急、智慧城管、智慧园区、智慧社区、智慧泛商业、智慧道路巡检、智慧警务、低空经济、智慧教育等行业产品与解决方案体系。
如果说去年是大模型元年,那么今年则是大模型应用元年。大模型需要寻找更多应用场景,各行业也在积极拥抱大模型,寻找全新的行业解决方案。“行业+大模型”市场不断扩大,为云天励飞智慧行业相关业务带来新的增量。
云天励飞的自研大模型正成为智慧行业落地的强大引擎,通过深度学习和大数据分析,为各行各业提供精准的数据解读和决策支持。
例如,云天励飞积极参与数字政务建设,与深圳市龙岗区打造的数字政务行业大模型入选了中国信通院发布的《2024大模型示范应用案例》,为提升政府服务效率和质量贡献了重要力量。
在智慧交通和智慧警务解决方案中,云天天书大模型助力城市实现了交通的智能调控以及公共安全事件的有效预防。此外,在智慧商业领域,大模型通过分析客流动线等信息,为商业智能体的运营决策提供了有力支撑。
在大模型的加持下,人类延续的多年知识被快速累积、按需取用、自主生成、交汇融合,将对原有的教育产生革命性颠覆。
云天励飞已经注意到教育风口的来临。上半年,云天励飞提出了 Fly计划,致力于构建全面、立体的人工智能教育生态系统,为学生、教师和学校带来颠覆式的教学体验。
构建高性能算力集群
在算力需求急剧增长的背景下,具备芯片研发能力和大模型技术优势的云天励飞,摸索出了一条“智算运营”的变现之路。
根据中信建投的测算,2023—2027年,全球大模型训练端峰值算力需求量的年复合增长率有望达到 78.0%。
通过落地超大规模异构高性能算力集群,为客户提供 AI 训练集推理算力服务及对应交付物,云天励飞与德元方惠签署AI算力运营合作协议,该协议在未来三年服务期内将贡献约16亿元的营收。
具体来看,德元方惠将向云天励飞购买AI训练及推理异构算力服务,总算力规模约4000 。有消息人士透露,最终客户为三大运营商之一。
经过近两年的布局,云天励飞智算业务开始对业绩产生积极贡献,报告期内,该业务营收达2506.94万元。
在边缘AI市场日益成熟的背景下,云天励飞凭借其自研大模型和AI芯片的技术优势,正逐步成为该领域的佼佼者。去年底,云天励飞发布大模型推理芯片;今年推出采用D2D 技术,基于芯片平台打造的大算力芯片,并打造了IPU-X6000加速卡。
据介绍,IPU-X6000具备256T算力、128GB显存容量、486GB/S显存带宽;采用C2C Mesh互联技术,可实现卡间高速互联,带宽达64GB/S,最大可实现64张卡的互联;可应用于语言、视觉、多模态等各类大模型的推理加速。
截至目前,IPU-X6000已适配云天天书、通义千问、百川智能、/3等近10个主流大模型,在实践中检验加速卡的能力。
而对大模型的深度理解,也是云天励飞能够在高性能算力集群中“攻城略地”的核心能力。公司自主研发的千亿级大模型“云天天书”,在此之间积累了一系列算力调优、提升模型训练效率的技术平台和相应工具,云天励飞将上述技术沉淀运用在 AI 算力服务中,帮助客户提升模型训练及算力利用效率。
边缘AI处于爆发前夜
作为大模型时代的基础设施,AI芯片被奉为掌上明珠,相关概念公司股价水涨船高。
但与AI训练芯片被国外大厂垄断不同,在AI边缘计算芯片领域却尚未出现绝对的全球龙头。在大模型应用元年,大模型赋能千行百业,离不开边缘AI的支撑。
中国对应用场景的重视,极大促进了边缘AI打开市场,行业成熟度正在快速提升、市场需求也愈发强烈。
在边缘端进行AI推理优势是数据安全,将数据存储在本地,避免上云造成泄露。另外,边缘运算推理能获得更快的响应体验,避免网络不稳定和传输延时问题。
更为重要的是,在边缘端直接部署AI,所需数据量更小,能够很好满足细分市场需求。
在垂直应用领域,如送餐机器人,仅需根据餐饮场景,专门研发送餐大模型;如自动驾驶,则需针对全国交通数据和道路信息。诸如此类垂直应用的大模型,拿来即用,所需数据量大幅变少,运行的场景变小,所需算力随之减少,垂直大模型则是小而精。
当前,边缘AI处在爆发前夜,智能硬件和行业赋能是两大方向。在专业化领域,垂直AI大模型优势更大,国内大模型公司更是在此掀起淘金热。
除此之外,越来越多行业巨头开始拥抱边缘 AI,一方面,谷歌、微软、Meta 等都推出了轻量化大模型支撑边缘 AI 的应用;另一方面,苹果、英伟达等巨头推出边缘 AI 芯片,应用在 AI 手机和机器人上,支撑边缘端的大模型运行。边缘 AI 让物联网升级成为 AIoT,助力大模型落地。
国泰君安证券研究所数据显示,随着 AIoT 的发展,未来3年边缘智能硬件设备将保持 50%以上的复合增长率。
作为国内作为行业内少数同时拥有自研大模型和AI芯片的企业,云天励飞在2024年上半年的优异表现证明了其在人工智能领域的领先地位。随着未来大模型的应用不断深入,边缘AI市场将越来越广阔。作为边缘AI赛道的先行者,未来云天励飞的发展值得继续关注。