2025全球开发者先锋大会:智能硬件如何适配大模型的实时交互需求及AI应用场景拓展
随着AI技术的不断进步,大模型在无人机、自动驾驶、具身、泛机器人等领域展现了广阔的应用前景。特别是推理成本的下降正使AI应用加速落地,并促进应用从云端场景向端侧场景拓展。
2月23日,在“2025全球开发者先锋大会”的“技术变革下的端侧AI应用与展望”分论坛上,与会专家分别就智能硬件如何适配大模型的实时交互需求、国产芯片如何紧抓大模型时代的发展机遇等重要问题展开探讨。
智能硬件积极适配大模型
如何适配大模型的实时交互需求,这是智能硬件落地时必须考虑的问题。与会专家认为,应综合考虑智能硬件的算力、能耗、成本及使用体验,积极实现产品与模型的适配。
以AI眼镜为例,产品需同时满足轻量、续航与功能等多方面要求。对此,有业内专家在论坛上表示,生态链中的算力端、芯片端和架构端正在同时发力,能让AI眼镜在以上方面达到平衡。
具体来看,算力端正在推出轻量化的模型,以期让模型在满足场景需求的同时减小功耗。在芯片端,厂商在做具有更多算法层面的优化的SoC,这将有助于硬件的发展。在架构端,厂商也在优化端、边、云芯片对算力和功耗的分拆。
功耗与性能的平衡固然重要,但对于面向C端市场的智能产品来说,成本和使用体验亦不可忽视。海智在线副总裁刘海涛在现场表示,假设AI硬件产品在功耗和性能方面已达到瓶颈,不妨再从产品的重量、使用体验、成本等角度进行提升,以求进一步打开市场。
“当功耗和性能已经像干毛巾一样拧不出水了,那就去能拧出水的地方试一试。”刘海涛形象地解释称,做硬件产品没必要在局部追求极致,追求极致所付出的成本可能并不合理。
国产芯片抢抓端侧AI落地机遇
国产芯片如何紧抓大模型时代的发展机遇?软硬件如何实现更高效的协同,从而共同提升AI技术的边际效益?围绕上述问题,来自华为、辉羲智能、无问芯穹等公司的技术专家探讨了芯片在性能、功能和生态层面的发展趋势。
辉羲智能致力于打造创新车载智能计算平台,公司产品总监胡艳青表示:“当前,把大模型应用到汽车上,是自动驾驶的一个重要趋势。通过大模型的认知能力感知物理世界,可以更好地提升自动驾驶车辆对周围环境的感知能力。”
据胡艳青介绍,大模型对芯片的计算能力提出了更高要求,辉羲智能通过优化芯片架构,显著提升了端侧AI的处理能力,从而为大模型的应用提供了强有力支持。
无问芯穹端侧产品负责人黄璘璞强调,芯片设计需要兼顾通用性和专用性,以满足大模型在不同应用场景中的多样化需求。无问芯穹对十余种国产AI芯片进行全面适配,实现开源模型的无缝迁移。
还有与会专家认为,此前国产算力对于为市场提供什么样的产品、运行什么样的大模型是存在疑惑的,首先解决了这一问题。应用热潮可以有效推动国产芯片的发展,因为这能让厂商找到努力和优化的方向,同时广大的应用企业也将得到多元、高性价比的算力。