西南证券研报:端侧 AI 落地需适配终端硬件,突破体验需人机交互
讯,西南证券研报指出,1)基础的构建:模型实现高效压缩是端侧AI的第一步。模型尺寸变小、同时具备较好性能,是端侧AI的前提。2)落地的关键:模型适配终端硬件是端侧AI的第二步。小语言模型(SLM)不完全等于端侧模型,在模型实现高效压缩后,需要进一步与手机硬件进行适配,帮助小模型装进终端。从众多小模型论文中可以发现,当前主要存在内存、功耗、算力三大硬件瓶颈。3)体验的突破:模型助力人机交互是端侧AI的第三步。端侧模型通常能够支持用户完成AI初级任务,然而更丰富、更深度的交互体验需要UI模型、云端模型以及系统级AI进行有力支撑。未来,随着端侧模型、配套硬件、AI系统的持续发展,终端市场有望呈现更多可能。