Arm推出新一代边缘AI加速器Ethos-U85

4月9日，Arm宣布推出Ethos-U85 神经网络处理器(NPU)，其MAC（乘加累计运算）单元可从128个扩展到2048个，其算力可实现在1GHz频率下达到4TOPs，能够为工厂自动化、商用零售、智能家居等高性能边缘AI应用提供支持。此次发布会同时发布了全新物联网参考设计平台——Arm Corstone-320。

当前微处理器被部署到包括工业机器视觉、可穿戴设备和消费者机器人等在内的诸多高性能物联网系统中，且各场景对人工智能功能提出了更高的要求。Ethos-U85由此推出，目标是与Armv9 Cortex-A CPU相结合，加速处理机器学习(ML)任务，提供更高能效的边缘推理能力，从而满足上述场景对人工智能功能的更高需求。

据了解，Ethos-U85性能相较前代产品提升四倍，能效提高20%，可支持Transformer架构和卷积神经网络(CNN)以实现AI推理。Transformer架构适用于视觉和生成式AI用例，对理解视频、填充图像的缺失部分，分析来自多个摄像头的数据以进行图像分类和目标检测等任务非常有效。全新 Ethos-U85 NPU支持了TensorFlow Lite 和 PyTorch等AI框架。

Ethos-U85为开发者提供了与过往架构一致的工具链，合作伙伴能够利用现有的投资，实现开发体验的无缝衔接。迄今，Arm Ethos NPU系列产品已有超过20家授权许可合作伙伴，其中，Alif Semiconductor 和英飞凌是全新Arm Ethos-U85 NPU的早期采用者。

Arm Corstone-320物联网参考设计平台集成了 Arm 最高性能的 Cortex-M CPU——Cortex-M85、Mali-C55 ISP和全新的 Ethos-U85 NPU，为语音、音频和视觉等广泛的边缘 AI 应用提供所需的性能，例如实时图像分类和目标识别，或在智能音箱上启用具有自然语言翻译功能的语音助手。该参考设计平台涵盖了软件、工具和支持，其中包括 Arm 虚拟硬件。该平台的软硬件结合特性将使开发者能够在物理芯片就绪前便启动软件开发工作，从而加速推进产品进程，为日益复杂的边缘 AI 设备缩短上市时间。

Arm此次发布的最新架构主要面向边缘侧，关于Arm此次发布的产品将在家电厂商探索结合人工智能技术新品中发挥什么作用，物联网事业部业务拓展副总裁马健向《中国电子报》记者作出如下回答：

第一是能够提供更自然的交互能力。传统智能家居，要使用其智能功能的话，需要用户下载新的APP，这对于用户而言，使用过程不够友好。而搭载大模型的家用电器，其自然语言交互能力得到了极大的提升，采用Ethos-U85和Corstone-320的参考设计，可以比较轻松地将由支持自然语言交互的大模型压缩的小模型部署到各种家电中。以支持用户与家电直接以自然语言交互。

第二是可以发挥Arm在云边端多领域产品优势。大模型之所以智能，是由于参数量大。当前多数大模型部署在云端。家电厂商收集的用户数据等，都集中在云端训练和优化。但同时，为了增强用户体验，家电终端侧、家庭网关边侧，也会部署支持自然语言响应的模型，这就要求设备可实现云边端协同。马健还补充道，在数据中心云、边、端都有强有力的产品和统一的工具链支持，因此更具有生态优势。

责任编辑：姬晓婷