2024 台北国际计算机展:耐能推出下一代边缘 AI 产品,为企业提供替代方案

aixo 2024-06-08 10:19:09
服务器 2024-06-08 10:19:09

在 2024 台北国际计算机展上,AI 芯片初创公司耐能推出了其下一代边缘 AI 产品:配备全新 KL830 NPU 芯片的 KNEO 330 服务器和 PC。

该公司成立于2015年,专注于边缘计算AI

耐能成立于2015年,专注于提供边缘计算AI(edge AI)技术。他们拥有 、高通和阿里巴巴等知名投资者。耐能旨在为科技巨头的基于云的人工智能解决方案提供替代方案。他们的技术允许公司为特定的人工智能应用程序构建内部服务器,解决数据隐私和安全问题。这可能会使那些不愿依赖外部云服务的企业更容易获得人工智能解决方案。

KNEO 330 服务器:该服务器提供 的 AI 计算能力,最多可同时支持 8 个用户,并与 LLM 和 等应用程序配合使用。耐能声称,它可以以更低的成本为RAG(生成对抗网络)实现类似云的性能,从而有可能将小型企业的AI费用降低30-40%。

配备 KL830 NPU 的 PC:具体细节没有透露,但演示惠普设备展示了其功能。耐能正在与主要PC制造商合作,使他们成为该芯片的首批客户。

KL830 是一种神经处理单元 (NPU),旨在与 CPU 和 GPU 一起执行 AI 任务。它提供高计算能力 (@8bit) 和低功耗 (2W),并有效地处理各种大型语言模型。

耐能还提到了由KL830供电的USB AI加速棒。这可以将任何设备(如路由器、物联网摄像头甚至传统计算机)转变为边缘 AI 设备。