厂商间都还在探索AIPC“CPU+GPU”架构

aixo 2024-05-14 06:56:17
服务器 2024-05-14 06:56:17

摸着石头过河

一面是宏大叙事,另一面则是消费市场相对平淡。是什么造成厂商想象与用户需求间的错位?

“说到底,AIPC发展还处在一个逐步发展的阶段。”通信行业观察家项立刚指出,这一概念在过去一年左右的时间里才逐渐兴起,技术、应用、生态的最佳实践都还处在探索期。

本质上是AIPC各个环节的技术发展、融合还有很大空间。

IDC中国高级研究经理陈舒歆认为,不论从厂商的大模型落地,还是从软件端的协同,不论是端侧还是云侧,AIPC目前都还没有进入非常成熟的阶段。

这种“摸着石头过河”的现状从围绕AIPC的标准之争就能窥见一斑。AI PC究竟是什么、能够提供什么,厂商间都还在探索。

PC“老大哥”联盟的成员各自为AI PC下了部分定义。英特尔从芯片架构出发,认为AI PC应当配备NPU、CPU和GPU;微软则倾向于认为,AI PC设备的键盘上还需要有一个的物理按钮。

有设备厂商人员跟时代记者坦言,“关于AI PC目前还没有确切的定义。”

目前,与传统PC在主芯片架构上采用“CPU+GPU”架构不同,AI PC采用的是“CPU+GPU+NPU”的异构方案。NPU针对性地负责处理神经网络计算相关的任务,例如深度学习推理和训练等。换言之,NPU的存在能够帮助PC在展现AI能力时更好地提升性能、控制功耗。

“如果处理器中包含NPU,就可以视作 AI PC。”陈舒歆认为,NPU能保证设备在端侧完成一些简单的计算。

芯片的算力也是个门槛。一颗强“芯”是AIPC运行的关键,其性能直接影响到AI PC的整体表现。怎样量化AIPC的能力,算力是一个重要的指标。

英特尔客户端计算事业部副总裁Todd 曾公开表示,进入下一代 AI PC,NPU算力要达到。不过,如果以此为基准判断,目前市面上大多数产品都难以达到这个标准。

公开数据显示,苹果最新的M4芯片能提供的总算力。英特尔的酷睿 Ultra系列的NPU只能提供10 TOPS的算力,在 CPU、GPU和NPU共同参与运算下的情况下,算力才能达到34 TOPS;而AMD 最新一代锐龙AI处理器,虽然总算力能到达,但NPU算力也只有。

只有高通的骁龙 X Elite、X Plus能满足这一要求,仅NPU的算力也能达到。据悉,英特尔计划在今年晚些时候推出的芯片,NPU算力将达到45 TOPS。据媒体报道,AMD预计今年下半年将推出Strix Point(Ryzen 8050系列)芯片,其算力有望达到45至。

关于AI PC产品的迭代发展情况,时代周报记者分别咨询了英特尔、高通、AMD等芯片厂商,不过截至发稿未收到具体回应。

“当NPU的算力达到40-,则可以被认为是Next AI PC,换言之,可以支持更高参数模型的本地模型推理。”陈舒歆也表示。

架构、算力之外,硬件与软件如何进行配合也是重中之重。

“芯片厂商需要关注的是做好应用资源的配置的问题。”Omdia人工智能首席分析师苏廉节指出,有专门的AI芯片为应用提速只是第一步,如何做好CPU、GPU和NPU间的资源分配,让AI计算最高效地发生到AI芯片上,做到真正的体验优化,非常重要。

比如,华为官方就特别提到, X Pro与万兴喵影首发定制联合调教,支持调用NPU进行AI特效等创作。

“合理的算力资源分配离不开软件厂商和硬件厂商之间的相互配合。坦率来说,AI PC的生态还在逐渐成长,业界尚未达成共识。”他表示。

等待杀手级应用

无论如何,概念处在成长初期带来的最直接影响是消费者对AI PC的概念认知还不够深入。“当厂商把AI PC的概念输出给用户时,其实使用者不关心PC到底有没有AI。他们需要的是实际的体验提升和改变。”苏廉节指出。

对于厂商而言,如何缩小理想与现实之间的差距,成为了他们面临的最大挑战。一方面,他们需要加大研发投入,不断提升AIPC的智能化水平;另一方面,他们也需要加强市场教育,让消费者真正了解AIPC的价值。

当端侧AI走向市场,横亘在整个行业面前的第一个问题是:对于习惯了等云端大模型的用户来说,部分/全部的计算在端侧完成具备怎样的优势?

隐私性、个性化是目前比较可及的答案。

AI处理器_ai处理器到底是什么_处理器ai有什么用

图源:图虫

AIPC在用户隐私保障方面的优势显而易见。基于PC端的模型应用理论上可以做到直接于终端设备上处理海量数据,尤其是涉及隐私的敏感数据,无需将其传输到其他地方进行处理。“这样可以尽量避免数据传输,提升用户体验。”苏廉节指出。

个性化体验或许可以有多重理解:其一,是相比对话轮数都受算力限制的云端大模型,端侧大模型能记住更多,更懂用户;其二,是不联网能进行多样化操作,本身是对使用效率的提升。

前者的原因很自然。在AI领域的 Law还相当有说服力的当下,可以说,AI的智能程度与数据息息相关。IT研究与顾问咨询公司认为,到2025年,大约超过75%的数据将在边缘侧处理。未来,如果要继续提升模型能力和用户体验,更高效地开发数据成为一种必然。

对于后者,苏廉节认为,在断网情况下仍然可以继续使用AI,这对用户体验也是一种保障。现在,即使是手机上的Siri、 或者其他智能助手在断网时也无法使用,所以将部分功能移植到终端可以提高用户体验。此外,大模型本身可以用自然语言交互的特点也能改善当前人机交互的模式。“AI可以实现更加用户与设备间更人性化的交互。”

“AI终端化已经显现出必要性和可行性。”IDC在其2024年中国PC市场十大洞察中指出。在陈舒歆看来,PC是AI普惠最适合的端侧产品。联想更是将AI PC定义为“每个人的专属助理( Twin)。”

在走向所有人的过程中,处在哪些行业和场景的用户会成为先吃到螃蟹的人?

由于轻量级IT部署及云端需求的增加,中小企业市场将是发展最快的领域之一。“对于商用市场尤其是中小企业市场,AIPC的工作辅助应用场景相对较为明确,PC作为办公的基础工具采购需求将持续增长。”陈舒歆指出。

IDC研究显示,中小企业市场将是发展最快的领域之一,2024年AI PC产品占比将超过60%,未来五年中小企业的复合增长将为8.4%。

“办公场景会是一个相当重要的方向。”项立刚也表示,目前文件、图片处理、会议纪要等是人工智能技术比较典型的应用场景,迁移到AI PC难度不高。

“微软的自推出后一直都很受用户欢迎。”苏廉节指出,放眼国内,字节、阿里和腾讯都有自己的办公系统。如果能在AIPC上做应用的适配,以帮助用户审稿、写电子邮件、进行市场营销等,就能为广大办公用户带来更好的体验。

在消费端,虽然目前AI PC还没有拉起一轮大的增长,但未来,在游戏、学习等需求的带动下,也有可能迎来较快发展。IDC预测,消费市场2024年AIPC占比将达到55.4%。

“对于消费市场,AIPC能做的其实也非常多。”陈舒歆指出。以游戏为例,AIPC在游戏端的应用前景、发展方向丰富。较高的处理器性能可以提供更快的运算速度,从而支持更复杂的游戏画面和更高的帧率。“用户的游戏需求会在消费端形成一定拉力。”

苏廉节也有相似的观点。“不过,游戏开发是一个相当艰难且耗时的过程,获得最佳实践需要不断调试。也许,未来一两年可能会开始看到进展。”他指出。

需求有了,对于厂商来说,应该如何走好下一步?

打通产业链的各个环节,构建应用生态比较关键。

“AI PC不仅需要在硬件上提供独立的算力支持,还需要配合算力的软件工具,拥有自己的算力系统和软件支撑能力。”项立刚指出,硬件的能力最终还是需要由通过应用为用户带来良好的体验。

“AIPC赛道在等待类似的杀手级应用的出现。”苏廉节坦陈。在他看来,寻找杀手级应用,最重要的是打通硬件和软件之间的壁垒。更进一步来看,消费者教育的完成也需要应用的参与。“AIPC能做到什么——对于用户来说,一个体验更好、效率更高的应用,就是这个问题最好的答案。”

事实上,厂商已经开始从生态发力。比如,AMD就在其AI PC峰会表态,要更好地打造AI生态圈,提供业界领先的AI解决方案。

国内特殊的应用生态也会为生态搭建和软件开发带来一片差异化蓝海。

“我国和全球其他地区间存在一定的不同,比如微软的相关功能在国内并不能完整使用。”陈舒歆认为,这是中国PC厂商发展自己的智能体的机会。“如何打造中文环境下最好的用户的助手,从游戏,教育,工作,生活辅助等方面为用户进行全方位的AI加速,是值得国内厂商思考的问题。”