马克斯普朗克研究所新神经网络光学系统:简单节能的替代方案

aixo 2024-07-16 14:43:59
大模型 2024-07-16 14:43:59

马克斯普朗克研究所开发了一种新的神经网络光学系统,为现有方法提供了一种更简单、更节能的替代方案。

神经网络的基本原理_神经网络芯片_神经网络

该系统使用光传输来执行计算,降低了与传统神经网络相关的复杂性和能量需求。

光神经网络

科学家提出了一种用光学系统实现神经网络的新方法,这可能使机器学习在未来更具可持续性。马克斯普朗克光科学研究所的研究人员于7月9日在《自然物理学》上发表了他们的新方法,展示了一种比以前的方法简单得多的方法。

机器学习和人工智能的应用越来越广泛,从计算机视觉到文本生成,正如所展示的那样。然而,这些复杂的任务需要越来越复杂的神经网络;有些有数十亿个参数。

由于神经网络的能量消耗和训练时间呈指数级增长,神经网络规模的快速增长使这些技术走上了一条不可持续的道路。例如,据估计,训练GPT-3消耗的能源超过1000兆瓦时,这相当于一个小镇每天的电力消耗。

这一趋势催生了对更快、更节能、更经济的替代方案的需求,激发了神经形态计算领域的快速发展。该领域的目标是用物理神经网络取代数字计算机上的神经网络。它们被设计成以一种可能更快、更节能的方式物理地执行所需的数学运算。

神经网络芯片_神经网络_神经网络的基本原理

神经形态计算的挑战

光学和光子学是神经形态计算特别有前途的平台,因为能量消耗可以保持在最低限度。计算可以在非常高的速度下并行执行,只是受光速的限制。然而,到目前为止,存在两个重大挑战:首先,实现必要的复杂数学计算需要高激光功率。其次,缺乏对这种物理神经网络有效的通用训练方法。

这两个挑战都可以通过马克斯普朗克光科学研究所的克拉拉·万朱拉(Clara )和弗洛里安 · 马夸特( )在《自然物理》杂志上发表的新文章中提出的新方法来克服。

简化神经网络训练

“通常情况下,输入的数据被印在光场上。然而,在我们的新方法中,我们建议通过改变光传输来印记输入,”该研究所所长弗洛里安 · 马夸特解释说。

这样,输入信号就可以以任意方式进行处理。这是正确的,即使光场本身以最简单的方式表现,即波相互干涉而不产生其他影响。因此,他们的方法允许人们避免复杂的物理相互作用来实现所需的数学函数,否则将需要高功率光场。

评估和训练这个物理神经网络将变得非常简单:“这真的就像发送光通过系统并观察传输的光一样简单。这让我们可以评估网络的输出。与此同时,这也让人们能够衡量训练的所有相关信息,”该研究的第一作者克拉拉·万朱拉说。

作者在模拟中证明,他们的方法可以用于执行图像分类任务,具有与数字神经网络相同的精度。

在未来,作者计划与实验小组合作,探索他们的方法的实施。由于他们的提议大大放宽了实验要求,它可以应用于许多物理上非常不同的系统。这为神经形态设备开辟了新的可能性,允许在广泛的平台上进行实体训练。

如果朋友们喜欢,敬请关注“知新了了”!