深度解析KAN:连接符号主义和连接主义的桥梁

景云 2024-05-16 20:00:07
大模型 2024-05-16 20:00:07

最近一周KAN的热度逐渐褪去,正好静下心来仔细学习KAN的原理,收获颇多。

KAN是一种全新的神经网络架构,它与传统的MLP架构不同,能够用更少的参数量在Science领域取得惊人的表现,并且具备可解释性,有望成为深度学习模型发展的一个重要方向。

运用KAN,我们不仅能够在函数拟合、偏微分方程求解(PDE)上取得不错的成果,甚至能够解决拓扑理论中的Knot Theory、处理凝聚态物理中的Anderson Localization问题。