这是一篇2023年在ICLR发表的论文。本文利用图形神经网络从稀疏数据中学习连续的时间偏微分方程。提出的模型的主要创新是允许任意空间和时间离散化。也就是说,在求解偏微分划分网格时,网格可以是不均匀的。因为求解的控制方程是未知的,所以作者使用
偏微分方程在许多系统中非常重要。然而,长期以来,求解大多数偏微分方程一直是一项艰巨的任务,通常需要复杂的数值求解技巧,尤其是在方程的参数或边界条件部分未知的情况下。
图形神经网络(GNN)由于其在非欧系统建模中的广泛适用性,可以为求解偏微分方程提供一种新颖和令人兴奋的概念。
本文将回顾一种用图神经网络表示偏微分方程重要导数分量的方法时间。
常见的偏微分方程定义为:
其中:系统相对于空间坐标X的演化取决于其自身及其相对于空间坐标X的一阶或高阶导数
这类偏微分方程是一大类科学问题的基础,广泛应用于声波、流体、热扩散等具有传播特性的系统中。
[1]提出用GNN逼近离散点网格的函数F,用直线法(MOL)离散原方程,在系统域内选取N个节点。因此,函数F在这些空间节点上离散化,可以表示为
其中N(i)是xi上相邻节点的一组索引,x{N(i)}和u{N(i)}是N(i)中节点的位置和状态。
我们将用G=(V,E)来表示一个无向图,其中V是顶点集,E是边集。要构建此图,首先对离散点使用Delaunay三角剖分。如果两个节点位于至少一个三角形的同一侧,则这两个节点被视为相邻节点,如下图所示。
点集的Delaunay三角剖分。绿色点和橙色点被认为是邻居,因为它们共享同一条边。来源[1]
然后,利用神经网络的消息传递(MPNN)对函数F建模,通过K图传播隐藏状态。每个层K首先收集每个节点I的消息,然后更新相应的节点状态,
其中和是由DNN参数化的微分函数,
然后用最后一个图计算PDE,
为了监督模型的学习,使用了观察状态和均方误差的估计状态之间的差异。
这种方法与数据区间较宽的纯离散时间模型相比,优点是可以预测系统在连续时间的状态,学习系统在离散时间的状态。
a)热传导方程的相对测试误差。b)真实的和学习的系统动力学。来源[1]
这种进化机制在数学上用偏微分方程描述,图形神经网络将这些机制抽象为节点(或边)之间的信息流。论文中提到,图形神经网络将进一步促进科学研究和社会经济,因为它们与描述自然界和人类社会中广泛存在的非欧数据或系统的自然结构有关。
纸张:
1.Valerii Iakovlev等人。艾尔。“用图神经网络从稀疏数据中学习连续时间偏微分方程”,arXiv:2006.08956。
作者:马达里纳比尔