注意机制及其在变压器体系结构中的使用已广泛成功地建模数据中的非局部相关性。最新的对操作员学习的关注的兴趣激发了功能空间设置中方法的表述。在这次演讲中,我们概述了基于[1]的注意机制的构建。我们展示了如何利用这种形式来设计变压器神经运算符,神经网络体系结构在函数的无限维空间之间映射并得出相关的通用近似定理。通过从计算机视觉到连续体的“修补”策略概括,我们设计了有效的跨神经操作员,我们证明,对于涉及Darcy Flow和Navier-Stokes方程的操作员学习任务的成本和准确性具有竞争力。
主要关键词