Mohamed Abdelkader Fawzy Abdelkader。从方程式到神经网络:物理信息神经网络(PINN)的应用到电化学传感器微阵列建模11:55
本文研究使用物理信息神经网络 (PINN) 计算时间相关的狄拉克方程,PINN 是科学机器学习中一个强大的新工具,它避免了使用微分算子的近似导数。PINN 以参数化(深度)神经网络的形式搜索解,其导数(时间和空间)由自动微分实现。计算成本的增加源于需要使用随机梯度法求解高维优化问题,并在训练网络中使用大量类似于标准偏微分方程求解器离散化点的点。具体而言,我们推导了一种基于 PINN 的算法,并展示了其应用于不同物理框架下的狄拉克方程时的一些关键基本性质。
科学机器学习(SCIML)已成为解决部分分化方程(PDE)并解决广泛现实世界挑战的强大工具。这种感兴趣的激增导致对传统数值方法的重新评估和重新思考,强调了对更有效和可靠的方法的需求,从而整合了模型驱动和数据驱动的方法。在这种情况下,物理知识的神经网络(PINN)是解决与非线性PDE相关的前进和反问题的新型深度学习框架。尽管PINNS展示了出色的有效作用,但几种新兴的人工智能(AI)方法学值得考虑更复杂和要求的应用程序。在本演讲中,我们将探索与AI迷人世界相关的新理论和应用挑战,因为它与SCIML相交。
物理信息神经网络 (PINN) 已成为解决科学计算问题的强大工具,从偏微分方程的求解到数据同化任务。使用 PINN 的优势之一是利用依赖于 CPU 和协处理器(如加速器)组合使用的机器学习计算框架来实现最大性能。这项工作使用量子处理单元 (QPU) 协处理器研究 PINN 的设计、实现和性能。我们设计了一个简单的量子 PINN,使用连续变量 (CV) 量子计算框架来解决一维泊松问题。我们讨论了不同的优化器、PINN 残差公式和量子神经网络深度对量子 PINN 精度的影响。我们表明,在量子 PINN 的情况下,优化器对训练景观的探索不如经典 PINN 有效,而基本随机梯度下降 (SGD) 优化器的表现优于自适应和高阶优化器。最后,我们重点介绍了量子和经典 PINN 在方法和算法上的差异,并概述了量子 PINN 开发的未来研究挑战。
主管:本·莫斯利(Ben Moseley)关键字:多尺度模拟,物理知识的神经网络,多GPU计算,多级方法,di =构成方程,科学的机器学习背景科学研究依赖于我们模拟科学现象的能力。从了解生物系统如何与建模宇宙的演变相互作用,模拟使我们能够预测特性,检验假设和探索可能是di = icult的场景,可以通过实验进行研究。我们今天对研究的许多物理系统表现出强烈的多尺度现象。这些系统的特征是它们在多个空间和时间尺度上的复杂相互作用,例如,在全球气候模型中云与大气循环的相互作用,或形成层次暗物质结构。准确地进行多尺度模拟会带来一个重要的挑战,因为它需要可以正确捕获这些相互作用的复杂模型。此外,传统数值模拟的计算成本(例如有限的di =和有限元建模)可能是巨大的,需要为每个仿真使用超级计算机。近年来,科学机器学习的领域已经解决了克服这些挑战的新方法[1]。例如,物理信息的神经网络(PINN)[2,3]是一种使用神经网络进行模拟的方法。与传统的数值方法相比,它们不需要复杂的模拟网格,并且可以轻松地合并观察数据以了解相互作用。但是,使用PINNS开箱即用的是显着的挑战。它们在训练上可能是计算上昂贵的,并且可能难以建模多尺度的互动。我们最近的工作[4,5]表明,Pinns可以通过将它们与域分解和多级建模相结合,从而进行多尺度模拟E =。域分解允许将全局仿真问题分解为较小,易于解决的问题,而多级建模则可以在多尺度交互之间提供更好的通信。
摘要 — 由于脑动力学的复杂性,静息态功能性磁共振成像 (rsfMRI) 中血氧水平依赖性 (BOLD) 信号的传统建模难以进行参数估计。本研究介绍了一种新型脑动力学模型 (BDM),该模型通过微分方程直接捕捉 BOLD 信号变化。与动态因果模型或神经质量模型不同,我们将血流动力学响应整合到信号动力学中,同时考虑直接和网络介导的神经元活动效应。我们利用物理信息神经网络 (PINN) 来估计此 BDM 的参数,利用它们将物理定律嵌入学习过程的能力。这种方法简化了计算需求并提高了对数据噪声的鲁棒性,为分析 rsfMRI 数据提供了全面的工具。利用按估计参数缩放的功能连接矩阵,我们应用最先进的社区检测方法来阐明网络结构。我们的分析表明,在比较神经正常个体与自闭症谱系障碍 (ASD) 患者时,特定大脑区域的参与系数存在显著差异,男性和女性群体之间存在明显差异。这些差异与之前研究中涉及的区域一致,进一步证实了这些区域在 ASD 中的作用。通过将 PINN 与高级网络分析相结合,我们展示了一种分析 ASD 复杂神经特征的稳健方法,为神经成像和更广泛的计算神经科学领域的未来研究提供了一个有希望的方向。
这项研究提出了一个基于深度强化学习(DRL)的智能自适应控制框架。动态干扰场景下的比较实验表明,与传统的模型参考自适应控制(MRAC)相比,提出的框架将系统稳定时间降低了42%(*P*<0.01),并将控制精度提高1.8个数量级(RMSE:0.08 vs. 1.45)。通过将物理信息的神经网络(PINN)与元强化学习(Meta-RL)整合在一起,混合体系结构解决了常规方法的关键局限性,例如强大的模型依赖性和实时性能不足。在工业机器人臂轨迹跟踪和智能电网频率调节方案中得到验证,该方法的表现优于关键指标的传统方法(平均改进> 35%)。用于边缘计算的轻量级部署方案可在嵌入式设备上实现实时响应(<5ms),为复杂动态系统的智能控制提供了理论和技术基础。
正如Jevons Paradox强调的那样,人工智能(AI)在解决气候变化方面的计算需求不断增长引起了人们对低效率和环境影响的重大关注。我们提出了一个引人注意的量子物理信息知识的神经网络模型(AQ-PINNS)来应对这些挑战。这种方法将量子计算技术集成到物理知情的神经网络(PINN)中,以进行气候建模,旨在提高由Navier-Stokes方程所控制的流体动力学的预先准确性,同时减少计算负担和碳足迹。通过利用变异量子多头自我注意机制,我们的AQ-Pinns与经典的多头自我注意方法相比,模型参数降低了51.51%,同时保持了可比的收敛性和损失。它还采用量子张量网络来增强表示能力,这可以导致更有效的梯度计算并降低对贫瘠的高原的敏感性。我们的AQ-Pinns代表了朝着更可持续和有效的气候建模解决方案迈出的关键步骤。
其中w是一个随机的强迫术语(例如白噪声),θ=(κ,α)是模型参数,与Mat'协方差函数相关。这种方法桥接了物理和统计建模之间的联系。这导致了大量的精炼方程(1),以建模更广泛的随机字段,并开发用于估计模型参数的统计推理程序(Lindgren等人。2022)。这些方法中的大多数都依赖于基于网格的方法,使用有限元或音量方法来离散有限的基础函数集方程。在Clarotto等人中提出了这种方法对时空数据的最新概括。(2024)。另一方面,在确定性的环境中,物理知识的神经网络(Pinns,Raissi等人2019)最近引入了求解部分微分方程nθ[u] = 0,其中nθ是任意的差分运算符。一个人试图找到最佳的神经网络uν(ν是一组权重和偏见),通过在随机采样的搭配点上最小化其PDE残差来代表解决方案。这种无网格的方法已被证明在各种情况下有用,并且可以扩展到反对问题,在这种情况下,人们试图学习差分运算符的参数θ给定解决方案的某些观察结果。
这项研究研究了物理知识神经网络的潜在准确性边界,将其方法与以前的类似作品和传统数值方法进行了对比。我们发现,选择改进的优化算法显着提高了结果的准确性。对损失功能的简单调节也可以提高精度,从而增加增强途径。尽管优化算法对收敛的影响要比调整损失功能更大,但实际上考虑因素通常会由于易于实施而倾向于调整后者。在全球范围内,增强的优化器和略微调整的损失函数的集成使损失函数在各种物理问题上的数量级减少了几个数量级。因此,我们使用紧凑网络(通常包括20-30个神经元的2或3层)获得的结果实现了与使用数千个网格点的有限差异方案相当的精确度。这项研究鼓励针对各个领域的更广泛应用的PINN和相关优化技术的持续发展。