项目A1:使用物理信息神经网络的科学机器学习:算法和应用主管:Bruno Carpentieri教授教授项目描述:这项活动的目标是在数学和人工智能(AI)的交汇处为尖端研究做出了重大贡献(AI),解决复杂的现实世界应用程序的应用程序和镇定业务,并在这些快速的广告中解决这些快速扩展。物理知识的机器学习(PINN)是一种新颖的方法,用于将传统科学物理定律的特定知识纳入机器学习模型中。可以将其视为一种方法,它既是用于捕获系统物理学的建模工具,也可以用作有效解决数学问题的计算工具。物理学和机器学习之间的这种协同作用不仅提高了模型的准确性,而且还为基础物理过程提供了宝贵的见解,使Pinn成为解决计算科学和工程领域中复杂问题的有效建模工具。在此项目中,我们分析了大型数据集,使用高级数学和计算机科学技术提取有意义的模式,例如统计分析,线性代数,微积分,CPU和GPU系统上的高性能并行计算。然后,我们使用PINN来求解在现实世界科学应用中出现的部分微分方程,分数方程和积分微分方程的模型。目的是推动AI模型的开发和优化,尤其是在能源和医疗问题领域,对数学算法和AI模型的实施和优化产生了重大贡献。必需的强制性技能:线性代数方法的基本知识。计算机编程技能。分析和解决问题。批判性思维。协作。理想的(可选)技能:一种高级编程语言的知识。知识机器学习技术。并行计算的经验。
虽然物理知识的神经网络(PINN)已成为一个流行的深度学习框架,用于解决由部分差分方程(PDES)控制的前进和反问题(PDES),但众所周知,当采用更大和更深层的神经网络架构时,他们的性能会降低。我们的研究表明,这种反直觉行为的根源在于使用具有不适合初始化方案的多层感知器(MLP)架构,从而导致网络衍生物的培训较差,最终导致PDE残留损失的不稳定最小化。为了解决这个问题,我们引入了物理信息的残留自适应网络(Piratenets),这是一种新型的体系结构,旨在促进对深色Pinn模型的稳定且有效的培训。Piratenets利用了一种新型的自适应残差连接,该连接允许将网络初始化为在训练过程中逐渐加深的浅网络。我们还表明,提出的初始化方案使我们能够在网络体系结构中对与给定PDE系统相对应的适当的归纳偏差进行编码。我们提供了全面的经验证据,表明piratenets更容易优化,并且可以从深度大大提高,最终在各种基准中获得最新的结果。此手稿随附的所有代码和数据将在https://github.com/predictivectiveIntelligencelab/jaxpi/jaxpi/tree/pirate上公开提供。
摘要 — 由于脑动力学的复杂性,静息态功能性磁共振成像 (rsfMRI) 中血氧水平依赖性 (BOLD) 信号的传统建模难以进行参数估计。本研究介绍了一种新型脑动力学模型 (BDM),该模型通过微分方程直接捕捉 BOLD 信号变化。与动态因果模型或神经质量模型不同,我们将血流动力学响应整合到信号动力学中,同时考虑直接和网络介导的神经元活动效应。我们利用物理信息神经网络 (PINN) 来估计此 BDM 的参数,利用它们将物理定律嵌入学习过程的能力。这种方法简化了计算需求并提高了对数据噪声的鲁棒性,为分析 rsfMRI 数据提供了全面的工具。利用按估计参数缩放的功能连接矩阵,我们应用最先进的社区检测方法来阐明网络结构。我们的分析表明,在比较神经正常个体与自闭症谱系障碍 (ASD) 患者时,特定大脑区域的参与系数存在显著差异,男性和女性群体之间存在明显差异。这些差异与之前研究中涉及的区域一致,进一步证实了这些区域在 ASD 中的作用。通过将 PINN 与高级网络分析相结合,我们展示了一种分析 ASD 复杂神经特征的稳健方法,为神经成像和更广泛的计算神经科学领域的未来研究提供了一个有希望的方向。
科学机器学习(SCIML)已成为解决部分分化方程(PDE)并解决广泛现实世界挑战的强大工具。这种感兴趣的激增导致对传统数值方法的重新评估和重新思考,强调了对更有效和可靠的方法的需求,从而整合了模型驱动和数据驱动的方法。在这种情况下,物理知识的神经网络(PINN)是解决与非线性PDE相关的前进和反问题的新型深度学习框架。尽管PINNS展示了出色的有效作用,但几种新兴的人工智能(AI)方法学值得考虑更复杂和要求的应用程序。在本演讲中,我们将探索与AI迷人世界相关的新理论和应用挑战,因为它与SCIML相交。
这项研究研究了物理知识神经网络的潜在准确性边界,将其方法与以前的类似作品和传统数值方法进行了对比。我们发现,选择改进的优化算法显着提高了结果的准确性。对损失功能的简单调节也可以提高精度,从而增加增强途径。尽管优化算法对收敛的影响要比调整损失功能更大,但实际上考虑因素通常会由于易于实施而倾向于调整后者。在全球范围内,增强的优化器和略微调整的损失函数的集成使损失函数在各种物理问题上的数量级减少了几个数量级。因此,我们使用紧凑网络(通常包括20-30个神经元的2或3层)获得的结果实现了与使用数千个网格点的有限差异方案相当的精确度。这项研究鼓励针对各个领域的更广泛应用的PINN和相关优化技术的持续发展。
这项研究提出了一个基于深度强化学习(DRL)的智能自适应控制框架。动态干扰场景下的比较实验表明,与传统的模型参考自适应控制(MRAC)相比,提出的框架将系统稳定时间降低了42%(*P*<0.01),并将控制精度提高1.8个数量级(RMSE:0.08 vs. 1.45)。通过将物理信息的神经网络(PINN)与元强化学习(Meta-RL)整合在一起,混合体系结构解决了常规方法的关键局限性,例如强大的模型依赖性和实时性能不足。在工业机器人臂轨迹跟踪和智能电网频率调节方案中得到验证,该方法的表现优于关键指标的传统方法(平均改进> 35%)。用于边缘计算的轻量级部署方案可在嵌入式设备上实现实时响应(<5ms),为复杂动态系统的智能控制提供了理论和技术基础。
正如Jevons Paradox强调的那样,人工智能(AI)在解决气候变化方面的计算需求不断增长引起了人们对低效率和环境影响的重大关注。我们提出了一个引人注意的量子物理信息知识的神经网络模型(AQ-PINNS)来应对这些挑战。这种方法将量子计算技术集成到物理知情的神经网络(PINN)中,以进行气候建模,旨在提高由Navier-Stokes方程所控制的流体动力学的预先准确性,同时减少计算负担和碳足迹。通过利用变异量子多头自我注意机制,我们的AQ-Pinns与经典的多头自我注意方法相比,模型参数降低了51.51%,同时保持了可比的收敛性和损失。它还采用量子张量网络来增强表示能力,这可以导致更有效的梯度计算并降低对贫瘠的高原的敏感性。我们的AQ-Pinns代表了朝着更可持续和有效的气候建模解决方案迈出的关键步骤。
摘要 摘要 准确预测隧道施工引起的地表沉降对于保证隧道工程安全施工和决策至关重要。本文建立了一种用于预测盾构隧道施工引起地层变形的物理信息神经网络(PINN)模型。该模型将隧道收敛变形与隧道开挖位置的关系纳入深度神经网络(DNN)框架中。考虑到多地层的地质特点,提出了一种多物理信息神经网络(MPINN)模型,在统一的框架下表示不同地层的物理信息。结果表明,MPINN模型可以高度再现有限差分法的计算结果,并能准确预测考虑复合地层的复杂地质信息的隧道施工引起的地表沉降。由于MPINN模型具有完整的物理机制,适用于隧道施工引起的地表沉降问题,可以预测不同地质和几何条件下的隧道施工引起的地表沉降。基于实测数据,提出的MPINN模型能够准确预测监测断面地表沉降曲线,为隧道施工过程中地表沉降预测预警提供参考。
准确的轨道测定对于Cislunar空间监测至关重要。在低地球轨道(LEO)中用于OD的传统技术可能无法在Cislunar空间中有效地工作,因此需要新的方法来估计这种环境中机动目标的状态。本文提出了一种利用物理知情神经网络(PINN)的新方法,这是一种独特的神经网络类型,旨在解决由参数微分方程控制的前进和反问题。OD问题被视为一个动态问题,其目的是从观察数据开始解决管理微分方程。该系统能够使用仅被动角度观察来估计目标状态,而无需任何初始猜测或集成。如果考虑操纵目标,包括运动方程中未知的动态组件,则可以在观察范围内的任何时候估算目标状态和操纵者本身。该方法均可在Space4 Center提供的CISLUNAR对象和合成生成的数据的两个实际角度观察结果上进行测试。本文得出的结论是,所提出的方法有可能提高Cislunar空间中的OD准确性,并且可能是传统方法的有希望的替代方法。
我们引入了一种新方法,利用物理信息神经网络 (PINN) 的优势来解决由 NQ 量子比特系统组成的量子电路优化中的反非绝热 (CD) 协议。主要目标是利用物理启发的深度学习技术来准确解决量子系统内不同物理可观测量的时间演化。为了实现这一目标,我们将必要的物理信息嵌入到底层神经网络中以有效地解决这个问题。具体来说,我们对所有物理可观测量施加了厄米性条件,并利用最小作用量原理,保证根据底层物理学获得最合适的反非绝热项。所提出的方法提供了一种可靠的替代方法来解决 CD 驱动问题,摆脱了以前依赖经典数值近似的方法中通常遇到的限制。我们的方法提供了一个通用框架,可以从与问题相关的物理可观测量中获得最佳结果,包括时间上的外部参数化(称为调度函数)、涉及非绝热项的规范势或算子,以及系统能级的时间演化等。该方法的主要应用是 H 2 和 LiH 分子,由采用 STO-3G 基础的 2 量子比特和 4 量子比特系统表示。所给出的结果证明了通过利用泡利算子的线性组合成功推导出非绝热项的理想分解。这一属性为其在量子计算算法中的实际实现带来了显著的优势。