a b s t r a c t generativ e Adveranial网络(GAN)经常用于天文学中来构建数值模拟的模拟器。然而,培训甘斯可能会被证明是一项不稳定的任务,因为它们容易出现不稳定,并且经常导致模式崩溃问题。相反,扩散模型还具有在没有对抗训练的情况下生成高质量数据的能力。它在几个自然图像数据集方面表现出了优势。在这项研究中,我们通过一组来自散射变换的强大摘要统计数据进行了降级扩散概率模型(DDPM)(DDPM)(DDPM)(DDPM)(最坚固的gan类型之一)之间的定量比较。特别是,我们利用这两个模型来生成21 cm亮度温度映射的图像,作为一个案例研究,基于天体物理参数有条件地研究,这些参数与宇宙复离的过程相关。使用我们的新fr`echet散射距离(FSD)作为e v aluation指标,以定量比较生成模型和仿真之间的样本分布,我们证明了DDPM在各种训练集的大小上都优于stylegan2。通过Fisher的预测,我们证明,在我们的数据集中,StyleGAN 2以各种方式崩溃,而DDPM产生了更强大的生成。我们还探讨了无分类指导在DDPM中的作用,并仅在训练数据受到限制时才显示出对非零指导量表的偏好。我们的发现表明,扩散模型在生成准确的图像中提供了一种有希望的替代品。这些图像随后可以提供可靠的参数约束,尤其是在天体物理学领域。
主要参考:伴随匹配:具有无内存随机最佳控制的微调流量和扩散生成模型。C. Domingo-Enrich,M。Drozdzal,B。Karrer,R。T。Q. Chen,ICLR2025。https://arxiv.org/abs/2409.08861
本文研究了分解生成模型如何利用(未知)低维结构来加速采样。着眼于两个主流采样器 - denoing Di ti timion隐式模型(DDIM)和denoing Di ti usion概率模型(DDPM) - 并进行准确的分数估计值,我们假设他们的迭代复杂性不超过某些二号差异的距离(最高限度),而K/ε(最高限度)是二的差异,是ε的依赖性,是ε的依赖性,ε是ε的范围。 分配。我们的结果适用于广泛的目标分布家庭,而无需平滑度或对数洞穴假设。此外,我们开发了一个下限,这表明Ho等人引入的系数的(几乎)必需。(2020)和Song等。(2020)在促进低维适应性方面。我们的发现提供了第一个严格的证据,证明了DDIM型采样器对单个低维结构的适应性,并改善了有关总DDPM关于总变化收敛性的最先进的DDPM理论。
图2:基于扭转角的主成分分析(PCA),TRP型栅格和α-突触核蛋白的自由能表面(FES)。(a)和(d)分别沿TRP-CAGE和α-类核蛋白的整个分子动力学(MD)模拟数据集沿第一个两个主要成分(PC-1和PC-2)显示了2D FES图。(b)和(e)使用仿真数据的子集描绘了FES图,相当于TRP -cage的总数据的10%,而α-突触核蛋白的50%。与完整数据集相比,这些子集突出了采样自由能表面的稀疏性。(c)和(f)介绍了由DDPM训练的模型产生的FES图,这些模型在还原的子集上进行了训练。值得注意的是,DDPM生成的FES图与完整数据集的FES相似,并有效地采样了(b)和(e)中观察到的稀疏区域。
相对于在模型输出上定义的某些可区分的度量标准的潜伏模型的潜在和参数的优化是一个具有挑战性且复杂的问题。通过求解概率流ode或扩散SDE来完成扩散模型的采样,其中神经网络近似得分函数,允许使用数值ode/sde求解器。但是,幼稚的反向传播技术是内存密集的,需要所有中间状态的存储,并且在处理扩散SDE扩散项的注入噪声时面临额外的复杂性。我们向扩散模型的连续伴随方程提出了一个新型的定制ode求解器家族,我们称之为相邻。我们利用扩散SDE的唯一构建,以进一步简化使用指数积分器的连续伴随方程的制定。此外,我们为定制求解器提供收敛订单保证。显着,我们表明,扩散SDE的连续伴随方程实际上简化为简单的ODE。最后,我们以面部变形问题的形式以对抗性发作的形式证明了相邻生成的有效性。我们的代码将在https://github.com/zblasingame/adjointdeis上发布。
摘要 - 生成扩散模型(GDMS),在对各种域的复杂数据分布进行建模方面取得了显着的进步。与此同时,深度加固学习(DRL)在优化Wi-Fi网络性能方面已显示出重大改进。Wi-Fi优化问题对于数学上的模型来说是高度挑战性的,DRL方法可以绕过复杂的数学建模,而GDMS在处理复杂的数据建模方面表现出色。因此,将DRL与GDM相结合可以相互增强其功能。Wi-Fi网络中当前的MAC层访问机制是分布式协调函数(DCF),它在大量端子中大大降低了性能。在这项研究中,我们提出了深层扩散确定性策略梯度(D3PG)算法,该算法将扩散模型与深层确定性策略梯度(DDPG)框架集成在一起,以优化Wi-Fi网络性能。据我们所知,这是在Wi-Fi性能优化中应用这种集成的第一项工作。我们提出了一种基于D3PG算法的共同调整争议窗口和聚合框架长度的访问机制。通过模拟,我们证明了这种机制在密集的Wi-Fi方案中显着优于现有的Wi-Fi标准,即使用户数量急剧增加,也保持了性能。
扩散模型在各种一代任务中实现了最新的表现。但是,他们的理论基础远远落后。本文研究了在未知的低维线性子空间上支持数据时,扩散模型的得分近似,估计和分配恢复。我们的结果提供了使用扩散模型的样本相结合范围,用于分布估计。我们表明,通过选择性选择的神经网络体系结构,得分函数可以准确地近似且有效地估计。此外,基于估计的分数函数的生成的分布会结合数据几何结构并收敛到数据分布的近距离。收敛速率取决于子空间维度,这意味着扩散模型可以规避数据环境维度的诅咒。
本文旨在对当前分化模型进行全面的理论分析。我们利用潜在空间中的schr odinger桥的不同模型引入了一种新颖的生成学习方法,作为该领域中理论上的框架。我们的方法是从编码解码器架构的预训练开始,该数据源自可能与目标分布不同的分布,从而通过利用预先存在的大型模型来促进大型样本量的适应。随后,我们利用Schr odinger桥框架在潜在空间内开发了一个不同的使用模型。我们的理论分析涵盖了通过潜在的Schréodinger桥梁消化模型来建立学习分布的端到端错误分析。特别是我们控制生成的分布与目标分布之间的二阶Wasserstein距离。此外,我们获得的收敛速率是尖锐的,有效地减轻了维度的诅咒,从而对盛行的分歧模型提供了强大的理论支持。
图像生成扩散模型的主要轴是图像质量,结果的变化量以及结果与给定条件(例如类标签或文本提示)的对齐程度。流行的无分类器指导方法使用无条件模型来指导有条件的模型,从而以减少变化的成本,同时及时迅速排列和更高质量的图像。这些效果似乎固有地纠缠,因此很难控制。我们令人惊讶的是,可以通过使用模型本身的较小,训练较低的版本而不是无条件模型来指导生成,而不是通过指导生成来获得对图像质量的控制的控制,而不会损害变化的量。使用公开可用的网络,这会导致ImageNet生成的显着改善,为64×64的创纪录FID定为1.01,为512×512,为512×512的FID定为1.01。此外,该方法还适用于无条件扩散模型,可大大提高其质量。
RNA的功能与X射线晶体学,NMR和Cryo-EM传统上探索的3D结构本质上息息相关。但是,这些实验通常缺乏原子水平的分辨率,从而使需要准确的RNA RNA结构预测工具。这一需求推动了人工智能(AI)的进步,该技术已经彻底改变了蛋白质结构的预测。不幸的是,由于稀疏和不平衡的结构数据,RNA场中的类似突破仍然有限。在这里,我们介绍了RNAGRAIL,这是一种新型的RNA 3D结构预测方法,该方法侧重于使用denoising扩散概率模型(DDPM)进行RNA子结构。与Alphafold 3(AF3)不同,被许多人认为是Oracle,Rnagrail允许专家用户定义基本对约束,从而提供出色的灵活性和精确度。,我们的方法在平均RMSD方面优于AF3,而平均ERMSD的表现为24%。此外,就相互作用网络保真度(INF)而言,它完美地再现了规范的二级结构优于AF3。rnagrail表现出各种RNA图案和家庭的鲁棒性。尽管受过rRNA和tRNA的训练,但它有效地概括为新的RNA家族,因此解决了RNA 3D结构预测中的主要挑战之一。这些结果强调了专注于小的RNA组件并集成用户定义的约束以显着增强RNA 3D结构预测的潜力,从而在RNA建模中设定了新标准。