不受位置变化的影响。生物控制论,36(4),193-202。 https://doi.org/10.1007/BF 00344251 Goodfellow, I.、Bengio, Y. 和 Courville, A. (2016)。深度学习。麻省理工学院出版社。 (Schmidt、I. Schiffman、Y. Schaefer、A. 化学工程师和仪器仪表(2018)Graves、A.、Wayne、G. 和 Danihelka、I.(2014)。神经图灵机。 arXiv。 Ha, D. 和 Schmidhuber, J. (2018)。世界模特。 arXiv。 https://arxiv.org/abs/1803.10122 Han, K., Wang, Y., Chen, H., Chen, X., Guo, J., Liu, Z., Tang, Y., Xiao, A., Xu, C., Xu, Y., Yang, Z., Zhang, Y., & Tao, D. (2020 年)。关于视觉变压器的调查。 arXiv。 https://arxiv.org/abs/2012.12556 Higgins, I., Amos, D., Pfau, D., Racaniere, S., Matthey, L., Rezende, D., 和 Lerchner, A. (2018)。迈向解开表征的定义。 arXiv。 https://archiv. org/abs/1812.02230 美国国立卫生研究院(AI)(2020 年)。 2020 年人工智能市场:5 年历史的人工智能创新和 5 年历史的临床试验 LeCun, Y., Bengio, Y., & Hinton, G. (2015 年)。深度学习。自然,521,436-444。 http://dx.doi.org/10.1038/nature 14539 Mansimov, E., Parisotto, E., Ba, JL 和 Salakhutdinov, R. (2015)。利用注意力机制根据标题生成图像。 arXiv。 https://archiv.org/abs/1511.02793 纽约(2015 年)。 我的一位朋友是角川家族的成员(2016年)(2016年)。 http://dx.doi.org/10.1037/0033-295X.101.1.13 McCulloch, WS 和 Pitts, W. (1943)。神经活动中蕴含的观念的逻辑演算。数学生物物理公报,5(4),115-133。 https://doi.org/10.1007/BF02478259 Nakkiran, P.、Kaplun, G.、Bansal, Y.、Yang, T.、Barak, B. 和 Sutskever, I. (2019)。深度双重下降:更大的模型和更多的数据会带来危害。 arXiv。 https://arxiv.org/abs/ 1912.02292 Perez, J.、Marinkovic, J. 和 Barcelo, P.(2019 年 5 月 6-9 日)。论现代神经网络架构的图灵完备性。 ICLR 2019:第七届学习表征国际会议。路易斯安那州新奥尔良。美国。 Radford , A.、Kim , JW、Hallacy , C.、Ramesh , A.、Goh , G.、Agarwal , S.、Sastry , G.、Askell , A.、Mishkin , P.、Clark , J.、Krueger , G. 和 Sutskever , I. (2021)。从自然语言监督中学习可转移的视觉模型。 arXiv。 https://arxiv.org/abs/2103.00020 Ramachandran, P., Zoph, B., 和 Le, QV (2017)。寻找激活函数。 arXiv。 https://arxiv.org/abs/ 1710.05941 Razavi, A., van the Word, A. 和 Vinyals, O. (2019)。使用 VQ-VAE-2 生成各种高保真图像arXiv。 https://arxiv.org/abs/1906.00446 Reed, S.、Akata, Z.、Yan, X.、Logeswaran, L.、Schiele, B. 和。
在世界各地的学者中,我们经常会发现他们将机器人、机器或其他计算机算法等术语与人工智能互换使用,而没有进行严格的区分,或者在所谓的“营销”背景下讨论人工智能,而没有对人工智能进行准确的定义。因此,目前世界各地都出现了将所有这些领域混为一谈并称之为人工智能的问题,而没有区分严格意义上的人工智能与计算机工程、机械工程和电气工程等其他研究领域。但这种思路无法清晰地展开有关人工智能的讨论,而且容易导致将先进科技文明产生的各种问题片面地归结为人工智能造成的问题。因此,本文将把人工智能的定义限定为‘人工实现人的学习能力和智能的软件(以及包括它在内的计算机系统)’,对于不具备这种学习能力和智能的一般机器人、机器、计算机算法等,本文将完全不予考虑。 4)沃伦·S·麦卡洛克、沃尔特·皮茨,“对内在思想的逻辑演算
使用循环神经网络从神经测量重建计算动力学 Daniel Durstewitz 1,2,3,*、Georgia Koppe 1,4、Max Ingo Thurm 1 1 海德堡大学医学院中央精神卫生研究所理论神经科学系 2 海德堡大学跨学科科学计算中心 3 海德堡大学物理与天文学院 4 海德堡大学医学院中央精神卫生研究所精神病学和心理治疗诊所* 通讯作者:daniel.durstewitz@zi-mannheim.de 关键词:动力系统理论、机器学习、循环神经网络、吸引子、混沌、多个单元记录、神经生理学、神经成像 摘要 神经科学中的机械和计算模型通常采用微分或时间递归方程组的形式。此类系统的时空行为是动力系统理论 (DST) 的主题。 DST 提供了一个强大的数学工具箱,用于描述和分析从分子到行为的任何级别的神经生物学过程,几十年来一直是计算神经科学的支柱。最近,循环神经网络 (RNN) 成为一种流行的机器学习工具,用于研究神经或行为观察背后的非线性动力学。通过在与动物受试者相同的行为任务上训练 RNN 并剖析其内部工作原理,可以产生关于行为的神经计算基础的见解和假设。或者,可以直接在手头的生理和行为时间序列上训练 RNN。理想情况下,一旦训练好的 RNN 将能够生成具有与观察到的相同的时间和几何属性的数据。这称为动态系统重建,这是机器学习和非线性动力学中一个新兴的领域。通过这种更强大的方法,就其动态和计算属性而言,训练过的 RNN 成为实验探测系统的替代品。然后可以系统地分析、探测和模拟训练过的系统。在这里,我们将回顾这个令人兴奋且迅速发展的领域,包括机器学习的最新趋势,这些趋势在神经科学中可能还不太为人所知。我们还将讨论基于 RNN 的动态系统重建的重要验证测试、注意事项和要求。概念和应用将通过神经科学中的各种示例进行说明。简介理论神经科学的一个长期原则是,神经系统中的计算可以用底层的非线性系统动力学来描述和理解(Amit & Brunel,1997;Brody & Hopfield,2003;Brunel,2000;Durstewitz,2003;Durstewitz 等,1999、2000、2021;Hodgkin & Huxley,1952;Hopfield,1982;Izhikevich,2007;Machens 等,2005;Miller,2016;Rinzel & Ermentrout,1998;Wang,1999,2002;Wilson,1999;Wilson & Cowan,1972)。相关思想可以追溯到 40 年代 McCulloch & Pitts (1943)、Alan Turing (1948) 和 Norbert Wiener (1948) 的工作,并在 80 年代早期通过 John Hopfield (1982) 的开创性工作获得了发展势头,该工作将记忆模式嵌入为简单循环神经网络中的固定点吸引子。Hopfield 网络的美妙之处在于它们免费提供了生物认知系统的许多特性,例如自动模式完成、通过部分线索进行内容可寻址记忆检索或对部分病变和噪声的鲁棒性。通过动态系统理论 (DST) 的视角来观察神经计算特别有力,因为一方面,许多(如果不是大多数)物理和生物过程都是自然形式化的
我们很高兴为您呈现国际晶体学联合会 (IUCr) 期刊的虚拟文章合集,这些文章探讨了人工智能 (AI) 和机器学习 (ML) 在结构科学中的应用 (https://journals.iucr.org/special_issues/2024/ML/)。人工智能/机器学习正在彻底改变我们的日常生活。尽管机器学习和深度学习 (DL) 的基础源自学术计算、数学和脑理论领域(McCulloch & Pitts,1943 年;Rosenblatt,1958 年),但其早期的许多社会影响都体现在商业领域。然而,如今物理学家们正在将这些发展成果应用于他们自身的科学研究(Choudhary 等人,2021 年),晶体学也不例外。因此,现在非常及时地汇总了在《晶体学报》(A、B 和 D 部分)、IUCrJ 和《同步辐射杂志》上发表的越来越多的 AI/ML 论文。我们还注意到《应用晶体学杂志》上发表的有关 AI 的相关虚拟合集(网址为 https://journals.iucr.org/special_issues/2024/ANNs/)以及《晶体学报》A 部分最近关于深度学习在蛋白质晶体学中的应用的主导文章(Matinyan 等人,2024 年)。本文的目的不是回顾虚拟合集中的每篇论文,而是鼓励您探索论文本身。因此,在表 1 中,我们总结了每篇论文使用的科学目标和 AI/ML 方法,使您可以快速导航到您最感兴趣的论文。在本文中,我们力求提供一些更高层次的主题,并按机器学习和领域主题对部分论文进行分组,以帮助您了解晶体学领域的发展历程,以及科学家目前如何利用人工智能/机器学习作为工具来解决他们的科学问题。这些论文几乎涵盖了所有类型的机器学习。无监督学习是一种方法,在这种方法中,机器学习算法在没有任何先验知识的情况下,尝试对数据集进行聚类(即寻找相似信号)或提取出能够解释更大信号集行为的不同信号集。在监督学习中,算法在大量先验数据上进行“训练”,之后,它们可以根据从训练数据中学到的知识对给定的新数据进行分类。这种分类问题的例子是训练算法区分猫和狗的图片(Subramanian,2018)。监督学习还可以用于执行回归而不是分类,即对数据集进行函数拟合。最后,各种生成式机器学习方法旨在根据一些基于大量学习到的响应进行训练的输入提示,生成新的输出。Deepfake 视频和音频技术以及 ChatGPT (OpenAI, 2024 a) 就是生成式人工智能的例子。区分不同AI/ML方法的另一种方法是基于算法的内部结构。广义上讲,这些方法可以分为传统ML和深度神经网络(深度学习,简称DL)。传统方法基于统计方法和线性代数,包括基于树的方法、逻辑回归和矩阵分解方法。深度学习受大脑神经元结构的启发,构建了高度非线性的图形数学结构,信息通过网络从输入端传递到输出端,同时在每一层都经历非线性变换。数据在网络中的转换和传输由数千个参数控制,这些参数通过算法进行更新,使网络能够
请在我们身份验证您的情况下等待...2016年贝叶斯分析学会的2016年奖项获得了这本著名的书,现在是第三版,被广泛认为是贝叶斯方法的主要文本,它因其实用和可访问的方法来分析数据和解决研究问题而受到赞扬。介绍先进的方法,文本具有从真实应用和研究中得出的众多工作示例,强调在本版中使用贝叶斯推断在实践中的实践中使用了四章,这些章节是关于非参数建模的四章,以及关于弱小的先验,避免边界的先验,跨越的先验,交叉竞争和预测信息的宣布,在三个方面使用的学生的最新章节:原则;对于研究生,它提出了贝叶斯建模和计算的有效当前方法;对于研究人员而言,它在应用统计数据中提供了各种贝叶斯方法的其他材料,包括数据集,选定练习的解决方案和软件说明,在书的网页上提供了一些研究人员,强调了在组织科学中使用贝叶斯方法进行数据分析的重要性。 但是,在采用贝叶斯方法时,仍然存在一些挑战和局限性。 例如,一个问题是贝叶斯方法需要指定先前的分布,这可能很困难,尤其是在使用复杂模型时。 Berger,J。2016年贝叶斯分析学会的2016年奖项获得了这本著名的书,现在是第三版,被广泛认为是贝叶斯方法的主要文本,它因其实用和可访问的方法来分析数据和解决研究问题而受到赞扬。介绍先进的方法,文本具有从真实应用和研究中得出的众多工作示例,强调在本版中使用贝叶斯推断在实践中的实践中使用了四章,这些章节是关于非参数建模的四章,以及关于弱小的先验,避免边界的先验,跨越的先验,交叉竞争和预测信息的宣布,在三个方面使用的学生的最新章节:原则;对于研究生,它提出了贝叶斯建模和计算的有效当前方法;对于研究人员而言,它在应用统计数据中提供了各种贝叶斯方法的其他材料,包括数据集,选定练习的解决方案和软件说明,在书的网页上提供了一些研究人员,强调了在组织科学中使用贝叶斯方法进行数据分析的重要性。但是,在采用贝叶斯方法时,仍然存在一些挑战和局限性。例如,一个问题是贝叶斯方法需要指定先前的分布,这可能很困难,尤其是在使用复杂模型时。Berger,J。一些研究人员提出了各种技术来提出专家判断以告知先前分布的技术。,例如,O'Hagan等。(2006)提供了先前启发的综合指南,包括技术和潜在的陷阱。其他研究的重点是开发使用贝叶斯先验的专家的信念的方法(例如,Johnson等,2010)。此外,还有各种可用的在线资源可以帮助进行贝叶斯分析。例如,Van de Schoot的在线统计培训提供了有关高级统计主题的教程和练习。总的来说,在组织科学中使用贝叶斯方法的使用变得越来越重要,但是它需要仔细考虑先前的分布和启发技术,以确保准确的结果。注意:我已经删除了一些特定的参考,并重点介绍了要点。让我知道您是否希望我保留更多原始文本!van de de Schoot-Hubeek,W.,Hoijtink,H.,Van de Schoot,R.,Zondervan-Zwijnenburg,M。&Lek,K。评估专家判断引发程序,以相关性和应用于贝叶斯分析。客观的贝叶斯分析:对主观贝叶斯分析的案例,批评和个人观点。Brown,L。D.经验贝叶斯和贝叶斯方法的现场测试,用于击球平均赛季预测。Candel,M。J.,Winkens,B。Monte Carlo研究在纵向设计中多级分析中的经验贝叶斯估计值的性能。Ibrahim,J。G.,Chen,M。H.,Gwon,Y。Ibrahim,J。G.,Chen,M。H.,Gwon,Y。darnieder,W。F.贝叶斯方法依赖数据依赖的先验。&Chen,F。权力先验:具有统计功率计算的理论和应用。Muthen,B。,Asparouhov,T。贝叶斯结构方程建模:使用数据依赖性先验对实体理论的更灵活的表示。Rietbergen,C.,Klugkist,I.,Janssen,K。J.,Moons,K。G.&Hoijtink,H。将历史数据纳入随机治疗试验的分析中,以及基于系统文献搜索和专家精力提示的知识的贝叶斯PTSD-Traigntory分析。van der Linden,W。J.在自适应测试中使用响应时间进行项目选择。Wasserman,L。使用数据依赖性先验对混合模型的渐近推断。请注意,我保留了您的消息的原始语言而不翻译。给定文本:释义此文本:数据(版本V1.0)。Zenodo(2020)。元素Google Scholar Chung,Y.,Gelman,A.,Rabe-Hesketh,S.,Liu,J。&Dorie,V。层次模型中协方差矩阵的点估计值较弱。J.教育。行为。Stat。40,136–157(2015)。Google Scholar Gelman,A.,Jakulin,A.,Pittau,M。G.&Su,Y.-S。 logistic和其他回归模型的弱信息默认分布。ann。应用。Stat。2,1360–1383(2008)。MathScinetMath Google Scholar Gelman,A.,Carlin,J。 B.,Stern,H。S.&Rubin,D。B. Bayesian数据分析卷。 2(Chapman&Hallcrc,2004)。Jeffreys,H。概率理论卷。 am。 Stat。2,1360–1383(2008)。MathScinetMath Google Scholar Gelman,A.,Carlin,J。B.,Stern,H。S.&Rubin,D。B. Bayesian数据分析卷。2(Chapman&Hallcrc,2004)。Jeffreys,H。概率理论卷。am。Stat。3(Clarendon,1961).Seaman III,J。W.,Seaman Jr,J。W.&Stamey,J。D.指定非信息先验的隐藏危险。66,77–84(2012).MathScinet Google Scholar Gelman,A。层次模型中方差参数的先前分布(Browne和Draper对文章的评论)。贝叶斯肛门。1,515–534(2006).MathScinet Math Google Scholar Lambert,P.C.,Sutton,A。J.,Burton,P.R.,Abrams,K。R.&Jones,D。R.含糊不清?对使用Winbugs在MCMC中使用模糊的先验分布的影响的仿真研究。Stat。Med。24,2401–2428(2005)。MathScinetGoogle Scholar Depaoli,S。在不同程度的类别分离的情况下,GMM中的混合类别恢复:频繁主义者与贝叶斯的估计。Psychol。方法18,186–219(2013)。Google Scholar DePaoli,S。&Van de Schoot,R。贝叶斯统计中的透明度和复制:WAMBS-CHECKLIST。Psychol。方法22,240(2017)。本文提供了有关如何在使用贝叶斯统计数据估算模型时如何检查各个点的分步指南。统计建模模型检查中的贝叶斯模型检查和鲁棒性是一种用于评估统计模型准确性的方法。它涉及使用各种诊断工具来检查模型的潜在问题,例如偏见或过度拟合。贝叶斯模型检查是传统模型检查的扩展,将先前的信念纳入分析中。再次。贝叶斯模型检查的关键应用之一是检测先前数据冲突。贝叶斯模型检查近年来变得越来越重要,因为它能够提供对统计模型的更细微理解的能力。它允许研究人员量化数据中包含的信息量,并评估其结论的可靠性。一些研究人员为贝叶斯模型检查技术的发展做出了重大贡献,包括Nott等,Evans和Moshonov,Young and Pettit,Kass和Raftery,Bousquet,Veen和Stoel,以及Nott等。这些研究人员介绍了各种诊断工具和评估先前数据协议和冲突的标准。这会发生在同一数据集的先前信念和数据之间存在差异时。像埃文斯(Evans),莫索诺夫(Moshonov)和杨(Young)这样的研究人员已经开发了使用诸如后验预测分布等指标来量化这一冲突的方法。贝叶斯模型检查也已应用于贝叶斯模型中的可能性推断。像Gelman,Simpson和Betancourt这样的研究人员强调了理解表达先前信念的上下文的重要性。除了其方法论上的意义外,贝叶斯模型检查还在社会科学,医学和金融等领域还采用了实际应用。它可以通过确定统计模型的潜在问题来帮助研究人员和政策制定者做出更明智的决定。在此处给定文章,此处28,319–339(2013).MathScinet Math Google Scholar Rubin,D。B. Bayesian具有合理的频率计算,适用于应用的统计学家。ann。Stat。J.am。12,1151–1172(1984)。Mathscinet Math Google Scholar Gelfand,A。E.&Smith,A。F. M.基于采样的方法来计算边际密度。 Stat。 合作。 85,398–409(1990)。 这篇开创性的文章将MCMC视为贝叶斯推理的实际方法。 ifna(1991)。 3(Eds van de Schoot,R。&Miocevic,M。)30–49(Routledge,2020)。 4(eds van de Schoot,R。&Miocevic,M。)50–70(Routledge,2020)。Robert,C。&Casella,G。Monte Carlo统计方法(Springer Science&Business Media,2013)。 ieee trans。 模式肛门。 马赫。 Intell。 6,721–741(1984)。大型Google Scholar Metropolis,N.,Rosenbluth,A。W.,Rosenbluth,M。N.,Teller,A。H.&Teller,E。快速计算机通过快速计算机计算的方程。 J. Chem。 物理。 21,1087–1092(1953).ADS数学Google Scholar Hastings,W。K. Monte Carlo采样方法使用Markov链及其应用。 Biometrika 57,97–109(1970).Mathscinet Math Google Scholar Duane,S.,Kennedy,A。D.,Pendleton,B。J. &Roweth,D。Hybrid Monte Carlo。 物理。 Lett。 J. am。 Stat。 合作。12,1151–1172(1984)。Mathscinet Math Google Scholar Gelfand,A。E.&Smith,A。F. M.基于采样的方法来计算边际密度。Stat。合作。85,398–409(1990)。 这篇开创性的文章将MCMC视为贝叶斯推理的实际方法。 ifna(1991)。 3(Eds van de Schoot,R。&Miocevic,M。)30–49(Routledge,2020)。 4(eds van de Schoot,R。&Miocevic,M。)50–70(Routledge,2020)。Robert,C。&Casella,G。Monte Carlo统计方法(Springer Science&Business Media,2013)。 ieee trans。 模式肛门。 马赫。 Intell。 6,721–741(1984)。大型Google Scholar Metropolis,N.,Rosenbluth,A。W.,Rosenbluth,M。N.,Teller,A。H.&Teller,E。快速计算机通过快速计算机计算的方程。 J. Chem。 物理。 21,1087–1092(1953).ADS数学Google Scholar Hastings,W。K. Monte Carlo采样方法使用Markov链及其应用。 Biometrika 57,97–109(1970).Mathscinet Math Google Scholar Duane,S.,Kennedy,A。D.,Pendleton,B。J. &Roweth,D。Hybrid Monte Carlo。 物理。 Lett。 J. am。 Stat。 合作。85,398–409(1990)。这篇开创性的文章将MCMC视为贝叶斯推理的实际方法。ifna(1991)。3(Eds van de Schoot,R。&Miocevic,M。)30–49(Routledge,2020)。4(eds van de Schoot,R。&Miocevic,M。)50–70(Routledge,2020)。Robert,C。&Casella,G。Monte Carlo统计方法(Springer Science&Business Media,2013)。ieee trans。模式肛门。马赫。Intell。 6,721–741(1984)。大型Google Scholar Metropolis,N.,Rosenbluth,A。W.,Rosenbluth,M。N.,Teller,A。H.&Teller,E。快速计算机通过快速计算机计算的方程。 J. Chem。 物理。 21,1087–1092(1953).ADS数学Google Scholar Hastings,W。K. Monte Carlo采样方法使用Markov链及其应用。 Biometrika 57,97–109(1970).Mathscinet Math Google Scholar Duane,S.,Kennedy,A。D.,Pendleton,B。J. &Roweth,D。Hybrid Monte Carlo。 物理。 Lett。 J. am。 Stat。 合作。Intell。6,721–741(1984)。大型Google Scholar Metropolis,N.,Rosenbluth,A。W.,Rosenbluth,M。N.,Teller,A。H.&Teller,E。快速计算机通过快速计算机计算的方程。J. Chem。 物理。 21,1087–1092(1953).ADS数学Google Scholar Hastings,W。K. Monte Carlo采样方法使用Markov链及其应用。 Biometrika 57,97–109(1970).Mathscinet Math Google Scholar Duane,S.,Kennedy,A。D.,Pendleton,B。J. &Roweth,D。Hybrid Monte Carlo。 物理。 Lett。 J. am。 Stat。 合作。J. Chem。物理。21,1087–1092(1953).ADS数学Google Scholar Hastings,W。K. Monte Carlo采样方法使用Markov链及其应用。Biometrika 57,97–109(1970).Mathscinet Math Google Scholar Duane,S.,Kennedy,A。D.,Pendleton,B。J.&Roweth,D。Hybrid Monte Carlo。物理。Lett。 J. am。 Stat。 合作。Lett。J.am。Stat。合作。b 195,216–222(1987)。&Wong,W。H.通过数据增强计算后验分布。82,528–540(1987)。 本文解释了当直接计算感兴趣参数的后验密度时,如何使用数据扩展。马尔可夫链蒙特卡洛手册(CRC,2011年)。 本书对MCMC及其在许多不同的应用中的使用进行了全面评论。Gelman,A。Burn-in MCMC,为什么我们更喜欢“热身”一词。 元建模,因果推理和社会科学(2017)。Gelman,A。 &Rubin,D。B. 使用多个序列从迭代模拟中推断。 Stat。 SCI。 7,457–511(1992)。 一般方法用于监测迭代模拟的收敛性。 J. Comput。 图。 Stat。 7,434–455(1998)。大型Google Scholar Roberts,G。O. Markov链链概念与采样算法有关。 马尔可夫链蒙特卡洛在实践中57,45-58(1996)。 (2020)提出了一种改进的\(\ hat {r} \)度量,用于评估马尔可夫链蒙特卡洛(MCMC)方法的收敛性。 他们建立在Bürkner(2017),Merkle和Rosseel(2015)和Carpenter等人的先前作品上。 (2017)。 关键参考包括Minka(2013),Hoffman等。 (2015),Liang等。 Q.82,528–540(1987)。本文解释了当直接计算感兴趣参数的后验密度时,如何使用数据扩展。马尔可夫链蒙特卡洛手册(CRC,2011年)。本书对MCMC及其在许多不同的应用中的使用进行了全面评论。Gelman,A。Burn-in MCMC,为什么我们更喜欢“热身”一词。元建模,因果推理和社会科学(2017)。Gelman,A。&Rubin,D。B.使用多个序列从迭代模拟中推断。Stat。SCI。 7,457–511(1992)。 一般方法用于监测迭代模拟的收敛性。 J. Comput。 图。 Stat。 7,434–455(1998)。大型Google Scholar Roberts,G。O. Markov链链概念与采样算法有关。 马尔可夫链蒙特卡洛在实践中57,45-58(1996)。 (2020)提出了一种改进的\(\ hat {r} \)度量,用于评估马尔可夫链蒙特卡洛(MCMC)方法的收敛性。 他们建立在Bürkner(2017),Merkle和Rosseel(2015)和Carpenter等人的先前作品上。 (2017)。 关键参考包括Minka(2013),Hoffman等。 (2015),Liang等。 Q.SCI。7,457–511(1992)。一般方法用于监测迭代模拟的收敛性。 J. Comput。 图。 Stat。 7,434–455(1998)。大型Google Scholar Roberts,G。O. Markov链链概念与采样算法有关。 马尔可夫链蒙特卡洛在实践中57,45-58(1996)。 (2020)提出了一种改进的\(\ hat {r} \)度量,用于评估马尔可夫链蒙特卡洛(MCMC)方法的收敛性。 他们建立在Bürkner(2017),Merkle和Rosseel(2015)和Carpenter等人的先前作品上。 (2017)。 关键参考包括Minka(2013),Hoffman等。 (2015),Liang等。 Q.一般方法用于监测迭代模拟的收敛性。J. Comput。图。Stat。7,434–455(1998)。大型Google Scholar Roberts,G。O. Markov链链概念与采样算法有关。马尔可夫链蒙特卡洛在实践中57,45-58(1996)。(2020)提出了一种改进的\(\ hat {r} \)度量,用于评估马尔可夫链蒙特卡洛(MCMC)方法的收敛性。他们建立在Bürkner(2017),Merkle和Rosseel(2015)和Carpenter等人的先前作品上。(2017)。关键参考包括Minka(2013),Hoffman等。(2015),Liang等。 Q.(2015),Liang等。Q.Q.新方法利用排序差异,折叠和本地化技术来增强\(\ hat {r} \)的准确性。此外,本综述强调了贝叶斯建模中变异推理方法的重要性,尤其是随机变体,这些变体是大型数据集或复杂模型的流行近似贝叶斯推理方法的基础。(2013),Kingma和BA(2014),Li等。 (2008),Forte等。 (2018),Mitchell和Beauchamp(1988),George和McCulloch(1993),Ishwaran和Rao(2005),Bottolo和Richardson(2010),Ročková和George(2014),Park和Park和Casella(2008),以及Carvalho等。 (2014)。 用于回归分析中的稀疏信号。 该框架利用连续的收缩先验来实现全局稀疏性,同时控制每个系数的正则化量。 该方法已广泛应用于各个领域,包括贝叶斯惩罚回归和多元变量选择。 其他相关研究包括为高斯状态空间模型的随机模型规范搜索,在结构化添加回归模型中进行功能选择的尖峰和刻录式先验以及多个高斯图形模型的贝叶斯推断。 L. F. B., Reich, B. J., Fuentes, M. & Dominici, F. Spatial variable selection methods for investigating acute health effects of fine particulate matter components are explored in the context of Biometrics (2015).MathSciNet MATH Google Scholar Additionally, research on Bayesian fMRI time series analysis with spatial priors is presented by Penny, W. D., Trujillo-Barreto, N. J. &Friston,K。J. Neuroimage(2005)。 咨询。 临床。(2013),Kingma和BA(2014),Li等。(2008),Forte等。 (2018),Mitchell和Beauchamp(1988),George和McCulloch(1993),Ishwaran和Rao(2005),Bottolo和Richardson(2010),Ročková和George(2014),Park和Park和Casella(2008),以及Carvalho等。 (2014)。 用于回归分析中的稀疏信号。 该框架利用连续的收缩先验来实现全局稀疏性,同时控制每个系数的正则化量。 该方法已广泛应用于各个领域,包括贝叶斯惩罚回归和多元变量选择。 其他相关研究包括为高斯状态空间模型的随机模型规范搜索,在结构化添加回归模型中进行功能选择的尖峰和刻录式先验以及多个高斯图形模型的贝叶斯推断。 L. F. B., Reich, B. J., Fuentes, M. & Dominici, F. Spatial variable selection methods for investigating acute health effects of fine particulate matter components are explored in the context of Biometrics (2015).MathSciNet MATH Google Scholar Additionally, research on Bayesian fMRI time series analysis with spatial priors is presented by Penny, W. D., Trujillo-Barreto, N. J. &Friston,K。J. Neuroimage(2005)。 咨询。 临床。(2008),Forte等。(2018),Mitchell和Beauchamp(1988),George和McCulloch(1993),Ishwaran和Rao(2005),Bottolo和Richardson(2010),Ročková和George(2014),Park和Park和Casella(2008),以及Carvalho等。(2014)。用于回归分析中的稀疏信号。该框架利用连续的收缩先验来实现全局稀疏性,同时控制每个系数的正则化量。该方法已广泛应用于各个领域,包括贝叶斯惩罚回归和多元变量选择。其他相关研究包括为高斯状态空间模型的随机模型规范搜索,在结构化添加回归模型中进行功能选择的尖峰和刻录式先验以及多个高斯图形模型的贝叶斯推断。L. F. B., Reich, B. J., Fuentes, M. & Dominici, F. Spatial variable selection methods for investigating acute health effects of fine particulate matter components are explored in the context of Biometrics (2015).MathSciNet MATH Google Scholar Additionally, research on Bayesian fMRI time series analysis with spatial priors is presented by Penny, W. D., Trujillo-Barreto, N. J.&Friston,K。J. Neuroimage(2005)。咨询。临床。Google Scholar Smith,M.,Pütz,B。,Auer,D。&Fahrmeir,L。Neuroimage(2003)中还讨论了通过空间贝叶斯变量选择评估大脑活动。Google Scholar此外,检查了Zhang,L。,Guindani,M.,Versace,F。&Vannucci,M。Neuroimage(2014)的时空非参数贝叶斯变量选择模型用于聚类相关时间课程。判断中信息处理的研究采用了各种方法,如Bolt等人的研究中所见,他们探讨了两种戒烟剂在联合使用的有效性,理由是J.Psychol。80,54–65,2012)。在类似的脉中,Billari等。基于贝叶斯范式内的专家评估(人口统计学51,1933–1954,2014)开发了随机人群预测模型。其他研究已经深入研究了暂时的生活变化及其对离婚时间的影响(Fallesen&Breen,人口统计学53,1377-1398,2016)。同时,Hansford等人。分析了美国律师将军在最高法院的政策领域的位置(Pres。螺柱。49,855–869,2019)。此外,研究重点是使用健康行为综合模型来预测限制“自由糖”消耗(Phipps等人,食欲150,104668,2020)。此外,研究还将贝叶斯统计数据引入了健康心理学,并强调了其在该领域的潜在好处(Depaoli等人,Health Psychol。修订版11,248–264,2017)。Psychol。Gen. 142,573–603,2013; Lee,M。D.,J。 数学。Gen. 142,573–603,2013; Lee,M。D.,J。数学。贝叶斯估计的应用已显示在各种情况下取代传统的t检验,包括认知建模和生态研究(Kruschke,J。Exp。Psychol。55,1-7,2011)。此外,层次结构的贝叶斯模型已在生态学中用于建模种群动态和推断环境参数(Royle&Dorazio,生态学的分层建模和推断)。通过包括Gimenez等人在内的各种研究人员的工作进一步开发了这种方法。(在标记人群中建模的人口统计过程中,3)和King等。(贝叶斯分析人群生态学)。研究还研究了贝叶斯方法在生态学中的使用,例如使用汉密尔顿蒙特卡洛(Monnahan等人,方法ECOL。Evol。8,339–348,2017)。贝叶斯对生态学的重要性的重要性已被埃里森(Elison)等研究人员(ecol。Lett。 7,509–520,2004)。 最后,已经探索了通过设计启发将专家意见整合到贝叶斯统计模型中,突出了其为先验知识提供信息并提高模型准确性的潜力(Choy等,生态学90,265-277,2009)。 也已经讨论了有关使用贝叶斯评估诊断人群下降的诊断人群下降的方法(King等,J。R. Stat。 Soc。 系列C 57,609–632,2008)。 在2008年至2020年的一系列出版物中介绍了统计生态技术的全面综述。 - Dennis等。 -McClintock等。Lett。7,509–520,2004)。最后,已经探索了通过设计启发将专家意见整合到贝叶斯统计模型中,突出了其为先验知识提供信息并提高模型准确性的潜力(Choy等,生态学90,265-277,2009)。也已经讨论了有关使用贝叶斯评估诊断人群下降的诊断人群下降的方法(King等,J。R. Stat。Soc。系列C 57,609–632,2008)。 在2008年至2020年的一系列出版物中介绍了统计生态技术的全面综述。 - Dennis等。 -McClintock等。系列C 57,609–632,2008)。在2008年至2020年的一系列出版物中介绍了统计生态技术的全面综述。- Dennis等。-McClintock等。总而言之,对判断中信息处理的研究以及贝叶斯统计在各个领域的应用,使人们对这些概念及其对决策和人口建模的影响有了更深入的了解。这些作品涵盖了种群建模的各个方面,包括贝叶斯估计,综合人群模型和遗传关联研究。关键论文包括: - King and Brooks(2008)关于贝叶斯对具有异质性和模型不确定性的封闭种群的估计。(2006)使用生态数据估计密度依赖性,过程噪声和观察误差。(2012)基于多阶段随机步行开发了一个一般的离散时间框架,用于动物运动。-Aeberhard等。(2018)对渔业科学的州空间模型进行了综述。其他值得注意的贡献包括: - Isaac等。(2020)讨论了大规模物种分布模型的数据集成。-McClintock等。(2020)提出了一种使用隐藏的马尔可夫模型来发现生态状态动力学的方法。- King(2014)审查了统计生态及其应用。- Andrieu等。(2010)引入了粒子马尔可夫链蒙特卡洛方法,用于复杂的种群建模。这些研究表明,从人口生存能力分析到遗传关联研究,在理解生态系统中采用的统计技术的多样性,强调了该领域数据整合和高级建模方法的重要性。提出一种利用转移学习以提高数据质量的方法。基因组学,统计和机器学习的交集在理解复杂的生物系统中变得越来越重要。最近的研究探索了多摩智数据集的整合,以发现对人类健康和疾病的新见解。由Argelaguet等人建立了整合多派数据集的框架,该框架采用贝叶斯方法来识别生物学过程的关键因素。该方法已应用于包括单细胞转录组学在内的各个领域,如Yau和Campbell的工作所示,他们使用贝叶斯统计学习来分析大型数据集。研究的另一个领域涉及在英国生物库中对跨树木结构的常规医疗数据进行遗传关联的分析。诸如Stuart和Satija的研究表明,将单细胞分析与基因组学相结合以揭示有关复杂生物系统的新信息的潜力。深层生成模型的发展也促进了单细胞转录组学的进步,如Lopez等人的工作所证明的那样,后者应用了深层生成模型来分析大型数据集。此外,与Wang等人一起,对单细胞转录组学中数据降解和转移学习的研究已显示出令人鼓舞的结果。最近的研究还强调了科学研究中可重复性和公平原则(可访问,可互操作和可重复使用)的重要性。这包括诸如癌症基因组图集和Dryad&Zenodo之类的举措,旨在促进开放研究实践。提出了功能性变分贝叶斯神经网络。机器学习技术(包括变异自动编码器)的应用也在理解复杂的生物系统方面变得越来越重要。正如Paszke等人的评论中所述,变化自动编码器为将基因组学和统计数据与深层生成模型的整合提供了有希望的方法。总体而言,多摩智数据集,机器学习技术和统计分析的进步的整合已经开辟了新的途径,以理解复杂的生物系统并揭示了对人类健康和疾病的新见解。概率建模的最新进展导致了几种将深度学习与贝叶斯推论相结合的技术的发展。该领域的一个关键概念是变异自动编码器(VAE),它通过将其映射到较低维度的空间中来了解输入数据的概率分布。Hinton等人引入的Beta-Vae框架将VAE限制为学习基本的视觉概念。研究人员还探索了贝叶斯方法在神经网络中的应用,例如高斯过程和周期性随机梯度MCMC。例如,尼尔在神经网络上的贝叶斯学习方面的工作突出了神经网络与高斯过程之间的联系。此外,已证明将深层合奏用于预测不确定性估计在各种任务中都是有效的。最近的预印象提出了新的新技术,包括功能变分贝叶斯神经网络和细心的神经过程。后者使用注意机制从输入数据中学习相关特征。res。另一项研究的重点是开发更可扩展和可解释的模型,例如标准化流量和周期性随机梯度MCMC。该领域在理解深度学习的理论基础上,包括神经网络与高斯过程之间的联系,也看到了重大进展。Mackay和Williams的作品为贝叶斯倒退网络提供了一个实用的框架,而Sun等人。总的来说,这些进步有助于我们理解概率建模及其在深度学习中的应用。Hoffman,M。D.&Gelman,A。 No-U-Turn采样器:在汉密尔顿蒙特卡洛(Monte Carlo)的自适应设置路径长度。 J. Mach。 学习。 15,1593–1623(2014)。MathScinetMath Google Scholar Liang,F。&Wong,W。H. Evolutionary Monte Carlo:CP模型采样和更改点问题的应用。 Stat。 Sinica 317-342(2000).liu,J。S.&Chen,R。动态系统的顺序蒙特卡洛方法。 J. am。 Stat。 合作。 93,1032–1044(1998).MathScinet Math Google Scholar Sisson,S.,Fan,Y。 &Beaumont,M。近似贝叶斯计算手册(Chapman and Hall/CRC 2018)。 J. R. Stat。 Soc。 系列B 71,319–392(2009).MathScinet Math Google Scholar Lunn,D。J.,Thomas,A。,Best,N。&Spiegelhalter,D。Winbugs - 贝叶斯建模框架:概念,结构和可扩展性。 Stat。 计算。Hoffman,M。D.&Gelman,A。No-U-Turn采样器:在汉密尔顿蒙特卡洛(Monte Carlo)的自适应设置路径长度。J. Mach。 学习。 15,1593–1623(2014)。MathScinetMath Google Scholar Liang,F。&Wong,W。H. Evolutionary Monte Carlo:CP模型采样和更改点问题的应用。 Stat。 Sinica 317-342(2000).liu,J。S.&Chen,R。动态系统的顺序蒙特卡洛方法。 J. am。 Stat。 合作。 93,1032–1044(1998).MathScinet Math Google Scholar Sisson,S.,Fan,Y。 &Beaumont,M。近似贝叶斯计算手册(Chapman and Hall/CRC 2018)。 J. R. Stat。 Soc。 系列B 71,319–392(2009).MathScinet Math Google Scholar Lunn,D。J.,Thomas,A。,Best,N。&Spiegelhalter,D。Winbugs - 贝叶斯建模框架:概念,结构和可扩展性。 Stat。 计算。J. Mach。学习。15,1593–1623(2014)。MathScinetMath Google Scholar Liang,F。&Wong,W。H. Evolutionary Monte Carlo:CP模型采样和更改点问题的应用。 Stat。 Sinica 317-342(2000).liu,J。S.&Chen,R。动态系统的顺序蒙特卡洛方法。 J. am。 Stat。 合作。 93,1032–1044(1998).MathScinet Math Google Scholar Sisson,S.,Fan,Y。 &Beaumont,M。近似贝叶斯计算手册(Chapman and Hall/CRC 2018)。 J. R. Stat。 Soc。 系列B 71,319–392(2009).MathScinet Math Google Scholar Lunn,D。J.,Thomas,A。,Best,N。&Spiegelhalter,D。Winbugs - 贝叶斯建模框架:概念,结构和可扩展性。 Stat。 计算。15,1593–1623(2014)。MathScinetMath Google Scholar Liang,F。&Wong,W。H. Evolutionary Monte Carlo:CP模型采样和更改点问题的应用。Stat。Sinica 317-342(2000).liu,J。S.&Chen,R。动态系统的顺序蒙特卡洛方法。J.am。Stat。合作。93,1032–1044(1998).MathScinet Math Google Scholar Sisson,S.,Fan,Y。&Beaumont,M。近似贝叶斯计算手册(Chapman and Hall/CRC 2018)。J. R. Stat。 Soc。 系列B 71,319–392(2009).MathScinet Math Google Scholar Lunn,D。J.,Thomas,A。,Best,N。&Spiegelhalter,D。Winbugs - 贝叶斯建模框架:概念,结构和可扩展性。 Stat。 计算。J. R. Stat。Soc。系列B 71,319–392(2009).MathScinet Math Google Scholar Lunn,D。J.,Thomas,A。,Best,N。&Spiegelhalter,D。Winbugs - 贝叶斯建模框架:概念,结构和可扩展性。Stat。计算。10,325–337(2000)。Google Scholar Ntzoufras,I。使用Winbugs Vol。698(Wiley,2011).Lunn,D。J.,Thomas,A.,Best,N。&Spiegelhalter,D。Winbugs - 贝叶斯建模框架:概念,结构和可扩展性。Stat。计算。10,325–337(2000)。Spiegelhalter,D.,Thomas,A。,Best,N。&Lunn,D。OpenBugs用户手册版本3.2.3。OpenBugs(2014).Plummer,M。Jags:使用Gibbs采样的贝叶斯图形模型分析程序。proc。第三国际统计计算的国际研讨会124,1-10(2003)。Google Scholar Plummer,M。Rjags:使用MCMC的贝叶斯图形模型。r软件包版本,4(6)(2016).Salvatier,J.,Wiecki,T。V.&Fonnesbeck,C。使用Pymc3在Python中进行概率编程。peerj Comput。SCI。 2,E55(2016)。 Google Scholar de Valpine,P。等。 与模型的编程:编写敏捷的通用模型结构的统计算法。 J. Comput。 图。SCI。2,E55(2016)。 Google Scholar de Valpine,P。等。 与模型的编程:编写敏捷的通用模型结构的统计算法。 J. Comput。 图。2,E55(2016)。Google Scholar de Valpine,P。等。与模型的编程:编写敏捷的通用模型结构的统计算法。J. Comput。图。Stat.s 26, 403–413 (2017).MathSciNet Google Scholar Bayesian analysis software JASP version 0.14 available for computer use (2020) Lindgren F & Rue H used R-INLA for Bayesian spatial modeling in a Stats journal article (2015) Vanhatalo et al's GPstuff allowed Bayesian Gaussian process modeling with Machine Learning Res articles (2013) Blaxter gave research methods in他的2010年McGraw-Hill教育书《如何进行研究》 BetanCourt在Github上创建了一个原则上的贝叶斯工作流程,主张最佳实践(2020)Veen&Schoot使用了对英超联赛数据的后验预测检查,并在OSF(2020年)上发布了它,并在Kramer&Bosman(2020)Kramer&Bosman在Kramer&Bosman在Kramersship Sumpership Summerschool inter Smixship Summershood prosentie in Utrech Torne in utrecht in of to inty介绍(2019年),UTRECHINE(2019年)(2019年)(2019年)(2019年)(2019年)(2019年)(2019年) Acta Math匈牙利文章(1955)Lesaffre&Lawson在2012年Wiley Publication撰写了一种新的公理概率理论(1955年),Hoijtink等人使用了贝叶斯评估,用于认知诊断评估,发表在Psych Methods In In In Psych Methods Journal(2014)
