用于训练深度神经网络的误差反向传播算法是深度学习成功的基础。然而,它需要连续的后向更新和非局部计算,这使得大规模并行化具有挑战性,而且与大脑的学习方式不同。然而,受神经科学启发的学习算法,如利用局部学习的预测编码,有可能克服这些限制,并在未来超越深度学习技术。虽然预测编码起源于理论神经科学,作为皮层信息处理的模型,但最近的研究已将这一想法发展成一种通用算法,能够仅使用局部计算来训练深度神经网络。在这篇综述中,我们回顾了对这个观点做出贡献的作品,并展示了预测编码和反向传播在泛化质量方面的密切联系,以及强调使用预测编码相对于反向传播训练的神经网络的多重优势的作品。具体来说,我们展示了预测编码网络的更大灵活性,与标准深度神经网络不同,它可以同时充当分类器、生成器和联想记忆,并且可以在任意图形拓扑上定义。最后,我们回顾了预测编码网络在机器学习分类任务上的直接基准,以及它与控制理论和机器人应用的密切联系。
我们研究了监督机器学习在时间中传播量子系统的潜力。虽然马尔可夫动力学很容易学习,但只要有足够多的数据,非马尔可夫系统就不简单了,它们的描述需要过去状态的记忆知识。在这里,我们通过将简单的 1D 海森堡模型作为多体汉密尔顿量来分析这种记忆的特征,并通过在单粒子约化密度矩阵上表示系统来构建非马尔可夫描述。发现,这种表示再现时间相关动力学所需的过去状态数量随着自旋数量和系统光谱密度的增加而呈指数增长。最重要的是,我们证明了神经网络可以在未来的任何时间作为时间传播器,并且它们可以随时间连接起来形成自回归。这种神经网络自回归可用于生成长时间和任意密集时间轨迹。最后,我们研究表示系统内存所需的时间分辨率。我们发现两种情况:对于精细内存采样,所需内存保持不变,而粗采样需要更长的内存,尽管总时间步长保持不变。这两个状态之间的边界由系统频谱中最高频率对应的周期设定,表明神经网络可以克服香农-奈奎斯特采样定理设定的限制。
https://doi.org/10.1121/1.4946898 33 Morse PM,Ingard Ku(1986)。 理论声学。 普林斯顿大学出版社。 34 Nagata K,Kilgore B,Beeler N,Nakatani M(2014)弹性对比35和接触面积的高频成像和接触面积,对自然观察到的断层特性变化的影响。 J. 36 Geophys。 res。 固体地球119(7):5855-5875。 https://doi.org/10.1002/2014JB011014 37 Nur A,Tosaya C,Vo-Thanh D(1984)对热增强油回收率的地震监测38个过程。 在SEG技术计划中扩展了摘要:337-340。 39名探索地球物理学家的社会。 https://doi.org/10.1190/1.1894015 40 Pyrak,L。J. (1988)。 裂缝的地震可见性。 论文,加利福尼亚大学美国伯克利41号。 42 Pyrak -Nolte LJ,Myer LR,Cook NGW(1990)地震波跨越单个43https://doi.org/10.1121/1.4946898 33 Morse PM,Ingard Ku(1986)。理论声学。普林斯顿大学出版社。34 Nagata K,Kilgore B,Beeler N,Nakatani M(2014)弹性对比35和接触面积的高频成像和接触面积,对自然观察到的断层特性变化的影响。J.36 Geophys。res。固体地球119(7):5855-5875。 https://doi.org/10.1002/2014JB011014 37 Nur A,Tosaya C,Vo-Thanh D(1984)对热增强油回收率的地震监测38个过程。在SEG技术计划中扩展了摘要:337-340。39名探索地球物理学家的社会。https://doi.org/10.1190/1.1894015 40 Pyrak,L。J. (1988)。 裂缝的地震可见性。 论文,加利福尼亚大学美国伯克利41号。 42 Pyrak -Nolte LJ,Myer LR,Cook NGW(1990)地震波跨越单个43https://doi.org/10.1190/1.1894015 40 Pyrak,L。J.(1988)。裂缝的地震可见性。论文,加利福尼亚大学美国伯克利41号。 42 Pyrak -Nolte LJ,Myer LR,Cook NGW(1990)地震波跨越单个43论文,加利福尼亚大学美国伯克利41号。42 Pyrak -Nolte LJ,Myer LR,Cook NGW(1990)地震波跨越单个43
在许多情况下,对对象进行排名或排序是一个自然问题。从数学上讲,这项任务相当于从有限集合中找到“好的”排列,或者更一般地,从好的排列分布中抽样。这可能出奇地困难。例如,假设我们观察到一组成对的相互作用,如竞争、偏好或冲突,每个相互作用都表明一个对象的排名高于另一个对象,我们的目标是将它们从最强到最弱进行排序。类似地,我们可能想要重建节点加入不断增长的网络的顺序 [1,2],例如在一场流行病中,接触追踪表明一个人感染了另一个人。在这种情况下,找到一个排列,使排序“错误”的违规数量最少,是 NP 难的,也就是说,这是计算机科学中最难的优化问题之一 [3]。即使存在与所有观察到的相互作用一致的排列,计算这种排列的数量或计算给定对象的平均位置也是#P-完全的[4,5]。因此,所有这些问题被认为在最坏情况下会花费指数时间。成对比较可以表示为有向图G,其边(i,j)表示i≺j,即i“击败”j,因此可能排名高于j。我们假设一个生成模型:给定一个真实排列π,我们以概率P(G |π)[6]观察到G。如果所有排列都是先验相等的,并且如果我们以概率f(πi,πj)独立地观察到每个i≺j,则后验具有以下形式
虚时间演化是寻找量子多体系统基态的重要技术,也是在量子化学、凝聚态和核物理中得到广泛应用的多种数值方法的核心。我们提出了一种在量子计算机上实现虚时间传播的算法。我们的算法是在将算法高效编码到优化门的背景下设计的,利用量子设备的基本特性,在扩展的希尔伯特空间中进行幺正运算。然而,我们证明,对于简单的问题,它也可以成功地应用于标准数字量子机。这项工作为将基于虚时间传播的量子多体方法移植到近期的量子设备奠定了基础,使未来能够对一大类微观系统的基态进行量子模拟。
现代神经界面允许在脑电路中访问多达一百万个神经元的活动。但是,带宽极限通常在更大的空间采样(更多通道或像素)和采样的时间频率之间创造权衡。在这里我们证明,可以通过利用神经元之间的关系来获得神经元时间序列中的时空超分辨率,该神经元嵌入了潜在的低维数量人群动力学中。我们新颖的神经网络训练策略,通过时间(SBTT)进行选择性反向传播,从而从数据中学习了潜在动力学的深层生成模型,在这些数据中,观察到的一组变量在每个时间步骤都会发生变化。由此产生的模型能够通过将观测值与学习的潜在动态相结合来推断缺失样本的活动。我们测试SBTT应用于顺序自动编码器,并证明了电生理和钙成像数据中神经种群动态的有效和更高的表征。在电生理学中,SBTT可以准确推断界面带宽较低的神经元种群动力学,从而为植入的neu-roelectronic Interfaces提供了明显的动力节省的途径。在两光子钙成像的应用中,SBTT准确地发现了神经population活性的高频时间结构,从而大大优于当前的最新技术。最后,我们证明,通过使用有限的高带宽采样对预处理动力学模型,然后使用SBTT将这些模型适应这些模型以获取稀疏采样的数据,可以进一步提高性能。
小胶质细胞在淀粉样β(Aβ)斑块附近被激活,但是小胶质细胞是否有助于β向未受影响的大脑区域的β传播仍然未知。使用野生型(WT)神经元的转移,我们表明β进入WT移植物,并且伴随着小胶质细胞浸润。小胶质细胞功能的操纵减少了移植物中的β沉积。此外,体内成像将小胶质细胞鉴定为先前未受影响的组织中β病理的载体。因此,我们的数据主张迄今未探索β传播的机制。β的聚集是阿尔茨海默氏病(AD)发病机理中必不可少的早期触发因素,导致神经原纤维缠结,神经元功能障碍和痴呆1。由于它们与β斑块2-4的密切关联,已经提出了几种细胞类型的因果关系,包括小胶质细胞,包括小胶质细胞。在大脑中形成β斑块后,小胶质细胞与它们建立了亲密的接触并成为反应性5,6。那些活化的小胶质细胞已通过β摄取与牙菌斑的生长有关,然后是小胶质细胞死亡7、8。我们的小组和其他人最近在β播种9 - 11中牵涉到小胶质细胞,但它们在传播β病理学中的作用仍然难以捉摸。在支持“致病性扩散”假设12中,先前的移植实验表明,源自跨基因宿主组织的β能够入侵并沉积在非转基因移植物中,从而导致神经变性13 - 15。1a,b和扩展数据图1a,b)13。1A和扩展数据图然而,β扩散到WT移植物中的机制尚不清楚,并且迄今尚未证明细胞介导的机制。在这项研究中,我们将wt小鼠的胚胎神经元细胞移植到了年轻的,前置前的5xfad trans-transic小鼠的新皮细胞中,确认了移植到宿主组织中以及几个月内的移植物的存活(图。在移植后4周后立即存在β斑块,它们随着时间的推移而增加(图。1a – c,黄色箭头)。我们首先假设App/Aβ被前进运输
伊利诺伊州7 - 45威斯康星州内布拉斯加州17 - 52俄亥俄州圣密歇根州49 - 24 Minnesota Iowa 20 - 24 Purdue Penn St. 35 - 36 Indiana Rutgers 38 - Michigan St.
本文利用塑性 CTOD 范围 Δ δ p 研究了 2024-T351 铝合金中的疲劳裂纹扩展 (FCG)。对 12 毫米厚的 CT 试样进行实验测试以获得 FCG 速率,并对圆柱形试样进行实验以获得应力 - 应变环。数值分析在材料、几何形状和载荷条件方面复制了实验工作,但假设纯平面应变状态,以获得 Δ δ p 。使用实验应力 - 应变环拟合材料参数。实验工作表明,随着应力比从 R = 0.1 增加到 R = 0.7 毫米,FCG 速率增加,这表明存在裂纹闭合现象。然而,对裂纹尖端后方第一个节点位置的分析表明,在平面应变状态下没有裂纹闭合,而在平面应力状态下发现最大值 36%。因此,即使在 12 毫米厚的样品中,表面也会影响 FCG 速率。发现 da/dN 与 Δ δ p 之间存在近似线性关系。与其他铝合金的比较表明,材料对 da/dN - Δ δ p 关系有显著影响。从平面应变状态到平面应力状态的变化由于裂纹闭合而降低了 FCG 速率。在平面应变状态下,应力比在 R = 0.1 – 0.7 范围内的影响很小,这也是因为没有裂纹闭合。最后,对塑性 CTOD 和裂纹处的累积塑性应变进行了比较
通过分层相关性传播增强核电站 AI 模型的可解释性 Seung Geun Kim a*、Seunghyoung Ryu a、Hyeonmin Kim b、Kyungho Jin b、Jaehyun Cho ba 应用人工智能实验室/b 韩国原子能研究院风险评估与管理研究团队,韩国大田儒城区大德大路 989 号街 111,34057 * 通讯作者:sgkim92@kaeri.re.kr 1.简介 随着人工智能 (AI) 技术的快速发展,各个领域的应用数量巨大。核领域也紧跟这一趋势,许多研究利用 AI 模型解决事件诊断和自动/自主操作等问题。然而,占据近期 AI 技术应用最大份额的深度神经网络 (DNN) 具有不透明且可解释性低的局限性。对于基于 DNN 的模型,很难了解模型的内部逻辑或模型如何从给定的输入推断出输出。由于这一限制,尽管基于 DNN 的模型的性能可以接受,但人们对将其实际应用于安全关键领域和与道德/法律问题相关的领域仍犹豫不决。为了克服可解释性低的限制,已经提出了许多可解释的人工智能 (XAI) 方法。XAI 方法可以提供详细的解释,例如模型的内部逻辑和输入与输出之间的关系。然而,尽管可解释性问题对于安全关键的核领域至关重要,但缺乏处理 XAI 的研究。在本研究中,为了提高核领域人工智能模型的可解释性和实用性,研究了分层相关性传播 (LRP) [1],它是 XAI 方法之一,与其他 XAI 方法相比,它在许多应用中表现出更好的性能。论文的其余部分组织如下。在第 2 章中,对 XAI 和 LRP 进行了简要说明。第 3 章描述了可行性检查实验,第 4 章总结了本文。 2. 前言 2.1 可解释人工智能 可解释人工智能 (XAI) 是一种使人类轻松理解 AI 模型的技术。大多数 AI 模型在数据处理和解决问题的方法方面与人类不同。例如,AI 模型识别具有像素 RGB 值的图像,而人类则不能。提出 XAI 是为了减轻理解 AI 模型内部过程或推断某些输出的原因的难度。