本章回顾了专注于使用神经网络的计算机认知模型。这些架构受到对大脑计算方式研究的启发,特别是以下观察结果:由相对简单的处理元素组成的大型密集连接网络可以相当轻松地通过少量连续步骤解决某些复杂任务。后续工作产生了具有独特风味的认知模型。处理的特点是跨连接成复杂网络的简单处理单元的激活模式。知识存储在单元间连接强度中。正是由于这个原因,这种理解认知的方法获得了联结主义的名称。自本书第一版以来,很明显该领域已进入人工神经网络研究的第三个时代。第一个时代始于 20 世纪 30 年代和 40 年代,是第一种正式计算理论起源的一部分;第二个时代始于 20 世纪 80 年代和 90 年代,伴随着认知的并行分布式处理模型;第三个时代始于 21 世纪中期,伴随着“深度”神经网络的进步。关于如何创建和训练更强大的人工神经网络的新见解引发了这两个时代的转变。
摘要:在婴儿期,人类大脑的结构、功能和认知都迅速发育。认知技能和大脑形态之间的紧密联系促使我们关注使用纵向结构 MRI 数据进行个体层面的认知分数预测。在出生后早期,大量的大脑区域连接包含一些内在的拓扑结构,例如小世界性和模块化组织。因此,可以使用图卷积网络合并不同的区域组合来预测婴儿的认知分数。然而,大脑区域连接的定义仍然是一个问题。在这项工作中,我们提出了一个精心设计的层,即区域间连接模块 (ICM),以数据驱动的方式有效地构建大脑区域连接。为了进一步利用隐藏在发展模式中的关键线索,我们选择路径签名作为顺序数据描述符来提取区域生长轨迹的基本动态信息。利用这些区域发育特征和区域间连接,构建了一种新型皮质发育连接网络 (CDC-Net)。对 3 个时间点内数百名受试者的纵向婴儿数据集的实验表明,我们的性能优越,优于基于经典机器学习的方法和基于深度学习的算法。
最近的许多研究都集中在生物学上可行的监督学习算法变体上。然而,运动皮层中没有老师来指导运动神经元,大脑中的学习取决于奖励和惩罚。我们展示了一种生物学上可行的强化学习方案,适用于具有任意层数的深度网络。网络通过选择输出层中的单元来选择动作,并使用反馈连接将信用分配给负责此动作的连续较低层中的单元。做出选择后,网络会得到强化,没有老师来纠正错误。我们展示了新的学习方案——注意力门控大脑传播 (BrainProp)——在数学上等同于错误反向传播,每次针对一个输出单元。我们展示了深度全连接、卷积和局部连接网络在经典和硬图像分类基准(MNIST、CIFAR10、CIFAR100 和 Tiny ImageNet)上的成功学习。 BrainProp 的准确度与标准误差反向传播相当,甚至优于最先进的生物启发式学习方案。此外,学习的反复试验性质与有限的额外训练时间有关,因此 BrainProp 的速度要慢 1-3.5 倍。因此,我们的研究结果为如何在大脑中实施深度学习提供了新的见解。
为什么我们相信与土著文学的教学?在我们参与土著知识系统,社区,文学和学术的多年中,我们已经知道故事是我们工作的核心。故事体现了社区及其知识,存在和做的方式,以一种吸引人的形式 - 不仅是头脑。故事本质上是关系的,因为柜员和听众彼此之间的关系以及故事的讲述。并且由于人际关系需要共同的责任,因此讲故事是一种共享知识的方式,将人们吸引到互惠的连接网络。故事不仅是为了娱乐;他们在那里指导我们的生活。托马斯·金(Thomas King)在“故事讲座”系列的真相末尾的每一章结尾处经常重复的线条是这一原则的一个例子。King(2003)告诉读者这个故事是“您的。与您一起做什么。。。,但不要说未来几年,只要您听到这个故事就会以不同的生活生活。您现在已经听到了”(第29页)。在决定如何让他人参与土著教育工作时,我们相信从故事开始。我们感谢讲故事的讲故事,以尊重土著知识系统,确保知识仍然存在于上下文中,并强调个人声音和集体倾听的价值。故事是教育关系工作的关键方法。
大脑由复杂的神经元和连接网络组成,类似于人工网络的节点和边缘。对大脑接线图进行网络分析可以深入了解大脑如何支持计算并调节感知和行为背后的信息流。成年苍蝇第一个全脑连接组已经完成,其中包含超过 130,000 个神经元和数百万个突触连接 1–3 ,这为分析完整大脑的统计特性和拓扑特征提供了机会。在这里,我们计算了二节点和三节点基序的普遍性,检查了它们的强度,将这些信息与神经递质组成和细胞类型注释联系起来 4,5 ,并将这些指标与其他动物的接线图进行了比较。我们发现苍蝇大脑网络显示出富俱乐部组织,具有大量(连接组的 30%)高度连接的神经元。我们确定了富俱乐部神经元的子集,它们可能充当信号的整合器或广播器。最后,我们检查了基于 78 个解剖定义的大脑区域或神经纤维的子网络。这些数据产品在 FlyWire Codex (https://codex.flywire.ai) 中共享,应作为探索神经活动与解剖结构之间关系的模型和实验的基础。
示范性研究工作分析了印度农村社区可用资源的技术经济模型和敏感性分析。本研究中使用的各种资源包括太阳能、风能、水力发电、电池和公用电网连接系统。并网系统在农村地区的用处在于,通过可再生能源 (RES) 生产的多余电力可以卖回给公用电网。分析了带和不带电网连接系统的各种资源的总共 12 种可能配置,以获得最低的平准化能源成本 (LCOE) 和总净现值 (TNPC)。此外,还对不同的敏感变量进行了敏感性分析,以了解该系统在农村社区更广泛应用的性质。观察到基于太阳能-风能-水力发电的公用电网连接网络是最佳配置,其最小平准化能源成本为 0.056 美元/千瓦时。模拟结果表明,有效利用 RES 是一种经济高效且可靠的系统,可用于偏远社区的电力供应。2022 作者。由 Elsevier BV 代表艾因夏姆斯大学工程学院出版 这是一篇根据 CC BY-NC-ND 许可 ( http://creativecommons.org/licenses/by-nc-nd/4.0/ ) 开放获取的文章。
自闭症谱系障碍 (ASD) 是一种常见的发育障碍,其症状和严重程度差异很大,使得自闭症的诊断成为一项具有挑战性的任务。现有的使用大脑连接特征对自闭症进行分类的深度学习模型由于特征表示能力有限和可解释性不足,在多中心数据上仍然表现不佳。鉴于图卷积网络 (GCN) 在学习大脑连接网络的判别性表示方面表现出色,本文提出了一个可逆动态 GCN 模型来识别自闭症并研究与该疾病相关的连接模式的改变。为了从模型中选择可解释的特征,在整个网络中引入了可逆块,我们能够从网络的输出中重建输入的动态特征。采用连接特征的预筛选来减少输入信息的冗余,并添加全连接层进行分类。对 867 名受试者的实验结果表明,我们提出的方法实现了卓越的疾病分类性能。它为大脑连接分析提供了可解释的深度学习模型,在研究大脑相关疾病方面具有巨大潜力。
最近旨在促进小学生数学技能发展的研究探索了与不同算术成绩水平相关的电生理特征。这项研究引入了一种使用图形度量的替代脑电图信号表征方法,并基于这些特征使用决策树模型进行分类分析。这项提案旨在确定小学生大脑连接网络在数学技能方面的群体差异。所使用的分析方法是信号处理(脑电图伪影去除、拉普拉斯滤波和幅度平方相干测量)和在执行数值比较任务期间记录的脑电图信号的特征化(图形度量)和分类(决策树)。我们的结果表明,定量脑电图频带参数分析可成功用于区分几种算术成绩水平。具体而言,最显著的结果显示,在区分高技能参与者与低技能参与者、平均技能参与者与所有其他参与者以及平均技能参与者与低技能参与者方面,准确率分别为 80.00%(α 波段)、78.33%(δ 波段)和 76.67%(θ 波段)。在分类阶段使用决策树工具可以识别几个似乎更擅长数字处理的大脑区域。
人类通过视觉、味觉、听觉、嗅觉和触觉等一系列模式体验生活。这些多种模式通过复杂的神经元连接网络在我们的大脑中整合在一起进行信息处理。同样,人工智能要模仿人类的学习方式并进化到下一代,就应该有效地阐明多模态信息融合。模态是传达有关对象或事件(如图像、文本、视频和音频)的信息的渠道。当研究问题包含来自多种模态的信息时,它被称为多模态。多模态系统涉及一种要查询的数据模式以获得任何(相同或不同的)模态结果,而跨模态系统严格从不同模态中检索信息。由于输入-输出查询属于不同的模态系列,它们的连贯比较仍然是一个悬而未决的挑战,因为它们的形式原始且对内容相似性的定义主观。研究人员提出了许多技术来处理这个问题,并减少不同模态之间的信息检索语义差距。本文重点对跨模态信息检索领域的各种研究工作进行了比较分析。还讨论了几种跨模态表示的比较分析以及应用于基准数据集的最新方法的结果。最后,提出了一些未解决的问题,使研究人员能够更好地理解当前的情况并确定未来的研究方向。
纤维束成像广泛用于通过扩散加权磁共振成像 (dMRI) 在体内非侵入性地绘制白质束。与所有科学方法一样,无论是在基础神经科学领域还是在临床环境中,适当的验证都是成功应用纤维束成像的关键先决条件。众所周知,从局部扩散信号间接估计纤维束非常模糊且极具挑战性。此外,纤维束成像方法的验证因缺乏真实的基础事实而受到阻碍,这是由极其复杂的大脑微结构造成的,这种微结构无法通过非侵入性直接观察到,而大脑中庞大的长距离纤维连接网络的基础正是纤维束成像方法的实际目标。作为可用于验证的真实基础事实的体内数据的替代品,一种广泛且成功采用的方法是使用合成幻影。在这项工作中,我们概述了物理和数字幻影领域的最新技术,回答了以下指导性问题:“什么是 dMRI 幻影,它们有什么用处?”,“用于验证纤维束成像的理想幻影是什么样的?”和“研究界可以使用哪些幻影、幻影数据集和用于创建它们的工具?”。我们将进一步讨论使用 dMRI 幻影的局限性和机遇,以及该研究领域未来可能的发展方向。