图 1. 具有连接权重 𝑤𝑤 𝑖𝑖𝑖𝑖 的 𝑁𝑁 二进制节点(0 或 1)的循环网络。(左)Hopfield 模型。(中)玻尔兹曼机。节点分为两组,可见节点(空心圆)和隐藏节点(灰色)。网络经过训练可以近似给定一组可见模式的概率分布。训练完成后,网络可用于从学习到的分布中生成新实例。(右)受限玻尔兹曼机 (RBM)。与玻尔兹曼机相同,但可见层内或隐藏节点之间没有任何耦合。此变体可用于深度网络的逐层预训练。
图 1. 具有连接权重 𝑤𝑤 𝑖𝑖𝑖𝑖 的 𝑁𝑁 二进制节点(0 或 1)的循环网络。(左)Hopfield 模型。(中)玻尔兹曼机。节点分为两组,可见节点(空心圆)和隐藏节点(灰色)。网络经过训练可以近似给定一组可见模式的概率分布。训练完成后,网络可用于从学习到的分布中生成新实例。(右)受限玻尔兹曼机 (RBM)。与玻尔兹曼机相同,但可见层内或隐藏节点之间没有任何耦合。此变体可用于深度网络的逐层预训练。
图 1. 具有连接权重 𝑤𝑤 𝑖𝑖𝑖𝑖 的 𝑁𝑁 二进制节点(0 或 1)的循环网络。(左)Hopfield 模型。(中)玻尔兹曼机。节点分为两组,可见节点(空心圆)和隐藏节点(灰色)。网络经过训练可以近似给定一组可见模式的概率分布。训练完成后,网络可用于从学习到的分布中生成新实例。(右)受限玻尔兹曼机 (RBM)。与玻尔兹曼机相同,但可见层内或隐藏节点之间没有任何耦合。此变体可用于深度网络的逐层预训练。
摘要。如今,基于计算机技术的进步,研究旨在开发新的数据处理方法。一些研究侧重于创造模仿人类生物数据处理机制的新工具。这些研究为人工神经网络的发展铺平了道路,与传统的、更常用的预测分析工具相比,人工神经网络可以被视为一种更优越的预测分析工具。如今,人工神经网络已在生态学、工程学和健康等学科中得到广泛应用。然而,可以说,尽管它们比其他预测分析更具功能性和有效性,但它们在教育研究中的应用却十分有限。本研究旨在通过参考通过人工神经网络分析进行的研究,阐明人工神经网络在教育研究中的功能和作用。关键词:人工神经网络、多层感知器、单层感知器、输入层、隐藏层简介人工神经网络是模拟人类数据处理系统的数据处理系统(Elmas,2003 年,第 22 页)。人工神经网络的概念源于在计算机系统上模仿人脑的运作原理,用定量数据进行计算,并创建生物神经元的数学模型(Efe & Kaynak,2000,第 1 页)。第一个人工神经网络是由神经生理学家 Warren McCulloch 和数学家 Walter Pitts 基于人脑的计算能力创建的(Bishop,2014,第 9 页)。 1958 年 Frank Rosenblatt 开发出感知器这种人工神经网络系统后,人工神经网络的研究开始加速,随后出现了自适应线性元件(自适应线性元件 (Widrow & Hoff, 1960)、Hopfield 网络 (Hopfield, 1982)、Kohonen 网络 (Kohonen, 1982, 1984)、玻尔兹曼机 (Ackley et al., 1985) 和通过反向传播算法学习的多层前馈神经网络 (Rumelhart et al., 1986;引自 Lek & Guegan, 1999, p. 67)。现代人工神经网络研究的重点是开发新的、更有效的学习算法,并创建能够响应随时间变化的模型的网络 (Kriesel, 2007, pp. 21-22)。如前所述,人工神经网络模拟人类大脑中的生物神经元和创建人工神经元的数学模型基于生物模型(Kohli et al.,, 2014, p. 745)。Hanrahan(2011, p. 5)描绘了生物模型的结构,如图1所示;
直接在复杂的物理系统中实施机器学习正在成为解决此问题的一种有吸引力的低能耗解决方案 2 。所谓的“神经形态计算” 3 从大脑中汲取灵感,将计算迁移回最初启发人工智能的复杂物理系统 4 。纳米磁阵列是神经形态硬件的理想候选者。它们被动存储信息、提供记忆,并通过磁振子 5 (它们的集体 GHz 动力学)执行复杂的非线性处理。值得注意的是,现代软件神经网络的数学源自物理学家在 1970 年代开发的理论框架,用于描述强相互作用磁网络 6 ,纳米磁体和神经网络架构之间具有很大的协同作用。早期的机器学习社区采用了这些框架(最初称为 Hopfield 网络 7 ),并对其进行了调整和完善,形成了今天的人工智能。我在伦敦帝国理工学院的团队(特别是 Kilian Stenning 博士和 Will Branford 博士)最近设计了世界上第一个功能齐全的神经形态计算机,它由一种称为“人造自旋冰”的特定纳米磁网络 8 构建而成。在这次演讲中,我将向大家介绍这个系统、我们最近的进展 9 和新发展。
摘要:数字计算机仅模拟大脑的神经元网络。例如,他们的von Neumann架构将记忆和处理器单元分开,因此导致相当大的能源消耗和环境有害的能量消散与绿色交易相矛盾。以脑为导向的(神经形态)计算,可以通过熟悉的电路网络和光子设备来重现大脑结构,这些电路网络和光子设备将这些功能集成到诸如自然大脑的能源消耗较少,效率显着增长和环保友好的功能。它们可用于建模物理,化学,生物学和神经系统中的结构和模式形成。最近的诺贝尔物理学奖(Hopfield and Hinton 2024)突出了现代机器学习在自然形成中的深层根源。模式和结构形成通过人工智能中的学习算法打开了模式识别的新应用。可以通过使用(例如光子量子芯片)与量子并行性和纠缠的量子计算的优势结合使用。他们的原则也深深地植根于自然中,最近也由物理学中的诺贝尔奖(Fack,Clauser,Zeilinger,Zeilinger 2022)强调。我们旨在集成所有这些计算范式的混合和可持续性AI。
Baker D,Hassabis D,Jumper J(2024)。 诺贝尔物理学奖2024。 从https://www.nobelprize.org/prizes/physics/2024/summary/检索。 Blanke SR,Blanke RV(1984)。 Schotten-Baumann反应有助于对极性化合物的分析:用于测定Tris(羟甲基)氨基甲烷(THAM)的应用。 j肛门毒素8(5):231–233。 Dhina MA,Kaniawati I,Yustiana YR(2023)。 在药房学习计划中学习基本物理学,并具有药房学生所需的系统思维技能。 动力:物理教育杂志8(1):55–64。 Ellman GL(1958)。 一种用于确定低浓度胃a的比色方法。 Arch Biochem Biophys 74(2):443–450。 Erdogan M,Kilic B,Sagkan RI,Aksakal F,Ercetin T等。 (2021)。 设计,合成和生物学评估是新的苯唑唑酮/苯甲噻唑酮衍生物作为针对阿尔茨海默氏病的多目标剂。 Eur J Med Chem 212:113124。 Gulcan Ho,Orhan IE(2021)。 具有不同杂环支架的双重单胺氧化酶和胆碱酯酶抑制剂。 Curr Top Med Chem 21(30):2752–2765。 Gulcan Ho,Mavideniz A,Sahin MF,Orhan IE(2019)。 苯咪唑衍生的化合物是为阿尔茨海默氏病的不同靶标而设计的。 Curr Med Chem 26(18):3260–3278。 Hopfield JJ,Hinton G(2024)。 诺贝尔物理学奖2024。 从https://www.nobelprize.org/prizes/physics/2024/summary/检索。 McCall RP(2007)。 物理学与药房专业的相关性。Baker D,Hassabis D,Jumper J(2024)。诺贝尔物理学奖2024。从https://www.nobelprize.org/prizes/physics/2024/summary/检索。Blanke SR,Blanke RV(1984)。Schotten-Baumann反应有助于对极性化合物的分析:用于测定Tris(羟甲基)氨基甲烷(THAM)的应用。j肛门毒素8(5):231–233。Dhina MA,Kaniawati I,Yustiana YR(2023)。 在药房学习计划中学习基本物理学,并具有药房学生所需的系统思维技能。 动力:物理教育杂志8(1):55–64。 Ellman GL(1958)。 一种用于确定低浓度胃a的比色方法。 Arch Biochem Biophys 74(2):443–450。 Erdogan M,Kilic B,Sagkan RI,Aksakal F,Ercetin T等。 (2021)。 设计,合成和生物学评估是新的苯唑唑酮/苯甲噻唑酮衍生物作为针对阿尔茨海默氏病的多目标剂。 Eur J Med Chem 212:113124。 Gulcan Ho,Orhan IE(2021)。 具有不同杂环支架的双重单胺氧化酶和胆碱酯酶抑制剂。 Curr Top Med Chem 21(30):2752–2765。 Gulcan Ho,Mavideniz A,Sahin MF,Orhan IE(2019)。 苯咪唑衍生的化合物是为阿尔茨海默氏病的不同靶标而设计的。 Curr Med Chem 26(18):3260–3278。 Hopfield JJ,Hinton G(2024)。 诺贝尔物理学奖2024。 从https://www.nobelprize.org/prizes/physics/2024/summary/检索。 McCall RP(2007)。 物理学与药房专业的相关性。Dhina MA,Kaniawati I,Yustiana YR(2023)。在药房学习计划中学习基本物理学,并具有药房学生所需的系统思维技能。动力:物理教育杂志8(1):55–64。Ellman GL(1958)。 一种用于确定低浓度胃a的比色方法。 Arch Biochem Biophys 74(2):443–450。 Erdogan M,Kilic B,Sagkan RI,Aksakal F,Ercetin T等。 (2021)。 设计,合成和生物学评估是新的苯唑唑酮/苯甲噻唑酮衍生物作为针对阿尔茨海默氏病的多目标剂。 Eur J Med Chem 212:113124。 Gulcan Ho,Orhan IE(2021)。 具有不同杂环支架的双重单胺氧化酶和胆碱酯酶抑制剂。 Curr Top Med Chem 21(30):2752–2765。 Gulcan Ho,Mavideniz A,Sahin MF,Orhan IE(2019)。 苯咪唑衍生的化合物是为阿尔茨海默氏病的不同靶标而设计的。 Curr Med Chem 26(18):3260–3278。 Hopfield JJ,Hinton G(2024)。 诺贝尔物理学奖2024。 从https://www.nobelprize.org/prizes/physics/2024/summary/检索。 McCall RP(2007)。 物理学与药房专业的相关性。Ellman GL(1958)。一种用于确定低浓度胃a的比色方法。Arch Biochem Biophys 74(2):443–450。Erdogan M,Kilic B,Sagkan RI,Aksakal F,Ercetin T等。(2021)。设计,合成和生物学评估是新的苯唑唑酮/苯甲噻唑酮衍生物作为针对阿尔茨海默氏病的多目标剂。Eur J Med Chem 212:113124。Gulcan Ho,Orhan IE(2021)。 具有不同杂环支架的双重单胺氧化酶和胆碱酯酶抑制剂。 Curr Top Med Chem 21(30):2752–2765。 Gulcan Ho,Mavideniz A,Sahin MF,Orhan IE(2019)。 苯咪唑衍生的化合物是为阿尔茨海默氏病的不同靶标而设计的。 Curr Med Chem 26(18):3260–3278。 Hopfield JJ,Hinton G(2024)。 诺贝尔物理学奖2024。 从https://www.nobelprize.org/prizes/physics/2024/summary/检索。 McCall RP(2007)。 物理学与药房专业的相关性。Gulcan Ho,Orhan IE(2021)。具有不同杂环支架的双重单胺氧化酶和胆碱酯酶抑制剂。Curr Top Med Chem 21(30):2752–2765。Gulcan Ho,Mavideniz A,Sahin MF,Orhan IE(2019)。 苯咪唑衍生的化合物是为阿尔茨海默氏病的不同靶标而设计的。 Curr Med Chem 26(18):3260–3278。 Hopfield JJ,Hinton G(2024)。 诺贝尔物理学奖2024。 从https://www.nobelprize.org/prizes/physics/2024/summary/检索。 McCall RP(2007)。 物理学与药房专业的相关性。Gulcan Ho,Mavideniz A,Sahin MF,Orhan IE(2019)。苯咪唑衍生的化合物是为阿尔茨海默氏病的不同靶标而设计的。Curr Med Chem 26(18):3260–3278。Hopfield JJ,Hinton G(2024)。诺贝尔物理学奖2024。从https://www.nobelprize.org/prizes/physics/2024/summary/检索。McCall RP(2007)。物理学与药房专业的相关性。Am J Pharm Educ 71(4):第70条。pal R,Pandey P,Amjad TM(2023)。物理学在药物剂型制剂中的主导作用。Goya Journal 16(5):125–138。 Pillai JA,Cummings JL(2013)。 阿尔茨海默氏病预性阶段的临床试验。 医疗诊所,97(3),439–457。 Pourhassan B,Hendi SH,Upadhyay S,Sakalli I,Saridakis EN(2023)。 (非)线性电荷BTZ黑洞的热波动。 int jour mod d Phys D 32(16):2350110。Goya Journal 16(5):125–138。Pillai JA,Cummings JL(2013)。 阿尔茨海默氏病预性阶段的临床试验。 医疗诊所,97(3),439–457。 Pourhassan B,Hendi SH,Upadhyay S,Sakalli I,Saridakis EN(2023)。 (非)线性电荷BTZ黑洞的热波动。 int jour mod d Phys D 32(16):2350110。Pillai JA,Cummings JL(2013)。阿尔茨海默氏病预性阶段的临床试验。医疗诊所,97(3),439–457。Pourhassan B,Hendi SH,Upadhyay S,Sakalli I,Saridakis EN(2023)。(非)线性电荷BTZ黑洞的热波动。int jour mod d Phys D 32(16):2350110。
在处理生物物理学中的复杂概率时,已经提出了机器学习作为理论建模的一种替代方法。但是,从这个角度来看,我们认为更成功的方法是这两种方法的正确组合。我们讨论了来自物理建模神经元处理的想法如何导致计算神经网络的早期表述,例如Hopfield Networks。然后,我们展示了如何通过共享的能量代表来彼此相互关联的Potts模型,Boltzmann机器和Transformer架构等模型学习方法。我们总结了最新的效果,以建立这些联系,并提供有关如何整合物理建模和机器学习如何成功解决生物分子结构,动态,功能,进化和设计方面的最新问题的示例。实例包括蛋白质结构预测;分子动力学模拟的计算复杂性和准确性的提高;更好地推断了蛋白质突变的影响,从而改善了进化建模,最后机器学习如何彻底改变了蛋白质工程和设计。超越了自然存在的蛋白质序列,讨论了与蛋白质设计的连接,其中合成序列能够折叠到由植根于物理原理的模型驱动的自然存在的基序。我们表明,该模型是“可学习的”,并提出了它在可以折叠成目标结构的独特序列的生成中的未来使用。
在研究世界中,2024年将被记住为诺贝尔人人工智能奖(AI)。物理学的一种,授予约翰·霍普菲尔德(John Hopfield)和杰弗里·欣顿(Geoffrey Hinton)的基本发现和发明,使机器学习能够使用人工神经网络,已密封物理学与信息科学之间的联系,现在在经过50多年的富有成果的互动之后,现已正式在强烈的跨学科边界领域上进行正式交配(人工互动,2024年,2024年)。更具体地说,将AI连接到生物分子建模涉及授予David Baker的诺贝尔化学奖,用于计算蛋白质设计,Demis Hassabis和John Jumper用于蛋白质结构预测。许多统计数据说明了人工智能在生物模型领域的影响。在科学文献数据库中进行了与AI相关的关键字相关的与计算机建模相关的询问可得出约120,000个结果(如果搜索仅限于摘要,则结果约为6,000个结果,如图1所示)。从2018 - 19年开始观察到的指数上升是诺贝尔的序幕,大约与两个软件套件的外观Alphafold(Senifor et al。,2019)和Rosettafold(Humphreys等,2021)相吻合,该方法实现了蛋白质折叠和蛋白质折叠和蛋白质设计方法的方法。在奖励研究仅几年后获得诺贝尔奖非常罕见,但肯定不是偶然的。基于同源性建模的蛋白质结构预测的方法是从1990年代开始的,并在流行中实施