XiaoMi-AI文件搜索系统
World File Search SystemMLPS
受大脑启发的具有脉冲神经元的多层感知器
近年来，多层感知器 (MLP) 成为计算机视觉任务领域的研究热点。由于没有归纳偏差，MLP 在特征提取方面表现良好并取得了惊人的效果。然而，由于其结构简单，其性能高度依赖于局部特征通信机制。为了进一步提高 MLP 的性能，我们引入了脑启发神经网络的信息通信机制。脉冲神经网络 (SNN) 是最著名的脑启发神经网络，在处理稀疏数据方面取得了巨大成功。SNN 中的泄漏积分和触发 (LIF) 神经元用于在不同时间步骤之间进行通信。在本文中，我们将 LIF 神经元的机制合并到 MLP 模型中，以在不增加 FLOP 的情况下实现更好的准确率。我们提出了一种全精度 LIF 操作来在块之间进行通信，包括不同方向的水平 LIF 和垂直 LIF。我们还建议使用组 LIF 来提取更好的局部特征。借助 LIF 模块，我们的 SNN-MLP 模型在 ImageNet 数据集上分别仅使用 4.4G、8.5G 和 15.2G FLOP 就实现了 81.9%、83.3% 和 83.5% 的 top-1 准确率，据我们所知，这是最先进的结果。源代码将在 https://gitee.com/mindspore/models/tree/master/research/cv/snn mlp 上提供。
资源分配问题的新颖开关型策略网络：技术报告
摘要 - 深处增强学习（DRL）已成为制定排队网络中控制策略的强大工具，但是在这些应用程序中，多层多层感知器（MLP）神经网络的常见使用具有重要的缺点。MLP体系结构虽然多才多艺，但通常会遭受样本效率差和过度合适的培训环境的趋势，从而导致新的，看不见的网络的次优性能。响应这些问题，我们引入了开关型神经网络（STN）体系结构，旨在提高排队网络中DRL策略的效率和概括。从传统的非学习政策中的STN杠杆作用模式，确保在类似状态下进行一致的行动选择。这种设计不仅简化了学习过程，而且还通过减少过度效果的趋势来促进更好的概括。我们的作品提出了三个关键贡献：首先，STN的开发是MLP的更有效替代方案；其次，经验证据表明，在各种培训方案中，STN在各种培训方案中实现了卓越的样本效率。第三，实验结果表明，STN在熟悉的环境中与MLP性能相匹配，并且在新设置中的表现明显优于它们。通过嵌入特定领域的知识，STN增强了近端策略优化（PPO）算法的有效性而不损害性能，这表明其适合各种排队网络控制问题。
人工智能及其对传统模型的影响...
这项研究通过调查智能工具通过创造，分散和记者消费所带来的极端主义过渡来分析AI对传统新闻业务模型的影响。该研究重点是智能自动化如何适应传统媒体的布置，该媒体对线性和层次模型具有时间信任，对更加分散和协同的标准结构进行了信任。研究首先要指定智能自动化及其在过去十年中的进步，从机器学习和深度学习到最先进的生成模型的状态。然后，它按系统的顺序分析了与新闻学的数字适应性有关的理论，例如数字决定论和广播的政治经济学，以分析AI对常规新闻机构的系统影响。此外，该研究还考虑了新闻行业智能自动化的可行目标，包括通过新闻实践自动化满意度的自动化，检查重要信息以进行满足的个性化以及受众的消费流程。它还调查了与这种过渡相关的学术和光荣的挑战，例如失去创新的个性，假新闻的扩散以及系统的歧视，这些歧视会重组论坛的互动形式。因此，研究得出的结论是，在MLP的产生中引入广播强调了进行监督程序的必要性，以保持愉快的自主权并提高智能结构的透明度，以确保数字突破和良性广播程序之间的一致性。
通过预测编码逆转差异
深度学习已重新定义了人工神经网络的兴起，这是受到大脑神经元网络的启发。多年来，AI和神经科学之间的这些相互作用为这两个领域带来了巨大的好处，从而使神经网络可以在大量应用中使用。神经网络使用反向分化的有效实现，称为反向传播（BP）。然而，这种算法通常因其生物学上的不可使用性而受到批评（例如，缺乏众议员的本地更新规则）。因此，越来越多地研究了依靠预测性编码（PC）的生物学上合理的学习方法，即描述大脑中信息处理的框架。最近的著作证明，这些方法可以将BP近似于多层感知器（MLP）的一定余量，并在任何其他复杂模型上均非渐近，并且PC的变量零差异推理学习（Z-IL）能够准确地在MLP上实现BP。然而，最近的文字还表明，尚无生物学上合理的方法，可以准确地复制BP在Complex模型上的重量更新。为了填补这一空白，在本文中，我们通过在计算图上直接定义它来概括（PC和）Z-IL，并表明它可以执行精确的反向分化。什么结果是第一个PC（并且在生物学上是合理的）算法，它等同于BP在任何神经网络上更新参数，从而在神经科学和深度学习的构图研究之间提供了桥梁。此外，以上结果尤其是立即提供了BP的新型局部和平行实现。
水资源管理和洪水减轻：在气候变化下的混合分解EMD-ANN模型研究
摘要，近年来，人口不断增长和城市化的增加使管理水成为世界上的关键问题。在全球范围内，洪水是最具破坏性的自然灾害之一。洪水风险缓解措施在很大程度上依赖于准确，一致的水流预测。巴基斯坦上印度河流域（UIB）最容易受到洪水的影响。最近几十年来洪水变得越来越频繁。UIB可以分为子区域，其集体影响在Massam地区最突出。UIB水文和气象站观测值已用于研究季节性水电学变化。为了预测洪水，本研究提出了一种将人工神经网络作为多层感知器（MLP）的混合模型，以及经验模式分解（EMD）。从1960年至2012年，1969年至2012年和1972年至2012年的地表水水文学项目和巴基斯坦气象部收集的数据已从17个地点使用。统计参数和NASH -SUTCLIFFE效率以分析模型的能力。结果，基于分解的模型在预测准确性方面的性能优于基于AI的模型。MLPQTP-EMD的表现比竞争AI模型要好。通过在洪水季节（6月至9月）进行峰值分析，以实现91.3％的得分，进一步验证了结果，并增加了EMD增加5.6％的输入数据，获得了39.3-32.3％的统计指数得分。
配置操纵计划的空间距离字段
摘要 - 签名的距离字段（SDF）是机器人技术中流行的隐式形状表示形式，提供有关对象和障碍物的几何信息，形式可以很容易地与控制，优化和学习技术相结合。最常使用SDF来表示任务空间中的距离，这与我们在3D世界中感知到的距离熟悉的概念相对应。但是，可以在数学上使用SDF在其他空间中，包括机器人配置空间。对于机器人操纵器，此配置空间通常对应于机器人的每个关节的关节角度。在机器人计划中习惯表达出配置空间的哪些部分与障碍物相撞，但将此信息视为配置空间中的距离字段并不常见。在本文中，我们演示了在机器人配置空间中考虑SDF进行优化的潜力，我们称之为配置空间距离字段（或简称CDF）。与在任务空间中使用SDF相似，CDF提供了有效的关节角距离查询并直接访问衍生物（关节角速度）。大多数方法将整体计算分为任务空间中的一部分，然后是配置空间中的一部分（评估任务空间的距离，然后使用逆运动学的计算操作）。相反，CDF允许以统一的方式通过控制，优化和学习问题来利用隐式结构。特别是，我们提出了一种有效的算法来计算和融合CDF，可以推广到任意场景。也提出了使用多层感知器（MLP）的相应神经CDF表示，以获得紧凑而连续的表示，同时提高计算效率。我们通过平面避免示例来证明CDF的有效性，以及在逆运动学和操纵计划任务中使用7轴的Franka机器人。项目页面：https：//sites.google.com/view/cdfmp/home
通过先进的深度学习模型进行心力衰竭预测和分类的新方法
在本研究中，作者将研究和利用与两种不同方法相关的先进机器学习模型来确定预测心力衰竭和心血管疾病患者的最佳和最有效方法。第一种方法涉及一系列分类机器学习算法，第二种方法涉及使用称为 MLP 或多层感知器 的深度学习算法。在全球范围内，医院都在处理与心血管疾病和心力衰竭相关的病例，因为它们是导致死亡的主要原因，不仅是超重人群，而且是饮食和生活方式不健康人群的主要死亡原因。通常，心力衰竭和心血管疾病可由多种因素引起，包括心肌病、高血压、冠心病和心脏炎症 [1]。其他因素，如不规则休克或压力，也可能导致心力衰竭或心脏病发作。虽然这些事件无法预测，但来自患者健康的持续数据可以帮助医生预测心力衰竭。因此，这项数据驱动的研究利用先进的机器学习和深度学习技术来更好地分析和处理数据，为医生提供关于一个人患心力衰竭可能性的决策工具。在本文中，作者采用了先进的数据预处理和清理技术。此外，使用两种不同的方法对数据集进行了测试，以确定产生最佳预测的最有效的机器学习技术。第一种方法涉及采用一系列监督分类机器学习算法，包括朴素贝叶斯 (NB)、KNN、逻辑回归和 SVM 算法。第二种方法利用了一种称为多层感知器 (MLP) 的深度学习 (DL) 算法。该算法为作者提供了灵活性，可以尝试不同的层大小和激活函数，例如 ReLU、逻辑 (sigmoid) 和 Tanh。这两种方法都产生了具有
统计力学、神经网络和人工智能...
分别来自统计力学和贝叶斯概率的方法对于思考某事是否发生的可能性来说是截然不同的。统计力学是理论物理学的一个领域，在神经网络中主要用作寓言；作为在一个领域创建的模型，并（非常有用地）应用于另一个领域。这几乎就像用物理学来讲故事。这些方法可以成功使用的想法是如此极端，以至于这些方法可以在神经网络和深度学习中找到新家几乎令人震惊。统计力学的概念是受限玻尔兹曼机 (RBM) 学习方法的核心。受限玻尔兹曼机使用的底层方法与随机梯度下降实现（例如反向传播）所使用的方法非常不同。这意味着 RBM 可以具有多层架构并学会区分更复杂的模式，从而克服我们之前讨论过的简单多层感知器 (MLP) 的局限性。统计力学处理的是只能通过其能量状态来区分的小单元的发生概率。相比之下，贝叶斯概率提供了一种截然不同的思考事情发生概率的方式。这两种面向概率的方法共同为高级机器学习方法奠定了基础。既然我们已经确定了统计力学和贝叶斯方法的重要性，我们将把注意力（针对本章和紧接着的章节）限制在统计力学及其与神经网络的基础关系上。稍后，当我们讨论更高级的主题时，我们将全面讨论统计力学和贝叶斯方法的融合。统计力学在神经网络中的作用首次为人所知是在 1982 年 John Hopfield 发表他的研究成果时 [1]。他的研究成果借鉴了 Little 及其同事在 1974 年 [2] 提出的观点。本章介绍了统计力学中的一些关键概念；足以理解一些经典论文的主题：Hopfield 的原创成果（介绍了后来被称为 Hopfield 网络的内容）以及由 Geoffery Hinton 及其同事开发的玻尔兹曼机的一些关键成果。
基因表达 - ...
动机：基因表达数据通常在癌症研究和机器学习的交集中使用，以更好地了解肿瘤组织的分子状态。深度学习预测模型已用于基因表达数据，因为它们的扩展能力和消除了对手动功能工程的需求。但是，基因表达数据通常非常高维，嘈杂，并且呈现较少的样本。这对学习算法提出了重要的问题：模型通常过度拟合，学习噪音并努力捕获与生物学相关的信息。在本文中，我们利用嵌入基因相互作用图（例如蛋白质 - 蛋白质相互作用（PPI）网络）中的外部生物学知识来指导预测模型的构建。结果：我们提出了基因相互作用网络约束构建（GINCCO），这是一种无监督的方法，用于自动构造基因表达数据的计算图模型，该方法受到基因相互作用网络的先验知识在结构上约束。我们在案例研究中采用了这种方法，该方法将PPI网络纳入癌症表型预测任务。我们的计算图是在PPI网络上使用拓扑聚类算法在结构上构建的，PPI网络上结合了蛋白质复杂发现网络生物学研究引起的电感偏见。GINCCO计算图中的每个实体都代表生物学实体，例如基因，候选蛋白质复合物和表型，而不是神经网络的任意隐藏节点。这为模型正则化提供了一种与生物学相关的机制，从而产生了强大的预测性能，同时大大减少了模型参数的数量，并实现了对目标表型的影响力基因集的引导后富集分析。我们分析各种CER表型的实验表明，尽管模型复杂性大大降低了，但Gincco经常超过支持向量机，完全连接的多层感知器（MLP）和随机连接的MLP。可用性和实现：https：//github.com/paulmorio/gincco包含我们方法的源代码。我们还在https://github.com/ paulmorio/protclus中发布了带有用于蛋白质复杂发现算法的库。此存储库包含本文使用的聚类算法的实现。联系人：paul.scherer@cl.cam.ac.uk补充信息：补充数据可在Online BioInformatics获得。