XiaoMi-AI文件搜索系统
World File Search System受大
受大脑神经调节信号启发的低功耗机器学习架构
摘要：我们提出了一种受生物大脑中调节神经递质机制启发的迁移学习方法，并探索神经形态硬件的应用。在该方法中，人工神经网络的预训练权重保持不变，并通过补充偏差输入操纵每个神经元的触发灵敏度来学习新的类似任务。我们将其称为神经调节调谐 (NT)。我们通过经验证明，神经调节调谐在前馈深度学习和脉冲神经网络架构中的图像识别领域产生的结果与传统微调 (TFT) 方法相当。在我们的测试中，与传统微调方法相比，NT 将要训练的参数数量减少了四个数量级。我们进一步证明，神经调节调谐可以在模拟硬件中实现为具有可变电源电压的电流源。我们的模拟神经元设计实现了泄漏积分和触发模型，其中三个双向二进制缩放电流源组成了突触。通过与每个突触相关的可调功率域应用近似于调节神经递质机制的信号。我们使用高精度仿真工具验证了电路设计的可行性，并提出了一种使用集成模拟电路高效实现神经调节的方法，该电路的功耗比数字硬件（GPU/CPU）低得多。
受大脑启发的预测编码提高了机器挑战性任务的性能
反向传播被认为是训练人工神经网络最有利的算法。然而，由于其学习机制与人脑相矛盾，反向传播因其生物学上的不合理性而受到批评。尽管反向传播在各种机器学习应用中取得了超人的表现，但它在特定任务中的表现往往有限。我们将此类任务统称为机器挑战任务 (MCT)，旨在研究增强 MCT 机器学习的方法。具体来说，我们从一个自然的问题开始：模仿人脑的学习机制能否提高 MCT 的性能？我们假设，复制人脑的学习机制对于机器智能难以完成的任务是有效的。使用预测编码（一种比反向传播更具生物学合理性的学习算法）进行了多个对应于特定类型的 MCT 的实验，其中机器智能有提高性能的空间。本研究将增量学习、长尾和小样本识别视为代表性的 MCT。通过大量实验，我们检验了预测编码的有效性，它对 MCT 的表现远优于反向传播训练的网络。我们证明了基于预测编码的增量学习可以减轻灾难性遗忘的影响。接下来，基于预测编码的学习可以减轻长尾识别中的分类偏差。最后，我们验证了用预测编码训练的网络可以用少量样本正确预测相应的目标。我们通过将预测编码网络的特性与人脑的特性进行比较并讨论预测编码网络在一般机器学习中的潜力来分析实验结果。
BI-AVAN：受大脑启发的对抗性视觉注意网络
摘要 — 视觉注意是人脑的基本机制，它启发了深度神经网络中注意机制的设计。然而，大多数视觉注意研究采用眼动追踪数据而不是直接测量大脑活动来表征人类的视觉注意。此外，人类视觉系统中与注意相关的对象和被注意忽略的背景之间的对抗关系尚未得到充分利用。为了弥补这些差距，我们提出了一种新颖的受大脑启发的对抗性视觉注意网络 (BI-AVAN)，直接从功能性大脑活动中表征人类的视觉注意。我们的 BI-AVAN 模型模仿与注意相关/被忽略的对象之间的偏向竞争过程，以无监督的方式识别和定位人脑以关注的电影帧中的视觉对象。我们使用独立的眼动追踪数据作为验证的基本事实，实验结果表明，我们的模型在推断有意义的人类视觉注意力和映射大脑活动与视觉刺激之间的关系时取得了稳健且有希望的结果。我们的 BI-AVAN 模型为利用大脑功能架构的新兴领域做出了贡献，以启发和指导人工智能（AI）中的模型设计，例如深度神经网络。
一种受大脑启发的低维计算分类器，用于微型设备推理
通过模仿类似大脑的认知并利用并行性，超维计算 (HDC) 分类器已成为实现高效设备推理的轻量级框架。尽管如此，它们有两个根本缺点——启发式训练过程和超高维度——导致推理精度不理想且模型尺寸过大，超出了资源受限严格的微型设备的能力。在本文中，我们解决了这些根本缺点并提出了一种低维计算 (LDC) 替代方案。具体而言，通过将我们的 LDC 分类器映射到等效神经网络，我们使用原则性训练方法优化我们的模型。最重要的是，我们可以提高推理精度，同时成功地将现有 HDC 模型的超高维度降低几个数量级（例如 8000 对 4/64）。我们通过考虑不同的数据集在微型设备上进行推理来进行实验以评估我们的 LDC 分类器，并且在 FPGA 平台上实现不同的模型以进行加速。结果表明，我们的 LDC 分类器比现有的受大脑启发的 HDC 模型具有压倒性优势，特别适合在微型设备上进行推理。
一种受大脑启发的基于对象的注意力网络，用于多...
摘要 视觉系统使用对物体的选择性瞥见序列来支持行为目标，但这种注意力控制是如何学习的呢？在这里，我们提出了一个编码器-解码器模型，该模型的灵感来自大脑中构成识别-注意系统的自下而上和自上而下的视觉通路。在每次迭代中，都会从图像中获取一个新的瞥见，并通过“什么”编码器（前馈、循环和胶囊层的层次结构）进行处理，以获得以对象为中心（对象文件）的表示。该表示被馈送到“哪里”解码器，其中不断发展的循环表示提供自上而下的注意力调节以规划后续的瞥见并影响编码器中的路由。我们展示了注意力机制如何显著提高对高度重叠数字进行分类的准确性。在需要比较两个对象的视觉推理任务中，我们的模型实现了近乎完美的准确性，并且在推广到看不见的刺激方面明显优于更大的模型。我们的工作证明了基于对象的注意力机制对对象进行连续观察的好处。
EnHDC：受大脑启发的超维计算的集成学习
摘要 — 集成学习是一种经典的学习方法，利用一组弱学习器组成一个强学习器，旨在提高模型的准确性。最近，受大脑启发的超维计算（HDC）成为一种新兴的计算范式，已在人类活动识别、语音识别和生物医学信号分类等各个领域取得成功。HDC 模仿大脑认知，利用具有完全分布式全息表示和（伪）随机性的高维向量（例如 10000 维）。本文首次尝试在 HDC 的背景下探索集成学习，并提出了第一个集成 HDC 模型，称为 EnHDC。EnHDC 使用基于多数投票的机制协同整合多个基础 HDC 分类器的预测结果。为了增强基分类器的多样性，我们改变了基分类器之间的编码机制、维度和数据宽度设置。通过将 EnHDC 应用于广泛的应用，结果表明，EnHDC 的准确率比单个 HDC 分类器平均提高 3.2%。此外，我们还表明，具有较低维度（例如 1000 维）的 EnHDC 可以实现与具有较高维度（例如 10000 维）的基线 HDC 相似甚至更高的准确率。这使得 HDC 模型的存储需求减少了 20%，这是在低功耗计算平台上实现 HDC 的关键。
一种受大脑启发的低维计算分类器，用于微型设备推理
通过模仿类似大脑的认知并利用并行性，超维计算 (HDC) 分类器已成为实现高效设备推理的轻量级框架。尽管如此，它们有两个根本缺点——启发式训练过程和超高维度——导致推理精度不理想且模型尺寸过大，超出了资源受限严格的微型设备的能力。在本文中，我们解决了这些根本缺点并提出了一种低维计算 (LDC) 替代方案。具体而言，通过将我们的 LDC 分类器映射到等效神经网络，我们使用原则性训练方法优化我们的模型。最重要的是，我们可以提高推理精度，同时成功地将现有 HDC 模型的超高维度降低几个数量级（例如 8000 对 4/64）。我们通过考虑不同的数据集在微型设备上进行推理来进行实验以评估我们的 LDC 分类器，并且在 FPGA 平台上实现不同的模型以进行加速。结果表明，我们的 LDC 分类器比现有的受大脑启发的 HDC 模型具有压倒性优势，特别适合在微型设备上进行推理。
Navitoclax (ABT-263) 作为单一药物治疗复发性上皮性卵巢癌接受大量治疗的女性的 II 期研究：MONAVI - GINECO 研究
Françoisbaclesse中心，Unicancer，3 AvenuegénéralHarris，14000 Caen，法国B诺曼底大学，UNICAN，UNICAN，INSERM U1086“反管”（癌症预防和治疗的跨学科研究部门） Apothicaires，34298法国D Antoine Lacassagne中心，Unicancer，De Valombrose 33号，06189法国尼斯，尼斯，Essistique - Hôpitauxde Paris，Georges Pompidou欧洲医院，20 Rue Leblanc，75015 Paris，France France france france france frane liker里尔，法国G西部癌症研究所，雷内中心Gauducheau，Unicancer，Boulevard教授Jacques Monod，44805 Saint-Heblain，法国H西部癌症研究所，Paul Papin Center，Unicancer，15 Rue Bocquel 49055 Angers Cedex Cedex，法国I Bergoniubergonié研究所，UNICER，UNICANTER，229 COURENITION，COURSENITER，CORENEN norise de l'Argon bere bere bere bere nyius bere nyius bere bere nyiiii iniius bere nyiiii bere nyiii ins ，图卢兹大学癌症研究所，1 AvenueIrèneJoliot-Curie，31059 Toulouse，法国K Citohl，Lyon Sud医院中心，临终关怀中心，Lyon（IC-HCL），69310 Pierre-Bénite m Jean Minjoz 大学医院，3 boulevard Alexandre Fleming, 25030 Besançon, 法国 n 巴黎大学，APHP，Cochin 医院，27 rue du Faubourg Saint-Jacques, 75014 Paris, 法国 o Gustave Roussy 研究所，UNICANCER，39 rue Camille Desmoulins, 94805 Villejuif, 法国 p 巴黎大学 UFR 巴黎医学中心，UMR_S1138-INSERM，法国 q 克劳德伯纳德里昂第一大学，UCBL，EA3738 CICLY，里昂，法国
受大脑启发的内存计算系统......
摘要 — 脑启发式方法可以有效地分析生物神经网络的活动，并以冯·诺依曼架构无法实现的能效解决计算难题，这表明对神经元通信和功能的理解有了显著的提高。在这里，我们提出了一种脑启发式多模态信号处理系统，该系统具有有机忆阻器阵列，可以潜在地整合信号传感、存储和计算。为了促进多模态信号处理系统的设计，我们使用了四个组件。首先，我们提出了一个多模态信号传感模块，主要负责多模态（图像、回声、嗅觉、肌肉和味觉）信号的收集、融合和存储。其次，在制造白蛋白忆阻器后，构建了一个高密度交叉点忆阻突触阵列，以实现计算、数据存储和通信层之间的密集连接。第三，考虑到大脑区域的结构和功能，我们展示了一个用于分层学习的通用学习模块，它可以识别和想象多模态信息。最后设计了必要的外围电路模块（包括无胜者竞争功能电路、模拟数字转换器、数字模拟转换器、脉冲调制器等）。值得注意的是，我们的系统可以每秒捕获大量数据并对多模态信号进行原位处理。这项研究有望帮助实现纳米材料与神经形态计算系统和节能集成电路的深度集成。
节能的受大脑启发的超维......
摘要 — 近年来，受脑启发的超维计算 (HDC) 在医疗诊断、人类活动识别和语音分类等广泛应用中展示了良好的性能。尽管 HDC 越来越受欢迎，但其以内存为中心的计算特性使得联想内存实现由于海量数据的存储和处理而能耗巨大。在本文中，我们提出了一个系统的案例研究，利用 HDC 的应用级错误恢复能力，通过电压调节来降低 HDC 联想内存的能耗。对各种应用的评估结果表明，我们提出的方法可以在联想内存上节省 47.6% 的能耗，而准确度损失不超过 1%。我们进一步探索了两种低成本的错误屏蔽方法：字屏蔽和位屏蔽，以减轻电压调节引起的错误的影响。实验结果表明，提出的字屏蔽（位屏蔽）方法可以进一步提高节能效果，最高可达 62.3%（72.5%），准确度损失不超过 1%。