Sorbonne Universit'E,E,Piti的儿童和青少年精神病学系,E-SALP ˆ etri etri'eere医院,法国巴黎,法国的Institut National de la Sant'E Et De la Recherche M´Edicale,Inserm u a10大学e Paris-Saclay,Ecole Normale Sup´ iRieure Paris-Saclay,CNRS,Center Borelli,Gif-Sur-Yvette; EPS BARTH的精神病学系,法国儿童和青少年精神病学和心理治疗系的Eps Barth´El´emy Durand,大学医学中心,von-Siebold-STR。5, 37075 G ¨ ottingen, Germany u Department of Psychiatry and Neuroimaging Center, Technische Universit ¨ at Dresden, Dresden, Germany v Centre for Population Neuroscience and Stratified Medicine (PONS), Department of Psychiatry and Neuroscience, Charit ´ e Universit ¨ atsmedizin Berlin, Germany w School of Psychology and Global Brain Health Institute, Trinity College爱尔兰X都柏林X人口神经科学与精确医学中心(PONS),脑启发智能科学与技术研究所(ISTBI)(ISTBI),Fudan University,Fudan University,上海,Y,生理学和营养科学系多伦多多伦多的位于加拿大M5S3G3
最近,时空变压器结构已被广泛应用于3D人类姿势估计的问题,从而实现了最新的性能。这些方法中的许多方法都将单个框架中的单个关节视为令牌,并且在同一框架或相同轨迹的令牌上施加注意力。尽管这种结构可有效地计算单个关节之间的相关性,但它过于限制,因为诸如帧或轨迹之类的全局特征无法很好地传达。在本文中,我们建议Galformer解决此问题。Galformer由局部和全局变压器块组成,前者基于关节令牌,如先前的方法一样,而后者,即全局混合变压器,将所有关节混合在特定框架范围内的所有关节,以实施特征交换的电感偏见。在提出的方法中交替重复这两个变压器块,以计算关节,形状和轨迹之间的相关性。实验表明,与人类36M,MPI-INF-3DHP和HUMANEVA数据集的现有方法相比,我们的方法具有优越或至少具有竞争性能。
微型和纳米结构的表面受到了广泛的关注,因为它们在传感器技术,表面摩擦学以及依从性和能量收集等广泛应用中的潜力。已经研究了几种修改材料表面,例如血浆处理,离子梁溅射,反应性离子蚀刻和激光处理等材料表面[1-3]。在这些方法中,由于其良好的空间分辨率和对不同材料(例如金属,半导体,介电和聚合物)的良好空间分辨率和高可重现性,激光表面处理近年来引起了人们的兴趣[4-6]。从连续波(CW)到超短梁以及从UV到IR的工作波长已经使用了许多类型的激光源[7-8]。由于激光 - 物质相互作用,从纳米到微尺度的各种结构和模式取决于激光参数和材料特性,例如激光诱导的周期性表面结构(LIPS),2D圆形液滴和特定的微型结构,称为Spikes [9-14]。
机器学习(ML)已整合到日常生活的各个方面,在很大程度上从人类数据中得出了培训。因此,这些ML系统经常表现出和反映人类的行为偏见,从而引起了从社交媒体到医疗决策的应用的担忧。然而,尽管心理学研究的证据表明,但目前的ML方法主要将人类视为独立的,随机数据来源或认为它们是理性决策者。这一差距强调了将凭经验扎根的人类行为洞察力纳入ML设计的必要性。此外,随着ML的不断增长,它开辟了设计系统通过考虑现实的人类行为来增强人类决策的潜力。我的研究旨在开发出行为知识的机器学习,检查和将经验依据的人类行为纳入ML系统的设计。我重点介绍了ML生命周期中人类行为的两个关键方面:用于培训ML模型的数据的产生,以及与机器援助同行的人类决策。相应地,我的研究介绍了人类与ML之间的两种关键形式:设计从人类行为数据中学习的ML系统,并设计了增强人类决策中人类的ML系统。
摘要 - 人类机器的相互作用正在在康复任务中获得关注,例如控制假肢或机器人手臂。手势识别表面肌电图(SEMG)信号是最有前途的方法之一,因为SEMG信号采集是无创的,并且与肌肉收缩直接相关。但是,对这些信号的分析仍然提出许多挑战,因为类似的手势会导致相似的肌肉收缩。因此,所得信号形状几乎相同,导致分类精度低。为了应对这一挑战,采用复杂的神经网络,需要大量的记忆足迹,消耗相对较高的能量并限制用于分类的设备的最大电池寿命。这项工作通过引入生物形态来解决此问题。这个新的基于注意力集中的档案的新家族可以采取最先进的性能,同时减少4.9倍的参数和操作的数量。此外,通过引入新的主体间预训练,我们将最佳生物样品的准确性提高了3.39%,可以匹配最先进的准确性,而无需任何额外的推理成本。在平行,超低功率(PULP)微控制器单元(MCU),Greenwaves GAP8上部署我们最佳性能的生物形态,我们的推断潜伏期和能量分别为2.72 ms和0.14 MJ,比以前是先前的现有的神经网络低8.0倍,同时只有94.2 kbs y 4.2 kb,而不是先前的现有的神经网络。索引术语 - 转化器,SEMG,手势识别,深度学习,嵌入式系统
变形金刚 - mamba2体系结构,将注意机制的优势与选择性状态空间模型无缝整合。这种杂种设计使杂种能够通过单核苷酸的分辨有效地处理长度高达131KB的DNA序列。Hybridna在从弯曲,GUE和LRB基准中策划的33个DNA了解数据集中实现了最新的性能,并在产生具有所需属性的合成顺式顺式调节元件(CRE)方面表现出了出色的能力。此外,我们表明Hybridna遵守预期的规律,并且随着模型尺度从300m到3B和7B参数,性能始终如一地提高。这些发现强调了Hybridna的多功能性及其推进DNA研究和应用的潜力,为理解和工程“生活语言”的创新铺平了道路。
摘要 - CB2受体配体活性的准确预测是针对该受体的药物发现的关键,这与炎症,疼痛管理和神经退行性疾病有关。尽管传统的机器学习和深度学习技术已经显示出希望,但其有限的解释性仍然是理性药物设计的重要障碍。在这项工作中,我们介绍了CB2Former,该框架将图形卷积网络(GCN)与变压器体系结构相结合以预测CB2受体配体活动。通过利用变压器的自我发项机制以及GCN的结构学习能力,CB2Former不仅增强了预测性能,而且还提供了对受体活性基础分子特征的见解。我们针对各种基线模型进行基准测试,包括随机森林,支持矢量机,最近的邻居,梯度增强,极端梯度增强,多层感知器,卷积神经网络和重复的神经网络,并以0.685的0.685和0.685和0.67的0.67和0.67 and and and and and and and and and and and and and and and and 0.675,并表现出优势。此外,注意力重量分析揭示了影响CB2受体活动的关键分子子结构,强调了该模型作为可解释的AI的潜力。这种指出关键分子基序的能力可以简化虚拟筛选,指导铅优化和加快治疗性发育。总的来说,我们的结果展示了先进的AI方法(例如CB2Former)在提供准确的预测和可操作的分子见解方面的变革潜力,从而促进了药物发现中的跨学科合作和创新。
Vision Transformer(VIT)在计算机视觉领域取得了重大步骤。然而,随着模型的深度和输入图像的重新分配增加,与培训和运行的VIT模型相关的计算成本急剧上升。本文提出了一个基于CNN和Vision Trans-trans-trans的混合模型,称为CI2P-VIT。该模型包含一个称为CI2P的模块,该模块利用Compressai编码来压缩图像,然后通过一系列连接生成一系列贴片。CI2P可以替换VIT模型中的贴片嵌入组件,从而无缝集成到现有的VIT模型中。与VIT-B/16相比,CI2P-VIT具有减少到原始四分之一的自我发项层的斑块输入数量。此设计不仅显着降低了VIT模型的计算成本,而且还通过引入CNN的电感偏置特性有效地提高了模型的准确性。VIT模型的精度显着提高。在Animal-10数据集的地面上接受训练时,CI2P-VIT的准确率为92.37%,比VIT-B/16基线提高了3.3%。此外,该模型的计算操作以每秒浮点操作(FLOPS)测量,减少了63.35%,并且在相同的硬件配置上的训练速度增加了2倍。