摘要。在现代世界中,很容易迷失思想,部分原因是我们通过智能手机触手可及的大量知识将我们的认知资源分开,部分原因是我们的内在思想。在这项工作中,我们旨在找到在不同冥想风格中常见的思维和冥想神经签名的差异。我们使用不同冥想风格的专家,即Shamatha,Zazen,Dzogchen和可视化的专家在冥想过程中进行的脑电图记录。我们使用剩余的验证技术评估模型,以训练三种冥想样式并测试第四个剩余样式。使用这种方法,我们达到了70%以上的平均分类准确性,这表明冥想技术的EEG信号在跨冥想方式上具有独特的神经特征,并且可以与流浪状态区分开。此外,我们使用T-SNE,PCA和LLE算法从较高维度产生较低的嵌入,并观察到冥想和思维方式之间嵌入的视觉差异。我们还解散了所提出的设计的一般流程以及对神经反馈支持思维的检测和校正设备的贡献。
深度学习最近导致了自然语言处理的重大进展。这些模型1处理句子是否与人类类似,并且这种相似性是否由特定原则驱动?使用2种对图像分类,单词嵌入或语言3建模进行培训的人工神经网络,我们评估它们的架构和功能特性是否导致它们是否使它们产生4个激活,这与102个用功能5共磁力(Fmri)和Magnetosogys(Magnetosogy)和Magnetosogys(Magnetosemponse)测量的102个人脑可相当。我们显示了图像,单词和6个上下文化的单词嵌入,将大脑中语言处理的层次级别分开。7至关重要的是,我们比较了3,600个嵌入它们在这些大脑反应上的能力。8结果表明,(1)层在网络中的位置以及(2)网络到9的能力准确地从上下文中预测单词是导致人工神经网络中类似脑的10个表示形式出现的主要因素。在一起,这些结果表明了感知性,词汇11和组成表示如何在每个皮质区域内完全展开,并有助于12个揭示大脑和算法中语言处理的管理原理。13
大型语言模型(LLM)的最新进展引起了人们的关注,因为在大规模数据集中鉴定的学识渊博的嵌入者在各种下游应用程序中表现出强大的ABIL。ever llms学到的知识是否可以转移到未知的临床心脏病学上。在这项工作中,我们的目标是通过将LLM的知识转移到临床心电图(ECG)来弥合这一差距。我们提出了一种用于心脏疾病诊断和自动ECG Di-Agnosis报告生成的方法。我们还通过最佳传输(OT)引入了额外的损失函数,以使ECG和语言嵌入之间的分布对齐。在下游任务上评估了学习的嵌入:(1)自动ECG诊断报告一代,以及(2)零射的心血管疾病检测。我们的方法也能够发电高质量的心脏诊断报告,并且即使与超级相比,也可以实现竞争性的零射击分类性能,这证明了将知识从LLMS转移到Car-diac领域的可行性。
睡眠是通过记录各种方式来评估一种复杂的生理过程。我们从14,000多个参与者中策划了一个大型的多模式睡眠记录的大型多摄影数据集。掌握了这个广泛的数据集,我们开发了SleepFM,这是第一个用于睡眠分析的多模式基础模型。我们表明,与标准的成对构造学习的表示相比,一种新颖的对比学习方法可以显着证明下游任务绩效。A logistic regression model trained on SleepFM 's learned embeddings out- performs an end-to-end trained convolutional neu- ral network (CNN) on sleep stage classification (macro AUROC 0.88 vs 0.72 and macro AUPRC 0.72 vs 0.48) and sleep disordered breathing de- tection (AUROC 0.85 vs 0.69 and AUPRC 0.77 vs 0.61)。值得注意的是,从90,000个候选者中检索模态剪辑对时,学到的嵌入在检索模态剪辑对方面具有48%的平均准确性。这项工作展示了整体多模式睡眠建模的价值,以完全捕获睡眠记录的丰富性。SleepFM是开源的,可在https://github.com/rthapa84/sleepfm- codebase上找到。
医学概念的有效表示对于电子健康记录的次要分析至关重要。神经语言模型在自动从临床数据中得出医学概念表示方面已显示出希望。但是,尚未对不同语言模型的比较性能,用于创建这些经验表示形式及其编码医学语义的程度,尚未得到广泛的研究。本研究旨在通过评估三种流行语言模型的有效性 - word2vec,fastText和手套 - 在创建捕获其语义含义的医学概念嵌入中的有效性。通过使用大量的数字健康记录数据集,我们创建了患者轨迹,并用它们来训练语言模型。然后,我们通过与生物医学术语进行明确比较来评估学到的嵌入式编码语义的能力,并通过预测具有不同级别可用信息的患者结果和轨迹来隐含。我们的定性分析表明,FastText学到的嵌入的经验簇与从生物医学术语获得的理论聚类模式表现出最高的相似性,分别在0.88、0.80和0.92的经验簇和0.92之间的诊断,过程和医疗代码分别为0.88、0.80和0.92之间。相反,为了预测,Word2Vec和Glove倾向于优于快速文本,而前者的AUROC分别高达0.78、0.62和0.85,分别用于现场长度,再入院和死亡率预测。在预测患者轨迹中的医疗法规时,手套在诊断和药物代码(分别为0.45和0.81)的最高级别上达到了语义层次结构的最高性能(AUPRC分别为0.45和0.81),而FastText优于其他模型的过程代码(AUPRC为0.66)。我们的研究表明,子词信息对于学习医学概念表示至关重要,但是全球嵌入向量更适合于更高级别的下游任务,例如轨迹预测。因此,可以利用这些模型来学习传达临床意义的表示形式,而我们的见解突出了使用机器学习技术来编码医学数据的潜力。
当代基于图自编码器的模型生成的药物及其靶标的潜在表示已被证明可用于预测大型网络上的多种类型的节点对相互作用,包括药物-药物、药物-靶标和靶标-靶标相互作用。然而,大多数现有方法对节点的潜在空间进行建模,其中节点分布是刚性和不相交的;这些限制阻碍了这些方法在节点对之间生成新的链接。在本文中,我们介绍了变分图自编码器 (VGAE) 在多模态网络上建模潜在节点表示的有效性。我们的方法可以为多模态图的每种节点类型生成灵活的潜在空间;嵌入稍后用于预测不同边类型下节点对之间的链接。为了进一步提高模型的性能,我们提出了一种新方法,将捕获每种药物分子结构的摩根指纹与其潜在嵌入连接起来,然后将它们先进行解码阶段以进行链接预测。我们提出的模型在两个多模态网络上表现出了有竞争力的结果:(1)由药物和蛋白质节点组成的多图,以及(2)由药物和细胞系节点组成的多图。我们的源代码可在 https://github.com/HySonLab/drug-interactions 上公开获取。
事实检查索赔的真实性通常需要对多个证据判决进行推理。通常,证据句子可能不会总是独立的,可能需要其他else的上下文和参考 - 在哪里了解核心表达式,首字母缩写词,以及报告的发现的范围。例如,学术论文的证据句子可能需要在论文中的上下文和引用论文中的描述,以确定研究发现的范围。但是,大多数事实检查模式主要集中在证据句子中的推理上,而忽略了辅助文本和参考。为了解决这一问题,我们提出了一种新颖的方法,上下文和引用的推理和提示。为了证据推理,我们构建了一个三层证据图,上面有证据,上下文和参考层。我们设计了内部和跨层推理,将三个图层整合到统一的证据中。为了判决预测,我们设计了循证条件的及时编码器,该及时编码器为每种索赔产生独特的提示嵌入。这些有证据的及时嵌入和索赔是统一的,以进行事实检查。实验验证我们模型的强度。代码和数据集可在https://github.com/cezhang01/correct上找到。
AI的最新进展彻底改变了材料科学和加速材料发现的财产预测。图形神经网络(GNN)由于能够表示晶体结构作为图形,有效捕获局部相互作用并提供出色的预测,因此脱颖而出。但是,这些方法通常会丢失关键的全局信息,例如晶体系统和重复单位连接。为了解决这个问题,我们提出了Cast,这是一个基于跨注意的多模式融合模型,该模型集成了图形和文本模式以保留基本的材料信息。cast使用交叉注意机制将节点 - 和令牌级的特征结合在一起,超过了依赖于材料级嵌入(如图形平均值或[Cls]令牌)的先前方法。掩盖的节点预测预处理策略进一步增强了原子级信息的整合。与Crysmmnet和MultiMAT等方法相比,我们的四个晶体特性(包括带隙)的性质预测的实现最大提高了22.9%。预处理是对齐节点和文本嵌入的关键,并且注意力图证实了其在捕获节点和令牌之间关系的有效性。这项研究强调了材料科学中多模式学习的潜力,为更强大的预测模型铺平了道路,这些模型纳入了本地和全球信息。
摘要:窃行为在学术和专业环境中提出了一个挑战,需要强大而有效的检测方法。本研究提出了一种使用机器学习(ML)技术的窃检测方法的创新方法。采用高级功能提取方法(例如TF-IDF和Word Embeddings),提出的系统利用了包含原始文档和窃文档的各种数据集。预处理阶段涉及清洁和标准化文本数据,而特征提取将文档转换为ML算法的数值表示。杂物ML模型,包括逻辑回归和神经网络,在二进制降级任务中的功效探索了。该系统在标记的数据集上进行了训练,从而区分原始和窃内容。在测试数据集上进行了广泛的评估,量化了模型的精度,精度,召回和F1得分。研究研究了不同特征提取技术对整体性能的影响。实施结合了真实世界的考虑,包括识别窃的变体,例如拷贝抛弃和释义。该系统对各个领域和来源的适应性得到了强调,并提出了可伸缩性的问题,以确定在杂物环境中的有效检测。关键字:释义识别,通道级pla窃检测,支持向量机。
2在机器人技术中进行导航,映射和语义理解5 2.1概述。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。5 2.2基于GSPLAT的导航和映射。。。。。。。。。。。。。。。。。。。。。。。。。6 2.2.1基于GSPLAT的导航。。。。。。。。。。。。。。。。。。。。。。。。。。。。。6 2.2.2基于GSPLAT的映射。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。11 2.3语义理解和知识检索在GSPLAT环境中。。。。。11 2.3.1图像分割和嵌入。。。。。。。。。。。。。。。。。。。。。。12 2.3.2矢量数据库查找。。。。。。。。。。。。。。。。。。。。。。。。。。。。。14 2.3.3自然语言查询处理。。。。。。。。。。。。。。。。。。。。。。。14 2.3.4与导航和映射集成。。。。。。。。。。。。。。。。。。。14