XiaoMi-AI文件搜索系统
World File Search SystemBiobert
基于Biobert的SNP特征协会从...
I。在全基因组关联研究（GWAS）中，分析了基因组之间的遗传变异，以鉴定与特定疾病或性状统计上有关的遗传变异。GWA旨在识别基因型与表型之间的关联[1]。他们检查了遗传变异的等位基因频率在遗传相关但表型差异的个体中的差异。GWA中研究的最常见的遗传变异是单核苷酸多态性（SNP）[2]。SNP是DNA水平上的单基突变[3]。这些多态性几乎位于每个基因附近，可以用作遗传标记。也可以使用SNP检测基因和表型之间的关联，尤其是在具有多因素遗传学的疾病中[4]。
Biomamba：一种利用Mamba
摘要在生物学中的自然语言处理（NLP）的进步取决于模型解释复杂的生物医学文献的能力。传统模型通常在该领域的复杂和特定领域的语言中挣扎。在本文中，我们提出了Biomamba，这是一种专门为生物医学文本挖掘设计的预培训模型。Biomamba建立在Mamba的建筑上，并在生物医学文学的典型语料库中进行了预培训。我们的实证研究表明，在各种生物医学任务上，Biomamba显着优于Biobert和General Domain Mamba等模型。，对于Intance，Biomamba可实现100倍的困惑性，而Bioasq上的跨透明镜损失减少了4倍[29]测试集。我们提供了模型体系结构，预训练过程和微调技术的概述。此外，我们发布了代码和经过训练的Model 1，以促进进一步的研究。
多模式的天然和化学语言基础模型
分子nger板，小分子设计的生成方法，11 - 13药理学特性的预测和药物重新利用。13,14药物的临床开发是一种时间和货币消费过程，通常需要数年和十亿美元的预算才能从1期临床试验到患者进行。16最新的神经网络方法和语言模型的使用有可能大大促进药物开发过程。使用多种模型家族提出了许多LMS的生物医学领域：例如，研究人员开发了Biobert，基于BERT，具有1.1亿个参数，并基于T5-Base和T5-Large，分别使用220和77000万个T5-Large，使用生物医学文献，使用了220和77000万个参数。nvidia还使用一组更广泛的PubMed衍生的自由文本在生物医学领域开发了生物长期模型，范围从3.45亿到12亿参数。但是，这些模型中使用的数据集主要涵盖生物医学自然语言文本，并包含生物医学命名的实体，例如药物，基因和细胞系名称，但忽略了以微笑格式的重要化学结构描述。用化学结构丰富生物医学数据集是一项重要且具有挑战性的任务。最近，提出了以最大的设置为1.120亿个参数，基于变压器档案的LMS，基于Transformer Arch-tecture，以及基于T5-碱基和T5-LARGE的MOLT5、20的LMS，以解决此限制。两种模式均通过自然语言和化学数据进行了预训练，创建