机构名称：
¥ 1.0
单细胞转录组学彻底改变了我们对细胞异质性的理解，但建模了超长的转录组序列（即基因的数量）仍然是一个重大的计算挑战。在这项研究中，我们基于最新的MAMBA2档案介绍了SC-MAMBA2，这是该体系结构与状态空间模型（SSMS）的首次应用，用于单细胞转录组建模。与传统的基于变压器的语言模型不同，SC-MAMBA2利用SSM的效率和可扩展性，使得通过减少的计算开销来处理更长的转录组序列。我们引入了专门针对转录组序列量身定制的独特设计适应，并在SSM框架下实现了双向建模方法，从而促进了整个基因组转录组序列的全面分析。SC-MAMBA2是单细胞转录组学结构域中最大的模型，具有超过1.5亿个参数，能够处理涵盖60,000多个基因的转录组序列。该模型在5700万个单元的数据集上进行了训练，这使其成为处理迄今为止超长序列的最全面解决方案。通过在各种下游任务中进行广泛的基准测试，SC-MAMBA2始终胜过最先进的模型，证明了卓越的准确性和计算效率。我们的结果强调了SC-MAMBA2的有效性和高级功能，将其定位为未来单细胞转录组研究的关键工具。
sc-mamba2：利用
主要关键词
相关文件推荐
