模型 #Layers #Params(M) #Emb Dim Acc(%) 时间 ESM-2_t6 6 8 320 79.50 1 ESM-2_t12 12 35 480 81.37 2 ESM-2_t30 30 150 640 78.71 4 ESM-2_t33 33 650 1280 79.93 7 注意:1. 时间:“时间”列表示每个 ESM-2 模型变体的相对特征提取时间。ESM-2_t6 的提取时间设置为基线 (1),其他模型的时间相对于它进行缩放。例如,ESM-2_t12 所需的时间是 ESM-2_t6 的两倍,ESM-2_t30 所需的时间是 ESM-2_t33 的七倍。
神经序列检测在神经科学研究中起着至关重要的作用。最近令人印象深刻的作品利用卷积非负矩阵分解和 Neyman-Scott 过程来解决这个问题。然而,它们仍然面临两个限制。首先,它们将整个数据集容纳到内存中并执行多次迭代更新,当数据集很大或频繁增长时,这可能效率低下。其次,它们依赖于序列类型数量的先验知识,当未来情况未知时,这对于数据来说可能不切实际。为了解决这些限制,我们提出了一个分层狄利克雷点过程模型来有效地进行神经序列检测。我们的模型不需要计算整个数据,而是可以使用粒子过滤器以在线无监督的方式顺序检测序列。此外,狄利克雷先验使我们的模型能够根据需要自动动态引入新的序列类型,从而避免提前指定类型的数量。我们在来自鸣禽高级发声中心和啮齿动物海马的合成数据和神经记录上体现了这些优势。