详细内容或原文请订阅后点击阅览
使用成对相对移位预训练学习 EEG 信号的相对组成
本文在 NeurIPS 2025 的大脑和身体基础模型研讨会上被接受。自监督学习 (SSL) 提供了一种很有前途的方法,可以从未标记的数据中学习脑电图 (EEG) 表示,从而减少睡眠分期和癫痫检测等临床应用对昂贵注释的需求。虽然当前的 EEG SSL 方法主要使用屏蔽重建策略,例如捕获局部时间模式的屏蔽自动编码器 (MAE),但位置预测预训练仍然未被充分探索,尽管它具有学习远程的潜力......
来源:Apple机器学习研究本文已被 NeurIPS 2025 的大脑和身体基础模型研讨会接受。
自监督学习 (SSL) 提供了一种从未标记数据中学习脑电图 (EEG) 表示的有前景的方法,从而减少了睡眠分期和癫痫检测等临床应用对昂贵注释的需求。虽然当前的 EEG SSL 方法主要使用屏蔽重建策略,例如捕获局部时间模式的屏蔽自动编码器 (MAE),但位置预测预训练仍然未被充分开发,尽管它有学习神经信号中的远程依赖性的潜力。我们引入了 PAirwise 相对偏移或 PARS 预训练,这是一种新颖的借口任务,可以预测随机采样的 EEG 窗口对之间的相对时间偏移。与专注于局部模式恢复的基于重建的方法不同,PARS 鼓励编码器捕获神经信号中固有的相对时间成分和远程依赖性。通过对各种脑电图解码任务的综合评估,我们证明了 PARS 预训练 Transformer 在标签效率和迁移学习设置中始终优于现有的预训练策略,为自监督脑电图表示学习建立了新的范例。
**在 Apple 实习期间完成的工作 †斯坦福大学 ‡加州理工学院 §阿姆斯特丹大学
