重放是指重新激活一个或多个神经模式,这些模式与过去清醒时经历的激活模式相似。重放最早是在睡眠期间在生物神经网络中观察到的,现在人们认为它在记忆形成、检索和巩固中起着关键作用。类似重放的机制已被纳入深度人工神经网络中,这些神经网络会随着时间的推移进行学习,以避免灾难性地遗忘先前的知识。重放算法已成功用于监督、无监督和强化学习范式中的各种深度学习方法。在这封信中,我们首次对哺乳动物大脑中的重放和人工神经网络中的重放进行了全面的比较。我们确定了深度学习系统中缺少的生物重放的多个方面,并假设如何使用它们来改进人工神经网络。