摘要 从大脑活动重建复杂而动态的视觉感知仍然是机器学习应用于神经科学的一大挑战。在这里,我们介绍了一种从非常大的单参与者功能性磁共振数据重建自然图像和视频的新方法,该方法利用了图像到图像转换网络的最新成功。这是通过利用从整个视觉系统的视网膜主题映射中获得的空间信息来实现的。更具体地说,我们首先根据其对应的感受野位置确定特定感兴趣区域中的每个体素在视野中代表什么位置。然后,将视野上大脑活动的 2D 图像表示传递给完全卷积的图像到图像网络,该网络经过训练以使用带有对抗性正则化的 VGG 特征损失恢复原始刺激。在我们的实验中,我们表明我们的方法比现有的视频重建技术有了显着的改进。
主要关键词