动态系统通常是时间变化的,其建模需要相对于时间发展的函数。最近的研究(例如神经普通微分方程)提出了一个时间依赖性的神经网络,该神经网络提供了随时间变化的神经网络。但是,我们声称建立时间相关神经网络的建筑选择显着影响其时间意识,但仍缺乏足够的验证。在这项研究中,我们对模式依赖性神经网络的结构进行了深入的分析。在这里,我们报告了消失的时间段嵌入的脆弱性,这会削弱时间依赖时间的神经网络的时间意识。fur-hoverore,我们发现在扩散模型中也可以观察到这种漏洞,因为它们采用了类似的体系结构,该体系结构结合了时间步长以在扩散过程中区分不同的时间段。我们的分析提供了这种现象的详细描述以及解决根本原因的几种解决方案。通过对神经普通微分方程和扩散模型的实验,我们观察到,通过提出的解决方案确保活着的时间意识提高了其性能,这意味着他们当前的实现缺乏足够的时间依赖性。
主要关键词