详细内容或原文请订阅后点击阅览
使用 FNN-LSTM 进行时间序列预测
在最近的一篇文章中，我们展示了如何使用由假最近邻 (FNN) 损失正则化的 LSTM 自动编码器来重建非线性混沌动态系统的吸引子。在这里，我们探讨了同样的技术如何帮助进行预测。与容量相当的“原始 LSTM”相比，FNN-LSTM 可以提高一组非常不同的真实世界数据集的性能，尤其是对于多步预测中的初始步骤。
来源:RStudio AI博客今天，我们来回顾一下最近的《深度吸引子：深度学习与混沌相遇》一文结论中提到的计划：采用同样的技术来生成经验时间序列数据的预测。
深度吸引子：深度学习与混沌相遇 预测“同样的技术”，为了简洁起见，我冒昧地将其称为 FNN-LSTM，这归功于 William Gilpin 2020 年的论文“从时间序列中深度重建奇异吸引子”（Gilpin 2020）。
(Gilpin 2020) Gilpin 2020简而言之，要解决的问题如下：观察一个已知或假定为非线性且高度依赖于初始条件的系统，从而产生一系列标量测量值。这些测量结果不仅不可避免地会产生噪声，而且充其量只是多维状态空间在一条线上的投影。
在经典的非线性时间序列分析中，这种标量观测序列通过在每个时间点补充同一系列的延迟测量来增强——这种技术称为延迟坐标嵌入（Sauer、Yorke 和 Casdagli 1991）。例如，我们可以有一个由向量 X1、X2 和 X3 组成的矩阵，而不是只有一个向量 X1，其中 X2 包含与 X1 相同的值，但从第三个观测开始，而 X3 从第五个观测开始。在这种情况下，延迟为 2，嵌入维度为 3。各种定理指出，如果这些参数选择得当，就可以重建完整的状态空间。但是还存在一个问题：这些定理假设真实状态空间的维数是已知的，但在许多实际应用中，情况并非如此。
延迟坐标嵌入 (Sauer、Yorke 和 Casdagli 1991) Sauer、Yorke 和 Casdagli 1991X1
X1
X2
X3
X2
X1
X3
延迟
嵌入维度
定理
假最近邻
n
n+1
帖子
我们首先描述设置，包括模型定义、训练过程和数据准备。然后，我们告诉您它是如何进行的。
设置
定性n_recurrent
FNN-LSTM
n_recurrent
(
)