TopoPrimer:预测模型中缺失的拓扑上下文

我们引入了 TopoPrimer,一个框架,使序列总体的全局拓扑结构成为任何预测模型的显式输入。 TopoPrimer 提高了不同领域的准确性,稳定了季节性需求高峰下的预测,并缩小了冷启动差距。 TopoPrimer 通过持久同源性和谱束坐标对每个域进行一次预计算,将每个令牌部署为经过充分训练的模型,并作为预训练主干的轻量级适配器。在这两个组件中,层坐标是主要的精度驱动因素。跨越 Chronos 的四个公共基准和……

来源:Apple机器学习研究

我们引入了 TopoPrimer,一个框架,使序列总体的全局拓扑结构成为任何预测模型的显式输入。 TopoPrimer 提高了不同领域的准确性,稳定了季节性需求高峰下的预测,并缩小了冷启动差距。 TopoPrimer 通过持久同源性和谱束坐标对每个域进行一次预计算,将每个令牌部署为经过充分训练的模型,并作为预训练主干的轻量级适配器。在这两个组件中,层坐标是主要的精度驱动因素。在 Chronos 和 TimesFM 的四个公共基准中,TopoPrimer 持续提高预测准确性,在 ECL 上的 MSE 提高高达 7.3%。拓扑优势在零样本和微调骨干网中以几乎相同的幅度持续存在,这表明拓扑和每系列训练捕获互补信号。在困难的政权中,收益最为明显。在旺季需求下,经典模型和零样本模型的性能下降高达 50%,而 TopoPrimer 的性能下降则保持在 10% 以内。在没有项目历史记录的冷启动时,TopoPrimer 比无拓扑基线减少了 27% 的 MAE。