动态关系预置改进Transformer多变量时间序列预测

论文提出动态关系预置注意力，报告预测精度最高提升6.5%。

资讯摘要

论文针对标准注意力机制中token表示在成对计算中保持静态、难以刻画多变量时间序列各通道间异质依赖的问题，提出动态关系预置注意力（prime attention）：通过可学习调制为每个token对动态定制表示，以捕捉各token对特有的关系动态，并保持与标准注意力相同的渐近计算复杂度。作者报告该方法在多个基准上持续优于标准注意力，预测精度最高提升6.5%，且在序列长度减少最多40%时仍达到相当或更优性能。

要点速读

1. 论文指出标准注意力的静态token表示难以适配多变量时间序列中不同通道对由不同物理规律或时间动态支配的异质依赖。
2. prime attention通过可学习调制为每个token对动态定制表示，计算复杂度与标准注意力同阶。
3. 作者报告预测精度最高提升6.5%，并在序列长度减少最多40%时取得相当或更优表现。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。