编码器执行季节性增长和级别提取:
Posted: Sat Jul 12, 2025 5:03 am
图 2:ETSformer 组件的运作方式。回溯窗口(图中下部中央)由编码器-解码器 Transformer 架构(深灰色框)处理,以生成预测(图中右上)。编码器包含多层;每层都通过我们新颖的频率注意模块、指数平滑注意模块和层级模块执行季节性、增长和层级提取。解码器包含多个 G+S 堆栈;每层都通过频率注意模块和增长阻尼模块(右下)对季节性和增长成分进行外推。
通过频率注意提取季节性:编码器首先通过我们新颖的频率注意机制提取季节性,将时间序列表示转换为频域,在其中提取与时间序列中存在的季节性相对应的显着频率。
通过指数平滑注意力提取增长:去季节化的时间序列被传递到我们新颖的指数平滑注意力,提取增长成分。
通过级别模块进行级别提取。
然后解码器对未来进行推断:
通过频率注意进行季节性外推——使用我们的频率注意机制,提取的季节性表示可以外推到未来,如图 3 所示。
通过增长阻尼进行增长外推——时间序列预测中的一个关键假设是,增长可能不会在未来线性持续,尤其是在进行长期预测时,这可能导致不切实际的预测。增长阻尼模块解决了这个问题,确保未来增长能够逐渐减弱。增长阻尼模块会从数据中学习是否逐渐减弱,因此该模块允许模型选择让增长预测在未来进一步逐渐减弱。
结果
将两种不同的方法结合成一种能够产生新见解或效益的新方法,是科学领域一项历史悠久的技术,但在这个特 手机号数据库列表 定领域又如何呢?既然我们已经描述了 ETSformer 的不同组件及其相互关联,我们想证明我们的方法不仅仅是理论上的好主意。将经典的指数平滑技术与 Transformer 架构相结合,是否真的能够通过可衡量的结果展现出良好的性能,从而证明我们方法的有效性?
我们很高兴地告诉大家,答案是肯定的!ETSformer在六个真实世界时间序列数据集上取得了卓越的性能,涵盖了交通预测、天气预报和金融时间序列预测等多个应用领域,证明了其方法的有效性。在 24 种设置中,我们的方法在 22 种设置中(基于 MSE,均方误差)超越了基准模型,这些设置涵盖了各种真实世界数据集以及不同的预测时长(模型预测的未来远期)。请参阅我们的研究论文,详细了解我们的实证结果以及与竞争基准模型的比较。
通过频率注意提取季节性:编码器首先通过我们新颖的频率注意机制提取季节性,将时间序列表示转换为频域,在其中提取与时间序列中存在的季节性相对应的显着频率。
通过指数平滑注意力提取增长:去季节化的时间序列被传递到我们新颖的指数平滑注意力,提取增长成分。
通过级别模块进行级别提取。
然后解码器对未来进行推断:
通过频率注意进行季节性外推——使用我们的频率注意机制,提取的季节性表示可以外推到未来,如图 3 所示。
通过增长阻尼进行增长外推——时间序列预测中的一个关键假设是,增长可能不会在未来线性持续,尤其是在进行长期预测时,这可能导致不切实际的预测。增长阻尼模块解决了这个问题,确保未来增长能够逐渐减弱。增长阻尼模块会从数据中学习是否逐渐减弱,因此该模块允许模型选择让增长预测在未来进一步逐渐减弱。
结果
将两种不同的方法结合成一种能够产生新见解或效益的新方法,是科学领域一项历史悠久的技术,但在这个特 手机号数据库列表 定领域又如何呢?既然我们已经描述了 ETSformer 的不同组件及其相互关联,我们想证明我们的方法不仅仅是理论上的好主意。将经典的指数平滑技术与 Transformer 架构相结合,是否真的能够通过可衡量的结果展现出良好的性能,从而证明我们方法的有效性?
我们很高兴地告诉大家,答案是肯定的!ETSformer在六个真实世界时间序列数据集上取得了卓越的性能,涵盖了交通预测、天气预报和金融时间序列预测等多个应用领域,证明了其方法的有效性。在 24 种设置中,我们的方法在 22 种设置中(基于 MSE,均方误差)超越了基准模型,这些设置涵盖了各种真实世界数据集以及不同的预测时长(模型预测的未来远期)。请参阅我们的研究论文,详细了解我们的实证结果以及与竞争基准模型的比较。