[发明专利]利用动态时间上下文学习进行多界限时间序列预测的系统和方法

说明书

一种用于时间序列预测的系统和方法。所述方法包括：提供与多个未来时间步长相对应的输入特征向量；对输入特征向量执行双向长短期记忆网络(BiLSTM)以获得与多个未来时间步长相对应的隐藏输出；对于每一个未来时间步长：使用多个时间尺度对隐藏输出执行时间卷积以获得多个时间尺度上的上下文特征；以及使用多个权重对多个时间尺度上的上下文特征进行求和以获得多尺度上下文特征；以及以转换多尺度上下文特征以获得与所述未来时间步长相对应的时间序列预测。

相关申请的交叉引用

本申请根据要求于2018年8月28日提交的美国临时专利申请序列号62/723,696的优先权和权益，其全部内容通过引用并入本文。

在对本公开的描述中引用并讨论了一些参考文献，这些参考文献可以包括专利、专利申请和各种出版物。提供对这些参考文献的引用和/或讨论仅仅是为了阐明对本公开的描述，而不是承认任何这种参考文献是本文所述的本公开的“现有技术”。本说明书中引用和讨论的所有参考文献的全部内容均通过引用并入本文，如同每篇参考文献单独地通过引用并入本文。

技术领域

本公开总体上涉及时间序列预测，并且更具体地涉及用于多界限(multi-horizon)时间序列预测的端对端深度学习框架，其中利用新颖的结构来更好地捕获与未来界限有关的时间上下文。

背景技术

本文提供的背景描述是为了总体上呈现本发明的上下文。既不明确地承认也不暗示地承认当前列名的发明人的在背景技术部分中描述的范围内的工作、以及在提交时可能不是作为现有技术的描述的各方面为与本发明相对的现有技术。

时间序列预测问题是为了研究如何精确地基于历史观察来预测未来。经典的时间序列预测方法包括Holt-Winters方法(Holt 2004；Winters 1960)和ARIMA(Box和Jenkins1968)。这些方法在对高度非线性时间序列进行建模时无效。近来，已经提出了用于对复杂的序列数据(例如自然语言(Sutskever,Vinyals和Le 2014)、音频波(Oord等人2016)以及视频帧(Donahue等人2015))进行建模的递归神经网络(RNN)和最常用的变体长短期记忆网络(LSTM)。然而，现有的基于LSTM的方法不能探索与长的未来界限有关的时间模式。

因此，本领域存在未解决的需求以解决上述缺陷和不足。

发明内容

在一些方面，本公开涉及一种用于产品的时间序列预测的方法。

在某些实施例中，所述方法包括：

提供产品的与多个未来时间步长相对应的输入特征向量；

对输入特征向量执行双向长短期记忆网络(BiLSTM或Bi-LSTM)以获得与多个未来时间步长相对应的隐藏状态；

对于每一个未来时间步长：使用多个时间尺度对隐藏状态执行时间卷积以获得多个时间尺度上的上下文特征，以及使用多个权重对多个时间尺度上的上下文特征进行求和以获得多尺度上下文特征；以及转换多尺度上下文特征以获得与未来时间步长相对应的时间序列预测。

在某些实施例中，提供输入特征向量的步骤包括：

提供与产品的多个未来时间步长相对应的时间序列输入变量；

将时间序列输入变量嵌入到特征向量；以及

对于产品的每一个未来时间步长：

级联时间步长的特征向量以获得长向量；以及

使用全连接层，根据长向量形成输入特征向量之一。