[发明专利]一种基于时空注意力机制的交通缺失数据补全方法

说明书

一种基于时空注意力机制的交通缺失数据补全方法，首先通过注意力机制的方式，捕获路网中所有的路段在当前时刻对路网交通状态的影响程度大小，并在不同时刻重新捕获空间相关性信息，提高数据补全的精度。其次，考虑交通数据的时序性，不同时刻的交通数据对当前时刻的数据影响程度是不一样的，通过时间注意力机制捕获这种不一致的时间相关性信息，在对当前缺失数据补全时保留最有效的信息，提升模型的补全效果。最后，在利用时空注意力机制捕获交通数据的时空相关性同时，考虑数据之间的相关性受到空间距离和时间间隔的增大而衰减，加入时空衰减性矩阵提高补全精度。本发明不仅大幅提高数据缺失率低的情况下补全精度，还提升在数据缺失率高的情况下的补全精度。

技术领域

本发明属于交通领域，涉及一种基于时空注意力机制的交通缺失数据补全方法。

背景技术

随着互联网技术和交通信息化的快速发展，交通数据的规模越来越大，在智能交通系统中，完整有效的交通数据对交通管理的意义重大。但是实际生活中采集交通数据时，由于一些不可避免的事件的发生(如设备损坏、恶劣天气等)，会导致数据采集中断，造成部分数据的缺失，这降低了数据集的有效性，制约了智能交通建设的发展。对交通数据集中的缺失值进行有效的补全，具有重要的理论和实际的研究意义。然而交通数据的补全具有非常大的挑战性，一方面，道路交通数据随着时间的变化是非平稳的，比如早晚高峰、节假日等都会影响交通数据的变化趋势，在临近时间上，交通数据具有很强的时间依赖性，同时，交通数据还呈现出显著的长时周期相关性；另一方面，真实世界中的交通路网具有复杂的空间结构，不同路网节点之间存在着空间相关性。此外，数据的缺失模式对缺失值的补全也存在影响。现有的补全方法在处理数据缺失时，对这些特性的建模不充分。比如Li等人通过对输入向量进行分解后，结合LSTM和支持向量机(Support Vector Regression，简称SVR)通过多视角的方法来进行时间序列数据补全，忽略了数据之间时空相关性的动态变化，同时没有考虑交通数据所存在的显著周期相关性。

注意力机制被广泛地使用在自然语言处理、语音识别以及图像识别等各种不同类型的深度学习任务中，是如今深度学习技术中最值得关注与了解的核心技术之一。所以，对于使用深度学习技术进行研究的研究人员来说，熟悉注意力机制的相关知识是很有必要的。从注意力机制的命名方式来看，很明显这是借鉴了人类的注意力这一概念，在人类对事物进行观察时，通常会把注意力集中在特定的某些部分，由此来获得得到目标问题所需要的相关性更高的信息。以人类视觉的选择性注意力机制为例，视觉注意力机制是人类所特有的大脑信号处理机制。在对图像进行观测时，通过对全局图像的快速扫描，可以选择出需要更多注意力来关注的目标区域，这也就是一般所说的注意力焦点。然后对这一块区域投入更多的注意力资源来获取所需要关注的目标的更多细节信息，同时也降低注意力分配给其他无用信息的比重。这是人类利用有限的注意力资源从大量信息中快速筛选出更具有价值的信息的方式，这一机制极大地提高了视觉信息处理的效率与准确性，是人类长期进化中形成的一种生存机制。深度学习中的注意力机制的核心目标也是从众多的信息中选择出对当前任务目标更有价值的信息。

神经网络最开始是受生物神经系统的启发，为了模拟生物神经系统而出现的，由大量的节点(或称神经元)之间相互联接构成。神经网络根据输入的变化，对权值进行调整，改善系统的行为，自动学习到一个能够解决问题的模型。 LSTM(长短记忆网络)是RNN(循环神经网络)的一种特殊形式，有效地解决多层神经网络训练的梯度消失和梯度爆炸问题，能够处理长时时间依赖序列。LSTM 能够捕获交通数据的序列特性，使用LSTM模型能够有效提高补全精度。

LSTM网络由LSTM单元组成，LSTM单元由单元，输入门、输出门和遗忘门组成。

遗忘门：决定从上一个单元的输出状态中丢弃多少信息，公式如下：

f_t＝σ_g(W_fx_t+U_fh_t-1+b_f)