[发明专利]一种基于注意力机制的时序数据缺失值插补方法

权利要求书

1.一种基于注意力机制的时序数据缺失值插补方法，其特征在于，包括以下步骤：

获取有缺失值的气象时序数据；

将有缺失值的气象时序数据输入训练后的生成器，获取插补后的气象时序数据；

其中，生成器的训练包括：

将有缺失值的气象时序数据输入生成器，基于注意力机制获取完整的气象时序数据；

将有缺失值的气象时序数据和完整的气象时序数据输入判别器，基于损失函数，对判别器和生成器进行对抗式训练；

所述生成器为包括编码器单元和解码器单元的降噪自编码器；

所述获取完整的气象时序数据包括：

编码器单元根据输入的预设长度为m且有缺失值的原始气象时序数据x和随机噪声向量η，输出原始气象时序数据x的隐藏向量H；

解码器单元根据原始气象时序数据x和隐藏向量H结合注意力机制对原始气象时序数据x的缺失值进行插补，获取完整的气象时序数据

所述对原始气象时序数据x的缺失值进行插补，获取完整的气象时序数据包括：

根据第n时刻的原始气象时序数据S_n-1与每一时刻的隐藏向量H结合注意力机制，获取每个时刻的权重因子α；

根据每个时刻的权重因子α对所有隐藏向量H作加权平均；

将加权平均的结果带入双曲正切函数得到第n时刻的原始气象时序数据的完整值S_n；

将第n时刻的原始气象时序数据的完整值S_n作为第n+1时刻的原始气象时序数据带入上述步骤，循环计算得到所有时刻的原始气象时序数据的完整值S；

根据上述所有时刻的原始气象时序数据的完整值S获取完整的气象时序数据

其中，H＝{H₁，H₂，H₃，…，H_i，…，H_m}，H_i为第i时刻的隐藏向量，α＝{α₁，α₂，α₃，…，α_i，…，α_m}，α_i为第i时刻的权重因子，S＝{S₁，S₂，S₃，…，S_t，…，S_m}，S_t为第t时刻的原始气象时序数据的完整值，S₀＝H_m，即解码器的初始输入向量为S₀。

2.根据权利要求1所述的一种基于注意力机制的时序数据缺失值插补方法，其特征在于，获得每个时刻的权重因子α包括：

K_i＝W_k·H_i

Q_n-1＝W_q·S_n-1

其中，K_i为注意力机制中第i个key值，H_i为第i时刻的隐藏向量；Q_n-1为注意力机制中第n-1个query值，S_n-1为第n-1时刻的原始气象时序数据；W_k和W_q是从训练数据中学习得到的参数矩阵，W_k和W_q的初始值由随机初始化参数矩阵获得，并通过生成对抗网络的损失函数和反向传播算法进行更新；

令：

其中，为矩阵K_i的转置矩阵；

其中，α_i为第i时刻的权重因子，softmax函数为归一化指数函数，用于将输入的值映射成0-1之间的正数输出，且其所有输出的权重因子α之和为1。