[发明专利]基于注意力神经网络的气温数据空间插值方法

权利要求书

1.一种基于注意力神经网络的气温数据空间插值方法，其特征在于，包括：

步骤1，在目标区域内收集多个气象点信息，其中，气象点信息包括每个气象点的空间位置坐标向量和协变量向量；

步骤2，通过设计三层非线性映射，将各气象点的协变量向量映射到高维空间中，得到各气象点在高维空间内的属性表征向量；

步骤3，设计一个空间特征位置编码器，将各气象点的坐标向量映射到与属性表征向量同维度的高维空间中，得到各气象点在高维空间内的位置表征向量；

步骤4，根据位置表征向量设计地理加权网络，据此拟合趋势面特征矩阵；

所述步骤4具体包括：

步骤4.1，计算高维空间中，两两采样点之间位置编码的相似度，并构建采样点位置相似度矩阵，公式如下：

其中，；

步骤4.2，计算高维空间中，未采样点与采样点点对的位置编码相似度，并构建未采样点与采样点位置相似度矩阵，公式如下：

其中，；

步骤4.3，设计两层全连接层，基于与分别学习采样点的趋势面权重与未采样点的趋势面权重，公式如下：

其中，以及为网络可学习参数，为非线性激活函数；

步骤4.4，将计算得到的两类趋势面权重与分别与采样点位置编码所构成的矩阵和未采样点位置编码所构成的矩阵进行聚合运算，生成采样点与未采样点的趋势面特征矩阵与，其聚合运算公式如下：

其中，为哈达玛积运算符，为网络可学习参数；

步骤5，根据属性表征向量与位置表征向量构建注意力网络，拟合气象点之间的综合相关度矩阵；

所述步骤5具体包括：

步骤5.1，将属性表征向量和位置表征向量融合投影至查询空间与键空间，得到对应的查询向量与键向量，公式如下：

其中，为网络可学习参数，表示向量拼接操作符，表示位置表征向量权重；

步骤5.2，计算高维空间中两两采样点之间的综合相关度，并构建采样点综合相关度矩阵，公式如下：

；

步骤5.3，计算高维空间中未采样点与采样点点对的综合相关度，并构建未采样点与采样点综合相关度矩阵，公式如下：

；

步骤6，根据趋势面特征矩阵、综合相关度矩阵和克里金方程，计算未采样点的气温估计值；

所述步骤6具体包括：

步骤6.1，基于两类综合相关度矩阵、，计算对应的半变异矩阵与：

其中，指取括号中矩阵最大元素的值；

步骤6.2，针对每一个未采样点，构建克里金方程，求解对应插值参数为：

其中表示拉格朗日项系数，即矩阵中的第行构成的列向量，表示点对应的综合相关度向量，即矩阵中的第行构成的列向量，表示点对应的趋势面特征向量；

步骤6.3，依据参数，通过所有采样点气温值求解未采样点的气温估计值：

；

步骤7，将采样点按预设比例分割为训练集和验证集，通过在训练集中计算气温真实值与模型气温估计值之间的误差，据此指导更新网络中的可学习参数直至达到预设条件，得到目标模型；

步骤8，利用目标模型对实际未采样点进行插值。

2.根据权利要求1所述的方法，其特征在于,所述属性表征向量的表达式为

其中，, 以及为网络可学习参数，为非线性激活函数，为高维空间的维度，，表示协变量向量。

3.根据权利要求2所述的方法，其特征在于,所述步骤3具体包括：

步骤3.1，基于气象点的地理坐标，计算对应的旋转矩阵子块，公式如下：

其中，，为位置表征向量维度；

步骤3.2，基于旋转矩阵子块构建气象点的旋转矩阵：

其中，表示由括号内的矩阵所构成的分块对角矩阵；

步骤3.3，基于旋转矩阵计算各气象点的位置表征向量，公式如下：

其中，为元素全为1的向量。

4.根据权利要求3所述的方法，其特征在于,所述步骤7具体包括：

步骤7.1，采用均方根误差作为插值误差，采用采样点综合相关度矩阵的对称约束作为正则化项，定义模型训练的损失函数为：

其中，为训练集中的气象点数，表示矩阵1范数，为正则化系数；

步骤7.2，将每次计算的损失通过反向传播算法传递给模型的可学习参数；

步骤7.3，利用Adam优化器基于回传的损失更新每一个可学习参数的值，直到插值模型在验证集VS中具有最低的插值误差。