[发明专利]基于多分枝残差注意力网络的智能稽查建模方法

权利要求书

1.一种基于多分枝残差注意力网络的智能稽查建模方法，其特征在于，其步骤如下：

步骤一：获取稽查数据字段，并对稽查数据字段进行预处理得到训练数据；

步骤二：构建多分枝残差注意力网络，并利用训练数据对多分枝残差注意力网络进行训练，得到多分枝残差注意力网络模型；

所述多分枝残差注意力网络的网络结构为：输入层-卷积层I-多分枝残差注意力模块I-下采样层I-多分枝残差注意力模块II-下采样层II-多分枝残差注意力模块III-下采样层III-多分枝残差注意力模块IV-下采样层IV-卷积层II-池化层-全连接层I-全连接层II-输出层；

所述多分枝残差注意力模块I、多分枝残差注意力模块II、多分枝残差注意力模块III和多分枝残差注意力模块IV均包括多分枝残差块和高效注意力模块，多分枝残差块的输入侧与卷积层I、下采样层I、下采样层II或下采样层III相连接，多分枝残差块的输出侧与高效注意力模块的输入侧相连接，高效注意力模块的输出侧与下采样层I、下采样层II、下采样层III或下采样层IV相连接；所述多分枝残差块用于提取训练数据的特征，高效注意力模块用于优化训练数据的特征；

步骤三：将稽查数据输入多分枝残差注意力网络模型中，输出稽查结果，完成对电力营销业务中的异常问题的识别分类与自动排查。

2.根据权利要求1所述的基于多分枝残差注意力网络的智能稽查建模方法，其特征在于，所述稽查数据字段包括:日期、线路或台区ID、供电量、售电量、线路用户电量、电流、电压和功率因素。

3.根据权利要求1所述的基于多分枝残差注意力网络的智能稽查建模方法，其特征在于，所述多分枝残差块包括多分枝残差单元I、多分枝残差单元II和多分枝残差单元III，多分枝残差单元I的输入侧与卷积层I、下采样层I、下采样层II或下采样层III相连接，多分枝残差单元I的输出侧与多分枝残差单元II的输入侧相连接，多分枝残差单元II的输出侧与多分枝残差单元III的输入侧相连接，多分枝残差单元III的输出侧与高效注意力模块的输入侧相连接，多分枝残差单元II的输出侧与高效注意力模块的输出侧相连接。

4.根据权利要求3所述的基于多分枝残差注意力网络的智能稽查建模方法，其特征在于，所述多分枝残差单元I、多分枝残差单元II和多分枝残差单元III的网络结构相同，均包括第一卷积层、第二卷积层、第三卷积层、第四卷积层和第五卷积层，第一卷积层分别与第五卷积层、第二卷积层、第三卷积层和第四卷积层相连接，第二卷积层分别与第三卷积层和第五卷积层相连接，第三卷积层分别与第四卷积层和第五卷积层相连接，第四卷积层与第五卷积层相连接；第一卷积层为多分枝残差单元I、多分枝残差单元II或多分枝残差单元III的输入卷积层，第五卷积层为多分枝残差单元I、多分枝残差单元II或多分枝残差单元III的输出卷积层。

5.根据权利要求3所述的基于多分枝残差注意力网络的智能稽查建模方法，其特征在于，所述高效注意力模块包括第一池化层、一维卷积层I、一维卷积层II、一维卷积层III、激活层和第二池化层，第一池化层分别与一维卷积层I和第二池化层相连接，一维卷积层I与一维卷积层II相连接，一维卷积层II与激活层相连接，激活层与一维卷积层III相连接，一维卷积层III与第二池化层相连接；所述第一池化层为高效注意力模块的输入层，第二池化层为高效注意力模块的输出层。

6.根据权利要求5所述的基于多分枝残差注意力网络的智能稽查建模方法，其特征在于，高效注意力模块优化训练数据的特征的方法为：

对于大小为W×1×C的特征图U，U＝[x₁，x₂，...，x_c]，对特征图U进行一维化操作，得到一维化后的特征图Z；

利用特征图U的每个通道及其k近邻构造快速一维卷积y，并将一维化后的特征图Z与快速一维卷积y进行卷积运算，得到权重W_k；

利用激活函数对权重W_k进行归一化，并对归一化后的权重进行放大，得到最终的权重Fw；

利用最终的权重Fw加权到特征图U上得到优化后的特征图。

7.根据权利要求6所述的基于多分枝残差注意力网络的智能稽查建模方法，其特征在于，所述一维化后的特征图Z的获得方法为：

其中，z_c∈Z＝{z₁,z₂,…,z_c}，F_GAP(·)表示将特征通道c中的特征图的线性运算，x_i表示特征通道c中第i个特征图，W表示特征通道c中的特征图个数；

所述权重W_k为：

其中，F_h(·)表示利用快速一维卷积特征通道c学习到的预权重，表示特征通道c对应的快速一维卷积，表示c个特征通道中的所有k个近邻通道中非零数值的集合，其余位置由零填充，*表示卷积运算；

所述最终的权重Fw为：

Fw＝n·σ(W_k)

其中，n为权值放大系数，σ(·)为Sigmoid函数；

所述优化后的特征图为：

U′＝Fw·U

其中，U′为优化后的特征图。