[发明专利]一种应用于空气质量大数据异常检测的神经网络结构搜索方法

权利要求书

1.一种应用于空气质量大数据异常检测的神经网络结构搜索方法，其特征在于，包括以下步骤：

S1、设定用于构建神经网络结构的搜索空间，并定义训练目标；

S2、利用强化学习不断训练循环神经网络控制器，使结构搜索过程不断优化，直到构建出满足需求的神经网络结构；

S3、将新的数据集放入最终得到的神经网络模型中，聚类训练出新的输入数据集中的异常数据。

2.如权利要求1所述的一种应用于空气质量大数据异常检测的神经网络结构搜索方法，其特征在于，步骤S1中，所述的用于搜索神经网络结构的搜索空间中各个参数范围设定如下：卷积层深度参数C_d为整数，且0<C_d<12，卷积层接受域大小参数C_a∈{1，3，5，7，9}，卷积层接受域数目参数C_an∈{64，128，256，512}，池化层深度参数P_d为整数，且0<P_d<12，全连接层深度参数CF_d为整数，且0<CF_d<12，全连接层个数参数CF_n为整数，且0<CF_n<3，全连接层神经元数参数CF_nn∈{512，256，128}；

定义训练目标为：聚类所给的数据集，分出异常数据。

3.如权利要求1所述的一种应用于空气质量大数据异常检测的神经网络结构搜索方法，其特征在于，

步骤S2具体包括：

S21、设置一个循环神经网络RNN，该RNN作为控制器对神经网络的各类参数进行选取；

S22、随机初始化神经网络的各类参数，生成初始神经网络α₁；

S23、将训练集放入生成的神经网络α_k中训练，训练结果同验证集进行比较，得到准确率R_k，其中R_k是整个循环中生成的第k个神经网络α_k训练完后在验证集上验证得到的准确率；

S24、根据需求，设定一个阈值R_D，将步骤S23中得到的R_k与R_D比较，若R_k>R_D则进行步骤S3，若R_k≤R_D则进行步骤S25；

S25、将步骤S23得到的准确率R_k作为回馈信号，返回给循环神经网络RNN，重新训练循环神经网络RNN，并生成新的神经网络α_k+1；

S26、重复步骤S23、S24、S25，直到神经网络的准确率R_k>R_D则进行步骤S3。

4.如权利要求3所述的一种应用于空气质量大数据异常检测的神经网络结构搜索方法，其特征在于，

步骤S25具体包括：

S251、利用S23得到的准确率R_k优化循环神经网络RNN网络结构，要求循环神经网络RNN控制器在准确率R_k的条件下能将神经网络结构的期望最大化，当期望最大化时即表明此RNN构建的神经网络达到了最优，具体计算公式如下：

其中，θ_c为循环神经网络RNN控制器的参数，P(α；θ_c)表示参数为θ_c的循环神经网络生成神经网络α的概率，表示准确率为R_k的上述概率的最大期望；

S252、为了能使期望最大，需要根据回馈的准确率R_k更新循环神经网络RNN的控制器参数θ_c，但由于R_k是不可微分的，所以使用随机梯度下降算法去迭代更新θ_c，计算公式如下：

m是控制器在训练过程中一个批次的不同神经网络结构的数量，T表示控制器设计的神经网络结构的最大超参数数量，为梯度算子，P(α_k:t|α_(k-1):t；θ_c)表示参数为θ_c的循环神经网络RNN生成的超参数为t的第k个神经网络α_k在第k-1个神经网络α_k-1的条件下的概率，R_k是第k个神经网络训练完后在验证集上测试的准确率；

S253、因为对于梯度的更新是无偏估计，可能会有很高的方差，所以为了得到更高的准确率，需要在公式2的基础上降低方差，降低方差的计算公式如下：

其中b是根据实验结果得到的一个常量，目的是修正R_k的值，使得梯度的更新更为准确；

S254、用求得的参数θ_c更新循环神经网络RNN，并将R_k和搜索空间作为循环神经网络RNN的训练数据更新神经网络α_k的各个参数，从而生成新的神经网络结构α_k+1。