[发明专利]一种基于改进深度置信网络的入侵检测方法

权利要求书

1.一种基于改进深度置信网络的入侵检测方法，其特征在于，该方法包含以下步骤：

S1、在连续受限玻尔兹曼机CRBM的似然函数中引入基于拉普拉斯函数的稀疏正则项，构成改进的CRBM，即LS-CRBM；

S2、使用对比散度算法训练LS-CRBM，通过稀疏约束获得数据集的稀疏分布；

S3、在受限波尔兹曼机RBM的似然函数中引入基于拉普拉斯函数的稀疏正则项，构成改进的RBM，即LS-RBM；

S4、使用对比散度算法训练LS-RBM，通过稀疏约束获得数据集的稀疏分布；

S5、判断LS-CRBM和LS-RBM的训练是否达到最大训练周期，若两者均达到最大训练周期，转到步骤S6；否则，转到步骤S1；

S6、将训练好的LS-CRBM和LS-RBM进行堆叠，再加一层反向传播神经网络，构成最终的改进深度置信网络LS-DBN，进行分类训练；

S7、用反向传播算法进行反向微调LS-DBN模型参数，形成训练好的LS-DBN模型，然后输入测试集进行快速学习，即可得到每条测试数据的入侵类别。

2.如权利要求1所述的基于改进深度置信网络的入侵检测方法，其特征在于，

所述步骤S1中，CRBM是指将输入节点由二值变量节点拓展为连续输入的实值变量节点且隐藏层采用服从伯努利分布的二值神经元节点的CRBM；

CRBM的能量函数为：

式中，v_i为可见单元输入i的状态，h_j为隐单元特征j的状态；a_i和b_j分别为可见单元和隐单元的偏置；ω_ij为可见单元输入i和隐单元特征j之间的权重；v表示可见层，h表示隐藏层；I和J分别为可见单元和隐单元的个数；θ＝(ω_ij,a_i,b_j)是CRBM的参数；σ为高斯函数的标准方差向量；

CRBM的边缘分布为：

式中，z(θ)为归一化因子，即z(θ)＝∑_v∑_he^-E(v,h|θ)；θ是CRBM的参数；v表示可见层，h表示隐藏层；

所述CRBM的训练是指通过给定的训练数据集估计模型的参数θ：当给定一组训练样本集合S＝{v⁽¹⁾,v⁽²⁾,…,v^(I)}时，其目标是学习CRBM的参数θ，使得训练样本集合中所有样本的似然函数最大，则参数θ通过求训练样本的极大似然函数得到：

其中，是指CRBM模型的极大似然函数，是指CRBM模型的似然函数；

CRBM模型的参数更新公式为：

式中，v⁽ⁱ⁾为第i个训练样本；θ是CRBM的参数；<·>_data为训练数据集所定义的分布上的数学期望；<·>_recon为重构后模型所定义的分布上的期望；σ为高斯函数的标准方差向量；为权重ω_ij的偏导，为可见单元偏置a_i的偏导，为隐单元偏置b_j的偏导。