[发明专利]多重特征选择和混合采样的CatBoost入侵检测方法

权利要求书

1.多重特征选择和混合采样的CatBoost入侵检测方法，其特征在于，包括以下步骤：

S1、收集数据集，得到训练集T₁和测试集T₂；

S2、将训练集T₁和测试集T₂数值归一化、字符型特征数值化、标签数值化；得到训练集M₁和测试集M₂；

S3、使用多重特征选择算法对预处理后的训练集M₁和测试集M₂执行特征选择；

首先由每个基学习器独立的筛选出重要特征子集F_i,(i＝1,2,3,4)，然后再基于投票法集成得到特征子集F；根据得到的特征子集F处理得到训练集Q₁和测试集Q₂；

S4、对训练集Q₁进行采样，得到最终混合采样出的训练集Z₁；

S5、对Z₁进行CatBoost分类器的训练，由测试集Q₂验证训练后的分类准确率、召回率、精确率、F1值。

2.如权利要求1所述的多重特征选择和混合采样的CatBoost入侵检测方法，其特征在于：在步骤S3中多重特征选择方法，包括以下步骤：

S31、输入步骤S2中预处理后的T，其中T为训练集M₁和测试集M₂；选取XGBoost、RandomForest、ExtraTrees、DecisionTree为基学习器，使用不同的学习器E_i,(i＝1,2,3,4)独立的进行特征选择；

S32、筛选出不同学习器E_i,(i＝1,2,3,4)的特征子集F_i,(i＝1,2,3,4)；

S33、统计每个特征被选次数，使用投票法将多次出现的重要特征进行选取；输出特征选择之后的特征子集F。

3.如权利要求2所述的多重特征选择和混合采样的CatBoost入侵检测方法，其特征在于：在步骤S4中采用SOMTE-ENN混合采样对训练集Q₁进行采样，包括以下步骤：首先对训练集Q₁执行SMOTE过采样得到Q′₁，然后再对Q′₁执行ENN欠采样得到最终混合采样出的训练集Z₁。

4.如权利要求3所述的多重特征选择和混合采样的CatBoost入侵检测方法，其特征在于：在步骤S5中通过以下公式对CatBoost进行优化；公式为：

式中，P是添加的先验项，α是大于0的权重系数，x_i,k表示第k个特征的第i类值，分子表示第k个特征的第i类值对应的标签值的和，分母表示第k个特征的第i类值的数量；

选择三个对学习器的参数进行调优，分别为iterations、depth、random_strength，其中border_count则选择最大推荐值254，通过CatBoost学习器根据迭代次数自动将learning_rate调整至最佳，learning_rate参数采用默认值；其中iterations为迭代次数，depth为树的深度，random_strength选择树结构时用于拆分的随机量，border_count为特征的分割数，learning_rate为学习率。

5.如权利要求4所述的多重特征选择和混合采样的CatBoost入侵检测方法，其特征在于：在步骤S1中通过数据收集模块收集数据集，所述数据集采用NSLKDD数据集。

6.如权利要求4所述的多重特征选择和混合采样的CatBoost入侵检测方法，其特征在于：在步骤S5中通过以下公式验证分类准确率、召回率、精确率、F1值；

式中：TP正类判定为正类、FP负类判定为正类、FN正类判定为负类、TN负类判定为负类；

通过公式(2)验证分类准确率，通过公式(3)验证召回率；通过公式(4)验证精确率；通过公式(5)验证F1值。