[发明专利]一种基于训练过程解构的后门攻击防御方法及系统

权利要求书

1.一种基于训练过程解构的后门攻击防御方法，其特征在于，所述方法包括：

步骤1、获取包含有后门毒化数据的含标签训练样本集；

步骤2、对所述含标签训练样本集进行去标签处理，得到无标签训练样本集，并将所述无标签训练样本集输入神经网络模型中进行特征提取层训练；

步骤3、将所述含标签训练样本集输入所述神经网络模型中进行简单分类层训练，得到训练后模型；

步骤4、利用所述训练后模型对测试数据集进行类别预测。

2.根据权利要求1所述的方法，其特征在于，在步骤3后，所述方法还包括：

步骤5、获取所述含标签训练样本集中每个样本的训练损失值，并根据所述每个样本的训练损失值和预设阈值将所述含标签训练样本集分为高置信度数据集和低置信度数据集；

步骤6、对所述低置信度数据集进行去标签处理，并利用所述高置信度数据集和去标签的低置信度数据集矫正所述训练后模型，得到矫正后模型；

相应的，所述步骤4具体为：

利用所述矫正后模型对测试数据集进行类别预测。

3.根据权利要求1所述的方法，其特征在于，所述将所述无标签训练样本集输入神经网络模型中进行特征提取层训练，具体包括：

将所述无标签训练样本集输入神经网络模型中，采用自监督学习方法进行特征提取层训练。

4.根据权利要求3所述的方法，其特征在于，所述将所述无标签训练样本集输入神经网络模型中，采用自监督学习方法进行特征提取层训练，具体包括：

采用第一公式获取特征提取层参数；所述第一公式为：

其中，为训练后的特征提取层参数；代表无标签训练样本集，x为无标签训练样本集中的样本；表示自监督学习损失。

5.根据权利要求1所述的方法，其特征在于，所述步骤3具体包括：

将所述含标签训练样本集输入所述神经网络模型中，采用监督学习方法进行简单分类层训练，得到训练后模型。

6.根据权利要求5所述的方法，其特征在于，所述将所述含标签训练样本集输入所述神经网络模型中，采用监督学习方法进行简单分类层训练，得到训练后模型，具体包括：

采用第二公式获取简单分类层参数；所述第二公式为：

其中，为训练后的简单分类层参数；代表含标签训练样本集，x和y分别为含标签训练样本集中的样本和标签；表示样本x的预测类别；代表监督损失。

7.根据权利要求2所述的方法，其特征在于，所述步骤5具体包括：

获取所述含标签训练样本集在简单分类层训练过程中每个样本的训练损失值；

将所有样本按训练损失值从小到大的顺序进行排列，得到损失值序列；

将所述损失值序列中小于预设阈值的前α％的训练样本归入高置信度数据集中，并将所述损失值序列中剩余(100-α)％的训练样本归入低置信度数据集中；其中，α为超参数且α∈[0,100]。

8.根据权利要求2所述的方法，其特征在于，所述利用所述高置信度数据集和去标签的低置信度数据集矫正所述训练后模型，得到矫正后模型，具体包括：

利用所述高置信度数据集和去标签的低置信度数据集，并采用半监督学习方法矫正所述训练后模型，得到矫正后模型。

9.根据权利要求8所述的方法，其特征在于，所述利用所述高置信度数据集和去标签的低置信度数据集，并采用半监督学习方法矫正所述训练后模型，得到矫正后模型，具体包括：

采用第三公式获取矫正后模型参数；所述第三公式为：

其中，w^*为矫正后模型参数；代表保留标签的高置信度数据集；代表去标签的低置信度数据集；代表半监督损失。

10.一种基于训练过程解构的后门攻击防御系统，其特征在于，所述系统包括：

获取模块，用于获取包含有后门毒化数据的含标签训练样本集；

训练模块，用于对所述含标签训练样本集进行去标签处理，得到无标签训练样本集，并将所述无标签训练样本集输入神经网络模型中进行特征提取层训练；

所述训练模块还用于将所述含标签训练样本集输入所述神经网络模型中进行简单分类层训练，得到训练后模型；

测试模块，用于利用所述训练后模型对测试数据集进行类别预测；

优选的，所述训练模块还用于：

获取所述含标签训练样本集中每个样本的训练损失值，并根据所述每个样本的训练损失值和预设阈值将所述含标签训练样本集分为高置信度数据集和低置信度数据集；

对所述低置信度数据集进行去标签处理，并利用所述高置信度数据集和去标签的低置信度数据集矫正所述训练后模型，得到矫正后模型；

相应的，所述测试模块具体用于：

利用所述矫正后模型对测试数据集进行类别预测。