[发明专利]数据攻击的防御方法及其模型的训练方法、系统

权利要求书

1.一种用于数据攻击防御的模型训练方法，其特征在于，所述方法包括：

获取样本图像数据集；其中，所述样本图像数据集至少包括：MNIST数据集和ImageNet数据集；

将所述样本图像数据集输入至预设的深度学习模型中进行训练；其中，所述深度学习模型包括：第一目标模型和/或第二目标模型；所述MNIST数据集用于所述第一目标模型的训练；所述ImageNet数据集用于所述第二目标模型的训练；

通过预设的损失函数分别对所述第一目标模型和/或所述第二目标模型的损失值进行计算；当所述第一目标模型的损失值和/或所述第二目标模型的损失值满足预设的损失阈值时，得到用于数据攻击防御的初始模型；

利用重要性判别函数对已得到的所述初始模型中的权重进行剪枝操作，并将已完成剪枝操作的所述初始模型确定为所述用于数据攻击防御的模型。

2.根据权利要求1所述的模型训练方法，其特征在于，利用重要性判别函数对已得到的所述初始模型中的权重进行剪枝操作，包括：

利用掩码矩阵对所述初始模型进行约束，并根据约束结果确定所述初始模型中的权重的重要性数据；

利用所述重要性判别函数，对已确定的所述权重的重要性数据进行判别，并根据判别结果对所述初始模型中的权重进行剪枝操作。

3.根据权利要求2所述的模型训练方法，其特征在于，利用掩码矩阵对所述初始模型进行约束，并根据约束结果确定所述初始模型中的权重的重要性数据，通过以下算式计算得到：

其中，W_k为所述初始模型，k为所述初始模型的第k层；T_k为二值的掩码矩阵，当T_k＝0时表示对应的权重已被剪枝，当T_k＝1时表示对应的权重未被剪枝；L为所述初始模型的损失函数；β为所述初始模型的学习率；

利用所述重要性判别函数，对已确定的所述权重的重要性数据进行判别，并根据判别结果对所述初始模型中的权重进行剪枝操作，通过以下算式计算得到：

其中，h_k为所述重要性判别函数，用于判断对应的权重是否重要；所述重要性判别函数，如下：

其中，a_k和b_k分别为第一阈值和第二阈值，且a_kb_k。

4.根据权利要求1所述的模型训练方法，其特征在于，将所述样本图像数据集输入至预设的深度学习模型中进行训练的步骤，包括：

根据所述第一目标模型和/或所述第二目标模型的模型结构，确定所述深度学习模型训练时的超参数；

利用已确定的所述超参数，对所述深度学习模型进行训练；其中，所述深度学习模型进行训练时采用SGD、Adam上述一种或多种优化器进行优化。

5.根据权利要求4所述的模型训练方法，其特征在于，通过预设的损失函数分别对所述第一目标模型和/或所述第二目标模型的损失值进行计算的步骤，包括：

根据交叉熵函数确定所述损失函数；其中，所述损失函数为：

其中，p为所述样本图像数据集中的样本的真实标签；q为预测的概率；x_i为所述样本图像数据集中的样本；w为模型参数；λ为正则化系数；Loss为损失函数；

利用所述损失函数，计算所述第一目标模型的损失值和/或所述第二目标模型的损失值。

6.一种数据攻击的防御方法，其特征在于，所述方法包括：

获取待检测的图像数据；

将所述图像数据输入至已完成训练的防御模型，输出所述图像数据的置信度检测结果；其中，所述防御模型通过上述权利要求1至5任一项所述的模型训练方法训练得到；

根据所述置信度检测结果确定所述图像数据的攻击风险值，并将所述攻击风险值大于预设阈值的所述图像数据进行数据防御；其中，所述数据防御针对的是成员推理攻击的防御。