[发明专利]中毒样本生成方法、装置、设备及计算机可读存储介质

权利要求书

1.一种中毒样本生成方法，其特征在于，所述中毒样本生成方法包括：

获取待投毒模型和样本集，并对粒子群中各粒子的粒子参数进行初始化；

基于初始化后的粒子和所述样本集对所述待投毒模型进行训练，并根据训练结果更新各粒子的粒子参数；

基于更新后的粒子对所述待投毒模型进行迭代训练，以迭代更新各粒子的粒子参数；

当达到预设迭代停止条件时，输出所述粒子群的目标全局最优极值；

基于所述目标全局最优极值和所述样本集，生成中毒样本；

其中，所述样本集包括训练样本集和测试样本集，所述基于初始化后的粒子和所述样本集对所述待投毒模型进行训练，并根据训练结果更新各粒子的粒子参数的步骤包括：

基于初始化后的粒子和所述训练样本集对所述待投毒模型进行训练，得到训练好的待投毒模型；

将所述训练好的待投毒模型在所述测试样本集上进行测试，得到各粒子的适应度；

根据所述适应度更新各粒子的粒子参数；

其中，所述获取待投毒模型和样本集的步骤包括：基于初始化后的粒子和训练样本集对待投毒模型进行训练，得到训练好的待投毒模型；

在接收到中毒样本生成指令时，获取所述中毒样本生成指令中携带的待投毒模型信息和样本信息，其中，所述待投毒模型信息为所要投毒攻击的机器学习模型的信息，所述样本信息为所要投毒攻击的机器学习模型对应的样本信息；

根据所述待投毒模型信息获取待投毒模型，并根据所述样本信息获取样本集；

其中，所述基于初始化后的粒子和所述样本集对所述待投毒模型进行训练，并根据训练结果更新各粒子的粒子参数的步骤之前，还包括：

检测初始化后的各粒子的粒子参数中是否存在超出预设属性范围的情况，得到检测结果；

根据所述检测结果对超出预设属性范围的粒子进行处理，得到处理后的粒子；

所述基于初始化后的粒子和所述样本集对所述待投毒模型进行训练，并根据训练结果更新各粒子的粒子参数的步骤包括：

基于处理后的粒子和所述样本集对所述待投毒模型进行训练，并根据训练结果更新各粒子的粒子参数；

其中，所述根据所述检测结果对超出预设属性范围的粒子进行处理，得到处理后的粒子的步骤包括：

对超出所述预设属性范围的粒子的粒子参数重新进行随机初始化，得到重新初始化的粒子，对所述重新初始化的粒子的粒子参数进行检测，直至最终处理后的粒子的粒子参数均在预设属性范围内；或

根据预设属性范围对超出预设属性范围的粒子的粒子参数进行更新替换。

2.如权利要求1所述的中毒样本生成方法，其特征在于，所述根据所述适应度更新各粒子的粒子参数的步骤包括：

根据所述适应度确定所述粒子群的当前全局最优极值，并确定各粒子的当前个体最优极值；

根据所述当前全局最优极值和所述当前个体最优极值，更新各粒子的粒子参数。

3.如权利要求2所述的中毒样本生成方法，其特征在于，所述粒子参数包括粒子位置和粒子速度，所述根据所述当前全局最优极值和所述当前个体最优极值，更新各粒子的粒子参数的步骤包括：

将所述当前全局最优极值、所述当前个体最优极值和所述初始化后的粒子的初始粒子速度，代入第一预设计算公式中进行计算，得到更新后的粒子速度；

将所述更新后的粒子速度和所述初始化后的粒子的初始粒子位置代入第二预设计算公式中进行计算，得到更新后的粒子位置。