[发明专利]基于粒子群优化的深度学习模型的安全性测试方法和修复方法

权利要求书

1.一种基于粒子群优化的深度学习模型的安全性测试方法，包括以下步骤：

(1)获取良性图像组成样本集，利用良性图像对原始深度学习模型进行预训练；

(2)根据覆盖率和输入图像在预训练的原始深度学习模型和其他深度学习模型中针对同一类标标签的类别预测值之间的差异构建目标函数；

(3)从样本集中采集部分良性图像作为初始粒子，并初始化粒子的位置和速度，以目标函数最大为目标，采用粒子群优化算法对初始化粒子的位置和速度进行迭代更新，当算法结束时，若不能够获得表示恶性图像的最优粒子，则认为原始深度学习模型安全，若能获得表示恶性图像的最优粒子，则认为原始深度学习模型不安全。

2.如权利要求1所述的基于粒子群优化的深度学习模型的安全性测试方法，其特征在于，所述覆盖率为神经元覆盖率、k多节神经元覆盖率、神经元边界覆盖率、强神经元覆盖率、Top-k神经元覆盖率、Top-k神经元模式中的至少一个。

3.如权利要求1或2所述的基于粒子群优化的深度学习模型的安全性测试方法，其特征在于，所述目标函数obj₃为：

obj₃＝obj₁+λ₂obj₂

其中，obj₁为覆盖率，λ₂是为超参数，obj₂为同一输入图像在预训练的原始深度学习模型和其他深度学习模型中针对同一类标标签的类别预测值之间的差异，表示为：

obj₂＝∑_k≠jf_k(x)[c]-λ₁·f_j(x)[c]

其中，f_k(x)[c]表示输入图像x输入原始深度学习模型k中针对类别标签[c]的类标预测值，f_j(x)[c]表示输入图像x输入与原始深度学习模型k不同的其他深度学习模型j中针对类别标签[c]的类标预测值，λ₁表示超参数。

4.如权利要求1所述的基于粒子群优化的深度学习模型的安全性测试方法，其特征在于，步骤(3)的具体过程为：

(3-1)从样本集中采集部分良性图像作为初始粒子，并初始化粒子的位置v_i和速度x_i；

(3-2)将每个粒子作为输入图像，根据目标函数计算每个粒子的适应度值fit[i]；

(3-3)比较每个粒子的适应度值fit[i]和个体极值p_best，如果fit[i]＜p_best[i]，则fit[i]用替代p_best，以更新个体极值p_best；

(3-4)比较每个粒子的适应度值fit[i]和全局极值g_best，如果fit[i]＜g_best，则fit[i]用替代g_best，以更新全局极值g_best；

(3-5)迭代更新粒子的速度v_i和位置x_i，标准更新方式为：

v_i(t+1)＝v_i(t)+c₁r₁(t)[p_best(t)-x_i(t)]+c₂r₂(t)[g_best(t)-x_i(t)]

x_i(t+1)＝x_i(t)+v_i(t+1)

其中，其中t代表的是迭代的轮数，c₁和c₂为学习因子，r₁和r₂为0～1内的随机数，增加了粒子飞行的随机性；

(3-6)重复步骤(3-2)～(3-5)，当算法结束时，若不能够获得使目标函数值最大的最优粒子，则认为原始深度学习模型安全，若能够获得使目标函数值最大的最优粒子，则认为原始深度学习模型不安全。