[发明专利]基于热力图、逆向工程和模型剪枝的后门攻击防御方法

权利要求书

1.一种基于热力图、逆向工程和模型剪枝的后门攻击防御方法，其特征在于，包括以下步骤：

步骤1:通过逆向工程技术反推出针对目标神经网络中每一类别的后门触发器，通过离群检测点算法比较所述后门触发器的L1范式，具有最小L1范式的后门触发器，就是攻击者所使用的后门触发器，且后门触发器对应的标签就是攻击者的目标标签，确定目标标签，作为目标标签数据；

步骤2：对所述目标标签进行模型反演计算出相关数据集，根据所述数据集绘制热力图，根据所述热力图确定所述后门触发器的最佳位置；

步骤3：通过向神经网络输入良性数据和步骤2设计的恶意数据，对神经元在良性数据和恶意数据两种输入情况下的权重差值或激活值差值进行检测，筛选出所述目标神经网络中的目标神经元；

步骤4：根据目标神经元，对目标神经网络进行模型剪枝。

2.根据权利要求1所述的一种基于热力图、逆向工程和模型剪枝的后门攻击防御方法，其特征在于，还包括对所述目标神经网络进行攻击成功率检测和模型准确率检测，多次调试完成对所述目标神经网络剪枝。

3.根据权利要求1所述的一种基于热力图、逆向工程和模型剪枝的后门攻击防御方法，其特征在于，所述后门触发器应满足以下公式：

指的是将任意带有所述后门触发器的良性数据分类成目标标签所需要的最小扰动，|T_t|是所述后门触发器的大小；指的是将未感染的标签分类成正确标签所需的扰动。

4.根据权利要求1所述的一种基于热力图、逆向工程和模型剪枝的后门攻击防御方法，其特征在于，所述离群检测点算法满足以下三个公式：

b_i＝|a_i-a_0.5|；

M＝b_0.5；

上式中a_i(0≤i≤n)表示某触发器Δ_i在进行逆向时所输入的良性数据，a_0.5指的是所述良性数据的中位数；计算每个a_i对应的数据点与中位数a_0.5的绝对偏差b_i，并将这些绝对偏差的中位数记为M；δ表示数据点的异常指数。

5.根据权利要求1所述的一种基于热力图、逆向工程和模型剪枝的后门攻击防御方法，其特征在于，所述后门触发器包括随机型和模型依赖型。

6.根据权利要求1所述的一种基于热力图、逆向工程和模型剪枝的后门攻击防御方法，其特征在于，向所述目标神经网络中输入无恶意的验证数据集D_valid并记录计算结果；在每轮剪枝完成后，重新将D_valid输入剪枝后的深度神经网络并得到结果Di(i＝1，2，3…)，记录Di与D_valid的相似性。

7.根据权利要求1所述的一种基于热力图、逆向工程和模型剪枝的后门攻击防御方法，其特征在于，对于剪枝后后门攻击的攻击成功率，在进行一轮剪枝后，测试带有后门触发器的数据被剪枝后的模型误分类的成功率。