[发明专利]一种基于深度字符树模型的图像可解释性及防御扰动方法

权利要求书

1.一种基于深度字符树模型的图像可解释性及防御扰动方法，其特征在于，包括以下步骤：

S1：收集相关的输入图像数据集；

S2：需要对所输入的图像数据进行预处理，从而满足深度字符树算法模型的数据输入要求；深度字符树算法能自适应不同的图像格式，构建不同的图像数据维度关联模型参数，建立图像样本节点的关联性；

S3：使用FGSM、DeepFool、CW、BIM、PGD共五种攻击扰动算法生成对应的对抗样本；对输入的图像数据不做扰动处理的正常样本；

S4：将对应不同的对抗样本+正常样本作为训练样本，将其输入到深度字符树模型中，在抵御扰动样本扰动的同时，完成对图像数据样本的正确分类；

S5：采用区别与训练时的对抗样本+正常样本作为测试样本，检验模型的防御能力；

S6：模型对不同的扰动样本高亮显示输出对应的扰动决策点。

2.根据权利要求1所述的一种基于深度字符树模型的图像可解释性及防御扰动方法，其特征在于：所述S2中收集相关的输入图像数据集过程，包括两种方式：

1)：第一种方式是基于权威网站所公开的开源数据集，包括有Mnist、FashionMnist、Cifar10等数据集；

2)：第二种方式是基本网站所开源及发布的相关数据，采用Python爬虫技术进行相应的图像爬取，如TrafficSign数据集；所爬取得到的图像数据集，需要进行相关的预处理操作，步骤包括有图像类别限定，图像格式调整，图像压缩以及图像合并操作，类别划分为50个类别，每个类别限定为2000张；若出现类别数量不够，对其进行适当的数据增强。

3.根据权利要求1所述的一种基于深度字符树模型的图像可解释性及防御扰动方法，其特征在于：所述S2中，算法需要建立在一个深度字符树基础上，树的叶子节点n作为图像的原始数据输入，因此针对不同的图像数据需要对应匹配的叶子节点n与其配对，将其输入设置为输入{X|x₁,x₂,…,x_n}，其中X是混合扰动样本与正常样本，不同的图像数据输入会对应不同的深度字符树叶子节点。

4.根据权利要求1所述的一种基于深度字符树模型的图像可解释性及防御扰动方法，其特征在于：所述S3中，针对不同的数据样本输入，所需要构建的扰动算法模型不同，分别为：FGSM算法；DeepFool算法；BIM算法；CW算法；PGD算法。

5.根据权利要求1所述的一种基于深度字符树模型的图像可解释性及防御扰动方法，其特征在于：所述S4中，需要使用到S3所得到的对抗样本，将对应不同的对抗样本x′结合正常样本x作为训练样本x_train，将其输入到基于字符AI的图像可解释性防御扰动模型f(.)中，对图像进行分类c。

6.根据权利要求1所述的一种基于深度字符树模型的图像可解释性及防御扰动方法，其特征在于：所述S5中，需要使用到S3所得到的对抗样本，将对应不同的对抗样本x′结合正常样本x作为训练样本x_test，将其输入到已经训练完成的F(.)模型中，对最终的输出结果进行呈现。

7.根据权利要求1所述的一种基于深度字符树模型的图像可解释性及防御扰动方法，其特征在于：所述S6中，通过模型最终的输出结果，进行模型优化，将不同的扰动样本关键决策点进行可视化呈现。