[发明专利]基于粒子群优化的深度学习模型的安全性测试方法和修复方法

说明书

本发明公开了基于粒子群优化的深度学习模型的安全性测试方法和修复方法，包括：(1)获取良性图像组成样本集，利用良性图像对原始深度学习模型进行预训练；(2)根据覆盖率和输入图像在预训练的原始深度学习模型和其他深度学习模型中针对同一类标标签的类别预测值之间的差异构建目标函数；(3)从样本集中采集部分良性图像作为初始粒子，并初始化粒子的位置和速度，以目标函数最大为目标，采用粒子群优化算法对初始化粒子的位置和速度进行迭代更新，当算法结束时，若不能够获得表示恶性图像的最优粒子，则认为原始深度学习模型安全，若能获得表示恶性图像的最优粒子，则认为原始深度学习模型不安全。

技术领域

本发明属于深度学习安全领域，具体涉及一种基于粒子群优化(PSO)的深度学习(DL)模型的安全性测试方法和修复方法。

背景技术

深度学习(DL)的快速发展，使得其在图像分类、语音识别和文本分类等任务上实现甚至超过人类水平的性能。这些进步使得DL在自动驾驶汽车、恶意软件检测和飞机防撞系统等安全系统中得到广泛的应用和部署。尽管DL系统功能性丰富，准确率很高，但是确很容易受到对抗样本以及其他一些边界案例的影响。因此，与传统软件一样，安全的DL系统必须针对不同的边界案例进行系统测试，以便检测和修复潜在的安全漏洞。

在图像识别领域中，如在人脸识别领域，由于人脸图像被攻击会导致基于图像识别网络的身份鉴定系统识别错误，从而使罪犯逃脱；在自动驾驶领域，由于图像识别网络会被攻击会干扰路牌标识的识别，从而发生车祸，这些图像被识别错误会严重造成安全隐患，因此深度学习模型的安全性测试显得十分重要。

深度学习模型的种类繁多，比较常见的卷积神经网络(CNN)和循环神经网络(RNN)都是典型范式，可以通过不同的组合建立一个深层次的模型，达到你所需求的功能。

粒子群优化算法受鸟类捕食行为的启发并对这种行为进行模仿，将优化问题的优化空间类比为鸟类的飞行空间，将每只鸟抽象为一个粒子，粒子无质量、无体积，用以表征问题的一个可行解，优化问题所要搜索到的最优解则等同于鸟类寻找的食物源。粒子群优化算法为每个粒子制定了与鸟类捕食相似地特性，从而可以求解复杂的优化问题。

在深度学习模型测试方面，标准的方法收集并手动标记尽可能多的真实世界数据集，然后使用该数据集来测试模型的准确率。一些DL系统，例如谷歌自动驾驶汽车，也使用模拟现实环境的方式来生成训练数据。但是，这种模拟是完全没有指导的，它并没有考虑目标DL系统的结构。对于DL模型输入空间较大的情况下，这些方法都不能很好的覆盖边界案例。除此之外，许多用于发现错误边界案例的深度学习攻击方法从本质上讲类似于使用低代码覆盖率的测试输入来发现传统软件中的bug，因此不太可能发现很多的边界案例。

发明内容

本发明的第一目的是提供一种基于粒子群优化的深度学习模型的安全性测试方法，通过粒子群优化寻优恶性图像，根据寻优结果以判断深度学习模型是否安全，实现对深度学习模型的安全性测试。

本发明的第二目的是提供一种基于粒子群优化的深度学习模型的修复方法，以提高深度学习模型的预测准确性。

为实现上述第一目的，本发明提供了一种基于粒子群优化的深度学习模型的安全性测试方法，包括以下步骤：

(1)获取良性图像组成样本集，利用良性图像对原始深度学习模型进行预训练；

(2)根据覆盖率和输入图像在预训练的原始深度学习模型和其他深度学习模型中针对同一类标标签的类别预测值之间的差异构建目标函数；

(3)从样本集中采集部分良性图像作为初始粒子，并初始化粒子的位置和速度，以目标函数最大为目标，采用粒子群优化算法对初始化粒子的位置和速度进行迭代更新，当算法结束时，若不能够获得表示恶性图像的最优粒子，则认为原始深度学习模型安全，若能获得表示恶性图像的最优粒子，则认为原始深度学习模型不安全。