[发明专利]使用定向攻击探索黑盒神经网络的方法、装置、处理设备、存储介质

权利要求书

1.一种使用定向攻击探索黑盒神经网络的方法，其特征在于，包括以下步骤：

S01，获取样本集，并根据所述样本集确定一种或多种候选网络模型；

S02，对所述样本集中每个样本图片，采用Next Class方法确定定向攻击目标；

S03，选取一种或多种白盒定向攻击算法，根据所述的样本图片、样本图片对应的候选网络模型、样本图片对应的定向攻击目标生成候选网络模型的对抗样本；

S04，使用所述对抗样本对各候选网络模型进行攻击，并分别统计各候选网络模型的第一攻击成功率向量；

S05，使用所述对抗样本对未知网络模型进行攻击，统计未知网络模型的第二攻击成功率向量；

S06，计算所述第一攻击成功率向量和第二攻击成功率向量间的向量距离，将距离最小的候选网络模型作为与未知网络模型的最接近网络。

2.根据权利要求1所述的使用定向攻击探索黑盒神经网络的方法，其特征在于，所述步骤06具体为：采用欧式距离计算向量距离。

3.一种使用定向攻击探索黑盒神经网络的装置，其特征在于，包括：

候选网络模型选取模块：获取样本集，并根据所述样本集确定一种或多种候选网络模型；

定向攻击目标确定模块：对所述样本集中每个样本图片，采用Next Class方法确定定向攻击目标；

对抗样本生成模块：选取一种或多种白盒定向攻击算法，根据所述的样本图片、样本图片对应的候选网络模型、样本图片对应的定向攻击目标生成候选网络模型的对抗样本；

对抗样本攻击模块：使用对抗样本分别对候选网络模型和未知网络模型进行攻击，并记录攻击是否成功；

攻击成功率统计模块：根据所述对抗样本攻击模块记录的结果计算各候选网络模型的第一攻击成功率向量和未知网络模型的第二攻击成功率向量；

向量距离计算模块：计算所述第一攻击成功率向量和第二攻击成功率向量间的向量距离，将距离最小的候选网络模型作为与未知网络模型的最接近网络。

4.根据权利要求3所述的使用定向攻击探索黑盒神经网络的装置，其特征在于，所述向量距离计算模块采用欧式距离计算所述向量距离。

5.一种处理设备，其特征在于，包括至少一个处理器，以及与所述处理器通信连接的至少一个存储器，其中：所述存储器存储有可被处理器执行的程序指令，所述处理器调用所述程序指令能够执行如权利要求1至2任一所述的方法。

6.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储计算机指令，所述计算机指令使所述计算机执行如权利要求1至2任一所述的方法。