[发明专利]基于神经通路激活状态的深度学习模型测试方法与装置

权利要求书

1.一种基于神经通路激活状态的深度学习测试样本的生成方法，其特征在于，包括以下步骤：

(1)获取图像数据集和深度学习模型；采用图像数据集对深度学习模型进行预训练；将图像数据集中的测试样本按类输入至预训练后的深度学习模型中，获得每类测试样本的神经通路激活状态的特征矩阵M；

(2)从图像数据集的剩余类中随机选取一类，构建该类的批处理池，该类的特征矩阵M用于生成准测试样本；将图像数据集放入批处理池中；

(3)从批处理池中随机选取若干个测试样本作为种子样本；对种子样本进行变异得到变异样本；对变异样本进行功率调整，确定变异样本下次进行变异的概率；

(4)将功率调整后的变异样本输入至预训练后的深度学习模型中，若预测输出与对应种子样本的原始类标一致，则舍弃该变异样本，对应的种子样本重新放入批处理池中；否则进行下一步；

(5)生成准测试样本，赋予准测试样本批次优先级别，将准测试样本放入批处理池中；生成准测试样本包括以下步骤：

(5-1)优化损失函数，计算损失函数值及梯度；

所述的损失函数为：

其中：为深度学习模型的损失函数，x为变异样本，y_i为第i类实际输出，y_i’为第i类标签，N为所有变异样本的数量，0λ1；

loss₂＝f_n(x)＝Min(dist(m,M))，dist(m,M)表示对变异样本与选定类的特征矩阵M求欧氏距离；

所述的梯度为：

(5-2)根据梯度上升最大化修改变异样本：

x’＝x+s*grad；

其中，xˊ为修改后的变异样本，x为修改前的变异样本，grad为梯度，s为迭代步长；

生成的准测试样本满足以下条件：

准测试样本的神经通路激活状态矩阵m与选定类的特征矩阵M之间的欧式距离小于设定阈值；

准测试样本的预测输出与选定类的类标相同；

准测试样本的预测输出与对应的种子样本的原始类标不同；

(6)循环执行步骤(3)-(5)，直至达到预设条件，则该批处理池中的样本组成该类的测试集；

(7)循环执行步骤(2)-(6)，直至生成所有类的测试集；所有类的测试集组成基于神经通路激活状态的深度学习测试样本集。

2.根据权利要求1所述的基于神经通路激活状态的深度学习测试样本的生成方法，其特征在于，步骤(1)中，获得每类测试样本的神经通路激活状态的特征矩阵M，包括以下步骤：

(ⅰ)构建n×m的矩阵，n为神经层个数，m为所有神经层中最大神经元个数；若某一神经层中神经元个数小于最大神经元个数m，则在矩阵中的相应位置上补0；

(ⅱ)将测试样本输入深度学习模型中，前向传播，获得每个神经层中每个神经元的激活值；

(ⅲ)根据每个神经元的激活值对对应神经层的激活函数求导，判断该神经元的激活状态；若神经元激活，则将矩阵中该神经元的对应位置置1，否则置0，获得每个测试样本的神经通路状态矩阵；

(ⅳ)对该类所有测试样本的神经通路状态矩阵取公共集合，即得该类测试样本的神经通路激活状态的特征矩阵M。

3.根据权利要求1所述的基于神经通路激活状态的深度学习测试样本的生成方法，其特征在于，步骤(3)中，对种子样本进行变异包括改变图像的像素值、改变图像的类标和/改变图像的尺度。

4.根据权利要求3所述的基于神经通路激活状态的深度学习测试样本的生成方法，其特征在于，改变图像的像素值包括改变图像对比度、图像亮度、图像模糊和/或图像噪点；改变图像的尺度包括图像平移、图像缩放、图像剪切和/或图像翻转。

5.根据权利要求3或4所述的基于神经通路激活状态的深度学习测试样本的生成方法，其特征在于，改变图像的像素值时需满足：

其中，I表示原始图像；I’表示改变像素值后的图像；L₀表示已更改像素的最大数量；L_∞表示像素更改的最大值；size(I)是图像中0I的像素数量；0α,β1。