[发明专利]基于神经元输出行为模式的深度学习测试用例的选择方法

摘要

本发明公开了一种基于神经元输出行为模式的深度学习测试用例的选择方法，包括下列步骤：1)获取对抗样本的神经元输出行为的行为模式。2)计算每一条测试用例的神经元输出行为与对抗样本神经元输出行为的行为模式的距离。3)根据距离对测试用例集进行优先级排序。本发明可以尽早的在测试用例集中找到对抗本，对测试用例进行优先级排序提高了测试效率。

主权项

1.一种基于神经元输出行为模式的深度学习测试用例的选择方法，其特征在于：包括以下步骤：步骤1，通过提取对抗样本在模型中神经元状态，分析出不同对抗样本的神经元输出行为，找到输出行为的分布规律，总结出对抗样本的神经元输出行为的行为模式；步骤1.1，提取测试用例的神经元状态；在深度神经网络中，输入测试用例后，神经元将会以实数值的形式将测试用例向后传播，每个神经元都对应一个实数值；设置激活函数的阈值，将实数值转化为判断是否激活的布尔值；获取每个神经元的输出布尔值作为神经元输出；将所有神经元输出组成一个高维向量，表示此测试用例下的神经元输出的行为；步骤1.2，通过两种以上的对抗样本生成技术分别生成对抗样本；在深度神经网络中，输入生成的对抗样本，神经元将会以实数值的形式将生成的对抗样本向后传播，每个神经元都对应一个实数值；设置激活函数的阈值，将实数值转化为判断是否激活的布尔值；获取每个神经元的输出布尔值作为神经元输出；将所有神经元输出组成一个高维向量，表示此对抗样本下的神经元输出的行为；提取对抗样本下的神经元输出的行为构成对抗样本集；分析对抗样本集的神经元输出行为的分布规律，总结出对抗样本的神经元输出行为模式；步骤2，根据总结的对抗样本的神经元输出行为模式对测试用例进行优先级排序；步骤2.1，提取测试用例集中每一条测试用例的神经元输出行为，与步骤1得到的对抗样本的神经元输出行为模式进行对比，计算出每一条测试用例神经元输出行为与对抗样本的神经元输出行为模式的距离；步骤2.2，利用步骤2.1中计算的每一条测试用例的神经元输出行为与对抗样本的神经元输出行为模式的距离对测试用例集进行优先级排序。