[发明专利]一种基于频谱的深度神经网络缺陷定位方法及系统

权利要求书

1.一种基于频谱的深度神经网络缺陷定位方法，其特征在于，具体包括以下步骤：

获取正确测试用例和错误测试用例：使用测试用例集T＝{t₁,t₂,t₃,...}运行待测深度神经网络模型D，区分出正确测试用例和错误测试用例，并获取所述测试用例集T＝{t₁,t₂,t₃,...}对应的运行信息集R＝{r₁,r₂,r₃,...}；

获取待测深度神经网络模型的频谱信息：使用所述测试用例集T＝{t₁,t₂,t₃,...}运行所述待测深度神经网络模型D，获取每个神经元的输出结果；根据所述运行信息集R＝{r₁,r₂,r₃,...}与所述输出结果得到所述待测深度神经网络模型D中所有神经元的频谱信息M＝{m₁,m₂,m₃,...}；

计算神经元的怀疑度，并按照怀疑度对神经元进行排序：根据怀疑度公式与所述频谱信息M＝{m₁,m₂,m₃,...}计算出所有神经元的怀疑度，并对神经元按照怀疑度从大到小进行排序，排序越靠前的神经元存在缺陷的几率越大；

所述获取正确测试用例和错误测试用例包括以下具体步骤：

s11输入所述待测深度神经网络模型D和所述测试用例集T＝{t₁,t₂,t₃,...}；

s12选择所述测试用例集T＝{t₁,t₂,t₃,...}中的一条测试用例t_i运行所述待测深度神经网络模型D，获取所述测试用例t_i的运行结果O_i；

s13根据所述运行结果O_i使用蜕变关系判断所述测试用例t_i为正确测试用例还是错误测试用例，并记录所述测试用例t_i的运行信息r_i，如果所述测试用例t_i为正确测试用例，则记所述运行信息r_i＝1；如果所述测试用例t_i为错误测试用例,则记所述运行信息r_i＝0；

s14重复执行s12、s13直到所述测试用例集T＝{t₁,t₂,t₃,...}中所有测试用例运行完成，得到所述测试用例集T＝{t₁,t₂,t₃,...}的所述运行信息集R＝{r₁,r₂,r₃,...}；

s15遍历所述测试用例集T＝{t₁,t₂,t₃,...}的所述运行信息集R＝{r₁,r₂,r₃,...}，统计总的正确测试用例个数n_p和总的错误测试用例个数n_f；

s16输出所述测试用例集T＝{t₁,t₂,t₃,...}的所述运行信息R＝{r₁,r₂,r₃,...}；

所述获取待测深度神经网络模型的频谱信息包括以下具体步骤：

s21输入所述待测深度神经网络模型D、所述测试用例集T＝{t₁,t₂,t₃,...}和所述测试用例集T＝{t₁,t₂,t₃,...}的所述运行信息R＝{r₁,r₂,r₃,...}，其中N＝{n₁,n₂,n₃,...}为所述待测深度神经网络模型D中的所有神经元集合；

s22选择所述测试用例集T＝{t₁,t₂,t₃,...}中的一条测试用例t_i运行待测深度神经网络模型D，获取所述测试用例t_i运行时各个神经元n_j∈N的输出f_nj(t_i)，并存储在文件中；

s23重复执行s22，直到所述测试用例集T＝{t₁,t₂,t₃,...}中所有测试用例运行完成；

s24选择一个神经元n_j，遍历其对应所述测试用例集T＝{t₁,t₂,t₃,...}的输出f_nj(T)，如果所述运行信息集R＝{r₁,r₂,r₃,...}中对应的r_i＝1，则将所述神经元n_j的输出作为用例贡献值累加至所述神经元n_j的成功贡献；如果所述运行信息R＝{r₁,r₂,r₃,...}中对应的r_i＝0，则将所述神经元n_j的输出作为用例贡献值累加至所述神经元n_j的失败贡献，并将最终结果记录为所述神经元n_j的频谱信息m_j＝{n_ef(n_j),n_ep(n_j)}，其中n_ef(n_j)为所述神经元n_j的失败贡献，n_ep(n_j)为所述神经元n_j的成功贡献；

s25重复执行s24，直到分析完所述神经元集合N＝{n₁,n₂,n₃,...}中的所有神经元；

s26输出所述待测深度神经网络模型D中所有神经元的所述频谱信息M＝{m₁,m₂,m₃,...}。