[发明专利]面向卷积神经分类网络的缺陷自动诊断与修复方法及装置

说明书

本发明面向卷积神经分类网络的缺陷自动诊断与修复方法及装置，包括下列步骤：1）卷积神经分类网络预测重要性归一化；2）激活图重要性得分计算；3）正常样本激活图规律统计；4）分类错误样本激活图筛选；5）卷积神经分类网络自动化缺陷修复。本发明设计的是一种面向卷积神经分类网络的全自动缺陷诊断与修复方法，用于已经预训练的卷积神经分类网络模型缺陷检测与自动修复，能够有效提升深度卷积神经分类网络模型的分类性能。

技术领域

本发明涉及模型缺陷检测与修复领域，特别涉及面向卷积神经分类网络的缺陷自动诊断与修复方法及装置。

背景技术

近年来，深度卷积神经分类网络(Convolutional Neural Network,CNN)在图像分类领域取得了里程碑式的进展，诸如在人脸识别、医学图像识别、遥感图像分类等图像识别应用领域均取得了许多重大突破。但是随着深度学习技术的快速发展，深度卷积神经分类网络的‘黑盒’特性带来的不足也越发明显，人类专家因为无法理解模型内部特征关联计算关系，无法在模型出错或性能较低时进行缺陷的诊断与修复，严重限制着深度卷积神经分类网络的真实场景应用落地与推广。

然而，深度卷积神经分类网络‘黑盒’特性，带来深度卷积神经分类网络性能优化的难题。目前已有的模型优化方向主要面向传统机器学习模型，而面向深度卷积神经网络的模型优化方法相对较少。面向传统机器学习模型的缺陷检测与修复方法主要基于传统机器学习方法的透明逻辑性，可以进行单步骤的缺陷检测，获得模型中的缺陷，通过专家的介入设计对应的优化策略进行模型的缺陷修复，从而实现模型性能的提升。然而已有的针对传统机器学习模型的方法无法诊断、修复‘黑盒’深度模型的缺陷。

目前，面向深度卷积神经分类网络的自动化缺陷检测与优化算法仍处于空白阶段，已有主要方法专注于深度卷积神经分类网络的可解释方法，然后基于可解释的结果，通过人为的设计对应的策略，来实现深度分类模型的性能提升与优化。已有的深度模型可解释方法主要包含两类：深度特征的可视化方法与深度模型预测结果分析方法。深度特征的可视化方法通过对深度特征图求解类别相关响应图，并叠加到原始图片来显示图像特征对预测结果的重要性；深度模型预测结果分析方法通过线性可理解模块来拟合深度模型模块预测、掩码独立性分析等技术，来实现预测结果与部分特征的相关性。然后上述面向深度模型的方法仅能实现相关特征的可视化与关联性分析，需要人类专家的交互介入来诊断缺陷，无法自动诊断缺陷，更不能对诊断出的缺陷进行自动化修复。

总结而言，当前针对‘黑盒’深度模型缺陷的诊断与修复一体化工作仍处于空白阶段。卷积神经分类网络的‘黑盒’特性严重阻碍着模型研发人员对深度模型计算、预测结果的深入理解，本发明设计的一种面向卷积神经分类网络的缺陷自动诊断与修复技术，提供了统一的便捷诊断优化工具，能够大幅提高模型研发的效率。

发明内容

本发明的目的在于提供面向卷积神经分类网络的缺陷自动诊断与修复方法及装置，以克服现有技术中的不足。

为实现上述目的，本发明提供如下技术方案：

本申请公开了一种面向卷积神经分类网络的缺陷自动诊断与修复方法，具体包括如下步骤：

S1、对于深度卷积神经分类网络模型，计算第l层中单个卷积滤波器的隐层贡献特征图集和输出激活图；计算第l层归一化的预测重要性；

S2、判断第l层归一化的预测重要性与阈值之间的大小关系；根据大小关系获取重要性得分；

S3、将同一类别的训练集通过深度卷积神经分类网络模型，获得分类错误与低置信度的样本和分类正确样本；计算分类错误与低置信度的样本的累积重要性得分与分类正确样本的累积重要性得分之间的差异性，筛选出第l层不应该有重要性贡献的输出激活图的集合；

S4、获取深度卷积神经分类网络模型中后三层的不应该有重要性贡献的输出激活图的集合，结合损失函数对深度卷积神经分类网络模型进行再训练。