[发明专利]深度学习模型的处理方法、装置、设备和存储介质

说明书

本发明公开了一种深度学习模型的处理方法、装置、设备和存储介质，所述方法包括：对于深度学习模型，根据从特征提取器以及分类器中提取一些中间层的特征输出以及最终输出，计算深度学习模型对每种特征的信息增益，稀疏性参数以及完备性参数。并根据中间层的输出进行树模型训练，得到解释模型，并对解释模型的叶节点进行测试，得到该解释模型的分类准确度，计算所述解释模型的每个叶节点能够正确分类的样本占所有样本中对应类别样本的数量比，得到树完备性参数。最后将得到的特征的信息增益，稀疏性参数，完备性参数，树准确度以及树完备性这些可以对模型进行评估的指标进行输出，从而提供一种对深度学习模型进行量化分析和解释的工具。

技术领域

本发明涉及人工智能领域，尤其涉及一种深度学习模型的处理方法、装置、设备和存储介质。

背景技术

卷积神经网络模型(Convolution Neural Networks,CNNs)是一种深度学习模型，在图像识别等领域中具有非常出色的性能，得到了广泛应用。CNNs主要由卷积部分和全连接部分组成。其中卷积部分包含卷积层、激活函数层和池化层等，作用是提取数据的特征；全连接部分的作用是连接特征和输出计算损失，并进行识别和分类等操作。

然而，由于深度学习模型端到端的学习策略和极其复杂的模型参数结构，CNNs一直如同黑盒一般令人难以理解和解释其中的工作原理。CNNs经过训练收敛后，用户在使用中仅能得到模型的最终输出结果(如输入所属的类别等)，却无法理解CNNs是如何从原始输入得到预测输出的。这种难以解释性使得当前CNNs等深度学习模型在无人驾驶、医疗图像识别等领域的落地遭遇了很大阻碍。

综上所述，目前还没有合适的对深度学习模型进行量化解释和分析的工具。

发明内容

本发明的主要目的在于提供一种深度学习模型的处理方法、装置、设备和存储介质，提供一种对深度学习模型进行量化解释和分析的工具。

为实现上述目的，本发明提供一种深度学习模型的处理方法，包括：

将预先获取到的数据集输入待处理的深度学习模型中，获取所述深度学习模型对每种特征的信息增益，稀疏性参数以及完备性参数；其中，所述数据集中包括多种特征的数据，每种特征的信息增益用于表示所述特征区分数据样本的能力，每种特征的稀疏性参数用于表示特征之间的独立程度，每种特征的完备性参数用于表示所述特征对所述深度学习模型的影响程度；

从所述深度学习模型中提取出特征提取器的输出以及分类器的输出，并将所述特征提取器的输出以及所述分类器的输出作为训练数据进行树模型训练，得到解释模型；

对所述解释模型的叶节点的分类准确度进行测量，得到树准确度，所述树准确度用于指示所述解释模型的分类准确度；

计算所述解释模型的每个叶节点能够正确分类的样本占所有样本中对应类别样本的数量比，得到树完备性参数；

输出所述每种特征的信息增益，所述每种特征的稀疏性参数，所述每种特征的完备性参数，所述树准确度以及所述树完备性参数。

在一种具体实施方式中，所述方法还包括：

根据所述每种特征的信息增益，所述每种特征的稀疏性参数，所述每种特征的完备性参数，所述树准确度以及树完备性参数进行可视化处理，得到针对所述深度学习模型进行评估的可视化结果；

输出所述可视化结果。

在一种具体实施方式中，所述将预先获取到的数据集输入待处理的深度学习模型中，获取所述深度学习模型对每种特征的信息增益，稀疏性参数以及完备性参数，包括：

将所述数据集输入所述深度学习模型，并提取出所述深度学习模型的特征提取器的输出，针对所述特征提取器的输出中每种特征的输出值进行滤波，并在滤波后取均值，得到所述深度学习模型对所述特征的信息增益；