[发明专利]深度学习模型的处理方法、装置、设备和存储介质

权利要求书

1.一种深度学习模型的处理方法，其特征在于，包括：

将预先获取到的数据集输入待处理的深度学习模型中，获取所述深度学习模型对每种特征的信息增益，稀疏性参数以及完备性参数；其中，所述数据集中包括多种特征的数据，每种特征的信息增益用于表示所述特征区分数据样本的能力，每种特征的稀疏性参数用于表示特征之间的独立程度，每种特征的完备性参数用于表示所述特征对所述深度学习模型的影响程度；

从所述深度学习模型中提取出特征提取器的输出以及分类器的输出，并将所述特征提取器的输出以及所述分类器的输出作为训练数据进行树模型训练，得到解释模型；

对所述解释模型的叶节点的分类准确度进行测量，得到树准确度，所述树准确度用于指示所述解释模型的分类准确度；

计算所述解释模型的每个叶节点能够正确分类的样本占所有样本中对应类别样本的数量比，得到树完备性参数；

输出所述每种特征的信息增益，所述每种特征的稀疏性参数，所述每种特征的完备性参数，所述树准确度以及所述树完备性参数。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

根据所述每种特征的信息增益，所述每种特征的稀疏性参数，所述每种特征的完备性参数，所述树准确度以及树完备性参数进行可视化处理，得到针对所述深度学习模型进行评估的可视化结果；

输出所述可视化结果。

3.根据权利要求1或2所述的方法，其特征在于，所述将预先获取到的数据集输入待处理的深度学习模型中，获取所述深度学习模型对每种特征的信息增益，稀疏性参数以及完备性参数，包括：

将所述数据集输入所述深度学习模型，并提取出所述深度学习模型的特征提取器的输出，针对所述特征提取器的输出中每种特征的输出值进行滤波，并在滤波后取均值，得到所述深度学习模型对所述特征的信息增益；

从所述深度学习模型的卷积层中提取出所有滤波矩阵，根据所述所有滤波矩阵分别进行转换，两两计算每个特征的K-L散度矩阵，并根据每个特征的K-L散度矩阵得到所述特征对应的稀疏性参数；

根据所述深度学习模型对每种特征的信息增益从大到小的顺序依次从所述数据集中删除一种特征集合，并在每次删除后根据未被删除的所有特征集合构建随机森林模型，并计算所述随机森林模型的测试性能；

当存在一个随机森林模型的测试性能相较于上一个模型的测试性能的变化大于预设值时，获取已删除的特征集合的数量；

根据所述已删除的特征集合的数量和所述数据集中的特征集合的总数，计算获取所述完备性参数。

4.根据权利要求1或2所述的方法，其特征在于，所述对所述解释模型的叶节点的分类准确度进行测量，得到树准确度，包括：

测量获取所述解释模型分类最终落在每个叶节点上的总样本数以及每个叶节点分类正确的样本数；

采用公式计算所述解释模型中每个叶节点的分类准确度Acc_i；其中，i为叶节点序号，n_i为经过所述解释模型分类最终落在该叶节点的总样本数，c_i为所述叶节点分类正确的样本数，所述树准确度包括所述每个叶节点的分类准确度。

5.根据权利要求1或2所述的方法，其特征在于，所述计算所述解释模型的每个叶节点能够正确分类的样本占所有样本中对应类别样本的数量比，得到树完备性参数，包括：

采用公式：计算所述解释模型的每个叶节点能够正确分类的样本占所有样本中对应类别样本的数量比Comp_i，得到所述树完备性参数；其中，i为叶节点序号，c_i为该叶节点分类正确的样本数，n_c为所有样本中与该节点同类的样本数。