[发明专利]特征区分能力的量化方法、装置、设备和介质

说明书

本发明公开了一种特征区分能力的量化方法，该方法包括：基于预先随机构建的多个决策树，对数据集进行异常值检测，以确定多个数据样本中的待解释样本；在目标待解释决策树内，确定目标待解释样本对应的多个节点组合；计算目标节点组合的第一区分能力指标；获取其余节点组合的第一区分能力指标，根据其余节点组合的第一区分能力指标计算目标路径节点的第二区分能力指标；根据相同样本特征对应的路径节点的第二区分能力指标，计算每一目标样本特征的第三区分能力指标；根据所有待解释决策树内同一样本特征的第三区分能力指标，计算所有样本特征的第四区分能力指标。此外，还提出了特征区分能力的量化装置、设备和存储介质。

技术领域

本发明涉及大数据技术领域，尤其是涉及特征区分能力的量化方法、装置、设备和介质。

背景技术

模型的可解释性即是指模型使用者能够理解该模型的程度。如果模型的使用者无法理解模型输入与输出的关系，很可能会做出带有偏见的决策，且在模型遭到攻击时难以察觉。目前模型在各行业中逐渐普及，我们亟需提高模模型的可解释性，以规避不明风险，满足监管需求。

孤立森林算法有着计算复杂度低，易处理高维海量数据，可以分布式训练等优点，因而被业界广泛采用。但该算法需要随机选取特征，及随机选择阈值划分数据来构建大量决策树，导致特征的可解释性较低。

发明内容

基于此，有必要针对上述问题，提供特征区分能力的量化方法、装置、设备和介质，以解释特征。

一种特征区分能力的量化方法，所述方法包括：

获取包含多个数据样本的数据集和所述数据集对应的多个预设特征，所述多个预设特征用于从不同特征维度对所述数据集进行划分；

基于预先随机构建的多个决策树，对所述数据集进行异常值检测，以确定所述多个数据样本中的至少一个异常样本，并将每个异常样本作为待解释样本；其中，一个决策树以至少一个预设特征为树节点，对数据子集进行划分，所述数据子集包括所述数据集中的至少一个数据样本；

在目标待解释决策树内，确定目标待解释样本对应的多个路径节点，将所述多个路径节点作为集合并取所述集合的子集，以得到多个节点组合；其中，所述目标待解释样本为至少一个待解释样本中的任意一个，待解释决策树为包含待解释样本的决策树，所述目标待解释决策树为包含所述目标待解释样本的待解释决策树，所述多个路径节点为所述目标待解释决策树内从所述目标待解释样本对应的叶子节点到根节点路径上的所有非叶子节点；

计算目标节点组合的第一区分能力指标；其中，所述目标节点组合为所述多个节点组合中的任意一个，节点组合的区分能力指标用于指示基于节点组合将所述目标待解释样本，从所述目标待解释决策树内其他样本中区分出来的能力；

获取其余节点组合的第一区分能力指标，根据所述其余节点组合的第一区分能力指标计算目标路径节点的第二区分能力指标；其中，所述目标路径节点为所述多个路径节点中的任意一个，所述其余节点组合为所述多个节点组合中不包含所述目标路径节点的节点组合，所述区分能力指标用于指示基于所述目标路径节点将所述目标待解释样本，从所述目标待解释决策树内其他样本中区分出来的能力；

根据相同样本特征对应的路径节点的第二区分能力指标，计算每一目标样本特征的第三区分能力指标；其中，所述样本特征为所述目标待解释决策树内，划分所述目标待解释样本的至少一个预设特征，所述目标样本特征为所述目标待解释决策树内的样本特征中的任意一个，第三区分能力指标用于指示基于所述目标样本特征将所述目标待解释样本，从所述目标待解释决策树内其他样本中区分出来的能力；

根据所有待解释决策树内同一样本特征的第三区分能力指标，计算所有样本特征的第四区分能力指标；其中，样本特征的第四区分能力指标用于指示基于样本特征将所述目标待解释样本，从其他样本中区分出来的能力。

在其中一个实施例中，所述计算目标节点组合的第一区分能力指标，包括：