[发明专利]基于合作博弈的模型解释方法、装置、电子设备

权利要求书

1.一种基于合作博弈的模型解释方法，其特征在于，应用于电子设备，所述电子设备包括训练好用于预测或分类的机器学习模型，所述方法包括：

将测试样本输入到所述机器学习模型中，获得所述机器学习模型的输出结果，其中，所述测试样本包括多个特征；

根据所述机器学习模型的输出结果，计算从所述多个特征中选择的各个目标特征对所述输出结果的贡献度值，以便根据选择的各个目标特征的贡献度值对所述机器学习模型的输出结果进行解释。

2.根据权利要求1所述的方法，其特征在于，根据所述机器学习模型的输出结果计算从输入的至少一个测试样本中的多个特征中选择的各个目标特征对所述输出结果的贡献度值，包括：

根据公式计算各个目标特征的贡献度值，其中，为目标特征i的贡献度值，|S|和|N|分别为子联盟S和总联盟N中包含的目标特征的数量，S\{i}是由子联盟S中去除目标特征i后其余特征所组成的联盟，C(S)-C(S\{i})为目标特征i对子联盟S的边际贡献，其中，总联盟N包括其中一个测试样本中所有的目标特征，子联盟S包括其中一个测试样本中的至少一个目标特征i，且所述子联盟为所述总联盟的子集。

3.根据权利要求1所述的方法，其特征在于，在根据所述机器学习模型的输出结果计算从输入的至少一个测试样本中的多个特征中选择的各个目标特征对所述输出结果的贡献度值之前，所述方法还包括：

对所述测试样本中的多个特征进行局部采样，以从所述多个特征中确定多个目标特征。

4.根据权利要求3所述的方法，其特征在于，在根据所述机器学习模型的输出结果计算输入的测试样本中的各个特征对所述输出结果的贡献度之后，所述方法还包括计算所述测试样本中各个目标特征的贡献顺序，包括：

根据每个所述测试样本中的目标特征的特征值，对每个所述测试样本进行分类，得到多个不同目标特征的特征值对应的测试样本子集；

分别计算分类前的所述测试样本组成的测试样本集的第一信息熵和分类后各测试样本子集的第二信息熵；

计算所述第一信息熵与所述第二信息熵的差值；

根据所述第一信息熵与所述第二信息熵的差值大小确定每个目标特征对于输出结果的贡献顺序。

5.根据权利要求4所述的方法，其特征在于，在计算所述第一信息熵与所述第二信息熵的差值之后，所述方法还包括：

根据所述第一信息熵和所述第二信息熵之间的差值计算信息增益比；

根据所述信息增益比确定每个目标特征的贡献顺序。

6.一种基于合作博弈的模型解释装置，应用于电子设备，所述电子设备包括训练好用于预测或分类的机器学习模型，其特征在于，所述装置包括：

输入模块，用于将测试样本输入到所述机器学习模型中，获得所述机器学习模型的输出结果，其中，所述测试样本包括多个特征；

第一计算模块，用于根据所述机器学习模型的输出结果，计算从所述多个特征中选择的各个目标特征对所述输出结果的贡献度值，以便根据选择的各个目标特征对所述输出结果的贡献度值对所述机器学习模型的输出结果进行解释。

7.根据权利要求6所述的装置，其特征在于，所述装置还包括：

采样模块，用于对所述测试样本中的多个特征进行局部采样，以从所述多个特征中确定多个目标特征。

8.根据权利要求6所述的装置，其特征在于，所述装置还包括第二计算模块，用于计算所述测试样本中各个目标特征的贡献顺序；

所述第二计算模块具体用于：

根据每个所述测试样本中的目标特征的特征值，对每个所述测试样本进行分类，得到多个不同目标特征的特征值对应的测试样本子集；

分别计算分类前的所述测试样本组成的测试样本集的第一信息熵和分类后各测试样本子集的第二信息熵；

计算所述第一信息熵与所述第二信息熵的差值；

根据所述第一信息熵与所述第二信息熵的差值大小确定每个目标特征对于输出结果的贡献顺序。