[发明专利]深度学习计算结果的特征解释方法、装置、设备及介质

权利要求书

1.一种深度学习计算结果的特征解释方法，其特征在于，包括：

将预设样本数据集输入原始模型，所述原始模型输出第一预测值，计算所述第一预测值的平均值；

将所述预设数据集输入合作博弈论中解释所述原始模型的解释模型，所述解释模型输出第二预测值，其中，所述第一预测值等于所述第二预测值；

针对所述预设样本数据集中的每个样本，计算该样本中每个特征的平均边际贡献，该样本中各个特征的平均边际贡献之和加上所述第一预测值的平均值得到的和等于该样本对应的第一预测值，其中，所述平均边际贡献的大小表示每个样本中每个特征对所述原始模型输出的计算结果的重要程度。

2.如权利要求1所述的深度学习计算结果的特征解释方法，其特征在于，计算该样本中每个特征的平均边际贡献，包括：

通过以下公式计算该样本中每个特征的平均边际贡献：

其中，表示第i个特征的平均边际贡献；N表示该样本的全体特征集合；S表示N的一个排列子集；M表示该样本的特征的总数；f_x表示所述原始模型的函数；f_x(S∪{i})-f_x(S)表示将第i个特征添加到排列子集S时，边际贡献的增加量。

3.如权利要求1或2所述的深度学习计算结果的特征解释方法，其特征在于，还包括：

通过以下公式计算该样本中多个特征交叉的平均边际贡献：

其中，表示t个特征交叉的平均边际贡献；N表示该样本的全体特征集合；S表示N的一个排列子集；M表示特征的总数；n为N中的t个特征组成的特征集合，f_x表示所述原始模型的函数；表示将n中的t个特征添加到排列子集S时，边际贡献的增加量。

4.如权利要求1或2所述的深度学习计算结果的特征解释方法，其特征在于，还包括：

根据每个样本中每个特征的平均边际贡献，计算每个特征的评定模型值，其中，评定模型值的变化趋势与每个特征对所述原始模型输出的计算结果所起影响的正负成正比。

5.一种深度学习计算结果的特征解释装置，其特征在于，包括：

原始模型计算模块，用于将预设样本数据集输入原始模型，所述原始模型输出第一预测值，计算所述第一预测值的平均值；

解释模型计算模块，用于将所述预设数据集输入合作博弈论中解释所述原始模型的解释模型，所述解释模型输出第二预测值，其中，所述第一预测值等于所述第二预测值；

特征解释模块，用于针对所述预设样本数据集中的每个样本，计算该样本中每个特征的平均边际贡献，该样本中各个特征的平均边际贡献之和加上所述第一预测值的平均值得到的和等于该样本对应的第一预测值，其中，所述平均边际贡献的大小表示每个样本中每个特征对所述原始模型输出的计算结果的重要程度。

6.如权利要求5所述的深度学习计算结果的特征解释装置，其特征在于，所述特征解释模块通过以下公式计算该样本中每个特征的平均边际贡献：

其中，表示第i个特征的平均边际贡献；N表示该样本的全体特征集合；S表示N的一个排列子集；M表示该样本的特征的总数；f_x表示所述原始模型的函数；f_x(S∪{i})-f_x(S)表示将第i个特征添加到排列子集S时，边际贡献的增加量。

7.如权利要求5或6所述的深度学习计算结果的特征解释装置，其特征在于，所述特征解释模块，还用于通过以下公式计算该样本中多个特征交叉的平均边际贡献：

其中，表示t个特征交叉的平均边际贡献；N表示该样本的全体特征集合；S表示N的一个排列子集；M表示特征的总数；n为N中的t个特征组成的特征集合，f_x表示所述原始模型的函数；表示将n中的t个特征添加到排列子集S时，边际贡献的增加量。