[发明专利]解释信息获取方法、装置、服务器和存储介质

说明书

本公开提供了一种解释信息获取方法、装置、服务器和存储介质，属于机器学习技术领域。包括：通过确定第一输入数据中的目标特征信息和调整量，对第一输入数据进行调整，通过对比调整后的第二输入数据对应的第二输出的数据与第一输出数据，确定目标特征信息对该第一输出数据的影响度，根据该影响度，通过该第一输入数据、第一输出数据、第二输入数据和第二输出数据，确定该第一输入数据通过该第一机器学习模型得到该第一输出数据的解释信息。通过确定第一输入数据的特征信息中对输出数据的影响，自动化地对第一机器学习模型进行解释归因，使得第一机器学习模型产生的结果可信度更高，从而拓宽了机器学习模型的使用范围。

技术领域

本公开涉及机器学习技术领域，特别涉及一种解释信息获取方法、装置、服务器和存储介质。

背景技术

通过机器学习技术可以建立机器学习模型，将输入数据输入机器学习模型中，可以直接输出该输入数据对应的输出数据。而随着机器学习技术的发展，机器学习算法越来越复杂，根据机器学习算法创建的机器学习模型也越来越复杂，使得用户难以理解机器学习模型根据输入数据得到输出数据的逻辑，造成对机器学习模型的不信任。因此，需要获取该机器学习模型的解释信息，对该机器学习模型根据输入数据得到输出数据的逻辑进行解释。

相关技术中，对于简单的机器学习模型，该机器学习模型一般依据决策树或线性回归等原理进行构建的，因此，可以根据决策树或线性回归等原理对该机器学习模型根据输入数据得到输出数据的逻辑进行解释。

上述相关技术中，只能对依据决策树或线性回归等原理建立的简单的机器学习模型进行解释，而不是依据决策树或线性回归等原理建立的机器学习模型无法进行解释，造成复杂机器学习模型的可信度低，导致机器学习模型的使用范围较窄。

发明内容

本公开实施例提供了一种解释信息获取方法、装置、服务器和存储介质。用于解决复杂机器学习模型的可信度低，导致机器学习模型的使用范围较窄的问题。所述技术方案如下：

一方面，提供了一种解释信息获取方法，所述方法包括：

通过第一机器学习模型对第一输入数据进行预测，得到第一输出数据；

根据所述第一输入数据的多个特征信息的分布信息，确定所述第一输入数据中的目标特征信息和所述目标特征信息的调整量；

根据所述目标特征信息和所述目标特征信息的调整量，对所述第一输入数据进行调整，得到多个第二输入数据，通过所述第一机器学习模型对所述多个第二输入数据进行预测，得到多个第二输出数据；

根据所述第一输出数据和所述多个第二输出数据，确定每个第二输入数据中的目标特征信息对输出数据的影响度；

根据每个第二输入数据中的目标特征信息对输出数据的影响度，生成所述第一输入数据通过所述第一机器学习模型得到所述第一输出数据的解释信息。

另一方面，提供了一种解释信息获取装置，所述装置包括：

第一预测模块，用于通过第一机器学习模型对第一输入数据进行预测，得到第一输出数据；

第一确定模块，用于根据所述第一输入数据的多个特征信息的分布信息，确定所述第一输入数据中的目标特征信息和所述目标特征信息的调整量；

数据调整模块，用于根据所述目标特征信息和所述目标特征信息的调整量，对所述第一输入数据进行调整，得到多个第二输入数据，通过所述第一机器学习模型对所述多个第二输入数据进行预测，得到多个第二输出数据；

第二确定模块，用于根据所述第一输出数据和所述多个第二输出数据，确定每个第二输入数据中的目标特征信息对输出数据的影响度；

生成模块，用于根据每个第二输入数据中的目标特征信息对输出数据的影响度，生成所述第一输入数据通过所述第一机器学习模型得到所述第一输出数据的解释信息。