[发明专利]评估模型解释工具的方法和装置

权利要求书

1.一种评估模型解释工具的方法，所述方法基于预先获取的多个训练样本进行，其中，每个所述训练样本包括业务对象的多个特征的特征值，所述方法包括：

使用所述多个训练样本训练第一模型，以获取具有第一参数组的第一模型，所述第一模型为自解释型模型；

基于所述具有第一参数组的第一模型的自解释，获取所述多个特征的第一重要性排序；

基于所述多个训练样本和所述第一参数组，通过模型解释工具获取所述多个特征的第二重要性排序；

确定所述第二重要性排序与所述第一重要性排序的相似度，以用于评估所述模型解释工具。

2.根据权利要求1所述的方法，所述第一模型为以下任一模型：线性回归模型、逻辑回归模型、支持向量机模型、树模型、贝叶斯模型、KNN模型、具有限定网络结构的神经网络模型。

3.根据权利要求1所述的方法，其中，所述第一参数组中包括的多个参数与所述多个特征分别对应，其中，基于所述具有第一参数组的第一模型的自解释，获取所述多个特征的第一重要性排序包括，基于所述第一参数组中各个参数的绝对值大小，获取所述多个特征的第一重要性排序。

4.根据权利要求1所述的方法，其中，确定所述第二重要性排序与所述第一重要性排序的相似度包括，基于所述第一重要性排序，确定所述第二重要性排序中每两个特征的重要性排序的准确性，以确定所述第二重要性排序与所述第一重要性排序的相似度。

5.根据权利要求1所述的方法，其中，所述方法被执行多次以获取多个相似度，其中，在对所述方法的每次执行中，所述第一模型为与其它各次执行不同的自解释型模型，所述方法还包括，在获取多个相似度之后，基于所述多个相似度计算平均相似度，以用于评估所述模型解释工具。

6.根据权利要求1所述的方法，其中，所述业务对象为网络平台中的以下一个或多个对象：用户、商户、商品、交易。

7.根据权利要求6所述的方法，其中，所述业务对象为平台用户，每个训练样本包括用户的风险值作为标签值，所述模型解释工具用于对风险控制模型进行模型解释。

8.一种评估模型解释工具的装置，所述装置基于预先获取的多个训练样本进行，其中，每个所述训练样本包括业务对象的多个特征的特征值，所述装置包括：

训练单元，配置为，使用所述多个训练样本训练第一模型，以获取具有第一参数组的第一模型，所述第一模型为自解释型模型；

第一排序单元，配置为，基于所述具有第一参数组的第一模型的自解释，获取所述多个特征的第一重要性排序；

第二排序单元，配置为，基于所述多个训练样本和所述第一参数组，通过模型解释工具获取所述多个特征的第二重要性排序；

确定单元，配置为，确定所述第二重要性排序与所述第一重要性排序的相似度，以用于评估所述模型解释工具。

9.根据权利要求8所述的装置，所述第一模型为以下任一模型：线性回归模型、逻辑回归模型、支持向量机模型、树模型、贝叶斯模型、KNN模型、具有限定网络结构的神经网络模型。

10.根据权利要求8所述的装置，其中，所述第一参数组中包括的多个参数与所述多个特征分别对应，其中，所述第一排序单元还配置为，基于所述第一参数组中各个参数的绝对值大小，获取所述多个特征的第一重要性排序。

11.根据权利要求8所述的装置，其中，所述确定单元还配置为，基于所述第一重要性排序，确定所述第二重要性排序中每两个特征的重要性排序的准确性，以确定所述第二重要性排序与所述第一重要性排序的相似度。