[发明专利]解释信息获取方法、装置、服务器和存储介质

权利要求书

1.一种解释信息获取方法，其特征在于，所述方法包括：

通过第一机器学习模型对第一输入数据进行预测，得到第一输出数据；

根据所述第一输入数据的多个特征信息的分布信息，确定所述第一输入数据中的目标特征信息和所述目标特征信息的调整量；

根据所述目标特征信息和所述目标特征信息的调整量，对所述第一输入数据进行调整，得到多个第二输入数据，通过所述第一机器学习模型对所述多个第二输入数据进行预测，得到多个第二输出数据；

根据所述第一输出数据和所述多个第二输出数据，确定每个第二输入数据中的目标特征信息对输出数据的影响度；

根据每个第二输入数据中的目标特征信息对输出数据的影响度，生成所述第一输入数据通过所述第一机器学习模型得到所述第一输出数据的解释信息。

2.根据权利要求1所述的方法，其特征在于，所述根据所述第一输出数据和所述多个第二输出数据，确定每个第二输入数据中的目标特征信息对输出数据的影响度，包括：

对于每个第二输出数据，确定所述第一输出数据与所述第二输出数据之间的第一变化量；

确定所述第一输入数据和所述第二输出数据对应的第二输入数据之间的第二变化量；

根据所述第一变化量、所述第二变化量和所述第二输入数据中的目标特征信息的数量，确定所述第二输出数据对应的第二输入数据中的目标特征信息对输出数据的影响度，所述影响度分别与所述第一变化量和所述数量正相关、与所述第二变化量负相关。

3.根据权利要求2所述的方法，其特征在于，所述根据每个第二输入数据中的目标特征信息对输出数据的影响度，生成所述第一输入数据通过所述第一机器学习模型得到所述第一输出数据的解释信息，包括：

根据每个第二输入数据中的目标特征信息对输出数据的影响度，从所述多个第二输入数据对应的第一变化量和第二变化量中，选择影响度大于第一预设阈值的至少一组目标变化量；

将所述至少一组目标变化量组成所述第一输入数据通过所述第一机器学习模型得到所述第一输出数据的解释信息。

4.根据权利要求3所述的方法，其特征在于，所述根据每个第二输入数据中的目标特征信息对输出数据的影响度，生成所述第一输入数据通过所述第一机器学习模型得到所述第一输出数据的解释信息之后，所述方法还包括：

根据所述至少一组目标变化量，确定所述至少一组目标变化量对应的目标特征信息的至少一个目标特征类别；

根据所述至少一个目标特征类别，更新用于从输入数据中提取特征信息的特征类别。

5.根据权利要求1所述的方法，其特征在于，所述根据所述第一输入数据的多个特征信息的分布信息，确定所述第一输入数据中的目标特征信息和所述目标特征信息的调整量，包括：

根据所述多个特征信息的分布信息和所述多个特征信息，确定每个特征信息对应的编码值；

将所述每个特征信息对应的编码值输入第一策略网络模型中，得到所述第一输入数据中的目标特征信息和调整量。

6.根据权利要求5所述的方法，其特征在于，所述方法还包括：

获取训练数据，所述训练数据包括第三输入数据和第三输出数据，所述第三输出数据为所述第三输入数据通过第二机器学习模型得到的输出数据；

根据所述第三输入数据和所述第三输出数据，确定正样本对应的目标特征信息和调整量；

根据所述正样本对应的目标特征信息和调整量，对第二策略网络模型进行模型训练，得到所述第一策略网络模型。