[发明专利]实体对象分类结果的解释方法和装置

权利要求书

1.一种实体对象分类结果的解释方法，用于对用户分类结果进行解释，所述方法包括：

获取输入分类模型的业务数据，以及所述业务数据对应的实体对象的分类结果，所述模型是多层神经网络模型，所述多层神经网络模型隐藏层的激活函数为分段线性激活函数，所述业务数据是所述用户的特征数据；

针对所述业务数据的每个特征，根据所述分类结果对所述特征求梯度，得到该特征的特征梯度；

根据各个特征的特征梯度对所述实体对象的分类结果进行解释；

所述根据各个特征的特征梯度对所述实体对象的分类结果进行解释，包括：

针对每个解释维度，汇总该解释维度下各特征的特征梯度，得到该解释维度的解释参数；其中，所述特征梯度代表对应特征的权重，所述解释参数用于指示对应解释维度下各个特征对分类结果的影响程度。

2.根据权利要求1所述的方法，

所述分类结果包括不同类别的概率值；

所述根据所述分类结果对所述特征求梯度，得到该特征的特征梯度，包括：

利用待解释类别对应的神经元输出的概率值对所述特征求梯度，作为所述特征的特征梯度。

3.根据权利要求1所述的方法，

所述分类结果包括不同类别的概率值；

当所述分类模型为二分类模型时，所述根据所述分类结果对所述特征求梯度，得到该特征的特征梯度，包括：

利用非待解释类别对应的神经元输出的概率值对所述特征求梯度，将求得的梯度值的相反数作为所述特征的特征梯度。

4.根据权利要求1所述的方法，还包括：

判断所述分类结果是否符合待解释分类结果；

若是，则执行求特征梯度的步骤。

5.一种实体对象分类结果的解释装置，用于对用户分类结果进行解释，所述装置包括：

获取结果单元，获取输入分类模型的业务数据，以及所述业务数据对应的实体对象的分类结果，所述模型是多层神经网络模型，所述多层神经网络模型隐藏层的激活函数为分段线性激活函数，所述业务数据是所述用户的特征数据；

梯度计算单元，针对所述业务数据的每个特征，根据所述分类结果对所述特征求梯度，得到该特征的特征梯度；

结果解释单元，根据各个特征的特征梯度对所述实体对象的分类结果进行解释；

所述根据各个特征的特征梯度对所述实体对象的分类结果进行解释，包括：

针对每个解释维度，汇总该解释维度下各特征的特征梯度，得到该解释维度的解释参数；其中，所述特征梯度代表对应特征的权重，所述解释参数用于指示对应解释维度下各个特征对分类结果的影响程度。

6.根据权利要求5所述的装置，所述分类结果包括不同类别的概率值；

所述梯度计算单元：

利用待解释类别对应的神经元输出的概率值对所述特征求梯度，作为所述特征的特征梯度。

7.根据权利要求5所述的装置，所述分类结果包括不同类别的概率值；

当所述分类模型为二分类模型时，所述梯度计算单元：

利用非待解释类别对应的神经元输出的概率值对所述特征求梯度，将求得的梯度值的相反数作为所述特征的特征梯度。

8.根据权利要求5所述的装置，所述梯度计算单元：

判断所述分类结果是否符合待解释分类结果；

若是，则执行求特征梯度的步骤。

9.一种实体对象分类结果的解释装置，用于对用户分类结果进行解释，包括：

处理器；

用于存储机器可执行指令的存储器；

其中，通过读取并执行所述存储器存储的与实体对象分类结果的解释逻辑对应的机器可执行指令，所述处理器被促使：

获取输入分类模型的业务数据，以及所述业务数据对应的实体对象的分类结果，所述模型是多层神经网络模型，所述多层神经网络模型隐藏层的激活函数为分段线性激活函数，所述业务数据是所述用户的特征数据；

针对所述业务数据的每个特征，根据所述分类结果对所述特征求梯度，得到该特征的特征梯度；

根据各个特征的特征梯度对所述实体对象的分类结果进行解释；

所述根据各个特征的特征梯度对所述实体对象的分类结果进行解释，包括：

针对每个解释维度，汇总该解释维度下各特征的特征梯度，得到该解释维度的解释参数；其中，所述特征梯度代表对应特征的权重，所述解释参数用于指示对应解释维度下各个特征对分类结果的影响程度。