[发明专利]模型解释方法以及电子设备

说明书

本申请实施例提供了一种模型解释方法以及电子设备。该方法包括：获取与待解释模型的类型对应的可解释性模型，并将经过待解释模型识别的n个实例数据输入可解释性模型，分别得到n个实例数据中每个实例数据的解释结果，n≥1，该实例数据的解释结果用于表征实例数据中的至少一个特征在待解释模型对实例数据进行识别时的权重，使得待解释模型输出的识别结果或者决策结果能够被理解，具有更高的可靠性。

技术领域

本申请实施例涉及人工智能技术领域，并且更具体地，涉及模型解释方法以及电子设备。

背景技术

在人工智能(Artificial Intelligence，AI)技术领域中，一些实现逻辑难以理解的复杂模型，常被视为黑盒子，导致这些复杂模型在识别或者决策的过程中具有难以评估的风险。因而如何对复杂模型的识别结果或者决策结果进行解释是当前亟待解决的问题。

发明内容

本申请实施例提供了一种模型解释方法以及电子设备，能够对复杂模型的识别结果或者决策结果进行解释。

第一方面，提供了一种模型解释方法，包括：获取与待解释模型的类型对应的可解释性模型；将经过该待解释模型识别的n个实例数据输入该可解释性模型，分别得到该n个实例数据中每个实例数据的解释结果，n≥1，该实例数据的解释结果用于表征该实例数据中的至少一个特征在该待解释模型对该实例数据进行识别时的权重。

第二方面，提供一种电子设备，包括：获取单元，用于获取与待解释模型的类型对应的可解释性模型；处理单元，用于将经过该待解释模型识别的n个实例数据输入该可解释性模型，分别得到该n个实例数据中每个实例数据的解释结果，n≥1，该实例数据的解释结果用于表征该实例数据中的至少一个特征在该待解释模型对该实例数据进行识别时的权重。

第三方面，提供一种电子设备，包括：处理器和存储器，该存储器用于存储计算机程序，处理器用于调用并运行存储器中存储的计算机程序，执行如第一方面或其各实现方式中的方法。

第四方面，提供一种计算机可读存储介质，用于存储计算机程序，计算机程序使得计算机执行如第一方面或其各实现方式中的方法。

第五方面，提供一种计算机程序产品，包括计算机程序指令，该计算机程序指令使得计算机执行如第一方面或其各实现方式中的方法。

第六方面，提供一种计算机程序，计算机程序使得计算机执行如第一方面或其各实现方式中的方法。

本申请实施例，将经过待解释模型识别的n个实例数据输入可解释性模型，得到n个实例数据中每个实例数据的解释结果，使待解释模型输出的识别结果或者决策结果能够被理解，具有更高的可靠性。进一步地，通过与待解释模型的类型对应的可解释性模型进行模型解释，实现了针对不同类型的待解释模型的自动匹配可解释性模型，不需要手动构建模型解释工具，提高了模型解释的便利性。

附图说明

图1为本申请实施例提供的一种电子设备100的架构示意图；

图2为本申请实施例提供的一种模型解释方法200的流程示意图；

图3为本申请实施例提供的一种分布式模型解释方法300的流程示意图；

图4为本申请实施例提供的一种模型解释方法400的流程示意图；

图5为本申请实施例提供的一种模型解释方法500的流程示意图；

图6为本申请实施例提供的一种电子设备600的示意性框图；

图7为本申请实施例提供的一种电子设备700示意性结构图。

具体实施方式