[发明专利]用于解释人工智能模型的方法、装置及系统

说明书

本公开提供了一种用于解释人工智能模型的方法、装置及系统，该方法包括：获取人工智能模型的第一解释结果；所述第一解释结果为基于所述人工智能模型的特征字段所表示的解释结果；获取所述特征字段与业务含义的关联关系；基于所述关联关系，将所述第一解释结果中的所述特征字段替换成关联的业务含义，得到所述人工智能模型的第二解释结果；基于所述第二解释结果，生成所述人工智能模型的解释报告。

技术领域

本发明涉及人工智能技术领域，更具体地，涉及一种用于解释人工智能模型的方法、装置及系统。

背景技术

随着大数据和人工智能技术的不断发展，人工智能模型得到了广泛的应用，但其模型的深度和复杂度远远超出了人类理解的范畴，或者称之为黑盒。当一个人工智能模型泛化性能很好时，可以通过交叉验证验证其准确性，并将其应用在生产环境中。但是，用户很难去感知这个模型在进行决策时考虑了哪些重要特征，基于什么样的判断逻辑做出最终的决策。

在很多场景下，使用人工智能模型的用户需要明确人工智能模型的决策依据。另外，对人工智能模型进行解释也可以帮助用户进一步改善人工智能模型，优化人工智能模型的特征，提高人工智能模型的泛化性。

因此，提出一种能够解释人工智能模型的方案是十分有价值的。

发明内容

本说明书的一个目的是提供一种用于解释人工智能模型的新技术方案。

根据本说明书的第一方面，提供了一种用于解释人工智能模型的方法，包括：

获取人工智能模型的第一解释结果；所述第一解释结果为基于所述人工智能模型的特征字段所表示的解释结果；

获取所述特征字段与业务含义的关联关系；

基于所述关联关系，将所述第一解释结果中的所述特征字段替换成关联的业务含义，得到所述人工智能模型的第二解释结果；

基于所述第二解释结果，生成所述人工智能模型的解释报告。

可选的，第一解释结果包括所述特征字段的重要性分析结果；

所述重要性分析结果包括所述特征字段以及所述特征字段在所述人工智能模型进行决策时的参考权重。

可选的，还包括：

对所述第二解释结果进行优化；

所述基于所述第二解释结果，生成所述人工智能模型的解释报告包括：

根据优化后的第二解释结果，生成所述人工智能模型的解释报告。

可选的，对所述第二解释结果进行优化包括：

基于所述第二解释结果中与所述重要性分析结果对应的内容，构建解释图谱；其中，所述解释图谱中的节点包括所述业务含义和预设的业务类型；

所述解释图谱的边表示所述业务含义与所述业务类型之间的映射关系；

根据所述解释图谱，确定每一业务类型所连接的至少一个业务含义；

对于每一所述业务类型，对所连接的业务含义的参考权重求和，得到对应业务类型的参考权重；

根据所述业务类型和所述业务类型的参考权重，得到所述优化后的第二解释结果中与所述重要性分析结果对应的内容。

可选的，根据所述业务类型和所述业务类型的参考权重，得到所述优化后的第二解释结果中与所述重要性分析结果对应的内容，包括：

基于所述业务类型的参考权重对所述业务类型进行降序排序，得到每一所述业务类型的第一排序值；