[发明专利]一种保持预测顺序和结构依赖关系的图神经网络解释方法

说明书

本发明属于神经网络解释技术领域，具体涉及一种保持预测顺序和结构依赖关系的图神经网络解释方法；该方法包括：获取原始图数据，将原始图数据输入待解释的图神经网络模型，得到原始的预测结果；采用掩码生成器对原始图数据进行掩码，得到掩码后的子图；将掩码后的子图输入到待解释的图神经网络模型，得到掩码后的预测结果；根据原始预测结果和掩码后的预测结果计算总损失；根据总损失优化掩码生成器，迭代更新掩码生成器参数，直到得到最优掩码生成器；采用最优掩码生成器对原始图数据进行掩码，得到掩码后的子图即原始预测结果的解释；本发明解释可对图神经网络的进行可靠的解释，实用性高。

技术领域

本发明属于神经网络解释技术领域，具体涉及一种保持预测顺序和结构依赖关系的图神经网络解释方法。

背景技术

在现实生活中，存在许多图数据，包括社交网络、知识图谱和蛋白质相互作用网络等。图神经网络(Graph neural networks，GNNs)将深度神经网络推广到图中，在一个连续的嵌入空间中学习图的表示，以便于下游任务。由于GNNs在表示图数据方面的出色能力，它在链接预测、图分类、节点分类等任务中表现出了优异的性能。

作为深层神经网络的推广，GNN多层叠加，利用非线性激活函数构造模型。尽管复杂的设计架构确保了其强大的图形表示能力，但它也存在不可解释的问题。GNN模型没有为解释其预测行为设计明确地目标函数，仅以端到端的方式优化参数。因此，GNN往往充当了一个黑匣子。由于其无法解释的模式，无法保证GNN模型的公平性和可信度，从而影响了GNN在关键应用中的广泛应用。

为此，很多学者开始研究图形神经网络的可解释性。这些方法通过确定对GNN的预测贡献最大的子图(特征/结构的子集)，对一个给定的具体实例进行解释。现有的基于扰动的图神经网络解释方法使用掩码生成器以边子集的形式生成解释。其中，当将原始图形和生成的子图输入到要解释的模型时，掩码生成器的优化由结果的差异来指导。这类方法的关键在于两点：第一是设计目标函数，用于在使用原始图形和生成的图形作为输入时评估预测结果的差异。第二是设计一个强大的掩码生成器，能够确定应该掩盖或保留的边缘。然而现有的研究方法在设计目标函数时没有考虑预测结果的顺序一致性问题，在设计掩码生成器时没有考虑图数据中存在结构依赖的关键特性，因此导致解释结果不能形成完整子图。

发明内容

针对现有技术存在的不足，本发明提出了一种保持预测顺序和结构依赖关系的图神经网络解释方法，该方法包括：

S1：获取原始图数据，将原始图数据输入待解释的图神经网络模型，得到原始的预测结果；其中，原始图数据是一种情感分析的图分类数据，每个图是一条句子，图中每个节点是一个词，边是词语之间的关系；

S2：采用掩码生成器对原始图数据进行掩码，得到掩码后的子图；

S3：将掩码后的子图输入到待解释的图神经网络模型，得到掩码后的预测结果；

S4：根据原始预测结果和掩码后的预测结果计算总损失；

S5：根据总损失优化掩码生成器，重复步骤S2～S4，直到得到最优掩码生成器；

S6：采用最优掩码生成器对原始图数据进行掩码，得到掩码后的子图即原始预测结果的解释。

优选的，采用掩码生成器对原始图数据进行掩码的过程包括：

S21：将原始图的节点转换为新图的边，将原始图的边转换为新图的节点，在新图中有数据流的节点间建立边；

S22：将新图输入到图注意力网络模型中进行处理，得到隐变量；

S23：根据隐变量，采用离散分布的重参数技巧计算每条边的重要性分数，根据边的重要性分数对原始图的边进行掩码，得到掩码后的子图。

优选的，得到隐变量的公式为：