[发明专利]一种基于梯度的图神经网络可解释性分析方法

权利要求书

1.一种基于梯度的图神经网络可解释性分析方法，其特征在于，包含以下步骤：

步骤1)向训练好参数的图神经网络输入图结构数据；

步骤2)递归计算图神经网络输出与输入之间所有前向传播路径的梯度；

步骤3)根据梯度解释各个输入节点对各个输出节点的影响大小。

2.根据权利要求1所述的一种基于梯度的图神经网络可解释性分析方法，其特征在于，所述步骤3)根据梯度解释各个输入节点对各个输出节点的影响大小，之后还包括：

步骤4)将各个输入节点对各个输出节点的影响大小进行可视化展示与分析。

3.根据权利要求1所述的一种基于梯度的图神经网络可解释性分析方法，其特征在于，所述步骤1)向训练好参数的图神经网络输入图结构数据，训练好参数的图神经网络是指：经过优化算法迭代计算后得到的较高预测准确率的图神经网络；图结构数据是指：包含节点和边的拓扑结构，其中节点和边可以拥有自身的特征向量。

4.根据权利要求1所述的一种基于梯度的图神经网络可解释性分析方法，其特征在于，所述图神经网络为图卷积神经网络，用来执行节点分类任务。图卷积神经网络由图卷积层堆叠构成，每个图卷积层汇聚该层中心节点的一跳邻居节点信息。

5.根据权利要求1所述的一种基于梯度的图神经网络可解释性分析方法，其特征在于，所述步骤2)递归计算图神经网络输出与输入之间所有前向传播路径的梯度，具体计算过程如下：

步骤2.1)分别找到影响各个输出节点的所有输入节点；

步骤2.2)分别找到这些输入节点到各个输出节点的所有前向传播路径；

步骤2.3)分别递归计算每条前向传播路径中输出节点与输入节点间的梯度值；

步骤2.4)对于参与某一输出节点计算过程的各个输入节点，将其多个前向传播路径的梯度值分别求和，得到它们各自对这一输出节点的总梯度值。

6.根据权利要求2所述的一种基于梯度的图神经网络可解释性分析方法，其特征在于，所述步骤4)将各个输入节点对各个输出节点的影响大小进行可视化展示与分析，具体展示与分析过程如下：

步骤4.1)在节点分类任务中，通过节点粒度和特征粒度两个方面，使用三个视图可视化展示K阶邻居节点对指定输出节点的影响大小；

步骤4.2)对于某一输出节点，选取参与计算的部分输入节点或节点特征维度，来进一步分析选中节点或维度对输出节点计算的影响大小。