[发明专利]一种基于时空稀疏学习的鲁棒图卷积神经网络方法

说明书

本发明公开了一种基于时空稀疏学习的鲁棒图卷积网络方法。本发明方法通过TopK函数在每个节点上实现空间稀疏性，并提出一种基于时间稀疏性的关注机制，即根据不同的激活频率为特征空间的每个维度分配不同的权重。本发明提供了一种改进版的图卷积神经网络，在保持原有网络精度的同时，具有较高的鲁棒性，提升模型面对噪声的抗干扰能力。

技术领域

本发明属于图的对抗攻击与防御领域，尤其涉及一种使用时空稀疏学习提高模型面对扰动的鲁棒性的领域。

背景技术

近年来，图神经网络(GNN)在社交网络，化学成分结构，生物基因蛋白等各种图结构数据上的成功应用引起了越来越多的关注。但是，最近的工作指出，GNN容易受到对抗攻击，这可能会使安全关键的GNN应用程序崩溃，例如自动驾驶，医疗诊断。

GNN对抗攻击的主要思想是更改图结构的拓扑信息或节点的特征信息以有意干扰分类器。在生成图的对抗攻击方面，Dai等人研究了基于强化学习的非目标规避攻击RL-S2V[1]。而Zugner提出了一种中毒攻击方法Nettack，可以更改训练数据以对目标节点进行错误分类[2]。此外，Zugner等人还提出在训练过程中使用元梯度来解决攻击中的最小-最大问题，并提出了一种降低整体分类性能的攻击方法[3]。另一方面，Xu等人通过凸松弛简化了图的离散问题，从而提出了基于梯度的拓扑攻击[4]。

在提升图上的鲁棒性的方法方面，Wu等人通过保留与其节点具有较高Jaccard相似度的相邻节点来提高模型的鲁棒性[5]。RGCN模型使用高斯分布作为图的所有卷积层中节点的隐藏表示，并通过注意力机制吸收对抗性攻击的影响来降低高斯分布的方差[6]。Zugner等人提出了仅针对节点属性的扰动而基于凸松弛的稳健证明，并使用半监督属性来提高模型的稳健性[7]。PA-GNN模型学习通过类似域的其他干净图的信息来惩罚扰动的能力，并将其转移到目标中毒图[8]。

与现有提升图上的鲁棒性的方法不同，本专利建议从时空稀疏性的角度构造图上的健壮的特征空间并在图中传播每个节点的健壮的特征表示，而不针对特定的扰动。本专利的动机是表明健壮模型与常规模型不同，其不同之处在于健壮的模型倾向于学习更有意义的更加显著的数据特征[9]。这种现象促使本专利采用稀疏表示来构造健壮的特征表示，只保留显著的特征，以减少弱相关特征的影响，进而提高模型的鲁棒性。同时，这种稀疏表示已在计算神经科学中得到广泛使用[10]。

因此，本专利提出了一种稀疏表示学习框架(ST-SparseGCN)，以提高GNN模型的鲁棒性。提出的框架不仅可以学习通过空间稀疏化激活最显着的特征，而且可以通过时间稀疏化学习扩展潜在的活动特征集，以便可以从较大的显着特征池中动态选择活动特征，进而增强了模型泛化能力。

发明内容

发明目的：本发明提供了一种基于时空稀疏学习的鲁棒图卷积神经网络方法(ST-SparseGCN)，有效提高模型适应扰动的影响，提高存在扰动情况下的节点识别的准确率，提升模型的稳健性和鲁棒性。

技术方案：为实现上述目的，本发明采用的技术方案为：

一种基于时空稀疏学习的鲁棒图卷积神经网络方法(ST-SparseGCN)，包括以下步骤：

步骤1)给定图结构数据，包含用来表示节点特征的特征向量矩阵X、用来表示图中的连接关系的邻接矩阵A以及对应的节点类别标签，初始化激活频率矩阵

步骤2)将图结构数据输入图卷积神经网络层，得到各个节点的隐藏特征表示。

步骤3)将各个节点的隐藏特征表示输入空间稀疏化模块，得到各个节点的稀疏隐藏特征表示。

步骤4)根据稀疏隐藏特征表示的激活位置，更新激活频率矩阵。

步骤4-1)统计稀疏隐藏特征表示中未被置0的特征值的维度。

步骤4-2)在时间权重矩阵中将与所统计的维度的相同位置加1。