[发明专利]面向图神经网络模型后门攻击的检测方法和装置

说明书

本发明公开了一种面向图神经网络模型后门攻击的检测方法和装置，包括：利用图数据对图神经网络模型进行训练，以优化图神经网络模型的参数；将图数据输入至参数优化的图神经网络模型中，计算图数据对应的损失函数，并对损失函数相对于图数据的邻接矩阵的反向求导以得到各连边对损失函数的重要程度值；依据重要程度值提取不同连边数的子图结构，并依据分类标签，将子图结构换分成与分类标签对应的多个子图库；针对每个子图库，依据子图结构之间的相似性计算子图结构的分布图；分析每个子图库对应的分布图中相似度值，依据相似度值的大小确定图神经网络模型是否被攻击。实现对图神经网络模型的后门攻击检测，来提高模型的安全性。

技术领域

本发明属于安全检测领域，具体涉及一种面向图神经网络模型后门攻击的检测方法和装置。

背景技术

图神经网络(GNN)解决图演化任务的过程中，同时也带来了许多的问题，而关于图神经网络模型的安全问题是在整个过程里尤为重要的部分。令人惊讶的是，尽管先前有很多关于连续数据(例如图像)的DNN的安全性工作，但对于离散结构数据(例如图)的图神经网络(GNN)的脆弱性知之甚少，鉴于其应用范围的增加，其安全性是一个高度令人担忧的问题。图神经网络模型在完成下游任务的过程中，需要大量的数据集来学习数据集信息，更新模型参数，使模型更好的完成下游任务，在这个过程中初始数据尤为关键。

其中，图神经网络的一个特性是其易受后门攻击的脆弱性，而后门攻击是通过设置好触发器的训练数据集训练模型，该模型能在应用阶段以高度可预测的方式响应带有触发器嵌入的数据输入，导致模型产生预先设置好的结果，对于输入模型的其他正常样本，模型则能正常运行。模型一旦在训练阶段被设置好了触发器，攻击者在模型的使用阶段，输入带有触发器嵌入的数据，将导致极其严重的后果。大多数模型的训练阶段都是尤为重要的，而训练过程这个阶段，正是攻击者给数据设置触发器的阶段，从而引发后门攻击。在训练模型所用的数据集，大部分都是来自第三方的网络，无法确保该数据集是否有被修改，导致模型遭受后门攻击，从而导致输出错误结果。为此，在图神经网络安全方面，如何对模型进行后门攻击的检测是尤为重要的。

图神经网络后门攻击这一领域，已经出现了不同的攻击方法，但对于后门攻击的检测方法，目前还处于空白状态，这使得图神经网络模型在安全这一块，时刻有遭受着后门攻击的危险，造成严重的后果。

发明内容

鉴于上述，本发明的目的是提供一种面向图神经网络模型后门攻击的检测方法和装置，实现对图神经网络模型的后门攻击检测，以尽可能减少后门攻击在图神经网络模型这一块所带来的损失，来提高模型的安全性。

第一方面，实施例提供了一种面向图神经网络模型后门攻击的检测方法，包括以下步骤：

利用图数据对图神经网络模型进行训练，以优化图神经网络模型的参数；

将图数据输入至参数优化的图神经网络模型中，计算图数据对应的损失函数，并对损失函数相对于图数据的邻接矩阵的反向求导以得到各连边对损失函数的重要程度值；

依据重要程度值提取不同连边数的子图结构，并依据分类标签，将子图结构换分成与分类标签对应的多个子图库；

针对每个子图库，依据子图结构之间的相似性计算子图结构的分布图；

分析每个子图库对应的分布图中相似度值，依据相似度值的大小确定图神经网络模型是否被攻击。

优选地，所述依据重要程度值提取不同连边数的子图结构包括：

对重要程度值进行降序排序得到连边重要性数据集；依据预设的不同连边数，从连边重要性数据集中提取相应连边数的最高重要程度值形成不同连边数的子图结构。

优选地，所述依据子图结构之间的相似性计算子图结构的分布图包括：