[发明专利]一种基于时空稀疏学习的鲁棒图卷积神经网络方法在审
申请号: | 202110257211.3 | 申请日: | 2021-03-09 |
公开(公告)号: | CN112906869A | 公开(公告)日: | 2021-06-04 |
发明(设计)人: | 张亚;鲁鸣鸣;李泽鹏;熊海裕;田卓林 | 申请(专利权)人: | 中南大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06K9/62 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 410083 湖南*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 时空 稀疏 学习 图卷 神经网络 方法 | ||
1.一种基于时空稀疏学习的鲁棒图卷积神经网络方法,其特征在于,包含以下步骤:
步骤1)给定图结构数据,包含用来表示节点特征的特征向量、用来表示图中的连接关系的邻接矩阵以及对应的节点类别标签,初始化激活频率矩阵
步骤2)将图结构数据输入图卷积神经网络层,得到各个节点的隐藏特征表示
步骤3)将各个节点的隐藏特征表示输入空间稀疏化模块,得到各个节点的稀疏隐藏特征表示
步骤4)根据稀疏隐藏特征表示的激活位置,更新激活频率矩阵
步骤5)通过激活频率矩阵生成时间权重矩阵
步骤6)将时间权重矩阵赋予各个节点的稀疏隐藏特征表示,得到各个节点的时空稀疏隐藏特征表示
步骤7)重复步骤2)至步骤6),构成多层的图卷积神经网络,并训练整个模型
步骤8)利用训练好的模型,评估不带有扰动和带有扰动的测试节点的类别。
2.根据权利要求1所述的一种基于时空稀疏学习的鲁棒图卷积神经网络方法,其特征在于,所述步骤1)初始化时间权重矩阵是指:初始化与隐藏特征表示的维度一致的全零矩阵。
3.根据权利要求1所述的一种基于时空稀疏学习的鲁棒图卷积神经网络方法,其特征在于,所述步骤2)将图结构数据输入图卷积神经网络层,图卷积神经网络层是指:一种半监督的节点分类模型,可以学出每个节点的隐藏表示,其第l+1层所有节点的隐藏向量可用第l层的隐藏向量递归地表示,如下所示:
其中,是通过在邻接矩阵A上添加单位矩阵IN后构建的包含自循环的邻接矩阵,W(l)是需训练的权重矩阵,是度矩阵,σ(·)是激活函数。在第一层我们输入的是节点的特征矩阵H(0)=X,在其它层则是经过时空稀疏学习的时空稀疏隐藏特征表示所构成的矩阵。
4.根据权利要求1所述的一种基于时空稀疏学习的鲁棒图卷积神经网络方法,其特征在于,所述步骤3)的空间稀疏化模块是由TopK函数来实现。对于每个节点的隐藏特征表示而言,TopK函数只保留节点隐藏特征表示中所有的特征值中前K大的特征值,将其余特征值全部置0。
5.根据权利要求1所述的一种基于时空稀疏学习的鲁棒图卷积神经网络方法,其特征在于,所述步骤3)的稀疏隐藏特征表示是指:只保留了少量特征值的隐藏特征表示,是由TopK函数实现的。
6.根据权利要求1所述的一种基于时空稀疏学习的鲁棒图卷积神经网络方法,其特征在于,所述步骤4)包括如下步骤:
步骤4-1,统计稀疏隐藏特征表示中未被置0的特征值的维度。
步骤4-2,在时间权重矩阵中将与所统计的维度的相同位置加1。
7.根据权利要求1所述的一种基于时空稀疏学习的鲁棒图卷积神经网络方法,其特征在于,所述步骤5)的具体步骤为通过指数平滑函数来生成时间权重矩阵,其表达式为:
其中,为时间权重矩阵,Bt为激活频率矩阵,γ为超参数。
8.根据权利要求1所述的一种基于时空稀疏学习的鲁棒图卷积神经网络方法,其特征在于,所述步骤6)所述时空稀疏隐藏特征表示的生成步骤为:时间权重矩阵点乘通过图卷积网络层和Top函数生成的稀疏隐藏特征表示。
9.根据权利要求1所述的一种基于时空稀疏学习的鲁棒图卷积神经网络方法,其特征在于,所述步骤7),多层模型计算后通过Softmax函数得到预估的节点分类作为模型的输出,训练过程中的损失函数L为输出样本与部分标记样本VL之间的类标签的交叉熵,以半监督的方式学习最佳参数θ:
其中,θ表示所有参数的集合,cv表示训练集中给定的标记样本的标签,训练之后的zv表示每个节点实例的类概率。
10.根据权利要求1所述的一种基于时空稀疏学习的鲁棒图卷积神经网络方法,其特征在于,所述步骤8),带有扰动的测试节点一方面是指该节点与其他节点有错误的联系,或者丢失部分与原有的相邻节点的联系,即在图上与其他节点有异常的边连接,或者是丢失部分与相邻节点的边,另一方面是指该节点自身的特征存在异常的特征。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中南大学,未经中南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110257211.3/1.html,转载请声明来源钻瓜专利网。