[发明专利]基于相互学习的图卷积神经网络节点分类方法、存储介质和终端有效
申请号: | 202011540958.1 | 申请日: | 2020-12-23 |
公开(公告)号: | CN112613559B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 匡平;高宇;李凡;彭江艳;黄泓毓;段其鹏;刘晨阳 | 申请(专利权)人: | 电子科技大学 |
主分类号: | G06F18/2415 | 分类号: | G06F18/2415;G06N3/0464;G06N3/042;G06N3/09;G06N3/047 |
代理公司: | 成都华风专利事务所(普通合伙) 51223 | 代理人: | 张巨箭 |
地址: | 610000 四川省成*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 相互 学习 图卷 神经网络 节点 分类 方法 存储 介质 终端 | ||
1.基于相互学习的图卷积神经网络节点分类方法,其特征在于:包括以下步骤:
将待分类数据输入训练后的相互学习网络,得到节点分类结果;所述相互学习网络包括的训练以下子步骤:
利用损失函数Lk,对包括三个及以上的学生网络的相互学习网络进行训练;所述损失函数Lk包括自身交叉熵损失函数和KL损失函数;所述损失函数包括:
式中,N表示学生网络的数量,k表示第k个学生网络,l表示除开第k个学生网络以外的学生网络,DKL(pl||pk)表示第k个学生网络相对第l个学生网络的KL损失,pl表示第l个学生网络的预测输出,pk表示第k个学生网络的预测输出;κ用于控制KL损失的权重,κ<1;
所述KL损失函数具体为:
式中,M表示学生网络输入中的标签label中类别的数量,表示学生网络l预测节点xi属于类别m的概率,也就是该网络的输出,表示学生网络k预测节点xi属于类别m的概率;
类别就是数据集中包含的类别信息,对于引文网络,每一个节点表示一篇论文,节点的类别就是论文所属的类别;
所述学生网络的输入包括P、X和label;X表示节点自身的特征,label表示所属的类别;
其中,构建一个Q×Q维的矩阵P,P中第i行第j列的值mij表示图中第i个和j个节点的连接状态,若两个节点为边连接则mij为1,若两个节点没有边连接则mij为0,其中,i=1,2……N,j=1,2……N;
所述学生网络包括s层顺次连接的GCN学生网络,其中第r+1层GCN学生网络的输出为式中σ为激活函数,是一个由P计算得来的矩阵其中D是P的度数矩阵,W(r)表示第r层的权值矩阵;H(0)即为初始输入X;
所述学生网络的输出即为H(s);
将引文网络上的每一篇论文看作图中的节点,则论文之间的引用关系可以看作是一条边,即论文i引用论文j或者论文j引用论文i,则节点i和节点j之间有一条边;每一篇论文都有自己的词向量,把词向量作为节点自身的特征,记为X;每一篇论文还有自己所属的类别,记为label;则整个网络的输入记为P,X和label。
2.根据权利要求1所述的基于相互学习的图卷积神经网络节点分类方法,其特征在于:所述自身交叉熵损失函数具体为:
式中,M表示学生网络输入中的标签label中类别的数量,yi表示该学生网络对第i个节点所属类别的预测值,信号函数
3.根据权利要求1所述的基于相互学习的图卷积神经网络节点分类方法,其特征在于:所述将待分类数据输入训练后的相互学习网络,得到节点分类结果包括投票机制或随机机制:
所述投票机制包括:将相互学习网络中的每一个学生网络作为单独的分类器,对于每个待分类数据输入至每一个学生网络,得到多个预测输出,以少数服从多数的形式输出最终节点分类结果;
所述随机机制包括:随机采用其中一个学生网络作为分类器,将待分类数据输入该学生网络,得到节点分类结果。
4.根据权利要求3所述的基于相互学习的图卷积神经网络节点分类方法,其特征在于:当对模型大小或者参数数量有限制,则采用随机机制;当对模型大小或者参数数量没有限制而要求模型准确率,则使用投票机制。
5.根据权利要求1所述的基于相互学习的图卷积神经网络节点分类方法,其特征在于:所述三个及以上的学生网络的结构不同。
6.根据权利要求5所述的基于相互学习的图卷积神经网络节点分类方法,其特征在于:所述结构不同为隐藏层神经元的个数不同。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011540958.1/1.html,转载请声明来源钻瓜专利网。