[发明专利]一种面向图神经网络的标签感知协同训练方法在审
申请号: | 202110697015.8 | 申请日: | 2021-06-23 |
公开(公告)号: | CN113361627A | 公开(公告)日: | 2021-09-07 |
发明(设计)人: | 王杰;贺华瑞;张占秋;陈佳俊 | 申请(专利权)人: | 中国科学技术大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京凯特来知识产权代理有限公司 11260 | 代理人: | 郑立明;付久春 |
地址: | 230026 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 面向 神经网络 标签 感知 协同 训练 方法 | ||
本发明公开了一种面向图神经网络的标签感知协同训练方法,包括:步1,用图神经网络将已知标签沿连边传播估计出各结点初步标签取值分布,衡量各结点的初步标签取值分布属于某类的初步预测置信度;步2,为初步预测置信度最高的预定个数结点标注伪标签形成增广的有标注图结构数据集;步3,利用图神经网络学习各结点的向量表示并做出全局预测,得出未标注结点的最终预测值;步4,将最终预测值作为未标注结点的初始标签,重复步1至步4,得出各未标注结点的最终分类结果。通过充分利用少量已知标签建模全局标签依赖性,结合标签传播和图神经网络特征传播优势,将全局标签依赖信息隐式融入图神经网络训练过程,得到更客观结点表示,提升分类性能。
技术领域
本发明涉及图神经网络的半监督目标分类领域,尤其涉及一种面向图神经网络的标签感知协同训练方法。
背景技术
图神经网络以图结构数据作为输入,根据“相邻的结点具有相似性”这一假设,对图中结点采用聚合其周围结点信息作为自身的表征的方式,将图中结点映射为连续向量空间中的向量,使得结构上相近的结点在嵌入空间中有相似的向量表示。近年来,面向半监督目标分类的图神经网络技术在诸如网页分类、语音识别、图像检测和蛋白质性质预测等领域取得了巨大的成就。
现有的图神经网络(包括图卷积网络-GCN、图注意力网络-GAT等)训练方式主要关注局部的结点特征信息,而对少量的已知标签利用不足,没有考虑全局的标签依赖信息。例如,图卷积网络(GCN)通过堆叠一阶Chebyshev过滤层来简化图信号的频域卷积操作,堆叠层数即考虑的邻居结点跳数,层数越少则考虑的局部范围越小;图注意力网络(GAT)通过为不同邻居结点赋值大小不一的权重来区分亲疏远近的邻居结点。上述两种经典的图神经网络都没有充分利用已知标签的信息,仅将已知标签作为监督信号,独立地对每个结点做误差反向传播。
这样的训练过程隐式地假设了给定邻域特征后,各结点的标签是条件独立的。该假设违背了传统的统计关系学习方法所认为的各结点的标签之间是存在依赖和影响关系的的基本观点。这也就限制了图神经网络的性能表现,造成现有图神经网络训练方式的缺陷与不足。
发明内容
针对现有技术所存在的问题,本发明的目的是提供一种面向图神经网络的标签感知协同训练方法,能解决现有训练方法并未有效利用各结点的标签之间存在的依赖和影响关系,存在限制图神经网络的性能表现,造成现有图神经网络训练方式存在缺陷与不足的问题。
本发明的目的是通过以下技术方案实现的:
本发明实施方式提供一种面向图神经网络的标签感知协同训练方法,用于通过图神经网络为图结构数据集中的未标注结点进行分类,所述图结构数据集由已标注结点集合和未标注结点集合组成,所述已标注结点集合占所述图结构数据集的总结点数量小于等于1%,包括:
步骤1,设定图神经网络的网络层数L、协同训练回合数K、标签传播迭代轮数T、标签传播权重α和协同训练每回合标注伪标签个数m,将所述图结构数据集对应的图邻接矩阵A、归一化邻接矩阵结点特征矩阵X和已标注结点的已知标签YL输入所述图神经网络进行处理;
步骤2,所述图神经网络通过将已标注结点的已知标签沿着连边传播估计出每个结点初步的标签取值分布F(T),用基尼系数衡量每个结点初步的标签取值分布属于某类的初步预测置信度;
所述每个结点初步的标签取值分布F(T)的迭代计算公式为:F(t)=αSF(t-1)+(1-α)Y,t取值为1至T,表示未标注结点的初始标签,是所述图神经网络对未标注结点的预测值,第一回合协同训练中为空,每一回合训练中所述公式F(t)=αSF(t-1)+(1-α)Y的迭代执行次数为T次;
步骤3,为初步预测置信度最高的预定m个结点标注伪标签形成增广的有标注图结构数据集Ltrain;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学技术大学,未经中国科学技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110697015.8/2.html,转载请声明来源钻瓜专利网。