[发明专利]一种基于对比学习的自监督图神经网络方法在审
申请号: | 202310135025.1 | 申请日: | 2023-02-20 |
公开(公告)号: | CN115983351A | 公开(公告)日: | 2023-04-18 |
发明(设计)人: | 王波;国英龙;贾智洋;李志胜;王伟;徐振宇;杨铭锴;刘彦北 | 申请(专利权)人: | 思腾合力(天津)科技有限公司 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/0895;G06F16/901;G06Q50/00;G16C20/30 |
代理公司: | 北京圣州专利代理事务所(普通合伙) 11818 | 代理人: | 李春 |
地址: | 301799 天津市滨海新*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 对比 学习 监督 神经网络 方法 | ||
本发明公开了一种基于对比学习的自监督图神经网络方法,包括以下步骤:收集原始图数据‑生成正样本图数据和负本图数据‑对原始图数据以及生成的正样本图数据和负样本图数据进行编码‑将原始图数据的节点表示进行读出操作,得到对应于全局的图表示,而后得到全局信息,同时将原图数据和正样本图的节点表示进行对比得到局部信息‑‑拉近正样本图数据在表征空间中的距离,同时拉远负样本图数据在表征空间中的距离。本发明采用上述基于对比学习的自监督图神经网络方法,在不依赖标签数据的前提下,只利用数据本身的自监督信号学习得到判别性的节点表示,可以广泛地应用化学分子性质预测、生物蛋白质功能预测、社交网络分析等领域。
技术领域
本发明涉及一种神经网络技术,尤其涉及一种基于对比学习的自监督图神经网络方法。
背景技术
图结构数据已经被应用在知识图谱、电子商务、社交网络、化学分子结构等领域,具有广泛的应用价值。随着图数据越来越广泛的应用,学习得到优秀的节点表示也愈发重要。图表示学习需要将高维度的图数据降维至低维空间中,以去除特征冗余,得到具有表现力的节点表示用于上述任务。
但是目前多数图神经网络研究集中在有监督或半监督的学习场景中。尽管这些研究取得了成功,但对标签的严重依赖带来以下缺点:首先,手工标签的成本昂贵,特别是对于拥有大规模数据集的研究领域(例如,引文和社会网络)。其次,有监督学习场景通常由于过度匹配问题而泛化较差,特别是在训练数据稀缺的情况下。最后,有监督图深度学习模型容易受到与标签相关的对抗性攻击,导致图监督学习的健壮性较弱。
目前,在图领域,对比学习已经被证明是一种可行的方法,并且取得了不错的成果。但是由于图数据的复杂性,导致目前的方法在提取节点以及其邻居信息时不能够兼顾局部信息和全局信息,从而不能够获得不同节点之间的差异性信息,使得编码得到的节点表示的表现力较差。
发明内容
为解决上述问题,本发明提供一种基于对比学习的自监督图神经网络方法,可以通过执行不同的对比策略,挖掘图数据中丰富的局部和全局信息,有效地提高了学习得到的节点表示的质量。
为实现上述目的,本发明提供了一种基于对比学习的自监督图神经网络方法,包括以下步骤:
S1、收集原始图数据;
S2、对收集到的图数据进行图增强,生成正样本图数据和负本图数据;
S3、对原始图数据以及生成的正样本图数据和负样本图数据进行编码,得到节点表示;
S4、将原始图数据的节点表示进行读出操作,得到对应于全局的图表示,将负样本图数据中的节点表示以及原图数据中的节点表示与图表示进行对比得到全局信息,同时将原图数据和正样本图的节点表示进行对比得到局部信息;
S5、通过最小化目标函数,拉近正样本图数据在表征空间中的距离,同时拉远负样本图数据在表征空间中的距离,让节点学习到全局的语义信息,从而提高学习到的节点表示质量。
优选的,在步骤S1中,定义一个图数据集:将无向图定义为它们的节点集用表示,其中,vi代表节点i;节点特征矩阵用表示,其中,xi表示节点vi的特征向量,N代表节点数量,d0代表节点的特征维度;代表图的邻接矩阵,其中,边ei,j=(vi,vj)∈ε表示着节点vi和vj具有链接关系,|E|表示边的数量。
优选的,在步骤S2中,首先,给定一个图数据其拥有节点特征矩阵以及邻接矩阵则定义一个增强图生成负样本:其中,是部分扰乱的节点集,是一个索引函数,用来自特征矩阵的节点向量vi,断开负样本图数据之间的节点级链接;再定义一个增强图生成正样本:M是与特征矩阵X具有相同形状大小的0,1掩码矩阵,表示Hadamard乘积。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于思腾合力(天津)科技有限公司,未经思腾合力(天津)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310135025.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种MEMS陀螺仪及其制作方法
- 下一篇:开关电源及其控制电路、光伏系统