[发明专利]一种基于元结构和图神经网络的网络表征学习方法有效
申请号: | 202010573056.1 | 申请日: | 2020-06-22 |
公开(公告)号: | CN111737535B | 公开(公告)日: | 2022-10-18 |
发明(设计)人: | 熊贇;徐攸;朱扬勇 | 申请(专利权)人: | 复旦大学 |
主分类号: | G06F16/901 | 分类号: | G06F16/901;G06F16/907;G06F17/16;G06N3/04;G06N3/08 |
代理公司: | 上海德昭知识产权代理有限公司 31204 | 代理人: | 郁旦蓉 |
地址: | 200433 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 结构 神经网络 网络 表征 学习方法 | ||
1.一种基于元结构和图神经网络的网络表征学习方法,用于将学术信息网站的异质信息网络输入到网络表征学习模型生成向量表征,其特征在于,包括:
数据准备,通过网络获取论文和会议的相关信息,并将所述相关信息处理形成一个带有节点属性的异质信息网络;其中,节点包括作者节点A、论文节点P、会议节点C和主题节点T;
网络表征学习,将所述异质信息网络输入到经过表征学习训练后得到的所述网络表征学习模型;
向量表征获取,将所述网络表征学习模型输出的表征作者节点A的节点信息的最终节点作为所述异质信息网络的所述向量表征,
所述向量表征表示该最终节点的节点信息以及在所述异质信息网络上所有与该最终节点具有相关性的节点信息,该向量表征至少应用于其他子分类型学习机器领域,从而完成对所述异质信息网络中节点信息的分类处理及后续应用,
其中,对所述网络表征学习模型进行的所述表征学习训练的具体步骤为:
训练数据集准备步骤,选取一个所述学术信息网站作为训练数据集,通过从该网站获取的论文和会议的节点信息,生成一个所述异质信息网络输入到所述网络表征学习模型,输入的所述异质信息网络使用邻接矩阵表示,包括作者与论文的邻接矩阵、主题与论文的邻接矩阵、论文与会议的邻接矩阵;
层次搜索步骤,根据输入的所述异质信息网络的网络模式和目标节点类型即作者节点以及预令的最大搜索深度来生成候选的元结构集合,根据层次搜索算法将所述元结构集合中的元结构进行对称补齐;其中,所述元结构集合包括作者节点与相关节点构成的子图;
计算矩阵步骤,将所述元结构分为单条路径元结构和多条路径元结构,分别通过单路径算法和多路径算法获得所述单条路径元结构和所述多条路径元结构各自对应的邻接矩阵,对所述邻接矩阵进行平衡链接重要性后获取矩阵元素;
邻居信息聚合步骤,基于所述元结构计算得到注意力系数,使用多头注意力机制算法,基于所述矩阵元素和所述注意力系数计算所有所述元结构的输出特征,对所有所述元结构使用转换矩阵进行转换,并将所有所述转换矩阵的结果加和作为最终节点;
计算交叉熵损失和梯度回传,通过交叉熵计算公式获得基于所述最终节点的交叉熵损失,通过梯度反向传播算法进行多轮的参数迭代直到所述交叉熵损失收敛,即将多个所述作者节点与所述训练数据集中多个作者的节点信息做比对,比对结果在误差范围内,完成对所述网络表征学习模型的所述表征学习训练。
2.根据权利要求1所述的一种基于元结构和图神经网络的网络表征学习方法,其特征在于:
其中,所述层次搜索算法为:
将所述元结构集合分为元结构候选集合和元结构搜索集合,将所述元结构候选集合设为空,将单独由所述目标节点类型构的图命名为目标节点图,
由所述目标节点类型开始,设置搜索层数为i设置为1,在所述元结构搜索集合中将所有所述目标节点图移除,搜索与所述目标节点类型距离为i的相关集合,将所述相关集合中的所有非空子集与所述目标节点图中的节点合并,合并结果为N子图,将所述N子图分别添加到所述元结构候选集合和所述元结构搜索集合,然后将所述搜索层数i设置为i+1,重复此过程直至i=所述最大搜索深度,
根据对称性将候选元结构集合中的元结构进行补齐。
3.根据权利要求1所述的一种基于元结构和图神经网络的网络表征学习方法,其特征在于:
其中,所述单路径算法为:
所述多路径算法为:
所述平衡链接重要性的计算过程为:
式中MP为所述单条路径元结构的所述邻接矩阵,MM3为所述多条路径元结构的邻接矩阵,ATiTj为节点类型Ti和节点类型Tj间的邻接矩阵,AAP、APA为作者与论文的邻接矩阵,APC、ACP为论文与会议的邻接矩阵,ATP、APT为主题与论文的邻接矩阵,为所述矩阵元素。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于复旦大学,未经复旦大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010573056.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:电话业务处理系统、方法、装置及移动终端
- 下一篇:全自动清雪排水一体机