[发明专利]异质图神经网络生成方法、装置、电子设备及存储介质有效
申请号: | 201910349275.9 | 申请日: | 2019-04-28 |
公开(公告)号: | CN110046698B | 公开(公告)日: | 2021-07-30 |
发明(设计)人: | 石川;王啸;纪厚业 | 申请(专利权)人: | 北京邮电大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京柏杉松知识产权代理事务所(普通合伙) 11413 | 代理人: | 丁芸;项京 |
地址: | 100876 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 异质图 神经网络 生成 方法 装置 电子设备 存储 介质 | ||
1.一种异质图神经网络生成方法,其特征在于,包括:
获取待处理数据的各目标节点向量,其中,所述目标节点为不同类型的节点,所述不同类型的节点包括:电影、演员、导演;或,所述不同类型的节点包括:论文、作者、主题;或,所述不同类型的节点包括:论文,作者,会议;
通过预设深度学习算法对所述各目标节点向量进行分析,得到所述各目标节点向量的节点级别的注意力;
通过第一预设公式对所述各目标节点的节点级别的注意力进行归一化,得到所述各目标节点向量的权重系数;
通过第二预设公式将所述各目标节点向量的权重系数和所述各目标节点向量进行聚合,得到所述各目标节点向量在指定元路径下的向量表示;
将所述各目标节点向量在不同元路径的权重进行融合,得到所述各目标节点向量语义级别的注意力表示,从而得到所述各目标节点向量的网络模型,其中,所述各目标节点向量的网络模型用于处理所述不同类型的节点。
2.根据权利要求1所述的方法,所述获取待处理数据的各节点向量,包括:
获取待处理数据的各节点向量;
通过预设投影矩阵,分别将各所述节点向量投影到同一空间,得到同一空间内的各目标节点向量。
3.根据权利要求1所述的方法,所述第一预设公式为:
其中,i、j、k表示节点,为指定基于元路径Φ相连的节点对(i,j)的权重系数,为基于元路径Φ相连的节点对(i,j)的节点级别的注意力,是节点i基于元路径Φ的邻居,σ是激活函数,‖代表拼接操作,为节点级别的注意力向量aΦ为的转置,h′i、h′j、hk′为目标节点向量hi、hj、hk投影到同一空间后的目标节点向量。
4.根据权利要求1所述的方法,所述第二预设公式为:
其中,为节点i基于元路径Φ的向量表示,为指定基于元路径Φ相连的节点对(i,j)的权重系数,σ是激活函数,h′j为hj投影到与h′i同一空间后的目标节点向量,i、j表示节点,认为是节点i基于元路径Φ的邻居。
5.根据权利要求1所述的方法,所述得到所述各目标节点向量在指定元路径下的向量表示之后,所述方法还包括:
对所述各目标节点在给定元路径下的向量表示进行稳定训练;
将所述各目标节点在给定元路径下的向量表示转换为矩阵表示,得到所述各目标节点在给定元路径下的矩阵表示;
所述将所述各目标节点向量在不同元路径的权重进行融合,得到所述各目标节点语义级别的注意力表示,从而得到所述各目标节点向量的网络模型,包括:
通过第三预设公式利用所述各目标节点在给定元路径下的矩阵表示,得到所述各目标节点在给定元路径下的权重系数;
通过所述给定元路径下的权重系数和所述各目标节点向量在给定元路径下的表示矩阵,对所述各目标节点向量进行聚合得到所述各目标节点向量语义级别的注意力表示。
6.根据权利要求5所述的方法,所述第三预设公式为:
其中,i、p表示节点,为节点i基于元路径Φ的权重系数,W是权重矩阵,b是偏置向量,qT是语义级别的注意力向量q的转置,为节点i基于元路径Φ的矩阵表示。
7.根据权利要求1所述的方法,所述将所述各目标节点向量在不同元路径的权重进行融合,得到所述各目标节点向量语义级别的注意力表示之后,所述方法还包括:
针对特定任务,通过第四预设公式对所述异质图神经网络进行训练;
其中,所述第四预设公式为:
L=-(Ylog(C·H)+(1-Y)log(1-C·H))
其中,L为误差,H为目标节点语义级别的注意力表示,C是分类器参数,Y是H的标签。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京邮电大学,未经北京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910349275.9/1.html,转载请声明来源钻瓜专利网。