[发明专利]一种基于组合自注意的图卷积知识表示学习模型CompSAGCN的预测方法在审
申请号: | 202110219529.2 | 申请日: | 2021-02-26 |
公开(公告)号: | CN112836065A | 公开(公告)日: | 2021-05-25 |
发明(设计)人: | 汪璟玢;陆玉乾 | 申请(专利权)人: | 福州大学 |
主分类号: | G06F16/36 | 分类号: | G06F16/36;G06N5/02;G06N3/04 |
代理公司: | 福州元创专利商标代理有限公司 35100 | 代理人: | 钱莉;蔡学俊 |
地址: | 350108 福建省福州市*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 组合 注意 图卷 知识 表示 学习 模型 compsagcn 预测 方法 | ||
1.一种基于组合自注意的图卷积知识表示学习模型CompSAGCN的预测方法,其特征在于,包括以下步骤:
对于每一个实体e,使用图卷积神经网络构成的编码器来学习实体e的邻居信息,得到实体的增强表示ve,再使用自注意力卷积神经网络构成的解码器提取ve和关系向量vr的特征;然后将实体和关系的特征向量进行拼接,通过全连接层进行特征的压缩,将压缩后的特征表示与所有的实体向量相乘,最后使用sigmoid激活得到每个三元组的得分。
2.根据权利要求1所述的一种基于组合自注意的图卷积知识表示学习模型CompSAGCN的预测方法,其特征在于,所述对于每一个实体e,使用图卷积神经网络构成的编码器来学习实体的邻居信息,得到实体的增强表示ve具体为:
其中,实体e包括头实体h以及尾实体t;
对于知识图谱G中每个边(h,r,t)表示有一个关系r从节点h到t存在的事实;对于每个边(h,r,t)∈G,构造反关系r-1的三元组(h,r-1,t)也作为G中的事实;在k层有向GCN层之后获得的实体特征表示为:
式中,代表模型的特定于关系的参数矩阵,A是添加了自连接的归一化邻接矩阵,f代表的是ReLU激活函数,K表示图卷积神经网络的层数,L表示实体的特征表示;
对于头实体h,将式(1)改为如下形式:
vh=f(∑N(h)Wrvt);
式中,N(h)是头实体h的直接邻居的集合;Wr表示关系的权重矩阵,vh表示头实体向量,vt表示尾实体向量;
按照关系r执行邻节点t的合成操作(φ),使模型在融合实体信息同时感知关系,得到头实体的增强表示如下:
vh=f(∑N(h)Wλ(r)φ(xt,zr));
式中,xt,zr分别表示节点t和关系r的初始特征向量,并且是关系类型特定的参数;d1与d0分别表示关系的个数与关系向量的维度;
对于尾实体t,将式(1)改为如下形式:
vt=f(∑N(t)Wrvh);
式中,N(t)是尾实体t的直接邻居的集合;Wr表示关系的权重矩阵,vh表示头实体向量,vt表示尾实体向量;
按照关系r执行邻节点t的合成操作(φ),使模型在融合实体信息同时感知关系,得到尾实体的增强表示如下:
vt=f(∑N(t)Wλ(r)φ(xh,zr));
式中,xh,zr分别表示头实体h和关系r的初始特征向量,并且是关系类型特定的参数;d1与d0分别表示关系的个数与关系向量的维度;
将一组基向量进行不同的线性变换来表示不同的关系向量,定义{v1,v2,....,vn}为一系列学习的基向量,zr写作:
式中,αbr表示的是一个可训练的权重矩阵。
3.根据权利要求2所述的一种基于组合自注意的图卷积知识表示学习模型CompSAGCN的预测方法,其特征在于,所述合成操作(φ)是实体-关系组合操作,公式如下:
φ(xt,zr)=xt★zr。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于福州大学,未经福州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110219529.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:界面显示方法、装置、设备及介质
- 下一篇:一种磁芯工装治具