[发明专利]基于关系注意力的知识图谱推理方法、装置和计算机设备在审
申请号: | 202010708066.1 | 申请日: | 2020-07-22 |
公开(公告)号: | CN111597358A | 公开(公告)日: | 2020-08-28 |
发明(设计)人: | 赵晓娟;陈恺;常春喜;王培;王昌海;马锶霞;李晨晨 | 申请(专利权)人: | 中国人民解放军国防科技大学 |
主分类号: | G06F16/36 | 分类号: | G06F16/36;G06N5/04 |
代理公司: | 长沙国科天河知识产权代理有限公司 43225 | 代理人: | 周达 |
地址: | 410073 湖*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 关系 注意力 知识 图谱 推理 方法 装置 计算机 设备 | ||
1.一种基于关系注意力的知识图谱推理方法,所述方法包括:
获取知识图谱中节点的初始嵌入表示,将所述初始嵌入表示转换到高维空间,得到高维嵌入表示;
获取所述知识图谱中目标节点的邻居节点集合,根据所述目标节点与所述邻居节点集合中邻居节点的关系类型,构建邻居子图;
根据所述目标节点的高维嵌入表示和所述邻居子图中邻居节点的高维嵌入表示,得到所述目标节点嵌入邻居子图中信息的邻居嵌入表示;
将所述目标节点的高维嵌入表示与所述邻居嵌入表示进行聚合,得到目标节点的聚合嵌入表示;
根据每个所述邻居子图的第一注意力分值,对所述聚合嵌入表示进行融合,得到所述目标节点的融合嵌入表示;
根据所述融合嵌入表示,计算所述目标节点对应三元组的得分,根据得分进行三元组推理。
2.根据权利要求1所述的方法,其特征在于,所述获取知识图谱中节点的初始嵌入表示,将所述初始嵌入表示转换到高维空间,得到高维嵌入表示,包括:
根据预先设置的嵌入模型,将知识图谱中三元组的头实体、尾实体以及关系进行嵌入,得到初始嵌入表示;
根据预先设置的转换矩阵,将所述头实体和尾实体转换至高维空间,得到头实体高维嵌入表示,根据预先设置的关系转换矩阵,将所述关系转换至高维空间,得到关系高维嵌入表示。
3.根据权利要求1所述的方法,其特征在于,根据所述目标节点的高维嵌入表示和所述邻居子图中邻居节点的高维嵌入表示,得到所述目标节点嵌入邻居子图中信息的邻居嵌入表示,包括:
获取所述目标节点的高维嵌入表示和所述邻居子图中邻居节点的节点对嵌入表示为:
其中,表示节点对嵌入表示,表示第一线性转换矩阵,表示目标节点的高维嵌入表示,表示所述邻居子图中邻居节点的节点对嵌入表示;
根据所述节点对嵌入表示,确定所述邻居节点对所述目标节点的第二注意力分值为:
其中,表示第二注意力分值,表示激活函数,表示第二线性转换矩阵;
对所述第二注意力分值进行归一化,并根据所述邻居子图中每个邻居节点的第二注意力分值的归一化结果,聚合得到邻居嵌入表示。
4.根据权利要求1所述的方法,其特征在于,将所述目标节点的高维嵌入表示与所述邻居嵌入表示进行聚合,得到目标节点的聚合嵌入表示,包括:
根据预先设置的聚合函数,将所述目标节点的高维嵌入表示与所述邻居嵌入表示进行聚合,得到目标节点的聚合嵌入表示为:
其中,表示聚合嵌入表示,表示邻居嵌入表示。
5.根据权利要求4所述的方法,其特征在于,根据每个所述邻居子图的第一注意力分值,对所述聚合嵌入表示进行融合,得到所述目标节点的融合嵌入表示,包括:
计算每个所述邻居子图的第一注意力分值为:
其中,表示邻居子图对应的关系类型,表示对角为的对角矩阵,表示的嵌入表示;
对所述第一注意力分值进行归一化,并根据所述邻居子图的第一注意力分值的归一化结果,融合得到融合嵌入表示。
6.根据权利要求1至5任一项所述的方法,其特征在于,所述方法还包括:
对所述融合嵌入表示进行拓展,得到多头注意力嵌入表示为:
其中,M表示注意力的头数;
以及根据所述多头注意力嵌入表示,拓展得到多层嵌入表示为:
其中,k表示层数。
7.根据权利要求1至5任一项所述的方法,其特征在于,根据所述融合嵌入表示,计算所述目标节点对应三元组的得分,根据得分进行三元组推理,包括:
根据所述融合嵌入表示,计算所述目标节点对应三元组的得分;
若三元组的得分在对应的评测指标预设排名范围内,则确定三元组成立;
若三元组的得分不在对应的评测指标预设排名范围内,则确定三元组不成立。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学,未经中国人民解放军国防科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010708066.1/1.html,转载请声明来源钻瓜专利网。