[发明专利]一种融合图卷积与翻译模型的知识图谱联合表示学习方法有效
申请号: | 202110430124.3 | 申请日: | 2021-04-21 |
公开(公告)号: | CN113254663B | 公开(公告)日: | 2022-06-17 |
发明(设计)人: | 张元鸣;高天宇;肖刚;陆佳炜;程振波 | 申请(专利权)人: | 浙江工业大学 |
主分类号: | G06F16/36 | 分类号: | G06F16/36;G06F16/33;G06F40/42 |
代理公司: | 杭州斯可睿专利事务所有限公司 33241 | 代理人: | 王利强 |
地址: | 310014 浙江省*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 融合 图卷 翻译 模型 知识 图谱 联合 表示 学习方法 | ||
一种融合图卷积与翻译模型的知识图谱联合表示学习方法,包括以下步骤:1)根据知识图谱构建其相对应的直接邻接矩阵和间接邻接矩阵;2)设计图卷积网络,包括一个输入层、两个隐藏层和一个输出层,优化邻接点节点对中心节点的注意力系数,通过学习直接邻节点和间接邻节点的结构信息得到节点的向量表示;3)采用翻译模型学习关系的语义信息,得到实体和关系的向量表示;4)将图卷积网络和翻译模型相融合,通过不断的迭代学习得到知识图谱的最终向量表示。本发明能够同时学习知识图谱的结构信息和关系语义,提高知识图谱的向量表示精度。
技术领域
本发明涉及知识图谱、表示学习等领域,特别给出了一种融合图卷积与翻译模型的知识图谱联合表示学习方法。
背景技术
知识图谱表示学习旨在通过学习知识图谱中的语义特征,在保留原有语义信息的前提下将知识图谱的实体和关系从高维离散的空间映射到一个连续低维的向量空间中,从而使实体和关系能够被直接数值化地计算,提高计算效率。
现有主要的知识图谱表示学习模型包括翻译模型、语义匹配模型和神经网络模型。翻译模型的主要思想是将三元组(h,r,t)中的关系r解释为头实体h到尾实体t的翻译过程,TransE(Annual Conference on Neural Information Processing Systems,2013)是最具代表性的翻译模型之一,该模型认为头实体的嵌入加上关系的嵌入应该等于尾实体在向量空间中的位置,即h+r=t。语义匹配模型是使用基于语义相似度的得分函数,通过语义相似度的匹配来衡量事实的合理性,RESCAL(International Conference onInternational Conference on Machine Learning,2011)是最具代表性的语义匹配模型之一,该模型是一种基于三向张量分解的表示学习方法,其中成对的实体通过其嵌入的张量积表示。神经网络模型主要是通过深度神经网络来学习知识图谱的嵌入表示,ConvKB(Conference of the North American Chapter of the Association forComputational Linguistics:Human Language Technologies,2018)通过使用卷积神经网络来捕获实体之间的全局关系和翻译特性,每个三元组(h,r,t)的嵌入表示是三元组中的实体和关系的嵌入拼接而成的3列矩阵,然后将这3列矩阵输入到卷积层,在该卷积层上对矩阵用多个卷积核进行卷积操作以生成不同的特征图。
然而,现有方法通常只关注知识图谱的某一方面特征,如结构特征和关系特征,不能全面学习知识图谱结构和语义信息,导致知识图谱表示学习结果准确度较低。
发明内容
为了克服现有技术的不足,提高知识图谱表示学习准确性,本发明提出一种融合图卷积与翻译模型的知识图谱联合表示学习模型,该模型能同时对知识图谱的结构信息和关系语义进行学习,并采用注意力机制减少学习噪声,得到准确的知识图谱表示学习结果。
为了解决技术问题本发明提供如下的技术方案:
一种融合图卷积与翻译模型的知识图谱联合表示学习方法,包括以下步骤:
1)构建知识图谱邻接矩阵
在知识图谱中,根据节点之间的链接关系定义两种邻接关系:
定义1:在知识图谱中,存在直接链接关系的一对节点互为直接邻接点,此时两个节点间的距离为1,又称为1跳邻接点;
定义2:在知识图谱中,存在通路的一对节点称为间接邻接点,此时两个节点间的距离为n,n1,又称为n跳邻接点;
假设一个知识图谱的节点数量为N,构建其直接邻接矩阵:
其中若两个节点为直接邻节点,则直接邻接矩阵A中对应位置的值为1,否则为0;
同时,构建该知识图谱的间接邻接矩阵:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江工业大学,未经浙江工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110430124.3/2.html,转载请声明来源钻瓜专利网。