[发明专利]基于神经网络的知识图谱补全方法有效

专利信息
申请号: 201910663022.9 申请日: 2019-07-22
公开(公告)号: CN110347847B 公开(公告)日: 2021-09-28
发明(设计)人: 滕飞;钟文;马征 申请(专利权)人: 西南交通大学
主分类号: G06F16/36 分类号: G06F16/36;G06N3/04;G06N3/08
代理公司: 成都正华专利代理事务所(普通合伙) 51229 代理人: 李蕊
地址: 610031*** 国省代码: 四川;51
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 神经网络 知识 图谱 方法
【说明书】:

发明实施例提供的一种基于神经网络的知识图谱补全方法,涉及自然语言处理技术领域,其包括:S1、在嵌入层将知识图谱K中的三元组(s,r,o)转换为句子[s r o],利用向量表示技术把句子[s r o]转换为k维稠密向量表示形式xi=[vs,vr,vo];S2、在循环层利用BiLSTM网络从输入特征向量xi中学习句子的长期依赖性,得到循环层特征向量hRNN;S3、在卷积层利用卷积神经网络从特征向量hRNN中学习局部结构信息,得到卷积层特征向量hCNN;S4、在全连接层将卷积层特征向量hCNN转化为每一个三元组(s,r,o)的得分。该知识图谱补全方法在不依靠任何外部数据的情况下,利用循环和卷积神经网络捕获知识图谱中事实的长期依赖性和局部结构信息,同时保留实体和关系的传递特征,学习能力更高。

技术领域

本发明涉及自然语言处理技术领域,具体而言,涉及一种基于神经网络的知识图谱补全方法。

背景技术

随时大数据时代的到来,知识图谱逐渐成为当前的研究热点。知识图谱用于存储真实世界的结构化事实,其本质是语义网络,用节点表示实体,边表示实体之间的关系。知识图谱广泛用于许多场景,如语义搜索、智能问答、辅助决策等。但是,知识图谱面临严重的数据稀疏和数据缺失等问题。近年来,已经提出了许多知识图谱补全方法来填补缺失的事实。

传统的知识图谱补全模型主要是分为两类:一是浅层结构的嵌入模型,二是使用神经网络的深层结构嵌入模型。其中浅层结构的嵌入模型将关系视为向量空间中实体之间的翻译,最著名的论文是在2013年的国际机器学习顶级会议中的《Translatingembeddings for modeling multi-relational data》,正确事实的尾实体嵌入约等于头实体嵌入加上关系嵌入。该类模型仅将实体和关系嵌入视为固定维度的向量,因此它们无法在嵌入的不同维度中学习特征。而深层结构的嵌入模型通过神经网络来学习实体和关系嵌入的更丰富特征,最近发表于2018年国际人工智能顶级会议上的《Convolutional 2Dknowledge graph embeddings》通过2D卷积层改变实体和关系的嵌入,实体嵌入被连接成输入矩阵,经过卷积操作后输出特征映射张量,这些特征映射张量通过线性变换以获得分数。另一篇发表于2018年计算语言学协会北美年会上的《A novel embedding model forknowledge base completion based on convolutional neural network》用1D卷积代替2D卷积,将每个事实转换为3列矩阵,并从同一维度中提取嵌入之间的全局关系,它仅使用形状为1×3的滤波器,并不能很好地利用卷积运算的优点。

然而,上述模型忽略了知识图谱中的事实来自文本,只是在没有上下文信息的情况下嵌入知识图谱的部分事实,因此特征学习能力仍然不足。

发明内容

本发明实施例在于提供一种基于神经网络的知识图谱补全方法,其能够缓解上述问题。

本发明提供一种基于神经网络的知识图谱补全方法,定义知识图谱K={E,R,T},E代表实体,R代表实体之间的关系集合,T=(s,r,o)为三元组,T代表知识图谱K中若干正确的事实,s∈E表示主语,o∈E表示宾语,r∈R表示主语和宾语之间的关系,所述知识图谱补全方法包括以下步骤:

S1、在嵌入层将知识图谱K中的三元组(s,r,o)转换为句子[s r o],利用向量表示技术把句子[s r o]转换为k维稠密向量表示形式xi=[vs,vr,vo],其中xi表示由知识图谱K中第i个三元组转换而成的句子特征向量,vs,vr,vo分别表示s,r,o的k维向量;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西南交通大学,未经西南交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910663022.9/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top