[发明专利]一种基于双向LSTM深度神经网络的知识图谱生成方法有效

专利信息
申请号: 202010193182.4 申请日: 2020-03-18
公开(公告)号: CN111428046B 公开(公告)日: 2021-06-01
发明(设计)人: 江正元;邵震洲;高春林 申请(专利权)人: 浙江网新恩普软件有限公司
主分类号: G06F16/36 分类号: G06F16/36;G06F16/35;G06N3/04;G06N3/08
代理公司: 杭州君度专利代理事务所(特殊普通合伙) 33240 代理人: 杨天娇
地址: 310000 浙江省杭州市滨江区长河*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 双向 lstm 深度 神经网络 知识 图谱 生成 方法
【权利要求书】:

1.一种基于双向LSTM深度神经网络的知识图谱生成方法,其特征在于,所述基于双向LSTM深度神经网络的知识图谱生成方法,包括:

获取待处理的源实体与目标实体,各实体由词向量表示;

将源实体和目标实体分别输入至预先建立的知识库中,得到源实体和目标实体分别对应的属性矩阵;

将源实体和目标实体对应的属性矩阵分别输入至多层感知机中,将多层感知机输出的特征与对应实体的词向量组成属性联合表达;

将源实体和目标实体两者的属性联合表达进行合并,以合并后的特征矩阵作为双向LSTM深度神经网络的输入,得到双向LSTM深度神经网络输出的隐藏层向量;

将隐藏层向量作为分类器的输入,输出在关系词典内对应关系的预测概率分布,取预测概率最大的关系作为源实体与目标实体的实体关系,完成知识图谱的生成;

其中将源实体和目标实体对应的属性矩阵分别输入至多层感知机中,将多层感知机输出的特征与对应实体的词向量组成属性联合表达,包括:

对属性矩阵进行编码操作,取多层感知机的最后层输出Ma,Ma={ma,1,ma,2,...,ma,l};

将Ma与实体e的词向量组成属性联合表达,属性联合表达可表示为:

其中,为实体的属性联合表达,e为实体,即源实体es或目标实体et,ma,1,ma,2,...,ma,l为多层感知机输出的特征,l为多层感知机的输出神经元个数。

2.如权利要求1所述的基于双向LSTM深度神经网络的知识图谱生成方法,其特征在于,所述属性矩阵可表示为:

其中,为实体的属性矩阵,k为实体在知识库中的属性数量,且第i条属性的句向量表达为ai∈RA,RA为句向量空间;

若在知识库中无法检索到实体的相关属性,即k=0,则用实体的词向量的填充表示属性矩阵

3.如权利要求2所述的基于双向LSTM深度神经网络的知识图谱生成方法,其特征在于,所述将源实体和目标实体两者的属性联合表达进行合并,以合并后的特征矩阵作为双向LSTM深度神经网络的输入,得到双向LSTM深度神经网络输出的隐藏层向量,包括:

将源实体和目标实体两者的属性联合表达进行反向合并,得到合并后的特征矩阵如下:

c={(es,mta,l),(msa,1,mta,l-1),...,(msa,l,et)}

其中,c为合并后的特征矩阵,es为源实体,et为目标实体,mta,l为目标实体对应的属性矩阵输入多层感知机中得到的第l个特征,msa,l为源实体对应的属性矩阵输入多层感知机中得到的第l个特征;

以合并后的特征矩阵作为双向LSTM深度神经网络的输入,则双向LSTM深度神经网络的表达式如下:

其中,与分别为前向和后向LSTM深度神经网络的初始状态,与分别为前向和后向LSTM深度神经网络第q个隐藏层状态,LSTM()表示LSTM深度神经网络的计算单元,msa,l是源实体经由多层感知机输出的第l个特征,mta,l是目标实体经由多层感知机输出的第l个特征;

双向LSTM深度神经网络每步输出一个隐藏状态,最后一个隐藏层的输出为取输出h作为隐藏层向量。

4.如权利要求3所述的基于双向LSTM深度神经网络的知识图谱生成方法,其特征在于,所述分类器包括一个全连接层与一个softmax层,输入分类器的隐藏层向量通过全连接层与softmax层后输出在关系词典内对应关系的预测概率分布,即

p=softmax(fc(h))

其中,p为预测概率分布,h为隐藏层向量。

5.如权利要求4所述的基于双向LSTM深度神经网络的知识图谱生成方法,其特征在于,所述双向LSTM深度神经网络使用交叉熵损失函数来优化双向LSTM深度神经网络参数,所述交叉熵损失函数的表达式如下:

其中,N为训练样本的数量,p为预测概率分布,当预测概率准确时取1,当预测概率不准确时取0,Θ为双向LSTM深度神经网络的所有可训练参数。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江网新恩普软件有限公司,未经浙江网新恩普软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010193182.4/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top