[发明专利]一种基于双向LSTM深度神经网络的知识图谱生成方法有效
申请号: | 202010193182.4 | 申请日: | 2020-03-18 |
公开(公告)号: | CN111428046B | 公开(公告)日: | 2021-06-01 |
发明(设计)人: | 江正元;邵震洲;高春林 | 申请(专利权)人: | 浙江网新恩普软件有限公司 |
主分类号: | G06F16/36 | 分类号: | G06F16/36;G06F16/35;G06N3/04;G06N3/08 |
代理公司: | 杭州君度专利代理事务所(特殊普通合伙) 33240 | 代理人: | 杨天娇 |
地址: | 310000 浙江省杭州市滨江区长河*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 双向 lstm 深度 神经网络 知识 图谱 生成 方法 | ||
1.一种基于双向LSTM深度神经网络的知识图谱生成方法,其特征在于,所述基于双向LSTM深度神经网络的知识图谱生成方法,包括:
获取待处理的源实体与目标实体,各实体由词向量表示;
将源实体和目标实体分别输入至预先建立的知识库中,得到源实体和目标实体分别对应的属性矩阵;
将源实体和目标实体对应的属性矩阵分别输入至多层感知机中,将多层感知机输出的特征与对应实体的词向量组成属性联合表达;
将源实体和目标实体两者的属性联合表达进行合并,以合并后的特征矩阵作为双向LSTM深度神经网络的输入,得到双向LSTM深度神经网络输出的隐藏层向量;
将隐藏层向量作为分类器的输入,输出在关系词典内对应关系的预测概率分布,取预测概率最大的关系作为源实体与目标实体的实体关系,完成知识图谱的生成;
其中将源实体和目标实体对应的属性矩阵分别输入至多层感知机中,将多层感知机输出的特征与对应实体的词向量组成属性联合表达,包括:
对属性矩阵进行编码操作,取多层感知机的最后层输出Ma,Ma={ma,1,ma,2,...,ma,l};
将Ma与实体e的词向量组成属性联合表达,属性联合表达可表示为:
其中,为实体的属性联合表达,e为实体,即源实体es或目标实体et,ma,1,ma,2,...,ma,l为多层感知机输出的特征,l为多层感知机的输出神经元个数。
2.如权利要求1所述的基于双向LSTM深度神经网络的知识图谱生成方法,其特征在于,所述属性矩阵可表示为:
其中,为实体的属性矩阵,k为实体在知识库中的属性数量,且第i条属性的句向量表达为ai∈RA,RA为句向量空间;
若在知识库中无法检索到实体的相关属性,即k=0,则用实体的词向量的填充表示属性矩阵
3.如权利要求2所述的基于双向LSTM深度神经网络的知识图谱生成方法,其特征在于,所述将源实体和目标实体两者的属性联合表达进行合并,以合并后的特征矩阵作为双向LSTM深度神经网络的输入,得到双向LSTM深度神经网络输出的隐藏层向量,包括:
将源实体和目标实体两者的属性联合表达进行反向合并,得到合并后的特征矩阵如下:
c={(es,mta,l),(msa,1,mta,l-1),...,(msa,l,et)}
其中,c为合并后的特征矩阵,es为源实体,et为目标实体,mta,l为目标实体对应的属性矩阵输入多层感知机中得到的第l个特征,msa,l为源实体对应的属性矩阵输入多层感知机中得到的第l个特征;
以合并后的特征矩阵作为双向LSTM深度神经网络的输入,则双向LSTM深度神经网络的表达式如下:
其中,与分别为前向和后向LSTM深度神经网络的初始状态,与分别为前向和后向LSTM深度神经网络第q个隐藏层状态,LSTM()表示LSTM深度神经网络的计算单元,msa,l是源实体经由多层感知机输出的第l个特征,mta,l是目标实体经由多层感知机输出的第l个特征;
双向LSTM深度神经网络每步输出一个隐藏状态,最后一个隐藏层的输出为取输出h作为隐藏层向量。
4.如权利要求3所述的基于双向LSTM深度神经网络的知识图谱生成方法,其特征在于,所述分类器包括一个全连接层与一个softmax层,输入分类器的隐藏层向量通过全连接层与softmax层后输出在关系词典内对应关系的预测概率分布,即
p=softmax(fc(h))
其中,p为预测概率分布,h为隐藏层向量。
5.如权利要求4所述的基于双向LSTM深度神经网络的知识图谱生成方法,其特征在于,所述双向LSTM深度神经网络使用交叉熵损失函数来优化双向LSTM深度神经网络参数,所述交叉熵损失函数的表达式如下:
其中,N为训练样本的数量,p为预测概率分布,当预测概率准确时取1,当预测概率不准确时取0,Θ为双向LSTM深度神经网络的所有可训练参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江网新恩普软件有限公司,未经浙江网新恩普软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010193182.4/1.html,转载请声明来源钻瓜专利网。