[发明专利]一种基于双向LSTM深度神经网络的知识图谱生成方法

说明书

本发明公开了一种基于双向LSTM深度神经网络的知识图谱生成方法，包括将源实体和目标实体分别输入至知识库中，得到属性矩阵；将两者对应的属性矩阵分别输入至多层感知机中，将多层感知机输出的特征与对应实体的词向量组成属性联合表达；将两者的属性联合表达进行合并，以合并后的特征矩阵作为双向LSTM深度神经网络的输入，输出的隐藏层向量；将隐藏层向量作为分类器的输入，输出在关系词典内对应关系的预测概率分布，取预测概率最大的关系作为源实体与目标实体的实体关系，完成知识图谱的生成。本发明弱化了源实体与目标实体的上下关系，一定程度上解决了候选实体的表达偏置，提高了关系预测的准确度。

技术领域

本申请属于知识图谱技术领域，具体涉及一种基于双向LSTM深度神经网络的知识图谱生成方法。

背景技术

知识图谱是互相之间存在联系的实体的一个合集，其本质是辅助数据集或派生数据集：它们是通过分析和过滤原始数据而获得的。更具体地说，这些被预先定义好的数据点(实体)之间的关系，也是知识图谱的重要组成部分。因此，在知识图谱中，我们不仅可以分析实体，还可以分析实体之间的关系。

现有的对于知识图谱的表达基本依赖于三元组的方式，即{源实体(sourceentity)，关系(relation)，目标实体(target entity)}。在这样的背景下，知识图谱的构建方式极其依赖于实体间关系的抽取。现有的关系抽取方法都在直接利用实体的来源信息(训练数据)，却在一定程度上忽略了实体本身具有的意义，这样会导致抽取出来的关系会有很强的数据集偏置。

知识库是一种结构化数据或半结构化数据的集合，与知识图谱类似，知识库中也有实体的概念。知识库更依赖于每个实体包含的信息，称之为属性，一个实体会有许多属性信息，这些信息是实体的扩充。由于知识库信息的来源一般比较广泛，因此，利用预先储存在知识库中的信息来对实体表达进行强化，可以一定程度上解决现有方法过分依赖实体来源信息的问题。

多层感知机是一种较为传统的神经网络，它由数个全连接网络构成。利用多层感知机，可以将来自多个数据集的信息映射到单一的数据空间上。知识库中对于实体信息的描述，通过多层感知机可以被映射到具有同一分布的特定空间，从而被后续的网络所利用。但由于现有的关系抽取方法对于源实体与目标实体的主谓关系过分强调，使该网络结构存在一定的不合理性。

为了避免网络结构存在的不合理性，长短时记忆网络(Long-short termmemory)，即我们所称呼的LSTM被用来进行特征提取和关系抽取，其是RNN(Recurrentneural networks)的一种变种，它很好地解决了RNN中对于“距离”较远的信息无法加以利用的问题，其独有的门结构使得信息得以以流的形式在网络中传输。

然而，单向的LSTM网络存在信息输入的先后顺序问题。在三元组关系抽取的任务中，源实体与目标实体虽然不具有对偶性，但是输入顺序会对LSTM网络的表达造成一定的影响，即实体间的表达偏置。

发明内容

本申请的目的在于提供一种基于双向LSTM深度神经网络的知识图谱生成方法，弱化了源实体与目标实体的上下关系，一定程度上解决了候选实体的表达偏置，提高了关系预测的准确度。

为实现上述目的，本申请所采取的技术方案为：

一种基于双向LSTM深度神经网络的知识图谱生成方法，所述基于双向LSTM深度神经网络的知识图谱生成方法，包括：

获取待处理的源实体与目标实体，各实体由词向量表示；

将源实体和目标实体分别输入至预先建立的知识库中，得到源实体和目标实体分别对应的属性矩阵；

将源实体和目标实体对应的属性矩阵分别输入至多层感知机中，将多层感知机输出的特征与对应实体的词向量组成属性联合表达；