[发明专利]融合实体描述、层次化类型和文本关系信息的知识图谱表示学习方法

说明书

本发明公开了一种融合实体描述、层次化类型和文本关系信息的知识图谱表示学习方法，包括：首先对知识库和语料库进行预处理，提取结构化信息(三元组)、实体描述信息、层次化类型信息和文本关系信息；其次，用基于翻译的模型TransE学习基于结构化信息的表示，用CNN学习基于实体描述信息的表示，用WHE构造实体层次化类型的映射矩阵，学习基于层次化类型信息的表示，用基于位置的PCNN学习句子的表示，并使用句子级别的注意力机制为每个句子分配权重，学习基于文本关系信息的表示；然后根据上述基于四种信息的表示构造模型总的能量函数和损失函数。结合损失函数对模型参数进行学习，最终得到优化的实体和关系表示。

技术领域

本发明涉及知识图谱表示学习领域，尤其涉及一种融合实体描述、层次化类型、文本关系信息的知识图谱表示学习方法。

背景技术

近年来，随着互联网技术和应用模式的不断发展，引发了互联网数据的爆炸式增长，如何从海量数据中挖掘有价值的信息成为了一个挑战。于是，知识图谱应运而生。知识图谱以三元组(头实体、关系、尾实体)的形式表示出世间万物及其间的联系，随着Web3.0时代的到来，包含大量语义知识的知识图谱被广泛用于数据挖掘、信息检索和问答系统等领域。虽然现有的知识图谱已经包含了大量三元组，但是由于社会的不断发展，实体和关系都处于不断的变化之中，相比于现实世界，知识图谱包含的三元组往往是不完整的，存在部分实体和关系缺失。因此，如何对知识图谱进行补全成为了研究热点。

知识图谱补全任务需要对知识图谱中的实体和关系建模。基于独热的表示是一种传统的知识图谱三元组表示方法，该类方法需要设计专门的图算法来计算实体间的语义和推理关系，计算复杂度高。随着知识图谱规模的扩大，该种方法存在拓展性差和数据稀疏问题。知识表示学习作为一种新方法，在知识图谱的建模上发挥了重要作用。知识表示学习将知识图谱中的实体和关系映射成低维、连续的向量表示，通过向量运算的方法对知识图谱进行建模，解决了传统知识图谱学习方法存在的稀疏性和效率低下问题。

基于翻译的模型是一种典型的知识图谱表示学习方法，该方法具有模型参数少，计算复杂度低，且效率高的特点，能直接建立实体和关系之间复杂的语义联系。基于翻译的模型将关系看作实体之间的翻译操作，该模型假设尾实体的表示应该近似于头实体的表示与关系表示之和，并以头实体表示加上关系表示减去尾实体表示的差值尽可能小为目标，优化知识图谱实体和关系的表示。当三元组的实体或关系缺失时，该类模型可以通过剩余两部分表示的运算作为缺失实体的表示或缺失关系的表示，并找出表示对应的实体和关系来实现实体补全和关系补全。这种模型在知识图谱补全任务中表现出很好的性能。然而，现有基于翻译的模型大多只利用了知识图谱中的结构化信息，没有很好的利用实体描述信息、文本关系信息以及类型信息等额外信息。一部分利用额外信息的模型也存在着一些问题，例如利用文本关系信息时没有考虑不同句子对关系的影响，存在噪声问题。此外，现有利用额外信息的模型没有同时对关系和实体引入额外信息，性能还有进一步提升的空间。

发明内容

本发明的目的是提供一种融合实体描述、层次化类型和文本关系信息的知识图谱表示学习方法，该知识图谱表示学习方法能够实现对实体和关系的表示。

本发明的技术方案为：

一种融合实体描述、层次化类型和文本关系信息的知识图谱表示学习方法，包括以下步骤：

(1)从知识库KB提取知识图谱的结构化信息，构建正负例；从知识库KB提取头实体和尾实体的特定关系层次化类型限制；并从语料库C中提取实体描述信息；从语料库D中提取实体对的文本关系信息；

(2)采用TransE学习实体和关系基于结构化信息的向量表示h、r、t，构造基于结构化信息的能量函数E_S；

(3)采用CNN(卷积神经网络)学习头实体和尾实体基于实体描述信息的向量表示h_d、t_d，构造基于实体描述信息的能量函数E_D；