[发明专利]一种基于代价敏感学习的联合知识嵌入方法

摘要

本发明公开了一种基于代价敏感学习的联合知识嵌入方法，包括以下步骤：S1，通过知识库建立三元组组成的训练集；S2，建立基于实体、关系嵌入向量的三元组评分函数,在只考虑实体层面上下文关系的条件下，建立基于最大边缘的优化目标；S3，建立代价敏感联合嵌入模型。本发明的方法在知识库各种关联事实的基础上，将知识库、知识图谱中的各个实体与各种关系分别嵌入到低维空间之中,更好地利用知识库、知识图谱中的各层上下文信息，以使嵌入结果更好地满足知识库、知识图谱的语义结构，增强预测效果；可以应用于对知识库、知识图谱进行可视化表达以及进行对问答系统中不在知识库内的知识进行预测。

主权项

1.一种基于代价敏感学习的联合知识嵌入方法，其特征在于，包括以下步骤：S1，通过知识库建立三元组组成的训练集，具体包括:S11，抽取知识库中所有的实体，建立实体集合E＝{e₁，e₂，...，e_n}；S12，抽取知识库中所有的实体，建立关系集合R＝{r₁，r₂，...，r_m}；S13，对每一条关联事实，在实体集合E中寻找到关联事实的头实体与尾实体，在关系集合R中寻找到关联事实中的关系，建立三元组(e_i1，r_i1，e_i2)；S14，通过抽取知识库中的所有关联事实，建立训练集T＝{(e₁₁，r₁₁，e₁₂)，(e₂₁，r₂₁，e₂₂)，...，(e_t1，r_t1，e_t2)}；S2，建立基于实体、关系嵌入向量的三元组评分函数,在只考虑实体层面上下文关系的条件下，建立基于最大边缘的优化目标，具体包括：S21，规定实体嵌入空间和关系嵌入空间拥有相同的维度，建立基于实体、关系嵌入向量的三元组评分函数其中，e₁，r，e₂分别是e₁，r，e₂的嵌入向量，diag(r)代表一个对角元素组成的向量恰为r的对角矩阵，公式中所有的向量都是列向量；S22，建立基于边缘的排序模型，其训练目标为：其中，C为用于调节关系嵌入向量的正则项权重的超参数，γ为边缘宽度，(e₁，r′，e₂)是一个不存在于知识库中的三元组；上述目标函数第一项是训练集中正样本与负样本所生成的损失函数，第二项则是关系嵌入向量作为参数在模型中的正则化项；S3，建立代价敏感联合嵌入模型，具体包括：S31，建立代价敏感权重矩阵W，所述代价敏感权重矩阵W用于衡量每对关系之间同时出现的可能性，其中，W是一个维度与e和r相同的方阵，W中每一个元素都代表了一种关系出现在已有另一种关系的两个实体之间的合理性；S32，将代价敏感学习框架应用于公式2中；当计算三元组(e₁，r，₂)∈T和所形成的损失时，加入一个权重W_rr′，其中，W_rr′即是代价敏感权重矩阵中代表r和r′关系的元素；此时，训练目标为：