[发明专利]一种基于Bert的实体链接方法

说明书

本发明涉及信息检索的技术领域，特别是涉及一种基于Bert的实体链接方法；包括以下步骤：S1、知识库包括很多实体，每个实体的信息包括一个唯一的实体id、别名以及实体相关的属性和属性值；S2、数据分析和处理；S3、实体识别；S4、实体消歧：实体消歧的实现是基于二分类，训练时选取连接到的实体作为正例，在候选实体里选取两个负例。

技术领域

本发明涉及信息检索的技术领域，特别是涉及一种基于Bert的实 体链接方法。

背景技术

实体链接是将文本中提到的实体与其知识库中相应的实体链接 起来的任务，是解决实体间存在的歧义性问题。其潜在的应用包括信 息提取、信息检索和知识库填充，但由于名称的变化和实体的模糊性， 此任务具有挑战性。实体的歧义性体现在两个方面，第一，实体可能 存在多词同义的情况(需链接)，即一个实体可以用多个实体指称来表 示，比如麻省理工学院和MIT都是指美国麻省同一个实体。同时，实 体也有一词多义的现象(需消歧)，即同一个实体指称可以表示多个实 体，例如苹果可以是水果也可以是Apple公司。实体链接算法需要通 过实体指称及其上下文的文本信息，借助目标知识图谱，将其链接到知识图谱中正确的映射实体上。

面向中文短的实体链接，是NLP领域的基础任务之一，即对于给 定的一个中文短文本(如搜索Query、微博、用户对话内容、文章标 题等)识别出其中的实体，并与给定知识库中的对应实体进行关联。 ERL整个过程包括实体识别和实体链指两个子任务。这一问题存在 几大难点：(1)文本口语化导致实体歧义消解困难；(2)短文本上下 文语境不丰富，须对上下文语境进行精准理解；(3)和英文相比，中 文由于语言自身的特点，在短文本的链指问题上更有挑战。

发明内容

为解决上述技术问题，本发明提供一种基于Bert的实体链接方 法。

本发明的一种基于Bert的实体链接方法，包括以下步骤：

S1、知识库包括很多实体，每个实体的信息包括一个唯一的实体 id、别名以及实体相关的属性和属性值；

S2、数据分析和处理；

S3、实体识别；

S4、实体消歧：实体消歧的实现是基于二分类，训练时选取连接 到的实体作为正例，在候选实体里选取两个负例。

本发明的一种基于Bert的实体链接方法，所述步骤S2具体步骤 如下：

S201、数据清洗，处理特殊符号、标点；

S202、统计短文本长度，统一做归一化；

S203、构造若干字典，包括entity-id(key：实体名字value： kb_id列表),id-entity(key:kb_idvalue:实体名 称),id-text(key：kb_idvalue:实体描述文本)。

本发明的一种基于Bert的实体链接方法，所述步骤S3包括如下 步骤：

S301、实体正向最大匹配：采用字典树结构以及正向最大匹配实 体思路，去匹配文本中实体，首先需要的数据为S203中的entity_id 字典，将里面的key也就是实体名字插入到字典树中；

S302、模型：短文本经过BERT层，得到BERT的输出向量，将 BERT的输出经过CRF层，获得短文本中的候选实体，将短文本中的 候选实体与知识库中的候选实体相比较，如果前者的完全被后者覆 盖，则选取后者中的长度最大实体。

本发明的一种基于Bert的实体链接方法，所述步骤S4包括如下 步骤：

实体名字嵌入：将每个实体文本描述输入到BERT模型，在[CLS] 位置处得到每个实体的输出向量；