[发明专利]实体消歧方法、装置、可读存储介质及电子设备在审
申请号: | 201910952886.2 | 申请日: | 2019-10-09 |
公开(公告)号: | CN110674304A | 公开(公告)日: | 2020-01-10 |
发明(设计)人: | 陈栋;齐云飞;付骁弈 | 申请(专利权)人: | 北京明略软件系统有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35 |
代理公司: | 11646 北京超成律师事务所 | 代理人: | 许书音 |
地址: | 100000 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 向量 消歧 文本 实体提取 词向量 相似度 可读存储介质 电子设备 双向语言 向量计算 向量序列 语言模型 聚类 申请 | ||
本申请公开了一种实体消歧方法、装置、可读存储介质及电子设备,通过实体中每个字的字向量获得实体的向量,从而根据实体中的所有向量进行消歧。所述方法包括:首先将包括至少两个实体的待处理文本输入实体提取语言模型进行实体提取,获得待处理文本中所包括的实体;接着将待处理文本输入双向语言模型中进行处理,获得待处理文本的字向量序列;再接着获取任意一实体中的每个字的字向量;紧接着根据该任意一实体中每个字的字向量计算获得该任意一实体的词向量;然后根据各实体的词向量计算每两个实体之间的相似度;最后根据待处理文本中,每两个实体之间的相似度对实体进行聚类,以实现实体消歧。本实施例所述方案,能够提高实体消歧的精确度。
技术领域
本申请涉及自然语言处理领域,具体而言,涉及一种实体消歧方法、装置、可读存储介质及电子设备。
背景技术
文本是由大量的词语组织而成,在组成文本的词语中通常会存在着大量的歧义实体词。对文本进行实体消歧后,可以根据实体消歧的结果实现信息提取、文本摘要的构建等,实体消歧的精度也直接影响到信息提取等的精度。
现有技术中,在进行实体消歧时,一种方式是采用大量相关文本进行词向量训练,得到词嵌入矩阵,从待处理文本中抽取实体。将待处理文本中抽取到的实体转换为向量后对这些实体进行聚类,从而完成实体消歧。这种实体消歧方式,一个词只会对应一个词向量,如果一个词对应有多个含义,这种消歧方式则不能够将表达的不同含义区分出来。此外,对于词嵌入矩阵中不存在的新词,也无法转化为向量。因此,采用这种实体消歧方式进行消歧的结果存在较大的误差。
发明内容
为了至少克服现有技术中的上述不足,本申请的目的之一在于提供一种实体消歧方法,所述方法包括:
将包括至少两个实体的待处理文本输入预先训练好的实体提取语言模型进行实体提取,获得待处理文本中所包括的实体;
将所述待处理文本输入预先训练好的双向语言模型中进行处理,获得所述待处理文本的字向量序列,其中,所述字向量序列由所述待处理文本中各个字的字向量按照该各个字在所述待处理文本中的先后顺序排列而成,所述字向量通过所述字的上下文关系计算得来;
针对所述待处理文本中任意一实体,根据该任意一实体以及该任意一实体中的每个字在文本中的位置,从所述字向量序列中获取该任意一实体中的每个字的字向量;
根据该任意一实体中每个字的字向量计算获得该任意一实体的词向量;
根据各个实体的词向量计算每两个所述实体之间的相似度;
根据所述待处理文本中,每两个实体之间的相似度对实体进行聚类,以实现实体消歧。
可选地,所述针对所述待处理文本中任意一实体,根据该任意一实体以及该任意一实体中的每个字在文本中的位置,从所述字向量序列中获取该任意一实体中的每个字的字向量的步骤包括:
基于所述待处理文本获得标识序列,其中,所述待处理文本中每个实体中的字所在位置采用第一标识符表示,除实体外的其他字采用第二标识符表示;
针对该任意一实体,根据该任意一实体中的每个字的第一标识符在标识序列中的位置获取字向量序列中对应位置的字向量,从而获得该任意一实体中每个字的字向量。
可选地,所述根据该任意一实体中每个字的字向量计算获得该任意一实体的词向量的步骤包括,计算该实体中所有字的字向量的平均向量,将所述平均向量作为该实体的词向量。
可选地,所述根据各个实体的词向量计算每两个实体之间的相似度的步骤包括,采用余弦相似度算法计算每两个实体之间的相似度。
可选地,在将包括至少两个实体的待处理文本输入预先训练好的实体提取语言模型进行实体提取,获得待处理文本中所包括的实体的步骤前,所述方法还包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京明略软件系统有限公司,未经北京明略软件系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910952886.2/2.html,转载请声明来源钻瓜专利网。