[发明专利]预测语句实体的方法、装置和计算机设备在审
申请号: | 202110212245.0 | 申请日: | 2021-02-25 |
公开(公告)号: | CN112949307A | 公开(公告)日: | 2021-06-11 |
发明(设计)人: | 王健宗;宋青原;吴天博;程宁 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06F40/284;G06F40/205;G06N3/04;G06N3/08 |
代理公司: | 深圳市明日今典知识产权代理事务所(普通合伙) 44343 | 代理人: | 王杰辉 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 预测 语句 实体 方法 装置 计算机 设备 | ||
本申请涉及人工智能领域,揭示了预测语句实体的方法,包括:获取待分析语句对应的文本向量;将文本向量输入第一表编码层得到文本向量对应的第一表结构表达;将文本向量和第一表结构表达输入第一序列编码层,得到文本向量对应的第一序列表达;将第一序列表达和第一表结构表达输入第二表编码层得到文本向量对应的第二表结构表达;将第一序列表达和第二表结构表达输入第二序列编码层,得到所述文本向量对应的第二序列表达;根据第二表结构表达的获得方式,得到末层表编码层输出的实体关系预测结果,根据第二序列表达的获得方式,得到末层序列编码层输出的实体预测结果。通过联合学习缓解管道方法错误传播的问题,提高实体预测的精准度。
技术领域
本申请涉及人工智能领域,特别是涉及到预测语句实体的方法、装置和计算机设备。
背景技术
随着人工智能的发展,语音识别等语言模型越来越流行于各智能设备上。现有语言模型多基于实体识别和关系提取等进行预测分析,但现有命名实体识别和关系提取分别通过独立的两个模型处理,无法获取它们之间的关联关系,而且某些分类任务中,实体通常不可直接用于任务,需要增加一个额外的实体识别器形成一个管道,但管道方法容易发生误传播的问题,影响对预测结果的精准判断。
发明内容
本申请的主要目的为提供预测语句实体的方法,旨在解决现有实体识别器容易发生误传播的的技术问题。
本申请提出一种预测语句实体的方法,包括:
获取待分析语句对应的文本向量;
将所述文本向量输入第一表编码层得到所述文本向量对应的第一表结构表达;
将所述文本向量和所述第一表结构表达输入第一序列编码层,得到所述文本向量对应的第一序列表达;
将所述第一序列表达和所述第一表结构表达输入第二表编码层得到所述文本向量对应的第二表结构表达,其中,所述第二表编码层与所述第一表编码层相邻相连;
将所述第一序列表达和所述第二表结构表达输入第二序列编码层,得到所述文本向量对应的第二序列表达,其中,所述第二序列编码层于所述第一序列编码层相邻相连;
根据所述第二表结构表达的获得方式,得到末层表编码层输出的实体关系预测结果,根据所述第二序列表达的获得方式,得到末层序列编码层输出的实体预测结果。
优选地,所述第一表编码层为连接文本向量器的首个表编码层,所述将所述文本向量输入第一表编码层得到所述文本向量对应的第一表结构表达的步骤,包括:
在所述首个表编码层中根据所述文本向量构建无上下文关系的初始表结构;
获取Bert模型的编码层输出的第一上下文关系概率;
将所述第一上下文关系概率关联于所述初始表结构中,得到第一表结构表达。
优选地,第一表编码层包括依次连接的直接拼接层、线性投影层和迭代递归层,所述在所述首个表编码层中根据所述文本向量构建无上下文关系的初始表结构的步骤,包括:
将所述文本向量通过直接拼接层进行向量拼接,得到第一拼接向量;
将所述第一拼接向量通过线性投影层得到所述文本向量对应的初始序列;
将所述初始序列通过迭代递归层计算得到无上下文关系的表结构中的每个单元格的隐藏层状态,得到所述文本向量对应的初始表结构。
优选地,所述迭代递归层为多维循环神经网络,将所述初始序列通过所述迭代递归层计算得到无上下文关系的表结构中的每个单元格的隐藏层状态,得到所述文本向量对应的初始表结构的步骤,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110212245.0/2.html,转载请声明来源钻瓜专利网。