[发明专利]指代消解模型的训练方法及装置、电子设备在审
申请号: | 202111258620.1 | 申请日: | 2021-10-27 |
公开(公告)号: | CN114091467A | 公开(公告)日: | 2022-02-25 |
发明(设计)人: | 李晨;阳任科 | 申请(专利权)人: | 北京奇艺世纪科技有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/274;G06F40/166;G06F16/335;G06F16/33;G06N20/00 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 吕俊秀 |
地址: | 100080 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 指代 消解 模型 训练 方法 装置 电子设备 | ||
1.一种指代消解模型的训练方法,其特征在于,所述方法包括:
在预设语料池中筛选符合目标条件的语料;其中,符合所述目标条件的语料中至少存在第一候选名词、第二候选名词以及目标名词,所述目标名词在所述语料中位于所述第一候选名词以及所述第二候选名词之后,所述第一候选名词与所述目标名词相同,所述第二候选名词与所述目标名词不同;
将所述符合目标条件的语料中的所述目标名词采用预设标识进行替换,得到目标语料;
根据所述第一候选名词以及所述第二候选名词,生成对应所述目标语料的标注信息;
根据所述目标语料以及所述对应目标语料的标注信息,对指代消解模型进行训练。
2.根据权利要求1所述的方法,其特征在于,所述在预设语料池中筛选符合目标条件的语料,包括:
基于命名实体识别确定所述预设语料池中每条语料包含的名词;
根据每条语料包含的名词,筛选至少存在所述第一候选名词、所述第二候选名词以及所述目标名词的语料。
3.根据权利要求1所述的方法,其特征在于,所述根据所述第一候选名词以及所述第二候选名词,生成对应所述目标语料的标注信息,包括:
将所述第一候选名词以及所述第二候选名词组成候选名词集合;
记录所述目标名词指代所述候选名词集合中的第一候选名词的目标信息。
4.根据权利要求3所述的方法,其特征在于,所述根据所述目标语料以及所述对应目标语料的标注信息,对指代消解模型进行训练,包括:
将所述目标语料输入所述指代消解模型,根据所述候选名词集合生成对应所述第一候选名词的第一语义向量、对应第二候选名词的第二语义向量以及目标语义向量,其中,所述目标语义向量为根据所述目标语料中预设标识的上下文信息确定的语义向量;
根据所述第一语义向量、所述第二语义向量分别与所述目标语义向量的相似度,确定预测结果,其中,所述预测结果包括所述预设标识指代所述第一候选名词或者所述预设标识指代所述第二候选名词;
根据所述预测结果以及所述目标信息,调整所述指代消解模型中对应的参数。
5.根据权利要求4所述的方法,其特征在于,所述根据所述第一语义向量、所述第二语义向量分别与所述目标语义向量的相似度,确定预测结果,包括:
分别将所述第一语义向量和所述第二语义向量与所述目标语义向量进行拼接,得到第一拼接向量和第二拼接向量;
分别将所述第一拼接向量和所述第二拼接向量输入相似度计算模型,得到第一计算数值和第二计算数值;
根据所述第一计算数值和所述第二计算数值,确定所述目标名词指代所述候选名词集合中的第一候选名词的概率值;
将所述目标名词指代所述候选名词集合中的第一候选名词的概率值,确定为所述预测结果。
6.根据权利要求1所述的方法,其特征在于,在根据所述目标语料以及所述对应目标语料的标注信息,对指代消解模型进行训练之后,所述方法还包括:
根据人工标注的语料对训练后的所述指代消解模型再次进行训练。
7.一种指代消解模型的训练装置,其特征在于,所述装置包括:
语料模块,用于在预设语料池中筛选符合目标条件的语料;其中,符合所述目标条件的语料中至少存在第一候选名词、第二候选名词以及目标名词,所述目标名词在所述语料中位于所述第一候选名词以及所述第二候选名词之后,所述第一候选名词与所述目标名词相同,所述第二候选名词与所述目标名词不同;
处理模块,用于将所述符合目标条件的语料中的所述目标名词采用预设标识进行替换,得到目标语料;
标注模块,用于根据所述第一候选名词以及所述第二候选名词,生成对应所述目标语料的标注信息;
第一训练模块,用于根据所述目标语料以及所述对应目标语料的标注信息,对指代消解模型进行训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇艺世纪科技有限公司,未经北京奇艺世纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111258620.1/1.html,转载请声明来源钻瓜专利网。