[发明专利]问答模型的训练方法及装置有效
申请号: | 202110665052.0 | 申请日: | 2021-06-16 |
公开(公告)号: | CN113127624B | 公开(公告)日: | 2021-11-16 |
发明(设计)人: | 冯晓阳;李长亮;姬子明 | 申请(专利权)人: | 北京金山数字娱乐科技有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F16/35;G06F40/216;G06F40/30;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京智信禾专利代理有限公司 11637 | 代理人: | 吴肖肖 |
地址: | 100085 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 问答 模型 训练 方法 装置 | ||
1.一种问答模型的训练方法,其特征在于,包括:
构建样本语料对应的初始文本意群,并为所述样本语料添加语境标签,以及提取所述初始文本意群中的初始词组,建立所述语境标签与所述初始文本意群的对应关系,并根据所述对应关系和初始词组构建所述样本语料对应的场景定向词表空间;
获取训练样本,并确定所述训练样本对应的样本词组;
基于所述样本词组查询所述场景定向词表空间,根据查询结果确定所述训练样本对应的目标文本意群;
利用所述目标文本意群和所述训练样本对初始问答模型进行训练,直至获得满足训练停止条件的目标问答模型。
2.根据权利要求1所述的问答模型的训练方法,其特征在于,所述为所述样本语料添加语境标签,包括:
提取所述样本语料的多个初始特征,并对所述多个初始特征进行预处理获得多个目标特征;
计算各个目标特征与所述样本语料的语境相似度,根据语境相似度计算结果选择至少一个目标特征作为所述语境标签,并添加至所述样本语料。
3.根据权利要求2所述的问答模型的训练方法,其特征在于,所述基于所述样本词组查询所述场景定向词表空间,根据查询结果确定所述训练样本对应的目标文本意群,包括:
将所述样本词组映射到所述场景定向词表空间,计算所述样本词组与所述语境标签的词组相似度;
根据词组相似度计算结果确定目标语境标签,并将所述目标语境标签对应的初始文本意群作为所述目标文本意群。
4.根据权利要求1所述的问答模型的训练方法,其特征在于,所述确定所述训练样本对应的样本词组,包括:
对所述训练样本进行解析,获得所述训练样本中的样本问题文本;
提取所述样本问题文本中的第一词单元和第二词单元,基于所述第一词单元和所述第二词单元构建所述样本词组。
5.根据权利要求4所述的问答模型的训练方法,其特征在于,所述利用所述目标文本意群和所述训练样本对初始问答模型进行训练,直至获得满足训练停止条件的目标问答模型,包括:
将所述目标文本意群和所述训练样本中的所述样本问题文本输入至所述初始问答模型进行处理,获得预测答案文本;
基于所述预测答案文本和所述训练样本中的样本答案文本对所述初始问答模型进行优化,直至获得满足训练停止条件的所述目标问答模型。
6.根据权利要求5所述的问答模型的训练方法,其特征在于,所述将所述目标文本意群和所述训练样本中的所述样本问题文本输入至所述初始问答模型进行处理,获得预测答案文本,包括:
基于所述样本问题文本生成词单元向量以及场景标签向量,以及基于所述目标文本意群生成意群向量;
对所述词单元向量和所述场景标签向量进行整合,获得所述样本问题文本对应的样本问题向量;
将所述样本问题向量和所述意群向量输入至所述初始问答模型进行处理,获得所述预测答案文本。
7.根据权利要求6所述的问答模型的训练方法,其特征在于,所述将所述样本问题向量和所述意群向量输入至所述初始问答模型进行处理,获得所述预测答案文本,包括:
将所述样本问题向量和所述意群向量输入至所述初始问答模型,通过所述初始问答模型中的融合模块对所述样本问题向量和所述意群向量进行处理,获得融合向量;
将所述融合向量输入至所述初始问答模型中的识别模块进行处理,获得关联实体中心词和上下文场景分布;
通过所述初始问答模型中的输出层对所述关联实体中心词和所述上下文场景分布进行处理,获得所述预测答案文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山数字娱乐科技有限公司,未经北京金山数字娱乐科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110665052.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:电池包
- 下一篇:一种净化玻璃墙板安装辅助装置及其安装方法