[发明专利]答案生成方法、装置、电子设备及可读存储介质在审
申请号: | 202110124138.2 | 申请日: | 2021-01-28 |
公开(公告)号: | CN112800178A | 公开(公告)日: | 2021-05-14 |
发明(设计)人: | 李雷来;王健宗;瞿晓阳 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/332;G06F40/295 |
代理公司: | 深圳市沃德知识产权代理事务所(普通合伙) 44347 | 代理人: | 高杰;于志光 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 答案 生成 方法 装置 电子设备 可读 存储 介质 | ||
本发明涉及智能决策,揭露一种答案生成方法,包括:建立计算机集群,控制计算机集群基于第一语料对初始问答模型执行第一分布式训练,得到第一问答模型;控制计算机集群基于第二语料对第一问答模型执行第二分布式训练,得到第二问答模型;获取答案生成请求携带的目标问题,从第三数据库中获取目标问题对应的目标文本,将目标文本及目标问题输入第二问答模型,得到目标文本中每个词语是目标问题的答案起始词汇的概率及答案终点词汇的概率,基于答案起始词汇的概率及答案终点词汇的概率确定目标问题对应的目标答案。本发明还提供一种答案生成装置、电子设备及可读存储介质。本发明提高了答案生成准确度。
技术领域
本发明涉及智能决策领域,尤其涉及一种答案生成方法、装置、电子设备及可读存储介质。
背景技术
随着信息化时代的到来,智能问答在人们生活中的应用越来越广泛,例如,某公司新研发了一款产品,当用户咨询该产品时,可通过智能问答模型从该产品的说明书中智能提取出用户问题对应的答案反馈给用户。
为了得到性能良好的智能问答模型,通常需要海量语料对参数量巨大的问答模型进行训练,然而训练过程中需要投入大量计算资源,且训练过程较为漫长,基于成本与时间的限制,人们通常对语料及模型结构进行缩减,然而这种方式使得训练得到的智能问答模型性能不够高,模型匹配出的答案准确度不高。因此,亟需一种答案生成方法,以提高答案生成准确度。
发明内容
鉴于以上内容,有必要提供一种答案生成方法,旨在提高答案生成准确度。
本发明提供的答案生成方法,包括:
建立计算机集群,从第一数据库中获取第一语料,控制所述计算机集群基于所述第一语料对初始问答模型执行第一分布式训练,得到第一问答模型;
从第二数据库中获取第二语料,控制所述计算机集群基于所述第二语料对所述第一问答模型执行第二分布式训练,得到第二问答模型;
解析用户基于客户端发出的答案生成请求,获取所述请求携带的目标问题,对所述目标问题执行分词及实体识别处理,得到实体识别结果,从第三数据库中获取与所述实体识别结果匹配的目标文本;
将所述目标文本及目标问题输入所述第二问答模型,得到所述目标文本中每个词语是所述目标问题的答案起始词汇的概率及答案终点词汇的概率,基于所述答案起始词汇的概率及答案终点词汇的概率确定所述目标问题对应的目标答案。
可选的,所述控制所述计算机集群基于所述第一语料对初始问答模型执行第一分布式训练,包括:
设置第一分布式训练的最大迭代轮次,对所述第一语料执行掩盖及标签化处理,得到携带标签的第三语料;
获取所述计算机集群中各个计算节点的硬件资源信息,基于所述硬件资源信息将所述第三语料拆分为多个子语料,将所述多个子语料分发给所述各个计算节点,以供所述各个计算节点基于所述子语料训练所述初始问答模型;
接收所述各个计算节点反馈的模型梯度,基于所述模型梯度更新所述初始问答模型的模型参数,将更新后的模型参数发送给所述各个计算节点,以供所述各个计算节点基于所述更新后的模型参数更新所述初始问答模型,并基于更新后的初始问答模型继续训练,当迭代到最大迭代轮数后,第一分布式训练结束。
可选的,所述基于所述模型梯度更新所述初始问答模型的模型参数,包括:
计算所述模型梯度的平均值,将所述平均值代入收敛参数计算公式计算得到所述初始问答模型的收敛参数,将所述平均值代入更新参数计算公式计算得到所述初始问答模型的更新参数;
将所述收敛参数及更新参数代入缩放率计算公式计算得到所述初始问答模型的缩放率,将所述初始问答模型的初始模型参数及初始学习率代入学习率计算公式计算得到所述初始问答模型的新学习率;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110124138.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:加热套
- 下一篇:热激活砖砌建筑围护结构用砌体构件及其组合设计方法