[发明专利]问答模型的训练方法、问答处理方法、装置及存储介质在审

专利信息
申请号: 202310065730.9 申请日: 2023-01-13
公开(公告)号: CN116257611A 公开(公告)日: 2023-06-13
发明(设计)人: 庞超;王硕寰;朱鹏飞;孙宇;李芝 申请(专利权)人: 北京百度网讯科技有限公司
主分类号: G06F16/332 分类号: G06F16/332;G06F18/214;G06N20/00
代理公司: 北京清亦华知识产权代理事务所(普通合伙) 11201 代理人: 刘海莲
地址: 100085 北京市*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 问答 模型 训练 方法 处理 装置 存储 介质
【权利要求书】:

1.一种问答模型的训练方法,所述方法包括:

获取训练数据集;

利用所述训练数据集中的训练数据对预设问答模型中的预设检索网络进行训练,以得到目标检索网络;

利用所述目标检索网络输出所述训练数据的候选答案向量集和训练向量;

利用所述训练数据的候选答案向量集,所述训练向量和/或所述训练数据对所述预设问答模型中的预设生成网络进行训练,以得到目标生成网络;

基于所述目标检索网络和所述目标生成网络,以得到目标问答模型。

2.如权利要求1所述的方法,其中,所述训练数据集中包括多模态数据、无结构文本数据、有结构文本数据。

3.如权利要求1所述的方法,其中,所述方法还包括:

利用所述目标检索网络生成目标向量检索库,所述目标向量检索中包括数据源中所有数据对应的向量。

4.如权利要求3所述的方法,其中,所述利用所述目标检索网络输出训练数据的候选答案向量集和所述训练数据对应的训练向量,包括:

将所述训练数据输入所述目标检索网络进行向量转换,以生成所述训练数据对应的训练向量;

所述目标检索网络基于所述训练向量,从目标向量检索库中获取所述训练向量对应的候选答案向量集。

5.如权利要求4所述的方法,其中,所述所述目标检索网络基于所述训练向量,从目标向量检索库中获取所述训练向量对应的候选答案向量集,包括:

所述目标检索网络基于所述训练向量与所述目标向量检索库中向量之间的相似度,获取所述训练向量对应的预设数量的候选答案向量;

基于所述预设数量的候选答案向量,构成所述训练向量对应的候选答案向量集。

6.如权利要求1所述的方法,其中,所述利用所述训练数据的候选答案向量集,所述训练向量和/或所述训练数据对所述预设问答模型中的预设生成网络进行训练,以得到目标生成网络,包括:

将所述训练数据的候选答案向量集,所述训练向量和/或所述训练数据输入至所述预设问答模型中的预设生成网络,以得到所述训练数据的预测答案;

基于所述训练数据的预测答案和所述训练数据的真实答案,得到对应的损失值;

基于所述损失值更新所述预设生成网络的参数,直至所述预设生成网络收敛,以得到目标生成网络。

7.如权利要求6所述的方法,其中,所述将所述训练数据的候选答案向量集,所述训练向量和/或所述训练数据输入至所述预设生成网络中,以得到所述训练数据的预测答案,包括:

确定所述训练数据中的模态类型;

基于所述模态类型,将所述训练数据和/或所述训练向量,和所述候选答案向量集输入所述预设生成网络;

所述预设生成网络将所述候选答案向量集中的候选答案向量进行拼接,并基于拼接后的向量和所述训练数据和/或所述训练向量,以得到所述训练数据的预测答案。

8.如权利要求7所述的方法,其中,所述基于所述模态类型,将所述训练数据和/或所述训练向量,和所述候选答案向量集输入所述预设生成网络,包括:

若所述训练数据只包括文本模态,将所述训练数据和所述候选答案向量集输入所述预设生成网络;

若所述训练数据包括文本模态和其他模态,将所述训练数据中文本模态对应的文本数据和所述其他模态对应的训练向量,和所述候选答案向量集输入所述预设生成网络;

若所述训练数据不包括文本模态,将所述训练向量和所述候选答案向量集输入所述预设生成网络。

9.一种问答处理方法,所述方法包括:

获取需要回答的问题数据;

将所述问题数据输入目标问答模型中的目标检索网络,以生成所述问题数据对应的问题向量和候选答案向量集;

将所述问题数据和/或所述问题向量,和所述候选答案向量集输入所述目标问答模型中的目标生成网络,以生成所述问题数据的目标答案。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202310065730.9/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top