[发明专利]模型训练方法、装置及电子设备在审
申请号: | 202110281160.8 | 申请日: | 2021-03-16 |
公开(公告)号: | CN113011490A | 公开(公告)日: | 2021-06-22 |
发明(设计)人: | 李健;殷硕;叶超;宋斌斌;何洋;丁斌;嵇智;邓涛;张文;国智 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06K9/68;G06N20/00;G06Q30/02 |
代理公司: | 北京银龙知识产权代理有限公司 11243 | 代理人: | 黄灿;刘念 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 装置 电子设备 | ||
1.一种模型训练方法,包括:
获取多个待训练模型,所述多个待训练模型包括结构不同的第一待训练模型和第二待训练模型;
获取所述第二待训练模型输出的第一目标预估信息,所述第一目标预估信息为所述第二待训练模型输出的与所述第一待训练模型输入的特征信息相关的预估信息;
将所述第一目标预估信息作为所述第一待训练模型对应的第一标签信息,对所述第一待训练模型进行训练,以更新所述第一待训练模型的参数。
2.根据权利要求1所述的方法,其中,所述将所述第一目标预估信息作为所述第一待训练模型对应的第一标签信息,对所述第一待训练模型进行训练,以更新所述第一待训练模型的参数,包括:
获取所述第一待训练模型输出的第一预估信息;
确定所述第一标签信息与所述第一预估信息的第一差异信息;
基于所述第一差异信息,更新所述第一待训练模型的参数。
3.根据权利要求2所述的方法,所述基于所述第一差异信息,更新所述第一待训练模型的参数之前,所述方法还包括:
获取所述第一待训练模型对应的第二标签信息;
确定所述第二标签信息与所述第一预估信息的第二差异信息;
所述基于所述第一差异信息,更新所述第一待训练模型的参数,包括:
基于所述第一差异信息和第二差异信息,更新所述第一待训练模型的参数。
4.根据权利要求1所述的方法,其中,所述多个待训练模型还包括第三待训练模型,所述第三待训练模型输出的预估信息的维度大于或等于所述第二待训练模型输出的预估信息的维度;
所述获取所述第二待训练模型输出的第一目标预估信息,包括:
获取所述第三待训练模型输出的第二目标预估信息,所述第二目标预估信息为所述第三待训练模型输出的与所述第二待训练模型输入的特征信息相关的预估信息;
将所述第二目标预估信息作为所述第二待训练模型对应的第三标签信息,对所述第二待训练模型进行训练,以更新所述第二待训练模型的参数;
基于更新的所述第二待训练模型的参数,确定所述第一目标预估信息。
5.根据权利要求1所述的方法,其中,所述第一待训练模型输出的预估信息的维度等于所述第二待训练模型输出的预估信息的维度;
所述将所述第一目标预估信息作为所述第一待训练模型对应的第一标签信息,对所述第一待训练模型进行训练,以更新所述第一待训练模型的参数之后,所述方法还包括:
基于更新的所述第一待训练模型的参数,确定所述第一待训练模型输出的第二预估信息;
将所述第二预估信息作为所述第二待训练模型对应的第四标签信息,对所述第二待训练模型进行训练,以更新所述第二待训练模型的参数。
6.一种模型训练装置,包括:
第一获取模块,用于获取多个待训练模型,所述多个待训练模型包括结构不同的第一待训练模型和第二待训练模型;
第二获取模块,用于获取所述第二待训练模型输出的第一目标预估信息,所述第一目标预估信息为所述第二待训练模型输出的与所述第一待训练模型输入的特征信息相关的预估信息;
第一训练模块,用于将所述第一目标预估信息作为所述第一待训练模型对应的第一标签信息,对所述第一待训练模型进行训练,以更新所述第一待训练模型的参数。
7.根据权利要求6所述的装置,其中,所述第一训练模块包括:
第一获取单元,用于获取所述第一待训练模型输出的第一预估信息;
第一确定单元,用于确定所述第一标签信息与所述第一预估信息的第一差异信息;
更新单元,用于基于所述第一差异信息,更新所述第一待训练模型的参数。
8.根据权利要求7所述的装置,其中,所述装置还包括:
第三获取模块,用于获取所述第一待训练模型对应的第二标签信息;
第一确定模块,用于确定所述第二标签信息与所述第一预估信息的第二差异信息;
所述更新单元,具体用于基于所述第一差异信息和第二差异信息,更新所述第一待训练模型的参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110281160.8/1.html,转载请声明来源钻瓜专利网。