[发明专利]一种网络模型训练方法和装置在审
申请号: | 201910527781.2 | 申请日: | 2019-06-18 |
公开(公告)号: | CN110309922A | 公开(公告)日: | 2019-10-08 |
发明(设计)人: | 张文迪;崔正文 | 申请(专利权)人: | 北京奇艺世纪科技有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 北京柏杉松知识产权代理事务所(普通合伙) 11413 | 代理人: | 李欣;马敬 |
地址: | 100080 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 损失函数 子网络 目标网络 网络模型 方法和装置 实际输出 输出结果 训练样本 预设 模型参数 模型训练 训练条件 期望 | ||
1.一种网络模型训练方法,其特征在于,所述方法包括:
将预设训练样本集中的训练样本,分别输入至目标网络模型所包含的各子网络模型;
获取所述各子网络模型各自的损失函数的数值,以及原始损失函数的数值,其中,一个子网络模型的损失函数用于表示该子网络模型的实际输出结果与期望输出结果之间的差值,所述原始损失函数用于表示所述目标网络模型的实际输出结果与期望输出结果之间的差值;
根据所述各子网络模型各自的损失函数的数值,以及所述原始损失函数的数值,对所述目标网络模型的模型参数进行调整;
当达到预设停止训练条件时,停止模型训练,得到训练好的目标网络模型。
2.根据权利要求1所述的方法,其特征在于,所述根据所述各子网络模型各自的损失函数的数值,以及所述原始损失函数的数值,对所述目标网络模型的模型参数进行调整,包括:
根据所述各子网络模型各自的损失函数的数值与所述原始损失函数的数值的总和值,对所述目标网络模型的模型参数进行调整。
3.根据权利要求1所述的方法,其特征在于,所述原始损失函数为所述目标网络模型的实际输出结果与期望输出结果的交叉熵,一个子网络模型的损失函数为该子网络模型的实际输出结果与期望输出结果的交叉熵。
4.根据权利要求1所述的方法,其特征在于,所述目标网络模型为宽度和深度Wide&Deep网络模型。
5.根据权利要求1所述的方法,其特征在于,所述预设停止训练条件为:
根据所述预设训练样本集对所述目标网络模型进行模型训练的次数,达到预设次数;
或者,
将测试样本输入至所述目标网络模型中,得到的所述目标损失函数的数值小于预设阈值。
6.一种网络模型训练装置,其特征在于,所述装置包括:
第一处理模块,用于将预设训练样本集中的训练样本,分别输入至目标网络模型所包含的各子网络模型;
获取模块,用于获取所述各子网络模型各自的损失函数的数值,以及原始损失函数的数值,其中,一个子网络模型的损失函数用于表示该子网络模型的实际输出结果与期望输出结果之间的差值,所述原始损失函数用于表示所述目标网络模型的实际输出结果与期望输出结果之间的差值;
调整模块,用于根据所述各子网络模型各自的损失函数的数值,以及所述原始损失函数的数值,对所述目标网络模型的模型参数进行调整;
第二处理模块,用于当达到预设停止训练条件时,停止模型训练,得到训练好的目标网络模型。
7.根据权利要求6所述的装置,其特征在于,所述调整模块,具体用于根据所述各子网络模型各自的损失函数的数值与所述原始损失函数的数值的总和值,对所述目标网络模型的模型参数进行调整。
8.根据权利要求6所述的装置,其特征在于,所述原始损失函数为所述目标网络模型的实际输出结果与期望输出结果的交叉熵,一个子网络模型的损失函数为该子网络模型的实际输出结果与期望输出结果的交叉熵。
9.根据权利要求6所述的装置,其特征在于,所述目标网络模型为宽度和深度Wide&Deep网络模型。
10.根据权利要求6所述的装置,其特征在于,所述预设停止训练条件为:
根据所述预设训练样本集对所述目标网络模型进行模型训练的次数,达到预设次数;
或者,
将测试样本输入至所述目标网络模型中,得到的所述目标损失函数的数值小于预设阈值。
11.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,所述处理器,所述通信接口,所述存储器通过所述通信总线完成相互间的通信;
所述存储器,用于存放计算机程序;
所述处理器,用于执行所述存储器上所存放的程序时,实现权利要求1-5任一所述的方法步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇艺世纪科技有限公司,未经北京奇艺世纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910527781.2/1.html,转载请声明来源钻瓜专利网。