[发明专利]一种模型参数调整方法、装置、电子设备和存储介质在审
申请号: | 202010544321.3 | 申请日: | 2020-06-15 |
公开(公告)号: | CN111753955A | 公开(公告)日: | 2020-10-09 |
发明(设计)人: | 吴月升;刘焱;王洋;郝新;熊俊峰 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 模型 参数 调整 方法 装置 电子设备 存储 介质 | ||
1.一种模型参数调整方法,包括:
获取使用当前样本数据对深度神经网络模型进行训练时,所述深度神经网络模型中包含的设定网络层的各输入特征参数;
对各所述输入特征参数进行排序,根据排序结果选取数值最小的至少一个输入特征参数;
将选取的各输入特征参数的数值调小。
2.根据权利要求1所述的方法,其中,将选取的各输入特征参数的数值调小,包括:
将选取的各输入特征参数的数值调整为0。
3.根据权利要求1所述的方法,其中,根据排序结果选取数值最小的至少一个输入特征参数,包括:
根据排序结果选取数值最小的N个输入特征参数,其中N等于输入特征参数的总个数乘以预设比例值后获得的整数值。
4.根据权利要求1所述的方法,其中,在将选取的各输入特征参数的数值调小之后,所述方法还包括:
判断是否已完成设定次数的迭代训练或者所述深度神经网络模型的准确度是否不低于预设值;
若是,则确定对所述深度神经网络模型的训练结束;若否,则将另一样本数据作为当前样本数据后,返回执行获取使用当前样本数据对深度神经网络模型进行训练时,所述深度神经网络模型中包含的设定网络层的各输入特征参数的操作。
5.根据权利要求1所述的方法,其中,所述深度神经网络模型为卷积神经网络模型,所述设定网络层包括卷积层和/或全连接层。
6.根据权利要求1-5中任一项所述的方法,其中,在对所述深度神经网络模型的训练结束后,所述方法还包括:
获取验证样本集;
基于所述验证样本集和训练结束后获得的所述深度神经网络模型,生成第一对抗样本集;基于所述验证样本集和已有深度神经网络模型,生成第二对抗样本集;所述已有深度神经网络模型是采用已有训练方式训练获得的深度神经网络模型,所述已有训练方式是指在训练过程中未调整网络层的输入特征参数的训练方式;
根据第一对抗样本集确定所述已有深度神经网络模型的第一准确度,根据第二对抗样本集确定训练结束后获得的所述深度神经网络模型的第二准确度,将第一准确度和第二准确度进行输出,以根据输出内容确定模型训练效果。
7.根据权利要求6所述的方法,其中,根据第一对抗样本集确定所述已有深度神经网络模型的第一准确度,根据第二对抗样本集确定训练结束后获得的所述深度神经网络模型的第二准确度,包括:
将第一对抗样本集中的各第一对抗样本分别输入所述已有深度神经网络模型,获得所述已有深度神经网络模型针对各第一对抗样本分别输出的预测结果;通过将各预测结果与各第一对抗样本对应的标签信息进行比对,确定所述已有深度神经网络模型的预测准确率,将该预测准确率作为第一准确度;
将第二对抗样本集中的各第二对抗样本分别输入训练结束后获得的所述深度神经网络模型,获得训练结束后获得的所述深度神经网络模型针对各第二对抗样本分别输出的预测结果,通过将各预测结果与各第二对抗样本对应的标签信息进行比对,确定训练结束后获得的所述深度神经网络模型的预测准确率,将该预测准确率作为第二准确度。
8.一种模型参数调整装置,包括:
特征参数获取模块,用于获取使用当前样本数据对深度神经网络模型进行训练时,所述深度神经网络模型中包含的设定网络层的各输入特征参数;
排序筛选模块,用于对各所述输入特征参数进行排序,根据排序结果选取数值最小的至少一个输入特征参数;
调整模块,用于将选取的各输入特征参数的数值调小。
9.根据权利要求8所述的装置,其中,所述调整模块具体用于:
将选取的各输入特征参数的数值调整为0。
10.根据权利要求8所述的装置,其中,排序筛选模块,包括:
筛选单元,用于根据排序结果选取数值最小的N个输入特征参数,其中N等于输入特征参数的总个数乘以预设比例值后获得的整数值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010544321.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种移动式河湖清淤污泥处理系统
- 下一篇:一种用于素材检查的紫外线检测方法