[发明专利]神经网络的训练方法、装置和设备有效
申请号: | 201911171008.3 | 申请日: | 2019-11-26 |
公开(公告)号: | CN112862058B | 公开(公告)日: | 2022-11-25 |
发明(设计)人: | 丁启民;俞海宝;程光亮;石建萍 | 申请(专利权)人: | 北京市商汤科技开发有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N20/00 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 靳玫 |
地址: | 100080 北京市海淀区北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 训练 方法 装置 设备 | ||
1.一种神经网络的训练方法,其特征在于,所述方法包括:
利用样本图像对所述神经网络进行N轮训练,得到训练结束的目标神经网络;其中,N是正整数;
其中,所述N轮训练中的K轮训练中的每一轮训练包括:
从待选压缩方式集合中选择一种压缩方式对本轮中待训练的神经网络进行压缩,得到压缩后的神经网络;
利用压缩后的神经网络对输入的样本图像提取图像特征,并对所述图像特征进行处理得到图像检测结果;
根据所述图像检测结果对所述压缩后的神经网络的网络参数进行调整,得到下一轮中待训练的神经网络;其中,K小于或等于N,且K为正整数。
2.根据权利要求1所述的方法,其特征在于,所述N轮训练中的N-K轮训练中的每一轮训练包括:
利用本轮中待训练的神经网络对输入的样本图像提取图像特征,并对所述图像特征进行处理得到图像检测结果;
根据所述图像检测结果对本轮中待训练的神经网络的网络参数进行调整,得到下一轮中待训练的神经网络。
3.根据权利要求1所述的方法,其特征在于,所述待选压缩方式集合中包括以下至少两种压缩方式:
网络剪枝,或者M比特量化,所述M是自然数。
4.根据权利要求1-3任一所述的方法,其特征在于,所述从待选压缩方式集合中选择一种压缩方式对本轮中待训练的神经网络进行压缩,得到压缩后的神经网络,包括:
分别使用所述待选压缩方式集合中的每一种压缩方式对本轮中待训练的神经网络进行压缩,得到D个压缩后的神经网络;其中,D为所述待选压缩方式集合中包括的压缩方式的数量,且D为正整数;
利用压缩后的神经网络对输入的样本图像提取图像特征,并对所述图像特征进行处理得到图像检测结果,包括:
分别利用所述D个压缩后的神经网络对输入的样本图像提取图像特征;
分别利用所述D个压缩后的神经网络对其提取到的图像特征进行处理,得到所述D个压缩后的神经网络的图像检测结果;
根据所述图像检测结果对所述压缩后的神经网络的网络参数进行调整,得到下一轮中待训练的神经网络,包括:
根据每个压缩后的神经网络的图像检测结果对该压缩后的神经网络的网络参数进行调整,得到D个训练后的神经网络;
从所述D个训练后的神经网络中选择一个神经网络作为下一轮中待训练的神经网络。
5.根据权利要求4所述的方法,其特征在于,所述从所述D个训练后的神经网络中选择一个神经网络作为下一轮中待训练的神经网络,包括:
确定所述D个训练后的神经网络的性能得分;
选择性能得分最高的神经网络,作为下一轮中待训练的神经网络。
6.根据权利要求5所述的方法,其特征在于,所述确定所述D个训练后的神经网络的性能得分,包括:
基于如下至少一项确定所述目标神经网络的性能得分:神经网络的精度、神经网络一次前向传播的耗时、或者神经网络的浮点计算次数。
7.一种目标检测方法,其特征在于,所述方法包括:
利用神经网络对待检测图像进行目标检测,得到检测结果;所述神经网络采用权利要求1-6任一所述的方法训练得到。
8.一种智能行驶方法,其特征在于,所述方法包括:
利用神经网络对道路图像进行检测,得到检测结果;其中,所述神经网络采用权利要求1-6任一所述的方法训练得到;
根据所述检测结果控制采集所述道路图像的智能行驶设备。
9.一种驾驶员监控方法,其特征在于,所述方法包括:
利用神经网络对采集的车舱内的图像进行检测,得到检测结果;其中,所述神经网络采用权利要求1-6任一所述的方法训练得到;
根据所述检测结果对包括所述车舱的车辆的驾驶员进行告警。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京市商汤科技开发有限公司,未经北京市商汤科技开发有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911171008.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:单机桁架集成式堆料机
- 下一篇:屏幕分辨率的检测方法和装置