[发明专利]一种基于反向传播的深度学习方法有效
申请号: | 201711029714.5 | 申请日: | 2017-10-27 |
公开(公告)号: | CN107729992B | 公开(公告)日: | 2020-12-29 |
发明(设计)人: | 王好谦;安王鹏;方璐;戴琼海 | 申请(专利权)人: | 深圳市未来媒体技术研究院;清华大学深圳研究生院 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06K9/54 |
代理公司: | 深圳新创友知识产权代理有限公司 44223 | 代理人: | 方艳平 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 反向 传播 深度 学习方法 | ||
1.一种基于反向传播的深度学习方法,其特征在于,包括以下步骤:
S1:准备训练集,其中,以自然图像公共数据集作为所述训练集;
S2:将所述训练集输入到卷积神经网络,得到网络输出;
S3:计算所述网络输出和所述训练集中的真值之间的距离,得到交叉熵目标函数;
S4:根据所述交叉熵目标函数判断步骤S2的所述网络输出的准确率是否提升,如果是,则执行步骤S5,如果否,则结束训练;
S5:采用正弦指数学习速率来对所述卷积神经网络的权值进行更新,并将更新后的该权值输入到步骤S2的所述卷积神经网络中,然后重复步骤S2至S4,由此加速网络训练;
步骤S5中的正弦指数学习速率为:
式中,lr0表示初始的学习速率,t表示训练网络时的迭代次数,α为衰减系数,β为振荡系数,T表示训练集在网络中训练一次所需的迭代次数。
2.根据权利要求1所述的深度学习方法,其特征在于,步骤S1中包括:对自然图像公共数据集进行增强处理,得到增强后的数据集作为训练集。
3.根据权利要求2所述的深度学习方法,其特征在于,步骤S1中的对自然图像公共数据集进行增强处理具体选自以下处理方式:旋转图像、剪切图像、缩放图像、对比度变换、改变图像尺寸、对图像加噪音。
4.根据权利要求3所述的深度学习方法,其特征在于,其中对比度变换具体包括:在图像的HSV颜色空间,保持色调H不变,对每个像素的饱和度S和亮度V分量进行指数运算,其中指数因子在0.25~4之间。
5.根据权利要求2所述的深度学习方法,其特征在于,步骤S1中还包括采用图像差值方法将增强后的数据集统一到224×224的尺寸作为训练集。
6.根据权利要求1所述的深度学习方法,其特征在于,步骤S2中的卷积神经网络中具体选择宽度残差网络作为学习的模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市未来媒体技术研究院;清华大学深圳研究生院,未经深圳市未来媒体技术研究院;清华大学深圳研究生院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711029714.5/1.html,转载请声明来源钻瓜专利网。