[发明专利]一种密集权重连接的卷积神经网络图像分类方法有效
申请号: | 201810304695.0 | 申请日: | 2018-04-08 |
公开(公告)号: | CN108664993B | 公开(公告)日: | 2022-01-11 |
发明(设计)人: | 刘义鹏;李湛青;梁荣华;陈朋;蒋莉;王海霞 | 申请(专利权)人: | 浙江工业大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 杭州斯可睿专利事务所有限公司 33241 | 代理人: | 王利强 |
地址: | 310014 浙江省*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 密集 权重 连接 卷积 神经网络 图像 分类 方法 | ||
一种基于密集权重连接的卷积神经网络图像分类方法,包括以下步骤:1)模型的输入图像为经过预处理的原始图像,经过预处理的图像裁剪为一个固定尺寸;2)对图像进行较大尺寸的卷积操作和池化操作;3)将步骤2)中输出的特征送入第一个密集权重连接模块;4)加权组合处理;5)将步骤3)中密集权重连接块的输出继续送入下一个卷积层与池化层,此时的特征图像将近一步缩小;在经过多次密集权重连接块、卷积层、池化层的组合后,特征图像将不断组合并缩小为特征点;得到的特征点直接送入分类层进行分类或送入全连接层后再进行分类。本发明应用于更加复杂的图像分类任务,对多层特征的融合增加了更多的前向通道,近一步避免了梯度问题的发生。
技术领域
本发明涉及计算机视觉领域,是深度学习技术的一种,主要用于训练深度图像分类模型,尤其是一种图像分类方法。
背景技术
近几年,随着计算机计算能力的指数级增长和新型神经网络架构的出现,深度学习技术开始在计算机视觉、语音识别、自然语言处理等领域大放光彩。在计算机视觉领域,卷积神经网络的出现大大提高了计算机在图像分割,图像识别任务中的性能,其识别准确率远远高于传统的机器学习算法。目前,基于卷积神经网络的图像识别技术已经获得了广泛的使用。
常规的卷积神经网络包括卷积层、池化层、全连接层和分类层,其基本结构为上述单元的串联组合。卷积层用于学习图像中的低层和高层特征,而池化层可以对这些特征进行提取并不断减少特征图的尺寸。全连接层与分类层位于整个神经网络的末尾,用于对最终提取的高层特征进行分类。在具体的图像分类任务中,由于图像中被识别物体的角度、位姿、所处背景不同,同一类别的图像也存在较大的差异性。所以为了使神经网络可以学习到更加复杂的特征和更好的映射关系,网络的深度和宽度往往被设计的较深。但是同时,随着网络深度的增加,网络训练过程中更容易发生梯度消失和梯度爆炸问题,从而导致学习过程无法收敛。针对此问题,微软亚洲研究院的研究团队提出了基于残差结构的卷积神经网络,其基本思想是在低层与高层特征之间引入快速连接通道。该结构一方面在高层特征中引入了低层特征,增加了特征提取的多样性,另一方面,额外增加的前向通道避免了反向传播过程中发生的的梯度消失问题。但是面对图像分类问题的复杂条件,该方案只利用了网络中某一层前一级的低层特征,并没有完全利用网络中学习到的每一级特征。该方案在网络容量和复杂度上仍需改进。
发明内容
为了克服现有的图像分类方法应用于较复杂细粒度图像时性能较差的不足,本发明提出了一种基于密集权重连接的卷积神经网络图像分类方法。该神经网络可以充分利用网络中学习到的每一级特征,并且以加权的方式对这些特征进行融合,从而使网络模型可以应用于更加复杂的图像分类任务。同时,对多层特征的融合增加了更多的前向通道,近一步避免了梯度问题的发生。
本发明解决其技术问题所采用的技术方案是:
一种密集权重连接的卷积神经网络图像分类方法,所述方法包括以下步骤:
1)首先,模型的输入图像为经过预处理的原始图像,经过预处理的图像裁剪为一个固定尺寸;
2)对图像进行较大尺寸的卷积操作和池化操作;
3)将步骤2)中输出的特征送入第一个密集权重连接模块,所述密集权重连接模块的每个卷积组将包含多个1×1或3×3卷积,对拥有任意卷积组个数的密集权重连接块:卷积组n的输入为该卷积组之前n-1个卷积组的输出与密集权重连接块原始输入的加权组合;密集权重连接块的最终输出为所有卷积组的输出与密集权重连接块原始输入的加权组合;
4)加权组合处理:首先需要对用于加权的特征进行dropout处理:先对所有需要加权处理的输入特征设定一个概率值,在加权处理的初始阶段,计算设备会对每一个输入特征进行判断,并根据设定的概率值随机决定是否保留该特征并送入后续的加权合并操作;之后对所有被保留的特征进行加权组合处理;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江工业大学,未经浙江工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810304695.0/2.html,转载请声明来源钻瓜专利网。