[发明专利]一种基于卷积神经网络随机池化的图像分类方法有效
申请号: | 201810391921.3 | 申请日: | 2018-04-27 |
公开(公告)号: | CN108596258B | 公开(公告)日: | 2022-03-29 |
发明(设计)人: | 吴晓富;史璐璐;张索非 | 申请(专利权)人: | 南京邮电大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/82;G06V10/774;G06N3/04;G06N3/08 |
代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 柏尚春 |
地址: | 210000 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 卷积 神经网络 随机 图像 分类 方法 | ||
本发明公开了一种基于卷积神经网络随机池化的图像分类方法,该方法包括如下步骤:将待处理图像数据集划分为训练集、测试集;设计分类任务的卷积神经网络;对图像训练集和测试集在输入训练卷积网络前进行预处理;将预处理后的训练集和测试集依次分批量导入卷积神经网络,卷积层得到四维张量特征图,使用激活函数激活特征图;将激活后的特征图导入池化层进行随机池化采样概率的运算;分别计算输出训练、测试阶段的随机池化响应;利用训练集训练卷积神经网络模型,利用分类训练好的模型完成对测试集的分类。本发明有效地解决了图像分类任务中,卷积神经网络随机池化通用于负值响应激活函数的问题,极大地提高了卷积神经网络泛化能力。
技术领域
本发明属于计算机视觉、深度学习中卷积神经网络技术领域,具体涉及一种基于卷积神经网络随机池化的图像分类方法。
背景技术
卷积神经网络在许多视觉图像识别任务中具有极好的性能,尤其是近几年ImageNet的大尺度视觉识别挑战赛(ILSVRC)上取得了突破性的成绩。视觉图像识别性能在卷积神经网络的改善主要取决于两个方面:强大的网络模型和网络防止过拟合策略。深度卷积神经网络起先最大突破是在ILSVRC 2012年取得冠军的AlexNet,从此之后多种卷积神经网络结构出现:从ILSVRC 2013的ZFNet,Overfeat到ILSVRC 2014的GoogLeNet,VGGNet再到ILSVRC 2015的ResNet等。但是,随着网络容量的增加,例如,提高的深度,加宽的宽度等,卷积神经网络更容易过拟合。近几年,有多种正则化方法被提出减少网络过拟合的影响,包括权重衰减,dropout,数据增强技术等。
随机池化也被认为是一种正则化方法,相比较常用的最大池化它更容易减少网络过拟合影响。池化层是构成深度卷积神经网络的一个标准部分。常用的最大池化方法是一种确定的池化方法,它只需在每个池化区域找出最大的激活值作为输出,而对于随机池化,在池化区域内每个激活元素都有机会被选中成为输出。然而,对于具有负值响应的激活值,传统的随机池化方法受到了很大程度的限制。传统的随机池化方法仅仅适用于当时提出的ReLU这种具有非负激活响应的激活函数,这对于目前提出较新的具有负值响应的一些激活函数,例如Leaky ReLU,PReLU以及ELU等,完全无法适用。那么如何在图像分类识别任务中用卷积神经网络随机池化方法运算选取来自激活函数的负值响应成为主要问题。
发明内容
发明目的:针对现有技术存在的不足和缺陷,本发明提供一种基于卷积神经网络随机池化的图像分类方法,提高卷积神经网络在图像分类任务中的泛化能力和准确度,防止过拟合。
技术方案:为实现本发明的上述目的,本发明所采用的技术方案是:一种基于卷积神经网络随机池化的图像分类方法,该方法包括如下步骤:
(1)将待处理图像数据集划分为训练集、测试集;
(2)设计用于待处理图像数据集分类任务的卷积神经网络;
(3)对图像训练集和测试集在输入训练卷积网络前进行预处理;
(4)将预处理后的训练集和测试集依次分批量导入卷积神经网络结构中,卷积层得到四维张量特征图,使用激活函数激活特征图;
(5)将激活后的特征图导入卷积神经网络的池化层进行随机池化采样概率的运算;
(6)以每个池化域内采样概率形成的多项式分布进行采样,输出为训练阶段的随机池化响应;
(7)利用训练集训练卷积神经网络模型,利用分类训练好的卷积神经网络模型完成对测试集的分类。
其中,在步骤(2)中,设计用于待处理图像数据集分类任务的卷积神经网络包括层数,每层卷积核大小,每层特征图个数,全连接层的节点个数以及各层参数初始化策略,每层卷积层后的非线性激活函数具有负值响应的激活函数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京邮电大学,未经南京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810391921.3/2.html,转载请声明来源钻瓜专利网。