[发明专利]一种用于图像分类的加权残差神经网络的构建方法有效
申请号: | 202011034695.7 | 申请日: | 2020-09-27 |
公开(公告)号: | CN112200302B | 公开(公告)日: | 2021-08-17 |
发明(设计)人: | 卢丽;韩强;闫超 | 申请(专利权)人: | 四川翼飞视科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 成都佳划信知识产权代理有限公司 51266 | 代理人: | 史姣姣 |
地址: | 610000 四川省成都市高新*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 图像 分类 加权 神经网络 构建 方法 | ||
本发明公开了一种用于图像分类的加权残差神经网络的构建方法,包括从前至后依次连接卷积层、批归一化层和激活层并封装成根部模块;采用并行的主分支和旁路分支封装得到加权残缺模块;主分支由从前至后按卷积层、批归一化层、激活层的顺序重复数次后封装而成;若加权残差神经网络进行下采样,则旁路分支由卷积层与旁路分支网络并行组成;旁路分支网络由从前至后按卷积层、批归一化层、激活层的顺序重复数次后封装而成;否则,旁路分支由从前至后按卷积层、批归一化层、激活层的顺序重复数次后封装而成;从前至后依次连接全局平均池化层、全连接层和激活层并封装成头部模块;将根部模块、数个加权残缺模块和头部模块依次连接得到加权残差神经网络。
技术领域
本发明涉及计算机机器视觉中的图像分类领域,尤其是一种用于图像分类的加权残差神经网络的构建方法。
背景技术
目前,计算机机器视觉中的神经网络技术,被广泛的应用于图像分类、目标检测、图像分割、人脸识别、行为识别等众多领域。在这些领域中,图像分类是最为基础的技术。其他领域所使用的神经网络,大都利用图像分类的神经网络作为其主干网络,在添加其他功能模块之后实现。因此,高性能的图像分类网络对于基于神经网络技术的机器视觉非常的重要。
残差网络作为图像分类网络中较为流行的一类网络,主要利用了可重复堆叠的残差模块。残差模块中,引入了旁路分支,使得模型训练时参数梯度信息可以更好的反传,避免神经网络层数过深时出现的精度下降问题。这一思想,也广泛的应用在了现代的各类图像领域的神经网络中。
在残差模块中,最为重要的特点是旁路分支的引入。在每个残差模块的输出端,需要将旁路分支与主分支进行合并,目前一般的做法是:将两个分支的输出直接相加。这种方法的好处是结构简单,也能取得较好的性能。然而主分支输出的信息,经过了更多的网络层,理论上拥有更为丰富的特征表达信息,直接与网络层较少的旁路分支输出相加,可能会消弱主分支提取到的特征,从而影响模型精度的提升。正如申请号为“201810485738.X”、名称为“一种基于多路特征加权的残差卷积神经网络图像分类方法”的中国发明专利,其包括以下步骤:1)模型的输入图像为经过预处理的原始图像,经过预处理的图像裁剪为一个固定尺寸;2)对图像进行较大尺寸的卷积操作和池化操作;3)将步骤2)中输出的特征送入第一个多路特征加权残差模块;4)将步骤3)中多路特征加权残差模块的输出继续送入下一个多路特征加权残差模块,在经过多个多路特征加权残差模块后,输出的特征图像尺寸会逐渐缩小直至变为较小尺寸,最后经过一个平均池化层缩小为特征点;所得特征点直接送入分类层进行分类或经过全连接层后再进行分类;该技术同样存在上述问题。
因此,急需要提出一种架构简单、占用资源小、输出特征丰富、运算工作量少的加权残差神经网络及其构建方法。
发明内容
针对上述问题,本发明的目的在于提供一种用于图像分类的加权残差神经网络的构建方法,本发明采用的技术方案如下:
一种用于图像分类的加权残差神经网络的构建方法,所述加权残差神经网络由从前至后依次连接的根部模块、数个加权残缺模块和头部模块组成;所述加权残差神经网络的构建方法,包括以下步骤:
从前至后依次连接卷积层、批归一化层和激活层,并封装成根部模块;
采用并行的主分支和旁路分支封装得到加权残缺模块;所述主分支由从前至后按卷积层、批归一化层、激活层的顺序重复数次后封装而成;
若加权残差神经网络进行下采样,则所述旁路分支由卷积层与旁路分支网络并行组成;所述旁路分支网络由从前至后按卷积层、批归一化层、激活层的顺序重复数次后封装而成;
否则,所述旁路分支由从前至后按卷积层、批归一化层、激活层的顺序重复数次后封装而成;
从前至后依次连接全局平均池化层、全连接层和激活层,并封装成头部模块;
将根部模块、数个加权残缺模块和头部模块依次连接,得到加权残差神经网络。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川翼飞视科技有限公司,未经四川翼飞视科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011034695.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种具有失速自动降速功能的乳制品加工用混合装置
- 下一篇:石膏餐具及制备方法
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序