[发明专利]一种分区块池化的方法和系统有效
申请号: | 201811613312.4 | 申请日: | 2018-12-27 |
公开(公告)号: | CN109858609B | 公开(公告)日: | 2021-09-14 |
发明(设计)人: | 王子玮;张峰 | 申请(专利权)人: | 中国电子科技集团公司信息科学研究院 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京辰权知识产权代理有限公司 11619 | 代理人: | 刘广达 |
地址: | 100000 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 区块 方法 系统 | ||
本申请公开了一种分区块池化的方法和系统,包括:将卷积输出矩阵划分为多个分区;确定每个分区各自对应的池化方式;对所述卷积输出矩阵中的每个分区采用与其对应的池化方式进行池化处理。通过对图像进行拉伸和/或收缩,得到输入矩阵;对输入矩阵进行卷积计算,得到卷积输出矩阵。根据池化比例,分别计算卷积输出矩阵各分区的范围;根据各所述分区的范围,确定各分区坐标。本方法可以支持一切以卷积神经网络为基础的深度学习架构,例如AlexNet,VGG,Inception等,且能够应用在任何以卷积神经网络为基础的架构中,应用范围广;无需推翻原有神经网络结构即可实现优化,操作简单。
技术领域
本申请涉及深度学习领域,尤其涉及一种分区块池化的方法和系统。
背景技术
深度学习已经是当前人工智能各行业的主流技术,作为其核心的神经网络也受到广泛使用,卷积神经网络作为其中不可或缺的一类,占据当前技术的绝对主流。当前,卷积神经网络已经被成功的应用到图像处理、视频处理、自然语言处理等多种技术中。
池化(Pooling)技术,作为卷积神经网络的重要技术之一,扮演着输入数据特征抽取、筛选、降维的关键作用。其设计就是为了解决卷积层产生的大量特征,并保证其在旋转、平移、伸缩下的不变性。在经过卷积层特征增强的数据存在大量的特征,由于这些特征维度太大、普适性较低,当仅用这些特征进行全连接进行训练时,往往造成过拟合现象以及运算量巨大的问题。
针对池化技术的设计,当前主要包括以下3种方式(设池化核覆盖的像素点为α1-αN):
(1)最大值池化(Max Pooling):
αmax=max(α1α2...αN)
(2)均值池化(Mean Pooling):
(3)随机池化(Stochastic Pooling):
αstochastic=αrand()
其中最大池化是使用最多的方式。其原因在于很多任务中,神经网络提取的特征点往往是强度最强的点。均值池化少有使用,但在数据特征集中度差、呈现时序非相干的时候表现优秀,随机池化主要是在某些特殊的数据集上表现最优。
综上所述,上述每种池化方式都有其优缺点,适用范围均有所局限,需要提供一种兼容性更强、适用范围更广的池化技术。
发明内容
为解决以上问题,本申请提出了一种分区块池化的方法和系统。
一方面,本申请提出一种分区块池化的方法,包括:
将卷积输出矩阵划分为多个分区;
确定每个分区各自对应的池化方式;
对所述卷积输出矩阵中的每个分区采用与其对应的池化方式进行池化处理。
优选地,所述将卷积输出矩阵划分为多个分区之前,还包括:
对图像进行拉伸和/或收缩,得到输入矩阵;
对输入矩阵进行卷积计算,得到卷积输出矩阵。
优选地,所述将卷积输出矩阵划分为多个分区,包括:
根据池化比例,分别计算卷积输出矩阵各分区的范围;
根据各所述分区的范围,确定各分区坐标。
优选地,所述池化比例根据设定值确定。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国电子科技集团公司信息科学研究院,未经中国电子科技集团公司信息科学研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811613312.4/2.html,转载请声明来源钻瓜专利网。
- 上一篇:记忆体式装置
- 下一篇:一种卷积神经网络的加速方法、装置、设备及存储介质