[发明专利]一种应用于卷积神经网络的池化处理的方法及系统有效
申请号: | 201711059065.3 | 申请日: | 2017-11-01 |
公开(公告)号: | CN109754359B | 公开(公告)日: | 2021-12-07 |
发明(设计)人: | 于潇宇;王玉伟;张博;张立鑫 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06T1/20 | 分类号: | G06T1/20;G06N3/02 |
代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 王仲凯 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 应用于 卷积 神经网络 处理 方法 系统 | ||
本申请公开了一种池化处理的方法,应用于卷积神经网络的池化处理系统,池化处理系统包括第一存储设备、数据区域、池化核和池化控制器,该方法包括:池化控制器每个读取周期从第一存储设备中读取k个特征数据,向数据区域写入所读取的k个特征数据,k个特征数据按照第一方向排布,在一个更新周期中,数据区域被写入n队按照第一方向排布的nk个数据,更新周期的时长为读取周期的时长的n倍;在更新周期结束后,数据区域中的数据被传递到池化核做池化运算,数据区域中的数据包括nk个数据和排布在nk个数据之前的上一个更新周期中在第二方向上排布的最后m队数据。本申请技术方案由于数据复用降低了存储读写的次数,提高了池化处理的效率。
技术领域
本申请涉及计算机技术领域,具体涉及一种应用于卷积神经网络的池化处理的方法、池化处理系统、芯片系统及计算机可读存储介质。
背景技术
近年来,深度学习研究的不断深入,卷积神经网络(Convolutional NeuralNetwork,CNN)可实现精确的图像识别和分类,已经广泛应用于医疗影像、安全、生物特征识别、机器人、无人驾驶等领域,成为深度学习的主要方向之一。
CNN通常包括卷积和池化(Pooling)两个步骤,卷积就是使用一个二维的卷积核在输入的图像或二维数据上以可配置步长滑动,直至遍历整个图像或二维数据。卷积核的尺寸相对较小,在每次滑动过程中,从二维数据中获取窗口大小的数据区,同时将卷积核中对应位置的权值与数据区数据相乘,而后求和。其中,卷积核的权值是通过训练过程获得。
因为图像具有一种“静态性”的属性,这也就意味着在一个图像区域有用的特征极有可能在另一个区域同样适用。因此,为了描述大的图像,一个很自然的想法就是对不同位置的特征进行聚合统计,例如,可以计算图像一个区域上的某个特定特征的平均值或最大值来代表这个区域的特征,这个过程就是池化。
在CNN实现的大多数模型框架中,Pooling运算的频次仅次于卷积。无论是均值模式还是最大值模式,以3*3的Pooling Kernel为例,计算每个位置时需要读取9个位置的数据,对带宽的要求较高。在高性能CNN处理器中,卷积环节占据了大部分计算资源,所以常存在Pooling滞后的现象,导致CNN的处理效率低下。
发明内容
为了解决现有技术中池化滞后,导致CNN的处理效率低下的问题,本申请实施例提供一种池化处理的方法,可以通过数据区域实现数据复用,从而减少了数据读取的次数,提高了池化处理的效率,从而提高CNN的处理效率。本申请实施例还提供了相应的池化处理系统、芯片系统及计算机可读存储介质。
本申请第一方面提供一种应用于卷积神经网络的池化处理的方法,所述方法应用于池化处理系统,所述池化处理系统包括第一存储设备、数据区域、池化核和池化控制器,所述方法包括:
所述池化控制器每个读取周期从所述第一存储设备中读取k个特征数据,所述k个特征数据包含于卷积运算所产生的特征图中,所述k为大于1的整数;
所述池化控制器向所述数据区域写入所读取的k个特征数据,所述k个特征数据按照第一方向排布,在一个更新周期中,所述数据区域被写入n队按照所述第一方向排布的nk个数据,所述更新周期的时长为所述读取周期的时长的n倍,所述n为大于1的整数;
在所述更新周期结束后,所述数据区域中的数据被传递到池化核做池化运算,所述数据区域中的数据包括所述nk个数据和排布在所述nk个数据之前的上一个更新周期中在第二方向上排布的最后m队数据,并且所述数据区域缓存所述更新周期中在所述第二方向上排布的最后m队数据用于下一个更新周期使用,所述m为正整数。
本申请第二方面提供一种卷积神经网络的池化处理系统,所述池化处理系统包括第一存储设备、数据区域、池化核和池化控制器;
所述池化控制器,用于每个读取周期从所述第一存储设备中读取k个特征数据,所述k个特征数据包含于卷积运算所产生的特征图中,所述k为大于1的整数;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711059065.3/2.html,转载请声明来源钻瓜专利网。