[发明专利]卷积神经网络的并行处理器及处理方法有效
申请号: | 201810710911.1 | 申请日: | 2018-07-02 |
公开(公告)号: | CN109034373B | 公开(公告)日: | 2021-12-21 |
发明(设计)人: | 陈艇;周东浩;张亚楠 | 申请(专利权)人: | 鼎视智慧(北京)科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06T1/20 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 张海洋 |
地址: | 100000 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积 神经网络 并行 处理器 处理 方法 | ||
本发明提供了卷积神经网络的并行处理器及处理方法,包括:输入数据划窗控制单元采用可变深度移位寄存器链的方式对输入特征平面数据进行二维重组,输出第一窗口数据,并将第一窗口数据加载至并行卷积与池化处理单元;卷积核存储控制单元将卷积核参数和卷积偏移量分别加载至并行卷积与池化处理单元;并行卷积与池化处理单元采用并行的方式,对第一窗口数据、卷积核参数和偏移量进行卷积运算和池化处理,得到并行的多个输出特征平面数据,并将输出特征平面数据分别输入至并行输出数据存储控制单元;并行输出数据存储控制单元采用并行的方式,将对应的输出特征平面数据进行存储。本发明可以优化CNN计算过程,加快计算速度。
技术领域
本发明涉及数字信号处理技术领域,尤其是涉及卷积神经网络的并行处理器及处理方法。
背景技术
卷积神经网络(Convolutional Neural Network,CNN)是近年发展起来、并引起广泛重视的一种高效图像处理方法。CNN已经成为众多科学领域的研究热点之一,特别是在模式分类领域,由于该网络避免了对图像的复杂前期预处理,可以直接输入原始图像,因而得到了更为广泛的应用。在机器学习中,卷积神经网络是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理具有非常出色表现。
CNN一般由多个卷积层(convolutional layer)和池化层(pooling layer)交替组成。CNN每层卷积运算都需要针对一组输入数据与多个卷积核进行卷积运算,每个卷积核的与输入数据的卷积运算可以并行执行,并且三维数据的卷积运算可以分成多个二维数据卷积计算之和,而池化操作是对卷积最后计算结果局部数据进行操作,因此只需要产生部分卷积计算结果就可以同步进行池化操作。现有的大部分CNN计算主要基于通用CPU(中央处理器,Central Processing Unit)或者GPU(图形处理器,Graphics Processing Unit),它们都是基于单个数据操作开发CNN的并行性,无法充分挖掘CNN算法的并行性,导致实现CNN算法的代价较高,计算时间较长。
发明内容
有鉴于此,本发明的目的在于提供卷积神经网络的并行处理器及处理方法,以优化CNN计算过程,加快计算速度。
第一方面,本发明实施例提供了一种卷积神经网络的并行处理器,其中,包括:并行卷积与池化处理单元,分别与所述并行卷积与池化处理单元相连的输入数据划窗控制单元、卷积核存储控制单元和并行输出数据存储控制单元;
所述输入数据划窗控制单元,用于采用可变深度移位寄存器链的方式对输入特征平面数据进行二维重组,输出第一窗口数据,并将所述第一窗口数据分别输入至所述并行卷积与池化处理单元;
所述卷积核存储控制单元,用于将卷积核参数和卷积偏移量分别加载至所述并行卷积与池化处理单元;其中,所述卷积核参数和所述卷积偏移量对应于所述输入特征平面数据的输入通道;
所述并行卷积与池化处理单元,用于采用并行的方式,对所述第一窗口数据、所述卷积核参数和所述偏移量进行卷积运算和池化处理,得到并行的多个输出特征平面数据,并将所述输出特征平面数据分别输入至所述并行输出数据存储控制单元;
所述并行输出数据存储控制单元,用于采用并行的方式,将对应的所述输出特征平面数据进行存储。
结合第一方面,本发明实施例提供了第一方面的第一种可能的实施方式,其中,还包括DMA控制器;
所述DMA控制器,用于从外部存储器中将所述输入特征平面数据搬移至所述输入数据划窗控制单元,将所述卷积核参数和所述卷积偏移量搬移至所述卷积核存储控制单元。
结合第一方面,本发明实施例提供了第一方面的第二种可能的实施方式,其中,所述输入数据划窗控制单元包括:
根据所述输入特征平面数据的长度配置第一移位寄存器链的实际移位长度;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于鼎视智慧(北京)科技有限公司,未经鼎视智慧(北京)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810710911.1/2.html,转载请声明来源钻瓜专利网。