[发明专利]一种面向可重构神经网络处理器的神经网络布局方法

说明书

本发明公开了一种面向可重构神经网络处理器的布局方法。对神经网络进行训练，得到网络参数；神经网络中各卷积层的权重设置复制份数，根据各卷积层的输入数据的数据量之间的比例关系建立各卷积层权重的复制份数之间的比例关系，获得每一卷积层在可重构神经网络处理器上需要的存内计算核的个数：将单个卷积层的数据计算分配到各自的多个存内计算核，当前卷积层将输入数据分布至多个存内计算核并行计算，然后发送到下一个卷积层；通过最小化通讯功耗和最大带宽获得最终的优化布局结果。本发明方法解决了层内以及各层之间的数据同步问题，减小了缓存需求，也解决了数据传输功耗的问题，减小了层内的带宽需求，具有较好的鲁棒性。

技术领域

本发明属于存内计算和片上网络领域的一种神经网络处理器布局方法，具体是一种面向可重构神经网络处理器的神经网络布局方法。

背景技术

人工神经网络以数学模型模拟神经元活动，有多层或者单层，每一层包含若干神经元，各个神经元之间用带可变权重的有向弧连接，通过训练权重可以得到处理信息的目的，能够得到输入和输出之间的关系。

处理器进行神经网络的计算时对计算能力有着巨大需求，而内存与计算相分离造成的数据传输功耗成为了限制性能的瓶颈。存内计算通过提供内存计算的能力解决了处理器和内存之间的数据传输功耗的问题，使用非易失性存储器存储权重，将输入数据与存内计算核中的权重进行相乘，在路由内完成求和，最终输出，完成了神经网络的计算。通过改变存内计算核中的权重，可以完成不同神经网络的运算。基于非易失性存储器的存内计算核可以在多个二进制输入和二进制权重的情况下执行乘法和累加操作，通过二维网格NOC将存内计算核连接起来可以组成可重构神经网络处理器。

由于该处理器的功耗和性能由权重的映射方式以及数据流确定。现有技术缺少了一种布局方式能够减少可重构神经网络处理器的功耗，提高其性能，本实例就是从此需求出发。

发明内容

针对解决可重构神经网络处理器进行神经网络计算时存在的高延时以及高功耗问题，本发明提出了一种面向可重构神经网络处理器的神经网络布局方法，通过对于数据流以及权重映射位置的优化解决可重构神经网络处理器的布局布线问题，可以减少延迟、缓存、功耗和带宽，并最大化计算并行性，能够减少可重构神经网络处理器的功耗，提高其性能。

本发明的目的是通过以下技术方案来实现的：

步骤1，对神经网络进行训练，得到神经网络的网络参数；所述的神经网络主要仅由卷积层构成。

步骤2，针对神经网络中各卷积层的权重设置复制份数，根据神经网络中各卷积层的输入数据的数据量之间的比例关系建立相同的各卷积层权重的复制份数之间的比例关系，权重是指卷积层的所有卷积核中的参数构成的集合；根据比例关系处理获得每一卷积层在可重构神经网络处理器上需要的存内计算核的个数：

步骤3，将单个卷积层的数据计算分配到各自的多个存内计算核，当前卷积层将输入数据分布至多个存内计算核并行计算，形成层内的数据流，然后获得输出数据发送到下一个卷积层，输入数据的方向为依次流经一个卷积层对应的所有存内计算核，求和得到最终结果的数据流向为所有的部分和在过程中相加，得到最终结果输出给下一层；

利用存内计算核个数，确定每一卷积层内的数据流，数据输入从单方向流过k×k个存内计算核，进行乘法运算，不同份复制的权重对输入数据的不同列进行计算；通过不同存内计算核计算结果得到的结果进行相加，得到最终的输出结果。

步骤4，通过最小化通讯功耗和最大带宽的目标函数获得最终的优化布局结果。

所述步骤2中，针对每一个卷积层，输入数据、输出数据和通道数都是已知的，根据神经网络所需要进行数据处理情况获得，根据各自输入数据的通道数、输出数据的通道数以及权重的复制份数关系确定存内计算核的个数：