[发明专利]卷积计算方法、系统、设备及存储介质

说明书

本申请涉及一种卷积计算方法、系统、设备及存储介质。所述方法包括：根据输入图像的缓存单元中的单元存储块的大小和卷积核的大小将输入图像的每个通道按照相同的方式进行划分，得到待处理的子块；将每个待处理的子块以单元存储块为单位存入；其中，对于待处理的子块的每一行数据，以移位截取固定长度的方式分成与所述卷积核的高度数值相同的行数，逐行存入所述单位存储块；对每个待处理的子块，以单次计算容量为限从至少一个所述单元存储块中读取待卷积计算的数据并进行矩阵乘法运算，依次得到输出图像的每一行中对应于待处理的子块的部分。上述卷积计算方法、系统、设备及存储介质实现了降低存储和数据传输带宽需求的卷积计算。

技术领域

本申请涉及卷积计算技术领域，特别是涉及一种卷积计算方法、系统、设备及存储介质。

背景技术

卷积操作是现在深度学习中最重要的运算，卷积网络将深度学习推向了几乎所有机器学习任务的最前沿。如何高效的支持卷积操作对神经网络模型的运行起着至关重要的作用，包括模型的绝对运行时间、模型时延、吞吐、功耗、成本、片外带宽需求等方方面面。

由于卷积运算通常是将多通道的输入图像和对应的卷积核分别展开为二维矩阵，通过矩阵相乘来获得计算结果。但由于硬件的限制，为提高计算能效比，需降低对存储空间的需求以及存储搬运带宽的需求。

发明内容

基于此，有必要针对节省存储空间和降低带宽需求的问题，提供一种卷积计算方法、系统、设备及存储介质。

为了实现本申请的目的，本申请采用如下技术方案：

一种卷积计算方法，包括：

根据输入图像的缓存单元中的单元存储块的大小和卷积核的大小将输入图像的每个通道按照相同的方式进行划分，得到待处理的子块；其中，所述待处理的子块的最大宽度小于单元存储块的宽度与卷积核的宽度的和；

将每个待处理的子块以单元存储块为单位存入；其中，对于待处理的子块的每一行数据，以移位截取固定长度的方式分成与所述卷积核的高度数值相同的行数，逐行存入所述单位存储块；

对每个待处理的子块，以单次计算容量为限从至少一个所述单元存储块中读取待卷积计算的数据并进行矩阵乘法运算，以依次得到输出图像的每一行中对应于待处理的子块的部分。

一种卷积计算系统，包括：

分块模块，用于根据输入图像的缓存单元中的单元存储块的大小和卷积核的大小将输入图像的每个通道按照相同的方式进行划分，得到待处理的子块；其中，所述待处理的子块的最大宽度小于单元存储块的宽度与卷积核的宽度的和；

子块存入模块，用于将每个待处理的子块以单元存储块为单位存入；其中，对于待处理的子块的每一行数据，以移位截取固定长度的方式分成与所述卷积核的高度数值相同的行数，逐行存入所述单位存储块；

计算模块，用于对每个待处理的子块，以单次计算容量为限从至少一个所述单元存储块中读取待卷积计算的数据并进行矩阵乘法运算，以依次得到输出图像的每一行中对应于待处理的子块的部分。

一种卷积计算设备，包括存储器、处理器和存储在所述存储器上并可在所述处理器上运行的卷积计算程序，所述卷积计算程序被所述处理器执行时实现如上所述的卷积计算方法的步骤。

一种计算机可读存储介质，所述计算机可读存储介质上存储有卷积计算程序，所述卷积计算程序被处理器执行时实现如上所述的卷积计算方法的步骤。

上述卷积计算方法、系统、设备以及计算机可读存储介质，通过将输入图像进行分块，然后每个待处理的子块都按照移位截取固定长度并逐行存入单元存储块，并且以单次计算容量为单位逐步完成分块的计算，进而完成整个输入图像的卷积计算，而上述步骤中按固定长度移位截取后存储的方式和后续的计算方式由于可以对数据进行大量的复用，因此也节约了存储成本和传输带宽成本。

附图说明