[发明专利]运算处理装置

说明书

在运算处理装置中、运算控制部以如下方式进行控制：在用于计算输出特征量图的特定的像素的滤波处理和累加处理的中途，将中间结果暂时保存在所述累加结果保存用存储器中而进行其他像素的处理，在将针对所有的像素的累加处理的中间结果在所述累加结果保存用存储器中保存完毕之后，返回到最初的像素，读出保存在所述累加结果保存用存储器中的值并将该值作为累加处理的初始值，继续执行累加处理。

技术领域

本发明涉及运算处理装置，更详细地说，涉及进行使用了卷积神经网络的深度学习的运算处理装置的电路结构。

背景技术

以往，存在一种运算处理装置，该运算处理装置使用了将多个处理层分层连接而得的神经网络来执行运算。尤其是，在进行图像识别的运算处理装置中，广泛地进行使用了卷积神经网络(Convolutional Neural Network，以下称为CNN)的深度学习。

图18是示出基于使用了CNN的深度学习的图像识别的处理的流程的图。在基于使用了CNN的深度学习的图像识别中，通过针对所输入的图像数据(像素数据)依次实施CNN的多个处理层中的处理，得到识别出图像中包含的对象物的最终的运算结果数据。

CNN的处理层被大致分类为进行包含卷积运算处理、非线性处理、缩小处理(池化处理)等在内的卷积(Convolution)处理的Convolution层(卷积层)和进行对所有的输入(像素数据)乘以滤波系数并累加的全连接(Full Connect)处理的Full Connect层(全连接层)。然而，也存在没有全连接(Full Connect)层的卷积神经网络。

基于使用了CNN的深度学习的图像识别如下那样进行。首先，将针对图像数据提取某个区域并施加滤波系数(滤波器系数)不同的多个滤波而生成特征量图(Feature Map、FM)的卷积运算处理(Convolution处理)与缩小特征量图的一部分区域的缩小处理(池化处理)的组合作为一个处理层，并进行多次(在多个处理层中)上述处理的组合。这些处理是卷积层(Convolution层)的处理。

池化处理除了提取附近4pix的最大值而缩小为1/2×1/2的最大值池化(maxpooling)之外，还有求出附近4pix的平均值(不是提取)的平均值池化(average pooling)等变形。

图19是示出卷积(Convolution)处理的流程的图。首先，对所输入的图像数据分别进行滤波系数不同的滤波处理，通过将它们全部累加，可以得到与1个像素对应的数据。对生成的数据执行非线性变换和缩小处理(池化处理)，并对图像数据的全部像素进行以上的处理，由此生成一个面的输出特征量图(oFM)。通过反复进行多次上述操作，生成多个面的oFM。在实际的电路中，上述全部被进行流水线处理。

并且，通过将上述输出特征量图(oFM)作为输入特征量图(iFM)并进一步进行滤波系数不同的滤波处理，来反复进行上述卷积(Convolution)处理。这样，进行了多次卷积(Convolution)处理以得到输出特征量图(oFM)。

在进行卷积(Convolution)处理，将FM减小到某种程度时，将图像数据改读为一维的数据串。进行多次(在多个处理层中)进行全连接(Full Connect)处理，在该全连接(FullConnect)处理中，对一维数据串的各数据乘以各不相同的系数来进行累加。这些处理是全连接层(Full Connect层)的处理。

而且，在全连接(Full Connect)处理之后，作为最终的运算结果即被摄体估计结果，输出检测出图像中包含的对象物的概率(被摄体检测的概率)。在图18的例子中，作为最终的运算结果数据，检测出狗的概率为0.01(1％)，检测出猫的概率为0.04(4％)，检测出小船的概率为0.94(94％)，检测出鸟的概率为0.02(2％)。