[发明专利]运算电路、运算方法以及程序

说明书

在一个实施方式中，提供卷积神经网络中的卷积层的运算方法。运算方法包括：以与通过将输入到卷积层的特征映射展开成一列而得到的输入矢量(x)相对应的方式，对卷积层中使用的内核进行变换，从而生成系数矩阵(A)的步骤；检索包含于系数矩阵的非零要素的步骤；将包含于系数矩阵的各非零要素与输入矢量的对应要素的乘法运算作为处理单位，以使能够彼此并行处理的多个运算器(CL)的各个运算器中的处理单位的数量均衡化的方式，对各运算器分配该乘法运算的步骤；以及各运算器依次执行被分配的乘法运算，将乘法运算的结果累加到输出矢量(f)的对应要素的步骤。

技术领域

本公开涉及运算电路、运算方法以及用于执行该运算方法的程序，例如，适用于卷积神经网络中的卷积层的运算。

背景技术

在图案辨识等图像处理、声纹分析、机器人等众多领域中，经常使用被称为卷积神经网络(CNN：Convolutional Neural Network)的运算方法。一般，CNN包括进行卷积运算的卷积层、计算局部统计量的池化层、以及全连接层。卷积层以像素为单位在输入特征映射上扫描内核(还被称为滤波器)，同时反复进行输入特征映射的对应部分与内核的乘积累加运算，并对最终的乘积累加运算结果进行非线性变换，从而生成输出特征映射。

日本特开2010-134697号公报(专利文献1)公开了用于通过并行处理来执行卷积运算的运算电路。具体而言，该文献记载的运算电路使用与内核的列方向尺寸的数量对应的乘法器以及累积加法器进行并行运算。

现有技术文献

专利文献

专利文献1：日本特开2010-134697号公报

发明内容

在上述专利文献记载的运算电路中，由于直接使用特征映射以及内核来进行运算，所以存在运算的反复次数增加而处理延迟的问题。

因此，为了缩短处理时间，经常使用在将特征映射或者内核展开成1列后进行运算的方法。根据该方法，卷积运算回归为系数矩阵与矢量之积、即系数矩阵的各行的要素与矢量的要素之间的乘积累加运算。例如，能够通过与系数矩阵的行数对应的数量的乘积累加运算器来进行并行运算。

在此，在通过各乘积累加运算器简单地执行乘积累加运算器时，在系数矩阵的要素中包含有0的情况下，必须要注意的是，在无用的运算中浪费了时间。因此，通常，采用去掉系数矩阵中的为0的要素并通过乘积累加运算器执行运算的方法。但是，非零要素的数量根据系数矩阵的行而不同，所以即使作为系数矩阵整体的非零要素的数量少，但整体的处理时间也由非零要素的数量最多的行的非零要素的数量决定。因此，哪怕只有1行非零要素多的行，整体的处理时间也由该行中的乘积累加运算决定，作为结果，无法按照预期缩短整体的处理时间。

本公开考虑上述问题，其目的在于提供一种在进行要素包含0的系数矩阵与矢量的乘法运算时能够缩短整体的处理时间的运算电路以及运算方法。此外，本公开的运算电路以及运算方法适用于CNN中的卷积运算，但不限于CNN，还能够应用于其他领域。

一个实施方式的运算电路用于对包含非零要素和零要素的系数矩阵从右侧乘以输入矢量，将运算结果输出到输出矢量。运算电路具备控制处理器以及能够彼此并行处理的多个运算器。控制处理器以包含于系数矩阵的各非零要素与输入矢量的对应要素的乘法运算为处理单位，以使各运算器中的处理单位的数量均衡化的方式，对各运算器分配该乘法运算。各运算器依次执行被分配的乘法运算，将乘法运算的结果累加到输出矢量的对应要素。

根据上述实施方式，由于以包含于系数矩阵的各非零要素与输入矢量的对应要素的乘法运算为处理单位，以使各运算器中的处理单位的数量均衡化的方式，对各运算器分配该乘法运算，所以能够缩短整体的处理时间。

附图说明

图1是示出利用CNN执行的运算处理的流程图。

图2是用于说明卷积运算的图。