[发明专利]执行层级计算处理的数据处理装置及其方法

说明书

本发明提供了一种执行层级计算处理的数据处理装置及其方法。该数据处理装置被构造为对输入数据执行与神经网络相对应的层级计算处理，所述数据处理装置包括：存储单元，其被构造为存储多个控制数据集，所述多个控制数据集中的各个用于将与神经网络相对应的层级计算处理划分而成的多个处理单位中的一个；传输单元，其被构造为从存储单元依次传输所述多个控制数据集；以及计算处理单元，其被构造为使用由传输单元传输的一个控制数据集来进行与所述一个控制数据集相对应的处理单位的计算处理。

技术领域

本发明涉及一种被构造为执行与神经网络对应的层级计算处理的数据处理装置及其方法。

背景技术

诸如卷积神经网络(在下文中，简称为CNN)的层级计算方法作为能够针对识别目标的变化进行鲁棒图案识别的方法引起了人们的关注。例如，Yann LeCun,KorayKavukvuoglu,and Clement Farabet,Convolutional Networks and Applications inVision,Proc.International Symposium on Circuits and Systems(ISCAS’10),IEEE,2010.讨论了各种应用示例和实施方式示例。

图9是例示简单CNN的示例的网络构造图。在要对图像数据进行CNN处理的情况下，输入层901输入预定大小的图像数据。第一层级908包括特征面903a至903d。第二层级909包括特征面905a至905d。第三层级910包括特征面907。

术语“特征面(feature surface)”是指与预定特征提取计算(卷积计算和非线性处理)处理的结果对应的数据面。特征面与用于在更高层级中识别预定目标的特征提取的结果相对应，并且是对图像数据的处理的结果，使得处理结果也被表达为面。通过对输入层901的卷积运算和非线性处理来生成特征面903a至903d。例如，特征面903a通过使用示意性例示的二维卷积核(权重系数)9021a的计算以及计算结果的非线性转换来计算。

例如，使用大小为columnSize×rowSize的核(系数矩阵)的二维卷积计算通过由式(1)表示的乘法累积运算进行处理：

其中，input(x，y)表示坐标(x，y)处的参照像素值，output(x，y)表示坐标(x，y)处的计算结果，weigh(column,row)表示在output(x，y)的运算中使用的权重系数，columnSize(列大小)和rowSize(行大小)表示卷积核大小。

在CNN处理中，在使用多个卷积核按像素单位扫描图像数据的同时重复乘法累积运算，并且对最终的乘法累积运算结果进行非线性转换以由此计算特征面。在计算特征面903a的情况下，由于与前一层级的连接数量为一，因此卷积核的数量为一。卷积核9021b、9021c和9021d分别用于计算特征面903b、903c和903d。

图10例示了计算特征面905a的情况的示例。特征面905a与前一层级908的四个特征面903a至903d连接。在计算特征面905a的数据的情况下，使用示意性地例示的核(权重系数)9041a对特征面903a进行滤波器操作，并且将滤波器操作结果存储在累积加法器1002中。

类似地，卷积计算处理单元1001分别使用核9042a、9043a和9044a对特征面903b、903c和904c进行卷积计算，并将卷积计算结果存储在累积加法器1002中。在完成四种类型的卷积计算之后，非线性转换处理单元1003使用逻辑函数或双曲正切函数(tanh函数)进行非线性转换处理。