[发明专利]一种卷积神经网络计算装置及方法

摘要

本发明公开了一种卷积神经网络计算装置和方法，该装置包括神经网络模型缓存器，用于缓存编码卷积神经网络模型；神经网络模型解码器，用于读取编码模型，解码得到模型权重的逻辑索引及控制信息；输入神经网络特征图缓存器，用于缓存输入特征图像素值；特征图存储控制器用于根据特征图逻辑索引读取特征图像素值数据；累加器阵列，用于将与相同神经网络模型权重值相乘的输入特征图像素值相加，并生成临时累加结果；流水线缓存器，用于缓存临时累加结果；乘累加器阵列，用于将临时累加结果与对应的神经网络模型权重值相乘，并将属于当前卷积运算的乘积结果进行相加，生成输出特征图像素值；输出神经网络特征图缓存器，用于缓存输出特征图像素值。

主权项

1.一种卷积神经网络计算装置(2)，该装置包括：神经网络模型缓存器(201)、神经网络模型解码器(202)、输入神经网络特征图缓存器(203)、特征图存储控制器(204)、累加器阵列(205)、流水线缓存器(206)、乘累加器阵列(207)和输出神经网络特征图缓存器(208)；其中，所述神经网络模型缓存器(201)用于缓存卷积神经网络计算装置(2)从外部存储器读入的部分或全部编码卷积神经网络模型(3)，所述编码卷积神经网络模型(3)包括至少一个卷积神经网络权重逻辑索引表(301)和至少一个卷积神经网络模型权重信息表(302)；所述卷积神经网络权重逻辑索引表(301)至少存储卷积神经网络模型权重的逻辑索引(3011)；所述卷积神经网络模型权重信息表(302)至少存储卷积神经网络模型(102)中所有可能的神经网络模型权重值(3021)和模型权重个数(3022)信息；所述输入神经网络特征图缓存器(203)用于从外部存储器或者输出神经网络特征图缓存器(208)中读取并缓存进行卷积运算所需要的输入神经网络特征图像素值(1011)；所述神经网络模型解码器(202)读取存储在神经网络模型缓存器中(201)的卷积神经网络模型权重信息表(302)、累加各神经网络模型权重值(3021)所对应的模型权重个数(3022)、获得当前卷积运算所需的卷积神经网络模型权重的逻辑索引(3011)的数目，从卷积神经网络权重逻辑索引表(301)中读取相等数目的卷积神经网络模型权重的逻辑索引(3011)并生成控制信息(209)，将所述逻辑索引(3011)发送给特征图存储控制器(204)，将所述控制信息(209)发送给所述累加器阵列(205)和乘累加器阵列(207)，所述控制信息(209)至少包括从卷积神经网络模型权重信息表(302)中解码得到的神经网络模型权重值(3021)信息；所述特征图存储控制器(204)，根据神经网络卷积运算公式，将神经网络模型权重的逻辑索引(3011)变换为进行卷积运算时对应位置的卷积神经网络的特征图逻辑索引(1012)，并根据根预先设定的特征图逻辑索引—存储器物理地址映射关系将特征图逻辑索引(1012)转换为实际的存储器物理地址，读取输入神经网络特征图缓存器(203)中对应该物理地址的输入神经网络特征图像素值(1011)，并发送给所述累加器阵列(205)；所述累加器阵列(205)由至少一个累加器模块(2051)构成，所述累加器模块(2051)根据所述控制信息(209)将当前卷积运算中需与相同神经网络模型权重值(3021)相乘的输入神经网络特征图像素值(1011)相加，生成至少一个临时累加结果(210)，所述临时累加结果(210)与卷积神经网络模型权重信息表(302)中的神经网络模型权重值(3021)一一对应；所述流水线缓存器(206)用于接收累加器阵列(205)输出的临时累加结果(210)，并进行缓存；缓存后的临时累加结果(210)提供给所述乘累加阵列(208)完成卷积运算；所述乘累加器阵列(208)根据所述控制信息(209)将所述累加器阵列(207)生成的至少一个临时累加结果(210)与对应的神经网络模型权重值(3021)相乘，并将属于当前卷积运算的乘积结果进行相加，生成输出特征图像素值(1031)，并将结果发送给所述输出神经网络特征图缓存器(208)；所述输出神经网络特征图缓存器(208)用于接收所述乘累加器阵列(207)输出的计算结果，并将计算结果缓存、输出给外部存储器或者输入神经网络特征图缓存器(203)。