[发明专利]运算装置、运算方法和运算芯片

说明书

本发明提供一种运算装置、运算方法和运算芯片，运算装置包括一个量化单元、一个缓存单元、一个控制单元、一个卷积核单元以及一个乘加单元；量化单元，用于接收第一特征图参数并对其进行非对称均匀量化用以获得第二特征图参数后储存于缓存单元；以及，还用于接收第一权重系数并对其进行对称均匀量化用以获得第二权重系数后储存于缓存单元；卷积核单元，用于根据控制单元的指令对第二特征图参数和第二权重系数执行卷积运算，获得初始运算结果；乘加单元，用于对初始运算结果、实际量化因子以及实际偏置值执行乘加运算，获得最终运算结果。本发明的运算装置，可以省去由量化参数零点带来的在线计算，降低计算量、节省存储资源且计算精度提高。

技术领域

本发明属于数据运算技术领域，具体涉及一种运算装置、一种运算方法、一种运算芯片、一种电子设备以及一种计算机可读存储介质。

背景技术

深度学习(Deep learning)是开展人工智能(Artificial intelligence，AI)的重要应用技术之一，其广泛应用于计算机视觉、语音识别等领域。其中卷积神经网络(Convolutional Neural Network，CNN)则是近年来引起重视的一种深度学习高效识别技术，它通过直接输入原始图像或数据，与多个特征滤波器(filter)进行若干层的卷积运算及矢量运算，从而在图像和语音识别方面产生高准确性结果。其中滤波器的规模可由1×1、3×3的小区块规模到5×5、7×7甚至是11×11的大规模卷积运算区块，因此卷积运算也是一种很耗费效能的运算。

为了追求分类准确度，CNN模型深度越来越深，模型复杂度也越来越高，如深度残差网络(ResNet)其层数已经多达152层。在某些真实的应用场景如移动或者嵌入式设备，如此大而复杂的模型面临着内存不足、响应延迟等问题，例如自动驾驶汽车的行人检测系统如果响应速度慢则会发生可怕的结果，因此大规模的CNN难以被应用，研究小而高效的CNN模型越来越成为CNN的发展趋势，例如Google提出的一种小巧而高效的CNN模型MobileNet，其在保持模型性能的前提下降低了模型大小，同时提升模型速度。

深度神经网络因其卓越性能目前被普遍应用于各种人工智能设备中，在某些设备，特别是移动(mobile)设备中，存储和计算资源是比较少的。如何利用较少的存储和计算资源提高神经网络的执行速度显得尤为重要。

然而在嵌入式设备的集成电路(IC)中若要进行卷积运算并达到高精准度，必须要有较多的内存空间执行高复杂度的运算，将会造成较高的成本与较大的芯片体积。

因此，有必要提出一种卷积运算方法和使用其方法的芯片，可以降低内存的成本与芯片体积。

发明内容

本发明旨在至少解决现有技术中存在的技术问题之一，提供一种运算装置、一种运算方法、一种运算芯片、一种电子设备以及一种计算机可读存储介质。

本发明的一个方面提供一种运算装置，所述运算装置包括一个量化单元、一个缓存单元、一个控制单元、一个卷积核单元以及一个乘加单元；其中，

所述量化单元，用于接收一第一特征图参数并对所述第一特征图参数进行非对称均匀量化用以获得一第二特征图参数后储存于所述缓存单元；以及，还用于接收一第一权重系数并对所述第一权重系数进行对称均匀量化用以获得一第二权重系数后储存于所述缓存单元；

所述卷积核单元，用于根据所述控制单元的指令对所述第二特征图参数和所述第二权重系数执行一卷积运算，获得一初始运算结果；

所述乘加单元，用于对所述初始运算结果、一实际量化因子以及一实际偏置值执行一乘加运算，获得一最终运算结果。

在一些可选地实施方式中，所述运算装置还包括一个离线计算单元，所述离线计算单元与所述乘加单元相连，其中，所述离线计算单元用于：

离线计算一初始化偏置值、量化参数零点产生的一些计算项以及所述实际量化因子；