[发明专利]使用环张量的深度神经网络加速方法及其系统

说明书

本发明提供一种使用环张量的深度神经网络加速方法，其中环张量设定步骤是设定卷积网络的输入特征环张量与参数环张量，输入特征环张量包含多个输入特征环元素，参数环张量包含多个参数环元素。环张量卷积运算步骤是依据环元素乘法运算步骤与环元素加法运算步骤对输入特征环元素及参数环元素进行运算，以产出卷积特征环张量的多个卷积特征环元素。张量非线性激活函数运算步骤是对其中一卷积特征环元素执行方向性非线性激活函数而产生输出特征环元素。因此，利用具方向性的非线性激活函数，可不增加乘法器的位元数，且保持影像品质。

技术领域

本发明涉及一种深度神经网络加速方法及其系统，特别涉及一种使用环张量的深度神经网络加速方法及其系统。

背景技术

当使用卷积神经网络于影像处理应用时，其运算需求相当高，主流相关研究是采用参数修剪(weight pruning)的作法来去除值很小或不需要的网络参数，以减少运算量并同时减少所需的参数存储空间。然而，此修剪后的网络的运算流程会变得不规则，进而造成硬件加速时的负担，因此不适用于采用大量平行运算的加速器。

另一方面，有一些研究在探讨如何在减少运算量下并同时保留网络的规律性，其中包含四元数(Quaternion)网络、循环卷积神经网络(Circulant Convolutional NeuralNetwork；CirCNN)、混洗网络(ShuffleNet)以及使用哈达玛转换的卷积神经网络(HadaNet)，这些作法的共通点在于使用特征向量于通道方向的稀疏性，十分规律的减少运算量以及参数量，其中为了补救因为较少乘法带来的品质损失，必需额外地让不同通道间的信息能够交换。概念上可分为通道间的额外线性转换以及通道变换位置，其中线性转换的作法可得到较好的品质，但是对于常见的定点数运算来说，此些转换会增加特征值与参数的位元数，进而导致乘法器的复杂度上升。

由此可知，目前市场上缺乏一种可不增加乘法器的位元数、有效地交换通道间的信息及保持影像品质的使用环张量的深度神经网络加速方法及其系统，故相关业者均在寻求其解决之道。

发明内容

因此，本发明的目的在于提供一种使用环张量的深度神经网络加速方法及其系统，其利用具有方向性的非线性激活函数，在不增加环元素乘法运算步骤中乘法器的位元数的条件下，仍保持影像品质，可避免现有技术中因增加乘法器的位元数而导致复杂度上升的问题。

依据本发明的方法实施方式的一实施方式提供一种使用环张量的深度神经网络加速方法，包含以下步骤：环张量设定步骤、环张量卷积运算步骤以及张量非线性激活函数运算步骤。其中环张量设定步骤是设定卷积网络的输入特征环张量与参数环张量，输入特征环张量包含多个输入特征环元素，参数环张量包含多个参数环元素。环张量卷积运算步骤是依据环元素乘法运算步骤与环元素加法运算步骤对输入特征环张量的此些输入特征环元素及参数环张量的此些参数环元素进行运算，以产出卷积特征环张量的多个卷积特征环元素。张量非线性激活函数运算步骤是对卷积特征环张量的此些卷积特征环元素的一者执行方向性非线性激活函数而产生输出特征环元素。环元素乘法运算步骤包含对此些输入特征环元素的一者与此些参数环元素的一者执行环元素乘法而产生乘法输出环元素。乘法输出环元素的乘法输出分量由此些输入特征环元素的此者的输入特征分量及此些参数环元素的此者的参数分量执行分量积求得。环元素加法运算步骤包含对多个乘法输出环元素执行环元素加法而产生此些卷积特征环元素的此者。各卷积特征环元素的卷积特征分量由此些乘法输出环元素的多个乘法输出分量执行分量和求得。

因此，本发明的使用环张量的深度神经网络加速方法通过具有方向性的非线性激活函数，能将额外的线性转换置于方向性非线性激活函数中，因此不会增加环元素乘法运算步骤中乘法器的位元数。此外，本发明能有效地交换通道间的信息，在环代数里达到最高的影像品质。