[发明专利]卷积计算的定点加速方法及装置

说明书

本发明提供一种卷积计算的定点加速方法及装置，涉及卷积计算技术领域。该卷积计算的定点加速方法，包括：对预设卷积算法中的浮点矩阵进行第一转换操作，得到转换后的定点矩阵；将预设卷积算法中的浮点矩阵替换为定点矩阵，得到替换后的卷积算法；根据替换后的卷积算法、以及输入数据进行卷积计算，获取卷积计算结果；对卷积计算结果进行第二转换操作，获取输入数据的卷积计算结果。本申请实施例中，通过将预设卷积算法中的浮点矩阵替换为定点矩阵得到替换后的卷积算法，由于不再包括浮点矩阵，可以直接应用于定点计算，减少了卷积过程中的乘法运算，可以有效减少定点卷积算法中数据量的访问和计算量，可以提升卷积计算的性能。

技术领域

本发明涉及卷积计算技术领域，特别涉及一种卷积计算的定点加速方法及装置。

背景技术

卷积神经网络(Convolutional Neural Networks，CNN)是一类包含卷积计算且具有深度结构的前馈神经网络，在机器视觉、自然语言处理、语音识别、AI技术的应用等环境中具有非常广泛和深入的应用。

卷积神经网络里面含有大量的卷积计算，卷积计算对于CPU(Central ProcessingUnit，CPU)来说是一个耗时的过程，整个过程中包含数据的访存和计算的过程，特别是为了得到比较好的精度，都是使用浮点数据进行计算。

但使用浮点数据进行计算时，CPU的计算量和数据访问量比较大，CPU进行卷积计算的性能难以保证。

发明内容

本发明的目的在于，针对上述现有技术中的不足，提供一种卷积计算的定点加速方法及装置，能够应用于定点计算，可以减少数据量的访问和计算量。

为实现上述目的，本发明实施例采用的技术方案如下：

第一方面，本发明实施例提供了一种卷积计算的定点加速方法，包括：对预设卷积算法中的浮点矩阵进行第一转换操作，得到转换后的定点矩阵；将预设卷积算法中的浮点矩阵替换为定点矩阵，得到替换后的卷积算法；根据替换后的卷积算法、以及输入数据进行卷积计算，获取卷积计算结果；对卷积计算结果进行第二转换操作，获取输入数据的卷积计算结果。

可选地，第一转换操作为左移操作，第二转换操作为右移操作。

可选地，根据替换后的卷积算法、以及输入数据进行卷积计算，获取卷积计算结果，包括：使用定点矩阵对替换后的卷积算法中的卷积核的转换，得到转换后的第一矩阵；对输入数据进行转换，得到转换后的第二矩阵；将第一矩阵与所述第二矩阵进行点乘运算，得到第三矩阵；对第三矩阵进行转换，得到卷积计算结果。

可选地，使用定点矩阵对替换后的卷积算法中的卷积核的转换，得到转换后的第一矩阵，包括：采用定点矩阵、定点矩阵的转置矩阵，对卷积核进行矩阵乘法运算，获取转换后的第一矩阵。

可选地，对输入数据进行转换，得到转换后的第二矩阵，包括：采用输入数据的转换矩阵、以及输入数据的转换矩阵的转置矩阵，对输入数据进行转换计算，得到转换后的第二矩阵。

第二方面，本发明实施例提供了一种卷积计算的定点加速装置，包括：转换模块、替换模块、计算模块以及获取模块；

转换模块，用于对预设卷积算法中的浮点矩阵进行第一转换操作，得到转换后的定点矩阵；替换模块，用于将预设卷积算法中的浮点矩阵替换为定点矩阵，得到替换后的卷积算法；计算模块，用于根据替换后的卷积算法、以及输入数据进行卷积计算，获取卷积计算结果；获取模块，用于对卷积计算结果进行第二转换操作，获取输入数据的卷积计算结果。

可选地，第一转换操作为左移操作，第二转换操作为右移操作。

可选地，计算模块包括：第一计算单元、第二计算单元、第三计算单元及结果计算单元；