[发明专利]一种基于卷积神经网络的数据处理方法、设备及存储介质

说明书

本申请公开了一种基于卷积神经网络的数据处理方法，涉及神经网络技术领域，能够解决因硬件限制而影响数据处理精度的技术问题。该方法包括：获取输出通道的数量，并按照输出通道的数量对初始权重进行切分，得到与所述输出通道的数量对应的多个初始子权重；分别对所述多个初始子权重进行缩放，并得到多个缩放子权重；将所述多个缩放子权重进行合并，得到缩放权重；对所述缩放权重进行全局量化，以将全局量化后的缩放权重作为卷积核应用于卷积神经网络的卷积层，进行数据处理。

技术领域

本申请涉及神经网络技术领域，尤其涉及一种基于卷积神经网络的数据处理方法、设备及存储介质。

背景技术

卷积神经网络(Convolutional Neural Network,CNN)指的是包含卷积计算且具有深度结构的前馈神经网络(Feedforward Neural Network)，是深度学习(deeplearning)的代表算法之一。卷积神经网络的结构通常包括输入层、隐含层及输出层。卷积神经网络的输入层通常可以处理一维或多维数据；隐含层则通常包括卷积层、池化层及全连接层，对输入层输出的数据进行诸如卷积等运算；输出层往往用于实现卷积神经网络的结果输出，例如对于图像分类问题，输出层可以设计为输出物体的中心坐标、大小和分类等，例如，具体可以直接输出图像中每个像素对应的分类结果。

在卷积神经网络的数据处理过程中，往往需要极大的输入及输出带宽。目前为了解决上述问题，可以将卷积神经网络中涉及的数据处理过程由浮点运算替换为定点运算，从而减少上述数据处理过程对输入及输出带宽的需求。在卷积神经网络的数据处理过程中，卷积层对应的数据处理过程中可以按输出通道对权重分别量化后实现相应卷积过程。但受诸如Kendryte K210 AI芯片等硬件性能的影响，按输出通道对权重分别量化得到的卷积核，通常因偏置数相同，而影响卷积神经网络的数据处理精度，从而降低诸如图像分类等实现过程对应输出结果的准确率。

发明内容

本申请提供一种基于卷积神经网络的数据处理方法、设备及存储介质，以解决因硬件限制而影响数据处理精度的技术问题。

为解决上述问题，本申请提供的技术方案如下：

第一方面，本申请实施例提供一种基于卷积神经网络的数据处理方法。该方法包括：获取输出通道的数量，并按照输出通道的数量对初始权重进行切分，得到与输出通道的数量对应的多个初始子权重；分别对所述多个初始子权重进行缩放，并得到多个缩放子权重；将多个缩放子权重进行合并，得到缩放权重；对缩放权重进行全局量化，以将全局量化后的缩放权重作为卷积核应用于卷积神经网络的卷积层，进行数据处理。

在一种实现方式中，分别对所述多个初始子权重进行缩放，并得到多个缩放子权重，可以实现为：获取每个初始子权重的缩放因子；将每个初始子权重按照相应的缩放因子进行缩放，分别得到与每个初始子权重对应的缩放子权重。

在一种实现方式中，获取每个初始子权重的缩放因子，可以实现为：获取初始权重各元素中的第一最大值和第一最小值；针对每个初始子权重执行如下步骤，以得到每个初始子权重的缩放因子：获取初始子权重各元素中的第二最大值和第二最小值；将第一最大值与第二最大值的比值确定为第一比值，并将第一最小值与第二最小值的比值确定为第二比值；根据第一比值和/或第二比值的类型，确定缩放因子为第一比值或第二比值。

在一种实现方式中，根据第一比值和/或第二比值的类型，确定缩放因子为第一比值或第二比值，可以实现为：若第一比值与第二比值中存在至少一个负数，则确定缩放因子为第一比值和第二比值中的最大值；若第一比值与第二比值中不存在负数，则确定缩放因子为第一比值和第二比值中的最小值。

在一种实现方式中，初始子权重的维度与其对应的缩放子权重的维度相同，初始权重的维度与卷积核的维度相同。

第二方面，本申请实施例提供一种基于卷积神经网络的数据处理设备。设备包括：

获取模块，用于获取输出通道的数量。