[发明专利]数据量化处理方法、装置、电子设备和存储介质

说明书

本公开涉及一种数据量化处理方法、装置、电子设备和存储介质。所述装置包括控制模块，所述控制模块包括：指令缓存单元、指令处理单元和存储队列单元；所述指令缓存单元，用于存储所述人工神经网络运算关联的计算指令；所述指令处理单元，用于对所述计算指令解析得到多个运算指令；所述存储队列单元，用于存储指令队列，该指令队列包括：按该队列的前后顺序待执行的多个运算指令或计算指令。通过以上方法，本公开可以提高相关产品在进行神经网络模型的运算时的运算精度。

技术领域

本公开涉及计算机技术领域，特别是涉及一种数据量化处理方法、装置、电子设备和存储介质。

背景技术

在人工智能技术领域，神经网络算法是最近非常流行的一种机器学习算法，在各种领域中都取得了非常好的效果，比如图像识别，语音识别，自然语言处理等。但是，随着神经网络复杂度提高，数据的数据量和数据维度都在不断增大，不断增大的数据量等对运算装置的数据处理效率、存储装置的存储容量及访存效率等提出了较大的挑战。相关技术中针对整个神经网络采用相同的量化方案，但神经网络的不同运算数据之间可能存在较大的差异，往往会导致精度较低，影响数据运算结果。

发明内容

基于此，有必要针对上述技术问题，提供一种数据量化处理方法、装置、电子设备和存储介质。

根据本公开的一方面，提供了一种数据量化处理方法，包括：根据深度卷积层中的输入图像的通道数，确定所述输入图像的各个通道对应的待量化数据；根据各个通道对应的待量化数据，分别确定各个通道对应的待量化数据的统计结果；针对任一个通道，根据该通道对应的待量化数据的统计结果，确定该通道对应的量化参数；利用各个通道对应的量化参数，对各个通道对应的待量化数据分别进行量化，得到所述输入图像的各个通道对应的量化后数据；其中，所述深度卷积层中的所述输入图像的通道数与输出图像的通道数相同。

根据本公开的一方面，提供了一种数据量化处理装置，包括：第一确定模块，用于根据深度卷积层中的输入图像的通道数，确定所述输入图像的各个通道对应的待量化数据；第二确定模块，用于根据各个通道对应的待量化数据，分别确定各个通道对应的待量化数据的统计结果；第三确定模块，用于针对任一个通道，根据该通道对应的待量化数据的统计结果，确定该通道对应的量化参数；量化模块，用于利用各个通道对应的量化参数，对各个通道对应的待量化数据分别进行量化，得到所述输入图像的各个通道对应的量化后数据；其中，所述深度卷积层中的所述输入图像的通道数与输出图像的通道数相同。

根据本公开的一方面，提供了一种人工智能芯片，所述芯片包括如上所述的数据量化处理装置。

根据本公开的一方面，提供了一种电子设备，所述电子设备包括如上所述的人工智能芯片。

根据本公开的一方面，提供了一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为调用所述存储器存储的指令，以执行如上所述的数据量化处理方法。

根据本公开的一方面，提供了一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现如上所述的数据量化处理方法。

根据深度卷积层中的输入图像的通道数，确定输入图像的各个通道对应的待量化数据；根据各个通道对应的待量化数据，分别确定各个通道对应的待量化数据的统计结果；针对任一个通道，根据该通道对应的待量化数据的统计结果，确定该通道对应的量化参数；利用各个通道对应的量化参数，对各个通道对应的待量化数据分别进行量化，得到所述输入图像的各个通道对应的量化后数据；其中，深度卷积层中的输入图像的通道数与输出图像的通道数相同。由于深度卷积层中的输入图像的通道数与输出图像的通道数相同，因此，通过对深度卷积层中的输入图像进行分通道量化，从而可以提高量化过程的精度，保证运算结果的准确性和可靠性。

根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。

附图说明