[发明专利]数据处理方法、装置、计算机设备和存储介质

说明书

本公开涉及一种数据处理方法、装置、计算机设备和存储介质。装置中包括板卡，该板卡包括：存储器件、接口装置和控制器件以及包括数据处理装置的人工智能芯片；其中，人工智能芯片与存储器件、控制器件以及接口装置分别连接；存储器件，用于存储数据；接口装置，用于实现人工智能芯片与外部设备之间的数据传输；控制器件，用于对人工智能芯片的状态进行监控。本公开实施例所提供的神经网络的数据量化处理方法、装置、计算机设备和存储介质，提高了确定神经网络中不同待量化层的量化位宽的确定速度和效率。

技术领域

本公开涉及计算机技术领域，特别是涉及一种神经网络的数据量化处理方法、装置、计算机设备和存储介质。

背景技术

神经网络(neural network，NN)是一种模仿生物神经网络的结构和功能的数学模型或计算模型。神经网络通过样本数据的训练，不断修正网络权值和阈值使误差函数沿负梯度方向下降，逼近期望输出。它是一种应用较为广泛的识别分类模型，多用于函数逼近、模型识别分类、数据压缩和时间序列预测等。神经网络被应用到图像识别、语音识别、自然语言处理等领域中，然而，随着神经网络复杂度提高，数据的数据量和数据维度都在不断增大，不断增大的数据量等对运算装置的数据处理效率、存储装置的存储容量及访存效率等提出了较大的挑战。相关技术中，采用固定位宽对神经网络的运算数据进行量化，即将浮点型的运算数据转换为定点型的运算数据，以实现神经网络的运算数据的压缩。但相关技术中针对整个神经网络采用固定的位宽，但神经网络的不同运算数据之间可能存在较大的差异，往往会导致精度较低，影响数据运算结果，且确定位宽的速度慢、时间长。

发明内容

基于此，有必要针对上述技术问题，提供一种能够解决上述技术问题的神经网络的数据量化处理方法、装置、计算机设备和存储介质。

根据本公开的一方面，提供了一种神经网络的数据量化处理方法，应用于处理器，所述方法包括：

获取神经网络中待量化层的状态数据；

利用预先训练好的强化学习模型，对所述状态数据进行处理，得到所述待量化层的量化位宽，以根据所述量化位宽对所述待量化层中对应的待量化数据进行量化，

其中，所述状态数据包括：所述待量化层在神经网络中对应的层数、所述神经网络中所述待量化层的上一层的量化位宽、所述待量化层对应的运算类型、与所述运算类型相对应的运算参数、所述待量化层的输入数据和/或输出数据的数据参数。

根据本公开的另一方面，提供了一种神经网络的数据量化处理装置，应用于处理器，所述装置包括：

数据获取模块，获取神经网络中待量化层的状态数据；

位宽确定模块，利用预先训练好的强化学习模型，对所述状态数据进行处理，得到所述待量化层的量化位宽，以根据所述量化位宽对所述待量化层中对应的待量化数据进行量化，

其中，所述状态数据包括：所述待量化层在神经网络中对应的层数、所述神经网络中所述待量化层的上一层的量化位宽、所述待量化层对应的运算类型、与所述运算类型相对应的运算参数、所述待量化层的输入数据和/或输出数据的数据参数。

根据本公开的另一方面，提供了一种人工智能芯片，所述芯片包括如上述神经网络的数据量化处理装置。

根据本公开的另一方面，提供了一种电子设备，所述电子设备包括上述人工智能芯片。

根据本公开的另一方面，提供了一种板卡，所述板卡包括：存储器件、接口装置和控制器件以及上述人工智能芯片；

其中，所述人工智能芯片与所述存储器件、所述控制器件以及所述接口装置分别连接；

所述存储器件，用于存储数据；

所述接口装置，用于实现所述人工智能芯片与外部设备之间的数据传输；