[发明专利]对神经网络系统中的数据处理方法和神经网络系统

权利要求书

1.一种对神经网络系统中的数据处理方法，其特征在于，包括：

根据目标量化位宽以及第一初始权重值集合中的权重值的范围，确定第一量化方式，其中，所述第一初始权重值集合包括所述神经网络系统中的多个卷积核组中的第一卷积核组的初始权重值，所述第一卷积核组包括不同卷积层中的多个卷积核，或包括同一卷积层中的部分卷积核；

根据所述第一量化方式，对所述第一初始权重值集合中的权重值进行量化，以获得所述第一卷积核组的第一目标权重值集合；

根据所述第一目标权重值集合中的权重值对输入所述神经网络系统的数据进行计算。

2.如权利要求1所述的方法，其特征在于，所述第一卷积核组包括权重分布相近的多个卷积核。

3.如权利要求1或2所述的方法，其特征在于，所述第一卷积核组满足以下条件中的至少一项：

所述第一卷积核组中的任意两个卷积核的权重值的最大值的差值小于第一预设值；

所述第一卷积核组中的任意两个卷积核的权重值的最小值的差值小于第二预设值；

所述第一卷积核组中的任意两个卷积核的权重值的平均值的差值小于第三预设值；和

所述第一卷积核组中的任意两个卷积核的权重值的方差的差值小于第四预设值。

4.如权利要求1至3中任一项所述的方法，其特征在于，所述根据所述第一量化方式，对所述第一初始权重集合进行量化，包括：

根据所述第一量化方式将所述第一初始权重值集合中的权重值划分为多个子集；

分别对所述多个子集中的每个子集中的权重值进行量化，得到所述第一目标权重值集合。

5.如权利要求4所述的方法，其特征在于，所述第一量化方式为均匀量化方式，所述根据所述第一量化方式将所述第一初始权重值集合中的权重值划分为多个子集包括：采用第一量化步长将所述第一初始权重值集合中的权重值均匀划分为所述多个子集。

6.如权利要求4所述的方法，其特征在于，所述第一量化方式为非均匀量化方式，所述根据所述第一量化方式将所述第一初始权重值集合中的权重值划分为多个子集包括：按照所述第一量化方式确定的多个量化步长将所述第一初始权重值集合中的权重值非均匀的划分为所述多个子集。

7.如权利要求1至6中任一项所述的方法，其特征在于，还包括：

对所述第一目标权重值集合中的权重值进行前向推理计算；

根据所述前向推理计算的结果，确定所述第一目标权重值集合的权重值不满足预设条件；

调整所述第一初始权重值集合中的权重值，得到所述第一卷积核组的第二初始权重值集合；

根据所述第二初始权重值集合中的权重值的范围，确定第二量化方式；

根据所述第二量化方式对所述第二初始权重值集合中的权重值进行量化，得到所述第一卷积核组的第二目标权重值集合。

8.如权利要求7所述的方法，其特征在于，所述根据所述前向推理计算的结果，确定所述第一目标权重值集合的权重值不满足预设条件，包括：

在所述前向推理计算的输出值与真实值的误差大于第一预设阈值的情况下，确定所述第一目标权重值集合的权重值不满足预设条件。

9.如权利要求7或8所述的方法，其特征在于，所述对所述第一目标权重值集合中的权重值进行前向推理计算，包括：

在所述神经网络系统中对所述第一目标权重值集合的权重值进行前向推理计算，其中，所述神经网络系统包括以下任意一种处理器件：图形处理器GPU、现场可编程阵列FPGA、忆阻器交叉阵列。

10.如权利要求1至6中任一项所述的方法，其特征在于，还包括：

对所述第一目标权重值集合中的权重值进行前向推理计算；

根据对所述第一目标权重值集合的权重值进行前向推理计算的结果，确定所述第一目标权重值集合的权重值不满足预设条件；

调整所述第一目标权重值集合的权重值，得到所述第一卷积核组的第二目标权重值集合。