[发明专利]基于细粒度数据分布对齐的神经网络后训练量化方法

权利要求书

1.基于细粒度数据分布对齐的神经网络后训练量化方法，其特征在于包括以下步骤：

1)计算校准数据集D中每张图在预训练的全精度网络每一层的BN参数，得到每个类别的代表BN参数；

2)量化预训练的全精度网络得到量化网络；

3)生成器接受高斯噪声和随机选择的标签，生成指定类别的图片，使用交叉熵损失、BN损失、代表BN损失、扰动代表BN损失训练生成器；

4)利用生成器生成的图片和校准数据集图片，使用蒸馏损失、交叉熵损失训练量化网络；

5)循环执行2)～4)，直至达到预定的训练轮数；

6)训练结束保留量化网络权重，即得量化后的量化网络。

2.如权利要求1所述基于细粒度数据分布对齐的神经网络后训练量化方法，其特征在于在步骤1)中，所述计算校准数据集D中每张图在预训练的全精度网络每一层的BN参数，BN参数包括均值和方差：其中分别表示类别为c的图在网络第l层的特征图的均值和方差，图是校准数据集D中的图片，表示图片的标签，预训练的全精度网络指已经在目标数据集上训练好的网络模型。

3.如权利要求1所述基于细粒度数据分布对齐的神经网络后训练量化方法，其特征在于在步骤2)中，所述量化预训练的全精度网络得到量化网络，量化方式如下：

其中，clip(F，l，u)＝min(max(F，l)，u)，l，u表示裁剪上下界；F表示全精度输入，为网络权重或激活值；round表示将其输入舍入到最近的整数；是缩放因子，用于把一个全精度数和整数的相互转换，b表示量化位宽；对于权重，使用逐通道的量化方式，对于激活值，使用逐层量化的方式；获得量化值q后，用缩放因子将其反量化回

4.如权利要求1所述基于细粒度数据分布对齐的神经网络后训练量化方法，其特征在于在步骤3)中，所述生成器接受高斯噪声和随机选择的标签，生成指定类别的图片，使用交叉熵损失、BN损失、代表BN损失、扰动代表BN损失训练生成器的具体步骤为：首先随机生成高斯噪声z和标签y，随后将高斯噪声z和标签y输入生成器G得到生成的图片x^f，其中生成器G是一个神经网络，将生成的图片x^f输入预训练的全精度网络，使用交叉熵损失、BN损失、代表BN损失、扰动代表BN损失训练生成器，在训练生成器的过程中，预训练的全精度网络是固定不更新参数的；

交叉熵损失：

其中，表示预训练的全精度网络关于第i个输入图片属于第y类的预测值，N表示一共有N个输入图片，该交叉熵损失针对的是生成器网络；

BN损失：

μ_l(x^f)，σ_l(x^f)表示生成的图片x^f在预训练的全精度网络第l层的均值和方差，表示预训练的全精度网络第l层在目标数据集上训练时保存下的BN参数；

代表BN损失：

μ_l(x^f|y＝c)，σ_l(x^f|y＝c)表示生成的图片x^f中属于第c类的图片在预训练的全精度网络第l层的特征图的均值和方差；

扰动代表BN损失：

其中，表示以μ_l(x^f|y＝c)，σ_l(x^f|y＝c)为中心，方差为υ_μ，υ_σ的高斯分布。

5.如权利要求1所述基于细粒度数据分布对齐的神经网络后训练量化方法，其特征在于在步骤4)中，所述利用生成器生成的图片和校准数据集图片，使用蒸馏损失、交叉熵损失训练量化网络，图片x^f需要断开梯度计算，以免回传梯度到生成器上，避免更新生成器；

蒸馏损失：

其中，表示量化网络关于第i个输入图片属于第c类的预测值，表示预训练的全精度网络关于第i个输入图片属于第c类的预测值，C表示数据集类别个数，N表示一共有N个输入图片；

交叉熵损失：

其中，表示预训练的全精度网络关于第i个输入图片属于第y类的预测值，N表示一共有N个输入图片1，该交叉熵损失针对的是量化网络。