[发明专利]人脸识别神经网络调整方法和装置

权利要求书

1.一种调整人脸识别神经网络的方法，其中所述人脸识别神经网络至少包括多个卷积层和至少一个全连接层，最后一个全连接层是用于分类的分类器，所述方法包括：

获取待训练的神经网络模型，所述神经网络模型使用图像作为输入；

使用定点量化来对所述神经网络模型进行训练，以获得经训练的定点量化神经网络模型，其中所述最后一个全连接层在训练过程中保持浮点；以及

输出不带所述最后一个全连接层的所述经训练的定点量化的神经网络模型，

其中，使用定点量化来对所述神经网络模型进行训练包括：

以弱约束损失函数训练出基础定点神经网络模型；

基于所述基础定点神经网络模型，以强约束损失函数训练得到所述经训练的定点量化神经网络模型，

其中，所述经训练的定点量化的神经网络模型在推理阶段输出人脸特征向量。

2.如权利要求1所述的方法，其中，使用定点量化来对所述神经网络模型进行训练包括：

基于预定规则以逐渐降低的比特对定点量化神经网络模型进行迭代微调。

3.如权利要求2所述的方法，其中，基于预定规则以逐渐降低的比特对定点量化神经网络模型进行迭代微调包括：

逐位降低对初始高比特定点量化神经网络模型进行微调的定点比特数，直至目标低比特位宽为止，以获得经训练的目标低比特定点量化的神经网络模型。

4.如权利要求2所述的方法，其中，基于预定规则以逐渐降低的比特对定点量化神经网络模型进行迭代微调包括：

在使用特定比特进行微调时，基于预定规则从神经网络模型的低层到高层逐步降低位宽至所述特定比特，以获得该特定比特定点量化的神经网络模型。

5.如权利要求1所述的方法，其中，以低学习率的定点梯度来对所述神经网络模型进行训练，所述梯度的定点位宽与所述神经网络模型的当前定点位宽相同。

6.如权利要求1所述的方法，其中，定点量化包括对权重参数、梯度值和激活值的定点量化，并且对权重参数和激活值进行线性定点量化。

7.如权利要求1所述的方法，其中，使用定点量化来对所述神经网络模型进行训练包括：

在定点量化训练时保留除所述最后一层全连接层之外的特定层的浮点或高比特位宽。

8.如权利要求7所述的方法，其中，所述高比特位宽是输出的定点量化神经网络模型的位宽的整数倍。

9.一种人脸识别神经网络部署方法，包括：

在至少部分包括FPGA、GPU和/或ASIC的定点计算平台上部署如权利要求1-8中任一项所述的经训练的定点量化的神经网络模型以执行推理。

10.如权利要求9所述的方法，其中，所述至少一个全连接层还包括倒数第二个全连接层，用于输出提取的所述人脸特征向量，并且所述倒数第二个全连接层用作输出的所述经训练的定点量化的神经网络模型的输出层。

11.如权利要求10所述的方法，其中，所述神经网络模型执行推理输出的所述人脸特征向量被用于与已有的人脸特征相比对以进行人脸识别。

12.如权利要求9所述的方法，其中，所述定点量化的位宽由所述FPGA、GPU和/或ASIC的位宽决定。

13.如权利要求9所述的方法，还包括：

将所述推理的验证结果用于对部署的所述定点量化神经网络的微调。