[发明专利]神经网络模型的处理方法和装置

权利要求书

1.一种神经网络模型的处理方法，其特征在于，包括：

重复执行以下所有步骤，直至神经网络模型的损失误差达到预设条件，以得到成熟的神经网络模型：

获取样本图像，并将样本图像输入到神经网络模型中，其中，所述神经网络模型中具有至少一层卷积层；

根据神经网络模型对所述样本图像进行拓展处理，得到三维特征图；

对所述神经网络模型中的每一层卷积层中的原始卷积核进行二值化，得到每一层卷积层的二值化卷积核；

根据每一层卷积层中的调制卷积核，对每一层卷积层的二值化卷积核进行调制，生成每一层卷积层的重构卷积核；

根据每一层卷积层的重构卷积核和所述三维特征图，确定所述神经网络模型中最后一层卷积层的三维输出特征图；

根据各层卷积层中的原始卷积核、二值化卷积核和调制卷积核，以及所述三维输出特征图，计算神经网络模型的损失误差；

根据所述损失误差，对每一层卷积层中的原始卷积核和调制卷积核进行更新。

2.根据权利要求1所述的方法，其特征在于，所述根据每一层卷积层的重构卷积核和所述三维特征图，确定所述神经网络模型中最后一层卷积层的三维输出特征图，包括：

对所述神经网络模型中第一层卷积层的重构卷积核和所述三维特征图进行卷积处理，得到第一层卷积层的三维输出特征图；

l取值为1，重复执行以下过程，直至得到所述神经网络模型中最后一层卷积层的三维输出特征图：将所述神经网络模型的第l层卷积层的三维输出特征图输入到所述神经网络模型的第l+1层卷积层中；对所述神经网络模型的第l+1层卷积层的重构卷积核和输入到第l+1层卷积层的三维输出特征图进行卷积处理，得到第l+1层卷积层的三维输出特征图；l的值累加1，其中，l为正整数。

3.根据权利要求1所述的方法，其特征在于，所述重构卷积核为

其中，为对第l层卷积层中的第i个原始卷积核进行二值化后得到的二值化卷积核，M^l为第l层卷积层中的调制卷积核，是通过对二维矩阵复制k份后得到的三维矩阵，为第l层卷积层中的调制卷积核M^l的第j个平面，l为正整数，i为正整数，j为正整数，k为正整数。

4.根据权利要求1所述的方法，其特征在于，所述根据各层卷积层中的原始卷积核、二值化卷积核和调制卷积核，以及所述三维输出特征图，计算神经网络模型的损失误差，包括：

采用损失函数对各层卷积层中的原始卷积核、各层卷积层中的二值化卷积核、各层卷积层中的调制卷积核，以及所述三维输出特征图进行处理，得到神经网络模型的损失误差；

其中，所述损失函数，包括：softmax损失函数、核损失函数和中心损失函数，所述核损失函数用于表示所述原始卷积核和所述重构卷积核之间的核误差，所述中心损失函数用于衡量类内紧凑程度；

所述核损失函数为其中，θ为第一超参数；为第l层卷积层中的第i个原始卷积核，为对第l层卷积层中的第i个原始卷积核进行二值化后得到的二值化卷积核，M^l为第l层卷积层中的调制卷积核，是通过对二维矩阵复制k份后得到的三维矩阵，为第l层卷积层中的调制卷积核M^l的第j个平面；

所述中心损失函数为其中，λ为第二超参数，为第l层卷积层中的第i个原始卷积核，为对第l层卷积层中的第i个原始卷积核进行二值化后得到的二值化卷积核，M^l为第l层卷积层中的调制卷积核，为最后一层卷积层生成的第m个三维输出特征图的值，为最后一层卷积层生成的所有三维输出特征图的平均值；

l为正整数，m为正整数，i为正整数，j为正整数，k为正整数。