[发明专利]基于动态二值化神经网络的图像处理方法、系统和设备

说明书

本申请涉及一种基于动态二值化神经网络的图像处理方法、系统和设备。该方法包括：对待处理的样本图像进行采集，得到训练图像，将所述训练图像构造成图像分类数据集，从所述图像分类数据集中提取出样本图像的特征分布参数；构建动态二值化网络模型，所述二值化网络模型包括阈值函数和激活函数；通过动态二值化网络模型对所述特征分布参数进行二值化处理，通过对所述特征分布参数的处理保留所述图像分类数据集中的图像信息；本发明实施例通过动态二值化神经网络动态生成自适应参数，以改变图像的特征分布通过动态二值化神经网络能够在有限的计算量增加的情况下，减少特征信息的丢失，通过提高卷积神经网络的性能，使得图像处理的结果更加真实。

技术领域

本申请涉及自动化领域，特别是涉及一种基于动态二值化神经网络的图像处理方法、系统和设备。

背景技术

随着近年来深度学习的快速发展，卷积神经网络(CNN)已在众多领域取得了巨大的成功。但是目前现有的深度学习模型需要消耗大量的计算资源与存储空间来实现较高的精度，这很不利于部署在一些小型硬件设备中。二值化神经网络(BNN)又被称为1-bit网络，该网络的主要优点在于：1)将模型的权重及激活值限制在+1及-1的1bit类型，使得模型的存储消耗降低32倍；2)使用XNOR及PopCount操作代替原有模型中的乘法加法运算，在CPU上的计算消耗降低58倍。

尽管BNN具有以上这些优势，但在精度方面确与全精度模型存在着较大的差距。尤其在进行图像处理方面，利用现有的二值化神经网络在进行图像处理过程中，无法得到精度较高的图像处理结果，因为在二值化过程会大大限制模型的容量并且造成特征的大量信息损失。BNN的性能对于激活值的分布十分敏感。现有的BNN使用预定义或已学习的静态阈值对模型中特征的激活值进行二值化。这一过程限制了BNN的容量及特征表达能力，因为不同的样本可能具有不同的最优阈值。

发明内容

基于此，有必要针对上述技术问题，提供一种基于动态二值化神经网络的图像处理方法、系统和设备。

第一方面，本发明实施例提供了一种基于动态二值化神经网络的图像处理方法，该方法包括：

对待处理的样本图像进行采集，得到训练图像，将所述训练图像构造成图像分类数据集，从所述图像分类数据集中提取出样本图像的特征分布参数；

构建动态二值化网络模型，所述二值化网络模型包括阈值函数和激活函数；

通过所述动态二值化网络模型对所述特征分布参数进行二值化处理，通过对所述特征分布参数的处理保留所述图像分类数据集中的图像信息；对所述特征分布参数进行二值化处理包括：通过所述阈值函数学习所述特征分布参数通道中的阈值参数；通过所述激活函数学习所述特征分布参数通道中的特征偏移参数。

进一步的，所述构建动态二值化网络模型，所述二值化网络模型包括阈值函数和激活函数，包括：

所述阈值函数为动态学习特征阈值参数的DySign函数，对于包含有C个通道的输入特征X，所述DySign函数输入为特征X，输出为阈值参数a；

所述DySign函数为每一个通道的特征单独计算一个阈值,计算过程：

其中，H及W分别表示输入特征的尺寸大小，与表示两个全连接层。

进一步的，所述通过所述阈值函数学习所述特征分布参数通道中的阈值参数，包括：

通过所述DySign函数学习一组参数a^1:C来二值化特征图，学习过程为：

其中a_i表示学习得到的第i个通道的阈值，通过所述DySign函数对每个通道的全局信息进行编码，并自适应得到每一个通道的阈值，通过所述DySign函数降低二值化网络中的信息损失。