[发明专利]基于卷积神经网络模型的图像处理方法和装置

说明书

本申请提供了一种基于卷积神经网络模型的图像处理方法和装置。该方法包括：获取神经网络层对应的第一权重参数集，第一权重参数集中包括N1个第一权重参数，其中，N1为大于或等于1的整数；分别计算N1个第一权重参数与第一数值m的比值，得到N1个第二权重参数，其中|W_max|≤m≤2|W_max|，W_max为第一权重参数集中绝对值最大的权重参数；将N1个第二权重参数分别量化成至少两个2的Q次方的和，得到N1个第三权重参数，其中，Q≤0，且Q为整数；获取待处理图像；根据N1个第三权重参数对待处理图像进行处理，以得到输出图像。本申请能够降低权重量化带来的误差，从而减小精度损失。

技术领域

本申请涉及图像处理领域，更具体地，特别涉及一种基于卷积神经网络模型的图像处理方法和装置。

背景技术

近年来，神经网络特别是卷积神经网络在图像处理、图像识别类应用上取得了巨大的成功。一个典型的卷积神经网络一般多个卷积层、全连接层等组成，从计算角度讲，乘法是主要的瓶颈。从所需的存储空间来看，模型参数存储和传输也需要消耗大量能量。很多研究者都在研究压缩和加速神经网络的方法，即可以使得模型存储空间减小的同时，计算量(即乘法次数)也能大幅减少。

其中量化是一种常用的模型压缩和加速方法，特别是将参数量化成2的幂次表示，从而将乘法转化为移位操作。乘法转化为移位操作大大降低了计算的复杂度，能够实现加速的效果。

但是在实际应用中，例如，对于图像超分辨率的卷积神经网络，需要考虑在得到较大压缩和加速增益的同时，避免因量化而造成过大的误差，进而影响性能，如影响峰值信噪比(peak signal noise ratio，PSNR)。

发明内容

本申请提供一种基于卷积神经网络模型的图像处理方法和装置，能够减小量化造成的误差，降低精度损失。

第一方面，提供了一种基于卷积神经网络模型的图像处理方法，所述卷积神经网络模型的一个神经网络层包括至少一个卷积层和/或至少一个全连接层，该方法包括：获取所述神经网络层对应的第一权重参数集，所述第一权重参数集中包括N1个第一权重参数，其中，N1为大于或等于1的整数；分别计算所述N1个第一权重参数与第一数值m的比值，得到N1个第二权重参数，其中|W_max|≤m≤2|W_max|，W_max为所述第一权重参数集中绝对值最大的权重参数；将所述N1个第二权重参数分别量化成至少两个2的Q次方的和，得到N1个第三权重参数，其中，Q≤0，且Q为整数；获取待处理图像；根据所述N1个第三权重参数对所述待处理图像进行处理，得到输出图像。

因此，本申请实施例中，先用一个数值m对权重参数进行近似处理，该处理过程，由于数值m的范围，不仅可以保证权重参数在卷积神经网络中的分布不变，而且可以使得后面的量化过程中的误差减小。对近似后的权重参数量化为至少两个2的幂次方，不仅减少了乘法计算量，而且可以降低量化带来的误差，进一步降低由于误差带来的精度损失。

结合第一方面，在第一方面的某些实现方式中，所述第一权重参数集中还包括N2个第四权重参数，其中，N2为大于或等于1的整数；所述将所述N1个第二权重参数分别量化成至少两个2的Q次方的和，得到N1个第三权重参数之后，包括：根据所述量化的量化结果，训练所述N2个第四权重参数，得到N2个第五权重参数；分别计算所述N2个第五权重参数与所述第一数m值的比值，得到N2个第六权重参数；将所述N2个第六权重参数分别量化成至少两个2的P次方的和，得到N2个第七权重参数，其中，P≤0，且P为整数；所述根据所述N1个第三权重参数，对所述待处理图像进行处理，以得到输出图像，包括：根据所述N1个第三权重参数和所述N2个第七权重参数，对所述待处理图像进行处理，以得到输出图像。