[发明专利]卷积神经网络的优化及快速目标检测方法、装置

权利要求书

1.一种卷积神经网络的优化方法，其特征在于，包括：

获取采用浮点型样本图像数据训练好的第一卷积模型；所述浮点型样本图像数据为整型的样本图像数据被归一化至预定数据范围后所得的数据；所述第一卷积模型中的BN层操作位于卷积层操作之后，用于将卷积层操作后得到的数值归一化至预定数据范围；

利用所述BN层的参数调整所述卷积层的参数；并删除所述BN层，得到调整后的第二卷积模型；

在所述第二卷积模型中卷积层的卷积操作之前添加量化层，得到第三卷积模型；所述量化层用于将输入数据量化至预定比特位的整型数据，所述卷积层以所述预定比特位的整型数据执行卷积操作。

2.根据权利要求1所述的卷积神经网络的优化方法，其特征在于，由所述第一卷积模型得到所述第二卷积模型的过程还包括：

将卷积层的权重值量化至整型的预定比特位。

3.根据权利要求1或2所述的卷积神经网络的优化方法，其特征在于，量化至预定比特位的整型数据的方法将待量化数据的范围最大值量化至预定比特位的最大值，将范围最小值量化至预定比特位的最小值，并通过以下公式对范围内的任意待量化数据进行量化：

y＝round(s*x)-round(s*min)，其中s＝MAX/(max-min)，max为待量化数据的范围最大值，min为待量化数据的范围最小值，MAX为量化后的预定比特位的最大值。

4.根据权利要求1所述的卷积神经网络的优化方法，其特征在于，由所述第二卷积模型得到所述第三卷积模型的过程还包括：

在至少一个层的操作之后添加反量化层；所述反量化层用于将所述至少一个层操作得到的数据反量化为浮点型数据。

5.根据权利要求1所述的卷积神经网络的优化方法，其特征在于，所述预定比特位为八比特位；

所述卷积层将八比特位的待检测图像数据与八比特位的权重值相乘后采用32位整型进行存储；

将卷积层的偏置转换为32位整型数据后，再与乘积结果相加得到32位的整型和；

所述卷积层之后的激活层直接对所述32位的整型和进行操作；

将所述激活层操作得到的数据转化至八比特位，并传递至下一层。

6.一种基于卷积神经网络的快速目标检测方法，其特征在于，包括：

获取整型的待检测图像数据；

通过权利要求1至5任一项所述优化方法得到的第三卷积模型对所述整型的待检测图像数据进行检测。

7.一种卷积神经网络的优化装置，其特征在于，包括：

第一获取单元，用于获取采用浮点型样本图像数据训练好的第一卷积模型；所述浮点型样本图像数据为整型的样本图像数据被归一化至预定数据范围后所得的数据；所述第一卷积模型中的BN层操作位于卷积层操作之后，用于将卷积层操作后得到的数值归一化至预定数据范围；

调整单元，用于利用所述BN层的参数调整所述卷积层的参数；并删除所述BN层，得到调整后的第二卷积模型；

第一量化单元，用于在所述第二卷积模型中卷积层的卷积操作之前添加量化层，得到第三卷积模型；所述量化层用于将输入数据量化至预定比特位的整型数据，所述卷积层以所述预定比特位的整型数据执行卷积操作。

8.一种基于卷积神经网络的快速目标检测装置，其特征在于，包括：

权利要求7所述的卷积神经网络的优化装置；

第二获取单元，用于获取整型的待检测图像数据；

处理单元，用于通过所述优化装置得到的第三卷积模型对所述整型的待检测图像数据进行处理。

9.一种电子设备，其特征在于，包括：

存储器和处理器，所述存储器和所述存储器之间互相通信连接，所述存储器中存储有计算机指令，所述处理器通过执行所述计算机指令，从而执行权利要求1至6任一项所述的方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使所述计算机执行权利要求1至6任一项所述的方法。