[发明专利]基于工程化实现的卷积神经网络量化方法

权利要求书

1.一种基于工程化实现的卷积神经网络量化方法，包括：

(1)从互联网下载两个已经预训练好的浮点格式卷积神经网络模型；

(2)根据硬件平台处理器的位宽在(1)下载的预训练浮点模型的每一层卷积层和全连接层后面都添加一层自定义的量化层，并用该自定义的量化层对浮点形式的输入数据进行量化，量化的公式为：

其中，Convert表示将浮点输入数据转化为定点输入数据，x为浮点输入数据，IL和FL分别表示定点输入数据的整数位宽和小数位宽，round为四舍五入函数，是编程语言的内置函数，2^FL表示量化成小数位宽为FL的定点数，-2^IL-1表示定点输入数据表示的数值范围的下限，2^IL-1-2^-FL表示定点输入数据表示的数值范围的上限；

(3)根据硬件平台处理器的位宽对(1)下载的预训练浮点模型中已经训练好的浮点权值进行量化，量化的公式为：

其中，Convert表示将浮点权值转化为定点权值，w为浮点权值，IL′和FL′分别表示定点权值的整数位宽和小数位宽，round为四舍五入函数，是编程语言的内置函数，2^FL′表示量化成小数位宽为FL′的定点数，-2^IL′-1表示定点权值表示的数值范围的下限，2^IL′-1-2^-FL′表示定点权值表示的数值范围的上限。

2.根据权利要求1所述的方法，其中步骤(2)中在步骤(1)下载的预训练浮点模型的每一层卷积层和全连接层后面都添加一层自定义的量化层，是利用编程语言python完成的，其步骤如下：

(2a)定义一个量化层，量化层对浮点输入数据进行量化，量化的定点数位宽用1+IL+FL表示，其中IL表示整数位宽，FL表示小数位宽；

(2b)在步骤(1)下载的预训练浮点网络的每一层卷积层和全连接层后面调用(2a)定义的量化层，用于网络的前向传播。

3.根据权利要求1所述的方法，其中步骤(1)从互联网下载两个已经预训练好的浮点格式卷积神经网络模型，包括：

由3层卷积层和2层全连接层组成的小型网络模型，

由13层卷积层和3层全连接层组成的大型网络模型。