[发明专利]卷积神经网络的逐层变精度定点化方法及装置

摘要

本发明公开了一种卷积神经网络的逐层变精度定点化方法与支持装置。其中该方法包括：分别根据输入的网络参数和输入数据的取值范围对输入的卷积神经网络模型中不同层的定点化配置进行估计；根据得到的定点化配置估计，根据最优化误差函数确定输入数据和不同层的网络参数的最佳定点配置点并输出；将定点化后的输入数据与原浮点数输入数据分别作为卷积神经网络中的第一层输入并计算该层输出数据的最佳定点配置点，并将输出结果与原第一层浮点数的输出结果作为第二层输入，以此类推，直至达到的最后一层以完成全部定点化。该方法保障了卷积神经网络的每一层在定点化后精度损失最小，能够显著降低存储网络数据需要的空间，提高网络参数传输的速度。

主权项

一种卷积神经网络的逐层变精度定点化方法，其特征在于，包括以下步骤：预处理：输入卷积神经网络模型、网络参数和卷积神经网络输入数据，并分别根据网络参数和卷积神经网络输入数据的取值范围，对所述卷积神经网络模型中不同层的定点化配置进行估计；卷积神经网络输入数据与网络参数定点化：根据预处理得到的定点化配置估计，根据最优化误差函数确定所述卷积神经网络输入数据的最佳定点配置点、确定不同层的所述网络参数的最佳定点配置点，输出所述卷积神经网络输入数据与所述网络参数不同层的定点化配置；网络中间数据定点化：将所述卷积神经网络定点化后的输入数据与原浮点数输入数据分别作为所述卷积神经网络中的第一层的输入并计算第一层输出，根据所述最优化误差函数确定所述第一层输出数据的最佳定点配置点，并将定点化后的输出结果与原卷积神经网络第一层浮点数的输出结果作为所述卷积神经网络的第二层的输入；以此类推，直至达到所述卷积神经网络中的最后一层以完成全部网络中间数据的定点化。