[发明专利]定点位数的确认方法、存储介质和装置

摘要

本发明提供一种定点位数的确认方法、存储介质和装置，包括：步骤11：设置FP_n初始值；步骤12：以当前FP_n构建当前定点化深度学习算法；将L个样本数据输入当前定点化深度学习算法，记录输出Y’_l，l＝1,2…L；步骤13：判断Y’_l是否符合预设要求，如果是结束流程，否则执行步骤14：将L个样本数据输入未定点化深度学习算法，记录数据集A_n；步骤15：计算离散化指数D_n，取前预设个数最大D_n所为短板层；步骤16：调整短板层的FP_n数值，步骤17：以当前FP_n构建当前定点化深度学习算法；将L个样本数据输入当前定点化深度学习算法，记录输出Y’_l；步骤18：判断Y’_l是否符合预设要求，如果是结束流程，否则返回步骤16。本发明方法，可以快速确定定点化深度学习算法中的定点位数。

主权项

1.一种定点位数的确定方法，其特征在于，所述方法应用于定点化深度学习算法中，所述定点化深度学习算法包括N个卷积层，所述方法用于为卷积层n的卷积层参数确定定点化处理的预设进制位数FPn，n＝1,2…N，包括：步骤11：设置FPn为初始值；步骤12：按照当前FPn，将卷积层参数进行定点化处理，以构建当前定点化深度学习算法；卷积层参数至少包括输入矩阵数据、输出矩阵数据、卷积层权值、偏差中的任一参数；将L个样本数据对中的样本输入值逐个输入所述当前定点化深度学习算法，其中，一样本数据对包括样本输入值Xl、以及所述Xl的标准输出Yl，记录所述当前定点化深度学习算法的输出Y’l，l＝1,2…L，；步骤13：通过比较Yl与Y’l，判断所述Y’l是否符合预设要求，如果是，则记录当前FPn为定点化深度学习算法的定点位数最终值，结束本流程，否则执行步骤14；步骤14：将L个样本数据对中的样本输入值逐个输入未定点化深度学习算法，记录数据集An＝{Sni|l＝1,2…L,i≥1}，其中，所述Sni为任一卷积层参数，n＝1,2…N；步骤15：计算N个卷积层每一层的离散化指数Dn，所述Dn用于指示数据集An的离散程度，取前预设个数最大Dn所对应的卷积层为短板层；步骤16：调整所述短板层的FPn数值，执行步骤17；步骤17：按照当前FPn，将卷积层参数进行定点化处理，以构建当前定点化深度学习算法；将L个样本数据对中的样本输入值逐个输入所述当前定点化深度学习算法，记录所述当前定点化深度学习算法的输出Y’l，l＝1,2…L；步骤18：通过比较Yl与Y’l，判断所述Y’l是否符合预设要求，如果是，则记录当前FPn为定点化深度学习算法的定点位数最终值，结束本流程，否则返回步骤16。