[发明专利]面向参数量化神经网络专用处理器实现高精度计算的方法

摘要

本发明属于神经网络技术领域，涉及一种面向参数量化神经网络专用处理器实现高精度计算的方法。该方法在量化神经网络专用处理器的基础上，根据期望精度与每个权值存储单元精度的比值，将每位突触输入位数扩展。选择一种能够表达期望精度的编码方式，对扩展后的每路输入按照编码方式赋予权重，并根据每路输入按所赋权重与最低位权重的商对其编码，编码形式为与商相同的脉冲数或脉冲大小。随后对权重矩阵存储单元进行编码，使各带权输入与权重矩阵存储单元编码相乘的结果，此时计算参数位数得到扩展。参数位数扩展后的神经网络在保持神经网络参数存储空间较少、功耗低的基础上，有效提高了运算精度，可以实现高精度计算。

主权项

1.面向参数量化神经网络专用处理器实现高精度计算的方法，其特征在于，包括以下步骤：步骤1，对量化神经网络进行训练，获得训练好的神经网络参数；步骤2，确定计算精度及输入路数：根据神经网络计算期望获得的精度、量化神经网络专用处理器每个权值单元精度，确定每位突触权值在量化神经网络上映射时所需的输入路数、突触权值存储单元个数；步骤3，确定参数编码方式；步骤4，根据所选编码方式获取每路输入权重，即每路的权重与编码方式相同；步骤5，根据每路输入权重对每路输入信号编码；步骤6，对权值矩阵各权值存储单元编码；步骤7，获得编码的结果后，保持激活函数不变或等价、神经网络层数相同、神经元结构不变，在参数量化神经网络专用处理器上获得高精度计算网络；步骤8，将获得的高精度计算网络映射到参数量化神经网络专用处理器；步骤9，输入并计算；步骤10，获得计算结果。