[发明专利]数据转换方法、乘法器、加法器、终端设备及存储介质

说明书

本发明涉及数据转换方法、乘法器、加法器、终端设备及存储介质，该方法包括：输入浮点数F；将输入的浮点数F按照以下转化规则进行转换，转换规则为：其中，a_i为整型数，每个整型数均为n比特，i表示序号，k表示整型数的个数；根据转换后的浮点数F，设定转换为的新标准数为k个n比特的整型数a_i从高位到低位采用降序或升序排列而成的数；当浮点数F＝0时，k个n比特的整型数均为负无穷；输出转换后的所述新标准数。本发明既保留了单精度浮点数的数值表示范围大的优点，又降低了浮点数乘法运算的计算开销，因此能够降低深度神经网络算法的计算开销，为深度神经网络算法在低成本、低功耗设备上的部署提供了一种解决方案。

技术领域

本发明涉及数据转换技术领域，尤其涉及一种数据转换方法、乘法器、加法器、终端设备及存储介质。

背景技术

以图像识别和自然语言处理为主要应用的深度神经网络算法在社会经济中日益普及。深度神经网络对计算设备的计算性能有较高的要求，如何降低算法的计算开销已经成为学术界和工业界所共同关心的问题。

近年来，基于卷积神经网络的深度学习算法在机器视觉、自然语言处理等领域取得了令人印象深刻的成果。卷积神经网络通过复杂的神经网络设计和增加神经网络的深度，从图片或视频中提取关键特征，并最终实现对图片进行分类或目标检测。卷积运算通常是卷积神经网络中计算开销最大的函数，而乘法运算又是卷积运算中计算开销最大的步骤。因此，高效的乘法器设计和实现是降低深度卷积神经网络计算开销的关键因素。

在深度神经网络对输入信号的加工过程中，网络中的大量神经元能够提取并保存局部特征。这些神经元所使用的数据格式通常使用单精度浮点数格式或定点数格式。单精度浮点数格式的工业界标准是IEEE-754标准，在这种标准下，带小数的数字采用科学计数法进行表示，这种数据格式的优势在于数据的表示范围较大。比如，IEEE-754单精度浮点数可以表达-2¹²⁷～-2^-126之间或2^-126～2¹²⁷之间的实数。传统的单精度浮点数格式尽管精度较高，但也由于其并未针对深度神经网络进行专门设计，导致了其运算过程的高开销及硬件实现的复杂。

由于深度神经网络中的神经元具有冗余的特性，降低神经元的数据精度并不会对深度神经网络的输出精度产生明显的影响，但却可以显著降低深度神经网络的计算开销。在计算的过程中，基于卷积神经网络的深度学习算法与传统的算法有所区别，主要体现在：(1)基于卷积神经网络的深度学习算法具有一定的冗余特性，降低运算过程的数据精度并不会显著影响算法的计算结果；(2)基于卷积神经网络的深度学习算法在计算的过程中，代表神经元和连接权重的实数的值域较小，远远小于2¹²⁷；(3)受到反向传播算法的限制，基于卷积神经网络的深度学习算法在计算的过程中，代表神经元和连接权重的实数在迭代的过程中呈现出“大部分实数的指数以相同的数量进行偏移”的现象。由于IEEE-754浮点数数据格式是为传统算法所设计，所以并未考虑和利用到基于卷积神经网络的深度学习算法的上述特性。相应地，对于基于卷积神经网络的深度学习算法而言，为IEEE-754浮点数数据格式所设计的加法运算器和乘法运算器存在着“过度设计”的可能。

发明内容

为了解决上述问题，本发明提出了一种数据转换方法、乘法器、加法器、终端设备及存储介质。

具体方案如下：

一种数据转换方法，用于将浮点数转换为新标准数，该方法包括：

输入浮点数F；

将输入的浮点数F按照以下转化规则进行转换，转换规则为：

其中，a_i为整型数，每个整型数均为n比特，i表示序号，k表示整型数的个数；