[发明专利]神经网络实现端到端的定点快速傅里叶变换量化方法及系统

权利要求书

1.一种神经网络实现端到端的定点快速傅里叶变换量化方法，其特征在于，将浮点时域数据通过基于深度学习的神经网络的量化处理得到相应的定点时域数据，并进一步通过定点快速傅里叶变换得到对应的顶点频域数据，再通过基于深度学习的神经网络的去向量处理得到浮点频域数据。

2.根据权利要求1所述的神经网络实现端到端的定点快速傅里叶变换量化方法，其特征是，第k个浮点和相应的定点输入帧以及经过浮点和定点FFT处理后的相应频域信号分别表示为：x(k)＝[x₁(k)，x₂(k)，...，x_N(k)]^T，最终输出的浮点频域数据为：其中：矩阵w和分别表示浮点与定点的FFT运算，矩阵中的元素优选为w_mn均匀量化之后的数值，在其他场合也可采用不同的量化机制实现，本实施例以均匀量化举例。

3.根据权利要求1所述的神经网络实现端到端的定点快速傅里叶变换量化方法，其特征是，所述的神经网络，为CNN架构，包括一个输入层、多个隐藏层和一个输出层，该神经网络的输入数据为N×1的一维矩阵Re(x(k))，Im(x(k))，其中Im(x(k))全部设置为零。

4.根据权利要求3所述的神经网络实现端到端的定点快速傅里叶变换量化方法，其特征是，所述的隐藏层为三级级联的卷积层实现并采用修正线性单元(ReLU)作为前两级隐藏层的非线性激活函数以避免消失梯度问题；最后一级隐藏层中，使用Sigmoid函数作为激活函数。

5.根据权利要求1或3所述的神经网络实现端到端的定点快速傅里叶变换量化方法，其特征是，所述的神经网络所采用的损失函数为最小化归一化均方误差(NMSE)：其中：Q(·)和分别表示量化与去量化函数，K是子帧总数，|·|则表示绝对值函数，y(k)、分别为完成FFT运算后的向量y(k)＝[y₁(k)，y₂(k)，...，y_N(k)]^T，通过，在实数域上的相应FFT过程得到：其中量化后的时域信号为：去量化之后的频域信号为：

6.根据权利要求1或3所述的神经网络实现端到端的定点快速傅里叶变换量化方法，其特征是，所述的神经网络的训练过程具体为：以将数据尽可能二值化。

7.根据权利要求1所述的神经网络实现端到端的定点快速傅里叶变换量化方法，其特征是，所述的神经网络具体包括：结构相同的量化网络和去量化网络，均为DNN网络，包括：128×1的输入层、512-ReLu的第一和第二隐藏层以及1024-Sigmoid的第三隐藏层和128-ReLu的输出层。

8.一种实现上述任一权利要求所述方法的端到端的定点快速傅里叶变换架构，包括：分别用于量化和去量化的基于深度学习的神经网络以及定点FFT运算模块，其中：神经网络对量化函数Q(·)和去量化函数建模，将输入的浮点数据的数组Re(x(k))输入用于量化的神经网络，得到量化完成的数据和定点FFT运算模块输出的频域数据和输入用于去量化的神经网络得到恢复出的浮点频域数据。