[发明专利]量化数据的统计量化器、存储装置、处理装置及板卡

权利要求书

1.一种将多个原始数据进行量化的统计量化器，包括：

缓冲元件，用以暂存所述多个原始数据；

统计元件，用以根据所述多个原始数据生成统计参数；以及

筛选元件，包括：

多个量化组件，每个量化组件自所述缓冲元件逐一读取所述多个原始数据，根据所述统计参数基于不同的量化格式量化所述原始数据，以生成多个中间数据；

误差复用组件，用以根据所述多个中间数据与所述原始数据的误差以选择所述多个中间数据其中之一作为量化数据；

其中，所述筛选元件用以选择执行相应的单个或多个量化组件，并通过所述误差复用组件生成所述量化数据。

2.根据权利要求1所述的统计量化器，其中所述缓冲元件包括第一缓冲组件和第二缓冲组件，所述多个原始数据依序暂存至所述第一缓冲组件，当所述第一缓冲组件的空间被填满时，切换依序暂存至所述第二缓冲组件。

3.根据权利要求2所述的统计量化器，其中当所述多个原始数据依序暂存至所述第二缓冲组件时，所述筛选元件自所述第一缓冲组件读取所述多个原始数据。

4.根据权利要求1所述的统计量化器，其中所述多个量化组件分时实现所述不同的量化格式。

5.根据权利要求4所述的统计量化器，其中所述统计参数为所述原始数据的绝对值的最大值、所述原始数据与相对应中间数据的余弦距离、所述原始数据与相对应中间数据的向量距离至少其中之一。

6.根据权利要求4所述的统计量化器，其中所述误差复用组件包括：

误差计算单元，用以计算所述多个中间数据与所述原始数据的误差；

选择单元，用以生成控制信号，其中所述控制信号对应至误差最小值的中间数据；以及

复用单元，用以根据所述控制信号输出误差最小值的中间数据作为所述量化数据。

7.根据权利要求1所述的统计量化器，其中所述筛选元件还生成标签，用以记录所述量化数据的量化格式。

8.根据权利要求1所述的统计量化器，其中所述原始数据为深度神经网络的神经元数据或权值。

9.一种存储装置，包括根据权利要求1至8任一项所述的统计量化器。

10.一种处理装置，包括根据权利要求1至8任一项所述的统计量化器。

11.一种板卡，包括根据权利要求9所述的存储装置及根据权利要求10所述的处理装置。