[发明专利]降低加速器外部数据存储带宽需求的二值化系统和方法

说明书

本发明公开了一种降低加速器外部数据存储带宽需求的二值化系统和方法，系统包括：输入二值化单元、二值化乘法计算单元、缓存单元、算术逻辑计算单元、输出二值化单元，其中，输入二值化单元用于对输入数据进行二值化处理，输出二值化单元用于对输出数据进行二值化处理。本系统通过输入二值化单元和输出二值化单元对输入数据以及输出的特征图数据进行二值化处理，并且采用二值化的权值数据，大大降低了数据量；并且增设了缓存单元对中间数据进行缓存，降低了卷积神经网络加速器与外部存储器之间的访问次数，从而降低了加速器对数据存储带宽的需求。本发明可以广泛应用于数据处理领域。

技术领域

本发明涉及数据处理领域，尤其是一种降低加速器外部数据存储带宽需求的二值化系统和方法。

背景技术

近年来，随着人工智能的热度上升，人们提出了越来越多的深度学习算法模型以解决当前存在的研究问题，而卷积神经网络在机器视觉领域上取得了巨大的成就。卷积神经网络由于其权值的可重用性大大降低了其权值参数的数量，加速了深度学习模型的计算效率。但是随着卷积神经网络的研究不断深入，层数更多、结构更加复杂的模型被提出来，其自身的大量卷积运算需要硬件加载其大量的权值数据与输入数据，因此嵌入式人工智能硬件处理单元对外部内存带宽的需求增大，而目前外部数据存储器的数据带宽成了卷积神经网络加速器发展的瓶颈。

为了解决内存带宽需求增大的问题，目前主要采取的方案是选用存储带宽更高的外部存储器。但是外部存储器的带宽的增加依赖于存储技术的发展，往往需要付出更高的成本。

因此市场上需要一种能够降低数据存储带宽需求的技术。

发明内容

为解决上述技术问题，本发明的第一目的在于：提供一种降低加速器外部数据存储带宽需求的二值化系统。

本发明的第二目的在于：提供一种降低加速器外部数据存储带宽需求的二值化方法。

本发明所采取的第一种技术方案是：

降低加速器外部数据存储带宽需求的二值化系统，包括：

输入二值化单元，用于对输入数据进行二值化处理，得到二值化的输入数据；

二值化乘法计算单元，用于对二值化的数据和权值数据进行数据处理以及向缓存单元和算术逻辑计算单元输出数据；所述数据处理包括乘法操作、定点数乘法操作、批标准化操作和激活操作，所述权值数据为二值化的权值数据；

缓存单元，用于缓存二值化乘法计算单元和算术逻辑计算单元输出的数据；

算术逻辑计算单元，用于对二值化乘法计算单元输出的数据以及对缓存单元中的缓存数据进行加减操作，以及向二值化乘法计算单元和算术逻辑计算单元输出数据；

输出二值化单元，用于对输出数据进行二值化处理；

所述二值化乘法计算单元、缓存单元和算术逻辑计算单元之间两两互相连接，所述输入二值化单元的输出端与二值化乘法计算单元的输入端连接，所述缓存单元的输出端与输出二值化单元连接。

进一步，所述二值化乘法计算单元包括多个并行的PE计算单元，所述PE计算单元用于将由多位权值数据合并成的权值向量与由多位输入数据合并成的输入数据向量进行异或非操作，以及用于两个定点数的乘法运算和比较操作。

进一步，所述缓存单元为片上分布式缓存单元，所述缓存单元包括多个并行的存储子单元，所述多个并行的存储子单元用于并行缓存二值化乘法计算单元或者算术逻辑计算单元输出的多个数据，或者用于向二值化乘法计算单元或者算术逻辑计算单元并行地输出已缓存的多个数据。

进一步，所述算术逻辑计算单元包括多个并行的加减计算子单元，所述多个加减计算子单元用于并行地计算二值化乘法计算单元或者缓存单元输出的多个数据，或者用于向二值化乘法计算单元或者缓存单元并行地输出多个数据。