[发明专利]一种二值卷积装置及相应的二值卷积神经网络处理器

说明书

本发明提供一种二值卷积装置及相应的二值卷积神经网络处理器，所述二值卷积装置包括：XNOR门，其以所采用的卷积核中的元素与待卷积数据中的相应元素作为其输入，其中所述卷积核中的元素与所述待卷积数据中的相应元素均为二值形式；累加装置，其将所述XNOR门的输出作为其输入，用于对所述XNOR门的输出进行累加，以输出二值卷积的结果。根据本发明的技术方案，可以在运算过程中减少进行计算的数据的位宽，达到提高运算效率、降低存储容量及能耗的效果。

技术领域

本发明涉及计算机处理器，尤其涉及用于神经网络模型计算的处理器。

背景技术

随着人工智能技术的发展，涉及深度神经网络、尤其是卷积神经网络的技术在近几年得到了飞速的发展，在图像识别、语音识别、自然语言理解、天气预测、基因表达、内容推荐和智能机器人等领域均取得了广泛的应用。

所述深度神经网络可以被理解为一种运算模型，其中包含大量数据节点，每个数据节点与其他数据节点相连，各个节点间的连接关系用权重表示。随着深度神经网络的不断发展，其复杂程度也在不断地提高。

为了权衡复杂度和运算效果之间的矛盾，在参考文献：Courbariaux M,Hubara I,Soudry D,et al.Binarized neural networks:Training deep neural networks withweights and activations constrained to+1or-1[J].arXiv preprint arXiv:1602.02830,2016.中提出了可以采用“二值卷积神经网络模型”来降低传统神经网络的复杂度。在所述二值卷积神经网络中，卷积神经网络中的权重、输入数据、输出数据均采用“二值形式”，即通过“1”和“-1”近似地表示其大小，例如以“1”来表示大于等于0的数值，并用“-1”来表示小于0的数值。通过上述方式，降低了神经网络中用于操作的数据位宽，由此极大程度地降低了所需的参数容量，致使二值卷积神经网络尤其适用于在物端实现图像识别、增强现实和虚拟现实。

在现有技术中通常采用通用的计算机处理器来运行深度神经网络，例如中央处理器(CPU)和图形处理器(GPU)等。然而，并不存在针对二值卷积神经网络的专用处理器。通用的计算机处理器计算单元位宽通常为多比特，计算二值神经网络会产生资源浪费。

发明内容

因此，本发明的目的在于克服上述现有技术的缺陷，提供一种二值卷积装置，包括：

XNOR门，其以所采用的卷积核中的元素与待卷积数据中的相应元素作为其输入，其中所述卷积核中的元素与所述待卷积数据中的相应元素均为二值形式；

累加装置，其将所述XNOR门的输出作为其输入，用于对所述XNOR门的输出进行累加，以输出二值卷积的结果。

优选地，根据所述二值卷积装置，其中所述累加装置包括OR门，所述OR门的至少一个输入为所述XNOR门的输出。

优选地，根据所述二值卷积装置，其中所述累加装置包括汉明重量计算单元，所述汉明重量计算单元的至少一个输入为所述XNOR门的输出。

优选地，根据所述二值卷积装置，其中多个所述XNOR门的输出端连接至所述累加装置的输入端。

优选地，根据所述二值卷积装置，其中所述累加装置还包括寄存器，所述寄存器用于存储所述OR门或所述汉明重量计算单元的输出并将该输出反馈至所述OR门或所述汉明重量计算单元的至少一个输入。

优选地，根据所述二值卷积装置，其中所述累加装置还包括寄存器，所述寄存器用于存储所述XNOR门的输出并将所存储的内容作为所述所述OR门或所述汉明重量计算单元的输入。

并且，本发明还提供了一种二值卷积神经网络处理器，其包括：

上述任意一项所述的二值卷积装置。