[发明专利]神经网络硬件

说明书

本公开涉及神经网络硬件。提供了一种用于实施深度神经网络(DNN)的硬件，深度神经网络具有卷积层，硬件包括多个卷积引擎，每个卷积引擎能够操作以通过向数据窗口应用滤波来执行卷积操作，每个滤波包括用于与数据窗口的相应的数据值组合的权重的集合，并且多个卷积引擎中的每个卷积引擎包括：乘法逻辑，其能够操作以将滤波的权重与数据窗口的相应的数据值组合；控制逻辑，其被配置为：接收标识用于在多个卷积引擎处的数据窗口的集合上操作的滤波的集合的配置信息；使用配置信息来确定卷积操作的序列，以用于在乘法逻辑处进行评估；根据所确定的卷积操作的序列，请求权重和数据值；并且使得乘法逻辑将权重与其相应的数据值组合；以及累加逻辑。

技术领域

本公开涉及神经网络硬件。

背景技术

本发明涉及用于实施具有卷积层的深度神经网络的硬件，以及用于以硬件的方式实施具有卷积层的深度神经网络的方法。

深度神经网络(DNN)是在输入层和输出层之间具有多层的一种类型的人工神经网络。DNN可以用于机器学习应用。具体而言，深度神经网络可以用于信号处理应用，信号处理应用包括图像处理应用和计算机视觉应用。

DNN通常在功率资源不是重要因素的应用中实施。尽管如此，DNN 在许多不同的技术领域中都有应用，其中用于实施DNN的硬件的资源使得功耗、处理能力或硅面积受到限制。此外，用于特定应用的DNN的限定可能随着时间而变化——例如，由于DNN的额外训练。

DNN通常包括卷积层，在该卷积层处向数据集的窗口应用滤波。具体而言，卷积神经网络(CNN)是包括一个或多个卷积层的一类DNN，并且通常应用于分析图像数据。根据应用，卷积层处的滤波和窗口的数量在不同的DNN之间可能发生巨大变化。

需要用于在DNN中以灵活且可伸缩的方式在各种各样的不同DNN架构上高效地执行卷积操作的一种系统。

发明内容

本发明内容被提供用于介绍对以下具体实施方式中进一步描述的概念的选择。本发明不旨在标识所要求保护的主题的关键特征或必要特征，也不旨在用于限制所要求保护的主题的范围。

提供了一种用于实施深度神经网络(DNN)的硬件，所述深度神经网络具有卷积层，所述硬件包括多个卷积引擎，每个卷积引擎能够操作以通过向数据窗口应用滤波来执行卷积操作，每个滤波包括用于与数据窗口的相应的数据值组合的权重的集合，并且所述多个卷积引擎中的每个卷积引擎包括：乘法逻辑，其能够操作以将滤波的权重与数据窗口的相应的数据值组合；控制逻辑，其被配置为：接收配置信息，所述配置信息标识用于在所述多个卷积引擎处的数据窗口的集合上操作的滤波的集合；使用所述配置信息来确定卷积操作的序列，以用于在所述乘法逻辑处进行评估；根据所确定的卷积操作的序列，请求权重和数据值，以用于至少部分地向数据窗口应用滤波；并且使得所述乘法逻辑将所述权重与其相应的数据值组合；以及累加逻辑，其被配置为将由所述乘法逻辑执行的多个组合的结果累加，以便形成所确定的序列的卷积操作的输出。

所述多个卷积引擎中的每个卷积引擎可以被布置为独立地执行不同序列的卷积操作，使得所述卷积引擎共同地向数据窗口的集合中的每个数据窗口应用滤波的集合。

所述多个卷积引擎中的每个卷积引擎可以被配置为独立地请求下一个卷积操作的权重和数据值，并且使得其乘法逻辑开始下一个卷积操作，而不管所述卷积引擎中的其他卷积引擎是否已经完成其当前的卷积操作。

所述配置信息包括滤波的集合中的滤波的数量和数据窗口的集合中的数据窗口的数量；并且所述控制逻辑可以被配置为使用所述配置信息来确定卷积操作的序列，并且卷积引擎的数量被布置为向所述数据窗口的集合应用所述滤波的集合。