[发明专利]一种神经网络芯片的功耗优化方法及电路

说明书

本发明提供一种神经网络芯片的功耗优化方法和电路，为每个卷积计算网络层单独设置一电源域，为每个卷积运算单元单独设置一电源域，将待卷积矩阵中的数据块按行为单位，每行数据块的电源均连接一门控时钟单元；通过矩阵解析单元对待卷积矩阵的n行数据块进行分析，分析结果通过功耗控制单元控制卷积计算网络层电源域开关控制单元、卷积单元电源域开关控制单元以及卷积单元时钟开关控制单元，从而控制各卷积计算网络层电源域、各卷积电源域或各门控时钟单元的开或关。本发明将单个神经元处理单元和整个神经网络层做成多层次的电源域，可以分别根据需求动态关断，从而可以有效的降低卷积神经网络电路运算过程中消耗的功耗。

技术领域

本发明涉及芯片技术领域，特别涉及一种神经网络芯片的功耗优化方法及电路。

背景技术

随着人工智能产业的兴起，人工智能专用芯片也在快速的发展。而当前人工智能芯片的一大问题就是由于深度学习神经网络的复杂性，造成运算电路非常庞大，这就造成了芯片成本高且芯片功耗高。如果能从深度学习的特性出发，进一步的降低深度学习人工智能芯片的成本和功耗都是非常有意义的。

这个世界的信息是复杂的，但是人脑处理的信息是稀疏的。我们不可能直接硬处理感官庞杂的输入，需要一个信息提取的过程，这个过程在人脑中称之为抽象。DeepLearning之所以大行其道，就是因为它在一定程度上模拟了人脑处理信息的抽象过程。在神经科学方面，神经科学家还发现了神经元的稀疏激活性。2001年，Attwell等人基于大脑能量消耗的观察学习上，推测神经元编码工作方式具有稀疏性和分布性。2003年Lennie等人估测大脑同时被激活的神经元只有1～4％，进一步表明神经元工作的稀疏性。从信号方面来看，即神经元同时只对输入信号的少部分选择性响应，大量信号被刻意的屏蔽了，这样可以提高学习的精度，更好更快地提取稀疏特征。稀疏性在这里就是映射过去的矩阵有很多0元素。正因为如此，神经网络运算过程中的稀疏性是其一大特性，而本发明就是针对卷积神经网络在运算过程中出现的稀疏性矩阵运算，提出了针对性的功耗优化方法。该方法可以有效的降低卷积神经网络电路运算过程中消耗的功耗。

发明内容

本发明要解决的技术问题，在于提供一种神经网络芯片的功耗优化方法及电路，以有效的降低卷积神经网络电路运算过程中消耗的功耗。

本发明方法是这样实现的：一种神经网络芯片的功耗优化方法，该神经网络芯片包括复数层卷积计算网络层，每个卷积计算网络层包括复数个卷积运算单元，每个卷积运算单元负责对待卷积矩阵的卷积核高度对应的一整行数据块的运算，该待卷积矩阵包括n行数据块并存储在对应的隐藏层矩阵存储单元内，所述功耗优化方法是：

步骤S1、为每个卷积计算网络层单独设置一电源域，为卷积计算网络层电源域，并连接一卷积计算网络层电源域开关控制单元；

为每个卷积运算单元单独设置一电源域，为卷积电源域，并连接一卷积单元电源域开关控制单元；

将待卷积矩阵中的数据块按行为单位，每行数据块的电源均连接一门控时钟单元，每个门控时钟单元再连接卷积单元时钟开关控制单元；

步骤S2、通过矩阵解析单元对待卷积矩阵的n行数据块进行分析，分析结果通过一功耗控制单元控制所述卷积计算网络层电源域开关控制单元、所述卷积单元电源域开关控制单元以及卷积单元时钟开关控制单元，从而控制各卷积计算网络层电源域、各卷积电源域或各门控时钟单元的开或关。

所述矩阵解析单元对待卷积矩阵的n行数据块进行分析过程是：

(1)按照卷积核的大小对待卷积矩阵进行逐行扫描，逐一判断一整行中每个数据块是否为全零，如果某个数据块为全零，则标注该数据块可以关闭时钟；

(2)在完成一整行数据块的判断后，再对该一整行中全部数据块是否整体为全零做一次判断，如果是说明可以整体关闭该一整行的时钟，则标注用于运算该一整行数据块的卷积运算单元可以关闭卷积电源域；