[发明专利]基于时间域存内计算的神经网络加速器及加速方法

权利要求书

1.一种基于时间域存内计算的神经网络加速器，其特征在于，包括：主控制器，权重存储单元，激活值存储单元，子卷积核生成器，脉冲量化器和互补双模预测器；

所述主控制器用于向权重存储单元写入量化权重，以及向激活值存储单元写入激活值；

所述权重存储单元用于将所述量化权重发送至子卷积核生成器；

所述激活值存储单元用于根据所述激活值向时间域存内计算模块发送特征图信息；

所述子卷积核生成器用于接收权重存储单元发送的量化权重，根据预设高低位交叉翻转编码表对所述量化权重进行按位比较，根据按位比较的结果生成多个子卷积核，将生成的多个子卷积核发送至时间域存内计算模块；

所述脉冲量化器用于接收时间域存内计算模块根据特征图信息和多个子卷积核进行计算的结果，以及根据预设的权重阈值和子卷积结果阈值对时间域存内计算模块计算的结果进行量化；

所述互补双模预测器用于接收脉冲量化器量化后的结果，对量化后的结果进行排序后根据设定预测模式下的预测结果确定是否提前终止计算；

所述预测模式包括：当前累加值预测模式和假设极值预测；

所述互补双模预测器进一步用于：在当前累加值预测模式下，先计算正权重后计算负权重，若累加值小于设定阈值，则提前终止计算；在假设极值预测下，先计算负权重后计算正权重，将所有激活值的总和减去当前激活值，将得到的差值与剩余的最大正权重相乘得到余下结果的预测最大值，若所述预测最大值与当前累加值相加的结果依旧小于阈值，则提前终止计算。

2.如权利要求1所述的基于时间域存内计算的神经网络加速器，其特征在于，所述子卷积核生成器进一步用于：

根据预设高低位交叉翻转编码表，将待比较的量化权重与单权重计算中待生成的子卷积核对应的权重进行按位比较；

将按位比较的结果进行与操作和或非操作；

根据与操作和或非操作后的结果生成多个子卷积核。

3.如权利要求1所述的基于时间域存内计算的神经网络加速器，其特征在于，所述脉冲量化器进一步用于：

根据预设的权重阈值和子卷积结果阈值，确定量化脉冲宽度；

根据所述量化脉冲宽度，对时间域存内计算模块计算的结果进行量化。

4.一种利用权利要求1-3任一所述的神经网络加速器进行基于时间域存内计算的神经网络加速的方法，其特征在于，包括：

主控制器向权重存储单元写入量化权重，向激活值存储单元写入激活值；

权重存储单元将所述量化权重发送至子卷积核生成器；

激活值存储单元根据所述激活值向时间域存内计算模块发送特征图信息；

子卷积核生成器接收权重存储单元发送的量化权重，根据预设高低位交叉翻转编码表对所述量化权重进行按位比较，根据按位比较的结果生成多个子卷积核，将生成的多个子卷积核发送至时间域存内计算模块；

脉冲量化器接收时间域存内计算模块根据特征图信息和多个子卷积核进行计算的结果，根据预设的权重阈值和子卷积结果阈值对时间域存内计算模块计算的结果进行量化；

互补双模预测器接收脉冲量化器量化后的结果，对量化后的结果进行排序后根据设定预测模式下的预测结果确定是否提前终止计算；

所述预测模式包括：当前累加值预测模式和假设极值预测；

所述根据设定预测模式下的预测结果确定是否提前终止计算，包括：在当前累加值预测模式下，先计算正权重后计算负权重，若累加值小于设定阈值，则提前终止计算；在假设极值预测下，先计算负权重后计算正权重，将所有激活值的总和减去当前激活值，将得到的差值与剩余的最大正权重相乘得到余下结果的预测最大值，若所述预测最大值与当前累加值相加的结果依旧小于阈值，则提前终止计算。

5.如权利要求4所述的方法，其特征在于，根据预设高低位交叉翻转编码表对所述量化权重进行按位比较，根据按位比较的结果生成多个子卷积核，包括：

根据预设高低位交叉翻转编码表，将待比较的量化权重与单权重计算中待生成的子卷积核对应的权重进行按位比较；

将按位比较的结果进行与操作和或非操作；

根据与操作和或非操作后的结果生成多个子卷积核。