[发明专利]神经网络中的卷积计算方法和电子设备

说明书

公开了一种神经网络中的卷积计算方法，包括：根据输入特征图、逐层卷积核、和逐点卷积核进行逐层卷积计算和逐点卷积计算，以得到第一预定数目p个点在所有逐点卷积输出通道上的输出特征值；以及重复上述操作，以得到所有点在所有逐点卷积输出通道上的输出特征值。因此，可以减小用于存储中间结果的存储空间。

技术领域

本申请涉及神经网络技术领域，且更具体地，涉及一种神经网络中的卷积计算方法和电子设备。

背景技术

基于卷积神经网络的深度学习技术能够以较高的准确率进行图像识别和检测、语音识别等，因此被广泛地应用于安全监控、辅助驾驶、智能陪伴机器人、智能医疗等领域。

由于卷积神经网络中的运算量通常很大，减少神经网络的参数量和计算量成为现在研究的一个热点方向。移动网络(MobileNet)就是最新提出的一种特殊的卷积神经网络，其通过将传统的三维卷积操作分解成逐层卷积(Depthwise)和逐点卷积(Pointwise)两个卷积操作，达到减小计算量的目的，但是计算精度却和传统的卷积相差很少。

发明内容

关于MobileNet的现有实现方案，无论是基于通用处理器(CPU)，专用图形处理器(GPU)，还是专用处理芯片，都需要先计算完逐层卷积操作的输出结果，然后再将它们作为逐点卷积操作的输入数据，再进行计算。

这样做的缺点是，当输入输出数据量比较大时，需要较大的片内随机存储器(SRAM)缓存中间结果。然而，片内SRAM大小是固定的，如果遇到片内SRAM大小不足以缓存中间结果的情况，就需要将逐层卷积操作拆分为多次计算，并将每次计算结果写入到片外存储器(DDR)中，直到将逐层卷积操作的计算结果全部计算完成并写入片外存储器(DDR)后，再分批将这些结果从DDR中读出，进行逐点卷积计算。显然，这将给有限的数据传输带宽带来极大的负担，并且导致系统功耗增加。

为了解决上述技术问题，提出了本申请。本申请的实施例提供了一种神经网络中的卷积计算方法和电子设备，其可以减小用于存储中间结果的存储空间。

根据本申请的一个方面，提供了一种神经网络中的卷积计算方法，包括：根据输入特征图、逐层卷积核、和逐点卷积核进行逐层卷积计算和逐点卷积计算，以得到第一预定数目p个点在所有逐点卷积输出通道上的输出特征值；以及重复上述操作，以得到所有点在所有逐点卷积输出通道上的输出特征值。

在一个实施例中，根据输入特征图、逐层卷积核、和逐点卷积核进行逐层卷积计算和逐点卷积计算，以得到第一预定数目p个点在所有逐点卷积输出通道上的输出特征值包括：根据输入特征图和逐层卷积核进行逐层卷积计算，以得到第一预定数目p个点在所有逐层卷积输出通道上的中间特征值；以及根据所述第一预定数目p个点在所有逐层卷积输出通道上的中间特征值和逐点卷积核进行逐点卷积计算，以得到第一预定数目p个点在所有逐点卷积输出通道上的输出特征值。

在一个实施例中，根据输入特征图、逐层卷积核、和逐点卷积核进行逐层卷积计算和逐点卷积计算，以得到第一预定数目p个点在所有逐点卷积输出通道上的输出特征值包括：根据所述输入特征图和所述逐层卷积核进行逐层卷积计算，以得到第一预定数目p个点在第二预定数目m个逐层卷积输出通道上的中间特征值；根据所述第一预定数目p个点在所述第二预定数目m个逐层卷积输出通道上的中间特征值和逐点卷积核进行逐点卷积计算，以得到第一预定数目p个点在所有逐点卷积输出通道上的本次逐点卷积部分和；分别将所述第一预定数目p个点在所有逐点卷积输出通道上的本次逐点卷积部分和与所述第一预定数目p个点的前次累加计算结果进行累加计算，以生成所述第一预定数目p个点的本次累加计算结果；以及重复上述操作，根据所述第一预定数目p个点在下第二预定数目m个逐层卷积输出通道上的中间特征值和逐点卷积核进行逐点卷积计算，并相应地执行后续操作，直到所述第一预定数目p个点在所有逐层卷积输出通道上的中间特征值都完成逐点卷积计算和累加计算为止，所述第一预定数目p个点的最终累加计算结果为所述第一预定数目p个点在所有逐点卷积输出通道上的输出特征值。