[发明专利]深度神经网络中的网络层运算方法及装置

权利要求书

1.一种深度神经网络中的网络层运算方法，其特征在于，所述方法包括：

获取深度神经网络中网络层的权值张量，其中，所述权值张量包括多个滤波器；

针对所述网络层的各滤波器，将该滤波器拆分为多个定点卷积核的线性组合，其中，各所述定点卷积核中的权值为具有指定位宽的定点量化值；

针对所述网络层的各滤波器，将所述网络层的输入数据与该滤波器的各定点卷积核分别进行卷积运算，得到多个卷积结果，并根据该滤波器的多个定点卷积核的线性组合方式，将各卷积结果加权求和，得到该滤波器的运算结果；

确定各滤波器的运算结果组成所述网络层的输出数据。

2.根据权利要求1所述的方法，其特征在于，在所述针对所述网络层的各滤波器，将该滤波器拆分为多个定点卷积核的线性组合之前，所述方法还包括：

根据所述深度神经网络的预设应用精度，确定预设量化比特数；

所述针对所述网络层的各滤波器，将该滤波器拆分为多个定点卷积核的线性组合，包括：

针对所述网络层的各滤波器，根据所述预设量化比特数，将该滤波器拆分为多个定点卷积核的线性组合，其中，各所述定点卷积核对应的指定位宽之和等于所述预设量化比特数。

3.根据权利要求1或2所述的方法，其特征在于，所述网络层包括卷积层，所述卷积层的权值张量的大小为S×S×I×O；

所述针对所述网络层的各滤波器，将该滤波器拆分为多个定点卷积核的线性组合，包括：

针对所述卷积层的各滤波器，按照预设拆分公式，将该滤波器拆分为多个定点卷积核的线性组合，其中，所述预设拆分公式为：

所述wⁱ为所述卷积层的第i个滤波器，所述i∈[1,O]，所述p为对所述滤波器wⁱ拆分后得到的定点卷积核的数量，所述α_j为第j个定点卷积核的预设线性加权系数，所述t_j为第j个定点卷积核，所述t_j的大小为S×S×I，所述B为预设量化比特数，所述b_j为第j个定点卷积核对应的指定位宽。

4.根据权利要求3所述的方法，其特征在于，所述根据该滤波器的多个定点卷积核的线性组合方式，将各卷积结果加权求和，得到该滤波器的运算结果，包括：

针对所述卷积层的各滤波器，按照该滤波器的各定点卷积核的预设线性加权系数，对各定点卷积核的卷积结果进行加权，并将各加权后的卷积结果相加，得到该滤波器的运算结果。

5.根据权利要求1或2所述的方法，其特征在于，所述网络层包括全连接层，所述全连接层的权值张量的大小为M×N，所述全连接层的各滤波器为大小为1×N的各向量；

所述针对所述网络层的各滤波器，将该滤波器拆分为多个定点卷积核的线性组合，包括：

针对所述全连接层的大小为1×N的各向量，按照预设拆分公式，将该向量拆分为多个定点卷积核的线性组合，其中，所述预设拆分公式为：

所述v^x为所述全连接层的第x个大小为1×N的向量，所述x∈[1,M]，所述q为对所述向量v^x拆分后得到的定点卷积核的数量，所述β_y为第y个定点卷积核的预设线性加权系数，所述t_y为第y个定点卷积核，所述t_y的大小为1×N，所述B为预设量化比特数，所述b_y为第y个定点卷积核对应的指定位宽。

6.根据权利要求5所述的方法，其特征在于，所述根据该滤波器的多个定点卷积核的线性组合方式，将各卷积结果加权求和，得到该滤波器的运算结果，包括：

针对所述全连接层的大小为1×N的各向量，根据该向量的各定点卷积核的预设线性加权系数，对各定点卷积核的卷积结果进行加权，并将各加权后的卷积结果相加，得到该向量的运算结果。