[发明专利]基于块项张量分解的深度神经网络压缩方法

权利要求书

1.一种基于块项张量分解的深度神经网络压缩方法，其特征在于，包括以下步骤：

A、获取用于图像分类的深度神经网络框架；

B、将深度神经网络的全连接层中的权重矩阵W和输入向量x分别转化为高阶张量W和高阶张量X；

C、对步骤B中的高阶张量W进行块项张量分解处理；具体为：对高阶张量W的维度进行重新排列，使得行维度和列维度对应的输入和输出以成对形式耦合排列，再将高阶张量W分解为若干个塔克分解的和；

D、根据步骤B中的高阶张量X和步骤C中块项张量分解后的高阶张量W将深度神经网络的全连接层替换为块项张量层；具体为：将高阶张量X和块项张量分解后的高阶张量W相乘，替换深度神经网络的全连接层为块项张量层；

E、采用后向传播算法对小型终端中替换后的深度神经网络在数据集上进行训练。

2.如权利要求1所述的基于块项张量分解的深度神经网络压缩方法，其特征在于，所述步骤B中将深度神经网络的全连接层中的权重矩阵W转化为高阶张量W具体为：将权重矩阵W的行维度和列维度进行均匀分割，表示为层次分块矩阵形式，再将分割后的权重矩阵W转化为高阶张量W。

3.如权利要求1或2所述的基于块项张量分解的深度神经网络压缩方法，其特征在于，所述步骤B中将深度神经网络的全连接层中的输入向量x转化为高阶张量X具体为：将输入向量x的维度表示为张量形式，再转化为高阶张量X。

4.如权利要求3所述的基于块项张量分解的深度神经网络压缩方法，其特征在于，所述高阶张量W进行块项张量分解后的维度与高阶张量X的维度相等。

5.如权利要求4所述的基于块项张量分解的深度神经网络压缩方法，其特征在于，所述块项张量层将节点作为权重，边作为数据及其维度大小。