[发明专利]基于Winograd卷积的并行深度卷积神经网络优化方法

权利要求书

1.一种基于Winograd卷积的并行深度卷积神经网络优化方法，其特征在于，包括：

S1，模型批训练阶段，采用基于余弦相似度与归一化互信息的特征过滤策略FF-CSNMI，通过先筛选后融合的方式消除冗余特征的计算；

S2，参数并行更新阶段，采用并行Winograd卷积策略MR-PWC，通过使用并行化Winograd卷积降低大数据环境下卷积的计算量；

S3，参数组合阶段，采用基于任务迁移的负载均衡策略LB-TM，通过均衡各节点之间的负载降低并行系统各节点的平均反应时长。

2.根据权利要求1所述的一种基于Winograd卷积的并行深度卷积神经网络优化方法，其特征在于，所述基于余弦相似度与归一化互信息的特征过滤策略FF-CSNMI包括：

S1-1，特征划分：采用基于余弦相似度的特征相似度度量系数FSM，通过比较特征相似度度量系数FSM的大小将卷积层的输入特征图划分为表征特征集P与冗余特征集R两部分；

S1-2，特征过滤：采用基于归一化互信息的特征关联系数FAC，根据表征特征集P中各特征图的FAC值的大小，从表征特征集P中迭代过滤出冗余特征并纳入到冗余特征集R中，以此构建出最终的冗余特征集R；

S1-3，特征融合：在筛选出最终的冗余特征集R之后，先使用特征融合函数F(Z)融合冗余特征集R中的冗余特征，获得融合特征集G，再通过合并融合特征集G与表征特征集P，构建出下一层的输入特征图。

3.根据权利要求2所述的一种基于Winograd卷积的并行深度卷积神经网络优化方法，其特征在于，所述特征相似度度量系数FSM包括：

已知特征图X与均值特征图E的向量表达形式分别为X与E，则特征图X相对于均值特征图E的特征相似度度量系数FSM为：

FSM＝SIM(X,E)*||norm(X-E)|| (1)

其中，

SIM(X,E)表示X与E的余弦相似度；

||·||表示向量的一阶范数；

max(X-E)表示X-E矩阵中的最大值；

min(X-E)表示X-E矩阵中的最小值。

4.根据权利要求2所述的一种基于Winograd卷积的并行深度卷积神经网络优化方法，其特征在于，所述特征关联系数FAC包括：

已知有特征图X与均值特征图E，且特征图X相对于均值特征图E的特征相似度度量系数FSM，则特征图X相对于均值特征图E的特征关联系数FAC为：

FAC＝NMI(X,E)*FSM (4)

其中，

H(X)为特征图X的信息熵；

H(E)为特征图E的信息熵；

H(X,E)为特征图X和特征图E的联合熵。