[发明专利]一种卷积网络训练方法和装置

权利要求书

1.一种卷积网络训练方法，其特征在于，包括：

对于每批小批训练图片mini-batch，在利用深度卷积网络，提取其中每张图片的特征向量后，根据所述特征向量，计算相应的损失值，并基于扩散原则确定相应的扩散性损失值；

根据所述扩散性损失值对所述损失值进行修正，根据所述修正的结果，对所述深度卷积网络的参数进行反向传播调整，完成本次小批训练图片的训练。

2.根据权利要求1所述的方法，其特征在于，所述基于扩散原则确定相应的扩散性损失值包括：

对于当前所述mini-batch的训练样本对应的每一类c，根据本mini-batch对应的第c类特征向量，对当前的第c类特征向量的均值进行更新，其中c为类的编号；

计算中心矩阵M，M的每个元素为M(c,j)，M(c,j)为第c类的特征向量的均值和第j类的特征向量的均值组成的线段中点其中j为不同于c的类的编号；

计算距离矩阵D，D的每个元素为D(c,j)，D(c,j)为其中

计算扩散性损失值loss_σ，其中其中β为比例函数，取值范围为(0-1)的实数；K为类的数目；i为当前所述mini-batch中参与训练的第c类的样本编号；N_C为当前所述mini-batch中参与训练的第c类的特征向量的数目；为当前所述mini-batch中第c类的第i个特征向量；‖*‖₂表示其中的向量*的2范数，max()表示在向量所有维度上分别执行取较大值为结果的操作。

3.根据权利要求2所述的方法，其特征在于，对当前的所述第c类特征向量的均值进行更新包括：

如果当前所述为初始值0，则将所述更新为当前所述mini-batch中参与训练的第c类特征向量的均值；

如果当前所述不为初始值0，则按照得到更新后的其中，为当前所述mini-batch中参与训练的第c类特征向量的均值，α为预设的权重系数；0≤α≤1；等式右侧的为更新前的第c类特征向量的均值，等式左侧的为更新后的第c类特征向量的均值。

4.根据权利要求1-3中任一项所述的方法，其特征在于，所述根据所述扩散性损失值对所述损失值进行修正包括：

按照loss′＝loss+loss_σ，对所述损失值loss进行修正，得到修正后的损失值loss′，其中loss_σ为所述扩散性损失值。

5.一种卷积网络训练装置，其特征在于，包括：

第一单元，用于对于每批小批训练图片mini-batch，在利用深度卷积网络，提取其中每张图片的特征向量后，根据所述特征向量，计算相应的损失值，并基于扩散原则确定相应的扩散性损失值；

第二单元，用于根据所述扩散性损失值对所述损失值进行修正，根据所述修正的结果，对所述深度卷积网络的参数进行反向传播调整，完成本次小批训练图片的训练。

6.根据权利要求5所述的装置，其特征在于，

所述第一单元，用于对于当前所述mini-batch的训练样本对应的每一类c，根据本mini-batch对应的第c类特征向量，对当前的第c类特征向量的均值进行更新，其中c为类的编号；计算中心矩阵M，M的每个元素为M(c,j)，M(c,j)为第c类的特征向量的均值和第j类的特征向量的均值组成的线段中点其中j为不同于c的类的编号；计算距离矩阵D，D的每个元素为D(c,j)，D(c,j)为其中计算扩散性损失值loss_σ，其中

其中β为比例函数，取值范围为(0-1)的实数；K为类的数目；i为当前所述mini-batch中参与训练的第c类的样本编号；N_C为当前所述mini-batch中参与训练的第c类的特征向量的数目；为当前所述mini-batch中第c类的第i个特征向量；‖*‖₂表示其中的向量*的2范数，max()表示在向量所有维度上分别执行取较大值为结果的操作。