[发明专利]一种深度学习模型的训练方法及装置

权利要求书

1.一种深度学习模型的训练方法，其特征在于，所述方法包括：

利用训练样本集中的各个样本，对预先构建的初始深度学习模型进行训练，得到中间深度学习模型；其中，所述初始深度学习模型为：加载有分类目标函数的深度学习模型；

利用所述中间深度学习模型，计算所述训练样本集中各个样本的特征向量，并根据所述训练样本集中各个样本的特征向量，计算中心点距离目标函数的中间参数的初始值；

将所述中心点距离目标函数添加到所述中间深度学习模型中并加载所述中间参数的初始值，得到目标深度学习模型；

导入所述训练样本集中的预设数量个样本作为批次数据；

利用当前目标深度学习模型，计算当前批次数据中各个样本的特征向量，并根据当前批次数据中各个样本的特征向量，更新所述中间参数的参数值；

基于当前批次数据中各个样本的特征向量，计算所述中心点距离目标函数的函数值和所述分类目标函数的函数值，并判断计算得到的中心点距离目标函数的函数值是否收敛到第一预定区间，且计算得到的分类目标函数的函数值是否收敛到第二预定区间；

如果否，利用所述中心点距离目标函数的反向传播梯度和所述分类目标函数的反向传播梯度，调整当前目标深度学习模型的参数，并返回执行所述导入所述训练样本集中的预设数量个样本作为批次数据的步骤；

如果是，结束对所述当前目标深度学习模型的训练。

2.根据权利要求1所述的方法，其特征在于，所述中心点距离目标函数的中间参数包括：各个类别的中心点、每一类别中的各个样本与该类别的中心点的偏差和、每一类别中的各个样本与该类别的中心点的距离的平方和；

所述根据所述训练样本集中各个样本的特征向量，计算中心点距离目标函数的中间参数的初始值的步骤，包括：

根据以下公式，计算各个类别的中心点：

其中，c_j表示类别j的中心点，x_i表示利用所述中间深度学习模型计算的所述训练样本集中第i个样本的特征向量，y_i表示第i个样本的类别标签，N表示所述训练样本集中样本的数量，n_j表示在所述训练样本集中类别j所包含的样本的数量，σ(y_i,j)是类别指示函数，且

根据以下公式，计算每一类别中的各个样本与该类别的中心点的偏差和：

其中，β_j表示类别j中各个样本与该类别的中心点的偏差和，表示第i个样本所属类别的中心点；

根据以下公式，计算每一类别中的各个样本与该类别的中心点的距离的平方和：

其中，δ_j表示类别j中各个样本与该类别的中心点的距离的平方和。

3.根据权利要求2所述的方法，其特征在于，所述根据当前批次数据中各个样本的特征向量，更新所述中间参数的参数值的步骤，包括：

根据以下公式，更新各个类别的中心点：

其中，c_j、分别表示更新前、后的类别j的中心点，表示利用当前目标深度学习模型计算的所述训练样本集中第i个样本的特征向量，p表示所述当前批次数据中的样本；

根据以下公式，更新每一类别中的各个样本与该类别的中心点的偏差和：

其中，β_j、分别表示更新前、后的类别j中的各个样本与该类别的中心点的偏差和，分别表示更新前、后第i个样本所属类别的中心点；

根据以下公式，更新每一类别中的各个样本与该类别的中心点的距离的平方和：

其中，δ_j、分别表示更新前、后的类别j中的各个样本与该类别的中心点的距离的平方和，表示第i个样本所属类别的中心点的偏移量，且Δ^Tc_j表示Δc_j的转置。

4.根据权利要求1所述的方法，其特征在于，所述中心点距离目标函数为：

其中，K表示所述训练样本集中样本的类别数量，δ_j表示类别j中各个样本与该类别的中心点的距离的平方和。