[发明专利]一种神经网络模型训练方法、装置、设备及存储介质

权利要求书

1.一种神经网络模型训练方法，其特征在于，包括：

获取用于训练神经网络模型的一批第一训练样本和一批第二训练样本；

将所述第一训练样本输入待训练的神经网络模型中进行处理，得到用于预测所述第一训练样本属于各类别的概率向量；

将所述第二训练样本输入待训练的神经网络模型中进行处理，得到由所述第二训练样本的特征向量组成的特征矩阵，所述第二训练样本的特征向量用于表征所述第二训练样本的属性；

基于所述概率向量计算一批所述第一训练样本的分类损失；

基于所述特征矩阵的低秩约束计算一批所述第二训练样本的正则化损失；

基于所述分类损失和所述正则化损失更新所述神经网络模型的参数。

2.根据权利要求1所述的神经网络模型训练方法，其特征在于，获取用于训练神经网络模型的一批第一训练样本和一批第二训练样本，包括：

从数据集中随机选择多个训练样本作为一批第一训练样本；

从数据集中随机选择k个类别，且每个类别随机选择m个训练样本作为一批第二训练样本。

3.根据权利要求1所述的神经网络模型训练方法，其特征在于，一批第一训练样本和一批第二训练样本为相同批次的训练样本，获取用于训练神经网络模型的一批第一训练样本和一批第二训练样本，包括：

从数据集中随机选择k个类别，且每个类别随机选择m个训练样本作为一批第一训练样本和一批第二训练样本。

4.根据权利要求1-3任一所述的神经网络模型训练方法，其特征在于，所述神经网络模型包括主干网络和头部网络，将所述第一训练样本输入待训练的神经网络模型中进行处理，得到用于预测所述第一训练样本属于各类别的概率向量，包括：

将所述第一训练样本输入所述主干网络中进行处理，得到所述第一训练样本的特征向量；

将所述第一训练样本的特征向量输入所述头部网络中进行处理，得到用于预测所述第一训练样本属于各类别的概率向量。

5.根据权利要求1-3任一所述的神经网络模型训练方法，其特征在于，基于所述概率向量计算一批所述第一训练样本的分类损失，包括：

基于所述概率向量计算所述第一训练样本的交叉熵损失；

计算各所述第一训练样本的交叉熵损失之和，得到分类损失。

6.根据权利要求1-3任一所述的神经网络模型训练方法，其特征在于，基于所述特征矩阵的低秩约束计算一批所述第二训练样本的正则化损失，包括：

计算所述特征矩阵的核范数；

计算所述核范数与所述特征矩阵的秩的差值，所述特征矩阵的秩为一批所述第二训练样本中的类别数；

基于所述差值确定一批所述第二训练样本的正则化损失。

7.根据权利要求1-3任一所述的神经网络模型训练方法，其特征在于，基于所述分类损失和所述正则化损失更新所述神经网络模型的参数，包括：

计算所述正则化损失与超参数的乘积；

计算所述乘积与所述分类损失的和，得到总损失；

在所述总损失大于损失阈值时，更新所述神经网络模型的参数，并返回执行获取用于训练神经网络模型的一批第一训练样本和一批第二训练样本的步骤；

在所述总损失小于或等于损失阈值时，确定所述神经网络模型训练完成。