[发明专利]基于一致性正则化的模型、训练方法和装置

权利要求书

1.一种基于一致性正则化的模型，其特征在于，预先设置已标记数据和未标记数据，所述模型包括：第一神经网络、第二神经网络和第三神经网络；

所述第一神经网络以所述已标记数据和所述未标记数据为输入；

所述第二神经网络以所述已标记数据为输入；

所述第三神经网络以所述未标记数据为输入，所述第三神经网络各神经元的权重参数根据第一神经网络中所述未标记数据对应各神经元的权重参数得到。

2.一种基于一致性正则化的模型的训练方法，应用于权利要求1所述的模型，其特征在于，包括：

基于所述已标记数据对应的所述第一神经网络的输出数据，得到第一损失函数；

基于所述已标记数据对应的所述第一神经网络和所述第二神经网络的输出数据得到第二损失函数；

基于所述未标记数据对应的所述第一神经网络和所述第三神经网络的输出数据得到第三损失函数；

根据所述第一损失函数、所述第二损失函数和所述第三损失函数，更新所述第一神经网络的损失函数。

3.根据权利要求2所述的方法，其特征在于，

所述基于所述已标记数据对应的所述第一神经网络和所述第二神经网络的输出数据得到第二损失函数，包括：

所述第一神经网络以所述已标记数据为输入，得到第一输出数据；

所述第二神经网络以所述已标记数据为输入，得到第二输出数据；

针对所述第一输出数据和所述第二输出数据进行一致性约束，得到所述第二损失函数。

4.根据权利要求3所述的方法，其特征在于，

所述第二输出数据包括多个子数据；

在所述进行一致性约束之前，所述方法还包括：

利用已标记的准确数据，确定各所述子数据的可信度；

分别判断各所述子数据的可信度是否大于预设值；

所述针对所述第一输出数据和所述第二输出数据进行一致性约束，包括：

针对所述可信度大于所述预设值的子数据和所述第一输出数据进行一致性约束。

5.根据权利要求3所述的方法，其特征在于，在所述得到第二输出数据之后，所述方法还包括：

基于所述第二输出数据和已标记的准确数据，确定所述第四损失函数；

根据所述第四损失函数和所述第二损失函数，更新所述第二神经网络的损失函数。

6.根据权利要求2所述的方法，其特征在于，

所述基于所述未标记数据对应的所述第一神经网络和所述第三神经网络的输出数据得到第三损失函数，包括：

所述第一神经网络以所述未标记数据为输入，得到第三输出数据；

所述第三神经网络以所述未标记数据为输入，得到第四输出数据；

针对所述第三输出数据和所述第四输出数据进行一致性约束，得到所述第三损失函数。

7.根据权利要求2所述的方法，其特征在于，

所述基于所述已标记数据对应的所述第一神经网络的输出数据，得到第一损失函数，包括：

所述第一神经网络以所述已标记数据为输入，得到第一输出数据；

基于所述第一输出数据和已标记的准确数据，确定所述第一损失函数。

8.一种基于一致性正则化的模型训练装置，其特征在于，包括：第一损失函数确定模块、第二损失函数确定、第三损失函数确定模块和第四损失函数确定模块；

所述第一损失函数确定模块用于基于所述已标记数据对应的所述第一神经网络的输出数据，得到第一损失函数；

所述第二损失函数确定模块用于基于所述已标记数据对应的所述第一神经网络和所述第二神经网络的输出数据得到第二损失函数；

所述第三损失函数确定模块用于基于所述未标记数据对应的所述第一神经网络和所述第三神经网络的输出数据得到第三损失函数；

所述第四损失函数确定模块用于根据所述第一损失函数、所述第二损失函数和所述第三损失函数，更新所述第一神经网络的损失函数。