[发明专利]训练模型的方法及装置

权利要求书

1.一种训练模型的方法，包括：

基于企业通用数据和所述企业通用数据的标签数据训练教师模型；

将企业特色数据输入所述教师模型，得到第一预测结果；

将所述企业特色数据输入学生模型，得到第二预测结果；

根据所述第一预测结果和所述第二预测结果，计算知识蒸馏损失；

根据所述企业特色数据的标签数据和所述第二预测结果，计算所述学生模型的预测损失；

根据所述知识蒸馏损失和所述预测损失，更新所述学生模型。

2.根据权利要求1所述的方法，在所述基于企业通用数据和所述企业通用数据的标签数据训练教师模型之前，所述方法还包括：

从区块链获取多个场景下的企业通用数据和/或企业特色数据，作为所述教师模型和所述学生模型的训练数据。

3.根据权利要求1所述的方法，所述知识蒸馏损失和所述预测损失均为交叉熵损失，所述根据所述知识蒸馏损失和所述预测损失，更新所述学生模型，包括：

对所述知识蒸馏损失和所述预测损失进行加权求和，得到目标损失；

根据所述目标损失，更新所述学生模型。

4.根据权利要求1所述的方法，所述教师模型和/或所述学生模型的训练数据还包括企业画像数据。

5.根据权利要求1所述的方法，所述教师模型和/或所述学生模型用于对企业进行风险预测。

6.一种训练模型的装置，包括：

第一训练单元，被配置为基于企业通用数据和所述企业通用数据的标签数据训练教师模型；

第一输入单元，被配置为将企业特色数据输入所述教师模型，得到第一预测结果；

第二输入单元，被配置为将所述企业特色数据输入学生模型，得到第二预测结果；

第一计算单元，被配置为根据所述第一预测结果和所述第二预测结果，计算知识蒸馏损失；

第二计算单元，被配置为根据所述企业特色数据的标签数据和所述第二预测结果，计算所述学生模型的预测损失；

更新单元，被配置为根据所述知识蒸馏损失和所述预测损失，更新所述学生模型。

7.根据权利要求6所述的装置，所述装置还包括：

获取单元，被配置为在所述基于企业通用数据和所述企业通用数据的标签数据训练教师模型之前，从区块链获取多个场景下的企业通用数据和/或企业特色数据，作为所述教师模型和所述学生模型的训练数据。

8.根据权利要求6所述的装置，所述知识蒸馏损失和所述预测损失均为交叉熵损失，所述更新单元进一步被配置为：

对所述知识蒸馏损失和所述预测损失进行加权求和，得到目标损失；

根据所述目标损失，更新所述学生模型。

9.根据权利要求6所述的装置，所述教师模型和/或所述学生模型的训练数据还包括企业画像数据。

10.根据权利要求6所述的装置，所述教师模型和/或所述学生模型用于对企业进行风险预测。

11.一种训练装置，包括存储器及处理器，所述存储器中存储有可执行代码，所述处理器被配置为执行所述可执行代码，以实现权利要求1-5中任一项所述的方法。