[发明专利]分类模型预测结果的处理方法、装置、设备和存储介质

说明书

本申请公开了分类模型预测结果的处理方法、装置、设备和存储介质，涉及计算机技术中的人工智能、机器学习、大数据技术。具体实现方案为：通过基于密文的分类预测结果，密文的类别标签数据及统计信息，进行密文计算，得到分类预测结果的密文的指标信息，计算参与方无需获取分类预测结果、类别标签数据、统计信息的明文，基于密文的分类预测结果、类别标签数据和统计信息，进行密文计算即可完成指标信息的计算，指标信息的计算过程中不会对密文的分类预测结果、类别标签数据和统计信息进行解密，不会泄露这些数据，能够在保证分类预测结果、分类标签数据及统计信息不被泄露的前提下，计算得到模型的评估指标信息，提高数据安全性。

技术领域

本申请涉及计算机技术中的人工智能、机器学习、大数据技术，尤其涉及一种分类模型预测结果的处理方法、装置、设备和存储介质。

背景技术

机器学习普遍应用到金融、医疗等多个领域，机器学习之所以能在各个领域取得较好效果，除了相关技术的飞跃发展和硬件计算能力的快速提升，也离不开数据的爆炸式增长。但是，集中收集用户数据进行模型训练，也存在极大的隐私和安全隐患。为了在满足用户隐私保护、数据安全和相关法规要求的情况下，进行多机构数据联合分析/建模，基于安全多方计算技术的联邦学习技术应运而生。

在机器学习中通常需要评估训练得到的模型的acc(accuracy，准确率)，f1 score(F1分数)等指标，以评估模型训练的效果。在联邦学习过程中，也需要进行模型评估，并且模型预测结果和测试集的标签也是联邦学习中需要保护的数据。

现有技术中，在联邦学习过程中，通常基于模型预测结果的明文结合测试集标签，直接通过明文计算，确定评估指标，泄露了模型在测试集上的预测结果，如果模型指标计算方不是测试集标签的持方，还会泄露测试集的标签。

发明内容

本申请提供了一种分类模型预测结果的处理方法、装置、设备和存储介质。

根据本申请的一方面，提供了一种分类模型预测结果的处理方法，包括：

将样本数据输入目标分类模型，获取密文的分类预测结果；

获取所述样本数据对应的类别标签数据，以及所述类别标签数据的统计信息，所述类别标签数据和统计信息均为密文；

根据所述分类预测结果、类别标签数据和统计信息进行密文计算，得到所述分类预测结果的密文的指标信息。

根据本申请的另一方面，提供了一种分类模型预测结果的处理装置，包括：

分类预测模块，用于将样本数据输入目标分类模型，获取密文的分类预测结果；

数据获取模块，用于获取所述样本数据对应的类别标签数据，以及所述类别标签数据的统计信息，所述类别标签数据和统计信息均为密文；

指标确定模块，用于根据所述分类预测结果、类别标签数据和统计信息进行密文计算，得到所述分类预测结果的密文的指标信息。

根据本申请的另一方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述所述的方法。

根据本申请的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行上述所述的方法。

根据本申请的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现上述任一项所述的方法。

根据本申请的技术提高了模型评估指标计算过程中数据的安全性。