[发明专利]分类模型信息输出方法及装置

说明书

本说明书实施例提供一种分类模型信息输出方法及装置，在信息输出方法中，获取分类模型的样本集。对于样本集中任意的第一样本，将第一样本输入分类模型，得到第一样本对应于各预定类别的多个原始概率。根据多个原始概率以及预定阈值，确定第一样本的分类结果。通过随机算法，基于预定阈值对多个原始概率进行转换，得到多个原始概率分别对应的多个随机化概率。该随机算法使得基于多个原始概率确定的分类结果与基于多个随机化概率确定的分类结果相同。输出第一样本的分类结果以及多个随机化概率。

技术领域

本说明书一个或多个实施例涉及计算机技术领域，尤其涉及一种分类模型信息输出方法及装置。

背景技术

随着机器学习和人工智能的迅猛发展，当今很多领域都开始应用机器学习的技术，以解决许多传统算法面临的难题。然而，机器学习，特别是深度学习，由于其不可解释性，使得模型的准确率和召回率依赖于数据(样本)的数量和质量。现实场景中，使用海量样本会使得训练时间变得不能接受，而且也无法找到如此多高质量的数据源。而使用有限样本生成的特定的学习模型，又容易被针对性生成的特定对抗样本攻击。

发明内容

本说明书一个或多个实施例描述了一种分类模型信息输出方法及装置，可以保障分类模型的安全性。

第一方面，提供了一种分类模型信息输出方法，包括：

获取分类模型的样本集；

对于所述样本集中任意的第一样本，将所述第一样本输入所述分类模型，得到所述第一样本对应于各预定类别的多个原始概率；

根据所述多个原始概率以及预定阈值，确定所述第一样本的分类结果；

通过随机算法，基于所述预定阈值对所述多个原始概率进行转换，得到所述多个原始概率分别对应的多个随机化概率；所述随机算法使得基于所述多个原始概率确定的分类结果与基于所述多个随机化概率确定的分类结果相同；

输出所述第一样本的分类结果以及多个随机化概率。

第二方面，提供了一种分类模型信息输出装置，包括：

获取单元，用于获取分类模型的样本集；

输入单元，用于对于所述获取单元获取的所述样本集中任意的第一样本，将所述第一样本输入所述分类模型，得到所述第一样本对应于各预定类别的多个原始概率；

确定单元，用于根据所述多个原始概率以及预定阈值，确定所述第一样本的分类结果；

转换单元，用于通过随机算法，基于所述预定阈值对所述多个原始概率进行转换，得到所述多个原始概率分别对应的多个随机化概率；所述随机算法使得基于所述多个原始概率确定的分类结果与基于所述多个随机化概率确定的分类结果相同；

输出单元，用于输出所述确定单元确定的所述第一样本的分类结果以及所述转换单元转换的多个随机化概率。

第三方面，提供了一种计算机存储介质，其上存储有计算机程序，当所述计算机程序在计算机中执行时，令计算机执行第一方面的方法。

第四方面，提供了一种计算设备，包括存储器和处理器，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现第一方面的方法。