[发明专利]应用于人工智能模型的测试样本的获取方法

说明书

本发明公开了一种应用于人工智能模型的测试样本的获取方法，包括：接收初始样本参数，所述初始样本参数是训练样本的各个特征的SHAP值；根据本地的各个候选样本的特征的SHAP值以及所述初始样本参数，确定每个所述候选样本与所述初始样本参数对应的训练样本之间的距离；根据每个所述候选样本对应的距离，在各个所述候选样本中确定与所述训练样本距离最近的候选样本，作为测试样本。本发明中，初始样本参数是训练样本各个特征的SHAP值，也即基于训练样本生成的SHAP值获取测试样本，无需通过训练样本本身得到测试样本，人工智能模型测试过程中也不需要通信传输测试样本，避免了个人隐私及其他敏感数据的泄密，保证了数据的安全。

技术领域

本发明涉及软件技术领域，尤其涉及一种应用于人工智能模型的测试样本的获取方法。

背景技术

对人工智能技术应用的测试，离不开数据、模型、算力和场景四要素。

区别于传统测试方法更多侧重于算力的使用和人工智能模型自身的测试，人工智能测试还需要考虑测试数据的场景覆盖度、特征贴合度、分布合理性、渠道合法性、获取便利性等诸多问题。

示例性技术中，终端直接通过测试模型的训练样本在本地得到测试样本，再通过采用测试模型对测试样本进行测试。这种测试方法需要基于测试样本进行测试，测试样本中存在一些私密等敏感信息，导致测试方法存在数据不安全以及个人隐私泄密的问题。

发明内容

本发明的主要目的在于提供一种应用于人工智能模型的测试样本的获取方法，旨在解决测试方法存在数据不安全以及个人隐私等敏感信息泄密的问题。

为实现上述目的，本发明提供一种应用于人工智能模型的测试样本的获取方法，应用于测试参与端，所述应用于人工智能模型的测试样本的获取方法包括以下步骤：

接收初始样本参数，其中，所述初始样本参数是训练样本的各个特征的SHAP值；

根据本地的各个候选样本的特征的SHAP值以及所述初始样本参数，确定每个所述候选样本与所述初始样本参数对应的训练样本之间的距离；

根据每个所述候选样本对应的距离，在各个所述候选样本中确定与所述训练样本距离最近的候选样本，作为测试样本。

在一实施例中，所述根据每个所述候选样本对应的距离，在各个所述候选样本中确定与所述训练样本距离最近的候选样本，作为测试样本的步骤之后，还包括：

确定所述测试样本是否满足设定条件；

在所述测试样本不满足设定条件时，根据所述测试样本的各个特征的SHAP值对初始样本参数进行更新；

返回执行所述根据本地的各个候选样本的特征的SHAP值以及所述初始样本参数，确定每个所述候选样本与所述初始样本参数对应的训练样本之间的距离的步骤。

在一实施例中，所述根据所述测试样本的各个特征的SHAP值对初始样本参数进行更新的步骤包括：

根据所述测试样本的各个特征的SHAP值以及所述初始样本数据，确定所述测试样本的每个所述特征对应的SHAP均值；

将每个所述SHAP均值均确定为更新后初始样本参数。

在一实施例中，所述设定条件包括以下至少一种：

所述测试样本的总数量大于或等于第一预设数量；

剩下的所述候选样本的数量小于第二预设数量；

所述测试样本的M个特征的SHAP值均小于门限值。

在一实施例中，所述根据每个所述候选样本对应的距离，在各个所述候选样本中确定与所述训练样本距离最近的候选样本，作为测试样本的步骤之后，还包括