[发明专利]一种调整模型的方法、装置、存储介质及电子设备

权利要求书

1.一种调整模型的方法，所述方法包括：

获取目标模型；

采用预设的第一模型评估方式，确定所述目标模型的安全参数，并根据所述安全参数，对所述目标模型进行调整；其中

所述第一模型评估方式通过以下步骤执行：

将各输入数据输入到所述目标模型中，得到各输出结果；

根据包含有隐私数据的输出结果，确定所述安全参数。

2.如权利要求1所述的方法，根据包含有隐私数据的输出结果，确定所述安全参数，具体包括：

确定包含有隐私数据的输出结果在所有输出结果中的占比；

根据所述占比，确定所述安全参数。

3.一种调整模型的方法，所述方法包括：

获取目标模型；

采用预设的第二模型评估方式，确定所述目标模型的安全参数，并根据所述安全参数，对所述目标模型进行调整；其中

所述第二模型评估方式通过以下步骤执行：

将输入数据输入到所述目标模型中，得到所述目标模型从所述输入数据中提取出的特征数据；

将所述特征数据输入预先训练的预测模型，以通过所述预测模型，对所述目标模型的模型结构进行预测，得到预测结果；

根据所述预测结果，确定所述安全参数。

4.如权利要求3所述的方法，根据所述预测结果，确定所述安全参数，具体包括：

根据所述预测结果中包含的所述目标模型属于每种模型结构的预测概率，确定所述目标模型属于不同模型结构的概率之间的概率偏差；

根据所述概率偏差，确定所述目标模型的安全参数。

5.如权利要求3所述的方法，预先训练预测模型，具体包括：

预先获取各样本特征；所述各样本特征是指通过不同模型结构的模型所提取的特征数据；

针对每个样本特征，将该样本特征输入到待训练的预测模型中，以通过待训练的预测模型，预测提取出该样本特征的模型对应的模型结构，作为该样本特征对应的待验证模型结构；

以预测出的该样本特征对应的待验证模型结构与提取出该样本特征的模型对应的真实模型结构之间的差异最小化为优化目标，对所述预测模型进行训练。

6.如权利要求5所述的方法，所述方法还包括：

获取各验证特征；所述各验证特征为通过不同模型结构的模型所提取的特征数据；

针对每个验证特征，将该验证特征输入到训练后的预测模型中，以通过训练后的预测模型，预测提取出该验证特征的模型对应的模型结构，作为该验证特征对应的模型结构；

根据每个验证特征对应的模型结构，确定所述预测模型的预测准确率，以根据所述预测准确率，对所述预测模型进行验证。

7.一种调整模型的方法，所述方法包括：

获取目标模型；

针对预设的每种模型评估方式，确定在该种模型评估方式下，所述目标模型的安全参数；

根据每种模型评估方式下所述目标模型的安全参数，对所述目标模型进行调整，其中，所述模型评估方式包括：如权利要求1～2任一的第一模型评估方式、如权利要求3～6任一的第二模型评估方式。

8.如权利要求7所述的方法，根据每种模型评估方式下所述目标模型的安全参数，对所述目标模型进行调整，具体包括：

若根据任意一种模型评估方式下所述目标模型的安全参数，确定所述目标模型存在安全风险，则对所述目标模型进行调整。

9.一种调整模型的装置，包括：

获取模块，用于获取目标模型；

确定模块，用于采用预设的第一模型评估方式，确定所述目标模型的安全参数，并根据所述安全参数，对所述目标模型进行调整；其中

所述确定模块，将各输入数据输入到所述目标模型中，得到各输出结果；根据包含有隐私数据的输出结果，确定所述安全参数。