[发明专利]一种智能模型信息泄漏程度评估方法、系统、介质、设备

权利要求书

1.一种智能模型信息泄漏程度评估方法，其特征在于，所述智能模型信息泄漏程度评估方法包括：

定义代表特定数据集中包含的信息量的指标；

利用信息论中的链式法则将指标展开后计算；

定义查询向量拼接收到的攻击查询和模型回复；

将向量添加到查询矩阵；

计算单次查询从训练数据集窃取到的信息量；

计算模型信息泄漏程度；

定义指标I_M，用来代表特定数据集M中包含的信息量，M是一个n×m的矩阵，代表该数据集中包含有m条数据，每条数据具有n维特征，使用信息论中的信息熵H来计算该指标：

I_M＝H(X₁，X₂，…，X_n)；

其中X_i代表该数据集中第i维特征空间，1≤i≤n；

利用信息论中的链式法则将指标展开后计算即可求得：

定义查询向量u，用来拼接收到的攻击查询q和模型回复z如下：

u＝q|z；

该向量由特征组q和标签z构成，其中特征组q由多个特征x组成；

将向量添加到查询矩阵Q_A，查询矩阵由模型收到的查询向量不断添加构成，目的是存储模型的输入输出，其具体结构如下：

；

计算单次查询从训练数据集窃取到的信息量，查询窃取到的信息量为信息相关程度与训练数据集包含信息量的乘积；使用皮尔逊积矩相关系数PCC和模型训练数据集D的信息相关程度；PCC主要度量两个变量之间的线性相关程度；训练数据集D为训练样本组成的集合，训练样本是机器学习模型算法在执行学习任务中使用到的数据；

减去查询与查询矩阵之间的重复信息量，最终计算方法如下：

其中I_D代表训练数据集所包含的信息量，代表模型累计收到的查询矩阵所包含的信息量；

计算模型信息泄漏程度，训练数据集由属于不同分类的数据构成，设定训练数据集共有k种不同类数据C，每一类数据C的信息泄漏量可以通过将查询u遍历其特征空间后求得，而该类的信息泄漏程度即为信息泄漏量与自身包含信息量的比值；

不同类别数据在训练数据集中占有不同比例，设定第k类数据占数据集的比例为p_k，最终数据集整体信息泄漏程度可由每类数据集的泄漏程度加权和求得，最终具体的计算方法如下：

2.一种计算机设备，其特征在于，所述计算机设备包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行权利要求1所述方法的步骤。

3.一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行权利要求1所述方法的步骤。

4.一种实施权利要求1所述智能模型信息泄漏程度评估方法的智能模型信息泄漏程度评估系统，其特征在于，所述智能模型信息泄漏程度评估系统包括：

指标定义模块，用于定义代表特定数据集中包含的信息量的指标；

指标计算模块，用于利用信息论中的链式法则将指标展开后计算；

查询和回复模块，用于定义查询向量拼接收到的攻击查询和模型回复；

向量添加模块，用于将向量添加到查询矩阵；

信息量计算模块，用于计算单次查询从训练数据集窃取到的信息量；

信息泄露程度计算模块，用于计算模型信息泄漏程度。