[发明专利]面向联邦学习的数据隐私安全机制评估方法、设备及介质

权利要求书

1.一种面向联邦学习的数据隐私安全机制评估方法，其特征在于，包括：

对用于训练本地模型的样本数据集进行采样，得到原始样本；

通过重构模型，重构一组与原始样本相关的重构样本；

通过公式（1）计算原始样本与重构样本的梯度差异；并通过公式（2），迭代更新重构样本，获得最终重构样本；

（1）

；

（2）

其中，为最终重构样本的特征-标签对，为更新步长，为由重构样本计算而得的重构模型梯度，为由原始样本(x,y)计算而得的原始模型梯度，F为待训练的神经网络模型,其模型参数为W，为计算重构模型梯度与原始模型梯度之间的L2范数差异，为该项的计算权重，为计算重构样本模型梯度与原始模型梯度的负余弦函数值，其中为求向量间的点积操作，为求向量的模长，为该项的计算权重；为计算模型的预测标签和原始样本标签的L2范数差异，其中F为模型，为重构样本的特征，为重构样本的标签，W为模型参数，为重构样本对应的模型预测标签，y为原始样本的标签，为该项的计算权重；

计算最终重构样本与原始样本的相似度和匹配率，作为所述样本数据集的监测值，具体为：将重构样本特征和欲保护的输入样本特征x采用MSE相似度算法，获得最终重构样本与原始样本的相似度值，采用匹配率Match算法计算最终重构样本与原始样本的匹配率；将相似度值和匹配率作为所述样本数据集的监测值；

所述MSE相似度算法，具体为公式（3）：

（3）

其中，m为原始样本的样本个数；

所述匹配率Match算法，具体为公式（4）：

； （4）

其中，表示当a与b相同，则该的值为1，否则的值为0；

当所述监测值大于等于预设值时，发出梯度泄露风险告警；

当所述监测值小于所述预设值时，提示安全。

2.根据权利要求1所述的一种面向联邦学习的数据隐私安全机制评估方法，其特征在于，所述通过重构模型，重构一组与原始样本相关的重构样本，具体为：

依据原始样本，通过正态分布随机初始化，获得一组与原始样本相同维度的重构样本。

3.根据权利要求1所述的一种面向联邦学习的数据隐私安全机制评估方法，其特征在于，还包括：

输出相似度和匹配率，以及最终重构样本。

4.一种终端设备，其特征在于，包括：处理器和存储装置，所述存储装置用于存储一个或多个程序；当所述一个或多个程序被所述处理器执行时，所述处理器实现根据权利要求1至3中任意一项所述的面向联邦学习的数据隐私安全机制评估方法。

5.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质包括存储的计算机程序，其中，在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行如权利要求1至3中任意一项所述的面向联邦学习的数据隐私安全机制评估方法。