[发明专利]多源域迁移中的对抗域自适应差分隐私保护方法

说明书

本发明公开了一种多源域迁移中的对抗域自适应差分隐私保护方法，以设定的采样概率对多源域数据集、目标域数据集进行随机采样，将得到的源域样本集和目标域样本集分别输入特征提取网络或目标任务网络进行特征提取和分类，并对迭代完成得到的权重进行归一化处理；基于设定的梯度反传层对所述特征提取网络参数进行更新；利用设定的分割阈值分别对所述特征提取网络和所述目标任务网络参数更新时，将梯度进行切割然后加入高斯噪声，并计算出对应的隐私预算；直至所述隐私预算达到预算阈值，将所述特征提取网络和所述目标任务网络组合得到差分隐私分类模型，保证多源域迁移中的隐私安全。

技术领域

本发明涉及人工智能和隐私保护技术领域，尤其涉及一种多源域迁移中的对抗域自适应差分隐私保护方法。

背景技术

在许多如医疗图像分类、电商评论情感分析等实际应用中，往往需要获得足够大规模的标签数据才能充分训练深度神经网络，从而构建精确的模型进行有效的分析。然而很多情况下，数据是非常稀疏的。由于域之间的数据分布不同，直接迁移通常会导致明显的性能下降，为了缓解这个问题，现在的主要做法是采用域自适应来最小化源域和目标域之间数据分布的影响。但这种简单应用可能导致次优解决方案，因此，有研究者提出增强的多源域自适应，对单源域自适应进行了扩展。

多源域迁移中的技术难点在于多源域数据的特征对齐，现有的做法主要是基于深度对抗技术，通过特征提取网络，将源域和目标域采样的样本提取到的特征，输入判别器网络，然后反传梯度训练特征提取网络，如此迭代多次，直至特征提取网络提取的特征混淆判别器网络，使多源域和目标域之间的特征对齐，学习到更多可迁移的表示，进而对目标域数据进行分类。但是如果存在恶意的用户，他可能会从模型的输入和输出中反推出用于模型训练的数据隐私信息(如模型提取攻击)。由于涉及多源域和目标域数据，隐私安全成为大家关注的另一关键问题。现有的域自适应技术中的隐私保护，主要是解决在单源域迁移中的隐私保护，没有考虑多源域迁移中的隐私保护问题。

发明内容

本发明的目的在于提供一种多源域迁移中的对抗域自适应差分隐私保护方法，保证多源域迁移中的隐私安全。

为实现上述目的，本发明提供了一种多源域迁移中的对抗域自适应差分隐私保护方法，包括以下步骤：

将获取的源域样本集和目标域样本集分别输入特征提取网络或目标任务网络进行特征提取和更新，并对迭代完成得到的权重进行归一化处理；

基于设定的梯度反传层对所述特征提取网络参数进行更新；

根据隐私泄露风险，利用设定的分割阈值分别对所述特征提取网络和所述目标任务网络进行梯度分割，并加上高斯噪声后计算出对应的隐私预算；

直至所述隐私预算达到预算阈值，将所述特征提取网络和所述目标任务网络进行组合，得到差分隐私分类模型。

其中，将获取的源域样本集和目标域样本集分别输入特征提取网络或目标任务网络进行特征提取和更新，并对迭代完成得到的权重进行归一化处理，包括：

将源域样本集和目标域样本集输入特征提取网络进行特征提取，然后将特征输入域分类网络进行对抗学习和参数更新，直至多个源域对应的所述源域样本集和所述目标域样本集迭代完成；

将所述源域样本集输入到所述特征提取网络进行特征提取，并将得到的特征向量输入到目标任务网络中进行分类和参数更新，直至多个源域对应的所述源域样本集迭代完成；

根据总损失函数计算出每个所述源域对应的权重，并对所述权重进行归一化处理。

其中，将源域样本集和目标域样本集输入特征提取网络进行特征提取，然后将特征输入域分类网络进行对抗学习和参数更新，直至多个源域对应的所述源域样本集和所述目标域样本集迭代完成，包括：

将所述源域样本集和所述目标域样本集输入所述特征提取网络进行特征提取，并将得到的特征向量输入域分类网络中，得到域预测标签；