[发明专利]多源域迁移中的对抗域自适应差分隐私保护方法有效
申请号: | 202110201597.6 | 申请日: | 2021-02-23 |
公开(公告)号: | CN112800471B | 公开(公告)日: | 2022-04-22 |
发明(设计)人: | 王利娥;钟子力;李先贤 | 申请(专利权)人: | 广西师范大学 |
主分类号: | G06F21/62 | 分类号: | G06F21/62 |
代理公司: | 桂林文必达专利代理事务所(特殊普通合伙) 45134 | 代理人: | 白洪 |
地址: | 541004 广西壮*** | 国省代码: | 广西;45 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 多源域 迁移 中的 对抗 自适应 隐私 保护 方法 | ||
1.一种多源域迁移中的对抗域自适应差分隐私保护方法,其特征在于,包括以下步骤:
将获取的源域样本集和目标域样本集分别输入特征提取网络或目标任务网络进行特征提取和更新,并对迭代完成得到的权重进行归一化处理;
基于设定的梯度反传层对所述特征提取网络参数进行更新;
根据隐私泄露风险,利用设定的分割阈值分别对所述特征提取网络和所述目标任务网络进行梯度分割,并加上高斯噪声后计算出对应的隐私预算;
直至所述隐私预算达到预算阈值,将所述特征提取网络和所述目标任务网络进行组合,得到差分隐私分类模型;
根据隐私泄露风险,利用设定的分割阈值分别对所述特征提取网络和所述目标任务网络进行梯度分割,并加上高斯噪声后计算出对应的隐私预算,包括:
根据发布模型的隐私泄露风险,对目标任务网络Y的梯度进行分割,设置分割阈值C进行梯度切割,切割是根据该梯度的l2范式跟分割阈值C的比值与1比较,选择大的那一个进行切割,得到的第一梯度为:
其中,分子是第t次迭代域分类网络样本的梯度;
对切割好的第一梯度加上高斯噪声扰动,得到第一高斯梯度:
其中,N(0,σ2C2I)高斯分布噪声,C为分割阈值,σ为高斯噪声的噪声规格,I为单位矩阵;
更新目标任务网络Y的参数并计算当前迭代次数t的迭代隐私预算其中其中η是学习率,Δε是每次的隐私消耗;
根据发布模型的隐私泄露风险,对特征提取网络E的梯度进行分割,设置分割阈值C进行梯度切割,切割是根据该梯度的l2范式跟分割阈值C的比值与1比较,选择大的那一个进行切割,得到的第二梯度为:
其中,分子的是第t次迭代特征提取网络样本的梯度;
对切割好的第二梯度加上高斯噪声扰动,得到第二高斯梯度:
其中,N(0,σ2C2I)高斯分布噪声,C为分割阈值,σ为高斯噪声的噪声规格,I为单位矩阵;
更新特征提取网络E参数并计算当前迭代次数t次的迭代隐私预算其中,其中η是学习率,Δε是每次的隐私消耗。
2.如权利要求1所述的多源域迁移中的对抗域自适应差分隐私保护方法,其特征在于,将获取的源域样本集和目标域样本集分别输入特征提取网络或目标任务网络进行特征提取和更新,并对迭代完成得到的权重进行归一化处理,包括:
将源域样本集和目标域样本集输入特征提取网络进行特征提取,然后将特征输入域分类网络进行对抗学习和参数更新,直至多个源域对应的所述源域样本集和所述目标域样本集迭代完成;
将所述源域样本集输入到所述特征提取网络进行特征提取,并将得到的特征向量输入到目标任务网络中进行分类和参数更新,直至多个源域对应的所述源域样本集迭代完成;
根据总损失函数计算出每个所述源域对应的权重,并对所述权重进行归一化处理。
3.如权利要求2所述的多源域迁移中的对抗域自适应差分隐私保护方法,其特征在于,将源域样本集和目标域样本集输入特征提取网络进行特征提取,然后将特征输入域分类网络进行对抗学习和参数更新,直至多个源域对应的所述源域样本集和所述目标域样本集迭代完成,包括:
将所述源域样本集和所述目标域样本集输入所述特征提取网络进行特征提取,并将得到的特征向量输入域分类网络中,得到域预测标签;
利用负对数似然函数计算所述域预测标签和域真实标签之间的域分类网络损失函数;
根据所述域分类网络损失函数对所述域分类网络参数进行优化、更新,直至多个源域对应的所述源域样本集和所述目标域样本集迭代完成。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广西师范大学,未经广西师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110201597.6/1.html,转载请声明来源钻瓜专利网。