[发明专利]一种基于对抗噪声注入的垂直联邦学习方法和装置在审
申请号: | 202110654359.0 | 申请日: | 2021-06-11 |
公开(公告)号: | CN113298268A | 公开(公告)日: | 2021-08-24 |
发明(设计)人: | 陈晋音;李荣昌;张龙源;刘涛 | 申请(专利权)人: | 浙江工业大学 |
主分类号: | G06N20/20 | 分类号: | G06N20/20;G06N3/04;G06F21/62 |
代理公司: | 杭州天勤知识产权代理有限公司 33224 | 代理人: | 胡红娟 |
地址: | 310014 浙*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 对抗 噪声 注入 垂直 联邦 学习方法 装置 | ||
1.一种基于对抗噪声注入的垂直联邦学习方法,其特征在于,包括以下步骤:
(1)边缘客户端数据对齐,保证数据特征相同,不同边缘客户端之间相同训练数据成员id进行数据对齐匹配;
(2)边缘客户端和服务器端模型初始化工作准备,包括服务商协商选定客户端边缘网络模型和服务器端网络模型和结构,模型参数初始化设置;
(3)将客户端边缘网络模型训练产生的中间信息送至信息去敏装置注入对抗性噪声;
(4)将边缘客户端去敏的中间信息上传给服务器,利用服务器上布置的网络模型进行训练,并将梯度信息重新反馈给边缘客户端,迭代训练过程,直至联邦模型收敛。
2.如权利要求1所述的基于对抗噪声注入的垂直联邦学习方法,其特征在于,所述步骤(1)中,采用隐私交集技术通过加密手段来秘密匹配边缘客户端之间相同数据id,确定客户端之间具有相同id的数据参与联邦学习训练。
3.如权利要求1所述的基于对抗噪声注入的垂直联邦学习方法,其特征在于,所述步骤(2)中,模型参数初始化设置包括两个步骤:
(2-1)客户端边缘网络模型的输出层神经元个数调整为服务器发布的个数,同时根据客户端边缘网络模型的数据特征修改网络输入特征层维度信息;
(2-2)进行本地模型初始化设置,客户端边缘网络模型初始化结束后,向服务器发送训练准备信息,待服务器查询到所有边缘客户端准备完毕后,进入模型训练阶段。
4.如权利要求1所述的基于对抗噪声注入的垂直联邦学习方法,其特征在于,所述步骤(3)中,中间信息去敏装置在联邦模型未收敛阶段,添加随机噪声进行数据脱敏;在模型接近收敛阶段,通过注入对抗噪声进行数据脱敏。
5.如权利要求4所述的基于对抗噪声注入的垂直联邦学习方法,其特征在于,所述的注入对抗噪声进行数据脱敏,分为两个阶段:
第一阶段为数据隐私泄露情况本地评估,通过集成各个攻击模型进行隐私泄露评估;
第二阶段为对抗噪声生成进行本地隐私保护,通过优化不同分布噪声的权重系数解决最大最小问题,使用生成的对抗噪声进行防御推断攻击。
6.如权利要求5所述的基于对抗噪声注入的垂直联邦学习方法,其特征在于,隐私泄露评估集成的攻击模型包括:多层感知机模型、逻辑回归、随机森林和支持向量机。
7.如权利要求5所述的基于对抗噪声注入的垂直联邦学习方法,其特征在于,针对联邦训练不同阶段设置可变的强化系数,所述强化系数用于自适应调整不同阶段的隐私保护和效用保护。
8.一种基于对抗噪声注入的垂直联邦学习装置,包括存储器、处理器以及存储在存储器中并可在处理器上执行的计算机程序,其特征在于,所述处理器执行计算机程序时实现权利要求1~7任一项所述的基于对抗噪声注入的垂直联邦学习方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江工业大学,未经浙江工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110654359.0/1.html,转载请声明来源钻瓜专利网。