[发明专利]一种基于同态加密的联邦学习隐私保护方法在审
申请号: | 202110608465.5 | 申请日: | 2021-06-01 |
公开(公告)号: | CN113434873A | 公开(公告)日: | 2021-09-24 |
发明(设计)人: | 马学彬;李思雨 | 申请(专利权)人: | 内蒙古大学 |
主分类号: | G06F21/60 | 分类号: | G06F21/60;G06F21/62;G06N3/08;H04L9/00 |
代理公司: | 北京盛凡智荣知识产权代理有限公司 11616 | 代理人: | 林淡如 |
地址: | 010020 内蒙古自*** | 国省代码: | 内蒙古;15 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 同态 加密 联邦 学习 隐私 保护 方法 | ||
1.一种基于同态加密的联邦学习隐私保护方法,其特征在于;包括如下步骤:
1)参与学习的客户端共同建立了一个同态加密方案的公钥pk和密钥sk,密钥sk对服务器保密,但所有参与学习的客户端都知道;
2)参与学习的客户端在本地保存他们的数据集,并运行基于深度学习的神经网络的副本;
3)客户端运行局部神经网络的初始(随机)权值Gglobal,由客户端1初始化,客户端1加密Gglobal并将密文E(Gglobal)发送至服务器,使得服务器在训练过程中始终持有最新的模型参数密文;
4)训练本地数据:客户端下载全局神经网络模型,并利用自己数据集在本地进行训练;并根据定义好的损失函数计算训练误差,从而计算本地梯度G;
5)梯度加密:加密过程分为两个步骤,首先利用差分隐私随机梯度下降对梯度添加噪音Gμ,然后根据同态加密机制加密被扰动的梯度产生密文梯度客户端将密文梯度发送至服务器;
6)安全聚合:服务器首先聚合接收到的所有密文梯度产生再进行平均,产生新的密文参数服务器向所有客户端广播新一轮密文参数
7)参数解密:任意客户端对密文参数进行解密操作;用最新的参数更新本地模型,从而进行后续的模型训练。
2.根据权利要求1所述的一种基于同态加密的联邦学习隐私保护方法,其特征在于;步骤1)所述的具体方法为秘钥生成KeyGen()→(pk,sk):随机选取两个长度相同的大素数p和q,且满足gcd(pq,(p-1)(q-1))=1,计算N=pq,λ=lcm(p-1,q-1),随机选取,则公钥pk=(N,g),私钥sk=(λ);加密算法Encryption(pk,m)→c:输入公钥pk和明文信息m,随机选取r,计算密文c=gmrN(modN2);解密算法Decryption(sk,c)→m:输入私钥sk和密文信息c,其中计算明文
3.根据权利要求1所述的一种基于同态加密的联邦学习隐私保护方法,其特征在于;步骤5)所述的具体方法为在随机梯度下降过程中,根据损失函数计算误差进而计算参数的梯度裁剪参数梯度的L2范数:添加噪音:下降:使用公钥pk对梯度加密,得到密文。
4.根据权利要求1所述的一种基于同态加密的联邦学习隐私保护方法,其特征在于;步骤6)所述的具体方法为在服务器端采用梯度平均算法更新参数:收敛速度更快。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于内蒙古大学,未经内蒙古大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110608465.5/1.html,转载请声明来源钻瓜专利网。