[发明专利]一种隐私保护下的去中心化数据建模方法

说明书

本发明涉及一种隐私保护下的去中心化数据建模方法。包括：S1.初始化与本地模型训练：从服务器处获取模型，参与方利用本地数据输入模型进行训练，进而得到本地的模型参数；S2.模型参数加密发送与回传：参与方在本地完成模型参数加密后进行参数发送，服务器将聚合后的模型参数返还给参与方，各参与方用新的模型参数基于全同态加密运算和本地数据，开始新一轮的训练；S3.迭代停止：重复上述步骤直到全局模型参数[W]收敛。本发明解决了当前机器学习领域存在的数据孤岛和隐私泄露等问题；充分发挥各参与方数据的优势，降低数据中心化存储的风险，降低参与方数据隐私泄露的可能性，提升多方机器学习的安全性。

技术领域

本发明属于机器学习与信息安全的交叉领域，特别是涉及一种隐私保护下的去中心化数据建模方法。

背景技术

机器学习技术在人工智能各领域如图像识别、自然语言处理的应用中取得了很大的成就。机器学习的本质就是收集大量的数据对模型进行训练，以此来得到一个能对新的输入数据有良好预测效果的模型。简而言之，机器学习过程可以归结为数据的采集、处理、计算。然而在当前的发展过程中，数据的采集和处理过程存在着两个问题，数据孤岛问题和隐私保护问题。数据孤岛和隐私保护问题广泛存在，且两者相互影响，共同阻碍了数据的获取和共享。因此如何在保护数据隐私的前提下，设计新型的机器学习框架，达到联合多方数据共同建模的目的，成为机器学习与信息安全领域的热门研究方向。如专利CN111723947A，公开日为2020.09.29，公开了一种联邦学习模型的训练方法及装置，提高了全局模型参数对非独立同分布数据训练的准确率；现有的联邦学习充分整合了各个数据孤岛，汇聚多维度数据形成一个数据联邦，使得各参与方都能得到训练出的模型。但是当前的联邦学习方式允许服务器泄露聚合后的明文信息，目前已经有研究指出这种信息泄露在满足一定约束条件下，可以让攻击者部分的恢复训练的原始数据。

发明内容

本发明为克服上述现有技术中的至少一个缺陷，提供一种隐私保护下的去中心化数据建模方法，有效提升了多方机器学习的安全性。

为解决上述技术问题，本发明采用的技术方案是：一种隐私保护下的去中心化数据建模方法，包括以下步骤：

S1.初始化与本地模型训练：从服务器处获取模型，参与方利用本地数据输入模型进行训练，进而得到本地的模型参数；

S2.模型参数加密发送与回传：参与方在本地完成模型参数加密后进行参数发送，服务器将聚合后的模型参数返还给参与方，各参与方用新的模型参数基于全同态加密运算和本地数据，开始新一轮的训练；

S3.迭代停止：重复上述步骤直到全局模型参数[W]收敛。

进一步的，其特征在于，所述的步骤S1具体包括：

S11.服务器S向参与方发送初始模型W₀，每个参与方都有一个本地数据集，数据集的样本数量为N_i，i是参与方的序号；

S12.每个参与方用本地数据集进行模型训练；

S13.t时刻的模型用梯度下降法对反向传播算法进行优化，并计算本地数据集的平均梯度每个参与方用其本地学习率η和平均梯度进行模型更新；因此参与方P_i在t+1时刻的本地模型参数为

S14.参与方利用其本地数据集不断进行训练，直至达到子模型的评价指标时，停止训练，得到最终的本地模型参数W_i。

进一步的，每个参与方的样本数量N_i可以不同，但需要确保样本的特征相似。

进一步的，所述的步骤S2具体包括：

S21.各参与方将本地模型参数W_i进行全同态加密生成[W_i]并发送给服务器；