[发明专利]一种面向断点隐私保护的方法、装置、设备及介质

说明书

本公开涉及计算机技术领域，提供了一种面向断点隐私保护的方法、装置、设备及介质。该方法包括：获取各参与方的数据以训练对应的本地模型，并获取对应的模型参数；通过预设的加密算法对对应的模型参数添加噪声得到对应的加密值；将各加密值上传至中心节点进行聚合操作得到对应的聚合参数，并计算各参与方对应的模型参数均值；通过预设的隐私损失计算机制统计对应的模型参数所产生的隐私损失得到对应的隐私损失总值；若所述隐私损失总值小于预设隐私损失阈值，则根据隐私损失总值与预设隐私损失阈值计算参与方中未参与当前联合学习模型训练的未参与方数量；根据预设的加密算法，对对应的模型参数补充添加未参与方数量对应的噪声。

技术领域

本公开涉及计算机技术领域，尤其涉及一种面向断点隐私保护的方法、装置、设备及介质。

背景技术

随着深度学习理论技术的飞速发展，人工智能在各行各业中的优势逐渐展示出来，同时深度学习的隐私保护也越发重要。联合学习是一种保护数据隐私的分布数据集的分布式学习范式。经典的联合学习框架包含中心节点和不同的本地参与方，通过各参与方对模型参数上传、下发以及更新来训练，需要各参与方在训练中保持一致性。各参与方能够通过联合学习，并基于本地隐私数据训练出准确的全局模型，在保护各参与方隐私数据的基础上，实现了各参与方之间的连通。

但是在实际情况中，由于参与方较多，容易因为某些原因而导致某个参与方未能及时参与本轮训练。目前，为避免泄露各参与方的信息，大多通过差分隐私的方式对联合学习进行加密。在加密过程中，虽然能够通过添加噪声干扰来掩盖真实数据之间的差异性，但是无法控制隐私损失，并且无法针对某参与方未参与本轮训练而进行处理。

发明内容

有鉴于此，本公开实施例提供了一种用于断点隐私保护的方法、装置、设备及介质，以解决现有技术无法控制模型训练过程中的隐私损失，当某个参与方未参与当前联合学习模型训练时，无法使模型的隐私性与可用性达到平衡的问题。

本公开实施例的第一方面，提供了一种面向断点隐私保护的方法，包括：

获取各参与方的数据，以根据所述各参与方的数据，分别训练对应的本地模型，并分别获取所述本地模型对应的模型参数；

通过预设的加密算法对所述对应的模型参数添加噪声，得到各模型参数对应的加密值；

将各加密值上传至中心节点，通过所述中心节点对所述各加密值进行聚合操作，得到对应的聚合参数，以根据所述聚合参数，计算所述各参与方对应的模型参数均值；

通过预设的隐私损失计算机制，根据所述模型参数均值，统计所述中心节点访问所述各参与方对应的模型参数所产生的隐私损失，得到所述各参与方对应的隐私损失总值；

将所述隐私损失总值与预设隐私损失阈值进行对比，若所述隐私损失总值小于所述预设隐私损失阈值，则根据所述隐私损失总值与所述预设隐私损失阈值，计算出参与方中未参与当前联合学习模型训练的未参与方数量；其中，未参与方的状态为断点；

根据所述预设的加密算法，对所述对应的模型参数补充添加所述未参与方数量对应的噪声。

本公开实施例的第二方面，提供了一种面向断点隐私保护的装置，包括：

训练模块、噪声添加模块、聚合模块、统计模块、计算模块、噪声补充模块；

所述训练模块，用于获取各参与方的数据，以根据所述各参与方的数据，分别训练对应的本地模型，并分别获取所述本地模型对应的模型参数；

所述噪声添加模块，用于通过预设的加密算法对所述对应的模型参数添加噪声，得到各模型参数对应的加密值；

所述聚合模块，用于将各加密值上传至中心节点，通过所述中心节点对所述各加密值进行聚合操作，得到对应的聚合参数，以根据所述聚合参数，计算所述各参与方对应的模型参数均值；