[发明专利]抵抗联邦学习中歧视传播的节点模型的更新方法

说明书

本公开涉及一种抵抗联邦学习中歧视传播的节点模型的更新方法，上述方法包括：获取数据节点对应的节点模型；计算数据节点的训练数据对应的类别特征分布均值和数量比率，根据节点模型、类别特征分布均值和数量比率，计算分布加权聚合模型；根据节点模型和分布加权聚合模型计算数据节点对应的正则化项；计算数据节点对应的类别特征分布方差，根据类别特征分布均值和类别特征分布方差，使用跨域特征生成器计算数据节点所需的特征分布层面对应的类别均衡补充项；根据分布加权聚合模型、正则化项和类别均衡补充项更新节点模型。采用上述技术手段，解决现有技术中，缺少解决联邦学习中歧视传播的方案的问题。

技术领域

本公开涉及人工智能领域，尤其涉及一种抵抗联邦学习中歧视传播的节点模型的更新方法。

背景技术

在联邦学习中，个性化联邦学习更关注于训练后的模型对于任务整体性能提升的作用，而对于性能差异或者说是数据歧视问题并没有投入过多关注。同时对于引入过多特异性数据模型所引入的歧视传播，目前并没有相应的解决方法。歧视传播（bias transfer）由于交互的节点数据分布差异过大或者其数据具备特殊属性造成的局部性能下降或者性能偏差。联邦学习(federated learning)指不接触参与学习节点原始数据的分布式学习方案。

在实现本公开构思的过程中，发明人发现相关技术中至少存在如下技术问题：缺少解决联邦学习中歧视传播的方案的问题。

发明内容

为了解决上述技术问题或者至少部分地解决上述技术问题，本公开的实施例提供了一种抵抗联邦学习中歧视传播的节点模型的更新方法，以至少解决现有技术中，缺少解决联邦学习中歧视传播的方案的问题。

本公开的目的是通过以下技术方案实现的：

第一方面，本公开的实施例提供了一种抵抗联邦学习中歧视传播的节点模型的更新方法，包括：获取数据节点对应的节点模型；计算所述数据节点的训练数据对应的类别特征分布均值和数量比率，根据所述节点模型、所述类别特征分布均值和所述数量比率，计算分布加权聚合模型；根据所述节点模型和所述分布加权聚合模型计算所述数据节点对应的正则化项；计算所述数据节点对应的类别特征分布方差，根据所述类别特征分布均值和所述类别特征分布方差，使用跨域特征生成器计算所述数据节点所需的特征分布层面对应的类别均衡补充项；根据所述分布加权聚合模型、所述正则化项和所述类别均衡补充项更新所述节点模型。

在一个示例性实施例中，计算所述数据节点对应的类别特征分布均值、数量比率和类别特征分布方差，包括：

其中，i为所述数据节点的序号，j为所述数据节点的样本数据的类别的序号，所述节点模型包括：特征提取模块f_E和预测模块f_P，第i个节点模型的特征提取模块f_E和预测模块f_P分别对应的模型参数为和，为第i个数据节点的第j种样本数据的输入向量，为第i个数据节点的第j种样本数据的输出向量，f()为所述节点模型对应的函数，l()为所述节点模型对应的损失函数，n_i为第i个节点模型所具有的所有的样本数据，T表示总共训练的轮次，是节点i的训练数据集，表示选取的样本数据都属于样本类别c下的数据，样本数据有多个样本类别。

在一个示例性实施例中，根据所述节点模型、所述类别特征分布均值和所述数量比率，计算分布加权聚合模型，包括：根据所述类别特征分布均值和所述数量比率计算所述数据节点与其他数据节点之间对应的分布相似度距离；从多个数据节点对应的多个节点模型中，选出第一预设数量的节点模型，根据所述分布相似度距离和所述第一预设数量的节点模型，计算分布加权聚合模型。

在一个示例性实施例中，根据所述类别特征分布均值和所述数量比率计算所述数据节点对应的分布相似度距离，包括：