[发明专利]一种联邦学习系统及联邦学习任务处理方法

权利要求书

1.一种联邦学习系统，其特征在于，包括：

数据处理模块，用于收集和统计数据源以及数据量，并设定数据集参数，形成数据集生成模块；

客户端，用于基于数据集生成模块计算节点间的交叉相似性以及训练过程中不同模型间的相似性，形成模型权重与节点数据特征；

中心服务器端，用于接收客户端发送来的模型的权重与节点数据特征，并根据联邦平均算法从客户端发送的网络模型中生成全局模型，将全局模型下发至各个客户端。

2.根据权利要求1所述的一种联邦学习系统，其特征在于，

所述中心服务器端包括：

模型权重与节点数据特征接收模块，用于中心服务器端在每一轮的训练中接收参与训练的客户端发送的数据特征；中心服务器端接收到某个客户端发来的网络模型和数据特征后，关闭对该客户端的监听，在收到发来网络模型和数据特征的客户端数量达到参与训练的客户端总数之后，中心服务端结束等待接收的监听状态，开始全局模型的生成和准备开始下一轮的训练；

全局模型生成模块，用于将数据量的权重增加至全局模型的聚合过程中，在更新全局模型时，根据各客户端节点拥有的数据量进行加权平均，在每一轮生成全局模型后，中心服务器端在测试集上评估全局模型的准确率、召回率和精确率，并在新一轮的训练中将生成的全局模型发送至客户端节点；

协调控制模块，用于协调各客户端的运行；以及用于控制中心服务器停止训练，控制网络模型和数据特征在中心服务器端和客户端之间的传输。

3.根据权利要求2所述的一种联邦学习系统，其特征在于，

所述协调控制模块包括：

模型聚合子模块，用于当客户端节点接收到中心服务器端发送来的全局模型和节点数据特征时，才开始训练，否则，客户端节点将处于待机等待状态；当每一轮的训练结束时，中心服务器端若接收到所有参与该轮训练的客户端节点发送案例的网络模型和数据特征时，开始模型聚合；

发送子模块，用于当模型聚合结束后，中心服务器端开始新一轮的训练，将新的全局模型和数据特征发送给各个客户端阶段。

4.根据权利要求1所述的一种联邦学习系统，其特征在于，

所述客户端包括：

客户端训练子模块，用于构建底层神经网络训练模块，接收中心服务器端发送的全局模型和其他节点的数据特征，结合本地模型利用交叉注意力机制进行客户端个性化训练；

上传子模块，用于将新一轮的数据特征和新生成的本地网络模型上传至中心服务器端；

底层神经网络训练模块，用于将底层神经网络AlexNet设置到各个客户端节点上，在交叉注意力机制得出最终的个性化模型，使用该个性化模型在客户端进行数据训练；

交叉注意力机制模型，在客户端的本地训练中，将客户端的特征作为待解决的问题，将其他客户端的特征作为已存在的问题，将其他客户端的网络模型参数作为加权特征向量，通过交叉注意力机制计算该客户端与其他客户端节点的相似性，基于相似性计算得出个性化模型权重；将个性化模型权重作为新的待解决的问题，将个性化模型权重、本地模型权重和全局模型权重的线性组合作为新的已存在的问题和加权特征向量，进行第二次交叉注意力机制计算，得到最终聚合的客户端个性化模型。

5.根据权利要求1所述的一种联邦学习系统，其特征在于，

所述数据处理模块包括：

数据源数据收集统计模块，用于收集数据源并统计数据源的数据新型，包括训练集数据量和测试集数据量，以及数据内容和数据新型记录；

数据集参数设定模块，采用分布式数据集设定数据集参数，所述数据集参数包括：节点数、数据量、数据量标准差、数据分布欧式距离、节点测试集数据量比例。

6.一种联邦学习任务处理方法，其特征在于，包括：

S100，收集和统计数据源以及数据量，并设定数据集参数，形成数据集生成模块；

S200，基于数据集生成模块计算节点间的交叉相似性以及训练过程中不同模型间的相似性，形成模型权重与节点数据特征；

S300，接收客户端发送来的模型的权重与节点数据特征，并根据联邦平均算法从客户端发送的网络模型中生成全局模型，将全局模型下发至各个客户端。