[发明专利]基于联邦学习的模型训练方法及装置、设备、存储介质

说明书

本发明公开了一种基于联邦学习的模型训练方法及装置、设备、存储介质。本发明通过服务端发送广播训练请求至每一客户端设备，每一客户端设备根据接收到的广播训练请求和竞价策略确定各自客户端设备的出价，并分别发送各自客户端设备的出价至服务端；然后服务端根据接收到的每一客户端设备的出价，选取预设数量的目标客户端设备，并发送目标客户端设备的标识和第一全局模型至每一客户端设备；进而若客户端设备的标识和目标客户端设备的标识匹配，则该客户端设备作为目标客户端设备，并由目标客户端设备根据其本地样本数据集对第一全局模型进行训练；解决了现有技术中基于联邦学习的模型训练效率低的问题。

技术领域

本发明涉及基于联邦学习的模型训练领域，尤其涉及一种基于联邦学习的模型训练方法、基于联邦学习的模型训练装置、基于联邦学习的模型训练设备以及计算机可读存储介质。

背景技术

大数据时代下，数据孤岛问题日益凸显。联邦学习作为一种尝试打破数据孤岛的技术，一经提出便得到广泛的关注；其中，联邦学习是一种特殊的分布式机器学习方案，即中心服务器联合多方协同训练机器学习模型。目前，联邦学习方案中，在选择设备参与训练时，大多采用随机的策略；然而，这种策略在数据异质的系统环境下，客户端设备资源分配不均匀、模型训练花费时间长。

因此，如何提升基于联邦学习的模型训练的效率是亟待解决的问题。

发明内容

本发明的主要目的在于提供一种基于联邦学习的模型训练方法及装置、设备、存储介质，旨在解决现有技术中基于联邦学习的模型训练效率低的问题。

为实现上述目的，本发明提供一种基于联邦学习的模型训练方法，应用于服务端，所述基于联邦学习的模型训练方法包括：

发送广播训练请求至每一客户端设备，以使得所述每一客户端设备根据所述广播训练请求和竞价策略确定各自客户端设备的出价；

接收所述每一客户端设备发送的客户端设备的出价；

根据所述每一客户端设备的出价，选取预设数量的目标客户端设备；

发送所述目标客户端设备的标识和第一全局模型至所述每一客户端设备，以使得和所述目标客户端设备的标识匹配的客户端设备，根据其本地样本数据集对所述第一全局模型进行训练。

可选的，所述发送广播训练请求至每一客户端设备的步骤之前，所述基于联邦学习的模型训练方法还包括：

初始化初始全局模型、样本窗口大小参数和聚类分组数量；

发送初始全局模型和样本窗口大小参数至每一客户端设备，以使得所述每一客户端设备从其本地样本数据集中，多次随机选取和样本窗口大小参数相同的样本，对所述初始全局模型进行训练，获得多个梯度值参数，并对所述多个梯度值参数求取平均，获得平均梯度值参数；

接收所述每一客户端设备发送的客户端设备的平均梯度值参数；

根据所述每一客户端设备的平均梯度值参数，将所有客户端设备划分为和所述聚类分组数量相同的设备组；其中，每一设备组中包括至少一个客户端设备。

可选的，所述发送所述目标客户端设备的标识和第一全局模型至所述每一客户端设备的步骤之后，所述基于联邦学习的模型训练方法还包括：

接收所述每一目标客户端设备发送的目标客户端设备的第二全局模型；其中，所述第二全局模型为目标客户端设备根据其本地样本数据集对所述第一全局模型进行训练获得；

对所述每一目标客户端设备的第二全局模型进行聚合，获得聚合后的第三全局模型；

若所述第三全局模型的准确率大于或等于预设阈值，则保存所述第三全局模型；

若所述第三全局模型的准确率小于预设阈值，则返回执行发送广播训练请求至每一客户端设备的步骤。