[发明专利]质量感知的边缘智能联邦学习方法及系统

权利要求书

1.一种质量感知的边缘智能联邦学习方法，在每次迭代中，云平台发布一组学习任务，云平台提供每个学习任务的学习预算，以招募合适的节点协作训练模型；节点下载全局模型，用本地数据训练模型，再将模型更新上传到云平台；云平台聚合模型以更新全局模型；其特征在于，在此过程中，云平台以多个学习任务的聚合模型质量之和在每次迭代中都达到最大为优化目标，构建联邦学习质量优化问题；并采用以下步骤解决所述联邦学习质量优化问题：

在每次迭代中，利用参与节点的历史学习质量记录预测参与节点的学习质量；其中，利用每次迭代中损失函数值的减少量来量化节点训练数据的学习质量；

在每次迭代中，云平台通过反向拍卖机制激励高学习质量的节点参与联邦学习；以进行学习任务和学习报酬的分配；

在每次迭代中，对于每个学习任务，每个参与节点将其本地模型参数上传到云平台，云平台将多个本地模型聚合得到全局模型。

2.根据权利要求1所述的质量感知的边缘智能联邦学习方法，其特征在于，所述云平台将多个本地模型参数聚合得到全局模型参数，包括根据每个参与节点的训练数据量以及训练数据的质量，并过滤掉低质量的本地模型更新，聚合高质量的模型更新得到聚合后的全局模型。

3.根据权利要求1或2所述的质量感知的边缘智能联邦学习方法，其特征在于，以多个学习任务的聚合模型质量之和在每次迭代中都达到最大为优化目标，则联邦学习质量优化问题如下：

其中，表示联邦中节点的集合，其中i表示集合中第i个节点；表示在每次迭代t中，云平台发布的学习任务集合，其中表示中第j个学习任务；为节点i在第t次迭代中可以参与的任务集合，且是云平台提供的对于迭代t中的学习任务的学习预算；是一个二进制变量，用来标志任务在迭代t是否被分配给了节点i，等于1意味着任务分配给了节点，否则设置为0；表示节点i执行任务的报酬，表示迭代t中学习任务分配结果，表示学习报酬的分配结果，f()是模型聚合函数；

约束(3)表示对于每个学习任务，给参与节点的报酬之和不能超过任务发布者提供的学习预算；

约束(4)表示只能给节点分配它可以参与的学习任务；

约束(5)表示限制每个节点在每次迭代中最多只能参与一个学习任务。

4.根据权利要求3所述的质量感知的边缘智能联邦学习方法，其特征在于，所述通过反向拍卖机制激励高学习质量的参与节点参与联邦学习，包括以下步骤：

每个计算节点i先提交自己的投标信息到云平台，数组包含节点i可以参与的学习任务和参与该任务的投标价格然后云平台为每个学习任务挑选一组参与节点并确定他们的报酬云平台按照所选节点的学习质量预测值之和最大为优化目标，为每个学习任务选择一组参与节点并确定他们的学习报酬

5.根据权利要求4所述的质量感知的边缘智能联邦学习方法，其特征在于，所述云平台按照所选节点的学习质量预测值之和最大为优化目标，则学习质量最大化的优化问题如下：

其中，学习质量最大化的优化问题的输入为每个节点i可以参与的任务集合投标价格学习预算和学习质量预测值输出为二进制变量如果节点i将会被加入到学习任务的参与节点集合中，即；节点i被分配执行学习任务此外，也将输出每个参与节点的报酬

约束(14)要求每个参与节点的报酬要高于该节点的训练成本，其它约束与联邦学习质量优化问题相同。

6.根据权利要求5所述的质量感知的边缘智能联邦学习方法，其特征在于，采用以下的贪心算法解决所述学习质量最大化的优化问题：

在每次迭代t中，算法首先根据节点的投标信息为每个学习任务找到可以参与该任务的候选节点集合然后执行主循环，直到没有节点可以参与学习任务或者所有的学习任务都已经分配给合适的节点执行为止；

在主循环中，算法首先为每个学习任务选择一个参与节点子集该子集可以近似最大化参与节点的预测学习质量之和。