[发明专利]面向智能边缘计算的协同模型训练任务配置方法

说明书

本发明公开了一种面向智能边缘计算的协同模型训练任务配置方法，该方法用于边缘计算节点且包括一或多个训练时隙，每一训练时隙包括如下步骤：向一或多个移动设备发送模型训练请求；接收来自一或多个移动设备汇报的当前时隙的可用状态和用户数据规模；基于先前得到的任务配置结果和各移动设备的当前可用状态，确定参与训练的移动设备和交互模型训练所需的训练小轮数目；与参与训练的移动设备进行交互模型训练直至达到确定的训练小轮数目，根据训练效果和各移动设备汇报的用户数据规模，构建以最小化边缘训练资源的使用为目标的优化问题并求解，得到新的任务配置结果。本发明训练资源消耗对比其他方法要少得多，且精度相差不大。

技术领域

本发明涉及一种协同模型训练任务配置方法，具体涉及一种面向智能边缘计算的协同模型训练任务配置方法。

背景技术

在用户使用移动设备，如手机、平板电脑等的过程中会产生大量用户数据，包括浏览记录、打字记录以及各类日志信息等。这些数据在被分析处理后，能够帮助服务提供商进行更好的服务部署与提供。这类分析处理手段往往借助于机器学习模型。具体来说，一个机器学习模型包含模型结构和模型参数，以及该机器学习模型在某一特定数据集上所体现出的精度，如用分类模型对某一数据集进行分类，得到的正确分类比例作为模型精度。那么，服务提供商的目标，就是要利用各用户分布式产生的用户数据，对某一特定的机器学习模型进行训练，以求能够得到最好的模型精度。这样，服务提供商就可以利用这些机器学习模型对外提供更好的推断类服务。例如，在用户浏览商品的时候结合商品分类为用户进行商品推荐；在用户打字的时候，结合上下文进行热词推荐；或者在导航的时候，利用更精确的导航模型进行路线制定。

虽然把所有的用户数据汇聚到数据中心进行处理，就可以按照如上的训练方式得到机器学习模型。但是，在边缘环境下，这样的原始数据汇聚是被禁止的。其原因是：1）出于隐私的保护，用户往往不愿将自己的原始数据进行上传。2）服务提供商往往是租借运营商的边缘设备进行计算和传输。将各移动设备上的用户数据传输至数据中心，会带来高昂的跨域传输。这里的跨域同时包含两个含义：跨地域范围传输以及跨运营商至数据中心传输。

由于边缘场景下用户使用移动设备的习惯不同，即使用设备的时间、频度不同以及使用过程中产生的数据规模、内容不同，以至于在进行分布式机器学习训练的时候存在着不确定性。即使某一时段内设备固定，所有用户数据均已生成，如何利用移动设备和边缘计算节点进行分布式机器学习训练，以能够在保证模型训练精度下尽可能节省边缘训练资源是关键问题。

发明内容

发明目的：为了克服现有技术中存在的不足，本发明一方面提供一种面向智能边缘计算的协同模型训练任务配置方法，以解决分布式机器学习训练数据难以共享的问题，且在保证精度的情况下，尽量节省资源消耗。

技术方案：本发明的一种面向智能边缘计算的协同模型训练任务配置方法，用于边缘计算节点且包括一或多个训练时隙。该方法的每一训练时隙包括如下步骤：向一或多个边缘设备发送模型训练请求；接收来自所述一或多个边缘设备响应于所述模型训练请求而汇报的当前时隙的可用状态和用户数据规模；基于上一训练时隙得到的任务配置结果，从当前可用边缘设备中选定参与训练的边缘设备，并确定交互模型训练所需的训练小轮数目；与参与训练的边缘设备进行交互模型训练直至达到确定的训练小轮数目；根据训练效果和各边缘设备汇报的当前时隙的用户数据规模，构建以最小化边缘训练资源的使用为目标的优化问题并求解，得到用于下一训练时隙的新的任务配置结果。

进一步地，任务配置结果包括：用于决策是否选择第i个边缘设备在训练时隙t内参与训练的参与者决策量和用于决策训练时隙t内训练小轮数目的辅助决策量。

进一步地，训练时隙t内所需训练小轮数目通过下式计算：

= K，

其中，K为常数。