[发明专利]面向智能边缘计算的协同模型训练任务配置方法有效

专利信息
申请号: 202110153068.3 申请日: 2021-02-04
公开(公告)号: CN112506673B 公开(公告)日: 2021-06-08
发明(设计)人: 邹昊东;张明明;俞俊;陈海洋;夏飞;王鹏飞;范磊;陶晔波;许明杰;王琳 申请(专利权)人: 国网江苏省电力有限公司信息通信分公司;国电南瑞科技股份有限公司
主分类号: G06F9/50 分类号: G06F9/50;G06N20/00
代理公司: 南京苏高专利商标事务所(普通合伙) 32204 代理人: 柏尚春
地址: 210024 *** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 面向 智能 边缘 计算 协同 模型 训练 任务 配置 方法
【权利要求书】:

1.一种面向智能边缘计算的协同模型训练任务配置方法,用于边缘计算节点且包括一或多个训练时隙,其特征在于,每一训练时隙包括如下步骤:

向一或多个边缘设备发送模型训练请求;

接收来自所述一或多个边缘设备响应于所述模型训练请求而汇报的当前时隙的可用状态和用户数据规模;

基于上一训练时隙得到的任务配置结果,从当前可用边缘设备中选定参与训练的边缘设备,并确定交互模型训练所需的训练小轮数目;

与参与训练的边缘设备进行交互模型训练直至达到确定的训练小轮数目;根据训练效果和各边缘设备汇报的当前时隙的用户数据规模,构建以最小化边缘训练资源的使用为目标的优化问题并求解,得到用于下一训练时隙的新的任务配置结果;

其中,与参与训练的边缘设备进行交互模型训练时,训练时隙t内每一训练小轮具体包括:

(1)边缘计算节点将先前训练所得的全局训练模型参数、各边缘设备的局部精度修正梯度以及全局精度修正梯度发送至所有可用边缘设备;参与训练的边缘设备根据接收到的数据和自身的局部精度损失函数分别计算各自对全局训练模型参数的更新; j为当前训练小轮的序数,i表示第i个边缘设备;=0;

(2)边缘计算节点在接收到所有参与训练的边缘设备发送的对全局训练模型参数的更新的基础上,计算得到新的全局模型参数并发送给所有参与训练的边缘设备进行验证;所有参与训练的边缘设备基于分别进行计算,各自得到新的局部精度、新的局部精度修正梯度、新的局部汇聚性能,并发送给边缘计算节点进行更新记录;

(3)边缘计算节点基于接收到的各边缘设备的局部精度修正梯度计算得到新的全局精度修正梯度;

(4)若当前训练小轮达到当前训练时隙t所需的训练小轮数目,边缘计算节点还将最新的全局模型参数发送给未参与训练的边缘设备;未参与训练的边缘设备基于计算得到各自的第个训练小轮后新的局部精度,并发送给边缘计算节点进行更新记录。

2.根据权利要求1所述的面向智能边缘计算的协同模型训练任务配置方法,其特征在于,任务配置结果包括:用于决策是否选择第i个边缘设备在训练时隙t内参与训练的参与者决策量 和用于决策训练时隙t内训练小轮数目的辅助决策量。

3.根据权利要求2所述的面向智能边缘计算的协同模型训练任务配置方法,其特征在于,训练时隙t内所需训练小轮数目通过下式计算:

= K

其中,K为常数。

4.根据权利要求1所述的面向智能边缘计算的协同模型训练任务配置方法,其特征在于,步骤(1)中,参与训练的边缘设备根据接收到的数据分别计算各自对全局训练模型参数的更新,具体包括:

各参与训练的边缘设备利用获取的、和自身的局部精度损失函数构建优化函数,并以最小化所述优化函数的方式得到;

所述优化函数表示为:

其中、均为确定的参数。

5.根据权利要求1所述的面向智能边缘计算的协同模型训练任务配置方法,其特征在于,步骤(2)中,新的全局模型参数通过下式计算得到:

其中,为当前训练时隙t内可用边缘设备的集合,为训练时隙t中用于指示第i个边缘设备是否参与训练的变量,等于0或1。

6.根据权利要求1所述的面向智能边缘计算的协同模型训练任务配置方法,其特征在于,步骤(2)中,新的局部精度是由各边缘设备将代入自身的局部精度损失函数而得到;新的局部精度修正梯度是基于新的局部精度而得到;新的局部汇聚性能是通过下式得到:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于国网江苏省电力有限公司信息通信分公司;国电南瑞科技股份有限公司,未经国网江苏省电力有限公司信息通信分公司;国电南瑞科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110153068.3/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top