[发明专利]一种基于强化学习恢复电力通信网络中业务的方法及系统有效
申请号: | 201910152088.1 | 申请日: | 2019-02-28 |
公开(公告)号: | CN109831229B | 公开(公告)日: | 2021-07-06 |
发明(设计)人: | 王亚男;张庚;汪洋;丁慧霞;薛俏;刘冬梅;刘军;王颖;高凯强;王智慧;邱丽君;尹弘亮;张书林;姜辉;王乔木 | 申请(专利权)人: | 中国电力科学研究院有限公司;国家电网公司信息通信分公司;国网江苏省电力有限公司信息通信分公司 |
主分类号: | H04L12/24 | 分类号: | H04L12/24;H04B3/54 |
代理公司: | 北京工信联合知识产权代理有限公司 11266 | 代理人: | 姜丽辉 |
地址: | 100192 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 强化 学习 恢复 电力通信 网络 业务 方法 系统 | ||
1.一种基于强化学习恢复电力通信网络中业务的方法,所述的方法包括:
获取电力通信网络原始网络状态,读取网络故障信息,根据所述网络故障信息,获取网络业务故障信息;
在电力通信网络实际物理约束及业务约束条件下,根据故障后的网络状态,初始化学习环境,同时初始化行为准则表、折扣因子、贪心法则参数;
1.1根据当前拟恢复的受损业务的参数,初始化强化学习中与学习环境交互的智能体;
1.2确定当前网络状态下拟恢复的受损业务的有效动作,所述的有效动作包括直接停止学习、在电力通信网络的空闲资源直接分配业务路径、抢占未受损业务资源,根据贪心法则和行为准则表在有效动作中选取一个动作实施后,更新学习环境;
1.3当确定存在未受损业务被抢占时,被抢占的业务作为特殊的“拟恢复的受损业务”,更新智能体,返回到1.2,当确定不存在未受损业务被抢占时,根据决策收益计算奖励值,更新行为准则表;
1.4判断是否达到预设学习次数,若达到,则结束并将预设学习次数业务恢复方案作为最终方案输出,否则返回1.1。
2.根据权利要求1所述的方法,所述的网络状态包括:电力通信网络拓扑结构和电力通信网络业务分布。
3.根据权利要求1所述的方法,所述的网络业务故障信息包括:故障节点信息、故障链路信息和受损业务信息。
4.根据权利要求1所述的方法,所述的初始化学习环境中确定每条链路上的剩余带宽。
5.根据权利要求1所述的方法,所述的未受损业务在当前学习循环中最多只能被抢占一次。
6.根据权利要求1所述的方法,所述的空闲资源直接分配业务路径和抢占未受损业务资源动作后,获取受损业务的新业务路径,所述的新业务路径在受损业务路径预设范围内。
7.一种基于强化学习恢复电力通信网络中业务的系统,所述的系统包括:
采集模块,获取电力通信网络原始网络状态,读取网络故障信息,根据所述网络故障信息,获取网络业务故障信息;
初始化模块,在电力通信网络实际物理约束及业务约束条件下,根据故障后的网络状态,初始化学习环境,同时初始化行为准则表、折扣因子、贪心法则参数;
学习模块,根据当前拟恢复的受损业务的参数,初始化强化学习中与学习环境交互的智能体;
更新模块,确定当前网络状态下拟恢复的受损业务的有效动作,所述的有效动作包括直接停止学习、在电力通信网络的空闲资源直接分配业务路径、抢占未受损业务资源,根据贪心法则和行为准则表在有效动作中选取一个动作实施后,更新学习环境;
第一判断模块,当确定存在未受损业务被抢占时,被抢占的业务作为特殊的“拟恢复的受损业务”,更新智能体,当确定不存在未受损业务被抢占时,根据决策收益计算奖励值,更新行为准则表;其中,决策收益的影响因素和计算方式由网络管理者确定,体现业务恢复优化的目标;
第二判断模块,判断是否达到预设学习次数,若达到,则结束并将预设学习次数业务恢复方案作为最终方案输出。
8.根据权利要求7所述的系统,所述的网络状态包括:电力通信网络拓扑结构和电力通信网络业务分布。
9.根据权利要求7所述的系统,所述的网络业务故障信息包括:故障节点信息、故障链路信息和受损业务信息。
10.根据权利要求7所述的系统,所述的初始化学习环境中确定每条链路上的剩余带宽。
11.根据权利要求7所述的系统,所述的未受损业务在当前学习循环中最多只能被抢占一次。
12.根据权利要求7所述的系统,所述的空闲资源直接分配业务路径和抢占未受损业务资源动作后,获取受损业务的新业务路径,所述的新业务路径在受损业务路径预设范围内。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国电力科学研究院有限公司;国家电网公司信息通信分公司;国网江苏省电力有限公司信息通信分公司,未经中国电力科学研究院有限公司;国家电网公司信息通信分公司;国网江苏省电力有限公司信息通信分公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910152088.1/1.html,转载请声明来源钻瓜专利网。