[发明专利]一种深度强化学习网络设置合理性的判别方法有效
申请号: | 202110509439.7 | 申请日: | 2021-05-11 |
公开(公告)号: | CN113177601B | 公开(公告)日: | 2022-09-06 |
发明(设计)人: | 朱进;魏俣童 | 申请(专利权)人: | 中国科学技术大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京科迪生专利代理有限责任公司 11251 | 代理人: | 张乾桢 |
地址: | 230026 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 深度 强化 学习 网络 设置 合理性 判别 方法 | ||
1.一种深度强化学习中深度网络设置合理性的判别方法,其特征在于,在深度强化学习方法中深度网络收敛之前对参数设置的合理性进行预判,包括如下步骤:
步骤1:根据工程需要建立深度强化学习智能体,设定长度为n的观察窗口,定义该观察窗口内负奖励出现的次数为m,将其初始化为0;
步骤2:用事件A表示深度网络训练未完成,事件B表示深度网络设置不合理,根据经验分别设置深度网络设置是否合理的先验概率P(A)和P(B),再根据大偏差定理计算使深度网络设置合理性的误判概率最小化的边界值m0;
步骤3:深度强化学习的智能体开始与环境进行交互并且获得奖励,每当奖励为负时m加1;所述奖励是深度强化学习中环境对智能体所采取动作的反馈,奖励为正表示智能体采取的动作符合任务目标;奖励为负表示智能体采取的动作不符合任务目标,在扫地机器人中,奖励为负意味着扫地机器人发生碰撞;
步骤4:获得长度为n的观察窗口内负奖励出现的次数m;
步骤5:判断m≥m0是否成立,若是,则导致负奖励出现的因素被视为深度强化学习中网络的层和节点的设置不合适,停止智能体与环境的交互,并且重新设置网络参数;若否,则负奖励出现的原因被认为是训练过程未完成,智能体与环境的交互继续进行;
步骤6:开启下一时间段的判断,直至观察窗口内的奖励变成正值,即完成深度网络的设置和训练。
2.根据权利要求1所述的深度强化学习网络设置合理性的判别方法,其特征在于,所述步骤2中,计算使误判概率最小化的边界值m0具体如下:
其中Pmis表示总误判概率,P(A)和P(B)表示深度网络设置是否合理的先验概率,n为观察窗口长度,和是错误分类概率的收敛速度函数;表示高阶无穷小量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学技术大学,未经中国科学技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110509439.7/1.html,转载请声明来源钻瓜专利网。