[发明专利]面向无人船路径规划的深度强化学习奖励函数优化方法在审
申请号: | 202010962958.4 | 申请日: | 2020-09-14 |
公开(公告)号: | CN111880549A | 公开(公告)日: | 2020-11-03 |
发明(设计)人: | 曹志英;杜意权;张秀国;郭嗣彧;郑易松 | 申请(专利权)人: | 大连海事大学 |
主分类号: | G05D1/02 | 分类号: | G05D1/02;G06N3/04 |
代理公司: | 大连东方专利代理有限责任公司 21212 | 代理人: | 李馨 |
地址: | 116026 辽*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 面向 无人 路径 规划 深度 强化 学习 奖励 函数 优化 方法 | ||
1.一种面向无人船路径规划的深度强化学习奖励函数优化方法,其特征在于,包括:
S1、获取环境信息,并对所述环境信息进行预处理,将获取的环境信息转变为实验环境中的信息;
S2、获取无人船与障碍物之间的距离以及无人船与目标点之间的距离,根据所述无人船与目标点之间的距离判断无人船是否到达目标点,若到达则执行S3,否则执行S4;
S3、根据船舶到达目标点的次数,给予与所述船舶到达目标点的次数相对应的奖励值;
S4、判断船舶是否在奖励域内,如果在奖励域内,则根据奖励域奖励原则给予相应的奖励,执行S2,否则执行S5;
S5、判断无人船是否与障碍物碰撞,根据船舶与障碍物碰撞的次数,给予与所述船舶与障碍物碰撞的次数相对应的惩罚值,执行步骤S2,否则执行S6;
S6、判断船舶是否在危险域内,如果在危险域内,则根据危险域惩罚原则给予相应的惩罚,并执行S2;否则根据一般情况奖励原则给予奖励,并执行S2。
2.根据权利要求1所述的面向无人船路径规划的深度强化学习奖励函数优化方法,其特征在于,S1中对所述环境信息进行预处理,包括:
根据船舶的当前位置读取与下一个转向点之间的障碍物位置数据,对所述障碍物位置数据进行解析,得到障碍物的坐标信息;
对所述障碍物的坐标信息通过墨卡托投影转换为直角坐标系下的第一转换坐标;
对所述第一转换坐标进行单位转换,得到第二转换坐标;
对所述第二转换坐标进行归一化操作,使坐标数值在[0,1]区间内。
3.根据权利要求1所述的面向无人船路径规划的深度强化学习奖励函数优化方法,其特征在于,S3中根据船舶到达目标点的次数,给予与所述船舶到达目标点的次数相对应的奖励值,包括:若所述船舶到达目标点的次数大于阈值,则给予最大奖励,否则给予标准奖励值的加权奖励,其中加权系数与到达目标点的次数正相关。
4.根据权利要求1所述的面向无人船路径规划的深度强化学习奖励函数优化方法,其特征在于,S5中根据船舶与障碍物碰撞的次数,给予与所述船舶与障碍物碰撞的次数相对应的惩罚值,包括:若所述船舶碰撞障碍物的次数大于阈值,则给予最大惩罚,否则给予标准惩罚值的加权惩罚,其中加权系数与碰撞障碍物的次数正相关。
5.根据权利要求1所述的面向无人船路径规划的深度强化学习奖励函数优化方法,其特征在于,S4中根据奖励域奖励原则给予相应的奖励,包括:根据船舶与目标点的距离,给予相应的奖励值。
6.根据权利要求1所述的面向无人船路径规划的深度强化学习奖励函数优化方法,其特征在于,S6中根据危险域惩罚原则给予相应的惩罚,包括:根据船舶与最近障碍物的距离,给予相应的惩罚值。
7.根据权利要求1所述的面向无人船路径规划的深度强化学习奖励函数优化方法,其特征在于,S6中根据一般情况奖励原则给予奖励,包括:根据船舶与目标点的距离,给予相应的奖励值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于大连海事大学,未经大连海事大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010962958.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种椴木蘑菇养殖用自动打孔接种装置
- 下一篇:一种多功能管道吊装定位辅助装置