[发明专利]一种基于目的地运动预测的飞行器引导迁移学习训练算法有效
申请号: | 202011294913.0 | 申请日: | 2020-11-18 |
公开(公告)号: | CN112486192B | 公开(公告)日: | 2022-04-08 |
发明(设计)人: | 李辉;王壮 | 申请(专利权)人: | 四川大学 |
主分类号: | G05D1/08 | 分类号: | G05D1/08;G05D1/10 |
代理公司: | 成都东恒知盛知识产权代理事务所(特殊普通合伙) 51304 | 代理人: | 何健雄;廖祥文 |
地址: | 610006 四*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 目的地 运动 预测 飞行器 引导 迁移 学习 训练 算法 | ||
1.一种基于目的地运动预测的飞行器引导迁移学习训练算法,其特征在于,包括以下步骤:
(1)设置飞行器的运动学和动力学模型,以固定目的地的飞行器引导环境为训练环境,使用强化学习方法训练基线智能体B,当前状态包括飞行器姿态和目的地姿态信息,当前状态下飞行器动作是对飞行器的引导指令;
(2)依据目的地运动特性,设置目的地的移动模型,构建目的地运动的飞行器引导训练环境,设置训练中的智能体选择因子p及该因子更新的方法,初始化引导智能体A,智能体A的输入输出与智能体B相同,开始智能体A的训练;
(3)以片段(episode)为单位,使用引导智能体A执行一个片段,对于片段内每个时间步长t,记录当前状态、当前状态下飞行器动作、奖励函数、下一时刻状态四个数据,按照四元组方式存储;
(4)生成[0,1]范围内的随机数,包含随机数小于智能体选择因子、随机数大于等于智能体选择因子两种情况,对于随机数小于智能体选择因子的情况,使用智能体B更新四元组,对于随机数大于等于智能体选择因子的情况不更新四元组;
(5)使用强化学习方法进行训练,更新智能体选择因子p。
2.根据权利要求1所述的基于目的地运动预测的飞行器引导迁移学习训练算法,其特征在于,步骤(4)中,对于更新四元组的情况,按照如下步骤进行更新:
从起始步长t=0开始,到终止步长t=T为止进行循环,对于循环中的每一个步长t=N,将t=0到t=N中的每一个四元组中中目的地姿态信息替换成t=N时刻四元组中的目的地姿态信息,形成新的,记为;
从t=0开始到t=N截止,使用基线智能体B,以替换后的状态信息为输入,产生新的四元组,在该阶段任意时刻飞行器成功到达目的地,结束四元组更新过程;
从起始步长t=0开始,到片段终止步长t=T结束,没有任何一次替换使得飞行器成功到达目的地,记录最后一次执行的四元组;将,中飞行器姿态信息及,,替换原有四元组中,中飞行器姿态信息及,,对于在线训练强化学习方法,直接按照保存的新四元组训练,对于离线训练强化学习方法,将新四元组存入经验池中;
对于不更新四元组的情况,对于在线训练强化学习方法,直接按照保存的四元组训练,对于离线训练强化学习方法,将四元组存入经验池中。
3.根据权利要求1所述的基于目的地运动预测的飞行器引导迁移学习训练算法,其特征在于,步骤(5)中,按照如下公式更新智能体选择因子p:,K为衰减因子,取值范围[0,1],当智能体选择因子小于0时,停止更新,并使该因子等于0。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川大学,未经四川大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011294913.0/1.html,转载请声明来源钻瓜专利网。