[发明专利]控制设备移动的方法、装置、存储介质及电子设备在审
申请号: | 201811427358.7 | 申请日: | 2018-11-27 |
公开(公告)号: | CN109697458A | 公开(公告)日: | 2019-04-30 |
发明(设计)人: | 刘兆祥;廉士国;李少华 | 申请(专利权)人: | 深圳前海达闼云端智能科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08;G05D1/02 |
代理公司: | 北京英创嘉友知识产权代理事务所(普通合伙) 11447 | 代理人: | 魏嘉熹;南毅宁 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 目标设备 图像 存储介质 电子设备 控制设备 目标控制 目标输出 训练模型 移动 参数确定 策略移动 强化学习 图像输入 预设周期 预设 帧数 迁移 采集 | ||
本公开涉及一种控制设备移动的方法、装置、存储介质及电子设备,在目标设备移动时,按照预设周期采集该目标设备周围环境的第一RGB‑D图像;从该第一RGB‑D图像中获取预设帧数的第二RGB‑D图像;获取预先训练的深度强化学习模型DQN训练模型,并根据该第二RGB‑D图像对该DQN训练模型进行迁移训练,得到目标DQN模型;获取该目标设备当前周围环境的目标RGB‑D图像;将该目标RGB‑D图像输入该目标DQN模型得到该目标输出参数,并根据该目标输出参数确定目标控制策略;控制该目标设备按照该目标控制策略移动。
技术领域
本公开涉及导航领域,具体地,涉及一种控制设备移动的方法、装置、存储介质及电子设备。
背景技术
随着科技的不断进步,无人驾驶车辆、机器人等移动设备的自动导航技术逐渐成为一个研究热点,近年来,深度学习得到不断发展,尤其是深度学习中的卷积神经网络(Convolutional Neural Network,CNN)在目标识别、图像分类等领域取得巨大飞跃,基于深度学习的自动驾驶、智能机器人导航等相关技术也不断涌现。
现有技术中,多采用端到端的学习算法(如DeepDriving技术、Nvidia技术等)实现上述移动设备的自动导航,但是,这种端到端的学习算法需要人工标注样本,并且考虑到实际的训练场景中,需要花费较大的人力物力收集样本,从而使得现有导航算法的实用性及通用性较差。
发明内容
本公开提供一种控制设备移动的方法、装置、存储介质及电子设备。
根据本公开实施例的第一方面,提供一种控制设备移动的方法,所述方法包括:在目标设备移动时,按照预设周期采集所述目标设备周围环境的第一RGB-D图像;从所述第一RGB-D图像中获取预设帧数的第二RGB-D图像;获取预先训练的深度强化学习模型DQN训练模型,并根据所述第二RGB-D图像对所述DQN训练模型进行迁移训练,得到目标DQN模型;获取所述目标设备当前周围环境的目标RGB-D图像;将所述目标RGB-D图像输入所述目标DQN模型得到所述目标输出参数,并根据所述目标输出参数确定目标控制策略;控制所述目标设备按照所述目标控制策略移动。
可选地,所述根据所述第二RGB-D图像对所述DQN训练模型进行迁移训练,得到目标DQN模型包括:将所述第二RGB-D图像作为所述DQN训练模型的输入,得到所述DQN训练模型的第一输出参数;根据所述第一输出参数确定第一控制策略,并控制所述目标设备按照所述第一控制策略移动;获取所述目标设备与周围障碍物的相对位置信息;根据所述相对位置信息对所述第一控制策略进行评价得到评分值;获取DQN校验模型,所述DQN校验模型包括根据所述DQN训练模型的模型参数生成的DQN模型;根据所述评分值和所述DQN校验模型对所述DQN训练模型进行迁移训练,得到目标DQN模型。
可选地,所述DQN训练模型包括卷积层和与所述卷积层连接的全连接层,所述将所述第二RGB-D图像作为所述DQN训练模型的输入,得到所述DQN训练模型的第一输出参数包括:将预设帧数的所述第二RGB-D图像输入至卷积层提取第一图像特征,并将所述第一图像特征输入至全连接层,得到所述DQN训练模型的第一输出参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海达闼云端智能科技有限公司,未经深圳前海达闼云端智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811427358.7/2.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序